硬件|造出世界最大芯片 AI芯片明星独角兽再获2.5亿美元融资( 三 )
阿贡国家实验室副主任 Rick Stevens 谈道:“Cerebras 的发明将提高 100 倍的参数容量,它有可能改变行业 。我们将首次能够探索大脑大小的模型,开辟了广阔的研究和洞察的新途径 。”
该解决方案包括四项核心技术,代号分别为 Weight Streaming、MemoryX、SwarmX 和 Sparsity 。
Weight Streaming 可以让 AI 模型参数存储在芯片外,同时提供与芯片相同的训练和推理性能的能力,简化了工作负载分配模型 。
MemoryX 是一种新的内存扩展技术,可实现 2.4 PTAB 的高性能内存,支持 120 万亿的参数模型 。
SwarmX 是一种高性能、AI 优化的通信互连结构,可以互连多达 1.63 亿个 AI 内核,跨越 192 个 CS-2 系统协同工作,训练单个神经网络 。
Sparsity 可以让用户选择模型的重量稀疏程度,减少模型处理所需的 FLOP 算力和时间 。
9 月 16 日,美国深度学习云服务商 Cirrascale Cloud Services 宣布采用 CS-2 系统和 WSE-2 处理器 。
在其应用中,8GPU 服务器比 CS-2 系统训练自然语言处理 NLP BERT 模型的时间慢 9.5 倍 。而在训练精度上,用户需要超过 120 个 GPU 才能匹配单个 CS-2 系统的训练精度 。
文章图片
▲ Cerebras Systems 系统在机房中
04.结语:Cerebras Systems 开拓巨型芯片路线获认可
需要指出的是,Cerebras Systems 的 WSE 系列芯片并非单纯的放大芯片尺寸 。大尺寸芯片需要芯片企业在互连、芯片封装、散热等方面都有着独特的技术和解决方案,这些技术方案也体现在了 Cerebras Systems 脑规模 AI 解决方案中 。
虽然其芯片的尺寸较大,无法用于 PC、移动设备等领域,但 Cerebras Systems 也向我们展示了巨型芯片的广阔应用前景,其产品可以在超算、云端等机构或企业的方案占据一席之地 。而新一轮的融资代表了资本对这一技术路线的认可 。
访问:
【硬件|造出世界最大芯片 AI芯片明星独角兽再获2.5亿美元融资】京东商城
推荐阅读
- 最新消息|世界单体容量最大漂浮式光伏电站在德州并网发电
- 硬件|汽车之家年底裁员,员工称多个职能部门已被撤销
- 四平|智慧城市“奥斯卡”揭晓!祝贺柯桥客户荣获2021世界智慧城市治理大奖
- 系列|2021中国航天发射圆满收官!年发射55次居世界第一
- 硬件|Yukai推Amagami Ham Ham机器人:可模拟宠物咬指尖
- 硬件|闪极140W多口充电器发布:首发399元 支持PD3.1
- 科技创新平台|云南:打造世界一流食用菌科技创新平台
- 硬件|又一28nm晶圆厂计划浮出水面 但困难重重
- 堆芯|全球首座,世界领跑!
- OriginOS|当硬件驱动力逐渐放缓,手机还能更快吗?