易坊好文馆

  1. 首页 > 玩科技 >

芯片|云端AI推理市场将迎来爆发，燧原科技发布首款推理产品

腾讯 第一财经 科技 芯片 应用 市场 财经 云端 训练 赵立 推理 爆发 赵立东

云端AI推理需求将在2022年迎来爆发 。 继去年底发布首款面向数据中心的AI训练芯片“邃思”及加速卡“云燧T10”后 ， 燧原科技又发布了首款面向云端的高性能推理卡 。
疫情加快了数据中心建设步伐和AI应用的速度 。 “传统数据中心和AI没有直接关系 ， 就是X86+GPU加一堆存储和数据搬运 ， 但现在数据中心越来越多引入AI加速平台 。 AI的渗透率会越来越高 ， 我们预计渗透率会从5%到25%-30% ， 市场非常庞大 。 ”燧原科技CEO赵立东在接受第一财经专访时表示 。
12月21日 ， 燧原科技发布首款面向数据中心的AI推理产品 “云燧i10” 。 该公司是腾讯投资的国内AI芯片初创企业 。 2018年8月 ， 燧原科技由腾讯领投获得Pre-A轮融资3.4亿元人民币 。 今年5月 ， 燧原科技宣布完成B轮融资7亿元人民币 ， 由半导体产业基金武岳峰资本领投 ， 腾讯、上海双创等跟投 。

芯片|云端AI推理市场将迎来爆发，燧原科技发布首款推理产品
文章图片

按使用场景划分 ， AI芯片主要分为云端和终端芯片 。 目前主流的神经网络深度学习包括训练和推断两个部分 。 云端追求高性能 ， 开发成本更大 ， 终端更侧重低成本和低功耗 。 目前中国AI初创企业主要布局在终端和边缘侧 。
赵立东认为 ， 面向数据中心的高性能AI计算芯片及分布式集群作为人工智能产业的基础设施 ， 从架构升级到应用场景的落地 ， 都蕴含了巨大的市场空间和机遇 。
【芯片|云端AI推理市场将迎来爆发，燧原科技发布首款推理产品】除了训练侧 ， 云端AI推理的需求也不断攀升 。 研究机构赛迪顾问报告显示 ， 从2019年到2021年三年中国AI芯片市场规模仍将保持50%以上的增长速度 ， 到2021年 ， 市场规模将达到305.7亿元 。 其中 ， 随着大规模地方性数据中心的建设陆续完成 ， 云端训练芯片增长速度放缓；而随着各领域市场需求的释放 ， 云端推断芯片、终端推断芯片市场增长速度将持续呈上升趋势 。
数据显示 ， 从2019年到2024年 ， 云端训练芯片的年复合增长率为32% ， 而云端推理的增长率将达69% 。 到2022年 ， 中国云端推理芯片市场规模将达到189亿元 ， 首次超过云端训练市场规模 。

芯片|云端AI推理市场将迎来爆发，燧原科技发布首款推理产品
文章图片

赵立东表示 ， AI真正起步在过去五六年 ， 国内更晚 ， BAT等大企业从2018、2019年才开始大量采购英伟达V100训练芯片 ， “训练跟推理的关系是——训练出来的模型被部署到推理产品上使用 。 当模型、算法不成熟 ， 你需要不断训练、迭代 ， 成熟了才能被部署到推理上去真正应用 。 从2018年开始到2022年 ， 很多场景的算法和模型经过这几年开始逐渐成熟 ， 真正规模化应用 。 当推理芯片销售收入超过训练芯片 ， 很多算法、模型已经开始被广泛应用了 。 对AI领域来讲 ， 2022年是个重要的节点 。 ”
在生态合作方面 ， 燧原科技COO张亚林称：“云燧i10已完成与浪潮、新华三及Supermicro等服务器厂商推理服务器的适配 。 可适用于视频图像、语音、自然语言处理、知识图谱等多种应用场景 ， 并针对内容理解、推荐、识别等高精度场景做了优化 。 ”
据悉 ， 云燧i10是单槽位标准卡 ， 支持PCIe 4.0 ， FP32算力达17.6TFLOPS ， BF16/FP16算力70.4TFLOPS ， 将于明年第一季度上市 。 同时 ， 燧原科技发布了推理引擎“鉴算TopsInference” 。
燧原科技的云端训练产品已实现商业落地 。 今年9月 ， 燧原科技称 ， “云燧T10”和由其组成的多卡分布式训练集群已在云数据中心落地 ， 正式进入商用阶段 。 腾讯是燧原科技的重要合作伙伴 ， 赵立东告诉第一财经 ， 双方将进一步加强合作的广度和深度 。 不过 ， 他指出 ， “腾讯是我们起步期（破冰）的重要伙伴 ， 起步是最难的 ， 从0到1 。 腾讯给我们很大帮助 ， 是我们第一个具有战略意义的重要客户 ， 但绝对不是唯一的 。 ”
据介绍 ， 燧原科技有三大目标市场 ， 一是云服务提供商 ， 包括公有云、私有云、混合云等 ， 这类企业有大量的流量和数据 ， 需要训练算法加速AI相关应用；二是专注于金融、保险、医疗、交通等领域的行业服务商；三是AI超算中心和智慧城市等领域 。
第一财经广告合作 ，请点击这里
此内容为第一财经原创 ， 著作权归第一财经所有 。 未经第一财经书面授权 ， 不得以任何方式加以使用 ， 包括转载、摘编、复制或建立镜像 。 第一财经保留追究侵权者法律责任的权利 。如需获得授权请联系第一财经版权部：021-22002972或021-22002335；banquan@yicai.com 。
文章作者

    推荐阅读


    上一篇：苹果|三星S21阉割充电器和耳机 谁是下一个效仿者？

    下一篇：识别|今日头条灵犬反低俗助手再次升级