编译器|凝聚406万开发者,百度飞桨开源框架再升级!全景图新增文心大模型( 二 )



编译器|凝聚406万开发者,百度飞桨开源框架再升级!全景图新增文心大模型
文章图片

目前 , 飞桨产业实践范例库覆盖10大行业 , 22个产业高频场景 。
百度还带来了飞桨大航海计划2.0的发布 , 增加共创计划 , 共创计划分为三个方面 。

编译器|凝聚406万开发者,百度飞桨开源框架再升级!全景图新增文心大模型
文章图片

第一是以飞桨平台为基座 , 社区开发者共创工具、模型、产业案例与实践经验 。
第二是形成产业创新需求对接平台 , 共创产学研用正循环 。
第三是与更多合作伙伴一起建设人工智能产业赋能中心 , 共创区域创新生态 。
2、发布飞桨开源框架V2.2 , 包括4方面特性
百度深度学习技术平台部高级总监马艳军分享了飞桨产业级深度学习开源开发平台最新发布 。
马艳军说 , 今年上半年开始 , 飞桨开源框架进入2.0时代 , 今天发布的是2.2版本 , 分别涉及到开发、训练、文本领域的全流程以及多层次、低成本硬件适配方案来赋能硬件生态圈等四个方面的最新特性 。
飞桨新增100多个API , 覆盖了更多的计算场景 , 并对全部API进行了高性能的实现 , 飞桨还保证向前兼容 。
训练方面 , 飞桨新推出的是端到端自适应大规模分布式训练 , 动态感应硬件资源的变化 。
升级后的飞桨开源框架以四大特性加速文本任务全流程 , 分别是端到端文本处理、预训练任务加速、生成任务解码加速和训推一体部署体验 , 例如在产业级部署时 , 代码可以减少94% , 减少代码文本量 。
马艳军还介绍了飞桨新推出的硬件适配统一方案 , 3个技术方案分3类 , 第一类是算子的开发与映射 , 第二类是图(Graph)的接入 , 第三类是编译器后端的接入 , 具体包括Kernel Primitive API、NNAdapter和神经网络编译器CINN 。
Kernel Primitive API方案 , 将底层Kernel开发工作进行封装和抽象 , 开发者编写更复杂Kernel时 , 可利用底层封装的Kernel , 使计算更简洁 , 加速Kernel开发 , 降低算子适配成本 , 代码得到高度简化 , 一处优化可多处受益 。

编译器|凝聚406万开发者,百度飞桨开源框架再升级!全景图新增文心大模型
文章图片

NNAdapter统计适配层方案 , 减少算子定义及框架调度的程序 , 在底层封装 , 硬件不需要知道框架背后调动的一系列逻辑 , 也不需要做侵入式修改 , 代码也更容易维护 。

编译器|凝聚406万开发者,百度飞桨开源框架再升级!全景图新增文心大模型
文章图片

飞桨还预发布了第三种硬件适配统一方案:神经网络编译器CINN 。

编译器|凝聚406万开发者,百度飞桨开源框架再升级!全景图新增文心大模型

推荐阅读