可以看出 ， 「持续突破创新核心框架」正是飞桨框架升级到 2.2版本的理念根源 。
飞桨框架v2.2：用技术突破践行融合创新 基于长久以来对AI技术和应用发展的观察和思考以及飞桨开源平台推出以来的种种实践 ， 王海峰博士认为当前人工智能呈现两大特点 ， 即「融合创新」和「降低门槛」 。 前者为后者的铺垫和根基 ， 通过知识与深度学习融合、软硬一体融合以及技术与场景等多方面融合 ， 逐步降低AI开发与应用的门槛 。
此次 ， 飞桨开源框架 2.2 版本的发布恰恰诠释和体现了这两大特点 。 依托深度学习开发与训练、文本任务极致优化、硬件高效适配以及低门槛推理部署等多方面的创新性技术 ， 飞桨进一步赋能开发者 ， 让开发更容易、训练更高效、硬件适配成本更低 。 在峰会上 ， 百度深度学习技术平台部高级总监马艳军对飞桨开源框架2.2版本的四大新特性进行了详细解读 。
文章图片
升级后的飞桨框架新增了100 多个 API ， 尤其是科学计算 API ， 支持了量子计算、生命科学、计算流体力学、分子动力学等应用 。 飞桨API种类丰富的同时 ， 性能一并增强 ， 进一步支持了高阶自动微分功能以及计算流体力学、分子动力学等场景 。 飞桨API还保持了对历史版本的兼容 ， 一切都是为了让开发者更容易上手 。
飞桨框架 2.2 版本在文本任务处理速度上也取得了新的技术进展 。 通过端到端文本处理、预训练任务加速和生成任务解码加速 ， 框架最终针对预训练模型形成训推一体全流程开发体验 ， 大幅节省文本处理代码 ， 还能显著提升推理速度 。 「从实际的产业部署代码示例中 ， 可以看到 ， 文本处理算子化的训推一体开发体验可以让部署代码节省94% 。 」马艳军给出了这样的实现效果 。
不过 ， 这次飞桨框架2.2版本的核心技术突破远不止此 ， 接下来要讲的端到端自适应大规模分布式训练技术和硬件适配统一方案是本次飞桨框架升级的重点 。
超大语言模型训练更加自动高效 还记得前几天刚刚发布的全球首个知识增强千亿大模型鹏城-百度·文心吗？正是基于这种端到端自适应大规模分布式训练技术 。
今年以来 ， 百度在预训练方面一直有新技术产出 。 年初推出的 4D 混合并行策略可以训练超大语言模型 ， 飞桨框架v2.0 更是 创新性地推出了业界首个通用异构参数服务器 ， 让开发者使用 CPU和AI专用芯片等不同硬件进行混合异构训练 ， 实现对不同算力的芯片高效利用 。
此次 ， 飞桨框架 2.2 版本又再进一步 ， 全新发布了端到端自适应大规模分布式训练技术 。
推荐阅读
- 柯腾|争做细分赛道冠军——探寻厦门“小巨人”企业成长密码
- 低碳发展|四川做强清洁能源产业
- 硬件|上线两年用户破两亿，腾讯会议还能做什么？
- 数字货币|比特币发明者到底是谁？马斯克这么说
- |南安市司法局凝初心践使命 以民为本做实人民调解
- 孩子|“双减”后 科学实践课如何做好“加法”
- 生产线|贵阳经开区打造千亿元级产业园区——做强经济“顶梁柱”
- 视界|这部电影里的黑洞竟然和真实黑洞这么像？丨夜问
- 模型|2022前展望大模型的未来，周志华、唐杰、杨红霞这些大咖怎么看？
- 信息|财报识别系统教你怎样做好金融信贷审批工作！