nVIDIA GTC 2021开幕演讲内容回顾:NVIDIA推出首款CPU 狂捧ARM生态( 三 )
NVIDIA全新HPC开发者套件为超级计算机提供了一个高性能、高能效的平台,该平台结合了1个Ampere Altra CPU(包含80个Arm Neoverse核,运行频率高达3.3GHz)、双NVIDIA A100 GPU(每个GPU可提供312TFLOPS的FP16深度学习性能)、两个用于加速网络、存储和安全的NVIDIA BlueField-2 DPU 。
该开发者套件包含一套NVIDIA编译器、库和工具,可用于创建HPC和AI应用,以及将其迁移到GPU加速的Arm计算系统中,将于2021年第三季度上市,多家顶尖研究机构已率先展开部署 。
文章图片
3、加速边缘安全功能,打造由GPU驱动的新PC
今天NVIDIA还宣布了提升边缘视频分析和安全功能、打造新一类基于Arm并搭载NVIDIA RTX GPU的新款PC等进展 。
在边缘计算领域,NVIDIA正扩大与Marvell的合作,将基于Arm的OCTEON DPU与GPU相结合,加速AI工作负载,实现网络优化和安全 。
在PC领域,NVIDIA与全球最大的基于Arm的SoC供应商之一联发科合作,共同打造一个采用Arm核与NVIDIA显卡、支持Chromium、Linux和NVIDIA SDK的参考平台,将GPU的性能及先进的AI、光线追踪图形等技术带入Arm PC平台 。
此外,NVIDIA也正与富士通、SiPearl等其他合作伙伴共同致力于扩展Arm生态系统 。
三、更多AI平台落地,首秀量子电路模拟框架
NVIDIA在去年推出了一个机架比肩AI数据中心的AI系统DGX A100、AI算力高达700 PFLOPS的集群DGX SuperPOD、千万亿级工作组服务器DGX Station A100 。
面向AI应用需求,NVIDIA已经提供Megatron、Jarvis、Merlin、Maxine、Isaac、Metropolis、Clara和DRIVE、以及各种可使用TAO进行定制化的预训练模型 。
今天,NVIDIA进一步强化企业计算服务,不仅推出大型语言模型训练与推理问答引擎、宣布对话式AI平台最新落地进展,还展示了其量子电路模拟框架 。
1、NVIDIA EGX:扩大认证服务器生态系统
为进一步实现AI民主化,黄仁勋发布了来自顶尖制造商的新系列NVIDIA认证系统,即大容量企业级服务器,现已通过认证 。
这一系统可运行NVIDIA AI Enterprise软件套件,该套件得到了全球应用最广泛的计算虚拟化平台——VMware vSphere 7的独家认证 。
文章图片
NVIDIA今日推出多款新系统,以扩大NVIDIA认证服务器生态系统 。这些新系统配备用于主流AI和数据分析的NVIDIA A30 GPU,以及用于AI图形、虚拟工作站以及混合计算和图形工作负载的NVIDIA A10 GPU 。
2、Megatron:超大型语言模型训练与推理
黄仁勋发布了用于训练Transformers的超大语言模型的NVIDIA Megatron Triton推理服务器 。
Transformers已帮助开发者在自然语言处理领域取得了突破性进展,能够生成文档摘要、将电子邮件中的短语补充完整、对测验进行评分、生成体育赛事现场评论、甚至生成代码 。
文章图片
使用Megatron Triton的DGX A100能在1秒内做出响应,可同时支持16项查询,而双插座CPU服务器支持1条问询就超过了1分钟 。
3、Jarvis:实时对话式AI平台现可使用
Jarvis是一个基于NVIDIA GPU提供实时性能的灵活、多模态对话式AI服务应用框架,可帮助开发者轻松实现实时语音识别、转录、摘要、翻译、封闭式字幕、虚拟助手、聊天机器人等功能 。
现在,NVIDIA已经是一个生产就绪、现已可用的端到端对话式AI模型,企业可基于自身数据和特定需求对模型做进一步的微调,并使用NGC实现在云或边缘快速部署定制化语言型AI服务 。
文章图片
为帮助客户将自身专业知识应用于AI领域,黄仁勋还宣布推出NVIDIA TAO,其可以运用客户和合作伙伴的数据,对NVIDIA预训练模型进行微调和适配,同时保护数据隐私 。
4、Morpheus:AI网络安全应用框架
为了保障现代化数据中心的安全,黄仁勋宣布推出基于NVIDIA GPU、BlueField DPU、Net-Q网络遥测软件和EGX的新型AI框架而构建的NVIDIA Morpheus数据中心安全平台,能够对完整的数据包进行实时检测、预防安全威胁,现可抢先试用 。
作为一个基于AI的云原生网络安全框架,NVIDIA Morpheus通过在边缘和AI技术的结合,利用实时的遥测、策略执行及操作,可以在不牺牲成本和性能的情况下分析更多的安全数据,识别、捕捉和应对以往无法识别的威胁和异常情况,如未加密敏感数据的泄露、网络钓鱼攻击和恶意软件 。
推荐阅读
- 奇葩说 2021第一位宝藏男神,非他莫属
- 养老金 2021年辽宁养老金上调,看看方案是什么?工龄37年能涨多少?
- 上海市 2021年06月03日上市公司公告
- 导师 《好声音2021》导师官宣?李荣浩大概率夺冠,是碰巧还是内定
- 创造营2021 蒋敦豪曝光《创4》内幕,揭开选秀基本规则:上位圈不和下位圈玩
- 到达率 晚间时段首播文艺节目收视综合分析(2021年5月22日-5月28日)
- nVIDIA 离开厨房 黄仁勋首次公开NVIDIA新总部大楼
- 灿星 2021《中国好声音》十周年音乐盛典(安岳站)巅峰之战圆满举行
- nVIDIA 疑似RTX 3080 Super与RTX 3070 Super笔记本显卡曝光
- 大盘 一个小散的基金日报(万元小仓) 2021-06-03
