模型|英伟达：美团机器学习平台使用NVIDIA T4 GPU Tesla|深度|性能|Turing|场

IT之家 12 月 25 日消息，据英伟达官方消息，美团机器学习平台使用 NVIDIA GPU ，通过算子融合、计算图等价替换等一系列优化，相较于 CPU 在相同成本约束下， NVIDIA T4 GPU 大幅加速美团 CTR（Click-Through-Rate）模型预测性能，神经网络模型吞吐能力提升了 10 倍；同时在搜索精排场景中，端到端整体吞吐能力提升了一倍以上。

文章图片

【模型|英伟达：美团机器学习平台使用NVIDIA T4 GPU】英伟达表示，美团的 CTR 模型过去一直在使用 CPU 推理的方式，但随着用户访问量的提升和深度神经网络的引入， CTR 模型结构趋于复杂，吞吐和计算量也越来越大， CPU 开始不能满足模型对于算力的需求，而仅仅通过 CPU 服务器的堆叠带来的性能提升性价比相较偏低。而 GPU 拥有数以千计的计算核心，可以在单机内提供密集的并行计算能力，特别适合深度学习场景，在行业内已经在 CV、NLP 等领域展示了强大的能力。通过 CUDA 及相关 API ， NVIDIA 建立了完整的 GPU 生态系统。基于此，美团基础研发平台将 CTR 模型部署到 GPU 上，并通过一系列针对 CPU 与 GPU 的异构系统并行计算设计、数据存储方式和传输方式上的特定优化。
IT之家了解到， NVIDIA Tesla T4 GPU 是一款推理加速器，搭载 NVIDIA Turing Tensor Core 。官方称， NVIDIA Tesla T4 GPU 具备人工智能推理的多精度计算性能，从 FP32 到 FP16 再到 INT8 ，又到 INT4 精度， T4 的性能比 CPU 高出 40 倍，实现性能的重大突破。

文章图片

模型|英伟达：美团机器学习平台使用NVIDIA T4 GPU

推荐阅读

第五人格咒术师天赋加点120 咒术师天赋加点120攻略

宋朝真的有那么弱吗，他的步兵真实战斗力如何？

古诗十五夜望月的意思是什么

如何保持头发浓密保持头发浓密方法

幼儿园教师个人发展规划幼儿园教师个人发展规划范文

包粽子可以用五颜六色的绳子吗

鱼头芋头汤可以加豆腐吗

巧克力乳酪卷（超柔软零黄油一次发酵法）的做法（小儿营养不良食谱）

铁皮石斛栽培技术铁皮石斛栽培技术简述

愚人节搞笑手机短信

月经期间能喝红酒木瓜汤吗

面部吸油纸和厨房吸油纸区别

函的格式及范文是什么？

脂肪瘤怎么祛除呢

桑叶茶的功效与作用桑叶茶的功效与作用及禁忌

低脂满腹咖喱魔芋时蔬的做法（生菜）

拐枣的酿制方法拐枣的酿制方法与步骤

青口贝如何养殖

寻龙记小说出售寻龙记无极

葡萄酒有哪些常见的问题？