速度|全球芯片短缺，显卡价格居高不下，跑深度学习该如何装机？_训练|深度|芯片|TeraFLOPS|价

机器之心报道
机器之心编辑部

不论需求如何，总有适合你的硬件。

对于搞 AI 的人来说，有一个永不过时的话题：跑人工智能需要一套什么样的计算机硬件？
近年来，前沿 AI 技术的进展很快，被广泛用于目标检测、分类与分割等 CV 任务的深度卷积网络为了提高准确度需要数百万的参数；而具有大量参数、更多数据和更多训练时间的语言模型可以获得更丰富、更细致的语言理解。这些技术突破使得模型的功耗、计算和内存消耗都越来越大。
这种情况正变得愈演愈烈。
对于芯片的运算能力，一般我们会使用 FLOPS ，即每秒浮点操作次数（FLoating Point Operations per Second）这个指标做标准。 NVIDIA GeForce RTX 3080 是 29.8 TeraFLOPS ，而一块苹果 M1 Max 芯片的算力是 10.4 TeraFLOPS（FP32）。
这些数字看起来很可观，面对 AI 模型的需求却显得稍许有限：

文章图片

训练部分 SOTA 模型所需的计算量，以 Peta FLOP 为单位
我们可以看到，在计算机视觉、自然语言处理和语音任务上训练 SOTA AI 模型所需的计算量最近以每两年 15 倍的速度增加。最近使用 Transformer 架构的预训练模型增长速度则更快，它们会以每两年 750 倍的速度增长。
这些只是单纯的算力需求，还不论训练 SOTA 模型的新挑战——对于 NLP 和推荐系统模型来说，内存和芯片内 / 芯片间的通信正在成为又一个瓶颈。
随着边缘计算的发展，广泛的应用场景正带来更加多元化的算力需求，大体上来看，当前的计算机需要拥有强大的算力，可以满足多种场景的灵活性，在多种环境下保证稳定，同时也要拥有高性价比。是否存在能够应对这些挑战，效率足够高的计算机呢？
惠普Z系列数据科学解决方案
2020 年，惠普以突破性的技术推出了「Z 系列」数据科学工作站，将边缘计算提升到了一个新台阶。
通过观察前沿科技和趋势，洞察用户需求，惠普打造了包含数据采集工作站、微型工作站、Z8 Multi-GPU 工作站、VR 可穿戴设备、以及 Data Science Stack 在内的「Z 系列」革命性产品。以多形态的产品满足不同场景的运算需求，以一体化的解决方案助力行业实现突破创新。