围观新MLPerf AI推理冠军，两家本土服务器你选谁一起过?( 二 )

同日，宁畅AI服务器X640宣称:首登MLPERF，斩获30项AI性能世界第一，同GPU配置测试获16项世界第一。

2021年6月30日，国际权威AI性能基准评测平台MLPerf，发布了基于Training V1.0 的最新标准测试结果。

浪潮 NF5688M6和NF5488A5在固定任务赛道8大场景中一共收获4项冠军。

宁畅AI服务器X640 G40和X660 G45在固定任务(closed)赛道8大场景测试中收获两大场景世界冠军。

文章插图
值得一提的是，请大家注意的是:浪潮 NF5688M6 获得DLRM 和 SSD 的单机训练性能第一，搭载的是500W功耗GPU，宁畅搭载的是400W功耗GPU。从这个角度上来说，同功率下，宁畅收获的同样是八大场景4个冠军席位。

根据公开资料，自2020年至今2021年7月，浪潮参与了MLPerf trainingv0.7, Inference v0.7, Inference v1.0, training v1.0四次竞赛。已经累计斩获41项冠军。

再加上这一次，获得15项冠军，浪潮4次总计获得56个第一。宁畅这次取得总共21项第一成绩，3次参赛总计获得53个第一，冠军总数浪潮略有胜出，但从单次平均获奖数量来看，宁畅技高一筹。难分伯仲。

我们不难看出，浪潮在AI服务器领域持续发力，而宁畅则被贴上行业黑马、独角兽厂商的标签。从成绩来看，宁畅在AI服务器领域，实力地位逐渐稳固。

MLPerf测试成绩的背后代表的不仅仅是性能
28天前，国际权威数据中心媒体The Next Platform 针对全球权威AI基准测试MLPerf发布报道《MLPerf为何益于AI和你》。

报道中说:“当您采购设备时，往往担心三件事--性能、性价比和总体拥有成本。倘若没有衡量性能的基准，也没有对产品价格的合理判断，就不能估算总体拥有成本，更不知将预算投往何处。”

文章结论是:“这个问题也同样适用于运行AI 应用程序的服务器系统，这就是MLPerf 基准测试被看重的原因。”

文章插图
如果我们回溯到最新的测试成绩来看:搭载8颗NVIDIA A10 Tensor Core GPU宁畅X620 G40分别以3D-UNet99模型高低精度 179;ResNet-50离线模型97016;SSD-large在线、离线模型2500、2051的测试分数，取得2U人工智能服务器的五项第一成绩，成为本次测试中获得第一成绩最多的2U高度AI服务器。

这些分数背后的意义:3D-UNet得分意味着能够每秒完成170余次三维医学图像的分割，且精度高达99.9%;ResNet得分意味着能够每秒完成近10万张图片中各个事物类别的海量识别;SSD评分代表了离线场景下每秒可完成2500张图片中信息的分类、定位与精准检测、在线场景下每秒可应答2000余次实时目标检测的推理任务。

搭载10块NVIDIA A30 Tensor Core GPU的宁畅X640 G40人工智能服务器，更将4U服务器机能发挥到极致。相比较其他搭载8块NVIDIA A30 GPU的服务器，宁畅X640 G40不仅整体AI性能取得全部测试模型第一成绩，平均单卡性能也取得12项冠军。

再来看浪潮，浪潮取得此次MLPerf竞赛佳绩的三款AI服务器，分别是NF5488A5、NF5688M6及NE5260M5。

NF5488A5是全球首批上市的A100服务器，在4U空间支持8颗第三代NVlink互联的A100 GPU和2颗AMD Milan CPU，同时支持液冷和风冷散热技术;

NF5688M6是面向大规模数据中心优化设计的具备极致扩展能力的AI服务器，支持8颗A100 GPU和两颗Intel Icelake CPU，支持多达13张PCIe Gen4的IO扩展卡;

NE5260M5通过极致优化的信号和电源等系统设计，兼容高性能CPU和多种AI加速卡，通过减震降噪优化和严苛的可靠性测试，机箱深度430mm较普通服务器缩短近二分之一，满足空间受限的边缘计算场景部署需求。

围观新MLPerf AI推理冠军，两家本土服务器 你选谁一起过?( 二 )

围观新MLPerf AI推理冠军，两家本土服务器你选谁一起过?( 二 )