围观新MLPerf AI推理冠军,两家本土服务器 你选谁一起过?

文/公众号 深度围观 和讯名家签约作者

有人说,服务器是互联网的灵魂。进入人工智能时代,AI服务器就是一切逻辑运行的根本。

根据IDC最新发布的2020H1《全球人工智能市场半年度追踪报告》显示,目前2020年上半年全球人工智能服务器市场规模达55.9亿美元。机构预测,未来AI服务器将保持高速增长,在2024年全球市场规模将达到251亿美元。

站在时代的风口上,实力厂商谁也不甘落后。因此,我们既看到了传统服务器厂商在AI领域阔步前行,也看到新锐力量在时代更替中的强势崛起。毕竟,你我都清楚知道:在大变局的情势之下,一切皆有可能。

围观新MLPerf AI推理冠军,两家本土服务器 你选谁一起过?
文章插图
作为衡量AI服务器的标准,目前,MLCommons每年组织2次MLPerf AI训练性能测试和2次MLPerf AI推理性能测试,为用户衡量设备性能提供权威有效的数据指导。而MLPerf是影响力最广的国际AI性能基准评测,备受业界关注和重视。

MLPerf再放新榜 两国产品牌均获超15项第一
美国太平洋时间9月22日10点,采用最新InferenceV1.1标准的MLPerf 推理测试成绩发布,总计超过10家国际知名服务器厂商的数十种产品参与了本次测试。

MLPerf推理V1.1 AI基准测试固定任务(Closed)包括数据中心(共16个项目)和边缘(共14个项目)两大场景。在数据中心场景下设置6个模型,分别是图像识别(ResNet50)、医学影像分割(3D-UNet)、目标物体检测(SSD-ResNet34)、语音识别(RNN-T)、自然语言理解(BERT)以及智能推荐(DLRM),其中Bert、DLRM和3D-Unet设有高精度(99.9%)模式。

除3D-UNet模型任务只考察Offline离线推理场景性能外,其他模型任务按照Server在线推理和Offline离线推理两种应用场景分别进行性能测试。边缘场景AI模型在数据中心场景的6个模型基础上删减了智能推荐(DLRM)模型,并增加目标物体检测(SSD-MobileNet)模型,所有模型均有Offline离线推理场景和SingleStream单流推理两个场景。
23日,浪潮宣布获得15项冠军;同日,宁畅宣布取得总共21项第一成绩。

浪潮在本次MLPerf竞赛获得15项全球第一,涵盖医学影像识别、自然语义理解、图像识别、语音识别、智能推荐、目标物体检测(SSD-ResNet34)以及目标物体检测(SSD-MobileNet)全部7项AI模型任务,从云到边全面领先。

围观新MLPerf AI推理冠军,两家本土服务器 你选谁一起过?
文章插图
浪潮持续提升数据中心场景下MLPerf各项任务性能成绩,即便在相同服务器配置下各项任务成绩依然得到较大改善,如图像识别(ResNet50)和语音识别(RNN-T)的模型性能分别较半年前的V1.0竞赛成绩提升了4.75%和3.83%。

宁畅X620G40与X640 G40人工智能服务器,在closed(封闭)赛段的3D-UNet99、ResNet-50与SSD-large等模型测试中,共取得21项第一成绩。

除X620 G40外,宁畅X640G40人工智能服务器,不仅整体AI性能取得全部16个推理模型第一成绩,平均单卡性能也取得12个模型的最好成绩。

值得注意的是,这是继7月份以来,浪潮和宁畅再次蝉联多项第一成绩,两者在AI服务器领域的实力再次得到验证,不容小觑。

浪潮持续登高 宁畅从新锐到地位稳固
浪潮发布新闻中宣称:“浪潮连续第四次位居MLPerf AI基准测试冠军数量榜首。”

宁畅表示:“自2020年以来至今,宁畅AI服务器在参加的三次MLPerf推理与训练测试中,已取得了53项第一成绩,并打破AI服务器世界性能多项纪录。”

作为老牌和新锐服务器厂商,浪潮和宁畅自然不会放过任何一次评比得机会,搜索一下,我们能清晰地查阅到浪潮参赛得脉络。

2020年美国东部时间10月21日,全球备受瞩目的权威AI基准测试MLPerf公布今年的推理测试榜单,浪潮AI服务器NF5488A5一举创造18项性能纪录,在数据中心AI推理性能上遥遥领先其他厂商产品。