gpu|亚洲最大!上海“巨无霸”AI计算中心投用,支持万亿参数大模型训练( 二 )
【 gpu|亚洲最大!上海“巨无霸”AI计算中心投用,支持万亿参数大模型训练】“通过AIDC,通过里面的软件整合,我觉得我们有信心在未来的两到三年之内,我们能够实现在同等规模算力下,国产的软硬一体的成本、对客户的成本,降得更低,这个其实是一个我比较期待的目标。”杨帆说。
二、低算力成本,加速国产AI芯片市场化进程目前,商汤正在探索从国产芯片、国产服务器、自研训练框架、算法和落地行业应用的AI大生态建设。
在CAPEX投资成本方面,AIDC可以降低自研国产芯片单位算力成本;在OPEX运营成本方面,得益于算法优化的优势,训练时长更短、效率更高、占用资源更小。
“我们计划是3740PetaFLOPS里面应该会不少于50%的国产芯片做核心AI芯片来使用。”杨帆说,临港AIDC只是一个,商汤还有更多区域的AIDC布局建设正在推进中,AIDC整体会以训练为主,也会有一些推理,但占比较低。
他提到过去两年,商汤与多家国内AI芯片厂商展开了大量合作,希望加快国产云端AI芯片及相应服务器在市场更大规模、更大范围地使用。
据悉,AIDC当前试运营机器里已有一部分国产化比例,该比例的提升对于AI全产业链整体成本的下降、整体服务水平的提升、在硬件侧形成更加良性的商业竞争环境等方面将带来很大的价值。
文章插图
过去两年,商汤在持续推动国产AI核心软硬件之间的适配。为了促进这件事情,商汤在2021年7月上海世界人工智能大会上牵头成立了“人工智能算力产业生态联盟”,简称“ICPA智算联盟”。
商汤将基于AIDC,促进AI生态的构建,推动国产原创技术的落地应用。
杨帆分享道,从成立ICPA算力联盟开始,联盟每一季度都会组织一到两次的齐聚芯片设计专家、软件设计专家、软件设计专家、行业标准专家的深度闭门研讨会。
在前期,商汤希望形成一个足够标准、通用的软硬件接口层的定义。
作为亚洲最大AI软件平台公司,商汤既有核心平台层和操作系统层的软件能力,又有大量下游应用,跟各个国产硬件、芯片厂商做核心软件、系统的适配,能帮他们节省研发费用和时间成本。
中期的工作是,商汤在临港AIDC投入运营之后,会跟中国电子技术标准化研究院(工业和信息化部电子第四研究院)建立“CESI-SenseTime人工智能算力及芯片评测联合实验室”,开展AI算力和芯片标准制定、AI芯片测评工具开发,提供AI计算中心、芯片测试验证服务和人才培训等支持。
该实验室未来将成为中立的第三方AI芯片、AI服务器测评机构,为产业提供参考标准,也促进每个硬件厂商更好地提升自家产品。
面向长期,由于商汤自身有大量下游产业应用,商汤将不遗余力地把相对较好的国产AI芯片及其服务器,导入整合到自己及合作伙伴的解决方案,将它快速推向市场。
三、六大技术亮点,解读AIDC建设的硬实力商汤的AIDC通过其大规模数据处理及高性能计算的能力,为研发提供支持。
杨帆强调说,AIDC的算力并非堆砌,其中涉及许多通信侧、存储侧的领先技术。在高性能计算、分布式调度、数据I/O、软硬件协同以及系统安全方面,AIDC均实现了多重突破。
文章插图
(1)高性能计算:商汤已开发一款高性能计算引擎,它包含丰富的高度优化的计算程序、编译器及运行时环境。与芯片供应商提供的计算引擎相比,商汤的计算引擎通过优化的算子及全图优化技术,显著提高端到端的运行效率,不仅涵盖神经网络计算,亦涵盖预处理及后处理阶段。
- gold|Cincoze发布GOLD系列边缘AIoT GPU计算机
- 供应商|该崛起了!美国英特尔断供我国最大服务器,中企一分钟损失1亿
- 商汤首付56亿!上海建成亚洲最大AI“发电厂”,搞定万亿参数模型
- 林本坚|荷兰ASML公司的最大股东是谁说出来你可能不信!
- 更上一层楼|中国芯、台积电、富士康纷纷站队华为已成最大赢家
- 华为|青浦华为将成为全球最大的研发中心,是上海科研民间队的核心
- 气田|我国最大天然气生产基地 日产天然气突破1.5亿立方米
- 苹果|“苹果迄今为止最大新品”悬了!苹果汽车团队项目遭打击 高管几乎走完
- 去年7月|steamdeck将支持两个最大的反作弊软件
- 华为|华为签约全球规模最大的储能项目,你知道吗?