邃思|256TOPS算力+超大存储带宽,燧原第二代云端AI推理卡来了,性能比肩7nm GPU( 三 )


邃思|256TOPS算力+超大存储带宽,燧原第二代云端AI推理卡来了,性能比肩7nm GPU
文章插图
在经济效益和部署灵活性层面,基于虚拟化和多实例加速技术,云燧i20能够实现单卡多用户,同时支持6个业务互不干扰、安全隔离运行。这让更多云端推理应用同时享受专有的算力加速,为客户业务架构带来轻耦合、灵活可靠的实现方式,显著提升资源利用率与投入产出比。
作为一家数据中心基础设施提供商,燧原科技已经能提供包括算力、数据、存储、互联在内的一系列系统化解决方案。
邃思|256TOPS算力+超大存储带宽,燧原第二代云端AI推理卡来了,性能比肩7nm GPU
文章插图
三、一代落地、二代量产、三代设计,高效滚动式研发背后的三大核心竞争力对于创业公司来说,云端AI芯片是难攻的高地。
一方面,芯片研发有高壁垒、高成本、低容错率等特征,任何一个环节出现差池,此前投入的数千万资金就可能通通打水漂。另一方面,NVIDIA独霸云端AI训练市场,英特尔不断强化CPU的AI推理性能,其技术和生态壁垒均十分深厚。
面对残酷的市场环境,燧原科技一路高举高打,快速迭代研发落地,第一代产品还未量产,第二代产品已经开始滚动式研发。
是怎样的底气,让燧原无惧风险,制定如此紧密的产品迭代周期?张亚林将燧原科技的核心竞争力归纳为三点:迭代快、系统化、成熟配置。
首先,天下武功,唯快不破。
云端AI产品具有共享的、多用户等特征,每个客户有差异化的场景及业务模型,与对AI芯片架构的通用性提出了更高要求。相比芯片采用几纳米工艺、什么技术,云端AI客户更关注迁移成本、降本增效和性价比是否能达到自身应用的要求。
“当我们开始工程化AI产品的时候,一定要把客户的终极诉求和用户使用习惯带进去,而不是一味地讲纸面参数。”张亚林认为,只有进入客户整个业务系统,才能够真正理解其需求。
因此,对于一家创业公司,最重要的不是产品参数,而是尽快触达客户,拿到反馈,再将其优化思路应用到下一代产品中,通过快速迭代,把芯片与工具链打磨至成熟,并构筑自家客户生态。
燧原科技即是按照这样的逻辑,紧锣密鼓地推进产品迭代:当前其第一代产品规模化落地,第二代产品走向量产,第三代产品已经启动设计。
随着其第二代训练及推理产品成熟,燧原科技可以针对客户的业务场景,提供具有高性能及性价比的“训练+推理”完整解决方案,并支持国产服务器和操作系统,帮助客户进行云端系统部署。
邃思|256TOPS算力+超大存储带宽,燧原第二代云端AI推理卡来了,性能比肩7nm GPU
文章插图
其次,燧原科技已经成长为一家AI系统提供商,储备了比纯芯片供应商更广泛的能力。
在云端数据中心,AI的发展不再局限于单点的软件或硬件,计算范式正趋于系统化、集成化。这要求AI公司不仅能提供AI基础设施,也要能提供更高集成度、性价比和能效比的系统,更便捷易用的软件和用户界面,从而提升用户的生产力。
因此,燧原科技从系统的角度思考AI落地,持续布局整个数据中心的新技术,包括集群互连方式、分布式计算拓扑结构、高级封装、先进制程及软硬件全栈的高阶编译等。这些先进技术,构成了燧原快速迭代产品的护城河。
在此支撑下,燧原循序渐进地搭建出一支包含芯片、板卡、集群、软件全栈的完整建制团队,以超强执行力快速推进整体的系统优化,并通过计算、数据、存储、互联四个维度的平衡,将产品成本结构牢牢控制在自己手中。
在千卡液冷集群方面,燧原科技与之江实验室合作的1280卡高性能计算液冷集群方案正在部署,该集群采用燧原科技第一代人工智能训练产品“云燧T11”,计划打造符合国家碳中和政策导向的低碳绿色数据中心。张亚林称:“这是我们在整个系统化方面走出的坚实一步。”