公众号记得加星标⭐️,第一时间看推送不会错过。

AI计算需求正呈指数级增长,远远超越了摩尔定律,同时功耗和成本压力也在迅速升级。AI计算效率的核心指标将不再是单个芯片的性能,而是机架级的每瓦性能以及每总拥有成本(TCO)的性能。这标志着更广泛的行业转变:半导体参与者必须从芯片供应商演变为机架和系统级解决方案的提供商。这种转型已经在AI数据中心基础设施的每一个层面展开,从存储层的SSD POD(舱)扩展,到计算和互连层的机架/POD级竞争。
在此背景下,ASIC(专用集成电路)设计和服务提供商的竞争格局也在发生变化。本文探讨了英伟达(NVIDIA)和主要CSP(云服务提供商)如何在AI机架/POD规模上进行自身定位,以及包括博通(Broadcom)、Marvell、联发科(MediaTek)、创意电子(GUC)和世芯(Alchip)在内的ASIC设计商,如何利用CPO(共封装光学)等互连技术,将其触角从芯片规模扩展到机架/POD规模的赛场。
英伟达超越芯片,扩展至AI基础设施的每一个层面
首先,一个快速的定义:一个AI POD(Point of Delivery,计算舱/独立交付单元)是一个由计算节点、网络、存储和软件组成的独立AI计算单元。Scale-up互连(单一系统内的垂直扩展)是使多个芯片、乃至跨机架配置能够作为一个单一统一系统以超低延迟运行的技术,它构成了机架/POD级集成的基础。
随着AI计算的主要单元持续扩大,英伟达在2026年3月的GTC上不仅推出了七款全新的Rubin系列芯片,还推出了五款能够将这些芯片集成到单个机架中的MGX系列机架,并且机架可以通过交换机相互连接,形成大规模的Vera Rubin POD。
为了进一步加强其AI数据中心硬件产品组合,英伟达近年来从内存互连交换机IC厂商Enfabrica和AI推理LPU厂商Groq那里获得了关键人才和技术许可,同时还投资了量子计算和光通信组件供应商,这一切都是为了将POD级的性能推向极致。

(英伟达Rubin系列的七款芯片。来源:英伟达)

(英伟达Rubin系列的五款MGX机架。来源:英伟达)
谷歌、亚马逊AWS和微软围绕效率构建专属AI机架/POD
为了提高AI计算性能,CSP不仅在其推理芯片中采用大型片上SRAM,还在设计专属的AI机架和POD。谷歌一直是最激进的,早在2021年(译注:原文如此,实际应为早期)就采用了自己的Scale-up技术ICI(芯片间互连),在2021年引入了OCS(光路交换机),并计划在2026年的TPU v8系列中部署其自研的Axion CPU和Boardfly网络架构。
AWS计划在2026年的Trainium3 UltraServer中部署其专属的NeuronLink和Graviton CPU,而微软则计划在其Maia 200 POD中部署以太网Scale-up网络和Cobalt 200 CPU。Meta则采取了完全不同的方法,采用开放的OCP(开放计算项目)标准来构建标准化的数据中心硬件生态系统,旨在降低整体成本。


ASIC:博通和Marvell领先;联发科、创意电子和世芯押注CPO
CSP独立设计AI机架/POD的趋势,推动了ASIC设计和服务提供商超越芯片级的供应,向机架/POD级的解决方案扩展。对于ASIC设计商而言,这创造了一个全新的增量市场。
博通和Marvell已经构建了涵盖交换机和网卡(NIC)的全面产品线,同时在CPO技术上也取得了早期领先。联发科、创意电子和世芯最初专注于在AI芯片开发中建立良好的过往业绩,并计划将CPO集成平台作为其进入机架/POD规模市场的途径。
正如TrendForce的产品线概览所示,CPO是除AI芯片之外,所有六家主要公司都承诺投入的技术赛道,这标志着行业广泛公认CPO已成为下一代AI机架/POD性能的关键分水岭之一。

原文链接
https://insights.trendforce.com/p/asic-rack-pod-scale
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
END
今天是《半导体行业观察》为您分享的第4457内容,欢迎关注。
推荐阅读
★
★
★
★
★
★
★
★

加星标⭐️第一时间看推送


