英伟达要连起576颗GPU，CPO成为关键

英伟达正在把AI算力系统推向一个新的规模。按照其在OCP 2026活动上披露的信息，下一代Vera Rubin Ultra将通过NVLink与共封装光学（CPO）技术，把分布在多个机架中的576颗GPU连接起来，使它们能够作为一个统一的计算域协同工作，目标是支撑万亿级参数、乃至10万亿参数规模的AI模型。

这项设计的意义，不只是GPU数量增加，而是英伟达正在重新思考AI计算系统的组织方式：当单颗芯片的算力已经十分强大，如何让大量GPU以更高带宽、更低互连功耗协同工作，就成为继续提升系统性能的关键。

据Wccftech报道，英伟达负责超大规模计算与高性能计算业务的副总裁兼总经理Ian Buck在OCP 2026上展示了下一代Vera Rubin Ultra计算托盘和NVLink CPO交换托盘，并表示，该系统计划于2027年推出，目标是打造性能功耗比领先的超大规模NVLink计算系统。

按照英伟达披露的规划，Vera Rubin Ultra将采用名为Kyber的新一代机架设计，并通过NVLink将8个机架连接起来，每个机架配置72颗GPU，最终形成包含576颗GPU的NVLink计算域。

这与传统意义上简单增加服务器数量有所不同。英伟达希望通过高速互连，让分布在不同机架中的GPU能够作为一个紧密协同的整体运行。随着AI模型参数规模持续增长，训练与推理任务需要协调更多计算资源，系统内部的数据交换能力也变得越来越重要。

根据报道，Rubin Ultra NVL576的FP4推理算力预计达到15 ExaFLOPS，FP8训练算力预计达到5 ExaFLOPS。报道还称，其推理与训练性能相较Blackwell GB300 NVL72有显著提升。

在内存方面，该平台将采用HBM4E，并进一步扩大GPU与系统级内存容量。报道披露的规划数据包括：单颗GPU最高配置1TB HBM4E、单机架HBM容量达到365TB，以及系统级互连带宽达到每秒1.5PB。

这些数字体现出英伟达的设计重点：不仅要提高GPU本身的计算能力，还要同步扩展内存容量、带宽和GPU之间的数据传输能力，以减少大规模计算任务中可能出现的资源等待。需要注意的是，上述数据属于报道披露的规划规格，并非已经完成独立验证的量产系统实测结果。

576颗GPU连接在一起，首先需要解决的并不是算力问题，而是互连问题。

在传统数据中心中，电信号通过铜走线、线缆和高速电气接口传输。随着互连距离、端口数量和数据速率不断增加，信号损耗、功耗以及系统设计复杂度都会成为需要处理的问题。对于跨越多个机架的大规模GPU系统，这些问题更加突出。

CPO，即共封装光学，将光学引擎与交换芯片等关键器件集成在同一封装或紧密耦合的封装结构中，使数据能够更早地从电信号转换为光信号，再通过光纤传输。它的核心价值，在于改善高速互连的功耗、带宽密度和传输距离等指标。

英伟达此次展示的NVLink 7 CPO交换托盘，正是这一思路在大规模GPU互连中的体现。按照报道的描述，该系统将借助新一代CPO交换托盘连接不同机架，并通过NVLink构建统一的计算域。

值得注意的是，576颗GPU互联并不意味着每颗GPU都直接通过光纤连接其他GPU。更准确地说，CPO被用于系统互连架构中的关键交换环节，铜互连与光互连可以共同发挥作用。英伟达的设计目标，是在扩大GPU互连规模的同时，避免互连功耗和复杂度随系统规模增长而失去控制。

回顾英伟达的AI系统演进，GPU互连已经不再局限于单颗芯片或者单台服务器内部，而是逐渐扩展到整个机架，甚至跨机架的计算域。

英伟达此前公布的Vera Rubin Ultra NVL576方案，就计划将8个独立的机架纳入同一个NVLink域。其技术博客还介绍了下一阶段的Kyber NVL1152架构，目标是进一步扩大互连规模，将8个Kyber机架连接为包含1152颗GPU的系统。

这意味着，英伟达正在把GPU集群的设计重点，从单纯增加加速卡数量，转向对计算、内存、交换网络和机架结构进行整体协同设计。

对于10万亿参数级别的AI模型而言，这种变化尤其重要。模型规模扩大后，计算资源之间的协调和数据交换将成为系统设计的重要组成部分。即使单颗GPU性能继续提升，如果GPU之间的数据传输跟不上，系统也未必能够充分发挥全部算力。

当然，576颗GPU组成一个统一的NVLink计算域，并不代表它在所有软件和工作负载下都能表现得像一颗物理GPU。实际效率还取决于模型并行策略、通信开销、内存管理以及软件调度等因素。英伟达提出的“巨型GPU”，更适合理解为一种跨机架、紧密耦合的系统架构。

CPO也并非没有挑战。光学引擎的制造与封装、光纤连接、散热、系统维护以及整体成本，都将影响它的实际部署效果。随着光互连从传统可插拔光模块进一步走向共封装，供应链需要解决的也不再只是光器件本身，而是光学引擎、交换芯片、封装和系统集成之间的协同问题。

从这个角度看，Rubin Ultra的意义不仅在于576颗GPU带来的算力规模，也在于英伟达试图通过NVLink与CPO的结合，继续扩大高性能GPU系统的互连边界。当AI模型不断走向更大规模，光互连能否在带宽、功耗与可靠性之间取得更好的平衡，将成为下一代AI基础设施竞争中的重要一环。

点这里👆加关注，锁定更多原创内容

*免责声明：文章内容系作者个人观点，半导体芯闻转载仅为了传达一种不同的观点，不代表半导体芯闻对该观点赞同或支持，如果有任何异议，欢迎联系我们。