新一代 NVIDIA Spectrum-X 以太网为十亿瓦级 AI 系统提供所需的性能、可靠性和效率,连接数十万个 GPU。目前,多家领先的 AI 基础设施企业已经采用了这一技术。

全球最先进的 AI 工厂将数十万个 GPU 和 CPU 汇集在一起,赋能前沿模型训练与代理式 AI 驱动,并以前所未有的规模生成智能。在这个层面,网络成为推动 Token 生成的关键计算能力倍增器。
作为新的网络里程碑产品,NVIDIA Spectrum-6 是一款 102.4T 的以太网交换机,其容量是上一代的 2 倍,为 NVIDIA Vera Rubin 平台构建,即将在全球的十亿瓦级 AI 工厂中落地。
Spectrum-6 驱动新一代 NVIDIA Spectrum-X 以太网平台,为运营 AI 工厂端到端计算系统提供所需的高带宽、规模扩展和智能。
领先的 AI 构建者率先行动
包括 CoreWeave、微软、Nebius、SpaceXAI 和 Tesla 在内的全球领先的 AI 基础架构构建商,率先采用 Spectrum-6,以加速其 AI 工厂建设。
对于云服务提供商而言,Spectrum-6 意味着更高的计算能力,可以作为统一的高性能资源运行,帮助客户更快地训练模型和部署推理服务。对于自建基础设施的 AI 先驱来说,Spectrum-6 意味着更多的 GPU 能够保持同步运行,为要求严苛、大量使用集合操作的作业实现更高的系统利用率,并提高长期运行工作的可靠性。
AI 性能本质上是一个网络问题
以太网最初主要用于企业应用,承载用户、服务器和存储之间的南北向数据流量,并非为超大规模 AI 的同步、集合密集型通信模式而创建。Spectrum-X 以太网改变了这一局面。它专为 AI 打造,将以太网转变为高性能横向扩展网络,旨在为每个 GPU 及时“喂上”足够数据。
新一代 Spectrum-X 以太网
Spectrum-6 交换机芯片与 NVIDIA ConnectX-9 SuperNIC 相结合,构成了新一代 Spectrum-X 以太网,与 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太网交换机一起,共同组成了 NVIDIA Vera Rubin 平台。
Spectrum-6 支持可插拔和光电一体化封装两种规格。此外,Spectrum-6 产品还支持液冷,支持整个 AI 工厂全面的端到端液冷方案,显著提高系统能效。
与通用以太网不同,用于 AI 工厂横向扩展的 NVIDIA Spectrum-X 以太网网络平台结合了智能交换机、NVIDIA ConnectX-9 SuperNIC 和全栈网络软件,共同为 AI 定向设计。该平台的高级功能不断优化数据流量在网络中的移动。
以上为摘要内容,点击“阅读原文”或扫描下方二维码阅读完整内容:
