黄仁勋把整个AI数据中心预制了！最快14天盖出AI工厂

黄仁勋把整个AI数据中心预制了！最快14天盖出AI工厂图1

“我们不能只是消费AI，而是应该生产AI。”

作者 | 陈骏达

编辑 | 心缘

芯东西10月21日报道，今日，英伟达GTC大会首次登陆德国柏林，英伟达创始人兼CEO黄仁勋（Jensen Huang）进行了一场信息量爆棚的主题演讲，系统介绍英伟达全栈AI工厂架构，发布DSX全栈AI工厂参考架构与DSX POD计算集装箱，还一口气推出Nemotron检索模型、Kumo结构化数据预测模型等多款开源模型。

在黄仁勋看来，AI绝非一般的软件技术，而是一个制造业——能源驱动计算机，计算机组成AI工厂，AI工厂生产token，token来自模型，模型再集成进每一个应用，“我们不能只是消费AI，而是应该生产AI。”

围绕AI的高效生产，黄仁勋的演讲覆盖AI基础设施、企业智能体、开源模型、物理AI等核心战场，涉及五大重点：

1、Vera Rubin平台：已实现全面量产，整机100%液冷，组装一个节点的耗时从2小时缩短到5分钟，72颗GPU可互连成一整颗巨型GPU。

2、DSX POD：把7个Vera Rubin机架连同线缆在工厂内预装成一个集装箱，运到现场即插即用，AI工厂的部署时间从4-5个月压缩到约1个月。

3、OpenShell安全智能体参考架构：让每个智能体在独立沙箱中运行，按系统调用粒度管控权限，一旦发现越权行为可毫秒级切断其与AI模型的连接。

4、开源模型与智能体工具包：帮智能体读懂企业文档和数据库的工具包Agent Knowledge Foundation、负责检索的Nemotron Retriever模型系列、能预测业务走势的Kumo模型系列等。

5、Agile ONE SN人形机器人参考设计：这款机器人计算硬件和软件出厂前预装完毕，开箱即可运行，大幅降低机器人研发门槛，机器人本体将于2027年初提供。

以下就是这场GTC大会的重磅发布与主题演讲干货：

01.

AI工厂：把算力做成预制菜

投产只要1个月

黄仁勋系统地介绍了英伟达的全栈AI工厂架构，强调英伟达是唯一一家构建完整AI工厂的公司，涵盖设计、部署和运营所需的一切。

支撑英伟达AI工厂的硬件底座，是刚刚全面量产的Vera Rubin平台。黄仁勋现场对比了代际差异：Grace Blackwell平台组装一个节点要2小时，线缆遍布，仅实现80%液冷；而Vera Rubin平台实现100%液冷，组装一个节点不到5分钟。

NVLink交换托盘把72颗GPU连成一整颗巨型GPU，而旁边的Vera CPU每时钟周期可执行8条指令，搭载全球首个LPDDR内存子系统，片上互联为全球最快，专为智能体会话的启动与处理设计。

Spectrum-X则是全球首个共封装光学（CPO）以太网交换机。光可以通过英伟达与台积电联合发明的COUPE工艺直接接入芯片，无需经过PCB和独立光模块。这一方案提供512端口，单端口速率达200Gb/s，已全面量产。

有了技术，怎样更快地把AI工厂部署到全球各地？对此，英伟达打造了全栈AI工厂参考架构DSX，覆盖计算、网络、存储、软件、电力和冷却，从设计到运营作为一体协同优化。

DSX的第一步发生在动工之前：整座工厂先在数字孪生里完成性能、功耗、用水和规模的虚拟验证。

针对电力，MaxLPS端到端控制回路可以动态把电力引导至与负载需求匹配的地方，同样的AI产出少用30%的电力。DSX Flex则可以灵活调节需求，提升电网可靠性，在电网需求激增时减少耗电，同时保持AI运行。

冷却方面，Vera Rubin系统采用了闭式循环液冷，合适气候下，冷却液温度可达45°C，实现高温液冷。通过室外干冷器，这套冷却系统可以直接向空气释放热量，不蒸发一滴水，在2GW规模下，每天节水5400万升，相当于18万户家庭的日用水量。

为进一步提升建设效率，英伟达发布了DSX POD，这是一种已完成组装、测试、管路预装、预构建和预验证的算力集装箱，也是AI工厂的基础构建单元，设计目标是加快欧洲基础设施部署，大幅缩短从部署到生成首个token的时间。

集装箱内部包含7个NVIDIA Vera Rubin NVL72液冷机架、1000万个零部件，重约28000公斤，大致相当于20辆城市公交车，可通过公路运往欧洲各地。

机架之间由20公里NVLink铜互连和3500根线缆相连，另有17公里Spectrum-X横向扩展网络，全部在工厂内完成安装、组装和测试。

冷却与电力方面，DSX POD用干冷器替代传统蒸发冷却，场地就绪后以800V直流为机架供电。

集装箱运抵现场后只需彼此连接，完成验证和最终老化测试。黄仁勋在演讲中说，采用这一方案后，建设方可以将算力从到场到投产的时间，从4-5个月压缩到约1个月。

另据英伟达新闻稿披露，借助DSX POD计算单元，合作伙伴可将AI基础设施的部署时间从6个月缩短至最短14天。

黄仁勋算了一笔账：一座1GW数据中心投资500亿美元，年收入约400亿美元，延迟3个月投产就意味着100亿美元营收损失。如果能将这一过程压缩，闲置的算力和资本开支随之大幅减少。黄仁勋称：“这是世界供应链的彻底转型，将改变人们安装和建设数据中心的方式。”

02.

企业AI：四大维度给Agent打地基

新自研模型系列亮相

如今，智能体已经是AI领域最炙手可热的赛道之一，并且正在进入越来越多的企业级场景。

黄仁勋把智能体拆成五个要素：模型、执行框架（Harness）、沙箱、知识和工具，而英伟达在其中的四个层面都提供了方案。

1、沙箱：给智能体装上安全约束

在谈怎么用好智能体之前，黄仁勋先谈了安全问题。他认为，业内阻止智能体滥用权限的方式，主要是通过“客客气气地求它”，也就是通过提示词对智能体进行叮嘱，但“安全不应该是一种愿望，而是技术和工程。”

为此，英伟达打造了OpenShell安全智能体参考架构：企业为每个智能体编写策略，OpenShell在系统调用粒度上强制执行，覆盖文件访问和网络连接。

OpenShell中，每个智能体运行在独立沙箱中，外部的Harness可以由OpenShell统一收纳。策略变更则需要经形式化验证对照权限上限，智能体不会获得超出预期的访问权。

该架构在Vera Rubin上运行、搭载Vera CPU，并通过BlueField-4提供硬件隔离的安全监控：智能体的推理流量会经过BlueField-4上的Sentry安全软件架构，一旦智能体计划越权，Sentry会立即更新策略，切断其与模型的连接并将其隔离。

2、模型：闭源、开源、定制，一个都不能少

谈完安全，黄仁勋把话题转向模型。他判断：未来企业不会只用一个模型跑所有东西，最好的模型不管闭源、开源还是定制，统统都要用；而当工作涉及太多专有知识和独门手艺时，企业会想持续增强属于自己的智能，未来每家公司都会同时使用闭源模型和定制化的开源模型。

英伟达在开源模型上已经投入了十年，并且不仅是开放权重，还包括配套数据和完整复现脚本。这可以让使用者知道模型的出处和权重分布。

这些模型覆盖多个领域：Nemotron是语言模型，Cosmos是世界基础模型，GR00T面向机器人领域，Alpamayo面向自动驾驶，此外还有量子计算模型Ising和Earth-2物理AI模型。

黄仁勋说道：“这些开源模型未必个个都是前沿中的前沿，语言模型尤其如此。但借助定制化和生态伙伴，企业完全可以把它们打造成前沿模型，进而把自己的专有数据变成主权智能。”

现场他举了一连串实证：AI21帮助客户把Nemotron微调后超出了前沿能力；Base10帮CodeRabbit用自有数据后训练Nemotron，达到前沿水平；Trajectory与Harvey用Nemotron后训练出自己的前沿能力；Scale AI与Skydance做着同样的事。

黄仁勋称，从一个像Nemotron这样较好的开源模型出发，用自己的数据做后训练，针对你的场景达到超级智能，这是非常理性的做法。

3、知识：把企业知识喂给模型

模型有了，接下来是让智能体接通企业的知识。英伟达推出了Agent Knowledge Foundation，一套用于检索企业数据的模型组合与软件库。

检索链路由三款Nemotron Retriever模型组成：文档解析Nemotron Parse负责文档解析，可处理PDF等非结构化文档；文本嵌入模型Nemotron Embed把查询与向量数据库中的知识关联起来；检索重排序模型Nemotron Re-rank在多源召回结果中按相关度重排，找出最贴切的答案。

针对结构化数据，英伟达此次发布了结构化数据预测模型系列Kumo，让企业数据库也能预测接下来会发生什么。该模型系列共有四款：面向表格数据的Kumo Tabular、面向关系型数据的Kumo Relational、面向时间序列的Kumo Time Series和面向预测任务的Kumo Forecast。

4、工具：CUDA-X已成皇冠上的明珠

在工具层，英伟达的CUDA-X库已经被用于支撑科学发现、工程、研究、设计与创意艺术等多个领域，黄仁勋说这些库是英伟达皇冠上的明珠。

黄仁勋强调，智能体时代非但不会终结SaaS工具软件，反而会让工具公司迎来史上最多的用户，每一家工具公司都有机会变成AI公司、变成智能体公司，Cadence、CrowdStrike、达索系统、IQVIA等都已加入智能体的开发行列。

利用CUDA-X，同一台计算机可以运行流体动力学、粒子物理、量子化学、数据处理、光线追踪等所有工具，较CPU原生运行提速一到两个数量级。而在这些不同的行业，使用到的组件都类似：开放模型、CUDA-X加速工具、OpenShell安全运行时，由英伟达智能体工具包（Agent Toolkit）整合在一起。

03.

物理AI：联手Agile推出机器人参考设计

物理AI是AI的下一波浪潮，黄仁勋称，其中量级最大、落地最近的物理AI应用是汽车，而下一个重大产业，是人形机器人。

机器人的研发难点在于任务多样、形态定制化，行业面临碎片化，无法形成有效的飞轮。手机、PC的飞速进化都靠标准化形态，而人形机器人形态适配的场景足够广，黄仁勋认为其大概率会成为出货量最大的机器人形态。

为此，英伟达与Agile合作，基于英伟达Isaac GR00T构建了Agile ONE SN人形机器人参考设计，把硬件与软件集成一体，预装计算机与软件，开箱即可运行，覆盖从数据采集到部署的全流程，将设置时间从数周缩短至数天，2027年初可提供。