英伟达Kyber机架，售价惊人

NVIDIA 即将推出的 Vera Rubin Ultra 系统目前处于变动之中，不断有传言称其可能会降低 HBM 规格，这家 GPU 巨头可能会选择降低每个 GPU 中 HBM4E 的数量以保持其利润率。

今天，美国银行 (BofA) 发布了一份富有洞察力的报告，量化了 NVIDIA 即将推出的基于 Vera Rubin Ultra 的 Kyber 机架中 HBM4E 和基于 LPDDR5X 的 SOCAMM2 模块之间的动态关系。

目前，每颗基础版 Rubin GPU 配备288 GB 的 HBM4 显存，分布在 8 个内存堆栈中，每颗 GPU 的带宽最高可达 22 TB/s。同时，Vera CPU 放弃了标准的服务器 RDIMM 内存插槽，转而采用基于 LPDDR5X 的 SOCAMM2 内存模块。SOCAMM2 模块采用紧贴主板的压缩连接器，缩短了电气线路，从而为 LPDDR5X 提供了数据中心所需的信号完整性和低延迟。每颗 Vera CPU 配备 8 个 SOCAMM2 插槽，理论上每颗 CPU 可支持 1.5 TB 的 LPDDR5X 内存（192GB 模块）。

美国银行刚刚发布了一份新报告，详细说明了Rubin显卡中使用的HBM4E显存每GB的成本为19.76美元。此外，每个拥有144个GPU的Kyber机架将配备216TB的LPDDR5X内存，成本约为280万美元，再加上124.4TB HBM4E内存的250万美元成本。总而言之，每个Kyber机架的成本将达到4160万美元。

与此同时，根据瑞银集团的一份相关报告，Vera Rubin超级芯片配置中的每颗Rubin GPU成本约为9,247美元，其中包括HBM4显存、封装、中介层和外围组件。另一方面，每颗Vera CPU的成本约为20,059美元，其中包括SOCAMM2 LPDDR5X显存，以及其他电路板组件的350美元成本。不过，GPU成本的大约一半以及CPU成本的几乎全部（扣除内存后CPU成本仅为704美元）都来自DRAM！

在 Blackwell 服务器上，Grace CPU 配备了 480 GB 内存，Blackwell GPU 则提供 192 GB 的 HBM3E (GB200) 和高达 288 GB 的 HBM3E (GB300)。然而，Vera Rubin 机架的总内存池已膨胀至 74.7 TB（HBM4 + SOCAMM2）。而对于 Kyber 机架，这一内存池更是惊人地膨胀至 340.4 TB！

据报道，由于担心HBM内存供应不足，英伟达正在测试即将推出的Rubin Ultra加速器的多个版本，这些版本将减少内存容量。据The Information报道，部分版本仅配备192GB内存，并使用HBM4而非最初宣布的HBM4E 。该报道证实了此前SemiAnalysis公司关于Rubin Ultra内存容量可能缩减的评论。

今年早些时候的GTC大会上，我们首次亲眼见到了Rubin Ultra的真容。当时，英伟达展示了一个计算托架，其中搭载了四个计算芯片以及1TB的HBM4E显存。这款加速器是英伟达Kyber NVL144设计的一部分，该设计计划于2027年推出。SemiAnalysis报道称，该机架的发布时间已推迟至2028年。英伟达在回复Tom's Hardware的采访时表示：“我们的路线图保持不变。”但该公司并未就此次延期是否属实做出任何澄清。我们已就此最新报道联系了英伟达。

据The Information报道，英伟达正在测试配备192GB或256GB显存的Rubin Ultra版本，以及使用少于此前公布的16个显存堆栈的版本。或许最重要的是，据报道英伟达正在测试的是HBM4，而非最初公布的HBM4E。除了每一代新HBM架构的传统改进之外，HBM4E的独特之处在于它提供了可定制的基础逻辑芯片。去年，美光宣布与台积电合作生产基础芯片，并允许客户根据自身需求对逻辑芯片进行调整。

据报道，HBM4E的复杂性导致供应紧张，内存制造商无法跟上Rubin Ultra的发布速度。报道称，英伟达至少测试了三种低容量设计，但我们尚不清楚这些原型机的全部细节。报道称，测试采用了HBM4，以及192GB和256GB的配置，但并未提及每种测试容量对应的计算芯片数量或内存类型。

芯片数量至关重要。今年6月，有报道称英伟达因制造工艺复杂而取消了四芯片Rubin Ultra的设计。尽管英伟达尚未对此置评，但当时的报道暗示，英伟达将转而推出双GPU的Rubin Ultra。在这种情况下，减少显存容量就显得更为合理。即使是双芯片的Rubin Ultra，其标称显存容量也低于预期。目前，每块基础版Rubin GPU都配备288GB的HBM4显存。

很明显，英伟达正试图在内存领域抢占先机，而如今的内存合作协议往往已签订多年。英伟达自身也签署了多项协议。今年6月，该公司宣布与SK海力士合作开发下一代内存技术，其中包括HBM、LPDDR5X和DDR5。7月，英伟达进一步扩大了与SK的合作，签署了一项价值5000亿美元的战略合作协议，其中包括与SK的长期内存供应协议。

尽管英伟达正在考虑降低内存配置，但一位英伟达客户告诉The Information，每个 GPU 的内存并不是首要考虑因素，他们更看重与英伟达的长期合作关系。

内存短缺几乎影响到目前市面上所有设计，尤其是采用HBM内存的企业级系统，受影响尤为严重。上周，Digitimes报道称，三星、SK海力士和美光的HBM产能已售罄至2027年。上个月，SK海力士CEO郭鲁正表示，2027年将是内存短缺“最严重的一年”，供应紧张的局面将持续到2030年。

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

加星标⭐️第一时间看推送