
据报道,英伟达正考虑将Rubin Ultra人工智能加速器的高带宽存储器(HBM)配置,由此前的12层堆叠调整为8层堆叠。在存储器价格上涨、AI需求持续增长的背景下,如何以更合理的成本提供所需带宽,正成为其系统设计的重要考量。
SemiAnalysis分析指出,英伟达已将Rubin Ultra的HBM堆叠层数从12层下调至8层,因为制约系统经济性的因素,正更多转向单位带宽成本,而非单位容量成本。其分析给出的8层HBM4方案为每颗GPU配置192GB存储容量,相比之下,现有12层Rubin方案为288GB。不过,Rubin Ultra的最终存储规格仍存在不确定性。

Rubin GPU展示图。图片来源:法新社
容量减少三分之一不意味着带宽同比下降
HBM堆叠层数直接影响存储容量。在堆栈数量和单颗DRAM裸片容量不变的条件下,从12层改为8层,每个堆栈的DRAM裸片数量减少三分之一,总容量也相应减少三分之一。
带宽的决定因素则不同,主要取决于HBM堆栈数量、接口位宽和数据传输速率,而不是垂直堆叠的DRAM裸片数量。因此,在堆栈数量、2048位接口和引脚速率相同的情况下,减少层数并不必然降低总带宽。原文指出,带宽可维持,或在具体实现中略有提升;若总带宽保持不变,每GB容量对应的带宽将提高约50%。
这一取舍对AI推理尤其重要。在生成词元(token)时,系统需要反复从存储器读取模型权重及键值缓存(KV cache)数据,存储带宽因此成为关键性能约束。更大的模型、更长的上下文窗口和更大的KV缓存仍需要充足容量,但单纯增加堆叠层数,并不会直接增加带宽。
原文以当前Rubin GPU为例:其采用12层HBM4,每颗GPU最高提供288GB容量和22TB/s带宽。Rubin Ultra据报转向8层配置,反映出英伟达更加关注以何种成本满足系统带宽需求,而非仅追求更高的存储容量。
三星与SK海力士调整供货结构
这一变化已开始传导至存储供应链。据ZDNet Korea报道,在英伟达要求供应商将更多HBM4供货由12层转向8层后,三星电子与SK海力士计划提高2026年下半年对英伟达供应的8层HBM4占比。相关材料和零部件订单也开始反映8层产品需求走强,但最终供货结构仍未确定。
成本并非唯一因素,散热管理、制造良率和供货灵活性同样影响配置选择。HBM4将接口位宽较上一代翻倍至2048位,而更高层数的堆栈需要更复杂的堆叠、键合与封装工艺。随着AI系统规模扩大,这些因素可能进一步增加散热和良率方面的挑战。
在HBM供应仍然紧张的情况下,提高8层产品供给,有助于英伟达在容量、散热、可制造性与产品供应之间获得更大的调整空间。该趋势也可能延续至HBM4E:8层配置可能成为2027年的主要供货形式,12层和16层方案则仍在讨论之中。不过,Rubin Ultra最终采用HBM4还是HBM4E,尚无定论。
存储成本成为系统层面的核心变量
原文援引英伟达最新财务信息指出,此次调整发生在AI需求强劲增长的背景下,而非投资放缓。英伟达8月26日预计,截至2028年1月的财年营收将增长约70%;首席财务官Colette Kress表示,尽管客户需求继续加速增长,公司仍受到供应限制。
存储器价格大幅上涨及其他零部件成本增加,预计将持续挤压利润率。原文称,英伟达预计第四季度毛利率将降至约71%至72%的低点。其最新监管申报文件显示,截至7月26日,供应与产能承诺总额达到2790亿美元,高于上一季度的1190亿美元。这些承诺主要涉及数据中心基础设施系统所需的存储器及制造设施,旨在支持当前及未来产品架构的长期需求。
对三星电子和SK海力士而言,这一调整可能使下一代HBM的竞争维度进一步拓宽。最大容量和堆叠层数仍然重要,但随着存储器在AI系统成本中的占比上升,单位成本所能提供的带宽、散热表现、封装良率和供货灵活性,也正成为决定竞争力的关键因素。
从系统设计角度看,8层方案体现的是对带宽、容量与成本的重新权衡,不能直接解读为HBM需求走弱。容量下降能否换来更好的整体经济性,仍取决于具体工作负载:若模型权重和KV缓存无法装入单颗GPU存储器,额外的跨GPU通信与资源需求也可能影响收益。未来供应商争取加速器平台订单的关键,将是以合适的容量、散热、良率和成本组合交付所需带宽。

