攀登HBM之巅:AI加速器的内存墙突围战(九)供应链暗流与定制基片的权力游戏

半导体产业研究 2025-08-31 08:00

资讯配图

资讯配图
资讯配图

【编者按】

本文编译自SemiAnalysis,深入解码高带宽内存(HBM)的技术演进与产业变局。面对AI模型对内存容量与带宽的指数级需求,传统内存架构已构成严峻的"内存墙"。文章系统剖析HBM制造工艺的尖端突破(如TSV微孔、混合键合)、供应链权力博弈(三星困境、中国突围),并前瞻HBM4革命性变革——定制基础芯片将重构内存控制器、解锁"海岸线"带宽瓶颈,甚至实现内存内计算。通过揭示Nvidia、OpenAI等巨头的技术路线选择,本文为读者绘制了一幅穿透AI算力桎梏的技术突围地图。

经济学与供应链影响
鉴于定制基片可增添的功能特性,我们预计到HBM4E时代末期其将广泛普及。定制基片将为本已复杂的供应链带来若干值得关注的动态变化。
首要问题在于:由谁来设计这些先进基片?
英伟达、AMD和英特尔等商业巨头将自主设计基片,因为它们具备相应能力与愿景来规划能释放最大价值的配置(至少英伟达如此)。与此同时,我们仍预期存储制造商将基于更成熟制程提供标准现成基片。三星拥有先进逻辑晶圆厂,而海力士和美光则因更先进的逻辑芯片超出其制程能力范围,可能需要硅晶合作伙伴与晶圆代工厂协助。Marvell已率先宣布推出自有HBM基片设计,业界认为其将成为定制功能领域的对应设计合作伙伴。
超大规模服务商ASIC又将如何?这些企业需保持与顶级商用GPU同步,因此同样需要充分利用此功能,不过采用程度会存在差异。例如谷歌构建系统时更注重可靠性,其TPU设计理念体现在选择硅晶方案时不追求激进策略,以规避那些因追求性能极限而伴随高故障率的芯片设计,因此它们不会在基片内计算等功能上采取激进方案。
这将成为ASIC设计者需要依赖定制硅晶合作伙伴的又一领域——由其设计能最佳匹配每个ASIC项目架构的功能套件。我们可以将HBM基片视作设计合作伙伴为其ASIC设计赋值的又一界面。另一种方案是组装各类现成IP模块以实现所需定制功能,例如采用Eliyan的UMI作为海滨扩展一体化PHY方案。
另一有趣要素在于:定制基片会强化存储供应商的客户锁定效应。每家HBM供应商都拥有专属TSV布局(参见前文),因此每款定制基片都需配置为匹配对应存储供应商的TSV方案:为美光HBM4E设计的定制基片无法兼容SK海力士HBM4E。要引入第二、第三存储供应商则需对基片进行额外流片,这将推高HBM多源采购成本。这对资源有限的芯片公司影响尤为显著。
反观之,这对路线图落后(如三星)的存储供应商而言更是雪上加霜。考虑到业界对三星能否按时交付具有竞争力的HBM4及后续产品存在合理担忧,客户自然不愿投入额外精力与资金为兼容三星方案进行基片流片。
这一次,存储供应商终于拥有了类似客户转换成本的筹码。
这使得供应链愈发复杂。简而言之,当今英伟达GPU由台积电封装制造,其逻辑芯片来自台积电晶圆,HBM则由英伟达采购后委托台积电装配的存储IDM企业提供。若基片由其他企业制造且由不同方设计,HBM供应链将如何运作?
HBM客户将从下列选项中选择基片配置:1)存储供应商提供的现成方案,2)先进逻辑企业的现成方案,或3)逻辑企业的全定制设计。
我们认为选项2)与3)将成为主流选择:先进逻辑企业已具备实现先进基片功能的能力与IP。但这将增加供应链与物流复杂度。虽然具体模式尚未定型,最简易的路径是加速器设计方/终端存储客户(无论是英伟达、博通还是直接采购HBM的超大规模服务商)自行设计基片或通过硅晶合作伙伴获取。基片晶圆将由台积电代表基片设计方制造。加速器设计方将从设计方购入该晶圆,随后基片设计方很可能将其委托给HBM制造商(如SK海力士),由后者将基片与HBM存储芯片进行封装。最终,该封装产品将送回加速器设计方,再委托台积电通过CoWoS技术与逻辑芯片集成。
存储供应商如何直接获取更多价值?HBM基片有益于HBM需求与存储容量提升,存储厂商可间接从中获益。
如上所述,基片能提升HBM性能从而释放更高价值。具体而言,定制HBM基片可大幅增加单加速器的存储容量,无论是HBM(突破海岸线限制)还是LPDDR等传统DRAM。
但尽管如此,存储厂商在此过程中的中介作用正在弱化。尽管交付的终端产品价值更高,存储供应商并未参与价值分配,价值的提升实则来自供应链其他环节更深入的参与。这虽是存储行业的范式转变机遇,但存储厂商却未能以惯常速度把握机会确立自身供应链地位。
这再次印证存储供应商难以完全捕获产品价值。HBM是史上利润率最高的存储产品,而英伟达堪称全球最赚钱的HBM供应商——其通过在加速器搭载的HBM上施加巨额毛利率获利。HBM繁荣可谓喜忧参半,它提醒世人:即便轮到存储厂商闪耀的时刻,他们也从未成为最璀璨的明星。
但存储厂商仍握有封装与TSV技术这张王牌。台积电负责制造晶圆,但TSV成型及堆叠工序必须由存储制造商完成。TSV对HBM性能至关重要,这是存储厂商的核心IP。若未采用存储厂商精确工艺配方的外部TSV晶圆很可能存在兼容性问题。堆叠绑定环节亦是如此。尽管台积电是HBM先进封装领域的领导者,但其在多层3DIC堆叠方面的经验与HBM制造商现有或即将拥有的技术实力相当。
这正是存储厂商的筹码所在——他们可借此争取利益,尤其在仅剩海力士与美光两家合格供应商的背景下。美光与海力士可借此收回部分增值收益。至少,它们应当能通过收取与常规HBM4相同的均价,在搭载定制基片的HBM4上获得更高毛利率。利润提升源于无需自行制造基片晶圆而由外部供应。虽然客户可以供应商成本降低为由进行压价,但归根结底他们需要存储厂商完成TSV与封装流程以确保产品正常运行,而额外利润正是自带基片的"开瓶费"。
资讯配图
*原文媒体:SemiAnalysis
*原文作者:
Dylan Patel, Myron Xie, Tanj Bennett, Ivan Chiam, Jeff Koch
*原文链接:
https://semianalysis.com/2025/08/12/scaling-the-memory-wall-the-rise-and-roadmap-of-hbm/

相关阅读

攀登HBM之巅:AI加速器的内存墙突围战(一)AI算力之争的核心引擎与未来内存革命
攀登HBM之巅:AI加速器的内存墙突围战(二)晶圆暗战与供应链博弈
攀登HBM之巅:AI加速器的内存墙突围战(三)堆叠竞赛与吞吐量革命
攀登HBM之巅:AI加速器的内存墙突围战(四)分层存储战略与推理范式变革
攀登HBM之巅:AI加速器的内存墙突围战(五)OpenAI逆向策略,HBM4时代的带宽决胜战
攀登HBM之巅:AI加速器的内存墙突围战(六)定制基础晶片,打破能效瓶颈,重塑内存架构
攀登HBM之巅:AI加速器的内存墙突围战(七)基片物理层扩展引爆二级内存架构革命
攀登HBM之巅:AI加速器的内存墙突围战(八)海岸线扩张:I/O小芯片破局与内存下计算新纪元

资讯配图

芯启未来,智创生态

湾芯展2025与您相约!

资讯配图

资讯配图


资讯配图

声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
AI 供应链 内存
more
花生上树了?AI 竟然敢这么玩!
柳叶刀惊曝:AI让医生6个月「废功」20%,癌症检出率崩盘!
【AI】AI已迷失方向?强化学习教父Sutton最新发布OaK架构,挑战当前AI范式,提出超级智能新构想
【报告】数据专题二:Data+AI下一代数智平台建设指南(附PDF下载)
iPhone 17 的 AI 又跳票了,手握万亿现金的苹果,为什么不学小扎买买买?
【报告】数据专题四:2025具身智能数据:AI时代的石油(附PDF下载)
AI知识库更新2:广东、江苏、福建、安徽县域特色产业资料
AI 制药,从“科幻片”变成“印钞机”:未来十年最大的医药造富浪潮
96GB+1TB!AMD锐龙AI MAX+ 395主机官宣:9月1日,正式开售!
硅谷炸雷!xAI创始老哥携机密叛逃OpenAI,马斯克:他上传了整个代码库
Copyright © 2025 成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号