AI芯片散热瓶颈，难解

AI芯片功耗持续攀升，即使Vera Rubin世代全面导入液冷，芯片至水冷板间的热阻仍成下一道瓶颈，供应链正同步推进双面水冷、可拆式散热盖（Removable Lid）等方案，最终方向仍待AI芯片大厂及云端服务业者拍板，业界则预期微通道（Micro-channel）技术最快可望于2028年量产，相关布局备受瞩目。

新一代AI散热设计已从提高水冷渗透率，转向降低芯片至冷却液间热阻，目前技术方向包括扩大水冷板覆盖范围、移除部分盖板与热介面材料（TIM），并导入贴近芯片热源的微通道设计。

双鸿董事长林育申指出，先进封装持续堆叠后，每增加一层材料就增加一道热阻，过去芯片功耗较低影响有限，但进入千瓦级后已不可忽视，多一道TIM可能增加约摄氏3～5度，因此下一阶段散热关键，在于尽可能减少芯片与冷却液间不必要介面材料。

他表示，当芯片功耗约4,000瓦时，现有水冷板尚可支应，但也成新门槛，未来若跨向7,000瓦～8,000瓦，微通道重要性将提高。这类设计不只考验流道与热点控制，也牵涉封装设备、制程承重及良率管理，散热厂技术边界正进一步往封装端延伸。

有业界厂商正积极从芯片端降低热阻，Rubin Ultra规划导入可拆式散热盖架构，在系统组装阶段后再配置散热介面与水冷板，减少多层TIM造成的热传损失。健策总经理林锦隆日前表示，微流道可移除TIM2，并针对芯片局部热点调整流道，公司长期更规划将VC与MC整合，让散热更直接贴近芯片热源。

还有企业着重双面水冷与扩大解热范围，部分新平台正把水冷板由芯片正面延伸至主板背面，增加水冷板及快接头用量；另AI芯片平台亦采双层水冷板搭配内部分歧管，高功耗平台散热设计正由单面覆盖，朝多面、多热源同步解热发展。

热管理已成为人工智能（AI）芯片设计和生产中的一项基本要求。

越来越多的人呼吁将热性能作为半导体开发的关键变量，而半导体开发传统上一直侧重于功率、性能和面积 (PPA)。

9月3日，仁荷大学在京畿道安山市大富岛天堂度假村举办半导体产学研研讨会，探讨了人工智能芯片发热的原因以及从器件、材料和封装层面解决该问题的技术。仁荷大学教授崔利诺、汉阳大学教授崔昌焕、高丽大学教授柳贤勇和仁荷大学教授赵在勋介绍了技术发展趋势。

崔利诺表示，人工智能芯片集成密度的不断提高正使传统散热方式面临极限挑战。目前，将图形处理器（GPU）和高带宽内存（HBM）置于中介层上的2.5D结构已被广泛应用。他指出，随着行业向芯片垂直堆叠的3D结构发展，散热将变得更加困难。

HBM带来了一项特殊的挑战。据崔的计算，功耗为800瓦的GPU在达到其热极限之前还有大约40摄氏度的余量。HBM的功耗仅为50瓦，远低于GPU，但其由多个堆叠的DRAM芯片组成的结构使得散热困难。因此，HBM会比GPU更早达到其热极限。崔还指出，DRAM能够承受的温度比GPU低约20摄氏度，这意味着HBM实际上决定了整个AI芯片的最高工作温度。

人工智能服务器的功耗也在迅速增长。根据崔先生介绍的英伟达路线图，预计四年内每个GPU机架的功耗将增长15倍，从2023年Hopper一代的40千瓦增至2027年的600千瓦。他表示，功耗的不断增长和集成密度的提高，使得传统的散热方式越来越难以有效散热。

崔表示：“冷却方式将从外部冷却芯片转向越来越贴近芯片内部的冷却方式。” 目前的系统通过冷却剂在芯片顶部的金属板上循环来散热。他预计，未来冷却方式将扩展到芯片内部的微通道，使冷却剂能够直接流经这些微通道。

汉阳大学的崔昌焕强调了导热界面材料（TIM）的重要性，这种材料目前已被广泛应用。TIM用于填充芯片和散热片之间的缝隙，以改善热传递。然而，问题在于，为了提高导热系数而增加导热材料会使TIM变硬。如果材料过于坚硬，就无法与芯片表面紧密贴合，从而形成缝隙，阻碍热传递。

“即使使用导热系数很高的导热界面材料，如果界面控制失败，也不会有效，”崔昌焕说。

他说，研究人员并没有简单地增加导热材料，而是在研究如何创建定向散热路径。其中一种方法是将石墨烯等高导热材料沿特定方向排列。

随着堆叠的 DRAM 芯片数量增加，HBM 的冷却也变得更加困难，因为连接芯片的凸起和填充周围空间的聚合物材料会阻碍热传递。

崔昌焕表示，混合键合技术可以消除凸起，直接将铜与铜键合在一起，或许能提供一种替代方案。然而，铜周围的绝缘层导热性较差。他的研究团队正在探索用高导热材料（例如氮化铝（AlN）或氮化硼（BN））替代绝缘层的方法。

根据 Choi 提出的模拟结果，采用传统微凸点的八层 DRAM 堆叠温度达到了 95 摄氏度，而采用混合键合的温度则达到了 70 摄氏度。

然而，崔警告说，“混合键合不会轻易实现”，并预测它不会在 HBM4 中使用，可能会在 2030 年代初期被采用。

高丽大学教授柳贤勇表示，逻辑芯片的热问题需要从器件和互连设计阶段就开始解决。随着晶体管从平面结构发展到鳍式场效应晶体管（FinFET）和环栅（GAA）架构，散热路径也随之改变。尤其是在GAA结构中，载流沟道与硅衬底分离，使得热量难以向下散发。

Yoo表示：“随着器件尺寸的缩小，功率密度不断提高，而散热路径却变得越来越窄。” 这就需要采用金属互连的散热设计，将集中在某一位置的热量扩散到周围区域。

Yoo表示：“我们现在需要超越PPA方法，转向包含热因素的PPAT方法。器件、互连、电路、封装和系统必须协同设计，不仅要考虑功率、性能和面积，还要考虑实际工作温度。”

会上还介绍了旨在提高功率半导体散热基板耐久性的研究。仁荷大学赵在勋教授的研究团队正在高导热性氮化铝（AlN）中添加增强材料，以解决其易碎的问题。

Cho表示：“我们的目标是在保持相同导热性的同时，将其抗断裂能力提高一倍。”

点这里👆加关注，锁定更多原创内容

*免责声明：文章内容系作者个人观点，半导体芯闻转载仅为了传达一种不同的观点，不代表半导体芯闻对该观点赞同或支持，如果有任何异议，欢迎联系我们。