芯片，太热了

热管理已成为人工智能（AI）芯片设计和生产中的一项基本要求。

越来越多的人呼吁将热性能作为半导体开发的关键变量，而半导体开发传统上一直侧重于功率、性能和面积 (PPA)。

9月3日，仁荷大学在京畿道安山市大富岛天堂度假村举办半导体产学研研讨会，探讨了人工智能芯片发热的原因以及从器件、材料和封装层面解决该问题的技术。仁荷大学教授崔利诺、汉阳大学教授崔昌焕、高丽大学教授柳贤勇和仁荷大学教授赵在勋介绍了技术发展趋势。

崔利诺表示，人工智能芯片集成密度的不断提高正使传统散热方式面临极限挑战。目前，将图形处理器（GPU）和高带宽内存（HBM）置于中介层上的2.5D结构已被广泛应用。他指出，随着行业向芯片垂直堆叠的3D结构发展，散热将变得更加困难。

HBM带来了一项特殊的挑战。据崔的计算，功耗为800瓦的GPU在达到其热极限之前还有大约40摄氏度的余量。HBM的功耗仅为50瓦，远低于GPU，但其由多个堆叠的DRAM芯片组成的结构使得散热困难。因此，HBM会比GPU更早达到其热极限。崔还指出，DRAM能够承受的温度比GPU低约20摄氏度，这意味着HBM实际上决定了整个AI芯片的最高工作温度。

人工智能服务器的功耗也在迅速增长。根据崔先生介绍的英伟达路线图，预计四年内每个GPU机架的功耗将增长15倍，从2023年Hopper一代的40千瓦增至2027年的600千瓦。他表示，功耗的不断增长和集成密度的提高，使得传统的散热方式越来越难以有效散热。

崔表示：“冷却方式将从外部冷却芯片转向越来越贴近芯片内部的冷却方式。” 目前的系统通过冷却剂在芯片顶部的金属板上循环来散热。他预计，未来冷却方式将扩展到芯片内部的微通道，使冷却剂能够直接流经这些微通道。

汉阳大学的崔昌焕强调了导热界面材料（TIM）的重要性，这种材料目前已被广泛应用。TIM用于填充芯片和散热片之间的缝隙，以改善热传递。然而，问题在于，为了提高导热系数而增加导热材料会使TIM变硬。如果材料过于坚硬，就无法与芯片表面紧密贴合，从而形成缝隙，阻碍热传递。

“即使使用导热系数很高的导热界面材料，如果界面控制失败，也不会有效，”崔昌焕说。

他说，研究人员并没有简单地增加导热材料，而是在研究如何创建定向散热路径。其中一种方法是将石墨烯等高导热材料沿特定方向排列。

随着堆叠的 DRAM 芯片数量增加，HBM 的冷却也变得更加困难，因为连接芯片的凸起和填充周围空间的聚合物材料会阻碍热传递。

崔昌焕表示，混合键合技术可以消除凸起，直接将铜与铜键合在一起，或许能提供一种替代方案。然而，铜周围的绝缘层导热性较差。他的研究团队正在探索用高导热材料（例如氮化铝（AlN）或氮化硼（BN））替代绝缘层的方法。

根据 Choi 提出的模拟结果，采用传统微凸点的八层 DRAM 堆叠温度达到了 95 摄氏度，而采用混合键合的温度则达到了 70 摄氏度。

然而，崔警告说，“混合键合不会轻易实现”，并预测它不会在 HBM4 中使用，可能会在 2030 年代初期被采用。

高丽大学教授柳贤勇表示，逻辑芯片的热问题需要从器件和互连设计阶段就开始解决。随着晶体管从平面结构发展到鳍式场效应晶体管（FinFET）和环栅（GAA）架构，散热路径也随之改变。尤其是在GAA结构中，载流沟道与硅衬底分离，使得热量难以向下散发。

Yoo表示：“随着器件尺寸的缩小，功率密度不断提高，而散热路径却变得越来越窄。” 这就需要采用金属互连的散热设计，将集中在某一位置的热量扩散到周围区域。

Yoo表示：“我们现在需要超越PPA方法，转向包含热因素的PPAT方法。器件、互连、电路、封装和系统必须协同设计，不仅要考虑功率、性能和面积，还要考虑实际工作温度。”

会上还介绍了旨在提高功率半导体散热基板耐久性的研究。仁荷大学赵在勋教授的研究团队正在高导热性氮化铝（AlN）中添加增强材料，以解决其易碎的问题。

Cho表示：“我们的目标是在保持相同导热性的同时，将其抗断裂能力提高一倍。”