随着生成式AI的爆发，大模型训练正面临前所未有的系统级数据传输瓶颈。近日，SK海力士（SK Hynix）联合美国弗吉尼亚大学、麻省理工学院等全球顶尖科研机构，在国际权威学术期刊《自然·电子学》（Nature Electronics）上发表了关于光电共封装（CPO，Co-packaged Optics）技术的重磅论文，为下一代高性能计算与AI基础设施的互连架构指明了方向。
据悉，该论文不仅规划了从2.5D向3D异构堆叠演进的路线，还为下一代AI基础设施设定了明确的技术指标：单节点带宽需超过100 Tb/s，能耗降至1 pJ/bit以下，且芯片间的数据传输延迟需控制在10纳秒（ns）以内。
当前AI产业正面临严峻的传输瓶颈。研究数据显示，AI系统的计算吞吐量通常每两年增长3倍，而互连带宽在同期仅增长约1.4倍，这使得带宽瓶颈成为一个日益严峻的挑战。
▲计算吞吐量通常每两年增长三倍，而互连带宽仅增长了约1.4倍，造成了“带宽壁垒”。（图源：SK海力士）
传统的铜基电互连负责将数据传输到芯片封装之外以及机架之间，但随着传输距离的增加，信号损耗和功耗也会迅速上升。因此，它们越来越被视为下一代人工智能数据中心的一个限制因素。
▲ CPO将光引擎集成得更靠近处理器。由于电信号传输距离缩短，带宽和能效均得到提升。（图源：SK海力士）
随着带宽瓶颈日益成为人工智能基础设施的根本制约因素，该论文将CPO定位为克服这一挑战的核心。CPO通过在封装内集成光引擎，最大限度地缩短了高速电信号的传输距离，并使用光链路完成剩余的传输路径。这使得高速通信能够跨越芯片、机架和模块进行扩展，同时保持高带宽密度、卓越的能效和强大的信号完整性，并具有更强的抗电磁干扰能力。
SK海力士人工智能基础设施团队负责人Seunghoon Hong表示：“CPO将光收发器（TRx）集成到与处理器相同的封装中，使芯片能够使用光而非长距离的电气互连来交换数据。这从根本上改变了数据在人工智能系统中传输的方式，消除了计算扩展的最大障碍之一。”
从长远来看，CPO的发展有望将光互连扩展到存储器接口。这种以光为中心的架构突破了传统封装的物理限制，利用光子中介层直接连接存储器和处理器，从而最大限度地提高系统数据传输效率。
全球半导体观察
往期推荐
关于集邦咨询
TrendForce集邦咨询作为全球高科技产业研究机构，致力于洞察AI全链脉络，助力企业战略决策。研究版图聚焦AI产业增长引擎，涵盖：HBM、DRAM、NAND Flash等关键存储产品；GPU、ASIC等AI算力芯片；晶圆代工、芯片设计及封测；以及AI服务器、显示面板、LED、AR/VR等基础设施与终端，延伸至自动驾驶、具身智能、光伏储能、低空经济等“AI+”垂直产业集群，同时提供核心零部件价格预测与数据库。凭借多年深耕，为政企客户与投资者提供行业研究报告、企业战略咨询及品牌整合行销等服务。
