躲在GPU背后的这类芯片，大有可为

随着超大规模数据中心资本支出加速增长，价值正从云巨头转移到为其基础设施提供动力的半导体供应商。在数据中心网络领域，互连技术正成为人工智能堆栈中增长最快的层，因为集群越来越重视带宽而非原始计算能力。横向扩展、纵向扩展和跨域扩展架构都在不断扩展，这得益于人工智能网卡、分布式物理单元 (DPU) 和交换机专用集成电路 (ASIC) 的支持，它们将 GPU、人工智能专用集成电路和 CPU 连接成越来越大的系统。智能 CPU 服务器正与传统人工智能基础设施一起，成为新的增长引擎。

人工智能数据中心网络市场依然由美国主导，NVIDIA 作为基于交换机的纵向扩展架构的先驱，以及人工智能千兆集群横向扩展网络背后的驱动力，始终处于行业前沿。UALink 和 Ultra Ethernet 等开放标准受到终端用户的青睐，为新进入者创造了机会：博通、思科、Marvell、Astera Labs 和华为等公司正在人工智能网络领域布局，与下一代 GPU 平台以及包括 AWS、Meta 和微软在内的超大规模数据中心运营商开发自有人工智能 ASIC 芯片相辅相成。谷歌的 TPU 则独树一帜，它采用环形拓扑结构进行点对点连接，而非通过交换机。先进的制程工艺使台积电继续保持着该生态系统的领先地位。在中国，华为海思主导着国内市场，其互连技术与昇腾人工智能 ASIC 芯片协同设计，而领先的制程工艺资源有限，阻碍了国内强劲挑战者的崛起。

满足这一需求需要大量新的尖端晶圆厂产能，而这一切都发生在出口管制日益收紧、重塑全球半导体格局的大背景下。

如今，人工智能网络已覆盖四大领域，从芯片封装内部到整个园区，每个领域都有其自身的带宽和延迟需求。机架架构正朝着更精简的双层设计方向发展，以更少的跳数和更低的开销连接更多加速器。在机架内部，铜缆仍然是骨干网，但每一次速度的提升都进一步突破了其极限，为共封装光器件从原型走向主流部署铺平了道路。横向扩展的连接正围绕着交换式架构汇聚，大规模连接加速器。在前端，分布式处理单元 (DPU) 接管了曾经由标准网卡 (NIC) 处理的基础设施任务，从而释放计算资源用于人工智能工作负载，而下一代人工智能网卡则进一步提升了带宽。千兆瓦级人工智能集群在先进的相干路由的支持下，实现了跨站点的网络连接。

（来源：编译自Yole）