通过稳定、不变的接口，将NoC原生分组流量直接跨die边界传输。
半导体行业正快速从单片式 SoC 转向基于芯粒的架构。与此同时，AI 工作负载也正从云端推理走向物理 AI（Physical AI），即能够感知现实世界、进行推理并采取行动的系统。
自动驾驶汽车、工业机器人、人形机器人、无人机和智能制造系统，都需要在异构计算引擎之间持续传输海量数据。
然而，这两大趋势也暴露出当前 die-to-die 通信架构的一个局限：一致性互连协议虽然非常适合以处理器为中心的系统，却与现代 AI 加速器的流量模式存在根本性差异。
因此，需要一种新的方法：通过稳定、不变的接口，将 NoC 原生分组流量直接跨 die 边界传输。
物理 AI 改变了片上通信
传统处理器的通信主要围绕内存访问、同步和缓存一致性展开，而物理 AI 系统则截然不同。
现代汽车计算平台可能同时运行：
多路摄像头处理流水线
雷达和激光雷达信号处理
传感器融合
AI 感知网络
定位和建图
路径规划
功能安全监控
车辆执行器控制
这些计算引擎交换的通常不是单个缓存行（cache line），而是持续的数据流，例如特征图、张量、点云、视频帧和推理中间结果。
这些数据流往往达到数百 KB 甚至数 MB，并以确定性的速率在专用加速器之间传输。因此，其通信模式更接近高性能数据流网络，而不是一致性对称多处理器（SMP）系统。
随着物理 AI 能力不断提升，加速器之间的流量增长速度也在持续超过 CPU 与内存之间的流量。
一致性协议擅长什么？
一致性 die-to-die 协议仍然非常适合以下场景：
大型SMP系统中处理器die之间的一致性通信
CPU内存访问
同步
CPU与I/O管理处理器或加速器之间的控制面通信
这类协议旨在移动相对较小的缓存行级事务，同时保持内存一致性。对于共享内存、以处理器为中心的工作负载，它们非常高效。
为什么它们无法高效进行AI数据移动？
加速器流量的模式截然不同。
大多数一致性协议将通信拆分为缓存行大小的事务，通常每个事务为 64 字节。每个缓存行还要携带：
地址
事务标识符
顺序信息
响应跟踪信息
一致性元数据
传输大型张量或特征图时，这些协议开销需要重复成千上万次。因此，在 AI 工作负载中，有效载荷只能占据部分传输带宽，而协议开销会消耗越来越多的 die-to-die 带宽。
一些一致性协议已经针对非一致性突发流量进行了优化，但作用仍然有限。例如，这些机制通常只能覆盖少量传输节拍（beat），无法充分降低超长流式数据传输的协议开销。
随着未来汽车 AI 系统内部的加速器带宽达到 TB/s 级，为每个缓存行反复传输元数据将越来越低效。
现有方案的局限
目前已有多种非一致性 die-to-die 方案，例如：
AMD/Xilinx AXI Chip2Chip，已用于 FPGA 实现
Open Chiplet Atlas（OCA）提出的 AXI over UCIe（AoU）方案，由 Tenstorrent/OCA 提出
通过高速串行接口传输AXI 的各种专有方案
这些方案将 AXI 接口扩展至 die 边界之外，适合连接外设和控制类 IP，但它们仍然工作在事务层（transaction layer）。
每个虚拟通道中的 NoC 数据包在跨越 die 边界前，都必须先转换为 AXI 事务，到达接收端后再重新构建成 NoC 数据包。
当系统扩展至多个芯粒上的数十个AI引擎时，这种反复转换会增加不必要的延迟、缓冲需求和实现复杂性。
图 1：物理 AI 应用中的 Multi-Die 互连
NoC-to-NoC 直接通信
一种更自然的架构是：让 NoC 本身跨越多个 die。
NoC 不再终止于芯粒边界，而是通过 die-to-die 接口直接传输原生 NoC 数据包，使远端 die 成为同一逻辑网络的一部分。
这种方式具有几项重要优势：
减少协议转换:数据从生成端到接收端始终保持分组化，无需反复转换为缓存行事务和AXI 接口。协议开销可以分摊到长数据流，而不是在每个缓存行上重复产生。
支持多种流量共: 通过虚拟通道，控制流量、实时传感器数据、AI 推理流量和大批量 DMA 传输可以共享同一个物理die-to-die连接，同时保持QoS。
延续现有NoC 能力：路由、仲裁、拥塞管理和QoS机制可以自然扩展至多个die。
支持多种协议： 同一个die-to-die 接口可以承载AXI、APB、AHB 或 OCP等不同协议。
最重要的是，die 边界不再是协议转换点，而只是统一 Multi-Die NoC 中的额外一跳。
为什么这对汽车物理 AI 至关重要？
汽车 AI 对互连提出了独特要求。
与云端 AI 系统相比，汽车平台必须在严格的散热限制下，同时满足低延迟、确定性、低功耗和功能安全要求。
未来的集中式汽车计算平台将通过先进封装集成多个 AI 芯粒，分别用于：
视觉处理
神经网络推理
雷达和激光雷达处理
CPU 集群
安全与信息安全岛
内存扩展
网络通信
在这类系统中，最大的流量往往并不发生在 CPU 与内存之间，而是在加速器之间，例如：
摄像头处理 → AI 感知 → 传感器融合 → 规划 → 车辆控制
以及多个神经网络加速器之间的共享张量移动。
这些本质上都是流式数据流应用。使用原生分组化 NoC 传输这些数据流，可以提高带宽利用率，同时降低系统延迟和缓冲需求，从而实现：
更高的持续吞吐量
更低的单位比特传输能耗
随着更多加速器芯粒加入而获得更强的可扩展性
直接暴露内部NoC协议并非理想选择
直接跨die传输NoC数据包虽然具有明显优势，但直接暴露内部NoC协议也会带来问题。
随着 NoC 不断演进，其内部实现可能加入：
改进的路由算法
新的仲裁策略
更多虚拟通道
增强的QoS 机制
更新的数据包格式
即使较小的变化，也可能显著改变内部协议，使长期维持 die-to-die兼容性变得困难。
此外，数据包路由信息可能依赖目标 NoC 的拓扑。一旦拓扑变化，路由向量或寻址方案也可能需要更新。
如果缺乏架构层面的稳定性，每次 NoC 更新都可能影响 die-to-die 接口。 当不同团队独立设计不同 die 时，这一问题尤其突出。
建立不变的 NoC 接口
解决方案并不是直接暴露不断变化的内部 NoC 实现，而是定义一个不变的架构接口。
不变的 die-to-die NoC 接口可以提供专门用于 die-to-die 传输的稳定分组协议，同时允许各芯粒内部的 NoC 独立演进。
这一接口可以：
在统一的 NoC 传输层上支持多种非一致性协议
定义稳定的数据包格式
支持可配置接口宽度，以扩展带宽
通过虚拟通道支持不同流量类型
保留NoC路由语义，同时抽象内部实现细节
将未来NoC功能升级与die-to-die接口隔离
支持UCIe、BoW、PCIe或厂商专有 PHY等不同物理层实现
这样一来，不同产品世代的芯粒可以通过稳定的架构接口互连，同时允许 die-to-die 边界两侧独立演进。
面向未来AI系统的效率与可扩展性
基于这一思路，我们提出一种采用不变 die-to-die NoC 接口的 Multi-Die NoC 分组传输接口。
它不再跨 die 传输缓存行事务，也不再简单扩展 AXI 总线，而是使用稳定、与具体实现无关的数据包格式，直接在芯粒之间传输原生、与协议无关的 NoC 数据包。
该接口可以：
根据未来AI系统的带宽需求灵活配置
通过虚拟通道高效共享不同类型的流量
将 NoC路由无缝扩展至die边界之外
对于物理 AI，特别是下一代汽车计算平台而言，这种方式更符合系统的主要流量模式：高带宽、低延迟的加速器到加速器数据移动。
通过减少不必要的协议转换和事务开销，它能够构建可扩展、支持多协议的 Multi-Die 互连，满足日益复杂的 AI 流水线需求，同时保持安全关键型应用所需的确定性、高效率和长期架构稳定性。
如需了解更多，请访问 arteris.com， 或点击“阅读原文”下载 Arteris Multi-die 解决方案手册。
点击“阅读原文”下载
我们拿到了它的官方中文完整资料包，一次打包给你：
3份PDF资料：
- 《Arteris Multi-Die 解决方案手册（中文）》——完整平台概览：互连 + 一致性 + 集成自动化 + 硬件安全
- 《FlexGen Multi-Die 智能互连 IP 数据手册（中文）》——非一致性 NoC 跨 Die 扩展，AI 驱动拓扑生成，号称生产力提升 10 倍、布线缩短 30%，数据都在手册里
- 《Ncore Multi-Die 数据手册（中文）》——2~4 Die 缓存一致性方案，UCIe 1.1、Mesh/全互连、全局 NUMA，与 Synopsys/UniVista UCIe 完成预集成
1个官方讲解视频：
- 《Scalable Multi-Die Solutions for AI, HPC, and Automotive ADAS》
