从光互联到光计算，光的时代要来了！

点击蓝字

关注我们

因为公众号平台更改了推送规则。记得点下右下角的大拇指“赞”和红心“推荐”。这样每次新文章推送，就会第一时间出现在订阅号列表里。

光子学正逐渐成为AI时代计算的基础扩展层。过去主要在电信和长途网络领域讨论的光技术，如今已广泛出现在半导体生态系统中：存在于数据中心内部、封装边缘、芯片之间、机架之间，甚至直接融入计算系统本身。原因很简单：计算中最难解决的问题已不再局限于晶体管层面，而是属于系统级挑战——如何以更低的延迟、更少的功耗和更强的安全性，在更远的距离上传输更多数据。

这一转变正在改变行业对摩尔定律的理解。几十年来，技术进步一直以单芯片上可集成的元件数量来衡量。而AI正在打破这一定义。如今，性能的新单位往往不再是一个处理器，而是集群。LLM和生成式AI系统通常能超越单台服务器的资源，需要多个加速器协同工作，如同一台计算机。在这种环境下，性能扩展受限的因素不仅包括原始计算能力，还包括通信和内存访问。

由于AI计算方式的变革，光互连技术正在兴起。训练、推理、检索、推理以及智能应用对内存、网络和加速器提出了不同的性能要求。随着集群规模扩大，GPU和AI加速器必须快速交换参数、激活值、键值缓存和中间结果，以保持高利用率。每个闲置的加速器都意味着昂贵的硅片和功耗被浪费在无用操作上。在短距离互连中，铜线仍具优势，但随着带宽增加和距离延长，若不牺牲信号损耗、功耗、密度或复杂度，电气信号传输将难以实现有效扩展。

内存正逐渐成为关键的战场。虽然AI系统常被描述为对计算资源需求大，但现代推理任务对内存的需求日益增长。长上下文模型和推理工作负载会生成并重复使用庞大的KV缓存。而具有自主能力的AI进一步加剧了这一压力，要求系统在多次推理步骤中保持上下文、协调多个工具和工作流程，并支持大量并发用户或自主代理。当内存受限时，系统可能会缩短上下文、通过较慢的层级传输数据、降低并发性，或接受较低的输出质量。其商业影响是直接的：每瓦特、每元以及每单位部署基础设施所产出的高价值token数量减少。

正因如此，内存无法完全保持本地化。连接到加速器的高带宽内存虽然宝贵，但容量有限且成本高昂。随着工作负载的增长，系统需要访问更大的共享内存池，而无需将每个字节都通过缓慢的存储路径传输。诸如CXL之类的协议，能够实现对聚合和解耦内存的低延迟、一致访问。结合光网络技术，这种模式可将内存扩展至多块板、服务器和机架之间，同时保留CPU、GPU、AI加速器和FPGA等设备所需的语义结构。光学技术能将原本孤立的本地资源转变为可组合的系统资源。

同样的逻辑也适用于计算扩展。AI工作负载依赖于分布式系统中共享内存的布局和高速通信，而不仅仅局限于单个设备内部的计算。只有当加速器阵列能够被编程并作为一个协调一致的机器进行管理时，它们才具有实际用途。光链路和光开关在提供所需带宽、延迟、覆盖范围以及拓扑灵活性方面表现出色，能够连接不同层级的设备：芯片到芯片、封装到封装、机架到机架，以及集群到集群。随着时间推移，这表明数据中心的拓扑结构应围绕工作负载来设计，而非受限于铜线走线和静态布线。

光计算带来了另一层优势。并非所有工作负载都适合光学技术，但AI和科学计算中的许多高价值操作主要依赖线性代数和并行数据传输。光处理器能够以极低的延迟和优越的能耗特性执行某些矩阵和向量运算。最成功的方案很可能是以工作负载为导向，而非以物理机制为导向：通过将光处理与电子元件、软件栈、编译器和应用框架相结合，使工作负载中合适的部分在合适的介质中运行。

光子学在速度和功率之外还具有许多被低估的优势。光媒体不受电磁干扰影响，因为信号是通过光而非电流传输的。此外，它们不像金属互连那样辐射电磁信号。这一点在电磁噪声环境、国防应用、医疗基础设施以及任何存在信号泄漏或干扰风险的场合都至关重要。虽然没有任何技术能完全保证安全，但光链路可以减少某些电磁旁路，并且相比导电介质，使被动拦截变得更加困难。

光子学的下一阶段将由其广泛性所决定。可插拔光学器件、CPO、光I/O芯片、光路开关、支持CXL的存储网络以及光计算，均针对同一系统级问题的不同方面展开应对。AI已暴露出仅靠电子传输数据的局限性，但其影响远不止于此。随着数据增长速度超过传统基础设施所能承受的传输能力，尤其是在数据中心、先进存储系统和下一代工作负载对带宽、延迟、功耗、覆盖范围和安全性的要求达到前所未有的水平时，光子学将继续扩大其作为AI时代计算基础扩展层的作用。

原文链接：

< 长按识别二维码添加好友 >

加入上述群聊

长按并关注

带你走进万物存储、万物智能、

万物互联信息革命新时代

微信号：SSDFans