Volantis获8800万美元融资，光互连架构欲破AI“内存墙”

【区角快讯】当大模型参数量冲破5万亿大关、直逼10万亿临界点时，行业痛点已从单纯的算力匮乏转向更为棘手的“内存墙”限制。美国初创企业Volantis近日宣布完成8800万美元A轮融资，其核心目标正是构建一种能平衡内存容量与带宽的全新AI推理架构。

该公司首款系统A-1专为超过20万亿参数的巨型模型设计。据称，该系统能让单个用户实现10000 Token/s的生成速度，同时大幅压低推理成本。这一数据意味着什么？当前顶尖的Mythos/Fable大模型虽达5万亿参数级别，但单用户速度仅徘徊在100 Token/s左右。相比之下，A-1不仅规模扩大四倍，速度更是提升了百倍。

若以FP16精度运行20万亿参数模型，需消耗40TB内存。即便搭载最强的Verra Rubin芯片，也难以满足如此庞大的需求，更遑论维持万级Token/s的高速输出，且成本高得令人咋舌。Volantis的解决方案在于大量应用光互连技术，将分散内存整合为统一池化资源。其单lane速率达24 Gb/s，光互联带宽宣称超250 TB/s（官网标注240 TB/s），远超传统HBM带宽十倍以上——尽管公司宣传材料中“提升两个量级”的说法略显夸张。

除带宽飞跃外，该技术还实现了体积缩小2500倍，能效显著优化，单bit能耗远低于1 pJ/bit，容量可达10TB，各项指标均大幅超越现有光互联水平。真伪与否，时间自会给出答案。Volantis计划于2027年向客户交付首批集成推理引擎，届时市场将检验这套新架构是否含有水分。