Marvell:CXL交换机实现48TB AI大内存!

SSDFans 2026-08-12 08:02
Marvell:CXL交换机实现48TB AI大内存!图1


点击蓝字
关注我们



因为公众号平台更改了推送规则。记得点下右下角的大拇指“赞”红心“推荐”。这样每次新文章推送,就会第一时间出现在订阅号列表里。

因为公众号平台更改了推送规则。记得点右下角的大拇指“赞”红心“推荐”。这样每次新文章推送,就会第一时间出现在订阅号列表里。


Marvell:CXL交换机实现48TB AI大内存!图2


FMS 2026展会上,Marvell宣布扩展其AI内存基础设施产品组合,涵盖SSD控制器、CXL内存扩展与内存池以及光子共享内存。此次发布旨在解决代理式AI推理中的KV缓存瓶颈,并标志着CXL正从超大规模服务器的评估阶段迈向实际部署。

本文内容涵盖:

Marvell2026FMS展会上宣布,将AI内存基础设施产品线进一步拓展至Bravera SC6 PCIe 6.0 SSD控制器、Structera CXL内存扩展与内存池,以及Photonic Fabric光子共享内存。

Bravera SC6的性能是PCIe 5.0 Bravera SC5的两倍,支持来自多个供应商的NAND闪存,预计将于2026年第四季度开始试产。

Marvell报告,Structera的基准测试结果显示,在GPU内存池配置下,推理吞吐量最高提升4.8倍,首次获取token时间缩短了82.7%



新闻:84日,Marvell科技在FMS 2026展会上宣布了其AI内存基础设施产品组合中的新产品,该产品线分为三个层级:采用Bravera SC6 PCIe 6.0 SSD控制器的服务器级AI存储;通过Structera系列实现机架级CXL内存扩展与内存池;以及使用Photonic Fabric内存模块、网卡和chiplet构建的机柜级光共享内存。该公司表示,这一产品组合旨在应对代理型AI推理中日益增长的KV缓存需求,因为内存容量和带宽正逐渐限制GPU利用率和token输出量。

Bravera SC6控制器支持PCIe Gen 6NVMe 2.2标准,性能是广泛部署的Bravera SC5的两倍,可从多个供应商提供NAND存储器,16通道最高支持3,600 MT/s的数据传输速率。该控制器集成了15个嵌入式Arm核心,包括12Cortex-R82核心,预计将于2026年第四季度开始试产。Photonic Fabric技术可在相距最远达50米的多台XPU和机架之间构建共享内存层,实现高达32TB的热KV缓存卸载,并据Marvell称,在现有功耗范围内可将token吞吐量提升23倍。

“随着AI扩展,内存必须更加独立于计算资源进行扩展,以便将资源部署到能带来最大价值的地方,Marvell公司定制云解决方案执行副总裁兼总经理Will Chu表示。配套博客详细介绍了Structera CXL产品组合:面向超大规模云计算厂商交付的Structera X扩展器、搭载16Arm Neoverse V2核心的Structera A 2504近内存加速器,以及可连接1632台主机、支持高达48TB存储池Structera S 30260 CXL 3.x交换机。

Marvell通过单个CXL交换机将AI内存基础设施扩展至48TB 

分析师观点:Futurum近期对硅芯片的分析追踪到一个关键结构性变化:推理已成为主导工作负载,且受限于内存。MarvellFMS 2026产品组合是迄今为止最完整的芯片实现方案。该公司预计,AI内存基础设施将成为一个独立的采购类别,拥有专属控制器、交换机和光模块层级,而能够覆盖全部这些组件的供应商将在每机架中获得不成比例的市场份额。

超大规模云厂商需求推动CXL从评估阶段进入部署阶段

Marvell表示,Structera X 2404 2504 平台目前已开始向超大规模云服务商交付,标志着该公司所称的CXL 采用“从评估阶段进入在超大规模环境中的实际部署”。

该产品设计体现了特定的经济优势。基于DDR4Structera X 2404允许运营商将现有DDR4 存储资源重新利用于当前一代服务器中,以远低于配置全新DDR5 的成本,将闲置内存转化为可使用的CXL 连接容量。而基于DDR5 2504 则面向新构建系统,适用于带宽需求更高的场景,此时DIMM 成本更具合理性。两种型号每控制器均支持DDR 通道,并通过标准CXL 接口连接,使机架架构师能够在不更改主机CPU 或平台固件的情况下混合扩展容量。

Marvell报告称,在使用Structera 的 GPU 内存池配置下,推理吞吐量最高可达4.8 倍,首次获取token时间缩短82.7%。这些数据为厂商发布的基准测试结果,未提及具体超大规模云服务商名称,也未量化部署规模,因此生产规模验证仍需等待。  

CXL 附加经济性或将推动AI 内存基础设施成为高容量硅芯片

控制器的数学设计使其超越了普通协议故事。每台Structera X 控制器支持DDR 通道:基于DDR5 2504 控制器每个控制器可支持DIMM,而基于DDR4 2404 则每个通道最多支持DIMM,总共可达12 个。卡的容量取决于配置:一个轻量级的4-DIMM 配置大约提供512GB 存储空间,需要每增加1TB 扩展容量使用两张卡;而一个满载的2504 配置,使用128GB RDIMM 卡,单张卡即可接近1TB 容量。

每个插槽的内存需求正朝着这些数字攀升。拥有长上下文窗口的万亿参数级模型,使每个CPU的工作集容量可达数TB。在每个插槽占用8TB内存的情况下,单台服务器可根据DIMM密度支持816CXL扩展控制器。这一估算由Futurum基于Marvell公开发布的通道和DIMM配置得出,应视为上限估计,需结合实际部署数据进行调整。

这意味着,十年来CXL控制器可能开始类似于网卡:一种按服务器数量扩展的连接类别,其单位存储容量随服务器出货量而增长。Futurum预测,到2029年数据中心CPU市场规模将达到766亿美元,同比增长34.9%,且每个CXL扩展器都连接到一个CPU插槽。那些将CPU重新置于AI基础设施核心位置的代理型工作负载,会同时带动内存扩展芯片的使用。

Structera系列的其余产品进一步深化了这种连接模式。Structera A 2504 加速器可将16Arm Neoverse V2 核心以3.2 GHz频率运行,支持高达4TB的内存容量和200 GB/s的带宽,适用于近内存工作负载,如深度学习推理(DLRM)和向量搜索;而Structera S 30260 集线器可连接1632台主机,提供48TB共享内存,总带宽达4TB/s,单向往返延迟低于460纳秒。

产品组合广度与传统GPU关联内存及拥挤市场形成对比 

竞争格局正在迅速演变。Astera Labs Leo CXL 内存控制器销售至同一类超大规模数据中心账户,XConn 提供与Structera S 竞争的CXL 集线器,Montage Technology 则提供CXL 内存扩展控制器;三星、SK海力士和Marvell则提供CXL 内存模块,并作为Marvell 的认证合作伙伴。Structera 的互操作性已在英特尔XeonAMD EPYC 和 Arm 平台上得到验证,从而确保Marvell 在不同CPU 厂商之间保持中立立场。

当前主流厂商的应对策略是架构层面的。NVIDIA KV 缓存置于NVLink 域内,使用HBM Grace 连接的LPDDR,其机架级设计为第三方内存层级留下的PCIe 资源极为有限。Photonic FabricMarvell在服务器级别的解决方案,但其32TB共享级别的存储容量需与英伟达高度集成的内存层次结构相抗衡。Bravera SC6凭借其不依赖NAND架构的设计,为超大规模数据中心提供了更友好的选择,契合了这些厂商的采购战略。此外,该公司计划于2026年第四季度开始量产用于2027年推出的PCIe Gen 6服务器平台的固态硬盘。

Marvell目前拥有市场上最广泛的AI内存基础设施产品组合,这种广泛性在超大规模数据中心需要单一合格架构而非拼接式点对点产品时,成为显著优势。然而,CXL软件的成熟度、与本地DRAM之间的延迟差距,以及超大规模厂商自主设计芯片的意愿,都可能压缩该领域整合的时间窗口。我们应密切关注部署披露是否能跟上产品组合的预期。



值得关注的要点:



原文链接:

https://futurumgroup.com/insights/marvell-scales-ai-memory-to-48tb-behind-a-single-cxl-switch-at-fms-2026/






高端微信群介绍

创业投资群


AI、IOT、芯片创始人、投资人、分析师、券商

闪存群


覆盖5000多位全球华人闪存、存储芯片精英

云计算群


全闪存、软件定义存储SDS、超融合等公有云和私有云讨论

AI芯片群


讨论AI芯片和GPU、FPGA、CPU异构计算

5G群


物联网、5G芯片讨论

第三代半导体群

氮化镓、碳化硅等化合物半导体讨论

储芯片群

DRAM、NAND、3D XPoint等各类存储介质和主控讨论

汽车电子群

MCU、电源、传感器等汽车电子讨论

光电器件群

光通信、激光器、ToF、AR、VCSEL等光电器件讨论

渠道群

存储和芯片产品报价、行情、渠道、供应链



Marvell:CXL交换机实现48TB AI大内存!图3


< 长按识别二维码添加好友 >

加入上述群聊


Marvell:CXL交换机实现48TB AI大内存!图4


长按并关注

带你走进万物存储、万物智能、

万物互联信息革命新时代

Marvell:CXL交换机实现48TB AI大内存!图5
微信号:SSDFans



关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
AI 交换机 内存 Marvell
more
越南成Marvell全球第三大研发中心
为何都盯上了Marvell?
Marvell最强交换机芯片:3nm,100.4 Tb/s
谷歌正与Marvell洽谈开发两款AI推理芯片,有望于2027年试产
博通与Marvell获大额 AI 加速器订单,台积电仍是核心制造商
Marvell拟砸数十亿美元,收购Celestial AI
英伟达20亿美元投资Marvell:对人工智能和光互连技术发展有何战略意义?
安世芯片出口松绑,车企疯抢;软银考虑收购Marvell,并与Arm合并;英伟达最新AI芯片对华禁售
Marvell斥资37亿收购XConn
Marvell收购硅光芯片公司
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号