
因为公众号平台更改了推送规则。记得点右下角的大拇指“赞”和红心“推荐”。这样每次新文章推送,就会第一时间出现在订阅号列表里。

FMS 2026于8月4日在圣克拉拉会议中心开幕,并持续至8月6日。三天中核心的讨论议题决定未来十年AI推理基础设施的构建方式:究竟是哪种技术能够填补GPU小型、昂贵且高带宽的内存与背后庞大cold storeage之间的空白?以及谁将从这一差距中获利。
这场辩论已有了明确的开场。7月30日,铠侠发布了CM10系列——首款基于其332层BiCS FLASH第10代TLC闪存制造的企业级SSD。这些设备作为首批支持直接冷板液冷而非传统风冷的企业级SSD,在FMS大会上亮相。液冷功能并非新奇特性:随着flash越来越多地与每颗芯片耗电数百瓦的加速器机架共置,热管理已成为与带宽同等重要的结构性问题。CM10系列的E3.S和9.5mm E1型号正是这一趋势的体现。S型封装是专为高密度GPU集群部署而设计的首款企业级SSD,其散热方式采用冷板而非风扇。
CM10采用了PCIe 6.0接口——该接口通过从二进制NRZ信号切换至PAM-4四电平编码,将每通道带宽提升至64 GT/s,并首次在PCIe历史上引入前向纠错功能。与铠侠上一代CM9相比,CM10的顺序读取性能最高可提升约92%,随机读取性能最高可提升约85%。其峰值顺序读取带宽达到28.4 GB/s,随机读取IOPS最高可达629万次。目前铠侠尚未公布CM10的价格和供货情况。这些设备目前正在抽样测试以筛选客户,并首次在FMS展会现场进行公开演示。
Kioxia并非PCIe 6.0市场的唯一参与者。美光的9650于2026年2月进入量产,成为首个商用化的PCIe 6.0企业级SSD;三星的PM1763则于7月8日开始大规模生产。CM10 的独特之处并不在于其接口设计,而在于它结合了BiCS10 332 层NAND(目前市面上密度最高的闪存)和冷板液冷架构——这种架构此前从未在商用企业级 SSD 中出现过。
推动AI 服务器采用PCIe 6.0 的原因
向PCIe 6.0 迁移的动因源于AI 推理中的一个特定算术问题。当LLM为并发用户生成响应时,每次推理过程中都会构建一种称为KV缓存的attention存储结构,用于存储中间计算结果,以避免重复处理先前的token。一个拥有700亿参数、上下文窗口包含一百万个token的模型,单个用户产生的KV 缓存大约为320GB,是NVIDIA H100 GPU 全部高带宽内存容量的四倍。这些数据必须被存储,而最合适的候选方案就是NVMe SSD。
然而,在主动推理期间,将如此大容量的数据传输至该存储层级,会成为瓶颈,因为PCIe 5 的带宽约为每秒14 GB,远不足以满足需求。PCIe 6.0标准x4驱动器的28 GB/s上限改变了这一局面——它并非完全消除瓶颈,而是使flash存储成为AI内存层次中可参与的温区资源,而非冷区的次要选择。工程师在假设Gen 6总能获胜之前必须权衡的技术折衷是FEC延迟开销:前向纠错技术每方向大约增加4到8纳秒的延迟。对于大规模吞吐量工作负载(如加载模型权重、预处理训练数据)而言,这种开销微不足道。但对于对延迟敏感的推理流水线,尤其是关注“首个token响应时间”的场景,该开销则需要进行明确评估。
首日主旨演讲将三星与铠侠置于与NVIDIA 并列的舞台
会议于周二上午8:30开幕,八个大宴会厅同步举行平行技术议程,主演讲环节于上午11:00在 Mission City 大宴会厅开始。首日上午议程在主旨演讲前进行,每小时的分析深度远超大多数完整会议的平均水平。
SanDisk工程师Vishwas Saxena和Mukesh Kumar于上午8:35在Mission City Ballroom举行发布会,介绍一种用于边缘LLM推理中KV缓存复用的分层跨度索引技术。该架构结合了段树、滚动哈希、前缀/后缀Trie以及粗粒度块级哈希索引。初步测量结果显示,在token跨度在推理调用之间发生偏移或错位的部署场景下,预填充延迟降低30%,而KV复用率提升至原来的两倍。
上午8:50,美光公司Rohan Mehta发表演讲,展示实测数据,说明以容量为中心的存储设计,配合有针对性的层级升级,能够同时提升短期AI推理性能和长期资本支出回报。本次演讲涵盖从HBM到NVMe的整个内存层次结构中的层级划分启发式方法,直接回应FMS 2026整体所试图解答的“每层需要多少容量”这一核心问题。
上午的主演讲环节由铠侠SVP Neville Ichhaporia和内存技术营销总经理Katsuki Matsudera共同介绍CM10和BiCS10产品组合,随后英伟达存储技术副总裁Jason Hardy阐述从AI训练向推理迁移如何推动新型数据中心存储设计,包括英伟达的CMX架构,用于共享机箱级键值缓存。三星电子执行副总裁Jin-Yub Lee则介绍了公司以内存为核心的AI基础设施愿景,涵盖下一代HBM和闪存技术,并结合三星在内存、闪存、控制器、晶圆代工及封装领域的综合设备制造优势。
下午的主旨演讲聚焦于推理经济性讨论。SK海力士执行副总裁Chunsung Kim提出了一种分层式内存协同架构愿景,通过加速器上的3D堆叠DRAM、高带宽闪存以及基于CXL的内存池化技术,扩展了传统的内存层次结构,引入新的中间层级。FADU总裁Jihyo Lee与CEO Ehyun Nam发布公司第六代SSD控制器及驱动器产品线,有一款来自fabless控制器制造商的首款完整物理PCIe Gen 6 SSD在展会上亮相。Silicon Motion的Stanley Huang介绍“PerformaShape”——一种专为多智能体AI工作负载设计的下一代企业级SSD控制器架构。
首日活动将于下午5点结束,展览区正式开放,并于当晚6点在FMS剧院举行“展会最佳奖项”颁奖典礼。
BiCS10的332层架构对存储密度的实际意义
Kioxia CM10的技术基础是BiCS FLASH第10代技术,这是该公司第十次迭代其“Bit Cost Scalable 3D NAND堆叠”技术。与当前第8代产品采用8片芯片垂直堆叠218层存储单元不同,BiCS10通过CMOS键合阵列架构实现了332层,该架构在独立晶圆上分别制造逻辑电路和存储单元阵列,再进行键合集成。这种分离使得逻辑层可以基于专为电路优化的先进CMOS工艺节点进行构建,而存储阵列则可专注于提升密度——这在结构上优于将两者同时集成于同一晶圆的设计。
其结果是每芯片可提供1太比特的数据传输能力,位密度达到每平方毫米29吉比特,相比BiCS8提升了59%。CM10系列将根据外形尺寸提供从1.60 TB到61.44 TB的不同容量。高读写密集型版本支持每天一次全盘写入;混合使用型号则支持每天三次全盘写入。
从推理基础设施的角度来看,密度提升与速度提升同等重要。更高的位密度意味着每个SSD、每个机架单元可拥有更大的KV缓存容量,从而使基础设施团队能够以比前代闪存更少的物理SSD、更低的功耗、冷却需求和空间占用,实现既定的上下文窗口支持目标。
CXL的超大规模突破:美光宣称生产测试速度提升5至10倍
尽管PCIe 6.0闪存主导了本次产品发布的核心内容,但CXL联盟将在FMS 2026上举办一场完整专题展示。该展示所呈现的数据挑战了“NVMe SSD是所有KV缓存存储的最佳解决方案”的普遍假设。
美光Luis Ancajas计划在会上介绍一种基于CXL的分拆内存架构的初步成果。该架构通过美光的FAMFS(a fabric-attached memory file system ),将CXL JBOM(仅一簇内存模块)与NVIDIA的Dynamo推理堆栈相连接,使CXL连接的DRAM可作为热内存池运行,并通过标准文件系统语义进行访问。该架构的初步结果显示,在高性能计算(HPC)和数据中心环境中,其性能比传统以存储为后端的KV缓存实现快5到10倍。
这一数字的意义在于其结构性影响。如果CXL连接的DRAM在可衡量的规模下能提供比NVMe SSD高5到10倍的有效KV缓存性能,那么工程问题就会从“哪种SSD的缓存速度足够快”转变为“在何种上下文长度和批量大小下,SSD成为合适的存储层级,以及在什么情况下CXL DRAM占据优势”。三星研究人员还提出了一种基于XGBoost的hot-page放置框架,该框架可根据预测的访问模式主动将内存路由至DRAM。由CXL联盟组织的专题讨论会中,Meta公司的硬件系统工程师分享了在超大规模生产环境中使用CXL内存所获得的实际经验。
这些成果并不能使美光Ancajas的主张成为公认的标准基准——这些是公司发布的初步结果,而真正的采购决策标准仍需依赖在实际生产规模下的独立验证。但关于CXL的FMS会议,是迄今为止最清晰地阐述CXL连接DRAM是否能与NVMe闪存竞争作为热KV缓存,还是仅适用于特定高频推理模式的边缘技术的公开论述。
第二天亮点:Neo-Cloud经济模型与HDD生存论
周三的活动于上午8:30开始,延续前几场会议所奠定的两个技术深度方向:大规模AI存储的经济性,以及HBM替代方案在完整内存层次结构中所扮演的角色。
由ZeroPoint Technologies的Nilesh Shah主持的专题讨论会题为“存储即服务:新云经济与超大规模控制”,全面梳理AI存储体系,从超大规模捆绑式存储即服务,到WEKA、VAST Data、DDN和Hammerspace等平台提供的NeoCloud解决方案,再到软件定义存储层及组件供应商。核心问题是,在AI时代存储模式逐步成型的过程中,谁掌握利润空间,谁掌控性能表现。
ScaleFlux CEO钟浩与NVIDIA存储技术副总裁Jason Hardy共同主讲周三的主旨演讲,探讨存储容量已成为AI最关键的瓶颈之一,以及闪存存储、CXL内存与软件定义分层技术的结合如何在不显著增加成本的情况下扩展AI计算流水线。
Marvell副总裁Mark Kuemerle的主旨演讲《AI的意外架构》探讨了AI基础设施如何自然产生了一些非刻意设计的建筑性选择,并分析了行业未来的发展方向。另一场独立的Marvell专题讨论则指出,HDD在AI数据中心中仍具有经济上的不可替代性:具体而言,闪存无法经济高效地满足冷存储、归档和大规模训练数据所处的容量层级;同时,HDD的密度持续提升,使其在闪存占据高性能市场的同时,依然保持其重要地位。
周三上午11:30,在主旨演讲舞台举行FMS女性科技领袖奖颁奖典礼。
第三天:当Flash成为Memory,重温五分钟法则
周四的活动以一场堪称FMS 2026最具技术挑战性的环节拉开序幕:ScaleFlux首席科学家张彤教授与NVIDIA的Vikram Sharma Mailthody将共同呈现对“五分钟法则”的重新探讨。这一源自1980年代的基础性启发式方法,用于判断在经济上是否应将数据保留在内存中,而非将其存储到磁盘上。
最初的五分钟法则指出:如果一个页面的数据平均每五分钟被访问超过一次,那么将其保留在内存中比每次从磁盘重新加载更经济。然而,随着每一代存储和内存技术的发展,该法则的经济合理性已发生巨大变化。如今,NVMe SSD的延迟已降至微秒级,而非毫秒级;同时,AI推理中的KV缓存块访问模式也与传统数据库页面截然不同。因此,经济上合理地划分内存与存储边界的问题尚无定论——而FMS会议明确提出,要重新绘制这一边界。
ScaleFlux在周四上午的另一场会议中,从基础设施经济的角度探讨了HBM成本上限问题:张彤教授的演讲《突破AI推理中的HBM成本壁垒》分析了HBM作为大规模AI推理主要存储层级的经济局限性,并提出了可实现规模化降本的架构替代方案。本次会议与“五分钟规则”共同构成FMS 2026年对以HBM为中心的AI基础设施叙事最接近的正式挑战。
贯穿三天会议的核心主题是:三星、SK海力士和美光正大力扩展HBM产能——三星计划在2026年将HBM产能扩大约50%,而SK海力士则承诺投入比此前基础设施投资多出数倍的资金。与此同时,TrendForce将2026至2028年定义为一个“结构性超级周期”,在此期间,HBM4接口的2048位技术复杂性和先进的NAND层堆叠设计,即使投资持续增加,也有效限制了全球比特增长速度。Objective Analysis 的 Jim Handy 在周二探讨,当超大规模AI支出最终趋于放缓时会发生什么,以及此前的半导体周期表明,当以HBM为主的模式遇到供应或成本限制时,市场将如何重新定位。
汽车、工业与边缘AI 获得专属赛道
专设的汽车应用赛道于周二至周四举行,涵盖AI在物理部署中如何改变数据中心以外存储需求的相关主题。Silicon Motion 的演讲聚焦机器人出租车、自动驾驶汽车和人形机器人等场景下,AI 对存储需求的物理转型。三星的汽车专题探讨利用 AI 动作自动化提升汽车闪存的功能安全与网络安全框架。另一场 Silicon Motion 的专题则介绍针对无法拆卸的焊接存储设备的固件恢复架构——这是任何汽车或工业部署中都面临的一个实际难题,因物理驱动器更换不可行。
展会现场值得关注的亮点
对于关注PCIe 6.0升级进展的工程师而言,Kioxia CM10的公开演示是为期三天活动中最受瞩目的环节——这是买家和工程师首次有机会在公共场合实地查看并测试一款基于332层BiCS10 NAND、采用冷板液冷技术的企业级SSD。此次演示也解答新闻稿中未提及的一个问题:Kioxia在CM10上的工程设计选择,是否能在2027年生产部署前,由积极验证Gen 6驱动器的工程师们进行严格审查时依然可靠?
常见问题
什么是FMS 2026?它为何对AI基础设施至关重要?
FMS 2026——第20届“未来存储与内存”大会——是业界工程师、架构师、采购负责人及投资者汇聚一堂的主要平台,共同探讨AI数据中心的内存与存储技术。今年尤为重要,是因为AI推理内存领域正面临三大技术路线的竞争:HBM用于GPU附近最快的性能层;CXL连接的DRAM用于温区扩展;PCIe 6.0 NVMe闪存则用于KV缓存和冷存储层。FMS 2026上的专题演讲、主题发言和产品演示,首次清晰地向公众展示了各技术方案的优劣所在,以及当前竞争格局中各方的优势与劣势。
什么是Kioxia CM10,它与其它PCIe 6.0 SSD有何不同?
Kioxia CM10系列是Kioxia首款同时采用PCIe 6.0接口和公司332层BiCS FLASH第10代TLC存储器的企业级SSD。其最显著的特点在于E3.S和9.5mm E1.S形态因子中支持直接冷板液冷技术——这是首个具备该功能的企业级SSD,专为高密度GPU集群部署而设计,适用于空气冷却无法满足存储需求的场景。CM10在顺序读取方面达到28.4 GB/s,随机读取IOPS高达629万,分别比Kioxia上一代CM9提升了约92%和85%。目前Kioxia正在对CM10进行客户试用以筛选目标用户;美光的9650和三星的PM1763已提前投入量产,现可采购。
什么是KV缓存?为什么它的存储需求正在改变企业级SSD市场?
KV缓存是LLM在推理过程中构建的attention内存,即中间计算结果,使模型能够避免在每次生成新token时重新处理长对话中的先前部分。在一个拥有100万个token上下文窗口、700亿参数的模型中,单个用户的KV缓存可能超过320GB,远超GPU高带宽内存的存储容量。这种溢出数据必须被转移到存储层级——如NVMe SSD或连接CXL的DRAM上。在大规模部署时,如何在不破坏推理延迟和SSD寿命的前提下完成这一转移,是FMS 2026技术项目中的核心工程挑战。标准企业级SSD并非针对KV缓存写入模式而设计,因为不同会话和租户之间的KV块生命周期差异较大,导致写入放大效应异常显著。因此,专门针对此类工作负载开发的高性能SSD,具备更高的FDP流数和提升的DWPD评分,正逐渐兴起。
什么是CXL内存,它如何与NVMe SSD在AI推理存储方面竞争?
CXL是一种基于PCIe物理层的缓存一致内存互连标准。CXL Type 3设备(例如CXL JBOM)可为服务器的内存地址空间提供超出处理器原生DIMM插槽容量的DRAM存储能力,且可通过标准的load/store指令访问,无需CPU额外开销。对于AI推理而言,这一点至关重要:CXL连接的DRAM以内存延迟(纳秒级)运行,而NVMe SSD则以存储延迟(微秒级)运行。美光公司的Luis Ancajas在2026年FMS大会上展示了初步成果,表明通过美光FAMFS文件系统管理、并集成NVIDIA Dynamo推理框架的CXL连接DRAM,在传统存储支持的KV缓存基础上,速度提升了5至10倍。然而,本次会议将无法完全解答的问题是:在何种上下文窗口大小和推理批次规模下,NVMe flash相较于CXL DRAM才成为经济上更优的选择。
原文链接:
https://www.techtimes.com/articles/322686/20260802/fms-2026-opens-tuesday-liquid-cooled-pcie-60-ssds-debate-ai-memory-tiers.htm
高端微信群介绍 | |
创业投资群 | AI、IOT、芯片创始人、投资人、分析师、券商 |
闪存群 | 覆盖5000多位全球华人闪存、存储芯片精英 |
云计算群 | 全闪存、软件定义存储SDS、超融合等公有云和私有云讨论 |
AI芯片群 | 讨论AI芯片和GPU、FPGA、CPU异构计算 |
5G群 | 物联网、5G芯片讨论 |
第三代半导体群 | 氮化镓、碳化硅等化合物半导体讨论 |
存储芯片群 | DRAM、NAND、3D XPoint等各类存储介质和主控讨论 |
汽车电子群 | MCU、电源、传感器等汽车电子讨论 |
光电器件群 | 光通信、激光器、ToF、AR、VCSEL等光电器件讨论 |
渠道群 | 存储和芯片产品报价、行情、渠道、供应链 |

< 长按识别二维码添加好友 >
加入上述群聊

带你走进万物存储、万物智能、
万物互联信息革命新时代
