HBF首个标准来了，2038年需求将超越HBM

公众号记得加星标⭐️，第一时间推送不会错过。

HBM之父此前称：AI存储时代将由HBF主导，2038年需求超越HBM。

今日，SK海力士与闪迪共同对外发布高带宽闪存HBF（High Bandwidth Flash）首版完整标准规范，同步披露全套性能指标、生态伙伴布局与中长期技术路线。这套规范通过开放计算项目OCP正式对外公开，定位面向全行业的开放式通用标准，并非单一企业私有技术，将为AI基础设施搭建全新存储架构底座。

随着大模型持续迭代，AI推理业务规模化落地，算力系统长期面临内存墙桎梏。传统架构中，HBM带宽优异但容量受限、成本高昂；普通SSD容量充足，但传输带宽难以匹配GPU、CPU实时数据吞吐需求。全新HBF被定义为架设在HBM与企业级SSD之间的新型存储层级，融合两项技术优势，既拥有接近HBM的数据传输速率，又依托成熟NAND闪存实现大容量扩展，随着AI推理业务普及，待处理数据量暴涨，HBF有望同时解决带宽不足、容量难以扩展两大难题。

此次标准落地，是双方标准化合作的重要里程碑。早在2025年8月，SK海力士与闪迪启动HBF联合标准化工作，并在2026年2月组建HBF联盟，历经六个月推进完成首套规范定稿。根据官方披露技术参数，HBF设置8层、16层两种NAND堆叠方案，单颗最高容量可达512GB；带宽划分Grade1至Grade3三个档位，可实现0.4TB/s至3.0TB/s弹性扩展。互联层面，HBF原生采用UCIe通用芯粒互联标准，能够灵活对接GPU、各类CPU与AI加速器，打破不同计算芯片之间的互联壁垒，适配多样化异构算力架构。

生态建设层面，谷歌、Tenstorrent已正式加入HBF联盟，全程参与标准论证与技术验证工作。SK海力士表示，将持续依托开放模式吸纳产业链上下游厂商，不断壮大联盟规模，加速HBF在数据中心AI场景商业化落地，持续完善技术生态，提升产业普及度。

SK海力士解决方案开发负责人Kim Chun-sung以层级内存（Tiered Memory）架构为核心，提出适配未来AI算力集群的分层存储解决方案。

SK海力士首次对外展出第十代（V10）375层4D NAND晶圆及样品。相比前代产品，新品单位功耗性能提升2.5倍，高度契合数据中心AI基础设施高能效运行要求。企业同步公布量产计划，预计2027年初推出基于375层4D NAND打造的高性能大容量企业级SSD（eSSD），巩固自身在AI NAND闪存赛道的竞争优势。不过官方暂未对外公布HBF芯片明确量产时间表。

KimChun-sung在发布现场表示：AI应用快速普及，我们必须重新设计整套数据处理体系。依托HBF技术，SK海力士将消弭内存与存储之间的边界，助力打造能够提升系统整体运行效率的全新硬件架构。

据了解，分层存储架构已是AI基础设施发展明确趋势。当前行业主要依靠HBM承载算力侧热数据，依靠SSD承载海量冷数据，两者之间长期存在性能断层。HBF标准的推出填补了中间层级空白，尤其利好大模型推理业务。依托NAND成熟产业链，HBF有望平衡性能、容量与成本，给云厂商、AI企业提供全新硬件选型思路。抱歉抱歉,确实搞错了——我以为写的是全角,实际是半角。这回严格用全角:

HBM在过去3年成为AI芯片的绝对核心，但当AI模型规模进入万亿级、推理场景快速扩张，原本由HBM承担的容量与带宽需求全面挤爆，使存储系统瓶颈逐渐从带宽不足转向容量不够，因此，由SanDisk所提出、并获SK海力士与三星同步跟进的HBF，被视为有机会补上HBM无法跨越的容量与成本限制，并在AI inference时代扮演全新角色。

从技术角度来看，HBF的概念并不是把SSD直接接在GPU旁，而是让NAND Flash以像HBM那样的方式运作。传统NAND的读写需经过PCIe、控制器等层层转接，因此延迟高、带宽有限；但HBF改变了NAND的使用方式，把多层NAND像HBM一样垂直堆叠，并通过高密度的互连让数据能被并行读取。换句话说，它不是更快的SSD，而是一种被重新设计成高带宽存储的NAND。这让HBF能够保留NAND的优势，如容量大、成本低、可堆叠等，却在结构上更接近内存级的高速存取。

SanDisk此前在投资日上展示的原型结果即让市场为之一震。通过BiCS 3D NAND堆叠与CBA（CMOS Bonded Array）架构，16层HBF的容量已可达到HBM的8到16倍，同时维持相近的成本带。HBM设计因DRAM堆叠高度有限，天生难以突破容量天花板，但NAND能以百层甚至千层堆叠扩展存储密度，使HBF在不大幅增加制程成本的前提下，轻松跨过TB级别。

一颗HBM GPU通常搭载8颗HBM，顶多提供192GB DRAM；但SanDisk表示，HBF可让单一GPU拥有高达4TB的非易失性存储器（NVM）。以GPT-4为例，1.8万亿参数的模型需要3.6TB内存才能完整载入，在传统架构中，必须拆分至多颗GPU、依赖频繁跨GPU数据搬移，造成延迟与能耗；而若使用HBF，整个模型得以直接在单颗GPU上驻留，颠覆现有多GPU sharding的推理架构，让大模型推理变得更快、更省电，也更具成本效益。

这种巨大容量+高带宽的组合，使HBF被视为能推动AI手机与边缘AI前进的关键因素。过去AI智能手机难以突破瓶颈，是因为DRAM容量远不足以让百亿级模型在端侧设备执行，只能依靠缩小版模型勉强运作。SanDisk执行副总裁兼首席技术官Alper Ilkbahar指出，未来一颗HBF芯片就能容纳约64GB容量，足以塞入640亿参数的MoE中型模型。换句话说，更完整的大模型推理将有机会在边缘设备本地实现，为AI手机、AI眼镜、边缘计算设备开启新叙事。

回到存储产业本身，HBF能撬动HBM位置，并非因为它更快，而是它正好补上AI时代最痛的那块容量深渊。HBM高成本、低良率及堆叠高度的技术瓶颈使其很难在TB时代担任唯一存储支柱。AI推理需要的是能容纳更大KV缓存、更深上下文、更复杂多模态数据的大容量近端存储器，而HBF恰恰在此提供了足够大、足够快、足够便宜的平衡点。

尽管HBF的出现让产业看见突破AI存储容量瓶颈的新希望，但它能否真正撼动HBM的核心地位，仍必须回到技术现实本身。SanDisk与SK海力士都坦言，HBF并不是HBM的直接替代方案，原因在于NAND与DRAM的先天架构差异，使HBF再怎么强化带宽，也无法跨越延迟的物理限制。

HBM作为DRAM架构，具备极低随机访问延迟与超高带宽，才能承载GPU在模型推理或矩阵运算时的高速数据交换；而NAND的访问时间远高于DRAM，就算通过垂直堆叠与并行读写改善带宽，其反应速度仍无法支持实时计算。也因此，HBF的定位从一开始就不是取代HBM，而是填补HBM在容量与成本上的巨大缺口。

在实际应用上，这样的差异决定了两者的边界。HBM是GPU在训练与推理时最核心的高速工作内存，所有计算过程中的权重、模型每一层产生的中间结果（activation），以及大量矩阵计算所需要的临时数据，都必须存放在延迟最低的内存中，HBF无法胜任这种高速互动；但当模型尺寸突破TB级、KV缓存需求急速膨胀时，HBM再快也塞不下这些数据，这时，HBF的容量便成为必需品。换句话说，HBF是为了让模型放得下、而HBM是为了让模型跑得动，两者在架构中的关系是互补，而非替代。

被称为高带宽内存（HBM）之父的韩国科学技术院（KAIST）金正浩教授预测，能超越HBM限制的高带宽闪存（HBF）最快将于明年底商用化，并在大约十年后的2038年，HBF的市场需求将超越HBM。这意味着AI的进化正从计算中心，转向处理庞大记忆的内存中心架构。

金正浩教授今年2月在首尔举行的HBF研究介绍及技术开发战略说明会上表示：AI时代将迎来每人需要100TB（太字节）内存的“内存饥渴”时代，并解释：负责速度的热内存将由HBM担纲，而存储庞大历史信息的冷内存则由HBF负责。HBF是一种将断电后仍能存储数据的NAND闪存进行垂直堆叠，以同时实现大容量与高速数据传输（高带宽）的下一代存储技术。

根据金教授的说法，随着AI进化为能同时处理文字、图像、语音、视频的多模态AI，以及超越简单问答、能执行连续性任务的智能体AI，需要处理的数据量与复杂性正爆炸性增长。特别是在AI理解上下文并生成文字的过程中，会产生一种称为键值缓存（KV Cache）的数据，其规模会随着上下文长度增加，从数百GB（吉字节）扩大到TB（太字节）级别。金教授指出：HBM无论如何堆叠，其容量极限约在200GB左右，并强调：当KV缓存增长到数百GB甚至TB级别时，单靠HBM在结构上将无法负荷。

HBF被提出作为此问题的解决方案。金教授将HBM与HBF的关系比喻为图书馆。他解释：如果HBM是放在书桌上的参考书，那么HBF就是旁边的书架。换言之，他预测一种混合内存架构将成为AI计算的新标准：实时计算所需的数据由HBM负责，而长期需要参考的庞大记忆则由HBF负责。

此技术转变也与全球AI生态的动向相符。GPU龙头企业英伟达（Nvidia）已宣布，将在其下一代架构Vera Rubin中，纳入用于存储AI对话上下文的专用平台推理上下文内存存储（Inference Context Memory Storage，ICMS）。业界普遍推测，HBF极有可能被采用为此平台的核心存储。

金教授也提出了未来十年的HBF发展蓝图。他说明，HBF将在2027年底至2028年左右开始初期商用化，应用于AI推理工作，并逐渐进化为与HBM整合的混合内存架构。根据他的研究，HBF市场规模预计将在2038年超越HBM市场。