高带宽闪存(HBFD)是一种比 HBM 容量更大的内存,但英伟达不会使用它;相反,谷歌将成为其主要客户。
随着人工智能的蓬勃发展, NAND DRAM 的应用范围也日益广泛。虽然它主要用于固态硬盘 (SSD) 等存储设备,但即将问世的闪存技术 HBF(高带宽闪存)有望在其中发挥重要作用。HBF 是下一代 NAND DRAM 技术,它弥合了 HBM 和 NAND 闪存之间的差距。
HBF 由 SanDisk 和 SK 海力士联合开发,其架构与 HBM 类似,都是将多层 NAND 闪存堆叠在一起。每一层都通过多个 TSV(硅通孔)连接,将所有 NAND 封装熔合到一个单一的堆叠结构中。目前 HBM 的单堆叠容量为 32-64 GB,而HBF 的容量最高可达 4 TB。
就速度而言,HBM 更快,但通过架构优化,HBF 也能够为关键的 AI 任务提供足够的吞吐量。HBF 标准非常适合推理工作负载,而随着智能体 AI 的激增,推理工作负载如今显得尤为重要。更高的容量也弥补了主计算芯片键值缓存的一些限制。
虽然HBF听起来很棒,但业内人士表示,NVIDIA近期并没有采用这项新型DRAM技术的计划,因为他们认为eSSD可以解决容量和速度方面的限制。据报道,NVIDIA正在与铠侠(Kioxia)合作,生产速度比标准设计快100倍的PCIe Gen7 SSD 。
目前,SK海力士在HBF开发领域处于领先地位,计划于今年下半年推出首批样品。
据报道,谷歌将成为HBF的主要客户,因为它计划收购这项技术以支持其快速发展的AI项目。谷歌的TPU生态系统正在加速增长,并且正在通过多个正在研发中的下一代TPU解决方案来扩展其计算能力。HBF能否成为一个重要的应用案例还有待观察,但它除了取代HBM之外,还有一个巨大的应用前景,那就是取代标准的DDR内存。
随着CPU成为人工智能领域的新瓶颈,服务器对LPDDR内存的需求也随之增长。这导致对LPDDR5和LPDDR5X内存(尤其是SOCAMM2 )的需求激增。借助HBF的多层堆叠技术,芯片制造商和人工智能生态系统提供商不仅可以缩小PCB空间,还能在保持低功耗和高带宽吞吐量的同时,增加内存容量。