SK海力士总裁兼研发负责人安铉在10月14日举行的“SEDEX 2026”大会上发表主题演讲时指出,人工智能推理市场的快速扩张正在造成新的内存瓶颈。他强调,为了解决这个问题,仅仅提升单个产品的性能是不够的,必须采取优化整个内存层次结构的策略。
随着工作负载复杂性、上下文长度和推理请求量的成倍增长,人工智能推理市场目前正经历爆炸式增长。尤其值得注意的是,随着对“键值缓存”(KV缓存)容量的需求不断增长(人工智能正是通过KV缓存重用历史数据),从HBM到SSD的多层数据迁移也变得越来越频繁。Ahn指出,过去内存瓶颈主要存在于处理器和内存之间,而如今不同内存层级之间的性能差距以及数据迁移本身已成为新的瓶颈。
为了解决这一瓶颈,SK海力士计划进一步细分和多样化内存架构。为了缩小现有SRAM和HBM之间的性能差距,该公司正在研发“3D堆叠式DRAM”技术,该技术将DRAM直接堆叠在GPU和NPU等逻辑半导体之上。这种结构旨在大幅缩短处理器与数据之间的物理距离,从而在提高性能的同时降低能耗。
该公司还提出了“高带宽闪存(HBF)”方案,以解决容量短缺问题。HBF 是一种新一代存储技术,它将 HBM 堆叠技术应用于 NAND 闪存,定位介于 HBM 和 DRAM 之间。其目标是在实现约 10 倍容量的同时,提供约一半的同代 HBM 带宽。安先生解释说,鉴于人工智能推理的读取密集型特性,基于 NAND 的 HBF 是提高系统效率的最佳选择。
HBM是SK海力士的旗舰产品,未来将发展成为针对每位客户AI系统进行优化的“定制化HBM”。该计划旨在将内存控制器和客户定制的逻辑芯片直接集成到基础芯片上,从而提供超越简单存储的优化架构。基于HBM1至HBM4E的技术实力,SK海力士计划将CXL与下一代存储技术相结合,进一步拓展其内存生态系统。
与此同时,SK海力士在本次展会上搭建了迄今为止最大的展位,并发布了一系列最新的AI内存解决方案。其中包括印有NVIDIA首席执行官黄仁勋签名的HBM晶圆、第六代10纳米级DRAM以及支持液冷的企业级固态硬盘。该公司表示,已制定战略,通过推进HBF的先发制人式标准化并与全球合作伙伴开展合作,推动AI时代的持续增长。
(来源:编译自businesskorea)
点这里👆加关注,锁定更多原创内容
*免责声明:文章内容系作者个人观点,半导体芯闻转载仅为了传达一种不同的观点,不代表半导体芯闻对该观点赞同或支持,如果有任何异议,欢迎联系我们。
推荐阅读

喜欢我们的内容就点“在看”分享给小伙伴哦~![]()
