三星zHBM响应速度提升10倍

三星zHBM响应速度提升10倍图1

随着 AI 智能体（AI Agent）时代的到来，三星电子公布了一项愿景：利用“zHBM”技术将响应速度提升至原来的 10 倍。该技术采用三维（3D）堆叠方式，将存储器直接集成在 AI 加速器之上。

三星电子美国设备解决方案部门（DSA）存储产品规划副总裁 Kim In-dong 在当地时间 9月16 日于加州圣克拉拉会议中心举行的“AI 基础设施峰会”上发表了演讲，宣布了将 AI 系统响应速度提高 10 倍的目标。

Kim 表示：“目前的对话式 AI 系统，每位用户的响应速度约为每秒 100 个 Token。为了支持未来的智能体 AI，我们的目标是实现‘跨越式发展’，达到每秒 1,000 个 Token 的速度。”

他强调，要实现这一进步，必须突破传统的 2.5D 封装方式（即高带宽存储器 HBM 与 AI 加速器并排放置），转而采用“zHBM”——一种将 HBM 直接垂直堆叠在加速器之上的架构。

Kim 将这种结构比作“在酒店客房内安装一部直通大堂的专用电梯”，并解释说这能大幅缩短数据传输距离并降低延迟。

因此，与 HBM5 相比，zHBM 预计将带来高达 8 倍的性能提升和超过 3 倍的能效提升。针对运行过程中热量从加速器传导至存储器可能引发的过热问题，公司计划建立一种协同设计框架，即从设计初期就与 AI 加速器客户展开定制化合作。

此外，他们还公布了“zNAND-O”的路线图，这是一款专为端侧 AI（on-device AI）市场设计的、基于 NAND 闪存的 3D 存储解决方案。

Kim表示：“到 2030 年，在本地（例如 AI 工作站）运行拥有约万亿参数的大规模 AI 模型将成为常态，而不再局限于大型服务器。”他补充道：“虽然仅使用 DRAM 为拥有万亿级参数的模型配置内存成本高得惊人，但采用 zNAND-O 技术则能以六分之一的成本实现这一目标。”

他指出，zNAND-O 计划于 2028 年开始提供样品，并补充道：“我们将为客户提供无与伦比的‘上市时间’优势，而这正是 AI 半导体竞争中的关键因素。”

韩中工商联盟总会成立于2008年7月20日，由韩国山东商会更名，成员包括中韩两国企业家、政治家、科研专家学者共同发起成立的国际性经贸合作组织。

总会旨在推动中韩两国在经济、科技与产业领域的深度合作与交流，致力于打造高层次、多维度的国际合作平台，促进资源整合与产业协同发展。

在重点发展领域方面，总会积极布局高科技产业板块，涵盖生物医药、人工智能（AI）、半导体与存储等前沿领域。围绕三星电子与SK海力士等全球领先企业的产业资源，推动内存、芯片及相关技术的合作与流通，并协同中国区域内的授权代理公司与供应链体系，促进中韩半导体产业的高效对接与合规发展。

同时，总会广泛汇聚中韩两国在企业、科研、金融及产业界的优质资源，为会员单位提供政策对接、项目孵化、产业落地及跨境合作等全方位支持，持续提升中韩经贸合作的深度与广度。

韩中工商联盟总会旗下芯枢科技有限公司（CoreHub Limited）、芯枢科技（北京）有限公司是立足于香港的半导体存储供应链平台型企业，致力于在全球范围内整合存储芯片资源、优化流通路径并提升产业链配置效率。依托香港作为国际金融、贸易与结算中心的独特优势，公司连接上游核心供应资源与下游关键应用市场，在复杂多变的全球半导体环境中构建稳定、高效且具备前瞻性的流通体系。CoreHub 不仅专注于存储产品的分销与供应，更以平台化思维重塑产业协同方式，通过资源整合、结构优化与价值再分配，逐步形成覆盖多区域、多层级的供应链网络，致力于成为连接产业资源与市场需求的关键枢纽，在全球数字经济与算力时代中发挥长期而持续的基础性作用。