趋势丨高带宽低功耗!SOCAMM2搅动AI内存市场

AI芯天下 2025-10-18 20:30




前言
AI技术飞速迭代的当下,内存作为数据流转的核心枢纽,其性能与成本直接制约着AI服务器的运算效率与规模化应用。

近期,英伟达调整内存战略,取消第一代SOCAMM内存模块推广、全力攻坚SOCAMM2的动作,为AI内存市场注入新变量。

这款定位高带宽、低功耗的新型内存解决方案,正凭借独特技术优势与生态适配潜力,重塑行业竞争格局。


作者 | 方文三
图片来源 |  网 络 

趋势丨高带宽低功耗!SOCAMM2搅动AI内存市场图1

从搁置到重启SOCAMM2的破局情况


回溯SOCAMM的发展历程,英伟达最初计划于今年为AI产品部署60-80万个第一代SOCAMM内存模块,然而技术问题导致项目两次搁置,未下达任何大规模实际订单。


市场期待的落空,反而让后续登场的SOCAMM2更受关注。


目前,英伟达已联合三星电子、SK海力士和美光三大内存巨头开展SOCAMM2样品测试,从技术研发向商业化落地迈出关键一步。


作为面向AI服务器的专属内存方案,SOCAMM2的核心优势在于平衡“性能”与“成本”两大核心诉求。


其通过将LPDRAM与压缩连接内存模块(CAMM)结合,以创新外形尺寸实现突破:相较于传统DDR5 RDIMM配置,不仅空间占用更紧凑,功耗还降低三分之一,同时性能可媲美HBM(高带宽内存)。


值得注意的是,SOCAMM2与HBM并非竞争关系,而是互补搭档——HBM通过与GPU先进封装集成满足极致性能需求,SOCAMM2则凭借灵活配置解决非板载内存的维护与升级问题,二者共同覆盖AI服务器不同场景的内存需求。


趋势丨高带宽低功耗!SOCAMM2搅动AI内存市场图2
技术升级亮点从速率提升到LPDDR6


从技术细节来看,SOCAMM2在传承中实现显著升级。


硬件架构上,其延续了第一代的694个输入/输出(I/O)端口设计,为性能稳定提供底层支撑


数据传输速度则从SOCAMM1的8533MT/s跃升至9600MT/s,提升幅度约12.5%,这意味着单位时间内可传输更多数据,为AI服务器的高速运算提供更强数据吞吐能力。


更具前瞻性的是,SOCAMM2极有可能支持下一代低功耗内存LPDDR6。


通道架构采用24位宽通道(含两个12位子通道),并行处理能力大幅提升;带宽高达38.4GB/秒,较LPDDR5显著提升;功耗经JEDEC确认降低约20%,且新增ALERT信号线强化数据完整性保障。


不过,LPDDR6当前仍处于技术验证阶段,兼容性、量产成本等问题尚未明确,这也是供应商暂未正式确认支持该规格的核心原因。


趋势丨高带宽低功耗!SOCAMM2搅动AI内存市场图3

生态协同适配融入AI服务器

SOCAMM2的价值释放,离不开与AI服务器生态的深度协同,这种协同体现在硬件、软件、芯片适配三大层面。


硬件层面,AI服务器的主板设计、CPU与内存控制器兼容性、散热系统布局均需适配SOCAMM2特性。


以英伟达Vera Rubin平台为例,其对内存灵活性与可维护性要求极高,而SOCAMM2的非板载设计恰好满足需求——内存模块可独立升级、更换,无需整体更换主板,大幅降低维护成本与升级周期。


软件层面,操作系统、AI框架与驱动程序的优化同样关键。在AI训练场景中,TensorFlow、PyTorch等主流框架需针对SOCAMM2的内存带宽特性调整算法,避免计算资源浪费


内存管理驱动程序则需支持多通道并行传输,减少数据延迟与冲突。


芯片适配层面,英伟达GB300系列、AMD MI300系列等AI加速芯片,在设计初期便需考虑与新型内存的适配性。


以英伟达GB300 NVL72为例,其规格表明确支持最高18TB基于LPDDR5X的SOCAMM,带宽达14.3TB/s,这正是芯片与内存厂商提前协同研发的成果。


趋势丨高带宽低功耗!SOCAMM2搅动AI内存市场图4

全球玩家的“赛道竞速”


AI应用的爆发式增长,催生了对高带宽、低延迟内存的迫切需求。传统DDR内存性能不足,HBM成本高、产能受限,SOCAMM2凭借“低成本+近HBM性能”的优势填补市场空白,吸引全球内存大厂纷纷布局。


美光凭借技术积累与市场响应速度率先发力,今年3月已交付基于LPDDR5X的SOCAMM模块,积累了应用经验与合作资源,但先发优势能否持续仍需看后续迭代与成本控制。


三星与SK海力士虽进度稍慢,但依托技术储备与产业链整合能力持续加码:三星聚焦产品紧凑性与散热优化,适配高密度服务器高负载需求


SK海力士主攻速率提升与稳定性,计划明年初推进量产,二者均与英伟达保持紧密合作。


国产厂商也不甘落后,江波龙依托全环节技术积累推出自研SOCAMM2产品,针对国内市场优化设计(如降低高度适配液体冷却系统),有望凭借本土化优势拓展份额,推动国产存储技术突破。


趋势丨高带宽低功耗!SOCAMM2搅动AI内存市场图5
结尾AI浪潮下的突围之道


机遇则源于AI产业的持续扩张。根据TrendForce数据,2025年AI服务器市场价值预计升至2980亿美元,占服务器行业总价值70%以上,内存需求将同步激增。


SOCAMM2的“高带宽、低功耗、低成本”特性,与中高端AI服务器需求高度契合,在训练、推理、云计算等场景潜力巨大。


更重要的是,SOCAMM2将推动内存行业技术迭代。面对其竞争压力,HBM、DDR5等产品将加快升级,形成良性竞争,助力AI产业获得更优质的内存解决方案,推动计算性能整体提升。


从技术研发到生态适配,从厂商竞争到商业化落地,SOCAMM2正以“搅局者”的姿态,为AI内存市场注入新活力。


尽管前路仍有挑战,但随着技术不断成熟、生态持续完善,SOCAMM2有望成为AI服务器内存领域的关键力量,为AI产业的规模化发展提供坚实支撑。


内容来源于:半导体产业纵横:AI内存新秀,SOCAMM2登场;搜狐:英伟达SOCAMM2携LPDDR6,AI服务器内存格局生变?挑战与机遇并存 ;高带宽低功耗,AI内存新秀,SOCAMM2登场;英伟达SOCAMM2:AI服务器内存的新变革与挑战 


声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
AI Soc 内存
more
【全球汽车新技术观察】 7月下期〡麦格纳推出集成式舱内感知系统;博世发布全新SoC系列
SoC芯片公司“战力”排行榜!
打破行业天花板!安思疆发布135°视场角机器人3D结构光模组,搭载全新一代自研3D SOC芯片,让机器人不再“盲目”
晶晨上半年净利润大涨37%! 单季SoC芯片出货近5000万,Wi-Fi6狂飙800万颗
技术视频+资料|复杂SoC 设计
骁龙称王?三款新SOC详细数据汇总
ASIP Designer加速无线通信SoC及MIMO球形译码专用处理器设计|公开课预告
三年半亏损超10亿,汽车无线传感SoC龙头赴港IPO
2025年中国车规级SOC芯片‌行业产业链、发展现状、及趋势分析:舱驾融合驶入快车道,多企业布局加速SOC芯片国产化替代[图]
炸裂!Arm处理器主频首破5GHz!高通发布全球最快SoC
Copyright © 2025 成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号