
从搁置到重启,SOCAMM2的破局情况
回溯SOCAMM的发展历程,英伟达最初计划于今年为AI产品部署60-80万个第一代SOCAMM内存模块,然而技术问题导致项目两次搁置,未下达任何大规模实际订单。
市场期待的落空,反而让后续登场的SOCAMM2更受关注。
目前,英伟达已联合三星电子、SK海力士和美光三大内存巨头开展SOCAMM2样品测试,从技术研发向商业化落地迈出关键一步。
作为面向AI服务器的专属内存方案,SOCAMM2的核心优势在于平衡“性能”与“成本”两大核心诉求。
其通过将LPDRAM与压缩连接内存模块(CAMM)结合,以创新外形尺寸实现突破:相较于传统DDR5 RDIMM配置,不仅空间占用更紧凑,功耗还降低三分之一,同时性能可媲美HBM(高带宽内存)。
值得注意的是,SOCAMM2与HBM并非竞争关系,而是互补搭档——HBM通过与GPU先进封装集成满足极致性能需求,SOCAMM2则凭借灵活配置解决非板载内存的维护与升级问题,二者共同覆盖AI服务器不同场景的内存需求。

从技术细节来看,SOCAMM2在传承中实现显著升级。
硬件架构上,其延续了第一代的694个输入/输出(I/O)端口设计,为性能稳定提供底层支撑。
数据传输速度则从SOCAMM1的8533MT/s跃升至9600MT/s,提升幅度约12.5%,这意味着单位时间内可传输更多数据,为AI服务器的高速运算提供更强数据吞吐能力。
更具前瞻性的是,SOCAMM2极有可能支持下一代低功耗内存LPDDR6。
通道架构采用24位宽通道(含两个12位子通道),并行处理能力大幅提升;带宽高达38.4GB/秒,较LPDDR5显著提升;功耗经JEDEC确认降低约20%,且新增ALERT信号线强化数据完整性保障。
不过,LPDDR6当前仍处于技术验证阶段,兼容性、量产成本等问题尚未明确,这也是供应商暂未正式确认支持该规格的核心原因。

SOCAMM2的价值释放,离不开与AI服务器生态的深度协同,这种协同体现在硬件、软件、芯片适配三大层面。
硬件层面,AI服务器的主板设计、CPU与内存控制器兼容性、散热系统布局均需适配SOCAMM2特性。
以英伟达Vera Rubin平台为例,其对内存灵活性与可维护性要求极高,而SOCAMM2的非板载设计恰好满足需求——内存模块可独立升级、更换,无需整体更换主板,大幅降低维护成本与升级周期。
软件层面,操作系统、AI框架与驱动程序的优化同样关键。在AI训练场景中,TensorFlow、PyTorch等主流框架需针对SOCAMM2的内存带宽特性调整算法,避免计算资源浪费。
内存管理驱动程序则需支持多通道并行传输,减少数据延迟与冲突。
芯片适配层面,英伟达GB300系列、AMD MI300系列等AI加速芯片,在设计初期便需考虑与新型内存的适配性。
以英伟达GB300 NVL72为例,其规格表明确支持最高18TB基于LPDDR5X的SOCAMM,带宽达14.3TB/s,这正是芯片与内存厂商提前协同研发的成果。

全球玩家的“赛道竞速”
AI应用的爆发式增长,催生了对高带宽、低延迟内存的迫切需求。传统DDR内存性能不足,HBM成本高、产能受限,SOCAMM2凭借“低成本+近HBM性能”的优势填补市场空白,吸引全球内存大厂纷纷布局。
美光凭借技术积累与市场响应速度率先发力,今年3月已交付基于LPDDR5X的SOCAMM模块,积累了应用经验与合作资源,但先发优势能否持续仍需看后续迭代与成本控制。
三星与SK海力士虽进度稍慢,但依托技术储备与产业链整合能力持续加码:三星聚焦产品紧凑性与散热优化,适配高密度服务器高负载需求。
SK海力士主攻速率提升与稳定性,计划明年初推进量产,二者均与英伟达保持紧密合作。
国产厂商也不甘落后,江波龙依托全环节技术积累推出自研SOCAMM2产品,针对国内市场优化设计(如降低高度适配液体冷却系统),有望凭借本土化优势拓展份额,推动国产存储技术突破。

机遇则源于AI产业的持续扩张。根据TrendForce数据,2025年AI服务器市场价值预计升至2980亿美元,占服务器行业总价值70%以上,内存需求将同步激增。
SOCAMM2的“高带宽、低功耗、低成本”特性,与中高端AI服务器需求高度契合,在训练、推理、云计算等场景潜力巨大。
更重要的是,SOCAMM2将推动内存行业技术迭代。面对其竞争压力,HBM、DDR5等产品将加快升级,形成良性竞争,助力AI产业获得更优质的内存解决方案,推动计算性能整体提升。
从技术研发到生态适配,从厂商竞争到商业化落地,SOCAMM2正以“搅局者”的姿态,为AI内存市场注入新活力。
尽管前路仍有挑战,但随着技术不断成熟、生态持续完善,SOCAMM2有望成为AI服务器内存领域的关键力量,为AI产业的规模化发展提供坚实支撑。
内容来源于:半导体产业纵横:AI内存新秀,SOCAMM2登场;搜狐:英伟达SOCAMM2携LPDDR6,AI服务器内存格局生变?挑战与机遇并存 ;高带宽低功耗,AI内存新秀,SOCAMM2登场;英伟达SOCAMM2:AI服务器内存的新变革与挑战