Groq拟引入3D堆叠DRAM技术 破解大模型推理存储瓶颈

【区角快讯】10月21日，人工智能半导体行业迎来重大架构调整信号。据快科技报道，以高速SRAM设计著称的芯片企业Groq，正计划在其下一代产品中整合3D堆叠DRAM封装工艺。这一战略转向旨在突破传统SRAM在容量维度的桎梏，通过垂直堆叠内存裸片提升显存规格，从而满足超大规模AI模型的推理需求。

据悉，在被英伟达实质性收购后，Groq正积极评估以DRAM替代SRAM的方案。目前主流AI芯片多采用2D封装，而Groq规划的3DS技术利用TSV工艺，在DRAM内部打通数千个微型孔洞实现垂直互连。这种设计犹如构建“内存摩天大楼”，能在维持较小芯片面积的同时，显著提升电力传输效率与存储密度。与追求极致数据交换速率的HBM不同，3DS技术在保持现有DRAM标准接口协议前提下，更侧重于存储容量的扩张，为加载海量参数的AI推理任务提供了务实的降本增效路径。

长期以来，Groq的LPU架构虽因极高推理速度备受瞩目，但其依赖的SRAM容量极小，导致单颗芯片在处理千亿级参数模型时显得捉襟见肘。尽管DRAM原生读写速度略逊于SRAM，但其大容量特性在复杂模型部署中优势明显。通过3D堆叠技术，Groq试图在保留一定速度优势的同时，彻底解决“存不下”的行业痛点。值得注意的是，随着AI算力需求呈指数级增长，存储带宽与容量已成为制约模型落地的关键变量，Groq的这一技术布局或将对后续AI芯片市场竞争格局产生深远影响。