首个混合内存技术,实现片上AI学习和推理

半导体行业观察 2025-09-28 09:00

公众号记得加星标⭐️,第一时间看推送不会错过。


来源内容编译semiconductor-digest 

一家由法国科学家组成的团队,开发出首个能够支持人工神经网络进行自适应本地训练和推理的混合存储器技术,从而突破了长期以来限制边缘AI(edge-AI)高效学习的技术瓶颈。


在《自然-电子学》(Nature Electronics)上发表的一篇题为《一种同时用于训练和推理的铁电忆阻器存储器》(A Ferroelectric-Memristor Memory for Both Training and Inference)的论文中,该团队提出了一种全新的混合存储系统。该系统将两种此前不兼容的技术——铁电电容(ferroelectric capacitors)和忆阻器(memristors)——的最佳特性结合到单一的、与CMOS技术兼容的存储堆栈中。这项新颖的架构为边缘AI最棘手的一个挑战提供了一个期待已久的解决方案:如何在芯片上同时进行学习和推理,同时不消耗过多能源或超出硬件限制。


这项研究由CEA-Leti牵头,并有来自多个法国微电子研究中心的科学家参与。该项目证明了在芯片上进行训练是可能的,并且能达到有竞争力的准确性,从而避免了对离线更新(off-chip updates)和复杂外部系统的需求。该团队的创新使得自动驾驶汽车、医疗传感器和工业监控器等边缘系统和设备能够根据实时数据进行学习,即时调整模型(adapting models on the fly),同时严格控制能耗和硬件磨损。



挑战:一个两难的权衡



边缘AI既需要推理(读取数据以做出决策),也需要学习(根据新数据更新模型)。但直到目前,存储技术只能很好地完成其中一项:


忆阻器(电阻式随机存取存储器)擅长推理,因为它们可以存储模拟权重(analog weights),在读取操作时能效高,并支持存内计算(in-memory computing)。


铁电电容(FeCAPs)允许快速、低能耗的更新,但其读取操作是破坏性的,因此不适合推理。


因此,硬件设计师面临着一个选择:要么偏向推理并将训练外包给云端,要么尝试在芯片上进行训练但要承担高成本和有限的耐久性。



在边缘进行训练



该团队的核心思想是,虽然忆阻器的模拟精度(analog precision)足以满足推理需求,但它无法满足学习的需求,因为学习需要进行小而渐进的权重调整。


“受量化神经网络(quantized neural networks)的启发,我们采取了一种混合方法:正向和反向传播(Forward and backward passes)使用存储在忆阻器中的低精度模拟权重,而更新则通过更高精度的FeCAPs实现。忆阻器会根据存储在FeCAPs中的最高有效位(most-significant bits)进行周期性重新编程,从而确保高效和准确的学习,”论文的第一作者Michele Martemucci说。



突破:一个存储器,两种特性



该团队设计了一个由掺硅氧化铪(silicon-doped hafnium oxide)和钛吸收层(titanium scavenging layer)组成的统一存储堆栈(unified memory stack)。这种双模设备(dual-mode device)可以根据其电学“形成”方式,既能作为FeCAPs运行,也能作为忆阻器运行。


相同的存储单元可以根据其状态,用于精确的数字权重存储(训练)和模拟权重表达(推理)。


一种无需正式数模转换器(DAC)的数模转换方法(digital-to-analog transfer method),可以将FeCAPs中隐藏的权重转换为忆阻器中的电导水平(conductance levels)。


该硬件是使用标准的130纳米CMOS技术,在一个包含18,432个设备的阵列上制造和测试的,将这两种存储器及其外围电路集成到单一芯片上。


除了CEA-Leti,研究团队还包括来自格勒诺布尔阿尔卑斯大学(Université Grenoble Alpes)、CEA-List、法国国家科学研究中心(CNRS)、波尔多大学(University of Bordeaux)、波尔多国立高等理工学院(Bordeaux INP)、法国IMS、巴黎-萨克雷大学(Université Paris-Saclay)和纳米科学与纳米技术中心(C2N)的科学家。


参考链接

https://www.semiconductor-digest.com/french-team-led-by-cea-leti-develops-first-hybrid-memory-technology-enabling-on-chip-ai-learning-and-inference/


*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。


END


今天是《半导体行业观察》为您分享的第4178期内容,欢迎关注。


推荐阅读


首个混合内存技术,实现片上AI学习和推理图1


加星标⭐️第一时间看推送,小号防走丢



求点赞


首个混合内存技术,实现片上AI学习和推理图2

求分享


首个混合内存技术,实现片上AI学习和推理图3

求推荐


首个混合内存技术,实现片上AI学习和推理图4

声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
AI 内存
more
攀登HBM之巅:AI加速器的内存墙突围战(三)堆叠竞赛与吞吐量革命
售价2万5!英伟达推出机器人“最强大脑”:AI算力飙升750%配128GB大内存,宇树已经用上了
AMD新专利:HB-DIMM架构实现内存带宽翻倍
内存巨头,“命门”被紧握
AI汽车,撑起内存半边天
2025 年台湾半导体展规模创新高,聚焦 AI、先进封装与内存
iPhone 17 Pro起售价或将上涨100美元,但起步内存会更高
iPhone17 Pro升级汇总!128G内存终于砍了,价格微涨…
攀登HBM之巅:AI加速器的内存墙突围战(七)基片物理层扩展引爆二级内存架构革命
攀登HBM之巅:AI加速器的内存墙突围战(六)定制基础晶片,打破能效瓶颈,重塑内存架构
Copyright © 2025 成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号