关注我们  钻石开放获取  免收版面费

作 者

朱一新、毛惠五、祝影、王祥静、傅传玉、柯硕、万昌锦、万青

机 构

南京大学

Citation

Zhu Y X, Mao H W, Zhu Y, Wang X J, Fu C Y,  Ke S, Wan C J, Wan Q. 2023. CMOS-compatible neuromorphic devices for neuromorphic perception and computing: a review. Int. J. Extrem. Manuf. 5 042010.

免费获取全文

https://doi.org/10.1088/2631-7990/acef79

撰稿 | 文章作者

1. 文章导读

神经形态计算是一种受大脑启发的计算范式，旨在通过模拟生物神经系统的信息处理机制来构建高效、低功耗、自适应的计算系统。神经形态计算的核心是通过模拟生物神经系统的信息处理模式，构建相应的计算理论、器件结构、芯片架构以及应用模型和算法。目前，基于多种物理机制已经提出了各种类型的神经形态器件，这些器件展示了一系列神经形态功能，如动态滤波、多态存储和尖峰时序依赖性可塑性等。为了适应后摩尔时代的发展要求，神经形态器件的制造应尽可能与现有主流CMOS集成电路技术兼容，这将有助于开发更先进、更智能的人工智能系统。近期，南京大学万青与万昌锦团队在SCI期刊《极端制造》（International Journal of Extreme Manufacturing, IJEM）上发表《CMOS-compatible neuromorphic devices for neuromorphic perception and computing: a review》的综述。该综述关注了与CMOS制造技术兼容的神经形态器件及其应用的最新进展，讨论了多种器件在突触和神经元功能上的模拟以及在神经形态感知和计算方面的应用，并展望了开发CMOS兼容的神经形态器件和系统所面临的机遇与挑战。

关键词

神经形态计算、神经形态器件、CMOS 兼容、阻变开关器件、晶体管

亮 点

• 综述了与CMOS制造工艺兼容的神经形态器件；

• 讨论了各种器件在神经元功能、感知和计算方面的应用；

• 总结了这些器件的优缺点；

• 讨论了需要面对的各种机遇和挑战。

图1 CMOS工艺兼容的神经形态器件的应用场景。

2. 研究背景

近年来，集成电路行业面临巨大挑战。随着大数据、人工智能和5G等领域的迅速崛起，对大规模数据处理的需求不断增长。传统计算技术面临数据传输时间和能源浪费，以及摩尔定律逼近极限的问题。随着集成电路技术正进入后摩尔时代，解决这些挑战刻不容缓。目前，各种技术路径正在被提出以延续其发展，如将多种功能集成到单一芯片中的片上系统技术，显著改进经济效益的chiplet技术，第三代半导体器件，光子芯片和非冯·诺伊曼计算范式。神经形态计算被认为是一种前景广阔的非冯计算范式，其核心思想是模仿生物神经系统的信息处理方式。为了推动神经形态计算的发展，研究人员已经开发出各种新型器件，包括可编程电阻切换器件和神经形态晶体管。这些器件成功地模拟了神经元和突触的行为，并已在人工神经网络的硬件加速器以及生物感知功能方面取得了广泛应用。为适应后摩尔时代的发展需求。神经形态器件的制造应尽量与现有主流CMOS集成电路技术保持兼容。这将有助于保留神经形态计算的关键特性，同时促进更高级别和智能的人工智能系统的发展。在本文中，朱一新博士等人对CMOS技术兼容的神经形态器件的最新进展进行了综述。

3. 最新进展

作者综述了与CMOS制造技术兼容的神经形态器件及其应用的最新进展，如图1所示。作者介绍了使用不同类型的器件来模拟各种形式的生物突触可塑性以及神经元生物学功能。随后讨论了这些器件在人工感知和神经形态计算的应用。最后，对所讨论的主题进行了总结和展望。

图2 基于可编程阻变开关器件的可塑性模拟。(a) 生物突触和电路模型示意图。(b) 纳米尺度交叉阵列的扫描电子显微镜照片。(c) 脉冲频率依赖可塑性学习规则。(d) 脉冲时间依赖可塑性学习规则。(e) 双向可调的导电特性。(f) 模拟类脑系统的器件架构。(g) n-Si/HfO2/WO3/Ag 结构的示意图。(h) 双向可调的导电特性。(i) Ag/原子厚度的 SiOx/p++-Si器件的示意图。

图3 基于神经形态晶体管的可塑性模拟。(a) 器件结构示意图。(b) 器件的传输特性。(c) 电导增强和减弱特性。(d) 器件结构示意图。(e) 典型的EPSC响应。(f) 铁电场效应晶体管的示意图。(g) 铁电NAND的光学图像。(h) 3D铁电NAND的示意图。(i) 电导增强和减弱特性。

生物体的各种生命功能由复杂的突触和神经元网络控制。生物突触是一种接触结构，其中一个神经元的冲动可以被转移到另一个神经元。突触是信息传递的重要组成部分，生物突触的信号整合功能可以通过改变神经元之间的连接强度（即突触权重）来调节，这一过程被称为突触可塑性。短期可塑性（STP）和长期可塑性（LTP）是突触可塑性的两种不同形式。目前，CMOS工艺兼容的各种神经形态器件已经广泛地模拟了各种突触的可塑性，如图2和图3所示。

图4 基于阻变器件的人工神经元模拟。(a) 基于Nb2O5的TS器件的H-H模型电路图。(b) 器件的电流-电压曲线。(c) H-H模型的全有或全无响应。(d) 人工神经的积分-放电电路示意图。(e) 电容和电阻对LIF行为的影响。(f) 集成忆阻神经网络的光学显微图。(g) 忆阻系统的示意图。

图5 基于神经形态晶体管的人工神经元模拟。(a) 反铁电材料的典型双回滞特性。(b) 反铁电晶体管的典型传输曲线。(c) 生物神经元的IF特性。(d) 反铁电晶体管神经元的连续放电。(e) 器件结构示意图。(f) 随时间变化的畴壁位置、有效赫兹和电流序列。(g) 模拟LIF过程的动态畴壁运动。(h) 畴壁LIFT特性。(i) 人工树突的非线性电流响应。(j) 关和开状态下的电流响应。(k) 等效电路。(l) 人工树突的光学图像。

神经元是生物信息处理的基本单位，由细胞体、轴突和树突三个主要组成部分构成。神经元将外部刺激编码为脉冲信号，并沿着树突传播到细胞体，并与其他神经元的输入进行整合。如果脉冲电位超过一定阈值，细胞体会产生一个冲动电位并通过轴突发送。人工神经元的目标是模拟生物神经元的整合和冲动功能。然而，传统的CMOS器件缺乏神经元的动态特性，需要包含数十个晶体管的复杂电路来模拟。目前已经开发了各种神经元模型来描述人工神经元如何在电路中模拟动作电位的产生，如生物物理模型和现象学模型。生物物理模型使用可变电阻器来模拟离子通道的变化和神经元膜的电生理状态，例如Hodgkin-Huxley（H-H）模型。现象学模型使用简单的数学抽象来模拟生物神经元的输入-输出行为，如Leaky integrity and Fire（LIF）模型。图4和图5分别介绍了基于两端忆阻器件和三端晶体管器件对人工神经元的模拟。

图6 人工感知系统。(a)器件的透射电子显微镜图像。(b) 对痛觉和过敏的演示。(c) 触觉感知的示意图。(d) MFSN的示意电路图。(e)器件的结构示意图。(f) 双眼定位系统的示意图。(g) 声音定位系统的示意图。

图6介绍了基于CMOS兼容的神经形态器件的人工感知系统。人类的感知系统是一种高效的并行计算系统，能够同时接收和处理来自多个源的数据，并具有低功耗、高兼容性和高可塑性等优势。人工感知系统是一个新兴领域，汇集了多个工程和科学学科的专业知识。神经形态感知系统与传统计算系统的区别在于，它们使用混合的模拟/数字组件，而不是布尔逻辑和时钟操作。传统感知系统采用各种器件来感知、转换和传输来自外部环境的信号。然而，随着生成数据量的指数级增长，这些系统越来越面临高功耗等问题的挑战。为了解决这些问题，研究人员正在开发基于新兴突触器件的人工感知系统，这些系统能够执行并行分布式计算，减少数据冗余和传输。这可以节省能源和带宽，降低功耗和延迟，提高与生物系统的兼容性和适应性。此外，人工感知系统还可以融合和处理多模信息，这对于改善环境感知和理解、提高安全性和效率至关重要。此外，将人工感知系统与CMOS技术集成还可以带来额外的优势，如降低成本、增加密度和提高可靠性。

图7 神经形态计算芯片。(a) 晶体管阵列的光学图像。(b) 电导增强和减弱特性。(c) 忆阻器交叉阵列。(d) 系统架构示意图。(e) 集成PCB子系统的照片。(f) 电导状态和分布。(g) 基于忆阻器的五层CNN系统。(h) NeuRRAM芯片的可重构架构。(i) 存内计算的结构图。(j) 三维电路的示意图。

图8 神经形态计算芯片。(a) 三维垂直RRAM。(b) 三维电阻式内存结构的存储模式。(c)与CMOS工艺兼容的晶体管的结构示意图。(d) ECRAM单元阵列的光学图像。(e) 混合2D/CMOS的忆阻芯片。(f) 使用CMOS/h-BN基础的1T1M单元实现SNN。

神经形态计算涉及使用模拟、数字或混合电路和软件算法来模拟生物神经网络。这种方法旨在模仿人脑的结构和功能，以实现更高效和有效的计算。作为人工智能领域的核心技术，神经网络在图像识别和自然语言处理等领域得到了广泛的应用。一些流行且有效的神经网络架构包括卷积神经网络（CNNs）、深度神经网络（DNNs）和脉冲神经网络（SNNs）。这些架构在结构和算法上有所不同，各自在特定应用场景中具有优势和局限性。例如，CNNs主要用于图像识别和处理任务，它们采用具有多层卷积滤波器的分层结构从输入数据中提取特征。SNNs更接近于人脑神经元的运作方式，它们使用脉冲在神经元之间传输信息，并可以通过突触强度的变化来学习。这些架构各有优点和局限性，是一个需要克服许多挑战的活跃研究领域。图7和图8分别介绍了神经形态器件在神经形态计算方面的研究和应用。

4. 未来展望

这些与CMOS制造工艺兼容的器件具有巨大的发展潜力，未来有望对类脑芯片的设计和开发产生重大影响和创新。这些神经形态器件或系统会在机器人技术、物联网、生物医学、安全和教育等各个领域表现出潜在的应用前景。例如，在机器人技术中，它们可以实现更自然的人机交互、更灵活的动作控制以及更智能的环境感知和决策。在物联网中，它们可以实现更高效的数据处理和传输、更节能的设备管理，以及更安全的信息加密和认证。在生物医学领域，它们可以实现更准确的生理信号检测和分析、更便捷的健康监测和诊断。毫无疑问，与此相关的科学和工程挑战是巨大的。从生物学的角度来看，我们对大脑神经网络的当前理解仍然很基础。发展神经形态器件仍需要在多个自然科学领域取得突破，包括神经科学、数学模拟以及化学和物理学。要实现这些突破，需要深度整合包括材料科学、化学工程、医学、计算机科学和工程学等在内的多个学科。从工程学的角度来看，挑战主要存在于器件层面。目前，器件特性在时间尺度、动态特性以及技术成熟度方面表现出显著的差异，这增加了器件的选择、优化和迭代的难度。选择适当的器件用于神经形态计算取决于应用场景和PPA指标之间的权衡。目前，基于软件模拟的神经形态计算也是一种低成本的解决方案，因为它不需要硬件设计、制造和测试，可能在某些情况下更合适。当然，软件模拟也有缺点。软件模拟的速度严重依赖于计算机的处理能力和资源，难以实现大规模的并行计算，限制了整个系统的性能。尽管基于硬件的模拟存在开发和部署成本高以及灵活性有限等缺点，但这些电路和架构经过高度优化，能够实现高度并行化和高效的计算。硬件系统所表现出的低功耗对于移动设备、嵌入式系统或能源受限环境中的应用特别有益。此外，基于硬件的实现可以提供实时响应和处理能力，这在这方面超越了软件模拟。因此，在选择具体方案时，有必要全面考虑应用要求、资源限制和实施成本。尽管在科学和工程方面存在重大挑战，但基于CMOS技术的神经形态器件和系统的发展仍然是推动人工智能和脑科学进展的有望方向。与CMOS技术兼容的神经形态器件的发展将为神经形态计算的推进提供诸多优势。必须充分评估这些器件的实际性能、稳定性和可靠性，以及它们与其他计算技术的集成，选择最合适的技术路径。

5. 作者简介

万青 教授

南京大学

万青，甬江实验室异构集成研究中心主任，南京大学教授。本科毕业于浙江大学材料系，2004年在中国科学院上海微系统所获得微电子专业博士学位。博士毕业后先后在剑桥大学，密西根大学，斯坦福大学从事博士后和访问教授科研工作。回国后先后在湖南大学，中国科学院宁波材料所，南京大学工作，目前主要在甬江实验室开展科研工作。万青教授从事氧化物半导体材料与器件研究20多年，发表包括70多篇APL和50多篇IEEE EDL在内的300余篇SCI论文，他引2万多次。先后荣获教育部自然科学一等奖（2009年），浙江省科技一等奖（2013年），国家高层次人才（2014年，2018年）等奖励和资助。取得的三个代表性科研工作如下：

1）钽酸锂/铌酸锂单晶薄膜离子剥离（Smart cut）制备技术的奠基人之一。2001年与和法国SOI TECH公司几乎同时报道了通过氢离子注入工艺来实现钽酸锂/铌酸锂单晶薄膜的剥离和转移。如今该技术剥离的铌酸锂/钽酸锂单晶薄膜已经成功产业化，并在新型5G/6G滤波器、高速光电调制器和光子集成芯片领域获得了重大产业应用。

2）2005年，以唯一通讯作者身份发表APL论文，报道了SnO2纳米线的锂离子存储特性。有关论文比美国科学院院士，斯坦福大学崔屹教授的纳米线锂电池论文发表早了近2年。

3）2009年，在日本学者细野秀雄IGZO薄膜晶体管的基础上，创造性地引入固态电解质作为栅介质，发明了IGZO双电层晶体管，并在此基础上，开创了该类多端口器件神经形态器件及其动力学类脑感知/计算领域的研究。

万昌锦 副教授

南京大学

万昌锦，南京大学电子科学与工程学院副教授、博士生导师，国家海外高层次青年人才（2020）。先后获得包括中国科学院院长奖、中国科学院优秀毕业生、中国科学院优秀博士论文等荣誉，以及Springer Nature 出版社颁发的Springer Theses Prize（该奖项每年在全球范围内仅遴选100 篇左右）。并出版英文专著（ISBN 978-981-13-3313-2）一部，自2019年出版以来迄今下载超2200次。多年来专注于神经形态器件及其类脑芯片这一交叉前沿研究领域，在该领域的理论研究和应用创新方面取得了一系列成果。迄今在相关领域发表SCI论文70多篇(其中超12篇单篇引用>100)，总引用次数超6200次，H-index 为40。担任《International Journal of Extreme Manufacturing》(IF=14.7)、《Frontiers of Optoelectronics》(IF=5.4)等杂志青年编委，是《ACS NANO》《Adv. Funct. Mater.》《IEEE Elctron Dev.Lett.》《Appl. Phys. Lett.》《Mater. Horiz.》《Small》等杂志审稿人。主持和参与国家自然科学基金面上项目、科技部重点研发、科技部重点研发青年科学家、后摩尔时代重大计划培育项目等。