JOS的个人博客分享 http://blog.sciencenet.cn/u/JOS

博文

半导体十大研究进展候选推荐(2025-067)——一种用于存内计算中非线性激活函数计算的可重构模拟电路

已有 72 次阅读 2026-1-15 09:08 |系统分类:论文交流

image.png

工作简介

         ——一种用于存内计算中非线性激活函数计算的可重构模拟电路

模拟存内计算(CIM)架构因其可以和各类新型电、光器件相结合,实现在神经网络线性层(如卷积、全连接层)算子运算上的高算力与高能效而备受关注。然而,神经网络中线性算子层间均嵌入了非线性激活函数(Activation Function),各类激活函数(如Mish、SiLU、GELU)映射方式多变,传统方案只能通过数字域的拟合实现。这使得模拟存内计算在进行完整的神经网络推理过程中,需引入频繁的模数、数模域间的信号转换,这一过程产生了大量的额外能耗与延时,严重制约了模拟存内计算在完整网络推理时的能效优势。

image.png

图1. 模拟存算计算神经网络中的数据转换过程以及其能耗占比。

针对上述问题,南京大学杜力、杜源教授团队提出了一种高效可重构的非线性激活函数的模拟计算电路,实现了在模拟域内对任意复杂非线性激活函数的高效计算,弥补了现有存内计算在非线性激活函数模拟域映射方面的技术短板,使神经网络能够在模拟域完成端到端的完整推理映射,为全模拟神经网络推理架构提供了全新计算范式。

image.png

图2. 采用泰勒近似的非线性激活函数拟合与分段拟合方案。

该研究以泰勒近似展开为理论基础,通过多项式拟合,实现对各类非线性传递函数的高效逼近(f(x)=a0+a1x+a2x2+a3x3⋯)。针对多项式中多阶信号的模拟域生成难题,研究团队利用亚阈值区晶体管电流与电压的对数关系,将多阶信号的产生,转化为模拟域内低实现成本的对数与加法操作,并通过电流镜生成ln⁡(x),2ln⁡(x),3ln⁡(x)…等对数域线性叠加信号,再借助亚阈值区晶体管的电压 -电流关系还原多阶信号,实现基于泰勒近似的全模拟域多项式拟合。通过可调偏置电压修改多项式的参数,实现激活函数的灵活可重构。此外,本研究进一步提出了基于分段拟合的电路架构,将映射拟合区间分为泰勒近似、线性拟合和零值输出区并开展了计算仿真分析,确保了模拟拟合的精度,有效缓解了模拟计算带来的网络推理误差的影响。

image.png

图3. 电路芯片裸片与针对三类激活函数拟合的电路测试波形结果。

该电路实现了对非线性激活函数的高效模拟计算,具有面积小(1218  μm2)、兼容性强的特点,可作为通用IP核无缝集成于MRAM、ReRAM等新型模拟存算与感算芯片架构中。基于该设计,模拟计算芯片能够有效支持采用先进激活函数的AI模型——如BERT、YOLO-v4等的全模拟域的推理映射。系统级评估表明,集成该模块后,可降低传统模数/数模转换电路功耗12倍。其灵活的可配置性进一步增强了模拟存算架构的兼容性,使各其可高效适配端、边、云等不同场景的模拟计算需求。

本研究工作以题为“RAC-NAF: A Reconfigurable Analog Circuitry for Nonlinear Activation Function Computation in Computing-in-Memory”发表在IEEE Journal of Solid-State Circuits(JSSC),南京大学杜力、杜源教授为通讯作者。

 

主要作者简介

image.png

第一作者

解晨佳,南京大学电子科学与工程学院博士生。

研究方向为AI芯片架构设计,聚焦基于软硬协同方案对AI系统进行计算加速和传输优化。以第一作者身份在电路相关的顶刊和旗舰会议上发表论文共计5篇,申请/授权发明专利4项,曾获奋进奖学金,国家奖学金等。

image.png

通讯作者

杜力,南京大学教授,集成电路学院副院长,国家级青年人才计划获得者,现任江苏省集成电路学会副秘书长。

本科毕业于东南大学,硕士、博士均毕业于美国加州大学洛杉矶分校(UCLA)。现阶段主要从事AI、存算处理器架构与编译部署优化方法的研究。在IEEE集成电路设计领域的权威期刊及行业顶级会议上发表论文60余篇,研究成果获2021年IEEE电路与系统协会达林顿(Darlington)最佳论文奖,现为IEEE电路与系统协会标准委员会Domain-Specific Accelerators组副主席,Machine-Learning Circuits and Systems方向技术委员会成员。

image.png

通讯作者

杜源,南京大学副教授,国家级青年人才计划获得者。

本科毕业于东南大学,硕士、博士均毕业于美国加州大学洛杉矶分校(UCLA)。现阶段主要从事高速芯片互联与新兴异构计算方面的科研工作。在IEEE权威期刊及行业顶级会议上发表论文60余篇,包括ISSCC、JSSC、TCAS-I/II、TVLSI、TCAD、TMTT等高水平国际期刊和会议,并获IEEE电路与系统协会达林顿(Darlington)最佳期刊论文奖,高速光电互联方面的相关研究成果入选“2025年度中国第三代半导体技术十大进展”。

原文传递

详情请点击论文链接:

https://ieeexplore.ieee.org/document/10988857



https://blog.sciencenet.cn/blog-3406013-1518523.html

上一篇:半导体十大研究进展候选推荐(2025-066)——分布式MIMO雷达:面向高分辨率协同成像
下一篇:半导体十大研究进展候选推荐(2025-068)——D波段4发4收CMOS FMCW雷达收发机阵列芯片
收藏 IP: 223.71.16.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-1-15 11:47

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部