JOS的个人博客分享 http://blog.sciencenet.cn/u/JOS

博文

中国半导体十大研究进展候选推荐(2021-046)——时域存算一体AI芯片

已有 2069 次阅读 2022-1-6 15:00 |系统分类:论文交流

image.png

工作简介

         ——时域存算一体AI芯片


清华大学集成电路学院尹首一教授团队在存算一体人工智能(AI)芯片方向取得突破。该团队设计的时域存算一体AI芯片TIMAQ,通过融合时域SRAM存内计算和数字可重构架构,克服了时域计算的高延迟瓶颈,可支持任意量化的神经网络,为设计通用灵活、低功耗、高能效的终端AI芯片提供了一条新的技术路径。2021年9月,该研究成果以“TIMAQ: A Time-Domain Computing-in-Memory-Based Processor Using Predictable Decomposed Convolution for Arbitrary Quantized DNNs”为题发表于集成电路领域顶级期刊IEEE Journal of Solid-State Circuits(JSSC)。


随着深度学习的飞速发展,各种人工智能应用迫切需要部署到终端设备上。单一AI芯片需要有足够高的灵活性以支持多种应用的不同数据位宽神经网络。存算一体芯片通过在存储单元内执行模拟计算,消除了传统纯数字架构中“存储墙”的瓶颈,大幅减少了访存功耗及计算功耗。相比传统电压域或电荷域存算一体芯片,基于脉冲的时域存算一体芯片具有更低能耗,因此时域存算一体(TD-CIM)是实现低功耗、高能效AI芯片的一种优良架构。但TD-CIM仍需解决两个技术挑战:1)由于模拟电路的设计复杂、模拟量受制约因素多,TD-CIM架构灵活性、电路重构性较差,只能支持固定位宽、固定数据流的计算;2)TD-CIM通过时间量执行乘加计算,数据值越大,延迟越高。


TIMAQ通过在TD-CIM外围耦合一套数字辅助计算引擎,完成TD-CIM难以实现的算子,并动态调整TD-CIM的数据流与计算精度,实现了对不同应用和不同性能需求的灵活适配。数字辅助计算引擎包括三种单元:1)卷积拆分单元:将任意量化方式(均匀和非均匀量化)、任意位宽的卷积核片上拆分为多个一比特卷积核,从而支持了任意神经网络计算。同时分离卷积计算中的加法和乘法算子,将乘法复杂度从O(n)减少到O(1)。2)卷积预测单元:通过分析数字电路上接收的TD-CIM实时计算结果,动态调整数据流TD-CIM上的卷积映射,从而消除冗余计算,减少能耗和延迟。3)TD-CIM精度控制单元:根据应用场景的能耗、延时要求,通过数字电路动态选择TD-CIM中脉冲量化的最优频率,自适应地调整TD-CIM的计算精度,满足不同应用对功耗或延时的需求。通过数字辅助计算引擎和TD-CIM的高度配合,TIMAQ实现了高灵活性,可以支持任意神经网络、适配不同应用场景的性能需求。TIMAQ芯片架构和显微照片如图1所示,采用TSMC 28nm工艺实现,芯片面积7.21mm2,可支持1~8b的均匀和非均匀量化的神经网络,峰值能效可达到2.4~152.7 TOPS/W,是之前加速非均匀量化、均匀量化神经网络AI芯片能效的8.87~80.69、1.52~13.83倍。

image.png

图1. TIMAQ芯片架构和显微照片。




作者简介

image.png

通讯作者

尹首一,博士,清华大学长聘教授,集成电路学院副院长,国家杰出青年科学基金获得者。


研究方向为可重构计算、人工智能芯片、低功耗设计。在IEEE JSSC、TCAS-I/II、TPDS、TCSVT、TVLSI和ISSCC、VLSI、DAC、ISCA、HPCA等集成电路和体系结构领域权威期刊和学术会议发表论文100余篇。曾获国家技术发明二等奖、中国电子学会技术发明一等奖、中国发明专利金奖、教育部技术发明一等奖。现任IEEE TCAS-I 和 ACM TRETS 编委。


image.png

第一作者

杨建勋,清华大学集成电路学院博士生。


2014年和2017年分别在北京理工大学信息与电子学院获得学士和硕士学位,现于清华大学集成电路学院攻读博士学位,从事神经网络硬件加速、存内计算等方向的研究,在JSSC、HPCA、VLSI、A-SSCC等顶级学术期刊和国际会议上发表多篇论文。


原文传递


详情请点击论文链接:

https://ieeexplore.ieee.org/document/9491142




https://blog.sciencenet.cn/blog-3406013-1319808.html

上一篇:中国半导体十大研究进展候选推荐(2021-045)——基于压电异质集成技术的5G高性能射频滤波器
下一篇:半导体学报2022年第1期——中文导读
收藏 IP: 223.71.16.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-12-14 16:04

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部