引用本文

练秋生, 富利鹏, 陈书贞, 石保顺. 基于多尺度残差网络的压缩感知重构算法. 自动化学报, 2019, 45(11): 2082-2091. doi: 10.16383/j.aas.c170546

LIAN Qiu-Sheng, FU Li-Peng, CHEN Shu-Zhen, SHI Bao-Shun. A Compressed Sensing Algorithm Based on Multi-scale Residual Reconstruction Network. ACTA AUTOMATICA SINICA, 2019, 45(11): 2082-2091. doi: 10.16383/j.aas.c170546

http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c170546

关键词

压缩感知，卷积神经网络，多尺度卷积，扩张卷积 

摘要

目前压缩感知系统利用少量测量值使用迭代优化算法重构图像.在重构过程中，迭代重构算法需要进行复杂的迭代运算和较长的重构时间.本文提出了多尺度残差网络结构，利用测量值通过网络重构出图像.网络中引入多尺度扩张卷积层用来提取图像中不同尺度的特征，利用这些特征信息重构高质量图像.最后，将网络的输出与测量值进行优化，使得重构图像在测量矩阵上的投影与测量值更加接近.实验结果表明，本文算法在重构质量和重构时间上均有明显优势.

文章导读

传统的奈奎斯特采样速率必须达到信号带宽的两倍以上才能精确重构出原始信号.然而随着科技的不断进步, 所处理信号的带宽也在不断地增加, 这对传统的采样系统提出了挑战.近年来, 由Donoho和Candes等提出的压缩感知理论[1-4], 突破了这一限制, 其主要思想是利用随机测量矩阵${\Phi} \in {\bf R}^{m \times n}$对信号${\pmb x} \in {\bf R}^{n \times 1}$进行采样, 将${\pmb x}$投影到$m$维的低维空间, 并证明这样随机投影的测量值${\pmb y} \in {\bf R}^{m \times 1}~({\pmb{y}} = {\Phi {\pmb x}})$中包含了重构信号的足够信息, 通过求解一个稀疏优化问题, 利用投影在低维空间的测量信号可重构出原始信号.

在图像压缩感知问题中, 测量值${\pmb y}$的维度$m$远小于原始信号${\pmb x}$的维度$n$, 图像压缩感知重构本质上是求解一个欠定方程, 如何从这个欠定方程中寻找出最优解是重构的关键.近年来众多学者提出了基于图像在某种变换域具有稀疏性的图像重构算法, 该类算法利用${l_p}~(0 \le p \le 1)$范数衡量稀疏系数的稀疏性, 通常使用正交匹配追踪(Orthogonal matching pursuit, OMP)算法[5], 迭代硬阈值(Iterative hard-thresholding)算法[6]等求解对应的稀疏编码问题.还有学者提出利用梯度稀疏性[7]、非局部稀疏性[8]和块稀疏性[9]作为先验知识对原始信号进行重构, 基于混合基稀疏图像表示[10], 基于非局部相似性[11]的压缩感知图像重构算法也被提出.然而这些重构算法都需要进行复杂的迭代运算, 重构时间较长, 并且在较低的采样率下, 重构图像质量较差.

深度学习自提出以来, 在计算机视觉和图像处理方面, 受到广泛关注, 如, 图像超分辨率重建[12]、图像语义分割[13]、图像去噪[14]等, 并且在这些方面都呈现出较好的效果.最近, 有学者将深度学习应用在压缩感知上, 利用堆降噪自编码模型[15] (Stacked denoiseing auto-encoders, SDA)和卷积神经网络(Convolutional neural network, CNN)[16]学习一个端到端的映射, 利用测量值, 通过网络直接重构图像.在文献[15]中, Mousavi等利用SDA训练得到测量值与重构图像的映射, 使用该映射利用测量值进行图像重构. Kulkarni等在文献[16]中提出的ReconNet网络将两个SRCNN (11-1-7)模型[12]堆叠, 在卷积网络前级联一个全连接层, 实现了非迭代图像压缩感知重构, 但重构质量相对较差. Yao等将ReconNet网络与残差网络[17]结构相结合提出了DR$^2$-Net[18], 网络由全连接层和四个残差块(12层卷积层)组成. DR$^2$-Net相对于ReconNet网络提高了重构质量, 但是由于含有较多的卷积层需要花费较长的重构时间.

本文在ReconNet和DR$^2$-Net的基础上提出多尺度残差重构网络, 使用不同尺寸的卷积核组合成多种感受野, 捕捉图像中不同尺度的特征, 进而重构出高质量的图像.在重构网络中, 引入扩张卷积(Dilate convolution)[19], 仅使用7层卷积层, 重构图像的质量优于DR$^2$-Net, 且重构时间比其短.

图 1  多尺度残差重构网络(MSRNet), s-Dconv表示扩张卷积, $s$ = 1, 2, 4

图 2  多尺度卷积层

图 3  扩张卷积

本文提出了一种基于深度学习的多尺度残差网络结构, 利用测量值通过网络重构图像.网络引入多尺度卷积层用来学习图像中的多尺度信息, 重构网络中使用扩张卷积增大网络中的感受野从而重构出高质量的图像.最后, 本文算法对网络重构图像进行了修正, 使得重构图像在测量矩阵上的投影更加接近测量值.在常用的11幅测试图像和BSD500测试集的实验结果进一步表明了本文的算法相比于其他几种算法在图像重构质量和重构时间拥有更好的表现, 并且对噪声具有鲁棒性.

作者简介

富利鹏

燕山大学信息科学与工程学院硕士研究生.主要研究方向为图像压缩感知, 深度学习.E-mail:fulipeng87@gmail.com

陈书贞  

燕山大学信息科学与工程学院副教授.主要研究方向为图像处理, 压缩感知及生物识别.E-mail:chen_sz818@163.com

石保顺  

燕山大学信息科学与工程学院博士研究生.主要研究方向为图像处理, 压缩感知及深度学习.E-mail:shibaoshun@ysu.edu.cn

练秋生  

燕山大学信息科学与工程学院教授.主要研究方向为图像处理, 稀疏表示, 压缩感知及深度学习.本文通信作者.E-mail:lianqs@ysu.edu.cn