引用本文

董海迪, 何兵, 刘刚, 郑建飞. 一个多维次成分并行提取算法及其收敛性分析. 自动化学报, 2019, 45(2): 427-433. doi: 10.16383/j.aas.2018.c170343

DONG Hai-Di, HE Bing, LIU Gang, ZHENG Jian-Fei. A Parallel Multiple Minor Components Extraction Algorithm and Its Convergence Analysis. ACTA AUTOMATICA SINICA, 2019, 45(2): 427-433. doi: 10.16383/j.aas.2018.c170343

http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.2018.c170343

关键词

多维次成分，递归最小二乘，OJAm算法，李雅普诺夫函数 

摘要

次成分分析是信号处理领域内一项重要的分析工具.目前，多维次成分并行提取算法数量稀少，而且现有的算法在应用时还存在很多限制条件.针对上述问题，在分析研究OJAm次子空间跟踪算法的基础上，采用加权矩阵法提出了一种多维次成分提取算法，并采用递归最小二乘法对所提算法进行了简化，最后采用李雅普诺夫函数法确定了所提算法的全局收敛域.相比现有算法，所提算法对信号的特征值大小没有要求，也不需要在迭代过程中进行模值归一化操作，同时算法具有较低的计算复杂度.仿真实验表明：所提算法能够并行提取多维次成分，而且收敛速度要优于现有同类型算法.

文章导读

在信号处理领域, 将信号自相关矩阵最小特征值对应的特征向量定义为信号的次成分(Minor component, MC).次成分分析是一种从信号提取次成分的技术.次成分分析已经广泛应用于计算机视觉[1]、波达方向估计[2]、FIR滤波器设计[3]、曲面拟合[4]等领域.目前, 基于神经网络的次成分分析算法是国际上的一个研究热点.相比传统的特征值分解算法, 神经网络算法具有计算复杂度低、能够在线实施和跟踪非平稳信号等优点[5].

根据提取次成分的维数, 次成分分析算法可以分为:单维次成分提取、次子空间跟踪和多维次成分提取等三类[6].目前, 学者们已经提出了大量的单维次成分提取算法和次子空间跟踪算法[2-3, 6], 而多维次成分提取算法还非常稀少.传统的多维次成分提取大多是通过串行提取或空间旋转来实现[6].串行提取法是首先利用单维次成分分析算法提取信号的第一个次成分, 然后利用膨胀技术依次提取下一个次成分.串行算法的缺点在于存储器需求量大、提取时间有延迟、误差累计传播等.空间旋转法是首先利用次子空间跟踪算法提取信号的次子空间, 然后进行空间旋转得到多维次成分.空间旋转法的缺点在于计算复杂度的增加[7].

相比串行提取法和空间旋转法, 并行算法能够直接从信号中提取多维次成分, 且不需要中间转换过程, 因此可以避免两类算法的缺点.最早的并行提取算法是由芬兰学者Oja提出来的[8], 该算法虽然可以并行提取多维次成分, 但是其要求信号的最小特征值必须小于1; Mathew等提出的算法[9]虽然没有特征值大小的限制, 但是该算法只适用于信号具有多个相同的最小特征值; 基于Douglas次子空间跟踪算法, Jankovic等[10]提出了一种新型多维次成分提取算法——MDouglas算法, 虽然该算法对特征值大小没有要求, 但是需要事先选取参数, 而且该参数选取的结果直接影响着算法的收敛性能; 采用主/次成分转换机制, Tan等提出了一种并行提取算法[11], 该算法的缺点在于需要事先对最小特征值进行估计; Bartelmaos等所提出的MCA-OOJAH算法[12]虽然对信号特征值没有要求, 但是需要在每次迭代过程中增加模值归一化措施, 以保证算法的收敛性.频繁的模值归一化操作极大地增加了MCA-OOJAH算法的计算复杂度.综上所述可得, 现有算法存在以下几个方面的问题: 1)对信号的特征值有要求; 2)需要事先选取一些参数; 3)算法计算过程复杂.本文研究目的就是发展能够避免上述缺点的多维次成分并行提取算法.

本文的主要贡献可以归纳为以下三个方面: 1)提出了一种多维次成分并行提取算法, 该算法对信号的特征值没有要求, 而且不需要模值归一化操作; 2)利用递归最小二乘(Recursive least square, RLS)技术对所提算法进行改进, 导出了一种具有低计算复杂度的算法; 3)利用李雅普诺夫函数法完成了对所提算法的全局收敛性分析, 确定了所提算法的全局收敛域.

论文的结构安排如下:第1节是对神经网络模型和次成分进行简介; 第2节是在研究OJAm算法的基础上, 提出两种多维次成分提取算法; 第3节是采用李雅普诺夫函数法对所提算法的全局收敛性进行证明; 第4节是通过仿真实验对所提算法的性能进行验证; 论文的总结安排在第5节.

图 1  WOJAm算法的DC曲线

图 2  WOJAm算法的Norm曲线

图 3  RLS-WOJAm算法的DC曲线

本文对多维次成分并行提取算法进行了研究.首先, 通过对OJAm次子空间跟踪算法进行加权改造, 提出了一种多维次成分并行提取算法; 然后, 为了降低该的计算复杂度的, 采用递归最小二乘技术导出了一种新型算法——RLS-WOJAm算法; 相比现有算法, 所提算法对信号自相关矩阵的特征值大小没有要求, 也没有模值归一化措施; 最后, 通过李雅普诺夫函数法确定了所提算法的全局收敛域.仿真实验表明:相比现有一些同类型算法, 所提算法具有较快的收敛速度.