时滞可交换四元数神经网络稳定性分析

林东源, 陈晓丰, 孙文涛, 李伟凯, 夏砚楠

【摘要】 针对传统的四元数乘法运算不满足交换律的问题，介绍了一种可交换四元数，同时建立一种交换四元数神经网络（CQVNN），并对CQVNN的渐近稳定性进行研究。研究过程中，将CQVNN分解成4个实值神经网络，通过拓扑度理论、传统的李雅普诺夫稳定性理论以及不等式理论，得到CQVNN平衡点的存在唯一性条件以及其平衡点渐近稳定的充分条件。最后，给出一个数值案例，以验证所得结论的有效性。        

【关键词】交换四元数 ; 时滞神经网络 ; 渐近稳定性

引用格式 林东源, 陈晓丰, 孙文涛, 李伟凯, 夏砚楠.时滞可交换四元数神经网络稳定性分析. 智能科学与技术学报[J], 2020, 2(1):  80-87

Stability analysis of commutative quaternion valued neural network with time varying delays

LIN Dongyuan, CHEN Xiaofeng, SUN Wentao, LI Weikai, XIA Yannan

Abstract Because the traditional quaternion multiplication does not meet the commutative law,a kind of commutative quaternion was introduced,and a commutative quaternion valued neural network (CQVNN) was established,and the asymptotic stability of the CQVNN was studied.In the course of research,the CQVNN were decomposed into four real-valued neural networks.Then,through the topological degree theory,the traditional Lyapunov stability theory and the inequality theory,the conditions for the existence and uniqueness of the equilibrium point of CQVNN and the linear matrix inequality (LMI) conditions for the asymptotically stable of equilibrium point were obtained.Finally,a numerical example was given to verify the validity of the conclusion.       

Keywords  commutative quaternion ; delayed neural network ; asymptotically stability 

Citation LIN Dongyuan.Stability analysis of commutative quaternion valued neural network with time varying delays. Chinese Journal of Intelligent Science and Technology[J], 2020, 2(1):  80-87.

1 引言

自从生物物理学家Hopfield^[1]在20世纪80年代首次提出人工神经网络以来，人工神经网络得到了广泛的研究。如今，人工神经网络在联想记忆、图像处理、优化组合等方面得到了广泛的应用^[2,3,4,5]。在这些领域对人工神经网络系统的稳定性进行研究是十分必要的^[6,7,8]。

近年来，随着数域的扩张，人工神经网络主要有实数神经网络、复数神经网络以及四元数神经网络。四元数由一个实部和3个虚部构成，四元数对数据信息的存储能力比实数和复数都要强。一个四元数的数据存储能力是一个实数的4倍，是一个复数的2倍。因此，四元数神经网络在处理高维数据时比实数神经网络以及复数神经网络都更有优势。例如，在与图像有关的应用中，一种颜色往往由红色（R）、绿色（G）和蓝色（B）3种基本颜色按照各自的像素值合成，将 R、G、B 值分别对应于纯四元数的3个虚部部分i、j和k的系数时，一种颜色便可以用一个纯虚数唯一表示，一张图片可以用一个纯四元数矩阵唯一表示^[9,10]。

然而，之前研究的四元数神经网络涉及的四元数是定义在哈密顿（Hamilton）乘法规则之下的，此规则不满足乘法交换律。为了解决这个问题，本文给出了满足乘法交换律的四元数（以下简称交换四元数），它保留了四元数相对于实数及复数的基本优势，即具有更好的数据存储能力。但在新的乘法规则下，对交换四元数神经网络（commutative quaternion valued neural network，CQVNN）的研究也面临着许多挑战，例如：交换四元数同时存在 3个共轭，交换四元数的模表示十分复杂，交换四元数不满足三角不等式等。这些局限使得那些适用于实数、复数以及不可交换四元数的不等式理论不适用于交换四元数。为了解决这些问题，本文通过交换四元数的乘法规则将CQVNN转化为实数神经网络，进而研究其稳定性。

本文的结构组织如下：第2节介绍交换四元数以及交换四元数神经网络，给出一些引理及定义；第3节给出交换四元数神经网络渐近稳定的充分条件；第4节用一个数值案例验证了得到的结论的有效性；第5节对本文进行总结。

2 准备工作

2.1 交换四元数

一个交换四元数可以表示为：

2.2 四元数神经网络

考虑如下的四元数神经网络：

注 3 无论是在深度学习领域还是在神经网络动力学行为研究领域，考虑比较多的都是实数神经网络或者复数值神经网络，这些神经网络在处理三维或者四维等高维数据时具有一定的局限性。于是，近几年出现了基于Hamilton规则的四元数神经网络，这种神经网络对高维数据的处理具有一定的优势。但是，基于Hamilton规则的四元数不满足乘法交换律，本文给出了可交换的四元数神经网络模型，一定程度上解决了基于Hamilton规则的四元数神经网络具有的局限性。 

3 渐进稳定性

本节将基于李雅普诺夫（Lyapunov）稳定性理论给出式（8）表示的系统的唯一平衡点渐近稳定的充分性判据。

4 案例分析

为了验证定理3得到的稳定性判据的有效性，本节将选择一个符合定理 3 的系统案例，并通过Matlab绘制其解曲线并观察解的轨迹，进而判定本文所得结果的有效性。另外，考虑到现实中噪声的影响，在案例2中对系统的连接权以及系统的外部输入项添加一个正态分布的（0,1）噪声，然后观察分析系统解曲线的性态。

（1）案例1

考虑如下二维交换四元数神经网络：

图1

新窗口打开| 下载原图ZIP| 生成PPT

图1   二维四元数神经网络第一部分的状态轨迹

图2

新窗口打开| 下载原图ZIP| 生成PPT

图2   二维四元数神经网络第二部分的状态轨迹

图3

图3   二维四元数神经网络第三部分的状态轨迹

图4

新窗口打开| 下载原图ZIP| 生成PPT

图4   二维四元数神经网络第四部分的状态轨迹

图1,图2,图3,图4,图5,图6,图7,图8q₁和q₂分别为式（12）所示系统的第一维和第二维的解，t表示q₁和q₂的自变量。

（2）案例2

对案例1中涉及的系统的连接权参数A和B以及外部输入u添加一个正态分布的（0,1）噪声，通过Matlab的数值仿真结果如图5～图8所示，结果显示每一个神经元都收敛于平衡点。可见系统在受到一定噪声干扰时，其稳定性不会受到影响。

图5

新窗口打开| 下载原图ZIP| 生成PPT

图5   二维四元数神经网络第一部分受噪声干扰后的状态轨迹

图6

新窗口打开| 下载原图ZIP| 生成PPT

图6   二维四元数神经网络第二部分受噪声干扰后的状态轨迹

图7

新窗口打开| 下载原图ZIP| 生成PPT

图7   二维四元数神经网络第三部分受噪声干扰后的状态轨迹

图8

新窗口打开| 下载原图ZIP| 生成PPT

图8   二维四元数神经网络第四部分受噪声干扰后的状态轨迹

注 4 按照数据类型，可将神经网络分为实值神经网络、复值神经网络和四元数神经网络。实值神经网络的应用十分广泛，但是它无法高效地处理诸如二维仿射变换或者三维仿射变换等几何变换问题。为了解决这一问题，学者们发现复值神经网络能够将二维空间中的一个点数据建模成一个单独的整体，而不是两个数据单元的集合，这就使得复值神经网络在处理二维数据的仿射变换时，比实值神经网络更为高效快捷。然而，在实际生活中，常常需要处理三维数据，例如，与图像有关的应用、方向预测以及机器人操控等。近年来，学者们发现采用四元数可以直接对高维数据进行编码处理，大幅提升了处理效率，尤其在处理三维空间变换时非常高效简洁。目前四元数神经网络已经在卫星的姿态控制、彩色图像压缩、计算机图像学、彩色微光夜视以及机器人运动控制等诸多领域展现了良好的应用前景^{[14,15,16,17]}。因此，关于四元数神经网络稳定性的研究是十分有意义的。然而，目前研究的四元数神经网络不满足乘法交换律，即存在一定的局限性。本文提出的可交换四元数神经网络在一定程度上解决了这一局限性。目前，关于本文所涉及的交换四元数神经网络的渐近稳定性研究较少，因此本文研究具有一定的创新性。

5 结束语

本文对交换四元数神经网络的渐近稳定性进行了研究。首先介绍了交换四元数的一些基本概念及运算，然后提出了交换四元数的神经网络。考虑到交换四元数具有3个共轭这一事实所带来的各种问题，文中将交换四元数神经网络分解成4个实值神经网络，通过不等式理论、Lyapunov稳定性理论以及拓扑度理论，得到了一些交换四元数神经网络平衡点存在且唯一的充分条件以及平衡点渐近稳定的LMI条件。最后，提供了两个案例来证明所提出的LMI条件的有效性。

作者简介