1、慢速学习

文献[1]中明确给出，F2层胜出神经元J对应的连接长期记忆系统（LTM）向量z_Ji和z_iJ的学习规则表达为：

                   

   如果将式（1）和式（2）离散化，可以得到：

         

在式（3）、（4）中，可以认为每个新的输入模式I只对刺激一段时间为Dt。文献[2]使用了符号a取代Dt，并明确地称a为学习速度（learning rate）。有些文献采用的学习规则等同于a=1。显然式中Dt为样本送入ART2网络进行学习的时间，而且Dt并没有小于1的限制，但过大的Dt容易引起振荡或发散，这一点很容易从离散系统的相关知识理解。

以上两种方式即所谓的慢速学习方式。由式和式可知，与其它神经网络相比，ART2网络的显著特点之一就是它是一种连续网络。

2、慢速学习

令式（1）和式（2）等于0，也即时间t->¥，因此有：

                          

 

                                

即多数ART2相关文献通常采用快速学习规则。如果函数f(.)为线性，可以证明在采用快速学习条件下，LTM向量z_J与输入向量I所引发F1的中间层向量u方向相同。快速学习的显著特征是LTM向量的幅值一次性达到1/(1-d)，称之为快速定型特性（Fast commitment）。

3、折中学习

在实际应用中，ART2网络经常需要有一个合适的学习速率来应对噪声和保持系统稳定性，同时克服样本输入次序对分类结果的影响。相对过激的快速学习方式不适合处理噪声水平较高的数据集，而慢速学习虽然可以较好地处理噪声问题，但可能存在无谓的搜索过程，导致计算速度慢。

为此，文献[3]提出了基于变形的ART2网络的折中学习概念，并称之为ART2-A算法，其主要行为特征是同时具备快速定型特性和慢速再编码特性。

快速定型是在激活了未定型（uncommitted）节点时采用快速学习，避免了慢速学习方式造成的对已定型节点进行无意义搜索的问题。慢速再编码特性则是在激活了已定型（committed）节点时，采用近似慢速学习的学习规则，解决噪声和样本输入顺序带来的影响。

[1]       G.A. Carpenter, Stephen Grosssberg. ART2: Self-organization of stable category recognition codes for analog input patterns. Applied Optics. Vol. 26, No. 23 :4919-4930,1987.

[2]       Ardavan Avazdavani，Seyed S. Mortazavi. Application of modified art2 artificial neural network in classification of structural members[C]. 15th ASCE Engineering Mechanics Conference, Columbia University, New York, NY , June 2-5,2002:1-6.

转载本文请联系原作者获取授权，同时请注明本文来自陈众科学网博客。
链接地址：https://blog.sciencenet.cn/blog-38831-17424.html

上一篇：同化与顺应的ART2网络实现
下一篇：关于ART2网络研究的一些探讨，有点情绪哦...