如何能让机器从经验中学习长期以来都是哲学界和科学界的研究目标之一，学习能力对人类智能的形成和发展无疑骑着至关重要的作用，而机器学习的研究显然有助于提高人工智能的水平。

从原始的输入数据到产生意义的理解过程往往需要经过许多不同层次的信息处理、转换、表达和抽象，如果涉及的层次较深，深度学习的模型和方法就可能发挥重要作用。深度信念网络就是一种涉及多层的深度学习模型，能够像人脑一样对输入数据进行分层的特征提取和学习，如下图1所示

图1 深度信念网络的结构

深度信念网络对大量原始数据进行分层学习的同时，难免会出现耗时长的问题。本文针对深度信念网络学习耗时长的问题，提出了一种加速收敛的自适应学习算法，对学习率进行自适应设计。如图2所示。

图2 自适应学习率设计策略

最后，将本文所提方法针对一系列benchmark问题做了验证，并与若干种公开的实验结果进行比较。

引用格式：乔俊飞, 王功明, 李晓理, 韩红桂, 柴伟. 基于自适应学习率的深度信念网设计与应用. 自动化学报, 2017, 43(8): 1339-1349

链接：http://html.rhhz.net/ZDHXBZWB/html/2017-8-1339.htm

作者简介：

乔俊飞，北京工业大学副校长，信息学部自动化学院教授。 主要研究方向为智能控制，神经网络分析与设计。E-mail:junfeq@bjut.edu.cn

王功明，北京工业大学信息学部自动化学院博士研究生。主要研究方向为深度学习、神经网络结构设计和优化。本文通信作者。E-mail:xiaowangqsd@163.com

李晓理，北京工业大学信息学部副主任，自动化学院教授。主要研究方向为多模型自适应控制，神经网络控制。E-mail:lixiaolibjut@bjut.edu.cn

韩红桂，北京工业大学信息学部自动化学院教授。主要研究方向为污水处理工艺复杂建模与控制，神经网络分析与设计。E-mail:rechardhan@sina.com

柴伟，北京工业大学信息学部自动化学院讲师。主要研究方向为系统辨识和状态估计研究。E-mail:chaiwei@bjut.edu.cn