RESEARCH ARTICLE

Shurui Li, JianqinXu, Jing Qian*, and Weiping Zhang, Revisiting the dynamics of Bose-Einstein condensates in a double well by deep learning with a hybrid network, Frontiers of Physics 17(2), 22504 (2022)

小视频解读详见微享：https://www.koushare.com/WeShare/info/643  

基于混合型神经网络学习算法研究玻色-爱因斯坦凝聚体的双阱动力学

精密设计的神经网络算法正逐步成为探索物理学和其他很多科学领域难题的强有力工具。例如，模拟物理系统的动力学演化对于探究该系统的物理机制至关重要，而通常一个复杂系统的动力学过程却缺乏解析模型，这使得基于直接模拟的研究步伐十分艰难。近年来，依据复杂系统本身的性质构建适当的神经网络来深度学习和预测已经成为一条有效的新研究路径。然而不少复杂系统的动力学经常伴随着无规的快速振荡，这将极大地降低神经网络的学习效率。

最近，华东师范大学钱静课题组与上海交通大学张卫平教授合作在Frontier of Physics发表了题为“Revisiting the dynamics of Bose-Einstein condensates in a double well by deep learning with a hybrid network”的研究论文，设计了一种新型的多层混合神经网络，兼具高学习效率和可靠的数据预测能力的优点，适用于研究快速振荡系统的动力学过程。该论文的第一作者是华东师范大学2018级物理学专业本科生。

为了有效克服传统的单一神经网络在处理复杂系统动力学问题中的局限性，论文提出了同时运用Long Short-Term Memory(LSTM) 和Deep Residual Network(ResNet)两种类型神经网络的新方案。以双势阱中原子玻色-爱因斯坦凝聚体（BEC）的动力学作为研究比较对象，论文展示了这一新型网络的优异性能。作为一个经典非线性系统问题，由双模近似模型导出的BEC动力学众所周知包括约瑟夫森振荡（BJJ）和宏观量子自囚禁（MQST）两种形式。前者表现为BEC原子布居数在两个阱之间的低频往返振荡，而后者表现为BEC原子被囚禁在单一阱中发生极快速的布居振荡。研究结果表明，单一网络ResNet的直接学习方法能够较好地获得BJJ区域的原子运动规律，然而在处理MQST区域的快速振荡问题时遇到了困难。因为单一网络在学习这种高速低幅振荡时，受限于单一数据集，训练过程中容易出现梯度消失等问题，严重影响机器学习过程的效率。基于这一情况，论文提出在ResNet网络之前附加另一层辅助的LSTM网络可以有效提升方案的学习能力，准确预测高频振荡区域原子的动力学过程。

新方案设计的关键在于，首先通过庞加莱截面方法验证MQST区域布居动力学演化的周期性特征，在此基础上结合LSTM网络和ResNet网络分别学习和预测一个完整运动周期内的频率和动力学过程。其中，LSTM网络着重于进行频率学习，提取单频振荡的周期性特征输送给其后的ResNet网络，避免了ResNet网络对完整动力学过程的直接学习，大大提高了学习效率。考虑到实际运用中，混合型网络包括复杂的多层结构，需要较长的训练时间才能收敛，当样本数据量足够多的时候，要达到预期收敛的效果还是费时的。因此，论文进一步在两种类型的网络之间增加新的反馈机制，利用误差函数的判别来缩短训练时间。相较于之前的直接学习方案（单一ResNet网络）和改进型学习方案（无反馈机制的混合型网络），LSTM网络估计动力学频率的过程仅需15.8%的数据即可达到相同的准确度，而这一数据量需求的减少也进一步节省了大约15%的训练时间。最终该套混合型神经网络新方案的相对误差可减小至单一ResNet网络直接学习结果误差的20%。这一新方案同时兼具强大的学习和预测能力，可被用于研究更多复杂系统的动力学问题，尤其是在原始数据量不足和数据高频振荡的困难情况下。

图1 混合型多层神经网络深度学习双阱中原子BEC动力学行为的示意图。当不存在LSTM网络和反馈机制的情况下，体系可利用单一ResNet网络进行直接学习(direct learning)，学习结果与数值模拟(numerical simulation)结果相比，在低频的BJJ区域符合较好，而高频的MQST区域的结果出现了明显的偏差。这里，我们加入了新的LSTM网络预先学习布居动力学振荡的频率特征，同时利用新的误差函数反馈ResNet的结果帮助提升LSTM的学习能力。这样的巧妙设计大大提升了混合学习(hybrid learning)的效率，最终混合学习结果与数值模拟结果比较相对误差降低至0.63%。

全文：https://journal.hep.com.cn/fop/EN/pdf/10.1007/s11467-021-1111-8

主页：https://journal.hep.com.cn/fop/EN/10.1007/s11467-021-1111-8