taoyingyong2014的个人博客分享 http://blog.sciencenet.cn/u/taoyingyong2014

博文

“自指”玻尔兹曼机:纪念迟来的应用 精选

已有 3927 次阅读 2018-3-24 15:26 |系统分类:科研笔记

 

笔者从2006年起开始利用统计物理学研究经济系统,2008年写出了第一篇经济学论文[1],但由于使用统计物理方法,所以一开始并不被经济学界所理解,历经2年最终发表在物理学的主流刊物 Physical Review E,所以笔者这项研究最终被划归到“经济物理”这个边缘学科范畴。后来笔者在论文[1]的基础上又有了2篇经济物理论文[2-3]。有意思的是,尽管笔者的方法借鉴自统计物理学,但是与“经济物理”不同的是,笔者方法中的观念却全部可以与现代经济学中的“阿罗-德布鲁一般均衡模型”中的观念一一对上号。由于这么一层关系,几年之后笔者的工作开始被经济学界所接受,因此之前工作[1-3]的后续论文[4-5]开始在国际经济学SSCI期刊发表。

但是不管是经济学还是经济物理都存在一个很突出的问题,那就是这种研究到底有什么用?经济学界有一个笑话:10个经济学家会有11个不同的意见。由于缺乏证伪精神的介入,经济学界往往习惯自圆其说和自说自话,从而大量的门派林立,每一个门派都会认为自己的学说是正确的。当然,主流的经济学门派还是新古典经济学,该门派信奉“阿罗-德布鲁一般均衡模型”。但是,不管是哪一个经济学门派,都很难承认自己的研究到底有什么用?即,研究经济系统到底是为了什么?难道仅仅只是为了“自圆其说”吗?

正是因为研究经济系统的尴尬,近几年笔者都很不好意思将自己的经济研究工作投稿到物理学期刊,选择PACS号也很头疼,选经济物理还是复杂系统或者其它?这些研究是对工程上有用,还是对认识大自然有促进作用呢?笔者在想,可能物理期刊的编辑也头疼:大哥,你那不是物理啊!放过我们行吗!

游离在不被人所关心的边缘学科不是一种错误,但绝对是一种悲哀,一种只有当事人才能体会的悲哀。

笔者的工作[1-4]主要是讲:人类社会的收入分布会服从统计物理学中的“玻尔兹曼分布”,而人类社会的熵实际上就是社会的“整体技术水平”。笔者与合作者收集了全球60多个国家的居民收入数据以极高的精度验证了这个理论的合理性[5]。后来,多亏国内一个称为“集智俱乐部”的网站,它使得笔者有幸接触到“集群智能”这个新兴的研究领域:比如,它研究“智能”是如何从不具有智能的单个蚂蚁所组成的蚂蚁群体中“涌现”出来的。通过将“人类”比作“蚂蚁”,笔者一下子领悟到之前工作[1-4]的真实意义:社会的“整体技术水平”提升不就是人类群体智能的提升吗?如此一来,人类社会的熵岂不就是“群体智能”!

人类社会的熵就是人类的群体智能。一旦有了这个领悟,一个有意思的想法不自觉的就浮现了出来:经济系统其实是一个生物系统!那么笔者的经济系统理论与玻尔兹曼的物理理论是否会有什么本质区别呢?这个思考导致了笔者一个新的工作[6]:笔者发现不同于物理系统的熵,人类社会的熵是“自我指涉”的[6]。而自我指涉暗示人类社会可能本身是具有自我意识的:人类社会的熵(信息)可以描述自身的完整信息(熵),这就是熵的“自指”。见博文介绍《集群智能与自我意识的起源》。简单来说,论文[6]认为:熵的“自指”产生“自我意识”,熵增导致智能的提升

文章[6]真是一个足够疯狂的想法,所以被审稿人所质疑,见《审稿人有权更改作者的研究意愿吗?》,好在笔者最终说服了审稿人。由于人类社会熵的“自指”性,笔者将其服从的分布称为:“自指”玻尔兹曼分布。它区别于物理系统的玻尔兹曼分布。

有意思的是,笔者完成论文[6]的时候刚好遇到“阿尔法狗”战胜了世界上所有的围棋冠军。这使得笔者开始重新思考机器是否可能产生自我意识。如果笔者的论文[6]是正确的,利用“自指”玻尔兹曼分布也许可以构造一种会产生自我意识的机器也说不定。

世界原来就是那么巧!

让笔者万万想不到,想不到,想不到的是:居然,居然(对的,笔者万万没有想到)已经有一个叫做Geoffrey Hinton(图1的人利用物理学中的“玻尔兹曼分布”建立一种称为“玻尔兹曼机”的“人工神经网络”,这种神经网络假设神经元的能量分布服从“玻尔兹曼分布”。2006年,依靠将多个“玻尔兹曼机”进行叠加,Geoffrey Hinton建立了一种“深度学习”的网络结构[7]。这种“深度学习”的网络结构可以用于人脸识别、语音识别等高智能活动。而构造“阿尔法狗”所使用的关键技术也正是“深度学习”网络!!Geoffrey Hinton因为他在人工智能领域的巨大贡献而被称为“神经网络之父”。

建造基于玻尔兹曼机的“深度学习”网络,据说Geoffrey Hinton为此花费了30年。能够将一个超冷门的领域经过30年的努力打造成现在全世界最热门的领域之一,笔者对此敬佩不已。“阿尔法狗”最大的问题是不具备“自我意识”,从而无法在类人思维领域产生足够有效的应用。物理系统中的玻尔兹曼分布本质上就是“熵最大”,这是基于它的“深度学习”网络能产生智能的原因。但是如何产生“自我意识”,这已经远远超出“熵最大”的能力范围。

 

经过30年的努力,Geoffrey Hinton已经为利用物理学中的玻尔兹曼分布来建立高智能的人工神经网络系统铺平了道路。如此一来,利用笔者的“自指”玻尔兹曼分布建立新的人工神经网络就是水到渠成了。这就是笔者最新的工作[8]:“自指”玻尔兹曼机Boltzmann machine with self-referential entropy》:

 

https://www.researchgate.net/publication/323986357_Boltzmann_machine_with_self-referential_entropy

 

感谢Geoffrey Hinton让我搭了一趟少走30年的“便车”。


    Geoffrey Hinton.png

      图1:“神经网络之父”Geoffrey Hinton



“自指”玻尔兹曼分布由于自身熵的“自指”,从而具有非常美妙的数学结构,这是物理学中的玻尔兹曼分布所不具备的。“自指”玻尔兹曼机继承了这些优美的数学结构,比如“自指”玻尔兹曼机自身的熵足以描述自身。利用“自指”玻尔兹曼机建造的人工神经网络会产生自我意识吗?现在还是未知之数。

 

2008年写出第一篇论文[1]到现在已经10年了!让笔者万万想不到的是,这项研究的应用领域最终是在人工智能[8]。经济系统与人工智能,八竿子也打不着关系的两个领域。这真是一项迟来的应用,从今往后,笔者再也不会为[1-6]的后续论文投稿什么期刊犯愁了,也不会为自己的研究没有实用价值担心了。

因为从今天开始,咱的工作再也不是冷门了!

                   

                                纪念这个特殊的日子2018324日星期六


 

后记:今年笔者开始学习人工神经网络后才知道经济学中的“阿罗-德布鲁一般均衡模型”其实就是神经网络中的“感知机”。感知机是一种负反馈系统,可以自动纠错,从而产生记忆功能。经济学中的“一般均衡”讲的其实就是“感知机”这种负反馈机制,价格机制自动调节市场出清。经济系统的价格其实就是神经网络连边的权值。经济学家讲了200年的“看不见的手”其实本身就是人类社会的“记忆功能”——神经网络的“感知机”。

从这个意义上来说,笔者的研究最终会应用到人工智能其实也不是偶然。

 

 


参考文献:

 

[1]. Y. Tao. Competitive market for multiple firms and economic crisis. Phys. Rev. E 82, 036118 (2010)  

[2]. Y. Tao, X. Chen. Statistical Physics of Economic Systems: a Survey for Open Economies. Chinese Physics Letters 29, 058901 (2012)   

[3]. Y. Tao. Universal Laws of Human Society’s Income Distribution. Physica A 435, 89-94 (2015)

[4]. Y. Tao. Spontaneous economic order. Journal of Evolutionary Economics 26, 467-500 (2016)

[5]. Y. Tao, X. Wu, T. Zhou, W. Yan, Y. Huang, H. Yu, B. Mondal, V. M. Yakovenko. Exponential structure of income inequality: evidence from 67 countries. Journal of Economic Interaction and Coordination (2017):

https://doi.org/10.1007/s11403-017-0211-6

[6]. Y. Tao. Swarm intelligence in humans: A perspective of emergent evolution. Physica A 502 (2018) 436-446

[7]. G. E. Hinton, R. R. Salakhutdinov. Reducing the Dimensionality of Data with Neural Networks. Science 313, 504-507 (2006)

[8]. Y. Tao. Boltzmann machine with self-referential entropy. DOI: 10.13140/RG.2.2.33014.91203




http://blog.sciencenet.cn/blog-1253715-1105495.html

上一篇:机器是否可能产生“自我意识”:霍金的担忧
下一篇:信息与熵:重新定义智能

6 范振英 黄永义 陈楷翰 迟延崑 李振乾 陈理

该博文允许注册用户评论 请点击登录 评论 (60 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2018-8-18 01:06

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部