计算士的世界尽头与冷酷仙境分享 http://blog.sciencenet.cn/u/jisuanshi

博文

熵的产生与粗粒化

已有 6911 次阅读 2009-8-4 14:20 |个人分类:未分类|系统分类:科研笔记

新帖老问题。源于刚看到的一个贴:

http://www.sciencenet.cn/m/user_content.aspx?id=19859 (科学网张小平)

“我的思路是这样,先不管宏观态,只考察相空间,系统的态在相空间中游荡,它走到哪个点都是随机等概率的,在这里没有热力学第二定律。现在将相空间粗粒化,但是要不均匀地粗粒化,就象脸盆里的肥皂泡有大有小,在同一个肥皂泡中的微观态我们把它定义成一个宏观态,只有一个这样定义了肥皂泡的相空间我们才能推出一个对应的物理空间出来,(其实我这是反着说,应该根据物理空间推出那些肥皂泡,但一个意思),但是这些肥皂泡是人为地加上去的,它们的物理意义是“在同一个肥皂泡中我们没有足够的信息去区分里面的微观态,而对不同的肥皂泡我们有信息能够区分”,所以物理空间的存在是因为信息。


  动力学系统(不管是单粒子还是多粒子)都是没有时间箭头的,因为不涉及到信息的问题,只有统计力学涉及到信息才有时间箭头。对于信息目前应该还没有公认的定义,但不管怎么定义都离不开“认识”,即主体对客体状态的知识,这种认识只可能是部分的,必定有缺失,比如一个人只有有限的接收外界信息和处理信息的能力,所以人对外界的认识必然会粗粒化,正是这种认识的粗粒化产生了热力学第二定律。


  因为信息和空间这种必然的联系,所以没考虑信息的动力学必然有关于空间的内在悖论,人们普遍认为动力学是统计力学的基础,其实是错的,应该反过来。动力学的空间悖论在量子力学中被发现了,实际上没有量子力学也应该能推出来。

    关于时间箭头没有别的路了,想揭示引力的奥秘也只能从粗粒化入手,就是说要转到信息的角度,我敢发誓(虽然耶老师叫我们不要发誓)这个方向是对的,建议二傻也来试一试,看有没有具体的操作办法,这个题目比“电子弹”更有希望,万一...,我只要一点利息就可以了...”

 

又一个人的思想和我们应征上了。但在这个方面我们要走得更远。这里描述的“大小不同的肥皂泡”,其实是可以被定量地测量的,就是之前提出来的J熵。什么是J熵?就是把老S熵中微粒分布状态相同的(其实是近似的,但因为我们在该相空间的内部信息缺失,因此就视为相同)相空间进行合并。合并完了的数列去计算熵。

熵的本质,其实还是区别,差异的程度,diversity。 因此张学文证明过,熵和方差variance是正相关的。相空间里的肥皂泡,第一看各自内部的微粒分布有多不同?这个计算用S熵,第二看各自大小有多不同?这个是J熵?接下来还有其他不同,层层归并信息,这就是一层层的熵。最后整个相空间的差异性信息完全丢失,就变成一个大肥皂泡。

什么来描述这个不同层次上的差异程度呢?信息。概率。

怎么看差异程度消失/合并的速度/精度(因为总信息有限,速度快=精度高)?信息流。概率流。

在各个层上对应某些差异程度的(因为最初的状态已经包含各个层的差异,实际上,这些层都是我们自己归并出来的,所以,各个层也可以说是第一层,或者结构的总差异)某一种固定结构有着什么属性呢?

结构对应着概率,而我们总是看到最大的概率,也就是最大熵的那个结构,把时间的概念引入结构,我们将看到最有效,最快速,最高精度的结构演化,这个就是时间统计上最可能的那个结构。光从空间结构上看Power law是很难想明白的,最好能结合结构演化去看。BA本身就是一种演化机制,Power law表面上看是BA的演化结果,实际上是BA的演化过程。或者不如说,我们的信息处理结果。

所以说,BA的成功,我觉得原因不在于像Barabasi主张的那样,模拟了真实世界的增长(因此Barabasi四处演讲,要把科学家的合作网,神经网,计算机网通通讲一遍,说这些都是一个一个地有限增长的)。

不过这个事巧妙之处在于,因为现象即信息,所以我们看到的所有网络,也都确实长得我们能看到的那个样子。也就是说,科学家的合作网,神经网,计算机网---这些“实在网”的结构,其实是我们的“信息处理的网络痕迹”的结构,谁能搞定后者,谁就能在诠释前者的结构时获得一劳永逸的成功。

很高兴能遇到知己,或者是这条路上互相映照,促进的人。不过如果我们成功了,恐怕不必支付利息。我和Jake的邮件和在B学校路上的讨论,虽然要比这个帖晚了一年左右,却是我们自己想出来的,而且定量化了。



https://blog.sciencenet.cn/blog-284004-247370.html

上一篇:Science09复杂系统与复杂网络特刊杂感一
下一篇:涌现:最高效结构如何通过最可能路径进化
收藏 IP: .*| 热度|

1 武夷山

发表评论 评论 (5 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-11-24 13:06

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部