组成论对“信息与熵的关系”的认识- -

                                      

--张学文2004.07.19

（答邹晓辉先生问）

1.      对仙农的信息熵和由此引出的定量的信息概念，本人是承认者、使用者、宣传者和看重者。我认为准确认识质量、能量和信息是同等重要的事，是人类认识史上的大事。哈特利和仙农是这个重要概念的重要确立者。仅此，他们的功绩应当受到特殊的尊重。仙农（他没有得诺贝尔奖）的工作价值远高于很多的诺贝尔获奖者。

2.      仙农把从概率角度定义的一个物理量称为信息熵，这里有冯.诺曼的的功绩。冯.诺曼的这个建议非常尖锐、本质，这迅速推进了信息知识与热力学熵知识的联系。

3.      在信息熵和热力学熵的关系方面，科学界目前普遍观点认为它们是完全等价，我认为这个认识不准确。我认为热力学熵是信息熵的特例，信息熵的外延比热力学熵宽。在很多没有"热"的领域依然有信息熵存在，信息的本质不是热；把热力学概念和原理乱推广是有害的。

4.      信息熵是立足于概率、抽样、通信这些非确定性概念引出来的概念。它的思维路径与自然科学把客观事物放到第一位的做法是有距离的。某些唯物论者批评它是唯心论就使信息论难进自然科学，物理学不知道如何摆好信息概念在物理学中的地位，这也从另外一个侧面说明了仙农信息论的思路的结构性弱点。

5.      组成论也可以说是挖空心思把信息论拉向唯物论和物理学。但是它不是从信息论出发，而是从客观事物的一个简单模型，广义集合，出发。在广义集合视角下的各个具体客观事物必然具有对应的分布函数，而对分布函数的一种运算可以得到一个数，我们称这个数为复杂程度。复杂程度是立于客观事物存在基础上的概念。它非常容易让唯物论和物理学接纳。组成论余下的事就是证明这样得到的物理量，复杂程度，在一定认识途径下与信息熵成正比例（系数为个体数量），在一些热力学系统内，复杂程度恰好等于热力学熵。

6. 组成论这样做既介绍了一个重要的物理量：复杂程度，又使信息熵得到了新理解，也使熵概念的本质得到了新认识。它使热力学定律超出了热力学，使信息论得到了唯物论和物理学的承认。它克服了熵这个词的神秘性，推进了重要知识的融合。



转载本文请联系原作者获取授权，同时请注明本文来自张学文科学网博客。
链接地址：https://blog.sciencenet.cn/blog-2024-4024.html

上一篇：《熵气象学》 自 序
下一篇：掷骰子、轮盘赌、抽奖…的等概率实验也是物理学实验