发信人: weekend (心湖), 信区: InfoSci

标  题: 熵、信息和复杂性的关系

发信站: 饮水思源 (2002年11月04日15:05:05 星期一), 站内信件

    对于熵、信息和复杂性的关系进行系统研究的是张学文先生。

    张学文指出∶“信息（熵）、热力学熵和复杂程度是互相成正比例的物理量。通讯

讯号的复杂程度就是信息（熵）、微观状态的复杂程度就是热力学熵。”

    张学文回顾了获得这一结论的过程∶“ 1986 年笔者指出过“熵值描述的就是该物

质系统中关于该物理量的分布的状态的丰富（复杂）程度”（见《自然杂志》 [ 上海 

] ，1986 年 11 月号， 847-850 页）。我的这种认识不是出于对复杂性的抽象的正面

研究，而是基于对熵概念的物理意义的探索。此后我觉得把问题反过来说会更好：不是

用复杂性来解释什么是“熵”，而是直接用“复杂程度”来代替很难理解的“熵”。 1

989 年在我国第二届熵会上，我提的论文的题目就是“复杂度定律”。它也从复杂性的

定量化引出其计算公式，而引入的公式与信息公式、熵公式的一致性就把熵作为是它的

特例、把熵原理扩大为复杂度定律。 10 多年来研究实践使我们体会到把熵改称为复杂

程度不仅是准确的也是通俗的、科学的。它一方面扩大了熵和熵原理的应用领域，也为

复杂性研究提供了一条康庄大道。所以我们宣传一个观点：熵就是客观事物状态的复杂

程度；复杂程度就是熵。 ”

    张学文形象地说∶“ 如果你把信息、熵比做现代科学领域中的“神”（“信息”神

是神通广大但是被物理学拒之门外，“熵”神是高不可攀但是被囚于热力学中），那么

我们就修了个新庙并请“复杂程度”为神，然后补充说 “信息”、“熵”都是先辈们对

复杂程度在不同场合的称呼。 ”

    “用复杂程度概念统一信息和熵概念也为非物质的“信息”进入物理领地理顺了思

路。”

    “信息熵好似与物质无关、热力学熵神秘又囚于物理学角偶，当它们都承认自己是

复杂程度的某些别称以后，人们很容易明白：我们早就应当为物质的状态的丰富程度定

义一个科学名词，复杂程度一词的出现了却了我们长期的等待。而这也使信息熵和热力

学熵明确了自己的出身。”

    张学文指出∶“描述物质的微观尺度的运动状态的复杂程度恰好与该系统的热力学

熵成正比例，比例系数是玻尔兹曼常数。”

    “信息不是物质，它是物质状态的映射。复杂程度是对物质状态丰富程度的度量。

由于复杂程度与信息成正比例，所以复杂程度概念帮助我们正确认识信息概念，并且使

信息概念纳入了唯物论。”

    张学文还谈了通过“复杂程度”概念引入而导致组成论建立的思路，他指出∶“我

们也可以说“复杂程度”是为了把熵概念用到热力学以外的领域、把信息概念纳入物质

科学而引入的新词汇。把这个词汇称为复杂程度本身还使复杂性研究出现了新的思路。

为了引入复杂程度概念就要用到分布函数，而为了说明分布函数的普遍性我们被迫引入

了广义集合概念。一旦引入了广义集合概念，我们好象迎来了等待已久的主人。”

    张学文对他的研究做了谨慎评价∶“我们这里定义的复杂程度没有一些人希望的那

些高级功能，也自愿承认我们仅研究了复杂性问题中最简单的一个侧面。但是我们也指

出把最基本的概念定量化也就为研究更高级的事物做了概念与理论准备。想跳过简单问

题、基本问题而去研究“复杂性”的最复杂的侧面，可能欲速则不达。”

    “复杂程度”概念的提出是重要的，在学术界对信息的实质众说纷纭的情况下，在

略显神秘的“熵”被人们大量误用和滥用的情况下，使用“复杂程度”概念无疑具有正

本清源的作用。从“表达信源的结构和结构变化”这一点来看，熵、信息、复杂程度在

对结构的描述上是一致性的，三种说法可以并存，熵说法较成熟，信息说法较常用，复

杂程度说法更接近结构描述的实质。

--

※ 来源:·饮水思源 bbs.sjtu.edu.cn·[FROM: 202.120.25.7]（上海交通大学BBS）