|||
广义系统的最大信息量原理-最大平等遍历度原理
美国归侨冯向军博士,2017年6月14日写于美丽家乡
假如单一一个事件的概率为p,概率p越小,该事件就越难发生,但是一旦发生了信息量就越大,所以单一事件的自信息量I随其发生概率p的倒数的增加而增加,被定义为
自信息量 I = log(1/p) = -log(p)。
假设广义系统
G = (p1,p2,... ,pn)。
那么广义系统在第i个广义方向上的分量的自信息就是-log(pi)(i = 1,2,...,n),而广义系统G一旦发生,其自信息量的统计平均值或平均信息量E就可表达为:
平均信息量 E = -p1log(p1)-p2log(p2)-...-pnlog(pn)。
所以我们这才明白,虽然以上平均信息量公式是从物理系统微观样本空间特别巨大时服从热力学第二定律的玻尔兹曼熵的简化表达式中来,但是从信息论的角度来看却与玻尔兹曼熵可以毫无关系地普遍成立。例如对样本极小的离散系统,由于斯特林公式不再成立,以上平均信息量公式与玻尔兹曼熵没有确切的数学关系,但是作为一切广义系统所含自信息的统计平均值的数学表达式仍然精确地成立。我们注意到当广义系统最不平等(在某个广义方向上的概率为1而在其余广义方向上的概率为0)时,平均信息量E取最小值零,而广义系统最平等(以等概率平等遍历各广义方向)时,平均信息量E取最大值log(n)/n。因此我们认为对于一切广义系统G,平均信息量E都是完美而精确的平等遍历度的量度。我们于是就定义:
广义系统的平等遍历度 = -p1log(p1)-p2log(p2)-...-pnlog(pn)。
【最大平等遍历度原理】在任何约束条件下广义系统都自发地最大限度地走向平等遍历。最大平等遍历度原理可以视为是一种具有普适哲学意义的最大信息量原理。
按照最大平等遍历度原理,事件要在众多的可能性中脱颖而出,得以发生,其平等遍历度必须最大。因此,平等遍历度是令广义系统的发生概率随着它的增加而变大的量。这也就是说平等遍历度本身就是一种发生概率的量度,这种发生概率不是纯数学性的而是服从平等遍历度原理。正好比玻尔兹曼熵所对应的发生概率:微观状态数概率不是纯数学性的而是服从热力学第二定律一样。最大平等遍历度原理服从最大概率公理。
虽然最大平等遍历度原理的正式提出比较晚,但是现在反过头来看:最大玻尔兹曼熵原理、最大詹尼斯信息熵原理、最大张学文复杂度原理、最小平均概率原理以及基于纯数学的最大发生概率原理无一例外,统统都是最大平等遍历度原理。这是因为在无任何非自然约束条件下,所有这些原理统统都导致完全相同的概率分布:平等遍历各广义方向的均匀分布。
最大平等遍历度原理是可以超越科学、超越哲学的宇宙人生的真理。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-11-24 12:09
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社