《关于决定性事件的概率论》的里程碑：

发生概率和信息熵同时最大原理

美国归侨冯向军博士，2017年7月24日写于美丽家乡

我将发生概率作为崭新的信息测度正式引进了统计物理学。

我居然发现除了最大发生概率原理外，其他所有的极值原理配合种种约束条件所导出的分布，一般而言，都不具备最大发生概率，而最大发生概率原理又能给出一切实现了的分布与最大发生概率相对应的统一约束条件。

另外当且仅当无任何非自然约束条件，最大发生概率原理和其他所有的极值原理给出相同的具有最大可达发生概率（1/n)ⁿ的分布：均匀分布！！！

这些天，我反复问自己的只有一句话：

这难道不是此生最重大的科学发现和科学研究机遇？

今天我终于提出了发生概率和信息熵同时最大原理

这是一个重要里程碑！

【发生概率和信息熵同时最大原理】

在任何约束条件下，概率分布必须使兼顾发生概率和信息熵的信息测度：

发生概率的对数 + 信息熵

log(P) + S = -(p1-1)log(p1) -(p2-1)log(p2)-...-(pn-1)log(pn)

最大。

【发生概率和信息熵同时最大原理的极值目标函数】

发生概率和信息熵同时最大原理的极值目标函数是

发生概率的对数 + 信息熵

log(P) + S = -(p1-1)log(p1) -(p2-1)log(p2)-...-(pn-1)log(pn)   （1-1）

log(P) + S = -（-p1*log(p1) -p2*log(p2)-...-pn*log(pn))   （1-2）

这其中，pi*是pi的补概率。如何解读发生概率的对数 + 信息熵的物理意义有待进一步深入研究。但是作为在补概率或不发生概率加权平均下的信息的负值，发生概率的对数 + 信息熵其本身于我就是富有想象空间的或很有意思的。

【发生概率和信息熵同时原理的统一约束条件】

用发生概率和信息熵同时原理求分布的统一约束条件是：

p1/f(x1) + p2/f(x2) +...+pn/f(xn) = 常数 = n    （1-3）

-p1log(f(x1))-p2log(f(x2))-...-pnlog(f(xn)) = 常量    （1-4）

p1 + p2 +...+pn = 1    （1-5）

这其中f(xi)是想要推导的分布。

【举例：用发生概率和信息熵同时最大原理推导出负指数分布】

对于平衡态负指数分布pi=f(xi)=aexp(-bxi)，i=1，2，...，n

因为：

log(P) + S = -(p1-1)log(p1) -(p2-1)log(p2)-...-(pn-1)log(pn)（目标函数）

p1/f(x1) + p2/f(x2) +...+pn/f(xn) = 常数 = n （自洽约束条件）    

p1 + p2 +...+pn = 1  （自然约束条件）

又因为：

f(xi) = aexp(-bxi)，i=1，2，...，n

p1x1 + p2x2 +... + pnxn = 常量

所以：

-p1log(f(x1))-p2log(f(x2))-...-pnlog(f(xn)) = 常量  （系统约束条件）

可构造拉格朗日算子

L = -(p1-1)log(p1) -(p2-1)log(p2)-...-(pn-1)log(pn)

+ C1(p1 + p2 +...+ pn - 1)

+  C2(（p1/f(x1) + p2/f(x2) +...+ pn/f(xn) - C3)

+ C4(-p1log(f(x1))-p2log(f(x2))-...-pnlog(f(xn)) - C5)

对于拉格朗日算子L求一阶偏导数dL/dpi(i=1，2，...,n)并令之为零。有：

dL/dpi = -log(pi) -1 + 1 /pi + C1 + C2/f(xi) - C4log(f(xi))= 0，

i = 1，2，...，n。

当C1 = 1, C2 = -1，C4 = -1，有：

pi = f(xi) = aexp(-bxi)，i = 1，2，...，n。        

但是拉格朗日算子L的二阶偏导数矩阵为一主对角线上元素恒负而其余元素全为零的负定对称矩阵，因此令拉格朗日算子L一阶偏导数为零的上述负指数分布pi =aexp(-bxi)也必定是令拉格朗日算子L或约束条件下的目标函数发生概率的对数 + 信息熵取得最大值或极大值的概率分布。这种负指数分布pi = aexp(-bxi)符合发生概率和信息熵同时最大原理。

定理：以发生概率和信息熵同时最大原理配合统一约束条件所推导出来的分布同时满足信息熵最大和发生概率最大。

证明：以发生概率和信息熵同时最大原理配合统一约束条件来推导分布，其拉格朗日算子L满足：L = L1 + L2

这其中，L1是最大发生概率原理所对应的拉格朗日算子而L2是最大信息熵原理所对应的拉格朗日算子。

L1 = log(p1) + log(p2）+ ... + log( pn) + c11(p1 + p2 +...+ pn - 1) +

+ C2(（p1/f(x1) + p2/f(x2) +...+ pn/f(xn) - C3)

L2 = -p1log(p1) -p2log(p2) -...-pnlog(pn) + c12(p1 + p2 +...+ pn - 1)

+ C4(-p1log(f(x1))-p2log(f(x2))-...-pnlog(f(xn)) - C5)

这其中 c11 + c12 = C1。因此拉格朗日算子L的一阶偏导数dL/dpi 满足：

dL/dpi = dL1/dpi + dL2/dpi =

= (1/pi + c11 + C2/f(xi)) + (-log(p1) -1 + c12 - C4log(f(xi))

这其中dL1/dpi 是最大发生概率原理所对应的拉格朗日算子L1的一阶偏导数，而dL2/dpi是最大信息熵原理所对应的拉格朗日算子L2的一阶偏导数。

我们可以通过令：

c11 = 0, C2 = -1; c12 = 1，C4 = -1

来达成 dL/dpi = 0。这也就是说发生概率和信息熵同时最大原理所对应的拉格朗日算子L的一阶偏导数dL/dpi的零点同时也成为最大发生概率原理所对应的拉格朗日算子L1的一阶偏导数和最大信息熵原理所对应的拉格朗日算子L2的一阶偏导数的共同零点。另一方面拉格朗日算子L、L1、L2的二阶偏导数矩阵全部都是主对角线上元素恒负而其余元素全为零的负定对称矩阵，因此发生概率和信息熵同时最大原理所对应的拉格朗日算子L的一阶偏导数dL/dpi、最大发生概率原理所对应的拉格朗日算子L1的一阶偏导数以及最大信息熵原理所对应的拉格朗日算子L2的一阶偏导数的共同零也就是发生概率和信息熵同时最大原理、最大发生概率原理和最大信息熵原理所对应的共同对应的最大值点。这也就是说：以发生概率和信息熵同时最大原理配合统一约束条件所推导出来的分布同时满足信息熵最大和发生概率最大。

证毕。