|||
假如最大信息熵对应一种最大发生概率那么
存在违反最大概率公理的反例
美国归侨冯向军博士,2017年8月5日写于美丽家乡
定理:将分布固定在pi = f(xi),就自然会有自洽约束条件
p1/f(x1) + p2/f(x2) + ...+ pn/f(xn) = 常数 = n (1-1)
在这种自洽约束条件下,虽然分布pi = f(xi)发生了,但它一般不是最大熵所对应的最值或极值分布。假如最大信息熵对应最大发生概率,那么就有:一般而言,发生了的不一定具备最大发生概率。这是违反最大概率公理的反例。
证明:对于自洽约束条件,命由目标函数信息熵,自然约束条件和自洽然约束条件所决定的拉格朗日算子为L。有:
L = -p1log(p1) -p2log(p2)-...-pnlog(pn) + C1(p1 + p2 +...+ pn - 1)
+ C2(