冯向军的科学研究博客分享 http://blog.sciencenet.cn/u/冯向军 在本博客中专门从事以统计力学为核心的理论物理研究。

博文

准备包容最大信息熵原理和其他一切现有极值原理

已有 2119 次阅读 2017-7-22 18:07 |个人分类:决定性概率论|系统分类:论文交流| 有容德乃大

准备包容最大信息熵原理和其他一切现有极值原理

美国归侨冯向军博士,2017年7月22日写于美丽家乡


 我终于走出了对最大熵原理大惑不解的“苦海”,来到“离苦得乐的彼岸”后,我反倒是觉得最大熵原理和其他极值原理同“新皇帝”最大发生概率原理有十分明显的互补性,应该加以包容。

(1)“新皇帝”最大发生概率原理以果为因成就普适性的极值原理和统一约束条件;最大熵原理和其他极值原理皆不以果为因却也能得到种种特殊有益的结果。

(2)“新皇帝”最大发生概率原理能在变量的统计平均值不变的这个以果为因的统一约束条件下推导出标准负1次幂律:齐普夫定律(Zipf's Law),最大熵原理也能在变量的对数的统计平均值不变这个变化了的特殊的约束条件下导出标准负1次幂律:齐普夫定律(Zipf's Law),又有什么不好呢?

(3)“新皇帝”发生概率能表达无中生有,正好是对信息熵和其他信息测度的一个很好的补充。你好,我好,大家好。

(4)“新皇帝”发生概率原理是数学原理,只与数相关与带量纲的量无关,而最大熵原理等是物理原理,两者之间也正好互补。

【备考与后记】

1)在相同的约束条件下,相同的自然约束条件除外,最大熵和其他极值原理给出的一般都不是狭义发生概率最大的分布,正是这个底线,让我过去一时无法接受最大熵和其他极值原理,现在想通了,狭义发生概率是不是最高标准还在未定之天,又怎能因此排斥其他呢。

(2)容我把”悖论1“的背景说细些:当概率分布为不均匀常数:

p1 = c1, p2 = c2, ..., pn = cn。

最大熵原理直接以上述约束条件 可得出唯一确定的
p1 = c1, p2 = c2, ..., pn = cn。
这就说明以结果分布为约束,得到不变结果是件正常的事。
但是,当结果分布是:
p1 = f(x1),p2 = f(x2)...,pn = f(xn)
以上述分布为约束条件,最大熵原理一般是给不出
pi = f(xi)的结果的,而只能给出
pi = a exp(b/f(xi))
aexp (b/f(xi)) 和 f(xi) 不可能总相等。
因此最大熵原理有因果不一致之弊。





https://blog.sciencenet.cn/blog-1968-1067632.html

上一篇:从约束条件和拉格朗日乘数法的实质来看最大信息熵原理的三悖论
下一篇:关于最大信息熵所导出的负指数分布不具最大发生概率的证明
收藏 IP: 113.222.197.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-7-19 02:24

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部