冯向军的科学研究博客分享 http://blog.sciencenet.cn/u/冯向军 在本博客中专门从事以统计力学为核心的理论物理研究。

博文

从最大熵原理到发生概率广义熵最大原理:从地球是平的到是圆的

已有 2905 次阅读 2017-7-28 17:00 |个人分类:决定性概率论|系统分类:论文交流

从最大熵原理到发生概率广义熵同时最大原理:

从地球是平的到地球是圆的

美国归侨冯向军博士,2017年7月28日写于美丽家乡


 公元2017年7月24日,在现代热力学和统计力学中乃至整个现代科学中,发生了一件惊天动地的大事:一个名不见经传的中国人我冯向军给除了《关于决定性事件的概率论》所提出的最大发生概率原理以外的所有其他一切决定概率分布并且基于拉格朗日乘数法的极值原理依据事实统统贴上了不自洽(不相容)的标签并指出由所有这些极值原理所导出的分布一般都不具备最大发生概率我冯向军又同时提出了统一解决方案:用发生概率广义熵同时最大原理取代上述所有其他一切决定概率分布并且基于拉格朗日乘数法的极值原理:在其目标函数中统一增加发生概率P的对数log(P)这一新添项并象过去加入自然约束条件一样统一增添自洽约束条件而得到和从前一模一样的分布函数。

 尽管这件事如此重大而其影响如此深远,但迄今为止“马照跑舞照跳”,好象什么都没发生,恰如虽然有了从“地球是平的”到“地球是圆的”这个观念上的巨变而地球象从前一样照样转。

 人们对公元2017年7月24日在现代热力学和统计力学中乃至整个现代科学中发生的大事的意义,还远远没有认识。

(散文诗)我改变了现代统计力学和热力学的所有极值原理

美国归侨冯向军博士,2017年7月26日写于美丽家乡



公元2017年7月24日

对于科学来说是一个特殊的日子

在这一天

我改变了现代统计力学和热力学所有的极值原理

救它们于不自洽(不相容)不完备

所导出的分布不具备最大发生概率的

水深火热之中

我丝毫未改变任何极值原理所推导出来的分布

而一举令所有的极值原理顿时变得

自洽(相容)完备起来

非但如此更重要的是

所有的极值原理所推导出来的分布

也立即坐拥最大发生概率

......

关于统计力学和热力学中的极值原理的不相容不完备定理

(一个关于名符其实的“新皇帝”发生概率的数学定理)

美国归侨冯向军博士,2017年月26日写于美丽家乡


【定理】在统计力学和热力学中,任何通过拉格朗日乘数法来决定分布函数的极值原理,如果其目标函数中不包含发生概率的对数log(P),那么这个目标函数就是不完备的,而这个极值原理就是不自洽或不相融的。这也就是说:一切具备相容性或自洽性的通过拉格朗日乘数法来决定分布函数的极值原理都是建立在发生概率最大原理基础上的。

上述定理说明了发生概率和发生概率最大在一切具备相容性或自洽性的通过拉格朗日乘数法来决定分布函数的极值原理中的基础地位,发生概率是地地道道名符其实的“新皇帝”。

证明:

证明:当把分布固定在自己所推导出来的分布,极值原理就有约束条件:

p1/f(x1) + p2/f(x2) + ...+ pn/f(xn) = 常数 = n    (1-1)

以及约束条件:

pi/f(xi) = 常数 = 1,i = 1,2,...,n。    (1-2)

众所周知,一旦约束条件把分布固定在特定分布,那么这个特定的唯一分布也就是约束条件下的最值和极值分布。任何自洽的或相容的通过拉格朗日乘数法来决定分布函数的极值原理在式(1-1)和(1-2)所表达的约束条件下,都必须能够重新导出自己所推导出来的分布。因此式(1-1)和(1-2)所表达的约束条件又叫自洽约束条件而在自洽约束条件下能够重新导出自己所推导出来的分布的极值原理就是自洽的或相容的,否则就是不自洽或不相容的。式(1-1)和(1-2)x1,x2,...,xn是与概率分布p1,p2,...,pn相对应的n个离散变量值),而f(x1),f(x2),...,f(xn)是极值原理自己所推导出来的分布。命由目标函数中与上述自洽约束条件相对应的部分T,自然约束条件和上述非自然约束条件:自洽约束条件所决定的拉格朗日算子为L。有:

L = T + C1(p1 + p2 +...+ pn - 1) +

+  C2(p1/f(x1) + p2/f(x2) + ...+ pn/f(xn) - C3)

对于拉格朗日算子L求一阶偏导数dL/dpi(i=1,2,...,n)并令之为零。有:

dL/dpi = dT /dpi + C1 + C2/f(xi)= 0,i = 1,2,...,n。

dT /dpi = -(C1 + C2/f(xi)),i = 1,2,...,n。

因为自洽的或相容的极值原理必须能够通过拉格朗日乘数法再导出自己所推导出来的分布,所以:pi = f(xi)。

dT /dpi = -(C1 + C2/pi),i = 1,2,...,n。

这就是说:目标函数中与自洽约束条件相对应的部分T的一阶偏导数必须与概率的倒数成线性关系,而迄今为止能满足这个条件的目标函数唯有发生概率P的对数log(P)及其线性组合。所以自洽的或相融的通过拉格朗日乘数法来决定分布的极值原理,其目标函数中都必须包含发生概率P的对数log(P)。因此不包含发生概率P的对数log(P)的目标函数都是不完备的。

证毕。

关于最大信息熵所导出的负指数分布不具最大发生概率的证明

美国归侨冯向军博士,2017年月23日写于美丽家乡


【摘要】最大发生概率是不是最高标准尚在未定之天。但是这并不妨碍我指出一个数学事实:最大信息熵原理所导出的负指数分布不具最大发生概率。负指数分布本来就是另一种形式的基于二项分布的最大发生概率。这增强了我对我的创新的信心和底气。

(一)作为崭新信息测度的发生概率

对于概率分布p1,p2,...,pn,作为崭新信息测度的发生概率P为

P = p1p2...pn    (1-1)

0<=P<=(1/n)n

当且仅当概率分布p1,p2,...,pn为均匀分布或

p1 = p2 = ... = pn 时,发生概率才取最大值,或

P = (1/n)n    (1-2)

(二)最大发生概率原理

在任何约束条件下,得以发生的概率分布都必须具备约束条件下的最大发生概率或极大发生概率。或者换句话说:在任何约束条件下,得以发生的概率分布都必须令其发生概率最大限度地逼近可达最大值P = (1/n)n 并在这个意义上最大限度地逼近均匀分布。

(三)发生概率的极值目标函数

发生概率的极值目标函数是发生概率P的自然对数

log(P) = log(p1) + log(p2) + ...+ log(pn)    (1-3)

(四)统一约束条件

对于任意给定的分布f(x1),f(x2),...,f(xn),通过最大发生概率原理求分布的统一约束条件是:

p1/f(x1) + p2/f(x2) +...+ pn/f(xn) = 常数 = n    (1-4)

为表达pi完全由xi来决定的特性,又有统一约束条件:

pi/f(xi) = 常数= 1 ,i = 1,2,...,n       (1-5)

上述简洁的统一约束条件的重要意义在于:对于任意给定的概率分布,存在一个形式统一的约束条件,在这个约束条件下,给定分布的发生概率最大或极大。或者说一切发生了的分布都是某种意义上的发生概率最大的分布。一切其它极值原理所推导的分布在相应约束条件下,一般而言,均不具最大发生概率。

(四)负指数分布所对应的具有最大发生概率的约束条件:

定理:根据(1-4)式和(1-5)式,假设概率分布为负指数分布aexp(-bx),则所对应的具有最大发生概率的约束条件为:

p1/a*exp(+bx1) + p2/a*exp(+bx2) +...+ pn/a*exp(+bxn)  = 常数 = n  (1-6)

显然对于负指数分布,变量的统计平均值不变或

p1x1 + p2x2  +...+ pnxn = 常量   (1-6)

一般而言不可能导致发生概率最大。而最大熵原理必须依赖变量的统计平均值不变或(1-6)式才推得出负指数分布pi = aexp(-b*xi)。因此最大信息熵原理所导出的负指数分布,一般而言,不具最大发生概率。

证明:对于非自然约束条件:

p1/a*exp(+bx1) + p2/a*exp(+bx2) +...+ pn/a*exp(+bxn) = 常数C3 = n (这其中x1,x2,...,xn是与广义系统概率分布p1,p2,...,pn相对应的n个离散变量值),命由目标函数发生概率的对数log(P),自然约束条件和上述非自然约束条件所决定的拉格朗日算子为L。有:

log(p1) + log(p2)+...+log(pn) + C1(p1 + p2 +...+ pn - 1)

+  C2( p1/a*exp(+bx1) + p2/a*exp(+bx2) +...+ pn/a*exp(+bxn)- C3)

对于拉格朗日算子L求一阶偏导数dL/dpi(i=1,2,...,n)并令之为零。有:

dL/dpi = 1 /pi + C1 + C2/a*exp(+bxi) = 0,i = 1,2,...,n。

pi = -1/(C1 + C2/a*exp(+bxi)),i = 1,2,...,n。        

当C1 = 0, C2 = -1,有:

pi = aexp(-b*xi),i = 1,2,...,n。        

但是拉格朗日算子L的二阶偏导数矩阵为一主对角线上元素恒负而其余元素全为零的负定对称矩阵,因此令拉格朗日算子L一阶偏导数为零的上述分布pi = aexp(-b*xi)也必定是令拉格朗日算子L或约束条件下的目标函数发生概率的对数log(P)取得最大值或极大值的概率分布。这也就是说拉格朗日算子L一阶偏导数为零的上述分布pi = aexp(-b*xi)也必定是令约束条件下的发生概率P取得最大值或极大值的概率分布,这种分布pi = aexp(-b*xi)符合最大发生概率原理

对于负指数分布,既然导致具有最大发生概率的负指数分布pi = aexp(-b*xi)所对应的约束条件是p1/a*exp(+bx1) + p2/a*exp(+bx2) +...+ pn/a*exp(+bxn) = 常数C3 = n

那么约束条件:变量的统计平均值不变或

p1x1 + p2x2  +...+ pnxn = 常量   (1-6)

一般而言不可能导致发生概率最大。而最大熵原理必须依赖变量的统计平均值不变或(1-6)式才推得出负指数分布pi = aexp(-b*xi)。因此最大信息熵原理所导出的负指数分布,一般而言,不具最大发生概率。

证毕。

一个惊人的具体数字计算结果

美国归侨冯向军博士,2017年7月27日写于美丽家乡


【摘要】当你读完本文并亲手验证我的计算结果后,我相信你会彻底抛弃最大信息熵原理而拥抱发生概率和信息熵同时最大原理!因此郑重建议你亲手验证我的计算结果。

【理论】

当变量的统计平均值为常量时,

p1x1 + p2x2 + ...+ pnxn = 常量C。    (1-1)

这其中pi为概率分布而xi是pi所对应的变量,i = 1,2,...,n。

这时,由最大发生概率原理可导出标准负1次幂律:

pi = c/xi,i = 1,2,...,n。    (1-2)

但是最大信息熵原理却只能导出负指数分布

pi = aexp(-bxi)    (1-3)

最大概率公理说:凡所发生的都是发生概率最大的,发生概率不是最大的都不会发生。拉格朗日乘数法则进一步说:运用拉格朗日乘数法来决定分布的极值原理,凡所自洽的都是发生概率P最大的,发生概率P不是最大的,都不自洽(不相容)。这其中

P = p1*p2...*pn    (1-4)

于是我们要问:在完全相同的变量的统计平均值常量下,最大信息熵原理所导出的负指数分布其发生概率P与最大发生概率原理所导出的标准负1次幂律的发生概率OPTP之间差别到底有多大?

【计算】

表一是三组不同的4元概率分布所对应的变量值x1,x2,x3,x4

x1x2x3x4
16842
812793
25664164

表一: 三组不同的4元概率分布所对应的变量值x1,x2,x3,x4。

表二是标准负1次幂律概率分布optp1,optp2,optp3,optp4及其概率之和SUM(OPTP),c为标准负1次幂律常量。有:

optpi = c/xi,i = 1,2,3,4    (1-5)

SUM(OPTP)= optp1 + optp2 + optp3 + optp4    (1-6)

optp1x1 + optp2x2 + optp3x3 + optp4x4 = 4*c     (1-7)

coptp1optp2optp3optp4SUM(OPTP)
1.06666670.06670.13330.26670.53331.0000
2.02500000.02500.07500.22500.67501.0000
3.01176470.01180.04710.18820.75291.0000

表二: 标准负1次幂律概率分布optp1,optp2,optp3,optp4及其概率之和SUM(OPTP),c为标准负1次幂律常量

表三是具有与标准负1次幂律概率分布相同的变量的统计平均值的负指数分布p1,p2,p3,p4及其概率之和sum(p)以及所对应的变量x1,x2,x3,x4和常数a和b。有:

pi = aexp(-bxi),i = 1,2,3,4     (1-8)

p1x1 + p2x2 + p3x3 + p4x4 = 4*c     (1-9)

sum(p) = p1 + p2 + p3 + p4    (1-10)

abx1x2x3x4p1p2p3p4sum(p)
0.64604870.16894420168420.0432830.16720.32870.46081.0000000
0.63951260.064550338127930.0034290.11190.35770.52691.0000000
0.66583680.03741344256641640.0000460.06070.36590.57331.0000000

表三:具有与标准负1次幂律概率分布相同的变量的统计平均值的负指数分布p1,p2,p3,p4及其概率之和sum(p)以及所对应的变量x1,x2,x3,x4和常数a和b。

表四则是最重要的结果:负指数分布的发生概率P与最大发生概率原理所导出的标准负1次幂律的发生概率OPTP之间的相对差别delta。

delta = (OPTP - P)/ P  * 100 (%)    (1-11)

delta竟然可以大至13256.30%

这就是说:在完全相同的变量的统计平均值常量下,由最大发生概率原理所导出的标准负1次幂律其发生概率OPTP比起由最大信息熵原理所导出的负指数分布的发生概率P来可以大13256.30%!大自然绝不会选择由最大信息熵原理所导出的负指数分布,如果大自然选中这个负指数分布,这个负指数分布一定不是最大信息熵原理来实际实现的!比如说:这个负指数分布可按发生概率和信息熵同时最大原理来实际实现!

x1x2x3x4POPTPdelta(%)
16.008.004.002.000.00109630.001264215.3187162
81.0027.009.003.000.00007230.0002848293.6891902
256.0064.0016.004.000.00000060.000078513256.2993647

表四:负指数分布的发生概率P与最大发生概率原理所导出的标准负1次幂律的发生概率OPTP之间的相对差别delta。

经反复核对,本计算结果处处自洽,个别数据被更新。



一个关乎现代科学人宇宙观或世界观的崭新极值原理

美国归侨冯向军博士,2017年7月25日写于美丽家乡


人类科学史,有充分的理由记住昨天:2017年7月24日。这是因为在这一天,一个名不见经传的中国人以两种不同形式提出了同一个关乎现代科学人宇宙观或世界观的崭新极值原理:发生概率和广义熵同时最大原理【1】【2】。

2017年7月24日以前,现代统计力学和热力学(包括C.Tsallis所创立的非广延统计力学和热力学)的所有极值原理,一般而言,都是不自洽的【3】,其极值目标函数一般而言,都是不完备的。因此基于现代统计力学和热力学的所有极值原理的宇宙观或世界观,一般而言,都是有问题的。

众所周知,如果只允许概率分布固定为唯一分布而不允许概率分布有其他任何变化,那么无须任何什么什么极值原理,因为目标函数本身的函数值唯一,所以这个函数值既是最大值又是最小值,而这个被固定的分布也就应该是令目标函数取最值或极值的最值点或极值点。但是,将概率分布固定在自己所推导出来的分布,所有通过拉格朗日乘数法和目标函数最大来求极值点的极值原理中,迄今为止,有且只有《关于决定性事件的概率论》所提出的最大发生概率原理能够给出自己所推导出来的分布。这也就是说除了最大发生概率原理,现代统计力学和热力学(包括C.Tsallis所创立的非广延统计力学和热力学)的所有极值原理,一般而言,都是不自洽。究其根本原因,是因为目标函数的一阶偏导数必须与概率的倒数成线性关系,而迄今为止能满足这个条件的目标函数唯有发生概率P的对数log(P)。Tsallis广义熵要做到一阶偏导数与概率的倒数成线性关系,必须令其特征常数q = 0,而q = 0时的Tsallis广义熵等于常数,因而不具备作为目标函数的资格。这也就是说现代统计力学和热力学(包括C.Tsallis所创立的非广延统计力学和热力学)的所有极值原理的目标函数一般而言,都是不完备的。

我把自洽约束条件定义为:各种极值原理把概率分布固定在自己所推导出来的分布而形成的非自然约束条件【1】【2】:

p1/f(x1) + p2/f(x2) + ...+ pn/f(xn) = 常数 = n    (1-1)

pi/f(xi) = 常数 = 1,i = 1,2,...,n。    (1-2)

这其中pi是概率分布,而f(xi)则极值原理自己所推导出来的分布。

自洽约束条件下,一个自洽的极值原理必须能通过拉格朗日乘数法重新推导出自己所推导出来的分布。现代统计力学和热力学(包括C.Tsallis所创立的非广延统计力学和热力学)的所有极值原理,除了《关于决定性事件的概率论》所提出的最大发生概率原理外,自洽约束条件下,一般而言,都不能够通过拉格朗日乘数法重新推导出自己所推导出来的分布,因此都是不自洽。

2017年7月24日我冯向军以两种不同形式所提出的同一个关乎现代科学人宇宙观或世界观的崭新极值原理:发生概率和广义熵同时最大原理具备两大基本特性:

(1)发生概率和广义熵同时最大原理是自洽的。

(2)发生概率和广义熵同时最大原理其目标函数是相对完备的。

广义的分布包含宇宙或世界的组成。因此关于分布成因的极值原理,一般而言,都是关乎宇宙或世界观的。具备上述自洽性和相对完备性的发生概率和广义熵同时最大原理就是关乎宇宙或世界观的崭新极值原理。

参考文献

【1】冯向军,《关于决定性事件的概率论》的里程碑:发生概率和信息熵同时最大原理,科学网,2017年7月24日。http://blog.sciencenet.cn/blog-1968-1067848.html

【2】冯向军,发生概率和Tsallis广义熵同时最大原理,科学网,2017年7月24日。http://blog.sciencenet.cn/blog-1968-1067918.html

【3】冯向军,唯独最大发生概率原理与自己所导出的分布自洽,科学网,2017年7月24日。http://blog.sciencenet.cn/blog-1968-1067803.html










https://blog.sciencenet.cn/blog-1968-1068490.html

上一篇:小技巧:如何用免费的WPS表格确定负指数分布的待定常数?
下一篇:所有极值原理中唯最大发生概率原理可以独立存在
收藏 IP: 113.222.189.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-23 14:13

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部