冯向军的科学研究博客分享 http://blog.sciencenet.cn/u/冯向军 在本博客中专门从事以统计力学为核心的理论物理研究。

博文

从日常生活中的事件到最大熵原理都符合最大概率公理

已有 3940 次阅读 2017-6-13 16:07 |个人分类:决定性概率论|系统分类:科研笔记| 最大概率公理, 发生概率, 发生势力

从日常生活中的事件到最大熵原理都符合最大概率公理

美国归侨冯向军博士,2017年6月13日


 让我们先来看一个简单例子。李明所在大四班上共有38位同学,我们要问李明今天是不是全班最高个?我们可以合理地假设,李明所在大四班上38位同学今天之内的身高基本不变。李明今天是不是全班最高个,是一个决定性的事件。要么是,要么不是,毫无不确定性。李明今天是不是全班最高个完全由概率P_李 = H_李/Ht来确定。这其中H_李是李明的身高,而Ht是全班38位同学身高的总和。这里所涉及的概率分布是Pi=Hi/Ht,而Hi是第i位同学的身高(i=1,2,...,38)。如果概率P_李是全部Pi(i=1,2,...,38)中最大的,那么李明今天就是全班最高个,否则就不是全班最高个。李明今天是全班最高个这件事要发生,李明需要一种本事,份量或势力,我们就称这种本事,份量或势力为发生势力。再重复一遍:李明今天是全班最高个这件事要发生,李明需要一种发生势力这种发生势力就是概率P_李 = H_李/Ht。我们又称做为发生势力的概率叫发生概率

 李明今天是全班最高个这件事要发生,发生概率P_李 = H_李/Ht 必须最大,这是由最大概率公理所规定的。但是在问题的具体求解过程中我们为数学上的方便起见,有时不必直接让发生概率最大,而只须让某个令发生概率随着它的增长而单调增长的量,如身高取最大值就够了。所以我们得出如下一般性结论:为求解给定约束条件下的概率分布,我们只须让某个发生概率随着它的增长而单调增长的量取极大值了就行了。

定理:玻尔兹曼熵和詹尼斯信息熵在微观粒子数目特别巨大时,都是令微观状态数概率(微观状态数与所有可能的微观状态数之和的比)这个发生概率随着它的增长而单调增长的量。令玻尔兹曼熵和詹尼斯信息熵在给定约束条件下取极大值来求概率分布实际上还是遵守最大概率公理:凡所能发生的分布都是在给定约束条件下令发生概率取极大值或相对最大值的分布。最大概率公理不可动摇。

证明:假设处于能量状态Ei的微观粒子数为ni(i=1,2,...,q), 物理系统微观粒子总数为

n1+n2+...+nq = N。我们有:此时的微观状态数W = N!/(n1!n2!...nq!)。我们定义 P=W/Wt 为微观状态数概率。这其中,Wt是一切可能的分布:ni/N (i=1,2,...,k)所对应的微观状态数W的总和。根据热力学第二定律的微观意义:一切自然过程总是沿着无序性增大的方向进行的。一切可能的分布:ni/N (i=1,2,...,q)要想脱颖而出得以发生,必须令相应的微观状态数W相对最大,或微观状态数概率P=W/Wt最大,因此微观状态数概率P就是发生概率或发生势力。为数学上的方便性,我们使用令发生概率或发生势力P随着它的增大而单调增大的量S:

S=klog(W),这其中S就是著名的玻尔兹曼熵而k为玻尔兹曼常数。当x是特别巨大的正整数时,如下斯特林公式成立

log(x!) = xlog(x)-x

因此:

S=klog(W)=klog(N!/n1!n2!...nq!)=k(Nlog(N)-n1log(n1)-n2log(n2)-...-nqlog(nq)

-N+(n1+n2+...+nq))

S=k(-n1log(n1/N)-n2log(n2/N)-...-nqlog(nq/N))

令 J = S /(Nk) = k1S, pi=ni/N(i=1,2...,q)

就有:

J=k1(-p1log(p1)-p2log(p2)-...-pqlog(pq))

J不是别的,正是有名的詹尼斯信息熵的标准形式。

由此可见玻尔兹曼熵和詹尼斯信息熵都是在微观粒子数目特别巨大时,令微观状态数概率这个发生概率随着它们的增长而单调增长的物理量。玻尔兹曼熵和詹尼斯信息熵在给定约束条件下取极大值来求概率分布实际上还是遵守最大概率公理:凡所能发生的分布都是在给定约束条件下令发生概率取极大值或相对最大值的分布。最大概率公理不可动摇。

证毕。




 




https://blog.sciencenet.cn/blog-1968-1060553.html

上一篇:关于广义系统发生概率的系统性研究
下一篇:概率分布的坍缩-对观测问题的圆满演绎
收藏 IP: 113.222.203.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (1 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-12-24 00:13

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部