博文
熵之攻略侧记
|||
（1）引言
熵的概念，早已经不再是个简单而基本的物理概念。自从克劳修斯将其从热力学中“释放”出来，其运用之广，影响之深，变形之多样，用意之模糊，我实在是想不出第二个这样的概念有此特征。
很难说是不是有人故意引导至此。以下一个小小的传说，足以说明其概念变迁之趣味。
话说当年，香农搞出了信息论，与大数学家Von Neumann 讨论后来非常著名的“信息熵”的概念。Von Neumann说道：“The theory was in excellent shape, except that he needed a good name for “missing information”. “Why don’t you call it entropy”, “In the first place, a mathematical development very much like yours already exists in Boltzmann’s statistical mechanics, and in the second place, no one understands entropy very well, so in any discussion you will be in a position of advantage.”
非常确切，一旦用熵，你将立于不败。
（2）2012，元月初五
正在昆明的友谊宾馆床上犯高原病，电话响起。CX无端端问起：
“图像的混乱度怎么测量？”
“咋了？”
“我们在仿真计算交换偏置效应，发现效应越强，得到的仿真图像看起来越乱。”
“那就用熵呗！”我下意识地答到。
“对哦，用熵，我怎么忘了。图像怎么算熵？”
“那要看你关心啥,看具体情况。”
接着CX开始描述情况，我发现不对路：“你说的是一个pattern 和另一个Pattern的比较，不能直接算图像熵。”
到宾馆楼下散步，考虑了半个小时，再给CX电话，给了三条路：
（a）定义相对熵；
（b）利用海明距离；
（c）先做傅立叶变换，再计算相关系数。
（3）2012，元月初八
与CX在计算机上开始对图计算，用构造的假熵，再用海明距离，都得到图像无序程度的度量，定量描述了图像的混乱程度。将结果与交换偏置效应的参数比较，单调，正相关！
（4）2012，春至夏
CX总是希望使用熵来计算和定义体系的无序，多次尝试，不成功。其间YXB推荐CX计算态密度，太复杂，CX不接受。
与CX来回讨论熵的概念。最后大家达成妥协，文章中说是：“海明距离”是熵的一级近似。
传文给CX的德国导师，导师高度评价，认为这是定量解释交换偏置的巨大进步。
期间，每日辩论讨论，被人称为民科。
（5）文章
投稿至PRL，评价认为意义不够大，不中。后投PRB的Rapid Communication，文章接收。大家改称俺为农民科学家。
（6）Now
年终，学校改革，弄得大家心烦意乱，除了我还想着我的熵的问题，大家已经不关心，还说我是“吃饱了没事干”，所以讨论科学问题。
————-
https://blog.sciencenet.cn/blog-731678-646965.html
上一篇：陈安语录(12.26)
下一篇：二傻语录（12.28）
扫一扫，分享此博文