||
新发表一篇文章:用语义信息G测度解释和推广信息率-失真函数和最大熵分布
英文原文见:http://www.survivor99.com/LCG/information/ExplainRD/ExplainRD.html
经典信息论中数据压缩的理论基础是信息率失真理论。但是失真函数未必和语义兼容,我们需要根据语义压缩数据。本文把信息率-失真函数推广为信息率-真函数,“真”就联系到语义。建立“真”和“失真”的关系非常巧妙,令d(x,y)=log[1/T(y|x)]就行(其中T(y|x)是真值函数或隶属函数)。
语义信息研究过去一直受到主流信息论研究者歧视,这也因为众多主观定义的语义信息测度离香农理论太远。本人语义信息论是香农信息论的自然推广,所以也叫语义信息G理论。 G理论不但能解决最大互信息问题 (见 http://www.survivor99.com/lcg/CM/Gtheory/index.html), 现在也能解决更一般约束下最小互信息问题,可见其威力。 这篇文章得到很多令人意外的结论,将能大大加深我们对信息和熵的理解。它也将能让经典信息论研究者不得不刮目相看我的语义信息论。
这篇文章经过5位审稿人审稿,其中曲折值得写一篇经验谈——我改日再写。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-9-20 01:09
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社