CMP设计分享 http://blog.sciencenet.cn/u/accsys 没有逆向思维就没有科技原创。 不自信是科技创新的大敌。

博文

信息是简单还是复杂的概念

已有 4330 次阅读 2010-1-23 08:21 |个人分类:教学点滴|系统分类:科研笔记| 数据, 信息度量, 信息处理, 信息定义

信息究竟是一个简单的概念还是复杂的概念?我给信息是这样下定义的:信息是事物的表现或描述
 
这个信息的定义大家都能够理解,因而可以说信息是一个十分简单的概念。然而信息的问题讨论了上百年,如果真是这么简单,那么信息学的学者们不是太小题大做了吗?其实长期以来,信息概念的复杂度来自于我们对“事物”、“表现”和“描述”这三个基本概念的认识。
 
事物是指世间的万事万物。表现或描述是事物存在的基本特征。事物之间通过表现或描述进行相互联系作用。正因为信息是表现或描述,故而,信息可以存储、复制、转化、传播、由简单到复杂地综合、从复杂到简单地分析,这些是信息的基本属性。人为地进行信息属性方面的工作,就称为信息处理。待处理的信息是人们常说的数据。
 
信息所描述的对象叫信息主体,信息赖以存在的物质形态叫媒体。由信息主体或媒体都可以来划分信息的种类。例如,商业信息,战争信息,这是从信息主体方面分类的。再如,电信息,光信息,文字信息,这是从媒体方面进行分类的。
 
信息长期的困惑就是信息量的问题,也就是信息如何度量。
 
信息的度量必须根据其具有的基本属性来进行。由于信息概念起源于通信学问题,从人类通信的角度来看,同一个消息,对受信者有知晓程度之分,故香浓前辈将信息量定义为“未知程度”的量度。显然,这种度量信息的方法,只可以说明信息对接受者的“有用程度”,但因为并没有一把统一的尺子,也就不具有“客观性”。
 
度量不仅要在同一属性内进行,而且一定要有一个统一固定的尺度,这两者缺一不可。香浓的信息量度量,虽然有同一属性的前提,但缺乏统一的尺度,因而不能对不同的信息进行“统一”的度量。
 
计算机的出现,使信息的度量有了客观的,统一的尺子。由于在计算机领域中,用二进制数可以表示一切信息,因而,信息量的大小就可以用二进制数表示的位长来量度,bit就是统一的尺度。这种量度不会因人而异,不必再通过通信的方式才能度量,所以客观实在,目前被人们普遍接受了。若一条信息是二进制数N,那么这个数的位数就是log2N,于是信息量n=log2N。
 
由于用数可以表示任何信息(这是理论上的,实际上要寻求具体的表达方式),当然用k进制数表达也完全可以。那时用k进制数N表示信息的信息量应是n=logkN,k是大于1的整数。
 
信息有许多属性,按着某一种属性都可以产生一种度量方法,前提必须能够找到统一的尺子。这就如同物体一样,你可以按照它的质量来量度它,也可以按照它的体积来量度,无论哪种度量都要有尺子。究竟我们要采用何种方式度量信息,这跟对信息的需求有关。在计算机科学和二进制通信中,以bit作为信息量的基本单位,统一量度大有好处。
 
信息的概念很容易理解,但由于表现和描述与科学的发展关系密切,故而体现出多种多样的复杂性。例如量子计算机中的量子bit就不是二进制的,两个量子纠缠的信息表示,很可能就是四进制的关系。如果是三个量子纠缠,信息的表示就可能是八进制的。如果我们能够找到用十进制表示全部信息的方法,那么信息N的信息量就应该是 n=logN。
 
至此我们应该不难理解,信息的复杂度来源于对信息如何表现和描述。用什么样的物质方式来描述信息,这会随着科学技术的发展,以及人们对客观世界的认识深入,不断地发生变化。物理学之中,对信息的概念研究太纠缠在信息的表达方式上了,这就造成了信息概念难以确定的假象。科学研究的目的不是要将简单的事情搞复杂,正相反,科学研究的目的,是要将复杂的问题简单化,让人们都能够理解它,掌握它,从而为我们的生产生活服务。
 
欢迎讨论。
 
2010-1-23
 


https://blog.sciencenet.cn/blog-340399-289628.html

上一篇:CPU设计我要让更多的人掌握它(续10)
下一篇:香农的信息度量方式实用吗
收藏 IP: .*| 热度|

1 zdlh

发表评论 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-26 17:33

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部