香农(Claude Elwood Shannon, 1916-2001)，信息论及数字通信时代的奠基人。

    也是一位著名的密码破译者。

    除在普林斯顿高等研究院工作过一年外，主要都在MIT和Bell Lab度过。好奇心强、重视实践。

1949年香农发表了一篇重要论文《CommunicationTheory of Secrecy Systems》（保密系统的通信理论），正是基于这种工作实践，它的意义是使保密通信由艺术变成科学。

    2000年10月6日，IEEE Information Society的25名成员相聚在Claude Shannon的故乡——Michigan的Gaylord，参加Shannon塑像落成典礼，其时，著名的信息论和编码学者Dr. Richard Blahut题词：“在我看来，两三百年之后，当人们回过头来看我们这个时代的时候，他们可能不会记得谁曾是美国的总统，他们也不会记得谁曾是影星或摇滚歌星。但是仍然会知晓Shannon的名字，学校里仍然会讲授信息论。”

据传，香农是爱迪生的远亲戚。

1938年香农在MIT获得电气工程硕士学位，硕士论文题目是《A SymbolicAnalysis of Relay and Switching Circuits》（继电器与开关电路的符号分析）。当时他已经注意到电话交换电路与布尔代数之间的类似性，即把布尔代数的“真”与“假”和电路系统的“开”与“关”对应起来，并用1和0表示。于是他用布尔代数分析并优化开关电路，这就奠定了数字电路的理论基础。哈佛大学的Howard Gardner教授说，“这可能是本世纪最重要、最著名的一篇硕士论文。”

1940年香农在MIT获得数学博士学位，而他的博士论文却是关于人类遗传学的，题目是《AnAlgebra for Theoretical Genetics》（理论遗传学的代数学)。（这听起来很有意思，那么确定的代数会跟遗传有关系。）

香农在1948年6月和10月在《贝尔系统技术杂志》（BellSystem Technical Journal）上连载发表了具有深远影响的论文《通讯的数学原理》。1949年，香农又在该杂志上发表了另一著名论文《噪声下的通信》。在这两篇论文中，概率理论是香农使用的重要工具。香农阐明了通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达式，怎样数量化信息，怎样更好地对信息进行编码。两篇论文成为了信息论的奠基性著作。

香农理论的重要特征是熵（entropy）的概念，他证明熵与信息内容的不确定程度有等价关系。

信息熵大，意味着不确定性也大。

基于这一理论，汉字的熵比英文大，感觉上汉字更难处理就不足为怪了。

熵这一概念由鲁道夫·克劳修斯（Rudolf Clausius）于1854年提出，并应用在热力学中。我们可以把它理解为分子运动的混乱度。波尔兹曼在热力学第二定律使用熵的概念，阐明了热力学第二定律的统计性质，并引出能量均分理论（麦克斯韦-波尔兹曼定律)。后来在，克劳德·艾尔伍德·香农（Claude ElwoodShannon）第一次将熵的概念引入到信息论中来。

人们很早就知道用秤或者天平计量物质的质量，而热量和功的关系则是到了19世纪中叶，随着热功当量的明确和能量守恒定律的建立才逐渐清楚。能量一词就是它们的总称，而能量的计量则通过“卡、焦耳”等新单位的出现而得到解决。

然而，关于文字、数字、图画、声音的知识已有几千年历史了。它们如何统一地计量，直到19世纪末还没有被正确地提出来，更谈不上如何去解决了。20世纪初期，随着电报、电话、照片、电视、无线电、雷达等的发展，如何计量信号中信息量的问题被隐约地提上日程。

1928年哈特利(R.V. H.Harley）考虑到从D个彼此不同的符号中取出N个符号并且组成一个“词”的问题。如果各个符号出现的概率相同，而且是完全随机选取的，就可以得到D^N个不同的词。从这些词里取了特定的一个就对应一个信息量I。哈特利建议用N log D这个量表示信息量，即I = N log D。这里的log表示以10为底的对数。后来，1949年控制论的创始人维纳也研究了度量信息的问题。

就信息传输给出基本数学模型的核心人物是香农。在香农的通信数学模型中，信息的度量以比特（bit）为单位（可不是“硬骨头”的比特犬:)）。今天在计算机和通信中广泛使用的字节(Byte）、KB、MB、GB等词都是从比特演化而来。“比特”的出现标志着人类知道了如何计量信息量。香农的信息论为明确什么是信息量概念作出决定性的贡献。

根据香农熵的逆定义：获得信息就是增加信息的确定性。

虽然香农的信息概念比以往的认识有了巨大的进步，但仍存在局限性，这一概念同样没有包含信息的内容和价值，只考虑了随机型的不定性，没有从根本上回答"信息是什么"的问题。

他好奇心强、重视实践、追求完美。