Claude Elwood Shannon -克劳德·艾尔伍德·香农(…ing-7.9)

01微分分析机同逻辑电路-香农的硕士论文

“possibly the most important, and also the most famous, master’s thesis of the century”

克劳德·艾尔伍德·香农 1916 年出生于美国密西根州的盖洛德镇。当时正值电气时代蓬勃发展,电报十分发达,不过电话还尚未普及,电话的价格还相对比较昂贵。于是,很多人把牧场的刺铁丝网彼此相连,并自己安装电话送话器,在很小的范围内实现了通话(妙啊)。

1936 年,20 岁的香农辗转来到麻省理工学院作为研究助理,跟随当时的工程院院长万内瓦尔·布什(as we may think)。 香农的主要工作即 操作 微分分析机

3微分分析机中有两种开关,一种是普通的开关,一种是继电器(传输状态)

即传输 电路的通断,香农用布尔代数0,1来表示来表示着两种电路状态。

he proved that Boolean algebra could be used to simplify the arrangement of the relays(继电器) that were the building blocks of the electromechanical automatic telephone exchanges of the day.
他证明布尔代数可以用于简化继电器布置,这些布置单元在当时应用于机电自动电话交换机
Shannon went on to prove that it should also be possible to use arrangements of relays to solve Boolean algebra problems.
通过对继电器的布置,可以解决布尔代数的问题

例如,香农在此基础上,设计了一个仅依靠继电器和开关的求和电路(二进制)

这有关的内容,发表在他的硕士论文《A Symbolic analysis of Relay and Switching Circuits》中

  • 利用电子开关的二进制特性来实现逻辑功能是电子数字计算机设计的基础概念,在二战后成为实用电路设计的基础为电子工程师们广泛接受
  • At the time, the methods employed to design logic circuits were ad hoc in nature and lacked the theoretical discipline that Shannon’s paper supplied to later projects.香农为之后的逻辑功能设计提供了理论规律指导

02信息

纪录片 the story of information

1.被刻在粘土上的文字从以实际物品的图像转变到代表声音的不同图像组合在一起,表示信息的文字大大简化

2.法国里昂利用穿孔卡片,将图片上的信息翻译到卡片上,再织出成品布,制造出了特定花纹的纺织品


发明人肖像的纺织品,孔 与空白的组合,形成一张卡片
,卡片与卡片的组合,构成了整幅画像

3.电的发现,用电传输信息,信息的传输速率大大提升,
在诸多发明中,摩尔斯电码登上实用的舞台

4.麦克斯韦的妖怪,知道信息,便可以有选择地从无序中构造出有序,而没有能量消耗吗?

5.图灵关于计算机的假想,用机械代替人类计算机,用机械来模拟人脑的操作与运行,对信息进行处理

6.香农–信息的本质,
信息是对不确定性的度量
–信息是用来消除随机不定性的东西
1或0
是卡片上的穿孔与没穿孔
是打开与关闭 是停与走
7.任何事情都包含着巨大的信息,信息的承载者是物理世界
例如一滴水的下落

了解了信息的本质,我们可以进一步详细地描述,建模和模拟自然
8.兰道尔极限👈知乎的推导
麦克斯韦妖实验中,小妖怪因为需要知道撞上墙壁的分子的信息,小妖怪不断记下一个个分子的信息,当它的“内存”已经被占满了,则需要清除掉原有的信息(或记住信息时),即需要消耗能量

信息离不开物理世界,存储信息的介质赋予了它独特的特性

03香农三大定理

1687 年 7 月 5 日,牛顿的《自然哲学的数学原理》首次出版发行
1948 年,香农发表了一篇英文名为
《A Mathematical Theory of Communication》
的论文,几年后,这篇论文要成书发行,已经更名为
《The Mathematical Theory of Communication》