为取样定理做出贡献的科学家
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
例如，在中文信息处理时，汉字的静态平均信息熵比较大，中文是 9.65 比特，英文是 4.03 比特。这表明中文的复杂程度高于英文，反映了中文词义 丰富、行文简练，但处理难度也大，信息熵大，意味着不确定性也大。
今天在计算机和通信中广泛使用的字节（Byte）、KB、MB、GB 等词都是 从比特演化而来。“比特”的出现，标志着人类知道了如何计量信息量，香农 的信息论为明确“什么是信息量”作出决定性的贡献。
哈利.奈奎斯特（Harry.Nyquist）
奈奎斯特（1889.2.7—1976.4.4），美国物理学家， 为近代信息理论做出了突出贡献，他总结的奈奎斯特取 样定理是信息论、特别是通讯与信号处理学科中的一个 重要基本结论。
1889 年 2 月 7 日，奈奎斯特出生在瑞典韦姆兰省， 1907 年移民到美国。1912 年，奈奎斯特考入美国北达科他州立大学，并于 1914 年、1915 年分别获得理学学士学位和硕士学位，并于 1917 年获得耶鲁大学哲 学博士学位。
香农在进行信息的定量计算时，明确地把信息量定义为随机不定性程度的 减少。这就表明了他对信息的理解：信息是用来减少随机不定性的东西。或香 农逆定义：信息是确定性的增加。
除了通信系统和信息论方面的研究成果以外，香农在数字计算机理论、数 字电路设计理论、密码学和保密通信、遗传学、火力控制系统、抽样分析理论 等方面也颇有建树。在二次世界大战时，香农也是一位著名的密码破译者，他 的破译团队主要是追踪德国飞机和火箭，尤其是在抵抗德国火箭对英国进行的 闪电战时，起了很大作用。除了学术研究，香农的爱好也很广泛，如杂耍、骑 独轮脚踏车和下棋等。
克劳德.艾尔伍德.香农（Claude.Elwood.Shannon）
香农（1916.4.30—2001.2.26）是美国著名的数学 家、物理学家，信息论的创始人。
香农生于美国密西根州的一个小镇，父亲是法官（父 子的姓名完全相同），母亲是镇中学校长，此外，香农 还与美国大发明家爱迪生是远亲。
1936 年，香农在密歇根大学获得数学和电子工程学 士学位，然后进入麻省理工学院（MIT）读研究生。
2001 年 2 月 26 日，香农在马萨诸塞州辞世，享年 85 岁，贝尔实验室和 MIT 发表的讣告都尊崇香农为信息论及数字通信时代的奠基人。
香农理论的重要特征是熵（entropy）的概念，他证明熵与信息内容的不确 定程度有等价关系。熵曾经是波尔兹曼在热力学第二定律引入的概念，可以把 它理解为分子运动的混乱度。信息熵也有类似意义，指的是信息体系的混乱程 度，它在控制论、概率论、数论、天体物理、生命科学等领域都有重要应用， 在不同的学科中引申出的更为具体的定义，是各领域十分重要的参量。
1917 年～1934 年，奈奎斯特在 AT&T 公司工作，后转入贝尔电话实验室 工作，直到 1954 年从贝尔实验室退休。1976 年 4 月 4 日，奈奎斯特在美国得 克萨斯州逝世。
作为贝尔电话实验室的工程师，奈奎斯特在热噪声和反馈放大器稳定性方 面做出了很大的贡献。他早期的理论性工作是关于确定传输信息的需满足的带 宽要求，在《贝尔系统技术》期刊上发表了《影响电报速度传输速度的因素》 文章，为后来香农的信息论奠定了基础。
扩展阅读
为 取样定理做出贡献 的科 学家
取样定理，即采样定理，是信息论、通讯与信号处理学科中的基本理论和 重要结论，它是由美国物理学家奈奎斯特在 1928 年首先提出，因此也称为奈 奎斯特取样定理；1933 年，苏联科学家科捷利尼科夫首次用公式严格地表述这 一，信息论的创 始人，美国科学家香农对这一定理加以明确说明，并正式作为定理引用，因此 在许多文献中又称为香农取样定理。
1938 年香农在 MIT 获得电气工程硕士学位，硕士论文题目是《A Symbolic Analysis of Relay and Switching Circuits》（继电器与开关电路的符号分析）。 当时他已经注意到电话交换电路与布尔代数之间的类似性，即把电路系统的 “开”与“关”和布尔代数的“真”与“假”对应起来，用 1 和 0 表示，从而 可以用布尔代数分析并优化开关电路，这就奠定了数字电路的理论基础。
1927 年，奈奎斯特确定了如果对某一带宽的有限时间连续信号（模拟信号） 进行抽样，且在抽样率达到一定数值时，根据这些抽样值可以在接收端准确地 恢复原信号。为不使原波形产生“半波损失”，采样率至少应为信号最高频率 的两倍，这就是著名的奈奎斯特取样定理。1928 年，奈奎斯特又发表了《电报 传输理论的一定论题》。
香农是美国科学院院士、美国工程院院士、英国皇家学会会员、美国哲学 学会会员，一生获得了许多荣誉和奖励，接受的荣誉学位不胜枚举。今天，我 们怀念香农，要熟悉他的两大贡献：一是信息理论、信息熵的概念；二是符号 逻辑和开关理论。我们更应该学习他好奇心强、重视实践、追求完美、永不满
足的科学精神，这是他获得成功的重要经验。
提出了信息量的数学表达式，并解决了信道容量、信源统计特性、信源编码、 信道编码等一系列基本技术问题。两篇论文成为了信息论的奠基性著作。
1941 年，香农加入贝尔实验室数学部，工作到 1972 年，整整 31 年。1956 年，香农成为 MIT 的客座教授，1958 年成为正式教授，1978 年退休，成为名 誉教授。
1940 年香农在 MIT 获得数学博士学位，而他的博士论文却是关于人类遗 传学的，题目是《An Algebra for Theoretical Genetics》（理论遗传学的代数学)。 这说明香农的科学兴趣十分广泛，后来他在不同的学科方面发表过许多有影响 的文章。
香农于 1940 年在普林斯顿高级研究所期间开始思考信息论与有效通信系 统的问题。经过 8 年的努力，香农在 1948 年 6 月和 10 月在《贝尔系统技术杂 志》（Bell System Technical Journal）上连载发表了具有深远影响的论文《通讯 的数学原理》，1949 年，香农又在该杂志上发表了另一著名论文《噪声下的通 信》。在这两篇论文中，香农阐明了通信的基本问题，给出了通信系统的模型，
今天在计算机和通信中广泛使用的字节（Byte）、KB、MB、GB 等词都是 从比特演化而来。“比特”的出现，标志着人类知道了如何计量信息量，香农 的信息论为明确“什么是信息量”作出决定性的贡献。
哈利.奈奎斯特（Harry.Nyquist）
奈奎斯特（1889.2.7—1976.4.4），美国物理学家， 为近代信息理论做出了突出贡献，他总结的奈奎斯特取 样定理是信息论、特别是通讯与信号处理学科中的一个 重要基本结论。
1889 年 2 月 7 日，奈奎斯特出生在瑞典韦姆兰省， 1907 年移民到美国。1912 年，奈奎斯特考入美国北达科他州立大学，并于 1914 年、1915 年分别获得理学学士学位和硕士学位，并于 1917 年获得耶鲁大学哲 学博士学位。
香农在进行信息的定量计算时，明确地把信息量定义为随机不定性程度的 减少。这就表明了他对信息的理解：信息是用来减少随机不定性的东西。或香 农逆定义：信息是确定性的增加。
除了通信系统和信息论方面的研究成果以外，香农在数字计算机理论、数 字电路设计理论、密码学和保密通信、遗传学、火力控制系统、抽样分析理论 等方面也颇有建树。在二次世界大战时，香农也是一位著名的密码破译者，他 的破译团队主要是追踪德国飞机和火箭，尤其是在抵抗德国火箭对英国进行的 闪电战时，起了很大作用。除了学术研究，香农的爱好也很广泛，如杂耍、骑 独轮脚踏车和下棋等。
克劳德.艾尔伍德.香农（Claude.Elwood.Shannon）
香农（1916.4.30—2001.2.26）是美国著名的数学 家、物理学家，信息论的创始人。
香农生于美国密西根州的一个小镇，父亲是法官（父 子的姓名完全相同），母亲是镇中学校长，此外，香农 还与美国大发明家爱迪生是远亲。
1936 年，香农在密歇根大学获得数学和电子工程学 士学位，然后进入麻省理工学院（MIT）读研究生。
2001 年 2 月 26 日，香农在马萨诸塞州辞世，享年 85 岁，贝尔实验室和 MIT 发表的讣告都尊崇香农为信息论及数字通信时代的奠基人。
香农理论的重要特征是熵（entropy）的概念，他证明熵与信息内容的不确 定程度有等价关系。熵曾经是波尔兹曼在热力学第二定律引入的概念，可以把 它理解为分子运动的混乱度。信息熵也有类似意义，指的是信息体系的混乱程 度，它在控制论、概率论、数论、天体物理、生命科学等领域都有重要应用， 在不同的学科中引申出的更为具体的定义，是各领域十分重要的参量。
1917 年～1934 年，奈奎斯特在 AT&T 公司工作，后转入贝尔电话实验室 工作，直到 1954 年从贝尔实验室退休。1976 年 4 月 4 日，奈奎斯特在美国得 克萨斯州逝世。
作为贝尔电话实验室的工程师，奈奎斯特在热噪声和反馈放大器稳定性方 面做出了很大的贡献。他早期的理论性工作是关于确定传输信息的需满足的带 宽要求，在《贝尔系统技术》期刊上发表了《影响电报速度传输速度的因素》 文章，为后来香农的信息论奠定了基础。
扩展阅读
为 取样定理做出贡献 的科 学家
取样定理，即采样定理，是信息论、通讯与信号处理学科中的基本理论和 重要结论，它是由美国物理学家奈奎斯特在 1928 年首先提出，因此也称为奈 奎斯特取样定理；1933 年，苏联科学家科捷利尼科夫首次用公式严格地表述这 一，信息论的创 始人，美国科学家香农对这一定理加以明确说明，并正式作为定理引用，因此 在许多文献中又称为香农取样定理。
1938 年香农在 MIT 获得电气工程硕士学位，硕士论文题目是《A Symbolic Analysis of Relay and Switching Circuits》（继电器与开关电路的符号分析）。 当时他已经注意到电话交换电路与布尔代数之间的类似性，即把电路系统的 “开”与“关”和布尔代数的“真”与“假”对应起来，用 1 和 0 表示，从而 可以用布尔代数分析并优化开关电路，这就奠定了数字电路的理论基础。
1927 年，奈奎斯特确定了如果对某一带宽的有限时间连续信号（模拟信号） 进行抽样，且在抽样率达到一定数值时，根据这些抽样值可以在接收端准确地 恢复原信号。为不使原波形产生“半波损失”，采样率至少应为信号最高频率 的两倍，这就是著名的奈奎斯特取样定理。1928 年，奈奎斯特又发表了《电报 传输理论的一定论题》。
香农是美国科学院院士、美国工程院院士、英国皇家学会会员、美国哲学 学会会员，一生获得了许多荣誉和奖励，接受的荣誉学位不胜枚举。今天，我 们怀念香农，要熟悉他的两大贡献：一是信息理论、信息熵的概念；二是符号 逻辑和开关理论。我们更应该学习他好奇心强、重视实践、追求完美、永不满
足的科学精神，这是他获得成功的重要经验。
提出了信息量的数学表达式，并解决了信道容量、信源统计特性、信源编码、 信道编码等一系列基本技术问题。两篇论文成为了信息论的奠基性著作。
1941 年，香农加入贝尔实验室数学部，工作到 1972 年，整整 31 年。1956 年，香农成为 MIT 的客座教授，1958 年成为正式教授，1978 年退休，成为名 誉教授。
1940 年香农在 MIT 获得数学博士学位，而他的博士论文却是关于人类遗 传学的，题目是《An Algebra for Theoretical Genetics》（理论遗传学的代数学)。 这说明香农的科学兴趣十分广泛，后来他在不同的学科方面发表过许多有影响 的文章。
香农于 1940 年在普林斯顿高级研究所期间开始思考信息论与有效通信系 统的问题。经过 8 年的努力，香农在 1948 年 6 月和 10 月在《贝尔系统技术杂 志》（Bell System Technical Journal）上连载发表了具有深远影响的论文《通讯 的数学原理》，1949 年，香农又在该杂志上发表了另一著名论文《噪声下的通 信》。在这两篇论文中，香农阐明了通信的基本问题，给出了通信系统的模型，