信息论导论

算不快 记不住 传不远 看（听）不清
信息技术（IT）
信息科学技术的研究内容
信息技术的数学理论包括：
1. 2.
3. 4. 5. 6. 7.
信息论（编码、度量、特性、传播、可靠性等） 数理逻辑和算法论－－计算机体系结构和程序的数 学理论 人工智能理论（知识处理、学习、机器人等） 计算智能（模糊计算、神经计算、进化计算） 数学建模理论 优化的数学理论 通信协议的数学理论
促进信息科学技术发展的需求
5. 信息要求在广阔的范围内快速、可靠、安全、 随时随地地传输－－通信技术 6. 要为不断增长的、海量的、各种类型的信息提 供快速、可靠和安全的存储设备－－存储技术 7. 研究人的视觉、听觉、生理、心理等机制，以 及大脑结构和功能，在计算机上进行模拟，制 造出机器感知和人工智能，使信息处理技术更 加智能化－－智能科学……….
扩展大脑功能的计算(处理) 与存储技术
扩展效应器官功能的控制与显示技术
2、信息科学

“信息科学”提出后，世界上有三种自称“信息 科学”的体系存在。
以计算机为代表的“计 算机信息科学”； 以文献处理自动化为代 表的“图书馆信息科学”
以香农通讯信号计量理论为核心的 “全信息信息科学”。


特征是：仅研究特定领域中的某些信息， 对其它领域中的信息不予充分的关注与考 虑。这样，虽然提出了信息科学的概念， 但并未形成一体化的信息科学。 信息科学：是以信息为基本研究对象，以 信息的运动规律和应用方法为主要研究内 容的科学。
4、信息科学技术的主要内容
信息科学技术的研究内容


研究信息的获取（收集）、表示（组织）、存 储、处理、传输（包括发送、路由、接收）、 利用及其数学/物理/生物学理论的一门科学技 术。 它是一门集数学、物理学、电子学、通信技术、 计算机科学技术、智能科学技术以及控制理论 与技术等于一体的交叉学科。
纳米电子技术 通讯协议
信息获取 仿生学
生物学
材料学科 化学
生物电子学
生物信息学
元器件的制备 物性结构
信息技术的特点
信息科学技术的另一个特点：
信息科学技术的发展速度极快，更新周期短；造 就了学习型社会
——信息领域的三个定律
信息技术的特点
信息领域的三定律 摩尔定律即电子定律 微电子制造工艺技术每3年前进一代，集成电路 的集成度翻两番 超摩尔定律即光子定律 光信息技术水平每9个月翻一番 迈特卡夫定律 网络的价值以联网设备数的平方关系而增加
面临的问题


海量信息分布在广阔的网上，各节点间为 了使用它们必须相互通信，而且（活的） 人参与其中，使问题更加复杂化。 信息的安全问题：国家安全、银行/金融 系统的安全、个人通信的安全、……
促进信息科学技术发展的需求
为了解决上述问题，要求： 1.在物理实现上不断探求新思想、新原理和新方法， 使各种信息领域元器件的性能不断提高。－－电子 技术。 2.计算机、网络等的体系结构和处理逻辑不断改进， 发明和设计出各种新型的硬件系统。 3.创造优良的信息处理方法和高效的计算方法，以便 不断提高系统的处理效率。 4.必须不断创新。使软件的理论和技术迅速改进，设 计和实现切实可用的软件系统，包括各种系统软件、 中间件、应用软件。
信息科学技术的研究内容
信息技术的物理学理论包括：
1. 2. 3. 4.
电子学理论
量子理论/光量子理论
微电子学理论
纳米电子学理论
信息科学技术的研究内容
信息技术的生物学理论包括：
1. 2. 3. 4. 5.
生物信息论 遗传学和基因理论 脑科学 生物物理学 生物化学
5、信息科学技术的地位 和特点
信息技术地位
教材和参考书：教师讲课的PPT。
微电子技术概述 信息论理论基础 贾新章 北京：国防工业出版社 贾世楼 哈工大出版
E－时代科技概论 谢孟贤 电子科大出版 大学信息技术基础 胡同森 科学出版社
成绩评定方法： 期末考试 60分，中期考核 10分，平时 30分。习题： 3--5次。
信息论导论
每一章大致都将包括：
信息论发展史
④ 1948 年到 1949 年 维纳（ Wiener.N）发表两篇名著 ： 战时关于“目标自动预测和武器火力控制”的成果， 用最少均方误差准则研究信号的过滤问题 ⑤近年来。在香农理论上发展的最佳噪声通信模型。 信号检测理论和编码理论已成为代信息论的两个重要 分支。像模糊信息、相对信息、主观信息、及智能信 息处理、自动化信息控制等信息理论面貌为之一新， 促进了信息科学发展。
3、信息论发展史

1：信息论发展史。 ① 1924年 奈金斯特（Nyguist.H）发表了“影响电报速率因 素的确定”一文给出了信息度量方法和系统传输能力。 1928年 哈特莱（Hartley.L.V.R）发表“信息传输”一 文。 ② 1948年 香农（shannon.C.E）发表“通信的数学理论”权 威性论文，讨论了信源和信道特性。 1949年 香农发表“噪声中通信”一文 这两篇论文奠定了现代信息论的基础 ③1946年 柯切尔尼柯夫（B..A.komejibHHKOB）发表“起伏 噪声下的潜在抗干扰理论”学位论文，由最小错误概率准则 和最小均方误差准则研究了离散消息和连续消息的最佳接收
3、信息科学技术的作用
小型化 价格急 剧下降 功耗 降低 故障率 降低
3、信息科学技术的作用
信息技术对传统产业的渗透与带动作用



风机、水泵的总耗电量约占了全国发电量的 30%。 变频调速等电子技术改造，节电500亿度以 上，相当于三个葛洲坝电站的发电量(157亿 度/年)。 对白炽灯进行高效节能改造，并假设推广应 用30%，所节省的电能相当于三座大亚弯核 电站的发电量(139亿度/年)。
电子信息对国家安全与国防建设的作用
美国国防部各类武器装备经费预算中的电子含量 *(单位： %)
1993 飞机 导弹 空间 舰船 37.6 52.9 59 36.2 1994 40.1 55.2 57.6 31.1 17.5 14.4 41.2 1995 40.3 59.3 58.8 34.9 19.3 16.4 41.4 1996 39.4 59.9 58.9 31.4 19.8 22.8 41.4 1997 39.1 59.6 58.8 32.8 20.4 26.6 42 1998 38.8 60.3 60 32.1 20.8 25.8 42.5 1999 37.8 60.1 60.9 34.8 20.6 24.8 42.9 2000 38.9 59.5 61.6 34.9 20.8 28.4 43.6 2001 39.1 59.9 61.9 34 22.7 29.4 43.6
信息技术的领域
关键技术：微（纳）电子与Βιβλιοθήκη Baidu电子、软件、计算机和通信
基础： 软件、
微（纳）电子与光电子
信息科学技术的研究内容
为什么要研究信息科学技术？
信息传递 (神经系统) 信息加工与 存储(大脑) 信息传递 (神经系统)
信息获取 (感觉器官)

事物客体
信息施用 (效应器官)
人工信息处理的不足：

1 I ( xi ) log log P( xi ) P( xi )
单位：

I ( xi ) 0,
当P( xi ) 1时, I ( xi ) 0
对数以2为底，单位为比特 (bit) 对数以e为底，单位为奈特 (nit) 对数以10为底，单位为哈特莱 (Hartley)
各种炮和武 15.7 器 车辆 14.3
国防预算中 40.7 的电子含量
注: *电子含量=电子采购费+科研费/国防武器装备采购费+科研费资料来源:
（1）现代信息技术面 临的一些问题和需求
面临的问题
人类正在（或已经）进入“ 信息化社会”，或者 “ 数字化社会”。 处理能力的增长远远赶不上信息量的增长。 信息越来越多，但是信息的利用率越来越低，人 们被埋没在数据和信息的海洋之中，不知所措。 Internet的发展开拓了人类的“ 视界”和互相交 流的范围。但是其无序的成长和恶意产生的“垃 圾信息”给网上信息的利用带来很大的麻烦和困 难。
◎因特网（Internet）
二、信息科学技术
1、信息技术

信息技术：（IT）指对信息的获取、传递、存储、 处理及应用的技术
1959 年，美国宾夕法尼亚大学莫尔电子工 程学院首先应用了“信息科学”的概念，这 一概念既包括了信息理论又包括了信息技术。
信息技术包括：

扩展感觉器官功能的感测(获取)与识别技术 扩展神经系统功能的通信技术
信息技术对传统产业的渗透与带动作用
装备的更新换代都基于信息技术的进步，其灵 巧（Smart）的程度都依赖于信息技术的“智 慧”程度和使用程度
数字化技术改造
普通机床
数控机床
价格相差10倍
整机系统 高附加值
信息 技术
在成长期进入 市场，增强市 场竞争力
信息技术对国家安全与国防建设的作用
武器装备水平与社会生产力、经济基础 有密切关系。 在农业社会：大刀长矛等冷兵器； 在工业化社会：枪、炮等热兵器 信息化社会：电子信息产品成为武器 的一个组成单元电子战、信息战。
信息论导论
信息论导论
课程名称：信息论导论 所属学科：信息科学技术 领域方向：信息科学技术 学时：32学时(每周2学时) 主持教员：卢云
信息论导论
基本目的：
1、 使学生对信息科学技术领域包含的各个学科、各个领域有一 个整体的、较为全面的了解； 2 、对信息科学技术各个主要学科方向的发展历史、发展现状以 及发展趋势等有一个比较全面的了解；
3 、使学生对微电子学、纳米电子学、量子电子学、计算机软硬 件、计算机网络、自动化控制及信息系统、通讯技术、智能科学 和信息安全等学科门类所采用的基本原理有一个比较明确的概念。
信息论导论
学习收获： 通过学习这门课，学生会有如下 收获： 1、了解信息科学技术所包含的主要内容， 对学习信息科学技术领域包含的各个专业方 向的情况有一个大概的了解； 2、对信息科学技术各个主要领域的历史、 现状和将来的发展趋势以及产业的状况有一 个比较清晰的认识；
2、信息度量
信息的基本概念
信息：是消息的内容 消息：是信息的形式 Hartley和香农(C.E.Shannon)从消息的统计 特性出发，从信息的不确定性和概率测度的 角度定义了通信中信息量的概念，并给出了 信息度量的方法。
信息度量
信息量：获得信息后所消除掉的不确定性的度量。 息量)＝不肯定程度的减少量。 单一符号的信息量 u u u …u ，u {x }, j =1,…,k, 概率为P(x ) 1 2 3 N i j j I(信
信息论导论
内容提要：
1.信息与信息科学概论（ 4学时） 2.信息技术基础设施（4学时） 3.信息通讯技术（6学时） 4.计算机网络技术（4学时） 5.多媒体技术（2学时） 6.信息自动化与感测（2学时） 7.信息安全（4学时） 8.电子战（2学时） 共计：28学时
信息论导论
所选教材：《信息科学技术概论》 阎毅主编 华中科技大学出版 教学方式：课堂讲授为主，每周2学时。
4、信息的十大基本特征
1、可量度 3、可转换 5、可处理 7、可再生 2、可识别 4、可存储 6、可传递 8、可压缩
9、可利用
10、可共享
5、信息及处理

信息研究的立体透视图
人类信息活动变革
◎语言的形成和使用 ◎文字的创造 ◎印刷技术的发明 ◎望远镜、显微镜 ◎电报和电话通信 ◎广播、电视 ◎雷达、卫星（遥感感测） ◎计算机、机器人

当今社会的三大热点技术

IT: Info-Technology，信息技术
BT: Bio-Technology，生物技术 NT: Nano-Technology，纳米技术


信息科学技术的特点——多学科交叉 交叉学科：需要广泛的知识背景
信息学科内部的交叉 与其它学科的交叉

物理学 数学
微电子技术 计算机软件
基本概念 2. 欲解决的问题 3. 一般理论、方法和技术 4. 已取得的主要研究成果 5. 未来发展趋势
1.
第一章 信息与信息科学概论 内容 信息及处理 信息技术与信息革命 信息社会 信息技术应用
一、信息及处理

信息：广义地说，信息就是消息，一切 存在都有信息
1、信息概念

信息观点：
1、控制论（美国数学家维纳） 信息是与外部世界进行交换的内容。 2、信息论（美国数学家香农） 信息是用来消除不确定性的东西 3、哲学观点 信息是在自然界、人类社会和人类思维活动中普 遍存在的一切物质和事物的属性。