信息论在信息与通信工程领域的应用 ppt课件
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
武东汉南大大学学移电动子通信信息国学家院重点实验室
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体会议系统中的信道编码技术
➢ 多媒体会议系统是一种将声音、图像、文本等多种信 息从一处传送到另一个处的通信系统，关键技术包括： 多媒体数据处理技术；网络技术；分布处理技术；以 及支持更多媒体处理的终端技术。
“信息论与编码”课件
信息论的广泛应用
武东ຫໍສະໝຸດ Baidu南大大学学移电动子通信信息国学家院重点实验室
“信息论与编码”课件
➢信息论在保密通信中的应用 ➢多媒体通信中的编译码技术 ➢计算机网络通信中的编译码技术 ➢信息论在数字移动通信系统中的应用 ➢信息论在宽带无线接入系统中的应用 ➢信息论在其他领域的应用
武东汉南大大学学移电动子通信信息国学家院重点实验室
X Y ,
YX
P ( X |Y )
(14.7) 疑义度可以认为是在收到Y后消息X的不确定度。密码破 译者希望随着截获密文Y的增加，H(X|Y)接近于零 。
东南大学移动通信国家重点实验室
“信息论与编码”课件
多媒体通信中的编译码技术
➢ 从应用的角度来看，多媒体就是文本、音频、 视频、图形、图像、动画等多种不同形式的信 息表达方式的有机综合。
(14.6)
英语的r’ = 4.7比特/字符，r = 1.5比特/字符，D = 3.2，比 率D / r’ = 68%就是英语冗余度的度量。中文的冗余度的 度量约为80%。
➢ 疑义度定义为在给定Y条件下X的条件熵。条件熵定义为
H ：( X |Y ) P ( X ,Y ) lP b ( X |Y )P ( Y )P ( X |Y ) lb 1
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体通信简介
➢与多媒体通信有关的压缩编码的国际标准主要有 音频编码标准G系列、静态图像压缩编码国际标准 JPEG 、 视 频 图 像 压 缩 编 码 的 国 际 标 准 H.261 和 H.263、运动图像压缩编码的国际标准MPEG系列。 ➢当前多媒体编码技术发展的一个重要方向就是综 合现有的编码技术，制定全球统一标准，使信息管 理系统具有互操作性并确保未来的兼容性。
东南大学移动通信国家重点实验室
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体会议系统中的信道编码技术
➢ 媒体通信技术是多媒体会议系统的关键技术之一。图像 信息经压缩后，信息的相关度大大降低，因此误码对图 像质量的影响不可忽视。在视频会议系统中采用BCH （511,493）纠错编码，以保证图像信息的可靠传输。
武东汉南大大学学移电动子通信信息国学家院重点实验室
“信息论与编码”课件
多媒体数据压缩
无损压缩
有损压缩
霍夫曼编码
Lempel-Zev 编码
行程编码
预测编码 频率编码 矢量量化 混合编码
子带编码 变换编码
JPEG MPEG
算术解 析编码
图15.1 多媒体数据压缩技术分类
东南大学移动通信国家重点实验室
… P64
精品资料
“信息论与编码”课件
• 你怎么称呼老师？ • 如果老师最后没有总结一节课的重点的难点，你
是否会认为老师的教学方法需要改进？ • 你所经历的课堂，是讲座式还是讨论式？ • 教师的教鞭 • “不怕太阳晒，也不怕那风雨狂，只怕先生骂我
笨，没有学问无颜见爹娘 ……” • “太阳当空照，花儿对我笑，小鸟说早早早……”
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体通信简介
➢数据压缩是多媒体发展的关键技术。 ➢多媒体数据压缩技术的分类有多种方法，其中按照信号质 量有无损失可分为有损编码和无损编码。 ✓无损编码又称为冗余压缩，主要用于文本数据压缩。算法 的基本原理是去除或减小数据中的冗余，压缩过程中不能破 坏数据中包括的信息，解码后的数据必须与原来的一样。典 型的无损压缩算法有Huffman编码、费诺-香农编码、算术 编码、流程编码、Lempel-Zev编码等。 ✓有损压缩又称为熵压缩，适用于图像和声音的压缩。在压 缩过程中减小了数据中包含的数据量，即产生一定的失真， 由此获得较高的压缩比。典型的有损编码算法包括模型编码、 矢量量化、子带编码、变换编码、小波编码等。
武东汉南大大学学移电动子通信信息国学家院重点实验室
“信息论与编码”课件
➢信息论在保密通信中的应用
密码破译
Mˆ
截取
发端
收端
明文M
加密算法EK
密文C 公共信道
K
安全信道
解密算法DK K
明文 M=DK=EK–1 (C)
密钥
图14.1 加密信道模型
东南大学移动通信国家重点实验室
“信息论与编码”课件
信息保密技术的基础知识
基本度量
➢ 代码的实际码率或语言的实际熵定义为长度为N的消息中 每字符包含的平均信息比特数，表示为
r H (X)
(14.4)
N
其中H(X)是消息熵，即最佳编码消息的比特数。当N很大
时，据估计，中文的r值不大于5比特/汉字，英文的r值约
在1.0到1.5比特/字符之间。
➢ 绝对码率或语言的最大熵定义为假设所有可能字符序列 等概情况下，每字符包含的最大信息比特数，用r’表示：
r’=lbL
(14.5)
其中L是语言包含的字符数。中文的绝对码率或最大熵约 为13.9比特/汉字，对英文字母，r’ = lb 26 = 4.7比特/字符 。
东南大学移动通信国家重点实验室
“信息论与编码”课件
信息保密技术的基础知识
基本度量
➢ 代码的冗余度用实际码率和绝对码率来定义：
D = r’ – r
➢ 随着应用的增长，术语“多媒体”的内涵也不 断扩大，它不仅指信息本身，更主要的是指处 理和应用它的一系列技术，包括与多媒体计算 机、通信和应用相关的技术。
➢ 多媒体应用的根本目的是以自然习惯的方式， 高效安全地接受计算机世界的信息，这些信息 通过计算机生成的媒体来展现。
东南大学移动通信国家重点实验室
➢ 典型的多媒体会议系统由终端设备、通信链路、多点 控制单元(MCU)及相应的软件部分组成。终端设备完 成数据处理、多媒体通信协议处理、音视频信号的接 收、存储与播放，并记录和检索大量与会议相关的数 据与文件；MCU通常设在网络节点处，用于处理多个 地点同时进行通信部分；软件包括协议、会议服务、 音频与视频信号处理等；通信链路有多种选择，包括 公 共 电 话 交 换 网 (PSTN) 、 局 域 网 (LAN) 、 广 域 网 (WAN)、ISDN、异步传输模式(ATM)等。
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体会议系统中的信道编码技术
➢ 多媒体会议系统是一种将声音、图像、文本等多种信 息从一处传送到另一个处的通信系统，关键技术包括： 多媒体数据处理技术；网络技术；分布处理技术；以 及支持更多媒体处理的终端技术。
“信息论与编码”课件
信息论的广泛应用
武东ຫໍສະໝຸດ Baidu南大大学学移电动子通信信息国学家院重点实验室
“信息论与编码”课件
➢信息论在保密通信中的应用 ➢多媒体通信中的编译码技术 ➢计算机网络通信中的编译码技术 ➢信息论在数字移动通信系统中的应用 ➢信息论在宽带无线接入系统中的应用 ➢信息论在其他领域的应用
武东汉南大大学学移电动子通信信息国学家院重点实验室
X Y ,
YX
P ( X |Y )
(14.7) 疑义度可以认为是在收到Y后消息X的不确定度。密码破 译者希望随着截获密文Y的增加，H(X|Y)接近于零 。
东南大学移动通信国家重点实验室
“信息论与编码”课件
多媒体通信中的编译码技术
➢ 从应用的角度来看，多媒体就是文本、音频、 视频、图形、图像、动画等多种不同形式的信 息表达方式的有机综合。
(14.6)
英语的r’ = 4.7比特/字符，r = 1.5比特/字符，D = 3.2，比 率D / r’ = 68%就是英语冗余度的度量。中文的冗余度的 度量约为80%。
➢ 疑义度定义为在给定Y条件下X的条件熵。条件熵定义为
H ：( X |Y ) P ( X ,Y ) lP b ( X |Y )P ( Y )P ( X |Y ) lb 1
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体通信简介
➢与多媒体通信有关的压缩编码的国际标准主要有 音频编码标准G系列、静态图像压缩编码国际标准 JPEG 、 视 频 图 像 压 缩 编 码 的 国 际 标 准 H.261 和 H.263、运动图像压缩编码的国际标准MPEG系列。 ➢当前多媒体编码技术发展的一个重要方向就是综 合现有的编码技术，制定全球统一标准，使信息管 理系统具有互操作性并确保未来的兼容性。
东南大学移动通信国家重点实验室
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体会议系统中的信道编码技术
➢ 媒体通信技术是多媒体会议系统的关键技术之一。图像 信息经压缩后，信息的相关度大大降低，因此误码对图 像质量的影响不可忽视。在视频会议系统中采用BCH （511,493）纠错编码，以保证图像信息的可靠传输。
武东汉南大大学学移电动子通信信息国学家院重点实验室
“信息论与编码”课件
多媒体数据压缩
无损压缩
有损压缩
霍夫曼编码
Lempel-Zev 编码
行程编码
预测编码 频率编码 矢量量化 混合编码
子带编码 变换编码
JPEG MPEG
算术解 析编码
图15.1 多媒体数据压缩技术分类
东南大学移动通信国家重点实验室
… P64
精品资料
“信息论与编码”课件
• 你怎么称呼老师？ • 如果老师最后没有总结一节课的重点的难点，你
是否会认为老师的教学方法需要改进？ • 你所经历的课堂，是讲座式还是讨论式？ • 教师的教鞭 • “不怕太阳晒，也不怕那风雨狂，只怕先生骂我
笨，没有学问无颜见爹娘 ……” • “太阳当空照，花儿对我笑，小鸟说早早早……”
“信息论与编码”课件
多媒体通信中的编译码技术
多媒体通信简介
➢数据压缩是多媒体发展的关键技术。 ➢多媒体数据压缩技术的分类有多种方法，其中按照信号质 量有无损失可分为有损编码和无损编码。 ✓无损编码又称为冗余压缩，主要用于文本数据压缩。算法 的基本原理是去除或减小数据中的冗余，压缩过程中不能破 坏数据中包括的信息，解码后的数据必须与原来的一样。典 型的无损压缩算法有Huffman编码、费诺-香农编码、算术 编码、流程编码、Lempel-Zev编码等。 ✓有损压缩又称为熵压缩，适用于图像和声音的压缩。在压 缩过程中减小了数据中包含的数据量，即产生一定的失真， 由此获得较高的压缩比。典型的有损编码算法包括模型编码、 矢量量化、子带编码、变换编码、小波编码等。
武东汉南大大学学移电动子通信信息国学家院重点实验室
“信息论与编码”课件
➢信息论在保密通信中的应用
密码破译
Mˆ
截取
发端
收端
明文M
加密算法EK
密文C 公共信道
K
安全信道
解密算法DK K
明文 M=DK=EK–1 (C)
密钥
图14.1 加密信道模型
东南大学移动通信国家重点实验室
“信息论与编码”课件
信息保密技术的基础知识
基本度量
➢ 代码的实际码率或语言的实际熵定义为长度为N的消息中 每字符包含的平均信息比特数，表示为
r H (X)
(14.4)
N
其中H(X)是消息熵，即最佳编码消息的比特数。当N很大
时，据估计，中文的r值不大于5比特/汉字，英文的r值约
在1.0到1.5比特/字符之间。
➢ 绝对码率或语言的最大熵定义为假设所有可能字符序列 等概情况下，每字符包含的最大信息比特数，用r’表示：
r’=lbL
(14.5)
其中L是语言包含的字符数。中文的绝对码率或最大熵约 为13.9比特/汉字，对英文字母，r’ = lb 26 = 4.7比特/字符 。
东南大学移动通信国家重点实验室
“信息论与编码”课件
信息保密技术的基础知识
基本度量
➢ 代码的冗余度用实际码率和绝对码率来定义：
D = r’ – r
➢ 随着应用的增长，术语“多媒体”的内涵也不 断扩大，它不仅指信息本身，更主要的是指处 理和应用它的一系列技术，包括与多媒体计算 机、通信和应用相关的技术。
➢ 多媒体应用的根本目的是以自然习惯的方式， 高效安全地接受计算机世界的信息，这些信息 通过计算机生成的媒体来展现。
东南大学移动通信国家重点实验室
➢ 典型的多媒体会议系统由终端设备、通信链路、多点 控制单元(MCU)及相应的软件部分组成。终端设备完 成数据处理、多媒体通信协议处理、音视频信号的接 收、存储与播放，并记录和检索大量与会议相关的数 据与文件；MCU通常设在网络节点处，用于处理多个 地点同时进行通信部分；软件包括协议、会议服务、 音频与视频信号处理等；通信链路有多种选择，包括 公 共 电 话 交 换 网 (PSTN) 、 局 域 网 (LAN) 、 广 域 网 (WAN)、ISDN、异步传输模式(ATM)等。