通信原理——信源编码的技术
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1 H ( x) N H ( x) J
说明：通过扩展编码可使编码的平均长 度任意接近信源的熵，从而使编码效率 提高。
数字通信原理 2018年11月24日星期六
4.2 抽样定理
一、抽样 模拟信号数字化的第一步是在时间上 对信号进行离散化处理，即将时间上连续 的信号处理成时间上离散的信号，这一过 程称之为抽样。 每隔一定的时间间隔T，抽取模拟信 号的一个瞬时幅度值，所形成的一串在时 间上离散的样值称为样值序列或样值信号， 或叫脉幅调制信号（PAM信号）。
ni：相应出现概率为p(xi)的符号的编码长度。
数字通信原理 2018年11月24日星期六
哈夫曼编码步骤：
将所有信源符号按概率分布从大到小顺序排列
（对概率相等的概率顺序任意）； 将两个概率最小的信源符号合并成一个信源符 号，形成新的概率集合，按前一步骤重新排列。 如此重复，直至剩下两个概率为止； 分配码字。从后向前反向进行，分配0或1；直 至将所有的符号的哈夫曼编码获得为止。
数字通信原理 2018年11月24日星期六
4.1 概述
一、信源编码的主要目的
1、将信号变换为适合于数字通信系统处理和传送的数字信 号形式——A/D转换； 2、提高通信的有效性，尽可能地减少原信息中的冗余度， 使单位时间或单位系统频带上所传的信息量最大——压缩 编码；
二、编码方式 1、离散无记忆信源编码DMS
包括有Huffman编码和等长编码
2、脉冲编码调制和增量编码调制PCM/DM 3、线性预测编码LPC
将信源等效地视为在一个适当输入信号激励下的线性系 统输出。用线性系统的参数及伴随的输入激励信号进行编 码。
数字通信原理 2018年11月24日星期六
三、DMS编码
给每个符号赋予一定长度的代码表示。 设：信源的输出来自一个由有限个符号 xi , i 1,2,, L p( xi )表示符号出现的概率，则： 组成的集合，
H ( x ) p( xi ) log2 p( xi ) log2 L
i 1 L
即：在赋予一定长度的代码时，每个符号的二 进制代码平均长度最短不应小于信源的熵。
数字通信原理 2018年11月24日星期六
1、等长编码 又称为均匀编码，即不管符号出现的 概率如何，每个符号都用N位二进制代 码表示。 则码长为：N log2 L或log2 L 1
数字通信原理 2018年11月24日星期六
3、量化误差：就是指量化前后信号之差，
通常用功率来表示，又称之为量化噪声。 量化噪声是一种原理性的固有噪声。
4、分类：根据输入输出关系，随机过程
编码效率为：
N 即：每位二进制码所代表的信源的信息量。
数字通信原理 2018年11月24日星期六
H ( x )
特点：
当L为2的整数次幂且等概出现时，编码效率为100%； 当符号等概出现，但L不是2的整数次幂时，编码效率 下降，符号平均信息量与码长N之间最多可相差1比特； L较小时，编码效率较低，因此，可以采用扩展编码的 方法，即将连续J个符号进行统一编码，则：
Βιβλιοθήκη Baidu
数字通信原理
2018年11月24日星期六
例3：已知一基带信号
m( t ) cos2t 2 cos4t
对其进行抽样，为了在接收端能不失 真地从已取样信号中恢复原信号，试 问取样间隔应为多少？
数字通信原理
2018年11月24日星期六
三、带通信号的抽样
1、带通信号 频带限制于（fL ，fm）Hz之间的连续 时间信号称为带通信号； 带通信号如果还采用低通信号抽样定 理进行取样，则将造成频谱空隙的浪费， 致使信道利用率不高。
注意：如果fL<fm-fL=B，则此时fs仍按低通型 信号处理，即抽样频率为fs≥2fm。 例4:试求载波60路超群信号(312-552KHz)的取 样频率。
数字通信原理 2018年11月24日星期六
4.3 脉冲振幅调制PAM
采用离散的脉冲序列作为载波， 来传输模拟信号。
一、基本概念
1、脉冲调制：按调制信号改变脉冲参数
想低通滤波器时，不能完全恢复原信号； 内插噪声，由非理想低通滤波器所产生的误差；
数字通信原理 2018年11月24日星期六
语声信号的最高频率限制在3400Hz，
这时满足抽样定理的最低抽样频率应 为fsmm=6800Hz,为了留有一定的防卫带， 原CCITT规定语音信号的抽样频率为 fs=8000Hz，这样，就留出8000-6800= 1200Hz作为滤波器的防卫带。
与理想取样相比，其有效带宽是有限的， 脉冲越宽，频谱衰减越快，所需传输带宽 也越小；
数字通信原理 2018年11月24日星期六
数字通信原理
2018年11月24日星期六
三、平顶取样
也叫瞬时取样，取样信号的所有脉冲形状相 同，幅度决定于f(t)的瞬时取样值。一般取样点 选择脉冲的中心或起点。 结论：
《 数 字 通 信 原 理 》
Principles of Digital Communication
中南大学信息科学与工程学院
Central South University College of Information Science and Engineering
数字通信原理
2018年11月24日星期六
数字通信原理 2018年11月24日星期六
二、低通信号的抽样定理——
Nyquist抽样定理（均匀采样定理） 一个带限于（0，fm）Hz内的连续时间 信号f(t)，如果以Ts≤1/2fm秒的时间间隔 进行抽样，则f(t)将由得到的抽样值f(kTt) 完全确定。 Nyquist抽样速率：
f s 2 fm
fs
fm
fL
fs fm fs fL fL
fm
2 f s fm 2 f s f L
f
设B=fm-fL,,则B <fL,<2B 如图所示，进行频谱搬移，则若要不重叠， 必须满足：
(1) fs fL fL fm f s 2 f L ( 2) f m 2 f s f m
数字通信原理 2018年11月24日星期六
注意：
Huffman编码构造的码字不唯一； Huffman编码是变长编码，硬件实现
比较困难； 采用Huffman编码，要传送编码表， 占用传送时间； Huffman编码是变长编码，出错时难 以识别；
数字通信原理
2018年11月24日星期六
（2）香农无干扰编码定理 即香农第一编码定理，在不等长编码 中，不是对每个符号单独进行编码，而 是对由J个符号组成的符号组进行编码， 平均码长为：
数字通信原理
2018年11月24日星期六
2、带通信号的取样定理 （1）如果模拟信号频带限制于（fL ，fm）Hz 之间，且当fL≥fm-fL=W时，则所必须的最 低取样速率为：
fs (min) 2 fm m1 fL m fm f L
（2）一般情况下，取样速率应满足：
平顶取样可能引起孔径效应，需增加均衡电路加以补偿； 若脉冲越窄，则失真越小； PAM信号常需要采用抽样保持电路来实现，得到的脉冲为 矩形脉冲； 利用连续变化的抽样值进行通信，容易受到信道噪声的干 扰；
数字通信原理 2018年11月24日星期六
PAM信号的特征：
平顶抽样信号的产生原理
平顶抽样信号
数字通信原理 2018年11月24日星期六
2、不等长编码 即将出现概率较大的符号用位数较少的 码字代表，而出现概率较小的符号用较长 的码字代表，也称为概率匹配编码。 （1）哈夫曼编码：单义可译码，平均长度 最短的码种； 平均码长为：
H ( x) N
p( x ) n
i 1 i
L
i
H ( x) 1
自然取样：时间内脉冲幅度随信号幅度的变化
而变化； 平顶取样：时间内脉冲幅度不变；
数字通信原理
2018年11月24日星期六
二、自然取样
由f(t)和矩形（或任意形状）脉冲序 列直接相乘来完成。 结论：
产生的信号通过理想低通滤波器恢复后与 原信号f(t)只有幅度上的差别，而不会产 生失真；
来实现的过程。
2、分类（按改变的脉冲参数不同）
幅度：PAM，脉冲振幅调制
宽度：PDM/PWM，脉冲宽度调制 时间位置：PPM，脉冲位置调制
数字通信原理 2018年11月24日星期六
由于已调信号在时间上离散，但脉冲参数的 变化是连续的，也可称为脉冲模拟调制。 实际脉冲是有限宽度的窄脉冲，所以，实际 取样有两种，自然取样和平顶取样。
Ts 1 Nyquist最大时间间隔：
数字通信原理
2 fm
2018年11月24日星期六
数字通信原理
2018年11月24日星期六
三个前提条件
信号是严格带限的，频率是在一定的fm以下； 取样是用理想的冲激序列； 采用理想的低通滤波器来恢复原信号，以减少
误差；
否则，将产生三种噪声
折叠噪声，由折叠误差所产生的噪声； 孔径效应，取样不是理想的冲激序列，通过理
数字通信原理 2018年11月24日星期六
fs
fm
fL
fs fm fs fL fL
fm
2 f s fm 2 f s f L
f
若要频带间隔相等，必须满足：
( 3) f L ( f s f L ) ( 2 f s f m ) f m
2( fm fL ) 2 f L f s 2 f s 2 fm f s 3
平均编码效率：
H ( x) N
数字通信原理 2018年11月24日星期六
例2：某一离散无记忆信源DMS由8个字母 组成，每个字母出现的概率分别是 0.25，0.2，0.12，0.10，0.08，0.05， 0.05，求： （1）Huffman编码所产生的8个不等长码 字； （2）每个符号平均二进制编码长度； （3）信源的熵；
2 fm 2 fm fs m1 m m1
这样不会发生频谱重叠。
数字通信原理 2018年11月24日星期六
（3）如果要求原始信号频带与其相邻频带之 间的频带间隔相等，则：
2( fm f L ) fs 2m 1
分析：带通信号的频谱图
fm
fL
fL
数字通信原理
fm
f
2018年11月24日星期六
数字通信原理 2018年11月24日星期六
对于一般情况：如果 mB 则有：
(1)mfs fL fL
fL ( m 1) B
2 fm f 2 f L s m 1 m ( 2) fm ( m 1) fs fm 2( fm fL ) fs ( 3)(m 1) fs 2 fm 2 fL mfs 2m 1
目
第一讲 第二讲 第三讲 第四讲 第五讲 第六讲 第七讲
录
绪论 信息论基础和信号分析 模拟调制技术 信源编码技术 数字基带传输 数字调制技术 差错控制编码
数字通信原理 2018年11月24日星期六
第四讲 信源编码技术
4.1 4.2 4.3 4.4 4.5 4.6 4.7 概述 抽样定理 脉冲振幅调制（PAM） 模拟信号的量化 脉冲编码调制（PCM） DPCM和DM PCM通信系统及多路复用技术
数字通信原理
2018年11月24日星期六
4.4 模拟信号的量化
一、定义及作用
1、取样：完成将时间连续的信号转化为时
间离散的信号，即时间上的离散化。PAM 信号是模拟信号； 2、量化：是把信号在幅度域上连续取值变 换为幅度域上离散取值的过程。具体的定 义是，将幅度域连续取值的信号在幅度域 上划分为若干个分层，在每一个分层范围 内的信号值用“四舍五入”的办法取某一 个固定的值来表示。
N J l og 2 L
取整： N J l og 2 L 1
即： N
N 1 log 2 L J J
也就是说，每个符号所增加的1比特下降 到1/J比特，编码效率增加。
数字通信原理 2018年11月24日星期六
例1：某一DMS有5种信源符号，每种符号 出现的概率为1/5，计算以下固定长度 编码的有效性（效率）。 （1）每个符号分别进行等长二进制编码； （2）每两个符号组合，进行等长二进制 编码； （3）每三个符号组合，进行等长二进制 编码；
说明：通过扩展编码可使编码的平均长 度任意接近信源的熵，从而使编码效率 提高。
数字通信原理 2018年11月24日星期六
4.2 抽样定理
一、抽样 模拟信号数字化的第一步是在时间上 对信号进行离散化处理，即将时间上连续 的信号处理成时间上离散的信号，这一过 程称之为抽样。 每隔一定的时间间隔T，抽取模拟信 号的一个瞬时幅度值，所形成的一串在时 间上离散的样值称为样值序列或样值信号， 或叫脉幅调制信号（PAM信号）。
ni：相应出现概率为p(xi)的符号的编码长度。
数字通信原理 2018年11月24日星期六
哈夫曼编码步骤：
将所有信源符号按概率分布从大到小顺序排列
（对概率相等的概率顺序任意）； 将两个概率最小的信源符号合并成一个信源符 号，形成新的概率集合，按前一步骤重新排列。 如此重复，直至剩下两个概率为止； 分配码字。从后向前反向进行，分配0或1；直 至将所有的符号的哈夫曼编码获得为止。
数字通信原理 2018年11月24日星期六
4.1 概述
一、信源编码的主要目的
1、将信号变换为适合于数字通信系统处理和传送的数字信 号形式——A/D转换； 2、提高通信的有效性，尽可能地减少原信息中的冗余度， 使单位时间或单位系统频带上所传的信息量最大——压缩 编码；
二、编码方式 1、离散无记忆信源编码DMS
包括有Huffman编码和等长编码
2、脉冲编码调制和增量编码调制PCM/DM 3、线性预测编码LPC
将信源等效地视为在一个适当输入信号激励下的线性系 统输出。用线性系统的参数及伴随的输入激励信号进行编 码。
数字通信原理 2018年11月24日星期六
三、DMS编码
给每个符号赋予一定长度的代码表示。 设：信源的输出来自一个由有限个符号 xi , i 1,2,, L p( xi )表示符号出现的概率，则： 组成的集合，
H ( x ) p( xi ) log2 p( xi ) log2 L
i 1 L
即：在赋予一定长度的代码时，每个符号的二 进制代码平均长度最短不应小于信源的熵。
数字通信原理 2018年11月24日星期六
1、等长编码 又称为均匀编码，即不管符号出现的 概率如何，每个符号都用N位二进制代 码表示。 则码长为：N log2 L或log2 L 1
数字通信原理 2018年11月24日星期六
3、量化误差：就是指量化前后信号之差，
通常用功率来表示，又称之为量化噪声。 量化噪声是一种原理性的固有噪声。
4、分类：根据输入输出关系，随机过程
编码效率为：
N 即：每位二进制码所代表的信源的信息量。
数字通信原理 2018年11月24日星期六
H ( x )
特点：
当L为2的整数次幂且等概出现时，编码效率为100%； 当符号等概出现，但L不是2的整数次幂时，编码效率 下降，符号平均信息量与码长N之间最多可相差1比特； L较小时，编码效率较低，因此，可以采用扩展编码的 方法，即将连续J个符号进行统一编码，则：
Βιβλιοθήκη Baidu
数字通信原理
2018年11月24日星期六
例3：已知一基带信号
m( t ) cos2t 2 cos4t
对其进行抽样，为了在接收端能不失 真地从已取样信号中恢复原信号，试 问取样间隔应为多少？
数字通信原理
2018年11月24日星期六
三、带通信号的抽样
1、带通信号 频带限制于（fL ，fm）Hz之间的连续 时间信号称为带通信号； 带通信号如果还采用低通信号抽样定 理进行取样，则将造成频谱空隙的浪费， 致使信道利用率不高。
注意：如果fL<fm-fL=B，则此时fs仍按低通型 信号处理，即抽样频率为fs≥2fm。 例4:试求载波60路超群信号(312-552KHz)的取 样频率。
数字通信原理 2018年11月24日星期六
4.3 脉冲振幅调制PAM
采用离散的脉冲序列作为载波， 来传输模拟信号。
一、基本概念
1、脉冲调制：按调制信号改变脉冲参数
想低通滤波器时，不能完全恢复原信号； 内插噪声，由非理想低通滤波器所产生的误差；
数字通信原理 2018年11月24日星期六
语声信号的最高频率限制在3400Hz，
这时满足抽样定理的最低抽样频率应 为fsmm=6800Hz,为了留有一定的防卫带， 原CCITT规定语音信号的抽样频率为 fs=8000Hz，这样，就留出8000-6800= 1200Hz作为滤波器的防卫带。
与理想取样相比，其有效带宽是有限的， 脉冲越宽，频谱衰减越快，所需传输带宽 也越小；
数字通信原理 2018年11月24日星期六
数字通信原理
2018年11月24日星期六
三、平顶取样
也叫瞬时取样，取样信号的所有脉冲形状相 同，幅度决定于f(t)的瞬时取样值。一般取样点 选择脉冲的中心或起点。 结论：
《 数 字 通 信 原 理 》
Principles of Digital Communication
中南大学信息科学与工程学院
Central South University College of Information Science and Engineering
数字通信原理
2018年11月24日星期六
数字通信原理 2018年11月24日星期六
二、低通信号的抽样定理——
Nyquist抽样定理（均匀采样定理） 一个带限于（0，fm）Hz内的连续时间 信号f(t)，如果以Ts≤1/2fm秒的时间间隔 进行抽样，则f(t)将由得到的抽样值f(kTt) 完全确定。 Nyquist抽样速率：
f s 2 fm
fs
fm
fL
fs fm fs fL fL
fm
2 f s fm 2 f s f L
f
设B=fm-fL,,则B <fL,<2B 如图所示，进行频谱搬移，则若要不重叠， 必须满足：
(1) fs fL fL fm f s 2 f L ( 2) f m 2 f s f m
数字通信原理 2018年11月24日星期六
注意：
Huffman编码构造的码字不唯一； Huffman编码是变长编码，硬件实现
比较困难； 采用Huffman编码，要传送编码表， 占用传送时间； Huffman编码是变长编码，出错时难 以识别；
数字通信原理
2018年11月24日星期六
（2）香农无干扰编码定理 即香农第一编码定理，在不等长编码 中，不是对每个符号单独进行编码，而 是对由J个符号组成的符号组进行编码， 平均码长为：
数字通信原理
2018年11月24日星期六
2、带通信号的取样定理 （1）如果模拟信号频带限制于（fL ，fm）Hz 之间，且当fL≥fm-fL=W时，则所必须的最 低取样速率为：
fs (min) 2 fm m1 fL m fm f L
（2）一般情况下，取样速率应满足：
平顶取样可能引起孔径效应，需增加均衡电路加以补偿； 若脉冲越窄，则失真越小； PAM信号常需要采用抽样保持电路来实现，得到的脉冲为 矩形脉冲； 利用连续变化的抽样值进行通信，容易受到信道噪声的干 扰；
数字通信原理 2018年11月24日星期六
PAM信号的特征：
平顶抽样信号的产生原理
平顶抽样信号
数字通信原理 2018年11月24日星期六
2、不等长编码 即将出现概率较大的符号用位数较少的 码字代表，而出现概率较小的符号用较长 的码字代表，也称为概率匹配编码。 （1）哈夫曼编码：单义可译码，平均长度 最短的码种； 平均码长为：
H ( x) N
p( x ) n
i 1 i
L
i
H ( x) 1
自然取样：时间内脉冲幅度随信号幅度的变化
而变化； 平顶取样：时间内脉冲幅度不变；
数字通信原理
2018年11月24日星期六
二、自然取样
由f(t)和矩形（或任意形状）脉冲序 列直接相乘来完成。 结论：
产生的信号通过理想低通滤波器恢复后与 原信号f(t)只有幅度上的差别，而不会产 生失真；
来实现的过程。
2、分类（按改变的脉冲参数不同）
幅度：PAM，脉冲振幅调制
宽度：PDM/PWM，脉冲宽度调制 时间位置：PPM，脉冲位置调制
数字通信原理 2018年11月24日星期六
由于已调信号在时间上离散，但脉冲参数的 变化是连续的，也可称为脉冲模拟调制。 实际脉冲是有限宽度的窄脉冲，所以，实际 取样有两种，自然取样和平顶取样。
Ts 1 Nyquist最大时间间隔：
数字通信原理
2 fm
2018年11月24日星期六
数字通信原理
2018年11月24日星期六
三个前提条件
信号是严格带限的，频率是在一定的fm以下； 取样是用理想的冲激序列； 采用理想的低通滤波器来恢复原信号，以减少
误差；
否则，将产生三种噪声
折叠噪声，由折叠误差所产生的噪声； 孔径效应，取样不是理想的冲激序列，通过理
数字通信原理 2018年11月24日星期六
fs
fm
fL
fs fm fs fL fL
fm
2 f s fm 2 f s f L
f
若要频带间隔相等，必须满足：
( 3) f L ( f s f L ) ( 2 f s f m ) f m
2( fm fL ) 2 f L f s 2 f s 2 fm f s 3
平均编码效率：
H ( x) N
数字通信原理 2018年11月24日星期六
例2：某一离散无记忆信源DMS由8个字母 组成，每个字母出现的概率分别是 0.25，0.2，0.12，0.10，0.08，0.05， 0.05，求： （1）Huffman编码所产生的8个不等长码 字； （2）每个符号平均二进制编码长度； （3）信源的熵；
2 fm 2 fm fs m1 m m1
这样不会发生频谱重叠。
数字通信原理 2018年11月24日星期六
（3）如果要求原始信号频带与其相邻频带之 间的频带间隔相等，则：
2( fm f L ) fs 2m 1
分析：带通信号的频谱图
fm
fL
fL
数字通信原理
fm
f
2018年11月24日星期六
数字通信原理 2018年11月24日星期六
对于一般情况：如果 mB 则有：
(1)mfs fL fL
fL ( m 1) B
2 fm f 2 f L s m 1 m ( 2) fm ( m 1) fs fm 2( fm fL ) fs ( 3)(m 1) fs 2 fm 2 fL mfs 2m 1
目
第一讲 第二讲 第三讲 第四讲 第五讲 第六讲 第七讲
录
绪论 信息论基础和信号分析 模拟调制技术 信源编码技术 数字基带传输 数字调制技术 差错控制编码
数字通信原理 2018年11月24日星期六
第四讲 信源编码技术
4.1 4.2 4.3 4.4 4.5 4.6 4.7 概述 抽样定理 脉冲振幅调制（PAM） 模拟信号的量化 脉冲编码调制（PCM） DPCM和DM PCM通信系统及多路复用技术
数字通信原理
2018年11月24日星期六
4.4 模拟信号的量化
一、定义及作用
1、取样：完成将时间连续的信号转化为时
间离散的信号，即时间上的离散化。PAM 信号是模拟信号； 2、量化：是把信号在幅度域上连续取值变 换为幅度域上离散取值的过程。具体的定 义是，将幅度域连续取值的信号在幅度域 上划分为若干个分层，在每一个分层范围 内的信号值用“四舍五入”的办法取某一 个固定的值来表示。
N J l og 2 L
取整： N J l og 2 L 1
即： N
N 1 log 2 L J J
也就是说，每个符号所增加的1比特下降 到1/J比特，编码效率增加。
数字通信原理 2018年11月24日星期六
例1：某一DMS有5种信源符号，每种符号 出现的概率为1/5，计算以下固定长度 编码的有效性（效率）。 （1）每个符号分别进行等长二进制编码； （2）每两个符号组合，进行等长二进制 编码； （3）每三个符号组合，进行等长二进制 编码；