预测编码理论

3.3利用预测值的编码方法
❖ 一类是用实际值与预测值之差进行编码,也叫 差值编码。
❖ 另一类方法是根据差值的大小决定是否需要 传送该信源符号。例如规定某一可容许值N, 当差值小于N时可不传送。
四、预测编码的应用（了解）
❖ 4.1差分脉冲编码调制DPCM ❖ 4.2 ΔPCM型 ❖ 4.3噪声反馈编码型NFC ❖ 4.4预测误差门限型
就可求出均方误差为极小值时的各个线性预测 系数。最简单的预测是令 uˆi1 ui 这成为零阶 预测，常用的差值预测就属于这类。
前提：信源ui是平稳随机过程———最优线性预测
3.2自适应预测方法
❖ 对于非平稳或非概率性的信源,无法获得确 切和恒定的相关函数,不能构成线性预测函数, 可采用自适应预测方法。所谓自适应预测就 是预测器的预测系数不固定，随信源特性而 有所变化。如果充分利用信源的统计特性及 其变化，重新调整预测系数， 这样就使得预 测器随着输入数据的变化而变化，从而得到 较为理想的输出。
❖ 求均方误差 D E uˆi ui 2
最小时的各系数am的值。对上式两边as取偏导
并置零后得
^
E[er2 ] E[(ur ur )2 ]
am
am
E{[ur (a1ur1 a2ur2 L akurk ]2} 0 am
最后得：
^
E[(ur ur )um ] 0, m 1, 2,L , k
❖ 常用的估计方法有两种。
二、预测编码理论基础
❖ 若估值的数学期望等于原来的物理量，就称 这种估计为无偏估计。
❖ 若估值与原物理量之间的均方误差最小，就 称之为最佳估计。用来预测时，这种估计就 成为最小均方误差的预测，所以也就认为这 种预测是最佳的。
三、预测编码方法
3.1、线性预测编码
❖ 若利用前面的几个抽样值的线性组合来预测当前的 抽样值，则称为线性预测。
❖ 设信源第i瞬间的输出值为ui，而根据信源ui的前 k(k<i)个样值，给出的预测值为
^
ui f (ui1, ui2 L , uik )
式中：f（·）——预测函数。 f可以是线性也可以是非线性函数。
则第i个样值的预测误差值为
^
ei ui ui
根据信源编码定理，若直接对信源输出ui进行编 码，则其平均码长 Lu 应趋于信源熵：
一、预测编码原理
对于有记忆信源，信源输出的各个分量之间是 有统计关联的，这种统计关联性可以加以充分利用， 预测编码就是基于这一思想。它不是直接对信源输 出的信号进行编码，而是将信源输出信号通过预测 变换后再对预测值与实际值的差值进行编码，其原 理图见下图。
一、预测编码原理
预测编码是利用信源的相关性来压缩码率的。
4.1差分脉冲编码调制DPCM
❖ 其工作原理如图所示。
最简单的DPCM：增量调制，又称△M，即增量差值的量 化级定为2就是说差值为正→1；负→0，每个差值只需1bit 。要减少量化失真则必须提高取样频率，不能再是常用的 2fm，即 fs 2 fm 。
这个阶梯电压 通过低通滤波 器平滑后，就 得到了十分接 近编码器原输 入的模拟信号
第五章预测编码
本章内容
❖ 预测编码原理 ❖ 预测编码理论基础 ❖ 预测编码方法 ❖ 预测编码的应用
一、预测编码原理
❖ 预测编码是数据压缩三大经典技术（统计编 码、预测编码、变换编码）之一。预测编码 是建立在信号数据的相关性之上，较早用于 信源编码的一种技术。它根据某一模型，利 用以往的样本值对新样本值进行预测，以减 少数据在时间和空间上的相关性，达到压缩 数据的目的。
H(U) p(ui )loga p(ui ),ui U
若对预测变换后的误差值e进行编码，其平均码
长 Le 应趋于误差信号熵：
H(E) p(ei )loga p(ei )
显然，从信息论观点，预测编码能压缩信源数码 率的必要条件为
Le Lu
由于信息熵是概率分布的泛函数，故概率分布 越均匀，熵越大；概率分布越不均匀，熵就越 小，可以证明预测差值的概率分布比原始信号 的概率分布要集中，所以H(E)≤H(U)，则上式成 立。
❖ 3） 预测器输入数据的选取
指选取何处的原始数据作为预测器的依 据。一般可分为三类:
❖ a. 直接从信源输出选取待测瞬间i的前K位， 作为预测器的依据。
❖ b. 误差函数的输出端反馈到预测器中的待测 瞬间i位以前的K位。
❖ c. 将a、b相结合的噪声反馈型编码。
二、预测编码理论基础
❖ 预测的理论基础主要是估计理论。估计就是 用实验数据组成一个统计量作为某一物理量 的估值或预测值。
❖ b. 功率包络匹配（PSEM）准则——仅次于MMSE。 ❖ c. 预测系数不变性（PCIV）准则——预测系数与输
入信号统计特性无关，因而能对多种混合信号进行 有效的预测。
❖ d. 最大误差（ME）准则——主要用于遥控数据压 缩。
❖ （2） 预测函数的选取
一般采用工程上比较容易实现的线性预 测，预测精度与K值大小有直接关系，K越大， 精度越高，但设备越复杂。所以要根据设计 要求及实际效果来确定。
4.2 ΔPCM型
❖ ΔPCM的工作原理图如图所示。
a.ΔPCM与DPCM的区别： 1）预测器输入的原始数据（ui与xi） 2）量化器的位置（环外与环内）
b. 特点： 1）由于它没有DPCM的反馈预测环路，因而
实现比较简单。 2）若将ΔPCM中的量化器改成一种哈夫曼编
码器，则可更好地完成信源的数据压缩功能。
4.3 噪声反馈编码(NFC)型
❖ NFC型属于ΔPCM的改进型，其原理图如下：
来自百度文库 是ΔPCM的改进型。
❖ 通过增加一个反馈闭合环路可以将量化误差 （噪声）纳入闭合环路内，以达到压减量化 误差的目的。
❖ 从上述预测编码原理可以看出，实现预测编 码要进一步考虑下列三个方面的问题：
❖ (1) 预测误差准则的选取； ❖ (2) 预测函数的选取； ❖ (3) 预测器输入数据的选取。
❖ （1）预测误差准则的选取： 关于预测误差准则的选取，它是指预测误差所依
据的标准，目的是，使预测误差最小。目前大致可 采用下列4种类型准则 ❖ a. 最小均方误差（MMSE）准则——最基本、最常 用。