预测编码理论

设信源第i瞬间的输出值为ui，而根据信源ui的前 k(k<i)个样值，给出的预测值为
u i f (ui 1 , ui 2
^
, ui k )
式中：f（· ）——预测函数。 f可以是线性也可以是非线性函数。 则第i个样值的预测误差值为
ei ui u i
^
根据信源编码定理，若直接对信源输出ui进行编 码，则其平均码长 Lu 应趋于信源熵：
4.2 ΔPCM型

ΔPCM的工作原理图如图所示。
a.ΔPCM与DPCM的区别：
1）预测器输入的原始数据（ui与xi） 2）量化器的位置（环外与环内） b. 特点： 1）由于它没有DPCM的反馈预测环路，因而 实现比较简单。 2）若将ΔPCM中的量化器改成一种哈夫曼编 码器，则可更好地完成信源的数据压缩功能。
4.3 噪声反馈编码(NFC)型

NFC型属于ΔPCM的改进型，其原理图如下：

是ΔPCM的改进型。 通过增加一个反馈闭合环路可以将量化误差 （噪声）纳入闭合环路内，以达到压减量化 误差的目的。


NFC实为ΔPCM与DPCM的混合型，开环线 性预测，闭环减压量化误差。
4.4预测误差门限型

一、预测编码原理
对于有记忆信源，信源输出的各个分量之间是 有统计关联的，这种统计关联性可以加以充分利用， 预测编码就是基于这一思想。它不是直接对信源输 出的信号进行编码，而是将信源输出信号通过预测 变换后再对预测值与实际值的差值进行编码，其原 理图见下图。
一、预测编码原理
预测编码是利用信源的相关性来压缩码率的。
4.1差分脉冲编码调制DPCM

其工作原理如图所示。
最简单的 DPCM ：增量调制，又称△ M ，即增量差值的量 化级定为2就是说差值为正 →1；负→0，每个差值只需 1bit 。要减少量化失真则必须提高取样频率，不能再是常用的 2fm，即 f s 2 f m 。
这个阶梯电压 通过低通滤波 器平滑后，就 得到了十分接 近编码器原输 入的模拟信号

三、预测编码方法
3.1、线性预测编码

若利用前面的几个抽样值的线性组合来预测当前的 抽样值，则称为线性预测。

求均方误差
ˆi ui D E u
2
最小时的各系数am的值。对上式两边as取偏导 并置零后得
E[e ] E[(ur u r ) 2 ] am am
2 r ^

二、预测编码理论基础
预测的理论基础主要是估计理论。估计就是 用实验数据组成一个统计量作为某一物理量 的估值或预测值。 常用的估计方法有两种。

二、预测编码理论基础
若估值的数学期望等于原来的物理量，就称 这种估计为无偏估计。 若估值与原物理量之间的均方误差最小，就 称之为最佳估计。用来预测时，这种估计就 成为最小均方误差的预测，所以也就认为这 种预测是最佳的。
从上述预测编码原理可以看出，实现预测编 码要进一步考虑下列三个方面的问题： (1) 预测误差准则的选取； (2) 预测函数的选取； (3) 预测器输入数据的选取。




（1）预测误差准则的选取： 关于预测误差准则的选取，它是指预测误差所依 据的标准，目的是，使预测误差最小。目前大致可 采用下列4种类型准则 a. 最小均方误差（MMSE）准则——最基本、最常 用。 b. 功率包络匹配（PSEM）准则——仅次于MMSE。 c. 预测系数不变性（PCIV）准则——预测系数与输 入信号统计特性无关，因而能对多种混合信号进行 有效的预测。 d. 最大误差（ME）准则——主要用于遥控数据压 缩。
3.3利用预测值的编码方法
一类是用实际值与预测值之差进行编码,也叫 差值编码。 另一类方法是根据差值的大小决定是否需要 传送该信源符号。例如规定某一可容许值N, 当差值小于N时可不传送。

四、预测编码的应用（了解）
4.1差分脉冲编码调制DPCM
4.2
ΔPCM型 4.3噪声反馈编码型NFC 4.4预测误差门限型
第五章预测编码
本章内容
预测编码原理 预测编码理论基础 预测编码方法 预测编码的应用

一、预测编码原理

预测编码是数据压缩三大经典技术（统计编 码、预测编码、变换编码）之一。预测编码 是建立在信号数据的相关性之上，较早用于 信源编码的一种技术。它根据某一模型，利 用以往的样本值对新样本值进行预测，以减 少数据在时间和空间上的相关性，达到压缩 数据的目的。
E{[ur (a1ur 1 a2ur 2 am
ak ur k ]2 }
0
最后得：
E[(ur u r )um ] 0, m 1, 2,
^
,k
就可求出均方误差为极小值时的各个线性预测 ˆi 1 ui 这成为零阶 系数。最简单的预测是令 u 预测，常用的差值预测就属于这类。

wenku.baidu.com
（2） 预测函数的选取 一般采用工程上比较容易实现的线性预 测，预测精度与K值大小有直接关系，K越大， 精度越高，但设备越复杂。所以要根据设计 要求及实际效果来确定。
3） 预测器输入数据的选取 指选取何处的原始数据作为预测器的依 据。一般可分为三类: a. 直接从信源输出选取待测瞬间i的前K位， 作为预测器的依据。 b. 误差函数的输出端反馈到预测器中的待测 瞬间i位以前的K位。 c. 将a、b相结合的噪声反馈型编码。
预测误差门限型：（非线性预测器） ei ui ui 1 仅与前一样值作预测 若

ei K 则不传送 u i ； ei
K
则传送
ui
K为最大误差的门限值，即信宿可接收的最大误差

信号相关性越强，则此时传送的数据越少。
谢谢大家！
H (U ) p(ui )loga p(ui ), ui U
若对预测变换后的误差值e进行编码，其平均码 长 Le 应趋于误差信号熵：
H ( E) p(ei )loga p(ei )
显然，从信息论观点，预测编码能压缩信源数码 率的必要条件为
Le Lu
由于信息熵是概率分布的泛函数，故概率分布 越均匀，熵越大；概率分布越不均匀，熵就越 小，可以证明预测差值的概率分布比原始信号 的概率分布要集中，所以H(E)≤H(U)，则上式成 立。
前提：信源ui是平稳随机过程———最优线性预测
3.2自适应预测方法

对于非平稳或非概率性的信源,无法获得确 切和恒定的相关函数,不能构成线性预测函数, 可采用自适应预测方法。所谓自适应预测就 是预测器的预测系数不固定，随信源特性而 有所变化。如果充分利用信源的统计特性及 其变化，重新调整预测系数， 这样就使得预 测器随着输入数据的变化而变化，从而得到 较为理想的输出。