信息传输基础10

④ 基音之间的相关：
(a) 浊音
(b)清音
浊音或嗓音(又称“有声声音”,voiced sound); 清音或非嗓音(又称“无声声音”,unvoiced sound); 图(a)的浊音显示周期之间的信息冗余度，而且还展示了对应于音调间 隔周期的长期重复图形。对语音浊音编码：对一个音调间隔波形来编码， 并以其作为同样声音中其他基音段的模板。
a1 xk 1
，则
ˆ e2 E( xk xk ) 2 Exk2 2 xk xk 1 xk21
R(1) = 2 1 R(0) 2(1 ) R(0) R(0)
其中 =R(1)/R(0) 为信号的自相关系数。 显然只要0.5<≤1, 就可使σe2 < R(0)。 对于通常的电视图像， =0.95~0.98 , 此时σe2为R(0)的1/10~1/25, 意 味着误差信号的功率比原始信号降低了10~14dB, 对它的平均编码位 数自然可以减少了。 (5.2-11)
限制比特率；
降低编码过程的计算代价。
语音信号的冗余度
时域冗余度
① 幅度非均匀分布: 语音中小幅度样本出现的概率高; ② 样本间的相关: 语音波形取样数据的最大相关性存在于邻近样本之间; ③ 周期之间的相关: 当声音中只存在少数几个基本频率时,会像某些振荡波形一 样,在周期与周期之间,存在一定的相关性；
信 道 解码器
ˆ ek
' xk
ˆ - xk
预测器
' xk
预测器
接收端
图5.1 DPCM系统原理框图
发送端
5.2 最佳线性预测 含有量化器的DPCM系统：
带反馈的非线性系统，难以对预测器和 量化器进行严格的全局优化设计。
常用的简化方法：分别讨论，得到局部最优解。
DPCM系统的核心问题：预测器的设计
线性预测：
知道前面的符号 xL(k<L) , 再猜后续符号 xL , 则知道得越多,熵越小。
意味着该信源的不确定度减小,数码率自然降低。
实际上
数据源不可能用一个数学模型完全表示，并使得源的 输出始终和该模型的输出完全一致，精确预测(或产 生)这些数据。
实际情况中只能争取设计最好的预测器，以某种最小化的误差 对下一个取样值进行预测。
预测阶数的选择 直观上，增大预测阶数N可提高预测准确度； 实际上， 当N较小时，增大N有助于减小σe2； 当N足够大时，再加大N就不会有明显的结果了。 一般情况下，若{xi}为N 阶马尔可夫过程，则用N 阶预测。 当 N足够大使预测误差不相关即 E{ek ek+j }=0 (j≠0)时, 再增大N值将不会使σe2再减小。
发展历史
1952年，Bell实验室的B.M.Oliver 等人开始线性预测编 码理论研究。
同年，该实验室的C.C.Culter取得了DPCM (Differential Pulse Code Modulation, 差分脉冲编码调制)系统的专利， 奠定了真正实用的预测编码系统的基础。
直观理解：
预测编码技术： 从过去的符号样本来预测下一个符号样本的值。
频域冗余度 ① 非均匀的长时功率谱: 长时功率谱呈现强烈的非平坦性,意味着没有充 分利用给定的频段,或者说有固有的冗余度,如图 所示,功率谱的高频能量较低,恰好对应于时域上 相邻样本间的相关性,另外,可看到直流分量并非 最大。 ② 语音特有的短时功率谱密度: 共振峰频率(由短时功率谱得到)决定了不同的语 音特征，整个频谱随频率增加而递减,整个功率 谱的细节是以基音频率为基础,形成了高次谐波。 按一定时间段来计算声道滤波器的参数或语音谱 的包络，再以较低的速率来传递。
如果{xi}是各态历经的且N足够大，则R(k)可用下式估计:
1 R(k ) N
最小均方误差为 :
x x
i 1 N
N
i i k
(5.2-9)
e2 min R(0) ai R(i )
i 1
(5.2-10)
最佳预测条件下必然有ek的方差σe2小于xi的方差R(0), 甚至可能σe2 << R(0) 意味着误差序列{ek}的相关性弱于原始信号序列{xi}的相关性,甚至可能 弱很多。
电视编码中：采用主观准则(例如使“大误差”出 现概率最小的准则);
“预测器+熵编码”的保持型DPCM系统: 采用“误差熵”最小准则;
遥测信号等广泛的信源： 采用对各种信源保持一定预测增益的预测系数不变性准则。
5.3 语音信号的预测编码
语音压缩的依据 语音信号本身的冗余度和人类的听觉感知机理。
语音压缩的质量要求：下面三方面的折中 保持可懂度和音质；
R( N 1) a1 R(1) a R(2) R( N 2) 2 R(0) aN R( N )
(5.2-8)
自相关矩阵为实对称的Toeplitz矩阵, 因为是正定矩阵, 故可逆，可解得N 个预测系数使均方误差最小。
例5-2
设{xi}为N一 阶马尔可夫过程，其相关系数为：
R(k ) r (k ) |k | , 0 1 R(0)
则式(5.2-8)变为：
1 2 1 N 1 N 2 N 3
N 1 a1 N 2 a2 2 N 1 aN
图A 表示了这三种编码器的话音质量和数据率的关系：
音质 波形编码器
优
良 中 差 坏 1 2 4 语声编码器 8 16 32 位速率（kbit/s） 64 混合编码器
图A 语音编码器的音质和数据率
从具体的语音预测编码方法来看： 1946年，E.M.Delorain取得的增量调制(△M或DM: Delta Modulation) 专利, 实现简单,但要求取样率高,压缩效果不好;
当{xi}广义平稳时，有：
(5.2-6)
R(k i, k j ) R( j i) R(i j ) R(| i j |)
(5.2-7)
将式(5.2-6)和式(5.2-7)代入式(5.2-5), 并用矩阵表示有:
R(1) R(0) R(1) R(0) R( N 1) R( N 2)
解得：
ˆ xk xk 1
N=2 和 N=1的预测表达公式完全相同。
结论：
设{xi}为平稳的m 阶马尔可夫过程，则N=m 阶最佳线性预测器就是 在MMSE意义上最好的预测器，而且这样得到误差序列{ek}将是不 相关的。
但当考虑到人的主观感知效果特别是用于图像信号时，MMSE并不 是一个好的准则。
根据：
认为在信源符号之间存在相关性。如果符号的预测值与 符号的实际值比较接近，它们之间的差值幅度的变化就 比原始信源符号幅度值的变化小，因此量化这种差值信 号时就可以用比较少的位数来表示差值。
DPCM的基础— 对预测的样本值与原始的样本值之差进行编码。
DPCM系统
xk
ek
ˆ ek
量化器 编码器
Sk
人耳听不到或感知极不灵敏的声音分量都可以视 为冗余的。
从增量调制到LPC编码器
通常把已有的语音编码器分成以下三种类型：
波形编码器 (waveform codecs)： 语音质量高，但数据率也很高； 语声编码器 (source codecs)： 数据率很低，产生的合成话音的音质有待提高； 混合编码器 (hybrid codecs)： 兼有波形编码的高质量潜力和语声编码的高压缩 效率，数据率和音质介于它们之间。
(5.2-2)
为了使预测误差在某种测度下最小,就要按照一定的准则, 对线性预测系数进行优化。
经典方法：
MMSE线性预测
最小均方误差准则(MMSE)
ˆ e2 E{( xk xk )2 } 最小。 使得预测误差的均方值
当N 给定后，σe2是依赖预测系数ai的函数，使MSE最小，σe2对ai求导等于0， 有 ：
⑤ 静止系数(话音间隔): 话音间隙使得全双工话路的典型效率为通话时间 40%(或静止系数为60%)，话音间隙本身是一种冗余， 若能检测(或预测出)该静止段,便可“插空”传输更多 的信息。
⑥ 长时间自相关函数: 在较长的时间间隔(短时间隔一般为20ms，长时为几十 秒)进行统计,便得到长时的自相关函数。长时统计表明， 8kHz取样语音的相邻样本间，平均相关系数高达0.9。
(5.2-13)
这时有E{ek ek+j }=0。
若N=2， 有:
ˆ xk a1 xk 1 a2 xk 2
1 a1 1 a 2 2
式(5.2-12)变为：
解得最佳线性预测系数为：
a1 1 1 a 1 2 1 2 0 2
利用条件概率进行预测，传送去除了大部分相关性的误差序列{ek}，有 利于压缩数据。
R(i)越大(即{xi}的相关性越大),方差σe2越小, 所能达到的压缩比就越大;
R(i)=0(即{xi}的互不相关),方差σe2min=R(0)大, 此时利用预测起不到数据压缩的目的。
例5-1
x 令N=1，a1=1，即有： k
必须与预测采用的所有数据正交。
定义数据的自相关函数：
R(i, j ) E xi x j
得到：
(5.2-4)
R(k , k i) a j R(k j, k i), i 1,2,, N
j 1
N
(5.2-5)
自相关函数满足：
R(k i, k j ) R(k j , k i )
(5.2-12)
若N=1, 式(5.2-12)只有一行: a1= , 则 则由式(5.2-10) ; ˆ xk xk 1