现代信号处理基础及应用6章-白化滤波器

非零矢量 u 和 v 间的夹角 的余弦为：
cos u, v u v
若 u, v 0 ， 表示 u 和 v 不相关， 且 cos 0 ， 这时称 u 和 v 为正交，记为 u v 。
内积空间： 设有 M 个两两正交的随机矢量 ε1 , ε2 ,
εi , ε j 0, i j
T
它们的集合可生成 N+M 维的线性矢量空间
x1， x2，
， xN， y1， y2，
， yM
设 u 和 v 是 N+M 维线性空间中的任意两个矢量，随 机矢量 u 和 v 之间的内积定义为
u, v E uv
范数
uv
定义为两矢量 u 和 v 间的距离：
uv
2 2 u v, u v E u v
ˆ 的估计，即对 x 中与 y 相关部分的估计。所 是对 x
1
以相关抵消器的输出中与 y 相关的部分 x 得到了
1
尽可能大的抵消。
6.2
G ram-Schmidt 正交化
随机矢量正交： 设 x 和 y 分别是 N 维和 M 维随机矢量：
x x1 x2 xN
T
， y y1 y2
yM
第6章
最小二乘滤波器与卡尔曼滤波器
现代信号处理中滤波器的特性不仅与输入信号特性有关，也与噪声特性有 关。估计信号就是待估计信号在已观测信号张成空间的投影。 6.1 6.2 6.3 6.4 6.5 6.6 6.7 6.8 6.9 6.10 相关抵消 Gram-Schmidt 正交化 确定性最小二乘滤波器 最小二乘滤波器的渐近性 最小二乘逆滤波器 白化滤波器 统计性最小二乘滤波器 统计性最小二乘滤波器的求解 最佳线性平滑维纳滤波器 最佳线性滤波维纳滤波器
设 d l2 g l2 ，且 g 是因果的。则滤波器实际输出 y 与期望 输出 d 的误差为： e d y d g * h 。误差能量为
1 j j j 2 V (h) [d (k ) g (k ) h(k )] D (e ) G (e )H (e ) d 2 k
2
期望输出能量：

k

d 2 k d
2
1 j j jm q (m ) d ( k ) g ( k m ) D ( e ) G ( e ) e d 2 k 互相关：
自相关：
r m, l
k


最小误差能量
V h min 2q h h q q h =
T T T k


d
2
k

y2 k
k

V h
k
相对误差能量：



V h
d 2 (k )

6.4 最小二乘滤波器的渐近性 同样假定 d l2 , g l2 ，且 g 是因果的 IIR 滤波器：
g (k m) g (k l )
1 j 2 j ( m l ) G ( e ) e d r l m 2
V h 达到最小值要求：
2[d (k ) h(m)g (k m)]g (k l ) 0 k m 0

n
0≤l ≤n
yM
，
1
2
M
T
基底 ε1 , ε2 ,
, εM 就是
Y 的正交基底。即
Y1 ε1 y1 Y2 ε1 , ε2 y1 , y2 Y3 ε1 , ε2 , ε3 y1 , y2 , y3 Yn ε1 , ε2 , , εn y1 , y2 ,


T R E [ e ε ]0 正交方程为： eε
正交投影定理和 Gram-Schmidt 正交化： 正交投影定理
ˆ 是Y 矢量 X 在线性子空间 Y 上的正交投影 x
中与 x 距离最近的矢量。 证明：根据正交分解定理， x 关于子空间 Y 的唯一正交分解
ˆ - y) Y ，因 可表示为 x xˆ e, xˆ Y , e Y 。设 y 是 Y 中任意矢量，由于 (x
E yn i E i i
n 1 i 1
1
引入符号 b
n
1≤ i ≤ n 1
bnn 1
有
ˆ n n 1 , 1 ≤ n ≤ M yn bni i n bni i n y
i 1
或 Y B
式中 = y
Y
1
y2
M
ai x, εi εi , εi
1
E xεi E εi εi
1
式中
T ε M 1 2 T E xεM E xε E x1 E xε2 T 2 2 diag E ε12 , E ε2 , εM εε , E E
D (z ) D ( z ) （2） 可能不是因果的， G (z ) 就不是因果的；
z-1
1
D (z ) （3） G (z ) 对应的是一个因果稳定的 IIR 滤波器，而所 设计的 H (z ) 是一个 n 阶的 FIR 滤波器。
上述因素都会使滤波器的实际输出 y = g * h 不一定等 于期望输出 d 。
6.1
相关抵消
设 x 和 y 分别是 N 维和 M 维零均值随机矢量， x [ x1 x2 xN ]T , y [ y1 y2 yM ]T ， xi , yi 是随机变量且彼此相 关， 相关抵消器就是通过线性变换去掉这种相关。 并令 y 中与 x ˆ Hy 相关的部分为: x
ˆ x Hy 适当选择 H ，使随机矢量 e x x 与 y 无关，即
, yn
n 1
ˆ n n1 来表示 yn 在子空间 Y 上的正交投影即 用符号 y
ˆ n n 1 E yn i E y i i i
i 1 n 1 1
则
ˆn n1 n yn y
ni
就是 yn 在子空间 Yn 1 上的正交分解。
z 1 z0 1 * 1 是 其中，G0 (z) Gmin (z) (1 z0 z ) 是最小相位的， 而 E ( z ) 1 z0 z
全通函数。于是
1 部分 G0 (z )
D (z ) 1 D (z ) 即要设计的滤波器 H (z ) 由两 G (z ) G0 (z ) E (z ) ，
, yn
ˆ n n1 来表示 yn 在子空间 Yn 1 上的正交投影 用符号 y
即
ˆ n n 1 E yn i E y i i i
i 1
n 1
1
ˆn n1 n 就是 yn 在子空间 Yn 1 上的正交分 则 yn y
解。
新息： Gram-Schmidt 正交化可改变基底矢量信号之间的关系， 而不改变空间的维数， 本质上是因为这两组基底 和 中所
ˆ - y) ，故有 而 e (x
ˆ -y) + e x ˆ -y e x-y (x
2
2
2
2
上式可写成
ˆ )2 ] E[e 2 ] E[(x y)2 ] E[(x y
ˆ 时，x 与间距离最近。定理得证。 当 y=x
Y1 ε1 y1 Y2 ε1 , ε2 y1 , y2 Y3 ε1 , ε2 , ε3 y1 , y2 , y3 Yn ε1 , ε2 , , εn y1 , y2 ,
d xh
假设信道的传递函数为 G(z ) ，而在接收端需级联一个滤波 器 H (z ) 来恢复信号，如图所示。
当设计滤波器 h 满足 d = g* h G( z)H ( z) D( z) ， 就可得到稳定的期望输出。但实际上是不能实现原始信 号的完全恢复的，即实际滤波器总会偏离理想滤波器， 主要原因有 （1） G ( z ) 可能不是最小相位，那么 G (z ) 就不是因果稳 定的；
hk 0
k 0
假定 G(z ) 有一个零点位于单位圆外，可令
G(z) Gmin (z)(z 1 z0 )
Gmin (z ) 是最小相位的，而 z0 1 ，所以
* 1 1 1 z z z z0 0 G( z ) Gmin ( z )( z 1 z0 ) G ( z ) G0 ( z ) E ( z ) 0 * 1 * 1 1 z0 z 1 z0 z
设 x = x1 + x2 ，其中 x1 与 y 相关， x2 与 y 不相关，由 于
Rxy R[ xyT ] E[( x1 x2 ) yT ] Rx1 y Rx2 y Rx1 y
1 1 ˆ ˆ x R R y R R ˆ 实际上就 所以， xy y x1 y y y x1 ，因此， x
矩阵形式：
r n h 0 q 0 r 0 r 1 r 1 或R h q r 1 r 1 r 0 r n h n q n
，它是 x 在 Y 上的正交投影， Y 的正
1
交基底是 。将 B 1Y 代入上式可得 上式正交分解与相关抵消分解是等效的，利用 Y 或 的线性组合来估计 x 是相同的。
T Y ˆ E[xY T ]E x YY
6.3 确定性最小二乘滤波器 设滤波器的输入离散信号为 x ，现设计一个滤波器 h，滤 波器期望输出信号为 d ，理想情况下有：
T BE T BT BR BT RY E YY
Tቤተ መጻሕፍቲ ባይዱ 是对角矩阵，B 是下三角矩阵。上式就是 明显：R E
RY
矩阵的 Cholesky 分解。 随机矢量 x 相对于线性子空间 Y 进行正交分解：
1
T E T ˆ E x x ε
Rxy E[ xyT ] 0
Rey E[ xyT ] HE[ yyT ] Rxy HRy 0
由此求得线性变换矩阵 即按上式选择线性变换矩阵 ，则 中与 相关的部分即将被 消除。
H
x
1 T T 1 H Rxy R E [ xy ] E [ yy ] y
y
如图所示，相关抵消器有信号分离功能。
Y

含信息是相同的， 从基底 Y 到基底 的正交化过程只是去 掉了 Y 中各基底矢量之间的相关性或冗余信息。因为 中 各基底分量是不相关的，每一个基矢量 i , i 1,
i
,M
均表
示某种不同的或新的信息，每增加一个基底 意味着增加 新的信息，所以随机变量 有时也称为新息。
i
Y 的相关矩阵：
, εM
，满足
令 Y= ε1 ,
ε2 ,
εM , 是由这
M 个随机矢量张成的线
性子空间， 那么随机矢量就是该内积空间的正交基底。 根据正交分解定理，对于任何随机矢量 ，
x
相对于线性子空间 ，可唯一分解为两个互
Y
相正交的部分，即
ˆ e, xx ˆ Y , x e Y
ˆ ai εi ˆ 在空间 Y 内， x x ,有 i 1
D (z ) 和 E (z ) 级联构成。
由于 G0 (z ) 是最小相位的， 因此用一个因果稳定的 IIR 滤
1 波器来实现 G0 ( z ) 是不会产生误差的；另一部分可以看成
是输入为 e ，期望输出为 d 的最小二乘滤波器，这一部 分用 H 0 ( z ) 来表示，即
H ( z) 1 H 0 ( z) G0 ( z )