第4章 维纳滤波原理及自适应算法

+ 2 E禳 镲 镲 睚 镲 镲 铪v(n - m)cos骣 ççç桫2Npn÷÷÷
= - sin骣 ççç桫2pNm÷÷÷,
m = 0, 1
∴
R = 轾 犏 犏 犏 犏 犏 犏 臌12 12co+s骣 ççç桫s2Nv2p ÷÷÷
1 2
cos骣 ççç桫2Np
÷÷÷
1 2
+
s
2 v
p=
轾 犏 犏 臌0
-10
-10 -8 -6 -4 -2
0
246 w1
8 10
100 80 60
40
20
0
10
5 w0 0
-5
-10
-10 -8 -6 -4 -2 0
246 w1
8 10
s
2 v
=
0
wo = [0 - 2]T
s
2 v
=
0.5
wo = 轾 犏 臌2 7
T
-6 27
Jmin = 1
21
4.2.6 计算实例2：信道传输信号的估计
第4章 维纳滤波原理及自适应算法
1
本章将介绍以下内容： 1. 维纳滤波器的基本理论 2. 维纳滤波的递推求解方法——最陡下降法 3. 随机梯度算法——LMS算法 4. 多级维纳滤波器理论
2
4.1 自适应横向滤波器及其学习过程
4.1.1自适应横向滤波器结构 图1：M个权系数（抽头）的横向滤波器
un w0
¶ 2 ¶ w*
轾 臌J (w)
=
-
2p+
2Rw
令 ? J (w) - 2 p + 2Rw = 0
∴ Rwo = p
∵ R是非奇异的
---维纳-霍夫方程
∴ wo = R- 1 p
---最优权向量
最小均方误差（MMSE，Minimum Mean Square
Error）准则 ---使误差的平均功率最小
???
+
4s
2 v
+
4s
4 v
J (w)=
s
2 d
-
2 pT w + wT Rw
( ) =
骣 珑 珑 珑 桫12
+
s
2 v
鼢 鼢 鼢w02
+
w12
+ cos骣 桫2Np
w0w1 + 2w1 sin骣 桫 ???2Np ???+ 2
J min
=
s
2 d
-
pT wo = 2 -
2sin2 骣 珑 珑 珑 桫2Np 鼢 鼢 鼢+
x(n)+ a1x(n - 1)+ a2x(n - 2)= v1 (n)
26
系统H是2阶的AR模型 ：
rx (0)=
1+ 1-
a2 a2
s
2 1
轾 犏 臌(1+ a2 )2 -
a12
rx (1)=
-
a1 1+ a2
rx (0)
假设 b1 = - 0.8458,
b2 = 0.9458,
s
2 1
=
0.27,
求解
{ } r(0)= E{u(n)u* (n)}= E 轾 臌x(n)+ v2 (n) 轾 臌x(n)+ v2 (n) *
{ } = E x(n) 2 + x(n)v2* (n)+ x* (n)v2 (n)+ v2 (n) 2
=
rx (0)+
s
2 2
r(1)= E{u(n)u* (n - 1)}
{ } = E 轾 臌x(n)+ v2 (n) 轾 臌x(n - 1)+ v2 (n - 1) * = rx (1)
s
2 2
=
0.1
wo = R- 1 p = [0.8361 - 0.7853]T
{ } { } s
2 d
=
E
d (n) 2
=E
x(n)- b2x(n - 1) 2
= (1+ )b22 rx (0)- 2b2rx (1)= 0.9486
J min
=
s
2 d
-
pHwo = 0.1579
27
4.3 维纳滤波器的最陡下降求解方法
• 求出滤波器权值的学习过程是最优滤波问题的关 键
7
4.2 维纳滤波原理
4.2.1 均方误差准则及误差性能面 已知估计误差
e(n) = d (n)- dˆ(n) = d (n)- wHu(n)= d (n)- uT (n)w* 定义e(n)的平均功率为
{ } J (w)= E e(n) 2 = E{e(n)e* (n)}
思路：求出R和p，根据 Rwo = p ，可求出w
R = E{u(n)uH (n)}= 轾 犏 犏 臌rr((-01))
r (1) r (0)
p = E{u(n)d (n)}= 轾 臌p(0) p(- 1) T
17
解：定义滤波器输入信号向量 u(n)= 轾 臌u(n) u(n - 1) T
自相关函数
4s
2 v
sin
2
骣2p 桫N
sin2 骣 ççç桫2Np ÷÷÷+
4s
2 v
+
4s
4 v
20
s
2 v
=
0
?
wo
轾 犏 犏 臌2 cot骣 珑 珑 珑 桫2Np 鼢 鼢 鼢 - 2 csc骣 桫2Np T
Jmin = 0
N=4 误差性能面
MSE MSE
60
50
40
30
20
10
0
10
5 w0 0
-5
un 1
un 2
z 1
z 1
w1
w2
+
+
un M 1
z 1
wM 1
d n
dˆ n
+
+
en
定义： u(n) ：输入信号 u(n) ：输入向量
u(n)= 轾 臌u(n) u(n - 1) L u(n - M + 1) T
3
wi* :滤波器的权系数 w :滤波器权向量
w = [w0 w1 L
实际的滤波器系统
自适应算法
训练输入信号 u n
A1
K1
B1
权向量调整
K2 横向滤波器
dn
dˆ n
＋
A2 －
B2
Байду номын сангаас
en
训练误差输出
工作输入信号 x n
工作输出信号 y n
通过控制开关K1和K2，使系统进入不同的工作模式
6
• 开关K1打向A1，K2打向A2，进入学习过程，求 得最优权向量
• 开关K1打向B1，K2打向B2 ，进入工作过程，对 输入信号进行滤波处理
] w T M- 1
d (n) :期望响应
dˆ (n) :对期望响应的估计
M- 1
å dˆ(n)= wi*u(n - i)= wHu(n)= uT (n)w*
i= 0
e(n) :估计误差 e(n) = d (n)- dˆ (n)
4
假设u(n)由信号s(n)与噪声v(n) 组成
u(n)= s(n)+ v(n)
观测信号 u(n)= sin骣 ççç桫2Npn + j ÷÷÷+ v(n)
d(n)是余弦信号，
s
2 d
=
E{d2 (n)}=
2
u(n)是白噪声中的正弦信号,j 是在 [0, 2p )上均匀
分布的随机初始相位，噪声s v2 = E{v2 (n)} ，信号与
噪声互不相关。
16
问题：设计一个二维的维纳滤波器，使滤波器输 出在最小均方误差意义下，逼近期望响应。
∴ E{u(n)eo* (n)}= 0
12
∴ E{u(n- i)eo* (n)}= 0, i = 0,1,L ,M - 1
即 eo (n) 和 u(n - i) 相互正交
{ } 而 E dˆo (n)eo* (n) = woHE{u(n)eo* (n)}= 0
dˆo (n) 和 eo (n) 也相互正交
维纳-霍夫方程的缺点：
⑴需要计算逆矩阵 R- 1
⑵在估计出 wo 后，wo 将固定，不具有自适应性
类似地
p(-
m) =
E
禳 镲 镲 睚 镲 镲 镲 铪骣 çççç桫sin
骣 çççç桫2p
(n -
N
m)÷÷÷÷+ v(n -
m)÷÷÷÷2 cos 骣 ççç桫2Np n ÷÷÷
=
E
禳 镲 镲 睚 镲 镲 铪sin 骣 çççç桫2p
(2n -
N
m)÷÷÷÷+ sin骣 ççç桫- 2pNm÷÷÷
p = E{u(n)d* (n)}
u(n) 的自相关矩阵 R = E{u(n)uH (n)}
∴
J (w)=
s
2 d
-
pHw -
wH p + wH Rw
J (w) ：误差性能面或均方误差
9
对实系统，若M=1
J (w)=
J (w0 )=
s
2 d
-
p(0)w0 -
p(0)w0 + r(0)w02
=
s
2 d
{ } =E 轾犏臌d (n)- wHu(n) 轾犏臌d (n)- uT (n)w* *
{ } = E d (n)2 - E{d (n)uH (n)}w - wHE{u(n)d* (n)}+ wHE{u(n)uH (n)}w
8
{ } 定义： d (n) 的平均功率
s
2 d
=
E
d (n) 2
互相关向量
⑴ 如果 d (n)= s(n) ，图1的系统称为滤波 （filtering）；
⑵ 如果 d (n)= s(n + n ),n > 0 ，图1的系统称为预测
0
0
（prediction）；
⑶ 如果 d (n)= s(n + n ),n < 0 ，图1的系统称为平滑
0
0
（smoothing）。
5
4.1.2自适应横向滤波器的学习过程和工作过程
-
2 p(0)w0 +
r (0)w02
是开口向上的抛物线
可选择权值w使J (w) 最小
若M=2, J (w) 是抛物面
对于任何的M,J (w) 是M维的抛物面，具有唯一的全 局极小值点
10
4.2.2 维纳-霍夫方程
J (w)=
s
2 d
-
pHw -
wH p + wH Rw
J (w) 的梯度 ? J (w)
24
p(0)= E{u(n)d* (n)}
{ } = E 轾 臌x(n)+ v2 (n) 轾 臌x(n)- b2x(n - 1) *
= rx (0)- b2rx (1)
p(- 1)= E{u(n - 1)d* (n)}
{ } = E 轾 臌x(n - 1)+ v2 (n - 1) 轾 臌x(n)- b2x(n - 1) *
11
4.2.3 正交原理
已知维纳-霍夫方程 Rwo = p
改写成 Rwo - p = 0
Rwo - p = E{u(n)uH (n)}wo - E{u(n)d* (n)}
{ } = E u(n)轾 犏 臌uH (n)wo - d* (n)
=0
∵ eo* (n) = d * (n)- uH (n)wo
考虑如下系统
v1 n
dn
H1 z
H2 z
v2 n
xn
un
+
信号产生
传输信道
v1
(n)
和
v2
(n)分别是零均值，方差为
s
2 1
和
s
2 2
的白噪
声过程
H1 : d (n)= b1d (n - 1)+ v1 (n)
H2 : x(n)= b2x(n - 1)+ d (n)
u(n)= x(n)+ v2 (n)
22
问题：如何设计维纳滤波器，使估计误差 e(n) 在
MMSE意义下最小。
un
Zz -1
dn
w0
w1
dˆ n
+
+
en
H1 ：产生语音信号的模型 H2 ：传输信道
23
思路：维纳滤波问题，根据 Rwo = p
解：
R=
轾 犏r (0) 犏 臌r* (1)
r (1)
,
r (0)
p = 轾 犏 犏 臌pp((-01))
r (m) =
E禳 镲 镲 睚 镲 镲 镲 铪骣 çç琪 桫sin骣 ççç桫2Npn + j
÷÷÷+
v (n)÷÷÷÷骣 çççç桫sin 骣 çççç桫2p
(n -
N
m)
+j
÷÷÷÷+
v(n -
m)÷÷÷÷
=
E禳 镲 镲 睚 镲 镲 铪sin骣 ççç桫2Npn + j
÷÷÷sin 骣 çççç桫2p
(n -
N
m)
+j
÷÷÷÷
+
E{v(n)v(n -
m)}
=
1 2
cos骣 ççç桫2pNm
÷÷÷+
E{v(n)v(n -
m)}
∴
r (m) =
ìïïïïïíïïïïïî
1 2
cos骣 ççç桫2pN×0÷÷÷+
1 2
cos骣 ççç桫2Np
÷÷÷,
s
2 v
=
0.5 +
s
2 v
,
m= 0 m= 1
18
-
woHE{u(n)uH (n)}wo
{ } =
s
2 d
-
E
轾 犏 臌woHu(n) 轾 犏 臌woHu(n) *
14
{ } ∴
J min
=
s
2 d
-
E
dˆ (n) 2
=
s
2 d
-
s
2 dˆ
最小均方误差 J w 与最佳权向量
示意图
J min
wo
w
15
4.2.5 计算实例1：噪声中的单频信号估计
期望信号 d (n)= 2cos骣 ççç桫2Npn÷÷÷ ，N >2,d(n)不恒为零
= rx (1)- b2rx (0)
25
令 H (z)= H1 (z)H2 (z)
H1 (z)= 1-
1 b1z- 1
H2 (z)=
1-
1 b2 z- 1
∴
H (z)=
1-
(b1 +
1
b2 )z- 1 +
b1b2 z- 2
=
1+
1 a1z- 1 +
a2 z- 2
其中 a1 = - (b1 + b2 )， a2 = b1b2 差分方程：
几何解释：
d eo
eo (n) = d (n)- dˆo (n)
dˆo
13
4.2.4 最小均方误差
∵
J (w)=
s
2 d
-
pHw - wH p + wH Rw
∴
J min
=
J (wo )=
s
2 d
-
pH wo -
woH p + woH Rwo
=
s
2 d
-
pH wo
=
s
2 d
-
woH Rwo
=
s
2 d
-
sin
骣 ççç桫2 Np
T
÷÷÷
19
由 Rwo = p ?
w0o
=
sin骣 珑 珑 珑 桫4Np 鼢 鼢 鼢
sin2 骣 珑 珑 珑 桫2Np
鼢 鼢 鼢+
4s
2 v
+
4s
4 v
wo 轾 犏 臌w0o w1o T
w1o = -
2
sin
骣2p 桫N
sin
2
骣2p 桫N
+
4s
2 v
sin 骣 桫 ???2Np