第2章 维纳滤波
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
i 0
整理得
定义Baidu Nhomakorabea
w Eu(n k )u(n i) Eu(n k )d (n)
i 0 oi
k 0,1,2,
滤波器输入的自相关函数 Eu(n k )u(n i) r (i k )
因输入平稳, 故r只与i和 k的差有关
滤波器输入与期望响应的互相关函数 Eu(n k )d (n) p(k )
第2章 维纳滤波
2.1 问题的提出
u ( n)
线性离散时间滤波器
y ( n)
h( n)
d ( n)
e( n )
在给定的约束 条件以及最优 准则下来设计 最佳滤波器
离散形式维纳滤波问题示意图 要求: 滤波器是离散时间滤波器;滤波器是线性的;滤波器为无限冲激响应(IIR) 滤波器,有限冲激响应滤波器可以看成是它的一个特例。 准则: 最小均方误差(MMSE)准则。 维纳滤波器: 输入信号和期望响应平稳且联合平稳时所得到的最佳滤波器。 本质:给定一个输入信号,设计一个线性离散滤波器,对期望响应估计,使得其 估计误差的均方值为最小。
E[u(n k )eo (n)] 0
k 0,1,2,
(※ )
式中 eo (n) 表示滤波器工作在最优条件下的估计误差。 正交原理: 使均方误差代价函数达到最小值的充要条件是其相应的估计误差 eo (n) 正交于 用于估计期望响应的每个输入样本值。 充要条件之二的推导: 由正交原理出发
E[u (n k )eo (n)] E{u (n k )[d (n) y o (n)]} E{u (n k )[d (n) woi u (n i)]} 0 k 0,1,2,
此时的二次型误差性能函数可以表示为 J J min wT Rw
14
第2章 维纳滤波
为直观起见,考虑只有两个权值 w0 和 w1 的横向滤波器。此时,误差性 能曲面是三维空间中的一个抛物面,如图所示。若用一组 J=C 的等值 平面来截取误差性能表面,并向权值平面投影,则可在权值平面上可 得到一组同心椭圆,这就是误差性能曲面的等高线图。椭圆的中心为 性能表面最低点的投影。
结论:维纳滤波器所得最小均方误差等于期望响应的方差与滤波器输出方差的差值。
6
第2章 维纳滤波
2.4 横向滤波器的维纳解 2.4.1 横向滤波器的维纳-霍夫方程及其解
u (n)
u ( n 1)
z w0
1
z
1
u (n M 2)
z
1
u ( n M 1)
w1
wM 2
wM 1
Rqn nqn
误差性能表面的另一种表示形式:
J J min w T (QΛQ T )w J min (Q T w ) T Λ (Q T w ) J min v T Λv
样本空间
正交原理的几何解释(二维的情况)
4
第2章 维纳滤波
2.3.2 正交原理推论 考察滤波器输出信号与估计误差之间的相关特性
E[ y(n)e(n)] E[ wk u (n k )e(n)] wk E[u (n k )e(n)]
k 0 k 0
最优状态下,上式为
E[ yo (n)eo (n)] E[ wok u (n k )eo (n)] wok E[u (n k )eo (n)]
2 d wT (n)Rw (n) 2wT (n)p
误差性能曲面:将代价函数J相对于抽头权值w的关系曲面。
9
第2章 维纳滤波
代价函数J是抽头权值w的二次函数; 如果矩阵R是正定,误差性能曲面就是一个碗状曲面,且有唯一的最小值点J min 。 该点所对应的权值为滤波器最优权值,该点的梯度向量等于零 :
11
第2章 维纳滤波
例2-1 如图所示的横向滤波器,该系统输入信号为 u(n) sin(2n N ) ,期望响应 d (n) 2 cos(2n N ) 试计算在均方误差意义下的最佳权向量 w o 和最小均方误差 J min 。
u ( n ) sin( 2 n N )
z 1
u ( n 1)
d (n) dˆ (n) e (n)
o o
(△ )
定义最小均方误差为
2 J min E[eo (n)]
ˆ (n) 和 d (n)为零均值,对△式两边同时取方差,得 假定d o
2 2 d d ˆ J min
o
即
2 2 J min d d ˆ
o
2 2 ˆ (n) 的方差。 式中: d 是期望响应 d (n) 的方差, dˆo 是其最优估值 d o
最佳权向量也可以通过置均方误差性能函数的梯度向量为0求得,见教材13页。 本题中最小均方误差为0,但它不是说任何问题中都为0,一般时候大于0。
13
第2章 维纳滤波
三、二次型误差性能曲面的性质 把误差性能函数重新表示为
2 J d w T Rw 2w T p 2 d w T p p T w w T Rw 2 d p T R 1p (w R 1p) T R (w R 1p)
横向滤波器的二次误差性能曲面和等高 线
15
第2章 维纳滤波
相关矩阵R的特征分解与化为标准形
det[R I] 0
0 , 1 ,, M 1
0 0 Λ 0 0
Q q 0
q1 q M 1
R QΛQT
1
0
0 0 M 1
d (n )
ˆ(n) d
e(n)
横向滤波器结构示意图 由M级抽头延迟线级联而成,每个抽头的输入分别为u(n), u(n 1),, u(n M 1) 各抽头权值分别为 w0 , w1 ,, wM 1 ,构成一组权系数 wk (k 0,1,, M 1) 。
7
第2章 维纳滤波
2 N 2n 2 (n k ) 2k p(k ) Eu (n k )d (n) cos sin sin N n1 N N N
k 0,1
k 0,1
12
第2章 维纳滤波
由此可得输入自相关矩阵R和互相关向量分p别为
r (0) R r (1) 0.5 r (1) r (0) 0.5 cos 2 N 0.5 cos 2 N 0.5
o
T wT o E[u(n)u (n)]w o
进一步
2 d ˆ
o
wT o Rw o T T 1 wT op p wo p R p
2 2 由 J min d dˆo ,得最小均方误差的3种表达式
2 2 T 2 T 1 J min d wT o Rwo d p w o d p R p
w0
w1
d ( n ) 2 cos( 2 n N )
ˆ(n) d
e(n)
解:输入的自相关函数为
输入与期望响应的互相关函数为
1 N 2n 2 (n k ) 2k r (k ) Eu (n)u(n k ) sin sin 0.5 cos N n1 N N N
u (n) ,当前输出 y (n) ,期望响应为 d (n) 滤波器的当前输入值: 重写维纳-霍夫方程
M 1 i 0
w
oi
r (i k ) p(k ) k 0,1,2,
定义横向滤波器的抽头输入 u(n), u(n 1),, u(n M 1) 的相关矩阵为R,则
J J J J J , ,, 0 w w0 w1 wM 1
T
而 故可推出
J 2Rw(n) 2p
Rwo p ,与维纳-霍夫方程一致。
10
第2章 维纳滤波
二、最小均方误差的其他3种表达式 最优条件下 又 在零均值的假定条件下,得
ˆ (n) y (n) d o o yo (n) wT o u(n) 2 T T ˆ2 d ˆ E[d o (n)] E[w o u(n)u (n)w o ]
p E[u(n)d (n)] [ p(0), p(1),, p(1 M )]T
则横向滤波器的维纳-霍夫方程式的矩阵表示形式为 Rwo p ,即维纳解为 w o R 1p 式中: w o [wo,0 , wo,1 ,, wo,M 1 ]T 是横向滤波器最优抽头权向量。
k J
进一步可求得
J wk
k 0,1,2,
J E[e 2 (n)] e(n) k J 2 E[ e(n)] wk wk wk 2 E[u (n k )e(n)] k 0,1,2,
2
第2章 维纳滤波
置梯度为零,得维纳滤波器最优解的一个充要条件
r (1) r ( M 1) r (0) r (1) r (0) r ( M 2) R E[u(n)uT (n)] r ( M 1) r ( M 2) r (0) u(n) [u(n),u(n 1),, u(n M 1)]T 是抽头输入向量,矩阵R对称。 式中: 定义横向滤波器抽头输入与期望响应的互相关向量为p,则
1
第2章 维纳滤波
2.2 离散形式维纳滤波器的解 单位冲激响应 h(n) 用 w0 , w1 , w2 , 表示,则滤波器的输出 y (n) 为线性卷积和
y(n) wk u (n k )
k 0
n 0,1,2,
最小均方误差准则下的代价函数
J E[e 2 (n)]
代价函数的梯度向量
3
第2章 维纳滤波
得到维纳滤波器的另一个充要条件,即著名的维纳-霍夫(Wiener-Hopf)方程为
w
i 0
oi
r (i k ) p(k ) k 0,1,2,
2.3 离散形式维纳滤波器的性质 2.3.1 正交原理的几何解释
d (1 )
eo (1)
u (1 )
yo
u (0 )
k 0 k 0
由正交原理(右端为零)可得
E[ yo (n)eo (n)] 0
(※ )
结论:维纳滤波器的估计误差 eo (n) 输入样本值 u(n ) 和滤波器的输出 yo (n) 正交。
5
第2章 维纳滤波
2.3.3 最小均方误差 维纳滤波器的估计误差为
ˆ (n) eo (n) d (n) yo (n) d (n) d o
J min (w R 1p) T R ( w R 1p) J min (w w o ) T R (w w o )
(该式表明最佳权向量与最小均方误差的对应关系)
为使误差性能曲面的表达式简单化,定义权偏差向量为
T , w1 ,, w w w w o w0 M 1
8
第2章 维纳滤波
2.4.2 横向滤波器的误差性能 一、误差性能曲面 M 1 输出: y(n) w u(n k ) u T (n)w(n) w T (n)u(n)
k 0
k
估计误差: 均方误差:
e(n) d (n) y(n) d (n) wT (n)u(n)
J E[e 2 (n)] E{[d (n) y (n)]2 } E{[d (n) wT (n)u(n)]2 } E[d 2 (n)] wT (n) E[u(n)uT (n)]w (n) 2wT (n) E[d (n)u(n)]
p p(0)
p(1)
T
2 0 sin N
T
① ②
由,Rwo p
可求得
2 w o 2 cot N
2 2 csc N
T
2 E[d 2 (n)] 2 ,结合R和p的结果,可得均方误差性能函数及其梯度向 可以求得 d 量为 2 2 cot 2 N 2 J min d pT w o 2 0 sin 0 2 N 2 csc N
整理得
定义Baidu Nhomakorabea
w Eu(n k )u(n i) Eu(n k )d (n)
i 0 oi
k 0,1,2,
滤波器输入的自相关函数 Eu(n k )u(n i) r (i k )
因输入平稳, 故r只与i和 k的差有关
滤波器输入与期望响应的互相关函数 Eu(n k )d (n) p(k )
第2章 维纳滤波
2.1 问题的提出
u ( n)
线性离散时间滤波器
y ( n)
h( n)
d ( n)
e( n )
在给定的约束 条件以及最优 准则下来设计 最佳滤波器
离散形式维纳滤波问题示意图 要求: 滤波器是离散时间滤波器;滤波器是线性的;滤波器为无限冲激响应(IIR) 滤波器,有限冲激响应滤波器可以看成是它的一个特例。 准则: 最小均方误差(MMSE)准则。 维纳滤波器: 输入信号和期望响应平稳且联合平稳时所得到的最佳滤波器。 本质:给定一个输入信号,设计一个线性离散滤波器,对期望响应估计,使得其 估计误差的均方值为最小。
E[u(n k )eo (n)] 0
k 0,1,2,
(※ )
式中 eo (n) 表示滤波器工作在最优条件下的估计误差。 正交原理: 使均方误差代价函数达到最小值的充要条件是其相应的估计误差 eo (n) 正交于 用于估计期望响应的每个输入样本值。 充要条件之二的推导: 由正交原理出发
E[u (n k )eo (n)] E{u (n k )[d (n) y o (n)]} E{u (n k )[d (n) woi u (n i)]} 0 k 0,1,2,
此时的二次型误差性能函数可以表示为 J J min wT Rw
14
第2章 维纳滤波
为直观起见,考虑只有两个权值 w0 和 w1 的横向滤波器。此时,误差性 能曲面是三维空间中的一个抛物面,如图所示。若用一组 J=C 的等值 平面来截取误差性能表面,并向权值平面投影,则可在权值平面上可 得到一组同心椭圆,这就是误差性能曲面的等高线图。椭圆的中心为 性能表面最低点的投影。
结论:维纳滤波器所得最小均方误差等于期望响应的方差与滤波器输出方差的差值。
6
第2章 维纳滤波
2.4 横向滤波器的维纳解 2.4.1 横向滤波器的维纳-霍夫方程及其解
u (n)
u ( n 1)
z w0
1
z
1
u (n M 2)
z
1
u ( n M 1)
w1
wM 2
wM 1
Rqn nqn
误差性能表面的另一种表示形式:
J J min w T (QΛQ T )w J min (Q T w ) T Λ (Q T w ) J min v T Λv
样本空间
正交原理的几何解释(二维的情况)
4
第2章 维纳滤波
2.3.2 正交原理推论 考察滤波器输出信号与估计误差之间的相关特性
E[ y(n)e(n)] E[ wk u (n k )e(n)] wk E[u (n k )e(n)]
k 0 k 0
最优状态下,上式为
E[ yo (n)eo (n)] E[ wok u (n k )eo (n)] wok E[u (n k )eo (n)]
2 d wT (n)Rw (n) 2wT (n)p
误差性能曲面:将代价函数J相对于抽头权值w的关系曲面。
9
第2章 维纳滤波
代价函数J是抽头权值w的二次函数; 如果矩阵R是正定,误差性能曲面就是一个碗状曲面,且有唯一的最小值点J min 。 该点所对应的权值为滤波器最优权值,该点的梯度向量等于零 :
11
第2章 维纳滤波
例2-1 如图所示的横向滤波器,该系统输入信号为 u(n) sin(2n N ) ,期望响应 d (n) 2 cos(2n N ) 试计算在均方误差意义下的最佳权向量 w o 和最小均方误差 J min 。
u ( n ) sin( 2 n N )
z 1
u ( n 1)
d (n) dˆ (n) e (n)
o o
(△ )
定义最小均方误差为
2 J min E[eo (n)]
ˆ (n) 和 d (n)为零均值,对△式两边同时取方差,得 假定d o
2 2 d d ˆ J min
o
即
2 2 J min d d ˆ
o
2 2 ˆ (n) 的方差。 式中: d 是期望响应 d (n) 的方差, dˆo 是其最优估值 d o
最佳权向量也可以通过置均方误差性能函数的梯度向量为0求得,见教材13页。 本题中最小均方误差为0,但它不是说任何问题中都为0,一般时候大于0。
13
第2章 维纳滤波
三、二次型误差性能曲面的性质 把误差性能函数重新表示为
2 J d w T Rw 2w T p 2 d w T p p T w w T Rw 2 d p T R 1p (w R 1p) T R (w R 1p)
横向滤波器的二次误差性能曲面和等高 线
15
第2章 维纳滤波
相关矩阵R的特征分解与化为标准形
det[R I] 0
0 , 1 ,, M 1
0 0 Λ 0 0
Q q 0
q1 q M 1
R QΛQT
1
0
0 0 M 1
d (n )
ˆ(n) d
e(n)
横向滤波器结构示意图 由M级抽头延迟线级联而成,每个抽头的输入分别为u(n), u(n 1),, u(n M 1) 各抽头权值分别为 w0 , w1 ,, wM 1 ,构成一组权系数 wk (k 0,1,, M 1) 。
7
第2章 维纳滤波
2 N 2n 2 (n k ) 2k p(k ) Eu (n k )d (n) cos sin sin N n1 N N N
k 0,1
k 0,1
12
第2章 维纳滤波
由此可得输入自相关矩阵R和互相关向量分p别为
r (0) R r (1) 0.5 r (1) r (0) 0.5 cos 2 N 0.5 cos 2 N 0.5
o
T wT o E[u(n)u (n)]w o
进一步
2 d ˆ
o
wT o Rw o T T 1 wT op p wo p R p
2 2 由 J min d dˆo ,得最小均方误差的3种表达式
2 2 T 2 T 1 J min d wT o Rwo d p w o d p R p
w0
w1
d ( n ) 2 cos( 2 n N )
ˆ(n) d
e(n)
解:输入的自相关函数为
输入与期望响应的互相关函数为
1 N 2n 2 (n k ) 2k r (k ) Eu (n)u(n k ) sin sin 0.5 cos N n1 N N N
u (n) ,当前输出 y (n) ,期望响应为 d (n) 滤波器的当前输入值: 重写维纳-霍夫方程
M 1 i 0
w
oi
r (i k ) p(k ) k 0,1,2,
定义横向滤波器的抽头输入 u(n), u(n 1),, u(n M 1) 的相关矩阵为R,则
J J J J J , ,, 0 w w0 w1 wM 1
T
而 故可推出
J 2Rw(n) 2p
Rwo p ,与维纳-霍夫方程一致。
10
第2章 维纳滤波
二、最小均方误差的其他3种表达式 最优条件下 又 在零均值的假定条件下,得
ˆ (n) y (n) d o o yo (n) wT o u(n) 2 T T ˆ2 d ˆ E[d o (n)] E[w o u(n)u (n)w o ]
p E[u(n)d (n)] [ p(0), p(1),, p(1 M )]T
则横向滤波器的维纳-霍夫方程式的矩阵表示形式为 Rwo p ,即维纳解为 w o R 1p 式中: w o [wo,0 , wo,1 ,, wo,M 1 ]T 是横向滤波器最优抽头权向量。
k J
进一步可求得
J wk
k 0,1,2,
J E[e 2 (n)] e(n) k J 2 E[ e(n)] wk wk wk 2 E[u (n k )e(n)] k 0,1,2,
2
第2章 维纳滤波
置梯度为零,得维纳滤波器最优解的一个充要条件
r (1) r ( M 1) r (0) r (1) r (0) r ( M 2) R E[u(n)uT (n)] r ( M 1) r ( M 2) r (0) u(n) [u(n),u(n 1),, u(n M 1)]T 是抽头输入向量,矩阵R对称。 式中: 定义横向滤波器抽头输入与期望响应的互相关向量为p,则
1
第2章 维纳滤波
2.2 离散形式维纳滤波器的解 单位冲激响应 h(n) 用 w0 , w1 , w2 , 表示,则滤波器的输出 y (n) 为线性卷积和
y(n) wk u (n k )
k 0
n 0,1,2,
最小均方误差准则下的代价函数
J E[e 2 (n)]
代价函数的梯度向量
3
第2章 维纳滤波
得到维纳滤波器的另一个充要条件,即著名的维纳-霍夫(Wiener-Hopf)方程为
w
i 0
oi
r (i k ) p(k ) k 0,1,2,
2.3 离散形式维纳滤波器的性质 2.3.1 正交原理的几何解释
d (1 )
eo (1)
u (1 )
yo
u (0 )
k 0 k 0
由正交原理(右端为零)可得
E[ yo (n)eo (n)] 0
(※ )
结论:维纳滤波器的估计误差 eo (n) 输入样本值 u(n ) 和滤波器的输出 yo (n) 正交。
5
第2章 维纳滤波
2.3.3 最小均方误差 维纳滤波器的估计误差为
ˆ (n) eo (n) d (n) yo (n) d (n) d o
J min (w R 1p) T R ( w R 1p) J min (w w o ) T R (w w o )
(该式表明最佳权向量与最小均方误差的对应关系)
为使误差性能曲面的表达式简单化,定义权偏差向量为
T , w1 ,, w w w w o w0 M 1
8
第2章 维纳滤波
2.4.2 横向滤波器的误差性能 一、误差性能曲面 M 1 输出: y(n) w u(n k ) u T (n)w(n) w T (n)u(n)
k 0
k
估计误差: 均方误差:
e(n) d (n) y(n) d (n) wT (n)u(n)
J E[e 2 (n)] E{[d (n) y (n)]2 } E{[d (n) wT (n)u(n)]2 } E[d 2 (n)] wT (n) E[u(n)uT (n)]w (n) 2wT (n) E[d (n)u(n)]
p p(0)
p(1)
T
2 0 sin N
T
① ②
由,Rwo p
可求得
2 w o 2 cot N
2 2 csc N
T
2 E[d 2 (n)] 2 ,结合R和p的结果,可得均方误差性能函数及其梯度向 可以求得 d 量为 2 2 cot 2 N 2 J min d pT w o 2 0 sin 0 2 N 2 csc N