现代信号处理基础_02—维纳滤波和卡尔曼滤波20101102
现代信号分析与处理技术_第2讲_最优滤波方法
{
}
p −1 ⎧⎡ ⎤ ∗ ⎫ = E ⎨ ⎢ d (n) − ∑ w(l ) x(n − l ) ⎥ d (n) ⎬ l =0 ⎦ ⎩⎣ ⎭
即:
ξ min = rd (0) − ∑ w(l )r (l )
l =0
∗ dx
p −1
或:
H ξ min = rd (0) − rdx w
或:
H -1 ξ min = rd (0) − rdx Rx rdx
k =0
因此最优线性预测器的Wiener-Hopf方程为:
⎡ rx (0) rx∗ (1) rx∗ (2) ⎢ rx (1) rx (0) rx∗ (1) ⎢ rx (2) rx (1) rx (0) ⎢ ⎢ r ( p − 1) rx ( p − 2) rx ( p − 3) ⎣x rx ( p − 2) ⎥ ⎢ w(1) ⎥ ⎢ rx (2) ⎥ ∗ rx ( p − 3) ⎥ ⎢ w(2) ⎥ = ⎢ rx (3) ⎥ ⎥⎢ ⎥ ⎥ ⎢ ⎥ ⎢ w( p − 1) ⎥ ⎢ r ( p ) ⎥ rx (0) ⎦ ⎣ ⎦ ⎣x ⎦
信息科学与工程学院 杨绿溪
• 维纳滤波
FIR维纳滤波 应用：滤波、线性预测、噪声抑制、反卷积MMSE均衡器 IIR维纳滤波
• 线性离散卡尔曼滤波器
－ － －高斯假设下的序贯贝叶斯滤波 • 非线性最优滤波－序贯MC贝叶斯滤波
• 基本的粒子滤波器应用实例
参考书和参考文献
• 杨绿溪，现代数字信号处理,科学出版社,2007年11月。 • 张贤达，现代信号处理,清华大学出版社,2002年10月。 • T.Kailath, A innovations approach to LS estimation, IEEE T-AC, Vo.13, 1968, pp.641-655. • M.S.Arulampalam, S.Maskell, N.Gordon, T.Clapp, A tutorial on particle filters for online nonlinear/non-Gaussian Bayesian tracking, IEEE Transactions on Signal Processing, Vol.50, No.2, pp.174-188, 2002. 专辑 • Z.Chen. Bayesian filtering: From Kalman filters to particle filters, and beyond. Adaptive system lab., Macmaster Univ., Canada. [online]. http://soma.crl.mamaster.ca/zhechen /download. 另有2004-03, P-IEEE专辑
维纳滤波器和卡尔曼滤波器
Rxx
(N
1)
Rxx (N 2)
Rxx (0) h(N 1)
Rxs
(N
1)
……………(7-16)
第16页，此课件共105页哦
简化形式：
RxxH=Rxs
(7-17)
式中，H＝[h(0) h(1) …h(N-1)]′，是待求的单位脉冲响应；
Rxs＝ Rxs (0), Rxs (1),Rxs (N 1)′，是互相关序列；
…………………..(7-14)
N 1
Rxs ( j) hopt (m)Rxx ( j m) m0
j 0,1,2,, N 1
(7-15)
第15页，此课件共105页哦
于是得到N个线性方程：
j0
j 1
j N 1
Rxs (0) h(0)Rxx (0) h(1)Rxx (1) h(N 1)Rxx (N 1) Rxs (1) h(0)Rxx (1) h(1)Rxx (0) h(N 1)Rxx (N 2)
E
e2 (n)
m in
E
(Байду номын сангаас(n)
N 1 m0
hopt
(m)
x(n
m))
2
N 1
N 1 N 1
E[s 2 (n) 2s(n) h(m)x(n m)
hopt (m)x(n m)hopt (r)x(n r)]
m0
m0 r0
N1
N 1
N 1
Rss (0) 2 hopt (m)Rxs (m) hopt (m) hopt (r)Rxx (m r)
若要进一步减小误差可以适当增加维纳滤波的阶数，但相应的计算量也会增加。
第22页，此课件共105页哦
维纳滤波和卡尔曼滤波
维纳滤波和卡尔曼滤波
哇塞！同学们，你们听说过维纳滤波和卡尔曼滤波吗？反正一开始我是完全不知道这俩是啥玩意儿。
就好像在一个神秘的科学王国里，突然冒出来两个奇怪的名字。
维纳滤波，这名字听起来是不是有点像某个超级英雄的技能？可它不是用来拯救世界的，而是在信号处理的世界里大展身手呢！
有一次上科学课，老师讲起维纳滤波，我那叫一个懵啊！老师说它就像是一个超级聪明的小助手，能把那些乱糟糟的信号变得整整齐齐。
我就想，这难道是有魔法吗？比如说，我们听到的广播里有时候会有沙沙的杂音，维纳滤波就能把这些杂音去掉，让声音变得清晰又好听。
这难道不神奇吗？
再说卡尔曼滤波，它就像是一个预测大师。
比如说，我们预测明天会不会下雨，可能不太准。
但卡尔曼滤波就能根据一堆的数据和信息，更准确地预测出一些变化。
我问同桌：“你能明白这俩滤波是咋回事不？”同桌摇摇头说：“我也迷糊着呢！”
后来老师又举了个例子，说维纳滤波好比是个精心整理房间的小管家，把房间里乱七八糟的东西归置得井井有条；卡尔曼滤波呢，就像是个能提前知道你需要什么东西的小精灵，早早地就给你准备好。
哎呀，虽然听了老师这么多例子，我还是觉得这俩滤波有点难理解。
不过我想，只要我努力学习，总有一天能搞清楚它们的！
同学们，你们是不是也和我一样，对维纳滤波和卡尔曼滤波充满了好奇和探索的欲望呢？反正我是下定决心要把它们弄明白啦！。
维纳滤波和卡尔曼滤
j 0,1,2, , N 1 (9-15)
于是得到N个线性方程：
j0
j 1
j N 1
Rxs (0) h(0)Rxx (0) h(1)Rxx (1) h(N 1)Rxx (N 1) Rxs (1) h(0)Rxx (1) h(1)Rxx (0) h(N 1)Rxx (N 2)
h(1)
Rxs (1)
Rxx (0) h(N 1)
Rxs
(N
1)
……………(9-16)
简化形式：
RxxH=Rxs
(9-17)
式中，H＝[h(0) h(1) …h(N-1)]′，是待求的单位脉冲 响应；
Rxs＝ Rxs (0), Rxs (1), Rxs (N 1)′，是互相关序列；
则式（9-15）和式（9-19）化为：
N 1
Rss ( j) hopt (m)[Rss ( j m) Rww ( j m)] m0
j 0,1,2, , N 1
(9-20)
N 1
E[e2 (n)]min Rss (0) hopt (m)Rss (m) m0
(9-21)
【例9-1】已知图9-1中 x(n) s(n) w(n) 且 s(n)
与 w(n) 统计独立，其中 s(n) 的自相关序列为
Rss (m) 0.6 m w(n) 是方差为1的单位白噪声，
试设计一个N=2维纳滤波器来估计 s(n)
，并求最小均方误差。
〖解〗依题意，已知信号的自相关和噪声的自相关为：
Rss (m) 0.6 m Rww (m) (m)
，代入式（9-20）得
第九章 维纳滤波和卡尔曼滤 （Wiener and Kalman Filtering）
▪ 随机信号或随机过程(random process) 是普遍存在的。
维纳、卡尔曼滤波简介及MATLAB实现
现代数字信号处理课程作业维纳、卡尔曼、RLS、LMS算法matlab实现维纳滤波从噪声中提取信号波形的各种估计方法中，维纳（Wiener）滤波是一种最基本的方法，适用于需要从噪声中分离出的有用信号是整个信号（波形），而不只是它的几个参量。
设维纳滤波器的输入为含噪声的随机信号。
期望输出与实际输出之间的差值为误差，对该误差求均方，即为均方误差。
因此均方误差越小，噪声滤除效果就越好。
为使均方误差最小，关键在于求冲激响应。
如果能够满足维纳－霍夫方程，就可使维纳滤波器达到最佳。
维纳滤波器的优点是适应面较广，无论平稳随机过程是连续的还是离散的，是标量的还是向量的，都可应用。
维纳滤波器的缺点是，要求得到半无限时间区间内的全部观察数据的条件很难满足，同时它也不能用于噪声为非平稳的随机过程的情况，对于向量情况应用也不方便。
因此，维纳滤波在实际问题中应用不多。
下面是根据维纳滤波器给出的图像处理matlab实例，在下面实例中维纳滤波和均值滤波相比较，并且做了维纳复原、边缘提取、图像增强的实验：%****************维纳滤波和均值滤波的比较*********************I=imread('lena.bmp');J=imnoise(I,'gaussian',0,0.01);Mywiener2 = wiener2(J,[3 3]);Mean_temp = ones(3,3)/9;Mymean = imfilter(J,Mean_temp);figure(1);subplot(121),imshow(Mywiener2),title('维纳滤波器输出');subplot(122),imshow(uint8(Mymean),[]),title('均值滤波器的输出');%***********************维纳复原程序********************figure(2);subplot(231),imshow(I),title('原始图像');LEN = 20;THETA =10;PSF = fspecial('motion',LEN,THETA);Blurred = imfilter(I,PSF,'circular');subplot(232),imshow(Blurred),title('生成的运动的模糊的图像');noise = 0.1*randn(size(I));subplot(233),imshow(im2uint8(noise)),title('随机噪声');BlurredNoisy=imadd(Blurred,im2uint8(noise));subplot(234),imshow(BlurredNoisy),title('添加了噪声的模糊图像');Move=deconvwnr(Blurred,PSF);subplot(235),imshow(Move),title('还原运动模糊的图像');nsr = sum(noise(:).^2)/sum(im2double(I(:)).^2);wnr2 = deconvwnr(BlurredNoisy,PSF,nsr);subplot(236),imshow(wnr2),title('还原添加了噪声的图像');%****************维纳滤波应用于边缘提取*********************N = wiener2(I,[3,3]);%选用不同的维纳窗在此修改M = I - N;My_Wedge = im2bw (M,5/256);%化二值图像BW1 = edge(I,'prewitt');BW2 = edge(I,'canny');BW3 = edge(I,'zerocross');BW4 = edge(I,'roberts');figure(3)subplot(2,4,[3 4 7 8]),imshow(My_Wedge),title('应用维纳滤波进行边沿提取'); subplot(241),imshow(BW1),title('prewitt');subplot(242),imshow(BW2),title('canny');subplot(245),imshow(BW3),title('zerocross');subplot(246),imshow(BW4),title('roberts');%*************************维纳滤波应用于图像增强***************************for i = [1 2 3 4 5] K = wiener2(I,[5,5]);end K = K + I; figure(4);subplot(121),imshow(I),title('原始图像'); subplot(122),imshow(K),title('增强后的图像');维纳滤波器输出均值滤波器的输出原始图像生成的运动的模糊的图像随机噪声添加了噪声的模糊图像还原运动模糊的图像还原添加了噪声的图像卡尔曼滤波卡尔曼滤波的一个典型实例是从一组有限的，对物体位置的，包含噪声的观察序列预测出物体的坐标位置及速度。
现代数字信号处理-第二章-2017
Rvv=q1.^2;
q2=std(x);
Rxx=q2.^2;
q3=std(w);
Rww=q3.^2;
44
c=0.2;
%c为方程中H(k)
45
46
Blending Factor
• If we are sure about measurements:
– Measurement error covariance (R) decreases to zero – K decreases and weights residual more heavily than prediction
Estimator
Optimal Estimate of System State
40
问题小结
起始条件( k-1 and
预测( - , k
-k)
k-1)
用起始条件和模型(例如匀速率)作预测
测量 (zk)
修正 ( k , k)
用测量值修正预测
最佳估计
41
Kalman 滤波器
42
应用1
假设房间的真实温度为25度，模拟了200个测量值输入，测量值的平均值为25度 ，但是加入了标准偏差为几度的高斯白噪声（在图中为蓝线）。 为了令卡尔曼滤波器开始工作，设卡尔曼两个零时刻的初始值，是X(0|0)和P(0|0) 。因为随着卡尔曼的工作，X会逐渐的收敛。但是对于P，一般不要取0，因为这 样可能会令卡尔曼完全相信你给定的X(0|0)是系统最优的，从而使算法不能收敛。 设X(0|0)=1度，P(0|0)=10。 该系统的真实温度为25度，图中用黑线表示。图中红线是卡尔曼滤波器输出的最 优化结果（该结果在算法中设置了Q=1e-6，R=1e-1）。
数字信号处理知识点 整理 Chapter 2
第二章 维纳滤波和卡尔曼滤波2.1 引言只考虑加性噪声影响，即观测数据()xn 是信号()s n 和噪声()v n 之和，即()()()x n s n v n =+不含噪声的信号()s n 称为期望信号，乃滤波之目的，亦可用()dy n 表示。
系统实际输出()()ˆy n s n =是对期望信号的估计。
维纳滤波从信号估计的角度讲： 估计过去的信号值()s n N -叫做平滑； 估计当前的信号值()s n 叫做滤波； 估计将来的信号值()sn N +叫做预测。
这些估计都采用相同的准则：误差均方值最小,2n E e ⎡⎤⎢⎥⎣⎦。
2.2 维纳滤波器的时域解（费时费力，更多考虑用Z 域解）设计维纳滤波器实际就是选择系统函数h (n )，使得输出信号x (n )与期望信号d (n )的误差均方值最小。
考虑线性时不变系统，设单位脉冲响应()()()012,,,h n a n jb n n =+=2.2.1 时域求解根据系统输出()()()*y n x n h n =和均方误差函数()()()22E e n E d n y n ⎡⎤⎡⎤=-⎢⎥⎢⎥⎣⎦⎣⎦令()2Ee n ⎡⎤⎢⎥⎣⎦关于()h j 的导数为0，即()20012,,,,jE e n j h ⎡⎤∂⎢⎥⎣⎦==∂ 可以推得()()0*E x n j e n ⎡⎤-=⎣⎦结论：正交性原理．．．．．——均方误差值达到最小的充要条件是误差信号．．．．．．．．．．．．．．．．．．．e ．(．n ．)．与任意输入的待估计信号．．．．．．．．．．．x ．(．n ．)．正交．．。
2.2.2 维纳-霍夫方程由上一式子展开可以得到维纳．．——．．霍夫方程．．．．的形式： ()()()()()012*,,,xd xxxx m r k h m r k m h k r k k +∞==-==∑维纳——霍夫方程表明，输入信号x (n )（待处理信号）与期望信号d (n )的互相关函数等于系统函数（维纳滤波器的时域解）与输入信号的互相关函数r xx (n )卷积。
第2章 维纳滤波和卡尔曼滤波
维纳 滤波器
相关函数
H(z)或h(n)
平稳
解析形式
卡尔曼 滤波器
前一个估 计值和最 近的观察
状态方程 量测方程
状态变量 估计值
平稳或 递推算法 非平稳
60 年代
2018年10月9日星期二
15:38:36
4
153
2.2 维纳滤波器的离散形式—时域解
§2.2 维纳滤波器的离散形式—时域解 2.2.1 维纳滤波器时域求解的方法 考虑到系统的因果性，即h(n)=0，n<0 （2.2.2） 设期望信号为d(n)，计算误差和均方误差为 e(n)=d(n) －y(n)=s(n) －y(n) （2.2.３） （2.2.４）
15:38:36
24
153
2.2 维纳滤波器的离散形式—时域解
v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形，
且
2 rv2v2 (， 0) 2
因此，输出信号的自相关Ryy为
2018年10月9日星期二
15:38:36
25
153
2.2 维纳滤波器的离散形式—时域解
(3) 计算输出信号与期望信号的互相关函数矩阵。 由于两个信 号都是实信号，故 ryd(m)=E［y(n)d(n-m)］=E［y(n)x1(n-m)］ =E［(x(n)+v2(n))x1(n-m)］=E［x(n)x1(n-m)］ m=0, 1 根据图2.2.2系统H2(z)的输入与输出的关系, 有 x1(n)-b1x(n-1)=x(n) 这样 x1(n)=x(n)+b1x(n-1)
2018年10月9日星期二 15:38:的离散形式—时域解
% 滤波 y = filter(Wopt, 1, x); % 误差 En = d - y'; % 结果 figure, plot(n, d, 'r:', n, y, 'b-'); legend('维纳滤波信号真值','维纳滤波估计值'); title('期望信号 与滤波结果对比'); xlabel('观测点数');ylabel('信号幅度');figure, plot(n , En); title('维纳滤波误差曲线'); xlabel('观测点数');ylabel('误差幅度'); toc
现代数字信号处理第二章
2.2.2 非因果IIR维纳滤波器
非因果IIR维纳滤波器的维纳-霍夫方程为：
Rsx (m) = ∑h(i)Rxx (m−i) −∞ ≤ m ≤ ∞
i=−∞
∞
= h(m) ∗ Rxx (m)
这种线性过滤问题，可以看成一种估计问题。
ˆ x(n) = s(n) + v(n) → h(n) → y(n) = s(n)
s(n)
表示信号
v(n)
表示噪声
N
y(n)
表示输出
ˆ y(n) = s(n) = ∑h(i)x(n −i)
s 称 y(n) 是ˆ(n) 的估计值。 h(n) 为估计器。这种滤波器 称为最佳滤波器。 s 如果： (n) 和 v(n) 的谱在频域上是分离的，容易设计一个 线性滤波器抑制噪声并提取信号。这是本科中经典数字信号 处理理论中详细讨论过的数字滤波器的设计问题。但是 s(n) 和 v(n) 的谱有一部分相互重叠，则问题就要复杂的多。 一般而言，这是信号的最佳估计问题，所谓“最佳”是以一 定的准则来衡量的，通常有四种准则：
解出： 即
[h] =[h]opt =[Rxx ]−1[Rs x ]
hopt = R−1P
用有限长 h(n) 来实现维纳滤波器时（当已知 Rx x和 Rs x 时），可解得满足因果解的 hopt 。 但当N大时，计算工作量大，需要知道 Rs x 和 Rx x 的逆运 算。因此，最小均方误差准则的维纳滤波器，用有限冲激响 应的FIR滤波器来实现并非有效的方法。
Rxx (z) = Rεε (z)B(z)B(z−1) =σε2 B(z)B(z−1)
维纳滤波与卡尔曼滤波
第二章 维纳滤波与卡尔曼滤波§2.1 引言信号处理的实际问题，常常是要解决在噪声中提取信号的问题，因此，我们需要寻找一种所谓有最佳线性过滤特性的滤波器。
这种滤波器当信号与噪声同时输入时，在输出端能将信号尽可能精确地重现出来，而噪声却受到最大抑制。
维纳(Wiener)滤波与卡尔曼(Kalman)滤波就是用来解决这样一类从噪声中提取信号问题的一种过滤(或滤波)方法。
实际上这种线性滤波问题，可以看成是一种估计问题或一种线性估计问题。
一个线性系统，如果它的单位样本响应为h (n )，当输入一个随机信号x (n )，且)()()(n n s n x υ+=(2.1)其中s (n )表示信号，)(n υ表示噪声，则输出y (n )为∑-=mm n x m h n y )()()((2.2)我们希望x (n )通过线性系统h (n )后得到的y (n )尽量接近于s (n )，因此称y (n )为s (n )的估计值，用)(ˆn s表示，即)(ˆ)(n sn y = (2.3)图2.1 维纳滤波器的输入—输出关系如图2.1所示。
这个线性系统)(⋅h 称为对于s (n )的一种估计器。
实际上，式(2.2)的卷积形式可以理解为从当前和过去的观察值x (n )，x (n -1)，x (n -2)…x (n -m )，…来估计信号的当前值)(ˆn s。
因此，用)(⋅h 进行过滤的问题可以看成是一个估计问题。
由于我们现在涉及的信号是随机信号，所以这样一种过滤问题实际上是一种统计估计问题。
一般，从当前的和过去的观察值x (n )，x (n -1)，x (n -2)，…估计当前的信号值)(ˆ)(n s n y =称为过滤或滤波；从过去的观察值，估计当前的或将来的信号值)0)((ˆ)(≥+=N N n sn y 称为预测或外推；从过去的观察值，估计过去的信号值)1)((ˆ)(>-=N N n sn y 称为平滑或插。
维纳滤波和卡尔曼滤波
2.2 维纳滤波器旳离散形式－－时域解
维纳滤波器设计旳任务就是选择 h(n),使其输出信号 y(n) 与期望信号 d (n)误差旳均方值最小，实质是解维纳－霍夫方程。
2.2.1维纳滤波器时域求解旳措施
假设滤波系统 h(n)是一种线性时不变系统，它旳h(n)和输 入信号都是复函数，设
h(n) a(n) jb(n)
系统实际输出： y(n) 。 y(n) sˆ(n) 1
预测：已知过去旳观察值 x(n 1), x(n 2), , x(n m)，估计 目前及后来时刻旳信号值 sˆ(n N ) , N 0 。 滤波：已知目前和过去旳观察值 x(n), x(n 1), , x(n m) ，
估计目前旳信号sˆ(n) 。
卡尔曼滤波是20世纪60年代由卡尔曼提出旳。
2
维纳滤波和卡尔曼滤波比较：
共同点：都处理最佳线性滤波和预测问题，都以均方误差最 小为最优准则，平稳条件下它们得到旳稳态成果一致。 不同点： (1)维纳滤波根据 x(n), x(n 1), , x(n m) 估计信号旳目前值，
它旳解以系统旳系统函数H (z)或单位脉冲响应h(n)形式给出。
M 1
i0
h(i)x(n
i)
17
E
e(n)
2
E
d
(n)
2
M 1
k 0
h
(k
)E
x
(n
k)d
(n)
M 1
M 1 M 1
h(i)E x(n i)d (n) h(k)h(i)E[x*(n k)x(n i)]
i0
k0 i0
M 1
M 1(k
19
2.3离散维纳滤波旳Z域解
时域求解Wiener滤波器很困难，用Z域求解。又因为实际旳系统是因果旳，
卡尔曼滤波与维纳滤波在信号处理中的应用研究
卡尔曼滤波与维纳滤波在信号处理中的应用研究
卡尔曼滤波是一种线性的、递归的滤波算法，它能够对信号的状态进行估计和预测。
卡尔曼滤波是基于贝叶斯估计理论的一种优化方法，它不仅可以有效地消除噪声和偏差，还可以根据已有的历史数据对信号进行预测。
卡尔曼滤波广泛应用于航空航天、控制理论、信号处理等领域，是一种非常有效的信号处理算法。
维纳滤波是一种信号处理中最常用的滤波算法之一，它能够根据现有数据对信号进行优化处理，消除噪声和干扰，实现信号的恢复和重建。
维纳滤波利用了信号和噪声的统计特性，根据信号的功率谱和噪声的功率谱来进行滤波处理。
维纳滤波不仅可以用于图像处理、语音处理等多种信号处理领域，还可以应用于雷达信号处理、无线通信等工程实践中。
在实际应用中，卡尔曼滤波和维纳滤波通常结合使用，以获得更为准确和可靠的信号处理效果。
如在雷达信号处理中，利用卡尔曼滤波进行预测和估计，再经过维纳滤波进行优化处理，可以有效地消除噪声和干扰，获得高质量的信号信息。
在图像处理中，卡尔曼滤波和维纳滤波也可以结合使用，以实现图像的优化重建和增强。
总的来说，卡尔曼滤波和维纳滤波在信号处理中的应用非常广泛，可以有效地消除噪声和干扰，提高信号和数据的质量和可靠性，对于工程实践和科学研究都具有重要意义。
第二章 维纳滤波与卡尔曼滤波
k0
xs (k ) h0 pt * xx (k )
又称互相关定理
共128页 12
解Wiener-Hopf 方程 存在的问题及解决的思路
存在的问题： 1。假设设计的是因果系统，由于存在 k>0的约 束条件，卷积定理（双边Z变换）不能用。 2。实际物理系统为因果系统。 解决思路： 1。设计一个非因果性系统（滤波器）。 2。用有限长的因果序列h(n)来逼近hopt(n).实 质为设计FIR型滤波器。
s (k ) g opt (k ) 0
共128页
k
31
s (k ) g opt (k ) 2
k
Gopt ( z )
1
2
s ( z )
s ( z ) B( z )
32
G( z ) 1 H opt ( z ) 2 B( z )
共128页 5
2.2 维纳滤波器的离散形式(I) —— 时域解
ˆ(n) h(m) x(n m) y(n) s
m
h(n)=0
当n<0， 因果系统
ˆ(n) h(m) x(n m) y ( n) s
m 0
ˆ(n) hi xi 为表示简单，记：s
共128页
i 1
Es(n) (n m) 0
xs (m) Ex(n)s(n m) Es(n) (n) s(n m) Es(n)s(n m) ss (m) xx ( z ) ss ( z ) ( z )
X ( z ) B( z )W ( z )
1 W ( z) X ( z) B( z ) 则维纳滤波器的设计变为：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
最优预测和滤波
波形估计与动态估计 • 估计问题
在许多实际问题中，需要研究随时间变化的随 机变量或随机矢量的估计问题，即按照某种最 优准则对随时间变化的随机变量或随机矢量作 出估计。
• 不同称谓
- 在通信工程中称为波形估计 - 在控制工程中称为动态估计
最优预测和滤波
滤波与预测 滤波定义 从含噪信号x(n)=s(n)+v(n) 或其矢量信号x(n)=s(n)+v(n) 中尽可能排除噪声v(n)或v(n) 干扰，而将有用信号s(n) 或s(n)分离或提取出来。 滤波、预测与平滑 滤波 用n时刻及以前数据估计n时刻信号s(n)或s(n)。属因果 系统 预测 用n时刻及以前的共p个数据估计未来某时刻信号。 平滑 用全部数据（过去及未来的）来估计n时刻信号.属非 因果系统，（脱线处理）
2 Rss (0) Rss (1) Rss (2) v 0 0 * 2 Rss (1) Rss (0) Rss (1) 0 v 0 R* (2) R* (1) R (0) 0 0 2 ss ss v ss
R为Hermit 和Toeplitz对称阵。 定义输入与期望响应的互相关向量：
P E x (n) s (n) Rxs (0), Rxs ( 1), , Rxs (1 M ) M 1
* T
Wiener-Hopf方程的解
Wiener-Hopf（差分）方程组：
M 1 i 0
输出
ˆ y(n) s(n)
- +
估计误差 e( n)
期望响应 s ( n)
结论 线性离散时间滤波器的最优设计问题可表述如下： 设计线性离散时间滤波器的系数h, 使滤波器输出 y(n) 在给定输入样本x(0),x(1),…的情况下给出期望响应s(n) 的估计，并能使估计误差 e(n) s(n) y(n) 的均方值 2 E{ e(n) } 为最小
上述表明，使得均方误差代价函数最小化的充要条 eopt 件是估计误差 (n) 与输入向量正交。这就是著名 的正交性原理。
正交性原理（续）
由于 E
y (n)e (n) E
*
h x ( n k )e ( n ) k 0
* k *
* hk E x (n k )e* ( n) k 0
s ( n ) v ( n) s(n) v(n), s(n 1) v(n 1), s(n 2) v(n 2 * E s(n 1) v(n 1) s(n 2) v(n 2)
对滤波器要求是使估计误差在某种统计意义下“尽可能小”。
最优滤波理论
线性最优滤ห้องสมุดไป่ตู้器（续）
对滤波器的约束
滤波器是线性的。
一是为了使信号通过滤波器后不致于发生“畸变”； 二是为了便于对滤波器进行数学分析. 滤波器是离散时间的，便于系统数字硬件或软件实现.
设计准则:估计误差在某种条件意义下尽可能小的滤波
的整数；
(3) 因果IIR维纳滤波器：i取从 0 的整数；
FIR型的Wiener滤波器
x ( n)
z
* h0
1
x(n 1)
z
h1*
1
x(n M 2)
…
… …
z
* hM 2
1
x(n M 1)
* hM 1
+
+
+
+
y ( n) s ( n)
T
e( n )
hk ak jbk
h [h0 , h1 ,]T
k 0,1, 2
正交性原理（续）
定义梯度算子：
h , h0 , h1
T
其中函数对复变量hk的偏导：
J (h) J (h) J (h) j , hk ak bk J (h) 0, hk k 0,1, 2,
eopt
根据最优滤波器的正交性原理有下式：
E x(n k ) s* (n) hopt (i ) x* (n i ) 0 i k
等价于：
hopt (i)E x(n k ) x* (n i ) E x(n k ) s* (n) , k
自适应滤波器的应用
最优滤波理论
线性最优滤波器 x(n) s(n) v(n) 问题描述
输入 x(0), x(1), 线性离散时 间滤波器
h0 , h1 ,
输出
ˆ y(n) s(n)
- +
估计误差 e( n)
期望响应 s ( n)
输入x(1),x(2),… x(n)，滤波器的脉冲响应序列(h0, h1,… ) y(n)代表滤波器在时间n时的输出,希望它是期望响应s(n) 的估计值。 估计误差e(n)：定义为期望响应s(n)与滤波器输出y(n)之差, 即 ˆ e(n) s(n) s(n) s(n) y(n)
正交性原理
根据滤波器原理，n时刻的滤波器输出表示为：
y (n) hi* x(n i ), n 1, 2,
i
定义估计误差为：
e(n) s(n) y(n)
定义代价函数为均方误差
J (h) E e(n)
2
E e(n)e* (n)
滤波器复抽头权（tap-weight)系数
s(n) s* (n) Rss (0) s ( n) v ( n) s* (n) E s(n 1) s* (n) R (1) E s(n 1) v(n 1) ss * s(n 2) v(n 2) s(n 2) s (n) R (2) ss
定义输入向量
x (n) x(n), x(n 1), , x(n M 1)
Wiener滤波理论（续）
定义输入信号的自相关矩阵：
R E x (n) x H (n) Rxx (1) Rxx ( M 1) Rxx (0) R* (1) Rxx (0) Rxx ( M 2) xx * * Rxx ( M 1) Rxx ( M 2) Rxx (0) M M
x* ( n k )
jx(n k )
jx* (n k )
正交性原理（续）
故：
J (h) 2 E x(n k )e* (n) , hk k
J (h) 令 ０ 即可得到最小均方值条件。 hk
即：
* E x(n k )eopt (n) 0 k 0,1, 2
最优预测和滤波
维纳滤波与卡尔曼滤波
维纳滤波
设信号s(k)或s(k)及观测过程x(k)或x(k)是广义平稳的, 且 已知其功率谱或自相关函数的知识，则基于观测过程x(k) 或x(k)，按线性最小均方误差估计准则，对信号s(k)或s(k) 所作的最优估计称为维纳滤波
卡尔曼滤波
设已知信号的动态模型测量方程，则基于过程x(k)及初 始条件，按线性无偏最小方差递推估计准则,对状态s(k) 所作的最优估计称为卡尔曼滤波.
2 0 Rss (0) Rss (1) Rss (2) v 0 * R Rss (1) Rss (0) Rss (1) 0 v2 0 R* (2) R* (1) R (0) 0 0 v2 ss ss ss P E[x(n) s* (n)]
器称为这一统计意义下的最优滤波器。最常用的最优准 则是使某个代价函数最小化。最典型的代价函数有： 估计误差的均方值(最常用的统计优化准则,即MMSE准则) 估计误差绝对值的期望值 估计误差绝对值的三次幂或高次幂的期望值
最优滤波理论
输入 x(0), x(1), 线性离散时 间滤波器
h0 , h1 ,
观测信号为：x(n) s(n) v(n) ，试中v( n) 是方差为0.45的零 均值白噪声，它与s(n）统计独立。试设计一个长为N=3的 FIR滤波器来处理x(n)，使得其输出与s(n)的差的均方值最小。 解： x(n) [ x(n), x(n 1), x(n 2)]T
R E[x(n)x H (n)] h [h(0), h(1), h(2)]T
h
i
opt
(i)Rxx (i k ) Rxs (k ),
k
这就是著名的Wiener-Hopf(差分）方程，该方程定 义了最优滤波器系数必须服从的条件。
i 的取值范围：
(1) 有限脉冲响应（FIR）维纳滤波器：i=0,1,…,M-1； (2) 非因果无限脉冲响应（IIR）维纳滤波器：i取从
最优预测和滤波
自适应滤波器
维纳滤波与卡尔曼滤波的特点
维纳滤波和卡尔曼滤波都是随机情况下最优滤波, 特点是: 维纳滤波: 参数固定, 适用于平稳随机情况下的最优滤波 且实现简单； 卡尔曼滤波: 参数时变, 适用于非平稳随机情况下最优滤波 且性能优越；
维纳滤波与卡尔曼滤波的局限性
只有在信号和噪声统计特性先验已知的情况下,这两种滤 波器才能获得最优滤波。在实际应用中,往往无法得到这 些统计特性的先验知识, 或统计特性随时间而变, 这时就 无法用这两种滤波器实现最优滤波。
当滤波器工作在最优条件时，由正交性原理上式等于零。
* E yopt (n)eopt (n) 0
当滤波器工作在最优条件时，其输出响应 yopt (n) 与相应 估计误差 eopt (n) 也正交。
正交性原理的几何解释
s