维纳滤波器和卡尔曼滤波器
合集下载
5-2 维纳滤波与卡尔曼滤波---IIR滤波器概论
6
复习1
基本原理
维纳滤波是如何从噪声观测中最优地估计源信号的 滤波器设计问题。
e(n) d (n) dˆ(n)
E{| e(n) |2} 维纳滤波可用在信号滤波、信号平滑、信号预测和 反卷积积滤波器。
p 1
Wiener-Hopf方程: w(l)rx (k l) rdx (k) k 0,1, 2,..., p 1 l 1 相关值: rx (k l) Ex(n l)x*(n k)
22
§6.3.1、非因果IIR维纳滤波器
2.设在噪声和混响的环境下观测信号x(n)为:
x(n) d(n) v(n)
其中v(n)是方差为1的白噪声,且与d(n)不相关.已知d(n) 是宽平稳的AR(1)过程,其自相关值为:
rd [4, 3.2, 2.56, 2.048]T
试求产生d(n)的最小均方估计的非因果维纳滤波器 H(z);
0.36 0.6 2 w(2) 0.36
w(0)
164
w(1)
w(2)
3 20 9
164
11
FIR维纳滤波器
复习1.一个离散时间信号d(n)和零均值单位方差白噪声v(n)混合产生观测
信号x(n)=d(n)+v(n)，且d(n)与v(n)统计独立，信号的自相关序列为具
有功率谱： rd (k) (0.6)|k| 。试设计一个二阶维纳滤波器来估计d(n)， 并计算最小均方误差。
计算机学院通信工程系
王洪金
1
作 业：下周一上课前交
1. 设观测信号x(n)为一高斯-马尔柯夫信号d(n)与其不 相关的白噪声v(n)的线性叠加。试设计非因果IIR平 滑滤波器从x(n)中估计d(n) 。已知d(n)和v(n)的自相 关函数分别为
复习1
基本原理
维纳滤波是如何从噪声观测中最优地估计源信号的 滤波器设计问题。
e(n) d (n) dˆ(n)
E{| e(n) |2} 维纳滤波可用在信号滤波、信号平滑、信号预测和 反卷积积滤波器。
p 1
Wiener-Hopf方程: w(l)rx (k l) rdx (k) k 0,1, 2,..., p 1 l 1 相关值: rx (k l) Ex(n l)x*(n k)
22
§6.3.1、非因果IIR维纳滤波器
2.设在噪声和混响的环境下观测信号x(n)为:
x(n) d(n) v(n)
其中v(n)是方差为1的白噪声,且与d(n)不相关.已知d(n) 是宽平稳的AR(1)过程,其自相关值为:
rd [4, 3.2, 2.56, 2.048]T
试求产生d(n)的最小均方估计的非因果维纳滤波器 H(z);
0.36 0.6 2 w(2) 0.36
w(0)
164
w(1)
w(2)
3 20 9
164
11
FIR维纳滤波器
复习1.一个离散时间信号d(n)和零均值单位方差白噪声v(n)混合产生观测
信号x(n)=d(n)+v(n)，且d(n)与v(n)统计独立，信号的自相关序列为具
有功率谱： rd (k) (0.6)|k| 。试设计一个二阶维纳滤波器来估计d(n)， 并计算最小均方误差。
计算机学院通信工程系
王洪金
1
作 业：下周一上课前交
1. 设观测信号x(n)为一高斯-马尔柯夫信号d(n)与其不 相关的白噪声v(n)的线性叠加。试设计非因果IIR平 滑滤波器从x(n)中估计d(n) 。已知d(n)和v(n)的自相 关函数分别为
讲维纳和卡尔曼滤波 kay的统计信号处理基础
讲维纳和卡尔曼滤波 kay的统计信号处理基础维纳和卡尔曼滤波是两种常用的统计信号处理方法。
维纳滤波是一种线性滤波方法，用于信号的恢复和优化，而卡尔曼滤波则是一种递推滤波方法，用于动态系统状态估计和预测。
它们在信号处理、控制系统、雷达等多个领域都有广泛的应用。
维纳滤波（Wiener Filter）是由美国工程师诺尔伯特·维纳在上世纪四十年代提出的。
它的基本思想是通过最小化估计值与实际值之间的平方误差，来优化信号的恢复。
维纳滤波器是一个线性时不变系统，通过对输入信号进行加权平均来恢复原始信号。
维纳滤波器的权重函数是通过信号的功率谱密度和叠加信号的互功率谱密度来计算的。
当信号和噪声的功率谱密度已知时，维纳滤波器可以恢复出信号的最佳估计。
维纳滤波的数学模型可以表示为：\[ Y(k) = \sum_{n=0}^{N-1}h(n)X(k-n) + V(k) \]其中，Y(k)是输出信号，X(k)是输入信号，h(n)是维纳滤波器的冲激响应，V(k)是噪声。
维纳滤波器的关键是计算出冲激响应h(n)，一般通过信号和噪声的功率谱密度来求解。
维纳滤波器的优点是简单易实现，计算量小，且可以通过对输入信号进行适当的加权平均来降低噪声。
但是，维纳滤波器对噪声和信号的功率谱密度的估计要求较高，对于非线性系统和非高斯噪声的处理效果较差。
相对于维纳滤波器，卡尔曼滤波（Kalman Filter）是一种更为复杂和高级的滤波方法，它由美国数学家鲁道夫·卡尔曼在上世纪五十年代提出，并在航天和导航领域得到了广泛应用。
卡尔曼滤波器是一种递推滤波方法，适用于状态变量随时间演化的动态系统。
卡尔曼滤波的基本思想是通过对系统状态进行递推估计，同时考虑系统的测量值和预测值，并根据它们的权重对估计值进行修正。
卡尔曼滤波器使用线性动力学模型来描述系统的状态变化，并基于高斯分布的统计特性来推导出滤波器的数学公式。
卡尔曼滤波器的数学模型可以表示为：\[ X_{k+1} = AX_k +Bu_k + w_k \]和\[ Z_k = HX_k + v_k \]其中，X_k是系统的状态向量，A是状态转移矩阵，B是输入控制向量，u_k是输入信号，w_k是过程噪声，Z_k是系统的观测向量，H是观测转移矩阵，v_k是观测噪声。
维纳滤波和卡尔曼滤波
维纳滤波和卡尔曼滤波
哇塞！同学们，你们听说过维纳滤波和卡尔曼滤波吗？反正一开始我是完全不知道这俩是啥玩意儿。
就好像在一个神秘的科学王国里，突然冒出来两个奇怪的名字。
维纳滤波，这名字听起来是不是有点像某个超级英雄的技能？可它不是用来拯救世界的，而是在信号处理的世界里大展身手呢！
有一次上科学课，老师讲起维纳滤波，我那叫一个懵啊！老师说它就像是一个超级聪明的小助手，能把那些乱糟糟的信号变得整整齐齐。
我就想，这难道是有魔法吗？比如说，我们听到的广播里有时候会有沙沙的杂音，维纳滤波就能把这些杂音去掉，让声音变得清晰又好听。
这难道不神奇吗？
再说卡尔曼滤波，它就像是一个预测大师。
比如说，我们预测明天会不会下雨，可能不太准。
但卡尔曼滤波就能根据一堆的数据和信息，更准确地预测出一些变化。
我问同桌：“你能明白这俩滤波是咋回事不？”同桌摇摇头说：“我也迷糊着呢！”
后来老师又举了个例子，说维纳滤波好比是个精心整理房间的小管家，把房间里乱七八糟的东西归置得井井有条；卡尔曼滤波呢，就像是个能提前知道你需要什么东西的小精灵，早早地就给你准备好。
哎呀，虽然听了老师这么多例子，我还是觉得这俩滤波有点难理解。
不过我想，只要我努力学习，总有一天能搞清楚它们的！
同学们，你们是不是也和我一样，对维纳滤波和卡尔曼滤波充满了好奇和探索的欲望呢？反正我是下定决心要把它们弄明白啦！。
第七章 维纳滤波和卡尔曼滤
输入该滤波器时，在输出端能将信号尽可能精确地 表现出来。维纳滤波和卡尔曼滤波就是用来解决这 样一类问题的方法：从噪声中提取出有用的信号。 实际上，这种线性滤波方法也被看成是一种估计问 题或者线性预测问题。
设有一个线性系统，它的单位脉冲响应是，当输入一 个观测到的随机信号，简称观测值，且该信号包含噪 声和有用信号，简称信号，也即
]
= E[ s (n) − 2 s (n) ∑ h(m) x(n − m) + ∑∑ hopt (m) x(n − m)hopt (r ) x(n − r )]
m =0 m =0 r =0
N −1 = Rss (0) − 2∑ hopt (m) R xs (m) + ∑ hopt (m) ∑ hopt (r ) R xx (m − r ) m=0 m =0 r =0
N −1
N −1
由式（7 15）进一步化简得 由式（7-15）进一步化简得：
E[e ( n)] min = Rss (0) − ∑ hopt ( m) R xs (m)
2 m =0 N −1
(7-19)
用有限长的 h(n) 来实现维纳滤波时，当 已知观测值的自相关和观测值与信号的互 相关时就可以按照式（7-15）在时域里求解 hopt (n) 但是当N比较大时，计算量很大，并 且涉及到求自相关矩阵的逆矩阵问题。
……………(7-16)
简化形式：
RxxH=Rxs (7-17)
式中，H＝[h(0) h(1) …h(N-1)]′，是待求的单位脉冲 响应；
Rxs＝ Rxx＝ ＝
[R xs (0), R xs (1),⋯ R xs ( N − 1)] ′，是互相关序列；
R xx (1) R xx (0) R (1) R xx (0) xx ⋮ ⋮ R xx ( N − 1) R xx ( N − 2) ⋯ R xx ( N − 1) ⋯ R xx ( N − 2) ，是自相关矩阵 ⋯ ⋮ ⋯ R xx (0)
第2章 维纳滤波和卡尔曼滤波
维纳 滤波器
相关函数
H(z)或h(n)
平稳
解析形式
卡尔曼 滤波器
前一个估 计值和最 近的观察
状态方程 量测方程
状态变量 估计值
平稳或 递推算法 非平稳
60 年代
2018年10月9日星期二
15:38:36
4
153
2.2 维纳滤波器的离散形式—时域解
§2.2 维纳滤波器的离散形式—时域解 2.2.1 维纳滤波器时域求解的方法 考虑到系统的因果性，即h(n)=0，n<0 （2.2.2） 设期望信号为d(n)，计算误差和均方误差为 e(n)=d(n) －y(n)=s(n) －y(n) （2.2.３） （2.2.４）
15:38:36
24
153
2.2 维纳滤波器的离散形式—时域解
v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形，
且
2 rv2v2 (， 0) 2
因此，输出信号的自相关Ryy为
2018年10月9日星期二
15:38:36
25
153
2.2 维纳滤波器的离散形式—时域解
(3) 计算输出信号与期望信号的互相关函数矩阵。 由于两个信 号都是实信号，故 ryd(m)=E［y(n)d(n-m)］=E［y(n)x1(n-m)］ =E［(x(n)+v2(n))x1(n-m)］=E［x(n)x1(n-m)］ m=0, 1 根据图2.2.2系统H2(z)的输入与输出的关系, 有 x1(n)-b1x(n-1)=x(n) 这样 x1(n)=x(n)+b1x(n-1)
2018年10月9日星期二 15:38:的离散形式—时域解
% 滤波 y = filter(Wopt, 1, x); % 误差 En = d - y'; % 结果 figure, plot(n, d, 'r:', n, y, 'b-'); legend('维纳滤波信号真值','维纳滤波估计值'); title('期望信号 与滤波结果对比'); xlabel('观测点数');ylabel('信号幅度');figure, plot(n , En); title('维纳滤波误差曲线'); xlabel('观测点数');ylabel('误差幅度'); toc
第二章—维纳滤波和卡尔曼滤波
H
c
(z)
2
1 B(
z)
[
Ssx (z) B(z 1 )
]
• 计算步骤如下：
•
(1)对
S xx
(z)
进行谱分解（因式分解）
S
x
x
(
z)
2
B(
z)
B(
z
1
)
• (2)对 Ssx (z)
进行因果和逆因果分解
B(z 1 )
Ssx (z) B(z 1 )
[
Ssx (z B(z 1
) )
]
[
Ssx (z B(z 1
N
• 称y(n) 是 sˆ(n)的估计值。 h(n) 为估计器。这种滤波器
称为最佳滤波器。
• 如果：s(n) 和 v(n) 的谱在频域上是分离的，容易设计一个
线性滤波器抑制噪声并提取信号。这是本科中经典数字信号 处理理论中详细讨论过的数字滤波器的设计问题。但是
• s(n) 和 v(n) 的谱有一部分相互重叠，则问题就要复杂的
E[e(n) x(n j)] 0
• 上式称为正交方程。（这是讲当用两个矢量正交时它们的 点乘等于零的关系，正交性原理可借用几何图形表示）
• 可见，满足正交性原理与满足最小均方误差的条件是等价
的。由图知，sˆ(n) 最满足最小均方误差的估计值。
• 正交方程表明，任何时刻的估计误差与用于估计的所有数 据（即滤波器的输入）正交。
• （2）
Ssx (z) B( z 1 )
[
Ssx (z B( z 1
) )
]
[
Ssx (z B( z 1
) )
]
0.36
(1 0.8z 1 )(1 0.8z)
维纳滤波和卡尔曼滤波
E
e(n)
2
E
s
sˆ
2
最小
3、本章讨论的主要内容
主要内容：维纳滤波器（FIR维纳滤波器和 IIR维纳滤波器）、维纳预测器、卡尔曼滤 波。
分析思路：在均方误差最小的前提下，求得
系统的单位脉冲响应h(n)或传递函数H(z)，
进而计算滤波器的最小均方误差 E[| e(n) |2 ]min
min
s
e s sˆ
w1x1 0
w2x2
x1
sˆ
x2
正交性原理的重要意义：提供了一个数学方法，用以判 断线性滤波系统是否工作于最佳状态。
2、 维纳—霍夫方程
E[x*(n k)eopt (n)] 0, k 0,1, 2,...
E
x(n
k)
d (n)
hopt,i x(n
i)
*
0
i0
将输入信号分配进去， 得到
（2.2.22）式可以写成矩阵形式， 即
对上式求逆，得到
Rxd Rxxh
h hopt Rxx1Rxd
➢ 这里涉及到计算相关矩阵和逆矩阵，计算量可能较大。
FIR维纳滤波器的估计误差的均方值
假定所研究的信号都是零均值的，滤波器为FIR型，长度
等于M，
E[|
e(n)
第二章 维纳滤波和卡尔曼滤波
2.1 引言 2.2 离散维纳滤波器的时域解 2.3 离散维纳滤波器的z域解 2.4 维纳预测 2.5 卡尔曼(Kalman)滤波
2.1 引 言
最优滤波 维纳滤波和卡尔曼滤波简介 本章讨论的主要内容
1、最优滤波
信号处理的目的是从噪声中提取信号，得到不受 干扰影响的真正信号。采用的处理系统称为滤波 器。
维纳滤波与卡尔曼滤波
FIR : IIR :
0 ~ M 1 ~ （非因果）； 0 ~ （因果）
11
定义
第 四 章 维 纳 滤 波 和 卡 尔 曼 滤 波
h1 h2 h hM rxx (0) rxx (0) Rxx r ( M 1) xx
8
4.2 维纳滤波器的离散形式—时域解
第 四 章 维 纳 滤 波 和 卡 尔 曼 滤 波
x ( n) s ( n) v ( n)
i
（加性干扰）
ˆ(n) h(i ) x(n i ) x(n) h(n) y ( n) s ˆ( n ) ] 均方误差： (n) E[e (n)] E[ s (n) s
第 四 章 维 纳 滤 波 和 卡 尔 曼 滤 波
例
设y(n)=x(n)+v2(n)，v2(n)是一白噪声，方差
σ22=0.1 。期望信号 x1(n) 的信号模型如图 (a) 所示， 其中白噪声 v1(n) 的方差 σ21=0.27 ，且 b0=0.8458 。
x(n)的信号模型如图（b）所示，b1=0.9458。假定
rxd (0) rxd (1) Rxd rxd ( M 1) rxx ( M 1) rxx (0) rxx ( M 2) rxx ( M 2) rxx (0) rxx (1)
12
第 四 章 维 纳 滤 波 和 卡 尔 曼 滤 波
* 2 * T h ( k ) r ( k ) ( h ) Rxd xd d
1 d2 ( Rdx )H Rxx Rdx
可以看出，均方误差与滤波器的单位脉冲响应是一个 二次函数关系。由于单位脉冲响应h(n) 为M维向量， 因此均方误差是一个超椭圆抛物形曲面，该曲面有极 小点存在。当滤波器工作于最佳状态时，均方误差取 得最小值。 16
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
h(n) 0,当n 0
一、因果维纳滤波器
设是物理可实现的，也即是因果序列：
h(n) 0,当n 0
因此，从式(7-1)、 (7-2)、(7-3)、(7-4)推导：
y(n) sˆ(n) h(m)x(n m) (7-5) m0
E e2 (n)
E
(s(n)
m0
h(m)
x(n
m))
2
(7-6)
要使得均方误差最小，则将上式对各，m＝0， 1，…，求偏导，并且令其等于零，得：
2E(s(n) hopt (m)x(n m))x(n j) 0
j 0,1,2
(7-7)
m0
即 Es(n)x(n j) hopt (m)Ex(n m)x(n j) j 0 m0
用相关函数R来表达上式，则得到维纳－ 霍夫方程的离散形式：
第一节 维纳滤波器的时域解 （Time domain solution of the Wiener filter）
设计维纳滤波器的过程就是寻求在最小均方误差 下滤波器的单位脉冲响应或传递函数的表达式， 其实质就是解维纳－霍夫（Wiener－Hopf）方程。 我们从时域入手求最小均方误差下的，用表示最 佳线性滤波器。这里只讨论因果可实现滤波器的 设计。
x(n) s(n) w(n)
(7-1)
则输出 y(n) 为
y(n) x(n) h(n) h(m)x(n m) (7-2) m
我们希望输出得到的与有用信号尽量接近，因此称为的估计值，用来表示，我们 就有了维纳滤波器的系统框图，如图7-1。这个系统的单位脉冲响应也称为对于 的一种估计器。
(7-8)
Rxs ( j) hopt (m)Rxx ( j m) m0
j0
从维纳－霍夫方程中解出的h就是最小均方误 差下的最佳h，即 hopt (n)
求到 hopt (n) ，这时的均方误差为最小：
E
e2 (n)
m in
E(s(n)
hopt
(m)x(n
m))
2
m0
E[s 2 (n) 2s(n) h(m)x(n m)
维纳滤波和卡尔曼滤波都是解决线性滤波和预测问 题的方法，并且都是以均方误差最小为准则的，在 平稳条件下两者的稳态结果是一致的。但是它们解 决问题的方法有很大区别。维纳滤波是根据全部过 去观测值和当前观测值来估计信号的当前值，因此 它的解形式是系统的传递函数或单位脉冲响应；卡 尔曼滤波是用当前一个估计值和最近一个观测值来 估计信号的当前值，它的解形式是状态变量值。维 纳滤波只适用于平稳随机过程，卡尔曼滤波就没有 这个限制。设计维纳滤波器要求已知信号与噪声的 相关函数，设计卡尔曼滤波器要求已知状态方程和 量测方程，当然两者之间也有联系。
干扰可以是确定信号，如国内的50Hz工频干扰。干扰也可以 是噪声，纯随机信号（白噪声）加上一个直流成分（确定性 信号），就成了最简单的混合随机信号。医学数字信号处理 的目的是要提取包含在随机信号中的确定成分，并探求它与 生理、病理过程的关系，为医学决策提供一定的依据。例如 从自发脑电中提取诱发脑电信号，就是把自发脑电看成是干 扰信号，从中提取出需要的信息成分。因此我们需要寻找一
hopt (m)x(n m)hopt (r)x(n r)]
m0
m0 r0
Rss (0) 2 hopt (m)Rxs (m) hopt (m) hopt (r)Rxx (m r)
m0
m0
r 0
由式（7-9）进一步化简得：
E[e2 (n)]min Rss (0) hopt (m)Rxs (m) m0
种最佳线性滤波器，当信号和干扰以及随机噪声同时输 入该滤波器时，在输出端能将信号尽可能精确地表 现出来。维纳滤波和卡尔曼滤波就是用来解决这样 一类问题的方法：从噪声中提取出有用的信号。实 际上，这种线性滤波方法也被看成是一种估计问题 或者线性预测问题。
设有一个线性系统，它的单位脉冲响应是，当输入一 个观测到的随机信号，简称观测值，且该信号包含噪 声和有用信号，简称信号，也即
第七章 维纳滤波和卡尔曼滤 （Wiener and Kalman Filtering）
随机信号或随机过程(random process)是普遍存 在的。一方面，任何确定性信号经过测量后往往 就会引入随机性误差而使该信号随机化；另一方 面，任何信号本身都存在随机干扰，通常把对信 号或系统功能起干扰作用的随机信号称之为噪声。 噪声按功率谱密度划分可以分为白噪声（white noise）和色噪声（color noise），我们把均值为 0的白噪声叫纯随机信号（pure random signal）。 因此，任何其它随机信号都可看成是纯随机信号 与确定性信号并存的混合随机信号或简称为随机 信号。要区别干扰（interference）和噪声 ( noise)两种事实和两个概念。非目标信号 （nonobjective signal）都可叫干扰。
(7-10)
二、有限脉冲响应法求解维纳－霍夫方程
如何去求解维纳－霍夫方程，即式（7-9）中解的问题，设是一个因果序列且 可以用有限长（N点长）的序列去逼近它，则式(7-5) －(7-10)分别发生变化
N 1
y(n) sˆ(n) h(m)x(n m) m0
x(n) s(n) w(n)
h(n)
y(n) sˆ(n)
图7-1 维纳滤波器的输入输 出关系
如果该系统是因果系统，式(7-2)的m＝0，1，2，…，则输出的可以看成是由当 前时刻的观测值和过去时刻的观测值、、…的估计值。用当前的和过去的观测值 来估计当前的信号称为滤波；用过去的观测值来估计当前的或将来的信号，N， 称为预测；用过去的观测值来估计过去的信号，N，称为平滑或者内插。本章将 讨论滤波和预测问题。
从图7-1的系统框图中估计到的信号和我们期望得n) s(n) sˆ(n)
(7-3)
显然是随机变量，维纳滤波和卡尔曼滤波的误差准 则就是最小均方误差准则：
E e2 (n) E (s(n) sˆ(n)) 2 (7-4)