现代谱估计
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
➢ 自适应滤波器的应用
• 系统辨识与均衡（如信道估计与均衡； • 雷达和声纳波束形成(beamforming); • 噪声中信号的检测、跟踪、增强等； • 信号或时间序列的自适应预测； • 语音和图像的自适应预测编码。
9
最优滤波理论
❖ 线性最优滤波器
➢问题描述
• 考虑如图所示的一般线性离散时间滤波器。设该滤波器 的输入由u(1),u(2),… 组成，滤波器的脉冲响应w(1),w(2),…。 令y(n)代表滤波器在时间n时的输出,希望它是期望响应d(n) 的估计值。
11
最优滤波理论
❖ 线性最优滤波器（续）
➢结论 线性离散时间滤波器的最优设计问题可表述如下： 设计线性离散时间滤波器的系数w, 使滤波器输出 y(n) 在给定输入样本u(0),u(1),…的情况下给出期望响应d(n) 的估计，并能使估计误差 e(n) d(n) y(n) 的均方值 E{e(n) 2} 为最小
(
M
1)
Ru,u (1) Ru,u (0)
Ru*,u (M 2)
Ru,u (M 1) Ru,u (M 2)
Ru,u (0)
定义输入与期望响应的互相关向量：
r E u(n)d*(n) Ru,d (0), Ru,d (1), , Ru,d (1 M ) T
21
Wiener-Hopf方程的解
z 1
…u(n M 2) z1 u(n M 1)
* 0
1*
… * M 2
…
* M 1
+
d (n)
18
根据最优滤波器的正交性原理有下式：
E
u(n
k
)d
*
(n)
M 1
wopt
i0
(i)u*
(n
i)
0
k 0,1,2,
等价于，
M 1
wopt (i)E u(n k)u*(n i) E u(n k)d *(n)
32
LMS滤波器（续）
步长参数，学习速率
梯度下降算法：w(n) w(n 1) (n)J (n)
缺点：真实梯度含数学期望，不易求得。 真实梯度
改进：w(n) w(n 1) (n)ˆ J (n 1)
瞬时梯度：
梯度估计
ˆ J (n 1) e*(n)u(n)
e(n) d(n) wH (n 1)u(n)
29
自适应滤波基本原理
▪ 自适应滤波器包括两个过程：滤波过程和自适应过程。
此仅考虑后者,即滤波器的自适应实现问题；且主要考虑 FIR滤波器的自适应实现，其关键是自适应算法。
▪ FIR滤波器的自适应实现指的是：M 阶FIR滤波器的抽
头权系数w1,…,wM-1可以根据估计误差e(n)的大小自动调 节，使得误差在某个统计最优准则下最小。
即
E u(n k)eo*pt (n) 0 k 0,1,2
上述表明，使得均方误差代价函数最小时的均方误 差(即最小均方误差)与输入向量正交。这就是著名 的正交性原理。
15
正交性原理（续）
由正交性原理
E
eo*pt (n) y(n)
E
eo*pt (n)
wk*u(n k )
k 0
(X)
i0
上式左边的数学期望代表滤波器输入的自相关函数：
Ru,u (i k) E u(n k)u*(n i)
右边的数学期望代表滤波器输入与期望输出的互相关函数：
Ru,d (k) E u(n k)d*(n)
19
Wiener滤波理论
则（X）式可以重新写为：
M 1
wopt (i)Ru,u (i k) Ru,d (k)
定义函数对复变量的求导：
J (w) J (w) j J (w)
w a
b
其中a,b分别为w变量的实部与虚部
容易看出， J (w) 2E u(n k)e*(n) w
令 J (w) ０ 即可得到最小均方值条件。 w
即 E u(n k)eo*pt (n) 0 k 0,1,2
14
正交性原理（续）
27
梯度下降算法（续）
梯度下降算法的迭代过程： xk xk1 x f (x), 0
近似解在迭代过程中的校正量与目标函数的负梯度 成正比。上式称为优化问题近似解的学习算法；常
数 成为学习步长，它决定近似解趋向最优解的收
敛速率。
28
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
梯度的重要性质
指出了当变元增大时函数的最大增大率。相反， 梯度的负值（简称负梯度）指出了当变元增大时 函数的最大减小率。这一性质是梯度下降算法的 基础。
26
梯度下降算法（续）
定理：令 f (x)是实向量 x 的实值函数。将 x 视
为独立的变元，实目标函数 f (x) 的曲率方向由梯 度向量x f (x) 给出。 极小化 取负曲率方向作搜索方向 取负梯度 作目标函数的更新方向。
▪ 滤波器设计最常用的准则：MMSE准则，即是使滤波器
实际输出y(n)与期望响应d(n)之间的均方误差E{e(n) 2}最小; 最终达到Wiener解。
30
自适应滤波基本原理（续）
▪ 最广泛使用的自适应算法是“下降算法” w(n) w(n 1) (n)v(n)
式中w(n)为第n步迭代(亦即时刻n)的权向量，(n) 为第n步 迭代的更新步长，v(n)为第n步迭代的更新方向(向量) ▪ 下降算法的两种实现方式 - 自适应梯度算法：LMS算法及其改进算法 - 自适应高斯－牛顿算法：RLS算法及其改进算法 本节介绍LMS类算法，下一节介绍RLS类算法。
12
正交性原理
根据滤波器原理，n时刻的滤波器输出表示为：
y(n) wk*u(n k), n 1,2, k 0
期望信号响应用 d(n) 表示，定义估计误差为：
e(n) d(n) y(n)
定义代价函数为均方误差的平方
J (n) E e(n) 2 E e(n)e*(n)
13
正交性原理（续）
24
梯度下降算法
梯度的数学表示：
相对于n1 向量 x 的梯度算子记作 x ，定义为
x
x1
,
x2
,
,
xn
x
因此，一个实际量函数 f (x) 相对于一列向量的梯度为
x f (x)
f (x)
x1
,
f (x) x2
Hale Waihona Puke Baidu
,
,
f (x)
xn
f (x) x
25
梯度下降算法（续）
梯度的几何特征
梯度的每个分量给出了标量函数在该分量方向 上的变化率。
• 估计误差e(n)定义为期望响应d(n)与滤波器输出y(n)之差, 即
e(n) d(n) y(n)
对滤波器要求是使估计误差在某种统计意义下“尽可能小”。
10
最优滤波理论
❖ 线性最优滤波器（续）
➢对滤波器的约束
• 滤波器是线性的。 一是为了使信号通过滤波器后不致于发生“畸变”； 二是为了便于对滤波器进行数学分析.
2. 求最优滤波器时需要计算矩阵求逆，其计算复杂 度量级是滤波器长度的三次方。
由于存在这些问题，实际实现Wiener滤波时，并不是 直接计算得到最优Wiener滤波器的系数，而是代之以 LMS, RLS, Kalman等自适应滤波器。
23
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
wk* E eo*pt (n)u(n k ) 0
k 0
最优滤波器的输出与输入误差也正交。
16
正交性原理的几何解释
d
eopt
y
结论：最优滤波器的输出误差与其之前的输入正交， 滤波器的输出由输入子空间张成，这输出误差与输 入误差也正交。
17
FIR型的Wiener滤波器
u(n)
u(n 1)
z 1
31
LMS滤波器
随机优化问题：min E d (n) wH (n)u(n) 2 w
Wiener滤波器：wopt Ruu1rud
最陡下降法：
w(n) w(n 1) (n)w* J (w(n 1))
w* J (w(n 1)) w* E d(n) wH (n 1)u(n) 2
真实梯度
6
最优预测和滤波
❖ 维纳滤波与卡尔曼滤波
➢维纳滤波
设信号s(k)或s(k)及观测过程x(k)或x(k)是广义平稳的, 且 已知其功率谱或自相关函数的知识，则基于观测过程x(k) 或x(k)，按线性最小均方误差估计准则，对信号s(k)或s(k) 所作的最优估计称为维纳滤波
➢卡尔曼滤波
设已知信号的动态模型测量方程，则基于过程x(k)及初 始条件，按线性无偏最小方差递推估计准则,对状态s(k) 所作的最优估计称为卡尔曼滤波.
8
最优预测和滤波
❖ 自适应滤波器
➢ 自适应滤波器的特点
在信号和噪声统计特性先验未知的情况下,自适应滤波器 也能够提供卓越的滤波性能。该滤波器的特点如下。 • 可自动调整其自身参数，使系统特性满足要求； • 只需很少或根本无需任何关于信号和噪声的先验知识； • 实现差不多象维纳滤波那么简单，性能接近卡尔曼滤波
i0
这就是著名的Wiener-Hopf方程，该方程定义了最优 滤波器 必须服从的条件。
定义输入向量
u(n) u(n), u(n 1), ,u(n M 1)T
20
Wiener滤波理论（续）
定义输入信号的自相关矩阵：
R E u(n)uH (n)
Ru,u (0)
Ru*,u (1)
Ru*,u
Wiener-Hopf方程可以写成更紧凑的矩阵表示形式： RWopt r
其中， Wopt＝ wopt (0), wopt (1), , wopt (M 1) T
若输入信号的自相关矩阵为可逆矩阵， Wopt＝R1r
22
最优滤波器实现存在的问题
1. Wiener滤波器最优权系数可以由计算输入信号的 自相关函数和输入信号与期望输出的互相关得到。实 际中这两个参数是未知的，需要通过估计得到。而估 计需要观测无限长信号。
7
最优预测和滤波
❖ 自适应滤波器
➢ 维纳滤波与卡尔曼滤波的特点
维纳滤波和卡尔曼滤波都是随机情况下最优滤波, 特点是: • 维纳滤波: 参数固定, 适用于平稳随机情况下的最优滤波
且实现简单； • 卡尔曼滤波: 参数时变, 适用于非平稳随机情况下最优滤波
且性能优越；
➢ 维纳滤波与卡尔曼滤波的局限性
只有在信号和噪声统计特性先验已知的情况下,这两种滤 波器才能获得最优滤波。在实际应用中,往往无法得到这 些统计特性的先验知识, 或统计特性随时间而变, 这时就 无法用这两种滤波器实现最优滤波。
所谓滤波,是指在含噪信号x(k)=s(k)+v(k) 或其矢 量信号x(k)=s(k)+v(k)中尽可能排除噪声v(k)或v(k) 干扰，而将有用信号s(k)或s(k)分离或提取出来。
➢ 滤波、预测与平滑
设基于观测过程x(k)或矢量观测过程x(k)，对 s(k+α)或s(k+α)作最优估计，那么 • 若α=0，就是滤波问题。 • 若α>0，就是预测问题。 • 若α<0，就是平滑问题。
2
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
3
最优滤波理论与Wiener滤波器
❖ 最优预测和滤波 ❖ 最优滤波理论 ❖ 正交性原理 ❖ Wiener滤波器
• 滤波器是离散时间的，便于系统数字硬件或软件实现.
➢ 设计准则:估计误差在某种条件意义下尽可能小的滤波
器称为这一统计意义下的最优滤波器。最常用的最优准 则是使某个代价函数最小化。最典型的代价函数有： • 估计误差的均方值(最常用的统计优化准则,即MMSE准则) • 估计误差绝对值的期望值 • 估计误差绝对值的三次幂或高次幂的期望值
4
最优预测和滤波
❖ 波形估计与动态估计
• 估计问题
在许多实际问题中，需要研究随时间变化的随 机变量或随机矢量的估计问题，即按照某种最 优准则对随时间变化的随机变量或随机矢量作 出估计。
• 不同称谓
- 在通信工程中称为波形估计 - 在控制工程中称为动态估计
5
最优预测和滤波
❖ 滤波与预测
➢ 滤波定义
ARMA谱估计 (差分模型) 等价关系
最大熵方法 (信息论)
功率谱估计
现 代
Pisarenko谐波分析 (特征值分解)
谱 估
扩展Prony方法 (复指数模型拟合)
计
波束形成器
空间谱估计 Capon空间谱 MUSIC 子空间方法
ESPRIT 广义特征值分解
高阶谱(多谱)估计
1
第四章 自适应信号处理
郑宝玉
• 系统辨识与均衡（如信道估计与均衡； • 雷达和声纳波束形成(beamforming); • 噪声中信号的检测、跟踪、增强等； • 信号或时间序列的自适应预测； • 语音和图像的自适应预测编码。
9
最优滤波理论
❖ 线性最优滤波器
➢问题描述
• 考虑如图所示的一般线性离散时间滤波器。设该滤波器 的输入由u(1),u(2),… 组成，滤波器的脉冲响应w(1),w(2),…。 令y(n)代表滤波器在时间n时的输出,希望它是期望响应d(n) 的估计值。
11
最优滤波理论
❖ 线性最优滤波器（续）
➢结论 线性离散时间滤波器的最优设计问题可表述如下： 设计线性离散时间滤波器的系数w, 使滤波器输出 y(n) 在给定输入样本u(0),u(1),…的情况下给出期望响应d(n) 的估计，并能使估计误差 e(n) d(n) y(n) 的均方值 E{e(n) 2} 为最小
(
M
1)
Ru,u (1) Ru,u (0)
Ru*,u (M 2)
Ru,u (M 1) Ru,u (M 2)
Ru,u (0)
定义输入与期望响应的互相关向量：
r E u(n)d*(n) Ru,d (0), Ru,d (1), , Ru,d (1 M ) T
21
Wiener-Hopf方程的解
z 1
…u(n M 2) z1 u(n M 1)
* 0
1*
… * M 2
…
* M 1
+
d (n)
18
根据最优滤波器的正交性原理有下式：
E
u(n
k
)d
*
(n)
M 1
wopt
i0
(i)u*
(n
i)
0
k 0,1,2,
等价于，
M 1
wopt (i)E u(n k)u*(n i) E u(n k)d *(n)
32
LMS滤波器（续）
步长参数，学习速率
梯度下降算法：w(n) w(n 1) (n)J (n)
缺点：真实梯度含数学期望，不易求得。 真实梯度
改进：w(n) w(n 1) (n)ˆ J (n 1)
瞬时梯度：
梯度估计
ˆ J (n 1) e*(n)u(n)
e(n) d(n) wH (n 1)u(n)
29
自适应滤波基本原理
▪ 自适应滤波器包括两个过程：滤波过程和自适应过程。
此仅考虑后者,即滤波器的自适应实现问题；且主要考虑 FIR滤波器的自适应实现，其关键是自适应算法。
▪ FIR滤波器的自适应实现指的是：M 阶FIR滤波器的抽
头权系数w1,…,wM-1可以根据估计误差e(n)的大小自动调 节，使得误差在某个统计最优准则下最小。
即
E u(n k)eo*pt (n) 0 k 0,1,2
上述表明，使得均方误差代价函数最小时的均方误 差(即最小均方误差)与输入向量正交。这就是著名 的正交性原理。
15
正交性原理（续）
由正交性原理
E
eo*pt (n) y(n)
E
eo*pt (n)
wk*u(n k )
k 0
(X)
i0
上式左边的数学期望代表滤波器输入的自相关函数：
Ru,u (i k) E u(n k)u*(n i)
右边的数学期望代表滤波器输入与期望输出的互相关函数：
Ru,d (k) E u(n k)d*(n)
19
Wiener滤波理论
则（X）式可以重新写为：
M 1
wopt (i)Ru,u (i k) Ru,d (k)
定义函数对复变量的求导：
J (w) J (w) j J (w)
w a
b
其中a,b分别为w变量的实部与虚部
容易看出， J (w) 2E u(n k)e*(n) w
令 J (w) ０ 即可得到最小均方值条件。 w
即 E u(n k)eo*pt (n) 0 k 0,1,2
14
正交性原理（续）
27
梯度下降算法（续）
梯度下降算法的迭代过程： xk xk1 x f (x), 0
近似解在迭代过程中的校正量与目标函数的负梯度 成正比。上式称为优化问题近似解的学习算法；常
数 成为学习步长，它决定近似解趋向最优解的收
敛速率。
28
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
梯度的重要性质
指出了当变元增大时函数的最大增大率。相反， 梯度的负值（简称负梯度）指出了当变元增大时 函数的最大减小率。这一性质是梯度下降算法的 基础。
26
梯度下降算法（续）
定理：令 f (x)是实向量 x 的实值函数。将 x 视
为独立的变元，实目标函数 f (x) 的曲率方向由梯 度向量x f (x) 给出。 极小化 取负曲率方向作搜索方向 取负梯度 作目标函数的更新方向。
▪ 滤波器设计最常用的准则：MMSE准则，即是使滤波器
实际输出y(n)与期望响应d(n)之间的均方误差E{e(n) 2}最小; 最终达到Wiener解。
30
自适应滤波基本原理（续）
▪ 最广泛使用的自适应算法是“下降算法” w(n) w(n 1) (n)v(n)
式中w(n)为第n步迭代(亦即时刻n)的权向量，(n) 为第n步 迭代的更新步长，v(n)为第n步迭代的更新方向(向量) ▪ 下降算法的两种实现方式 - 自适应梯度算法：LMS算法及其改进算法 - 自适应高斯－牛顿算法：RLS算法及其改进算法 本节介绍LMS类算法，下一节介绍RLS类算法。
12
正交性原理
根据滤波器原理，n时刻的滤波器输出表示为：
y(n) wk*u(n k), n 1,2, k 0
期望信号响应用 d(n) 表示，定义估计误差为：
e(n) d(n) y(n)
定义代价函数为均方误差的平方
J (n) E e(n) 2 E e(n)e*(n)
13
正交性原理（续）
24
梯度下降算法
梯度的数学表示：
相对于n1 向量 x 的梯度算子记作 x ，定义为
x
x1
,
x2
,
,
xn
x
因此，一个实际量函数 f (x) 相对于一列向量的梯度为
x f (x)
f (x)
x1
,
f (x) x2
Hale Waihona Puke Baidu
,
,
f (x)
xn
f (x) x
25
梯度下降算法（续）
梯度的几何特征
梯度的每个分量给出了标量函数在该分量方向 上的变化率。
• 估计误差e(n)定义为期望响应d(n)与滤波器输出y(n)之差, 即
e(n) d(n) y(n)
对滤波器要求是使估计误差在某种统计意义下“尽可能小”。
10
最优滤波理论
❖ 线性最优滤波器（续）
➢对滤波器的约束
• 滤波器是线性的。 一是为了使信号通过滤波器后不致于发生“畸变”； 二是为了便于对滤波器进行数学分析.
2. 求最优滤波器时需要计算矩阵求逆，其计算复杂 度量级是滤波器长度的三次方。
由于存在这些问题，实际实现Wiener滤波时，并不是 直接计算得到最优Wiener滤波器的系数，而是代之以 LMS, RLS, Kalman等自适应滤波器。
23
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
wk* E eo*pt (n)u(n k ) 0
k 0
最优滤波器的输出与输入误差也正交。
16
正交性原理的几何解释
d
eopt
y
结论：最优滤波器的输出误差与其之前的输入正交， 滤波器的输出由输入子空间张成，这输出误差与输 入误差也正交。
17
FIR型的Wiener滤波器
u(n)
u(n 1)
z 1
31
LMS滤波器
随机优化问题：min E d (n) wH (n)u(n) 2 w
Wiener滤波器：wopt Ruu1rud
最陡下降法：
w(n) w(n 1) (n)w* J (w(n 1))
w* J (w(n 1)) w* E d(n) wH (n 1)u(n) 2
真实梯度
6
最优预测和滤波
❖ 维纳滤波与卡尔曼滤波
➢维纳滤波
设信号s(k)或s(k)及观测过程x(k)或x(k)是广义平稳的, 且 已知其功率谱或自相关函数的知识，则基于观测过程x(k) 或x(k)，按线性最小均方误差估计准则，对信号s(k)或s(k) 所作的最优估计称为维纳滤波
➢卡尔曼滤波
设已知信号的动态模型测量方程，则基于过程x(k)及初 始条件，按线性无偏最小方差递推估计准则,对状态s(k) 所作的最优估计称为卡尔曼滤波.
8
最优预测和滤波
❖ 自适应滤波器
➢ 自适应滤波器的特点
在信号和噪声统计特性先验未知的情况下,自适应滤波器 也能够提供卓越的滤波性能。该滤波器的特点如下。 • 可自动调整其自身参数，使系统特性满足要求； • 只需很少或根本无需任何关于信号和噪声的先验知识； • 实现差不多象维纳滤波那么简单，性能接近卡尔曼滤波
i0
这就是著名的Wiener-Hopf方程，该方程定义了最优 滤波器 必须服从的条件。
定义输入向量
u(n) u(n), u(n 1), ,u(n M 1)T
20
Wiener滤波理论（续）
定义输入信号的自相关矩阵：
R E u(n)uH (n)
Ru,u (0)
Ru*,u (1)
Ru*,u
Wiener-Hopf方程可以写成更紧凑的矩阵表示形式： RWopt r
其中， Wopt＝ wopt (0), wopt (1), , wopt (M 1) T
若输入信号的自相关矩阵为可逆矩阵， Wopt＝R1r
22
最优滤波器实现存在的问题
1. Wiener滤波器最优权系数可以由计算输入信号的 自相关函数和输入信号与期望输出的互相关得到。实 际中这两个参数是未知的，需要通过估计得到。而估 计需要观测无限长信号。
7
最优预测和滤波
❖ 自适应滤波器
➢ 维纳滤波与卡尔曼滤波的特点
维纳滤波和卡尔曼滤波都是随机情况下最优滤波, 特点是: • 维纳滤波: 参数固定, 适用于平稳随机情况下的最优滤波
且实现简单； • 卡尔曼滤波: 参数时变, 适用于非平稳随机情况下最优滤波
且性能优越；
➢ 维纳滤波与卡尔曼滤波的局限性
只有在信号和噪声统计特性先验已知的情况下,这两种滤 波器才能获得最优滤波。在实际应用中,往往无法得到这 些统计特性的先验知识, 或统计特性随时间而变, 这时就 无法用这两种滤波器实现最优滤波。
所谓滤波,是指在含噪信号x(k)=s(k)+v(k) 或其矢 量信号x(k)=s(k)+v(k)中尽可能排除噪声v(k)或v(k) 干扰，而将有用信号s(k)或s(k)分离或提取出来。
➢ 滤波、预测与平滑
设基于观测过程x(k)或矢量观测过程x(k)，对 s(k+α)或s(k+α)作最优估计，那么 • 若α=0，就是滤波问题。 • 若α>0，就是预测问题。 • 若α<0，就是平滑问题。
2
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
3
最优滤波理论与Wiener滤波器
❖ 最优预测和滤波 ❖ 最优滤波理论 ❖ 正交性原理 ❖ Wiener滤波器
• 滤波器是离散时间的，便于系统数字硬件或软件实现.
➢ 设计准则:估计误差在某种条件意义下尽可能小的滤波
器称为这一统计意义下的最优滤波器。最常用的最优准 则是使某个代价函数最小化。最典型的代价函数有： • 估计误差的均方值(最常用的统计优化准则,即MMSE准则) • 估计误差绝对值的期望值 • 估计误差绝对值的三次幂或高次幂的期望值
4
最优预测和滤波
❖ 波形估计与动态估计
• 估计问题
在许多实际问题中，需要研究随时间变化的随 机变量或随机矢量的估计问题，即按照某种最 优准则对随时间变化的随机变量或随机矢量作 出估计。
• 不同称谓
- 在通信工程中称为波形估计 - 在控制工程中称为动态估计
5
最优预测和滤波
❖ 滤波与预测
➢ 滤波定义
ARMA谱估计 (差分模型) 等价关系
最大熵方法 (信息论)
功率谱估计
现 代
Pisarenko谐波分析 (特征值分解)
谱 估
扩展Prony方法 (复指数模型拟合)
计
波束形成器
空间谱估计 Capon空间谱 MUSIC 子空间方法
ESPRIT 广义特征值分解
高阶谱(多谱)估计
1
第四章 自适应信号处理
郑宝玉