第四章自适应信号处理
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
一步预测：已知y(1), , y(n) , 求yˆ (n＋1) 数学符号：y1(n 1) yˆ (n＋1y(1), , y(n))
Kalman滤波器（续）
新息
α(n) y(n) yˆ1(n) 称 α(n) 为 y(n) 的新息过程向量
性质1：E α(n)yH (k) 0（正交），n k
状态空间方程
x(n 1) F(n 1, n)x(n) y(n) C(n)x(n) v2 (n)
v1
(n)
x(n) : 状态向量，不可观测的、待求的向量
y(n) : 观测数据向量
F(n 1, n) : 状态转移矩阵
C(n) : 观测矩阵
v1(n) : v2 (n) :
过程噪声向量 观测噪声向量
期望响应
测量误差 抽头权向量的估计 输入向量相关矩阵的逆矩阵
增量向量
先验估计误差 ( (n) E{ (n) 2} ) 初始条件
内容
❖ 最优滤波理论与Wiener滤波器
❖ 梯度下降算法
❖ 横向LMS自适应滤波器
❖ 横向RLS自适应滤波器
❖ Kalman滤波器
❖ 自适应格型滤波器
❖ 自适应格-梯型滤波器
❖ 无限脉冲响应自适应滤波器
❖ 盲自适应滤波器
❖ 自适应滤波器的应用
13
自适应格型滤波器
❖ 格型自适应滤波原理
• 对称的格型结构
n时刻的前向和后向预测误差(残差)服从如下递推关系:
fm (n) fm1(n) m gm1(n 1)
(1a)
gm (n) m* fm1(n) gm1(n 1)
(1b)
设计过程：(1)构造状态空间方程；(2)设计 x(n)的更新公式
x(t) dx(t) 0 x(n 1) x(n) 0 dt
x(n 1) x(n) 状态方程 y(n) x(n) v(n) 观测方程
F(n 1, n) 1 Q1(n) 0
C(n) 1
Q2
(n)
2 v
Kalman滤波器（续）
Kalman滤波器（续）
三个基本概念
已知 y(1), , y(n) , 求 x(i) 的估计值。
(1) i n (滤波)：已知 y(1), , y(n) , 求yˆ (n) (2) i＜n (平滑)：已知 y(1), , y(n) , 求yˆ (i), i n (3) i n (预测)：已知 y(1), , y(n) , 求yˆ (i), i n
Kalman滤波器（续）
假设：
E
v1(n)v1H (k)
Q1(n), 0,
若n k 其它
E
v
2
(n)
v
H 2
(k
)
Q
2
(n),
0,
若n k 其它
E
v1
(n)
v
H 2
(n)
0
线性状态模型、高斯噪声 v1(n), v2 (n)
Kalman滤波器（续）
已知：
状态转移矩阵F(n 1, n) 观测矩阵C(n) 过程噪声相关矩阵 Q1(n) 观测噪声相关矩阵 Q2 (n)
其初值为： f0 (n) g0 (n) x(n)
前向和后向预测误差滤波器传递函数递推公式为
P(n) K(n, n 1) F1(n 1, n)G(n)C(n)K(n, n 1)
K(n 1, n) F(n 1, n)P(n)FH (n 1, n) Q1(n) G(n) : Kalman增益矩阵 α(n) : Kalman新息
Kalman滤波器（续）
例：x(t)是一个时不变的标量随机变量，y(t) x(t) v(t) 为观测 数据，其中 v(t)为白噪声。现用Kalman滤波器自适应估计 x(t)， 即考虑设计Kalman滤波器的问题。
α(n)是不同于y(n)的新过程
性质2：E α(n)αH (k) 0 ，n k, α(n)是个白噪声过程
性质3： y(1)， , y(n) α(1), ,α(n)(一一对应关系)
α(n) 可代表 y(n)
Kalman滤波器（续）
估计 x(n)
状态向量估计误差：ε(n, n 1) x(n) xˆ1(n)
gxˆ ((nn)1)K(Kxnˆ (,(nnn),n1g) (1n))vy2 (n) xˆ (n)
K
(n
1,
n)
K
(n,
n
1)1
g(n)
g(n)
2 v
K(1,0) E x2 (n) E x2 (1) P0
g(1),K(2,1);g(2)K(3,2);
LMS、RLS、Kalman算法比较
第四章 自适应信号处理
郑宝玉
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 自适应格-梯型滤波器 ❖ 无限脉冲响应自适应滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
2
Kalman滤波器
相关矩阵：K(n, n 1) E ε(n, n 1)εH (n, n 1)
G(n) F(n 1, n)K(n, n 1)CH (n) C(n)K(n, n 1)CH (n) Q2 (n) 1
α(n) y(n) C(n)xˆ1(n)
校正项
xˆ1(n 1) F(n 1, n)xˆ1(n) G(n)α(n)
时变学习速率、时变遗忘因子 0.97 ~ 0.998
Kalman：无收敛问题，无收敛参数
表1 Kalman滤波算法与RLS滤波算法变量对照表
Kalman算法
参数名称
变量
初始状态向量
s(0)
状态向量
s(n)
参考（观测）信号
y(n)
观测噪声 一步预测的状态向量 状态预测误差相关阵
Kalman增量
v(n)
（1）计算复杂度： LMS<RLS<Kalman 相差不大 （2）RLS算法是“无激励”状态空间模型
x(n 1) 1/2x(n)
y(n) uH (n)x(n) v(n)
下的Kalman滤波算法 （3）收敛速率：
LMS： (n)越大，学习步长越大，收敛越快 RLS： 越大， 遗忘作用越弱，收敛越慢
sˆ(n 1 y1,...,yn ) K(n) g(n)
新息 初始条件
(n) sˆ(1) 0
K(0)
变量
w0
n / 2w 0
n / 2d * (n)
n
/
2
d
* 0
(
n)
n/ 2wˆ (n) 1P(n)
1/ 2k(n)
n / 2 * (Fra Baidu bibliotek)
wˆ (0) 0 1P(0)
RLS算法
参数名称 抽头权向量 指数加权的抽头权向量
Kalman滤波器（续）
新息
α(n) y(n) yˆ1(n) 称 α(n) 为 y(n) 的新息过程向量
性质1：E α(n)yH (k) 0（正交），n k
状态空间方程
x(n 1) F(n 1, n)x(n) y(n) C(n)x(n) v2 (n)
v1
(n)
x(n) : 状态向量，不可观测的、待求的向量
y(n) : 观测数据向量
F(n 1, n) : 状态转移矩阵
C(n) : 观测矩阵
v1(n) : v2 (n) :
过程噪声向量 观测噪声向量
期望响应
测量误差 抽头权向量的估计 输入向量相关矩阵的逆矩阵
增量向量
先验估计误差 ( (n) E{ (n) 2} ) 初始条件
内容
❖ 最优滤波理论与Wiener滤波器
❖ 梯度下降算法
❖ 横向LMS自适应滤波器
❖ 横向RLS自适应滤波器
❖ Kalman滤波器
❖ 自适应格型滤波器
❖ 自适应格-梯型滤波器
❖ 无限脉冲响应自适应滤波器
❖ 盲自适应滤波器
❖ 自适应滤波器的应用
13
自适应格型滤波器
❖ 格型自适应滤波原理
• 对称的格型结构
n时刻的前向和后向预测误差(残差)服从如下递推关系:
fm (n) fm1(n) m gm1(n 1)
(1a)
gm (n) m* fm1(n) gm1(n 1)
(1b)
设计过程：(1)构造状态空间方程；(2)设计 x(n)的更新公式
x(t) dx(t) 0 x(n 1) x(n) 0 dt
x(n 1) x(n) 状态方程 y(n) x(n) v(n) 观测方程
F(n 1, n) 1 Q1(n) 0
C(n) 1
Q2
(n)
2 v
Kalman滤波器（续）
Kalman滤波器（续）
三个基本概念
已知 y(1), , y(n) , 求 x(i) 的估计值。
(1) i n (滤波)：已知 y(1), , y(n) , 求yˆ (n) (2) i＜n (平滑)：已知 y(1), , y(n) , 求yˆ (i), i n (3) i n (预测)：已知 y(1), , y(n) , 求yˆ (i), i n
Kalman滤波器（续）
假设：
E
v1(n)v1H (k)
Q1(n), 0,
若n k 其它
E
v
2
(n)
v
H 2
(k
)
Q
2
(n),
0,
若n k 其它
E
v1
(n)
v
H 2
(n)
0
线性状态模型、高斯噪声 v1(n), v2 (n)
Kalman滤波器（续）
已知：
状态转移矩阵F(n 1, n) 观测矩阵C(n) 过程噪声相关矩阵 Q1(n) 观测噪声相关矩阵 Q2 (n)
其初值为： f0 (n) g0 (n) x(n)
前向和后向预测误差滤波器传递函数递推公式为
P(n) K(n, n 1) F1(n 1, n)G(n)C(n)K(n, n 1)
K(n 1, n) F(n 1, n)P(n)FH (n 1, n) Q1(n) G(n) : Kalman增益矩阵 α(n) : Kalman新息
Kalman滤波器（续）
例：x(t)是一个时不变的标量随机变量，y(t) x(t) v(t) 为观测 数据，其中 v(t)为白噪声。现用Kalman滤波器自适应估计 x(t)， 即考虑设计Kalman滤波器的问题。
α(n)是不同于y(n)的新过程
性质2：E α(n)αH (k) 0 ，n k, α(n)是个白噪声过程
性质3： y(1)， , y(n) α(1), ,α(n)(一一对应关系)
α(n) 可代表 y(n)
Kalman滤波器（续）
估计 x(n)
状态向量估计误差：ε(n, n 1) x(n) xˆ1(n)
gxˆ ((nn)1)K(Kxnˆ (,(nnn),n1g) (1n))vy2 (n) xˆ (n)
K
(n
1,
n)
K
(n,
n
1)1
g(n)
g(n)
2 v
K(1,0) E x2 (n) E x2 (1) P0
g(1),K(2,1);g(2)K(3,2);
LMS、RLS、Kalman算法比较
第四章 自适应信号处理
郑宝玉
内容
❖ 最优滤波理论与Wiener滤波器 ❖ 梯度下降算法 ❖ 横向LMS自适应滤波器 ❖ 横向RLS自适应滤波器 ❖ Kalman滤波器 ❖ 自适应格型滤波器 ❖ 自适应格-梯型滤波器 ❖ 无限脉冲响应自适应滤波器 ❖ 盲自适应滤波器 ❖ 自适应滤波器的应用
2
Kalman滤波器
相关矩阵：K(n, n 1) E ε(n, n 1)εH (n, n 1)
G(n) F(n 1, n)K(n, n 1)CH (n) C(n)K(n, n 1)CH (n) Q2 (n) 1
α(n) y(n) C(n)xˆ1(n)
校正项
xˆ1(n 1) F(n 1, n)xˆ1(n) G(n)α(n)
时变学习速率、时变遗忘因子 0.97 ~ 0.998
Kalman：无收敛问题，无收敛参数
表1 Kalman滤波算法与RLS滤波算法变量对照表
Kalman算法
参数名称
变量
初始状态向量
s(0)
状态向量
s(n)
参考（观测）信号
y(n)
观测噪声 一步预测的状态向量 状态预测误差相关阵
Kalman增量
v(n)
（1）计算复杂度： LMS<RLS<Kalman 相差不大 （2）RLS算法是“无激励”状态空间模型
x(n 1) 1/2x(n)
y(n) uH (n)x(n) v(n)
下的Kalman滤波算法 （3）收敛速率：
LMS： (n)越大，学习步长越大，收敛越快 RLS： 越大， 遗忘作用越弱，收敛越慢
sˆ(n 1 y1,...,yn ) K(n) g(n)
新息 初始条件
(n) sˆ(1) 0
K(0)
变量
w0
n / 2w 0
n / 2d * (n)
n
/
2
d
* 0
(
n)
n/ 2wˆ (n) 1P(n)
1/ 2k(n)
n / 2 * (Fra Baidu bibliotek)
wˆ (0) 0 1P(0)
RLS算法
参数名称 抽头权向量 指数加权的抽头权向量