8基于卡尔曼滤波的最大似然参数估计(2)

v( j) y( j) g xˆ( j | j),U ( j), ;t j
进而有准则函数：
k
J v T ( j)Rv1( j)v ( j) ln Rv ( j) j 1
上式相当于以测量噪声的协方差矩阵的逆 Rv1 为 权的加权最小二乘估计，称之为输出误差法。 当测量噪声的特性已知，直接采用牛顿－拉夫 逊算法，即可对参数进行估计。
d J ( j 1) [ T ( j) B1( j) ( j)] ˆj1
aT
P1
(
j
1)
B1( j) T
ˆj1
a
ln |
B( j) |
上式各项都在 ˆj1的条件下取值，d是 ˆj1的二次 型函数，与 无关。故要使J(j)极小的必要条件
是 a 0 ，即有：
ˆj ˆj1 a
的hT变换成了 。
四、最大似然近似算法
考虑观测噪声与过程噪声的最大似然 法，其计算都很复杂，每次迭代计算需要 计算大量数据，而且协方差在计算过程中 还常会出现不收敛的情况，故在实际应用 中常作不同程度的简化。
（1）信息矩阵B与增益矩阵K的简化
将似然函数对B求极值，可得B的最优估计：
Bˆ 1 k v ( j)v T ( j)
与最大似然估计比较可见，修正最大似然 估计的要点在于引进参数 的 先验知识。若没 有先验知识， P 很( )大， P趋1(于) 零，修正最 大似然法就成了最大似然法。
若 的先验知识比较可靠， P (较) 小，则 后面一项就起作用。对于测量误差很大的试 验，其数据的 B(很j) 大，则前面一项的作用
式中Ilm 表示除l，m位置的元素为1外，其它 都为0。这种简化在已知噪声特性时可能会出 现矛盾的结果。
（2）稳态线性系统的近似算法 常系数线性动力学系统的过程噪声和测量噪声 的统计特性变化不大时，可假定系统在运行一 段时间后趋于稳态状态，其卡尔曼滤波器的增 益、新息协方差矩阵和状态协方差矩阵都是常 数，从而进一步简化最大似然算法。
J
k j 1
Xa
(Xm
ˆ T
Xa
)T
Qw1
0
于是有：
k
k
Xa
X
T a
Qw1
X
a
X
T m
Qw1
j 1
j 1
求解上述方程组，即可确定待辨识参数。
三、最大似然递推算法
递推算法逐点进行数据处理，观测数据每 采样一次，就利用新观测信息更新一次参数 估计值，不断提高参数估计的准度。
根据该特点，递推最大似然方法可以作为 一种在线估计方法。
基于卡尔曼滤波的极大似然估计
国防科学技术大学航天与材料工程学院
2011-11-5
一、输出误差法 二、方程误差法 三、最大似然递推算法 四、最大似然近似算法 五、修正最大似然准则
一、输出误差法
非线性系统若初值准确，即初始方差为0； 又若系统过程噪声很小，可忽略不计，此时 协方差矩阵的解为零，Kalman增益矩阵也为 0，即状态预估值就是状态本身，于是新息等 于输出误差：
y( j) X ( j) v( j) X Rn1,U Rr1
系统噪声通过状态方程影响观测量，观测量中 同时包含了观测噪声与系统噪声的贡献。
如果观测噪声与系统噪声相比较，可以忽 略不计，这时新息表达式成了测量值和状态 变化量预估值之间的误差。
v( j) y( j) fˆ X ( j),U( j), ;t j w( j)
T
(
j)
B 1 (
j)
T (
j)
ˆj1
N ( j) ln | B( j) | ˆ j 1
进一步，将上式配方为：
J( j)
(
a)T
P1
(
j
1)
B1( j) T
ˆj1
(
a) d
a
P1
(
j 1)
B1( j) T
1
B1(
j) ( j)
ˆj1
假设线性系统如下：
X A( ) X B( ) U W
设A、B矩阵元素为待辨识参数，定义：
A
BT , Xa
X
T
U
则： X T Xa W
指标函数可以写为：
J
k
X
m
(
j
)
T
X
a
(
j
)
T
Qw1
(
j)
X
m
(
j
)
T
X
a
(
j)
j 1
Xm( j) 为观测量。
可以推出 的最优估计 满足必要条件：
新息矩阵就是系统噪声的方差矩 阵 Qw1( j) 。
如果统计特性已知，准则函数为：
k
J v T ( j) Qw1( j) v ( j) j 1
这种情况的最大似然法称为方程误差法。相 当于
W B1( j) Qw1( j)
的加权最小二乘法。
若系统是线性系统，且已知过程噪声的统 计特性，则方程误差法不用进行迭代计算， 直接求解线性代数方程组即可得辨识参数。
k j1
取B为此常值，则可以简化准则函数的求导运算：
J
l
k j 1
2v
T
(
j)
B 1 (
j)
v( j) l
, (l
1, 2,
, p)
2 J
ml
k j 1
2
vT(
l
j)
B 1 (
j)
v( j) m
,
(l,
m
1,
2,
, p)
对于增益阵K，定义：
K l
0
Ilm
(当l不是Klm时) (当l是K矩阵中的Klm时)
五、修正最大似然准则
最大似然法所取的似然函数是给定参 数 条件下观测量出现的条件概率。若将似 然函数取为观测量和待估计参数出现的联 合概率，则称为修正最大似然法。
其对应的指标函数如下：
k
J v T ( j)B1( j)v( j) ln B( j) ( 0)T P1( )( 0)
j1
由上式可见，修正最大似然估计是比最大似 然估计更为广泛的一种估计，而最大似然估 计是一种特殊情况。
减弱，辨识出的 将 靠近于 。0
习题： 8-7 ， 8-8
谢谢！
递推最大似然估计的思路：将j时刻准则函 数J(j)表示成j-1时刻的准则函数和j时刻新息的 形式；对J(j)在 j1处展开，并略去二阶以上项， 于是得到使J(j)达到极小的必要条件；利用必要 条件及准则函数的性质可得递推公式。
将指标函数表示成如下递推形式：
J ( j) J ( j 1) T ( j) B1( j) ( j) ln | B( j) |
当仪器的测量噪声不随时间变化，则准则函
数变为：
k
J v T ( j)Rv1v ( j) j 1
当测量噪声的统计特性未知时，常取J对Rv 的导数为0，可求出测量噪声方差的最优估计：
Rˆv
1 k
k
v ( j)v T ( j)
j 1
二、方程误差法
对如下系统：
X (t) f [ X (t),U (t), ;t] W (t)
I
K(
j)
P
(
j
1)
T
1
K ( j) P ( j 1)
B( j)
P
(
j
1)
ˆj1
于是可得最大似然算法的递推公式：
ˆj ˆj1 K ( j) ( j)
K ( j)
P
(
j
1)
B( j)
T
P
(
j
1)
1
P
(
j)
I
K(
j)
P
(
j
1)
与Kalman滤波公式比较，相当于将观测噪声中
将上式在 ˆj1 处展开，则有：
J ( j) J ( j 1) |ˆj1 [ ˆj1]T P1( j 1)[ ˆj1] M ( j) N( j)
P1
2J ml
其中：
M ( j) [ T ( j) B1( j) ( j)] |ˆj1
2
T
(
j)
Leabharlann Baidu
B 1 (
j)
T (
j)
ˆj1
由信息矩阵公式：
P1
2J
ml
结合准则函数：
J( j)
(
a)T
P1(
j
1)
B1(
T
j)
ˆj1
(
a) d
可得：
P1 (
j)
P1 (
j
1)
B1(
T
j)
由矩阵求逆公式：
( A BCD)1 A1 A1B(C 1 DA1B)1 DA1
则有： 其中：
P
(
j)