时间序列分析方法之卡尔曼滤波

第十三章 卡尔曼滤波

在本章中，我们介绍一种被称为卡尔曼滤波的十分有用的工具。卡尔曼滤波的基本思想是将动态系统表示成为一种称为状态空间表示的特殊情形。卡尔曼滤波是对系统线性投影进行序列更新的算法。除了一般的优点以外，这种算法对计算确切的有限样本预测、计算Gauss ARMA 模型的确切似然函数、估计具有时变参数的自回归模型等，都提供了重要方法。

§13.1 动态系统的状态空间表示

我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续分析动态系统的表示方法。

13.1.1 继续使用的假设

假设表示时刻观测到的n 维随机向量，一类非常丰富的描述动态性的模型可以利用一些可能无法观测的被称为状态向量(state vector)的r 维向量表示，因此表示动态性的状态空间表示(state-space representation)由下列方程系统给出：

状态方程(state model) (13.1) 量测方程(observation model) (13.2)

这里，和分别是阶数为，和的参数矩阵，是的外生或者前定变量。方程(13.1)被称为状态方程(state model)，方程(13.2)被称为量测方程(observation model)，维向量和维向量都是向量白噪声，满足：

(13.3) (13.4)

这里和是和阶矩阵。假设扰动项和对于所有阶滞后都是不相关的，即对所有和，有： (13.5)

t x 是外生或者前定变量的假定意味着，在除了包含在121,,,y y y --t t 内的信息以外，t

x 没有为s t +ξ和s t +w ( ,2,1,0=s )提供任何新的信息。例如，t x 可以包括t y 的滞后值，也可以包括与τξ和τw (任意τ)不相关的变量。

方程系统中方程(13.1)至方程(13.5)可以表示有限观测值的序列},,,{21T y y y ，这时需要状态向量初始值1ξ。假设1ξ与t v 和t w 的任何实现都不相关：

0ξv =')(1

t E ，对任意T t ,,2,1 = (13.6) 0ξw =')(1

t E ，对任意T t ,,2,1 = (13.7) 状态方程(13.1)表明，t ξ可以表示成为},,,,{321t v v v ξ 的线性函数：

1122221ξF v F v F v F v ξ----+++++=t t t t t t ，T t ,,3,2 = (13.8)

因此，方程(13.6)和方程(13.3)意味着t v 与所有ξ的滞后值都是不相关的：

0ξv =')(τ

t E ，1,,2,1 --=t t τ (13.9) 类似地，可以得到：

0ξw =')(τ

t E ，T ,,2,1 =τ (13.10) 0w ξH x A w y w t ='+'+'='])([)(t t t t E E τ

，1,,2,1 --=t t τ (13.11)

0y v =')(τt E ，1,,2,1 --=t t τ (13.12)

上述系统是相当灵活的，它的一些结论也可以推广到t v 与t w 相关的系统中，而且系数矩阵),,,,(R H A Q F 也可以是时间的函数。如果我们仅仅关注到上述系统的基本形式，则下面的论述将是十分清晰的。

13.1.2 状态空间表示的例子 考虑一元)(p AR 过程：

111211)()()(++--++-++-+-=-t p t p t t t y y y y εμφμφμφμ

⎩

⎨

⎧≠==ττ

σεετt t E t ,0,)(2 这个)(p AR 过程可以表示成为下面的状态空间模型形式：

状态方程(p r =)

⎥

⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡+⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡---⎥⎥⎥

⎥⎥⎥⎦

⎤

⎢⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎥⎦

⎤⎢⎢⎢⎢⎢⎣⎡---++---+-+00010

00010000111112

1

21

t p t t t p p p t t t y y y y y y εμμμφφφφμμμ (13.13) 量测方程：

⎥⎥⎥⎥⎥⎦

⎤

⎢⎢⎢⎢⎢⎣⎡---+=+--μμμμ11]001[p t t t t y y y y (13.14) 对应地，我们指定：

⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡---=+--μμμ11p t t t t y y y ξ，⎥⎥⎥

⎥⎥⎥⎦

⎤

⎢⎢⎢

⎢⎢⎢⎣⎡=-01000010000112

1 p p φφφφF ，⎥

⎥⎥⎥

⎦⎤⎢⎢⎢⎢⎣⎡=00 t t εv ，⎥

⎥

⎥⎥

⎥

⎦⎤

⎢⎢⎢⎢

⎢⎣⎡=000000

002 σQ

这里变量和参数矩阵对应为：

t t y =y ，μ='A ，1=t x ，[]001 ='H ，0=t w ，0=R

注意到这里的状态方程只是一个一阶向量自回归方程，量测方程只是一个简单的等式。因此，我们已经看到，状态空间表示只是总结)(p AR 过程的另外一种方式。将)(p AR 过程表示成为这种方式的原因在于，这样可以获得归纳)(p AR 过程动态性的合适方式，这是我们对任何系统状态空间表示感兴趣的基本原因。

另外一个例子是，我们考虑一元)1(MA 过程：

1-++=t t t y εθεμ

对应地，它可以表示成为状态空间模型形式为： 状态方程(2=r )：

⎥⎦⎤⎢⎣⎡+⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣

⎡=⎥⎦⎤⎢⎣⎡+-+00100111t t t t t εεεεε

量测方程(1=n )： []⎥⎦⎤

⎢⎣⎡+=+t t t y εεθμ11

这里：

⎥⎦⎤⎢⎣⎡=-1t t t εεξ，⎥⎦⎤⎢⎣⎡=0100F ，⎥⎦⎤

⎢⎣⎡=+01t t εv ，⎥⎦

⎤

⎢⎣⎡=0002σQ t t y =y ，μ='A ，1=t x ，[]θ1='H ，0=t w ，0=R 将给定系统表示成为状态方程的方式有多种。例如，可以将)1(MA 过程表示成为下面类

型的状态空间模型：

状态方程(2=r )：

⎥⎦⎤⎢⎣⎡+⎥⎦⎤⎢⎣⎡+⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡+++-++111110010t t t t t t t t εθεεθεθεεθεθε

量测方程(1=n )：

[]⎥⎦

⎤

⎢⎣⎡++=-t t t t y εθεθεμ101 显然上面的)1(MA 过程、两种状态空间模型表示都是具有相同特征的过程表示，这三种表示都具有相同的预测和相同的似然函数值，也就无须讨论哪一种方式更为合适。

更一般地，一元),(q p ARMA 模型可以通过定义}1,max {+≡q p r 进行状态空间模型表示：

1

122112211)

()()(+-------+++++-++-+-=-r t r t t t r t r t t t y y y y εθεθεθεμφμφμφμ (13.15)

这里的参数约束是：当p j >时，0=j φ；当q j >时，0=j θ。

考虑下列状态空间模型表示为： 状态方程(}1,max {+≡q p r )：