自回归过程的性质

0 1 1 1
22
1 0
2 1 1 1
2 1
1 0 1 1
0 1 1
1 0 2
33
2 0
1 1
3 2
1 0 1
2 1 0
27
类推下去可得,
1
1 2 L k2 1
1
1
1 L k3 2
L L LLL L
kk
k 1
1
1
L
k2 1
1
L
k3 L 2 L 1 L
LL
1 k2 k 3
L
k k 1 k2
L
➢客观的刻划了系统动态响应衰减的快慢程度； ➢是系统动态真实描述； ➢格林函数所描述的动态性完全取决于系统参数
11
对于AR(1)来说：
➢ 若系统受到扰动后，该扰动的作用逐渐减小，直至 趋于零，即系统随着时间的增长回到均衡位置，那 么该系统就是渐近稳定的，也就是平稳的。
➢ 系统平稳对于格林函数来说，
21at xt 1
at2 )
12
0
2 a
所以 0
2 a
1 12
k E( xt k xt ) E(1xt k xt 1 ) E( xt k at )
所以 k 1 k 1
(k 1)
解此差分方程有: k
k
01
13
因此它的自相关函数为:
k
k 0
1 k 1
解此差分方程有
(k 1)
由偏自相关函数的一般公式得
11
1
1 12
0 1
22
1 0
2 1
2 12 1 12
1 0
43
0 1 1 0 1 10 2 1
1 0 2 1 0 11 2 0
33
2 0
1 1
3 2 1 12 2 1 0
2
0 1 2
1 0 1 2 1 0
1 0 1 2 1 0
注：我们下面对AR(2)性质的讨论中都 假定平稳性条件满足.
36
AR(2)过程的平稳性区域如下图三角域所示
2
1ቤተ መጻሕፍቲ ባይዱ
0
-1 -2
12 42 0
实根 复根
0
2 1
37
2.AR(2)过程的自相关函数
AR(2)过程的自协方差求得如下
k E(xtk xt ) E(1xtk xt1) E(2 xtk xt2 ) E(xtk at ) 所以 k 1 k1 2 k2 (k 1)
如果 0 1 1，那么所有的自相关系数都为正， 并逐渐衰减。 如果 1 1 0 ,自相关系数的符号以负号开始， 并呈正、负交替逐渐衰减。
17
例1，下面两图表分别是模拟生成的249个数据 如下AR(1)过程趋势图和自相关图
(1 0.85B)xt at 或 xt 0.85xt1 at
其中1 0.85, at为正态N (0,1)白噪声
6
一、一阶自回归过程AR(1)的性质 • 一阶自回归模型的形式为：
xt 1xt1 at
或
11Bxt at
上一页 下一页 返回本节首页7
1、平稳性和可逆性
A.可逆性： 一个有限阶的自回归模型总是可逆的，
所以，AR(1)模型总是可逆的。
B.平稳性：
为满足平稳性，1
于是有：
1B
0
的根必须在单位圆外，
假定B1, B2是1 1B 2B2 0的两个根
那么必须有: B1 1, B2 1
即 1 1, 1 1
B1
B2
其实也就是要求特征方程2 1 2 0 的两个特征根1, 2的绝对值都小于1
(因为可以证明有 1 )
B
35
通过证明，AR(2)模型的平稳性条件如下
2 1 1 2 1 1 1 2 1
Gj 1 j
➢ 就是随着j的增加，趋近于零； ➢ 若格林函数趋于无穷大，那么任意小的扰动，只要
给定足够的时间，就会使系统响应正负趋于无穷， 永远不会回到其均衡位置，这时系统便是不稳定的， 当然是非平稳的。
12
2.AR(1)过程的自相关函数
AR(1)过程的自协方差如下:
0
E( xt )2
E
(12
x2 t 1
1
1
1,即1
1
8
当 1 1时, AR(1)可表示为一个无限阶的MA过程,即
xt
at
1 1B
(1 1B 12B2
13B3
L
)at
at 1at1 12at2 13at3 L
此时有 :
j0
j
2
j0
1j
2
1
1
12
注 : 下面我们对AR(1)的讨论都假定 1 1
9
xt at 1at1 12at2 13at3 L
4.1 自回归过程的性质
• 一、一阶自回归过程AR(1)的性质 • 二、二阶自回归过程AR(2)的性质 • 三、p阶自回归过程AR(p)的性质
上一页 下一页 返回本节首页1
一、时间序列模型的平稳性（Stationarity）
• 平稳性的定义：
如果一个时间序列模型可以写成如下形式：
xt at 1at1 2at2
25
对于j 1, 2,L k,我们有如下方程组
1 k10 k 21 L kk k1
L
2 L
k11
k 2 0
L
kk k 2
k k1k1 k 2k 2 L kk 0
此方程称为Yule Wol ker 方程,kk即为偏自相关函数
26
对于k 1,2, k,由Gramer法则可得
11 1
假设E(xt ) 0,且xt与xt1, xt2 , xtk1, xtk间存在线性关系,
则有 : xt k1xt1 k 2 xt2 x kk1 tk1 kk xtk et 上式中,ki为第i个回归系数, et为正态误差项,
且 cov(et , xt j ) 0 ( j 1)
上式中的kk也就是xt和xtk间的偏自相关系数.
18
4
2
0
-2
-4
-6 82 84 86 88 90 92 94 96 98 00
例1，模拟生成的AR(1)过程趋势图
19
呈指数衰减
例1：模拟生成的 AR(1)过程自相关图::
(1 0.85B)xt at 或 xt 0.85xt1 at
其中1 0.85
20
例2，下面两图表分别是模拟生成的249个数据 如下AR(1)过程趋势图和自相关图
• 二阶自回归模型的形式为：
xt 1xt1 1xt2 at
或
11B 2B2 xt at
上一页 下一页 返回本节首页33
1、平稳性和可逆性
A.可逆性： AR(2)模型总是可逆的。 B.平稳性：
为满足平稳性，11B 2B2 0 的根必
须在单位圆外.
34
AR(2)模型的平稳性条件可
以用其参数值形式表示
33
2 0
1 1
3 2 1 12 0
2
0 1 2
1 0 1
1 0 1
2 1 0
2 1 0
29
于是有如下结论:
11 1 1 kk 0 (k 2)
上述结论说明： AR (1)过程的偏自相关函数(PACF) 在滞后一阶有一峰值，其符号取 决于 1 。滞后一阶以后PACF截尾。
30
滞后一阶 以后截尾
其中，xt为零均值平稳序列，at为白噪声，
且满足条件
2 j
,
( 0 1)
j 0
就称该模型是平稳的。（上式又称Wold展开式）
上一页 下一页 返回本节首页2
对于上式, 可以证明如下结论
E( xt ) 0
V ar( xt
)
2 a
2 j
j 0
且
E (at
xt
j
)
0
2 a
j 0 j0
k
E( xt
k 1 k 2 k 3 L
1
1
上式即为偏自相关函数的一般公式
(偏自相关函数公式的另一种推导方法可见课本)
28
B.AR(1)过程的偏自相关函数
由k 1k1, 及偏自相关函数的一般公式得
11 1
0 1 0 10
22
1 0
2 1 11 0
1
1 1
1 0
1 1
0 1 1 0 1 10
1 0 2 1 0 11
例1：模拟生成的 AR(1)过程自相关图::
(1 0.85B)xt at 或 xt 0.85xt1 at
其中1 0.85
31
滞后一阶 以后截尾
例2：模拟生成的 AR(1)过程自相关图::
(1 0.85B)xt at 或 xt (0.85)xt1 at
其中 1 0.85
32
二、二阶自回归AR(2)过程的性质
上式说明系统是怎样记忆扰动at
上式中的系数客观的描述了该系统的动态性， 故这个系数称为记忆函数（格林函数），
AR(1)模型的格林函数可表示为
Gj 1 j
平稳序列的这种表示形式，称为“传递形
式”，（用无穷阶MA模型来逼近有限阶AR模
型）
10
格林函数的意义
➢是前j个时间单位以前进入系统的扰动对系统现 在的影响；
1 1 2 1
2 11 2
显然此时AR(2)的ACF呈混合指数衰减
39
(2)如果 12 42 0,即上述特征方程有两重实根
解之得特征征根为1,2
1
2
于是k
(b1
b2
k
)
(1
2
)
k
其中常数b1 , b2可由如下初始条件求出
1 1 2 1
2 11 2
显然此时AR(2)的ACF呈指数衰减
40
(3)如果 12 42 0,即上述特征方程有一对共轭复根
解之得特征根为1,2 c id 1 i
(12 42 )
2
于是k b1r k cost b2r k cost 其中r为复根的模 2 ,为复角
常数b1 , b2可由如下初始条件求出
1 1 2 1 2 11 2
显然此时AR(2)的ACF呈阻尼正弦波衰减
j 1
那么，就称这个模型是可逆的。
上一页 下一页 返回本节首页4
对于一个有限阶的自回归模型AR(P)
xt 1xt1 2 xt2 p xt p at
总有：
p
1 j 1 j
j 1
j 1
所以，一个有限阶的AR(p)模型总是可逆的。
5
自回归表示有助于理解预测机制，Box和Jenkins 证明 在预测时，一个非可逆过程是毫无意义的。
k
k
01
1k
(k 1)
当k 0时, 有0 1
14
上述结论还可通过如下方法证明:
0 E(xt2 ) E(at 1at1 12at2 )2
E (at2
a2 2 1 t 1
14at22
)
(1 12
14
16
)
2 a
1
2 a
12
k E(xt xtk ) E(at 1at1 12at2 1k atk
xt k
)
2 a
i ik
io
由于平稳过程的方差存在,因此必须有
2 j
, 这是过程平稳的条件.
j 0
3
时间序列模型的可逆性 (ivertibility)
• 如果一个时间序列（未必平稳）的模型可以写 成如下形式：
xt 1xt1 2 xt2 3xt3 at
其中：at为白噪声，且有
1 j
24
偏自相关函数的一般公式可推导如下: 将xt j ( j 1)乘上式两端,并求期望得
E(xt xt j ) k1E(xt1xt j ) k 2E(xt2 xt j ) kk E(xtk xt j ) 于是有: j k1 j1 k 2 j2 kk jk 所以: j k1 j1 k 2 j2 kk jk
)(atk 1atk 1 12atk 2 )
E (at2 k
a2 2 1 t k 1
a4 2 1 tk2
) 1k
1k
(1 12
14
16
)
2 a
1k
2 a
1 12
15
于是有
k
k 0
1k
且0 1
16
通过上述推导可看出，当过程平稳即 1 1 时，AR(1)过程的自相关函数（ACF）呈 指数衰减。
(1 0.85B)xt at 或 xt (0.85)xt1 at
其中 1 0.85
23
3.AR(1)过程的偏自相关函数（PACF）
A.偏自相关函数的一般公式
在第二章我们已经知道, 偏自相关函数指剔除掉xt和xtk 之间的随机变量xt1, xt2 , xtk1的影响之后, xt和xtk之间
的相关性, 它一般用kk来表示.
41
通过上述推导可以如下结论， 在AR(2)过程的平稳性条件满足时，
➢如果特征方程的根为实根，即 12 42 0 时，
AR(2)的自相关函数呈指数衰减。
➢如果特征方程的根为复根，即 12 42 0 时，
AR(2)的自相关函数呈阻尼正弦波衰减。
42
3.AR(2)过程的偏自相关函数
对于AR(2)过程,因为k 1k1 2 k2 ,
(1 0.85B)xt at 或 xt (0.85)xt1 at
其中1 0.85, at为正态N (0,1)白噪声
21
6
4
2
0
-2
-4
-6 82 84 86 88 90 92 94 96 98 00 Y
例2，模拟生成的AR(1)过程趋势图 22
呈正负交替 指数衰减
例2：模拟生成的 AR(1)过程自相关图::
因而,自相关函数为
k 1k1 2k2 (k 1)
38
上述差分方程的特征方程为
2 1 2 0 (1)如果 12 42 0,即上述特征方程有两相异实根
解之得特征根为1,2 1
12 42
2
于是k b1(1
12
2
4 2
)k
b2 (1
12 42 )k
2
其中常数b1 , b2可由如下初始条件求出