4.1 自回归过程的性质

2.AR(1)过程的自相关函数
AR (1) 过程的自协方差如下 :
2 t

0
E ( xt )
2
E (
2 1
x
0
2 t 1
2 1 a t x t 1 a )
2 a
1
2

所以
0


2 a 2
1 1

k
E ( x t k x t ) E ( 1 x t k x t 1 ) E ( x t k a t )
方法证明 :
2 2
0 E ( x t ) E ( a t 1 a t 1 1 a t 2 )
E ( a t 1 a t 1 1 a t 2 )
2 2 2 4 2
(1 1 1 1 ) a
4.1 自回归过程的性质
• 一、一阶自回归过程AR(1)的性质
• 二、二阶自回归过程AR(2)的性质 • 三、p阶自回归过程AR(p)的性质
1 上一页 下一页 返回本节首页
一、时间序列模型的平稳性（Stationarity）
• 平稳性的定义： 如果一个时间序列模型可以写成如下形式：
x t a t 1 a t 1 2 a t 2
所以

k
1
k 1
( k 1)
k
解此差分方程有
:
0
k 1
13
因此它的自相关函数为
:
k

k 0
1
k 1
( k 1)
解此差分方程有
k 0
百度文库
k 1

k 1
( k 1)
当 k 0时 , 有 0 1
14
上述结论还可通过如下
2
的相关性 , 它一般用 kk 来表示 . 假设 E ( x t ) 0 , 且 x t 与 x t 1 , x t 2 , x t k 1 , x t k 间存在线性关系 则有 : x t k 1 x t 1 k 2 x t 2 kk 1 x t k 1 kk x t k e t 上式中 , ki 为第 i 个回归系数 且 cov( e t , x t j ) 0 ( j 1) .
j
k 1
j 1
k 2
j2
kk
jk
所以 : j k 1
j 1
k2
j2
kk
jk
25
对 于 j 1, 2, k , 我 们 有 如 下 方 程 组 1 k 1 0 k 2 1 kk k 1 2 k 1 1 k 2 0 kk k 2 k 2 k 2 kk 0 k 1 k 1 k 此 方 程 称 为 Yule W ol ke r 方 程 , kk 即 为 偏 自 相 关 函 数
2
E ( a t k 1 a t k 1 1 a t k 2 ) 1
2 2 2 4 2
k
1 (1 1 1 1 ) a
k 2 4 6
2

1 a
k
2 2
1 1
15
于是有
k

k 0

k 1
8
当 1 1时 , A R (1) 可 表 示 为 一 个 无 限 阶 的 M A 过 程 , 即 xt at 1 1 B (1 1 B 1 B 1 B ) a t
2 2 3 3 2 1 2 3 1
a t 1 a t 1 a t 2 a t 3 此时有 :
G
j
1
j
平稳序列的这种表示形式，称为“传递形 式”，（用无穷阶MA模型来逼近有限阶AR模 10 型）
格林函数的意义
是前j个时间单位以前进入系统的扰动对系统现 在的影响； 客观的刻划了系统动态响应衰减的快慢程度； 是系统动态真实描述； 格林函数所描述的动态性完全取决于系统参数
11
对于AR(1)来说：
(1 0 . 85 B ) x t a t 或 x t 0 . 85 x t 1 a t 其中 1 0 . 85 , a t 为正态 N ( 0 ,1)白噪声
18
4
2
0
-2
-4
-6 82 84 86 88 90 92 94 96 98 00
例1，模拟生成的AR(1)过程趋势图

1 2 1 0 1 0 1 1 0 1

0 1
1
1 0 11 1
1 0
1 1 2 3 2 1 0

0 1 2 0 1 2
1 0 1 1 0 1
1 0 11 1 2 2 1 0
29
0
于是有如下结论
:
或
1 1 B x t
at
7 上一页 下一页 返回本节首页
1、平稳性和可逆性
A.可逆性： 一个有限阶的自回归模型总是可逆的， 所以，AR(1)模型总是可逆的。
B.平稳性： 为满足平稳性， 1 B 0 的根必须在单位圆外， 1 于是有： 1 1, 即 1 1 1
x t 1 x t 1 2 x t 2 3 x t 3 a t
其中：at为白噪声，且有
1



j

j 1
那么，就称这个模型是可逆的。
4 上一页 下一页 返回本节首页
对于一个有限阶的自回归模型AR(P)
x t 1 x t 1 2 x t 2 p x t p a t
若系统受到扰动后，该扰动的作用逐渐减小，直至 趋于零，即系统随着时间的增长回到均衡位置，那 么该系统就是渐近稳定的，也就是平稳的。 系统平稳对于格林函数来说，
G j 1
j
就是随着j的增加，趋近于零；
若格林函数趋于无穷大，那么任意小的扰动，只要 给定足够的时间，就会使系统响应正负趋于无穷， 永远不会回到其均衡位置，这时系统便是不稳定的， 当然是非平稳的。 12
27
类推下去可得, 1
1
1
2 1


k 2 k 3

1 2

1

kk
k 1
1
k 2 1
1
k 3 2 1

1 k 2 k 3

k k 1 k 2
1
1

k 1
k 2
其中，xt为零均值平稳序列，at为白噪声， 且满足条件 2 , ( 0 1) j
j0
就称该模型是平稳的。（上式又称Wold展开式）
2 上一页 下一页 返回本节首页
对于上式 E ( xt ) 0
, 可以证明如下结论

Var ( x t )
2 a

j0
2 j
且
E ( at xt
) j 0
2 a
2 a
j 0 j 0

k
E ( xt xt k )

io

i

i k
由于平稳过程的方差存
在 , 因此必须有 .
3

j0

2 j
, 这是过程平稳的条件
时间序列模型的可逆性 (ivertibility)
• 如果一个时间序列（未必平稳）的模型可以写 成如下形式：
k 3
1
上式即为偏自相关函数的一般公式 (偏 自 相 关 函 数 公 式 的 另 一 种 推 导 方 法 可 见 课 本 )
28
B.AR(1)过程的偏自相关函数
由 k 1 k 1 , 及偏自相关函数的一般 公式得
11 1 0 22 1 0 1 0 1 33 2 0 1 2
总有：
1



j
1
j 1

p

j

j 1
所以，一个有限阶的AR(p)模型总是可逆的。
5
自回归表示有助于理解预测机制，Box和Jenkins 证明 在预测时，一个非可逆过程是毫无意义的。
6
一、一阶自回归过程AR(1)的性质 • 一阶自回归模型的形式为：
x t 1 x t 1 a t
21
6 4 2 0 -2 -4 -6 82 84 86 88 90 92 Y 94 96 98 00
例2，模拟生成的AR(1)过程趋势图
22
呈正负交替 指数衰减
例2：模拟生成的 AR(1)过程自相关图::
(1 0 . 85 B ) x t a t 或 其中 x t ( 0 . 85 ) x t 1 a t
且0 1
16
通过上述推导可看出，当过程平稳即 时，AR(1)过程的自相关函数（ACF）呈 指数衰减。
1
1
1
如果 0 1 ，那么所有的自相关系数都为正， 并逐渐衰减。 如果 1 0 ,自相关系数的符号以负号开始， 并呈正、负交替逐渐衰减。
1
17
例1，下面两图表分别是模拟生成的249个数据 如下AR(1)过程趋势图和自相关图
19
呈指数衰减
例1：模拟生成的 AR(1)过程自相关图::
(1 0 . 85 B ) x t a t 或 x t 0 . 85 x t 1 a t 其中 1 0 . 85
20
例2，下面两图表分别是模拟生成的249个数据 如下AR(1)过程趋势图和自相关图
(1 0 . 85 B ) x t a t 或 x t ( 0 . 85 ) x t 1 a t 其中 1 0 . 85 , a t 为正态 N ( 0 ,1)白噪声
j0 2 j



1
j

1 1
2 1

j0
注 : 下 面 我 们 对 A R (1)的 讨 论 都 假 定 1 1
9
x t a t 1 a t 1 a t 2 a t 3
2 1 3 1
上式说明系统是怎样记忆扰动at
上式中的系数客观的描述了该系统的动态性， 故这个系数称为记忆函数（格林函数）， AR(1)模型的格林函数可表示为
2 4 6
2

a
2 2 2 k
1 1
k E ( x t x t k ) E ( a t 1 a t 1 1 a t 2 1 a t k
)( a t k 1 a t k 1 1 a t k 2 )
11 1 1 (k 2) kk 0
上述结论说明： AR (1)过程的偏自相关函数(PACF) 在滞后一阶有一峰值，其符号取 决于 1 。滞后一阶以后PACF截尾。
30
滞后一阶 以后截尾
例1：模拟生成的 AR(1)过程自相关图::
(1 0 . 85 B ) x t a t 或 x t 0 . 85 x t 1 a t 其中 1 0 . 85
24
,
, e t 为正态误差项
,
上式中的 kk 也就是 x t 和 x t k 间的偏自相关系数
偏自相关函数的一般公 将 x t j ( j 1) 乘上式两端
式可推导如下 , 并求期望得
:
E ( x t x t j ) k 1 E ( x t 1 x t j ) k 2 E ( x t 2 x t j ) kk E ( x t k x t j ) 于是有 :
26
对于 k 1, 2 , k ,由 Gramer 法则可得
11 1 0 22 1 0 1 0 1 33 2 0 1 2

1 2 1 0 1 0 1 1 0 1

1
1 2 1
1
1
1
1 1 2 3 2 1 0
1 0 . 85
23
3.AR(1)过程的偏自相关函数（PACF）
A.偏自相关函数的一般公式
在第二章我们已经知道 之间的随机变量 , 偏自相关函数指剔除掉 xt 和 xt k x t 1 , x t 2 , x t k 1的影响之后 , x t 和 x t k 之间