ARMA时间序列模型及SPSS应用

i k 1
i k 1
3）当 k>q 时，有
k =0;
从上述性质可以看出，MA(q)序列的自相关系数 k 在 k>q 时全为0.这种
性质称为q步截尾性，表明序列只有q步相关性。
14
AR模型的自相关函数
阶数为q的自相关模型定义为： X t 1 X t 1 2 X t 2 p X t p a t.
k1
k
k1j kj 1
k
1
jkj
j1
j1
, k1,j
kj
k1,k1 k,k1j
j 1,2,L ,k.
当k>p时， kk 0
即ARMA模型和MA模型都是拖尾的。
19
平稳时间序列的类型识 别
类别 模型方程
AR(p)
(B)Xt at
模型 MA(q)
Xt (B)at
ARMA(p, q)
将参数换成它们的估计，
ˆk ˆˆa a 2 2((1 ˆk ˆ1 2 ˆk L 1 ˆ 1 ˆq 2 L )， k ˆ qˆ0 q ， k)， 1kq.
MA(q)序列的 协方差函数表 达式
可直接求解，也可迭代求解。
30
模型参数的估计
➢ARMA(p, q)模型的参数估计 X t 1 X t 1 L p X t p = a t 1 a t 1 L q a t q
根据自相关函数的定义：
k E(XtXtk) =E[Xtk(1Xt12Xt2pXtpat)] =1k12k2pkp
令k=1,2,…, p,得自相关系数：
1= 1 21 pp-1
2 = 11 2 31 pp-2
M
p = 1p-1 2p2 p
从上述性质可以看出，AR(q)序列的自相关系数 k 随着k的增大始终不为0.这
首先，利用（式4），将参数换成它们的估计
q
q1
M
qp1
q1 L q L
M
L qp2
因为 k>0 时，E[atXt-k]0，且有
E [X tX t- k ]k k D [X t- k ]k kX 2 ,
故
kk=E[XtX 2tk], X
k1,2,L.
显然 k k 即为AR(p)序列的偏相关函数，同时它又是AR(p)模型的最后一个回
归系数。当k>p时，有 kk = 0 ，也即是截尾的。
模型简记为M A (q ) 。同样为了方便表示，引进延迟算子的概念。令： at1 Bat at2Bat-1B2at atp Bpat
则滑动平均模型可写为：Xt (B)at
其中： (B ) 1 1 B 2 B 2 q B q .
若满足条件：(B) 0的根全在单位圆外，则称此条件为MA(q)模型的可逆 性条件，此时 -1 ( B ) 存在且一般是B的幂级数，于是模型又可写为：
ˆ1 1 ˆ1 ˆ2 L
ˆ2
ˆ1
1
ˆ1 L
M M M M
ˆp
ˆp1
ˆp2
ˆቤተ መጻሕፍቲ ባይዱ3 L
ˆp1-1ˆ1
ˆp2
ˆ2
M M
1
ˆp
ˆa2ˆ0pˆjˆj=ˆ01pˆjˆj
j1
j1
29
模型参数的估计
➢MA(q)模型的参数估计
X t a t 1 a t 1 L q a t q
M
p =1p1+2p2 +L +p;
写成矩阵式为
1 1 1 2 L
2
1
1
1 L
M M M M
p
p1
p2
p3
L
p
a2 0 j j （式3） j1
推导见课本P135
p11
p2
2
M M
1
p
（式2）
28
模型参数的估计
➢AR(p)模型的参数估计
利用(式2)，(式3) 将参数换成它们的估计，
平稳时间序列：统计量的统计规律不随时间变化。
6
AR模型
设 X t 为零均值的实平稳时间序列，阶数为p的自回归模型定义为：
X t 1 X t 1 2 X t 2 p X t p a t.
模型简记为A R (p )，是时间序列 X t 自身回归的表达式，所以称为自回归模
型。
其中， a t 是独立同分布的随机变量序列，且满足 E[at ] 0，D[at]a2 也称
的偏相关函数定义为：
偏 相 关 函 数 =E [E X [tX 2]tE X [t X k]tk2]=E [X tX X 2tk]
注意：此时的期望指的是条件期望 。
17
AR模型偏相关函数
设 X t 为零均值的实平稳时间序列，设它满足AR(p)模型：
X t k 1 X t 1 k 2 X t 2 k k X t k a t .
16
偏相关函数
➢ 从上面的讨论可知，对于自相关函数，只有MA(q)模型是截尾的， AR(p) 和 ARMA(p, q) 模 型 是拖 尾 的 。 为了进一步区分 AR(p) 模型和 ARMA(p, q)模型，我们引入了偏相关函数的概念。
➢ 对于零均值的平稳时间序列中，给定 Xt1,L,Xtk1，则 Xt和Xtk 之间
样本自相关函数定义为：
ˆk=ˆˆk 0，k0,1,LN1（式1）
由样本值求出样 本自相关函数
23
由正态分布的性质知，
P|ˆk|1 N(12i q1ˆi2） 68.3%或 P|ˆk|2 N(12i q1ˆi2） 95.5%
在实际应用中，因为q一般不是很大，而N很大，此时常取
1 (12 q
N
i1
意义在于用过去各个时期的随机干扰（白噪声）或预测误差的线性组合 来表达当前预测值，但具有不一定可逆性。
10
ARMA模型
设 X t 为零均值的实平稳时间序列，p阶自回归q阶滑动平均混合模型定义
为： X t 1 X t 1 2 X t 2 p X t p a t 1 a t 1 2 a t 2 q a t q .
ˆi2)
1 N
P|ˆk|
1 N
68.3%
或
P|ˆk|
2 N
95.5%
24
| ˆ k |
1 N
或
| ˆ k |
2 N
（3）ARMA(p, q)模型的阶数p和q难于确定，一般采用由低阶到高阶逐个试 探，如取(p, q)为(1,1)，(1,2)，(2,1)，…直到经验证认为模型合适为止。
25
四、模型参数的估计
种性质称为拖尾性，并且是呈负指数衰减。
15
ARMA模型的自相关函 数
ARMA(p, q)模型的自相关系数，可以看做AR(p)模型的自相关函数和 MA(q)模型的自相关系数的混合物。
• 当p=0时，它具有截尾性质；
• 当q=0时，它具有拖尾性质；
• 当p，q均不为0时，如果当p, q均大于或者等于2，其自相关函数的表现 形式比较复杂，有可能呈现出指数衰减、正弦衰减或者二者的混合衰减 ，但通常都具有拖尾性质。
➢ ARMA 是一种单变量、同方差的线性模型，对于满足有限参数线形模型 的平稳时间序列，主要有以下三种基本形式：
自回归模型（ AR : Auto-regressive） 移动平均模型（ MA : Moving-Average） 混合模型（ ARMA : Auto-regressive Moving-Average）
白噪声序列。 为了方便表示，引进延迟算子的概念。令：
Xt1 BXt Xt2BXt-1B2Xt Xtp BpXt
则自回归模型可写为： (B)Xt at
其中： (B ) 1 1 B 2 B 2 p B p .
7
AR模型
对于模型：(B)Xt at
若满足条件：(B) 0的根全在单位圆外，即所有根的模都大于1，则称此
i jE[atiatkj]
j1
i1
i1j1
因为
E[asat
]
a2,
0,
t t
s. s.
所以自相关函数变为三项：
q
qq
k= E [a ta t k] iE [a t ia t k] i iE [a t ia t k j]
i 1
i 1j 1
13
MA模型的自相关函数
q
qq
对于： k= E [a ta t k] iE [a t ia t k] i jE [a t ia t k j]
(B) Xt
=
(B)at
模型简记为ARMA(p, q).
显然，当q =0时，ARMA(p, q)模型就是AR (p)模型； 显然，当p =0时，ARMA(p, q)模型就是MA (q)模型；
ARMA(p, q)模型的平稳性只依赖于AR 部分； ARMA(p, q)模型的可逆性只依赖于MA 部分；
11
➢ 1976年，英国统计学家G.E.P.Box和英国统计学家G.M.Jenkins联合出版了 《时间序列分析——预测和控制》一书，在总结前人的研究的基础上， 系统地阐述了ARMA模型的识别、估计、检验及预测的原理和方法，成 为时间序列分析的核心，故ARMA 模型也称为Box-Jenkins模型。
5
ARMA模型的概 念
i 1
i 1j 1
分以下几种情况讨论：
1）当 k =0 时，有
q
q
k=E [a t2]
i2E [a t i2]=a2
; 2 2
ia
i 1
i 1
2）当 1 k q 时，有
q
q
k = -k E [ a t k 2 ]
ii k E [ a t i2 ] = -ka 2
; 2
ii ka
用X t -k 乘上式两边，当给定 X t 1 = x t 1 ,， X t k 1 x t k 1时，取条件期望得：
E [X tX t-k]k 1 x t 1 E [X t-k] k ,k 1 x t k 1 E [X t-k] k k E [X t-k 2 ] E [a tX t-k].
26
模型参数的估计
当选定模型及确定阶数后，进一步地问题是要估计出模型的未 知参数。参数估计方法有矩法、最小二乘法、极大似然法等。
27
模型参数的估计
➢AR(p)模型的参数估计
X t 1 X t 1 L p X t p a t
1=1+21+L +pp1, 2=11+2+31 L +pp2,
二、模型的识别
12
MA模型的自相关函 数
阶数为q的滑动平均模型定义为：
X t a t 1 a t 1 2 a t 2 q a t q .
根据自相关函数的定义：
kE(XtXtk) =E[(at1at1qatq)(atk1atk1qatkq)]
q
q
qq
=E[atatk] jE[atatkj] iE[atiatk]
18
ARMA模型偏相关函 数
ARMA模型的偏相关函数求解方法和上述略有不同，考虑用 Xt1,L,Xtk 对 X t 做最小方差估计来求ARMA(p, q)序列(把MA(q)看作是 p=0 的特例)
X t 的偏相关函数 k k ，同时推出偏相关函数与自相关函数的关系。
11=1,
k1,k1
at 1(B)Xt
9
AR与MA模型的比较
➢ 自回归模型： X t 1 X t 1 2 X t 2 p X t p a t.
意义在于仅通过时间序列变量的自身历史观测值来反映有关因素对预测 目标的影响和作用，不一定平稳。
➢ 滑动平均模型：X t a t 1 a t 1 2 a t 2 q a t q .
条件为AR(p)模型的平稳性条件。
B1
B2
R 1
B3 当模型满足平稳性条件时， -1 ( B ) 存在且一般是B的幂级数，于是模型又可 写为：
Xt -1(B)at
8
MA模 型
设 X t 为零均值的实平稳时间序列，阶数为q的滑动平均模型定义为：
X t a t 1 a t 1 2 a t 2 q a t q .
➢ 时间序列分析的主要目的是根据已有的历史数据对未来进行预测。 2000-2013年我国GDP增长图
*公开数据整理
4
ARMA模型的概 念
➢ ARMA 模 型 （ 自 回 归 滑 动 平 均 模 型 ， Auto-Regressive and Moving Average Model）是研究时间序列的重要方法。
(B)Xt (B)at
平稳条件
(B) 0的根
全在单位圆外
无条件平稳
(B) 0 的根全在单
位圆外
自相关函数
拖尾
截尾
拖尾
偏相关函数
截尾
拖尾
拖尾
20
三、模型阶数的确定
21
模型阶数的确定
讨论：
如何用样本自相关函数来推断模型的阶。
22
模型阶数的确定
➢样本的自相关函数
ˆkN 1N i 1 kxixik， k0,1,LN1
ARMA时间序列模型 及其相关应用
段晓曼 吴艾茜 黄衍超 2017.12.07
提纲
➢时间序列模型的概念 ➢模型的识别 ➢模型阶数的确定 ➢模型参数的估计 ➢模型的检验 ➢模型的应用
2
一、时间序列模型的概念
3
时间序列的概念
➢ 时间序列是指将同一统计指标的数值按其发生的时间先后顺序排列而成 的序列。