时间序列中的ARMA模型
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
件期望是相等的,若设为u,则得到 :
c u=
1 (1 2 ... p)
的无条
6
ARIMA模型的概念
Yt-u=1(Yt-1-u)+ 2(Yt-2-u)+...+p(Yt-p-u)+vt
0=1 1+ 2 2+...+p p+ 2 1=1 0+ 2 1+...+ p p-1
……
p=1 p-1+ 2 p-2+...+ p 0
1-1Z- 2Z2 -...- pZp 0
特征方程的根全部落在单位圆以外时, ARMA(p,q)是一个平稳过程。
9
ARIMA模型的概念
3.ARMA(p, q)过程的特征
1)E(Yt)=
c
1 (1 2 ... p)
2)ARMA(p, q)过程的方差和协方差
10
ARIMA模型的概念
四. AR、MA过程的相互转化
于滞后长度描图)。
14
ARMA模型的识别
2. 自相关函数和偏自相关函数的概念
①自相关函数
过程Yt的第j阶自相关系数即 j j 0 ,
自相关函数记为ACF(j) 。 ②偏自相关函数
偏自相关系数 *j度量了消除中间滞后项影响
后两滞后变量之间的相关关系。偏自相关函数 记为PACF(j)
15
ARMA模型的识别
结论一:平稳的AR(p)过程可以转化为一个MA(∞)过程, 可采用递归迭代法完成转化
结论二:特征方程根都落在单位圆外的 MA(q)过程具 有可逆性
平稳性和可逆性的概念在数学语言上是完全等价的, 所不同的是,前者是对AR过程而言的,而后者是对 MA过程而言的。
11
二、Box-Jenkins方法论
22
ARMA模型的识别
⑷ARMA(p,q)过程的自相关函数和偏自相 关函数
ARMA过程的自相关函数和偏自相关函数都是 拖尾的
如下图:
23
ARIMA模型的识别
yt =0.5yt-1 0.5u t-1 u t
24
ARMA模型的识别
3. 利用自相关函数、偏自相关函数对 ARMA模型进行识别
⑴通过ADF检验,来判断序列过程的平稳性; ⑵利用自相关函数、偏自相关函数以及它们的
其中 t 为白噪音过程。
若引入滞后算子,可以写成
(L)Yt=c+ (L) t
其中 (L)=1-1L- 2L2 -...- pLp
(L)=1+ 1L+ 2L2 ... qLq
8
ARIMA模型的概念
2. ARMA过程平稳性的条件
ARMA过程的平稳性取决于它的自回归部分。 当满足条件:
图形来确定p, q的值。
25
(二)ARMA模型的估计
ARMA模型的估计方法:
矩估计 极大似然估计 非线性估计 最小二乘估计
26
(三)ARMA模型的诊断
一. 诊断的含义
二. 诊断的方法
三. 检验统计量
Box和Pierce提出的Q统计量 Ljung和Box(1978)提出的LB统计量。
27
目的:
说明在Eviews5.0 软件中利用B-J方法论建立合 适的ARIMA(p,d,q)模型
34
ARMA模型的估计
35
利用ARMA模型进行预测
用dynamic方法估计2003年1月到2005年1月的w2
36
利用ARMA模型进行预测
利用“static”方法估计2004年1月到2005年1月的w2
13
三、ARMA模型的识别、估计、诊断、预测
(一).ARMA模型的识别 1. 识别ARMA模型的两个工具:
自相关函数(autocorrelation function,简记为 ACF);
偏自相关函数(partial autocorrelation function,简 记为PACF)
以及它们各自的相关图(即ACF、PACF相对
四. 信息准则(information criteria) Akaike 信息准则 AIC=log(ˆ 2 ) 2k
T
Schwarz 信息准则 SC=log(ˆ 2 ) k log T
T Hannan-Quinn 信息准则 HQIC=log(ˆ 2 ) 2k log(log T)
T
其中 ˆ 2 为残差平方, k=p+q+1是所有估计参数
建立回归模型时,应遵循节俭性 (parsimony)的原则
博克斯和詹金斯(Box and Jenkins)提出了 在节俭性原则下建立ARMA模型的系统 方法论,即Box-Jenkins方法论
12
Box-Jenkins方法论
Box-Jenkins方法论 的步骤:
步骤1:模型识别 步骤2:模型估计 步骤3:模型的诊断检验 步骤4:模型预测
一、ARIMA模型的基本内涵
一、ARMA模型的概念 自回归移动平均模型(autoregressive
moving average models,简记为ARMA模 型),由因变量对它的滞后值以及随机 误差项的现值和滞后值回归得到。 包括移动平均过程(MA)、自回归过程 (AR)、自回归移动平均过程 (ARMA)。
(1
2
1
1≤j≤22q ... q2 )
0 j>q
j>q时,ACF(j)=0,此现象为截尾,是MA(q)过程的一个特征
如下图:
17
ARMA模型的识别
MA(2)过程
yt =0.5ut-1 0.3ut2 ut
18
ARMA模型的识别
⑵ AR(p)过程的偏自相关函数
j p 时,偏自相关函数的取值不为0 j>q 时,偏自相关函数的取值为0 AR(p)过程的偏自相关函数p阶截尾 如下图:
③自相关函数和偏自相关函数的联系
*1= 1
* 2= ( 2- 21) (1 21)
2阶以上的偏自相关函数计算公式较为复 杂,这里不再给出。
16
ARMA模型的识别
2. MA、AR、ARMA过程自相关函数及偏自相关函数 的特点
⑴MA(q)过程的自相关函数
1 j=0
ACF( j) ( j 1 j+1 2 j+2 ... q q-j)
2
ARIMA模型的概念
2.MA(q)过程的特征
1. E(Yt)=u
2.
var(Yt)
(1
2
1
22
... q2 )
2
3.自协方差
①当k>q时 k =0
②当k<q时 k =( k 1 k+1 2 k+2 ... q q-k) 2
对于任意的,MA(q)是平稳的。
3
ARIMA模型的概念
ARIMA模型的诊断
1. Q统计量
m
Q=n
ˆ 2 k ,近似服从 2 (m)(大样本中)
分布 k=1
其中n为样本容量,m为滞后长度
2. LB统计量
m
LB=n(n+2)
(ˆ 2k
(n-k)) ,服从 2 (m) 分布,其
Hale Waihona Puke k=1中n为样本容量,m为滞后长度。
3. LB统计量的特点
28
ARMA模型的诊断
19
ARMA模型的识别
yt =0.5yt-1 u t
20
ARMA模型的识别
yt =yt-1 u t
21
ARMA模型的识别
⑶AR(p)过程的自相关函数以及MA(q)过程的偏
自相关函数
平稳的AR(P)过程可以转化为一个MA(∞)过程,则 AR(P)过程的自相关函数是拖尾的
一个可逆的MA(q)过程可转化为一个AR(∞)过程,因 此其偏自相关函数是拖尾的。
如果特征方程:
1-1Z- 2Z2 -...- pZp 0
的根全部落在单位圆之外,则该AR(p)过程是 平稳的
5
ARIMA模型的概念
3. AR(p)过程的特征 E(Yt)=c+1E(Yt-1)+ 2E(Yt-2)+...+ pE(Yt-p)+E(vt)
E(vt) =0, Yt、Yt-1、Yt-2、...Yt-p
ft,1=E(Yt+1 It) = c+1Yt-1+ Y 2 t-2
在t时刻,预测 Yt+2 的值: ft,2=E(Yt+2 It) =c+1E(Yt+1 It) + 2Yt=c+1ft,1+ 2Yt
同理:
… 结论
ft,3=c+1ft,2+ f2 t,1 ft,4=c+1ft,3+ f2 t,2
将上述p+1个方程联立,得到所谓的Yule-Walker方程 组,共p+1个方程,p+1个未知数,得出AR(p)过程 的方差及各级协方差。
7
ARIMA模型的概念
三. 自回归移动平均(ARMA)过程
1. ARMA过程的形式
Yt=c+1Yt-1+ 2Yt-2+...+pYt-p+ 1 t-1+ 2 t-2+...+ q t-q+ t
二. 自回归(AR)过程 1.自回归(AR)过程表示为:
Yt=c+1Yt-1+ 2Yt-2+...+ pYt-p+vt
其中为 vt 为白噪音过程
引入滞后算子,则原式可写成
(L)Yt=c+vt 其中
(L)=1-1L- 2L2 -...- pLp
4
ARIMA模型的概念
2. AR(p)过程平稳的条件
37
的个数,T为样本容量。
29
ARMA模型的预测
一. 基于AR模型的预测
以平稳的AR(2)过程为例:
Yt=c+1Yt-1+ 2Yt-2+ut
其中 ut 为零均值白噪音过程
Yt+1=c+1Yt+ 2Yt-1+ut+1 Yt+2=c+1Yt+1+ 2Yt+ut+2
……
30
ARMA模型的预测
在t时刻,预测 Yt+1的值:
31
ARMA模型的预测
二. 基于MA过程的预测
过程 结论:
MA (2) 过程仅有2期的记忆力
32
ARMA模型的预测
三. 基于ARMA过程的预测
结合对AR过程和MA过程进行预测 ARMA模型一般用于短期预测
33
五、实例:ARMA模型在金融数 据中的应用
数据:
1991年1月到2005年1月的我国货币供应量(广 义货币M2)的月度时间序列数据
1
ARIMA模型的概念
一. 移动平均过程 1. 移动平均(MA)过程的表示:
Yt=u+ t+ 1 t-1+ 2 t-2+...+ q t-q
其中u为常数项,为白噪音过程 引入滞后算子L,原式可以写成:
q
Yt=u+ iLi t+ t 或者 Yt=u+ (L) t i=1
(L)=1+ 1L+ 2L2 ... qLq
c u=
1 (1 2 ... p)
的无条
6
ARIMA模型的概念
Yt-u=1(Yt-1-u)+ 2(Yt-2-u)+...+p(Yt-p-u)+vt
0=1 1+ 2 2+...+p p+ 2 1=1 0+ 2 1+...+ p p-1
……
p=1 p-1+ 2 p-2+...+ p 0
1-1Z- 2Z2 -...- pZp 0
特征方程的根全部落在单位圆以外时, ARMA(p,q)是一个平稳过程。
9
ARIMA模型的概念
3.ARMA(p, q)过程的特征
1)E(Yt)=
c
1 (1 2 ... p)
2)ARMA(p, q)过程的方差和协方差
10
ARIMA模型的概念
四. AR、MA过程的相互转化
于滞后长度描图)。
14
ARMA模型的识别
2. 自相关函数和偏自相关函数的概念
①自相关函数
过程Yt的第j阶自相关系数即 j j 0 ,
自相关函数记为ACF(j) 。 ②偏自相关函数
偏自相关系数 *j度量了消除中间滞后项影响
后两滞后变量之间的相关关系。偏自相关函数 记为PACF(j)
15
ARMA模型的识别
结论一:平稳的AR(p)过程可以转化为一个MA(∞)过程, 可采用递归迭代法完成转化
结论二:特征方程根都落在单位圆外的 MA(q)过程具 有可逆性
平稳性和可逆性的概念在数学语言上是完全等价的, 所不同的是,前者是对AR过程而言的,而后者是对 MA过程而言的。
11
二、Box-Jenkins方法论
22
ARMA模型的识别
⑷ARMA(p,q)过程的自相关函数和偏自相 关函数
ARMA过程的自相关函数和偏自相关函数都是 拖尾的
如下图:
23
ARIMA模型的识别
yt =0.5yt-1 0.5u t-1 u t
24
ARMA模型的识别
3. 利用自相关函数、偏自相关函数对 ARMA模型进行识别
⑴通过ADF检验,来判断序列过程的平稳性; ⑵利用自相关函数、偏自相关函数以及它们的
其中 t 为白噪音过程。
若引入滞后算子,可以写成
(L)Yt=c+ (L) t
其中 (L)=1-1L- 2L2 -...- pLp
(L)=1+ 1L+ 2L2 ... qLq
8
ARIMA模型的概念
2. ARMA过程平稳性的条件
ARMA过程的平稳性取决于它的自回归部分。 当满足条件:
图形来确定p, q的值。
25
(二)ARMA模型的估计
ARMA模型的估计方法:
矩估计 极大似然估计 非线性估计 最小二乘估计
26
(三)ARMA模型的诊断
一. 诊断的含义
二. 诊断的方法
三. 检验统计量
Box和Pierce提出的Q统计量 Ljung和Box(1978)提出的LB统计量。
27
目的:
说明在Eviews5.0 软件中利用B-J方法论建立合 适的ARIMA(p,d,q)模型
34
ARMA模型的估计
35
利用ARMA模型进行预测
用dynamic方法估计2003年1月到2005年1月的w2
36
利用ARMA模型进行预测
利用“static”方法估计2004年1月到2005年1月的w2
13
三、ARMA模型的识别、估计、诊断、预测
(一).ARMA模型的识别 1. 识别ARMA模型的两个工具:
自相关函数(autocorrelation function,简记为 ACF);
偏自相关函数(partial autocorrelation function,简 记为PACF)
以及它们各自的相关图(即ACF、PACF相对
四. 信息准则(information criteria) Akaike 信息准则 AIC=log(ˆ 2 ) 2k
T
Schwarz 信息准则 SC=log(ˆ 2 ) k log T
T Hannan-Quinn 信息准则 HQIC=log(ˆ 2 ) 2k log(log T)
T
其中 ˆ 2 为残差平方, k=p+q+1是所有估计参数
建立回归模型时,应遵循节俭性 (parsimony)的原则
博克斯和詹金斯(Box and Jenkins)提出了 在节俭性原则下建立ARMA模型的系统 方法论,即Box-Jenkins方法论
12
Box-Jenkins方法论
Box-Jenkins方法论 的步骤:
步骤1:模型识别 步骤2:模型估计 步骤3:模型的诊断检验 步骤4:模型预测
一、ARIMA模型的基本内涵
一、ARMA模型的概念 自回归移动平均模型(autoregressive
moving average models,简记为ARMA模 型),由因变量对它的滞后值以及随机 误差项的现值和滞后值回归得到。 包括移动平均过程(MA)、自回归过程 (AR)、自回归移动平均过程 (ARMA)。
(1
2
1
1≤j≤22q ... q2 )
0 j>q
j>q时,ACF(j)=0,此现象为截尾,是MA(q)过程的一个特征
如下图:
17
ARMA模型的识别
MA(2)过程
yt =0.5ut-1 0.3ut2 ut
18
ARMA模型的识别
⑵ AR(p)过程的偏自相关函数
j p 时,偏自相关函数的取值不为0 j>q 时,偏自相关函数的取值为0 AR(p)过程的偏自相关函数p阶截尾 如下图:
③自相关函数和偏自相关函数的联系
*1= 1
* 2= ( 2- 21) (1 21)
2阶以上的偏自相关函数计算公式较为复 杂,这里不再给出。
16
ARMA模型的识别
2. MA、AR、ARMA过程自相关函数及偏自相关函数 的特点
⑴MA(q)过程的自相关函数
1 j=0
ACF( j) ( j 1 j+1 2 j+2 ... q q-j)
2
ARIMA模型的概念
2.MA(q)过程的特征
1. E(Yt)=u
2.
var(Yt)
(1
2
1
22
... q2 )
2
3.自协方差
①当k>q时 k =0
②当k<q时 k =( k 1 k+1 2 k+2 ... q q-k) 2
对于任意的,MA(q)是平稳的。
3
ARIMA模型的概念
ARIMA模型的诊断
1. Q统计量
m
Q=n
ˆ 2 k ,近似服从 2 (m)(大样本中)
分布 k=1
其中n为样本容量,m为滞后长度
2. LB统计量
m
LB=n(n+2)
(ˆ 2k
(n-k)) ,服从 2 (m) 分布,其
Hale Waihona Puke k=1中n为样本容量,m为滞后长度。
3. LB统计量的特点
28
ARMA模型的诊断
19
ARMA模型的识别
yt =0.5yt-1 u t
20
ARMA模型的识别
yt =yt-1 u t
21
ARMA模型的识别
⑶AR(p)过程的自相关函数以及MA(q)过程的偏
自相关函数
平稳的AR(P)过程可以转化为一个MA(∞)过程,则 AR(P)过程的自相关函数是拖尾的
一个可逆的MA(q)过程可转化为一个AR(∞)过程,因 此其偏自相关函数是拖尾的。
如果特征方程:
1-1Z- 2Z2 -...- pZp 0
的根全部落在单位圆之外,则该AR(p)过程是 平稳的
5
ARIMA模型的概念
3. AR(p)过程的特征 E(Yt)=c+1E(Yt-1)+ 2E(Yt-2)+...+ pE(Yt-p)+E(vt)
E(vt) =0, Yt、Yt-1、Yt-2、...Yt-p
ft,1=E(Yt+1 It) = c+1Yt-1+ Y 2 t-2
在t时刻,预测 Yt+2 的值: ft,2=E(Yt+2 It) =c+1E(Yt+1 It) + 2Yt=c+1ft,1+ 2Yt
同理:
… 结论
ft,3=c+1ft,2+ f2 t,1 ft,4=c+1ft,3+ f2 t,2
将上述p+1个方程联立,得到所谓的Yule-Walker方程 组,共p+1个方程,p+1个未知数,得出AR(p)过程 的方差及各级协方差。
7
ARIMA模型的概念
三. 自回归移动平均(ARMA)过程
1. ARMA过程的形式
Yt=c+1Yt-1+ 2Yt-2+...+pYt-p+ 1 t-1+ 2 t-2+...+ q t-q+ t
二. 自回归(AR)过程 1.自回归(AR)过程表示为:
Yt=c+1Yt-1+ 2Yt-2+...+ pYt-p+vt
其中为 vt 为白噪音过程
引入滞后算子,则原式可写成
(L)Yt=c+vt 其中
(L)=1-1L- 2L2 -...- pLp
4
ARIMA模型的概念
2. AR(p)过程平稳的条件
37
的个数,T为样本容量。
29
ARMA模型的预测
一. 基于AR模型的预测
以平稳的AR(2)过程为例:
Yt=c+1Yt-1+ 2Yt-2+ut
其中 ut 为零均值白噪音过程
Yt+1=c+1Yt+ 2Yt-1+ut+1 Yt+2=c+1Yt+1+ 2Yt+ut+2
……
30
ARMA模型的预测
在t时刻,预测 Yt+1的值:
31
ARMA模型的预测
二. 基于MA过程的预测
过程 结论:
MA (2) 过程仅有2期的记忆力
32
ARMA模型的预测
三. 基于ARMA过程的预测
结合对AR过程和MA过程进行预测 ARMA模型一般用于短期预测
33
五、实例:ARMA模型在金融数 据中的应用
数据:
1991年1月到2005年1月的我国货币供应量(广 义货币M2)的月度时间序列数据
1
ARIMA模型的概念
一. 移动平均过程 1. 移动平均(MA)过程的表示:
Yt=u+ t+ 1 t-1+ 2 t-2+...+ q t-q
其中u为常数项,为白噪音过程 引入滞后算子L,原式可以写成:
q
Yt=u+ iLi t+ t 或者 Yt=u+ (L) t i=1
(L)=1+ 1L+ 2L2 ... qLq