时间序列中的ARMA模型
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1. ARMA过程的形式
Yt=c+1Yt-1+ 2Yt-2+...+ pYt-p+ 1 t-1+ 2 t-2+...+ q t-q+ t 其中 t 为白噪音过程。
若引入滞后算子，可以写成
(L)Yt=c+ (L) t
其中
(L)=1- 1L- 2L2 -...- pLp
……
2
1= 1 0+ 2 1+...+ p p-1
p=1 p-1+ 2 p-2+...+ p 0
将上述p+1个方程联立，得到所谓的Yule-Walker方程 组，共p+1个方程，p+1个未知数，得出AR（p）过程 的方差及各级协方差。
8
ARIMA模型的概念
三. 自回归移动平均（ARMA）过程
E(vt) =0， Yt、Yt-1、Yt-2、...Yt-p 的无条
件期望是相等的，若设为u，则得到 :
u=
c 1 ( 1 2 ... p)
7
ARIMA模型的概念
Yt-u=1(Yt-1-u)+ 2(Yt-2-u)+...+ p(Yt-p-u)+vt
0= 1 1+ 2 2+...+ p p+
j=0 1 1≤j≤q ACF( j) ( j 1 j+1 2 j+2 ... q q-j) (1 12 2 2 ... q 2 ) 0 j>q
j>q时，ACF(j)=0，此现象为截尾，是MA(q)过程的一个特征 如下图：
33
ARMA模型的预测
三. 基于ARMA过程的预测
结合对AR过程和MA过程进行预测 ARMA模型一般用于短期预测
34
五、实例：ARMA模型在金融数 据中的应用
数据：
1991年1月到2005年1月的我国货币供应量（广 义货币M2）的月度时间序列数据
目的：
说明在Eviews5.0 软件中利用B-J方法论建立合 适的ARIMA（p,d,q）模型
2
Hannan-Quinn 信息准则 HQIC=log( 2 ) 2k log(log T) ˆ
T
ˆ 2 为残差平方， 其中
的个数，T为样本容量。
k=p+q+1 是所有估计参数
30
ARMA模型的预测
一. 基于AR模型的预测
以平稳的AR(2)过程为例：
Yt=c+ 1Yt-1+ 2Yt-2+ut
16
ARMA模型的识别
③自相关函数和偏自相关函数的联系
* 1= 1
2= ( 2- 1) (1 1)
* 2 2
2阶以上的偏自相关函数计算公式较为复 杂，这里不再给出。
17
ARMA模型的识别
2. MA、AR、ARMA过程自相关函数及偏自相关函数 的特点 ⑴MA(q)过程的自相关函数
⑴通过ADF检验，来判断序列过程的平稳性； ⑵利用自相关函数、偏自相关函数以及它们的 图形来确定p, q的值。
26
（二）ARMA模型的估计
ARMA模型的估计方法：
矩估计 极大似然估计 非线性估计 最小二乘估计
27
（三）ARMA模型的诊断
一. 诊断的含义 二. 诊断的方法 三. 检验统计量
q
(L)=1+ 1L+ 2L2 ... qLq
3
ARIMA模型的概念
2.MA（q）过程的特征 1. E(Yt)=u
2.
var(Yt) (1 1 2
2
2
... q 2 ) 2
①当k>q时 k ＝0 k =( k 1 k+1 2 k+2 ... q q-k) 2 ②当k<q时 对于任意的，MA(q)是平稳的。
4
3.自协方差
ARIMA模型的概念
二. 自回归（AR）过程 1.自回归（AR）过程表示为：
Yt=c+1Yt-1+ 2Yt-2+...+ pYt-p+vt 其中为 vt 为白噪音过程
引入滞后算子，则原式可写成
(L)Yt=c+vt
其中
(L)=1- 1L- 2L2 -...- pLp
Box和Pierce提出的Q统计量 Ljung和Box(1978)提出的LB统计量。
28
ARIMA模型的诊断
1. Q统计量
Βιβλιοθήκη Baidum 2
ˆ Q=n k k=1 分布 其中n为样本容量，m为滞后长度
ˆ LB=n(n+2) (
k=1 m 2
2 (m) ，近似服从 （大样本中）
2. LB统计量
35
ARMA模型的估计
36
利用ARMA模型进行预测
用dynamic方法估计2003年1月到2005年1月的w2
37
利用ARMA模型进行预测
利用“static”方法估计2004年1月到2005年1月的w2
38
23
ARMA模型的识别
⑷ARMA(p,q)过程的自相关函数和偏自相 关函数
ARMA过程的自相关函数和偏自相关函数都是 拖尾的 如下图：
24
ARIMA模型的识别
y t =0.5y t-1 0.5u t-1 u t
25
ARMA模型的识别
3. 利用自相关函数、偏自相关函数对 ARMA模型进行识别
10
ARIMA模型的概念
3.ARMA(p, q)过程的特征
E(Yt)= 1）
c 1 ( 1 2 ... p)
2）ARMA(p, q)过程的方差和协方差
11
ARIMA模型的概念
四. AR、MA过程的相互转化
结论一：平稳的AR(p)过程可以转化为一个MA(∞)过程， 可采用递归迭代法完成转化 结论二：特征方程根都落在单位圆外的 MA(q)过程具 有可逆性 平稳性和可逆性的概念在数学语言上是完全等价的， 所不同的是，前者是对AR过程而言的，而后者是对 MA过程而言的。
步骤1：模型识别 步骤2：模型估计 步骤3：模型的诊断检验 步骤4：模型预测
14
三、ARMA模型的识别、估计、诊断、预测
(一).ARMA模型的识别 1. 识别ARMA模型的两个工具：
自相关函数(autocorrelation function,简记为 ACF）； 偏自相关函数(partial autocorrelation function,简 记为PACF) 以及它们各自的相关图（即ACF、PACF相对 于滞后长度描图）。
k
2 (m) 分布，其 (n-k)) ，服从
中n为样本容量，m为滞后长度。
3. LB统计量的特点
29
ARMA模型的诊断
四. 信息准则(information criteria) 2k 2 Akaike 信息准则 ˆ AIC=log( )
T
Schwarz 信息准则
k ˆ SC=log( ) log T T
(L)=1+ 1L+ 2L2 ... qLq
9
ARIMA模型的概念
2. ARMA过程平稳性的条件
ARMA过程的平稳性取决于它的自回归部分。 当满足条件：
1- 1Z- 2Z2 -...- pZp 0
特征方程的根全部落在单位圆以外时， ARMA(p,q)是一个平稳过程。
ft,2=E(Yt+2 It) =c+ 1E(Yt+1 It) + 2Yt=c+ 1ft,1+ 2Yt
同理：
… 结论
ft,3=c+ 1ft,2+ 2ft,1 ft,4=c+ 1ft,3+ 2ft,2
32
ARMA模型的预测
二. 基于MA过程的预测
过程 结论： MA (2) 过程仅有2期的记忆力
15
ARMA模型的识别
2. 自相关函数和偏自相关函数的概念
①自相关函数 j j 0 ， 过程 Y t的第j阶自相关系数即 自相关函数记为ACF(j) 。 ②偏自相关函数
* j 度量了消除中间滞后项影响 偏自相关系数
后两滞后变量之间的相关关系。偏自相关函数 记为PACF(j)
20
ARMA模型的识别
y t =0.5y t-1 u t
21
ARMA模型的识别
y t =y t-1 u t
22
ARMA模型的识别
⑶AR(p)过程的自相关函数以及MA(q)过程的偏
自相关函数
平稳的AR(P)过程可以转化为一个MA(∞）过程，则 AR(P)过程的自相关函数是拖尾的 一个可逆的MA(q)过程可转化为一个AR(∞）过程，因 此其偏自相关函数是拖尾的。
5
ARIMA模型的概念
2. AR(p)过程平稳的条件
如果特征方程：
1- 1Z- 2Z2 -...- pZp 0
的根全部落在单位圆之外，则该AR(p)过程是 平稳的
6
ARIMA模型的概念
3. AR(p)过程的特征
E(Yt)=c+1E(Yt-1)+ 2E(Yt-2)+...+ pE(Yt-p)+E(vt)
其中 ut 为零均值白噪音过程
Yt+1=c+ 1Yt+ 2Yt-1+ut+1
……
Yt+2=c+ 1Yt+1+ 2Yt+ut+2
31
ARMA模型的预测
在t时刻，预测 Yt+1 的值： ft,1=E(Yt+1 It) = c+ 1Yt-1+ 2Yt-2 在t时刻，预测 Yt+2 的值：
12
二、Box-Jenkins方法论
建立回归模型时，应遵循节俭性 (parsimony)的原则 博克斯和詹金斯(Box and Jenkins)提出了 在节俭性原则下建立ARMA模型的系统 方法论,即Box-Jenkins方法论
13
Box-Jenkins方法论
Box-Jenkins方法论 的步骤：
2
ARIMA模型的概念
一. 移动平均过程 1. 移动平均（MA）过程的表示：
Yt=u+ t+ 1 t-1+ 2 t-2+...+ q t-q
其中u为常数项，为白噪音过程 引入滞后算子L，原式可以写成:
Yt=u+ iLi t+ t 或者 Yt=u+ (L) t
i=1
ARMA模型的概念和构造
1
一、ARIMA模型的基本内涵
一、ARMA模型的概念 自回归移动平均模型（autoregressive moving average models,简记为ARMA模 型），由因变量对它的滞后值以及随机 误差项的现值和滞后值回归得到。 包括移动平均过程（MA）、自回归过程 （AR）、自回归移动平均过程 （ARMA）。
18
ARMA模型的识别
y t =0.5u t-1 0.3u t 2 u t
MA 2 （ ） 过 程
19
ARMA模型的识别
⑵ AR(p)过程的偏自相关函数
j p 时，偏自相关函数的取值不为0
j>q 时，偏自相关函数的取值为0
AR(p)过程的偏自相关函数p阶截尾 如下图：
Yt=c+1Yt-1+ 2Yt-2+...+ pYt-p+ 1 t-1+ 2 t-2+...+ q t-q+ t 其中 t 为白噪音过程。
若引入滞后算子，可以写成
(L)Yt=c+ (L) t
其中
(L)=1- 1L- 2L2 -...- pLp
……
2
1= 1 0+ 2 1+...+ p p-1
p=1 p-1+ 2 p-2+...+ p 0
将上述p+1个方程联立，得到所谓的Yule-Walker方程 组，共p+1个方程，p+1个未知数，得出AR（p）过程 的方差及各级协方差。
8
ARIMA模型的概念
三. 自回归移动平均（ARMA）过程
E(vt) =0， Yt、Yt-1、Yt-2、...Yt-p 的无条
件期望是相等的，若设为u，则得到 :
u=
c 1 ( 1 2 ... p)
7
ARIMA模型的概念
Yt-u=1(Yt-1-u)+ 2(Yt-2-u)+...+ p(Yt-p-u)+vt
0= 1 1+ 2 2+...+ p p+
j=0 1 1≤j≤q ACF( j) ( j 1 j+1 2 j+2 ... q q-j) (1 12 2 2 ... q 2 ) 0 j>q
j>q时，ACF(j)=0，此现象为截尾，是MA(q)过程的一个特征 如下图：
33
ARMA模型的预测
三. 基于ARMA过程的预测
结合对AR过程和MA过程进行预测 ARMA模型一般用于短期预测
34
五、实例：ARMA模型在金融数 据中的应用
数据：
1991年1月到2005年1月的我国货币供应量（广 义货币M2）的月度时间序列数据
目的：
说明在Eviews5.0 软件中利用B-J方法论建立合 适的ARIMA（p,d,q）模型
2
Hannan-Quinn 信息准则 HQIC=log( 2 ) 2k log(log T) ˆ
T
ˆ 2 为残差平方， 其中
的个数，T为样本容量。
k=p+q+1 是所有估计参数
30
ARMA模型的预测
一. 基于AR模型的预测
以平稳的AR(2)过程为例：
Yt=c+ 1Yt-1+ 2Yt-2+ut
16
ARMA模型的识别
③自相关函数和偏自相关函数的联系
* 1= 1
2= ( 2- 1) (1 1)
* 2 2
2阶以上的偏自相关函数计算公式较为复 杂，这里不再给出。
17
ARMA模型的识别
2. MA、AR、ARMA过程自相关函数及偏自相关函数 的特点 ⑴MA(q)过程的自相关函数
⑴通过ADF检验，来判断序列过程的平稳性； ⑵利用自相关函数、偏自相关函数以及它们的 图形来确定p, q的值。
26
（二）ARMA模型的估计
ARMA模型的估计方法：
矩估计 极大似然估计 非线性估计 最小二乘估计
27
（三）ARMA模型的诊断
一. 诊断的含义 二. 诊断的方法 三. 检验统计量
q
(L)=1+ 1L+ 2L2 ... qLq
3
ARIMA模型的概念
2.MA（q）过程的特征 1. E(Yt)=u
2.
var(Yt) (1 1 2
2
2
... q 2 ) 2
①当k>q时 k ＝0 k =( k 1 k+1 2 k+2 ... q q-k) 2 ②当k<q时 对于任意的，MA(q)是平稳的。
4
3.自协方差
ARIMA模型的概念
二. 自回归（AR）过程 1.自回归（AR）过程表示为：
Yt=c+1Yt-1+ 2Yt-2+...+ pYt-p+vt 其中为 vt 为白噪音过程
引入滞后算子，则原式可写成
(L)Yt=c+vt
其中
(L)=1- 1L- 2L2 -...- pLp
Box和Pierce提出的Q统计量 Ljung和Box(1978)提出的LB统计量。
28
ARIMA模型的诊断
1. Q统计量
Βιβλιοθήκη Baidum 2
ˆ Q=n k k=1 分布 其中n为样本容量，m为滞后长度
ˆ LB=n(n+2) (
k=1 m 2
2 (m) ，近似服从 （大样本中）
2. LB统计量
35
ARMA模型的估计
36
利用ARMA模型进行预测
用dynamic方法估计2003年1月到2005年1月的w2
37
利用ARMA模型进行预测
利用“static”方法估计2004年1月到2005年1月的w2
38
23
ARMA模型的识别
⑷ARMA(p,q)过程的自相关函数和偏自相 关函数
ARMA过程的自相关函数和偏自相关函数都是 拖尾的 如下图：
24
ARIMA模型的识别
y t =0.5y t-1 0.5u t-1 u t
25
ARMA模型的识别
3. 利用自相关函数、偏自相关函数对 ARMA模型进行识别
10
ARIMA模型的概念
3.ARMA(p, q)过程的特征
E(Yt)= 1）
c 1 ( 1 2 ... p)
2）ARMA(p, q)过程的方差和协方差
11
ARIMA模型的概念
四. AR、MA过程的相互转化
结论一：平稳的AR(p)过程可以转化为一个MA(∞)过程， 可采用递归迭代法完成转化 结论二：特征方程根都落在单位圆外的 MA(q)过程具 有可逆性 平稳性和可逆性的概念在数学语言上是完全等价的， 所不同的是，前者是对AR过程而言的，而后者是对 MA过程而言的。
步骤1：模型识别 步骤2：模型估计 步骤3：模型的诊断检验 步骤4：模型预测
14
三、ARMA模型的识别、估计、诊断、预测
(一).ARMA模型的识别 1. 识别ARMA模型的两个工具：
自相关函数(autocorrelation function,简记为 ACF）； 偏自相关函数(partial autocorrelation function,简 记为PACF) 以及它们各自的相关图（即ACF、PACF相对 于滞后长度描图）。
k
2 (m) 分布，其 (n-k)) ，服从
中n为样本容量，m为滞后长度。
3. LB统计量的特点
29
ARMA模型的诊断
四. 信息准则(information criteria) 2k 2 Akaike 信息准则 ˆ AIC=log( )
T
Schwarz 信息准则
k ˆ SC=log( ) log T T
(L)=1+ 1L+ 2L2 ... qLq
9
ARIMA模型的概念
2. ARMA过程平稳性的条件
ARMA过程的平稳性取决于它的自回归部分。 当满足条件：
1- 1Z- 2Z2 -...- pZp 0
特征方程的根全部落在单位圆以外时， ARMA(p,q)是一个平稳过程。
ft,2=E(Yt+2 It) =c+ 1E(Yt+1 It) + 2Yt=c+ 1ft,1+ 2Yt
同理：
… 结论
ft,3=c+ 1ft,2+ 2ft,1 ft,4=c+ 1ft,3+ 2ft,2
32
ARMA模型的预测
二. 基于MA过程的预测
过程 结论： MA (2) 过程仅有2期的记忆力
15
ARMA模型的识别
2. 自相关函数和偏自相关函数的概念
①自相关函数 j j 0 ， 过程 Y t的第j阶自相关系数即 自相关函数记为ACF(j) 。 ②偏自相关函数
* j 度量了消除中间滞后项影响 偏自相关系数
后两滞后变量之间的相关关系。偏自相关函数 记为PACF(j)
20
ARMA模型的识别
y t =0.5y t-1 u t
21
ARMA模型的识别
y t =y t-1 u t
22
ARMA模型的识别
⑶AR(p)过程的自相关函数以及MA(q)过程的偏
自相关函数
平稳的AR(P)过程可以转化为一个MA(∞）过程，则 AR(P)过程的自相关函数是拖尾的 一个可逆的MA(q)过程可转化为一个AR(∞）过程，因 此其偏自相关函数是拖尾的。
5
ARIMA模型的概念
2. AR(p)过程平稳的条件
如果特征方程：
1- 1Z- 2Z2 -...- pZp 0
的根全部落在单位圆之外，则该AR(p)过程是 平稳的
6
ARIMA模型的概念
3. AR(p)过程的特征
E(Yt)=c+1E(Yt-1)+ 2E(Yt-2)+...+ pE(Yt-p)+E(vt)
其中 ut 为零均值白噪音过程
Yt+1=c+ 1Yt+ 2Yt-1+ut+1
……
Yt+2=c+ 1Yt+1+ 2Yt+ut+2
31
ARMA模型的预测
在t时刻，预测 Yt+1 的值： ft,1=E(Yt+1 It) = c+ 1Yt-1+ 2Yt-2 在t时刻，预测 Yt+2 的值：
12
二、Box-Jenkins方法论
建立回归模型时，应遵循节俭性 (parsimony)的原则 博克斯和詹金斯(Box and Jenkins)提出了 在节俭性原则下建立ARMA模型的系统 方法论,即Box-Jenkins方法论
13
Box-Jenkins方法论
Box-Jenkins方法论 的步骤：
2
ARIMA模型的概念
一. 移动平均过程 1. 移动平均（MA）过程的表示：
Yt=u+ t+ 1 t-1+ 2 t-2+...+ q t-q
其中u为常数项，为白噪音过程 引入滞后算子L，原式可以写成:
Yt=u+ iLi t+ t 或者 Yt=u+ (L) t
i=1
ARMA模型的概念和构造
1
一、ARIMA模型的基本内涵
一、ARMA模型的概念 自回归移动平均模型（autoregressive moving average models,简记为ARMA模 型），由因变量对它的滞后值以及随机 误差项的现值和滞后值回归得到。 包括移动平均过程（MA）、自回归过程 （AR）、自回归移动平均过程 （ARMA）。
18
ARMA模型的识别
y t =0.5u t-1 0.3u t 2 u t
MA 2 （ ） 过 程
19
ARMA模型的识别
⑵ AR(p)过程的偏自相关函数
j p 时，偏自相关函数的取值不为0
j>q 时，偏自相关函数的取值为0
AR(p)过程的偏自相关函数p阶截尾 如下图：