平稳时序模型ARMA
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
k阶自 相关 函数
k k 0 1 k 1 2 k 2 p k p
可见，无论k有多大， k的计算均与其１到p阶滞后的自 相关函数有关，因此呈拖尾状。如果AR(p)是平稳的，则 |k|递减且趋于零（可作为平稳性判断方法）。
• 偏自相关函数
X t 1 X t 1 p X t p t 1 t 1 q t q
• ARMA(p,q)平稳性取决于AR(p)的平稳性。
• 当AR(p)部分平稳时，则该ARMA(p,q)模型是平 稳的，否则，不是平稳的。
4、总结
• 一个平稳的时间序列总可以找到生成它的平稳 的随机过程或模型。 • 一个非平稳的随机时间序列通常可以通过差分 的方法将它变换为平稳的，对差分后平稳的时 间序列也可找出对应的平稳随机过程或模型。 • 如果将一个非平稳时间序列通过d次差分，将 它变为平稳的，然后用一个平稳的ARMA(p,q) 模型作为它的生成模型，则该原始时间序列是 一个自回归单整移动平均（autoregressive integrated moving average）时间序列，记 为ARIMA(p,d,q)。
• 课件只提供一个简单的思路。
一、时间序列模型概述
1、时间序列模型
• 两类时间序列模型
– 时间序列结构模型：通过协整分析，建立反映不同时间 序列之间结构关系的模型，揭示了不同时间序列在每个 时点上都存在的结构关系。
– 随机时间序列模型：揭示时间序列不同时点观测值之间 的关系，也称为无条件预测模型。
q 1 Cov( X t , X t q 1 ) ( q 1 1 q ) 2 q Cov( X t , X t q ) q 2
当滞后期大于q 时，X的自协方 差系数为0。
• 有限阶移动平均模型总是平稳的。
3、ARMA(p,q)模型的平稳性
X t X t 1 t
1
X t 1 X t 1 2 X t 2 t
1 2 1,1 2 1, 2 1
X t 1 X t 1 2 X t 2 p X t p t
1 2 p 1
2 ˆ , ˆ ˆ , ˆ 1 2RMA(p,q) 中 共 有 (p+q+1) 个 待 估 参 数
1,2,,p与1,2,,q以及2，其估计量计算步 骤及公式如下：
• 第一步，估计1,2,,p
1 2 p q q 1 q p 1 q 1 q q p 2
• 考虑p阶自回归模型AR(p)
X t 1 X t 1 2 X t 2 p X t p t
LX t X t 1 , L2 X t X t 2 ,, Lp X t X t p
(1 1 L 2 L2 p Lp ) X t t
t X t 1 X t 1 p X t p
2 E t2 0 i j j i
i , j 1 p
ˆ0 ˆ i ˆ j ˆ j i ˆ 2
i , j 1
p
⒉ MA(q)模型的矩估计
将MA(q)模型的自协方差函数中的各个量用估计 量代替，得到：
可以看出，ARMA(2,2)模型的自相关图和偏自相关图在 k=1、2达到两个峰值后按指数或正弦衰减。
24
ARMA模型的识别原则
ACF AR 拖尾 MA q阶截尾 拖尾 ARMA 拖尾 拖尾
PACF p阶截尾
至于模型中的p和q阶具体取什么值，则要从 低阶开始逐步试探，直到合适的模型为止。
四、随机时间序列模型的估计
(L) (1 1 L 2 L2 p Lp )
( z) (1 1 z 2 z 2 p z p ) 0
AR(p)的特征方程
可以证明，如果该特征方程的所有根在单位圆 外（根的模大于1），则AR(p)模型是平稳的。
容易得到如下平稳性条件
ˆ 2 (1 ˆ12 ˆ22 ˆq2 ) 2 ˆ ˆ ˆ ˆ ( k 1 k 1 ˆq k ˆq ) ˆ k 0 当k 0 当1 k q 当k q
非线性方程组，用直接法 或迭代法求解。常用的迭 代方法有线性迭代法和 Newton-Raphsan迭代法。
必要条件
| 1 | | 2 | | p | 1
充分条件
2、MA(q)模型的平稳性
X t t 1 t 1 q t q E( X t ) E( t ) 1 E( t 1 ) q E( t q ) 0
0 Var X t (1 12 q2 ) 2 1 Cov( X t , X t 1 ) (1 1 2 2 3 q 1 q ) 2
ARMA(1,1)模型xt=0.8xt-1+ut-0.3ut-1的自相关图和偏自相关图
可以看出，ARMA(1,1)模型的自相关图和偏自相关图均是
在k=1达到峰值后呈现出按指数衰减的拖尾特征。
23
ARMA(2,2)模型xt=0.8xt-1-0.3xt-2+ut-0.5ut-1+0.7ut-2 的自相关图和偏自相关图
1 q 1 q p 1 q p q 2 q q p
• 第二步，改写模型，求1,2,,q以及2的估计值
X t 1 X t 1 p X t p t 1 t 1 q t q
§2.3 时间序列模型 Stochastic Time Serial Model
一、时间序列模型概述 二、平稳时间序列模型的平稳性条件 三、平稳时间序列模型的识别 四、平稳时间序列模型的估计 五、平稳时间序列模型的检验 六、ARIMA模型案例
说明
• 严格从理论体系讲，本节内容属于时间序列分 析，但不属于我们所定义的狭义的计量经济学。 • 本节内容一般不纳入计量经济学的课堂教学内 容，供没有学习过应用数理统计或者经济预测 课程的同学自学。
k=-k
1 1 2 1 p p 1 2 1 1 2 p p 2
p 1 p 1 2 p 1 p p k
此方程组被称为Yule Walker方程组。该方程 组建立了AR(p)模型的模型参数1,2,,p与 自相关函数1,2,,p的关系。
自相关函数ACF(k)给出了Xt与Xt-1的总体相关性， 但总体相关性可能掩盖了变量间完全不同的隐 含关系。 与之相反，Xt与Xt-k间的偏自相关函数(partial autocorrelation，简记为PACF)则是消除了中 间变量Xt-1，…，Xt-k+1 带来的间接相关后的直 接相关性，它是在已知序列值Xt-1，…，Xt-k+1的 条件下，Xt与Xt-k间关系的度量。 AR(p)的一个主要特征是:k>p时， k*=Corr(Xt,Xt-k)=0 ，即k*在p以后是截尾的。
• 平稳时间序列模型包括：AR(p)、MA(q)、 ARMA(p,q)。 • 平稳时间序列模型并不属于现代计量经济学。
2、随机时间序列模型的适用性
• 用于无条件预测
– 结构模型用于预测的条件：建立正确的结构模型，给定 外生变量的预测值。
– 无条件预测模型的优点。
• 结构模型的简化形式
– 结构模型经常可以通过约化和简化，变换为随及时间序 列模型。
三、随机时间序列模型的识别
• 所谓随机时间序列模型的识别，就是对于一个 平稳的随机时间序列，找出生成它的合适的随 机过程或模型，即判断该时间序列是遵循一纯 AR过程、还是遵循一纯MA过程或ARMA过程。 • 所使用的工具主要是时间序列的自相关函数 （ autocorrelation function ， ACF ）及偏自 相 关 函 数 （ partial autocorrelation function， PACF ）。
• AR(p) 、 MA(q) 、 ARMA(p,q) 模型的估计方法较 多，大体上分为3类：
–最小二乘估计； –矩估计； –利用自相关函数的直接估计。
• 下面有选择地加以介绍。
⒈ AR(p)模型的Yule Walker方程估计
k 1 k 1 2 k 2 p k p
1 2 p
0 1 p 1
1 0 p2
1 1 p 1 p2 2 0 p
自相关图 在1阶以后 呈现出 截尾特征
偏自相关图 呈现出 拖尾特征
MA(1)模型xt=ut+0.8ut-1的自相关图和偏自相关图
21
3、ARMA(p, q)过程
• ARMA(p,q)模型的识别规则：若随机序列的自 相关函数和偏自相关函数都是拖尾的，则此序 列是ARMA(p,q)序列。 • 实际上，ARMA(p,q)过程的偏自相关函数，可 能在p阶滞后前有几项明显的尖柱（spikes）， 但从p阶滞后项开始逐渐趋向于零；而它的自 相关函数则是在q阶滞后前有几项明显的尖柱， 从q阶滞后项开始逐渐趋向于零。
相关函数和偏自相关函数。
18
自相关图 呈现出 拖尾特征
偏自相关图 在1阶以后 呈现出 截尾特征
AR(1)模型xt=0.7xt-1+ut的自相关图和偏自相关图
19
2、MA(q)过程
• MA(q)模型的识别规则：若随机序列的自相关 函数截尾，即自q以后，k=0（ k>q）；而它 的偏自相关函数是拖尾的，则此序列是滑动平 均MA(q)序列。
• 随机时间序列AR(p)的识别原则： 若Xt的偏自相关函数在p以后截尾，即k>p时， k*=0 ，而它的自相关函数 k 是拖尾的，则此 序列是自回归AR(p)序列。
• AR(p)模型的自相关函数和偏自相关函数的 计算看起来较为复杂，但是计量经济学软件 都有自相关和偏相关函数的菜单，使用起来 非常方便。 • 以Eviews软件为例，我们来看AR(p)模型的自
二、随机时间序列模型的平稳性条件
1、AR(p)模型的平稳性条件
• 随机时间序列模型的平稳性，可通过它所生成 的随机时间序列的平稳性来判断。 • 如果一个p阶自回归模型AR(p)生成的时间序列 是 平 稳 的 ， 就 说 该 AR(p) 模 型 是 平 稳 的 ； 否则，就说该AR(p)模型是非平稳的。
1、AR(p)过程
• 自相关函数ACF
X t 1 X t 1 2 X t 2 p X t p t
k期滞后自协方差
k E ( X t k (1 X t 1 2 X t 2 p X t p t ))
1 k 1 2 k 2 p k p
k k 0 1 k 1 2 k 2 p k p
可见，无论k有多大， k的计算均与其１到p阶滞后的自 相关函数有关，因此呈拖尾状。如果AR(p)是平稳的，则 |k|递减且趋于零（可作为平稳性判断方法）。
• 偏自相关函数
X t 1 X t 1 p X t p t 1 t 1 q t q
• ARMA(p,q)平稳性取决于AR(p)的平稳性。
• 当AR(p)部分平稳时，则该ARMA(p,q)模型是平 稳的，否则，不是平稳的。
4、总结
• 一个平稳的时间序列总可以找到生成它的平稳 的随机过程或模型。 • 一个非平稳的随机时间序列通常可以通过差分 的方法将它变换为平稳的，对差分后平稳的时 间序列也可找出对应的平稳随机过程或模型。 • 如果将一个非平稳时间序列通过d次差分，将 它变为平稳的，然后用一个平稳的ARMA(p,q) 模型作为它的生成模型，则该原始时间序列是 一个自回归单整移动平均（autoregressive integrated moving average）时间序列，记 为ARIMA(p,d,q)。
• 课件只提供一个简单的思路。
一、时间序列模型概述
1、时间序列模型
• 两类时间序列模型
– 时间序列结构模型：通过协整分析，建立反映不同时间 序列之间结构关系的模型，揭示了不同时间序列在每个 时点上都存在的结构关系。
– 随机时间序列模型：揭示时间序列不同时点观测值之间 的关系，也称为无条件预测模型。
q 1 Cov( X t , X t q 1 ) ( q 1 1 q ) 2 q Cov( X t , X t q ) q 2
当滞后期大于q 时，X的自协方 差系数为0。
• 有限阶移动平均模型总是平稳的。
3、ARMA(p,q)模型的平稳性
X t X t 1 t
1
X t 1 X t 1 2 X t 2 t
1 2 1,1 2 1, 2 1
X t 1 X t 1 2 X t 2 p X t p t
1 2 p 1
2 ˆ , ˆ ˆ , ˆ 1 2RMA(p,q) 中 共 有 (p+q+1) 个 待 估 参 数
1,2,,p与1,2,,q以及2，其估计量计算步 骤及公式如下：
• 第一步，估计1,2,,p
1 2 p q q 1 q p 1 q 1 q q p 2
• 考虑p阶自回归模型AR(p)
X t 1 X t 1 2 X t 2 p X t p t
LX t X t 1 , L2 X t X t 2 ,, Lp X t X t p
(1 1 L 2 L2 p Lp ) X t t
t X t 1 X t 1 p X t p
2 E t2 0 i j j i
i , j 1 p
ˆ0 ˆ i ˆ j ˆ j i ˆ 2
i , j 1
p
⒉ MA(q)模型的矩估计
将MA(q)模型的自协方差函数中的各个量用估计 量代替，得到：
可以看出，ARMA(2,2)模型的自相关图和偏自相关图在 k=1、2达到两个峰值后按指数或正弦衰减。
24
ARMA模型的识别原则
ACF AR 拖尾 MA q阶截尾 拖尾 ARMA 拖尾 拖尾
PACF p阶截尾
至于模型中的p和q阶具体取什么值，则要从 低阶开始逐步试探，直到合适的模型为止。
四、随机时间序列模型的估计
(L) (1 1 L 2 L2 p Lp )
( z) (1 1 z 2 z 2 p z p ) 0
AR(p)的特征方程
可以证明，如果该特征方程的所有根在单位圆 外（根的模大于1），则AR(p)模型是平稳的。
容易得到如下平稳性条件
ˆ 2 (1 ˆ12 ˆ22 ˆq2 ) 2 ˆ ˆ ˆ ˆ ( k 1 k 1 ˆq k ˆq ) ˆ k 0 当k 0 当1 k q 当k q
非线性方程组，用直接法 或迭代法求解。常用的迭 代方法有线性迭代法和 Newton-Raphsan迭代法。
必要条件
| 1 | | 2 | | p | 1
充分条件
2、MA(q)模型的平稳性
X t t 1 t 1 q t q E( X t ) E( t ) 1 E( t 1 ) q E( t q ) 0
0 Var X t (1 12 q2 ) 2 1 Cov( X t , X t 1 ) (1 1 2 2 3 q 1 q ) 2
ARMA(1,1)模型xt=0.8xt-1+ut-0.3ut-1的自相关图和偏自相关图
可以看出，ARMA(1,1)模型的自相关图和偏自相关图均是
在k=1达到峰值后呈现出按指数衰减的拖尾特征。
23
ARMA(2,2)模型xt=0.8xt-1-0.3xt-2+ut-0.5ut-1+0.7ut-2 的自相关图和偏自相关图
1 q 1 q p 1 q p q 2 q q p
• 第二步，改写模型，求1,2,,q以及2的估计值
X t 1 X t 1 p X t p t 1 t 1 q t q
§2.3 时间序列模型 Stochastic Time Serial Model
一、时间序列模型概述 二、平稳时间序列模型的平稳性条件 三、平稳时间序列模型的识别 四、平稳时间序列模型的估计 五、平稳时间序列模型的检验 六、ARIMA模型案例
说明
• 严格从理论体系讲，本节内容属于时间序列分 析，但不属于我们所定义的狭义的计量经济学。 • 本节内容一般不纳入计量经济学的课堂教学内 容，供没有学习过应用数理统计或者经济预测 课程的同学自学。
k=-k
1 1 2 1 p p 1 2 1 1 2 p p 2
p 1 p 1 2 p 1 p p k
此方程组被称为Yule Walker方程组。该方程 组建立了AR(p)模型的模型参数1,2,,p与 自相关函数1,2,,p的关系。
自相关函数ACF(k)给出了Xt与Xt-1的总体相关性， 但总体相关性可能掩盖了变量间完全不同的隐 含关系。 与之相反，Xt与Xt-k间的偏自相关函数(partial autocorrelation，简记为PACF)则是消除了中 间变量Xt-1，…，Xt-k+1 带来的间接相关后的直 接相关性，它是在已知序列值Xt-1，…，Xt-k+1的 条件下，Xt与Xt-k间关系的度量。 AR(p)的一个主要特征是:k>p时， k*=Corr(Xt,Xt-k)=0 ，即k*在p以后是截尾的。
• 平稳时间序列模型包括：AR(p)、MA(q)、 ARMA(p,q)。 • 平稳时间序列模型并不属于现代计量经济学。
2、随机时间序列模型的适用性
• 用于无条件预测
– 结构模型用于预测的条件：建立正确的结构模型，给定 外生变量的预测值。
– 无条件预测模型的优点。
• 结构模型的简化形式
– 结构模型经常可以通过约化和简化，变换为随及时间序 列模型。
三、随机时间序列模型的识别
• 所谓随机时间序列模型的识别，就是对于一个 平稳的随机时间序列，找出生成它的合适的随 机过程或模型，即判断该时间序列是遵循一纯 AR过程、还是遵循一纯MA过程或ARMA过程。 • 所使用的工具主要是时间序列的自相关函数 （ autocorrelation function ， ACF ）及偏自 相 关 函 数 （ partial autocorrelation function， PACF ）。
• AR(p) 、 MA(q) 、 ARMA(p,q) 模型的估计方法较 多，大体上分为3类：
–最小二乘估计； –矩估计； –利用自相关函数的直接估计。
• 下面有选择地加以介绍。
⒈ AR(p)模型的Yule Walker方程估计
k 1 k 1 2 k 2 p k p
1 2 p
0 1 p 1
1 0 p2
1 1 p 1 p2 2 0 p
自相关图 在1阶以后 呈现出 截尾特征
偏自相关图 呈现出 拖尾特征
MA(1)模型xt=ut+0.8ut-1的自相关图和偏自相关图
21
3、ARMA(p, q)过程
• ARMA(p,q)模型的识别规则：若随机序列的自 相关函数和偏自相关函数都是拖尾的，则此序 列是ARMA(p,q)序列。 • 实际上，ARMA(p,q)过程的偏自相关函数，可 能在p阶滞后前有几项明显的尖柱（spikes）， 但从p阶滞后项开始逐渐趋向于零；而它的自 相关函数则是在q阶滞后前有几项明显的尖柱， 从q阶滞后项开始逐渐趋向于零。
相关函数和偏自相关函数。
18
自相关图 呈现出 拖尾特征
偏自相关图 在1阶以后 呈现出 截尾特征
AR(1)模型xt=0.7xt-1+ut的自相关图和偏自相关图
19
2、MA(q)过程
• MA(q)模型的识别规则：若随机序列的自相关 函数截尾，即自q以后，k=0（ k>q）；而它 的偏自相关函数是拖尾的，则此序列是滑动平 均MA(q)序列。
• 随机时间序列AR(p)的识别原则： 若Xt的偏自相关函数在p以后截尾，即k>p时， k*=0 ，而它的自相关函数 k 是拖尾的，则此 序列是自回归AR(p)序列。
• AR(p)模型的自相关函数和偏自相关函数的 计算看起来较为复杂，但是计量经济学软件 都有自相关和偏相关函数的菜单，使用起来 非常方便。 • 以Eviews软件为例，我们来看AR(p)模型的自
二、随机时间序列模型的平稳性条件
1、AR(p)模型的平稳性条件
• 随机时间序列模型的平稳性，可通过它所生成 的随机时间序列的平稳性来判断。 • 如果一个p阶自回归模型AR(p)生成的时间序列 是 平 稳 的 ， 就 说 该 AR(p) 模 型 是 平 稳 的 ； 否则，就说该AR(p)模型是非平稳的。
1、AR(p)过程
• 自相关函数ACF
X t 1 X t 1 2 X t 2 p X t p t
k期滞后自协方差
k E ( X t k (1 X t 1 2 X t 2 p X t p t ))
1 k 1 2 k 2 p k p