自回归移动平均模型
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
i 1
3 个模型检验的原假设都是： H0 ： =0 ，即存 在一单位根，备择假设：H1: <0。
ADF检验过程： 同时估计出上述 3个模型的适当形式，然后通 过ADF临界值表检验零假设H0： =0。 1）只要其中有一个模型的检验结果拒绝了零 假设，就可以认为时间序列是平稳的； 2）当3个模型的检验结果都不能拒绝零假设时， 则认为时间序列是非平稳的。 检验原理与 DF 检验相同。 Dicky 和 Fuller 推导 了3个模型所使用的ADF分布临界值表。 ADF检验也可判断时间序列的单整阶数。
• 多次差分无法变为平稳的时间序列称为非单 整的(non-integrated)。
6. 自相关函数、Q统计量
随机时间序列 Yt 的自相关函数 (autocorrelation function, ACF)： k=k / 0 自相关函数是关于滞后期k的递减函数。
对一个随机过程只有一个实现(样本), 因此， 只能计算样本自相关函数(Sample autocorrelation function)：
一般地: 检验一个时间序列Yt的平稳性，可通过检验 带有截距项的一阶自回归模型 Yt = +Yt-1+ t （*） 中的参数是否小于1。 或者：检验其等价变形式 Yt = +Yt-1+ t 中的参数是否小于0 。 （**）
（*）式中的参数 >1或 =1时，时间序列是 非平稳的；对应于（**）式，则是 >0或 = 0。
yt是平稳序列。 （**）式中L表示滞后算子。
实际上，以往讨论的回归源自文库程的序列自相关
问题暗含着残差序列是一个平稳序列。因为如 果残差序列是一个非平稳序列，则说明因变量 除了能被解释变量解释的部分以外，其余的部 分变化仍然不规则，随着时间的变化有越来越
大的偏离因变量均值的趋势，这样的模型是不
能够用来预测未来信息的。
残差序列是一个非平稳序列的回归被称为伪
回归，这样的一种回归有可能拟合优度、显著性 水平等指标都很好，但是由于残差序列是一个非 平稳序列，说明了这种回归关系不能够真实的反 映因变量和解释变量之间存在的均衡关系，而仅
仅是一种数字上的巧合而已。伪回归的出现说明
模型的设定出现了问题，有可能需要增加解释变
量或者减少解释变量，抑或是把原方程进行差分，
3. 白噪声和随机游走
一个最简单的随机时间序列是一具有零均值同 方差的独立同分布序列： Xt = t ， t ~ N(0,2)
该序列常被称为是一个白噪声(white noise)。
由定义知：白噪声序列是平稳的。
另一个简单的随机时间列序被称为随机游走 (random walk)，该序列由如下随机过程生成： Xt = Xt-1 + t 这里，t 是一个白噪声, t ~ N(0,2)。 该序列 同均值，但方差不同：
• ADF检验是通过以下3个模型完成的： 模型1： 模型2： 模型3：
Yt Yt 1 i Yt i t
i 1
m
(*) (**)
Yt Yt 1 i Yt i t
i 1 m
m
Yt t Yt 1 i Yt i t (***)
T k t 1
ˆk
(Y
t T
Y )(Yt k Y )
2 ( Y Y ) t t 1
k k
• 为了检验自相关函数的某个数值 ρk 是否为0， 可以用Bartlett的研究结果：如果时间序列由白 噪声生成，则对所有k > 0， k ~ N(0, 1/T )
以使残差序列达到平稳。 一个可行的办法是先把一个非平稳时间序列
通过某种变换化成一个平稳序列。
三、时间序列的平稳性检验
1. 平稳性检验的图示判断
一个平稳的时间序列在图形上往往表现出 一种围绕其均值不断波动的过程；而非平 稳序列则往往表现出在不同的时间段具有 不同的均值（如持续上升或持续下降）。
Xt
则称该随机时间序列是平稳的（stationary)， 而该随机过程是一平稳随机过程（stationary stochastic process）。
2. 平稳性与经典回归
经典计量模型的数学基础是极限法则，以独立随机 抽样为样本，如果模型设定正确，模型随机误差项 满足极限法则和由极限法则导出的基本假设，继而 进行的参数估计和统计推断是可靠的。 以时间序列数据为样本，破坏了随机抽样的假定， 则经典计量模型的数学基础能否被满足成为一个重 要问题。 对照极限法则和时间序列的平稳性条件研究发现， 如果模型设定正确，并且所有时间序列是平稳的， 时间序列的平稳性可以替代随机抽样假定，模型随 机误差项仍然满足极限法则。
例 1：检验 1978~2000年间中国支出法 GDP时间 序列的平稳性及单整性。 1）经过偿试，模型3取了2阶滞后：
GDPt 1011.33 229.27T 0.0093 GDPt 1 ( 1.26) (8.94) (1.91) (0.31) 1.50 GDPt 1 1.01 GDPt 2 ( 4.95)
通过拉格朗日乘数检验对随机误差项的自相关 性进行检验：LM(1)=0.92， LM(2)=4.16， • 小于5%显著性水平下自由度分别为1与2的2分 布的临界值，可见不存在自相关性。 • 从 看，t>临界值(查ADF分布表)，不能拒绝存 在单位根的零假设。
• E(Xt ) = E(Xt -1) X1 = X0 + 1 X2 = X1 + 2 = X0 + 1 + 2 …… Xt = X0 + 1 + 2 +… + t
• var(Xt ) = t2， Xt的方差与时间 t 有关，而非常 数，因此随机游走是非平稳序列。
4. 齐次非平稳过程
针对（**）式 Yt = +Yt-1+ t 零假设 H0： = 0，即原序列存在单位根； 备择假设 H1： < 0，即原序列是平稳的； 上述检验可通过OLS法下的t 检验完成。
Dicky和Fuller于1976年提出了这一情形下t 统计 量服从的分布（这时的t 统计量称为 统计量）， 即DF分布（见下表）。
第四章 时间序列计量经济学模型的 理论与方法
第一节 随机时间序列的特征
第二节 随机时间序列分析模型
第三节 协整分析与误差修正模型
第四节 向量自回归模型
§4.1 随机时间序列的特征
一、随机时间序列模型简介 二、趋势平稳与差分平稳
三、时间序列平稳性的检验
一、随机时间序列模型简介
一个标有时间脚标的随机变量序列被称为时间序 列(time series)。
通过OLS法估计
Yt = + Yt-1+ t
计算t 统计量的值，与DF分布表中给定显著性 水平下的临界值比较： 如果：t < 临界值（左尾单侧检验），则拒绝 原假设H0： =0，认为时间序列不存在单位根， 是平稳的。
(2) ADF检验
DF检验的问题：在上述使用
Yt= +Yt-1+ t
对随机游走序列Xt取一阶差分(first difference)：
X t X t X t 1 t
由于 t 是一个白噪声，则序列{ΔXt }是平稳的。 这提示我们如果一个时间序列是非平稳的，常 常可以通过取差分的方法形成平稳序列。 如果一个时间序列是非平稳的，经过一次或多 次差分后成为平稳序列，产生这样的非平稳序列 的随机过程称为齐次随机过程。原序列转化为平 稳序列所需的差分次数称为齐次的阶数。
DF 分布临界值表 表 9.1.3 DF 分布临界值表
样 显著性水平 0.01 0.05 0.10 25 -3.75 -3.00 -2.63 50 -3.58 -2.93 -2.60 本 100 -3.51 -2.89 -2.58 容 量 500 -3.44 -2.87 -2.57 ∝ -3.43 -2.86 -2.57 t分布临界值 （ n=∝） -2.33 -1.65 -1.28
对时间序列进行平稳性检验中，实际上假定 时间序列是由一阶自回归过程 AR(1) 生成的，并 且随机误差项是白噪声。 为了保证 DF 检验中随机误差项的白噪声特性， Dicky 和 Fuller 对 DF 检 验 进 行 了 扩 充 ， 形 成 了 ADF（Augment Dickey-Fuller ）检验。
二、趋势平稳与差分平稳随机过程
1. 确定性时间趋势
描述非平稳经济时间序列一般有两种方法，一 种方法是包含一个确定性时间趋势： (*) Y a t u
t t
其中 ut 是平稳序列；a + t 是线性趋势函数。 这种过程也称为趋势平稳的，因为如果从式 (*) 中减去 a + t，结果是一个平稳过程。
一般时间序列可能存在一个非线性函数形式的 确定性时间趋势，例如可能存在多项式趋势：
Yt a 1 t 2 t 2
t = 1, 2, , T
n t n ut
(**)
同样可以除去这种确定性趋势，然后分析和预 测去势后的时间序列。对于中长期预测而言， 能准确地给出确定性时间趋势的形式很重要。
如果 Yt 能够通过去势方法排除确定性趋势，转
化为平稳序列，称为退势平稳过程。
2. 差分平稳过程
非平稳序列中有一类序列可以通过差分运算， 得到具有平稳性的序列，考虑下式
yt a yt 1 ut
也可写成： yt (1 L) yt a ut
(*) (**)
其中 a 是常数, ut 是一个白噪声序列。式(*)的差分 序列是含漂移 a 的随机游走，说明 yt 的差分序列
前提假设：时间序列是由某个随机过程 (Stochastic process) 生成的。即，假定序列 X1,X2,…,XT 的每一个数值都是从一个概率分布中 随机得到。当收集到一个时间序列数据集时，就 得到该随机过程的一个可能结果或实现 (realization)。
1. 时间序列的平稳性
假定某个时间序列是由某一随机过程生成，即 假定时间序列Xt的每一个数值都是从一个概率分 布中随机得到，如果时间序列Xt 满足： 1）均值E(Xt )= 是与时间t 无关的常数； 2）方差Var(Xt )=2是与时间t 无关的常数； 3）协方差Cov(Xt , Xt +k)=k 是只与时期间隔k 有关，与时间t 无关的常数；
如果Yt 是一阶齐次非平稳过程，则序列：
Wt =Yt −Yt-1= Yt
就是平稳的。
如果Yt 是二阶齐次非平稳过程，则序列：
Wt = Yt − Yt-1= 2Yt
就是平稳的。
5. 单整与非单整
• 如果一个时间序列经过一次差分变成平稳序 列，也称原序列是1阶单整(integrated of 1)序列, 记为I(1)过程。如果经过d 次差分后变成平稳序 列, 则称原序列是d 阶单整(integrated of d), 记为 I(d)。 • I(0)代表平稳时间序列。
Yt=Yt-1+ t
中参数 =1时的情形。
也就是说，对式 Yt =Yt-1+ t （*） 回归，如果确实发现 =1，就说随机变量Yt 有一个单位根。 （*）式可变成差分形式： Yt = ( -1)Yt-1+ t =Yt-1+ t
(**)
检验（*）式是否存在单位根=1，也可通 过（**）式判断是否有 =0。
Xt
t (a) (b) 图 9.1 平稳时间序列与非平稳时间序列图 平稳时间序列与非平稳时间序列图
t
2. 平稳性的单位根检验
单位根检验（unit root test）是普遍应用的一 类检验时间序列平稳性的方法，以ADF检验最 为常用。 (1) DF检验 我们已知道，随机游走序列 Yt =Yt-1+ t 是非平稳的，其中t 是白噪声。序列可看成是 随机模型
• 为了检验所有k > 0的自相关函数 ρk 都为0的联 合假设，可以采用Box-Pierce的Q 统计量：
2 ˆ k Q T (T 2) k 1 T k K
2 • Q 统计量近似地服从自由度为k 的 分布。如
果计算出Q 值大于显著性水平 α下的临界值，就 有1-α的把握拒绝所有k (k > 0)同时为0的原假设。
3 个模型检验的原假设都是： H0 ： =0 ，即存 在一单位根，备择假设：H1: <0。
ADF检验过程： 同时估计出上述 3个模型的适当形式，然后通 过ADF临界值表检验零假设H0： =0。 1）只要其中有一个模型的检验结果拒绝了零 假设，就可以认为时间序列是平稳的； 2）当3个模型的检验结果都不能拒绝零假设时， 则认为时间序列是非平稳的。 检验原理与 DF 检验相同。 Dicky 和 Fuller 推导 了3个模型所使用的ADF分布临界值表。 ADF检验也可判断时间序列的单整阶数。
• 多次差分无法变为平稳的时间序列称为非单 整的(non-integrated)。
6. 自相关函数、Q统计量
随机时间序列 Yt 的自相关函数 (autocorrelation function, ACF)： k=k / 0 自相关函数是关于滞后期k的递减函数。
对一个随机过程只有一个实现(样本), 因此， 只能计算样本自相关函数(Sample autocorrelation function)：
一般地: 检验一个时间序列Yt的平稳性，可通过检验 带有截距项的一阶自回归模型 Yt = +Yt-1+ t （*） 中的参数是否小于1。 或者：检验其等价变形式 Yt = +Yt-1+ t 中的参数是否小于0 。 （**）
（*）式中的参数 >1或 =1时，时间序列是 非平稳的；对应于（**）式，则是 >0或 = 0。
yt是平稳序列。 （**）式中L表示滞后算子。
实际上，以往讨论的回归源自文库程的序列自相关
问题暗含着残差序列是一个平稳序列。因为如 果残差序列是一个非平稳序列，则说明因变量 除了能被解释变量解释的部分以外，其余的部 分变化仍然不规则，随着时间的变化有越来越
大的偏离因变量均值的趋势，这样的模型是不
能够用来预测未来信息的。
残差序列是一个非平稳序列的回归被称为伪
回归，这样的一种回归有可能拟合优度、显著性 水平等指标都很好，但是由于残差序列是一个非 平稳序列，说明了这种回归关系不能够真实的反 映因变量和解释变量之间存在的均衡关系，而仅
仅是一种数字上的巧合而已。伪回归的出现说明
模型的设定出现了问题，有可能需要增加解释变
量或者减少解释变量，抑或是把原方程进行差分，
3. 白噪声和随机游走
一个最简单的随机时间序列是一具有零均值同 方差的独立同分布序列： Xt = t ， t ~ N(0,2)
该序列常被称为是一个白噪声(white noise)。
由定义知：白噪声序列是平稳的。
另一个简单的随机时间列序被称为随机游走 (random walk)，该序列由如下随机过程生成： Xt = Xt-1 + t 这里，t 是一个白噪声, t ~ N(0,2)。 该序列 同均值，但方差不同：
• ADF检验是通过以下3个模型完成的： 模型1： 模型2： 模型3：
Yt Yt 1 i Yt i t
i 1
m
(*) (**)
Yt Yt 1 i Yt i t
i 1 m
m
Yt t Yt 1 i Yt i t (***)
T k t 1
ˆk
(Y
t T
Y )(Yt k Y )
2 ( Y Y ) t t 1
k k
• 为了检验自相关函数的某个数值 ρk 是否为0， 可以用Bartlett的研究结果：如果时间序列由白 噪声生成，则对所有k > 0， k ~ N(0, 1/T )
以使残差序列达到平稳。 一个可行的办法是先把一个非平稳时间序列
通过某种变换化成一个平稳序列。
三、时间序列的平稳性检验
1. 平稳性检验的图示判断
一个平稳的时间序列在图形上往往表现出 一种围绕其均值不断波动的过程；而非平 稳序列则往往表现出在不同的时间段具有 不同的均值（如持续上升或持续下降）。
Xt
则称该随机时间序列是平稳的（stationary)， 而该随机过程是一平稳随机过程（stationary stochastic process）。
2. 平稳性与经典回归
经典计量模型的数学基础是极限法则，以独立随机 抽样为样本，如果模型设定正确，模型随机误差项 满足极限法则和由极限法则导出的基本假设，继而 进行的参数估计和统计推断是可靠的。 以时间序列数据为样本，破坏了随机抽样的假定， 则经典计量模型的数学基础能否被满足成为一个重 要问题。 对照极限法则和时间序列的平稳性条件研究发现， 如果模型设定正确，并且所有时间序列是平稳的， 时间序列的平稳性可以替代随机抽样假定，模型随 机误差项仍然满足极限法则。
例 1：检验 1978~2000年间中国支出法 GDP时间 序列的平稳性及单整性。 1）经过偿试，模型3取了2阶滞后：
GDPt 1011.33 229.27T 0.0093 GDPt 1 ( 1.26) (8.94) (1.91) (0.31) 1.50 GDPt 1 1.01 GDPt 2 ( 4.95)
通过拉格朗日乘数检验对随机误差项的自相关 性进行检验：LM(1)=0.92， LM(2)=4.16， • 小于5%显著性水平下自由度分别为1与2的2分 布的临界值，可见不存在自相关性。 • 从 看，t>临界值(查ADF分布表)，不能拒绝存 在单位根的零假设。
• E(Xt ) = E(Xt -1) X1 = X0 + 1 X2 = X1 + 2 = X0 + 1 + 2 …… Xt = X0 + 1 + 2 +… + t
• var(Xt ) = t2， Xt的方差与时间 t 有关，而非常 数，因此随机游走是非平稳序列。
4. 齐次非平稳过程
针对（**）式 Yt = +Yt-1+ t 零假设 H0： = 0，即原序列存在单位根； 备择假设 H1： < 0，即原序列是平稳的； 上述检验可通过OLS法下的t 检验完成。
Dicky和Fuller于1976年提出了这一情形下t 统计 量服从的分布（这时的t 统计量称为 统计量）， 即DF分布（见下表）。
第四章 时间序列计量经济学模型的 理论与方法
第一节 随机时间序列的特征
第二节 随机时间序列分析模型
第三节 协整分析与误差修正模型
第四节 向量自回归模型
§4.1 随机时间序列的特征
一、随机时间序列模型简介 二、趋势平稳与差分平稳
三、时间序列平稳性的检验
一、随机时间序列模型简介
一个标有时间脚标的随机变量序列被称为时间序 列(time series)。
通过OLS法估计
Yt = + Yt-1+ t
计算t 统计量的值，与DF分布表中给定显著性 水平下的临界值比较： 如果：t < 临界值（左尾单侧检验），则拒绝 原假设H0： =0，认为时间序列不存在单位根， 是平稳的。
(2) ADF检验
DF检验的问题：在上述使用
Yt= +Yt-1+ t
对随机游走序列Xt取一阶差分(first difference)：
X t X t X t 1 t
由于 t 是一个白噪声，则序列{ΔXt }是平稳的。 这提示我们如果一个时间序列是非平稳的，常 常可以通过取差分的方法形成平稳序列。 如果一个时间序列是非平稳的，经过一次或多 次差分后成为平稳序列，产生这样的非平稳序列 的随机过程称为齐次随机过程。原序列转化为平 稳序列所需的差分次数称为齐次的阶数。
DF 分布临界值表 表 9.1.3 DF 分布临界值表
样 显著性水平 0.01 0.05 0.10 25 -3.75 -3.00 -2.63 50 -3.58 -2.93 -2.60 本 100 -3.51 -2.89 -2.58 容 量 500 -3.44 -2.87 -2.57 ∝ -3.43 -2.86 -2.57 t分布临界值 （ n=∝） -2.33 -1.65 -1.28
对时间序列进行平稳性检验中，实际上假定 时间序列是由一阶自回归过程 AR(1) 生成的，并 且随机误差项是白噪声。 为了保证 DF 检验中随机误差项的白噪声特性， Dicky 和 Fuller 对 DF 检 验 进 行 了 扩 充 ， 形 成 了 ADF（Augment Dickey-Fuller ）检验。
二、趋势平稳与差分平稳随机过程
1. 确定性时间趋势
描述非平稳经济时间序列一般有两种方法，一 种方法是包含一个确定性时间趋势： (*) Y a t u
t t
其中 ut 是平稳序列；a + t 是线性趋势函数。 这种过程也称为趋势平稳的，因为如果从式 (*) 中减去 a + t，结果是一个平稳过程。
一般时间序列可能存在一个非线性函数形式的 确定性时间趋势，例如可能存在多项式趋势：
Yt a 1 t 2 t 2
t = 1, 2, , T
n t n ut
(**)
同样可以除去这种确定性趋势，然后分析和预 测去势后的时间序列。对于中长期预测而言， 能准确地给出确定性时间趋势的形式很重要。
如果 Yt 能够通过去势方法排除确定性趋势，转
化为平稳序列，称为退势平稳过程。
2. 差分平稳过程
非平稳序列中有一类序列可以通过差分运算， 得到具有平稳性的序列，考虑下式
yt a yt 1 ut
也可写成： yt (1 L) yt a ut
(*) (**)
其中 a 是常数, ut 是一个白噪声序列。式(*)的差分 序列是含漂移 a 的随机游走，说明 yt 的差分序列
前提假设：时间序列是由某个随机过程 (Stochastic process) 生成的。即，假定序列 X1,X2,…,XT 的每一个数值都是从一个概率分布中 随机得到。当收集到一个时间序列数据集时，就 得到该随机过程的一个可能结果或实现 (realization)。
1. 时间序列的平稳性
假定某个时间序列是由某一随机过程生成，即 假定时间序列Xt的每一个数值都是从一个概率分 布中随机得到，如果时间序列Xt 满足： 1）均值E(Xt )= 是与时间t 无关的常数； 2）方差Var(Xt )=2是与时间t 无关的常数； 3）协方差Cov(Xt , Xt +k)=k 是只与时期间隔k 有关，与时间t 无关的常数；
如果Yt 是一阶齐次非平稳过程，则序列：
Wt =Yt −Yt-1= Yt
就是平稳的。
如果Yt 是二阶齐次非平稳过程，则序列：
Wt = Yt − Yt-1= 2Yt
就是平稳的。
5. 单整与非单整
• 如果一个时间序列经过一次差分变成平稳序 列，也称原序列是1阶单整(integrated of 1)序列, 记为I(1)过程。如果经过d 次差分后变成平稳序 列, 则称原序列是d 阶单整(integrated of d), 记为 I(d)。 • I(0)代表平稳时间序列。
Yt=Yt-1+ t
中参数 =1时的情形。
也就是说，对式 Yt =Yt-1+ t （*） 回归，如果确实发现 =1，就说随机变量Yt 有一个单位根。 （*）式可变成差分形式： Yt = ( -1)Yt-1+ t =Yt-1+ t
(**)
检验（*）式是否存在单位根=1，也可通 过（**）式判断是否有 =0。
Xt
t (a) (b) 图 9.1 平稳时间序列与非平稳时间序列图 平稳时间序列与非平稳时间序列图
t
2. 平稳性的单位根检验
单位根检验（unit root test）是普遍应用的一 类检验时间序列平稳性的方法，以ADF检验最 为常用。 (1) DF检验 我们已知道，随机游走序列 Yt =Yt-1+ t 是非平稳的，其中t 是白噪声。序列可看成是 随机模型
• 为了检验所有k > 0的自相关函数 ρk 都为0的联 合假设，可以采用Box-Pierce的Q 统计量：
2 ˆ k Q T (T 2) k 1 T k K
2 • Q 统计量近似地服从自由度为k 的 分布。如
果计算出Q 值大于显著性水平 α下的临界值，就 有1-α的把握拒绝所有k (k > 0)同时为0的原假设。