第十章多元线性回归自相关问题

n
ei ei1 2
DW i2
ei2
i
n
ei2
n
e2 i1
n
2
eiei1
n
ei ei1
DW i2
i2
i2
ei2
2
2
i2
ei2
2 1 ˆ
i
i
12
三、序列相关性的发现和判断
检验误差序列正自相关性 DW检验区域图
一阶自相关 无法判断 无一阶自相关性
无法判断 一阶负自相关
0
d L
d U
据区间：1947年第1季度到1995年第1季度，数据中已 消除了季节要素。建立模型，检验序列相关性，并进 行修正。
32
方程，并检验序列相关性。
19
四、误差序列相关的处理和克服
（一）一阶差分法 （二）广义差分法 （三）杜宾(Durbin)两步法 （四）广义最小二乘法
20
（一）一阶差分法
设线性回归模型为
Yi 0 1 X i i
已知 i有很强的一阶自相关性，即
i i1 i 把滞后一期的观测值代入变量关系，得方程：
6
三、序列相关性的发现和判断
（二）回归检验法
首先应用OLS估计模型并求出ε的估计值即残差e，然后以
et 为被解释变量，以各种可能的相关变量如
作为自变量进行线性拟合如：
et et1 ut
et 1et1 2et2 ut , 等
et1, e等t2
对各种拟合形式进行统计检验，选择显著的最优的拟合 形式作为序列相关的具体形式。
2
二、序列相关性的后果
1、参数估计量是无偏的和一致的，但不再是BLUE的， 是非有效。
2、OLS估计量的方差是有偏的 3、检验统计量不再生效，变量显著性检验失去意义。 3、模型的预测失效。
3
三、序列相关性的发现和判断
（一）残差序列图分析
如形成锯齿形或循环状，可断定残差序列存在相关
e
S
i
a
e S
i
k 1 2 4 ~2
k ~2 1 2
由于
Cov
ik
,
k
Cov
k
,
ik
1
k
2
~
2
30
（四）广义最小二乘法
因此可以得到协方差矩阵，为
1
1
Ω 2
n1 n2
2
1
n3
n1
n2 n3
1
~ 2
2
1
31
（五）应用举例
例1：修正美国投资方程残差序列的自相关性 例2：考虑美国消费CS和GDP及前期消费之间的关系。数
7
三、序列相关性的发现和判断
（三）游程检验
游程：为同一符号或属性（例如+或-)的一个不间断历程。 如：记残差的符号(+或-),有
(+++++++)(-)(+++)(-----)(++++) 总共有20个残差构成了5个游程。其中一个7个正值的游程 （其长度为7）。若游程太多，则意味着e在频繁地变换着 符号，表明存在负的序列相关；如果游程太少，则意味着 存在正的自相关。在残差是独立的假设下，史威德 （Swed）和艾森哈特（Eisenhart）建立了游程检验的临 界值。
8
三、序列相关性的发现和判断
（三）游程检验 令N为观察值的总个数，N1表示+号（正的残差）的个数， N2表示-号（负的残差）的个数，k表示游程个数，在残差 是独立的假设下，Swed-Eisenhart给出了游程检验的上下 临界值，如果实际游程个数小于或等于下临界值，或是大 于或等于上临界值，则可以拒绝零假设，说明所观察的序 列是随机的
10
三、序列相关性的发现和判断
根据 i和 i的性质，有
E ii1
E
i1 i • i1
E
2 i 1
E
i1 i
E
2 i 1
E
2 i
因此
E i i1
E
2 i
n
ei ei1
ˆ i1 ei2
i
11
三、序列相关性的发现和判断
考虑与 ˆ有密切关系的DW统计量
18
三、序列相关性的发现和判断
（五）序列相关LM检验
在给定地显著性水平下，如果统计量大于临界值，则说明序 列存在序列相关性，否则不存在序列相关性。
Eviews 实现 View-Residual Tests-Correlogram and Q-statistics
实例：美国的投资方程 建立美国国内私人投资INV和GNP平减指数、利息率之间的
使
Yi* Yi Yi1
X
* i
Xi
X i1
根据 i i1 i 可得
Yi*
0 1
1
X
* i
i
如果记 A 0 1 ， 所以上式为
Yi*
A
1
X
* i
i
24
（三）杜宾两步法
从两变量模型的广义差分式 Yi Yi1 0 0 1 X i 1 X i1 i i1
, 整理后可得
Yi 0 1 Yi1 1X i 1X i1 i
i i1 2 i2 i3
i i1 2 i2 3 i3
29
（四）广义最小二乘法
不同时期误差之间的协方差可以表示为：
Covi ,ik E iik
E i i1 ik ik1 2ik2
k E ik ik1 2ik2 2
16
三、序列相关性的发现和判断
（五）相关图和Q统计量检验序列相关
Eviews 实现 View-Residual Tests-Correlogram and Q-statistics
17
三、序列相关性的发现和判断
（五）序列相关LM检验
LM检验原假设为：直到p阶滞后不存在序列相关，p为预先定义好 的整数；备择假设为：存在p阶自相关
可得
Yi1 0 1 X i1 i1
Yi Yi1 1 X i X i1 i i1
21
由于 i i1 ，i 因此
Yi Yi1 1 X i X i1 i i1 i1
令 Yi Yi Yi，1 X i X i X i1 可得
Yi 1X i i i1 i1
b
e
S
i
c
4
三、序列相关性的发现和判断
分析误差序列相关残差分布图
ei
ei
ei
0
ei1
0
ei1
0
ei1
a
b
c
5
三、序列相关性的发现和判断
例7.1 美国进口支出函数
给出美国1968年到1987年期进口支出与个人可支配收 入（PDI）数据，建立美国支出函数模型，检验残差序 列的自相关性。 绘出残差序列随时间变化的趋势 绘出残差序列与其滞后项
因为 1，所以上式近似为
Yi 1X i i
注意 1相当于DW趋于0。
22
（二）广义差分法
设线性回归模型为
Yi 0 1 X i i
已知 i有一阶自相关性，即
i i1 i 把滞后一期的观测值代入变量关系，得方程：
Yi1 0 1 X i1 i1
23
可得
Yi Yi1 0 0 1X i 1X i1 i i1
DW
2
4 dU 4 dL
4Baidu Nhomakorabea
实例7-3 利用杜宾-瓦尔森检验判断美国抵押债务方程残
差项的 自相关性
13
三、序列相关性的发现和判断
DW检验序列相关性的主要不足： （1）D.W.统计量的扰动项在原假设下依赖于系数矩阵X； （2）回归方程右边如果存在滞后变量， D.W.检验不再
有效； （3）仅仅检验残差是否存在一阶序列相关
14
三、序列相关性的发现和判断
（五）相关图和Q统计量检验序列相关
可以应用所估计回归方程残差序列的自相关和偏自相关
系数以及Ljung-Box Q统计量来检验序列相关。Q统计量
的表达式为 QLB T (T 2)
p rj2 j1 T j
其中rj是残差序列的j阶自相关系数，T为样本容量，p为 设定的滞后阶数。
检验过程：估计回归方程，并求出残差，对原始回归变量X和直到 p阶的滞后残差作回归。LM检验通常给出两个统计量：F统计 量和n×R2统计量。F统计量是对以上回归方程中所有滞后残差 联合显著性的检验。 n×R2统计量是Breusch-Godfrey LM检验 统计量，是观测值个数n乘以以上方程的R2, 一般地它服从渐近 地χ2(p)分布。
得到
Y~ X~β ~ε
其中误差向量满足
E~ε E A1ε A1Eε 0
Var~ε Var A1ε A1Varε A1 A1Ω A1 2I
对变换过的模型进行最小二乘估计，得参数估计
B
X~ X~
1
X~ Y~
A1 X
A1 X
1
A1 X
A1Y
25
接受上述多元线性回归得到的 估计值 ˆ，利用广义差分
变换
Yi* Yi ˆYi1 ，
X
* i
Xi
ˆX i1
得到
Yi*
A
1
X
* i
i
对它进行最小二乘估计，并把估计回归结果计算的
b0 Aˆ 1 ˆ 和β1 ，作为原模型参数的估计。
26
（四）广义最小二乘法
广义最小二乘法的一般原理 设线性回归模型为 Y Xβ ε
其中 Eε 0 但
11 1n
Ω Var( )
Eεε
I2 nn
对Ω 进行分析
n1 nn
Ω AA
A1Ω A1 A1AA A1 I
Ω A1 A1 AA A1 A1 I
A1 A1 Ω1
27
（四）广义最小二乘法
A1Y A1Xβ A1ε
记
Y~ A1Y, X~ A1X, ~ε A1ε
X
A1
A1 X
1
X
A1
A1Y
X Ω1X
1 X Ω1Y
28
（四）广义最小二乘法
以误差序列一阶自相关问题为例
设模型为 Y Xβ ε
其误差满足 i i1 i
其中 0 1 ， i 是均值为0、独立同分布的随机变量，
且方差为
Vari。 ~2
i i i1 i i1 i2
实例7-2
利用游程检验判断美国抵押债务方程残差项的 自相关性
9
三、序列相关性的发现和判断
（四）杜宾-瓦尔森(D-W)检验（适应于一阶自相 关情况的检验）
DW检验的原理
对线性回归模型 Y 0 1X1 K X K
如果误差项有一阶自回归问题，那么
i i1 i
其中的0 1 ， i 是均值为0的独立同分布随机变量。
15
三、序列相关性的发现和判断
（五）相关图和Q统计量检验序列相关
p阶滞后的Q统计量的原假设是：序列不存在p阶自相关； 备选假设为：序列存在序列相关。在实际检验中，通常会计算 出不同滞后阶数的Q统计量、自相关系数和偏自相关系数。如 果各阶Q统计量都没有超过临界值，则接受原假设，即不存在 序列相关，并且此时各阶的自相关和偏自相关系数都接近于0； 如果存在某一滞后阶数p，Q统计量超过设定的显著性水平的临 界值，则拒绝原假设，说明残差存在p阶自相关。
第十章 序列相关问题
一、序列相关性 二、序列相关性的后果 三、序列相关性的发现和判断 四、误差序列相关的处理和克服
1
一、序列相关性的定义
线性回归模型假设要求
Ei Ei j E j E i j 0
对任意 i j 都成立
误差序列相关比较基本和重要类型——一阶自回归：
i i1 i 其中 满足 0 1