多重共线性PPT课件

2-2
多重共线性的性质
多重共线性(multicollinearity)原先的含义指一 个回归模型中的一些或全部解释变量之间存 在一种“完全”或者准确的线性关系。 l 1 X1 + l 2 X 2 + L + l k X k = 0 现在共线性更为广义，既包括上述完全共线 性，也包括非完全（高度）共线性的形式。
2-18
8.4 多重共线性的实际后果
OLS估计量的方差和标准误较大。 置信区间变宽。 t值不显著 。 R 2值较高，但t值并不都是统计显著的。 OLS估计量及其标准误对数据的微小变化非常敏感， 即它们很不稳定。 回归系数符号有误。 难以评估各个解释变量对回归平方和（ESS）或者 R 2 的贡献。
2-15
出现“高度”但“不完全”多重共线性 时的估计问题
仍以上述三变量回归模型为例。 假定 X 3i = l X 2i + vi ，其中 å vi x2i = 0
回归系数估计：
b2 =
(邋yi x2i )(l
2
2 2 x2 + v i i )- (l 2 2i 2 2 2i
邋yi x2i +
l 1 X1 + l 2 X 2 + L + l k X k + ui = 0
2-3
为什么CLRM假定无多重共线性？
如果多重共线性是完全的，则X变量的回归 系数将是不确定的，并且它们的标准误为无 穷大。 如果多重共线性是不完全的，则虽然回归系 数可以确定，却有较大的标准误（相对于系 数本身来说），也即系数不能以很高的精度 或准确度加以估计。
2-26
8.7 扩展一例：1960-1982年期间美国的鸡肉需求
2-27
8.7 扩展一例：1960-1982年期间美国的鸡肉需求 鸡肉需求函数[方程（8.15）]的共线性诊断 1.相关矩阵
2-28
8.7 扩展一例：1960-1982年期间美国的鸡肉需求 鸡肉需求函数[方程（8.15）]的共线性诊断 2.辅助回归
i 2i 2 2i 2 3i 2 2i 3i
2 x2 i )-
2i 3i
x
)
2-11
假定 X 3i = l X 2i
b2 =
(邋yi x2i Leabharlann (l2 2i2 2
2 x2 i )- (l 2 2i
邋yi x2i )(l
2
2 x2 i)
(邋x )(l
x )- l
(?
x
2 2 2i
)
0 = 0
2-12
2-29
8.8 如何解决多重共线性：补救措施
从模型中删掉一个变量 获取额外的数据或新的样本 重新考虑模型 参数的先验信息 变量变换 其他补救措施
2-30
å x 邋x
2 2i
2 i 3i
随着r23趋于1，即随着共线性增加，两估计 量的方差也增加。 当r23=1时，方差为无穷大。 协方差同理。 方差膨胀因子(variance-inflating factor, VIF)
1 VIF = 2 1- r23
所以
2-21
s2 var (b2 ) = VIF 2 å x2i
8.5 多重共线性的诊断
在任一给定的情况下，特别是在涉及多于两 个解释变量的模型中，我们怎么知道有没有 共线性？
2-22
1.多重共线性是一个程度问题而不是有无问 题。有意义的区分不在于有无之间，而在于 程度大小。 2.由于多重共线性是对被假定为非随机的解 释变量的情况而言，所以它是一种样本特征， 而非总体特征。 因此，我们不做“多重共线性的检验”，但 如果愿意，可以测度它在任一具体样本中显 现的程度。
把 X 3i = l X 2i 代入回归方程： yi = b2 x2i + b3 (l x2i ) + ei
= (b2 + l b3 ) x2i + ei = a x2i + ei
利用OLS公式得：
a = b2 + l b3 =
2-14
å x y å x
2i i 2 2i
因此，虽然 a 可以唯一地估计出来，却无法 唯一的估计出b2和b3。 因为 a = b2 + l b3 是一个方程，却有两个未知 数。 对给定的alpha和lamda值，有无穷多个解。
yi = b2 x2i + b3 x3i + ei
2-10
b2 =
(邋yi x2i )(
(邋y x )( x (邋x )( x )- (? x x )
i 3i 2 2i 2 3i 2 2i 3i
2 x3 i )-
2i 3i
x
)
b3 =
(邋yi x3i )(
(邋y x )( x (邋x )( x )- (? x x )
第8章 多重共线性：解释变量 相关会有什么后果？
McGraw-Hill/Irwin
Copyright © 2006 The McGraw-Hill Companies, Inc. All rights reserved.
问题
多重共线性的性质是什么？ 多重共线性是否是一个严重的问题？ 多重共线性的理论后果是什么？ 多重共线性的实际后果是什么？ 实践中如何诊断多重共线性？ 消除多重共线性的补救措施有哪些？
回想一下b2的意义：它是在保持X3不变的情 况下，当X2每改变一个单位Y的平均值的变 化率。 但如果X2和X3是完全共线性的，就没有任 何方法能保持X3不变：随着X2改变，X3也 按一个倍数因子 l 改变。 这意味着没有任何方法能从所给的样本中把 X2和X3的各自影响分解开来。 但在应用计量经济学中，我们的宗旨就是区 分每个变量的单独影响。 2-13
2-6
8.1 多重共线性的性质：完全多重共线性的情形
2-7
8.1 多重共线性的性质：完全多重共线性的情形
2-8
8.2 近似或者不完全多重共线性的情形
2-9
图8-2 工资 X 4和价格 X 2 关系
出现完全多重共线性的估计问题
在完全多重共线性的情形中，回归系数是不 确定的，并且标准误是无穷大的。 以三变量回归模型为例。 利用离差形式把三个变量都表示为偏离它们 各自的样本均值的离差，就能把三变量回归 模型写成：
2-4
多重共线性的来源
数据采集所用的方法。例如，抽样限于总体 中诸回归元所取值的一个有限的范围内。 模型或从中取样的总体收到约束。例如，在 做电力消费对收入和住房面积回归时，总体 中有这样的一个约束，即一般来说，收入较 高的家庭比收入较低的家庭有较大的住房。 模型的设定。例如在回归中添加多项式，尤 其当X变量的变化范围较小时。
2-23
一些经验
R-square值高但解释变量t值统计显著的不多。 这是多重共线性的“典型”特征。 解释变量两两高度相关。 检查偏相关系数。 从属回归或辅助回归。 方差膨胀因子。
2-24
2-25
8.6 多重共线性必定不好吗？
取决于研究的目的。 如果是为了利用模型预测应变量的未来均值， 则多重共线性未必是一件坏事。 如果研究的目的不仅仅是预测，而且还要可 靠地估计出模型的参数，则严重的共线性就 是一件“坏事”，因为它导致了估计量的标 准误增大。
2 i 2
yi vi )(l x
2 2 2i
?
2 x2 i)
(邋x )(l
x + v )- l
(?
)
2-16
现在，没有充分理由认为b2不可估计。 当然，当v充分小时，以致非常接近于零， 则几乎完全共线性。
2-17
8.3 多重共线性的理论后果 为什么讨论多重共线性？
在近似共线性的情形下，OLS估计量仍然是 无偏的。 近似共线性并未破坏OLS估计量的最小方差 性。 即使在总体回归方程中变量X 之间不是线性 相关的，但在某个样本中，X 变量之间可能 线性相关。
2-19
OLS估计量的大方差与协方差
var (b2 ) =
å
å
s2 2 2 x2 1 r ( i 23 )
s2 2 2 x3 1 r ( i 23 )
var (b3 ) =
cov (b2 , b3 ) =
- r23s 2
(1- r23 )
x
2 x3 i
2 x 邋 2i
2 x3 i
r23 =
2-20
2-5
一个过度设定的模型(overdetermined)。这种 情况出现在模型的回归元个数大于观测次数 时。 模型中的回归元具有相同的时间趋势，即它 们同时随着时间而增减。如在消费支出对收 入，财富，人口的回归中，收入，财富和人 口可能以多少有些一致的速度递增，从而导 致这些变量之间的共线性。