4.2 多重共线性产生的后果

( x )( x ) ( x 2 x3 )
2 2
2 ( x ) 2 2
2 2
ˆ ) 为例，将代入式4.2.9，得 • 以 Var( 2
ˆ ) Var ( 2 ( x )( (x2 ) ) ( x2 (x2 ))
2 2 2 2 2 2 ( x ) 2
ˆ • 3
( y (x ))( x ) ( yx )( x (x ( x )( (x ) ) ( x (x ))
2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2

2
))

0 0
（ 4.2.8）
• 在微积分中，我们称这种情况为不定型。这充分说明当 X2和X3存在完全共线性时，参数的估计值时不确定的。 因此，在完全共线性条件下，参数的估计值无意义。 • 另一方面，我们还可以从X2、X3对Y的边际影响来 分析，系数β2的意义是：当X3假定不变，X2每变化一个 单位时Y的平均变化。如果X2和X3是完全共线性，则无 法在X3不变的情况下，分析X2对Y的影响。因为，当X2 变化时，X3会按X2的λ倍而变化。这表明，从已有的样 本信息中，无法分析出X2与X3各自对Y的影响。
0
来自百度文库
•
这表明，解释变量之间存在完全的共线性时，参 数估计值的方差会无限变大。 ˆ 也有类似结果。 • 同理，对于 3
4
二、不完全多重共线性下的后果
• 在实际经济问题中，完全的多重共线性是一种不常见 的极端情况，大多数情况是解释变量之间存在着不完 全的共线性。我们仍然用上述例子来讨论。只是这时 的x2与x3的不完全共线性的关系式为： • x3 = λ x2 +μ （ λ≠0） （4.2.11） • 其中，x2、x3为X2、X3的离差形式， μ为随机误差项。 • 在不完全共线性条件下，参数β2和β3的估计是有可能的。 ˆ ˆ β 和β 的无偏估计。这里，我们只讨 并且， 和 是 2 3 2 3 论不完全多重共线性下 的变化情况，将式 4.2.11代入 ˆ 2 式4.2.5，并考虑 ，得如下结果： x2 0 （4.2.12） 通过 式4.2.12可以看出， X2与X3共线性程度越高， μ愈 ˆ 愈趋向不确定的形式。反之， 向零靠近， 从而， 2 如果 X2与X3存在共线性，但程度并不高，那么，求出 5 ˆ 我们可以得出类似的结果。 ˆ 是可能的。同理，对于 3 2
2 2 2 3 2
(4.2.4)
2 ( yx2 )( x3 ) ( yx3 )( x 2 x3 )
（4.2.5） （4.2.6）
2 ( yx3 )( x 2 ) ( yx2 )( x 2 x3 ) 2 2 ( x 2 )( x3 ) ( x 2 x3 ) 2
• 其中，y、 x2、x3为Y、X2、X3的离差形式。假设解释变 量X2、X3存在完全的共线性，且X3= λ X2（ λ≠0）。 2
注意，造成 t 值不显著是由于存在多重共线 性，但从经济意义上讲，也许Xi对Y的影响是 很强的。 • 另外，多重共线性严重时，还会导致参数估计 值与其经济意义不一致。
7
6
• 在多元线性回归模型中，参数显著性检验的 t 统计量 为：
ˆ i t ~ t (n k） ˆ) ˆe( s 2 i
• 我们可以看出，随着 的增大，其标准差也将 ˆ ˆr ( 2 ) Va 增大，这意味着 t 值将会变小，在给定显著性水平 α 下， 当|t| < t/2(n-k)时，表明Xi对Y的影响不显著。
3
• 2、参数估计值的方差无限大
•
ˆ 的方差 ˆ 和 二元线性回归模型的参数估计值 3 2 的公式如下：
• •
•
ˆ ) Var ( 2 ˆ ) Var ( 3
2 2 ( x 2 )( x3 ) ( x 2 x3 ) 2 x 2 2 3
2 x 3
2 2
（4.2.9） （4.2.10）
• 可以证明， X2和X3的离差形式仍然有x3 = λ x2成立，将 它们分别代入式4.2.5和式4.2.6，得出如下结果： 2 • ( yx )( ( x ) ) ( y (x 2 ))( x 2 (x 2 )) 0 2 2 ˆ 2 2 2 • 2 0 （4.2.7） ( x )( (x ) ) ( x (x ))
1
• 下面，我们从二元线性回归模型来看完全多重 共线性对参数估计值的影响。设线性回归模型 为 • Y=β1+β2X2+β3X3+μ (4.2.3)
• 其离差形式为 • y= β2x2+β3x3+μ • β2和β3的估计式分别为 • •
ˆ 2 ˆ 3 ( x )( x ) ( x 2 x3 )
第二节 多重共线性产生的后果 • 一、完全多重共线性下的后果
• 1、 • 参数估计值不确定 λ2 X2+λ3 X3 + … + λK, XK =0 （4.2.1）
• 在完全多重共线性下，解释变量Xi存在如下关系：
• 其中， λi不全为零。于是，对应的解释变量矩阵X，有
• | XˊX |=0 或者 Rank(X)<k，这时， XˊX 为一奇异矩 阵，其可逆阵不存在，所以，我们无法从 • (XˊX ) β = XˊY (4.2.2) ˆ • 求出参数β的估计值 。
ˆ 2
2 2 ( yx2 )(2 x 2 2 ) ( yx2 y )( x 2 ) 2 2 2 2 ( x 2 )(2 x 2 2 ) 2 ( x 2 )
• 以二元回归为例， X2与X3存在不完全的多重共线性， 二者的相关系数的平方用X2和X3的离差形式x2和x3表 示为： 2 ( x x ) 2 3 2 r • （ 4.2.13 ） 23 2 2
x x
2
3
• 这时，
ˆ ) Var ( 2
2 ( x 2 )( x32 ) ( x2 x3 )
x
2 3
2 2
1 1 2 2 2 2 2 ( x 2 x3 ) x2 (1 r23 ) 2 x [ 1 ] 2 x22 x32
2 2 r r • 从上式可以看出，当 23 增大时（0 ≤ 23 ≤ 1），亦即 2 r • 23 越向1靠近，这时的共线性程度会增加，从而， ˆ ) Var ( 2 • 会增大。