伍德里奇《计量经济学导论》(第6版)复习笔记和课后习题详解-多元回归分析：OLS的渐近性【圣才出品】

第5章多元回归分析：OLS 的渐近性

5.1复习笔记

考点一：一致性★★★★

1．定理5.1：OLS 的一致性（1）一致性的证明

当假定MLR.1～MLR.4成立时，对所有的j＝0，1，2，…，k，OLS 估计量∧

βj 是βj 的一致估计。证明过程如下：

将y i ＝β0＋β1x i1＋u i 代入∧

β1的表达式中，便可以得到：

()

()

()

()

111111

11

12

2

11

1

1

1

1

ˆn

n

i i

i i i i n n

i i i i x

x y n x x u x

x

n

x

x ββ-==-==--==+

--∑∑∑∑根据大数定律可知上式等式右边第二项中的分子和分母分别依概率收敛于总体值Cov （x 1，u）和Var（x 1）。假定Var（x 1）≠0，因为Cov（x 1，u）＝0，利用概率极限的性质可得：plim ∧

β1＝β1＋Cov（x 1，u）/Var（x 1）＝β1。这就说明了OLS 估计量∧

βj 具有一致性。

前面的论证表明，如果假定只有零相关，那么OLS 在简单回归情形中就是一致的。在一般情形中也是这样，可以将这一点表述成一个假定。即假定MLR.4′（零均值与零相关）：对所有的j＝1，2，…，k，都有E（u）＝0和Cov（x j1，u）＝0。

（2）MLR.4′与MLR.4的比较

①MLR.4要求解释变量的任何函数都与u 无关，而MLR.4′仅要求每个x j 与u 无关（且u 在总体中均值为0）。

②在MLR.4假定下，有E（y｜x 1，x 2，…，x k ）＝β0＋β1x 1＋β2x 2＋…＋βk x k ，可以得到解释变量对y 的平均值或期望值的偏效应；而在假定MLR.4′下，β0＋β1x 1＋β2x 2＋…＋β

k x k 不一定能够代表总体回归函数，存在

x j 的某些非线性函数与误差项相关的可能性。

2．推导OLS 的不一致性

当误差项和x 1，x 2，…，x k 中的任何一个相关时，通常会导致所有的OLS 估计量都失去一致性，即使样本量增加也不会改善。此时，∧

β1的不一致性为：plim ∧

β1－β1＝Cov（x 1，u）/Var（x 1）。因为Var（x 1）＞0，所以，当x 1和u 存在正相关关系时，∧

β1的不一致性就为正；而当x 1和u 负相关时，∧

β1的不一致性就为负。

考点二：渐近正态和大样本推断★★★★★

1．定理5.2：OLS 的渐近正态性

当高斯-马尔可夫假定MLR.1～MLR.5成立时：

（1）存在：

)

()

22ˆNormal 0 a

j j j a ββσ-~/，其中，σ2/a j 2＞0是n 1/2（∧

βj －βj ）的渐近方差；斜率系数为：

121ˆlim n ij i p n r -=⎛⎫

⎪⎝⎭

∑其中∧

r ij 是x j 对其余自变量进行回归所得到的残差。此时，称∧

βj 服从渐近正态分布。

（2）∧

σ2是σ2＝Var（u）的一个一致估计量。（3）对每个j，都存在：

()()()

ˆˆ/0,1a

j

j

j

sd Normal βββ- (

)()

()ˆˆ/0,1a

j j j

se Normal βββ- 其中，se（∧

βj ）是通常的OLS 标准误。

利用定理5.2，在进行假设检验时就不再必须满足正态性假定。误差分布的唯一限制是有限方差，且误差项满足零均值和同方差。实际上，随着自由度的变大，t n－k－1会趋近于标准正态分布，所以也可以进行t 检验。但一般来讲，当样本量很大时，直接用正态分布检验即可。

2．其他大样本检验：拉格朗日乘数统计量

包含k 个自变量的多元回归模型的形式为：y＝β0＋β1x 1＋…＋βk x k ＋u。下面利用拉格朗日乘数统计量（简称LM 统计量或n-R 2统计量）检验最后q 个变量是否都具有零总体参数。虚拟假设为：H 0：βk－q＋1＝0，…，βk ＝0，即对模型施加了q 个排除性约束。对立假设为：这些参数中至少有一个异于零。拉格朗日乘数检验步骤为：

（1）将y 对施加限制后的自变量集进行回归，并保留残差。即进行以下回归：

011--k q k q

y x x u βββ=++⋯++ （2）将上一步中所得到的残差对所有自变量进行回归，并得到R 2，记为R u 2。（3）计算LM＝nR u 2。

（4）将LM 与χq 2分布中适当的临界值c 相比较，如果LM＞c，就拒绝虚拟假设。

考点三：OLS 的渐近有效性★★★★

1．简单回归模型

简单回归模型的形式为：y＝β0＋β1x 1＋u。令g（x）为x 的任意一个函数，可知u 与g（x）无关。对所有的观测i，令z i ＝g（x i ）。假定g（x）和x 相关，则β1的估计量就是β

1的一致估计，表达式为：

()()1

1

1

n

i

i

i n

i

i

i z z y z z x

β==-=-∑∑ 证明：将y i ＝β0＋β1x i ＋u i 代入1

β 表达式，得到：()()1

1

11

11

n

i

i

i n i i

i n

z z u

n z z x ββ-=-=-=+-∑∑ 根据大数定律，分子和分母分别收敛于Cov （z，u）和Cov （z，x）。因为当假定MLR.4成立时，Cov（z，u）＝0，所以有：

111

(,)/(,)plim Cov z u Cov z x βββ=+= 2．含有k 个回归元的情形

在k 个回归元的情形中，推广OLS 的一阶条件，可以得到一类一致估计量：

()()

0111

0,0,1,,n

j

i

i

i k ik

i g x y

x x j k βββ=----==∑ 其中，g j （x i ）表示第i 次观测的所有自变量的任意函数。当g 0（x i ）＝1和j＝1，2，…，