第五讲 多元回归分析：渐近性

bˆ

j
ˆ b se b ~ t
a j j
n k 1
因此，随着样本量增大，我们无需再担心 正态性假定是否满足问题，但仍然需要同 方差性。
计量经济学导论
22
渐进标准误
如果u不是正态分布的，下式被称为渐进标准
误，t统计量称为渐进t统计量。
ˆ se b j

j
SST j 1 R
计量经济学导论
14
渐进偏误方向的总结
Corr(x1, x2) > 0 Corr(x1, x2) < 0
1 0
+
1 0
－
b2 > 0 b2 < 0
－
+
计量经济学导论
15
5.2 渐进正态与大样本推断 大样本推断：



在经典线性模型假定下，样本分布呈正态性， 我们可以进行t和F检验。 这一正态性假定依赖于我们假定总体误差服从 正态分布。 误差正态分布意味着，给定x情况下，y服从正 态分布。
计量经济学导论
16
大样本推断


不满足正态性的情形相当普遍。任何偏向的变 量，如工资、被逮捕次数、储蓄等，不可能是 正态分布的。（正态分布意味着对称分布） 注意：正态性假定在OLS的最优线性无偏性中 并非必要的，仅仅是影响推断。
计量经济学导论
17
中心极限定理
根据中心极限定理，可以证明OLS估计值服从 渐进正态。 渐进正态意味着： P(Z<z)F(z) as n , 或者 P(Z<z) F(z) （标准正态累积分布函数）。 中心极限定理表明，任何均值为m ，方差为s2 经标准化后渐进的服从标准正态分布


计量经济学导论 刘愿
2
5.1 一致性 渐进性的含义：


如果误差并非正态分布，对任何的样本容量而 言，t统计量、F统计量并非恰好服从t分布、F 分布。 幸运的是，即使没有正态性假定，t统计量和F 统计量仍然渐进的服从t分布、F分布，至少在 大样本情况下使如此。
计量经济学导论
3
一致性


在高斯-马尔科夫假定下，OLS估计是最优线 性无偏的，但我们并非总能得到无偏的估计量。 一致性是对一个估计量最起码的要求。在无法 满足无偏性的情况下，我们可以搜集尽可能多 的样本，即使n→ ∞,参数估计值的分布将逼近 真实参数值。
计量经济学导论
26
计量经济学导论
27
拉格朗日乘数统计量




将y对施加限制后的自变量集进行回归，并保 留残差uhat。 将uhat对所有自变量进行回归，并得到R2，记 为R u2. 计算LM=n Ru2. 将LM与xq2分布中适当的临界值c比较，如果 LM>c，就拒绝原假设。否则，我们就不能拒 绝原假设。
Z
Y mY
s
~ N 0,1
a
n
计量经济学导论
18
定理 5.2 OLS的渐进正态性
Under theGauss - Markovassumption s,
2 2 ˆ (i) n b j b j ~ Normal0, s a j ,

where a
2
2 j
ˆ plimn r
多元回归分析：渐进性

y = b0 + b1 x 1 + b2 x 2 + . . . bk x k + u
Copyright © 2007 Thomson Asia Pte. Ltd. All rights reserved.
1

5.1 一致性
5.2 渐进正态和大样本推断 5.3 OLS渐进有效性
ˆ2 s
2 j


ˆ s SSR j
,
1 n 2 SSR ˆ ˆi s u n 2 i 1 n2 ˆ c se b n , SST ns 2
j j j
可以预期，标准误的收缩速度为样本容量平方 根的倒数。
计量经济学导论
23
大样本检验方法：LM检验 LM Statistic (cont)
计量经济学导论
20
Law of large numbers—大数定理
令Y1，Y2，…,Yn是均值为u的独立同分布随机变量，则 （C.8）成立。大数定理意味着，我们若对估计总体均值u感 兴趣，通过选取一个足够大的样本，便能得到一个任意接近u 的数。
计量经济学导论
21
渐进正态性

随着自由度提高，t分布渐进服从正态分布， 因此有:

Suppose we have a standard model, y = b0 + b1x1 + b2x2 + . . . bkxk + u and our null hypothesis is H0: bk-q+1 = 0, ... , bk = 0 First, we just run the restricted model
计量经济学导论
25
LM Statistic (cont)
LM ~ , so can choosea critical
2 q 2 value, c, froma q distribution, or a
just calculatea p - value for

2 q
With a large sample, the result from an F test and from an LM test should be similar. LM>c, reject H
计量经济学导论
28

Example: Economic Model of Crime（数据来源： CRIME1）
Narr86为一个人被拘捕的次数； Pcnv为以前被拘捕后被定罪的次数； Avgsen为过去定罪后被判刑的平均时间长度； Tottime为此人在年龄达到18岁后在1986年以前被送进监狱的总次数； Ptime86为1986年坐牢的月数； Qemp86为此人在1986年合法就业的季度数。
计量经济学导论
13
渐进偏误




渐进偏误的方向与遗漏变量偏误的方向类似。 两者的区别在于，渐进偏误使用总体方差和协 方差，遗漏变量偏误则基于样本对应量（以x 的样本值为条件） 不一致性是大样本问题，即使增加数据量，不 一致性问题仍然存在。 如果X1与X2不相关，则为不一致估计量；如 果相关，则为一致估计量。
s2
2 j

SST j 1 R
r
n i 1

s2
2 ij
n 2 2 ˆ b j b j N 0, s rij i 1 ˆ b N 0, s 2 a 2 n b j j j


n 2 1 2 a j p lim n rij i 1
b pcnv b ptime86 b qem86 u narr86 b 0 1 4 5
0 1 pcnv 2 avgsen 3totime 4 ptime86 5qem86 v u Ru2 0.0015, LM 2725 0.0015 4.09 4.61 q ,10%, x2 ,
n
计量经济学导论
8
OLS的一致性


在高斯-马尔科夫假定下，OLS估计值是一致 且无偏的。 类似的，我们可以像无偏性一样证明一致性， 为此需要引入概率极限。
计量经济学导论
9
简单回归中证明一致性
x
ˆ x x y b i1 1 i 1
i1
b 0 xi1 x1 b1 xi1 x1 xi1 xi1 x1 ui
1 ^ 1
^
计量经济导论
12
不一致性的推导

与遗漏变量偏误的推导类似，渐进偏误推导如下：
p lim b1 b1 cov(x, u) / var(x)
^
T rue model: y b 0 b1 x1 b 2 x2 v You think: y b 0 b1 x1 u, so that ~ u b 2 x2 v and, plimb1 b1 b 2 where Covx1 , x2 Var x1
计量经济学导论
11
不一致性的推导

b1 的不一致（有时也粗略地称为渐近偏误）为：
^
p lim b1 b1 cov(x, u) / var(x)
^
因为Var(x)>0,所以，若x与u正相关，则 b 的 不一致就为正，而若x与u负相关，则 b 的不 一致为负。如果x与u之间的协方差相对于X的 方差很小，那么这种不一致就可以忽略。
10
n
x1
1
2

x
i1
x1
2

计量经济学导论
一个较弱的假定



为了得到无偏性，我们需要零条件均值假设 E(u|x1, x2,…,xk) = 0→x的任意函数都与u无关 为了得到一致性，我们仅需要较弱的假定：零 均值和零相关:E(u) = 0 ,Cov(xj,u) = 0, for j = 1, 2, …, k. →每一个xj都与u无关。 不满足上述条件，OLS是有偏和不一致的。
b x ... b x u yb 0 1 1 k q k q , and regress Now take the residuals, u on x1 , x2 ,..., xk (i.e. all the variables) u LM nRu2 , where Ru2 is from this reg