(优选)经典正态线性回归模型

设总体参数为，样本估计量为ˆ，若E(ˆ) ，
则称样本估计量ˆ为总体参数的无偏估计量。 例如： E(x)
E( p)
E(s2) 2
暨南大学经济学院统计系 陈文静
13
ˆ的抽样分布
ˆ的抽样分布
E(ˆ)
ˆ
无偏估计量
E(ˆ)
ˆ
有偏估计量
2 有效性
(efficiency)
有效性：是指对同一总体参数的无偏估计量中，
方差最小的统计量最为有效。
假定有两个用于估计总体参数的无偏估计量ˆ1和ˆ2， 它们的抽样分布的方差分别用D(ˆ1 )和D(ˆ2 )表示，若 D(ˆ1) D(ˆ2 )，即ˆ1的方差小于ˆ2的方差，则称ˆ1是比ˆ2
更有效的估计量。
注：在无偏估计的条件下，估计量 的方差越小，则估计越有效
两个无偏估计量的抽样分布
暨南大学经济学院统x 计系 陈文静
x
9
中心极限定理
(central limit theorem)
x 的分布趋 于正态分布 的过程
暨南大学经济学院统计系 陈文静
10
采用正态分布假定的理由——续
2.中心极限理论还说明，即使变量的个数不是很 多，或变量不是严格独立，但其和也可视作(或近 似于)正态变量。
Between:
± 1 - 68.26% ± 2 - 95.44% ± 3 - 99.74%
Ka-fu Wong © 2003
µ-2σ µ µ+2σ µ-3σ µ-1σ µ+1σ µ+3σ
Chap 7- 5
误差项正态性假定一个注释
1 误差项被认为是许多次要影响因素的和， 随着这些次要影响因素的数量变大，误差项 的分布倾向于接近正态分布。
回忆参数估计时对ui的假定：均值为0，方差相同 2，协方差
为0，ui代表的是未直接出现在模型中的影响因素对被解释变量
的影响之和。基于这些假设，根据中心极限定理，提出正态性假定。
Central Limit Theorem
As Sample Size Gets Large Enough
Sampling Distribution Becomes Almost Normal Regardless of Shape of Population
注：对两个正态分布的变量来说，零协方差或零相关则意味着
这两个变量相互独立。因此，在正态假定下，ui和u
是正态且独
j
立分布的(normally and independently distributed )，即
ui NID(0, 2 )。
暨南大学经济学院统计系 陈文静
3
Areas Under the Normal Curve
3、正态分布的一个性质是，正态分布变量的任何 线性函数都是正态分布的。
4、正态分布仅设计两个参数：均值和方差，而且 许多现象都服从正态分布。
5、小样本时，正态性假定起到了关键性作用，有 助于我们推导出OLS估计量的精确概率分布，进一 步进行假设检验。
暨南大学经济学院统计系 陈文静
11
4.3 在正态性假定下OLS估计量的性质
© 2002 Prentice-Hall, Inc.
X
Chap 7-17
中心极限定理
(central limit theorem)
从均值为，方差为 2的一个任意总体中抽取容量为n的
样本，当n充分大时，样本均值的抽样分布近似服从均 值为μ，方差为σ2/n的正态分布
一个任意分 布的总体
x
n
当样本容量足够 大时(n 30) ， 样本均值的抽样 分布逐渐趋于正 态分布
（优选）经典正态线性回归模型
统计推断
参数估计：10大假定下得出OLS估计量是BLUE 假设检验：假定ui的概率分布，利用样本推断总体
注意：计量经济学研究的目的并不仅仅是进行参数估计得出
样本回归函数(SRF )，还要用它来推断总体回归函数(PRF)。
分析：前面利用样本数据进行OLS估计，得出ˆ1和ˆ2，进一步， 我们要利用ˆ2 =0.7064对总体的边际消费倾向进行推断，那么就
2 只有在误差项服从正态分布（或者样本非 常大）时，后面将要介绍的t统计量和F统计 量才有应用价值。
暨南大学经济学院统计系 陈文静
6
采用正态分布假定的理由
1、中心极限定理：令X1，X 2, X n为n个独立的、有均值= 方差 2的相同的PDF ( probability density function)的随机
体进行相关的检验。因此，必须对ui的概率分布做出假定。
ui的正态性假定：
经典正态线性回归假定每个ui都是正态分布的： 均值： E(ui Xi ) 0
方差： var(ui Xi ) 2
协方差： cov(ui ,u j Xi , X j ) 0
i, j,i j
表示为：ui N (0, 2 ) N表示“正态分布(normal distribution)?
1、无偏性：E(ˆ)
2、有效性：最小方差
3、 一致性：随着样本容量无限增大，估计量将收敛于其真值。
lim P
n
ˆi i
1Βιβλιοθήκη Baidu
p lim 表示极限概率
0 ?或 p lim ˆi i
暨南大学经济学院统计系 陈文静
12
1 无偏性
(unbiasedness)
无偏性：是指估计量抽样分布的数学期望 等于被估计的总体参数。
需要知道ˆ2的概率分布。由于ˆ2 kiYi ki (1 2 Xi ui )， 其中ki xi xi2 。由于ki，和Xi都是固定的，所以ˆ2最终是
随机变量ui的一个线性函数。于是，ˆ2的概率分布将取决于ui的
概率分布。若没有假定ui的概率分布，则不可能对估计的参数做 出任何推断，也就不可能对估计做出有意义的评价，也不能对总
P(ˆ)
ˆ1 的抽样分布
B
A
ˆ2 的抽样分布
ˆ
ˆ1和ˆ2都是无偏估计量
E(ˆ1)
E(ˆ2 )
ˆ1的方差小于ˆ2的方差：D(ˆ1 ) D(ˆ2 )，
则称ˆ1是比ˆ2更有效的估计量。
变量，令X Xi n (即样本均值)，那么随着n无限地增大： X Xi / n n N (, 2 / n)
就是说，样本均值X 趋于均值为，方差为 2 / n的正态分布。
注意：这一结果的成立与PDF的形式无关。 进行标准化后，得出：
z X n ( X ) n N (0,1)
/ n
中心极限定理为误差项ui的正态性假定提供了理论支持。