经济计量学公式推导

xt (Xt X ) xt 2
xt • xt 1 xt 2
由此可知，b2是B2的无偏估计量。
9
(2)关于b1
E(b1) E (Dt (B1 B2 X t ut ))
E( B1Dt B2 Dt X t Dtut )
B1Dt B2Dt X t (Dt E(ut ))
B1 Dt B2 Dt X t 0
xt yt xt 2
, 其中，xt
Xt
X,
yt
Yt
Y
4
： （二）证明 最小二乘估计量是最优线性无偏估计量：
1.线性
（1）关于b2。 证：
b2
xt yt xt 2
xtYt xt 2
xt xt 2
Yt
ctYt
其中，ct
xt xt 2
由于ct是非随机变量，所以b2是关于Yt的线性函数。
所以，b1也是Yt的线性函数。
7
续上： 又由于，
b1 DtYt Dt (B1 B2 X t ut ) Dt B1 Dt B2 X t Dtut
所以，b1也是ut的线性函数。
8
2.无偏性
(1)关于b2。
E(b2 ) E (ct (B1 B2 X t ut )) E( B1ct B2ct X t ctut )
首先求解b1和b2的方差
Var(b1) Var((DtYt )) Var (Dt (B1 B2 X t ut ))
Var((B1Dt )) Var((B2Dt X t )) Var((Dtut ))
0 0 E(( (Dtut ) E (Dtut ))2 )
E( Dtut )2
B1ct B2ct X t (ct E(ut ))
B1 ct B2 ct X t 0
B2
其中， ct
xt xt 2
xt xt 2
(Xt X ) xt 2
Xt nX xt 2
0 xt 2
0
ct Xt
xt Xt xt 2
xt Xt xt X xt 2
因此
Var(b%2 ) 2 ( ct2 gt2 )
2 xt 2
2
gt 2
Var(b2 ) 2 gt2
所以
其中， 2gt2 0（除非，t ct ，这时有 b2 b%2 ）
Var(b2) Var(b%2)
17
(2)关于b1 其证明和b2类似。
18
(三）关于残差的一些结论的证明
证毕
29
所以
Var(b%2) Var(B2 tut ) 2 t2
16
续上：
而
t2 (ct gt )2 ct2 gt2 2 ct gt
ct 2
gt2 2
xt gt xt 2
ct 2
gt2 2
Xt gt X xt 2
gt
ct2 gt2 根据前面的结论有： gt 0, gt Xt 0
Yˆ
证毕
20
（四）TSS，ESS和RSS之间的关系
TSS (Yt Y )2 (Yt Yˆt Yˆt Y )2 ((Yt Yˆt )2 (Yˆt Y )2 2(Yt Yˆt )(Yˆt Y )) (Yt Yˆt )2 (Yˆt Y )2 2 (Yt Yˆt )(Yˆt Y )
28
由于存在自相关，所以：
E(uiu j ) 0, 其中，i, j 1, 2,L , n;
所以：
i j.
Var(b2 ) Var(B2 ctut ) E( ct2ut2 cic juiu j )
i j
2 ct2 cic j E(uiu j )
由上式可知，OLS估计量 b2 的方差已经不再是b2 真实的方差。
B1
其中， Dt
(
1 n
Xct )
n•
1 n
X ct
1 0
1
Dt Xt
(1 n
Xct
)•
Xt
1 n
•
Xt X •
(ct X t )
X X •
xt X t xt 2
X
• (1
xt X t xt 2
Xxt )
X (11) 0
所以，b1是B1的无偏估计量。
10
3.有效性
( xt yt )2 • xt2
xt2
yt 2
( xt yt )2 xt 2 yt 2
而根据判定系数的定义知：
24
续上：
r2
xt yt
xt2
yt 2
所以：
R2 r2
25
六.异方差和自相关情形下，OLS无效性的证明。
以一元线性回归模型中的参数—斜率 b2 ，为例。
1.异方差
1. et 0
由第4页PPT中的正规方程1可知：
(Yt b1 b2 Xt ) (Yt Yˆt ) 0
所以有
et 0
证毕
2. et Xt 0
由第4页PPT中的正规方程2可知有：
et Xt 0
证毕
19
续上：
3. Y Yˆ
Y 1 n
(Yˆt
et
)
1 n
Yˆt
1 n
et
Yˆ 0
0 0 (ct2E(ut2 ))
2 ct2
2
xt 2
13
有效性证明
假定 b%1 、b%2 是用其他计量经济方法得到的任一组线性无偏
估计量，下面证明最小二乘估计量满足
Var(b1) Var(b%1)
Var (b2
)
Var(b%2 )
(1)关于b2
由于 b%2 是一元线性回归模型的线性无偏估计量，令
b1
(Yt b1 b2 Xt ) 0
3
续上：
化简得到如下正规方程：
(Yt b1 b2 X t ) 0
(Yt b1 b2 X t ) X t 0
由正规方程得到如下解：
b1 Y b2 X
b2
X tYt
1 n
Xt2
1 n
(
X t Yt
Xt )2
XtYt nXY X t 2 nX 2
由于b%2 是 B2 的无偏估计量，所以E(b%2 ) B2 ，由此可知
t 0， t Xt 1
而
t (ct gt ) ct gt
t Xt ct Xt gt Xt
15
续上： 又由于
ct 0, gt Xt 1
因此
gt 0, gt Xt 0
由于
b%2 B2 tut
(Yˆt Y )2 (Yt Y )2
根据（3）式可知：
R2 ESS TSS
(Yˆt Y )2 (Yt Y )2
b22 xt2 yt2
又由于
b2
xt yt xt 2
23
续上：
将 b2带入 R2 ，得到：
R2 ESS TSS
(Yˆt Y )2 (Yt Y )2
b22 xt2 yt2
RSS ESS 0 RSS ESS
其中，根据关于残差的一些结论可知：
(Yˆt Y )(Yt Yˆt ) (Yˆt Y )et (b1 b2 X t Y )et b1 et b2 Xtet Y et
000 0
21
(五）关于相关系数和判定系数之间的关系
注意：本证明针对的是一元线性回归模型 假如有如下一元线性回归模型的确定性样本回归方程：
在异方差下，可知OLS估计量依然是线性无偏估计量，且：
b2 B2
ctut , 其中，ct
xt xt 2
求b2 的方差可得：
Var(b2 ) Var(B2 ctut )
Var( ctut )
E( ctut E( ctut ))2
E( ctut )2
E( ct2ut2 cic juiu j ), i, j 1, 2,L , n i j
Yˆt b1 b2 Xt
（1）
由于样本回归函数经过样本的均值点(X ,Y ) ，所以有：
Y b1 b2 X
（2）
（1）式减去（2）式得：
(Yˆt Y ) b2xt
上式左右两边同时平方，然后求和得到：
(Yˆt Y )2 b22 xt2
（3）
22
续上：
根据判定系数的定义知：
R2 ESS TSS
由样本回归模型得到：
et Yt b1 b2 X t
2
续上：
最小二乘估计量的求解过程可以归结为如下问题：
Min
b1 ,b2
et 2
即：
Min
b1 ,b2
(Yt b1 b2 X t )2
求解该问题，有如下一阶条件：
et 2 2
b2
(Yt b1 b2 X t )X t 0
et2 2
b2 B2
ctut , 其中，ct
xt xt 2
求 b2 的方差可得：
Var(b2 ) Var(B2 ctut )
Var( ctut )
E( ctut E( ctut ))2
E( ctut )2
E( ct2ut2 cic juiu j ), i, j 1, 2,L , n i j
5
续上： 又由于：
b2 ctYt ct (B1 B2 X t ut ) ct B1 ct B2 X t ctut
所以，b2也是ut的线性函数。
6
(2)关于b1。 证：
b1 Y b2 X
Yi X n
wenku.baidu.comctYt
(1 n
Xct
)Yt
DtYt
其中，Dt
1 n
Xct
一些结论和证明
注意：本ppt上的结论和证明的推导中，变量
的下标用的是 t 而非 i ，但这不影响我们的分
析。
1
(一)一元线性回归模型的参数最小二乘估计量的推导：
对于总体回归模型和总体回归函数：
Yt B1 B2 X t ut Yt B1 B2 X t
其样本回归模型和样本回归函数，
Yt b1 b2 X t et Yµt b1 b2 Xt
E(D12u12 D22u22 D32u32 L ) E(D1D2u1u2 D1D3u1u3 Di D juiu j L )
(D12 D22 Di2 L ) • 2 0
2 • Dt2
2 (1 n
X2 xt 2 )
2
xt 2 nX 2
n xt2
11
续上：
b%2 tYt
其中 t , t 1, 2,L , n为一组不全为零的常数。
不失一般性，令 t
ct gt
。这里
ct
xt xt 2
14
续上：
于是
b%2 t (B1 B2 X t ut ) B1 t B2 t X t tut
E(b%2 ) E(B1 t B2 t X t tut ) B1 t B2 t Xt
因为
xt2 ( X t X )2 X t2 2nX 2 nX 2 X t2 nX 2
所以
2 Var(b1) n
Xt2 xt 2
12
续上：
Var(b2 ) Var(ctYt )
Var(ct (B1 B2 X t ut ))
Var(B1ct ) Var(B2ct X t ) Var(ctut )
26
续上：
其中，
E( cicjuiu j ) 0, i j
i, j 1, 2,L , n
所以：
Var(b2 ) E( ct2ut2 ) ct2E(ut2 ) ct2 t2
由上式可知，在存在异方差情况下最小二乘估计量已不是其真实估计量。
证毕
27
2.自相关
在存在自相关情况下，OLS估计量依然是线性无偏估计量，且：