第4章 最小二乘估计量的性质

第4章
最小二乘估计量的特征
在满足基本假设的情况下，其结构参数的 普通最小二乘估计、最大或然估计及矩估计仍具 有： 线性性、无偏性、有效性。 同时，随着样本容量增加，参数估计量具有： 渐近无偏性、渐近有效性、一致性。
1、线性性
ˆ ( X X) 1 X Y CY β
其中,C=(X′X)-1 X′为一仅与固定的X有关的行 向量

因为
A XX XA XX X A XX XA XXX
1 1

1
1
1 1 1 1 AA XX XA AXXX XX XXXX
AA XX 0

E AXβ Aε AXβ AEε AXβ β AX I
E B 0 E AY EAXβ ε

Var B0 VarAXβ ε Varβ Aε VarAε AVarεA AA 2
( X X ) 1 X ( Xβ μ) β ( X X ) 1 X μ
和
) 2I E (μμ
如果在上面以A替代 令 B0 AY
B0 X）= σ 2 AA' 则Var（
X X
'
1
X'
• 最小方差性：证明
B0Βιβλιοθήκη Baidu AY
Var B0 VarB 0
2、无偏性
ˆ ) E (( X X ) 1 X Y ) E (β E (( X X ) 1 X ( Xβ μ )) β ( X X ) 1 E ( X μ ) β
这里利用了假设: E(X′)=0
3、有效性（最小方差性）
其中利用了
ˆ ( X X) 1 X Y β
1
所以
Var B 0 VarB AA 2 XX 2
1

AA XX 2 0
1


高斯—马尔可夫定理(Gauss-Markov theorem) 在给定经典线性回归的假定下，最小 二乘估计量是具有最小方差的线性无偏估计 量。