最小二乘法估计量的性质(高斯—马尔可夫定理的初步证明)
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
---------------------------------------------------------------最新资料推荐------------------------------------------------------
最小二乘法估计量的性质(高斯—马尔可夫定理的初
步证明)
高斯马尔可夫定理: 若一元线性模型满足计量经济基本假设,
则参数的最小二乘估计(OLS) 是最小方差的线性无偏估计。
(BLUE) 最小二乘法估计量 OLS 的性质(高斯马尔可夫定理的
初步证明) 1.线性性:
0 和1 都是iy的线性函数证明:
;
令=j=njiixxxxk12)()( 则有 iniiyk==11 ,且有0=ik,
1=iixk,=i=niixxk122)(1 从而1 是iy的线性函数;同理, 0 =
令iikxnw=1,则有:
iiyw=0,即0 也是iy的线性函数。
另有:
1=i w,0=iixw 2. 无偏性:
0 和1 都是0 、1 的无偏估计量;即有:
( )=,00=E ( )11=E 证明:
先证 ( )11E ,又,
1=iixk ()=i=++==iiiiinikuxkyk01011+1 +iiiiukxk ==+iiuk1 ( )(因为: ( )u1101=++=i0iiiiiEkxkkE =ik,1ixk) 同理,利用
1=i w和0=iixw可证得 ( ),00=E 3. 最优性或最小方差性:在所有的线性无偏估计中,0 和1 分别是0 、1 的方差最小的
1 / 2
有效估计量证明:
若1~ 是原值1 的一个线性无偏估计(方差条件不限),且记=iiyc1~(∵线性估计),再根据无偏估计的特性,有:再记P==111==1, 0iiixcc。
()iiiykc~,则有11~+= P ( )Cov(+)),(2)()(),(2),(),(),(~,~~1111111111PCovDPDPCovCovP PPPCovCovD++=+=++== 如果能证明0),(1=PCov,则利用方差不小于 0 的性质,判定)()()()~(111DDPDD+=,1 即为所有无偏的线性估计中方差最小的。
∵2u2i2u1)())((),)((),(iiiiiiiiiikkckkcykykcCovPCov=== 又∵=j=njiixxxxk12)()( 且有:
0=ik,1=iixk,=i=niixxk122)(1 所以0)(1)(1212112i===j=j=i=injnjnniiiiixxxxxcxckkc,0),~((1 =PCov, 有:
)()()()111DDPDD+=,命题得证。
(此处利用了==1, 0iiixcc)。