概率论教学课件第七章7.2估计量的优良性标准

7
定义2 设ˆ1,ˆ2都是未知参数的无偏估计量，如果 Dˆ1 Dˆ2
则称（ˆ1和ˆ2作为参数的估计量）ˆ1比ˆ2更有效。
例3 设为 X1, X 2 , X3 取自总体 X 的样本,EX= ,DX= 2 0 , 证明:下列三个统计量均为 的无偏估计量，并比较有效性.
1
2 10
X
1
3 10
X2
5
证
EX
5
2
, EX
5
2
.
Eˆ
E(2 5
X)
2 5
EX
2 5
5
2
.
因此,ˆ是的无偏估计.
例2设DX 2 0, EX 未知,X
证明:X 2不是 2的无偏估计.
1 n
n i 1
Xi ,则X 是的无偏估计.
证
EX
2
DX
(EX
)2
2
n
2
2
.
X 2不是 2 的无偏估计.
注：ˆ是的无偏估计，未必有 ˆ 是 的无偏估计. 5
1
一、无偏性
估计量是随机变量, 对于不同的样本值就会得到 不同的估计值, 希望估计值在未知参数真值左右徘徊, 最好它的数学期望等于未知参数的真值, 这就导致了 无偏性这个标准.
定义1 设 X1, , X n 是总体X 的一个样本,ˆ ˆ( X1,, Xn ) 是 未知参数 的估计量,如果有
Eˆ ，
1
X1, 2
1 5
X1
2 5
X2
2 5
X 3，3
1 3
X1
1 3
X2
1 3
X3
X
都是总体均值的无偏估计.
问题：总体均值的这些无偏估计哪个更好？
无偏性也只能从平均意义上解释随机误差刚好正负 抵消，不产生系统偏差，但它并不能说明随机误差的 大小. 如果一个估计量的随机误差过大，我们并不认 为它是一个优良估计.所以，仅有无偏性的要求是不够 的，这自然就引出了有效性的概念.
样本方差
S2
1 n 1
n i 1
(Xi
X
)2
,
ES 2
DX
，
因此, S 2 是总体方差 DX 的无偏估计.
二阶中心矩
B2
1 n
n i 1
(Xi
X )2
,
B2
n 1S2 n
EB2
n 1 DX n
DX
，因此,
B2
是
DX
的有偏估计.
4
例1设总体X U ,4 ,其中 0是未知参数,
证明: ˆ= 2 X是的无偏估计量.
数学期望 和方差 2 0 都存在，求证：
（1）对任意一组实数 ai , i 1, 2,, n. 若 n ai 1,
则 ˆ
n
i 1
ai Xi 都是 的无偏估计（称ˆ 为 的
i 1
线性无偏估计）；
（2）在
的一切线性无偏估计中，X
1 n
n i1
X i的方
差最小，(称为 的最优线性无偏估计）.
D
n
ai
X
i
i1
n
ai2 DX i
i1
n
2 ai2
i1
2
n
DX .
故在 的一切线性无偏估计中，X 的方差最小， 因而 X 是 的最优线性无偏估计.
13
Dˆ
D
n
ai
X
i
i1
n
ai2 DX i
i1
2
n i1
ai2
2
n
DX.
n
若 ai =1，则当a1 a2
i 1
an
1
i1
i 1
i 1
b1 b2 bn 1 ,得到
n
2
ai
n
n
ai2
i1
i 1
因此,当
n i 1
ai
1时,有
n i 1
ai2
1 ,当且仅当
n
12
因此,当
a1
n
ai
i 1
a2
1a时n ,1n有时in取1 a等i2 号1n.,
当且仅当
DXi
DX
2,
DX
2.
n
Dˆ
5 10
X3
,
2
4 6
X1
3 6
X2
1 6
X3
,
3
1 3
X1
1 3
X2
1 3
X3
.
8
1
2 10
X1
3 10
X2
5 10
X3
,
2
4 6
X1
3 6
X2
1 6
X3
,
3
1 3
X1
1 3
X2
1 3
X3
.
证
EXi EX ,i 1, 2,3.
E(1)
2 10
3 10
5 10
,
E(2
)
4 6
3 6
1 6
,
E(3)
1 3
1 3
1 3
,
1 , 2 , 3 都是 的无偏估计.
9
1
2 10
X1
3 10
X2
5 10
X3
,
2
4 6
X1
3 6
X2
1 6
X3
,
3
1 3
X1
1 3
X2
1 3
X3
.
3
1 3
3 i 1
Xi
X
X
1
,
X
2
,
X
相互独立
3
,
DXi DX 2 ,i 1, 2,3.
D(1)
4 2 9 2 25 2 38 2 0.38 2 , 100 100 100 100
D( 2 )
16 2 9 2 1 2 26 2 0.72 2 ,
36 36 36 36
D( 3 )
1 2
9
12
9wenku.baidu.com
12
9
1 2
3
0.33 2.
D(3) D(1) D(2 ) ,因此 3 最为有效.
10
一般地,有如下基本结论：
例4. 设 X1, X2,, Xn 是来自任意总体 X 的一组样本，
习题7.14-（1）： 设总体 X , EX , DX 2 , X1 ,, X n 是来自总体 X 的
n1
一个样本，试确定常数 c，使统计量ˆ 2 c ( Xi1 Xi )2 为 2 i 1
的无偏估计量.
EX
2 i
DX i
(EXi )2
2
2
解
E( X i1
Xi
)2
EX
2 i 1
2E( X i1 X i
)
EX
2 i
EX
2 i 1
2EX i1EX i
EX
2 i
( 2 2 ) 2 2 ( 2 2 ) 2 2
n1
Eˆ 2 c E( X i1 X i )2 c 2(n 1) 2 2,
i 1
1
c
.
2(n 1)
6
二、有效性
例如，设总体X ,而X1, X 2, X3是来自总体X的样本，EX 未知，则
即:在的一切线性无偏估计中，X
1 n
n i 1
X
最为有效.
i
11
证（1） EXi EX ,i 1, 2,, n
Eˆ
E
n
ai
X
i
n
aiEXi
n
ai (
n
ai ) ,
i1
i1
i1
i1
故 是 的无偏估计.
（2）在柯西不等式
n
aibi
2
n
ai2
n
bi2 中，令
则称ˆ 为 的无偏估计量.否则称为有偏估计量.
2
Eˆ ，E(ˆ ) 0.
无偏估计量的含义是：ˆ 作为样本的函数 是一个随机变量，它在 的真值附近波动，但其 平均值恰好是 的真值。
3
设 X1, , X n 为取自总体 X 的样本，
样本均值
X
1 n
n
Xi,
i1
EX
EX ，
因此, X 是总体均值 EX 的无偏估计；
n
时，
n i1
ai2取最小值
1. n
n
n
或： L(a1, , an , ) ai2 ( ai 1),
i 1
i 1
L
令
ai
2ai
0
,
i 1,
,n
L
n i 1
ai
1
0
得ai
1 n
,i