第二节 评价估计量优劣的标准

E n ˆ 2 n E(ˆ 2 )
ˆ
2.
2
1 n
n i1
(Xi
X
2
)
n1 n1
因为
n ˆ 2
n1
S
2
1 n
1
n i 1
(Xi
X 2 ),
即 S2是 2 的无偏估计,故通常取S2作 2的估计量.
练习：
设总体X的均值与方差 2均为未知参数，
X1,
X
为样本。求证：1
2
2
(
X1
X
2
)2 是
2的无
lim P{|ˆ | } 1
n
则称 ˆ 是 的一致估计量，或相合估计量。
例 由（P.109）大数定律知，
lim P{| X | } 1
n
即 X 是总体均值 的一致估计量。 由B.6知 S 2是总体方差 2的一致估计量。
归纳起来：
X 是 的无偏估计量，有效估计量，一致估计量。
S 2是 2 的无偏估计量，一致估计量。
例1 设总体 X 的k 阶矩 k E( X k ) (k 1)存在,
又设 X1, X2 ,, Xn 是 X 的一个样本，试证明不论
总体服从什么分布,
k 阶样本矩 Ak
1 n
n i 1
X
k i
是k
阶总体矩 k 的无偏估计.
证 因为 X1, X2 ,, Xn 与 X 同分布，
故有
E
(
X
k i
)
E(
X
k
)
k
,
i 1,2,,n.
即
E(
Ak
)
1 n
n i 1
E(
X
k i
)
k
.
故 k 阶样本矩 Ak 是 k 阶总体矩 k 的无偏估计.
特别的:
不论总体 X 服从什么分布, 只要它的数学期望存在,
X 总是总体 X 的数学期望1 E( X )的无偏
估计量.
n
n
可验证： Xi ， ai X i ( ai 1) 都是 的无偏估计量
设总体X
有密度f
(
x,
)
1
x
e 2 , x 0,
2 x
0, 其他
X1, X 2,...X n是样本，求的最大似然估计量ˆ，
并证明ˆ是无偏的。
解 设 x1 , x2 ,, xn是相应于 X1 , X2 ,, Xn 的样本值，
则似然函数为
n
n
L( ) f (xi; )
1
xi
e 2
i1 n
xi
i1 2 xi
n n
1 i1
(2 ) 2 ( xi ) 2 e 2
i1
( xi 0, i 1,2,, n)
取对数得
ln L( ) n ln(2 )
2
1 ln( 2
n i1
xi )
1
2
n
xi
i1
ln L( ) n ln(2 ) 1 ln( n
2
2
i1
xi )
第六章
第二节 评价估计量优劣的标准
一、问题的提出 二、无偏性 三、有效性 四、相合性(一致性) 五、小结
一、问题的提出
练习 设 X ~P() X1 , X2 ,, Xn 是X的一个样
本，求的矩估计量。
解 EX ,的矩估计量为 ˆ＝X .
而 2 DX , 得的另一矩估计量：ˆ C2 .
问题 (1)对于同一个参数究竟采用哪一个估计量好? (2)评价估计量的标准是什么? 下面介绍几个常用标准.
设ˆ1 ˆ1( X1, X2 ,, Xn )与ˆ2 ˆ2( X1, X2 ,, Xn ) 都是 的无偏估计量, 若有 D(ˆ1) D(ˆ2 ), 则称ˆ1较 ˆ2有效.
例（P.144）设 X1 , X 2 , X 3 是X的一个样本，
EX , DX 2 , 下列无偏估计量中哪个更有效？
又因为 E( X 2 ) D( X ) [E( X )]2 2 2 ,
n
所以 E(ˆ 2 ) E( X 2 ) E( X 2 ) n 1 2 2,
n
所以ˆ 2 是有偏的.
E(ˆ 2 ) n 1 2 2
n
若以 n 乘 ˆ 2 , 所得到的估计量就是无偏的.
n1
(这种方法称为无偏化).
二、无偏性
若 X1, X2 ,, Xn 为总体 X 的一个样本，
是包含在总体X 的分布中的待估参数, ( 是 的取值范围)
若估计量ˆ ( X1, X2 ,, Xn ) 的数学期望 E(ˆ) 存在, 且对于任意 有 E(ˆ) , 则称 ˆ 是 的无偏估计量.
无偏估计的实际意义: 无系统误差.
ˆ1
X1 , ˆ 2
4 3
X1
1 3
X 2 , ˆ 3
1 3(X1
X2
X3)
解 因 X1 , X 2 , X 3 相互独立，且 DXi 2 , i 1,2,3
所以
Dˆ1 DX1 2 ,
Dˆ 2
16 9
DX1
1 9
DX 2
17 2 ,
9
Dˆ 3
DX
1
3
2,
ˆ3 最有效。
四、相合性
设ˆ ˆ( X1 , X 2 ,, X n )是的估计量，若 0有
偏估计。
证
E[
1（X 2
1
X
2
)2
]
E(
1 2
X
2 1
X1X
2
1 2
X
2 2
)
1 2
EX
2 1
EX 1
EX 2
1 2
EX 22
1 ( 2 2 ) 2 1 ( 2 2 )
2
2
2
三、有效性
比较参数 的两个无偏估计量ˆ1 和ˆ2 , 如果 在样本容量n相同的情况下, ˆ1的观察值在真值 的附近较ˆ2 更密集, 则认为ˆ1 较 ˆ2 有效.
1
2
n i1
xi
求导得似然方程
d ln L( ) d
n 2
2 2
1
2 2
n
xi
i1
0
x 的最大似然估计值
ˆ
1 n
n i1
xi
的最大似然估计量 ˆ X
Eˆ E X EX
x
x
e 2 dx
0 2 x
例（逆问题）设 X ~ e( )（参数为 的指数分布）， X1 , X2 ,, Xn 是来自X 的一个样本。
C 为何值时，C X 2是 DX 的无偏估计量？
解
EX 1 , DX 1
2
由 E(C X 2 ) CE( X 2 ) C[D X (E X )2 ]
C
DX n
1
2
C
1 n
1
2
1
2
得
C
Cn1 1
n
n 2
1
2
n1
五、小结
无偏性
估计量的评选的三个标准
有效性
相合性
由最大似然估计法得到的估计量, 在一定条 件下也具有相合性. 估计量的相合性只有当样本 容量相当大时,才能显示出优越性, 这在实际中 往往难以做到,因此,在工程中往往使用无偏性和 有效性这两个标准.
练习：
i 1
i 1
例2 对于均值 , 方差 2 0 都存在的总体, 若
,
2 均为未知, 则 2 的估计量ˆ 2
1 n
n
(Xi
i 1
X )2
是 有偏 的(即不 是无偏 估计).
证Baidu Nhomakorabea
ˆ
2
1 n
n i 1
X
2 i
X
2
因为 E( X i2 ) =E( X 2 ) DX E 2 ( X ) 2 2,