概率论与数理统计估计量的评价标准

下面介绍几个常用标准.
二、无偏性
若 X1, X2 , , Xn 为总体 X 的一个样本，
是包含在总体X 的分布中的待估参数, ( 是 的取值范围)
若估计量ˆ ( X1, X2 , , Xn ) 的数学期望 E(ˆ) 存在, 且对于任意 有 E(ˆ) , 则称 ˆ 是 的无偏估计量.
无偏估计的实际意义: 无系统误差.
例1 设总体 X 的k 阶矩 k E( X k ) (k 1)存在,
又设 X1, X2 , , Xn 是 X 的一个样本，试证明不论
总体服从什么分布,
k 阶样本矩 Ak
1 n
n i 1
X
k i
是k
阶总体矩 k 的无偏估计.
证 因为 X1, X2 , , Xn 与 X 同分布，
例3（略）设 X1, X2, , Xn 是来自正态总体N ( , 2 )
的样本，试求 2的无偏估计量.
解 由定理二知
n1
2
S2
~
2(n
1),
E n 1S
0
x
n1
22
1 n
1
e
x 2
x
n11
2 dx
n1
22
1 n
2
1
0
x
e2
n1
x 2 dx
2
2
n
n 2
1
,
2
E(S)
(n
n 1)2 ( n
2)
2
,
故
D(ˆ2 )
1 2,
n(n 2)
又n 2, 所以 D(ˆ2 ) D(ˆ1), ˆ2 较 ˆ1 有效.
四、相合性（一致性）
若ˆ ˆ( X1, X 2 , , X n )为参数的估计量, 若对于任意 ,当n 时,ˆ( X1, X 2 , , X n ) 依概率收敛于 , 则称 ˆ 为 的相合估计量.
的无偏估
计量, 现证当n 2时, ˆ2 较ˆ1 有效.
证明
由于
D(ˆ1) 4D( X )
4 D( X ) 2 ,
n
3n
D(ˆ2 )
D
n1 n
X
h
nΒιβλιοθήκη Baidu
n
1
2
D
X
h
,
又因为
E(
Xh
)
n
n
1
,
E( Xh2 )
0
n
n
x n1dx
n
n
2
2,
D( Xh
)
E(
X
2 h
)
[E(
Xh
)]2
n 1 2 2 , 所以ˆ 2 是有偏的.
n
若以 n 乘 ˆ 2 , 所得到的估计量就是无偏的.
n1
(这种方法称为无偏化).
E n ˆ 2 n E(ˆ 2 ) 2 .
n1 n1
因为
n ˆ 2
n1
S
2
1 n
1
n i 1
(Xi
X 2 ),
即 S2是 2 的无偏估计,故通常取S2作 2的估计量.
n
2
1
n
n 2 2
1
,
故 S 不是 的无偏估计量 ,
n
2
1
n
1
2
n 2
S
是
的无偏估计量.
例4 设总体 X 在 [0, ]上服从均匀分布,参数 0,
X1, X2 , , Xn 是来自总体X 的样本，试证明2X 和
n
n
1
max(
X1
,
X2 ,
,
Xn)
都是
的无偏估计.
证 因为 E(2X ) 2E( X ) 2E( X ) 2 ,
故有
E
(
X
k i
)
E(
X
k
)
k
,
i 1,2, ,n.
即
E(
Ak
)
1 n
n i 1
E(
X
k i
)
k
.
故 k 阶样本矩 Ak 是 k 阶总体矩 k 的无偏估计.
特别的: 不论总体 X 服从什么分布, 只要它的数学期望存在,
X 总是总体 X 的数学期望1 E( X )的无偏
估计量.
例2 对于均值 , 方差 2 0 都存在的总体, 若
例如 由第六章第二节知, 样本k(k 1)阶矩是
,
2 均为未知, 则 2 的估计量ˆ 2
1 n
n i 1
(
Xi
X )2
是 有偏 的(即不 是无偏 估计).
证
ˆ
2
1 n
n i 1
X
2 i
X
2
A2
X
2,
因为 E( A2 ) 2 2 2 ,
又因为 E( X 2 ) D( X ) [E( X )]2 2 2 ,
n
所以 E(ˆ 2 ) E( A2 X 2 ) E( A2 ) E( X 2 )
f
(
x;
)
1
x
e
,
0,
x 0, 其他.
其中参数 0, 又设 X1, X2, , Xn 是来自总体X 的
样本, 试证 X 和nZ n[min(X1, X2 , , Xn )] 都是
的无偏估计.
证明 因为 E( X ) E( X ) ,
所以 X 是 的无偏估计量.
而
Z
min(
X1,
X2 ,
由于方差是随机变量取值与其数学期望的 偏离程度, 所以无偏估计以方差小者为好.
设ˆ1 ˆ1( X1, X2 , , Xn )与ˆ2 ˆ2( X1, X2 , , Xn ) 都是 的无偏估计量, 若有 D(ˆ1) D(ˆ2 ), 则称ˆ1较 ˆ2有效.
例6 (续例5)
试证当n 1时, 的无偏估计量X 较 nZ 有效.
,
Xn)
服从参数为 的指数分布,
n
概率密度
fmin ( x; )
n
e
nx
,
x 0,
0,
其他.
故知 E(Z ) , E(nZ ) ,
n
所以 nZ 也是 的无偏估计量.
由以上两例可知,一个参数可以有不同的无 偏估计量.
三、有效性
比较参数 的两个无偏估计量ˆ1 和ˆ2 , 如果 在样本容量n相同的情况下, ˆ1的观察值在真值 的附近较ˆ2 更密集, 则认为ˆ1 较 ˆ2 有效.
第三节 估计量的评选标准
一、问题的提出
从前一节可以看到, 对于同一个参数, 用不 同的估计方法求出的估计量可能不相同, 矩估计、 极大似然估计、Bayes估计等. 而且, 很明显, 原 则上任何统计量都可以作为未知参数的估计量. 问题 (1)对于同一个参数究竟采用哪一个估计量好? (2)评价估计量的标准是什么?
2
所以 2X 是 的无偏估计量.
因为 Xh max(X1, X2, , Xn )的概率密度为
nx n1
f
(
x)
n
,
0 x ,
0,
其他
所以
E(Xh)
0
x
nx
n1
n dx
n ,
n1
故有
E
n
n
1
X
h
,
故n n
max( 1
X1,
X2 ,
,
Xn)
也是
的无偏估计量.
例5 设总体 X 服从参数为 的指数分布, 概率密度
证明 由于 D( X ) 2, 故有 D( X ) 2 ,
n
又因为
D(Z )
2
n2
,
故有 D(nZ ) 2,
当n 1时, D(nZ ) D( X ),
故 的无偏估计量X 较 nZ 有效.
例7 (续例4) 在例4中已证明ˆ1 2X
和 ˆ2
n n
1 max{ X 1 ,
X2 ,
,
Xn} 都是