第二节 估计量的评选标准分析

E
(
X
k i
)
1 n
n k
k
特别地
(1) 样本均值 X是总体期望 E( X ) 的
无偏估计
(2) 样本二阶原点矩
A2
1 n
n i 1
X i2是总体
二阶原点矩 2 E( X 2 ) 的无偏
估计
例2 设总体 X 的期望 与方差存在, X 的
样本为 (X1, X 2,, X n )(n > 1) . 证明
X~b(n , p) n > 1 , 求 p 2 的无偏估计.
解 由于样本矩是总体矩的无偏估计以及数 学期望的线性性质, 只要将未知参数表示成总 体矩的线性函数, 然后用样本矩作为总体矩的 估计, 这样得到的未知参数的估计即为无偏估 计.
令 X E(X ) np
1
m
m i 1
X
2 i
E(X
2)
2 n 1
2
2
n
2 2
n 1
2
EY 1/ 2 E
n
1S
n
2 2
n 1
2
ES
n
2 2
n 1
n1
S不是的无偏估计
2
令S*
n 1 n 1 2 S ,则S*是的无偏估计。
2 n
2
例4 设 ( X1 , X2 ,, Xm ) 是总体 X 的一个样本 ,
由于
D(ˆ1) E(ˆ1 )2 D(ˆ2 ) E(ˆ2 )2
所以无偏估计以方差小者为好, 这就引进了有效性 这一概念 .
2、有效性
定义 设 ˆ1 1(X1, X 2,, X n )
ˆ2 2 (X1, X 2,, X n )
都是总体参数 的无偏估计量, 且 Var(ˆ1 ) Var(ˆ2 )
§6.2 估计量的评选标准
对于同一个未知参数,不同的方法得到的估 计量可能不同,如
例 设总体 X ~ U (a, b), a, b 未知
aˆ矩 X 3S bˆ矩 X 3S aˆ MLE X(1) , bˆMLE X(n)
X~N( μ ,σ2 )
样本均值是否是 的一个好的估计量？ 样本方差是否是 2的一个好的估计量？
(1)
Sn2
1 n
n i 1
(Xi
X )2不是 Var( X )的无偏估计;
(2)
S2
1 n1
n
(Xi
i 1
X )2是
Var(
X
)
的无偏估计.
证
前已证
1 n
n
(Xi
i 1
X )2
1 n
n i 1
X
2 i
X2
E( Xi ) E( X ) , Var( Xi ) Var( X ) 2
1
n
(1 P( Xi z))
0
nz
z0
i 1
1 e z 0
f
Z
(
z
)
n
0
e
nz
z0 z0
即
Z ~ Exp n
E(Z)
n
故 n Z 是 的无偏估计量.
E(nZ )
一个参数往往有不止一个无偏估计, 若 ˆ1和 ˆ2
都是参数 的无偏估计量我，们可以比较 E(ˆ1 )2
和 E(ˆ2 )2 的大小来决定二者谁更优 .
设 ˆ( X1,, Xn) 是未知参数 的估计量，若 E(ˆ)
则称 ˆ为 的无偏估计 .
无偏性是对估计量的一个常见而重要的要求 .
无偏性的实际意义是指没有系统性的偏差 .
例如，用样本均值作为总体均值的估计时， 虽无法说明一次估计所产生的偏差，但这种偏差随 机地在0的周围波动，对同一统计问题大量重复使 用不会产生系统偏差 .
证明 X 与 n min{X1 , X2 ,, Xn }都是 的无偏
估计
证
X
~
Exp
1
E(X)
故 E(X ) E(X )
X 是 的无偏估计量.
令
Z min{ X1 , X2 ,, Xn }
FZ (z) 1 P(X1 z, X2 z,, Xn z)
1 P(X1 z)P(X2 z)P(Xn z)
证
已知 (n 1)S 2
2
~
2(n 1)，可知密度函数
p( y)
n-1
22
1 n 1
n11 y
y2 e2
,
2
y0
EY 1/ 2
0
y1/ 2
n-1
22
1 n 1
n11 y
y 2 e 2 dy
n1
22
1 n 1
0
2
y
n 2
1
e
y 2
dy
2
n 2
n
2
n1 2
这是因为估计量是样本的函数, 是随机变量 . 因 此，由不同的观测结果，就会求得不同的参数估计 值. 因此一个好的估计，应在多次试验中体现出优良 性.
常用的几条标准是：
1．无偏性 2．有效性 3．均方误差 4．相合性
一、无偏性
估计量是随机变量，对于不同的样本值会得到 不同的估计值 . 我们希望估计值在未知参数真值附 近摆动，而它的期望值等于未知参数的真值. 这就 导致无偏性这个标准 .
E(X)
E(X)
,
2
Var( X )
n
因而
E
1 n
n
(Xi
i 1
X )2
1 n
n i 1
E
(
X
2 i
)
E
(
X
2
)
( 2 2 ) ( 2 2 )
n
n 1 2 2
n
故
E
n
1 1
n i1
(Xi
X
)2
2
证毕.
例3
设
总体为N
(
,
2
),
X
1
,
,
X
是样
n
本，
由上
例知S 2是 2的无偏估计，但S不是的无偏估计.
例1 设总体X 的 k 阶矩 k E( X k )存在
( X1 , X2 ,, Xn ) 是总体X 的样本,
证明: 不论 X 服从什么分布,
是 k 的无偏估计.
Ak
1 n
n i 1
X
k i
证
由于
E(
X
k i
)
k
i 1,2,,n 因而
E(Ak
)
E(1 n
n i 1
X
k i
)
1 n
n i 1
这就需要讨论以下几个问题: (1) 我们希望一个“好的”估计量具有什么特性？ (2) 怎样决定一个估计量是否比另一个估计量“好”？ (3) 如何求得合理的估计量？
估计量的评选标准
在介绍估计量的评选标准之前，我们必须强 调指出：
评价一个估计量的好坏，不能仅仅依据一次试 验的结果，而必须由多次试验结果来衡量 .Βιβλιοθήκη (np)2np(1
p)
故
(n2
n) p2
1 m
m i 1
X
2 i
X
因此, p 2 的无偏估计为
p2
1 1 n2 n m
m i 1
X
2 i
X
1 m
m i 1
Xi(Xi
1)
n(n 1)
例5 设总体 X 的密度函数为
f
( x;
)
1
x
e
x 0,
0 为常数
0
x0
( X1 , X2 ,, Xn ) 为 X 的一个样本
且至少有一个 使得上述不等号严格成立.
则称 ˆ1 比 ˆ2 更有效.
例6 设总体 X 的密度函数为
f
( x;
)
1
x
e
x 0,