概率统计及随机过程：8.2 点估计的评价标准

1 3
X2
ˆ 2
1 4
X1
3 4
X2
都是 的无偏估计量
ˆ 3
1 2
X1
1 2
X2
由例7(2) 知 ˆ3 最有效.
罗—克拉美（Rao – Cramer） 不等式
若 ˆ 是参数 的无偏估计量, 则
( X1, X 2,, X n ) 是 X 的一个样本, n > 1 . 证明
(1)
S
2 n
1 n
n
(Xi
i 1
X )2
不是
D(
X
)
的无偏估计量;
(2) S 2
n
1 1
n i 1
(Xi
X )2是 D( X ) 的无偏估计量.
证
前已证
1 n
n
(Xi
i1
X )2
1 n
n i1
X
2 i
X
2
E(Xi) E(X ) , D(Xi) D(X ) 2
0
nz
z0
i 1
1 e z 0
fZ
(
z)
n
0
nz
e
z0 z0
即
Z ~ En
E(Z)
n
E(nZ )
故 nZ 是 的无偏估计量.
例5 设总体 X ~ N ( , 2),
( X1, X 2 ,, X n ) 为 X 的一个样本
n
求常数 k , 使 k| Xi X |为 的无偏估计量
都是总体参数 的无偏估计量, 且
D(ˆ1) D(ˆ2 )
则称ˆ1 比ˆ2 更有效.
例6 设( X1, X 2,, X n )为 X 的一个样本,密度函数为
f
(x;
)
1
e
x
x 0,
0 为常数
0
x0
由前面例4 可知, X 与 n min{ X1, X 2,, X n} 都
是 的无偏估计量,问哪个估计量更有效？
E(X ) E(X ) , D(X ) 2
n
因而
E 1 n
n
(Xi
i1
X )2 1 n
n
E
(
X
2 i
)
E
(
X
2
)
i1
( 2 2) ( 2 2)
n
n 1 2 2
n
故
E
n
1
1
n i1
(
X
i
X )2 2
证毕.
例3 设( X1, X 2,, X m ) 是总体 X 的一个样本 , X ~ B ( n , p ) n > 1 , 求 p 2 的无偏估计量.
1
n
2
ci
n
ci2 2
cic j
i1 i1
1i jn
n
n
ci2
(ci2
c
2 j
)
n
ci2
i 1
1i jn
i 1
n
i1
ci2
1 n
D(ˆ )
1 n
2
D(ˆ1)
结论 算术均值比加权均值更有效.
例如 X ~ N( , 2 ) , ( X 1 ,X 2 ) 是一样本.
ˆ1
2 3
X1
是总体参数 的估计量
E(ˆ) 存在, 且对于任意 Θ都有
E(ˆ)
则称 ˆ是 的无偏估计量.
例1 设总体X 的 k 阶矩k E( X k ) 存在
( X1, X 2 ,, X n ) 是总体X 的样本,
证明: 不论 X 服从什么分布,
Ak
1 n
n i 1
X
k i
是 k 的无偏估计量.
证
由于E(
解
D(
X
)
2
n
，D(n
min{
X1
,
X
2
,,
X
n
})
2
所以, X 比n min{ X1, X 2,, X n}更有效.
例7 设总体期望为 E( X )= , 方差 D( X )= 2
( X1, X 2,, X n )为总体X 的一个样本
(1)
设常数
ci
1 n
i 1,2,, n.
n
ci 1.
|z|
1e
2 n 1
2 n1 2
n dz
20 z
n
1
z2 2 n1 2
e n dz
2 n 1
n
2 n 1 2 n
故
E
k
n i1
|
Xi
X
|
k
n i1
E
|
Xi
X
|
kn 2
n 1
令
2 n
k
2n(n 1)
有效性
定义 设 ˆ1 1(X1, X 2,, X n )
ˆ2 2 (X1, X 2,, X n )
i1
解 E k n | Xi X | k n E | Xi X |
i1
i1
注意到 X i X 是 X1, X2,…, Xn 的线性函数,
Xi
X
1 n
X1
X2
(n
1) X i
Xn
E(Xi X ) 0
D( X i
X
)
n 1
n
2
Xi
X
~
N
0,
nn1ຫໍສະໝຸດ 2z2E(| Xi X |)
i1
n
证明 ˆ1 ci X i 是 的无偏估计量
i 1
n
(2) 证明 ˆ X 比 ˆ1 ci X i 更有效
i 1
n
n
证: (1) E(ˆ1) ci E( X i ) ci
i 1
i 1
n
n
(2) D(ˆ1) ci2D( X i ) 2 ci2
i 1
i 1
而
解 由于样本矩是总体矩的无偏估计量以及 数学期望的线性性质, 只要将未知参数表示成 总体矩的线性函数, 然后用样本矩作为总体矩 的估计量, 这样得到的未知参数的估计量即为 无偏估计量.
令 X E(X ) np
1
m
m i 1
X
2 i
E(X
2)
(np)2
np(1
p)
故
(n2
n) p2
1 m
m i1
X
2 i
X
因此, p 2 的无偏估计量为
p2
1 n2
n
1 m
m i1
X
2 i
X
1 m
m i1
Xi(Xi
1)
n(n 1)
例4 设总体 X 的密度函数为
f
(x; )
1
x
e
x 0,
0 为常数
0
x0
( X1, X 2 ,, X n ) 为 X 的一个样本
证明 X 与 n min{ X1, X 2,, X n}都是 的无偏
估计量
证
X
~
E1
E(X )
故 E(X ) E(X )
X 是 的无偏估计量.
令
Z min{ X1, X 2 ,, X n}
FZ (z) 1 P( X1 z, X 2 z,, X n z) 1 P( X1 z)P( X 2 z)P(X n z)
1
n
(1
P( X
i
z))
§8.2 点估计的评价标准
对于同一个未知参数, 不同的方法得到的估 计量可能不同,于是提出问题
应该选用哪一种估计量? 用什么标准来评价一个估计量的好坏?
常用 标准
(1) 无偏性 (2) 有效性 (3) 一致性
无偏性
定义 设
ˆ (X1, X
(X1, X2
2,, X n )
,, X n ) 是总体X 的样本
X
k i
)
k
i 1,2,, n
因而
E(Ak )
E(1 n
n i1
X
k i
)
1 n
n i 1
E
(
X
k i
)
1 n
n k
k
特别地,
样本均值 X 是总体期望 E( X ) 的无偏估计量
样本二阶原点矩
A2
1 n
n i 1
X
2 i
是总体二阶
原点矩 2 E( X 2 ) 的无偏估计量
例2 设总体 X 的期望 E( X )与方差 D( X )存在,