点估计的评价标准

例6.2.7 均匀总体U(0, )中 的极大似然估计是x(n) 由于 ，所以x(n)不是 的无偏估计，而是 的渐近无偏估计。经过修偏后可以得到 的一个无 偏估计： 。且
另一方面，由矩法我们可以得到 的另一个无偏 估计 ，且 由此，当n>1时， 比 有效。
6.2.4
均方误差
无偏估计不一定比有偏估计更优。 评价一个点估计的好坏一般可以用：点估计值 与参 数真值 的距离平方的期望，这就是下式给出的均方 误差
量序列,相合性就是 依概率收敛于,所以证明
估计的相合性可应用依概率收敛的性质及各种
大数定律。
在判断估计的相合性时下述两个定理是很有用的。 定理6.2.1 设ˆn ˆn ( x1 , , x n ) 是 的一个估计量， ˆn ˆn ( x1 , , x n ) 若 lim E ˆn , lim Var ˆn 0,
由定理6.2.1可知，x(n)是 的相合估计。
由大数定律及定理6.2.2，我们可以看到： 矩估计一般都具有相合性。比如：
样本均值是总体均值的相合估计；
样本标准差是总体标准差的相合估计；
样本变异系数是总体变异系数的相合估计。
6.2.2
无偏性
定义6.2.2
设 ˆ ˆ ( x , , x ) 是 的一个估计， 1 n 的参数空间为Θ，若对任意的∈Θ，有
均方误差是评价点估计的最一般的标准。我们希望 估计的均方误差越小越好。
注意到
MSE ( ) Var( ) ( E )

ˆ )=Var( ˆ )+(E ˆ - )2 . MSE(

2
(1)
若 ˆ是 的 无 偏 估 计 , 则 M SE ((ˆ ) Var) (ˆ ), ) Var( ˆ M SE
§6.2 点估计的评价标准
6.2.1 相合性
我们知道，点估计是一个统计量，因此它是一个 随机变量，在样本量一定的条件下，我们不可能 要求它完全等同于参数的真实取值。但如果我们 有足够的观测值，根据格里纹科定理，随着样本 量的不断增大，经验分布函数逼近真实分布函数， 因此完全可以要求估计量随着样本量的不断增大 而逼近参数真值，这就是相合性，严格定义如下。
2 1 1 2 2
2、 X 1， X 2， X n 是 N （ ， ）的样本，（）是
2
2的无偏
估计量。
A. C.

i 1 n
n
X i X i
X
2
n1 n1
B. D.

i 1 n i 1
n
X i
X
2
n

i 1
2 X
X i
X
2
ˆ 3、 设 总 体 X 服 从 泊 松 分 布 ， X 1， X 2， X n 为 样 本 ， 证 明 aX 1 a
的无偏估计是 现我们考虑θ的形如 用求导的方法不难求出当 差达到最小，且其均方误差 ，它的均方误差 的估计，其均方差为 时上述均方误
所以在均方误差的标准下，有偏估计 优于无偏估 计 。
本节习题
1、设 ˆ1， ˆ2 是参数 的两个相互独立的无偏 估计量 ,当 c 1 c ____ 时， c ˆ c ˆ 是 的无偏估计量。
定义6.2.1 设 ∈Θ为未知参数，
ˆn ˆn ( x1 , , x n ) 是 的一个估计量，n
是样本容量，若对任何一个ε>0，有
ˆn 则称ˆ
lim n P (| ˆn | ) 0 lim P ˆn 0
n


n
为 参数的相合估计。
2 2 3
x n 1
i 1
1
n
i
x
2
问哪一个均方误差最小?
11. 设 x1 , x 2 , , x n 是来自密度函数为
p ( x; ) e
( x )
,x
的样本, (1) 求 的最大似然估计 ˆ1 ,它是否是相合估计? 它是否是无偏估计? (2) 求 的矩估计 ˆ ,它是否是相合估计?它是否是 2 无偏估计? (2) 考虑的形如 ˆc x (1) c 的估计,求使得 ˆc 的均方 误差达到最小 的 c ,并将之与 ˆ1 , ˆ2 的均方误 差进行比较.
都 是的无偏估计;
(2) 比较上述三个估计的有效性.
2 x1 , x 2 , , x n N ( , ) 10.设 是来自正态总体 的一个样本,对 2 考虑三个估计
ˆ
2 1
x n 1
i 1
1
n
i
ˆ x ,
2 2 2
1
x n
i 1
n
i
ˆ x ,
E (ˆ ) .
则称 ˆ 是 的无偏估计，否则称为有偏估计。
若 lim E ˆn , 则 称 ˆn 是 的 渐 近 无 偏 估 计 。
n

例6.2.4 对任一总体而言，样本均值是总体均值的 无偏估计。当总体k阶矩存在时，样本k阶原点矩 ak是总体k阶原点矩 k的无偏估计。但对中心矩则 不一样，譬如，样本方差s*2不是总体方差 2的无 偏估计，对此，有如下两点说明： (1) 当样本量趋于无穷时，有E(s*2) 2， 我们称 s*2 为 2的渐近无偏估计。
7. 设总体密度函数如下, x1 , x 2 , , x n 是样本, 试求未知参数的矩估计和极大似然估计.
(1) p ( x; ) 2


2
( x ) ,
x
0 x , 0.
(2) (3)
p ( x; , )
1
e
1

,
x , 0.
s (2) 若对s 作如下修正：
*2
2

ns *
2
n 1

(x n 1
i 1
1
n
i
x)
2
则 s2 是总体方差的无偏估计。
例6.2.5 设总体为N( , 2)，x1 , x2 , …, xn是样本， 则s2是 2的无偏估计，且可求出
这说明 s 不是 的无偏估计. 利用修正技术可得 cn s 是 的无偏估计，其中 是修偏系数. 可以证明，当n时, 有cn1. 这说明 s 是 的渐近无偏估计。
n
ˆn1 , , ˆnk

n1
nk

例6.2.2 设 x1, x2 , …, xn 是来自均匀总体U(0, )的样本， 证明 的极大似然估计是相合估计。
证明：在例6.1.7中我们已经给出 的极大似然估计是 x(n)。由次序统计量的分布，我们知道 x(n) 的分布密度 n n-1 函数为 p(y)=ny / , y <, 故有
2 2
Z aS 1 bS 2 都 是 的 无 偏 估 计 ， 并 确 定 a , b
2 2 2
的值，使D Z 达到最小。
U 9. 设 x1 , x 2 , , x n 是来自均匀总体 ( , 1) 的 一个样本. (1) 验证 ˆ x 1 , ˆ x 1 , ˆ x n 1 2 (1) 3 (n) 2 n 1 n 1
p ( x ; ) k ,
x ( k 1) , 0.
8、 设 分 别 自 样 本 N 1 ,
2
和 N 2 ,
2
中 抽 取
容 量 为 n1 , n 2的 两 独 立 样 本 ， 其 样 本 方 差 分 别 为 S 1 ， S 2 .试 证 ： 对 于 任 意 常 数 a , b a b 1 ，

这 说 明 用 方 差 来 考 察 无 偏 估 计 有 效 性 是 合 理 的.
(2)
ˆ ˆ不 是 的 无 偏 估 计 时 , 就 要 看 其 均 方 误 差 . 当
M SE (ˆ )
下面的例子说明：在均方误差的含义下有些有偏 估计优于无偏估计。
例6.2.8 对均匀总体U(0, )，由 的极大似然估计得到
X n 1
i 1
1
n
iபைடு நூலகம்
X
0 a 1是 的 无 偏 估 计 。
2
4、 设 X 1 , X 2 , X n 是 取 自 总 体 N ，
n 1 2 2
2
的 一 个 样 本 ， 确 定
常 数 c , 使 c X i 1 X i 为 的 无 偏 估 计 。
i 1
5. 设 X 1 , X 2 , X n 是 取 自 总 体 X 的 一 个 样 本 ， 且 ln X ~ N ( ,1), 求 的 矩 估 计 和 极 大 似 然 估 计 。
6. 一批产品中含有废品，从其中随机抽取75件，发 现有废品10件，试估计这批产品的废品率。 (极大似然估计)
相合性被认为是对估计的一个最基本要求, 如 果一个估计量, 在样本量不断增大时，它都不 能把被估参数估计到任意指定的精度, 那么这 个估计是很值得怀疑的。 通常, 不满足相合 性要求的估计一般不予考虑。证明估计的相合 性一般可应用大数定律或直接由定义来证.
若把依赖于样本量n的估计量 看作一个随机变
6.2.3 有效性
定义6.2.3 设 是 的两个无偏估计，如 果对任意的 ∈Θ, 有
且至少有一个 ∈Θ使得上述不等号严格成 立，则称 比 有效。
例6.2.6 设 x1, x2 , …, xn 是取自某总体的样 本，记总体均值为 ，总体方差为 2，则
这表明用全部数据的平均估计总体均值要比只 使用部分数据更有效。
n

n

则ˆn 是 的相合估计，
定理6.2.2 若ˆn1 , , ˆnk 分别是1, …, k 的相合 估计， ˆ 1 , …, k) 是1, …, k 的连续函数，则 =g( ˆ n g ( n1 , , ˆnk ) ˆ ˆ , , ˆ 是 的相合估计。