估计量的评价标准

1.例:设总体 ~ N ,1,则 就没有无偏
估计。
2.如例4 有时对同一个参数可有多个无偏估计.
这些说明仅有无偏性要求是不够的。于 是，人们又在无偏性的基础上增加了对方差的 要求。若估计量的方差越小。表明该估计量的 取值（即估计值）围绕着待估参数的波动就越 小，也就是更为理想的估计量。为此，引入最 小方差无偏计。
证明 E E ,
所以 是 的无偏估计量.
而概率(1) 密m度in(p1m,in2(,Lx;,n))服从n参e数nx为, n
的指数分布,
x0
0,
其它
故知
E((1)
)
n
,
E(n(1) ) ,
所以 n(1) 也是 的无偏估计量.
由以上两例可知,同一个参数可以有不同的无 偏估计量.
无偏性虽然是评价估计量的一个重 要标准,而且在许多场合是合理的, 必要 的。然而有时一个参数的无偏估计可能 不存在，或不合理的。
例2 对于均值 , 方差 2 0 都存在的总体, 若,
2
均为未知, 则 2
的估计量
sˆ n 2
ˆ 2
1 n
n
(i
i1
)2
是 有偏的(即不是无偏估计).
, 证明 ˆ 2
1 n
n i 1
i2
2
2
2
因为 E E 2 2 2,
又
2
E
D
(E )2
2
2,
所以
E(ˆ 2 )
0 ，有
lim
n
P{| ˆn
|
}
0
或
lim
n
P{| ˆn
|
}
1
则ˆn称是 的一致估计量（相合估计）。
定理6.2 设 ˆn是 的一个估计量，若
lim
n
E
ˆn
且
lim
n
D
ˆn
0
则 ˆn是 的一致估计（相合估计）。
证明：由于
0 P
ˆn
1
2
E ˆn
2
1
2
E[ˆn
E(ˆn )
E(ˆn ) ]2
如果有的一列估计 ,满足关系式
则称 是 的渐近无偏估计（量）。
一个估计量如果不是无偏估计量，就称
这个估计量是有偏的，且称
为估
计量 的偏差。
例1 设总体 的k 阶矩k E k (k 1)存在,
又设1,2,L ,n 是 的一个样本，试证明不论
总体服从什么分布,
k 阶样本矩 k
1 n
n
ik
i 1
MVUE.
说明 最小方差无偏估计是一种最优估计.
四、一致估计
有时候我们不仅要求估计量有较小的方差，还 希望当样本容量n充分大时，估计量能在某种 意义下收敛于被估计参数，这就是所谓相合性 （或一致性）概念。
定义6.5 设 ˆn ˆn 1,2,...,n 是未知参数
估计序列，如果ˆn 依概率收敛于 ，即对任意
三、最小方差无偏估计
由于方差是随机变量取值与其数学期望的 偏离程度, 所以无偏估计以方差小者为好.
例5 (续例4)
试证当n 1时, 的无偏估计量 较n(1) 有效.
证明 由于 D 2, 故有 D 2 ,
n
又因为
D((1)
)
2
n2
,
故有 D(n(1) ) 2,
当n 1时, D(n(1) ) D(),
0
nxn
n dx
n ,
n1
故有
E
n
n
1
(
n
)
,
故
n
n
1
max(1,
2
,L
,n ) 也是 的无偏估计量.
例4 设总体 服从参数为 1/的指数分布 , 概率密
度
p( x;)
1
x
e
,
0,源自文库
x 0 , 其中参数 0, 又设 其它
1,2 ,...n是来自总体的样本，试证明
与n[min(1,2,...n )都是的无偏估计。
例3 设总体 在 [0, ]上服从均匀分布,参数 0,
1,2,L ,n 是来自总体 的样本，试证明2 和
n
n
1
max(1,
2
证明 因为
,L ,n )
E(2
都是 的无偏估计.
) 2E 2
,
2
所以 2 是 的无偏估计量.
因为 (n) max(1,2 ,L ,n )的概率密度为
所以
E((n) )
一、问题的提出
从前一节可以看到, 对于同一个参数, 用不 同的估计方法求出的估计量可能不相同,那么那 一个估计量好？好坏的标准是什么?
下面介绍几个常用标准.
二、无偏估计
若1,2,L ,n 为总体 的一个样本， 是包含在总体 的分布中的待估参数.
(1)无偏性是对估计量的一个基本而重要的要求 . (2)无偏估计的实际意义: 无系统误差.
1
2
D
ˆn
E ˆn
2
令 n 且由定理的假设，得
lim
P
n
0
n
即ˆn 是 的一致估计
例6 若总体 的 E 和D 存在,则样本均值
是总体均值的相合估计.
解：
E E
lim D lim D 0
n
n n
一般地,样本的k
阶原点矩
k
1 n
n
ik
i 1
是总体
的k 阶原点矩 E k的一致估计.由此可见,矩
E( 2
2
)
n
E( 2) E( 2)
n 1 2 2 , 所以ˆ 2 是有偏的.
n
若以 n 乘 ˆ 2 , 所得到的估计量就是无偏的.
n1
(这种方法称为无偏化).
E
n
n
ˆ
1
2
n
n
1
E
(ˆ
2
)
2
.
因为
n ˆ 2
n 1
Sn*2
1 n 1
n i 1
(i
2 ),
即 Sn*2是 2 的无偏估计, 故通常取Sn*2作 2的估计量.
故 的无偏估计量较n(1)有效.
练习 (续例3) 在例3中已证明ˆ1 2
和ˆ2
n
n
1
max{1
,
2
,L
, n }都是
的无偏估
计量, 现证当n 2时, ˆ2较ˆ1 有效.
证明
由于
Dˆ1 4D
4 D 2 ,
n 3n
D(ˆ2
)
D
n
n
1(n)
n
n
1
2
D
(n)
,
又因为
E((n)
)
n 1,
n
E((n
2 )
)
0
n
n
xn
1dx
n 2,
n2
D((n) ) E((n)2) [E((n) )]2
(n
n 1)2 ( n
2)
2
,
故
D(ˆ2 )
1 2,
n(n 2)
又n 2, 所以 D(ˆ2 ) D(ˆ1), ˆ2较ˆ1 有效.
定义6.4 如果存在的一个无偏估计量ˆ0 ,使得对于 的任意无偏估计量ˆ , 都有 D(ˆ0 ) D(ˆ) 则称ˆ0是的最小方差无偏估计(量),缩写为
是
k 阶总体矩k的无偏估计.
证明 因为1,2,L ,n 与 同分布，
故有 E( k ) E( k ) k ,
. 即
E( k )
1 n
n i 1
E(ik )
k
i 1,2, ,n.
故 k 阶样本矩 k 是k 阶总体矩 k 的无偏估计.
特别地:
不论总体服从什么分布，只要其数学期望存在， 则总是总体 的数学期望 1 E 的无偏 估计量.