应用数理统计2.2 估计量的评判准则

ˆ 2 ci X i
i 1 n
,其中 ci 1, ci 0, i 1,2, , n
i 1
n
也是 的无偏估计量;
评述：
• 无偏的概率意义，即反复使用，整体平均下，估 计准确。 • 其局限性，若仅有一次或导弹命中精度或系统误 差等情形，就不能说明问题了。
3
2.2.2 最小方差性和有效性 用 ˆ 估计θ时，仅具有无偏性是不够的．我们
2
当T ( X 1 , X 2 , , X n )的 方 差 趋 于 0时 ，T是 相 合 的 。 2、 若T是 有 效 的 ， 则 T必 然 是 相 合 的 。
15
例2.15’ 设总体X 的数学期望μ与方差σ2存在，X1 , X 2 , , X n
n 1 是X的样本，证明用 ˆ n X n X i 估计μ时，μn 是 n i 1
n
的效率 (显 然 由 C R不 等 式 ， en 1).又 当T的 效 率 等 于 1时 ，
例2.15 设总体X~N(,2),,2均未知，又设X1, X2,...,Xn 为总体X 的样本, 则的无偏估计 X是有效的,2 的无偏 估计 S*2 是渐近有效的。
例2.16 若总体X~ (), 考虑未知参数 的矩估计量为 ˆ X的有效性。
n n 1 2 2 2 ˆ S (Xi X ) n1 n 1 i 1
18
（三）稳健性准则
• 去掉一些明显不合理的信息（样本）。 • 总之，具体问题具体分析，选择适合问题特 点的标准。 例2.18 （1）欲侧某一量μ ，其测量值服从 N ( ,0.22 ) 分布，今测得如下数据6.8，6.7，7.1，8.6，试估计 值。 （2）设有n个裁判为运动员的表演评分，如果其 中有些运动员分别与个别裁判有某种关系，试问采用 什么方法来确定运动员的表演为妥？
§2．2 估计量的评价准则
由例2.3和例2.10的结果看出，对均匀分布 总体参数的估计不一样，哪个好？
3 ˆX a n ˆX b 3 n
(X X )
i 1 n
n
2
,
ˆ max X ˆ min X i , b a i
1i n 1i n
(X X )
i 1
2
4
例2.14’ 设总体X的数学期望,方差2存在，X1,X2是X的样本 ， 证明估计 时, 1 1 3 1 ˆ X X 有效. ˆ X X 较 4 4 2 2 ˆ1 , ˆ 2 均为 的无偏估计， 又因为 证明 因为
1 1 2
2
ห้องสมุดไป่ตู้
1
2
1 1 1 1 1 2 ˆ 1 ) D( X ) D( X 1 X 2 ) D( X 1 ) D( X 2 ) D( 2 2 4 4 2
13
2.2.3
其它几个准则
• （一）最小均方误差准则 前述的最小方差性（有效性）只对无偏估计 而言，对有偏估计量无意义。 为使ˆ 与 尽量接近，考虑 ˆ) E( ˆ ) 2 ——称均方误差 Mse( • 由
ˆ) min Mse ( ˆ

得到的估计量称作最小均方误差估计量。 对于无偏估计，均方误差最小和方差最小是 一致的。
17
2 n 1 2(n 1) 2 2 2 2 4 E[ S ] [ 1] n n2
要使上式最小，利用一元二次式知识可知：
b 2(n 1) n2 1 n ( ) / 2( 2 ) 2a n n 1 n
即在形如αS2 (α>0)的统计量中σ2的最小均方误差估计是：
可以验证 X是总体均值的无偏估计[例2.13]；
2 S 但 不是总体方差的无偏估计，是渐进无偏
的。
n 1 n 2 2 S ( X X ) 而 S 是无偏的[例2.14]。 i n 1 n 1 i 1
2 *
2
例2.13’ 设总体X的数学期望 与方差2存在, X1, X2,...,Xn为总体X 的样本, 证明：
希望 ˆ 的取值能集中于θ附近,而且密集的程度 越高越好．方差是描述随机变量取值的集中程 度的，所以无偏估计以方差小者为好, 这就引进了有 效性这一标准.
g ( ) 的无偏估 • 定义2.2 如果 T T ( X 1 , X 2 ,..., X n ) 是 T ，均有， 计量，且对于其任意无偏估计量 D(T ) D(T ) 对一切 （参数空间），则称T为最小方差 的无偏估计量（或最优无偏估计量）。
2 l n f ( X 1 , ) 令I ( ) E ( ) 2
[ g ' ( )]2 定 义2.3 称en 为g( )的 无 偏 估 计 量 T D (T ( X ))nI ( ) 称T是 有 效 的 ； 若 l i men 1, 则 称T是 渐 近 有 效 的 。
注:
1.满足正则条件的估计量称为正规估计.
2. Rao Cramer不等式的下界仅是正规 无偏估计 类的方差下界
2 [ g ' ( )] D

nI ( )

3. Fisher信息量 I ( ) E ( l n f ( X 1 , ) ) 2
为了计算信息量 I ( )方便，我们可以证明
实际应用中，要求样本信息量（即n）较大， 但给出了一种保证，即只要能够获取足够的信息， 就一定能得到足够精确的估计。
1、 对 于 无 偏 估 计 ， 由 贝 切雪 夫 不 等 式 P{| T ( X 1 , X 2 , , X n ) g ( ) | } D (T ( X 1 , X 2 , , X n ))
19
在实际应用中，找出最小方差的估计量不容易， 若在一类分布和估计中找出所有无偏估计中方差 的一个下界，则当某一估计量达到或接近即认为 可行了。
下面我们就来讨论建立 一个方差下界的 克拉美 劳不等式
6
克拉美—劳不等式
p 41-42
设X 1 , X 2 ,, X n为取自具有概率函数 f ( x; ), { : a b}的母体的一个子样 , 其中a, b为已知常数 ,
14
（二）相合性（相合估计量） g ( ) 定义2.4 设T T ( X 1 , X 2 ,..., X n ) 是
n
的估计量，
0, lim P{| T ( X 1 , X 2 ,..., X n ) g ( ) | } 0
（即依概率收敛于）， 则称T是相合统计量。
且可设 a , b . 又T T ( X1 , X 2 ,, X n )是g( )的一
个无偏估计 , 且满足正则条件
(1)集合{ x : f ( x; ) 0}与无关;
f ( x; ) ( 2) g( )与 存在, 且对一切 , f ( x; ) f ( x; )dx dx
E[ S ]＝
n n2 2 E[ S 2 2 ]2 2 E[ S 2 ]
, D[ S ]＝
2

2 n 1 n 1 2 E[ S 2 2 2 ]2 n n 1 4 2 2 2 n 1 D[ S ] ( ] n 2 n 1 2( n 1) 2 4 [ 1] n n2
一致估计量．
证明 由大数定理可知，对于任意的
n
0
，有
lim P{ X n E ( X i ) } 1
所以
ˆn } 1 lim P{
n
由极大似然法得到的估计量，在一定条件下也具有一致性, 这里就不再讨论了． 16
例2.17(P46) 设正态总体X 的数学期望 μ与方差 2存在， ( X 1 , X 2 , , X n )是X 的样本，试在形如αS2 (α>0)的统计量中确定 σ 2的最小均方误差估计. 解: n－1 2 2(n－1) 4 2 2
1 3 1 9 5 2 ˆ 2 ) D( X 1 X 2 ) D( X 1 ) D( X 2 ) D( 4 4 16 16 8
所以 D( ˆ1 ) D( ˆ2)
由定义知
ˆ1 较 ˆ 2 有效．
5
我们自然希望无偏估计量的方差越小越好， 那么能够小到什么程度 ?即有无下界 ? 什么条件 下方差下界存在？
例2.12 若总体X~ (), 则未知参数 的矩估计量为
ˆ X,
或
1 ˆ n

i 1
n
( X i X )2
1
即使用同一方法得出的估计量也不同。
2.2.1．无偏性
定义2.1： ˆ) ，则称估计量为无偏估计量； • 如果E( ˆ( X , X ,..., X ) | 0 | E ( 1 2 n • 如果 lim n b( ) 0 记作 lim ，则称估计量为渐进无 n 偏估计量。其中 b( ) 称作偏差。
l n f ( X 1 , ) 2 令I ( ) E ( ) Fisher信息量
由数学期望的定义:
[ g( )]2 克拉美 劳下界 则有 : D (T ( X )) nI ( ) 1 特殊地，当g ( ) 时, 即为: D (T ( X )) nI ( )

g( ) E (T ( X )) T ( X 1 ,, X n ) f ( X 1 ; ) f ( X n ; )dX1 dXn
联合概率密度
g' ( ) T ( X 1 , X 2 , , X n ) f ( X 1 ; ) f ( X n ; )dX1 dX n T ( X 1 , X 2 , , X n ) [ f ( X i ; )]dX1 dX n i 1