估计量的优良性准则.ppt
合集下载
第五讲估计量的优良性准则续-PPT精品文档
任一统计量，则对 T ( x ) p ( x , ) ，积分
分可交换次序，即 T ( x ) p ( x , ) dx dx 1 n T ( x ) p ( x , ) dx dx 1 n 当仅有（1）成立时，我们可以定义所谓的
2
2
2
1 所以由 由于 w 2 , 2 的值域包含内点， 2 定理4.2可知完全充分统计量为
T (x ) ( x x). i,
i 1 i 1 2 i n n
1n 而我们已经知道 x x 是 的无偏估 i n i 1 2 且是完全充分统计量 T( x)的函数， 故当 未
2
2
2 求参数 和 的 UMVUE 。 样本。
x ,x 是来自总体的 ( , ) 未知， 1, x 2, n
解
首先求完全充分统计量。 由于
2 1 ( x ) p ( x , ) exp 2 2 2
1 2
2 2 1 2 2 e exp x x
知时，的UMVUE为 x 。
x 都是 的 UMVU 。 注： 无论 2 是已知或未知，
n n 1 1 2 2 2 2 又 S ( x x ) x n x i i n 1 n 1 i 1 i 1
2
是 的无偏估计，且是 完全充分统 T ( x )
为直线上的一个开区间 。 满足下述条件的分布
设分布族为 { P , } ，密度函 p ( x , ) ，
Cramer-Rao正则族： 族 { P , } 称为
7.2 估计量的优良性准则
n
电子科技大学
#
估计量的优良性准则
Dec-10
证明 S2 是σ2 的无偏估计量 例7.2.2 设总体的方差 D(X)=σ2 >0，则样本 ， 方差S 的无偏估计. 方差 2 是σ2的无偏估计 证
(n −1)S = ∑( Xi − X) = ∑ Xi − nX 2
2 2 2 i =1 i =1
n 2 2
证明无偏性判断有效性(1) 证明无偏性判断有效性 证明无偏性判断有效性(2) 证明无偏性判断有效性 和S2 分别是μ和σ2 的最小方差无偏估计 X
电子科技大学
估计量的优良性准则
Dec-10
3. 相合性 无偏性： 无偏性：反映估计量相对待估参数有无系 统偏差. 统偏差 有效性： 有效性：在无偏类中反映估计量相对待估 参数的偏离程度. 参数的偏离程度. 例7.2.5 问题： 问题：在“偏差性”和“离散性”两者 偏差性” 离散性” 兼顾的原则下建立估计量为“最优”准则 兼顾的原则下建立估计量为“最优”准则.
电子科技大学
估计量的优良性准则
Dec-10
的相合估计量; X 是μ的相合估计量; S2 和M2 都是 2的相合估计量 都是σ 的相合估计量.
部分证明
电子科技大学
估计量的优良性准则
Dec-10
例7.2.1 设总体的方差 D(X)=σ2 >0，有 ，
1 E( X) = E( ∑Xi ) = E( X) = µ n i=1 1 2 2 2 2 2 E( X ) = D( X) +[E( X)] = σ + µ ≠ µ n
2
θ2
ˆ ˆ . θ2比θ1更有效
2 ˆ) D(θ2 3n 而且 lim = = 0. 2 n→∞ D θ ) (n + 1) (n + 2) (ˆ 1
电子科技大学
#
估计量的优良性准则
Dec-10
证明 S2 是σ2 的无偏估计量 例7.2.2 设总体的方差 D(X)=σ2 >0，则样本 ， 方差S 的无偏估计. 方差 2 是σ2的无偏估计 证
(n −1)S = ∑( Xi − X) = ∑ Xi − nX 2
2 2 2 i =1 i =1
n 2 2
证明无偏性判断有效性(1) 证明无偏性判断有效性 证明无偏性判断有效性(2) 证明无偏性判断有效性 和S2 分别是μ和σ2 的最小方差无偏估计 X
电子科技大学
估计量的优良性准则
Dec-10
3. 相合性 无偏性： 无偏性：反映估计量相对待估参数有无系 统偏差. 统偏差 有效性： 有效性：在无偏类中反映估计量相对待估 参数的偏离程度. 参数的偏离程度. 例7.2.5 问题： 问题：在“偏差性”和“离散性”两者 偏差性” 离散性” 兼顾的原则下建立估计量为“最优”准则 兼顾的原则下建立估计量为“最优”准则.
电子科技大学
估计量的优良性准则
Dec-10
的相合估计量; X 是μ的相合估计量; S2 和M2 都是 2的相合估计量 都是σ 的相合估计量.
部分证明
电子科技大学
估计量的优良性准则
Dec-10
例7.2.1 设总体的方差 D(X)=σ2 >0，有 ，
1 E( X) = E( ∑Xi ) = E( X) = µ n i=1 1 2 2 2 2 2 E( X ) = D( X) +[E( X)] = σ + µ ≠ µ n
2
θ2
ˆ ˆ . θ2比θ1更有效
2 ˆ) D(θ2 3n 而且 lim = = 0. 2 n→∞ D θ ) (n + 1) (n + 2) (ˆ 1
第二节 估计量的优良性准则
E
(
X
2 i
)
nE( X
2 )
n
1
1
n(
2
2)
n
2
n
2
2.
前面两节中，我们曾用矩法和极大似然法
分别求得了正态总体 N(μ, σ2) 中参数σ2 的估计,
均为
ˆ 2
1 n
n
(Xi
i1
X
)2.
很显然，它不是σ2 的无偏估计。这正是我们为 什么要将其分母修正为 n-1，获得样本方差 S2 来估计 σ2 的理由。
X1,X2,…,Xn为来自总体X 的随机样本，记 X与 S 2分别为样本均值与样本方差，即
X
1 n
n
i1
X
i
,
S2
n
1
1
n
i1
(
X
i
X
)2.
则 E(X) , E(S2) 2.
即样本均值和样本方差分别是 总体均值 和总体方差的无偏估计。
证明：因为X1, X2, …, Xn 独立同分布，且 E(Xi )=μ , 所以
证 先计算方差
Var[ X1 (1 )X2]
2Var( X1) (1 )2Var( X2 )
(2 2 2 1) 2
由于
f ( ) 2( 1 )2 1
22
对任意实数, 1，f ( ) 1 ,
2
2
当 1 时, f ( )取最小值 1，
2
2
即样本均值 X 比样本的其他所有线性函数
虑 的如下两个估计的优劣：
ˆ X ,
ˆ i
1 n 1
n j 1
X
j.
ji
解 显然两个估计都是 的无偏估计.但是
第2节 估计的优良性标准
估计量的优良性标准
数理统计
在介绍估计量的优良性标准之前，我们必须 强调指出：
评价一个估计量的好坏，不能仅仅依据一次试 验的结果，而必须由多次试验结果来衡量 .
这是因为估计量是样本的函数, 是随机变量 . 因 此，由不同的观测结果，就会求得不同的参数估计 值. 因此一个好的估计，应在多次试验中体现出优良 性.
即当 n 时, ˆn(X1, X2, , Xn)
P
.
直观上看, 当n增大时, 样本信息增多, 当然希望估计量越 来越靠近真值的概率也越来越大, 这种想法就引出了上面 的一致性概念. 一致估计量一般地是当样本容量很大时, 才能显示其优点 .
16
由切比雪夫大数定律,对 0 ,有
lim
n
P(
|
7
数理统计
例3 设总体 X ~ N ( , 2 ) , X1 ,, X n 是来自总体 X 的
n1
一个样本，试确定常数 c，使统计量 c ( X i1 X i )2 为 i 1
2 的无偏估计.
解 由正态分布的性质以及样本的独立性可知
X i1 X i ~ N (0,2 2 )
所以 E( X i1 X i )2 D( X i1 X i ) 2 2
证 E(ˆ) E(2X ) 2E( X ) 2E( X ) 2 .
2
例2 设 D( X ) 0 , E( X ) ,试问 X 2 是否为 2 的无偏估计？
解 E( X 2 ) D( X ) [E( X )]2 1 D( X ) 2 2 , n
故 X 2 不是 2 的无偏估计.
所以无偏估计以方差小者为好, 这就引进了有效性 这一概念 .
二、有效性
数理统计
定义 设总体有一未知参数 ,样本( X1,, X n ) ，ˆ1 ,ˆ2 均为 的无偏估计，如果
概率论教学课件第七章7.2估计量的优良性标准
D( 2 )
16 2 9 2 1 2 26 2 0.72 2 ,
36 36 36 36
D( 3 )
1 2
9
12
9
12
9
1 2
3
0.33 2.
D(3) D(1) D(2 ) ,因此 3 最为有效.
10
一般地,有如下基本结论：
例4. 设 X1, X2,, Xn 是来自任意总体 X 的一组样本，
7
定义2 设ˆ1,ˆ2都是未知参数的无偏估计量，如果 Dˆ1 Dˆ2
则称（ˆ1和ˆ2作为参数的估计量）ˆ1比ˆ2更有效。
例3 设为 X1, X 2 , X3 取自总体 X 的样本,EX= ,DX= 2 0 , 证明:下列三个统计量均为 的无偏估计量，并比较有效性.
1
2 10
X
1
3 10
)
EX
2 i
EX
2 i 1
2EX i1EX i
EX
2 i
( 2 2 ) 2 2 ( 2 2 ) 2 2
n1
Eˆ 2 c E( X i1 X i )2 c 2(n 1) 2 2,
i 1
1
c
.
2(n 1)
6
二、有效性
例如，设总体X ,而X1, X 2, X3是来自总体X的样本，EX 未知，则
则称ˆ 为 的无偏估计量.否则称为有偏估计量.
2
Eˆ ，E(ˆ ) 0.
无偏估计量的含义是：ˆ 作为样本的函数 是一个随机变量，它在 的真值附近波动，但其 平均值恰好是 的真值。
3
设 X1, , X n 为取自总体 X 的样本，
样本均值
X
1 n
n
《评价估计量的标准》课件
区间估计
给出未知参数可能落在某个区间的概 率。
03
评价估计量的标准
评价标准一：无偏性
总结词
无偏性是指估计量的数学期望值（均值）与总体参数的真实值之间的接近程度。
详细描述
无偏性意味着估计量的平均值与总体参数的真实值相等，即多次重复抽样所得到 的估计量均值趋于稳定，不会出现系统性的偏差。无偏性是评价估计量最基本的 要求之一，因为只有当估计量无偏时，我们才能准确地估计总体参数。
常见估计方法
我们介绍了常见的估计方法，如最小二乘法、极大似然法等。这些方法 在实践中被广泛使用，对于理解和应用估计量评价标准具有重要意义。
03
案例分析
通过案例分析，我们深入了解了如何在实际问题中应用估计量的评价标
准。这些案例涵盖了经济学、统计学等多个领域，有助于拓宽我们的视
野和增强实践能力。
下一步学习计划
常见估计量及其评价
点估计量
点估计量是直接用样本统计量来估计未知参数的方法。
评价点估计量的标准：无偏性、有效性和一致性。
无偏性是指估计量的均值等于未知参数的真值；有效性是指估计量的方差尽可能小 ；一致性是指随着样本容量的增加，估计量逐渐趋近于未知参数的真值。
区间估计量
区间估计量是通过给定样本统计量和 置信水平，来估计未知参数可能取值 的一个区间范围。
实践应用
通过参与实际项目或案例研究，我们将尝试运用所学的估 计方法和评价标准来解决实际问题。这将有助于巩固所学 知识，并培养我们的实际操作能力。
THANKS
感谢观看
先验分布反映了决策者对未知参数的主 观信念；后验分布是在给定样本信息后 ，对未知参数的重新评估；预测分布是 基于贝叶斯定理对未来观测值的预测。
2估计量的优良性准则
而
n ˆ 2
n1
S2
1 n1
n i1
(Xi
X）2,
即S2是2的无偏,估 故计通S常 2作 取 2的估.计
第7章 参数估计
例3 设总体X服从[0,]上的均匀分布，参数
0,X 1,X 2, ,X n是来 X 的 自 样本2X ，试
是 的无偏估计量.
证 因为
E(2X)2E(X)2E(X)
E ( X ) , V a r ( X ) 2 , 且 和 2 都 未 知 ， 试证
ˆ2
1n ni1(Xi
X)2不是
2 的无偏估计量。
证 ˆ2n 1i n 1(X iX )2=n 1i n 1X i2X 2
2
=A2 X ,
E (A 2)2E (X 2)2 2,
7.2 估计量的优良性准则
无偏性 有效性 相合性 小结 思考与练习
第7章 参数估计
希望估计量的值接近被估参数的真值，但 估计量是随机变量，对于不同的样本值就会得 到不同的估计值．需要考察估计量的期望、方 差等数字特征. 估计量的评选标准
无偏性
有效性
第7章 参数估计
相合性
一、无偏性
设 ˆ ( X 1 , X 2 ,, X n ) 是 未 知 参 数 的 估 计 量 ，
第7章 参数估计
例4 证明 样本标准差 S 不是总体标准
差 的无偏估计.
证 因 E(S2)2,
所以， V a r(S ) [E (S )]2 2,
由 Var(S)0, 知
[E (S )]22 V a r(S ) 2 ,
因此，E(S), 故S 不是 的无偏估计.
第7章 参数估计
数理统计05第五讲估计量的优良性准则
数理统计05第五讲估计量的优良性准则估计量的优良性准则是用来评估一个估计量的好坏程度的标准。
常见的优良性准则有无偏性、有效性、一致性和渐进正态性等。
以下是对这些准则的详细介绍。
一、无偏性：估计量的无偏性是指估计量的期望值等于被估计参数的真实值。
如果一个估计量是无偏的，那么在多次重复抽样的情况下，估计值的平均值将接近真实值。
无偏性是一个重要的优良性准则，因为它表示估计量不会偏离真实值。
二、有效性：估计量的有效性是指估计量的方差最小，即估计量的误差最小。
具有较小方差的估计量更接近真实值，因此具有较小方差的估计量更有效。
有效性是比无偏性更严格的准则，因为一个无偏的估计量仍然可能有较大的方差。
三、一致性：估计量的一致性是指当样本容量增加时，估计量趋近于真实参数的性质。
一致性是估计量的渐进性质，即当样本容量趋于无穷大时，估计量收敛于真实值。
一致性是一个重要的准则，因为它表示估计量在大样本情况下的稳定性。
当评估一个估计量的优良性时，通常需要综合考虑多个准则来做出综合评价。
例如，一个估计量可能同时具有无偏性和一致性，但方差较大，从而导致估计值较不准确。
在这种情况下，我们需要权衡无偏性和一致性与方差之间的平衡，选择一个较优的估计量。
总之，估计量的优良性准则是评估一个估计量的好坏程度的标准，常见的准则包括无偏性、有效性、一致性和渐进正态性等。
在实际应用中，需要综合考虑多个准则，选择一个比较优秀的估计量。
第18讲 估计量的优良性准则(new)
解：根据无偏估计的概念，E(S )= =D(X),
2 2
即
1 1 E ( S ) D( X )= 2 = 4
2
例3：设X1,X2,…,Xn 为来自二项分布总体 2 B(n,p)的简单随机样本， 与 分别为样本均 S X 2 2 X + kS 为 np 值与样本方差. 若 的无偏估计， 则k=_______.
ˆ X, 1 n ˆ i X j. n 1 j 1
j i
我们看到: 显然两个估计都是 的无偏 估计。计算二者的方差： 2 ˆ ) Var( X ) Var( , n 2 2 n 1 ˆ i ) Var( . Var( X j )
1 1 n 1 n (1) E ( X ) E X i E ( X i ) n ； n n i 1 n i 1
1 n 2 2 (2)首先化简 S X nX ( P128习题6.3结论) i i 1 n 1
2
i 1
2、有效性 定义2
ˆ 与 ˆ 都是未知参数的无偏估计, 设 1 2
若对于任意的 , 有 ˆ ) D ( ˆ ), D ( 1 2 ˆ比 ˆ 有效. 则称
1 2
上一页
下一页
返回
例5
设X 1，X 2， ，X n是取自总体X 的样本，
2
ˆ1 X， ˆ2 X 2 且E ( X ) ，D( X ) ，则
2 ( X i X ) X 2( X i ) X nX 2 i 1 n 2 i i 1
n
n
n
X i2 nX 2 ,
i 1
注意到
E ( X ) Var( X ) [ E ( X )]2
估计量的评选标准ppt课件
而是渐近无偏估计。
（2）修正样本方差
S *2
1n n 1 i1 ( X i
X )2
是总体方差 2= D(X) 的无偏估计。
6
一．无偏性
例题 3
设总体 X 服从指数分布，其概率密度为
f
( x；θ )
1
θ
x
eθ
0
x0 x0
其中参数 > 0 未知， ( X1, X2, …, Xn ) 是抽自总体 X
的样本，试证：X 和 nZ=n[min ( X1, X2, …, Xn )]
都是 的无偏估计。 7
一．无偏性
注记
（1）无偏估计的实际意义。
（2）无偏估计可能不唯一。
（3）无偏估计可能不存在 。
（4）无偏性在函数变换下不一定有不变性。
（5）某些有偏估计可修正为无偏估计。
8
二．最 优 性
9
二．最优性
§3-2 估计量的评选标准
一．无偏性 二．最优性 三．优效性 四．充分性 五．完备性
1
一．无 偏 性
2
一．无偏性
无偏估计
设总体 X ~F ( x; ) ，其中参数 未知。
( X1, X2, …, Xn )是抽自总体 X 的一个样本，
T = T( X1, X2, …, Xn )是 的一个估计量。如果 E(T ) θ
例题 6
设总体 X ～ N( ， ²)，其中 ， ²
未知，( X1, X2, …, Xn )是抽自总体X 的样本，
试求未知参数， ²的最小方差无偏估计。
样本的联合概率密度函 数
n i 1
f
(
xi
;
μ,σ
2
)
(2σ
第2节 估计量的优良性标准
4
设 ( X 1 , , X n ) 为取自总体 X 的样本，
E( X ) E( X ) ，
说明 X 是总体均值E( X ) 的无偏估计；
n 1 2 2 样本方差 S 2 ( X X ) ， E ( S ) D( X ) ， i n 1 i 1
说明 S 是总体方差 D( X ) 的无偏估计.
n 1 2 n n 2 2 2 ˆ D D ai X i ai DX i ai DX n i 1 i 1 i 1
故在 的一切线性无偏估计中， X 的方差最小 因而 X 是 的最优线性无偏估计。
13
例5 设 X 1 ,
, Xn
1 3 1 2 1 1 ˆ ˆ 1 X 1 X 2 X 3 , 2 X 1 X 2 X 3 , 5 10 2 3 2 6
1 1 1 ˆ 3 X1 X 2 X 3 . 3 3 3
证
1 3 1 ˆ D( 1 ) D( X 1 X2 X3) 5 10 2 1 9 1 ( )DX 0.38DX , 25 100 4
1 3 1 2 1 1 ˆ ˆ 1 X 1 X 2 X 3 , 2 X 1 X 2 X 3 , 5 10 2 3 2 6
1 1 1 ˆ 3 X1 X 2 X 3 . 3 3 3
8
1 3 1 2 1 1 ˆ ˆ 1 X 1 X 2 X 3 , 2 X 1 X 2 X 3 , 5 10 2 3 2 6
2 2
4
D( S )
2 2 有效。 因为 D( S12 ) D( S 2 ), 即 S12 比 S 2
16
三、相合性
数理统计04估计量的优良性准则
ˆ是无偏的，但q( ˆ )可能是q( ) 对而言，
的有偏估计。
二、均方误差准则
假设用T ( x )作为参数q( )的估计量，评价估
计优劣的一个自然准则可定义如下：
MSE (T ) R( , T ) E (T ( x ) q( ))2
称上式为均方误差， 简记为MSE。
(Mean Squared Error)
体方差 的有偏估计， 且 n 1 2 2 E ( . ˆn ) n
2
n 1 2 2 E ( , ˆ ) lim 这样有 lim n n n 2 2 故 ˆ n 是总体方差 的渐近无偏估计。
2 n
定义
设q( )是可估参数， 如果存在无偏估
(q( ))2 lim e(q ˆ ( X )) lim Var (q ˆ ( X )) 1 n n I ( )
定义 如果无偏估计T ( x)，S ( x) U q，并且
Var (T ) Var ( S )， 则称T ( x)比S ( x)有效。
例3.9
同为无偏估， 方差越小 越有效！
四、一致最小方差无偏估计
设统计模型为{ P , }，q( )是可估 参数， U q是q( )的无偏估计类，
§2 估计量的优良性准则
一、无偏准则
二、均方误差的准则 三、有效性准则 四、一致最小方差无偏估计 五、无偏估计的C-R下界 六、相合(一致）准则
一、无偏准则
定义2.1 设统计模型为{ P , }，q( )未知
参数，X 1 , X 2 ,, X n是来自总体的样本，T
是一个统计量，如果对所有的 有
例4.1 求正态总体N ( , 2 )均值和方差 2的
MLE的均方误差。
的有偏估计。
二、均方误差准则
假设用T ( x )作为参数q( )的估计量，评价估
计优劣的一个自然准则可定义如下：
MSE (T ) R( , T ) E (T ( x ) q( ))2
称上式为均方误差， 简记为MSE。
(Mean Squared Error)
体方差 的有偏估计， 且 n 1 2 2 E ( . ˆn ) n
2
n 1 2 2 E ( , ˆ ) lim 这样有 lim n n n 2 2 故 ˆ n 是总体方差 的渐近无偏估计。
2 n
定义
设q( )是可估参数， 如果存在无偏估
(q( ))2 lim e(q ˆ ( X )) lim Var (q ˆ ( X )) 1 n n I ( )
定义 如果无偏估计T ( x)，S ( x) U q，并且
Var (T ) Var ( S )， 则称T ( x)比S ( x)有效。
例3.9
同为无偏估， 方差越小 越有效！
四、一致最小方差无偏估计
设统计模型为{ P , }，q( )是可估 参数， U q是q( )的无偏估计类，
§2 估计量的优良性准则
一、无偏准则
二、均方误差的准则 三、有效性准则 四、一致最小方差无偏估计 五、无偏估计的C-R下界 六、相合(一致）准则
一、无偏准则
定义2.1 设统计模型为{ P , }，q( )未知
参数，X 1 , X 2 ,, X n是来自总体的样本，T
是一个统计量，如果对所有的 有
例4.1 求正态总体N ( , 2 )均值和方差 2的
MLE的均方误差。
估计量的评选标准ppt课件
27
四．充分性
例题 8
设总体 X ～ N( ， ²)，其中 ， ²
未知，( X1, X2, …, Xn )是抽自总体X 的样本，
试求未知参数 ( ， ²) 的充分估计量。
f (x; μ,σ 2 )
1
e
(
x μ )2 2σ2
（ x ）
2σ
n
i 1
f
( xi
;
μ,σ2
)
(2
n
)2
(σ
2
n
而是渐近无偏估计。
（2）修正样本方差
S *2
1n n 1 i1 ( X i
X )2
是总体方差 2= D(X) 的无偏估计。
6
一．无偏性
例题 3
设总体 X 服从指数分布，其概率密度为
f
( x；θ )
1
θ
x
eθ
0
x0 x0
其中参数 > 0 未知， ( X1, X2, …, Xn ) 是抽自总体 X
T0 ( x1,
, xn )exp{
1 2σ 2
n
( xi μ)2 }dx1
i 1
dxn
0
T0 ( x1,
,
xn
)[
1 σ2
n
( xi
i 1
μ)]exp{ 1 2σ 2
n
( xi
i 1
μ)2
}dx1
dxn
0
T0 ( x1,
,
n
xn )[
i 1
xi ]exp{
1 2σ 2
渐近优效估计
如果参数函数g ( )的某个正规无偏估计T 满足
e0 ( ; T ) 1
四．充分性
例题 8
设总体 X ～ N( ， ²)，其中 ， ²
未知，( X1, X2, …, Xn )是抽自总体X 的样本，
试求未知参数 ( ， ²) 的充分估计量。
f (x; μ,σ 2 )
1
e
(
x μ )2 2σ2
（ x ）
2σ
n
i 1
f
( xi
;
μ,σ2
)
(2
n
)2
(σ
2
n
而是渐近无偏估计。
（2）修正样本方差
S *2
1n n 1 i1 ( X i
X )2
是总体方差 2= D(X) 的无偏估计。
6
一．无偏性
例题 3
设总体 X 服从指数分布，其概率密度为
f
( x；θ )
1
θ
x
eθ
0
x0 x0
其中参数 > 0 未知， ( X1, X2, …, Xn ) 是抽自总体 X
T0 ( x1,
, xn )exp{
1 2σ 2
n
( xi μ)2 }dx1
i 1
dxn
0
T0 ( x1,
,
xn
)[
1 σ2
n
( xi
i 1
μ)]exp{ 1 2σ 2
n
( xi
i 1
μ)2
}dx1
dxn
0
T0 ( x1,
,
n
xn )[
i 1
xi ]exp{
1 2σ 2
渐近优效估计
如果参数函数g ( )的某个正规无偏估计T 满足
e0 ( ; T ) 1
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
)
,
电子科技大学
估计量的优良性准则
Oct-19
即
4 3
max X i
1 i 3
和4min X
1 i 3
i
都是的无偏估计.
2) D(Y ) E(Y 2 ) E(Y )2 3 2,
80
D(Z ) E(Z 2 ) E(Z )2 3 2,
80
D(4 Y ) D(4Z ) 3
电子科技大学
估计量的优良性准则
Oct-19
注意：
M 2
1 n
n
(Xi
i 1
X )2不是
2的无偏估计
M2
1 n
n
(Xi
i 1
X
)2
n n
1
S2
E(M2)
n n
1 2
已知E(
X
)
时，1
n
n
(Xi
i 1
)2是
2的无偏估计
电子科技大学
2. 有效性
估计量的优良性准则
E
(ˆn
)
]
0
则称 ˆn 为θ的渐进无偏估计量.
电子科技大学
估计量的优良性准则
Oct-19
若θ的实函数 g(θ) 的无偏估计量存在，称
g(θ)是可估计函数.
注 当ˆ是的无偏估计量，g(ˆ)不一定是g( )
的无偏估计量.
反例
样本均值是总体均值E(X)的无偏估计量.
S2 是2 的无偏估计
(n
3n2 1)2 (n
2)
0.
#
电子科技大学
估计量的优良性准则
Oct-19
例7.2.6 设 X~N(0,σ2), 证明
相合估计量.
1 n
n i 1
X i2是σ2
的
分析
1) 证明相合性常用到切比雪夫不等式;
2) 这里计算方差较难, 可以先化为2
分布, 再利用卡方分布的性质计算.
证
E
证 样本构成的随机变量序列X1，X2，…， Xn, … 相互独立同分布，服从切比雪夫大数定 理，对任给的ε＞0，有
lim P{ X E( X ) ε}
n
lim
n
P{
1 n
n i 1
Xi
E(X
)
ε}
0
即 ˆ X 为E(X) 的相合估计量.
#
电子科技大学
P{X1 y} P{X2 y} P{X3 y}
[FX ( y)]3
fY ( y) FY ( y) 3[F( y)]2 fY ( y)
fY
(
y)
3
(
y )2,
0 y ;
0 ,
else.
电子科技大学
估计量的优良性准则
Oct-19
3
证
n
n
(n 1)S 2 ( Xi X )2 Xi2 nX 2
i 1
i 1
n
(n 1)E(S 2 ) E( Xi2 ) nE( X 2 ) i 1
nE( X 2) nE( X 2)
电子科技大学
估计量的优良性准则
Oct-19
n{D( X ) E( X )2 } n{D( X ) E( X )2 }
lim
n
P{ˆn
}1
则称 ˆ为θ 的相合估计量.
相合估计量的证明(1)
相合估计量的证明(2)
电子科技大学
估计量的优良性准则
X 是μ的相合估计量; S2 和M2 都是σ2的相合估计量.
Oct-19
部分证明
电子科技大学
估计量的优良性准则
Oct-19
例7.2.1 设总体的方差 D(X)=σ2 >0，有
D(2 X
)
4 n
D(
X
)
2
3n
,
D(ˆ2
)
D(max 1 i n
{
X
i
})
(n
n 2
1)2 (n
2)
电子科技大学
估计量的优良性准则
D(ˆ2 )
(n
n 2
1)2 (n
2)
2
3n
D(ˆ1 ),
Oct-19
ˆ2比ˆ1更有效.
而且
lim
n
D(ˆ2 ) D(ˆ1 )
E(Y ) 3
y3dy 3 ,
0
4
同理可得,
fZ (z)
3
1
z
2 ,
0 z
0 ,
else
E
(
Z
)
3
3
z ( z)2dz 1
0
4
从而,
E(4 3
max Xi
1 i 3
)
E(4min Xi
1 i 3
估计量的优良性准则
Oct-19
设 是ˆ0θ 的无偏估计，如果对θ的任何一个
无偏估计量 ˆ都有
D(ˆ0 ) D(ˆ),
称 ˆ为0 θ的最小方差无偏估计量.
证明无偏性判断有效性(1)
证明无偏性判断有效性(2)
X 和S2 分别是μ和σ2 的最小方差无偏估计
电子科技大学
估计量的优良性准则
X
2 i
2
D
1 n
i
n 1
X
2 i
2
24 n2
n 0,
故
1 n
n i 1
X
2 i
是σ2 的相合估计量.
#
电子科技大学
估计量的优良性准则
Oct-19
例7.2.7 设总体X的k阶原点矩E(Xk)存在, 证明
样k阶原点矩
1 n
n i 1
E( X
)
E( 1 n
n i 1
Xi
)
E(X
)
E( X 2 ) D( X ) [E( X )]2 1 2 2 2
n
#
电子科技大学
估计量的优良性准则
Oct-19
证明 S2 是σ2 的无偏估计量
例7.2.2 设总体的方差 D(X)=σ2 >0，则样本
方差S2 是σ2的无偏估计.
证 1) 先求X与Y 的概率密度函数，
已知分布函数
0, x 0;
FX
(
x)
x θ
,
0 x θ;
1, x θ .
电子科技大学
估计量的优良性准则
Oct-19
FY ( y)
P{Y
y}
P{max
1 i 3
Xi
y}
P{X1 y, X2 y, X3 y}
估计量的优良性准则
Oct-19
§7.2 估计量的优良性准则
对于总体的参数，可用各种不同的方法去 估计它，因此一个参数的估计量不唯一.
如 X~U(0,θ) ,θ的矩法估计量为 2 X，
极大似然估计量为
max{
1 i n
X
i
}
在众多的估计量中选哪一个更好？
选取的标准是什么？
三个常用准则：无偏性、有效性、相合性.
ci
2ci
λ
0；
（i
1,2,, n）
i
n 1
ci
1.
解得 λ ，2
n
和 ci
1, n
i 1,2,, n .
电子科技大学
估计量的优良性准则
Oct-19
n
即函数 f (c1,c2, , cn ) ci2 i 1
（1 , 1 ,, 1）. nn n
的最小值点是
即
4 3
max X
1 i 3
i
比ˆ2
4min X i
1 i 3
的方差小.
#
电子科技大学
估计量的优良性准则
Oct-19
例7.2.4 证明
n
n
ˆ ci Xi , ci 0, ci 1,
i 1
i 1
是无偏估计量，X是其中最有效估计量.
证
n
n
E(ˆ ) E( ci Xi） E( X ) ci E( X ),
θ
Oct-19
希望 ˆ 的取值在θ及其附近越密集越好，
其方差应尽量小.
定义7.2.2 设 ˆ1( X1, X2 ,..., Xn )和ˆ2( X1, X2,..., Xn )
都是未知参数θ 的无偏估计量,若
D(ˆ1 ) D(ˆ2 ),
称ˆ1比ˆ2有效(优效).
电子科技大学
1 i 3
,
θˆ 2 4min Xi
1 i 3
都是θ的无偏估计；
2) 上述两个估计量中哪个的方差最小？
分析： 要判断估计量是否是无偏估计量， 需要计算统计量的数学期望.
电子科技大学
估计量的优良性准则
Oct-19