应用数理统计2.2 估计量的评判准则
估计量的评选标准与区间估计
置信区间 设总体X的分布函数F(x;)含有一个未知 参数. 对于给定值a(0<a<1), 若由样本X1 ,X2 ,…,Xn确定 的两个统计量 ( X1, X 2 ,..., X n )和 ( X1, X 2 ,..., X n ) 满足
P{ ( X1, X 2 ,..., X n ) ( X1, X 2 ,..., X n )} 1 a, 则称随机区间 ( , )是的置信度为1 a的置信区间,和 分
n 1
S 2
1 n 1
n
(Xi
i 1
X 2 ).
这就是说S2是2的无偏估计，因此，一般都是取S2作为 方差2的估计量。
例3 设总体X服从参数为的指数分布，概率密度为
f
( x,
பைடு நூலகம்
ex /
,
x 0,
0,
其它。
其中>0为未知,又设X1 ,X2 ,…,Xn是来自X的样本,试证
都是统计量 , 那么( , )就是的一个置信度为1 a的置信区间。
函数Z(X1 ,X2,…,Xn ; )的构造, 可以从 的点估计着 手考虑。
(三)单个总体N(,2)的情况
设已给定置信度为1-a, 并设X1 ,X2,…,Xn为总体N(,2)
的样本. X, S2分别是样本均值和样本 方差。
2的无偏估计为S2 由第六章2定理一知
(n 1)S 2 ~ 2 (n 1), 2
故
P{
2 1-a/2
(n
1)
(n 1)S 2
2
2 a/2
(n
2[1].2估计量的评选标准
![2[1].2估计量的评选标准](https://img.taocdn.com/s3/m/0d59a1da7f1922791688e843.png)
§2 估计量的评选标准问题：用不同的方法求出的同一参数的估计量可能不同，哪个估计量更好？怎样衡量？2.1 无偏估计引例：有一大批产品，废品率为)10(<<p p 未知，现任取n 件产品进行检验，获取子样观测值，构造统计量来估计未知参数p .如果pp >∧，则不利于产品卖方；如果pp <∧，则不利于产品买方。
事实上，∧p的值随每次抽样结果而变，因此自然希望抽样检验长期进行的话，在平均意义下能有一个不偏不倚的结果，即pp E =∧)(.——这就是估计量的无偏性要求。
定义：设∧θ是未知参数θ的估计量， ①若θθ=∧)(E ，则称∧θ是θ的无偏估计(unbiased estimator)，简记为UE ； ②若θθ≠∧)(E ，则称∧θ是θ的有偏估计(biased estimator)；③若θθ=∧∞→)(lim E n ，则称∧θ是θ的渐近无偏估计(asymptotic unbiased estimator).例 2.2.1 n X X X ,,,21 是来自母体X的一个子样，证明：X 是)(X E 的无偏估计，但子样方差∑=-=ni i n X X nS 122)(1不是)(X D 的无偏估计。
证明：)()(1)1()(11X E X E nX nE X E ni ini i ===∑∑==，故X是)(X E =μ的无偏估计；)1()(1222∑=-=ni inX XnE S E)()()(122122X E EXX E X E nni i-=-=∑=)]()([)]()([22X E X D X E X D +-+=)()(1)()(22X E X D nX E X D --+=)()(1X D X D nn ≠-=故∑=-=ni i n X X nS 122)(1不是)(2X D =σ的无偏估计，但由于)()](1[lim )(lim 2X D X D nn S E n nn =-=∞→∞→故∑=-=ni i n X X nS 122)(1是)(2X D =σ的渐近无偏估计.为得)(X D 的无偏估计，对2nS 进行修正（称为纠偏），令：∑=--=-=ni i n n X X n S n n S 1222*)(111则22*)(σ=n S E . 即2*nS 是)(X D 的无偏估计，此即修正样本方差.例 2.2.2 设母体),(~2σμN X，则Rd n1=∧σ是σ的无偏估计.例 2.2.3 nX X X ,,,21是来自母体)(~λP X 的一个子样，证明：2*)1(nS X ααλ-+=∧是λ的无偏估计。
2.2估计量的好坏标准
ˆ 若：E(θ ) = θ
ˆ 则称 θ 为 θ 的无偏估计 .
ˆ ˆ 注: 若 Eθ ≠ θ , 其偏差为 Eθ − θ
ˆ ˆ 当 lim Eθ = θ 时, 称θ 是θ的渐近无偏估计量.
n →+∞
例1 设 X 1 , X 2 , L X n是 总 体 X 的 样 本 ， 则
1 n (1)X = ∑ X i 是总体均值µ的无偏估计量; n i =1 (2)S
1 2
ˆ ˆ 则称θ1 较θ 2更有效 .
２）最小方差无偏估计
ˆ ˆ 在θ的所有无偏估计量中, 若∃θ0使得对于任意无偏估计量θ 有 ˆ ˆ Dθ ≤ Dθ
0
ˆ 则称θ0是θ的最小方差无偏估计量.
３）优效估计量
(给 罗 − 克拉美不等式 (给出了无偏估计量方差的下界) 记为 1 ˆ≥ 连续型: Dθ = IR +∞ ∂ ln f ( x,θ ) n∫ ( )2 f ( x,θ )dx −∞ ∂θ 1 ˆ≥ 离散型: Dθ ∂ ln P( x,θ ) 2 n∑( ) P ( x, θ ) ∂θ x
§2 估计量的好坏标准
评价一个估计量的好坏， 评价一个估计量的好坏，不能仅仅依据一次试验 的结果，而必须由多次试验结果来衡量 . 的结果， 这是因为估计量是样本的函数,是随机变量 这是因为估计量是样本的函数 是随机变量. 由不同 是随机变量 的观测结果,就会求得不同的参数估计值 就会求得不同的参数估计值. 的观测结果 就会求得不同的参数估计值 因此一个 好的估计,应在多次试验中体现出优良性 好的估计 应在多次试验中体现出优良性 . 2.1．无偏性 ． ˆ 设 θ ( X1 , X2 ,L, Xn ) 是未知参数θ 的估计量， 的估计量，
(1)指出T1 , T2 , T3中哪些是θ的无偏估计量。 (2)在上述θ的无偏估计量中指出哪一个更有效。
估计量的评选标准
均为未知, 则 2 的估计量ˆ 2
1n n i1 ( X i
X )2 是有偏
的(即 不 是 无 偏 估 计) .
证明
ˆ 2
1n n i1
X
2 i
X2
A2 X 2 ,
因为 E( A2 ) 2 2 2 , 又因为 E( X 2 ) D( X ) [E( X )]2 2 2 ,
1
e
x 2
x
n11
2 dx
n1
22
1 n
1
2
0
x n1
e 2 x 2 dx
2
n
n 2
2
1
,
E(S)
n
2
1
n
n 2
1
2
,
故 S 不是 的无偏估计量,
n
2
1
n
2
1
n 2
S
是
的无偏估计量.
例4 设总体 X 在 [0, ]上服从均匀分布,参数 0,
0,
0 x ,
其他
所以
E(Xh)
0
x
nx
n1
n dx
n ,
n1
故有
E
n
n
1
X
h
,
故
n
n
1
max(
X1
,
X
2
,,
X
n
)
也是
的
无
偏估
计量.
例5 设总体 X 服从参数为 的指数分布, 概率密度
f
(
x;
)
1
x
e
,
0,
x 0, 其他.
应用统计方法第二章参数估计
2
1 1
2 x 1 1
2 2
2 dx
1 12
(
2
1 ) 2
令
X
S 2
1 2
(1
2
)
1 12
( 2
1)
解上述关于
1
,
2
的方程得
1 2
X X
3S 3S
8
.
Example 2.4 贝努利试验中，事件 A 发生的频率是该事件 发生概率的矩法估计。 Solution 此处，实际上我们视总体 X 为“唱票随机变量”， 即 X 服从两点分布：
此,必须采用求极值的办法，即对对数似然函数关于 i 求导， 再令之为 0，即得
ln L( ) i
(Xi
X )2
S2
记为ˆ 2 S 2 ．第三步等号再一次用到习题 1.4．
7
.
Example 2.3 设 X 为[1, 2 ]上的均匀分布， X1, X 2 ,, X n
为样本，求1, 2 的矩估计。
Solution
a 1
2 xdx
1 2 1
2 2
12
2( 2 1 )
1 2
(
1
2)
2
.
Chapter 2 参数估计
(Parameter Estimation)
1
.
§2.1 点估计(Point Estimation) §2.2 估计量的评价准则 §2.3 区间估计(Interval Estimation)
2
.
§2.1 点估计(Point Estimation)
一、 矩估计法
若总体 X 的期望存在，E(X ) , X1, X 2 ,, X n 是出 自X 的样本，则由柯尔莫哥洛夫强大数定律,以
数理统计2_2
用切贝雪夫不 等式证明
矩法得到的估计量一般为相合估计量 在一定条件下, 极大似然估计具有相合性
三、有效性
ˆ ˆ 定义 设 θ1 , θ 2 都是θ 的无偏估计量, 若
ˆ ˆ D(θ1 ) < D(θ 2 )
则称 θˆ1 比 θˆ2 有效。 若θ 的所有二阶矩存在的无偏估计量中存 ˆ ˆ 在估计量 θ0 , 使对任意无偏估计量 θ 有 ˆ ˆ Dθ0 ≤ Dθ ˆ 则称 θ0 是θ 的最小方差无偏估计量
i =1 n
ˆ 证 (1) E ( μ1 ) = ∑ ci E ( X i ) = ∑ ci μ = μ
i =1 i =1
n
n
(2)
而
ˆ1 ) = ∑ ci2 D( X i ) = σ 2 ∑ ci2 D( μ
i =1 i =1
n ⎛ ⎞ 2 1 = ⎜ ∑ ci ⎟ = ∑ ci + 2 ∑ ci c j i =1 1≤ i < j ≤ n ⎝ i =1 ⎠ n 2
⎛ ( x − μ) 1 ⎞ − 2⎟ ⎜ 4−
( x−μ )2 2σ 2
dx
(
)
2
1 2π
e
−
y2 2
dy =
1 2σ 4
2σ 4 2 得 σ 的罗-克拉美下界 IR = n 2σ 4 ∗2 2 DS ∗2 = > IR ES = σ ,
n−1
所以 S ∗2 不是 σ 2 的优效估计。 注: S 是 σ 的最小方差无偏估计。
x
2
2
⎛ ∂ ln f ( X , θ ) ⎞ ⎛ 1 X⎞ E⎜ ⎟ = E⎜−θ +θ2 ⎟ ∂θ ⎝ ⎠ ⎝ ⎠ 1 1 DX 2 = 4 E( X − θ ) = 4 = 2
2.2 点估计的评价标准
例1 设总体X 的 k 阶矩 k E ( X ) 存在 ( X 1 , X 2 , , X n ) 是总体X 的样本,
k
证明: 不论 X 服从什么分布(但期望存在), 1 n 则 Ak X ik 是 k 的无偏估计量. n i 1 证 由于 E ( X ik ) k i 1,2, , n 因而
智商
组别
人数
智商平均数
样本标准差
甲 组 乙 组
n 6
46
x 78
99
s
19 16
由此结果推断母亲嗜酒是否影响下一 代的智力？若有影响，推断其影响程度有 多大? 提示 前一问题属假设检验问题 后一问题属区间估计问题
解 智商一般受诸多因素的影响.从而可以
假定两组儿童的智商服从正态分布.
N (u1 , )和N (u 2 , )
n
2
因而
n n 1 1 2 2 2 E ( X i X ) E ( X i ) E ( X ) n i 1 n i 1 2 2 2 2 ( ) ( ) n n 1 2 2 n 1 n 2 2 (Xi X ) 故 E 证毕. n 1 i 1
2
估计量
例2 设总体 X 的期望 与方差存在, X 的 样本为 ( X 1 , X 2 , , X n ) (n > 1) . 证明
n 1 2 2 (1) S n ( X i X ) 不是 D( X )的无偏估 n i 1
量; 1 2 (2) S
n 1 i 1
2 ( X X ) i
1 2 故 (n n) p X i X m i 1
2 2
m
[教育]应用统计方法第二章参数估计
![[教育]应用统计方法第二章参数估计](https://img.taocdn.com/s3/m/80f51551524de518964b7de7.png)
统计方法
统计方法
统计方法
统计方法 •2.3.3 Bayes估计
统计方法
统计方法
统计方法
•注：假如不用先验信息，只用样本和总体信息，那么事件A 发生的概率的最大似然估计为：
•例如：在产品抽检中，只区分合格品与不合格品，对质 量好的一批产品，抽检的产品常为合格品． • 但“抽检３个全为合格品” • “抽检的１０个全为合格品”（更信得过）
本章中介绍了参数估计的基本方法。
参数的估计有点估计、贝叶斯估计和区间估计。矩估计法和 极大似然估计法是求参数的点估计量的两种最基本的方法， 务必牢固掌握。衡量估计量好坏的标准有无偏性，最小方差 无偏估计，有效性和相合性（一致性）等，要学会验证一个 估计量是符合哪种标准的估计量，这对了解估计量的特性是 非常重要的。
•(3)先验信息:抽样或试验之前有关统计问题的一些信息.一般说来,
•先验信息来自经验或历史资料.先验信息在日常生活和工作中是很 重要的
统计方法
•Bayes统计学:基于三种信息所进行的统计推断的统计学
•Bayes统计重视总体信息和样本信息的同时,还注意先验 信息的收集,挖掘和加工,使它数量化,形成先验分布,参加到 统计推断中来.以提高统计推断的质量,忽略先验信息的利 用,有时是一种浪费,有时还会导出不合理的结论. •Bayes学派的基本观点:任一未知参数都可以看成随机变量, 可用一个概率分布去描述,这个分布称为先验分布.在获得样 本之后,总体分布,样本,和先验分布通过Bayes公式结合起来 得到关于未知参数的新的分布…..后验分布
当样本符合或接近统计模型的假设时， 该估计应有好的或较好的估计效果；当 样本偏离偏离模型的假设时，即受到干 扰时，该估计量应具有一定的抗干扰能 力而不至于使估计效果变得太坏。
2.2估计的质量评价
2.2估计的质量评价 如何对某个数字特征值进行估计，估计的方法不止一种评价估计的常用指标θ——表示广义平稳随机过程序列的某个数字特征值（均值、方差、相关函数等）θ∧表示θ的估计值 []E θ∧表示估计的均值 2.2.1 估计的偏估计的偏定义为：()[]bia E θθθ∧∧=-——反映估计的均值与真值的偏离程度如果：()E θθ∧=，则()0b i a θ∧=——无偏估计（否则有偏） 当样本数：N →∞时，若()0bia θ∧→——渐进无偏估计2.2.2 估计的方差估计的方差定义为2var()[([])]E E θθθ∧∧∧=-如果1θ∧和2θ∧都是θ的无偏估计就要考虑估值的方差var(•).1、对无偏估计——因[]E θθ∧=，所以2v a r ()[()]E θθθ∧∧=-2、若12var()var()θθ∧∧<，则1θ∧比2θ∧更紧密地聚集在真值的附近，1θ∧比2θ∧好 3、若对于所有估计值'θ，有var()var()θθ∧'≤，则θ∧为最小方差估计2.2.3 估计的均方误差和一致性如果1θ∧和2θ∧不都是θ的无偏估计，这时方差就不再是有效性的唯一测度，需要同时考虑方差和偏差——以MSE （均方误差）为有效性的测度均方误差：2[()]MSE E θθ∧=- 经过简单推导：22[()][(M S E E E E θθθθθ∧∧∧∧=-=-+0可见，均方差同时反映了估计的偏差和方差。
1、最小均方误差准则选择均方误差较小的θ∧作为所希望的估计——最小均方误差准则。
2、一致估计若当样本数：N →∞时，估计的均方差0MSE →——一致估计 令θ∧是基于N 个观测样本获得的θ的估计，如果：1）lim []N E θθ∧→∞= 2）2lim [([])]0N E E θθ∧∧→∞-= 则θ∧是θ的一个一致估计+ + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + +2.3均值、方差、自相关函数的估计 + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + +2.3相关函数与功率谱。
估计量的评价标准
计量是有偏的，称 E ˆ 为估计量ˆ的偏差 .
例1 设总体X的一阶和二阶矩存在，分布是任
意的，记E X ，D( X ) 2.
证明：样本均值X 是的无偏估计.
样本方差Sn2是 2的渐近无偏估计.
修正样本方差Sn2是 2的无偏估计.
证
E X ,
E
Sn2
n 1 2,
n
E Sn2 2
定义6.4 设ˆ1和ˆ2均为的无偏估计量,若对任意
样本容量n有D ˆ1 D ˆ2 ,则称ˆ1比ˆ2有效.
如果存在 一个无偏估计量 ˆ0 ,使对 的任意无偏 估计量 ˆ ,都有
Dˆ0 Dˆ
则称ˆ0 是 的最小方差无偏估计(量).
缩写为MVUE. 最小方差无偏估计是一种最优估计.
例3 设总体 X 服从区间 0， 上的均匀分布,
1
2
E[
ˆn Eˆn
2
2
ˆn Eˆn
Eˆn
Eˆn
2
]
1
2
[
Dˆn
Eˆn
2
]
令 n , 由定理的假设得
lim
n
P{ ˆn
}0
即 ˆn 是 的相合估计．
例9 若总体 X 的 EX和 DX都存在 , 证明 X 是总体
均值 EX 的相合估计.
证 因为 EX EX
DX DX 0 n
n
定理6.2设ຫໍສະໝຸດ ˆn是的一个估计量,
若 lim
n
E
ˆn
,
且
lim
n
D(ˆn
)
0,
则
ˆn 是
的相合估计(或一致估计).
证明 由于
0 P{ˆn }
估计量的评选标准
估计量的评选标准
估计量在统计学中扮演着非常重要的角色，它是对未知参数进行估计的数值。
在实际应用中，估计量的准确性和可靠性直接影响到统计结论的正确性。
因此，如何评选一个好的估计量是非常重要的。
下面将从偏差、方差和均方误差三个方面来探讨估计量的评选标准。
首先，偏差是评价估计量优劣的重要指标之一。
偏差是指估计量的期望值与真实参数值之间的差异。
一个好的估计量应当具有较小的偏差，即在重复抽样下，估计量的平均值应当接近于真实参数值。
因此，评选估计量时，需要对其偏差进行严格的评估，选择偏差较小的估计量作为最优估计。
其次，方差也是评选估计量的重要指标。
方差是用来度量估计量的离散程度，即在重复抽样下，估计量的变异程度。
一个好的估计量应当具有较小的方差，即在重复抽样下，估计量的取值应当比较稳定。
因此，评选估计量时，需要对其方差进行严格的评估，选择方差较小的估计量作为最优估计。
最后，均方误差是评价估计量优劣的综合指标。
均方误差是偏
差和方差的平方和，它综合考虑了估计量的偏差和离散程度。
一个好的估计量应当具有较小的均方误差，即在重复抽样下，估计量的预测误差应当较小。
因此，评选估计量时，需要对其均方误差进行严格的评估，选择均方误差较小的估计量作为最优估计。
综上所述，评选估计量的标准应当综合考虑偏差、方差和均方误差三个方面。
一个好的估计量应当在偏差小、方差小和均方误差小的情况下，具有较高的准确性和可靠性。
在实际应用中，需要根据具体问题和数据特点，选择合适的评选标准，以得到最优的估计量。
希望本文对您有所帮助。
4估计量的评价标准
所以，样本方差S02不是总体方差 2的无偏估计
对此，有如下两点说明：
(1) 当样本量趋于无穷时，有E(S02) 2， 我们称 S02 为 2的渐近无偏估计。
(2) 修正的样本方差S2 为 2的无偏估计。
例. 设总体X~U[0, ]，讨论 的矩估计和极大 似然估计的无偏性 (书P349例3)
解： 的矩估计和极大似然估计分别为：
ˆ 2X
ˆ X L ( n)
ˆ 容易验证 E 所以 的矩估计是无偏估计
ˆ 而 E L
xpX( n ) ( x )dx
0 x 其它
x n 1 1 n n 1 pX ( n ) ( x ) nFX ( x ) pX ( x ) 0
空间为Θ，若对任意的∈Θ，有
ˆ) E (
则称 ˆ是 的无偏估计，否则称为有偏估计。
对任一总体而言，样本均值是总体均值的无 偏估计。当总体k阶矩存在时，样本k阶原点 矩Ak是总体k阶原点矩 k的无偏估计。 但对中心矩则不一样，譬如，由于
E ( S0 2 ) n 1 2 n
随机误差
系统误差
均方误差准则：估计量的均方误差越小越好
ˆ ) D( ˆ ) [b( ˆ )]2 记号： r(
常用的几条标准是： 1．无偏性 2．有效性
3．相合性
这里我们重点介绍前面两个标准 .
一. 无偏性
ˆ ˆ( X , , X ) 设 定义： 1 n 是 的一个估计， 的参数
ˆ 2 比 ˆ1 有效。这表明用全部数据 显然，只要 n>1， 的平均估计总体均值要比只使用部分数据更有效。
三. 相合性
ˆ ˆ( X , , X ) 设 定义： 1 n 是 的一个估计， 的参数
估计量的评选标准
估计量的评选标准估计量是指在缺乏完全准确数据的情况下，根据一定的方法和标准，对某一特定数量进行估算的过程。
在实际生活和工作中，估计量的使用是非常普遍的，比如市场调研中对某一产品的销量进行估计、工程项目中对材料和人工成本的估算等。
因此，对估计量的评选标准进行明确和规范，对于保证估计结果的准确性和可靠性具有重要意义。
首先，估计量的评选标准应当包括数据来源的可靠性。
数据来源的可靠性是估计量准确性的基础，只有在数据来源可靠的前提下，才能得到准确可靠的估计结果。
因此，在评选估计量时，需要对数据来源进行严格的审核和验证，确保数据的真实性和可靠性。
其次，估计量的评选标准还应当考虑估计方法的科学性和合理性。
不同的估计方法可能会得到不同的估计结果，因此在评选估计量时，需要对所采用的估计方法进行评估和比较，选择科学合理的估计方法，并对其进行合理性验证，以确保估计结果的准确性和可靠性。
另外，估计量的评选标准还应当考虑估计结果的稳定性和可靠性。
估计结果的稳定性是指在不同条件下得到的估计结果是否具有一致性和可比性，而可靠性则是指估计结果是否能够得到重复验证和确认。
在评选估计量时，需要对估计结果的稳定性和可靠性进行评估和验证，确保估计结果具有一定的稳定性和可靠性。
最后，估计量的评选标准还应当考虑估计结果的可比性和适用性。
估计结果的可比性是指在不同条件下得到的估计结果是否可以进行比较和分析，而适用性则是指估计结果是否能够满足具体的应用需求。
在评选估计量时，需要对估计结果的可比性和适用性进行评估和验证，确保估计结果具有一定的可比性和适用性。
综上所述，估计量的评选标准应当包括数据来源的可靠性、估计方法的科学性和合理性、估计结果的稳定性和可靠性，以及估计结果的可比性和适用性。
只有在这些方面都得到合理的保证和验证，才能够确保估计结果的准确性和可靠性，从而为实际生活和工作提供有力的支持和保障。
估计量的评价标准
估计量的评价标准估计量是统计学中一个非常重要的概念，它在研究中起着至关重要的作用。
在统计学中，我们经常需要对总体参数进行估计，而估计量就是用来估计总体参数的。
在实际应用中，我们需要对估计量进行评价，以确定其准确性和可靠性。
本文将从准确性、一致性、有效性和偏倚性四个方面对估计量的评价标准进行详细介绍。
首先，准确性是评价估计量的重要标准之一。
一个好的估计量应当具有较高的准确性，即与总体参数的真值相近。
通常情况下，我们会使用均方误差（MSE）来评价估计量的准确性，MSE越小，表示估计量的准确性越高。
其次，一致性也是评价估计量的重要标准之一。
一个一致的估计量是指当样本容量增大时，估计量趋向于总体参数的性质。
在实际应用中，我们通常会使用一致性的渐近分布来评价估计量的一致性。
有效性是评价估计量的又一重要标准。
一个有效的估计量应当具有较小的方差，即在估计总体参数时具有较高的精确度。
通常情况下，我们会使用标准误差（SE）来评价估计量的有效性，SE越小，表示估计量的有效性越高。
最后，偏倚性也是评价估计量的重要标准之一。
一个好的估计量应当是无偏的，即在重复抽样的情况下，估计量的期望值等于总体参数的真值。
在实际应用中，我们通常会使用置信区间来评价估计量的偏倚性，置信区间越窄，表示估计量的偏倚性越小。
综上所述，对于估计量的评价标准，我们需要从准确性、一致性、有效性和偏倚性四个方面进行综合考量。
在实际应用中，我们可以根据具体问题的特点，选择合适的评价标准来评估估计量的质量。
希望本文对大家对估计量的评价标准有所帮助。
第二章参数估计2-2统计量的评判标准
i 1
2 4 2 2 2 特别地 E ( S ) ,D ( S ) , ( n 1 ) ( n 1 ) n 1 2 ( n 1 )4 n 12 2 2 E ( S ) ,D ( S ) ( n 1 ) ( n 1 ) n 1 n 1 2 ( n 1 ) 2 2 4 2 4 显然有 D ( S ) D ( S ) ( n 1 ) ( n 1 ) n 1 n 1 2 2 2 然而 S 是 的无偏估计 , S 不是 . ( n 1 ) ( n 1 )
三、一致性（相合性）估计
MVUE与有效估计—离散程度小，法则较好， 但前题是无偏估计。 ˆ) ,但 ˆ) 问题： 1 )尽管 E ( D ( 较大 ,
ˆ 可知 作为 估计仍不理想 . ˆ ˆ 2 ) 尽管 E ( ) , 但 D ( ) 较小 .
ˆ 在 的真值附近波动 无偏估计—无系统误差；
n n
说明： 相合估计指在大样本条 件下引进的 ,是对估 计量的基本要求 ,并且由大数定理可 , 这个要求也是容易满足 的 .
ˆ) 则称 ˆ 为 的无偏估计 . 若E ( ˆ) 为估计量 ˆ 的偏差 . ˆ) 则称 E ( 若 E (
ˆ) E ( 则称ˆ 为 的渐近无偏估计 . 若 lim
n
无偏性是对估计量的一个常见而重要的要 求 .也是工程技术中完全合理的要求。
于是有
2 2 2 2 2 2 E ( S ) E ( S ) ( n 1 ) ( n 1 )
原则一：选取估计量与估计参数的均方差尽量小的， 可以使得方差与偏差相对小。 在此原则下认为：
应用数理统计2.2 估计量的评判准则
下面我们就来讨论建立 一个方差下界的 克拉美 劳不等式
6
克拉美—劳不等式
p 41-42
设X 1 , X 2 ,, X n为取自具有概率函数 f ( x; ), { : a b}的母体的一个子样 , 其中a, b为已知常数 ,
n
的效率 (显 然 由 C R不 等 式 ， en 1).又 当T的 效 率 等 于 1时 ，
例2.15 设总体X~N(,2),,2均未知，又设X1, X2,...,Xn 为总体X 的样本, 则的无偏估计 X是有效的,2 的无偏 估计 S*2 是渐近有效的。
例2.16 若总体X~ (), 考虑未知参数 的矩估计量为 ˆ X的有效性。
可以验证 X是总体均值的无偏估计[例2.13]；
2 S 但 不是总体方差的无偏估计，是渐进无偏
的。
n 1 n 2 2 S ( X X ) 而 S 是无偏的[例2.14]。 i n 1 n 1 i 1
2 *
2
例2.13’ 设总体X的数学期望 与方差2存在, X1, X2,...,Xn为总体X 的样本, 证明：
n n 1 2 2 2 ˆ S (Xi X ) n1 n 1 i 1
18
（三）稳健性准则
• 去掉一些明显不合理的信息（样本）。 • 总之，具体问题具体分析，选择适合问题特 点的标准。 例2.18 （1）欲侧某一量μ ，其测量值服从 N ( ,0.22 ) 分布，今测得如下数据6.8，6.7，7.1，8.6，试估计 值。 （2）设有n个裁判为运动员的表演评分，如果其 中有些运动员分别与个别裁判有某种关系，试问采用 什么方法来确定运动员的表演为妥？
《数理统计》估计量的评选标(与“估计”有关文档共9张)
设
为来自总体
的样本,则 的矩估计和 MLE
为未知参数 的点估计. 称 为系统误差
由于 ˆ 是r.v，怎样描述估计的精确性
若 是 的无偏估计,则由切比雪夫不等式有
设 是未知参数 的点估计, ˆ ˆ(X,X,,X) 这就是为什么样本方差定义为
无设偏性只为有总在体大量试验的情况下才有意n义
12
n
若 满足： 0 有 都存在,则
设 X1,X2,,Xn为总体 X ~的(样) 本
E(X)D (X)
E(X)E(X)
E(S2)D(X)
故 ˆ1X,ˆ2S2都是 的无偏估计
更进一步,对任意常数 c统, 计量
ˆcˆ1(1c)ˆ2cX(1c)S2
都是 的无偏估计
怎设样X比1,X 较2,两个,X无n是偏总估体计X 的~优F劣(x, ),的样本,
设总体
则参数空间为
随 的增加, 估计量 与参数真值 的绝对偏差较大的可能性越来越小
设
为来自总体
的样本,则 的矩估计和 MLE
若 ˆ是 设
为总体
更进一步,对任意常数 统计量
的无偏估计,则由切比雪夫不等式有
为未知参数 的点估计. 从直观看,一个“好的”估计应该满足什么条件？ 从直观看,一个“好的”估计应该满足什么条件？ 无论总体 服从什么分布,若 试证 是 的无偏估计与相合估计.
6/9
设 ˆˆ(X1,X2,,Xn)是未知参数 的点估计
当 n 增加时，怎样评价 ˆ 是一个“好”的估
计当样本容量 n 增加时,样本 由辛钦大数定律知， 的矩估计 是相合估计
对于 Poisson 总体 其参数空间为 一个好的估计,其估计值
X1,X2,,Xn包含未
估计量的评选标准
n
n
所以,B2是总体方差D(X)的有偏估计.
• 注:
S
2
1 n 1
n i 1
(Xi
X
)2是D( X
)的无偏估计 .
§2.2 有效性
• 一个参数的无偏估计量不是唯一的,假若参数θ 有两个无偏估计量 ,我们认为其观测值更密集 在参数θ真值附近的一个较为理想.由于方差是随 机变量取值与其数学期望的偏离程度的度量,所以 无偏估计以方差小者为好.这就引出了估计量的有 效性这一概念.
§2.1 无偏性
• 在评价一个估计量的好坏时,我们当然希望估计量 与被估参数越接近越好.但估计量是一个随机变量, 它的取值随样本的观测值而变,有时与被估参数的真 值近些,有时远些,我们只能从平均意义上看估计量 是否与被估参数尽量接近,最好是等于被估参数.于 是有无偏估计量的概念.
• 定义: 设ˆ( X1, X 2,...,X n )为 的估计量. 若 E[ˆ( X1, X 2,...,X n )] , 则称ˆ( X1, X 2,...,X n )为的无偏估计.否则称为有偏的.
第二节 估计量的评选标准
无偏性 有效性 一致性
• 对于总体的同一个未知参数，由于采用的估计 方法不同，可能会产生多个不同的估计量。这 就提出了一个问题，当总体的同一个参数存在 不同的估计量时，究竟采用哪一个更好？这涉 及到用什么样的标准来评价估计量的好坏问题， 对此，我们介绍几个常用的评价标准：无偏性、 有效性和一致性。
一致性是点估计的大样本性质，指的是：这种 性质是针对样本容量 n 而言，对于一个固定的 样本容量 n，一致性是无意义的.
与此相对，无偏性和有效性的概念是对固定的 样本而言，不需要样本容量趋于无穷，这种性质也 称为“小样本性质”.
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
i1
i1
也是 的无偏估计量;
评述：
• 无偏的概率意义，即反复使用，整体平均下，估 计准确。
• 其局限性，若仅有一次或导弹命中精度或系统误 差等情形，就不能说明问题了。
3
2.2.2 最小方差性和有效性 用 ˆ 估计θ时，仅具有无偏性是不够的．我们
希望 ˆ 的取值能集中于θ附近,而且密集的程度 越高越好．方差是描述随机变量取值的集中程 度的，所以无偏估计以方差小者为好, 这就引进了有 效性这一标准.
ˆ X , 或
ˆ 1 n
n
(Xi X)2
i 1
即使用同一方法得出的估计量也不同。
1
2.2.1．无偏性
定义2.1：
• 如果E(ˆ) ，则称估计量为无偏估计量；
•
如果 lim n
|
E(ˆ( X 1 ,
X
2
,...,X
n
)
|
0
记作 lim b() 0 ，则称估计量为渐进无 n
偏估计量。其中 b( ) 称作偏差。
(1)集合{ x : f ( x; ) 0}与无关;
(2)g( )与f ( x; ) 存在,且对一切 ,
f
( x;
)dx
f
( x;
)dx
令I( )
ln E (
f ( X1, ))2
Fisher信息量
则有
:
D
(T
(
X
))
[
g( )]2 nI( )
克拉美劳下界
特殊地，当g( )
T(X1, X2,
n
, X n ) [ i1
f ( Xi ; )]dX1
dX n
注: 1.满足正则条件的估计量称为正规估计.
2.Rao Cramer不等式的下界仅是正规无偏估计 类的方差下界
D [g'( )]2 nI( )
3. Fisher信息量
I (
)
E
(
ln
f (X1,
) )2
1,则 称T是 渐近 有效 的。
例2.15 设总体X~N(,2),,2均未知，又设X1, X2,...,Xn 为总体X 的样本, 则的无偏估计X是有效的,2 的无偏
估计
S
2 *
是渐近有效的。
例2.16 若总体X~ (), 考虑未知参数 的矩估计量为
ˆ X的有效性。
13
2.2.3 其它几个准则
• （一）最小均方误差准则 前述的最小方差性（有效性）只对无偏估计
为了计算信息量I( )方便，我们可以证明
令I (
)
E
2 (
ln f ( X1, 2
))
定 义2.3
称en
[g'( )]2 为g( )的 无偏 估计 量T D (T ( X ))nI( )
的 效率(显 然由C R不 等式 ，en 1).又 当T的 效率 等于1时 ，
称T是
有
效
的
；
若lim n
en
（即 依 0概, lni率m P收{|敛T (于X1）, X，2 ,..则.,X称n )T是g(相) |合 统} 计0量。
实际应用中，要求样本信息量（即n）较大， 但给出了一种保证，即只要能够获取足够的信息， 就一定能得到足够精确的估计。
1、 对 于 无 偏 估 计 ， 由 切贝 雪 夫 不 等 式
时, 即为:
D
(T ( X
))
1
nI (
)
由数学期望的定义:
g( , Xn ) f ( X1; ) f ( Xn; )dX1 dXn
联合概率密度
g'( )
T ( X1, X 2 , , X n ) f ( X1; ) f ( X n; )dX1 dX
§2．2 估计量的评价准则
由例2.3和例2.10的结果看出，对均匀分布 总体参数的估计不一样，哪个好？
aˆ X bˆ X
3 n ( X X )2 ,
n
i 1
3 n ( X X )2
n
i 1
aˆ
min
1in
X
i
,
bˆ
max
1in
X
i
例2.12 若总体X~ (), 则未知参数 的矩估计量为
证明估计 时,
ˆ 1 X 1 X 较
2 2 1
1
2
ˆ 1 X 3 X
4 4 2
1
2
有效.
证明 因为 ˆ1, ˆ 2 均为 的无偏估计， 又因为
D(ˆ ) D( X ) D(1 X 1 X ) 1 D( X ) 1 D( X ) 1 2
1
21 22 4
14
22
D(ˆ ) D(1 X 3 X ) 1 D( X ) 9 D( X ) 5 2
可以验证 X是总体均值的无偏估计[例2.13]；
但 S 2 不是总体方差的无偏估计，是渐进无偏 的。
而
S*2
n S2 n 1
1 n 1
n i 1
(Xi
X )2
是无偏的[例2.14]。
2
例2.13’ 设总体X的数学期望 与方差2存在,
X1, X2,...,Xn为总体X 的样本, 证明：
n
n
ˆ 2 ci X i ,其中 ci 1,ci 0,i 1,2,, n
2
4 1 4 2 16
1 16
28
所以 D(ˆ1) D(ˆ 2 )
由定义知 ˆ1 较 ˆ 2有效．
5
我们自然希望无偏估计量的方差越小越好， 那 么 能 够 小 到 什 么 程 度?即 有 无 下 界? 什 么 条 件 下方差下界存在？
在实际应用中，找出最小方差的估计量不容易， 若在一类分布和估计中找出所有无偏估计中方差 的一个下界，则当某一估计量达到或接近即认为 可行了。
P{|T ( X1, X 2 ,
下面我们就来讨论建立一个方差下界的 克拉美 劳不等式
6
克拉美—劳不等式
p 41-42
设X 1 ,
X 2 ,
,
X
为
n
取
自
具
有
概
率
函
数f (
x;
),
{ : a b}的母体的一个子样,其中a, b为已知常数,
且可设a , b . 又T T ( X1, X2 , , Xn )是g( )的一
个无偏估计, 且满足正则条件
• 定义2.2 如果 T T ( X1, X 2 ,..., X n ) 是g( ) 的无偏估
计量，且对于其任意无偏估计量T ，均有， D(T) D(T )
对一切 （参数空间），则称T为最小方差
的无偏估计量（或最优无偏估计量）。
4
例2.14’ 设总体X的数学期望,方差2存在，X1,X2是X的样本，
而言，对有偏估计量无意义。
为使ˆ 与 尽量接近，考虑
Mse(ˆ) E(ˆ )2 ——称均方误差
• 由 min Mse(ˆ) ˆ
得到的估计量称作最小均方误差估计量。 对于无偏估计，均方误差最小和方差最小是
一致的。
14
（二）相合性（相合估计量） 定义2.4 设T T ( X1, X 2 ,..., X n ) 是g( ) 的估计量，