§7.2 点估计的评价标准
点估计的评价标准
第三讲点估计的评价标准副教授主讲教师叶宏在前两讲中我们介绍了两种点估计法,发现了点估计的不唯一性,即对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题:应该选用哪一种估计量?用何标准来评价一个估计量的好坏?常用标准(1) 无偏性(3) 一致性(2) 有效性这一讲我们介绍估计量是随机变量,对于不同的样本值会得到不同的估计值. 我们希望估计值在未知参数真值附近摆动,而它的期望值等于未知参数的真值. 这就导致无偏性这个标准.(1) 无偏性θθ=)ˆ(E 则称为的无偏估计.θˆθ),,(ˆ1n X X θ设是未知参数的估计量,若θ.真值∙∙∙∙∙∙∙∙∙∙∙∙∙∙),,,(21n X X X 是总体X 的样本,证明: 不论X 服从什么分布(但期望存在),是k μ的无偏估计量.证∑∑====n i k i n i k i k X E n X n E A E 11)(1)1()(例设总体X 的k 阶矩)(k k X E =μ存在,因而ni X E k k i ,,2,1)( ==μ由于k k n n μμ=⋅⋅=1∑==n i k i k X n A 11特别地样本二阶矩∑==n i i X n A 1221是总体二阶矩是总体期望E ( X ) 的X 样本均值无偏估计量)(22X E =μ的无偏估计量例设总体X 的期望与方差存在,X 的样本为),,,(21n X X X (1) 不是D ( X )的无偏估计; ∑=-=n i i n X X n S 122)(1(2) 是D ( X ) 的无偏估计. ∑=--=n i i X X n S 122)(11原样本方差样本修正方差2221)(σσ≠-=nn S E n ()22σ=S E 2221lim ()lim n n n n E S nσσ→∞→∞-==是D ( X )的渐进无偏估计2n S无偏估计以方差小者为好, 这就引进了有效性的概念12ˆˆ,θθ一个参数往往有不止一个无偏估计, 若θ都是参数的无偏估计量,我们可以比较的大小来决定谁更优.21)ˆ(θθ-E 和22)ˆ(θθ-E 211)ˆ()ˆ(θθθ-=E D 由于222)ˆ()ˆ(θθθ-=E D (2) 有效性(2) 有效性D ( )< D ( )2ˆθ1ˆθ则称较有效.2ˆθ1ˆθ都是参数的无偏估计量,若有),,(ˆ11n X X θ),,(ˆˆ122n X X θθ==1ˆθ设和θ*1ˆˆ()()D D θθ≤*ˆθ是的任一无偏估计.θ则称为的最小方差无偏估计.θθˆ若321232111254131ˆ)(31ˆX X X X X X ++=++=μμ都是μ的无偏估计量1ˆμ最有效例如X ~ N ( μ,σ2) ,样本是.,,321X X X μμμ==)ˆ()ˆ(21E E 22217225)ˆ(31)ˆ(σμσμ=<=D D 推广i n i i X c ∑==1ˆμ是μ的无偏估计量X X c i ni i 中∑==1ˆμ最有效11n i i c ==∑当时ˆlim ()1n P θθε→∞-<=则称θˆ是参数θ的一致(或相合)估计量.(3) 一致性(相合性)即,0>∀ε一致性估计量仅在样本容量n 足够大时,才显示其优越性.定义设是总体参数θ),,,(ˆˆ21n X X X θθ=θˆ的估计量. 若n →∞时, 依概率收敛于θ,关于一致性的常用结论样本k 阶矩是总体k 阶矩的一致性估计量由大数定律可证明矩法得到的估计量一般为一致估计量为方便鉴别有效性,引进定理: 1lim (),lim ()(,,0)n n nn n n n X X E D θθθθθθ→∞→∞=== 设是未知参数的估计量,若定理 n θθ则是的一个相合估计量.212221~(,),,,1()1n n i i X N X X X S X X n μσσ==--∑ 设总体是的样本则是的一致例估计量.22211()1ni i S X X n σ==--∑是的一致估计量.证明2222(1)(1)1,2(1)n S n S E n D n σσ⎛⎫⎛⎫--=-=- ⎪ ⎪⎝⎭⎝⎭()222lim (),lim 0n n E S D S σ→∞→∞⇒==222(1)~(1)n S n χσ-- ()()42222,1E S D S n σσ=∴=-由卡方分布性质知。
7.2估计量评价标准
设 θ = θ (X 1 , ,X n )是 未知参数 θ 的估计量, P→ θ, 即 若θ P(| θ - θ |≥ ε ) = 0
lim
n→ ∞
则称 θ 是 θ 的一致性估计量。
已知0<p<1,求p的 例4.设 X 1, , X n ~ B ( m , p ),已知 设 求 的 极大似然估计,并讨论所求估计量的一致性。 极大似然估计,并讨论所求估计量的一致性。
设 θ ( X1,, Xn)是未知参数 θ 的估计量,若 的估计量,
E(θ ) = θ
则称 θ 为 θ 的无偏估计 .
无偏性是对估计量的一个常见而重要的要求 . 无偏性的实际意义是指没有系统性的偏差 . 例如, 例如 , 用样本均值作为总体均值的估计 虽无法说明一次估计所产生的偏差, 时,虽无法说明一次估计所产生的偏差,但 这种偏差随机地在0的周围波动 的周围波动, 这种偏差随机地在 的周围波动 , 对同一统 计问题大量重复使用不会产生系统偏差 .
常用的几条标准是: 常用的几条标准是: 1.无偏性 . 2.有效性 . 3.一致性 .
1.无偏性 . 估计量是随机变量, 估计量是随机变量,对于不同的样本值 会得到不同的估计值 . 我们希望估计值在未 知参数真值附近摆动, 知参数真值附近摆动,而它的期望值等于未 知参数的真值. 知参数的真值 这就导致无偏性这个标准 .
例3、设总体X ~ N (1, σ ), 其中参数σ 未知,σ > 0, ( X 1 ,......, X n )为来自总体X的样本(n > 1)。考虑σ 的 两个估计量:) σ 1 (1 (2) σ 2
^ 2 ^ 2 ___ 2 1 n =S = ∑(Xi X ) n 1 i =1 2 2
2
7-2估计量的评价标准
E( X ) D X (E X )
2 2
2
2
n
2 2 ,
所以 X 不是 2 的无偏估计.
2
【注】 本例表明:虽然 E X ,但 E( X ) 2 .
ˆ) g ( ) ,即 一般地,虽然 Eˆ ,但未必有 Eg ( ...
2
ˆ) 未必为 g ( ) 的无偏估计. 如果 ˆ 为 的无偏估计,但 g ( ...
中,哪个更有效?
【简解】 由第六章例3 .2知,
4 4 2 2 2 2 E ( S0 ) 2 , E ( S 2 ) 2 , D( S 0 ) , D( S 2 ) , n n 1 2 S2和 2 S 2 均为 2 的无偏估计.且 D(S 2 ) D(S 2 ) , 所以 0 1 0 2
估 )2 ] 越小时,表明在均方误差意义下,用 当 E[(
计 的效果越好.
E ) E E 0 ,E( E )2 ( E )2 ,所以 由于 E(
)2 ] E{[( E ) ( E )]2} E[(
,就称 为 的渐近无偏估计. lim E
n
无偏估计的直观意义:由于样本 ( X1, X 2 ,, X n ) 是随机
ˆ ˆ( X , X ,, X ) 估计 时,有时会偏高,有时会 的,利用 1 2 n
偏低,但整体平均来说等于 .
讨论无偏性的关键在于计算 Eˆ .
证 由于
m i 1
ˆ c E E ci i ˆi ci ci , i
i 1 i 1 i 1 i 1
m
m
7.2(估计量的评价标准)
σ
2
~ χ 2 (n − 1)
可得
E (S ) = σ ,
2 2
2σ 4 2 D( S ) = n −1
由切比雪夫不等式, 由切比雪夫不等式,当 n → ∞,对任意 ε > 0,
P{| S 2 − σ 2 |< ε } ≥ 1 − D( S 2 )
ε2
2σ 4 = 1− →1 2 (n − 1)ε
n−1 n−1 2 E ( B2 ) = E(S ) = D( X ) ≠ D( X ). n n
7.2
估计量的评价标准
所以,B2不是总体方差D(X)的无偏估计,尽管B2是 所以, 不是总体方差 的无偏估计,尽管 的无偏估计 D(X)的矩估计量. 的矩估计量. 的矩估计量
1 n n 2 看作对B 我们可以把 S = ∑ ( X i − X ) = n − 1 B2 看作对 2的 n − 1 i =1
P{ X = k } =
λk
k!
e −λ , k = 0,1, 2, L
分别是E(X) =λ和D(X)=λ 的矩估计量, 的矩估计量, 由于 X 和B2分别是 ˆ ˆ 于是得到λ 的两个不同的矩估计量 λ1 = X 和 λ2 = B2
7.2
估计量的评价标准
既然估计量不是唯一的, 那么, 究竟孰优孰劣就 既然估计量不是唯一的 , 那么 , 要有一个评价标准. 要有一个评价标准 . 评价估计量的好坏一般从以下 三个方面考虑: 有无系统偏差; 波动性的大小; 三个方面考虑 : 有无系统偏差 ; 波动性的大小 ; 当 样本容量增大时是否越来越精确. 样本容量增大时是否越来越精确 . 这些就是估计量 的无偏性,有效性和相合性. 的无偏性,有效性和相合性.
§7.2点估计的评价标准
智商
组别
甲组
人数
n
6
智商平均数
x
78
Ch7-70
样本标准差
s
19
乙 组 46
99
16
由此结果推断母亲嗜酒是否影响下一
代的智力?若有影响,推断其影响程度有 多大?
提示 前一问题属假设检验问题
后一问题属区间估计问题
f
(x;θ )
=
⎧1
⎪⎨θ
−x
eθ
x > 0,
θ > 0 为常数
⎪⎩ 0
x≤0
( X1, X 2 ,", X n ) 为 X 的一个样本
证明 X 与 n min{X1, X 2 ,", X n} 都是θ 的无偏
估计量
证
X ~ E⎜⎝⎛θ1 ⎟⎠⎞
E(X ) =θ
故 E(X ) = E(X ) = θ
解
D(X)
=θ2
n
,D(nmin{X1,
X2,",
Xn})
=θ 2
所以,X 比n min{ X1, X 2 ,", X n} 更有效.
Ch7-58
例6 设总体 X,且 E( X )=μ , D( X )=σ 2
( X1, X 2 ,", X n )为总体 X 的一个样本
∑ (1)
设常数
ci
≠1 n
− lnθ
−
x
θ
Ch7-64
⎡∂
⎢⎣∂θ
ln
f
( x,θ
)
⎤ ⎥⎦
2
=
⎢⎣⎡−
1
θ
+x
θ2
⎤2 ⎥⎦
7-2估计量的评选标准
所以 ˆ 2 是有偏的.
由于
1 n n 1 2 2 E (Xi X ) n n i 1
n 1 n 2 2 E (Xi X ) n 1 n i 1
所以 即
1 n 2 2 E ( X X ) i n 1 i 1
1 n 2 2 ( X X ) S 是 σ 无偏估计 i n 1 i 1
ˆ2 同理可证明(2) E
由此可知, 一个参数可以有不同的无偏估计量.
例2 若总体 X 的均值 , 方差 2 均为未知, 证明
n 1 ˆ 2 ( X i X ) 2 不是 2 的 无偏估计. 估计量 n i 1
往证
ˆ E
2
2
2
回顾
n
EX , DX
1 1 1 ( X 1 X 2 ) ( DX 1 DX 2 ) θ2 2 2 4
1 2 ˆ D 3 DX θ 3
1 4 5 ˆ D 4 DX 1 DX 2 θ2 9 9 9
因而, D ˆ3 D ˆ2 D ˆ4 D ˆ1
练习 X 1 , X 2 为总体 N ( ,1) 的样本,比较下列无偏估
练习
1. 证明 S 不是 的无偏估计量 .
提示 2 E S 2 DS ( ES ) 2 ( ES ) 2 ES
2.设总体 X 的均值 µ 与方差σ2均为未知参数, X1,X2为样本.
证明 (1)
1 ( X 1 X 2 ), 2 2 1 X 1 X 2 1.7 X 1 0.7 X 2 3 3
ˆ 与 ˆ 都是 的无偏估计量, 若有 定义 设 1 2 ˆ ) D( ˆ ), 则称 ˆ 较 ˆ 有效. D( 1 2 1 2
点估计
是 EX的无偏,有效,相合估计量;
DX = DX n
(2) E X = EX
三、期望与方差的点估计
2.方差的点估计
∑ (X
n i =1
2
i X
) = ∑ (X
2
n i =1
由于
2
2 i
2Xi X + X
)=
E(X2)=DX+(EX)2,
E X
n
∑X
i =1
n
2 i
2X ∑ Xi + nX =
1 n 1 n 2 E n ∑ ( X i ) = E ∑ ( X i2 2 X i + 2 ) i =1 n i =1 1 n = ∑ E ( X i2 ) 2 E ( X i ) + E ( 2 ) n i =1 1 n = ∑ (σ 2 + 2 2 2 + 2 ) = σ 2 n i =1
练习题
5.设总体XN(,σ2),其中σ2未知, 已知, X1, X2,… Xn,是取 N(,σ2)样本,做函数如下
1 n 2 (1) ∑ ( X i ) n i =1 X (2)∑ i σ i =1
n 2
1 n (3) ∑ X i X n i =1
(
)
2
1 n n 1 2 E ∑ ( X i X )2 = σ n i =1 n 1 n E ( X i X )2 = σ 2 ∑ = n 1 ii=1
1 n (4) ∑ Xi X n 1 i =1
(
)
2
(5)∑
i =1
n
1 2 ( X i +1 X i ) 2(n 1)
统计量中是σ2 的无偏估计量的有( (1),(4),(5) ) DX= σ2=EX2–(EX)2= EX2–2. 即EX2 =σ2+ 2. 由于样本为独立同分布的所以EXi2 =σ2+ 2. EXi= .
点估计优势的评价标准
一、无偏性
如何决定两者谁最优?
可以考察两个统计量的方差.
ˆ ˆ D 1 E 1
ˆ E 2 ˆ D 2 2
2
显然, 无偏估计以方差小者为好, 这就引进
了有效性这一概念 .
二、有效性
ˆ ˆ ˆ ˆ 设1 1 X 1 , , X n 和 2 2 X 1 , , X n 都是 参本值会得到不 同的估计值 . 我们希望估计值在未知参数真值附 近摆动,而它的期望值最好等于未知参数的真值.
ˆ 定义1 设 X 1 , X 2 , , X n 为未知参数的一个 ˆ 估计,若 的数学期望存在,且 ˆ E ,
ˆ 则成 为的一个无偏估计.
一个参数往往有不止一个无偏估计, 如 设总体X的期望为m, X1, X2, ..., Xn是抽取样本.
1 显然, X X i 也是m 的无偏估计, n i 1
n
1 1 X1 + X 3不是m 的无偏估计, 3 3
问题 一个参数往往有不止一个无偏估计, 若
ˆ ˆ 1和 2都是参数的无偏估计量,
一个参数往往有不止一个无偏估计,
1 X i , i 1,2,, n;
如 设总体X的期望为m, X1, X2, ..., Xn是抽取样本.
E X i E X m , i 1,2,, n
X i是m的无偏估计.
参数的点估计、估计量的评价标准以及参数的区间估计讲义
第七章参数估计内容介绍本章主要内容是参数的点估计、估计量的评价标准以及参数的区间估计等.内容讲解引言:本章将讨论统计推断,所谓统计推断就是由样本来推断总体. 当总体的某个参数未知时,用样本来对它进行估计,就是参数估计. 至于参数,目前没有准确的定义,只有一些具体的参数,本书指出三类参数:①分布中含有的未知参数θ;②θ的函数;③分布的各种特证数。
§ 7.1点估计1.点估计定义:设x1,x2,…x n是总体X的一个样本,θ是它的未知参数,用一个关于x1,x2,…x n的统计量的取值作为θ的估计值,称为θ的点估计.2.点估计的两种常用方法(1)替换原理和矩法估计① 替换原理:替换原理常指如下两句话:一是:用样本矩替换总体矩;二是:用样本矩的函数替换相应的总体矩的函数.② 矩估计的方法:根据替换原理,用样本矩或样本矩的函数对总体的矩或矩的函数进行估计。
例如:用样本均值估计总体均值E(X),即;用样本二阶中心矩估计总体方差,即;用事件A的频率估计事件A的概率等.例题1. P146【例7-1】对某型号的20辆汽车记录其每5L汽油的行驶里程(km),观测数据如下:29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.728.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9【答疑编号12070101】(2)概率函数p(x;θ)已知时未知参数的矩法估计设总体具有已知的概率函数p(x;θ1,…,θk),(θ1,…,θk)是未知参数或参数向量,x1,…,x n是样本,假定总体的k阶原点矩μk存在,则对所有的j(0<j<k),μj都存在。
(3)若假设θ1,…,θk能够表示成μ1,…,μk的函数θj=θj(μ1,…,μk),则可给出诸θj的矩法估计。
例题2. P146【例7-2】设总体为指数分布,其密度函数为【答疑编号12070102】这说明矩估计可能是不惟一的,这是矩法估计的一个缺点,此时通常应该尽量采用低阶矩给出未知参数的估计。
概率论与数理统计课件讲解7-2 估计量的评价标准
ˆ 为 的 相合估计量(或一致 概率收敛于 , 则称 n 估计量). , 样本k (k 1) 阶矩是 例如 由第五章第一节知
总体 X 的 k 阶矩 k E ( X k )的相合估计量 ,
例6 试证 : (1) 样本均值 X 是总体均值 的相合估计
量;
*2 ( 2) 修正样本方差 Sn
三、有效性
ˆ 和 ˆ , 如果 比较参数 的两个无偏估计量 1 2 ˆ 的观察值较 ˆ更 在样本容量 n相同的情况下, 1 2 ˆ 较 ˆ 理想. 密集在真值 的附近, 则认为 1 2
ˆ 关于 换句话说,对参数 的无偏估计量
的波动越小,即方差 ˆ ) E[ ˆ E ( ˆ )]2 D(
是来自总体 X 样本, ˆ 2 X 和修正的最大似 (1) 试证明:的矩估计量 1 n1 ˆ 然估计量 2 X ( n ) 均是 的无偏估计; n ˆ 和 ˆ 哪一个更有效? ( 2) 问: 1 2
ˆ ) E (2 X ) 2 E ( X ) 2 E ( X ) (1) 证 E ( 1
5 2 1 2 ˆ3 ) , D( ˆ 2 ) , D( 9 2
D( ˆ 2 ) D( ˆ 3 ) D( ˆ1 )
ˆ 2最有效.
可用求条件 极值的拉格 朗日乘数法 证明
例5 设总体 X ~ U [0, ], 参数 0, ( X 1 , X 2 ,, X n )
ˆ )2 E (
ˆ) ) ( E (
越小越好.
定义
ˆ ˆ ( X , X ,, X ), ˆ ˆ ( X , X ,, X ) 设 1 1 1 2 n 2 2 1 2 n
ˆ ) D( ˆ ), D( 1 2
7.2点估计的优良性评判标准 课件- 《概率论与数理统计(第2版)》同步教学(人民邮电版)
X
,故
的矩估计量ˆ1
2X
.
(2)又由上一节例9得 θˆ 2 Xn .
一、无偏性
⑶
E
θˆ1
E2X 2E X 2 θ θ 2
;
由次序统计量的散布知当 y 0,θ 时, Xn 的概率密度
函数为
fn
y
n
y θ
n1
1 θ
ny n 1 θn
故
E θˆ2
3
一、无偏性
第7章 参数估计
4
定义1
θ 如果未知参数 的估计量 θˆ X1, X2, , Xn 满足 E θˆ X1, , Xn =θ
则称 θˆ X1, , Xn 为θ 的一个无偏估计量.
如果
lim
n+
E
θˆ
X1,
, X n θ
则称 θˆ X1, θ , Xn 为 的渐近无偏估计量.
2
n
E
n i 1
Xi
2
2
E
S2
E
2
n 1
n
1 S 2
2
2 n
n 1
1
2
可见这两个估计都是无偏的;
二、有效性
第7章 参数估计
16
解⑵ 又因为 因此
D
n i 1
Xi
2
2n
D
n
1
2
S
2
2
n
1
D ˆ 2
D
1 n
n i1
X
2 i
4 n2
D
n i 1
Xi
)
E(Sn2 )
n 1
n
2
点估计的基本思想及评价标准
由方程α r (θ1 ,..., θ k ) =
Ar , r = 1, 2,...k
ˆ 解得 θ r
ˆ = θ r ( X 1 ,..., X k )(r = 1, 2,...k )
常见分布参数的矩估计量
X X X X X ˆ b (1, p ), p = X ˆ P ( λ ), λ = X U (0, θ ), θˆ = 2 X ˆ= 1 e ( λ ), λ X 2 ˆ N ( µ , σ ), µ = X , σ
n →∞ 1 n
判断公式:
ˆ lim Dθ ( x1 ,..., xn ) = 0
n →∞ n →∞
ˆ lim b(θ ) = lim[ Eθ ( x1 ,..., xn ) − θ ] = 0
n →∞
谢谢! 谢谢!
2
= β2
最大似然估计原理:似然函源自:L(θ1 ,..., θ k ) = ∏ f ( xi ;θ1 ,...,θ k )
i =1
n
似然函数是把联合分布中的样本观察值( x1 ,..., xn ) 看成 θ1 ,..., θ k 的函数。 似然的意思就是“好像是”,即“好像是” 这样一组 θ1 ,...,θ k 使得结果 ( x1 ,..., xn ) 发生了。
似然函数
求解方法: 列出似然函数 写出对数自然函数(如果可以) 求导,令导数为0 求出最大似然估计量
评选估计量的标准
无偏性: 若
θˆ ( x1 ,...xn ) 的数学期望存在且 ˆ Eθ ( x1 ,...xn ) = θ 则称 ˆ 为无偏估计量。 θ ( x ,...x )
1 n
无偏估计的含义是估计参数与真实参数的误 差的平均值为0,即只有随机误差,没有系统 误差。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
§7.2 点估计的评价标准
同一参数可以有几种不同的估计,这时就需要判断采用哪一种估计为好的问题。
另一方面,对于同一个参数,用矩法和极大似然法即使得到的是同一个估计, 也存在衡量这个估计优劣的问题。
估计量的评选标准就是:评价一个估计量“好”与“坏”的标准。
评价一个估计量的好坏, 不能仅仅依据一次试验的结果, 而必须由多次试验结果来衡量. 因为估计量是样本的函数, 是随机变量. 故由不同的观测结果, 就会求得不同的参数估计值. 因此一个好的估计, 应在多次重复试验中体现出其优良性.
估计量的评价一般有三条标准:1. 无偏性;2. 有效性;3. 相合性(一致性)
一.无偏性
估计量是随机变量, 对于不同的样本值会得到不同的估计值. 一个自然的要求是希望估计值在未知参数真值的附近, 不要偏高也不要偏低. 由此引入无偏性标准.
定义1 设),,(ˆ1n
X X θ是未知参数θ的估计量, 若,)ˆ(θθ=E 则称θˆ为θ的无偏估计量. 若ˆ()E θ
θ≠称ˆθ为有偏估计量,ˆ()E θθ-并称为估计量 ˆθ的偏差.如果ˆθ是有偏估计量,ˆˆlim (),n E θθθθ→∞
=但,则称是的渐近无偏估计量 注: 无偏性是对估计量的一个常见而重要的要求, 其实际意义是指估计量没有
系统偏差,只有随机偏差. 在科学技术中, 称θθ
-)ˆ(E 为用θˆ估计θ而产生的系统误差.
定理1 设12,,n X X X 为取自总体X 的样本,总体X 的均值为μ, 方差为2σ.则
(1) 样本均值X 是μ的无偏估计量;
(2) 样本方差2S 是2σ的无偏估计量;
(3) 样本二阶中心矩221
1()n
i i B X X n ==-∑是2σ的不是无偏估计量.,是渐近无偏估计量
证明:(1)因为 12,,n X X X 独立同分布,且()i E X μ=所以
11
111()()n n i i i i E X E X E X n n n n μμ==⎡⎤===⋅=∑∑⎢⎥⎣⎦ 故X 是μ的无偏估计量;
(2)因
2222221111111()2()111n n n n i i i i i i i i S X X X X X nX X nX n n n ====⎡⎤⎛⎫=-=-+=-∑∑ ⎪⎢⎥---⎣⎦⎝⎭
∑∑ 注意到
2
2222222()()[()],()()[()],
i i i E X D X E X n E X D X E X σμσμ=+=+=+=+
于是,有
22
222222111()()()().11n i i E S E X nE X n n n n n σσμμσ=⎡⎤⎛⎫⎡⎤=-=+-+=∑⎢⎥ ⎪⎢⎥⎣⎦--⎝⎭⎣⎦
故样本方差2S 是2σ的无偏估计量; (3)222111()n i i n B X X S n n
=-=-=∑ 222211()()n n E B E S n n
σσ--==≠ 故2B 是2σ的有偏估计量.
2221lim ()lim n n n E B n
σσ→∞→∞-== 故2B 是2σ的渐近无偏估计量.
二.有效性
一个参数θ常有多个无偏估计量,在这些估计量中,自然应选用对θ的偏离程度较小的为好,即一个较好的估计量的方差应该较小.由此引入评选估计量的另一标准—有效性.
定义2 设),,(ˆˆ111n X X θθ=和),,(ˆˆ122n
X X θθ=都是参数θ的无偏估计量, 若)ˆ()ˆ(21θθD D <,则称1ˆθ较2
ˆθ有效. 例1:设123,,X X X 是总体X 的样本,证明
11231ˆ (),3X X X μ=++21231ˆ ()2X X X μ=-+33121ˆ ()42
X X X μ=++ 都是总体均值()E X 的无偏估计量,并比较哪个更有效.
解: 112311ˆE( )[()()()][()()()]()33
E X E X E X E X E X E X E X μ=++=++= 212311ˆE( )()()()()22
E X E X E X E X μ=-+= 3123111ˆE( )()()()()442
E X E X E X E X μ=++= 故1ˆ μ
,2ˆ ,μ3ˆ μ都是总体均值()E X 的无偏估计量 112311ˆD( )[()()()]()93
D X D X D X D X μ=++= 212313ˆD( )[()()]()()42
D X D X D X D X μ=++= 3123113ˆD( )[()()]()()1648
D X D X D X D X μ=++= 则132ˆˆˆD( )D( )D( )μ
μμ<<,故1ˆ μ较2ˆ ,μ3ˆ μ更有效 三.一致性 (相合性)
我们不仅希望一个估计量是无偏的, 并且具有较小的方差, 还希望当样本容量无限增大时, 估计量能在某种意义下任意接近未知参数的真值, 由此引入相合性(一致性)的评价标准.
定义 3 设),,(ˆˆ1n
X X θθ=为未知参数θ的估计量, 若当n →∞时,θˆ依概率收敛于θ, 即对任意0>ε, 有
,1}|ˆ{|lim =<-∞
→εθθP n 或
,0}|ˆ{|lim =≥-∞→εθθ
P n
则称θˆ为θ的一致估计量.
例2:证明样本k 阶原点矩1
1n k k i i A X n ==∑是总体k 阶原点矩)(k X E 的一致估计量. 证明: 样本k 阶原点矩1
1n k k i i A X n ==∑依概率收敛于总体k 阶原点矩)(k X E 即对任意的0ε>,有
111111lim |()lim |()1,n n n k k k k i i i n n i i i P X E X P X E X n n n εε→∞→∞===⎧⎫⎧⎫-<=-<=⎨⎬⎨⎬⎩⎭⎩⎭
∑∑∑ 所以k A 是总体)(k X E 的一致估计量.
注:1样本方差2S 是总体方差2σ的一致估计量.由于样本k 阶原点矩与样本方差分别作为总体k 阶原点矩与总体方差的估计是无偏的、一致的,因此是较好的估计,
2.若12(,,)l g t t t 是连续函数,),,,(ˆ21n X X X θ是ˆ(1,2,)i i l θ=的一致估计量,则12ˆˆˆ(,,)l
g θθθ是12(,,)l g θθθ的一致估计量,所以用矩估计法确定的统计量一般是一致估计量.人们还证明了在相当广泛的情况下,极大似然估计量也是一致估计量.。