估计量的评价标准

n ( 2 2 ) n 1 2 2 2
n1
n1 n
即
n
解:
ES2=
σ2。 而i1
(X Sn
2i 2
n2X1i X S
n
2,
X
2
)
故
ESn2
n 1 ES2 n
n1 2
n
估计所.n 以n 1,[
DSX
2
n
D不X是] σ2的n 无[偏DX估计DX,
n1
n
但] 其=D是Xσ2的渐近无偏
ˆ
更有效.
2
证明: E1 EX
E 2
E( 1 k
1 E( kn
Xi )
i1
n
i 1
Xi)
1 k
k
1 n
n
D 1
DX
D( 1 n
n i1
Xi )
1 n2
nDXi
2 n
样本 容量 越大, 样本 均值 估计
D 2
D( 1 k
k i1
Xi )
1 k2
k
DXi
2 k
值越 有效.
D 1 D 2,
如果E(ˆ ) ,那么E(ˆ ) 称为 ˆ 的偏差. 若 lim E(ˆ) 则称 ˆ 是θ的 渐近无偏估计.
n
例
7.2.1
验证:
S2
1 n
n 1 i1 ( X i
X )2
是总体X方差DX＝σ2
解的：一第E个六(iSn无章12()我 偏X i们估E证计Xn 1明 );21过 Sinn12:i(n1X(n1iXiniE1X2((X)X2i2)XXin)Xn21,不X1DEiX是(2X2i方n))1n(X差X2ni的2 X无)2偏 估计.
期望的点估计:
选择估计量
X
1 n
n i1
Xi
(1)无偏性 (2)样本容量越大,估计值 越有效
方差的点估计:
选择估计量
关于相合性的两个常用结论
1. 样本 k 阶矩是总体 k 阶矩的相合性估计量.
Leabharlann Baidu
由大数定律证明
2.设 ˆ 是 的无偏估计
量, 且 lim D(ˆ ) 0, 则 n
ˆ 是 的相合估计量.
用切贝雪夫不 等式证明
3.期望和方差的点估计
在实际中,常常以样本均值作为总体均值的
点估计,以样本方差作为总体方差的点估计.
均方误差准 则 用估计量 ˆ( X1, X2 , , Xn )去估计,
产生误差为:
ˆ .
由于它是随机变量,我们通常是通过对它求 均值来看看误差有多大.
注意:为了防止求均值时正误差和负误差相互 抵消,我们先将其平方再求均值,并将其称为均
方误差,记为MSE(), 即
MSE (ˆ) E(ˆ )2
均方误差准则 假如有的两个估计:ˆ1和ˆ2 . 这时两个估计中哪一个估计的均方误 差小,我们就把哪一个估计看作比较优,这 种判定估计量的准则叫均方误差准则. 说明 均方误差能够分解成两部分:
/
3,
1, 2
Eˆ 3
1 2
EX1
2 3
EX 2
1 3
EX 3
为无偏估计量,D 1
D2
,
5 EX 5 66
2 更有效.
例7.23 设总体X 的方差存在，X1, X2,…, Xn k
是来自X的s.r.s,试证:
ˆ1
X , ˆ2
1 k
Xi ,(k n)
i 1
为E(X)＝μ的无偏估计,
且
ˆ 1比
第7.2节 估计量的评价标准
容易明白, 对同一个未知参数, 采用不同的方 法找到的点估计可能不同. 那么, 自然要问: 究竟是用哪一个更“好”些呢? 这里介绍三个 评价标准.
常用 标准
(1) 无偏性 (2) 有效性 (3) 相合性(或一致性)
标准一: 无偏性 假设总体分布的参数为. 设ˆ 为θ的一个点估计,若 E(ˆ) , 则称ˆ为θ的一个无偏估计.
ˆ 3
1 2
X1
2 3
X2
1 3
X3
解:
Eˆ 1
E[ 1 2
X1
1 2
X2 ]
1 2
EX1
1 2
EX 2
=EX=μ
Dˆ 1
D[
1 2
X1
1 2
X
2
]
1 4 DX1
1 4 DX2
=DX/2=σ2/2
同理
Eˆ 2
1 3
EX1
1 3
EX 2
1 3
EX 3
EX
,
Dˆ 2
1 9
DX1
1 9
DX2
1 9
DX3
2
标准三: 相合性(一致性)
设统计量ˆ 是未知参数 的点估
计量,样本容量为 n , 若对任意 0,
lim
P
|
|
1,
则称
ˆ为
的相合
n估计, 又称一致估计.
相合性表明:当样本容量充分大时,事件
“相合估计量充分接近被估计未知参数的概率” 接近于1,换言之,当样本容量充分大时,事件 “相合估计量与被估未知参数偏离较大”的概 率接近于零.以后,将概率很小的事件被称为小 概率事件.
1 n1
E in1
X
2 i
2X
n
i 1
Xi
nX
2
i1nn1n11EEXin21
X i2nnn1XE2(X
2
)
nnn111[
n
iD1XE
(X(
i2E)X
)n2
n1DEX(
2
X(
E) X
)2
]
1 n
1
n
{D( Xi
i 1
)
[En(nX1i )[]2D} X
nnD1nX{D]( X=)DX[E( X
)]2 }
而S2为σ2的无偏估计.
注意
如果ˆ是参数的一个估计.我们通常总是用
g(ˆ)为g( )的估计. 但是必须注意的是 :
当ˆ是的无偏估计时, g(ˆ)却未必是g( )的无偏估计.
例 求证:样本标准差S不是总体标准差的 无偏估计.
证明: ∵E(S2)=2 ∴就是D(S)+[E(S)]2 =2 ∵D(S)≥0 ∴[E(S)]2 =2 -D(S)≤2 ∴E(S)≤. 即:一般说S不是的无偏估计.
标准二: 有效性(方差最小性) D(ˆ 1) 设D(ˆˆ 21和)则ˆ称2是ˆ1比的ˆ两2更个有无效偏.估计,若
例7.2.2. 设X1,X2,X3为来自总体X的简单随机样
本, EX=μ,DX=σ2, 验证下列统计量哪个更有效.
ˆ 1
1 2
X1
1 2
X2 ,
ˆ 2
1 3
X1
1 3
X2
1 3
X3 ,
MSE (ˆ) D(ˆ) [E(ˆ) ]2
证明: MSE (ˆ) E(ˆ )2 E{[ˆ E(ˆ)] [E(ˆ) ]}2
E[ˆ E(ˆ)]2 2[E(ˆ) ] E[ˆ E(ˆ)] [E(ˆ) ]2
E[ˆ E(ˆ)]2 [E(ˆ) ]2
D(ˆ) [E(ˆ) ]2
MSE (ˆ) D(ˆ) [E(ˆ) ]2
上式表明,均方误差由两部分构成: 第一部分是估计量的方差. 第二部分是估计量的偏差E(ˆ) 的平方.
注意:如果一个估计量是无偏的,则第 二部分是零.即有: MSE (ˆ) D(ˆ)
方差准则 如果限定在无偏估计里考虑 问题,这时两个估计中哪一个估计的方差 小, 我们就把哪一个估计看作比较优,这 种判定估计量的准则叫方差准则.