点估计的评价标准
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
例2 设总体 X 的期望 与方差存在, X 的
样本为 (X1,X2,,Xn) (n > 1) . 证明
(1) Sn2 1nin1(Xi X)2不是 D( X )的无偏估量;
(2) S2n11in1(Xi X)2是 D( X ) 的无偏估计量.
证 前已证 n 1i n1(Xi X)2n 1i n1Xi2X2 E ( X i ) E ( X ) ,D ( X i ) D ( X ) 2 E (X)E (X),D (X)2 n
结论 算术均值比加权均值更有效.
60 Ch7-60
例如 X ~ N( , 2 ) , ( X 1 ,X 2 ) 是一样本.
ˆ 1
2 3
X1
1 3
X
2
ˆ 2
1 4
X1
3 4
X
2
都是 的无偏估计量
ˆ 3
1 2
X1
1 2
X
2
由例6(2) 知 ˆ 3 最有效.
61 Ch7-61
罗—克拉美(Rao – Cramer)不等式
我们不可能要求每一次由样本得到的 估计值与真值都相等,但可以要求这些估 计值的期望与真值相等.
48 Ch7-48
例1 设总体X 的 k 阶矩 k E(Xk)存在
(X1,X2, ,Xn)是总体X 的样本,
证明: 不论 X 服从什么分布(但期望存在),
则 Ak 证 由于
1 n
n i1
X
k i
是 k 的无偏估计量.
58 Ch7-58
例6 设总体 X,且 E( X )= , D( X )= 2
(X1,X2, ,Xn)为总体 X 的一个样本
(1)
设常数
ci
1 n
i1,2,,n.
n
ci 1.
i 1
证明
n
ˆ1 ci X i
是 的无偏估计量
i1
(2) 证明 ˆ X 比 ˆ1 n ci Xi 更有效
i1
§7.2 点估计的评价标准
46 Ch7-46
对于同一个未知参数,不同的方法得到 的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用 标准
(1) 无偏性 (2) 有效性 (3) 一致性
无偏性
47 Ch7-47
定义 若 E(ˆ)
则称 ˆ是 的无偏估计量.
定义的合理性
若ˆ 是参数 的无偏估计量, 则
D(ˆ)nEln1p(X,)2 D0()
其中 p ( x , ) 是 总体 X 的概率分布或密
度函数,称 D0( )为方差的下界.
当 D(ˆ)D0()时, 称 ˆ 为达到方差下界的 无偏估计量, 此时称 ˆ 为最有效的估计量, 简称有效估计量.
例7 设总体 X 的密度函数为
解 由于样本矩是总体矩的无偏估计量 以及数学期望的线性性质, 只要将未知 参数表示成总体矩的线性函数, 然后用样 本矩作为总体矩的估计量, 这样得到的未 知参数的估计量即为无偏估计量.
令 XE(X)np
m 1im Байду номын сангаасXi2E(X2)(n)p 2n(1 pp)
故
(n2n)p2
1 m mi1
Xi2
n
1
i1
(1P(Xi
z))
0
nz
1e
z0 z0
fZ(z)ne0nz
即 Z~En
z0
z0
E(Z)
n
E(nZ )
故 n Z 是 的无偏估计量.
有效性
56 Ch7-56
定义 设 ˆ11(X1,X2, ,Xn)
ˆ22(X 1,X2, ,Xn)
都是总体参数 的无偏估计量, 且
D (ˆ1)D (ˆ2)
则称 ˆ1 比ˆ 2 更有效.
证
(1)
n
n
E(ˆ1) ciE(Xi) ci
i1
i1
n
n
(2) D(ˆ1) ci2D(Xi)2 ci2
i1
i1
n
2n
而
59 Ch7-59
1
ic
ic 2
2
ic jc
i1 i1
1i jn
n
n
ci2 (ci2c2 j)n ci2
i1
1ijn
i1
n
i 1
c
2 i
1 n
D(ˆ)1n2D(ˆ1)
的极大似然估计量为
ˆ
1n n i1 Xi
X
它是 的无偏估计量.
D(ˆ)D(1 n ni1
2
Xi) n
而 lnf(x,)lnx
64 Ch7-64
因而
51 Ch7-51
E 1 ni n 1(X iX )2 1 ni n 1E (X i2) E (X 2)
(22)(22)
n
n1 2 2
n
故
En11in1(Xi
X)22
证毕.
52 Ch7-52
例3 设(X1,X2,,Xm)是总体 X 的一个样本 , X~B(n , p) n > 1 , 求 p 2 的无偏估计量.
62 Ch7-62
f
(x;)
1
x
e
x 0, 0 为常数
(x1,x2,,xn)为0 X
x0
的一个样本值.
求 的极大似然估计量, 并判断它是否达到
方差下界的无偏估计量.
解 由似然函数
n
xi
L(
)
1
n
e
i 1
n
xi
lnL()nlni1
n
ddlnL()n i1x2i
令
0
63 Ch7-63
ˆ 1nin1xi x
估计量
证
X~E1
E(X)
故 E(X)E(X)
X 是 的无偏估计量.
令
ZmX i1 ,n X 2 { , ,X n}
55 Ch7-55
F Z ( z ) 1 P ( X 1 z ,X 2 z , ,X n z )
1 P ( X 1 z ) P ( X 2 z ) P ( X n z )
例5 设总体 X 的密度函数为
57 Ch7-57
f
(x;)
1
x
e
0
x0, 0 为常数
x0
由例4可知, X 与 nmiXn 1,X {2, ,Xn}都
是 的无偏估计量,问哪个估计量更有效?
解
D(X)
2
n
,D ( n m X 1 ,i X 2 ,n ,X { n } ) 2
所以,X 比nmiX n 1,X { 2, ,Xn}更有效.
E (Xik)k i1,2, ,n因而
E(Ak)E(1 ni n1Xik)1 ni n1E(Xik)
1nnk k
特别地
49 Ch7-49
样本均值 X 是总体期望 E( X ) 的 无偏估计量
样本二阶原点矩
A2
1 n
n i1
Xi2是总体
二阶原点矩 2 E(X2) 的无偏
估计量
50 Ch7-50
X
因此, p 2 的无偏估计量为
53 Ch7-53
p2n21nm 1im 1Xi2X
1 m
m i1
Xi(Xi
1)
n(n 1)
例4 设总体 X 的密度函数为
54 Ch7-54
f
(x;)
1
x
e
x 0,
0 为常数
0
x0
(X1,X2, ,Xn) 为 X 的一个样本
证明 X 与 nmiXn 1,X {2, ,Xn}都是 的无偏
样本为 (X1,X2,,Xn) (n > 1) . 证明
(1) Sn2 1nin1(Xi X)2不是 D( X )的无偏估量;
(2) S2n11in1(Xi X)2是 D( X ) 的无偏估计量.
证 前已证 n 1i n1(Xi X)2n 1i n1Xi2X2 E ( X i ) E ( X ) ,D ( X i ) D ( X ) 2 E (X)E (X),D (X)2 n
结论 算术均值比加权均值更有效.
60 Ch7-60
例如 X ~ N( , 2 ) , ( X 1 ,X 2 ) 是一样本.
ˆ 1
2 3
X1
1 3
X
2
ˆ 2
1 4
X1
3 4
X
2
都是 的无偏估计量
ˆ 3
1 2
X1
1 2
X
2
由例6(2) 知 ˆ 3 最有效.
61 Ch7-61
罗—克拉美(Rao – Cramer)不等式
我们不可能要求每一次由样本得到的 估计值与真值都相等,但可以要求这些估 计值的期望与真值相等.
48 Ch7-48
例1 设总体X 的 k 阶矩 k E(Xk)存在
(X1,X2, ,Xn)是总体X 的样本,
证明: 不论 X 服从什么分布(但期望存在),
则 Ak 证 由于
1 n
n i1
X
k i
是 k 的无偏估计量.
58 Ch7-58
例6 设总体 X,且 E( X )= , D( X )= 2
(X1,X2, ,Xn)为总体 X 的一个样本
(1)
设常数
ci
1 n
i1,2,,n.
n
ci 1.
i 1
证明
n
ˆ1 ci X i
是 的无偏估计量
i1
(2) 证明 ˆ X 比 ˆ1 n ci Xi 更有效
i1
§7.2 点估计的评价标准
46 Ch7-46
对于同一个未知参数,不同的方法得到 的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用 标准
(1) 无偏性 (2) 有效性 (3) 一致性
无偏性
47 Ch7-47
定义 若 E(ˆ)
则称 ˆ是 的无偏估计量.
定义的合理性
若ˆ 是参数 的无偏估计量, 则
D(ˆ)nEln1p(X,)2 D0()
其中 p ( x , ) 是 总体 X 的概率分布或密
度函数,称 D0( )为方差的下界.
当 D(ˆ)D0()时, 称 ˆ 为达到方差下界的 无偏估计量, 此时称 ˆ 为最有效的估计量, 简称有效估计量.
例7 设总体 X 的密度函数为
解 由于样本矩是总体矩的无偏估计量 以及数学期望的线性性质, 只要将未知 参数表示成总体矩的线性函数, 然后用样 本矩作为总体矩的估计量, 这样得到的未 知参数的估计量即为无偏估计量.
令 XE(X)np
m 1im Байду номын сангаасXi2E(X2)(n)p 2n(1 pp)
故
(n2n)p2
1 m mi1
Xi2
n
1
i1
(1P(Xi
z))
0
nz
1e
z0 z0
fZ(z)ne0nz
即 Z~En
z0
z0
E(Z)
n
E(nZ )
故 n Z 是 的无偏估计量.
有效性
56 Ch7-56
定义 设 ˆ11(X1,X2, ,Xn)
ˆ22(X 1,X2, ,Xn)
都是总体参数 的无偏估计量, 且
D (ˆ1)D (ˆ2)
则称 ˆ1 比ˆ 2 更有效.
证
(1)
n
n
E(ˆ1) ciE(Xi) ci
i1
i1
n
n
(2) D(ˆ1) ci2D(Xi)2 ci2
i1
i1
n
2n
而
59 Ch7-59
1
ic
ic 2
2
ic jc
i1 i1
1i jn
n
n
ci2 (ci2c2 j)n ci2
i1
1ijn
i1
n
i 1
c
2 i
1 n
D(ˆ)1n2D(ˆ1)
的极大似然估计量为
ˆ
1n n i1 Xi
X
它是 的无偏估计量.
D(ˆ)D(1 n ni1
2
Xi) n
而 lnf(x,)lnx
64 Ch7-64
因而
51 Ch7-51
E 1 ni n 1(X iX )2 1 ni n 1E (X i2) E (X 2)
(22)(22)
n
n1 2 2
n
故
En11in1(Xi
X)22
证毕.
52 Ch7-52
例3 设(X1,X2,,Xm)是总体 X 的一个样本 , X~B(n , p) n > 1 , 求 p 2 的无偏估计量.
62 Ch7-62
f
(x;)
1
x
e
x 0, 0 为常数
(x1,x2,,xn)为0 X
x0
的一个样本值.
求 的极大似然估计量, 并判断它是否达到
方差下界的无偏估计量.
解 由似然函数
n
xi
L(
)
1
n
e
i 1
n
xi
lnL()nlni1
n
ddlnL()n i1x2i
令
0
63 Ch7-63
ˆ 1nin1xi x
估计量
证
X~E1
E(X)
故 E(X)E(X)
X 是 的无偏估计量.
令
ZmX i1 ,n X 2 { , ,X n}
55 Ch7-55
F Z ( z ) 1 P ( X 1 z ,X 2 z , ,X n z )
1 P ( X 1 z ) P ( X 2 z ) P ( X n z )
例5 设总体 X 的密度函数为
57 Ch7-57
f
(x;)
1
x
e
0
x0, 0 为常数
x0
由例4可知, X 与 nmiXn 1,X {2, ,Xn}都
是 的无偏估计量,问哪个估计量更有效?
解
D(X)
2
n
,D ( n m X 1 ,i X 2 ,n ,X { n } ) 2
所以,X 比nmiX n 1,X { 2, ,Xn}更有效.
E (Xik)k i1,2, ,n因而
E(Ak)E(1 ni n1Xik)1 ni n1E(Xik)
1nnk k
特别地
49 Ch7-49
样本均值 X 是总体期望 E( X ) 的 无偏估计量
样本二阶原点矩
A2
1 n
n i1
Xi2是总体
二阶原点矩 2 E(X2) 的无偏
估计量
50 Ch7-50
X
因此, p 2 的无偏估计量为
53 Ch7-53
p2n21nm 1im 1Xi2X
1 m
m i1
Xi(Xi
1)
n(n 1)
例4 设总体 X 的密度函数为
54 Ch7-54
f
(x;)
1
x
e
x 0,
0 为常数
0
x0
(X1,X2, ,Xn) 为 X 的一个样本
证明 X 与 nmiXn 1,X {2, ,Xn}都是 的无偏