第二节 估计量的评价标准精品PPT课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
You Know, The More Powerful You Will Be
谢谢你的到来
学习并没有结束，希望大家继续努力
Learning Is Not Over. I Hope You Will Continue To Work Hard
演讲人：XXXXXX 时 间：XX年XX月XX日
12
由切比雪夫大数定律,对 0 ,有
lim
n
P
1 n
n i 1
Xi
EX
0 ，
可知 X 是 EX 的一个一致估计量。
由辛钦大数定理可以证明，
S 2
1 n1
n i 1
(Xi
X )2
是DX的一致估计量。
13
练习：
P201 习题七
14
写在最后
经常不断地学习,你就什么都知道。你知道得越多,你就越有力量 Study Constantly, And You Will Know Everything. The More
4
设 (X1,, Xn ) 为取自总体 X 的样本，
E( X ) E( X ) ，
说明 X 是总体均值E( X ) 的无偏估计；
样本方差
S2
1 n1
n i 1
(Xi
X
)2
，
E(S 2 )
Байду номын сангаас
D( X
)，
说明 S 2 是总体方差 D( X ) 的无偏估计.
二阶中心矩
B2
1 n
n i 1
(Xi
X )2
D(ˆ1 ) D(ˆ2 ) 则称 ˆ1 比 ˆ2 有效。
例3 设 ( X1, X 2 , X 3 ) 为取自总体 X 的样本, 试证明下列 三个统计量均为 EX 的无偏估计量，并比较有效性.
ˆ1
1 5
X1
3 10
X2
1 2
X3
,
ˆ2
2 3
X1
1 2
X2
1 6
X3
,
ˆ3
1 3
X1
1 3
X2
1 3
X3
有
D( S12
)
D(
S
2 2
)
。
此定理说明,增加样本容量可提高估计量的有效性。
有效性概念说明,在无偏估计量中,方差越小越
有效,那末,方差是否有下界呢？
Rao-Cramer不等式
Dˆ
nE
ln
1
f ( X;
)2
取到等号时,ˆ 称为 的有效估计量. 11
三、相合性
定义 如果对 0 ,有
lim
n
.
8
ˆ1
1 5
X1
3 10
X2
1 2
X3
,
ˆ2
2 3
X1
1 2
X2
1 6
X3
,
ˆ3
1 3
X1
1 3
X2
1 3
X3
.
证
E(ˆ1 )
E(
1 5
X1
3 10
X
2
1 2
X
3
)
( 1 3 1 )EX EX , 5 10 2
E(ˆ2 )
(2 3
1 2
1 )EX 6
EX
,
所 以 ˆ1 ,ˆ2 ,ˆ3
均为 EX 的无偏
则称ˆ 为 的无偏估计量。
3
E(ˆ) ，
无偏估计量的含义是：ˆ 作为样本的函数 是一个随机变量，它在 的真值附近波动，但其 平均值恰好是 的真值。比如用一台秤去称物
品，误差有两个来源：一是秤本身制作结构上的 问题，这属于系统误差；另一种是操作上或其它 随机因素的干扰，这属于随机误差。无偏性即要 求没有系统误差。
4 ( 9
1 4
1 )DX
36
0.72DX
,
D(ˆ3 )
(1 9
1 9
1 )DX 9
0.33DX
.
所 以 ˆ3 最
为有效。
10
定理 从正态总体 X ~ N (, 2 ) 中分 别抽取容量
为 n1 和 n2 的两个相互独立的样本，其样本方差分别为
S12 和 S22 ，它们都是 2 的无偏估计。当 n1 n2 时，
第二节
1
对于同一个参数,用不同的方法可以得到不同的 估计量. 现在的问题是,当同一参数出现多个估计 量时,究竟哪一个更好呢? 这就涉及到用什么标准 来评价估计量的问题.
确定估计量好坏的标准必须是整体性的,说得 明确一点就是,必须在大量观察的基础上从统计的 意义上来评价估计量的好坏.也就是说,估计的好 坏取决于估计量的统计性质.一般认为,一个“好” 的估计量应该具有如下的条件:
的无偏估计？
证 E( X 2 ) D( X ) [E( X )]2
1 D( X ) 2 2 ,
n
故 X 2 不是 2 的无偏估计。
6
二、有效性
一般来说,一个参数往往有多个无偏估计量.
若 有两个无偏估计量: ˆ1 ,ˆ2 , 则 ˆ aˆ1 bˆ2 当a+b=1时也是 的无偏估计量。
，
E(B2 )
n1 n
D( X
) ，说明
B2
是
D( X ) 的有偏估计.
5
例1 设总体 X 服从均匀分布U (0, ) ，试证 的矩法估计量ˆ 2X 是 的无偏估计量。
证 E(ˆ) E(2X ) 2E( X ) 2E( X ) 2 .
2
例2 设 D( X ) 0 , E( X ) ,试问 X 2 是否为 2
估计量的无偏性只保证了估计量的取值在参数 真值周围波动,但是波动的幅度有多大呢?自然的, 我们希望估计量波动的幅度越小越好,幅度越小,则 估计量取值与参数真值有较大偏差的可能性越小, 而衡量随机变量波动幅度的量就是方差.这样就有 了我们下面要介绍的有效性的概念.
7
定义 设总体有一未知参数 ,样本( X1,, X n ) ，ˆ1 ,ˆ2 均为 的无偏估计，如果
P{ ˆn
} 0，
则称ˆn 是 的相合估计量。
即当 n 时, ˆ( X1, X 2 ,, X n ) 依概率收敛于 .
直观上看,当n增大时,样本信息增多,当然希望估计 量越来越靠近真值的概率也越来越大, 这种想法就 引出了上面的一致性概念. 一致估计量一般地是当 样本容量很大时,才能显示其优点.
2
一、无偏性
估计量是随机变量, 对于不同的样本值就会得到 不同的估计值, 希望估计值在未知参数真值左右徘徊, 最好它的数学期望等于未知参数的真值, 这就导致了 无偏性这个标准。
定义 设( X1,, Xn ) 是总体X 的一个样本,ˆ ˆ( X1,, Xn ) 是未知参数 的估计量,如果有
E(ˆ) ，
E(ˆ3 )
(1 3
1 3
1 )EX 3
EX
,
估计量。
9
ˆ1
1 5
X1
3 10
X2
1 2
X3
,
ˆ2
2 3
X1
1 2
X2
1 6
X3
,
ˆ3
1 3
X1
1 3
X2
1 3
X3
.
证
D(ˆ1 )
D( 1 5
X1
3 10
X
2
1 2
X
3
)
( 1 9 1 )DX 0.38DX , 25 100 4
D(ˆ2 )
谢谢你的到来
学习并没有结束，希望大家继续努力
Learning Is Not Over. I Hope You Will Continue To Work Hard
演讲人：XXXXXX 时 间：XX年XX月XX日
12
由切比雪夫大数定律,对 0 ,有
lim
n
P
1 n
n i 1
Xi
EX
0 ，
可知 X 是 EX 的一个一致估计量。
由辛钦大数定理可以证明，
S 2
1 n1
n i 1
(Xi
X )2
是DX的一致估计量。
13
练习：
P201 习题七
14
写在最后
经常不断地学习,你就什么都知道。你知道得越多,你就越有力量 Study Constantly, And You Will Know Everything. The More
4
设 (X1,, Xn ) 为取自总体 X 的样本，
E( X ) E( X ) ，
说明 X 是总体均值E( X ) 的无偏估计；
样本方差
S2
1 n1
n i 1
(Xi
X
)2
，
E(S 2 )
Байду номын сангаас
D( X
)，
说明 S 2 是总体方差 D( X ) 的无偏估计.
二阶中心矩
B2
1 n
n i 1
(Xi
X )2
D(ˆ1 ) D(ˆ2 ) 则称 ˆ1 比 ˆ2 有效。
例3 设 ( X1, X 2 , X 3 ) 为取自总体 X 的样本, 试证明下列 三个统计量均为 EX 的无偏估计量，并比较有效性.
ˆ1
1 5
X1
3 10
X2
1 2
X3
,
ˆ2
2 3
X1
1 2
X2
1 6
X3
,
ˆ3
1 3
X1
1 3
X2
1 3
X3
有
D( S12
)
D(
S
2 2
)
。
此定理说明,增加样本容量可提高估计量的有效性。
有效性概念说明,在无偏估计量中,方差越小越
有效,那末,方差是否有下界呢？
Rao-Cramer不等式
Dˆ
nE
ln
1
f ( X;
)2
取到等号时,ˆ 称为 的有效估计量. 11
三、相合性
定义 如果对 0 ,有
lim
n
.
8
ˆ1
1 5
X1
3 10
X2
1 2
X3
,
ˆ2
2 3
X1
1 2
X2
1 6
X3
,
ˆ3
1 3
X1
1 3
X2
1 3
X3
.
证
E(ˆ1 )
E(
1 5
X1
3 10
X
2
1 2
X
3
)
( 1 3 1 )EX EX , 5 10 2
E(ˆ2 )
(2 3
1 2
1 )EX 6
EX
,
所 以 ˆ1 ,ˆ2 ,ˆ3
均为 EX 的无偏
则称ˆ 为 的无偏估计量。
3
E(ˆ) ，
无偏估计量的含义是：ˆ 作为样本的函数 是一个随机变量，它在 的真值附近波动，但其 平均值恰好是 的真值。比如用一台秤去称物
品，误差有两个来源：一是秤本身制作结构上的 问题，这属于系统误差；另一种是操作上或其它 随机因素的干扰，这属于随机误差。无偏性即要 求没有系统误差。
4 ( 9
1 4
1 )DX
36
0.72DX
,
D(ˆ3 )
(1 9
1 9
1 )DX 9
0.33DX
.
所 以 ˆ3 最
为有效。
10
定理 从正态总体 X ~ N (, 2 ) 中分 别抽取容量
为 n1 和 n2 的两个相互独立的样本，其样本方差分别为
S12 和 S22 ，它们都是 2 的无偏估计。当 n1 n2 时，
第二节
1
对于同一个参数,用不同的方法可以得到不同的 估计量. 现在的问题是,当同一参数出现多个估计 量时,究竟哪一个更好呢? 这就涉及到用什么标准 来评价估计量的问题.
确定估计量好坏的标准必须是整体性的,说得 明确一点就是,必须在大量观察的基础上从统计的 意义上来评价估计量的好坏.也就是说,估计的好 坏取决于估计量的统计性质.一般认为,一个“好” 的估计量应该具有如下的条件:
的无偏估计？
证 E( X 2 ) D( X ) [E( X )]2
1 D( X ) 2 2 ,
n
故 X 2 不是 2 的无偏估计。
6
二、有效性
一般来说,一个参数往往有多个无偏估计量.
若 有两个无偏估计量: ˆ1 ,ˆ2 , 则 ˆ aˆ1 bˆ2 当a+b=1时也是 的无偏估计量。
，
E(B2 )
n1 n
D( X
) ，说明
B2
是
D( X ) 的有偏估计.
5
例1 设总体 X 服从均匀分布U (0, ) ，试证 的矩法估计量ˆ 2X 是 的无偏估计量。
证 E(ˆ) E(2X ) 2E( X ) 2E( X ) 2 .
2
例2 设 D( X ) 0 , E( X ) ,试问 X 2 是否为 2
估计量的无偏性只保证了估计量的取值在参数 真值周围波动,但是波动的幅度有多大呢?自然的, 我们希望估计量波动的幅度越小越好,幅度越小,则 估计量取值与参数真值有较大偏差的可能性越小, 而衡量随机变量波动幅度的量就是方差.这样就有 了我们下面要介绍的有效性的概念.
7
定义 设总体有一未知参数 ,样本( X1,, X n ) ，ˆ1 ,ˆ2 均为 的无偏估计，如果
P{ ˆn
} 0，
则称ˆn 是 的相合估计量。
即当 n 时, ˆ( X1, X 2 ,, X n ) 依概率收敛于 .
直观上看,当n增大时,样本信息增多,当然希望估计 量越来越靠近真值的概率也越来越大, 这种想法就 引出了上面的一致性概念. 一致估计量一般地是当 样本容量很大时,才能显示其优点.
2
一、无偏性
估计量是随机变量, 对于不同的样本值就会得到 不同的估计值, 希望估计值在未知参数真值左右徘徊, 最好它的数学期望等于未知参数的真值, 这就导致了 无偏性这个标准。
定义 设( X1,, Xn ) 是总体X 的一个样本,ˆ ˆ( X1,, Xn ) 是未知参数 的估计量,如果有
E(ˆ) ，
E(ˆ3 )
(1 3
1 3
1 )EX 3
EX
,
估计量。
9
ˆ1
1 5
X1
3 10
X2
1 2
X3
,
ˆ2
2 3
X1
1 2
X2
1 6
X3
,
ˆ3
1 3
X1
1 3
X2
1 3
X3
.
证
D(ˆ1 )
D( 1 5
X1
3 10
X
2
1 2
X
3
)
( 1 9 1 )DX 0.38DX , 25 100 4
D(ˆ2 )