北邮考研概率论与数理统计7点估计.ppt
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
你就会想，只发一枪便打中,猎人 命中的概率一般大于这位同学命中的 概率. 看来这一枪是猎人射中的 .
这个例子所作的推断已经体现了极大似然法的 基本思想 .
定义 设总体的概率函数为P(x; )，是参 第18页 数 可能取值的参数空间，x1, x2 , …, xn 是样本，将样本的联合概率函数看成 的函数，用L( ; x1, x2, …, xn) 表示，简记 为L( )，
矩估计法
第9页
它是基于一种简单的“替换” 思想建立起来的一种估计方法 .
是英国统计学家K.皮尔逊最早提出的 . 其基本思想是用样本矩估计总体矩 . 理论依据: 大数定律或格列汶科定理
矩法估计：用样本 k 阶矩作为总体 k 阶矩的估计 量, 建立含有待估参数的方程, 从而解出待估参数
设待估计的参数为 1, 2 ,, k
我们用一个统计量 ˆ ˆ(x1,的,取xn值) 作为 的估计值， 称为ˆ的点估计（量），简称 估计。在这里如何构造统计量 并没ˆ有明
确的规定，只要它满足一定的合理性即可。 这就涉及到两个问题：
➢ 其一 是如何给出估计，即估计的方法问题； ➢ 其二 是如何对不同的估计进行评价，即估
计的好坏判断标准。
例5 设总体 X ~ U (a, b), a, b 未知, 求参数a, b
7-15
第15页
的 矩法估计量。
解 由于 E ( X ) a b , var( X ) (b a)2
E
(
X
2
)
var(
X
)
2
E2
(
X
)
(b
a)2
12
a
b 2
12 2
a b E(X)
即2
用A1 =X ，A2
一个样本, 求 和 2的矩估计量.
解 1 E( X ) , 2 E( X 2 ) D( X ) [E( X )]2 2 2,
即
1, 2 2
2.
用样本K阶矩替换总体K阶矩，得到 矩估计量分别为
ˆ A1 X ,
ˆ 2 A2 A12
1 n
n i 1
Xi2
X
2
1 n
n i 1
• 思考：多个参数如何估计？
第8页
§7.1 点估计的几种方法
7.1.1 替换原理和矩法估计
一、矩法估计 替换原理是指用样本矩及其函数去替换相应的 总体矩及其函数，譬如：
• 用样本均值估计总体均值E(X)，即 Eˆ ( X ) x； • 用样本方差估计总体方差Var(X)，即 Vˆ ar( X ) sn2 • 用样本的 p 分位数估计总体的 p 分位数， • 用样本中位数估计总体中位数。
k k (1, 2,
, k ) , k )
用Ar (Ar
1 n
Βιβλιοθήκη Baidun i1
X
r i
)
替换r。
可得
ˆ1
=1
(A1
,
A
2
,
ˆk =k (A1, A2,
,Ak ) , Ak )
未知参数
1, ,k
的矩估计量
第11页
例1 对某型号的20辆汽车记录其每加仑汽油的 行驶里程(km)，观测数据如下：
29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9
(
Xi
X
)2 .
一般不论总体服从什么分布, 总体期望 与方差 2 存在,
则它们的矩估计量为
ˆ
1 n
n i 1
Xi
X
ˆ2
1 n
n
(X i
i 1
X )2
S *2
例3 设总体 X ~ E(), X1, X2,…, Xn为总体的 样 第13页
本, 求 的矩法估计量.
解 E(X ) 1/ ,
即 1/ E(X).
现从该总体选取容量为5的样本，我们
的任务是要根据选出的样本（5个数）求出总
体均值 的估计. 而全部信息就由这5个数组
成. 设这5个数是: 1.65 1.67 1.68 1.78 1.69
估计 为1.68， 这是点估计.
估计在区间[1.57, 1.84]内，这是区间估计.
第7页
• 设 x1, x2,…, xn 是来自总体 X 的一个样本，
第10页
设总体的 r 阶矩存在，记为 E ( X r ) r (1, 2 ,, k )
样本 X1, X2,…, X n 的 r 阶矩为 Ar 1 1(1,2, ,k )
1
n
n i 1
X
r i
则
—— 含未知参数 1,2, ,k 的
k k (1,2, ,k ) 方程组。
1 1(1, 2,
整理成
1 n
n i 1
Xi2替换E(X)、E( X
2)
(b a)2 12
a
2
b
2
E(X 2)，
解得
aˆ矩 X 3( A2 X 2 )
bˆ矩 X 3( A2 X 2 )
X
3 n
n i 1
(Xi
X )2
,
X
3 n
n i 1
(Xi
X
)2
.
7.1.2 极(最)大似然估计
第16页
极大似然估计法 是在总体类型已知条件下使用的一种
参数估计方法 . 它首先是由德国数学家
高斯在1821年提出的 , 然而，这个方法常归功于
Gauss
英国统计学家费歇 .
费歇在1922年重新发现了
这一方法，并首先研究了这
种方法的一些性质 .
Fisher
第17页
极大似然法的基本思想 某位同学与一位猎人一起外 出打猎 . 一只野兔从前方窜过 . 只听一声枪响，野兔应声倒下 . 如果要你推测， 是谁打中的呢？ 你会如何想呢?
用样本1阶矩替换总体1阶矩
故 矩 1/ X .
思考：矩估计是唯一的吗？ 其优缺点？
例4
设总体
～
(x)
(
1) x
0
是未知参数，求的矩估计。
第14页
0 x 1
其它
解：E
1
x
0
(
1) x dx
1 2
可得 2E( ) 1 1 E( )
用样本1阶矩替换总体1阶矩
解得 ˆ 2X 1
1 X
第七章 参数估计
§7.1 点估计 §7.3 估计量的评价标准 §7.4 区间估计 §7.5 正态总体均值与方差区间估计 §7.6 （0-1）分布参数区间 §7.7 单侧置信区间
参数估计 点估计 区间估计
第4页
假如我们要估计某队男生的平均身高.
（假定身高服从正态分布 N ( , 0.12 ) ）
经计算有
x 28.695,
sn2 0.9185,
m0.5 28.6
由此给出总体均值、方差和中位数的估计分
别为: 28.695, 0.9185 和 28.6。
矩法估计的实质是用经验分布函数去替换总 体分布，其理论基础是格里纹科定理。
例2 设总体 X 的均值 和方差 2 都存在,且有 第12页
2 0, 但 和 2 均为未知, 又设 X1, X2 ,, Xn 是
这个例子所作的推断已经体现了极大似然法的 基本思想 .
定义 设总体的概率函数为P(x; )，是参 第18页 数 可能取值的参数空间，x1, x2 , …, xn 是样本，将样本的联合概率函数看成 的函数，用L( ; x1, x2, …, xn) 表示，简记 为L( )，
矩估计法
第9页
它是基于一种简单的“替换” 思想建立起来的一种估计方法 .
是英国统计学家K.皮尔逊最早提出的 . 其基本思想是用样本矩估计总体矩 . 理论依据: 大数定律或格列汶科定理
矩法估计：用样本 k 阶矩作为总体 k 阶矩的估计 量, 建立含有待估参数的方程, 从而解出待估参数
设待估计的参数为 1, 2 ,, k
我们用一个统计量 ˆ ˆ(x1,的,取xn值) 作为 的估计值， 称为ˆ的点估计（量），简称 估计。在这里如何构造统计量 并没ˆ有明
确的规定，只要它满足一定的合理性即可。 这就涉及到两个问题：
➢ 其一 是如何给出估计，即估计的方法问题； ➢ 其二 是如何对不同的估计进行评价，即估
计的好坏判断标准。
例5 设总体 X ~ U (a, b), a, b 未知, 求参数a, b
7-15
第15页
的 矩法估计量。
解 由于 E ( X ) a b , var( X ) (b a)2
E
(
X
2
)
var(
X
)
2
E2
(
X
)
(b
a)2
12
a
b 2
12 2
a b E(X)
即2
用A1 =X ，A2
一个样本, 求 和 2的矩估计量.
解 1 E( X ) , 2 E( X 2 ) D( X ) [E( X )]2 2 2,
即
1, 2 2
2.
用样本K阶矩替换总体K阶矩，得到 矩估计量分别为
ˆ A1 X ,
ˆ 2 A2 A12
1 n
n i 1
Xi2
X
2
1 n
n i 1
• 思考：多个参数如何估计？
第8页
§7.1 点估计的几种方法
7.1.1 替换原理和矩法估计
一、矩法估计 替换原理是指用样本矩及其函数去替换相应的 总体矩及其函数，譬如：
• 用样本均值估计总体均值E(X)，即 Eˆ ( X ) x； • 用样本方差估计总体方差Var(X)，即 Vˆ ar( X ) sn2 • 用样本的 p 分位数估计总体的 p 分位数， • 用样本中位数估计总体中位数。
k k (1, 2,
, k ) , k )
用Ar (Ar
1 n
Βιβλιοθήκη Baidun i1
X
r i
)
替换r。
可得
ˆ1
=1
(A1
,
A
2
,
ˆk =k (A1, A2,
,Ak ) , Ak )
未知参数
1, ,k
的矩估计量
第11页
例1 对某型号的20辆汽车记录其每加仑汽油的 行驶里程(km)，观测数据如下：
29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9
(
Xi
X
)2 .
一般不论总体服从什么分布, 总体期望 与方差 2 存在,
则它们的矩估计量为
ˆ
1 n
n i 1
Xi
X
ˆ2
1 n
n
(X i
i 1
X )2
S *2
例3 设总体 X ~ E(), X1, X2,…, Xn为总体的 样 第13页
本, 求 的矩法估计量.
解 E(X ) 1/ ,
即 1/ E(X).
现从该总体选取容量为5的样本，我们
的任务是要根据选出的样本（5个数）求出总
体均值 的估计. 而全部信息就由这5个数组
成. 设这5个数是: 1.65 1.67 1.68 1.78 1.69
估计 为1.68， 这是点估计.
估计在区间[1.57, 1.84]内，这是区间估计.
第7页
• 设 x1, x2,…, xn 是来自总体 X 的一个样本，
第10页
设总体的 r 阶矩存在，记为 E ( X r ) r (1, 2 ,, k )
样本 X1, X2,…, X n 的 r 阶矩为 Ar 1 1(1,2, ,k )
1
n
n i 1
X
r i
则
—— 含未知参数 1,2, ,k 的
k k (1,2, ,k ) 方程组。
1 1(1, 2,
整理成
1 n
n i 1
Xi2替换E(X)、E( X
2)
(b a)2 12
a
2
b
2
E(X 2)，
解得
aˆ矩 X 3( A2 X 2 )
bˆ矩 X 3( A2 X 2 )
X
3 n
n i 1
(Xi
X )2
,
X
3 n
n i 1
(Xi
X
)2
.
7.1.2 极(最)大似然估计
第16页
极大似然估计法 是在总体类型已知条件下使用的一种
参数估计方法 . 它首先是由德国数学家
高斯在1821年提出的 , 然而，这个方法常归功于
Gauss
英国统计学家费歇 .
费歇在1922年重新发现了
这一方法，并首先研究了这
种方法的一些性质 .
Fisher
第17页
极大似然法的基本思想 某位同学与一位猎人一起外 出打猎 . 一只野兔从前方窜过 . 只听一声枪响，野兔应声倒下 . 如果要你推测， 是谁打中的呢？ 你会如何想呢?
用样本1阶矩替换总体1阶矩
故 矩 1/ X .
思考：矩估计是唯一的吗？ 其优缺点？
例4
设总体
～
(x)
(
1) x
0
是未知参数，求的矩估计。
第14页
0 x 1
其它
解：E
1
x
0
(
1) x dx
1 2
可得 2E( ) 1 1 E( )
用样本1阶矩替换总体1阶矩
解得 ˆ 2X 1
1 X
第七章 参数估计
§7.1 点估计 §7.3 估计量的评价标准 §7.4 区间估计 §7.5 正态总体均值与方差区间估计 §7.6 （0-1）分布参数区间 §7.7 单侧置信区间
参数估计 点估计 区间估计
第4页
假如我们要估计某队男生的平均身高.
（假定身高服从正态分布 N ( , 0.12 ) ）
经计算有
x 28.695,
sn2 0.9185,
m0.5 28.6
由此给出总体均值、方差和中位数的估计分
别为: 28.695, 0.9185 和 28.6。
矩法估计的实质是用经验分布函数去替换总 体分布，其理论基础是格里纹科定理。
例2 设总体 X 的均值 和方差 2 都存在,且有 第12页
2 0, 但 和 2 均为未知, 又设 X1, X2 ,, Xn 是