求最大似然估计量的一般步骤为
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2
(1,2,Ln) 为总体 的样本,求参数 的矩估
计量.
解:由于 p(x;)只含有一个未知参数 ,一般 只需求出E 便能得到 的矩估计量,但是
E xp(x;)dx x2 1 exdx0
即 E 不含有 ,故不能由此得到 的矩估
计量.为此, 求
E (2 ) x 2p (x ;)d x x 22 1 e | x |d x
用 样 本 二 阶 中 心 矩 m 21 ni n1(i)2作 为 总 体 的
方 差 的 矩 估 计 .
矩法的优点是简单易行, 缺点是,当总体类型已知时,没有 充分利用分布提供的信息 . 一般场合下, 矩估计量不具有唯一性 .
例4 设总体 的分布密度为
p(x;)
1
x
e
( x, 0 )
点 估 计 问 题 就 是 要 构 造 一 个 适 当 的 统 计 量
ˆ(1,2,L,n),用 它 的 观 察 值 ˆ(x1,x2,L,xn) 来 估 计 未 知 参 数 .
ˆ (1 ,2 ,L ,n ) 称 为 的 估 计 量 .通称估计 ,
ˆ(x 1,x 2, ,x n )称 的 为估 . 简计 记为值 ˆ.
2
()2
1 n
n i1
(i
)2
Sn2.
1 n
n
i
i 1
上例表明:
总体均值与方差的矩估计量的表达式,不因
不同的总体分布而异.
例 ~ N ( ,2 ) ,,2 未 知 , 即 得 ,2 的 矩 估 计 量
ˆ ,
一般地:
ˆ 2
1 n
n i 1
(i
)2.
用 样 本 均 值 1 n i n 1i作 为 总 体 的 均 值 的 矩 估 计 ,
1
x2exdx2 2
0
故令
1
n
n
2 i
i 1
2ˆ 2
于是解得 的矩估计量为 ˆ
n
1
2n
2 i
i 1
二、 最大(极大)似然估计法
最大似然法是在总体类型已知条件下使用
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇 . 费歇在1922年重新发现了
例 1 设总体 服从泊松分布 P(),
求参数 的估计量.
解:设 1,2,Ln 是总体 的一个
样本,由于 E ,可得
n
ˆ
1 n
i
i 1
例2 设 总 体 在 [a,b]上 服 从 均 匀 分 布 ,其 中 a, b未 知 ,(1,2,L,n)是 来 自 总 体 的 样 本 ,求 a,
b的 矩 估 计 量 .
解
1 2
E E 2
a b,
2D(E) 2 a1 b22a 4b2,
令ab
2
1 n
n
i,
i1
(ab)2 (ab)2
12
பைடு நூலகம்
4
1 n
n
i2 ,
i1
即
a b b a
2 12(
2
2
)
解方程组得到a, b的矩估计量分别为
aˆ 3(2 2)
3 n
n i1
(i
)2
,
bˆ 3(2 2)
3
i1
后,它只是参数 的函数,记为 L
即
L n pxi;
i1
则称 L 为似然函数。似然函数实质上
第六 章
点估计
第6.1节 参数的点估计
一、点估计问题的提法 二、估计量的求法 三、小结
现在我们来介绍一类重要的统计推断问题
参数估计问题是利用从总体抽样得到的信息 来估计总体的某些参数或者参数的某些函数.
估计新生儿的平均体重
估计废品率 估计湖中鱼数
估计平均降雨量
… …
参数估计问题的一般提法
设有一个统计总体的分布函数F(x, ),
二、估计量的求法
由于估计量是样本的函数, 是随机变量, 故 对不同的样本值, 得到的参数值往往不同, 求估 计量的问题是关键问题.
点估计的求法: (两种) 矩估计法和最大似然估计法.
一、 矩估计法 它是基于一种简单的“替换” 思想建立起来的一种估计方法 . 是英国统计学家K.皮尔逊最早提出的 . 其基本思想是用样本矩估计总体矩 .
其中为未知参数. 的 范 围 是 已 知 ( 称 为 参 数 空 间 )
现从该总体中抽取样本
1,2 ,...n
要依据该样本对参数 作出估计,或估计 的某个已知函数 g( ) .
这类问题称为参数估计.(一般分点估计, 区间估计)
一、点估计问题的提法
设总体的分布函数形式已知, 但它的一 个或多个参数为未知, 借助于总体的一个样 本来估计总体未知参数称为点估计问题.
这是 k 个 一 未 个 1 ,2 , 知 ,包 k 的 参 含 . 方 数
(3 )解 . 出 1, 2 其 , , k,中 用 ˆ1,ˆ2,,ˆk表.示
(4)用 . 方程ˆ组 1,ˆ2的 ,,ˆ解 k分别作 1,2为 ,,k的 估计 ,这 量个估计量量 称 . 为矩估计
矩估计量的观察值称为矩估计值.
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
1.似然函数
设总体的分布律为 Pxpx;(或分
布密度为 p(x;)),其中 1 ,2,..m .,
是未知参数,1,2,...,n 是总体的一个样本,
则样本 1,2,...,n 的分布律 或分布密 为度
n
pxi ;
,当给定样本值
x1,x2,..x .n,
n
n i1
(i
)2 ,
例3 设 总 体 的 均 值 和 方 差 2都 存 在 ,且 有
20,但 和 2均 为 未 知 ,又 设 1,2,L,n是
一 个 样 本 ,求 和 2的 矩 估 计 量 .
解
1 E ,
2E 2(E )2D 22,
令
2 2 2
解方程组得到矩估计量分别为 ˆ
ˆ2
理论依据: 大数定律
设 1 ,2 ,...n 是 来 自 总 体 的 一 个 样 本 ,
设 的 k 阶 矩 k Ek 存 在 .
则 当 j<k时 , 存 在 含 有 1 , 2..k的 函 数 ( j 1 , 2..k)
我 们 设子 j(样 1 ,的 2,.j.阶 .k矩 ) 为 j,jj 1 1 n, 2 i n.1..kij
从 而 得 到 k 个 含 未 知 数 1,2,...k的 方 程 , 求 解 可 得 1,2,...k的 一 组 解 : ˆj ˆj(1,L,k)
矩估计法的具体步骤:
( 1 ) . 求 出 E j ( 1 ,2 , L ,k )j 1 , 2 , L k
(2).令 j j 1 ni n1ij;j1,2,L,k