求点估计量的方法优秀课件

解方程组 , 得 k 个统计量：
ˆ1( X1, X 2 , , X n )
ˆk ( X1, X 2 , , X n )
未知参数
1, ,k
的矩估计量
代入一组样本观测值得 k 个数:
1 ˆ1(x1, x2, , xn ) k ˆk (x1, x2, , xn )
未知参数
1, ,k
的矩估计值
例 设总体 X ~ Exp(), X1, X2,…, Xn 为总体的样本, 求
12
4
ab X
令
2
(b a)2 12
a
b 2
2
A2
1 n
n i1
X
2 i
于是 a , b 的矩估计量为
aˆ X
3 n
n i 1
(Xi
X )2
X 3b2 ,
bˆ X
3 n
n i 1
(Xi
X )2
X 3b2 .
例3 设总体 X 的均值 μ 和方差σ2( 0) 都存在 , μ,σ2 未知 . X1, X2, …Xn 是来自 X 的样本 , 试求 μ ,σ2 的矩 估计量 .
解 μ1 E X μ
μ2 E X 2 Var( X ) [E( X )]2 σ2 μ2
令
X
1 n
n i1
Xi
A2
1 n
n i 1
X
2 i
E(
X
2
)
2
2
ˆ X
ˆ
2
1 n
n i 1
(Xi
X )2
S *2
注：该例表明无论总体 X 服从什么分布，只 要总体的二阶矩存在，则样本均值就是总体均 值的矩估计，样本的二阶中心矩就是总体方差 的矩估计.
d ln L( p) 0 dp
n
似然函数
n
p xi
(1
p)1 xi
xi p i1
(1
n xi p) i1
i 1
显然 p 的不同取值，对应的观测值发生的概率不同， 由极大似然原理，应选择使得P(X1=x1,…Xn=xn)最 大的 p 值，即为 p 的极大似然估计值.
要求似然函数 L(p) 的最大值点，可以应用微 积分中的技巧。通过求解下面的方程求得.
2、分布中所含的未知参数θ的函数 g(θ)
例如：X ~N ( , 2), 其中 , 2 未知，假设 X 是血液
检验的结果，感兴趣的是检验值不超过 a 的人数的比 例，即要估计
P( X a) ( a μ ) 即为 , 的函数。
σ
3、分布的各种特征数
例如：EX，VarX 等。
参数估计问题是利用从总体抽样得到的样本, 通过估计量来估计上述各种参数。估计量就是估 计总体参数的统计量.
常理来看，只发一枪便打中，猎人命中的概率要 大于这位同学命中的概率。看来这一枪是猎人射 中的。
这个例子所作的推断体现了极大似然估计的基本 思想：
在一次随机试验中某一事件已经发生，则认
为试验条件有利于该事件的发生，即在此条件下
该事件发生的概率最大。
---------- 极大似然原理
下例说明如何求极大似然估计：
求点估计量的方法
注：统计学的模型仅仅是对现实的近似，没 有任何模型是“正确”的，也无法证明任何 模型是正确的。只能够说，在某些可能有争 议的准则之下，某些模型比另外一些要更适 合一些。
—— 吴喜之《统计学：从数据到结论》
求解步骤： 问题是什么
解决问题的基本思路 理论支持及推导 解决的具体步骤 实例分析
矩估计三部曲
• 求解总体矩（一般来说，有几个参数就求 几阶矩，得到的一定是参数的函数）
• 用样本矩代替总体矩建立方程（组） • 求解方程（组）
矩法的优缺点：
优点是简单易行,并不需要事先知道总体的分布形式 .
缺点（1）要求总体相应原点矩必须存在，对于不存 在原点矩的总体如Cauchy分布，则不能用矩估计。
第三章 参数估计
第一节 求点估计量的方法 第二节 估计量的评选标准 第三节 区间估计
参数的类型：
参数是刻画总体某方面概率特性的数量.参数的类型有
1、分布中所含的未知参数
例如，X ~N ( , 2), 若 , 2 未知, 通过构造统计量, 给出它们
的估计值或取值范围就是参数估计的内容.
点估计 区间估计
第一节 求点估计量的方法
一、矩法 二、极大似然法
一、矩法估计
1、矩法估计（Moment Estimation) 理论基础：大数定律（频率趋向于概率）
设随机变量序列 X1, X2 ,, Xn , 相互独立，
它们服从相同的分布，且具有有限的数学期望：
E( Xk ) , k 1,2,
则
1
n
n k 1
（2）当总体类型已知时，没有充分利用分布提 供的信息，可以作为其它方法的初始值 .
二. 极大似然估计（Maximum Likelihood Estimation)
引例：某位同学与一位 猎人一起外出打猎。 一只野兔从前方窜过。 只听两声枪响，野兔应声倒下。
如果要你推测， 是谁打中的呢？ 你会如何想呢?
例. 设 X1, X2, …, Xn 是取自总体 X~b(1, p) 的一个样本， 利用极大似然原理求参数 p(可以是产品的不合格率)的 估计.
解：抽取一个样本 ，得到观测值 x1, x2,…, xn，则其 发生的概率为
L( p) P(X1 x1, X2 x2 , , Xn xn ; p)
n
Xk
a.s. .
q 矩估计法 指导思想
设 ( X1, X 2,, X n ) 是来自总体 X 的容量为 n 的样本,
则
X
k 1
,
X
k 2
,...,
X
k n
独立同分布,
且有期望：
E(
X
k i
)
k
,
i 1,2,
则由大数定律，
11
nni
nn
XXkk
i 1 ii 1
a.s.kk
用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有 待估参数的方程, 从而解出待估参数。
具体步骤 设待估计的参数为 1,2 ,,k
总体的 r（r≥k） 阶矩存在，记为
E( X r ) r (1,2 ,,k )
样本 X1, X2,…, Xn 的 r 阶矩为
ar
1 n
n i 1
X
r i
令
r (1,2,,k )
1 n
n i1
X
r i
r 1,2,,k
—— 含未知参数 1,2, ,k 的方程组
的矩法估计量.
解 E(X) 1/ , 令 X 1/ .
故 ˆ 1 .
X
注 能用低阶矩处理的就不用高阶矩。
例 设总体 X ~ U (a, b), a, b 未知, 求参数 a, b 的
矩法估计量.
解
μ1
E
ห้องสมุดไป่ตู้
X
a
2
b
μ2 E X 2 Var( X ) [E( X )]2
(b a)2 (a b)2