概率论与数理统计 第七章 参数估计ppt课件

n
(xi
i1
)2]
lL n (, 2 ) n 2 ln 2) (n 2 ln 2 2 1 2i n 1(x i)2
lnL12
n
[
i1
xi
n]0
ln2L2n2
2(12)2
n
(xi
i1
n)2
0
ˆ
ˆ
1
1 n
n i 1
( xi
x
x )2
ˆ X
ˆ
2
n 1S2 n
从样本出发构造适当的统计量
ˆˆ(X1,L,Xn)
作为参数 的估计量，即点估计。 将 x1, ,xn代入估计量，得到的估计值
ˆˆ(x1,L,xn)
关键问题：如何构造统计量?
ˆˆ(X1,L,Xn)
矩估计
点估计
极大似然估计
矩估计
总体k阶原点矩
k EX k
样本k阶原点矩
Ak
1 n
n i 1
X
k i
解：E(X)=p.
pˆ
1 n
n i1
Xi
X
例3：设电话总机在某段时间内接到呼唤的次数 服从参数λ未知的泊松分布，现在收集了如下42 个数据：
接到呼唤次数 0 1 2 3 出现的频数 7 10 12 8
45 32
求未知参数λ 的矩估计。
ˆ x 80 40
42 21
例4. X~U(a,b),由简单随机样本X1 ,X2 ,…, Xn求 a,b的矩估计量。
n
L(x1,x2,...,xn;) f(xi;) i1
为样本的似然函数，简记为L(θ)。
对于固定的样本观测值x1,x2,…,xn。如果有
ˆ(x1,x2,..x.n,),使得
L (ˆ) m a x L (), (或 L (ˆ) s u p L ())
则 称 ˆ ( x 1 ,x 2 , . . . ,x n ) 为 的 极 大 似 然 估 计 值
缺点是，当总体类型已知时，没有 充分利用分布提供的信息 .
极大似然估计
例： 设一箱中装有若干个白色和黑色的球， 已知两种球的数目之比为3:1或1:3，现有放回 地任取3个球，有两个白球，问：白球所占的 比例p是多少？
如果只知道0<p<1,并且实测 记录是X=k (0 ≤ k≤ n),又应 如何估计p呢?
解：E(X)=(a+b)/2, D(X)=(b-a)2/12.
E(X)1(ab)1(aˆbˆ)1 n
2
2
ni1
Xi X
D(X)1(ba)2 12
1(bˆaˆ)2 12
M2nn1S2
a ˆX3 (n 1 )S2， b ˆX3 (n 1 )S2
n
n
矩法特点分析：
矩法的优点是简单易行,并不需要 事先知道总体是什么分布 .
2 E( X 2 ) u2
ˆ X X1 L X n
n
ˆ 2
1 n
n i 1
X
2 i
X2
1 n
n i 1
(Xi
X )2
n 1S2 n
总体期望、方差的矩估计量分别是样本均值和 样本二阶中心矩。
例2: 已知某产品的不合格率为p, 有简单随 机样本X1 ,X2 ,…, Xn 求p的矩估计量。
若总体分布已知，对于样本值，选取适当 的参数，使样本值出现的概率最大，这种 估计方法就是极大似然估计法。
➢极大似然估计法
设总体X的分布律或概率密度为f(x; Ө), θ=(θ1, θ2,…, θk)是未知参数， X1,X2, …,Xn是 总体X的样本，则称X1,X2, …,Xn的联合分布 律或概率密度函数
K.皮尔逊
n
Xik
大数定律： limP(| i1 E(Xk)|)1
n
n
矩估计基本思想: 用样本矩估计总体矩 .
设总体的分布函数中含有k个未知参数 1, ,k
(1)它的前k阶原点矩都是这k个参数的函数,记为：
E (X i) g i(1 ,L ,k),i 1 ,L ,k
(2)用样本i阶原点矩替换总体i阶原点矩
称 ˆ ( X 1 ,X 2 ,...,X n ) 为 极 大 似 然 估 计 量
例1. 设总体X~N(μ,σ2)，其中μ,σ2是 未知参数。求μ,σ2的极大似然估计。
f(x;,2)2 1 ex 2 p 12[(x)2]
n
L(,2)
i1
1
2
exp[ 1
22
(xi
)2]
(2)n2(2)n2 exp[212
g
1
(
1
,
2
,
.
.
.
,
k
)
E(X
)
@1 n
n i1
X i,
g
2
(
1
,
2
,
.
.
.
,
k
)
E(X
2)
@1 n
n i1
X 2, i
............
g
k
(
1
,
2
,
.
.
.
,
k
)
E(X
k)
@1 n
n i1
X
k,
i
(3) 解方程组，得 θi=hi (X1, X2,…, Xn) (i=1,2,…,k);
例2. 设总体X服从参数λ>0的泊松分布，求 参数λ的极大似然估计量。
例3. 已知某产品的不合格率为p,有简单随机样本 X1 ,X2 ,…, Xn，求p的极大似然估计量。 若抽取100件产品，发现10件次品，试估计p.
例4. 设X1,X2,…,Xn为取自总体X~U(a, b)的样 本, 求a, b的极大似然估计量.
回顾： 设X1,X2,…Xn是取自总体X的一个样本
X~f(x) (1)x,
0,
0x1 其它
其中>0,
求 的矩估计量和极大似然估计量.
求极大似然估计量的步骤：
n
(1) 根据f(x; θ)，写出似然函数 L()f (xi;)
i1
n
(2) 对似然函数取对数 lnL()lnf(xi;)
(3) 写出方程 ln L 0
i1
若方程有解，
求出L(θ)的最大值点 ˆ(x1,x2,..x.n,)
于 是 ˆ ˆ ( X 1 , X 2 , . . . , X n ) 即 为 的 极 大 似 然 估 计 量
第7章 参数估计
总体所服从的分布类型已知/未知
抽样
参数 估计
估计总体中未知的参数
参数估计 参数估计问题是利用从总体抽样得到的信息
来估计总体的某些参数. 估计新生儿的体重
估计废品率
估计湖中鱼数
§7.1
点估计
设有一个统计总体，总体的分布函数
为 F(x, )，其中为未知参数 (可以是向量) .
现从该总体抽样，得到样本 X1,X2,…,Xn
则以hi (X1, X2,…, Xn)作为θi 的估计量 ，并 称hi(X1, X2,…, Xn)为θi 的矩法估计量，而 称hi(x1, x2,…, xn) 为θi 的矩法估计值。
例1. 设总体X的数学期望和方差分别是μ, σ2 ，
求μ , σ2的矩估计量。
E(X )
E( X 2 ) D( X ) [EX ]2 2 2