定时截尾寿命实验与定数截尾实验下的最大似然估计法

在例 1 中用样本均值来估计总体均值,有
∑ ∑ 估计量
λˆ
=
E
∧
(X
)
=
1
n
n k =1
X
k
,
n =250.
估计值
λˆ
=
E
∧
(X
)
=
1
n
n
xk
k =1
=1.22.
二、矩估计法
矩估计法：用样本矩作为相应的总体矩的估计量,而以样本矩的连续函数作为相
应的总体矩的连续函数的估计量.
设 X 为连续型随机变量,其概率密度为 f (x ;θ1,θ2 ,L,θk ) ,或 X 为离散型随机
⎪⎪µ ⎪⎨M
2
=
µ2 (θ1,θ 2 ,L,θ k )
(这是包含 k 个参数θ1,θ 2 ,L,θ k 的方程组)
⎪⎩µk = µk (θ1,θ2 ,L,θk ).
解出上面的方程组,得到
⎧θ1 = θ1 (µ1, µ2 ,L, µk ),
⎪⎪θ ⎪⎨M
2
= θ2 (µ1, µ2 ,L, µk ),
n i =1
(Xi
−
X
)2 ,
∑ bˆ = X +Fra bibliotek3 n
n i =1
(Xi
−
X
)2 .
例 3.已知 X 1 , X 2 ,L, X n 来自指数分布,求θ 的矩估计量.
∫ 解
A1 = X
,
µ1 =
∞
x
⋅
1
−x
eθ
dx
=
θ
.
0θ
令 µ1 = A1 ,解得 θˆ = X 为θ 的矩估计量. 另外:若有容量为 3 的样本:1250,1150,1200,则 X = 1200 ,故有θˆ = 1200 为矩估
长，由于时间和财力的限制，我们不可能得到完全样本，于是就考虑截尾寿命试验.
常用的两种截尾寿命试验：
一种是定时截尾寿命试验。假设将随机抽取的 n 个产品在时间 t=0 时同时投入试
验，试验进行到事先规定的截尾时间 t0 停止.如试验截止时共有 m 个产品失效，它们
的失效时间分别为
0 ≤ t1 ≤ t2 ≤ L ≤ tm ≤ t0 ,
求 µ ,σ 2 的最大似然估计量.
解 X 的概率密度为
f (x; µ,σ 2 ) =
1 2π
exp
[−
1 2σ
2
(x − µ)2]
似然函数为
n
∏ L ( µ ,σ 2 )= i =1
1 2π
exp
[−
1 2σ
2
(xi
− µ)2]
∑ = (2π )−n / 2 (σ 2 )−n / 2
exp
[− 1 2σ 2
例如， X ～ N ( µ ,σ 2 ), µ ,σ 2 未知，即得 µ ,σ 2 的矩估计量为
⎧µˆ = X
∑ ⎪
⎪⎩⎨σˆ 2
=
1 n
n i =1
(Xi
−
X )2
.
三、最大似然估计法
若总体 X 属离散型，其分布律 P{X = x} = p(x;θ ) ,θ ∈ Θ 的形式为已知，θ 为
待 估 参 数 ， Θ 是 θ 可 能 取 值 的 范 围 . 设 X1 , X 2 ,L, X n 是 来 自 X 的 样 本 ， 则 X 1 , X 2 ,L, X n 的联合分布律为
应于样本 X 1 , X 2 ,L, X n 的一个样本值，则似然函数为
n
n
∏ L( p) =
n
p xi (1 −
p)1− xi
=
∑ xi p i=1 (1 −
∑ n− xi p) i=1 ,
i =1
n
n
∑ ∑ 于是 ln L( p) = xi ln p + (n − xi ) ln(1 − p) .
∏ f (xi ;θ )
i =1
又设 x1, x2 ,L, xn 是相应于样本 X 1 , X 2 ,L, X n 的一个样本值，则随机点( X 1 , X 2 ,L, X n )落在点( x1, x2 ,L, xn )的领域(边长分别为 dx1, dx2 ,L dxn 的 n 维立方体)
内的概率近似地为
⎪⎩θ k = θ k (µ1, µ2 ,L, µk ).
以 Ai 分别代替上式中的 µi , i = 1,2,L, k ,就以 θˆi = θi ( A1 , A2 ,L, Ak ) , i = 1,2,L, k
分别作为θi , i = 1,2,L, k 的估计量,这种估计量称为矩估计量, 矩估计量的观察值称
( X 为连续型)
或
∑ µl = E( X l ) = xl p(x ;θ1,θ 2 ,L,θ k )
x∈RX
( X 为离散型)
( l = 1,2,L, k )( RX 是 X 可能取值的范围)存在.样本矩为
∑ Al
=
1 n
n i =1
X
l i
矩估计法的具体做法:设
⎧µ1 = µ1 (θ1,θ 2 ,L,θ k ),
变 量 , 其 分 布 律 为 P{X = x} = p(x ; θ1,θ 2 ,L,θ k ) , 其 中 θ1,θ 2 ,L,θ k 为 待 估 参
数, X1 , X 2 ,L, X n 是来自 X 的样本.假设总体 X 的前 k 阶矩
∫ µl = E( X l ) =
∞ xl
−∞
f (x ;θ1,θ 2 ,L,θ k ) dx
Ⅳ.讲授内容： §7.1 点估计
一、估计问题：总体 X 的分布函数的形式已知，有一个或多个未知参数，借助其样
本估计总体未知参数的值.
例1. 在某炸药厂，一天中发生着火现象的次数 X 是一个随机变量，假设它服 从以为参数 λ > 0 的泊松分布，参数 λ 为未知.现有以下的样本值，试估计参数 λ .
着火次数 k 发生 k 次着火的天数 nk
计值.
例 4. 设总体 X 的均值 µ 及方差σ 2 都存在，且有σ 2 > 0 .但 µ ,σ 2 均为未知.
又设 X 1 , X 2 ,L, X n 是来自 X 的样本.试求 µ ,σ 2 的矩估计量.
解
⎧µ1 = E(X ) = µ ⎩⎨µ2 = E( X 2 ) = D( X ) + [E( X )]2 = σ 2 + µ 2
第一讲
Ⅰ.授课题目（章节） §7.1 点估计 §7.2 基于截尾样本的最大似然估计 §7.3 估计量的评选标准
Ⅱ.教学目的与要求 1. 会用矩估计法进行参数估计； 2. 掌握最大似然估计法； 3. 知道两种截尾寿命实验下的最大似然估计法； 4. 了解估计量常用的三个评选标准.
Ⅲ.教学重点与难点： 重点：矩估计法和最大似然估计法的应用 难点：最大似然估计法的应用
L( x1, x2 ,L, xn ;θ ) 达到最大的参数值θˆ ，作为参数θ 的估计值。即取θˆ 使
L(
x1
,
x2
,L,
xn
;
θˆ
)=
max
θ∈Θ
L(
x1, x2 ,L, xn
;θ )
这样得到的θˆ 与样本值 x1, x2 ,L, xn 有关，θˆ ( x1, x2 ,L, xn )称为参数θ 的最大似然估
A1
=
X
∑ ⎨
⎪⎩ A2
=
1 n
n i =1
X
2 i
,
令
⎩⎨⎧µµ12
= =
A1 A2
得
⎧a ⎪⎪
+ 2
b
=
X
∑ ⎨
⎪
(b
−
a)
2
⎪⎩ 12
+ (a + b)2 4
=
1 n
n i =1
X
2 i
即 解得
⎧a + b = 2X
⎪
∑ ⎨
⎪b
−
a
=
2
⎩
3 n
n i =1
X
2 i
−
X
2
∑ aˆ = X -
3 n
点估计问题:
设总体 X 的分布函数 F ( x;θ )的形式已知, θ 是待估参数,构造一个适当统计量
θˆ( X1, X 2 ,L, X n ) ,用它的观察值θˆ(x1, x2 ,L, xn ) 作为未知参数θ 的近似值. 称θˆ( X 1, X 2 ,L, X n ) 为θ 的估计量,θˆ(x1, x2 ,L, xn ) 为θ 的估计值.
为矩估计值.
例 2.设总体 X 在[ a,b ]上服从均匀分布, a,b 未知. X1 , X 2 ,L, X n 是来自 X 的样本,试求 a,b 的矩估计量.
解
⎪⎪⎧µ1 ⎨ ⎪⎪⎩µ 2
= E(X ) = a + b 2
= E( X 2 ) = (b − a)2 12
+
(a
+ b)2 4
,
⎧ ⎪
0123456 75 90 54 22 6 2 1
Σ = 250
解 由于 X ～π (λ) ,故有 λ = E( X ) .用样本均值来估计总体均值.
6
∑ knk
x = k=0
=
1
[0×75+1×90+2×54+3×22+4×6+5×2+6×1]=1.22.
∑6
nk
250
k =0
得 E( X ) = λ 的估计为 1.22.
n
(xi − µ)2 ]
i =1
而
∑ ln L = − n ln(2π ) − n ln(σ 2 ) − 1
2
2
2σ 2
n
( xi
i =1
− µ)2 .
∑ ∑ 令
⎧ ⎪⎪ ⎨ ⎪ ⎪⎩
∂ ∂µ
∂ ∂σ
ln L ln
2
= L
1 σ2
=−
n
[
i =1
n 2σ 2
xi +
− nµ]
1 2(σ 2
= )2
(1) 求参数 p 的矩估计量;
(2) 求参数 p 的最大似然估计量.
解 (1) A1 = X , µ1 = E( X ) = p .
令 µ1 = A1 ,解得 pˆ = X 为 p 的矩估计量.
(2) X 的分布律为 P{X = x} = p x (1 − p)1−x , x = 0,1 ,设 x1, x2 ,L, xn 是相
0
n i =1
(xi
− µ)2
=
0
解得
∑ ⎪⎪⎧µˆ
⎨
∑ ⎪⎪⎩σˆ
=
1 n
n i =1
xi
=
2
=
1 n
n i =1
(xi
x −
x)2
,于是 µ ,σ 2 的最大似然估计量为
⎧µˆ = X
⎪
∑ ⎪⎩⎨σˆ 2
=
1 n
n i =1
(Xi
−
X )2
§7.2 基于截尾样本的最大似然估计
在研究产品的可靠性时,需要研究产品寿命 T 的各种特征.产品寿命 T 是一个随
i =1
i =1
n
n
令
∑ ∑ d
ln L( p) =
i =1
xi
n− +
i =1
xi
= 0 ,解得 p 的最大似然估计值为
dp
p
p −1
∑ pˆ
=
1 n
n i =1
xi
=
x
∑ 于是
p 的最大似然估计量为
pˆ
=
1 n
n i =1
Xi
=
X
.
例 6.设 X ～ N ( µ ,σ 2 ), µ ,σ 2 未知， x1, x2 ,L, xn 是来自 X 的一个样本值,
计值，而相应的统计量θˆ ( X 1 , X 2 ,L, X n )称为参数的最大似然估计量.
最大似然估计法的步骤:
1. 写出样本的似然函数 L(θ ) ;
2. 令 d L(θ ) = 0 或 d ln L(θ ) = 0 (这方程称为对数似然方程);
dθ
dθ
3. 解上面的方程即得θˆ .
例 5.设 X ～ b(1, p) , X 1 , X 2 ,L, X n 是来自 X 的样本.
考虑函数
n
∏ f (xi ;θ ) dxi
i =1
n
∏ L(θ ) = L( x1, x2 ,L, xn ;θ ) = f (xi ;θ ) i =1
同样称 L(θ ) 为样本的似然函数.
最大似然估计法的方法:
固 定 样 本 观 察 值 x1, x2 ,L, xn ， 在 θ 取 值 的 可 能 范 围 内 Θ 挑 选 使 似 然 函 数
机变量,它的分布称为寿命分布.为了对寿命分布进行统计推断,就需要通过产品的寿
命试验,以取得寿命数据.
一种典型的寿命试验是,将随机抽取的 n 个产品在时间 t=0 时，同时投入试验，
直到每个产品都失效.记录每一个产品的失效时间，这样得到的样本（即由所有产品
的失效时间 0 ≤ t1 ≤ t2 ≤ L ≤ tn 所组成的样本）叫完全样本.然而产品的寿命往往较
,
⎧ ⎪
A1
=
X
∑ ⎨
⎪⎩ A2
=
1 n
n i =1
X
2 i
,
令
⎩⎨⎧µµ12
= =
A1 A2
得
⎧µ = X
⎪
∑ ⎪⎩⎨σ
2
+
µ2
=
1 n
n i =1
X
2 i
解得
⎧µˆ = X
∑ ⎪
⎪⎩⎨σˆ 2
=
1 n
n i =1
(Xi
−
X )2
.
注:所得结果表明，总体均值与方差的矩估计量表达方式不因不同的总体分布而 异.
此时 m 是一个随机变量，所得的样本 t1,t2 ,L,tm 称为定时截尾样本. 另一种是定数截尾寿命试验.假设将随机抽取的 n 个产品在时间 t=0 时同时投入
试验，试验进行到有 m 个（ m 是事先规定的，m < n ）产品失效时停止. m 个失效产
这一概率随θ 的取值而变化，它是θ 的函数，称 L(θ ) 为样本的似然函数.
若总体 X 属连续型，其概率密度 f (x;θ ) 的形式已知，θ 为待估参数， Θ 是θ 可
能取值的范围.设 X 1 , X 2 ,L, X n 是来自 X 的样本，则 X 1 , X 2 ,L, X n 的联合密度为
n
n
∏ p(xi ;θ )
i =1
又设 x1, x2 ,L, xn 是相应于样本 X 1 , X 2 ,L, X n 的一个样本值，我们易得事件 {X1 = x1, X 2 = x2 ,L, X n = xn}发生的概率为
n
∏ L(θ ) = L( x1, x2 ,L, xn ;θ ) = p(xi ;θ ) ,θ ∈ Θ i =1