矩估计与极大似然估计的典型例题

关于矩估计与极大似然估计的典型例题

例1，设总体X 具有分布律

⎟⎟⎠

⎞⎜⎜⎝⎛−−22)1()1(2321

~θθθθX 其中10<<θ为未知参数。已经取得了样本值1,2,1321===x x x ，试求参数θ的矩估计与极大似然估计。

解：（i ）求矩估计量，列矩方程（只有一个未知参数）

X

X E =−=−×+−×+=θθθθθ23)1(3)1(22)(22得

6

5234

32x 32X 3=−

=−=−=矩θ（ii ii）求极大似然估计，写出似然函数，即样本出现的概率

）求极大似然估计，写出似然函数，即样本出现的概率)

,,()(332211x X x X x X P L ====θ)1,2,1(321====X X X P )1()2()1(321=×=×==X P X P X P )

1(2)1(2522θθθθθθ−=×−×=对数似然

)

1ln(ln 52ln )(ln θθθ−++=L 0115)(ln =−−=θ

θθθd L d 得极大似然估计为

6

5ˆ=

极θ

例2，某种电子元件的寿命某种电子元件的寿命（（以h 记）X 服从双参数指数分布服从双参数指数分布，，其概率密度为

⎪⎩

⎪⎨⎧≥−−=其他,0],/)(exp[1

)(µ

θµθ

x x x f 其中0>µθ，

均为未知参数，自一批这种零件中随机抽取n 件进行寿命试验，设它们的失效时间分别为.

,,2,1n x x x L （1）求µθ，

的最大似然估计量；（2）求µθ，

的矩估计量。解：（1）似然函数，记样本的联合概率密度为

∏===n

i i n x f x x x f L 1

2,1)

();,,()(µθµθ，，L ⎪⎩

⎪⎨⎧≥−−=∏=其他,0,,,]/)(exp[1

2,11µθµθn n i i x x x x L ⎪⎩

⎪⎨⎧>≤−−=∑=)1()1(1,0),/)(exp(1

x

x n x n

i i n µµθµθ在求极大似然估计时在求极大似然估计时，

，0)(=µθ，L 肯定不是最大值的似然函数值，不考虑这部分，只考虑另一部分。

取另一部分的对数似然函数

)

1(1

,/)(ln ),(ln x n x n L n

i i ≤−−−=∑=µθµθµθ

⎪

⎪⎩

⎪⎪⎨

⎧

>=∂∂=−+−=∂∂∑=0),(ln 0),(ln 2

1

θµµθθµθθµθn

L n x n L n

i i 可知关于µθ，

的驻点不存在，但能判定单调性由

0),(ln >=∂∂θ

µµθn

L 知,

,/)(ln ),(ln )1(1

x n x n L n

i i ≤−−−=∑=µθµθµθ关于µ是增函数，故

)1(ˆx =极µ

将之代入到

0),(ln 2

1

=−+−=∂∂∑=θ

µ

θ

θµθn x

n

L n

i i

中得

)1(ˆx x −=极

θ则)1(ˆx =极µ，)1(ˆx x −=极θ一定能使得似然函数达到最大，故

µθ，的极大似然估计为

⎪⎩⎪⎨

⎧=−=)1()

1(ˆˆx x x 极极µ

θ

（2）列矩方程组（两个未知参数）

⎪⎪⎩

⎪⎪⎨⎧

=++=−−==+=−−=∫∑∫∞+=∞+µµθθµθµθθµθµθn i i

X n dx x x X E X dx x x X E 1222221)(]/)(exp[1)(]/)(exp[1)(解出

⎪⎪⎩

⎪

⎪⎨

⎧−−=−=∑∑==n i i n i i

X X n X X X n 12

12)(1ˆ)(1ˆ矩

矩µθ例3，设总体],0[~θU X ，其中0>θ为未知参数为未知参数，，n X X X ,,,21K 为来自总体X 的一组简单随机样本的一组简单随机样本，，n x x x ,,,21K 为样本观察值为样本观察值，

，求未知参数θ的极大似然估计。

解：似然函数，即样本的联合概率密度

⎪⎩⎪⎨⎧≤≤===∏−else

x x x x f x x x f L n n n

i i n ,0,,,0,1

)();,,,()(21121θ

θ

θθL L 0)(=θL 肯定不是最大值，考虑另一部分的最大值，

取对数似然

)

(,ln )(ln n x n L ≥−=θθθ0

)(ln <−=θ

θθn d L d

知θ

θln )(ln n L −=在)

(n x ≥θ内是单调递减的，故

θ

取)(n x 能使得似然函数达到最大，则θ的极大似然估计值为

)(ˆn x =极θ，极大似然估计量为)

(ˆn X =极θ