概率论与数理统计 7

极大似然估计法是费歇（R. A. Fisher）在1912年提出来的，是一 种重要的点估计方法，所求的估计量有许多优良性质。下面先介绍 似然函数的概念。
1．似然函数
定义3 设总体X的分布律或概率密度为 f (x； ) ，=(1, 2, …, k)是
未知参数，X1, X2, …, Xn是总体X的样本，则称X1, X2, …, Xn的联合分布 律或概率密度函数
矩估计量。
解 已知总体X的E(X)和D(X)均存在且有限，即E( X ) ，D( X ) 2
现设X1, X2, …, Xn为总体X的样本，根据式（7-1）可得
解方程得
E(X )
1 n
n i 1
Xi
X
；
E(X
2)
2
2
ቤተ መጻሕፍቲ ባይዱ
1 n
n i 1
X
2 i
．
ˆ
1 n
n i 1
Xi
X，
ˆ 2
1 n
n i 1
由定义可知，求参数的极大似然估计问题，其实就是求似然函数 L的最大值问题．一般情况下，似然函数L的最大值点的一阶偏导数 为零，但直接对似然函数L求偏导，计算量比较大．我们知道，ln x 是x的单调上升函数，因此，ln L与L有相同的最大值点，故只需求ln L的最大值点即可．因此，求极大似然估计量的一般步骤如下：
（1）根据总体X的分布律或概率密度f(x; )，由式（7-2）得出似然
x2, …, xn是样本观察值，假设X的1~k阶原点矩都存在，则有
i E( X i ) i (1 ，2 ，L ，k ) (i 1，2 ，L ，k)
取样本的i阶原点矩Ai作为总体i阶原点矩i的估计量，即
ˆi
Ai
1 n
n
X
i j
j 1
（7-1）
得方程组 解得
i (1 ，2 ，L ，k ) ˆi ˆi ˆi ( X1 ，X 2 ，L ，X n )
称 ˆi 为i的矩法估计量，简称矩估计。
例1
设总体X具有概率密度
fX
(x)
2
2
(
x)
，0
x
；
参数未知，
0 ，
其他 ，
X1, X2, …, Xn是来自X的样本，求的矩法估计量。
解 总体X的数学期望为
E(X )
0
2
x
2
(
x)dx
3
由式（7-1），令
E(X )
1 n
n i 1
Xi
X
可得的矩法估计量为
因为
9 27 64 64
这就意味着使X=2的样本来自 p 3 比 p 1 可能性要大。
4
4
故认为白球所占的比例是 3 4
2．极大似然估计法
定义4 如果样本似然函数 L(1 ，2 ，L ，k ) 在 i (x1 ，x2 ，L ，xn ) (i 1，2 ，L ，k) 处达到最大值，则称ˆi (x1 ，x2 ，L ，xn ) (i 1，2 ，L ，k) 为参数i的极大似然估计值，而称相应的统计量 ˆi ( X1 ，X 2 ，L ，X n )为 参数i的极大似然估计量．
估计值。
在不至于混淆的情况下，统称估计量和估计值为估计。
一、矩估计法
样本取自总体，根据大数定律，样本矩在一定程度上反映了总体矩 的特征，因而很自然想到用样本矩来估计与之相应的总体矩，由此得 到的参数估计称为矩估计法。
矩估计是一种简单、直观的估计方法，是由统计学家皮尔逊在19世 纪末引进的。
定义2 设总体X的分布函数为 F(x ，1 ，2 ，L ，，k ) 若，其中，1, 2, …, k是待估计的k个未知参数，X1, X2, …, Xn是来自总体X的n个样本，x1,
解 设白球所占的比例为p，则 p 1 或 3 44
又设X为任取3个球中所含白球的个数，则 X ~ B(3，p)
所以 P( X 2) C32 p2 (1 p) 3 p2 (1 p)
于是，当 p 1 4
P( X 2) 9 64
当
p3
4
P( X 2) 27 64
例4 设在一个箱子中装有若干个白色和黄色乒乓球，且已知两种球 的数目之比为1∶3，但不知是白球多还是黄球多．现从中有放回地任取 3个球，发现有两个白球．问：白球所占的比例是多少？
序言
数理统计的基本问题就是根据样本所提供的信息，对总体的分布或分布 的数字特征等做出统计推断。本章所要探讨的是这样一类问题，即在总体所 服从的分布类型已知的条件下，估计某些未知的参数，如数学期望、方差 等．这类问题称为参数估计。参数估计的方式有两种，一种是参数的值估计 （点估计），另一种是参数的范围估计（区间估计）．对于这类问题，关键 是构造合理的方法将这些未知参数估计出来。
ˆ 3X
例2 设总体X~B(m, p) ，其中m已知，求p的矩估计量。
解 由二项分布的性质可知 E( X ) mp
设X1, X2, …, Xn为总体X的样本，根据式（7-1）可得
E ( X
)
mp
1 n
n i 1
Xi
X
解方程得p的矩估计量为 pˆ X m
例2 设总体X~N(, 2) ，其中, 2是未知参数．试求, 2的
n
L(x1 ，x2 ，L ； ) f (xi ； ) i 1
为样本的似然函数，简记为L()。
（7-1）
提示
① 当总体X为离散型随机变量时，f(x; )为X的分布律P(x; )； ② 当总体X为连续型随机变量时，f(x; )为X的概率密度。
例4 设在一个箱子中装有若干个白色和黄色乒乓球，且已知两种球 的数目之比为1∶3，但不知是白球多还是黄球多．现从中有放回地任取 3个球，发现有两个白球．问：白球所占的比例是多少？
01
点估计
用一个数值来估计某个参数，这种估计就是点估计。例如，要考察 某城市拥有汽车的家庭所占的比例，抽查了1 000个家庭，然后估计出 这个比例值为0.28，这个值就是“比例”这个未知数的点估计。
定义1 设为总体X的待估计参数，用样本X1, X2, …, Xn的一个统计 量 ˆ ˆ (X1, X2, …, Xn) 来估计，则称ˆ( X1 ，X 2 ，L ，X n ) 是的一个点 估计量，对应于样本观测值x1, x2, …, xn，称 ˆ( X1 ，X 2 ，L ，X n ) 为的点
X
2 i
2
X
1 n
n i 1
(Xi
X )2
n 1S 2 n
二、极大似然估计法
在随机试验中，许多事件都有可能发生，概率大的事件发生的可 能性也大，若在一次试验中，某事件A发生了，则有理由认为事件A 比其他事件发生的概率大，这就是所谓的极大似然原理，极大似然 估计法就是依据这一原理得到的一种参数估计方法。