第三讲参数估计

n3 n
,ˆ3
n1 n
n2 . 2n
关于这三个估计优劣留以后讨论。
2. 矩估计法
矩估计法的主要思想是基于替换原理。
设总体的前r个原点矩存在，即
mj ( ) E ( X j ), j 1,2, , r, (1,2 , ,m )
相应的样本的前r个原点矩为
mˆ j
1
n
n i 1
X
j i
,
j
1,2,
特征数也都是参数。一般地，有关参数和估 计量，我们有如下定义。
定义3 定义在{P}上一个实值泛函q(P)称为 参数（Parameter）, 而用来估计参数 q(P) 的实值统计量T( X )称为q(P)的估计量 （Estimate），简称估计。
常用记号qˆ来表示估计，如ˆ ˆ( X )来表 示的估计。
设统计模型为{P , }，任何与总体有
关的待估计的量可以看成是参数空间上的
实值函数q( ), 通常我们也称其为参数。如 在例1中，产品的废品数q( ) N，其中是
废品率。 但上述有关参数的概念并不局限于
参数统计模型， 在非参数统计模型中亦存在， 如总体均值EP ( X )和方差VAR P ( X )等总体的
例7 求总体均值和方差 2的矩估计。
例8 设总体X服从[1,2 ]上的均匀分布，
X1, X2 ,
,
X
是来自总体的样本，求
n
1
和
的矩估计。
2
解 因为均匀分布的均值和方差为
E( X ) 1 2 ,Var( X ) (2 1 )2 .
2
12
令
1 n
n
i 1
(
1
Xi
2
2
X )2
X
(
2
12
1
三、极大似然法
极大似然法是另一种常用的估计法，先举 例说明其思想。
例9 已知甲、乙量射手命中靶心的概率为0.9 和0.4，观察一张靶纸知10枪6中，且这张 靶纸肯定是射手甲乙之一所射，问究竟 是谁所射？
根据题意，可建立统计模型{P , }，其中
五类，用vi i(i 1,2,3,4,5)表示，pi是总体中 从事第 i 种职业男性的比例。父辈从事第3
种职业的708个丹麦男性的职业数据如下：
i 1 2345
5
ni 23 84 289 217 95 n ni 708
i 1 5
pˆ i 0.03 0.12 0.41 0.31 0.13 pˆ i 1
n5 n
n2 n
n3 n
Hale Waihona Puke 0.44 0.53 0.09
在实际问题中，常见的情形是：每次试验
结果发生的概率p1, p2 , , pk不是独立变化的，
而是依赖于m维参数 (1,2 , ,m )的连续
函数，
p1
h1(1, 2 ,
, m )
,
pk hk (1, 2 , , m )
我们需要估计的是的部分分量或函数q( ),
第三讲 参数估计
一、参数及其估计 二、替换原理 三、极大似然估计法
一、参数及其估计
在解决实际问题中，当构造了统计模型， 我们首先关心的是分布族中的那一个分布产 生了我们所抽取的数据，即就是要从样本来 推断总体的分布或所感兴趣的总体特征数 （如总体均值、方差等）。统计推断分为参 数估计和假设检验，我们先来讨论参数估计。
二、替换原理
1. 频率替换法
考虑n次独立重复试验，每次试验有k中
可能的结果 v1,v2 , ,vk , 每个结果发生的概率
k
pi是未知的，且 pi 1. 用ni表示n次试验
i 1
中结果vi发生的次数，则pi最简单的直观估计
计是ni / n，即
pˆ i
ni n
,i
1,2,
,k.
例5 考虑男性总体。设男性的职业类型分为
,r.
假设需要估计q( )，先将其表示为前r个原点矩
的函数，即q( ) g(m1( ),m2( ), ,mr ( )).
由替换原理可得q( )的估计为
T ( X1, X2 , , Xn ) g(mˆ 1, mˆ 2 , , mˆ r ). 这种方法称为矩估计法，所得的估计量称为 矩估计量（Moment Estimate）。
)
来估计q( p1, p2 , , pk ).
例如在例5中已知第4和第5种职业相于蓝领，
第2和第3种职业相于白领，我们感兴趣的是 蓝领工人和白领工人比率的差，即
q( p1, p2 , , p5 ) ( p4 p5 ) ( p2 p3 ). 使用频率替换原理，有
T(X1,
X2 ,
,
Xn)
n4 n
)2
,
求解可得
ˆ1 X
ˆ2 X
3
n
n i 1
(Xi
X
)2
.
3
n
n i 1
(Xi
X
)2
注意：
1. 总体存在适当阶的矩。
反例，考虑Cauchy分布，其密度函数为
f ( x, )
1
, x ,
(1 ( x )2 )
其各阶矩均不存在。
2. 对相同的参数 q( )，存在多个矩估计。 例如，考虑总体是参数为 的Poisson分布， 既是总体的均值，又是总体的方差。
通过反解即可将表示成pi的函数，假如 有表达式q( ) g( p1, p2 , , pk )，且g在区域
Dk
( p1,
p2 ,
,
pk ) :
pi
k
0,
i 1
pi
1
上有定义和连续，则由频率替换原理可得
T(X1,
X2 ,
,
Xn)
g( n1 n
, n2 n
,
, nk n
),
即为q( )的频率替换估计。
需要注意的是在上述估计过程中可能得到 的估计是不唯一的，举例说明如下。 例6 考虑具有两个等位基因的单个基因的遗 传平衡问题。如果三种不同的基因型是可辨 识的，这就导致假设个体三种基因型发生的 频率为
p1 2 , p2 2 (1 ), p3 (1 )2 ,
其中0 1, 即著名的Hardy-Weinberg模型。
如果ni表示n次试验中基因型为i的人数， 则(n1, n2 , n3 , )服从参数为( p1, p2 , p3 )的多项分
布，其中p1, p2 , p3的表示如上所示。现估计
同位基因之一发生的频率，反解可得
p1 , 1
p3 ,
p1
p2 2
由替换原理可得 的三个不同的估计
ˆ1
n1 n
,ˆ2
1
i 1
其次，考虑概率pi (i 1,2, ,k)的连续函
数q( p1, p2 , , pk )的估计问题。根据频率替换
原理，最自然的方法就是用样本频率 n1 , n2 ,
nn
, nk n
代替未知的总体频率p1 ,
p2 ,
,
pk，即使用
T(X1,
X2 ,
,
Xn)
q( n1 n
, n2 n
,
, nk n