概率 矩估计

0
2
21 1,
代换得
ˆ
2Xn
1
1,
1
即为
的矩估计.
1 Xn
例7. 设总体X ~ U[a, b], a, b未知,X1,
,
X
是来自
n
总体X的一个样本.
求：a, b的矩估计.
解：
1
E(X
)
a
2
b
,
2
E(X
2)
Var( X
)
(EX
)2
(b
a)2 12
(a
b)2 4
a b
b a
21, 12(2
设总体分布含有m个未知参数 1 ，…， m
令 则取统计量
1 g1(1, 2 ,
2
g2 (1, 2 ,
m gm (1, 2 ,
, m ) , m )
, m )
ˆ1
g1( A1 ,
A2 ,
ˆ2
g2 ( A1 ,
A2 ,
ˆm gm ( A1 , A2 ,
, Am ) , Am )
, Am )
2
x2dx
2
3
解得
3 2
1，
所以的矩估计为
ˆ＝ 1
2
(
X1
X
2
X
3
)
(2) 的矩估计值为
ˆ＝ 1(0.5＋1＋1.5)＝ 3
2
2
作业
7.4（矩估计）； 7.5； 7.9； 7.11（矩估计）
后，估计值是个已知的数值. 对于不同的
样本值， 的估计值一般不同.
问题是，使用什么样的统计量去估计 ？
容易想到，用样本均值
1 n
n
i 1
X
i，它有三个好处：
1.无偏性：
E( 1 n
n i 1
Xi)
;
2.相合性： 弱大数定律；
3.强相合性： 强大数定律。
自然想到把样本体重的平均值作为总体 平均体重的一个估计.
但， 2未知，又设X1,
,
X
是一个样本.
n
求：, 2的矩估计.
解：
1 2
E(X) ,
E(X 2) Var(X
)
(EX
)2
2
2
解得
1 2 2 12
分别以A1, A2代替1，2，得和 2的
矩估计量分别为
ˆ A1 X n
ˆ 2
A2
A12
1 n
n i 1
X
2 i
X
2 n
1 n
n i 1
m E( X m ) m (1, 2 ,, m )
（2）解方程组（即从方程组中解出未知参数）
1 1(1, 2 ,, m ) 2 2 (1, 2 ,, m )
m m (1, 2 ,, m )
（3）用Ai代替上述方程组中的 i ，i=1,2,…m
得到 ˆi i (A1, A2 ,, Am ) i=1,2,…m
(Xi
Xn )2
例10. 设总体X 的概率密度函数为
f
(x)
2
2
x,
0 x
0,
其他
其中 >0为未知参数
(1) 设 X1 , X 2 , X 3 为来自总体的样本，求参
数 的矩估计
(2) 设0.5, 1, 1.5是总体X 的三个样本的观测
值 ，求参数 的矩估计值
解：(1)1
E(X
)＝
0
2
总体k阶原点矩的一个估计,即用
1
n
n i 1
X
k i
估计k
,
由此进一步估计未知参数，这就是
矩估计法.
矩估计法是英国统计学家K. 皮尔逊最早提出的
其基本思想是 用样本矩的函数估计总体矩的函数
记总体k阶矩为 k E( X k )
样本k阶矩为
Ak
1 n
n i 1
X
k i
用相应的样本矩去估计总体矩的 估计方法就称为矩估计法.
二 估计量（统计量）
定义(估计)：设X1 , X 2 , , X n是总体X的
简单随机样本， 是总体X的未知参数.
如果g( x1 , x2 , , xn )是已知函数，称
ˆ g( X1 , X 2 , , X n ) 是的估计量，简称为估计.(estimator )
计算后得到的值称为估计值.
估计量也称为统计量（statistic）
作为 i i=1,2,…m 的矩估计量
（4）若估计的是参数的函数 g(1, 2 , m )
则用 ˆi 代替 i 得到 g(ˆ1,ˆ2 ,ˆm ) 作为 g(1, 2 , m ) 的矩估计量
例3. 设总体X E( ), X1, , Xn是总体X的
一个样本.
求：的矩估计.
解： E(X ) 1 1 ,
注：
（1）统计量是不含未知参数的样本的函数。
（2）统计量既然是依赖于样本的，而后者 又是随机变量，即统计量是随机变量的函数， 故统计量是随机变量。
例1
设 X1, , X n为来自总体 X ~ N ( , 2 ) 的一个样本， 其中未知 , 2已知，问下列随机变量中哪些是统计量
X n
1 n
n i 1
1n (
n 1 i1
Xi2
nX n2 )
E(S 2 ) 1 [n 2 n 2 ] 2
n 1
n
3.标准差的估计
由于S 2是 2的估计，因此定义 标准差 的估计为
S
S2
1 n 1
n i 1
(Xi
Xn )2
S是样本标准差.
注：它是总体标准差的相合估计，强相合估计， 但它一般不是无偏估计。
估计 为1.68，这是点估计.
估计 以概率0.99在区间[1.57, 1.84]内，这是
区间估计.
点估计 例2 已知某地区新生婴儿的体重X~ N (, 2 ), , 2未知,
…
随机抽查100个婴儿
得100个体重数据
10,7,6,6.5,5,5.2, … 而全部信息就由这100个数组成.
据此,我们应如何估计 和 呢?
Xi
1
n
n i 1
Xi
S 2
1 n 1
n i 1
(Xi
Xn )2
1
n 1
n i 1
Xi
2
无偏估计及相合估计
• 如果 Eˆ ，称 ˆ 是 的无偏估计。 • 如果当样本量 n ，ˆ 依概率收敛到 ，
就称 ˆ 是 的相合估计。 • 如果当样本量n ，ˆ 以概率1收敛到 ，
就称 ˆ 是 的强相合估计。
4. 矩估计法
设X1, X2 , , Xn是总体X的简单随机样本，
已知X的分布函数为F ( x;1 ,2 , ,m ) 其中1,2 , ,m是未知参数.
设总体的k阶原点矩为 k＝E( X k ) ，
它们一般均为参数 的函数。另外，
由大数定律，1n
n
i 1
X
k i
以概率1收敛到
k
,
自然想到用样本的k阶原点矩作为
1.均值的估计
设总体均值 E( X )存在，X1, X2, , Xn 是总体X的简单随机样本，均值 的估计
定义为
由于XXnn是根1n据 X样1 本X计2 算出来X的n ， 所1n 以in1 是Xi
样本均值.
类似地，用样本体重的方差 S 2估计 2 .
2.方差的估计
总体方差 2 Var(X )的点估计由
m 以A1 X n代替得p的矩估计为
pˆ X n m
例6 设总体X的概率密度为
( 1)x , 0 x 1
f (x) 0,
其它
其中 1
是未知参数,
X1,X2,…,Xn是取自X的样本,求参数 的矩估计.
解:
1 E(X )
1 x( 1)x dx
0
( 1) 1 x1dx 1
三 参数估计问题的一般提法
设有一个总体X，总体的分布函数
为 F(x, )，其中 为未知参数 ( 可以是
向量) . 现从该总体抽样，得样本 X1, X2,…, Xn
要依据该样本对参数 作出估计，或估计 的某个函数 g( )
这类问题称为参数估计.
参数估计
点估计
区间估计
点估计 —— 估计未知参数的值
以ˆ1,ˆ2 , ,ˆm分别估计参数1,2 , ,m 并称 ˆ1,ˆ2 , ,ˆm分别是1,2 , ,m 的矩
估计.(moment estimator)
矩估计的一般步骤
设总体分布含有个m未知参数 1 ，…，m
（1）根据未知参数的个数求总体的各阶矩
1 E(X ) 1(1,2 ,,m ) 2 E( X 2 ) 2 (1, 2 ,, m )
为估计 , 需要构造一个适当的估计量
（统计量）ˆ ( X1, X 2 , , X n ), 每当有了样本 观测值 x1, x2,…, xn ，就代入该统计量中算出
一个值：ˆ (x1, x2 , , xn )（估计值）作为未
知参数 的近似值。
请注意，被估计的参数 是一个未知
常数，而估计量 ˆ g(X1, X2, , Xn) 是一 个随机变量，是样本的函数, 当样本值取定
SBiblioteka Baidu2
1 n 1
n i 1
(Xi
Xn )2
定义.
注：它也是总体方差的无偏估计，相合估计及 强相合估计.
无偏性的证明：不妨设E(X)=0，则
从而
S 2
1 n 1
n i 1
(Xi
Xn )2
1 n 1
n i 1
(Xi2
2X i X n
X n2 )
1n (
n 1 i1
Xi2
2nX n2
nX n2 )
12
).
即
a 1
3(2 12 ),
b 1 3(2 12 ).
aˆ A1 解得： bˆ A1
3( A2 A12 ) X 3( A2 A12 ) X
3
n
n i 1
(Xi
X n )2
3
n
n i 1
(Xi
X n )2
例8. 设总体X的均值，方差 2都存在，且 2 0,
区间估计—— 根据样本构造出适当的区 间，使他以一定的概率包含未知参数的 真值
假如我们要估计某队男生的平均身高.
（假定身高服从正态分布 N (,0.12 ) ）
现从该总体选取容量为5的样本，我们 的任务是要根据选出的样本（5个数）求出
总体均值 的估计. 而全部信息就由这5个数
组成 .
设这5个数是: 1.65 1.67 1.68 1.71 1.69
以A1 X n代替得的矩估计为
ˆ 1
Xn
例4. 设总体X P(), X1,
一个样本.
求：的矩估计.
, X n是总体X的
解：由 E(X )
以A1 X n代替得的矩估计为
ˆ Xn
例5. 设总体X B(m, p),其中m已知， X1, , Xn是总体X的一个样本.
求：p的矩估计.
解：由 E(X ) mp p ,