D7-1矩法估计

A1 EX A2 E(X 2 ) DX (EX )2

A1 A2


2


2
Aˆ1 ˆ

Aˆ2 ˆ 2 ˆ 2
因为
Aˆ1 x
Aˆ 2

1 n
n i 1
xi 2
因此 ˆ x
ˆ 2

Aˆ2
ˆ 2

1 n
n i 1
xi2
A1

1 n
n i 1
Xi
, 称为一
阶原点矩，即样本均值。
A2

1 n
n i 1
X
2 i
,
称为二 阶原点矩。
当n充分大时， A1 EX , A2 E( X 2 )。
6
在概率论中， 称 EX 为 X 的一阶原点矩。
在数理统计中，称
X

1 n
n k 1
Xk
为一阶样本原点矩。
用 X 估计EX的方法称为EX的矩估计法。
解
x
EX
x θ
e
θ dx
令 yx

y
0
1

(
y


)e
θ dy θ
14
EX
E( X 2 )
e dx x2
μθ
xμ θ

0
1 θ
(
y


)2

e
y θ
dy

2θ2

2

2
2 ( )2
3 n
n i1
(Xi

X )2
bˆ 1
3( 2 12 ) x
3 n
n i 1
(Xi

X )2
20
X

1 n
n k 1
Xk
S 2

1 n 1
n k 1
(Xk

X )2
s
1 n 1
n i 1
( xi

x)2
D K

1 n
n
( xi
i 1
x)k ,
,
X
是一个样本；
n
求：, 2的矩估计量。
解： 1 EX
2 EX 2 DX (EX )2 2 2 令 1 1, 2 2, 即 1, 2 2 2,
所以 ˆ 1 X ,
ˆ 2
2

2 1

1 n


e
x
,
x0
( 0)
0 , other
今取得一组样本数据如下，问如何估计θ？
16 29 50 68 100 130 140 270 280 340 410 450 520 620 190 210 800 1100
16
X:
f
(
x;
)

1


e
x
,
0 ,
1）矩法估计
i 1
i 1
n
n
xi n xi
令 d ln L( p) i1 i1 0.
dp
p
1 p
29
n
n
xi n xi
令 d ln L( p) i1 i1 0.
dp
p
1 p
N
n
(1 P) xi np P xi 0.
I 1
i 1
在一定程度上反映了X取值的离散程度。
这种估计量称为矩估计量；矩估计量的观察 值称为矩估计值。
8
例 1 设某炸药厂一天中发生着火现象的次数X
服从 参数为的泊松分布，未知，有以下样本值；
试估计参数（用矩法）。
着火的次数 k
0 12 3456
发生k次着火天数 nk 75 90 54 22 6 2 1 250
2
第一节 矩法估计
第七章
一 、矩法估计 二、常用分布参数的矩法估计
3
参数估计是统计推断的基本问题之一，在许多实际 问题中，并不一定要求密度函数，而只要知道参数， 那么分布就决定了。
引例1 考察灯泡厂生产的灯泡质量，由于种种随机 因素的影响，易知灯泡使用寿命是随机变量，
记为 X 且 X ~ N(, 2 )
解得p的极大似然估计值
Pˆ

1 n
n i 1
xi

x
p的极大似然估计量为
pˆ
解
EX

x
x( 1)dx

1
x dx ,
1
1


x

ˆ ˆ 1
,
解得 ˆ x .
x 1
13
例5
设总体X的概率密度为
p(
x)

1 θ
e(
x
)/
,
0,
x ; x .
其中θ＞0，μ与θ是未知参数，X1，X2，…,Xn，是X 的一 组样本，求μ与 θ的矩估计量.
是一个样本；求：a, b的矩估计量。
解
p(x)

b
1
a
0
A1

EX

ab, 2
从而有：

Aˆ1
ˆ 2


aˆ bˆ 2
(bˆ aˆ)2
x
12
a xb other
由此知


2
ab
2
(b a)2
12

aˆ bˆ x 2

设X1,
,
X n是来自X的样本；则X1,
,
X
的联合分布列：
n
n
p(x1, ) p(x2, ) p(xn, ) p(xi ; ) 记为 i 1
n
L( ) L(x1, , xn; ) p(xi; ), D. (1.1) i 1
它是的函数。L( )称为样本的似然函数。
若母体的分布中包含多个参数，
即可令 L 0,
i
或 ln L 0,
i
i 1, , k. i 1, , k.
解k个方程组求得1,
,
的极大似然估计值。
k
28
例1 设X ~ B(1, p); X1, , Xn是来自X的一个样本，
试求参数p的极大似然估计量。
解：设x1,
i 1
这里L( )称为样本的似然函数。
总之，似然函数即为样本分布，但要强调的是：其中
x1, , xn是已知的， 是未知的。
25
我们取 的估计值ˆ，使概率L( )取到最大值。
ˆ与x1, , xn有关，记为ˆ(x1, , xn );
由极大似然估计法： 固定x1, , xn; 挑选使概率
解 因 p=EX, 故 p 的矩估计量为
pˆ
X

1 n
n i 1
Xi

fn ( A)
(即出现不合格产品的频率). 12
例4 设总体X的概率密度为
x( 1) ,
p(x) 0,
x 1; 1
x 1.
θ是未知参数，X1，X2，…,Xn，是X 的一组样本，
θ的矩估计量.
本节对参数的点估计作进一步的说明，思路仍然 是通过给定的一组样本，建立待估参数的表达式。
5
一、矩法原理
对于样本
X1, X 2,
,
X
n
,
X
k i
(k 1,2, )
是随机变量。而
Ak

1 n
n i 1
X
k i
也是随机变量。
称
Ak

1 n
n i 1
X
k i
为样本的 k 阶原点矩。
特别
2
aˆ x 3ˆ
得
bˆ x 3ˆ
其中
ˆ
1 n
n
( xi
i 1
x)2

D2
19
(b a)2
12
(a b)2 4
2

1 n
n i 1
X
2 i
即 a b 21, b a 12( 2 12 )
解得：aˆ 2
3( 2 12 ) x
解： 1 EX
令 X ,
A1

1 n
n i 1
Xi

X
则ˆ x 1 (0 75 190 61) 1.22
250
所以 X , 估计值ˆ 1.22。
9
例2 设总体的分布函数为 F(x) . 求总体均值μ、σ2 的 矩估计。
解法1 以样本均值估计总体均值：
L(x1, , xn; )达到最大的参数ˆ，作为的估计值， 即取ˆ 使得：
L(ˆ)

L(x1,
,
xn ;ˆ)

max
D
L(x1,
, xn; )
(1.2)
称其为参数 的极大似然估计值。
ˆ(X1, , Xn )称为参数 的极大似然估计量。
26
若
L( x1 ,
,
xn ;ˆ)
24
(2). 若连续型总体 X 分布的类型已知，
含有未知参数 。 总体的概率密度为 p(x, )
则样本
X1,
,
X
的联合密度：
n
n
p(x1, ) p(x2, ) p(xn , ) xn; ) p(xi; ),
n i 1
X
2 i

X
2

1 n
n i 1
(Xi

X )2
特别，若 X ~ N(, 2), , 2未知；
则
ˆ X ,
ˆ 2

1 n
n i 1
(Xi

X )2
23
极大似然估计法
(1). 若离散型总体X的分布的类型已知，
但含有未知参数 ， 设总体的分布列为 P{X x} p(x; ), D
,
xn
是一个样本值。X
的分布列为：
i
P{X i xi} pxi (1 p)1xi , xi 0,1;
故似然函数为
n
n
n
xi
n xi
L( p)
p xi (1 p)1xi p i1 (1 p) i1 ,
i1 n
n
而 ln L( p) ( xi ) ln p (n xi ) ln(1 p).
概率论与数理统计第六讲矩法估计第七章参数估计三数学期望的置信区间四方差的置信区间第七章第一节矩法估计二常用分布参数的矩法估计问题中并不一定要求密度函数而只要知道参数在许多实际那么分布就决定了
概率论与数理统计
第六讲
主讲教师: 王升瑞
1
第七章 参数估计
一 、矩法估计 二、置信区间的概念 三、数学期望的置信区间 四、方差的置信区间
利用样本矩代替总体矩， 从而得出待估计参数的
表达式的方法，称为矩估计法。
7
二、常用分布常数的矩法估计
在数理统计中，称
Dk

1 n
n
(Xk
k 1

X )k
为k 阶样本中心矩。
由于 DX 刻画的是 X 取值的离散程度，设
X1, X2, , Xn 是总体X的样本，那么样本观察值 x1, x2, , xn

x2

1 n
n i 1
( xi

x)2
11
例3 不合格品率的矩法估计
设某车间生产一批产品，为估计该批产品不合格品率，
抽取了n 件产品进行检查.
分析 设总体X 即抽一件产品的不合格产品数，相当于
抽取了一组样本X1，X2，… ，Xn , 且
1, 第i次取到不合格品； X i 0, 第i次取到合格品.

max

L( x1 ,
,
xn
;
)
称ˆ(X1, , Xn )为 的极大似然估计量。
一般，p(x; ) p关于可微，故可由下式求得： dL( ) 0. d
27
又因L( )与ln L( )在同一处取到极值，
因此的极大似然估计也可从下述方程解得： d ln L( ) 0. d
注意到
D( X ) = E ( X 2 )－( E X )2 =θ2
令
θ μ X ,
θ
2

M2.
ˆ
M2
1 n
n i1
(
Xi

X
)2,
μˆ X M2 .
15
例6 指数分布的点估计
某电子管的使用寿命 X （单位：小时) 服从指数分布
X:
f
(
x;
)

1
bˆ aˆ ˆ
23
18
例7 设总体X ~ U[a,b], a,b未知；X1, , Xn
是一个样本；求：a, b的矩估计量。
p(x)

b
1
a
0
a xb other

aˆ bˆ x 2

bˆ aˆ ˆ
23

aˆ bˆ 2
x
bˆ aˆ 3ˆ
Ak

1 n
n i 1
xik ,
k 1,2
k 1,2
分别称为样本均值、样本方差、样本标准差、
样本k阶矩、样本k阶中心矩。
统计量是样本的函数，它是一个随机变量， 统计量的分布称为抽样分布。
21
休息片刻
22
例3 设总体X的均值，方差都存在，且 2 0,
但，
2未知，又设X1,
x0 other
( 0)

EX

x

1

e
x
dx


0
令 X θ 则可得 的矩法估计量为：θˆ X.
代入具体数值可得θ的估计值为：
1
n
n i 1
xi
1 5723 318(小时). 18
17
例7 设总体X ~ U[a,b], a,b未知；X1, , Xn
知道了参数μ，σ2的值，那么寿命X的分布就完全 确定了.
问题：如何估计 和 2 ？
4
矩法估计 它是基于一种简单的“替换”思想
建立起来的一种估计方法 . 是英国统计学家K.皮尔逊最早提出的 . 其基本思想是用样本矩估计总体矩 .
实际问题中，通常利用经验确定研究对象的分布 形式，要进一步确定具体的概率分布，就必须确定 函数中所包含的参数。


X

1 n
n i 1
Xi,
ˆ

1 n
n i 1
xi ,
以样本二阶中心矩估计总体二阶中心矩（即方差）

2

D2

1 n
n
(Xi
i 1

X )2
ˆ 2

1 n
n
( xi
i 1
x)2
10