概率统计-样本及抽样分布(ppt )

n
f (xi ; )
i 1
设x1,, xn是相应X1,, X n的一个样本值，则随
机点( X1,, X n )落在(x1,, xn )的邻域（边长分别为
dx1,, dxn的nn维立方体）内的概率近 似为：
f (xi ; )dxi
(1.3)
i 1
我们取的估计值ˆ，使概率(1.3)取到最大值。
第七章 参数估计
返回主目录
第七章 参数估计
所以 X , 估计值ˆ 1.22。
§1 点估计
例2. 设总体X ~ U[a,b],a,b未知；X1,, X n是一个
样本；
求：a, b的矩估计量。
解：
1
EX
a
b, 2
2 EX 2 DX (EX )2
(b a)2 12
(a b)2 4
令
a
2
b
A1
1 n
n
Xi
X
l i
l 1,, k
k.存在。
这里是包含 k个未知参数 1，， k的联立方程组，
从中解出方程组的解 ˆ1，，ˆk。 用ˆ1，，ˆk 分别作为1，，k的估计量，这种求
估计量的方法称为 矩估计法。
返回主目录
第七章 参数估计
这种估计量称为矩估计量；矩估计量的观察值 称为矩估计值。 例 1 设某炸药厂一天中发生着火现象的次数X服从
但 dxi不随而变，故只需考虑：
i L( ) L(x1,, xn ; ) n f (xi ; ),
§1 点估计
(1.4)
i 1
的最大值，这里 L( )称为样本的似然函数。
若
L( x1 ,,
xn
;ˆ)
max
L(
x1,,
xn
;
)
则称ˆ( x1,, xn )为的极大似然估计值。
称ˆ( X1,, X n )为的极大似然估计量。
返回主目录
第七章 参数估计
1. 矩估计法
§1 点估计
设X为连续型随机变量，其 概率密度为f (x;1,,k ),
X为离散型随机变量，其 分布列为P{X x} P(x;1,,k ),
其中1,,k是待估参数,，X1,, X n为来自X的样本。
设 则 令
EX l
Al Al
1
n
l
nl
i 1
,
,l 1,2,,
所以 ˆ A1 X ,
ˆ 2
A2
A12
1 n
n i 1
X
2 i
X2
1 n
n i 1
(Xi
X )2
返回主目录
第七章 参数估计
特别，若 X ~ N(, 2 ), , 2未知；
则
ˆ X ,
ˆ 2
1 n
n i 1
(Xi
X )2
2. 极大似然估计法
§1 点估计
(1).若总体X属离散型，其分布律 P{X x} p(x; ),
一般，p(x; ), f (x; )关于可微，故可由下式求得：
dL( ) 0. d
返回主目录
第七章 参数估计
§1 点估计
又因L( )与ln L( )在同一处取到极值，因此 的极
大似然估计 也可从下述方程解得：
d ln L( ) 0. d
(1.5)
若母体的分布中包含多 个参数，
即可令 L 0,i 1,,k.或 ln L 0,i 1,, k.
3 n
n i 1
(Xi
X )2
返回主目录
第七章 参数估计
例3. 设总体X的均值，方差都存在，且 2 0,
但， 2未知，又设 X1,, X n是一个样本；
求：, 2的矩估计量。
解： 1 EX , 2 EX 2 DX (EX )2 2 2
令 1 A1, 2 A2 , 即 A1, 2 2 A2 ,
参数为的泊松分布， 未知，有以下样本值；
试估计参数 （用矩法）。
着火的次数 k
0 12 3456
发生k次着火天数nk 75 90 54 22 6 2 1 250
解： 1 EX 令 X ,
A1
1 n
n i 1
Xi
X
则 ˆ x 1 (0 75 1 90 6 1) 1.22
250
n
n
n
xi
n xi
L( p)
p xi (1 p)1xi p i1 (1 p) i1 ,
i1 n
n
而 ln L( p) ( xi ) ln p (n xi ) ln(1 p).
的形式为已知， 为待估参数，是可能取值的范围。
ห้องสมุดไป่ตู้
设X
1
,,
X
n
是来自X的样本；则X
n
1
,,
X
n的联合分布律：
p(xi ; )
i 1
又设x1,, xn是X1,, X n的一个样本值； 易知样本X1,, X n取x1,, xn的概率，亦即
事件{X1 x1,, X n xn }发生的概率为： 返回主目录
;ˆ)
max
L(
x1,,
xn
;
)
(1.2)
ˆ与x1,, xn有关，记为ˆ(x1,, xn );
称其为参数 的极大似然估计值。
ˆ( X1,, X n )称为参数的极大似然估计量。
第七章 参数估计
§1 点估计
(2).若总体X属连续型，其概率密度 f (x; ),
的形式已知， 为待估参数;
则X1,, X n的联合密度：
§1 点估计
第七章 参数估计
§1 点估计
设总体X的分布函数F(x; )的形式为已知， 是待估参数。 X1 X n是X的一个样本，x1 xn是相应的样本值。
点估计问题：
构造一个适当的统计量 ( X1,, X n )，用它的观察值 ˆ(x1,, xn )来估计未知参数 。
我们称 ( X1,, X n )为的估计量；称ˆ(x1,, xn ) 为 估计值。
i 1
(b a)2 12
(a b)2 4
A2
1 n
n i 1
X
2 i
返回主目录
第七章 参数估计
即 a b 2A1, b a 12( A2 A12 )
§1 点估计
解得：aˆ A2
3( A2 A12 ) X
3 n
n i1
(Xi
X )2
bˆ A1
3( A2 A12 ) X
第七章 参数估计
n
§1 点估计
L( ) L(x1,, xn ; ) p(xi ; ), . (1.1)
i 1
它是的函数。L( )称为样本的似然函数。
由极大似然估计法：固 定x1,, xn ;挑选使概率
L(x1,, xn ; )达到最大的参数 ˆ，作为的估计值， 即取ˆ使得：
L(
x1,,
xn
i
i
解k个方程组求得 1 ,, k的极大似然估计值。
返回主目录
第七章 参数估计
例4. 设X ~ B(1, p); X1,, X n是来自X的一个样本， 试求参数p的极大似然估计量。
解：设x1,, xn是一个样本值。 X的分布律为：
P{X x} p x (1 p)1x , x 0,1;
故似然函数为