概率论与数理统计点估计与最大似然估计

第 i 次是次品 第 i 次是合格品
则 P{Xi = 1} = p , P{Xi = 0} = 1 p .
若 10 次试验的结果是样本观测值
(x1 , x2 , … , xn) = (1, 0, 1, 0, 0, 0, 1, 0, 0, 0) ,
18
则有 P{X1 = 1, X2 = 0, X3 = 1, X4 = X5 = X6 = 0, X7 = 1, X8 = X9 = X10 = 0 }
若总体 X 的前 k 阶矩均存在 , 则可令
E( X r )
=
1 n
n i =1
X
ቤተ መጻሕፍቲ ባይዱ
r i
, r =1, 2 ,L , k ,
再利用总体 X 分布已知, 具体求出 E( X r ),
当然它是未知参数 1 ,2 ,L ,k 的函数, 这样
就得到含 k 个未知数和 k 个方程的方程组 ,
10
解方程组即得
6
$( X1 , X2 ,L , Xn ) 为 的估计量 , $( x1 , x2 ,L , xn ) 为 的估计值 .
估计量和估计值统称为点估计 .
注 对不同的样本值, 的估计值一般也不同.
7
二、矩估计法: 1、矩估计法: 因很多分布中总体的数学期望与方差均是分布中 的参数或是参数的某个函数 , 于是就设想
= p3 (1 p)7
最大似然法的基本思想是在已经得到试验结果的
情况下, 寻找使这个结果出现的可能性最大的 pˆ
值作为真 p 的估计 .
于是
令
dp3 (1 p)7 =0 ,
解得 p = 0.3
dp
于是用 µp = 0.3 作为该批产品次品率的估计值
是很适当的 . 19
设 ( X1 , X2 , … , Xn ) 为来自总体 X 的样本 ,
第七章、参数估计
7.1、点估计与最大似然估计 7.2、估计量的评选标准 7.3、区间估计
1
7.1点估计与 最大似然估计
1、点估计的概念 2、矩估计法 3、最大似然估计法
2
引言
在实际问题中，X的分布形式往往是已知的，但分布 中含有一个或几个未知的参数。问题是如何利用总体 的一个样本( X1 , X2 , … , Xn )给出参数的一个估计值， 这就是所谓的参数的点估计问题。先复习一个有关的 概念：矩
解：(1)、X 1 (110 184 L 168) 130.55 11
总体期望E(X ) 1 ,令X 1 , 得= 1 = 1 =0.0077
X 130.55
(2) : E( X ) 1 130.55 0.0077
15
三、最大似然估计:
1、设总体X为连续型随机变量，其密度函数为f(x, θ) 求（1）：样本的联合密度；
令样本矩与总体矩相等, 再利用总体矩与 参数之间的关系, 导出参数的一个点估计 的方法, 称为矩估计法 .即用样本矩替代同阶的 总体矩。具体来讲用
8
样本均值X 替代总体期望值 E(X, ),(未知) 样本方差 S2 替代总体方差 D(X, ),(未知)
9
2、矩估计法解题的主要步骤:
设总体分布已知, 但含有k个未知数1,2 ,L ,k ,
（2）：θ的估计值。 n
解：（1）f(x1 , x2 ,L , xn, ) = f (xi , ),(Xi 相互独立) i 1 （2）根据经验一次试验中概率大的事件比概率小
的事件容易发生。在已经得到试验结果的情况下，
应该寻求使这个结果出现的可能性最大的估计值作
为总体参数的估计值。
16
于是问题转化为求 f(x1 , x2 ,L , xn, ) 的最大值。
解 本分布中含有两个未知参数, 故令
X = E( X ) ,
S
n
2
D(X)
12
由于 X 在[a , b]上服从均匀分布, 所以
E(X) = a + b , 2
(b a)2
D( X ) =
,
12
故
X
E(X )
ab 2
,
S
2 n
D( X )
(b
a)2 12
13
解方程组, 得
a = X - 3 S
1 n
n i 1
Xi =A1称为一阶样本原点矩，
4
K
，1 n
n i 1
Xik =Ak称为k阶样本原点矩，
样本k阶中心矩：
Sn2 =
1 n
n
(Xi -X )2=B2称为样本二阶中心矩，
i 1
K
Snk =
1 n
n
(Xi -X )k = Bk称为样本k阶中心矩，
i 1
由大数定律可知，样本矩 依概率总体矩。
µ1
=
µ1 ( X1
L
,
X
2 ,L L
, Xn),
µk = µk ( X1 , X2 ,L , Xn ) ,
这就是1 ,2 ,L ,k 的矩估计量 .
11
例1： 设总体 X 在[a , b]上服从均匀分布, a , b 未知 . X1 , X2 , … , Xn 是来自 X 的样本, 求a , b的矩估计量.
5
一、点估计的概念:
1、定义7.1:
设总体 X 的分布函数为 F( x , θ ), 其中θ 为
未知参数 . 从总体 X 中抽取样本 X1 , X2 , … , Xn , 其观测值为 x1 , x2 , … , xn .
构造一个统计量 $( X1 , X2 ,L , Xn ), 用它的 观测值 $( x1 , x2 ,L , xn ) 来估计参数 , 称
3
总体矩 样本矩
E(X)=E(X¹)= μ1称为一阶总体原点矩， E(X²)= μ2 称 二阶总体原点矩，···E(Xk)= μk 称为k阶总体原点矩。 同样地，D(X)=E(X-E(X))² 称为二阶总体中心矩，
···，E(X-E(X))k 称为k阶总体中心矩。 类似地，有k阶样本原点矩，
X =
故a, b的矩估计量为
b = X + 3S .
aˆ = X -
) 3S,b = X-
3S
14
例2、设有一批同型号的灯管，其寿命（单位：h）
服从参数为λ的指数分布，今随机抽取其中11只，测 得其寿命数据如下：
110,184,145,122,165,143,78,129,62,130,168
(1)用矩估计法估计λ的值；(2)求总体的平均寿命
利用微积分中求极值的思想，只要令
f '(x1 , x2 ,L , xn, )=0
)
只要得到驻点处的值，即可得到的估计值。
这种点估计的方法称为最大似然法。
X为离散型时类似。
17
例3、 现有一批产品, 设 p 是产品的次品率, 现估
计 p 的值 . 为此作放回抽样, 共 10 次 .
令
1 , Xi = 0 ,