参数的最大似然估计量

2.具体做法:
在很多情况下，p ( x; ) 和 f ( x; ) 关于 可微， 因此据似然函数的特点，常把它变为如下形式：
ln L( ) ln f ( xi ; ) 或
i 1 n
ln L( ) ln p( xi ; )
设X1 , X 2 ,
, k )为待估参数， ．
, xn 是
, X n 是来自总体的一个样本，x1 , x2 ,
相应于样本的一组样本值
（1）离散总体
易知：样本X1, X 2 , , X n 取到观测值x1, x2 ,
n
, xn的概率为
p P{ X1 x1 , X 2 x2 ,
, X n xn } p( xi ; )
i 1
则概率p随的取值变化而变化，它是的函数，记
L() L( x1 , x2 ,
, xn ; ) p( xi , )
i 1
n
称为样本的似然函数
（2）连续总体
样本( X1 , X 2 , , X n )的联合概率密度函数为
f ( xn , ) f ( xi , )
用这个方程组的解 , , 1 2 量，

, k 分别作为 1 , 2 ,

, k 的估计
例2.1. 设总体X 的均值及方差2 都存在但均未知，且有 0，
又设X 1 , X 2 , 矩估计量． , X n 是来自总体的一个样本，试求，2的
m1 E ( X ) 2 2 2 2 m E ( X ) D ( X ) [ E ( X )] 2 A1 A1 令 2 解得 2 2 2 A A A2 2 1
设为总体X 分布函数中的未知参数或总体的某些未知的 数字特征，X1 , X 2 , , X n 是来自X 的一个样本，x1 , x2 , , xn 是相应的一个样本值
ˆ ( X , X , , X )， 点估计问题就是构造一个适当的统计量 1 2 n ˆ ( x , x , , x ) 作为未知参数的近似值 用其观察值
X ~ p( )
例1. 设某总体X ~ p( )，试由样本X1, X 2 , 例2.
2
, X n来估计参数．
设某总体 X ~ N ( , )，试由样本 X 1 , X 2 , 来估计参数 ， 2．
, Xn
----参数估计又分为点估计和区间估计两种．
第2.2节 矩估计和最大似然估计

, X n 是来自总体X 的
一个样本，求
E( X ) ，D( X ) ，所以由例3可知：
ˆX E( X )
n 1 2 ˆ D( X ) ( X X ) i n i 1
二、最（极）大似然估计法：
1. 似然函数定义：
若总体X的分布律为P( X x（或密度函 ) 数为p( x; )） 其中 (1 , 2 ,
i 1 n
f ( x1 , ) f ( x2 , )
它是的函数，记
L( ) L( x1 , x2 ,
, xn ; ) f ( xi , )
i 1
Байду номын сангаас
n
称为样本的似然函数．
基本思想
最大似然方法就是固定样本观测值x1 , x2 , , xn，在取值的 可能范围内，挑选使似然函数L( x1 , x2 , , xn ; )达到最大 ˆ 作为参数的估计值，即 （从而概率p达到最大）的参数值
第2章 参数估计
第2.1节 第2.2节 第2.3节 参数估计的概念 矩估计和极大似然估计 点估计的优良性准则
第2.4节
区间估计
第2.1节 参数估计的概念
参数
统计推断的目的，是由样本推断出总体的具体分布．
首先，根据样本值，对总体分布的类型作出判断和假 设，从而得到总体的分布类型，其中含有一个或几个未 知参数； 其次，一些并不关心其分布类型的统计推断问题，只 关心总体的某些数字特征，如期望、方差等，通常把这 些数字特征也称为参数．这时，抽样的目的就是为了解 出这些未知的参数。
L( x1 , x2 , ˆ) max L( x , x , , xn ; 1 2

, xn ; )
ˆ 与样本值x , x , , x 有关，常记作 这样得到的 1 2 n ˆ ( x , x , x ) -----------参数的最大似然估计值 1 2 n 相应的统计量 ˆ(X , X , 1 2 X n ) -----------参数的最大似然估计量
1 n 样本的k阶原点矩Ak X i k 依概率收敛到总体的 n i 1 k阶原点矩mk E ( X k )

假设 (1 , 2 ,
, k ) 为总体 X 的待估参数，X1 , X 2 ,
2. 具体做法：
, Xn 是
A1 m1 A m n 1 2 2 l l 来自X 的一个样本，令 ，即 A X m EX l i l n i 1 Ak mk ，l 1, 2, , k ， 得一个包含 k 个未知数 1 , 2 , , k 的方程组， ˆ ( ˆ , ˆ , , ˆ ) ，然后 从中解出 (1 , 2 , , k ) 的一组解 1 2 k
1 2 n
ˆ ( X , X , , X )为参数的点估计量， 称 1 2 n 统称为点估计 ˆ ( x1 , x2 , , xn )为参数的点估计值
mk E( X k )
一、矩估计法：
1. 基本思想：

矩估计法由英国统计学家皮尔逊（K．Pearson） 于1894年首次提出 理论依据是
ˆX 故有 n n 1 1 ˆ 2 ( X i2 ) X 2 ( X i X )2 n i 1 n i 1
结论

总体均值与方差的矩估计量的表达式不会因总体
的分布不同而异；
• 对于一个参数，可能会有多种估计量。
例2.2
设X ~ P()，未知，X 1 , X 2 ,