概率论与数理统计课件08参数估计资料

的独立性, 样本( X1, X 2 ,..., X n )取值( x1, x2 ,..., xn ) 的联合概率
n
L( x1, x2 ,..., xn ; ) p( xi ; ) i 1
同理, L( x1, x2 ,..., xn ; )是总体参数的函数. 称L( x1, x2 ,..., xn ; )为样本( X1, X 2 ,..., X n )的似然
4
参数估计
估计量优劣的标准
1. 一致性 2. 无偏性 3. 有效性
5
估计量优劣的标准
一致性估计
设ˆ是总体参数 的估计量 (ˆ是一个样本统计量 )
如果n 时， 依概率收敛于 ,即给定
0, lim P( ) 1, 则称 为参数的
n
一致估计
显然,一致性问题是一个极限问题,故只有样本容量充分大时才
10
估计量优劣标准
有效估计
例:
试比较总体期望值的两个无偏估计量
n
X
1 n
n i 1
X i与X
ai X i
i 1 n
ai
i 1
的有效性.
n
( ai o) i 1
11
点估计
1. 矩法 2. 最大似然估计法
12
点估计
矩法
以样本矩作为相应的总体矩的估计， 以样本矩的函数作为相应的总体矩的 同一函数的估计的方法。
13
点估计
最大似然估计法
问题的提出:
设( X1, X 2,..., X n )是来自总体的样本,我们应该 选择什么样的样本统计量来对总体参数进行估计,
以使得观测结果(x1, x2,..., xn )出现的可能性最大呢? 为此,我们引入似然函数, 采用函数求极值的方法解 决此问题.
14
点估计
最大似然估计法
第八章 参数估计
主要内容
1. 参数估计的概念 2. 估计量的优劣标准 3. 点估计 4. 区间估计
1
参数估计
参数估计的概念
人们在对社会经济问题进行定量分析时,常常
碰到的问题是如何选取样本并根据样本资料对总
体的各种数量特征作出推断.而描述总体数量特征
的随机变量的分布类型大致是知道的,但确切的分
布形式未知.即总体分布的参数未知.要确定总体的
似然函数 :
(1) 设为连续型随机变量, 其概率密度函数为
(x; ), 其中为未知参数,由于样本的独立性, 样
本( X1, X 2 ,..., X n )的联合概率密度函数为
n
L(x1, x2 ,..., xn ; ) (xi ; ) i 1
对于样本( X1, X 2 ,..., X n )的一组观测值(x1, x2 ,..., xn )
(1) X n1X1 n2 X 2 是的无偏估计;
n1 n2
(2)S 2
(n1
1) S12
(n2
1)
S
2 2
是
2的无偏估计.
n1 n2 2
9
估计量优劣标准
有效估计
设 和 都是的无偏估计，若样本容量为n， 的
方差小于 的方差，则称 是比 有效的估计量。
如果在的一切无偏估计量里中， 的方差达到最小， 则称为的有效估计量。
大值.
17
点估计
最大似然估计法的基本步骤
第一,求样本的似然函数L(x1, x2,..., xn; ); 第二,求ln L(x1, x2,..., xn; ); 第三, 对ln L(x1, x2,..., xn; )求的导数(如果
是向量, 则求偏导数);
第四, 令导数等于零, 解出即可.
18
点估计
8
估计量优劣标准
无偏估计
推广: 设( X11, X12 ,...,X1n1)和( X 21, X 22 ,...,X 2n2 )是
来自总体的一个样本,且E , D 2.X1及S12
是样本(
X
11
,
X
12
,..
.,X
1n1
)的平均数
和方差;
X
2
及S
2 2
是样本( X 21, X 22 ,...,X 2n2 )的平均数和方差.则
统计规律性,等于要确定总体分布的参数.这种根据
样本资料估计总体参数的方法,称为参数估计.
2
参数估计
参数估计的方法
Hale Waihona Puke Baidu1. 点估计
以样本的某一函数值作为总体中未知参数的估计值
2. 区间估计
根据样本资料推断总体参数的范围,并且以一定的概率 保证总体参数落在该范围内.
3
参数估计
参数估计的理论基础
1. 总体分布理论 2. 样本统计量的分布
具体来说,就是要:
20
区 间估计
区间估计概念
要确定两个统计量ˆ1(x1, x2 ,..., xn )和ˆ2 (x1, x2,..., xn ), 使得P(ˆ1 ˆ2 ) 1.此时称区间(ˆ1,ˆ2 )为总体参数 的置信区间,ˆ1和ˆ2分别称为置信区间的上限和下限, 1 称为置信系数, 也称为置信概率或置信度, 是事先给
起作用.
6
估计量优劣标准 无偏估计
设ˆ是总体参数的估计量,则ˆ是样本( X1, X 2,...X n ) 的函数,即ˆ是一个随机变量.如果Eˆ ,则称ˆ是 总体参数的无偏误估计.
7
估计量优劣标准 无偏估计
例: 设( X1, X 2,...X n )是来自总体的一个样本,且 E , D 2.试证明: 样本平均数X及样本方 差S 2分别是总体参数和 2的无偏估计.
最大似然估计法的例题
1. 0—1分布中p的最大似然估计；
2. Poisson分布的参数 的最大似然估计； 3. 指数分布的参数 的最大似然估计;
4. 正态分布的参数 , 2 的最大似然估计; 5. 二项分布中参数p最大似然估计.
19
区 间估计
区间估计概念
根据估计量的分布，在一定的可 靠程度下，指出被估计的总体参数所 在的可能数值范围。
函数.
16
点估计
最大似然估计法
如果似然函数L(x1, x2 ,..., xn ; )在 ˆ处取得最 大值, 则称ˆ为总体参数的最大似然估计.
由于函数y ln x在定义域内单增, 则如果当
ˆ时似然函数L( x1, x2 ,..., xn ; )取得最大值, 则 当 ˆ时 ln L(x1, x2 ,..., xn ; )也取得最大值;反之 亦然.因此我们只需考虑 ln L(x1, x2 ,..., xn ; )的最
L(x1, x2 ,..., xn ; )是总体参数的函数.称L(x1, x2 ,..., xn ; )
为样本( X1, X 2 ,..., X n )的似然函数.
15
点估计
最大似然估计法
似然函数 :
(2) 设为离散型随机变量, 其概率函数为 : P{ x} p( x; ), 其中为未知参数,由于样本