第八章 参数估计PPT课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
起作用.
6
估计量优劣标准 无偏估计 设 ˆ是总体 的参 估,数 则 计 ˆ是 量 样 (X1,本 X2,.X .n.) 的函 ,即 ˆ是 数一个.如 随E 果 机 ˆ,变 则量 ˆ称 是 总体的 参无 数偏 . 误估计
7
估计量优劣标准 无偏估计
例:设(X1,X2,..X.n)是来自的 总一 体个,且 样本 E,D2.试证:样 明本平X及 均样 数本 差S2分别是总体 和2参 的数 无偏. 估计
13
点估计
最大似然估计法
问题的提出:
设(X1, X2,...,Xn)是来自总体的样本,我们应该 选择什么样的样本统量计来对总体参数进行估计,
以使得观测结(果x1, x2,...,xn)出现的可能性最大?呢 为此,我们引入似然函,数 采用函数求极值的方解法 决此问题.
14
点估计
最大似然估计法
似然函数 :
第八章 参数估计
主要内容
1. 参数估计的概念 2. 估计量的优劣标准 3. 点估计 4. 区间估计
1
参数估计
参数估计的概念
人们在对社会经济问题进行定量分析时,常常
碰到的问题是如何选取样本并根据样本资料对总
体的各种数量特征作出推断.而描述总体数量特征
的随机变量的分布类型大致是知道的,但确切的分
布形式未知.即总体分布的参数未知.要确定总体的
大值.
17
点估计
最大似然估计法的基本步骤
第 一 , 求 样 本 的 似 然 函 数 L ( x 1 ,x 2 , . . . ,x n ;) ;
第 二 ,求 ln L (x 1 ,x 2 ,...,x n ;);
第 三 ,对 lnL (x 1 ,x 2,...,x n;)求 的 导 数 (如 果
n
L ( x 1 , x 2 , . . . , x n ; ) p ( x i ; ) i1
同 理 , L ( x1 , x2 ,..., xn ; )是 总 体 参 数 的 函 数 . 称 L ( x1 , x 2 , ..., x n ; )为 样 本 ( X 1 , X 2 , ..., X n )的 似 然 函数.
8
估计量优劣标准
无偏估计
推广 : 设( X 11, X 12 ,..., X 1n1)和( X 21, X 22 ,..., X 2n2 )是
来自总体
的一个样本
,且E
, D
2
.
X
及
1
S12
是样本 ( X 11,
X 12 ,...,
X 1n1)的平均数和方差
;
X
2
及
S
2 2
是样本 ( X 21, X 22 ,..., X 2n2 )的平均数和方差 .则
4
参数估计
估计量优劣的标准
1. 一致性 2. 无偏性 3. 有效性
5
估计量优劣的标准
一致性估计 设 ˆ是总体的 参估 数计 (ˆ是 量 一个样本 ) 统计
如果n 时， 依概率收敛于 ,即给定
0, lim P( ) 1, 则称 为参数的
n
一致估计
显然,一致性问题是一个极限问题,故只有样本容量充分大时才
(1) X n1 X1 n2 X 2 是的无偏估计 ;
n1 n2
(2)S
2
(n1
1)S12
(n2
1)
S
2 2
是
2的无偏估计
.
n1 n2 2
9
估计量优劣标准
有效估计
设 和 都是的无偏估计，若样本容量为n， 的
方差小于 的方差，则称 是比 有效的估计量。
如果在的一切无偏估计量里中， 的方差达到最小， 则称为的有效估计量。
统计规律性,等于要确定总体分布的参数.这种根据
样本资料估计总体参数的方法,称为参数估计.
2百度文库
参数估计
参数估计的方法
1. 点估计
以样本的某一函数值作为总体中未知参数的估计值
2. 区间估计
根据样本资料推断总体参数的范围,并且以一定的概率 保证总体参数落在该范围内.
3
参数估计
参数估计的理论基础
1. 总体分布理论 2. 样本统计量的分布
16
点估计
最大似然估计法
如 果 似 然 函 数 L (x 1 ,x 2 ,...,x n ; )在 ˆ 处 取 得 最 大 值 ,则 称 ˆ 为 总 体 参 数 的 最 大 似 然 估 计 .
由于函数y lnx在定义域内单增,则如果当
ˆ时似然函数L(x1, x2,..., xn;)取得最大值,则 当 ˆ时lnL(x1, x2,..., xn;)也取得最大值;反之 亦然.因此我们只需考虑lnL(x1, x2,..., xn;)的最
(1) 设为连续型随机变量 , 其概率密度函数为
( x; ), 其中 为未知参数 ,由于样本的独立性 , 样
本( X 1, X 2 ,..., X n )的联合概率密度函数为
n
L( x1, x2 ,..., xn ; ) ( xi ; ) i 1
对于样本 ( X 1, X 2 ,..., X n )的一组观测值 ( x1, x2 ,..., xn )
L( x1, x2 ,..., xn ; )是总体参数 的函数 .称L( x1, x2 ,..., xn ; )
为样本 ( X 1, X 2 ,..., X n )的似然函数 .
15
点估计
最大似然估计法
似然函数 : (2)设 为 离 散 型 随 机 变 量 ,其 概 率 函 数 为 :
P { x} p ( x ; ), 其 中 为 未 知 参 数 ,由 于 样 本 的 独 立 性 , 样 本 ( X 1 , X 2 , ..., X n )取 值 ( x1, x2 , ..., xn ) 的联合概率
10
估计量优劣标准
有效估计
例:
试比较总体期望值 的两个无偏估计量
n
X
1 n
n i 1
X
与
i
X
ai X i
i 1 n
ai
i 1
的有效性 .
n
( ai o) i 1
11
点估计
1. 矩法 2. 最大似然估计法
12
点估计
矩法
以样本矩作为相应的总体矩的估计， 以样本矩的函数作为相应的总体矩的 同一函数的估计的方法。
是 向 量 ,则 求 偏 导 数 );
第 四 ,令 导 数 等 于 零 ,解 出 即 可 .
18
点估计
最大似然估计法的例题
1. 0—1分布中p的最大似然估计；
2. Poisson分布的参数 的最大似然估计； 3. 指数分布的参数 的最大似然估计;
4. 正态分布的参数 , 2 的最大似然估计; 5. 二项分布中参数p最大似然估计.
6
估计量优劣标准 无偏估计 设 ˆ是总体 的参 估,数 则 计 ˆ是 量 样 (X1,本 X2,.X .n.) 的函 ,即 ˆ是 数一个.如 随E 果 机 ˆ,变 则量 ˆ称 是 总体的 参无 数偏 . 误估计
7
估计量优劣标准 无偏估计
例:设(X1,X2,..X.n)是来自的 总一 体个,且 样本 E,D2.试证:样 明本平X及 均样 数本 差S2分别是总体 和2参 的数 无偏. 估计
13
点估计
最大似然估计法
问题的提出:
设(X1, X2,...,Xn)是来自总体的样本,我们应该 选择什么样的样本统量计来对总体参数进行估计,
以使得观测结(果x1, x2,...,xn)出现的可能性最大?呢 为此,我们引入似然函,数 采用函数求极值的方解法 决此问题.
14
点估计
最大似然估计法
似然函数 :
第八章 参数估计
主要内容
1. 参数估计的概念 2. 估计量的优劣标准 3. 点估计 4. 区间估计
1
参数估计
参数估计的概念
人们在对社会经济问题进行定量分析时,常常
碰到的问题是如何选取样本并根据样本资料对总
体的各种数量特征作出推断.而描述总体数量特征
的随机变量的分布类型大致是知道的,但确切的分
布形式未知.即总体分布的参数未知.要确定总体的
大值.
17
点估计
最大似然估计法的基本步骤
第 一 , 求 样 本 的 似 然 函 数 L ( x 1 ,x 2 , . . . ,x n ;) ;
第 二 ,求 ln L (x 1 ,x 2 ,...,x n ;);
第 三 ,对 lnL (x 1 ,x 2,...,x n;)求 的 导 数 (如 果
n
L ( x 1 , x 2 , . . . , x n ; ) p ( x i ; ) i1
同 理 , L ( x1 , x2 ,..., xn ; )是 总 体 参 数 的 函 数 . 称 L ( x1 , x 2 , ..., x n ; )为 样 本 ( X 1 , X 2 , ..., X n )的 似 然 函数.
8
估计量优劣标准
无偏估计
推广 : 设( X 11, X 12 ,..., X 1n1)和( X 21, X 22 ,..., X 2n2 )是
来自总体
的一个样本
,且E
, D
2
.
X
及
1
S12
是样本 ( X 11,
X 12 ,...,
X 1n1)的平均数和方差
;
X
2
及
S
2 2
是样本 ( X 21, X 22 ,..., X 2n2 )的平均数和方差 .则
4
参数估计
估计量优劣的标准
1. 一致性 2. 无偏性 3. 有效性
5
估计量优劣的标准
一致性估计 设 ˆ是总体的 参估 数计 (ˆ是 量 一个样本 ) 统计
如果n 时， 依概率收敛于 ,即给定
0, lim P( ) 1, 则称 为参数的
n
一致估计
显然,一致性问题是一个极限问题,故只有样本容量充分大时才
(1) X n1 X1 n2 X 2 是的无偏估计 ;
n1 n2
(2)S
2
(n1
1)S12
(n2
1)
S
2 2
是
2的无偏估计
.
n1 n2 2
9
估计量优劣标准
有效估计
设 和 都是的无偏估计，若样本容量为n， 的
方差小于 的方差，则称 是比 有效的估计量。
如果在的一切无偏估计量里中， 的方差达到最小， 则称为的有效估计量。
统计规律性,等于要确定总体分布的参数.这种根据
样本资料估计总体参数的方法,称为参数估计.
2百度文库
参数估计
参数估计的方法
1. 点估计
以样本的某一函数值作为总体中未知参数的估计值
2. 区间估计
根据样本资料推断总体参数的范围,并且以一定的概率 保证总体参数落在该范围内.
3
参数估计
参数估计的理论基础
1. 总体分布理论 2. 样本统计量的分布
16
点估计
最大似然估计法
如 果 似 然 函 数 L (x 1 ,x 2 ,...,x n ; )在 ˆ 处 取 得 最 大 值 ,则 称 ˆ 为 总 体 参 数 的 最 大 似 然 估 计 .
由于函数y lnx在定义域内单增,则如果当
ˆ时似然函数L(x1, x2,..., xn;)取得最大值,则 当 ˆ时lnL(x1, x2,..., xn;)也取得最大值;反之 亦然.因此我们只需考虑lnL(x1, x2,..., xn;)的最
(1) 设为连续型随机变量 , 其概率密度函数为
( x; ), 其中 为未知参数 ,由于样本的独立性 , 样
本( X 1, X 2 ,..., X n )的联合概率密度函数为
n
L( x1, x2 ,..., xn ; ) ( xi ; ) i 1
对于样本 ( X 1, X 2 ,..., X n )的一组观测值 ( x1, x2 ,..., xn )
L( x1, x2 ,..., xn ; )是总体参数 的函数 .称L( x1, x2 ,..., xn ; )
为样本 ( X 1, X 2 ,..., X n )的似然函数 .
15
点估计
最大似然估计法
似然函数 : (2)设 为 离 散 型 随 机 变 量 ,其 概 率 函 数 为 :
P { x} p ( x ; ), 其 中 为 未 知 参 数 ,由 于 样 本 的 独 立 性 , 样 本 ( X 1 , X 2 , ..., X n )取 值 ( x1, x2 , ..., xn ) 的联合概率
10
估计量优劣标准
有效估计
例:
试比较总体期望值 的两个无偏估计量
n
X
1 n
n i 1
X
与
i
X
ai X i
i 1 n
ai
i 1
的有效性 .
n
( ai o) i 1
11
点估计
1. 矩法 2. 最大似然估计法
12
点估计
矩法
以样本矩作为相应的总体矩的估计， 以样本矩的函数作为相应的总体矩的 同一函数的估计的方法。
是 向 量 ,则 求 偏 导 数 );
第 四 ,令 导 数 等 于 零 ,解 出 即 可 .
18
点估计
最大似然估计法的例题
1. 0—1分布中p的最大似然估计；
2. Poisson分布的参数 的最大似然估计； 3. 指数分布的参数 的最大似然估计;
4. 正态分布的参数 , 2 的最大似然估计; 5. 二项分布中参数p最大似然估计.