第七章 参数估计 第八章讲解
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
(1) 求E X (; 2)求未知参数的矩估计ˆ.
13.(2010 1)22.设总体X 服从区间(0, )上的均匀分布, x1, x2, , xn是来自总体 X的样本, x为样本均值, 0为未知参数,则的矩估计ˆ _____ .
14.(2010 4)设总体X 服从均匀分布U ( , 2 ),x1,x2, ,xn是来自该总体的样本, 则的矩估计ˆ ____ .
A.无偏估计量 B.有偏估计量 C.渐近无偏估计量 D.一致估计量
3.(2007 -10)设总体X ~ N (, 2 ), x1, x2, x3为来自X的样本,则当常数a __时,
ˆ
1 4
x1
ax2
1 2
x3是未知参数的无偏估计.
4.(2008 1)设总体X
~
N (,1), (x1, x2, x3)为其样本, 若估计量ˆ
其他.
试分别求出的矩估计ˆ1和极大似然估计ˆ2.
解 总体期望为
E( X ) x x( 1)dx 1
由矩估计法,令x 得矩法方程.解之得的矩估计 1
ˆ1
x. x 1
为求的极大似然估计,易求得似然函数为
L( )
n
(
xi (
1)
)
n
n
( 1)
xi ,
i1
i1
n
ln L( ) n ln ( 1) xi , i 1
d
ln L( ) d
n
n i 1
xi
0.
由以上似然方程解得的极大似然估计
ˆ2
n
n
.
xi
i 1
1.(2006-4)设总体X服从参数为λ的指数分布,其中λ未知,X1,X2,…,Xn为来自总 体X的样本,则λ的矩估计为________.
6.(2007 -10)设总体X 服从[0,2 ]上的均匀分布( 0), x1, x2, , xn是来自该 总体的样本, x为样本均值,则的矩估计ˆ ( )
A. 2x
B. x
C. x
D. 1
2
2x
7.(2008 - 4)设总体X的概率密度为
x( 1) , x 1;
从而 p 的最大似然估计量为
pˆ ( X1,
1n , X n ) n i1 X i X
求最大似然估计(MLE)的一般步骤是: (1) 由总体分布导出样本的联合分布率(或联合密度);
(2) 把样本联合分布率 ( 或联合密度 ) 中自变
量看成已知常数,而把参数 看作自变量,得到似然 函数L( );
估计
在区间 [1.57, 1.84] 内,
这是区间估计.
例 设x1, x2, , xn是来自服从区间(0, )上的均匀分布U (0, )的样本, 0为未知参数.求的矩估计ˆ.
解 总体X的均值E(X ) .
2
由矩法,应有 x, 解得 =2x.
2
比如,若样本值为0.1, 0.7, 0.2,1,1.9,1.3,1.8,则ˆ的估计值
最大似然法的基本思想
先看一个简单例子:
某位同学与一位猎人一起外出打猎 . 一只野兔从前方窜过 .
只听一声枪响,野兔应声倒下 . 如果要你推测, 是谁打中的呢? 你会如何想呢?
你就会想,只发一枪便打中, 猎人命中的概率一般大于这位同学命中的概 率 . 看来这一枪是猎人射中的 .
这个例子所作的推断已经体现了极大似然法的基本思想 .
x2
1 3
x3 , 其中较有效
的估计量是 ___ .
6.(2008 10)设总体X ~ N ( , 2 ), X1, X 2, , X n为来自总体的样本,, 2均未知, 则 2的无偏估计是( )
A.
1 n 1
n i 1
(Xi
X
)2
B.
1 n 1
n i 1
(Xi
对数似然函数为:
n
n
ln L( p) xi ln( p) (n xi ) ln(1 p)
i 1
i 1
对p求导并令其为0,
d ln L( p) 1 n
1
n
dp
p
i1 xi 1
(n p
i 1
xi )=0
得
pˆ
1 n
n i 1
xi
x
即为 p 的最大似然估计值 .
第七章 参数估计
(一) 考核知识点 1. 点估计 2. 矩估计法 3. 极大似然估计法 4. 单个正态总体均值和方差的区间估计
(二) 考核要求
1.点估计
1.1 参数估计的概念, 要求:识记
1.2 求参数的矩估计, 要求:简单应用
1.3 求极大似然估计, 要求:简单应用
2.估计量的评价标准
2.1 矩估计的无偏性,
d ln L( ) 0 d
可以得到 的MLE .
若 是向量,上述方程必须用方程组代替 .
2、用上述求导方法求参数的MLE有时行不通,这时要用最大似然原则 来求 .
下面举例说明如何求最大似然估计
例5 设X1,X2,…Xn是取自总体 X~B(1, p) 的一个样本,求参数p的最大似然 估计量.
11.(2009 - 7)设总体X为指数分布,其密度函数为p(x;) ex , x 0, x1, x2, , xn是 样本,故的矩法估计ˆ ______.
12.(2009
-10)设总体X
的概率密度为f
(
x,
)
1
x
e
,
x 0,
0,
x 0,
其中 0,X1,X 2, ,X n为来自总体X的样本.
而相应的统计量
θ( X1, , Xn ) 称为 θ的最大似然估计量 .
两点说明:
1、求似然函数L( ) 的最大值点,可以应用微积分中的技巧。由于ln(x) 是 x 的增函数, lnL( )与L( )在 的同一值处达到它的最大值,假定 是一实 数,且lnL( )是 的一个可微函数。通过求解方程:
则以下关于的四个估计:ˆ1
1 4
( x1
x2
x3
x4 ),
ˆ2
1 5
x1
1 5
x2
1 5
x3 ,
ˆ3
1 6
x1
2 6
x2
ˆ4
1 7
x1中,哪一个是无偏估计?(
(
x)
e
x
,
0,
x 0, x 0, x1, x2,
的一个样本,则未知参数的矩估计ˆ ___________ .
, xn为总体X
5.(2007-7)设总体X服从参数为λ的泊松分布,其中λ为未知参数.X1,X2,…,Xn为 来自该总体的一个样本,则参数λ的矩估计量为___________.
7.2 点估计的评价标准
1.(2006 - 4)设X1, X 2, X3是来自正态总体N (0, 2 )的样本,已知统计量c(2)是 方差 2的无偏估计量,则常数c等于( )
A. 1
B. 1
C. 2
D. 4
4
2
2.(2006 - 7)若 为未知参数的估计量,且满足E( ) ,则称 是的( )
1 2
x1
1 3
x2
kx3为的
无偏估计量,则k _______ .
5.(2008 - 4)设总体是X ~ N(, 2),x1, x2, x3是总体的简单随机样本, ˆ1, ˆ2是总体
参数的两个估计量, 且ˆ1
1 2
x1
1 4
x2
1 4
x3 ,
ˆ2
1 3
x1
1 3
解:似然函数为:
L(p)= f (x1, x2,…, xn; p )
n
pxi (1 p)1xi
i 1
0 1 Xi ~ 1 p p
n
n
xi
n xi
p i1 (1 p) i1
n
n
xi
n xi
L( p) p i1 (1 p) i1
要求:领会
2.2 估计量的有效性、相合性, 要求:领会
3.区间估计
3.1 置信区间的概念,
要求:领会
3.2 求单个正态总体均值和方差的置信区间,要求:简单应用
参数估计
现在我们来介绍一类重要的统计推断问题
参数估计问题是利用从总体抽样得到的信息来估计总体的 某些参数或者参数的某些函数.
估计新生儿的体重
例如我们要估计某队男生的平均身高.
(假定身高服从正态分布
) N (,0.12 )
现从该总体选取容量为5的样本,我们的任务是要根据选出的样本(5个
数)求出总体均值 的估计. 而全部信息就由这5个数组成 .
设这5个数是:
1.65 1.67 1.68 1.78 1.69
估计 为1.68,
这是点估计.
(3) 求似然函数L( ) 的最大值点(常常转化为求ln L( )的最大值点) ,即
的MLE;
(4) 在最大值点的表达式中, 用样本值代入就得参数的最大似然估计值 .
例 设x1, x2, , xn是总体的样本,已知总体的密度函数为
f
x
x( 1) ,
0,
x 1; (其中参数 1)
2.(2006-7)设总体X服从泊松分布,即X~P(λ),则参数λ2的极大似然估计量为 __________.
3.(2007-4)设总体X具有区间[0,θ]上的均匀分布(θ>0),x1,x2,…,xn是来自该总
体的样本,则θ的矩估计 _ˆ_______.
4.(2007
-
7)设总体X
的概率密度为f
作出估计, 或估计
g ( ) 的某个已知函数
.
这类问题称为参数估计.
点估计
参数估计 区间估计
用样本均值x估计总体均值E(X ),即E(X ) x;
用样本二阶中心矩sn2
1 n
n i 1
( xi
x )2估计总体方差D( X
),即D( X )
sn2 ;
用事件A出现的频率估计事件A发生的概率.
最大似然估计原理:
设X1,X2,…Xn是取自总体X的一个样本,样本的联合密度(连续型)或联 合分布律 (离散型)为 f (x1,x2,… ,xn ; ) .
当给定样本X1,X2,…Xn时,定义似然函数为:
L( ) f (x1, x2 ,…, xn; )
这里 x1, x2 ,…, xn 是样本的观察值 .
9.(2008 -10)设总体X 服从参数为( 0)的指数分布,其概率密度为
f
(
x,
)
e
x
,
x 0,
0, x 0.
由来自总体X的一个样本x1, x2, , xn ,算得样本平均值x 9,则参数的矩估计ˆ ____ .
10.(2009 - 4)设总体X 服从参数为( 0)的泊松分布, x1, x2, , xn为X的一个样本, 其样本均值x 2,则的矩估计值ˆ _______ .
估计废品率 估计湖中鱼数
估计降雨量
在参数估计问题 中,假定总体分
布形式已知,未
… 知的仅仅是一个 或几个参数.
…
参数估计问题的一般提法
设有一个统计总体 , 总体的分布函数为
F( x, ) ,其中 为未知参数 ( 可以是向量) .
现从该总体抽样,得样本
X1,X2,…,Xn
要依据该样本对参数
似然函数:
L( ) f (x1,x2,…, xn; )
L(看)作参数 的函数,它可作为 将以多大可
能产生样本值 x1, x2,… ,xn 的一种度量 .
最大似然估计法就是用使
去ˆ 估计 .
达到最大值的L( )
L(ˆ) max L( )
ˆ 称 为 的最大似然估计值 .
)2
C.
1 n
n Leabharlann Baidu 1
(Xi
X )2
D.
1 n 1
n i 1
(Xi
)2
7.(2009 -1)设ˆ是未知参数的一个估计量,若E(ˆ) ___,则ˆ是的无偏估计.
8.(2009 - 4)设总体X ~ N (, 2 ), 其中未知, x1,x2,x3,x4为来自总体X的一个样本,
f (x; )
0,
其他,
其中 ( 1)是未知参数, x1, x2,, xn是来自该总体的样本,试求的矩估计ˆ.
8.(2008-7)假设总体X服从参数为λ的泊松分布,0.8、1.3、1.1、0.6、1.2是来 自总体X的样本容量为5的简单随机样本,则λ的矩估计值为_______.
ˆ 2 1 (0.1 0.7 0.2 11.9 1.3 1.8) 2.
7
7.1.2 极大似然法
它是在总体类型已知条件下使用的一种参数估计方法 .
它首先是由德国数学家高斯在 1821年提出的 . 然而,这个方法常归功于英国统计学家 费希尔 .
Gauss
Fisher
费希尔在1922年重新发现了这一方法,并首先 研究了这种方法的一些性质 .