2012智轩概率统计第二基础导学桥--第七章 参数估计(数学3)

合集下载

概率论第七章参数估计

概率论第七章参数估计

们就将使得L取到最大值的参数值 ˆ1,ˆ2 , ,ˆk
称为1,2 ,
,
的极大似然估计值。
k
共三十七页
定义 : 如果似然函数 L(1,2 , ,k )在ˆi (x1, x 2 , , xn ) 处取最大值, 则称ˆi为i的极大似然估计值,而相 应的统计量 ˆi ( X1, X 2 , , X n ) (i 1, 2, , k)称为参 数i的极大似然估计量。
其中
f
(x,
2)
x
2
e
x2
2 2
,
x
0
0 , x 0
求 2的矩估计。
例4.设总体X ~ f (x, ) 1 e|x|, x 2
( X1, X 2 , , X n )是来自总体X的样本,
求的矩估计。
共三十七页
三、极大(jí dà)似然估计方法:
定义:总体X ~ f (x;1, 2 ,k ), 其中1, 2 ,k 是
例9.设总体X服从[θ,θ+1]区间上的均匀分布, 求的极大(jí dà)似然估计。
共三十七页
极大(jídà)似然估计的性质:
设的函数u u( ), 具有单值反函数 (u), u ,ˆ是参数的极大似然估计, 则uˆ u(ˆ)是u( )的极大似然估计。
例如,例8中参数θ的方差DX的极大似然估计
S n
t
2
,
X
S
n
t
2
n 1
(Xi
)2
2
(n)
,
2
n 1
(Xi
)2
2 1
(n)
2
(n
2
2
1)S 2 (n 1)
,
(n 1)S

概率统计7章ppt课件

概率统计7章ppt课件

1 , a x b, f ( x; a, b) b a others. 0,,
1/(b a) n , a xi b, 似然函数 L(a, b) 0, others.
则要使得
取最大值
所以,最大似然估计量为
注:特殊的似然函数通过求导得不到其最大, 需要从函数本身入手。
记为
—— 样本的似然函数
满足条件: 为θ的最大似然估计值; 为θ的最大似然估计量;
具体算法:

例1 设x1,x2,…,xn是取自总体 X~b(1, p) 的一个 样本值,求参数p的最大似然估计值。 解
1 x
P{ X x} p (1 p)
x
, x 0,1
1 xi
似然函数为: L( p)
ln L( ) n ln xi
i 1
n
n n d ln L( ) 令 0 xi 0 i 1 d
1 ˆ 所以 . x
例4
设 x1, x2, …, xn 是取自总体 X 的一个样本值,
2 2
X ~ N ( , ) ,求参数 , 的最大似然估计值。
都是参数的无偏估计。

E( X ) E( X )
2
E ( S 2 ) D( X )
2
E ( X (1 ) S ) E ( X ) (1 ) E ( S )
(1 )
所以都是参数的无偏估计。
一个未知数可以有不同的无偏估计量。
2 ˆ a A1 3( A2 A1 ) 2 ˆ b A1 3( A2 A1 ) n 1 A1 X i X n i 1 n 1 2 A2 X i n i 1

第7章 参数估计—概率课件PPT

第7章 参数估计—概率课件PPT

X的密度为:
f
x
x 1
0
0 x 1 其他
lnL
n 2
ln

dlnL
d
n 2
1
2
1
1
n
ln xi
ni 1
ln xi
i 1
0
即:
n
n
ln xi
i 1
的极大似然估计量为:ˆ
n
n2
2
lnX
i
10
i1
例4:设总体X的概率密度为:f x 1 ex
x
,
0
其它
其中 0, , 是未知常量, X1, , X n 为X的样本,
故 X1 min X1, X 2 ,
, Xn,
又lnL nln
1
n
Xi
i 1
ˆ
令 dlnL d
n
1
2
n i 1
X i X 1
0
ˆ X X1
12
例5:设总体X 服从0, 上的均匀分布, 0未知,
试由样本 x1, x2, , xn求出的极大似然估计和矩估计。
解:1 极大似然估计
5
例2:设总体X的密度为:
f
x
x 1
0
0 x 1 0为未知参数,
其他
X1,
X

2
,
X n 为取自X的样本,求的矩估计。
解:E X xf x dx 1 x dx
0
1
令E X X
X 1
2
ˆ X
1 X
6
二.极大似然估计法
极大似然估计的原理介绍
X1, X 2, , X n 是取自X的一个样本,试求, 2的矩估计。

概率论第7章 参数估计

概率论第7章    参数估计
x1,x2, ,xn的参数的值。
具体步骤:
1、求似然函数Lx1 , x2 , , xn , .
1)总体为离散型分布。
其分布律为
P X xi p xi , i 1 , 2 , L , n
未知
对给定的样本观察值x1 , x2 , L , xn , 令
p 1
p
xi 1

pn
1
p
xi n
i1
i 1
n
ln L n ln p ln(1 p)( xi n) i 1
n
d
ln L

n

பைடு நூலகம்
xi
i 1

n

0
dp p 1 p
p
1
n
xi
1 nx
i 1
因为这是惟一的解,所以p的最大似然估计值为
pˆ L

1 x
函数Lx1 , x2 , , xn , 称为似然函数,反映了样本
观察值被取到的概率。
2、求Lx1 , x2 , , xn , 的最大值点ˆ。
若似然函数L是的可微函数,则最大值点ˆ必然
满足方程
dL 0
d
似然方程
解出,经过检验即得L的最大值点ˆ。
ˆ就是的最大似然估计。
本章只研究总体分布是连续型或离散型两种情 形。为简便起见,我们引入一个对这两种情形通 用的概念:概率函数。我们称随机变量X的概率函 数为f(x)是指:
在连续型情形,f(x)是X的密度函数。
在离散型情形,f(x)是X=x的概率。
§7.1 点估计
定义 构造一个统计量 ˆ 对参数 作定值的
估计称为参数的点估计。

第七章 概率论参数估计

第七章 概率论参数估计
X 1 , X 2 ,, X n

xi 1 n nx n L( p) p( xi ; ) p (1 p ) p (1 p ) i 1 i 1
n
n
ln L( p) n ln p (nx n) ln(1 p)
d n nx n ln L p 0 dp p 1 p
1 2 k
L(1 ,2 ,, k ) 0, i 1, 2,, k i
ln L(1 , 2 ,, k ) 0, i 1, 2,, k i
例6
2 N ( , ) 设 是取自正态总体 2 的样本,其中 , 2 0 为未知参数,求 ,
解得
a, b
的矩估计为
n 3 2 ˆX b ( X X ) i n i 1
3 n 2 ˆX a ( X X ) i n i 1
例3
设总体 X 服从参数为 的泊松分布, 其中 未知, X 1 , X 2 ,, X n 为 X 的样本, 求参数 的矩估计.
EX
, 2
最大似然估计分别为
1 n ˆ X, ˆ ( X i X )2 n i 1
2
以上例题都是通过解似然方程(组)或对数似然方程 (组)的方法来求得最大似然估计, 但有时使用这种方法 会出现方程(或方程组)无解的情况. 此时, 我们需要 从定义出发用最大似然估计的基本思想来求解. 例7 设总体 X 服从 [ ,1000] 上的均匀分布,其中 为未知参数,X 1 , X 2 ,, X n 为总体的一个样本, 求的最大似然估计 解
( x )
i 1 i
n
2
ln L( , 2 ) 1 n 2 ( xi ) 0, i 1 2 n 2 ln L( , ) n 1 ( x ) 0. i 2 2 4 2 2 i 1

概率论与数理统计(经管类)复习要点 第7章 参数估计

概率论与数理统计(经管类)复习要点 第7章 参数估计

第七章参数估计1. 统计推断:由样本来推断总体,从研究的问题和内容来看,统计推断可以分为参数估计和假设检验两种主要类型。

参数估计的形式有两种:点估计、区间估计。

参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数。

如估计新生儿的体重,估计废品率,估计湖中鱼数等。

在参数估计问题中,假定总体分布形式已知,未知的仅仅是一个或几个参数。

2. 点估计的几种方法直接用来估计未知参数θ的统计量= (x1,x2,…,x n)称为参数θ的点估计量,简称为点估计。

最常用的两种点估计方法:矩法、极大似然法(1)矩法估计——替换原理(2)概率密度p(x;θ)已知时未知参数的矩法估计这说明矩估计可能是不唯一的,这是矩法估计的一个缺点,此时通常应该尽量采用低价矩给出未知参数的估计。

2018.4填解:E(X)=1×(1-p)+2×p=1+p因为= E(X),即=1+p,则p=-1,所以,=-12017.10单解:由题意可知X服从指数分布,λ=θ1,则E(X)=λ1=θ令= E(X)=θ,所以=2017.10填解:由题意可知E(X)=20+a=2a,令= E(X)=2a,则a=2所以=22017.4填解:2017.4填解:求估计使用最多的方法,是在总体类型已知条件下使用的一种参数估计方法。

它首先是由德国数学家高斯在1821年提出的,然而,这个方法常归功于英国统计学家费希尔。

费希尔在1922年重新发现了这一方法,并首先研究了这种方法的一些性质。

“极大似然”就是“最像”之意。

2018.4单解:2017.4单解:2017.4单解:令= = ,则= ,所以的无偏估计为3. 点估计的评价标准(1)相合性:对估计的一个最基本要求,是大样本下估计量的评价标准。

(2)无偏性:对小样本而言,是一个常用的评价标准。

(3)有效性:常用无偏估计的方差的大小作为度量无偏估计优劣的标准。

4. 参数的区间估计度量一个点估计的精度的最直观的方法是给出未知参数的一个区间。

概率论与数理统计教案 第7章 参数估计

概率论与数理统计教案 第7章 参数估计

第7章参数估计
教学要求
1.理解参数的点估计、估计量与估计值的概念.
2.熟练掌握矩估计法和最大似然估计法.
3.理解估计量的无偏性、有效性和一致性的概念,并会验证估计量的无偏性和有效性.
4.理解区间估计的概念.
5. 会求单个正态总体的均值和方差的置信区间以及两个正态总体均值差和方差比的置信区间.
教学重点
参数的矩估计和最大似然估计,正态总体参数的区间估计.
教学难点
最大似然估计.
课时安排
本章安排10课时.
教学内容和要点
一、点估计
1. 点估计的概念
2. 矩估计法
3. 最大似然估计法
4. 估计量的评选标准(无偏性、有效性、一致性)
二、区间估计
1. 置信区间的概念
2. 单个正态总体均值与方差的置信区间
3. 两个正态总体均值与方差的置信区间
4. 单侧置信区间
主要概念
1. 矩估计
2. 最大似然估计
3. 无偏估计、
4.有效估计
5. 一致估计
6. 区间估计
7. 置信水平
8. 双单侧置信区间侧置信区间
9. 单侧置信区间。

概率论与数理统计第七章参数估计演示文档

概率论与数理统计第七章参数估计演示文档

概率论与数理统计第七章参数估计演示文档参数估计是概率论与数理统计中的重要内容之一,是通过样本数据来推断总体参数的方法。

在实际应用中,参数估计广泛应用于市场调查、医学研究、经济预测等领域。

本文将以一些常用的参数估计方法为例,进行演示说明。

首先,我们介绍最常见的点估计方法,矩估计。

矩估计是通过样本矩来估计总体矩。

以正态分布的均值和方差为例,假设我们有一个样本数据集,通过计算样本均值和样本方差,可以分别得到正态分布的均值和方差的矩估计值。

接下来我们介绍第二种常见的点估计方法,最大似然估计。

最大似然估计是通过找到使得观察到的样本数据出现的概率最大的参数值。

以二项分布的成功概率为例,假设我们有一组二项分布的观察数据,通过计算二项分布的似然函数,并求导得到其极大值点,可以得到二项分布的成功概率的最大似然估计值。

此外,假设检验是参数估计的重要应用。

在进行参数估计时,我们常常需要进行假设检验来判断参数估计是否具有统计意义。

以均值的假设检验为例,假设我们有两组样本数据,通过计算样本均值和样本方差,可以得到均值的矩估计值。

然后,我们可以利用假设检验的方法,比较这两个样本的均值,从而判断两个样本是否具有统计意义上的差异。

最后,我们介绍一种常用的参数区间估计方法,置信区间估计。

置信区间估计是通过样本数据得到一个区间,该区间内的参数值有一定的置信度。

以总体均值的置信区间估计为例,假设我们有一组样本数据,通过计算样本均值和样本标准差,可以得到总体均值的点估计值。

然后,我们可以利用参数估计的理论知识,计算得到总体均值的置信区间,从而对总体均值进行估计。

综上所述,参数估计是概率论与数理统计中的重要内容,应用广泛。

通过点估计方法可以从样本数据中推断总体参数的值,通过假设检验可以判断参数估计的统计意义,通过置信区间估计可以得到参数值的置信区间。

这些参数估计方法为我们提供了在实际问题中进行估计和推断的依据,使我们能够更好地理解和分析数据。

概率论第七章参数估计

概率论第七章参数估计

概率论第七章参数估计参数估计是概率论中的一个重要概念,用于根据样本数据推断总体参数的未知值。

本文将介绍参数估计的概念、常见的估计方法以及对估计结果的评估。

一、参数估计的概念参数估计是指根据样本数据来推断总体参数的未知值。

总体是指要研究的对象的全体,参数是总体分布的特征数值,例如总体均值、总体方差等。

参数估计可以分为点估计和区间估计两种。

点估计是根据样本数据得到一个参数值的估计方法。

常见的点估计方法有最大似然估计法和矩估计法。

最大似然估计法是根据已知的样本数据,选择使得基于样本数据构建的似然函数取得最大值的参数值作为参数的估计值。

矩估计法是根据已知的样本数据,选择使得样本矩与总体矩之间的差距最小的参数值作为参数的估计值。

区间估计是指根据样本数据得到参数的一个区间估计,给出了参数取值范围的上下限。

常见的区间估计方法有置信区间法和预测区间法。

置信区间法是根据样本数据,给出参数估计值的上下限,使得该参数值落在这个区间的概率达到预先规定的置信水平。

预测区间法是根据样本数据,给出新观测值的一个区间估计,使得新观测值落在这个区间的概率达到预先规定的置信水平。

二、常见的估计方法最大似然估计法是参数估计中最常用的方法。

它是在已知样本数据的情况下,选择使得样本数据出现的概率最大的参数值作为参数的估计值。

最大似然估计法的优点是估计结果具有良好的渐进性质,但是对样本数据的要求较高,需要满足一定的充分统计条件。

矩估计法是一种简单的参数估计方法。

它是在已知样本数据的情况下,选择使得样本矩与总体矩之间的差距最小的参数值作为参数的估计值。

矩估计法的优点是计算简单,但是在一些情况下可能存在多个参数估计值。

置信区间法是一种常用的区间估计方法。

它是在已知样本数据的情况下,给出一个区间,使得参数的真值落在这个区间的概率达到预先规定的置信水平。

置信区间法的优点是提供了参数取值范围的上下限,对参数的估计结果具有一定的可信度。

预测区间法是一种用于预测新观测值的区间估计方法。

概率论与数理统计第七章 参数估计

概率论与数理统计第七章 参数估计

第七章 参数估计参数估计是数理统计研究的主要问题之一. 假设总体X ~N (μ,σ2),μ,σ2是未知参数,X 1,X 2,…,X n 是来自X 的样本,样本值是x 1,x 2,…,x n ,我们要由样本值来确定μ和σ2的估计值,这就是参数估计问题,参数估计分为点估计(Point estimation )和区间估计(Interval estimation).第一节 点估计所谓点估计是指把总体的未知参数估计为某个确定的值或在某个确定的点上,故点估计又称为定值估计.定义7.1 设总体X 的分布函数为F (x ,θ),θ是未知参数,X 1,X 2,…,X n 是X 的一样本,样本值为x 1,x 2,…,x n ,构造一个统计量(X 1,X 2,…,X n ),用它的观察值 (x 1,x 2,…,x n )作为θ的估计值,这种问题称为点估计问题.习惯上称随机变量(X 1,X 2,…,X n )为θ的估计量,称(x 1,x 2,…,x n )为的估计值.构造估计量(X 1,X 2,…,X n )的方法很多,下面仅介绍矩法和极大似然估计法. 1.矩法矩法(Moment method of estimation )是一种古老的估计方法.它是由英国统计学家皮尔逊(K .Pearson )于1894年首创的.它虽然古老,但目前仍常用.矩法估计的一般原则是:用样本矩作为总体矩的估计,若不够良好,再作适当调整. 矩法的一般作法:设总体X ~F (X ;θ1,θ2,…,θl )其中θ1,θ2,…,θl 均未知. (1) 如果总体X 的k 阶矩μk =E (X k ) (1≤k ≤l)均存在,则μk =μk (θ1,θ2,…,θl ),(1≤k ≤l ).(2) 令⎪⎪⎩⎪⎪⎨⎧.),,,(,),,,(,),,,(2122121211l l l l l A A A θθθμθθθμθθθμ其中A k (1≤k ≤l )为样本k 阶矩.求出方程组的解,ˆ,,ˆ,ˆ21l θθθ 我们称),,,(ˆˆ21n k k X X X θθ=为参数θk (1≤k ≤l )的矩估计量, ),,,(ˆˆ21nk k x x x θθ=为参数θk 的矩估计值. 例7.1 设总体X 的密度函数为:f (x )=⎩⎨⎧-><<+.,0),1(,10,)1(其他αααx x其中α未知,样本为(X 1,X 2,…,X n ),求参数α的矩法估计.解 A 1=X .由μ1=A 1及μ1=E (X )=21)1()(1++=+=⎰⎰+∞∞-ααααx x x x x xf d d , 有21++=ααX ,得121ˆ--=X Xα.例7.2 设X ~N (μ,σ2),μ,σ2未知,试用矩法对μ,σ2进行估计. 解⎪⎪⎩⎪⎪⎨⎧======∑∑==.1)(,1)(12222111ni i ni i X n A X E X n A X E μμ 又 E (X )=μ, E (X 2)=D (X )+(EX )2=σ2+μ2,那么 .1ˆˆ,ˆ2222S nn A X -=-==μσμ. 例7.3 在某班期末数学考试成绩中随机抽取9人的成绩.结果如下:试求该班数学成绩的平均分数、标准差的矩估计值.解 设X 为该班数学成绩,μ=E (X ),σ2=D (X ))558994(919191+++==∑= i i x x =75;2/19122)(819898⎥⎦⎤⎢⎣⎡-⋅=∑=i i x x s =12.14.⎪⎪⎩⎪⎪⎨⎧======∑∑==.91)(,91)(9122229111i i i i X A X E X A X E μμ 由于E (X 2)=D (X )+(EX )2=σ2+μ2,那么,2222228ˆˆˆ,().9X A A x S μσμ==-=-= 所以,该班数学成绩的平均分数的矩估计值x =μˆ=75分,标准差的矩估计值298ˆs =σ=12.14. 作矩法估计时无需知道总体的概率分布,只要知道总体矩即可.但矩法估计量有时不惟一,如总体X 服从参数为λ的泊松分布时,X 和B 2都是参数λ的矩法估计.2.极(最)大似然估计法极大似然估计法(Maximum likelihood estimation)只能在已知总体分布的前提下进行,为了对它的思想有所了解,我们先看一个例子.例7.4 假定一个盒子里装有许多大小相同的黑球和白球,并且假定它们的数目之比为3∶1,但不知是白球多还是黑球多,现在有放回地从盒中抽了3个球,试根据所抽3个球中黑球的数目确定是白球多还是黑球多.解 设所抽3个球中黑球数为X ,摸到黑球的概率为p ,则X 服从二项分布P {X =k }=k 3C p k(1-p )3-k , k =0,1,2,3.问题是p =1/4还是p =3/4?现根据样本中黑球数,对未知参数p 进行估计.抽样后,共有4种可能结果,其概率如表7-1所示.假如某次抽样中,只出现一个黑球,即X =1,p =1/4时,P {X =1}=27/64;p =3/4时,P {X =1}=9/64,这时我们就会选择p =1/4,即黑球数比白球数为1∶3.因为在一次试验中,事件“1个黑球”发生了.我们认为它应有较大的概率27/64(27/64>9/64),而27/64对应着参数p =1/4,同样可以考虑X =0,2,3的情形,最后可得p =⎪⎩⎪⎨⎧==.3,2,43,1,0,41时当时当x x(1) 似然函数在极大似然估计法中,最关键的问题是如何求得似然函数(定义下文给出),有了似然函数,问题就简单了,下面分两种情形来介绍似然函数. (a ) 离散型总体设总体X 为离散型,P {X =x }=p (x ,θ),其中θ为待估计的未知参数,假定x 1,x 2,…,x n 为样本X 1,X 2,…,X n 的一组观测值.P {X 1=x 1,X 2=x 2,…,X n =x n }=P {X 1=x 1}P {X 2=x 2}…P {X n =x n }=p (x 1,θ)p (x 2,θ)…p (x n ,θ)=∏=ni ix p 1),(θ.将∏=ni ix p 1),(θ看作是参数θ的函数,记为L (θ),即 L (θ)=∏=ni ix p 1),(θ. (7.1)(b ) 连续型总体设总体X 为连续型,已知其分布密度函数为f (x ,θ),θ为待估计的未知参数,则样本(X 1,X 2,…,X n )的联合密度为:f (x 1,θ)f (x 2,θ)…f (x n ,θ)=∏=ni ix f 1),(θ.将它也看作是关于参数θ的函数,记为L (θ),即L (θ)=∏=ni ix f 1),(θ. (7.2)由此可见:不管是离散型总体,还是连续型总体,只要知道它的概率分布或密度函数,我们总可以得到一个关于参数θ的函数L (θ),称L (θ)为似然函数.(2) 极大似然估计极大似然估计法的主要思想是:如果随机抽样得到的样本观测值为x 1,x 2,…,x n ,则我们应当这样来选取未知参数θ的值,使得出现该样本值的可能性最大,即使得似然函数L (θ)取最大值,从而求参数θ的极大似然估计的问题,就转化为求似然函数L (θ)的极值点的问题,一般来说,这个问题可以通过求解下面的方程来解决0)(=θθd d L . (7.3)然而,L (θ)是n 个函数的连乘积,求导数比较复杂,由于ln L (θ)是L (θ)的单调增函数,所以L (θ)与ln L (θ)在θ的同一点处取得极大值.于是求解(7.3)可转化为求解0)(=θθd dln L .(7.4)称ln L (θ)为对数似然函数,方程(7.4)为对数似然方程,求解此方程就可得到参数θ的估计值.如果总体X 的分布中含有k 个未知参数:θ1,θ2,…,θk ,则极大似然估计法也适用.此时,所得的似然函数是关于θ1,θ2,…,θk 的多元函数L (θ1,θ2,…,θk ),解下列方程组,就可得到θ1,θ2,…,θk 的估计值,⎪⎪⎪⎩⎪⎪⎪⎨⎧=∂∂=∂∂=∂∂.0),,,(ln ,0),,,(ln ,0),,,(ln 21221121k k k k L L L θθθθθθθθθθθθ(7.5) 例7.5 在泊松总体中抽取样本,其样本值为:x 1,x 2,…,x n ,试对泊松分布的未知参数λ作极大似然估计.解 因泊松总体是离散型的,其概率分布为:P {X =x }=λλ-e !x x,故似然函数为:L (λ)=∏∏==∑--⋅⋅==ni ni i x nixx x ni ii11!1!1λλλλee. ln L (λ)=11ln ln (!)nniii i n x x λλ==-+-∑∏,∑=+-=ni i x n 11)ln(λλλd d . 令λλd d ln =0,得: ∑=+-ni i x n 11λ=0.所以x x n ni i L ==∑=11ˆλ,λ的极大似然估计量为X L=λˆ(为了和λ的矩法估计区别起见,我们将λ的极大似然估计记为Lλˆ). 例7.6 设一批产品含有次品,今从中随机抽出100件,发现其中有8件次品,试求次品率θ的极大似然估计值.解 用极大似然法时必须明确总体的分布,现在题目没有说明这一点,故应先来确定总体的分布.设 X i =,100,,2,1,0,1 =⎩⎨⎧i ,i ,i 次取正品第次取次品第则X i 服从两点分布:12100p (x i ,θ)=P {X i =x i }=θ xi (1-θ)1-xi ,x i =0,1,故似然函数为:L (θ)=∑-∑=-==-=-∏1001100110010011)1()1(i ii i iix x i x x θθθθ由题知:∑=1001i ix =8,所以 L (θ)=θ8(1-θ)92. 两边取对数得:ln L (θ)=8ln θ+92ln (1-θ).对数似然方程为:θθθθ--=1928)(ln d d L =0.解之得θ=8/100=0.08.所以Lθˆ=0.08. 例7.7 设x 1,x 2,…,x n 为来自正态总体N (μ,σ2)的观测值,试求总体未知参数μ,σ2的极大似然估计.解 因正态总体为连续型,其密度函数为f (x )=222)(21σμσ--x e π,所以似然函数为:L (μ,σ2)=⎭⎬⎫⎩⎨⎧--⎪⎭⎫ ⎝⎛=⎭⎬⎫⎩⎨⎧--∑∏==n i i nni i x x 122122)(21exp 212)(exp 21μσσσμσππ ln L (μ,σ2)=∑=----n i i x n n 1222)(21ln 22ln 2μσσπ. 故似然方程组为:⎪⎪⎩⎪⎪⎨⎧=-+-=∂∂=-=∂∂∑∑==.0)(212),(ln ,0)(1),(ln 124222122ni i ni i x n L x L μσσσσμμσμσμ 解以上方程组得:⎪⎪⎩⎪⎪⎨⎧=-=-===∑∑∑===.ˆ)(1)(1,12121221B x x n x n x x n ni i n i i ni i μσμ 所以 ⎩⎨⎧==.ˆ,ˆ22B X L σμ例7.8 设总体X 服从[0,θ]上的均匀分布,X 1,X 2,…,X n 是来自X 的样本,求θ的矩法估计和极大似然估计.解 因为E (X )=θ/2,令X =E (X ),得.2ˆX =矩θ 又 f (x )=⎪⎩⎪⎨⎧≤≤.,0,0,1其他θθx所以L (θ)=n θ1,0≤x i ≤θ. 要L (θ)最大,θ必须尽可能小,又θ≥x i ,i =1,2,…,n ,所以{}ini L X ≤≤=1max ˆθ.第二节 估计量的评价标准设总体X 服从[0,θ]上的均匀分布,由上节例7可知ˆ2X θ=矩,{}1ˆmax L ii nX θ≤≤ 都是θ的估计,这两个估计哪一个好?下面我们首先讨论衡量估计量好坏的标准问题.1.无偏性定义7.2 若估计量(X 1,X 2,…,X n )的数学期望等于未知参数θ,即:ˆ()E θθ=, (7.6) 则称ˆθ为θ的无偏估计量(Non -deviation estimator ).估计量ˆθ的值不一定就是θ的真值,因为它是一个随机变量,若ˆθ是θ的无偏估计,则尽管ˆθ的值随样本值的不同而变化,但平均来说它会等于θ的真值.例7.9 设X 1,X 2,…,X n 为总体X 的一个样本,E (X )=μ,则样本平均数11nii X X n ==∑是μ的无偏估计量.证 因为E (X )=μ,所以E (X i )=μ,i =1,2,…,n ,于是1111()()n ni i i i E X E X E X n n ==⎛⎫== ⎪⎝⎭∑∑=μ.所以X 是μ的无偏估计量.例7.10 设有总体X ,E (X )=μ,D (X )=σ2,(X 1,X 2,…,X n )为从该总体中抽得的一个样本,样本方差S 2及二阶样本中心矩B 2=11()ni i X X n =-∑是否为总体方差σ2的无偏估计?解 因为E (S 2)=σ2,所以S 2是σ2的一个无偏估计,这也是我们称S 2为样本方差的理由.由于B 2=21n S n -, 那么 E (B 2)=2211()n n E S n nσ--=, 所以B 2不是σ2的一个无偏估计.还需指出:一般说来无偏估计量的函数并不是未知参数相应函数的无偏估计量.例如,当X ~N (μ,σ2)时,X 是μ的无偏估计量,但2X 不是μ2的无偏估计量,事实上:22222()()().E X D X E X nσμμ⎡⎤=+=+≠⎣⎦2.有效性对于未知参数θ,如果有两个无偏估计量1ˆθ与2ˆθ,即E (1ˆθ)=E (2ˆθ)=θ,那么在1ˆθ,2ˆθ中谁更好呢?此时我们自然希望对θ的平均偏差E (ˆθ-θ)2越小越好,即一个好的估计量应该有尽可能小的方差,这就是有效性.定义7.3 设1ˆθ和2ˆθ都是未知参数θ的无偏估计,若对任意的参数θ,有 D (1ˆθ)≤D (2ˆθ), (7.7)则称1ˆθ比2ˆθ有效. 如果1ˆθ比2ˆθ有效,则虽然1ˆθ还不是θ的真值,但1ˆθ在θ附近取值的密集程度较2ˆθ高,即用1ˆθ估计θ精度要高些. 例如,对正态总体N (μ,σ2),11ni i X X n ==∑,X i 和X 都是E (X )=μ的无偏估计量,但D (X )=2nσ≤D (X i )=σ2,故X 较个别观测值X i 有效.实际当中也是如此,比如要估计某个班学生的平均成绩,可用两种方法进行估计,一种是在该班任意抽一个同学,就以该同学的成绩作为全班的平均成绩;另一种方法是在该班抽取n 位同学,以这n 个同学的平均成绩作为全班的平均成绩,显然第二种方法比第一种方法好.3.一致性无偏性、有效性都是在样本容量n 一定的条件下进行讨论的,然而(X 1,X 2,…,X n )不仅与样本值有关,而且与样本容量n 有关,不妨记为n ,很自然,我们希望n 越大时,n 对θ的估计应该越精确.定义7.4 如果n 依概率收敛于θ,即∀ε>0,有{}ˆlim 1,nn P θθε→∞-<=,(7.8) 则称ˆnθ是θ的一致估计量(Uniform estimator ). 由辛钦大数定律可以证明:样本平均数X 是总体均值μ的一致估计量,样本的方差S 2及二阶样本中心矩B 2都是总体方差σ2的一致估计量.第三节 区间估计1.区间估计的概念上节我们介绍了参数的点估计,假设总体X ~N (μ,σ2),对于样本(X 1,X 2,…,X n ),ˆX μ=是参数μ的矩法估计和极大似然估计,并且满足无偏性和一致性.但实际上X =μ的可能性有多大呢?由于X 是一连续型随机变量,P {X =μ}=0,即ˆμ=μ的可能性为0,为此,我们希望给出μ的一个大致范围,使得μ有较高的概率在这个范围内,这就是区间估计问题.定义7.5 设1ˆθ(X 1,X 2,…,X n )及2ˆθ (X 1,X 2,…,X n )是两个统计量,如果对于给定的概率1-α(0<α<1),有:P {1ˆθ<θ<2ˆθ}=1-α, (7.9) 则称随机区间(1ˆθ,2ˆθ)为参数θ的置信区间(Confidence interval ),1ˆθ称为置信下限,2ˆθ称为置信上限,1-α叫置信概率或置信度(Confidence level).定义中的随机区间(1ˆθ,2ˆθ)的大小依赖于随机抽取的样本观测值,它可能包含θ,也可能不包含θ,(7.9)式的意义是指(1ˆθ,2ˆθ)以1-α的概率包含θ.例如,若取α=0.05,那么置信概率为1-α=0.95,这时,置信区间(1ˆθ,2ˆθ)的意义是指:在100次重复抽样中所得到的100个置信区间中,大约有95个区间包含参数真值θ,有5个区间不包含真值θ,亦即随机区间(1ˆθ,2ˆθ)包含参数θ真值的频率近似为0.95. 例7.11 设X ~N (μ,σ2),μ未知,σ2已知,样本X 1,X 2,…,X n 来自总体X ,求μ的置信区间,置信概率为1-α.解 因为X 1,X 2,…,X n 为来自X 的样本,而X ~N (μ,σ2),所以uX ~N (0,1),对于给定的α,查附录中表2可得上分位点2z α,使得2P z α⎫<⎬⎭=1-α,即22P X z X z ααμ⎧-<<+⎨⎩=1-α. 所以μ的置信概率为1-α的置信区间为X z X z αα⎛-+ ⎝. (7.10) 由(7.10)式可知置信区间的长度为22z α,若n 越大,置信区间就越短;若置信概率1-α越大,α就越小,2z α就越大,从而置信区间就越长.2.正态总体参数的区间估计由于在大多数情况下,我们所遇到的总体是服从正态分布的(有的是近似正态分布),故我们现在来重点讨论正态总体参数的区间估计问题.在下面的讨论中,总假定X ~N (μ,σ2),X 1,X 2,…,X n 为其样本. (1) 对μ的估计 分两种情况进行讨论. (a ) σ2已知此时就是例7.11的情形,结论是:μ的置信区间为22X z X z αα⎛-+ ⎝, 置信概率为1-α.(b ) σ2未知当σ2未知时,不能使用(7.10)式作为置信区间,因为(7.10)式中区间的端点与σ有关,考虑到S 2=211()1n ii X X n =--∑是σ2X σ换成S 得 TX ~t (n -1).对于给定的α,查附录中t 分布表4可得上分位点t σ/2(n -1),使得2(1)P t n α⎫<-⎬⎭=1-α,即22(1)(1)P X t n X t n ααμ⎧⎫-<<-⎨⎬⎩⎭=1-α.所以μ的置信概率为1-α的置信区间为22(1),(1)X t n X t n αα⎛⎫-- ⎪⎝⎭. (7.11)=,S 0,所以μ的置信区间也可写成22(1),(1)X t n X t n αα⎛⎫-+- ⎪⎝⎭.(7.12) 例7.12 某车间生产滚珠,已知其直径X ~N (μ,σ2),现从某一天生产的产品中随机地抽出6个,测得直径如下(单位:毫米)14.6 15.1 14.9 14.8 15.2 15.1试求滚珠直径X 的均值μ的置信概率为95%的置信区间.解 111(14.615.114.914.815.215.1)6n i i x x n ===+++++∑=14.95,s 0, t α/2(n -1)=t 0.025(5)=2.571,所以2(t n α-=2.571=0.24, 置信区间为(14.95-0.24,14.95+0.24),即(14.71,15.19),置信概率为95%.σ2的置信区间我们只考虑μ未知的情形.此时由于S 2=211()1n i i X X n =--∑是σ2的无偏估计,我们考虑22(1)n S σ-,由于222(1)~(1)n S n χσ--,所以,对于给定的α,2122222(1)(1)(1)n S P n n ααχχσ-⎧⎫--<<-⎨⎬⎩⎭=1-α. 即222221(1)(1)(1)(1)n S n S P n n αασχχ-⎧⎫--⎪⎪<<⎨⎬--⎪⎪⎩⎭=1-α.所以σ2的置信区间为2222221(1)(1),(1)(1)n S n S n n ααχχ-⎛⎫-- ⎪ ⎪--⎝⎭(7.13) 或222200221,(1)(1)nS nS n n ααχχ-⎛⎫ ⎪ ⎪--⎝⎭, 其中S 02=211()ni i X X n =-∑. 例7.13 某种钢丝的折断力服从正态分布,今从一批钢丝中任取10根,试验其折断力,得数据如下:572 570 578 568 596 576 584 572 580 566试求方差的置信概率为0.9的置信区间.解 因为111(572570566)10n i i x x n ===+++∑=576.2,s 02=2211n i i x x n =-∑=71.56, α=0.10,n -1=9,查附表得:2220.05(1)(9)n αχχ-==16.919,220.951(1)(9)n αχχ--==3.325,22021071.56(1)16.919ns n αχ⨯=-=42.30,220211071.56(1) 3.325ns n αχ-⨯=-=215.22.所以,σ2的置信概率为0.9的置信区间为(42.30,215.22).以上仅介绍了正态总体的均值和方差两个参数的区间估计方法.在有些问题中并不知道总体X 服从什么分布,要对E (X )=μ作区间估计,在这种情况下只要X 的方差σ2已知,并且样本容量n 很大,X 准正态分布N (0,1),因而μ的置信概率为1-α的近似置信区间为X z X z αα⎛-+ ⎝.小 结参数估计问题分为点估计和区间估计.设θ是总体X 的待估计参数.用统计量ˆθ=ˆθ(X 1,X 2,…,X n )来估计θ称ˆθ是θ的估计量,点估计只给出未知参数θ的单一估计.本章介绍了两种点估计的方法:矩估计法和极大似然估计法.矩法的做法:设总体X ~F (X ;θ1,θ2,…,θl )其中θk (1≤k ≤l )为未知参数. (1) 求总体X 的k (1≤k ≤l )阶矩E (x k ); (2) 求方程组112112(,,,)(),(,,,)().l l l l l E X A E X A μθθθμθθθ==⎧⎪⎨⎪==⎩的一组解1ˆθ,2ˆθ,…, ˆl θ,那么ˆk θ=ˆk θ (X 1,X 2,…,X n )(1≤k ≤l)为k 的矩估计量. ˆkθ(x 1,x 2,…,x n )为θk 的矩估计值. 极大似然估计法的思想是若已观察到样本值为(x 1,x 2,…,x n ),而取到这一样本值的概率为P =P (θ1,θ2,…,θl ),我们就取θk (1≤k ≤l )的估计值使概率P 达到最大,其一般做法如下: (1) 写出似然函数L =L (θ1,θ2,…,θl ) 当总体X 是离散型随机变量时,L =121(;,,,)nil i P x θθθ=∏,当总体X 是连续型随机变量时L =121(;,,,)nil i f x θθθ=∏,(2) 对L 取对数ln L =121ln (;,,,)nil i f x θθθ=∑,(3) 求出方程组ln kLθ∂∂=0, k =1,2,…,l . 的一组解ˆk θ=ˆk θ (x 1,…,x n ) (1≤k ≤l )即k 为未知参数θ的极大似然估计值,ˆkθ=(X 1,X 2,…,X n )为θk 的极大似然估计量.在统计问题中往往先使用极大似然估计法,在此法使用不方便时,再用矩估计法进行未知参数的点估计.对于一个未知参数可以提出不同的估计量,那么就需要给出评定估计量好坏的标准.本章介绍了三个标准:无偏性、有效性、一致性.重点是无偏性.点估计不能反映估计的精度,我们就引人区间估计.设θ是总体X 的未知参数,1ˆθ,2ˆθ均是样本X 1,X 2,…,X n 的统计量,若对给定值α(0<α<1)满足P (1ˆθ<θ<2ˆθ)=1-α,称1-α为置信度或置信概率,(1ˆθ,2ˆθ)为θ的置信度为1-α的置信区间.参数的区间估计中一个典型、重要的问题是正态总体X (X ~N (μ,σ2))中μ或σ2的区间估计,其置信区间如表7-3所示.表7-3 正态总体的均值、方差的置信度为(1-α)的置信区间区间估计给出了估计的精度与可靠度(1-α),其精度与可靠度是相互制约的即精度越高(置信区间长度越小),可靠度越低;反之亦然.在实际中,应先固定可靠度,再估计精度. 重要术语及主题矩估计量 极大似然估计量估计量的评选标准:无偏性、有效性、一致性, 参数θ的置信度为(1-α)的置信区间, 单个正态总体均值、方差的置信区间.习 题 七1.设总体X 服从二项分布b (n ,p ),n 已知,X 1,X 2,…,X n 为来自X 的样本,求参数p 的矩法估计.2.设总体X 的密度函数f (x ,θ)=22(),0,0,.x x θθθ⎧-<<⎪⎨⎪⎩其他X 1,X 2,…,X n 为其样本,试求参数θ的矩法估计.3.设总体X 的密度函数为f (x ,θ),X 1,X 2,…,X n 为其样本,求θ的极大似然估计.(1) f (x ,θ)=,0,0,0.e x x x θθ-⎧≥⎨<⎩(2) f (x ,θ)=1,01,0,.x x θθ-⎧<<⎨⎩其他5.随机变量X 服从[0,θ]上的均匀分布,今得X 的样本观测值:0.9,0.8,0.2,0.8,0.4,0.4,0.7,0.6,求θ的矩法估计和极大似然估计,它们是否为θ的无偏估计.6.设X 1,X 2,…,X n 是取自总体X 的样本,E (X )=μ,D (X )=σ2,2ˆσ=k 1211()n i ii XX -+=-∑,问k 为何值时2ˆσ为σ2的无偏估计. 7.设X 1,X 2是从正态总体N (μ,σ2)中抽取的样本112212312211311ˆˆˆ;;;334422X X X X X X μμμ=+=+=+ 试证123ˆˆˆ,,μμμ都是μ的无偏估计量,并求出每一估计量的方差. 8.某车间生产的螺钉,其直径X ~N (μ,σ2),由过去的经验知道σ2=0.06,今随机抽取6枚,测得其长度(单位mm )如下:14.7 15.0 14.8 14.9 15.1 15.2 试求μ的置信概率为0.95的置信区间.9.总体X ~N (μ,σ2),σ2已知,问需抽取容量n 多大的样本,才能使μ的置信概率为1-α,且置信区间的长度不大于L ? 10.设某种砖头的抗压强度X ~N (μ,σ2),今随机抽取20块砖头,测得数据如下(kg ·cm -2):64 69 49 92 55 97 41 84 88 99 84 66 100 98 72 74 87 84 48 81 (1) 求μ的置信概率为0.95的置信区间. (2) 求σ2的置信概率为0.95的置信区间. 11.设总体X ~f (x )=(1),01;10,.x x θθθ⎧+<<>-⎨⎩其中其他 X 1,X 2,…,X n 是X 的一个样本,求θ的矩估计量及极大似然估计量. (1997年研考)12.设总体X ~f (x )= 36(),0;0,.xx x θθθ⎧-<<⎪⎨⎪⎩其他X 1,X 2,…,X n 为总体X 的一个样本(1) 求θ的矩估计量;(2) 求ˆ()D θ. (1999研考) 13.设某种电子元件的使用寿命X 的概率密度函数为f (x ,θ)= 2()2,0;0,.e x x x θθ--⎧>⎨≤⎩其中θ(θ>0)为未知参数,又设x 1,x 2,…,x n 是总体X 的一组样本观察值,求θ的极大似然估计值. (2000研考)估计值和极大似然估计值. (2002研考)15.设总体X 的分布函数为F (x ,β)=1,,0,.x xx ββααα⎧->⎪⎨⎪<⎩其中未知参数β>1,α>0,设X 1,X 2,…,X n 为来自总体X 的样本(1) 当α=1时,求β的矩估计量;(2) 当α=1时,求β的极大似然估计量;(3) 当β=2时,求α的极大似然估计量. (2004研考) 16.从正态总体X ~N (3.4,62)中抽取容量为n 的样本,如果其样本均值位于区间(1.4,5.4)内的概率不小于0.95,问n 至少应取多大?2/2()d zt z t ϕ-=⎰(1998研考)17. 设总体X 的概率密度为f (x ,θ)=,01,1,12,0,.x x θθ<<⎧⎪-≤<⎨⎪⎩其他 其中θ是未知参数(0<θ<1),X 1,X 2,…,X n 为来自总体X 的简单随机样本,记N 的样本值x 1,x 2,…,x n 中小于1的个数.求: (1) θ的矩估计;(2) θ的最大似然估计. (2006研考)。

第7章 参数估计概率论课件

第7章 参数估计概率论课件
ˆ ˆ ˆ (3) 解出其中1,2 ,,k , 用1,2 ,,k 表示.
ˆ ˆ ˆ (4) 用方程组的解 1,2 ,,k 分别作为 1 ,2 ,,k
的估计量,这种估计量称为矩估计量. 矩估计量
的观察值称为矩估计值.
设 总 体X 在 [a , b] 上 服 从 均 匀 分 布 中a , ,其 例2 b 未 知, ( X 1 , X 2 ,, X n ) 是 来 自 总 体 的 样 本 求a , X , b 的矩估计量 .

a b 2 E ( X ) D( X ) [ E ( X )]
2
2
ab , 1 E(X ) 2
n
2
ab 1 令 A1 X i , 2 n i 1
12
a b
4
2
,
1 n (a b)2 (a b)2 2 A2 X i , n i 1 12 4
形式已知,θ为待估参数,
n
( X1 , X 2 ,, X n )
是总体X的一个样本,则样本 X1 , X 2 ,, X n 的 分布律为 p( xi ; ) , 当给定样本值 ( x1, x2 ,, xn )
i 1
后, 则样本 X1 , X 2 ,, X n 取到观察值 x1 , x2 ,, xn 的概率为 L( ) p( xi ; ) ,
2 i 1
n
1 e 2π
( xi )2 2 2
,
n n 1 n 2 2 2 ln L( , ) ln( 2 π) ln ( xi ) , 2 2 2 2 i 1
ln L( , 2 ) 0 令 ln L( , 2 ) 0 2

概率论与数理统计第七章参数估计习题答案

概率论与数理统计第七章参数估计习题答案

64 69 49 92 55 97 41 84 88 99 84 66 100 98 72 74 87 84 48 81 (1)求m的置信概率为0.95的置信区 间.
(2)求s 2的置信概率为0.95的置信区间.
解:x = 76.6, s = 18.14,a = 1- 0.95 = 0.05, n = 20,
D( X1)
+
æ çè
1 ö2 3 ÷ø
D( X 2 )
=
4 9
Xs
2
=
5s 2 9
,
D(mˆ2
)
=
æ çè
1 4
ö2 ÷ø
D(
X1)
+
æ çè
3 4
ö2 ÷ø
D(
X
2
)
=
5s 8
2
,
D(mˆ3 )
=
æ çè
1 2
ö2 ÷ø
(
D(
X1)
+
D(
X
2
))
=
s2 2
大学数学云课堂
028708.某车间生产的螺钉,其直径X ~ N(m,s 2),由过去的经验知道s 2 = 0.0
3028701.设总体X 服从二项分布B(n,p),n已知,X1,X 2,L,X n为来自X的样本 求参数p的矩法估计. 解:E( X ) = np, E( X ) = A1 = X ,\ np = X . \ p的矩估计量 pˆ = X n
大学数学云课堂
3028702.设总体X的密度函数(f x,q)= ìïíq22 (q - x), 0 < x < q ,
ïî 0,
其他.
X1,X 2,L,X n为其样本,试求参数q的矩法估计.

第七章参数估计概率与统计 PPT资料共71页

第七章参数估计概率与统计 PPT资料共71页
P( X1 x1, X 2 x2, , X n xn ,1,2, ,k ) p(xi ,1,2, k ) i1
进行一次具体的抽样之后, (X1, X2, …, Xn ) 得到一组观察值 (x1, x2, …, xn )。是一组确定的数,把它们代入上式,则
n
p(xi ,1,2, k )
)
L(1,2
,
k )
则称 ˆi ˆi (x1, , xn )(i 1, 2, , k) 为参数i的极大似然估计值;
称相应的统计量 ˆi ˆi (X1, , Xn)(i 1, 2, , k)为i的极大似然估计量;
(2) 假定某城市在单位时间(譬如一个月)内交通事故发生 次数 X ∼ P(). 参数未知,需要从样本来估计.
通过样本来估计总体的参数,称为参数估计,它是统计推断 的一种重要形式.
参数估计
点估计 区间估计
例如我们要估计某队男生的平均身高.
(假定身高服从正态分布N(Nμ,(0,.102.)12))
样本(X1, X2, …, Xn )来自总体 X。假定总体X的m阶原点矩EXm存在,
一般地, EX , EX 2 , , EX m (m 1,2, , k)
都是这 k 个参数的函数,记为:
EX m gm (θ1,θ2, ,θk ) m=1,2, … ,k
取样本的m阶原点矩
Am

1 n
n i 1
ˆ X ˆ 2 ˆ 2 A2
ˆ

1 n
n i1
Xi

X
ˆ
2

A2

X
2

1 n
n i1
Xi2

ห้องสมุดไป่ตู้

概率论与数理统计 第7章 参数估计

概率论与数理统计 第7章 参数估计
由于为E(X) = 10p的矩估计量,所以为p的矩估 计量,p的矩估计值为:
p ˆ x /1 0 x 1 x 2 . .x .15 1 0 12 1 0 0 8% 0
15
15
7.1.2 矩估计
【例7.3】设总体X的概率密度为
f(x;) (1)x,
0,
0x1 其他
其中θ(θ > – 1)为待估参数,X1,X2,…,Xn为总
称 ˆi(x1,x2, ,xn) 为未知参数i的估计值.
在不会混淆的情况下 ˆi(X 1,X2, ,Xn)和 ˆi(x1,x2, ,xn)
均可称为i的估计.
7.1.1 点估计问题的一般提法
例 如 , 在 “ 装 配 线 的 平 衡 问 题 ” 中 , 若 以 X1 ,
X2,…,X30表示一个操作台的30次装配时间,可
第7章 参数估计
7.1 参数的点估计 7.2 参数的区间估计
第7章 参 数 估 计
统计推断是根据样本所提供的信息对总体的 特性作出种种推断,
参数估计是统计推断的重要问题之一,它是 在总体的分布类型已知时,利用观测数据对总体 中的未知参数进行估计.
本章学习总体参数的两种估计方法,点估计 和区间估计.
本,x1,x2,…,xn是样本观测值,构造的m个统
计量:
ˆ i(X 1 ,X 2 , ,X n ),i 1 ,2 ,.m .,.,
用 ˆi(X 1,X2, ,Xn)的观测值 ˆi(x1,x2, ,xn)法.
7.1.1 点估计问题的一般提法
称 ˆi(X 1,X2, ,Xn)为未知参数i的估计量,
参数θ1,θ2,…,θm的情形.此时,只需要求出似然函

L (1 ,2 ,.m . ) .L ( , x 1 ,x 2 ,.x n ; .1 , .2 ,.m . ).,
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

()
矩估计量。 矩估计适合未知总体的分布的情形,缺陷是估计值不唯一;如果知道分布的参数形式, 则需要使用最大似然法。
( 3) 方差的估计法
由于 DX = EX 2 - ( EX ) =
2
1 n 2 å Xi - X n i =1
( )
2
=
2ö 1æ n 2 1 n X n X = å i ÷ n å Xi - X nç i =1 è i =1 ø
(
)
2
µ = X, s µ2 = 1 m å Xi - X n i =1
1 -| x - m| e , 2 -¥ < x < +¥
(
)
2
【例 6】设随机变量(某产品指标) X 的密度为 f ( x ) =
其中 m 为未知参数.现从该产品中随机抽取 3 个,测得其该项指标值为 1028,968,1007。
联合分布的密度函数;离散型然函数形式为 L = p P ( xi ;q1 , q 2 ) 为联合分布律。
i =1 n
n
( 2 ) 为方便计算,取对数 LnL = å ln f
i =1
n
( 3) 当偏导存在时,求解方程组
¶LnL =0 ¶q i
ˆ 取代 (i = 1, 2, … , k ) 解出 q i ,然后用 q i
n n
åx
i =1
n
i
=
【例 5】求总体 X ~ N m , s 〖解〗 (1) 矩估计量计算
(
2
) 的矩估计量和最大似然估计量。
X X Þµ p= n n
111
2012 智轩考研数学第二基础导学桥--概率论与数理统计
1 n 1 n ì ì EX = m = X = X m = X = å å Xi i ï ï n i =1 n i =1 ï ï Þí í n n 2 1 n 2 2 ï EX 2 = m 2 + s 2 = 1 ïs 2 = 1 X X X = å i ï å i å Xi - X ï n i =1 n i =1 n i =1 î î
$=X EX = l = X Þ l or DX = l =
l k e- l ( k = 1, 2,L) k!
1 n å Xi - X n i =1
(
)
2
$= Þl
1 n å Xi - X n i =1
(
)
2
n $= 1 or l å Xi - X n - 1 i =1
(
)
2
= S2
可见,矩估计是不唯一的。
$ 是 g (q ) 极大似然估计量。 $ 是 q 的最大似然估计量,g (q ) 有单值反函数, 设q 则g q
n 1 n 2 µ = 1 ( X - X )2 。 ( X X ) Þ s å i å i n i =1 n i =1 【例 3】设总体 X 分布律为 0 1 X 2 p 2q (1 - q ) q
2
2
(1) 单参数矩估计法
对于单参数,先计算总体一阶原点矩,即 EX ,再用一阶样本原点矩 X =
µ 表示估计量或估计值;当 EX = 0 时,继续求 立等式,即 EX = X ,解得的 m 用符号 m
出总体的 EX 2 ,再用样本二原点矩 X 2 =
1 n å Xi 联 n i =1
( 2 ) 双参数矩估计法
(
)
常用标准分布的点估计结论: 分布
B (1, p ) B ( n, p ) P (l ) E (l ) G ( p)
µ p=X µ p = X /n $=X l
$ = 1/ X l µ p = 1/ X
矩估计
µ p=X µ p = X /n $=X l
$ = 1/ X l µ p = 1/ X
最大似然估计
1 n 2 µ。 X i 联立等式,即 EX 2 = X 2 ,解得 m å n i =1
2
对于两个参数,先计算总体 EX 和 EX ,再用样本一二阶原点矩分别联立等式,列出
1 n ì EX = å Xi ï n i =1 ï 方程组,即 í ,求解参数的估计量或估计值。 n 1 2 2 ï EX = å Xi ï n i =1 î $ 为 g (q ) 的 $ 是 q 的矩估计量, 矩估计量的不变性原理 若 q 且 g ( x ) 为连续函数, 则g q
(
)
µ=X ìm ï Þ í¶ 1 n 2 2 ïs = å X i - X n i =1 î
(
)
2
当然,也可以根据本章前面的方差估计理论直接给出方差的估计量,即
1 n ì m = X = å Xi ï n i =1 ï í n ïs 2 = 1 Xi - X å ï n i =1 î
(
)
2
µ=X ìm ï Þ í¶ 1 n 2 s = å Xi - X ï n i =1 î
()
比如 s =
¶ 2
2
3
q
2
1 - 2q
其中 q Î ( 0,1/ 2 ) 未知,已知总体 X 有样本值:3,1,3,0,3,1,2,3,求 q 的最大似 然估计值。 〖解〗对于给定的 8 个样本值,有 1 个 0,2 个 1,1 个 2,4 个 3,故联合分布函数为
ln L = ln 4 + 6 ln q + 2 ln (1 - q ) + 4 ln (1 - 2q ) Þ
1 n ( X i - X )k å n i =1 前者是使用数学期望来定义的,后者是使用“算术平均值”形式定义的。 矩估计的原则是原点矩同阶估计,即总体的数字特征矩是几阶,就使用几阶的样本矩 形式来估计。考纲范围内只要求掌握一个(单参数,如数学期望 m )和两个(双参数, Bk =
1 n k å Xi ; n i =1
( I ) 用矩估计法求 m 的估计值; ( II ) 用最大似然估计法求 m 的估计值。
+¥ 1 -| x - m | 1 ò-¥ x × 2 e dx t = x - m ò-¥ (t + m ) × 2 dt +¥ +¥ 1 +¥ 1 = ò t × e-|t| dt + m ò e -|t| dt = m ò e- t dt = m , -¥ -¥ 2 0 2 Ù Ù 1 所以 E ( X ) = m .故矩估计量 m = x .即 m = x = ´ (1028 + 968 + 1007) = 1001 。 3
1
2
3
p
q2
2
q2
1 - 2q
其中 q Î ( 0,1/ 2 ) 未知,总体 X 有样本值:3,1,3,0,3,1,2,3,求 q 的矩估计值。 〖解〗 EX = 0 ´ q + 1´ 2q (1 - q ) + 2 ´ q + 3 ´ (1 - 2q ) = 3 - 4q
EX = x Þ 3 - 4q =
【例 1】求几何分布 G ( p ) 和泊松分布 P ( l ) 的估计量。
k -1
( k = 1, 2,L)
EX = å kp (1 - p )
k =1
¥
k -1
¢ 1 1 æ ¥ k ö = p ç -å (1 - p ) ÷ = = X Þ µ p= 。 p X è k =1 ø
P (l ) =
( 2 ) 中心矩
如数学期望 m 和方差 s )未知参数估计的情形。矩估计具有幂增传递性,如 X 是 m 的
2
矩估计,则 X 是 m 的矩估计,反之不正确。用矩法构造未知参数估计量的 3 类定势如 下: 由于随机变量的数字特征都可以使用矩形式表示,故一般先计算数学期望和方差, 再用同阶样本矩形式联立。如果题中给出了样本值,则称为矩估计值;如果题中未给出 样本值,则称为矩估计量。
ì 2 (q - x ) ,0 < x <q ï 【例 2】设总体 X 的密度函数 f ( x, q ) = í q 2 ,求 q 的矩估计。 ï0, other î
〖解〗 EX =
ò
q
2 (q - x )
0
q
2
xdx =
q $ = 3X 。 = X Þq 3
2q (1 - q )
2
【例】设总体 X 分布律为 0 X
3 +1+ 3 + 0 + 3 +1+ 2 + 3 $ = 1 = 0.25 。 = 2 Þq 8 4
1.2 最大似然法 最大似然法的基本思想是: “当用联合分布函数来估计总体参数时,应使得当参数取 一定值时,使所观察到的样本出现的概率最大” 。具体计算定势如下:
f ( xi ;q1 ,q 2 ) ,它为 (1) 写出似然函数 L = L( x; q1 , q 2 ) 。连续型似然函数形式为 L = p i =1
110
2012 智轩考研数学第二基础导学桥--概率论与数理统计
qi 。 如 果 偏 导 不 存 在 , 则 使 用 极 大 似 然 法 的 基 本 思 想 讨 论 结 果 , 也 就 是 使 µ, q µ 处取得最大值。 L = L( x ;q , q ) 在 q
1 2
(
1
2
)
最大似然估计量的不变性原理
对比矩估计,二者是很接近的,但不能确定谁更精确。 【例 4】求总体 X ~ B ( n, p ) , p 为未知常数,求其最大似然估计量。 〖解〗设 x1 , x2 ,L , xn 为 X 1 , X 2 ,L , X n 的一个样本值,总体 X ~ B ( n, p ) 的联合分布律 为 f ( x, p ) = P { X = x} = Cn p (1 - p )
112
2012 智轩考研数学第二基础导学桥--概率论与数理统计
相关文档
最新文档