概率与统计：矩估计法
概率论与数理统计第七章-1矩估计法和极大似然估计法
μ1 h1 (θ1 , θ2 , μ j h j (θ1 , θ2 , μk hk (θ1 , θ2 ,
, θk ) , θk ) , θk )
, μk ) , μk ) , μk )
数理统计
从这 k 个方程中解出
θ1 g1 ( μ1 , μ2 , θ j g j ( μ1 , μ2 , θk gk ( μ1 , μ2 ,
数理统计
定义 用样本原点矩估计相应的总体原点矩 ,
用样本原点矩的连续函数估计相应的总体原点矩的 连续函数, 这种参数点估计法称为矩估计法 . 矩估计法的具体做法如下 设总体的分布函数中含有k个未知参数 θ1 , θ2 , 那么它的前k阶矩 μ1 , μ2 ,
, θk ,
, μk , 一般
l xi P{ X xi ;1 , 2 , , k } l E ( X l ) l 1 hl (1 , 2 , , k ) x l p ( x; , , , )dx 1 2 k
2 1
b μ1 3( μ2 μ12 )
于是 a , b 的矩估计量为
总体矩
a A1 3( A2 A12 ) 3 n 2 X ( X X ) , i n i 1
3 n 2 b X ( X X ) n i 1 i
样本矩
数理统计
例2 设总体 X 的均值 μ和方差 σ 2 ( 0) 都存
数理统计
点估计问题的一般提法 设总体 X 的分布函数 F ( x; )的形式为已
知, 是待估参数 . X 1 , X 2 ,, X n 是 X 的一个样 本, x1 , x2 ,, xn 为相应的一个样本值 .
概率论与数理统计复习7章
( n − 1) S 2 ( n − 1) S 2 = 1 − α 即P 2 <σ2 < 2 χα 2 ( n − 1) χ1−α 2 ( n − 1) ( n − 1) S 2 ( n − 1) S 2 置信区间为： 2 , χα 2 ( n − 1) χ12−α 2 ( n − 1)
则有：E ( X v ) = µv (θ1 , θ 2 ,⋯ , θ k ) 其v阶样本矩是：Av = 1 ∑ X iv n i =1
n
估计的未知参数，假定总体X 的k阶原点矩E ( X k ) 存在，
µ θ , θ ,⋯ , θ = A k 1 1 1 2 µ2 θ1, θ 2 ,⋯ , θ k = A2 用样本矩作为总体矩的估计，即令： ⋮ µ θ , θ ,⋯ , θ = A k k k 1 2 ɵ ɵ ˆ 解此方程即得 (θ1 , θ 2 ,⋯ , θ k )的一个矩估计量 θ 1 , θ 2 ,⋯ , θ k
+∞
−∞
xf ( x ) dx = ∫ θ x θ dx =
1 0
令E ( X ) = X ⇒
θ +1
θ
ˆ = X ⇒θ =
( )
X 1− X
θ +1
2
θ
7.2极大似然估计法
极大似然估计法： 设总体X 的概率密度为f ( x,θ ) (或分布率p( x,θ )),θ = (θ1 ,θ 2 ,⋯ ,θ k ) 为 未知参数，θ ∈ Θ, Θ为参数空间，即θ的取值范围。设 ( x1 , x2 ,⋯ , xn ) 是 样本 ( X 1 , X 2 ,⋯ , X n )的一个观察值：
i =1 n
概率论与数理统计教材第六章习题
X σ0 n
~ N(0,1)
对于置信水平1- ，总体均值的置信区间为 对于置信水平 -α，总体均值 的置信区间为
X
σ0
n
uα < < X +
2
σ0
n
uα
2
(2)设总体 ～ N(,σ 2 ), 未知 ，求的置信区间。 设总体X～ 未知σ， 的置信区间。 设总体 的置信区间
σ 0 ，则样本函数 t = X ~ t(n 1) 用 S 代替 S n
i =1
n1
n1
F
1
α ∑ Yj 2
2 j =1
n2
(
)
2
n2
10
2 2 及 （1）设两个总体 ～ N(1,σ1 ) 及Y～ N(2 ,σ 2 ), 未知 1 2， ）设两个总体X～ ～
2 σ1 的置信区间。 求 2 的置信区间。 σ2
选取样本函数 选取样本函数
2 2 S1 σ1 F = 2 2 ~ F(n1 1, n2 1) S2 σ2
∑x
i =1
n
i =1
i
n = 0.
1 p
得 p 的极大似然估计值为 p =
n
∑x
i =1
n
1 = x
i
12
1 θ 2. 设总体 服从拉普拉斯分布：f ( x;θ ) = e ,∞< x < +∞, 设总体X 服从拉普拉斯分布： 2θ 求参数 θ 其中 > 0. 如果取得样本观测值为 x1 , x2 ,L, xn , 求参数θ
第六章 参数估计
(一)基本内容
一、参数估计的概念 1 定义：取样本的一个函数θ ( X 1 , X 2 ,L , X n ), 如果以它的观测 定义：
概率论与数理统计讲义 (27)
原点矩
由矩法,
0
X 1
2
总体矩
样本矩
2
从中解得 ˆ 2X 1 , 即为 的矩估计.
1 X
例2 设X1,X2,…Xn是取自总体X的一个样本
X
~
f
(
x)
1
e( x
)
,
x
, 为未知参数
0,
其它
其中 >0,求 , 的矩估计.
解: 由密度函数知
X 具有均值为 的指数分布
故 E(X- )= 即 E(X)=
缺点是，当总体类型已知时，没有 充分利用分布提供的信息 . 一般场合下, 矩估计量不具有唯一性 .
其主要原因在于建立矩法方程时， 选取那些总体矩用相应样本矩代替带 有一定的随意性 .
第 七 章第一节 矩估计
矩是基于一种简单的“替换” 思想建立起来的一种估计方法 .
是英国统计学家K.皮尔逊最早提出的 .
其基本思想是用样本矩估计总体矩 . 理论依据: 大数定律
记总体k阶矩为 k E( X k )
样本k阶矩为
Ak
1 n
n i 1
X
k i
记总体k阶中心矩为 k E[ X E( X )]k
参数估计问题的一般提法
设有一个统计总体，总体的分布函数
为 F(x, )，其中为未知参数 ( 可以是
向量) . 现从该总体抽样，得样本 X1, X2 , … , Xn
要依据该样本对参数 作出估计，或估计 的某个已知函数 g( ) .
这类问题称为参数估计.
点估计
参数估计
区间估计
假如我们要估计某队男生的平均身高.
1
n
n i 1
X
m i
概率论和数理统计(第三学期)第8章参数估计
由契比雪夫不等式，有
P( S 2 ES2
n
n
)
DS
2
n
＝
2 4
2 n 1 2
即 lim P( S 2 ES2 ) 0
n
n
n
(n 1)S 2
E
2
n n 1
ES2 2 n
故 lim P( S 2 2 ) 0
n
n
§8.3 参数的区间估计
定义
设是总体的未知参数，若 （1 1
6
S~2 1 1.20 0.162 0.85 0.162 0.30 0.162 6 0.45 0.162 0.82 0.162 0.12 0.162 1 1.042 0.692 0.142 0.612 0.982 0.282 6 1 2.99 6 0.498 2
n
p xi
1
p
1 xi
xi p i1
1
p
n
n xi
i1
i 1
n
令y xi，得： i 1 ln Lxi , p y ln p n yln1 p
由对数似然方程
d ln L y n y 0 dp p 1 p
解得
p
y n
1 n
n i 1
xi
x
因为这是惟一的解，所 以p的极大似然估计值为
二、顺序统计量法
定义
1
, 2
,
,
为总体
n
的一个样本，将它
们按大小次序排列，取 居中的一个数 (若n为偶
数时，则取居中两数的 平均值)记为~，称~为
样本中位数。
即
~
k
1
,
1 2
k
概率论与数理统计答案(华南理工)
开讨论
例 对容量为n的样本，求下列密度函数中参数 a 的
2 2 (a x), (0 x a) f ( x) a 其它 0, a 2 a 解 由于 E [ X ] x 2 ( a x )dx 0 a 3 a 所以由矩法估计，得 X 3 3 n 解得 a 3 X X i n i 1 3 n 所以，参数 a 的矩估计量为 a X i n i 1
方差
1 50 ˆ X Xi 50 i 1 50 1 2 2 2 ˆ 2 S50 Xi ( X ) 50 i 1
此时，ˆ ,
ˆ
2
为两个统计量
根据大数定理，样本的矩和总体的矩应当非常接近 假若样本有观测值x1，x2，……x50,代入统计量中，有
用样本的统计量来估计分布的数字特征，进而得到参
数估计的办法也叫数字特征法，是矩法的特例。
思考一下，是否有其他求解的办法？ 考虑泊松分布的二阶中心矩 得到矩法估计量
Var[ X ]
1 n ( X i X )2 n i 1
可见：同一个参数的矩估计量可以不同。 使用哪个更好一些？ 矩法估计总能用低阶矩就不用高阶矩 之后会系统地介绍估计量优劣的评价，届时再展
解：设装袋的重量为随机变量X，即总体为X~N(μ, σ2)。
E[ X ] 2 2 2 Var [ X ] E [ X ] ( E [ X ])
此时，要估计参数，就转化为估计随机变量的矩 观测50次，即取X1，X2，……X50个样本，样本容量50 计算样本 的期望和
若总体的密度函数中有多个参数1，2，…，n，则将 ln L 第（3）步改为 0, (i 1, 2, , n) i 解方程组即可。
矩法估计
矩法估计1.什么是矩法估计对于随机变量来说，矩是其最广泛，最常用的数字特征，母体ξ的各阶矩一般与ξ的分布中所含的未知参数有关，有的甚至就等于未知参数。
由辛钦大数定律知，简单随机子样的子样原点矩依概率收敛到相应的母体原点矩Eξr,r= 1,2,Λ。
这就启发我们想到用子样矩替换母体矩（今后称之为替换原则），进而找出未知参数的估计，基于这种思想求估计量的方法称为矩法。
用矩法求得的估计称为矩法估计，简称矩估计。
它是由英国统计学家皮尔逊Pearson于1894年提出的。
２.矩法估计的理论依据由辛钦大数定律知：即对，有或矩法估计的具体步骤设母体ξ的概率函数为f(x,θ1,Λ,θk),其中是k个未知参,Λ,ξn是取自这一母体的一个子样。
设ξ的k阶矩v k = Eξk存在，则数，ξ1v,j < k都存在，并且是θ1,Λ,θk的函数v j(θ1,Λ,θk)，又子样ξ1,Λ,θk j的j阶矩为。
我们设(1),Λ,θk的k个方程，解由这k个方程联这样我们就得到含k个未知参数θ1列所构成的方程组就可以得到theta1,Λ,θk的一组解：(2)用(2)中的解来估计参数θi就是矩法估计。
一般我们考察的情形。
在数理统计学中，我们一般用表示θ的估计量。
下面我们举一个与实际问题有关的多参数的矩法估计问题。
例:已知大学生英语四级考试成绩ξ~N(μ,σ2)，均值μ,方差σ2均未知，ξ1,Λ,ξn为取自母体ξ的一个子样，(x1,Λ,x n)是子样的一组观测值,求μ与σ2的矩法估计。
解：注意到有两个未知参数，由矩法估计知需两个方程，按照(1)式得方程组解这一方程组得μ与σ的矩法估计量从而μ与σ2的矩法估计值分别为。
分析：注意到我们这里求出μ与σ2的矩法估计并未用到母体ξ的分布。
这样对μ,σ2作出了估计，也就对整个母体分布作出了推断，进而对大学生英语四级考试成绩ξ相关的其它数字特征如标准分、标准差、偏态系数等作出了估计。
３.矩法估计的优缺点矩法估计原理简单、使用方便，使用时可以不知母体的分布，而且具有一定的优良性质（如矩估计为Eξ的一致最小方差无偏估计），因此在实际问题，特别是在教育统计问题中被广泛使用。
第一节 矩估计(概率论与数理统计)
设待估计的参数为 θ1,θ2 ,L,θk 设总体的 r 阶矩存在，记为
E( X r ) = r (θ1,θ2 ,L,θk )
1 n r 样本 X1, X2,…, Xn 的 r 阶矩为 Ar = ∑Xi n i=1 令 1n r r (θ1,θ2 ,L,θk ) = ∑Xi r =1,2,L, k n i=1 —— 含未知参数 θ1,θ2, …,θk 的方程组
= X + 3( A X 2 ) b矩 2
3 2 = X + ∑(Xi X ) . n i=1
n
设某产品的寿命服从指数分布， 例6 设某产品的寿命服从指数分布，其概率密度为
λe f (x, λ) = 0,
λx
,
x > 0; x ≤ 0.
λ 为未知参数，现抽得 n 个这种产品，测得其寿命数据 为未知参数， 个这种产品，
什么是参数估计？ 什么是参数估计？
参数是刻画总体某方面概率特性的数量. 参数是刻画总体某方面概率特性的数量. 当此数量未知时,从总体抽出一个样本， 当此数量未知时,从总体抽出一个样本，用某种 方法对这个未知参数进行估计就是参数估计. 方法对这个未知参数进行估计就是参数估计. 例如，X ~N ( ,σ 2), 例如， 未知, 通过构造样本的函数, 若, σ 2未知 通过构造样本的函数 给出它们 的估计值或取值范围就是参数估计的内容. 的估计值或取值范围就是参数估计的内容
(b a) a + b E( X ) = D( X ) + E ( X ) = + 12 2 a +b 令 =X 2 2 n a)2 a + b (b 1 = A2 = ∑Xi2 + 12 2 n i=1
2 2
2016考研数学复习之矩估计
2016考研数学复习之矩估计来源：文都教育参数估计是考研数学大纲中概率论与数理统计部分第七章的内容，根据历年真题分析发现，无偏估计、矩估计和极大似然估计是每年考试的重点。
那么对于这几种估计方法，我们该如何有效、高效的学习、掌握呢？文都考研数学老师接下来为大家大致总结一下本章的第一部分内容-矩估计。
一、基本知识点 矩估计一般来说，用样本的各阶矩作为总体分布函数中的未知矩的估计。
含一个参数：设总体(,)X f x θ ，但是参数θ未知，需要对参数θ进行估计。
具体步骤：①取样：12,,,nX X X …；②计算样本均值11n ii X n =∑，根据大数定律1111n n Pi i i i X X EX EX n n ===−−→=∑∑；③令X EX =（在EX 的结果中包含θ），则可求出ˆθ。
含两个参数：若含有两个参数12,θθ， ①取样；②由大数定律2222111111,n n n PP i i i i i i X X EX A X EX EX n n n ====−−→==−−→=∑∑∑；③令X EX=，222211=+()n i i A X EX DX EX n ===∑（或者令211()1ni i X X DX n =-=-∑），则可求出12,θθ的估计量。
所谓矩估计法就是利用样本原点矩去替换总体矩. 矩估计法的计算步骤：（1）计算总体原点矩EX μ=，建立关于参数的有效方程；（2）用样本原点矩11ni i A X n ==∑作为总体原点矩EX μ=的估计，令A μ=即11(1,2,)ni i X EX k n ===∑ ； （3）通过求解有效方程，将未知参数用样本的统计量表示出来，再将未知参数θ用对应的估计量θ∧代替；（4） 若给定一个样本观测值12(,)n x x x ，代入θ∧可得θ的一个矩估计值二、典型例题例1 设总体X 的概率密度为,01(;)1,120,x f x x θθθ<<⎧⎪=-≤<⎨⎪⎩其他，其中θ是未知参数（01θ<<）.12,,,n X X X 为来自总体X 的简单随机样本，记N 为样本值12,,,n x x x 中小于1的个数.求：（1）θ的矩估计；（2）θ的最大似然估计. 解析：（1）1213()(1)2EX xf x dx xdx xdx θθθ+∞-∞==+-=-⎰⎰⎰， 令EX X =，得矩估计量32X θ=-. （2）似然函数()(1)Nn NL θθθ-=-，ln ()Nln (N)ln(1)L n θθθ=+--，令ln ()01d N n NL d θθθθ-=-=-，得θ的最大似然估计为N n θ= .例罐中有N 个硬币，其中有θ个是普通硬币（掷出正面与反面的概率各为0.5），其余N θ-个硬币两面都是正面，从罐中随机取出一个硬币，把它连掷两次，记下结果，但不去查看它属于哪种硬币，然后放回，如此重复n 次，若掷出0次、1次、2次正面的次数分别为012012,,()n n n n n n n ++=.（1）求θ的矩估计 1θ，最大似然估计 2θ； （2）求 12E E θθ、； （3）求 2D θ. 解析：（1）设X 为连掷两次正面出现的次数，A ：“取出的硬币为普通硬币”，则21(0)()(0|)()(0|)()24P X P A P X A P A P X A N Nθθ===+===，1221(1)()(1|)()(1|)()22P X P A P X A P A P X A C N Nθθ===+===， 2143(2)()(2|)()(2|)()24N N P X P A P X A P A P X A N N Nθθθ--===+==+=， 则X 的分布律为X0 1 2P4Nθ2Nθ434N Nθ- 则12012432(2)(2)(2)22n n N N NEX X N X N n n NN N n nθθθθ+--=+==⇒=-=-=+ 则θ的矩估计 101(2)Nn n nθ=+. 似然函数012143(,,;)424n n n n N L X X N N Nθθθθ-⎛⎫⎛⎫⎛⎫=⎪ ⎪⎪⎝⎭⎝⎭⎝⎭， 012ln (ln ln(4))(ln ln(4))(ln(43)ln(4))L n N n N n N N θθθ=-+-+--，012013ln 40()433n n n d L Nn n d N n θθθθθ=+-=⇒=+-， 则θ的最大似然估计 2014()3Nn n nθ=+. （2）01243(,),(,),(,)424N n B n n B n n B n NNNθθθ- ， 则012(43),,424n n n N En En En N N Nθθθ-=== 12(2)22N E EN X N NE X N N Nθθθ-=-=-=-⨯=， 20101444()()()33342N N N n n E E n n En En n n n N N θθθθ=+=+=+=. （3）01(1),(1)4422n n Dn En N N N Nθθθθ=-=-， 则 22201012222241616(4)(2)()()()3991641259N N N n N n N D D n n Dn Dn n n n N N N nθθθθθθθ--=+=+=+-=例总体X 的概率分布为1{},1,2,,P X k k N N=== ，其中N 是未知参数(正整数)，利用总体X 的如下样本值：1,3,2,3,2,1,2,N N -，求N 的矩估计值..【解析】由X 的概率分布知，1111(){}2==+=⋅==⋅=∑∑N Nk k N E X k P X k k N ， 样本均值()131323212824Nx N N =+++++-++=+. 令()=X E X ，得31242N N ++=，解得ˆ4N=，即N 的矩估计值是4. 以上是文都考研数学老师总结的参数估计当中的矩估计法，另外，同学们要牢记常用的参数的距估计值，这样可以节约很多时间。
矩估计法的一般步骤
总体参数的点估计一 矩估计法如果总体中的未知参数θ恰好就是某个总体矩，那么相应的样本矩就是它的矩估计。
但是当总体中的未知参数θ不是某个总体矩时，通常按下面的步骤来求未知参数θ的矩估计。
问题：设总体X 中含有k 个参数k θθθ ,,21，n X X X ,,21是来自总体的样本，求k θθθ ,,21的矩估计。
不管未知参数k θθθ ,,21是不是总体矩，我们都可以按以下步骤来求它们的矩估计。
①求出总体X 的一阶直到k 阶原点矩()()()k X E X E X E ,,,2 （也可以是总体中心距），并且把它们表示成未知参数k θθθ ,,21的函数。
设求得：()()k a X E θθθ,,,211 =()()k a X E θθθ,,,2122 =………………………………()()k k k a X E θθθ,,,21 =②用样本矩替换相应的总体矩，即()k ni i a X n θθθ,,,12111=∑= ()k ni i a X n θθθ,,,121212 =∑=………………………()k k n i ki a X n θθθ,,,1211=∑= 这是k 个关于未知参数k θθθ ,,21的方程。
③解由这k 个方程构成的方程组，得到k θθθ ,,21的解k θθθˆ,ˆ,ˆ21 ，这k 个解就是相应的未知参数的矩估计。
注意：（1）在上面的第一个步骤中，如果计算总体中心矩比较方便，也可以把部分总体原点矩换成总体中心矩。
（2）在上面的三个步骤中，把步骤②和③颠倒也可以。
二 最大似然估计法求总体中的未知参数k θθθ ,,21的最大似然估计可以归结为求似然函数的最大值点。
一般情况下可以按照以下三个步骤来做：①求似然函数()k n x x x L θθθ ,,;,,,2121 ②对似然函数取自然对数，并列似然方程()()()⎪⎪⎪⎩⎪⎪⎪⎨⎧=∂∂=∂∂=∂∂0,,,;,,,ln 0,,,;,,,ln 0,,,;,,,ln 21212212112121k k n k n k n x x x L x x x L x x x L θθθθθθθθθθθθ ②解似然方程，得到k θθθ ,,21的解k θθθˆ,ˆ,ˆ21 ，这k 个解就是未知参数k θθθ ,,21的最大似然估计值。
吴赣昌编-概率论与数理统计-第6章(new)
ˆ , ˆ ,, ˆ 从中解出 1 2 m
在例6.4中，
n xi n xi n i 1 i 1 xi ln n xi ln(1 ) ln L( ) ln (1 ) i 1 i 1
1 n 解得矩法估计量为 ˆ Xi X n i 1
注：1
n n n 1 1 1 2 2 1 2 2 2 X 2 X X X i i (Xi X ) (Xi 2Xi X X ) n n n i 1 i 1 i 1 n i 1 n i 1 n n
i 1 n
xi !
e
e
n
x!
i 1 i
n
x
i
n
x
i 1
1
n
i 1
i
0
n 1 ˆ xi n i 1
d2 1 n n (ln L ( )) x 0 2 2 i d i 1 x ˆx
ˆx 所以
ˆ X L
二、极大似然估计法(R.A.Fisher费歇)
先看一个简单例子： 某位同学与一位猎人一起 外出打猎 . 一只野兔从前方窜过 . 只听一声枪响，野兔应声倒下 . 如果要你推测， 是谁打中的呢？ 你会如何想呢?
1、极大似然估计法的基本思想
由样本的具体取值，选择参数θ的估计量 ˆ 使得取该样本值发生的可能性最大。 一般说，事件A发生的概率与参数有关，取
n 2 i 2 i 1
n n n 1 ln L( , 2 ) ln 2 ln 2 ( xi 2 2 2 2 i 1 ln L( , 2 ) 1 n 2 ( xi ) 0 i 1 解得 2 n ln L ( , ) n 1 2 2 ( xi ) 0 2 4 2 2 i 1
矩估计原理及方法介绍
解 (1) 矩估计法：
1 X 服从几何分布， E ( X ) p
所以 p 的矩估计量为
1 ˆ p X
7
P{ X x } p(1 p)
解 (2) 最大似然估计法：
x 1
, x 1,2
L( p) p(1 p)
i 1
ln L n ln( 1) ln xi ,
i 1
n 令 d ln L n ln xi 0， d 1 i 1
10
n
n 令 d ln L n ln xi 0， d 1 i 1
解得 的极大似然估计量为
ˆ 1
n
ln X
n
x i 1
p n (1 p) i 1
xi n
n
,
ln L n ln p ( xi n) ln( 1 p) ,
d ln L n i 1 dp p 1 p n xi
i 1 n
n
令
0，
ˆ p n
解得 p 的最大似然估计量为
X
i 1
n
1 . X
2
取自 X 的样本，则 , 的矩法估计量分别为
2
ˆX,
n 1 2 2 ˆ B2 ( X i X ) . n i 1
它们与相应的最大似然估计量相同.
6
例3
设总体 X 的概率密度为
P{ X x } p(1 p)
x 1
, x 1,2
( X 1 ,, X n ) 是取自 X 的样本，其中 0 p 1 是未知参
i 1
n
第56讲 矩估计法(2)
概率论与数理统计主讲：四川大学四川大学1§7.1 点估计四川大学3第56讲点估计矩估计法(2)四川大学四川大学4两个未知参数的例题四川大学5四川大学7例4 设总体X 的均值μ且方差σ2>0 都存在，但它们均未知。
设X 1, X 2, …, X n 是来自总体X 的样本，试求μ和σ2的矩估计量。
解总体X 的一阶和二阶矩为1()EX μ=μ=22()E X μ=2()[()]D X E X =+22σμ=+解出1μμ=2221σμμ四川大学四川大学四川大学四川大学14四川大学四川大学16例6 (均匀分布的参数估计)设总体X 在区间[a , b ]上服从均匀分布,a , b 为未知参数。
X 1, X 2, …, X n 是来自总体X 的样本，试求a , b 的矩估计量。
四川大学四川大学四川大学25四川大学四川大学260.560.40 0.70 0.56 0.46 0.27 0.50 0.05 0.49 0.90 ˆ0.1123a=ˆ0.8657b =ˆˆ[,][0.1123,0.8657]ab =并没有包含所有样本值？若有样本观察值，则a 和b 的矩估计值为四川大学四川大学四川大学28例7 （二项分布的参数估计）设总体X服从参数为N, p的二项分布：X~b(N,p) , N与p未知，X 1, X2, …, Xn是来自总体X 的样本，试求N, p的矩估计量。
四川大学四川大学四川大学29四川大学30设总体X 服从参数为N , p 的二项分布：X ~b (N ,p ) , N 与p 未知，X 1, X 2, …, X n 是来自总体X 的样本，试求N , p 的矩估计量。
四川大学解根据定理(例4)，用A 1和B 2分别代替E (X )和D (X )，得ˆˆNp A=~(,)(),()(1)X b N p E X Np D X Np p ⇒==-ˆˆ(1)Np p B=四川大学。
《概率论与数理统计》课件第七章 参数估计
03
若存在, 是否惟一?
添加标题
1
2
3
4
5
6
对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用标准
(1)无偏性
(3)一致性
(2)有效性
7.2 估计量的评选标准
无偏性
一致性
有效性
一 、无偏性
定义1 设 是未知参数θ的估计量
09
则称 有效.
10
比
11
例4 设 X1, X2, …, Xn 是X 的一个样本,
添加标题
问那个估计量最有效?
添加标题
解 ⑴
添加标题
由于
添加标题
验证
添加标题
都是
添加标题
的无偏估计.
都是总体均值
的无偏估计量.
故
D
C
A
B
因为
所以
更有效.
例5 设总体 X 的概率密度为
关于一致性的两个常用结论
1. 样本 k 阶矩是总体 k 阶矩的一致性估计量.
是 的一致估计量.
由大数定律证明
用切比雪夫不 等式证明
似然函数为
其中
解得参数θ和μ的矩估计量为
2
时
3
令
1
当
6
，故
5
，表明L是μ的严格递增函数，又
4
第二个似然方程求不出θ的估计值，观察
添加标题
所以当
01
添加标题
从而参数θ和μ的最大似然估计值分别为
03
添加标题
时L 取到最大值
02
添加标题
概率论与数理统计参数估计矩估计法
概率论与数理统计参数估计矩估计法概率论与数理统计是数学的一个重要分支，它研究了随机现象的规律以及如何利用数据对未知参数进行估计。
参数估计是统计学中的一项基本任务，其目的是通过样本数据来推断出总体的未知参数。
矩估计法是一种常见的参数估计方法，本文将详细介绍矩估计法的原理、步骤和一些重要应用。
矩估计法的基本思想是将总体的矩与样本矩相等化，从而得到参数的估计值。
矩估计法的具体步骤如下：1.确定总体的概率分布函数或密度函数，假设其形式和假设的参数个数。
2.确定估计的参数个数，即确定需要估计的参数的个数。
3.设定样本容量和抽样分布，根据样本的特点选择适当的样本容量和抽样分布。
4.根据总体的矩和样本的矩相等的条件，设置矩方程组。
5.解矩方程组，求得参数的估计值。
矩估计法的原理基于矩的性质，总结起来有两个重要定理：(1)若总体的前n个矩存在，则总体的前n个矩是参数的连续函数；(2)任何阶数的矩都可以用前两阶的矩表示。
这两个定理是矩估计法的理论基础。
矩估计法的优点在于其思路简单直观，计算相对容易，而且在大样本下具有渐近无偏性和一致性。
但是矩估计法也存在一定的局限性，它要求总体的前n个矩存在，并且需要根据总体的矩给出矩方程组。
在一些情况下，总体的矩很难求出，或者求解矩方程组的解不存在，这时候矩估计法就不适用了。
矩估计法在实际应用中有广泛的应用，下面以两个常见的例子进行说明。
例子1：假设企业员工的月薪服从正态分布，现在随机抽取了一部分员工，得到了他们的月薪数据。
现在要估计该企业的平均月薪和方差。
根据矩估计法的步骤，首先可以设定总体的平均月薪和方差为参数，然后选择适当的样本容量和抽样分布，比如选择样本容量为100，假设样本服从正态分布。
接下来，根据总体的矩和样本的矩相等的条件，可以设置矩方程组，如平均月薪的矩方程为：总体平均月薪=样本平均月薪。
方差的矩方程为：总体方差=样本方差。
最后，解矩方程组可以得到平均月薪和方差的估计值。
概率论与数理统计第七章
矩估计法的具体做法如下 设总体的分布函数中含有k个未知参数 1,2, ,k 。 (1) 写出总体的前 k 阶矩μ1, μ2, , μk ,，一般是这 k 个未知参数的函数, 记为：
μi μi (θ1 , θ2 ,
θ j θ j ( μ1 , μ2 ,
(3)
, θk )
, μk )
你就会想，只发一枪便打中，猎人命中的概率一 般大于这位同学命中的概率。看来这一枪是猎人 射中的。
这个例子所作的推断已经体现了最大似然法的基 本思想 ：一次试验就出现的事件有较大的概率。
718 例7.4 设总体 X 服从0-1分布, 且P {X = 1} = p, 用最大似然法求 p 的估计值。 解： 总体 X 的分布律为
以Ai分别代替上式的 可得 a , b 的矩估计量为
i , i 1, 2,
总体矩
n 3 2 2 ˆ a A 3( A A ) X ( X X ) , 1 2 1 i n i 1 n 3 ˆ 2 2 b A 3( A A ) X ( X X ) . 1 2 1 i n i 1
1. 矩估计法（简称“矩法” ） 矩法是基于一种简单的“替换”思 想建立起来的一种估计方法 。又称 数字特征法估计。 是由英国统计学家K.皮尔逊最早提出的。
1 n l 依据：(1) 样本矩 Al X i 依概率收敛于相应 n i 1 的总体矩 l , l 1, 2,.., k .
(2) 样本矩的连续函数依概率收敛于相应的总体矩 的连续函数。
解:
1
2X 1 ˆ , 由矩法, 可得α的矩估计量 1 X
矩法的优点是简单易行, 并不需要事先知道总体 是什么分布。 缺点是，当总体类型已知时，没有充分利用分布 提供的信息。一般场合下 , 矩估计量不具有唯一 性。
矩估计原理
矩估计原理矩估计是一种常用的参数估计方法，它的基本思想是利用样本矩来估计总体矩，从而得到总体参数的估计值。
矩估计的理论基础是矩的一致性，即样本矩在样本量趋于无穷时以概率1收敛于相应的总体矩。
在实际应用中，矩估计通常是比较简单而有效的估计方法，尤其在大样本情况下更为准确可靠。
矩估计的原理可以通过以下几个步骤来进行解释和应用。
首先，我们需要确定要估计的总体参数和相应的矩。
然后，利用样本数据计算相应的样本矩。
接下来，建立总体矩和样本矩之间的方程，通过求解方程得到总体参数的估计值。
最后，对估计结果进行检验和评价，确保估计的准确性和可靠性。
在实际应用中，矩估计通常涉及到一些常见的总体参数，比如均值、方差、偏度、峰度等。
以均值为例，假设我们要估计一个总体的均值，我们可以利用样本的平均值作为总体均值的估计值。
同样地，对于方差、偏度和峰度等参数，我们也可以通过类似的方法进行估计。
这些参数的估计结果在统计分析和实证研究中具有重要的意义，可以帮助我们更好地理解总体特征和规律。
需要注意的是，矩估计的有效性和准确性取决于样本量的大小和样本数据的质量。
通常情况下，大样本可以提高估计的准确性，而小样本则可能导致估计的不稳定性。
因此，在进行矩估计时，我们需要注意样本量的选择和样本数据的收集，以确保估计结果的可靠性和有效性。
除了单一参数的估计，矩估计还可以用于多参数的估计。
在多参数的情况下，我们可以利用多个矩方程来进行参数的估计，从而得到多个参数的估计值。
这种方法在实际应用中也有着重要的作用，可以帮助我们更全面地了解总体特征和规律。
总之，矩估计是一种常用且有效的参数估计方法，它的原理简单而直观，适用于各种类型的总体参数估计。
在实际应用中，我们可以根据具体的情况选择合适的矩估计方法，并注意样本量和数据质量的影响，以确保估计结果的准确性和可靠性。
通过矩估计，我们可以更好地理解总体特征和规律，为统计分析和实证研究提供有力的支持。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
矩估计法
1
引言
数理统计学是数学的一个重要分支，它研究 怎样有效地收集、整理和分析带有随机性的数据， 以对所考察的问题作出推断或预测，并为采取一 定的决策和行动提供依据和建议。 几个实际问题： 1. 估计产品寿命问题: 根据用户调查获得某品牌洗衣 机50台的使用寿命为，5，5.5，3.5，6.2，……..。根 据这些数据希望得到如下推断： A．可否认为产品的平均寿命不低于4年？ B．保质期设为多少年，才能保证有95%以上的产品 过关？
9
5.1 点估计
一、参数估计的概念
定义(p120) 设X1， … ， Xn是总体X的一个样本，
其分布函数为F(x; ), 。其中为未知参数, 为 参数空间, 若统计量g(X1， … ， Xn)可作为的一个
ˆ, 估计,则称其为的一个估计量，记为 ˆ g( X , , X ). 即 1 n
13
设总体X的概率密度为
2 x 2e f ( x) 0
x x
其中>0,未知,从总体中抽取简单随机样本 X1,..., X n (1)
提示
14
解（1）E X 2 xe
2 x
二、统计量
定义： (p113)称样本X1， … ，Xn 的函数
g(X1， … ，Xn )是总体X的一个统计量,如果
g(X1， … ，Xn )不含未知参数
几个常用的统计量 ：
1 n 1. 样 本 均 值 X X i , n i 1 n 1 2 2. 样 本 方 差 S 2 ( X X ) i n 1 i 1
样本均方差 ( 标准差 ) S S2 ,
8
3.样本k阶矩
样本原点矩 : 样本中心矩 :
1 n k Xi n i 1 1 n k ( X X ) , i n i 1
4.经验分布函数 用S(x)表示样本X1， … ，Xn 中不大于x的随机变量个数。定义经验分布函 数Fn(x)为 1 Fn ( x) S ( x) n
若x1， … ， xn是样本的一个观测值。
ˆ g ( x1 , , x n )称为 的估计值,
10
二、矩估计法（简称“矩法”） （p120) 关键点：1.用样本矩作为总体同阶矩的估计，即 n 1 若 k E ( X k ), 则 k X ik . n i 1 k k 1 n 若 k E X E X , 则 k n X i X i 1
x
例3. 设总体X~U(a,b), X1， … ， Xn为样本, 求参数a,b的矩估计
MATLAB
12
一般地,设总体Xf(x;θ), 其中 1 ,...,k ,
求参数θ的矩估计的一般步骤为: 1. 令 E X g ,..., 1 1 1 k ... ... k E X g ,..., k k 1 k 解出:
1 h1 1 ,..., k ... ... h ,..., k 1 k k
ˆ h ˆ1 ,..., ˆk 1 1 ... ... 则 ˆ ˆ1 ,..., ˆk k hk
其中
1 n k ˆk X i n i 1
2
2．商品日投放量问题：如草莓的日投放量多少合理？ 如何安排银行各营业网点的现金投放量？快餐食品以 什么样的速度生产最为合理等等。 例 制衣厂为了合理的确定服装各种尺码的生产比 例，需要调查人们身长的分布。现从男性成人人群 中随机选取100人,得到他们的身长数据为: ... (1) 试推断男性成人身长X的概率密度 (2)若已知X服从正态分布N(,2), 试估计参数的,2值 已知“总体”的分布类型,对分布中的未知参数所 进行的统计推断属于“参数统计”.
2.约定：若 是未知参数的矩估计，则g()的
矩估计为g( )
11
例1：设X1， … ， Xn为取自总体B(m,p),的样本 ，其中m已知，0<p<1未知，求p的矩估计。
1 f ( x ) e 例2. 设总体X的概率密度为 2 X1， … ， Xn为样本，求参数的矩估计。
1 dx 2 t e dt 2 0
2 t
1 EX 2 ˆ （2） E
ˆ D
1 ˆ 令EX X X 2 1 1 1 E X 2 2 2 1 D X 1 D X 2 n 4n 1 4
3
第四章 样本及抽样分布 4.1 随机样本 一、总体与样本
1. 总体： (p112) 研究对象的全体。 组成总体的元素称为个体。 从本质上讲，总体就是所研究的随机变量或 随机变量的分布。
4
2. 样本(p113)来自总体的部分个体X1， 如果满足： （1）同分布性： Xi， i=1,…,n与总体同分布. （2）独立性：
…
， Xn
X1，… ，Xn 相互独立；
则称为容量为n 的简单随 机样本，简称样本。 而称X1，… ，Xn 的一次 实现为样本观察值，记为 x1， … ， xn
5
“X 1 ，
…
，Xn 为总体X的简单随机样本” 记作
iid
X 1 ,, X n ~ X 或f ( x), F ( x),...
显然，样本联合分布函数或密度函数为
F * ( x1 , x 2 , , x n )
或
n
F(x
i 1 n
i
)
f * ( x1 , x2 , , xn )
i 1
f ( xi )
6
总体、样本、样本观察值的关系 总体
理论分布
样本
样本观察值
统计是从手中已有的资料——样本观察值，去推断 总体的情况——总体分布。样本是联系两者的桥梁 。总体分布决定了样本取值的概率规律，也就是样 本取到样本观察值的规律，因而可以用样本观察值 去推断总体 7