概率论与数理统计-点估计-矩法估计
概率论与数理统计第七章-1矩估计法和极大似然估计法
μ1 h1 (θ1 , θ2 , μ j h j (θ1 , θ2 , μk hk (θ1 , θ2 ,
, θk ) , θk ) , θk )
, μk ) , μk ) , μk )
数理统计
从这 k 个方程中解出
θ1 g1 ( μ1 , μ2 , θ j g j ( μ1 , μ2 , θk gk ( μ1 , μ2 ,
数理统计
定义 用样本原点矩估计相应的总体原点矩 ,
用样本原点矩的连续函数估计相应的总体原点矩的 连续函数, 这种参数点估计法称为矩估计法 . 矩估计法的具体做法如下 设总体的分布函数中含有k个未知参数 θ1 , θ2 , 那么它的前k阶矩 μ1 , μ2 ,
, θk ,
, μk , 一般
l xi P{ X xi ;1 , 2 , , k } l E ( X l ) l 1 hl (1 , 2 , , k ) x l p ( x; , , , )dx 1 2 k
2 1
b μ1 3( μ2 μ12 )
于是 a , b 的矩估计量为
总体矩
a A1 3( A2 A12 ) 3 n 2 X ( X X ) , i n i 1
3 n 2 b X ( X X ) n i 1 i
样本矩
数理统计
例2 设总体 X 的均值 μ和方差 σ 2 ( 0) 都存
数理统计
点估计问题的一般提法 设总体 X 的分布函数 F ( x; )的形式为已
知, 是待估参数 . X 1 , X 2 ,, X n 是 X 的一个样 本, x1 , x2 ,, xn 为相应的一个样本值 .
概率论与数理统计第7章
x 0 , x 0 ,x 1 ,x 2 ,
,x n 为 总 体 X
的 一 个 样 本 ,则 未 知 参 数 的 矩 估 计 ˆ _ _ _ _ _ _ _ _ _ _ _ .
这个例子所作的推断已经体现了极大似然法 的基本思想 .
最大似然估计原理：
设X1,X2,…Xn是取自总体X的一个样本，样 本的联合密度(连续型）或联合分布律 (离散型)为
f (x1,x2,… ,xn ; ) .
当给定样本X1,X2,…Xn时，定义似然函数为：
L() f (x1, x2 ,…, xn; )
得
pˆ1Βιβλιοθήκη nn i 1xix
即为 p 的最大似然估计值 .
从而 p 的最大似然估计量为
p ˆ(X1,
1n ,Xn)ni1Xi X
求最大似然估计(MLE)的一般步骤是：
(1) 由总体分布导出样本的联合分布率(或联 合密度);
(2) 把样本联合分布率 ( 或联合密度 ) 中自变
量看成已知常数,而把参数 看作自变量,得到似然 函数L();
要求：领会
2.2 估计量的有效性、相合性， 要求：领会
3.区间估计
3.1 置信区间的概念，
要求：领会
3.2 求单个正态总体均值和方差的置信区间，要求：简单应用
参数估计
现在我们来介绍一类重要的统计推断问题
参数估计问题是利用从总体抽样得到的信息来估计总体 的某些参数或者参数的某些函数.
估计新生儿的体重
1 p
n
pxi (1p)1xi
i1
n
n
xi
n xi
pi1 (1p) i1
n
n
xi
n xi
L(p)pi1 (1p) i1
概率论与数理统计复习7章
( n − 1) S 2 ( n − 1) S 2 = 1 − α 即P 2 <σ2 < 2 χα 2 ( n − 1) χ1−α 2 ( n − 1) ( n − 1) S 2 ( n − 1) S 2 置信区间为： 2 , χα 2 ( n − 1) χ12−α 2 ( n − 1)
则有：E ( X v ) = µv (θ1 , θ 2 ,⋯ , θ k ) 其v阶样本矩是：Av = 1 ∑ X iv n i =1
n
估计的未知参数，假定总体X 的k阶原点矩E ( X k ) 存在，
µ θ , θ ,⋯ , θ = A k 1 1 1 2 µ2 θ1, θ 2 ,⋯ , θ k = A2 用样本矩作为总体矩的估计，即令： ⋮ µ θ , θ ,⋯ , θ = A k k k 1 2 ɵ ɵ ˆ 解此方程即得 (θ1 , θ 2 ,⋯ , θ k )的一个矩估计量 θ 1 , θ 2 ,⋯ , θ k
+∞
−∞
xf ( x ) dx = ∫ θ x θ dx =
1 0
令E ( X ) = X ⇒
θ +1
θ
ˆ = X ⇒θ =
( )
X 1− X
θ +1
2
θ
7.2极大似然估计法
极大似然估计法： 设总体X 的概率密度为f ( x,θ ) (或分布率p( x,θ )),θ = (θ1 ,θ 2 ,⋯ ,θ k ) 为 未知参数，θ ∈ Θ, Θ为参数空间，即θ的取值范围。设 ( x1 , x2 ,⋯ , xn ) 是 样本 ( X 1 , X 2 ,⋯ , X n )的一个观察值：
i =1 n
海南大学《概率论与数理统计》课件 第九章 点估计
令 X ,
则 ˆ x 1 (0 75 1 90 6 1) 1.22
250
二.极大似然估计法 特点：适用总体的分布类型已知的统计模型
极大似然估计法是求估计用的最多的方法， 它最早是由高斯在1821年提出，但一般将之归 功于费舍尔(R.A.Fisher)，因为费舍尔在1922 年再次提出了这种想法，并证明它的一些性质， 从而使得极大似然法得到了广泛的应用。
18
第二节 估计方法
矩估计法 极大似然估计法
19
一.矩估计法 定义：用样本矩来代替总体矩,从而得到总体 分布中参数的一种估计.这种估计方法称为 矩估计法.它的思想实质是用样本的经验分 布和样本矩去替换总体的分布和总体矩.也 称之为替换原则.
特点：不需要假定总体分布有明确的分布类型。
20
设总体X具有已知类型的概率函数 f(x;θ), θ=(θ1,…,θk) ∈Θ是k个未知参数.(X1,X2,…,Xn)是 来自总体X的一个样本.
2
参数估计的分类：
参 点估计 估计未知参数的值
数
估 计
估计未知参数的取值范围，
区间估计 并使此范围包含未知参数的
真值的概率为给定的值
3
这里所指的参数是指如下三类未知参数：
1.分布中所含的未知参数 .
如：两点分布B（1，p）中的概率p;
正态分布 N (, 2 )中的,． 2、分布中所含的未知参数的函数. 如：服从正态分布N (, 2 )的变量X不超过给定值a的
Xi＝１，反之记 Xi＝ ０ i 1,, n ．则
X1, X2 , , Xn 就是样本．总体分布为二点分
布 B1, ，参数空间 0,1 ，容易得到统计
模型
n
xi
i1
概率论与数理统计教材第六章习题
X σ0 n
~ N(0,1)
对于置信水平1- ，总体均值的置信区间为 对于置信水平 -α，总体均值 的置信区间为
X
σ0
n
uα < < X +
2
σ0
n
uα
2
(2)设总体 ～ N(,σ 2 ), 未知 ，求的置信区间。 设总体X～ 未知σ， 的置信区间。 设总体 的置信区间
σ 0 ，则样本函数 t = X ~ t(n 1) 用 S 代替 S n
i =1
n1
n1
F
1
α ∑ Yj 2
2 j =1
n2
(
)
2
n2
10
2 2 及 （1）设两个总体 ～ N(1,σ1 ) 及Y～ N(2 ,σ 2 ), 未知 1 2， ）设两个总体X～ ～
2 σ1 的置信区间。 求 2 的置信区间。 σ2
选取样本函数 选取样本函数
2 2 S1 σ1 F = 2 2 ~ F(n1 1, n2 1) S2 σ2
∑x
i =1
n
i =1
i
n = 0.
1 p
得 p 的极大似然估计值为 p =
n
∑x
i =1
n
1 = x
i
12
1 θ 2. 设总体 服从拉普拉斯分布：f ( x;θ ) = e ,∞< x < +∞, 设总体X 服从拉普拉斯分布： 2θ 求参数 θ 其中 > 0. 如果取得样本观测值为 x1 , x2 ,L, xn , 求参数θ
第六章 参数估计
(一)基本内容
一、参数估计的概念 1 定义：取样本的一个函数θ ( X 1 , X 2 ,L , X n ), 如果以它的观测 定义：
概率论与数理统计公式
概率论与数理统计公式概率论是一门研究随机现象规律的数学学科，是现代数学的基础之一、而数理统计则是利用概率论的工具和方法，分析和处理统计数据，从而得出推断、估计、决策等信息的科学。
在概率论与数理统计的学习过程中，掌握一些重要的公式是非常关键的。
下面是一些概率论与数理统计中常用的公式：1.概率公式：-加法公式：P(A∪B)=P(A)+P(B)-P(A∩B)-乘法公式：P(A∩B)=P(A)*P(B，A)-条件概率公式：P(A，B)=P(A∩B)/P(B)2.期望与方差公式：-期望：E(X)=∑(x*P(X=x))- 方差：Var(X) = E((X-μ)^2) = ∑((x-μ)^2 * P(X=x))3.常用概率分布及其特征：-二项分布：P(X=k)=C(n,k)*p^k*(1-p)^(n-k)-泊松分布：P(X=k)=(λ^k*e^(-λ))/k!-正态分布：f(x)=(1/(σ*√(2π)))*e^(-((x-μ)^2)/(2*σ^2))4.样本与总体统计量公式：-样本均值：x̄=(∑x)/n-样本方差：s^2=(∑(x-x̄)^2)/(n-1)-样本标准差：s=√(s^2)5.参数估计公式：-点估计：-总体均值估计：μ的点估计为x̄-总体方差估计：σ^2的点估计为s^2-区间估计：-总体均值的置信区间：x̄±Z*(σ/√n)-总体比例的置信区间：p±Z*√((p*(1-p))/n)6.假设检验公式：-均值检验：-单样本均值检验：t=(x̄-μ0)/(s/√n)-双样本均值检验：t=(x̄1-x̄2)/√((s1^2/n1)+(s2^2/n2))-比例检验：-单样本比例检验：z=(p-p0)/√((p0*(1-p0))/n)-双样本比例检验：z=(p1-p2)/√((p*(1-p))*((1/n1)+(1/n2)))以上是概率论与数理统计中一些常用的公式，这些公式为解决问题提供了有力的工具和方法。
《概率论与数理统计》学习笔记十一
σ 2 = S2 =
2 1 n Xi − X ) ( ∑ n i =1
n −1 2 ⎛ n −1 2 ⎞ n −1 S ⎟= E (S2 ) = 由于 E σ 2 = E S 2 = E ⎜ σ ， n n ⎝ n ⎠
n 3 ⎡ X 2 − nX 2 ⎤ ∑ i ⎥ n⎢ ⎣ i =1 ⎦
3 ( X − X )2 i n∑ i =1
n
在总体 X 为离散型随机变量情形， 求未知参数 θ 的矩估计量的方法和连续型 情形完全相同。 极大似然估计法 直观想法：概率最大的事件最可能出现。 设总体 X 为连续型随机变量，具有密度函数 f ( x;θ ) ，其中 θ 是待估未知参 数，又设 ( x1 ,L , xn ) 是样本 ( X 1 ,L , X n ) 的一个观测值，则样本 ( X 1 ,L , X n ) 落在观
n
（１）
ˆr ， 把上式中的 α r 都换成相应的样本矩 M r = 1 ∑ X ir ，便得到参数 θ r 的矩估计量 θ n i =1
概率论与数理统计—学习笔记十一
即
θˆr = hr ( M 1 ,L , M k ) , r = 1, 2,L , k .
（２）
这种求估计量的方法称为矩估计法（简称矩法） ，由矩估计法得出的估计量称为 矩估计量。 例１ 设总体 X 在 [ a, b ] 上服从均匀分布，a,b 未知， X 1 ,L , X n 是总体 X 的 一个样本，试求 a,b 矩估计量。 解 X 的概率密度为 1 , a≤ x≤b ⎧ ⎪ f ( x; a, b ) = ⎨ b − a ⎪ 其它 ⎩ 0,
上节介绍了总体参数的常用点估计方法，对同一参数用不同的估计方法可能 得到不同的估计量，哪个估计量更好些呢？下面给出几种评选估计量好坏的标 准。 无偏估计 估计量是样本的函数，是随机变量，对不同的样本观测值，它有不同的估计 值，我们希望估计量的取值在未知参数真值附近摆动，即希望估计量的数学期望 等于未知参数的真值，这就是无偏性的概念。 定义 设 θˆ ( X 1 ,L , X n ) 是未知参数 θ 的估计量，若
概率论与数理统计答案(华南理工)
开讨论
例 对容量为n的样本，求下列密度函数中参数 a 的
2 2 (a x), (0 x a) f ( x) a 其它 0, a 2 a 解 由于 E [ X ] x 2 ( a x )dx 0 a 3 a 所以由矩法估计，得 X 3 3 n 解得 a 3 X X i n i 1 3 n 所以，参数 a 的矩估计量为 a X i n i 1
方差
1 50 ˆ X Xi 50 i 1 50 1 2 2 2 ˆ 2 S50 Xi ( X ) 50 i 1
此时，ˆ ,
ˆ
2
为两个统计量
根据大数定理，样本的矩和总体的矩应当非常接近 假若样本有观测值x1，x2，……x50,代入统计量中，有
用样本的统计量来估计分布的数字特征，进而得到参
数估计的办法也叫数字特征法，是矩法的特例。
思考一下，是否有其他求解的办法？ 考虑泊松分布的二阶中心矩 得到矩法估计量
Var[ X ]
1 n ( X i X )2 n i 1
可见：同一个参数的矩估计量可以不同。 使用哪个更好一些？ 矩法估计总能用低阶矩就不用高阶矩 之后会系统地介绍估计量优劣的评价，届时再展
解：设装袋的重量为随机变量X，即总体为X~N(μ, σ2)。
E[ X ] 2 2 2 Var [ X ] E [ X ] ( E [ X ])
此时，要估计参数，就转化为估计随机变量的矩 观测50次，即取X1，X2，……X50个样本，样本容量50 计算样本 的期望和
若总体的密度函数中有多个参数1，2，…，n，则将 ln L 第（3）步改为 0, (i 1, 2, , n) i 解方程组即可。
概率论与数理参数估计
概率论与数理参数估计参数估计是概率论与数理统计中的一个重要问题，其目标是根据样本数据推断总体的未知参数。
参数估计分为点估计和区间估计两种方法。
点估计是通过样本计算得到总体未知参数的一个估计值。
常见的点估计方法有最大似然估计和矩估计。
最大似然估计是通过观察到的样本数据，选择使得观察到的样本数据出现的概率最大的未知参数值作为估计值。
矩估计是通过样本的矩（均值、方差等统计量），与总体矩进行对应，建立样本矩与总体矩之间的方程组，并求解未知参数。
这两种方法都可以给出参数的点估计值，但是其性质和效果不尽相同。
最大似然估计具有渐近正态性和不变性，但是可能存在偏差较大的问题；矩估计简单且易于计算，但是可能存在方程组无解的情况。
区间估计是给出参数估计结果的一个范围，表示对未知参数值的不确定性。
常见的区间估计方法有置信区间和预测区间。
置信区间是指给定的置信水平下，总体参数的真值落在一些区间内的概率。
置信区间的计算依赖于样本的分布和样本量。
预测区间是对一个新的观察值进行预测的区间，它比置信区间要宽一些，以充分考虑不确定性。
在参数估计过程中，需要注意样本的选取和样本量的确定。
样本是总体的一个子集，必须能够代表总体的特征才能得到准确的估计结果。
样本量的确定是通过统计方法和实际需求来确定的，要保证估计结果的可靠性。
参数估计在实际应用中有着广泛的应用。
例如，在医学领域中，通过对病人的样本数据进行统计分析，可以推断患者患其中一种疾病的概率，进而进行治疗和预防措施的制定。
在金融领域中，可以通过对股票的历史价格进行统计分析，推断未来股价的变动趋势，从而进行投资决策和风险评估。
在市场调研中，可以通过对消费者的问卷调查数据进行统计分析，推断消费者的偏好和需求，为企业的市场开发和产品设计提供依据。
综上所述，概率论与数理统计中的参数估计是一门重要的学科，通过对样本数据的统计分析，可以推断总体的未知参数，并对不确定性进行评估。
参数估计在实际应用中有着广泛的应用，对于科学研究和决策制定具有重要的意义。
《概率论与数理统计》7
未知参数 , ,, 的函数.分别令
12
k
L(1,,k ) 0,(i 1,2,...,k)
或令
i
ln L(1,,k ) 0,(i 1,2,...,k)
i
由此方程组可解得参数 i 的极大似然估计值 ˆi.
例5 设X~b(1,p), X1, X2 , …,Xn是来自X的一个样本,
求参数 p 的最大似然估计量.
解 E( X ) ，E( X 2 ) D( X ) [E( X )]2 2 2
由矩估计法,
【注】
X
1
n
n i 1
X
2 i
2
2
ˆ X ,
ˆ
2
1 n
n i 1
(Xi
X )2
对任何总体,总体均值与方差的矩估计量都不变．
➢常见分布的参数矩估计量
(1)若总体X~b(1, p), 则未知参数 p 的矩估计量为
7-1
第七章
参数估计
统计 推断
的 基本 问题
7-2
参数估 计问题
(第七章）
点估计 区间估 计
假设检 验问题 (第八章）
什么是参数估计？
参数是刻画总体某方面概率特性的数量.
当此数量未知时,从总体抽出一个样本， 用某种方法对这个未知参数进行估计就 是参数估计.
例如，X ~N ( , 2),
若, 2未知, 通过构造样本的函数, 给出
k = k(A1, A2 , …, A k)
用i 作为i的估计量------矩估计量.
例1 设总体X服从[a，b]上的均匀分布，a，b未知，
X1, X2 , …,Xn为来自总体X的样本,试求a，b的 矩估计量．
解 E(X ) a b , D(X ) (b a)2
西北工业大学《概率论与数理统计》课件-第六章 参数估计
(2) 似然函数
定义6.1 设总体X的分布密度(或分布律)为 p(x; ), 其中 (1, 2, ,m )为未知参数. 又设
( x1, x2,, xn ) 为自总体X的样本(X1,X2,…,Xn) 的一 个观察值，则称样本的联合分布
n
L( ) p(x1, x2, … , xn; ) p( xi; )
2º似然估计方程组与最大似然估计之间没有必 然
从中解得 pˆ k n
参数 p的估计值
这时, 对一切 0< p <1, 均有
P{Y k; pˆ } P{Y k; p}
综上所述： 设某试验的可能结果为： A1, A2 , ···, Ai , ···
若在一次试验中，某结果 Ai 出现，则应选择参 数使Ai 出现的概率最大.
以上这种选择一个参数使得实验结果具有
(k 1,2,, m)
(4) 求最大似然估计(MLE)的步骤:
1 写出似然函数
(1, 2 , ,m )
n
L( ) L( x1, x2,, xn; ) p( xi; )
n
i 1
2 取对数 ln L( ) ln p( xi; )
i 1
3 解似然方程(组)
ln L
ln L
2
为来自总体X的简单随机样本. 矩估计法的具体步骤:
1 求出k E( X k ) (1,2,,m )， k 1,2,,m；
2 要求k Ak , k 1,2,, m
这是一个包含 m个未知参数1,2 ,,m的方程组.
3 解出其中1,2,,m , 用ˆ1,ˆ2,,ˆm表示.
4 用方程组的解ˆ1, ˆ2 , ,ˆm 分别作为 1,2 ,,m的估计量,这个估计量称为
第一节 矩估计(概率论与数理统计)
设待估计的参数为 θ1,θ2 ,L,θk 设总体的 r 阶矩存在，记为
E( X r ) = r (θ1,θ2 ,L,θk )
1 n r 样本 X1, X2,…, Xn 的 r 阶矩为 Ar = ∑Xi n i=1 令 1n r r (θ1,θ2 ,L,θk ) = ∑Xi r =1,2,L, k n i=1 —— 含未知参数 θ1,θ2, …,θk 的方程组
= X + 3( A X 2 ) b矩 2
3 2 = X + ∑(Xi X ) . n i=1
n
设某产品的寿命服从指数分布， 例6 设某产品的寿命服从指数分布，其概率密度为
λe f (x, λ) = 0,
λx
,
x > 0; x ≤ 0.
λ 为未知参数，现抽得 n 个这种产品，测得其寿命数据 为未知参数， 个这种产品，
什么是参数估计？ 什么是参数估计？
参数是刻画总体某方面概率特性的数量. 参数是刻画总体某方面概率特性的数量. 当此数量未知时,从总体抽出一个样本， 当此数量未知时,从总体抽出一个样本，用某种 方法对这个未知参数进行估计就是参数估计. 方法对这个未知参数进行估计就是参数估计. 例如，X ~N ( ,σ 2), 例如， 未知, 通过构造样本的函数, 若, σ 2未知 通过构造样本的函数 给出它们 的估计值或取值范围就是参数估计的内容. 的估计值或取值范围就是参数估计的内容
(b a) a + b E( X ) = D( X ) + E ( X ) = + 12 2 a +b 令 =X 2 2 n a)2 a + b (b 1 = A2 = ∑Xi2 + 12 2 n i=1
2 2
概率论与数理统计-第七章
2
= (2π ) (σ ) exp[−
2
2
−
n 2
−
n 2
1 2σ 2
( xi − µ ) 2 ] ∑
i =1
n
n
设总体X~U[a,b]，其中 ，b是 例3. 设总体 ，其中a， 是 未知参数。试求a， 的矩估计量 的矩估计量。 未知参数。试求 ，b的矩估计量。 解：E(X)=(a+b)/2, D(X)=(b-a)2/12.
1 n 1 ∑Xi = E(X) = 2 (a +b) n i=1 1 n 2 Xi = E(X 2 ) = D(X) +[E(X)]2 ∑ n i=1 1 1 2 = (b − a) + (a +b)2 12 4
解：白球所占比例p=1/4或3/4. 白球所占比例 或 X:任取 个球中白球的个数，X~B(3, p) 任取3个球中白球的个数 任取 个球中白球的个数，
P( X = 2) = C p (1− p) = 3p (1− p)
2 3 2 2
1 9 , p = 4时 P(X = 2) = 64 p = 3时 P(X = 2) = 27 , 4 64
1 n ˆ (1)µ = X = ∑Xi是 体 值 的 偏 计 ; 总 均 µ 无 估 量 n i=1 1 n ˆ (2)σ 2 = S2 = ( Xi − X )2是 体 差 2的 总 方 σ ∑ n −1 i=1 无 估 量. 偏 计
n −1 2 D(X) = S n 即可解出未知参数的估计量。 即可解出未知参数的估计量。
概率论与数理统计课件第7章参数估计
一、矩估计
4
A B
一、矩估计 例1
5
01
OPTION
02
OPTION
一、矩估计 解
6
一、矩估计
7
一、矩估计
8
解（1）
一、矩估计
9
解（2）
一、矩估计 例3
10
一、矩估计 解
11
一、矩估计
12
关于矩估计量有下列结论:
一、矩估计
13
例4
解
一、矩估计
14
01
OPTION
02
OPTION
一、无偏性 定义1
51
ˆ lim E θ 如果 n+ X1 ,
, X n θ
一、无偏性
52
例1
试求 1 3 2
解
(1)由矩估计定义可知
一、无偏性
53
故
一、无偏性
54
一、无偏性 例2
55
一、无偏性
56
解
一、无偏性 定理 1
57
则有
因此, 样本均值是总体均值的无偏估计, 样本
二、极大似然估计
48
极大似然估计求解
似然函数 对数似然求导法
直接法
49
目录/Contents
7.1 7.2
点估计 点估计的优良性评判标 准 置信区间 单正态总体下未知参数的置信区间 两个正态总体下未知参数的置信区间
7.3
7.4 7.5
50
目录/Contents
7.2
点估计的优良性评判标准 一、无偏性 二、有效性 三、相合性
置信区间
69
置信区间
70
置信区间
第56讲 矩估计法(2)
概率论与数理统计主讲：四川大学四川大学1§7.1 点估计四川大学3第56讲点估计矩估计法(2)四川大学四川大学4两个未知参数的例题四川大学5四川大学7例4 设总体X 的均值μ且方差σ2>0 都存在，但它们均未知。
设X 1, X 2, …, X n 是来自总体X 的样本，试求μ和σ2的矩估计量。
解总体X 的一阶和二阶矩为1()EX μ=μ=22()E X μ=2()[()]D X E X =+22σμ=+解出1μμ=2221σμμ四川大学四川大学四川大学四川大学14四川大学四川大学16例6 (均匀分布的参数估计)设总体X 在区间[a , b ]上服从均匀分布,a , b 为未知参数。
X 1, X 2, …, X n 是来自总体X 的样本，试求a , b 的矩估计量。
四川大学四川大学四川大学25四川大学四川大学260.560.40 0.70 0.56 0.46 0.27 0.50 0.05 0.49 0.90 ˆ0.1123a=ˆ0.8657b =ˆˆ[,][0.1123,0.8657]ab =并没有包含所有样本值？若有样本观察值，则a 和b 的矩估计值为四川大学四川大学四川大学28例7 （二项分布的参数估计）设总体X服从参数为N, p的二项分布：X~b(N,p) , N与p未知，X 1, X2, …, Xn是来自总体X 的样本，试求N, p的矩估计量。
四川大学四川大学四川大学29四川大学30设总体X 服从参数为N , p 的二项分布：X ~b (N ,p ) , N 与p 未知，X 1, X 2, …, X n 是来自总体X 的样本，试求N , p 的矩估计量。
四川大学解根据定理(例4)，用A 1和B 2分别代替E (X )和D (X )，得ˆˆNp A=~(,)(),()(1)X b N p E X Np D X Np p ⇒==-ˆˆ(1)Np p B=四川大学。
点 估 计
ˆ
X
，ˆ 2
A2
ˆ 2
A2
x2
8 9
S2
.
所以，该班数学成绩的平均分数的矩估计值 ˆ x 75 ，
标准差的矩估计值 ˆ 8 s2 12.14 。
9
作矩法估计时无需知道总体的概率分布，只要知道总体矩
即可。但矩法估计量有时不唯一，如总体 X 服从参数为 λ 的泊
松分布时，X 和 B2 都是参数 λ 的矩法估计。
P{X k} C3k Pk (1 p)3k ，k = 0 , 1 , 2 , 3.
问题是 p =1/4 还是 p =3/4 ? 现根据样本中黑球数，对未知参 数 p 进行估计。抽样后，共有4种可能结果，其概率如表7-1所示。
7-1
假如某次抽样中，只出现一个黑球，即 X =1，p =1/4时，P {X =1}=27/64；p =3/4时，P {X =1}= 9/64，这时我们就会选择 p =1/4，即黑球数比白球数为1∶3。因为在一次试验中，事件“1 个黑球”发生了。我们认为它应有较大的概率27/64(27/64>9/64)， 而27/64对应着参数 p =1/4(即取使概率 P {X=1}达到最大的P =1/4 作为对 P 的估计)，同样可以考虑 X=0, 2, 3 的情形，最后可得
一、矩法
矩法估计的一般原则是：用样本矩作为总体矩的估计，若不 够良好，再作适当调整。矩法的一般作法：设总体 X ~ F( x ; θ1 , θ2 ,…, θl ) 其中 θ1 , θ2 ,…, θl 为未知参数。
( 1 )如果总体 X 的 k 阶矩 k E(X k ) (1 k 1) 均存在，则
试验中事件 A 发生的频率。由此可见频率是概率的矩估计。
例7.2
《概率论与数理统计》课件第七章 参数估计
03
若存在, 是否惟一?
添加标题
1
2
3
4
5
6
对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用标准
(1)无偏性
(3)一致性
(2)有效性
7.2 估计量的评选标准
无偏性
一致性
有效性
一 、无偏性
定义1 设 是未知参数θ的估计量
09
则称 有效.
10
比
11
例4 设 X1, X2, …, Xn 是X 的一个样本,
添加标题
问那个估计量最有效?
添加标题
解 ⑴
添加标题
由于
添加标题
验证
添加标题
都是
添加标题
的无偏估计.
都是总体均值
的无偏估计量.
故
D
C
A
B
因为
所以
更有效.
例5 设总体 X 的概率密度为
关于一致性的两个常用结论
1. 样本 k 阶矩是总体 k 阶矩的一致性估计量.
是 的一致估计量.
由大数定律证明
用切比雪夫不 等式证明
似然函数为
其中
解得参数θ和μ的矩估计量为
2
时
3
令
1
当
6
，故
5
，表明L是μ的严格递增函数，又
4
第二个似然方程求不出θ的估计值，观察
添加标题
所以当
01
添加标题
从而参数θ和μ的最大似然估计值分别为
03
添加标题
时L 取到最大值
02
添加标题
概率论与数理统计教案参数估计
概率论与数理统计教学教案第6章参数估计二.最大似然估计法1 .最大似然估计的步骤：若总体X 的分布中含有k 个未知待估参数0 1, 0 2,…，0 k ，则似然函数为a L .一 . a ln L 一一 .解似然方程组10- = 0, i = 1,2<..,k ，或者对数似然方程组焉一=0,i = 1,2,・・・,k ，即可得到参数的最大似然 i i八 八 八 估计0 ,0， 012 k2.定理：若0为参数0的最大似然估计，g (®)为参数0的函数，则g (®)是g (0)的最大似然估计. 三.点估计的评价标准1 .无偏性：设=(X1,X2,…,X)是未知参数。
的估计量,若E (0 )=0,则称为0的无偏估计。
八 八八八八 八2 .有效性：设0 ,0均为参数0的无偏估计量，若D (0 )< D (0 ),则称0比0有效。
121212,3 .相合性(一致性)：设0为未知参数0的估计量，若对任意的s > 0,都有lim P 卜-0 <£ n fsn fs四.例题讲解4 1.设X 为某零配件供应商每周的发货批次，其分布律为X 0 1 23P 0 2 20 (1-0) 0 2 1-20其中0是未知参数，假设收集了该供应商8周的发货批次如下：3, 1, 3,0, 3, 1, 2, 3,求0的矩估计值.—^―, X > 1,例2.设某种钛金属制品的技术指标为X 其概率密度为f (X )=《X B+1其中未知参数P > 1,0, X V 上X ,X ，…,X 为来自总体X 的简单随机样本，求P 的矩估计量.12n例3.已知某种金属板的厚度X 在(a , b)上服从均匀分布，其中a , b 未知，设抽查了 口片金属板，厚 度分别为X 1,X 之,…,r 试用矩估计法估计a , b .例4.设袋中放有很多的白球和黑球，已知两种球的比例为1:9,但不知道哪种颜色的球多，现从中有放 回地抽取三次，每次一球，发现前两次为黑球，第三次为白球，试判断哪种颜色的球多。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
x
dx
2
2
0
故令
1
n
n
i2
i 1
2ˆ2
n
于是解得 的矩估计量为
ˆ
1 2n
i2
i 1
估计量的评价 标准
点估计有多种方法，同一个未知参数用不同的方法可得 到不同的估计量，那一个估计量好呢？必须有个评价标准。 评价标准有多种，用不同方法评价，得到的结论也不一样。
因此，说一个估计量的好坏，必须说明是用那一个评价标准 评价的。否则，是没有意义的。
点估计的求法: (两种) 矩估计法和极大似然估计法.
一、 矩估计法 它是基于一种简单的“替换” 思想建立起来的一种估计方法 . 是英国统计学家K.皮尔逊最早提出的 . 其基本思想是用样本矩估计总体矩 .
理论依据: 大数定律
由辛钦大数定理知，
可以用
X
1 n
n i 1
Xi去估计EX,
如.求一个战士的射击命中率?
估计量,这个估计量称为矩估计量.
例2.设 : （， 2），求， 2的矩法估计量。
解：p( ,, 2 )
1
e
(
x )2 2 2
2
E x
1
(x )2
e 2 2 dx
2
xR
E 2 x2
1
(x )2
e 2 2 dx 2 2
2
列方程组：
2
1 n
n i1
2 1
n
i
n i 1
点估计问题就是要构造一个适当的统计量
ˆ(1,2 ,L ,n ),用它的观察值ˆ(x1, x2 ,L , xn ) 来估计未知参数 .
ˆ(1,2,L ,n )称为 的估计量. 通称估计,
ˆ(x1, x2,L , xn )称为 的估计值.
简记为ˆ.
二、估计量的求法
由于估计量是样本的函数, 是随机变量, 故 对不同的样本值, 得到的参数值往往不同, 求估 计量的问题是关键问题.
x2P(x)dx
0
x2 6x 3( x) dx 6 2 20
DX=EX2 (EX)2 6 2 20 ( 2)2 2 20
所以
D(ˆ)=D(2X)=4D(X)=4
2
20n
2
5n
例5 设总体 的分布密度为
p(x; )
1
x
e
( x , 0)
2
(1,2,L n) 为总体 的样本,求参数 的矩估
1.相合性：设总体X的概率函数为f(x, ), 为未知参数，
ˆn n (X1, X2,....Xn )为的一个估计量，n为样本容量，
若对任意 0,
lim
n
P(
ˆn
) 1
成立，
则称ˆn为的相合估计量。(一致估计量)
由定义可知， 估计量 ˆn P (未知参数）
依据伯努利大数定律： 频率 i 是概率P的相合估计量，
事实上是我们已经知道X服从两点分布,
任务是估计参数p,
我们根据伯努里大数定理
显然可以用
n
n
1 n
n i 1
Xi去估计参数p.
用样本方差S2估计总体的方差DX,
例1:对某型20辆汽车纪录5L汽油所行驶的里程数, 29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9
n
由辛钦大数定律
样本均值
1 n
n
Xi
i 1
是
EX的相合估计量。
第六 章
点估计
6.1矩法估计
一、点估计问题的提法 二、矩法估计的求法 三、估计量的评价 标准
现在我们来介绍一类重要的统计推断问题
参数估计问题是利用从总体抽样得到的信息 来估计总体的某些参数或者参数的某些函数.
估计新生儿的平均体重
估计废品率 估计湖中鱼数
估计平均降雨量
… …
参数估计问题的一般提法
我们会计算出
1n
x
n
xi 28.695
i1
S2n
1 n
n
(xi x)2
i1
0.9185
来作为总体的期望、方差的点估计：
ˆ =28.695 ˆ 2 0.9815
这种方法就是替换原则：用样本矩去替换总体相应的矩 说的更本质一些，依据的原理是大数定律：
样本矩 np相应的总体矩
矩估计法的具体步骤:
计量.
解：由于 p(x; )只含有一个未知参数 ，一般
只需求出E 便能得到 的矩估计量，但是
E
xp(x; )dx
x
1
x
e dx 0
2
即 E 不含有 ,故不能由此得到 的矩估 计量.为此, 求
E( 2)
x2 p(x; )dx
x e dx 2 1
|x|
2
1
x
2
e
1 n
ab 3
n
i1
b2
i
1 n
n
i2
i1
aˆ
3( 2 2 )
解方程组得：
aˆ bˆ
3S 3S
即为a, b的矩法估计量。
若（4.5 5.0 4.7 4.0 4.2）为一组样本观测值，
算得 x 4.48 s 0.3962,则可得 a, b的矩法估计值
分别为 aˆ 4.48 0.3962 3 3.7938
i2
ˆ =
解方程组：得
ˆ 2
1 n
n i1
(i
)2
即为和 2的矩法估计量。
例3 总体在[a,b]上均匀分布，a, b为未知参数，
（1,2 K ,n）为样本，求a, b的矩法估计量？
解：由前面的知识得 E = a+b , E 2 a2 ab b2
2
3
列方程组得
a+b 2
a2
设有一个统计总体的分布函数F(x, )，
其中 为未知参数.的范围是已知(称为参数空间）
现从该总体中抽取样本
1 , 2 , ...n
要依据该样本对参数 作出估计，或估计 的某个已知函数 g( ).
这类问题称为参数估计.(一般分点估计， 区间估计)
一、点估计问题的提法
设总体的分布函数形式已知, 但它的一个或 多个参数为未知, 借助于总体的一个样本来估计 总体未知参数称为点估计问题.
bˆ 4.48 0.3962 3 5.1662
例4：设总体X的概率密度如下：求的矩法估计量ˆ ？
并求 D(ˆ) ?
6x 3(
P(x)
解： EX=
0
xP(x)dx Βιβλιοθήκη x6x-0x)
3 (
,
0
x)
x
其它
dx
2
列方程 2 X
解方程得 ˆ 2X 即为的矩法估计量。
又 EX2 = -
(1).求出E j (1,2,L ,k ) j 1, 2,L k
(2).令 j
j
1 n
n
ij ;
i 1
j
1, 2,L
,k
这是一个包含 k 个未知参数1,2,L ,k 的方程组.
(3).解出其中1,2,L ,k , 用ˆ1,ˆ2,L ,ˆk表示.
(4).用方程组的解ˆ1,ˆ2,L ,ˆk分别作为1,2,L ,k的