第二章 参数估计
参数估计知识点
参数估计知识点一、知识概述《参数估计》①基本定义：简单说，参数估计就是通过样本数据去猜总体的一些参数。
比如说，想知道全校学生的平均身高，不可能一个一个去量，那就找一部分学生（样本）量出他们的身高，然后根据这部分学生的身高数据来推测全校学生（总体）的平均身高，这个推测的过程就是参数估计。
②重要程度：在统计学里那可相当重要。
就像要了解一个大群体的情况，直接研究整体往往很难，通过参数估计从样本推测整体的情况就变得可行而且高效。
无论是搞市场调查，还是科学研究，这个工具相当好使。
③前置知识：得有点基本的数学知识，像平均数、方差这些概念要能明白，还得对抽样有点概念，知道怎么从一个大群体里抽取样本出来。
④应用价值：在各种实际场景里都有用。
比如企业想了解消费者对产品的满意度，不可能访谈每个消费者，抽样一部分做参数估计就好了。
还有估算农作物亩产量之类的，都可以用到。
二、知识体系①知识图谱：在统计学里，参数估计是推断统计的一部分，是和假设检验等方法相互联系的。
推断统计主要就是根据样本信息推断总体特征，而参数估计是其中很核心的一部分。
②关联知识：和抽样分布密切相关啊。
抽样分布是参数估计的理论基础，如果不知道抽样分布，那参数估计就像无根之木。
还和概率相关，毕竟在样本中各种数值出现是有概率的。
③重难点分析：掌握难度嘛，开始会觉得有点抽象。
关键在于理解样本和总体之间的关系，以及怎么根据不同的条件选择合适的估计方法。
④考点分析：在统计学考试里常考。
考查方式有直接给样本数据让进行参数估计，或者结合其他知识点，像给出抽样分布然后问参数估计的结果之类的。
三、详细讲解【理论概念类】①概念辨析：参数估计就是根据样本统计量去估计总体参数。
总体参数就是描述总体特征的数值，像总体均值、方差之类的。
样本统计量就是从样本里计算出来的值，比如说样本均值、样本方差等。
②特征分析：不确定性算一个特点吧。
毕竟样本不是总体，根据样本做的估计不可能完全精准。
数理统计： 参数估计方法
引例
设总体 X 服从参数为 的指数分布， 未知，
X1 , X 2 , , X n 是来自X的样本, x1 , x2 , , xn 是
相应的样本值，求 的矩估计量和矩估计值.
解 因为 E( X ) 所以 用样本矩替换总体矩, 得 的矩估计量
ˆ
1 n
n i 1
Xi
X
(
x)
1
e
x
,
x0
0,
其他.
但参数 未知。已知参数的取值范围,记为 。
给出样本的一组观察值，如何推断总体的分布?
【思路】给出 的估计，则得到对总体分布的推断。
【方法】根据一定的原则，从 中找到一个值(点) 作为的 估计。
点估计
2
点估计定义
设总体 X 的分布函数 F ( x; ) 的形式为已知,
的估计量.
4
二、估计量的评选标准 1. 无偏性
定义 若 X1, X 2 ,, X n 为总体 X 的一个样本，
是包含在总体 X 的分布中的待估参数, 若估计量ˆ ˆ( X1 , X 2 ,, X n )的数学期望 E(ˆ) 存在, 且对于任意 有
E(ˆ) 则称ˆ 是 的无偏估计量,否则称为有偏的.
(2) lim S 2 2 a.s. (强大数定律) n
即样本方差是总体方差2的强相合估计， 也是相合估计.
12
C. 样本标准差
其观察值:
S
S2
1 n1
n i 1
Xi
X
2
;
s
1 n1
n i 1
( xi
第二章 参数估计.pdf
22、设总体 X 在区间 [, +1] 上服从均匀分布，则 的矩估计 ˆ =
；
3
D(ˆ) =
。
23、设总体 X ~ N(, 2 ) ，若 和 2 均未知， n 为样本容量，总体均值 的置 信水平为1 − 的置信区间为 (X − , X + ) ，则 的值为________；
24、在实际问题中求某参数的置信区间时，总是希望置信水平愈 愈好，而置
解： E(ˆ1) = E(ˆ2), D(ˆ1) D(ˆ2) ． 12、设ˆ1 和ˆ2 均是未知参数 的无偏估计量，且 E(ˆ12 ) E(ˆ22 ) ，则其中的统计
量 更有效。
13、在参数的区间估计 (1,2 ) 中，当样本容量 n 固定时，精度2 −1 提高时，置
信度1 −
。
14、设 X1, X 2 ,, X n 是来自总体 X ~ N(,1) 的样本，则 的置信度为 0.95 的置
9、什么是最优无偏估计量？ 10、什么是一致最小方差无偏估计量？ 11、有效估计量和最优无偏估计量的关系是什么？ 12、什么叫均方误差最小估计量？ 13、叙述一致估计量的概念。 14、试述评价一个置信区间好坏的标准。 15、描述区间估计中样本容量、精度、置信度的关系。
三、单选题 1、设总体未知参数 的估计量 满足 E( ) = ,则 一定是 的( )
的关系为
。
6 、 称 统 计 量 T = T ( X1, X 2 ,, X n ) 为 可 估 函 数 g() 的 （ 弱 ） 一 致 估 计 量 是
指
。
7、判断对错：设总体 X ~ N(, 2 ) ，且 与 2 都未知，设 X1, X 2 ,..., X n 是来自
1
该总体的一个样本，设用矩法求得 的估计量为 ˆ1 、用极大似然法求得 的
应用多元统计分析 第二章正态分布的参数估计答案
练习二 多元正态分布的参数估计2.1.试叙述多元联合分布和边际分布之间的关系。
解：多元联合分布讨论多个随机变量联合到一起的概率分布状况，12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数，而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布，其概率密度函数的维数小于p 。
2.2设二维随机向量12()X X '服从二元正态分布，写出其联合分布。
解：设12()X X '的均值向量为()12μμ'=μ，协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭，则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。
2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=-- 其中1a x b ≤≤，2c x d ≤≤。
求（1）随机变量1X 和2X 的边缘密度函数、均值和方差； （2）随机变量1X 和2X 的协方差和相关系数； （3）判断1X 和2X 是否相互独立。
（1）解：随机变量1X 和2X 的边缘密度函数、均值和方差；112121222[()()()()2()()]()()()d x cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()dd c c d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰ 121222202()()2[()2()]()()()()dd c c d c x a x b a t x a t dt b a d c b a d c ------=+----⎰ 2212122222()()[()2()]1()()()()d cdc d c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布，则均值为2b a+，方差为()212b a -。
参数估计
6. 参数估计6.1. 参数估计概述统计学包括四个方面的问题，其中之一就是统计推断。
所谓统计推断就是指，如果有一个总体，其分布和统计量都不知道，如一批生产出来的产品的质量。
这样就需要对其进行推断，如一批灯泡的平均使用寿命是多少，是否为合格品等。
统计推断就是解决这些问题。
统计推断分为两个方面，一方面是参数估计，另一方面是假设检验。
6.1.1.参数估计所谓参数估计就是通过对样本的研究，来确定总体的统计量。
其中又可分为点估计和区间估计两类。
点估计就是估计出总体的某一统计量的确切值，如总体的均值、方差等。
通常可以通过样本的相应值来进行估计。
如：样本的平均值∑=i X nx 1是总体平均值的估计量； 样本的方差为∑=--=ni i x x n s 122)(11是总体方差的估计量； 点估计的优点在于它能明确地给出所估计的参数。
但是一般说来，估计的数值与实际值之间是肯定会有误差存在的。
在实际工作中常常需要对这种误差进行衡量，也就是说还需要确定这个估计值的精度，或误差范围和可信程度。
因此就产生了区间估计的问题。
区间估计是通过样本来估计总体参数可能位于的区间。
例如说一批产品的平均使用寿命为1000小时，这仅仅是一个点估计，还需要说明大多数产品（95%）的使用寿命的上限和下限值，比如说位于800~1200小时之间，这就是一个区间估计值。
因此，在进行区间估计时，除了要给出一个区间值外，还需要同时指明可以信赖的程度，即在进行区间估计时，需要确定的是αθθθ-=<<1)ˆˆ(21p ，其中α为事先给定的一个很小的正数，如0.10, 0.05, 0.01或0.001等，称之为显著水平；1-α称为参数θ的置信概率，或置信水平。
θ1和θ2为所估计的参数θ的区间范围的上下限。
其含为我们有100（1-α）%的把握相信所估计的参数θ位于θ1和θ2的区间范围内。
6.1.2.估计量的评价标准对于所给出的估计来说，有些是好的，有些则不是。
数值分析答案第二章参数估计习题
f(x)= （） { > − ex λ ) λ 0λ ( x解： λe , x ≥ 0
第二章 参数估计 1.设母体X具有负指数分布，它的分布密度 −λ x 为 λe , x ≥ 0 f(x)= 0, x < 0 其中 λ > 0 。试用矩法求的估计量。 解：x e(λ ) f(x)=
0
1
θ −1
dx =
θ θ +1
X 估计EX
X ∴θ = 1− X
1 e 5.设母体X的密度为 f ( x) = 2σ
−
x
σ
, −∞ < x < ∞
试求 σ 的最大似然估计;并问所得估计量是 否的无偏估计. ∑x x n 解： n 1 −σ 1 n − σ
i
L = ∏ f ( xi ) = ∏
i =1 i =1
ln L = n ln θ + (θ − 1)∑ ln xi
i
0, 其他 n
i =1
( θ >0 )
n i =1
d ln L n ＾= − n = + ∑ ln xi = 0,∴θ θ i dθ ∑ ln xi
i
2矩法估计
EX =
用
X 用估计EX
+∞
−∞
∫ x ⋅ f ( x)dx = ∫ x ⋅θ ⋅ x
2
给定置信概率1−α 即
P ( x − uα
2
σ/ n
，有 uα ，使
2
P{ u ≤ uα } = 1 − α
数学建模中的参数估计与优化算法研究
数学建模中的参数估计与优化算法研究第一章引言数学建模是利用数学方法解决实际问题的过程。
在数学建模中，参数估计和优化算法是两个重要的研究方向。
本文将分别介绍参数估计和优化算法在数学建模中的应用、相关的研究成果以及未来的发展趋势。
第二章参数估计2.1 参数估计的概念参数估计是根据已有的观测数据，通过建立数学模型来推断未知参数的过程。
在数学建模中，参数估计是一个基本且关键的环节。
通过参数估计，我们可以根据已有数据来推断出最合理的参数值，从而为后续的计算和分析提供基础。
2.2 参数估计方法常见的参数估计方法包括最小二乘法、极大似然估计和贝叶斯估计等。
最小二乘法是一种常用的无偏估计方法，通过最小化观测值与模型估计值之间的残差平方和来推断最佳参数值。
极大似然估计是一种通过最大化观测数据的似然函数来推断参数值的方法。
贝叶斯估计是一种基于贝叶斯定理的参数估计方法，通过先验概率和观测数据来计算后验概率，以得到参数的估计值。
2.3 参数估计的应用参数估计在数学建模中有着广泛的应用。
例如，在金融领域中，通过参数估计可以对股票价格和利率进行预测，从而帮助投资者制定决策。
在医学领域中，参数估计可以用于疾病的诊断和治疗方案的制定。
在物理学中，参数估计可以用于天体物理学的研究和粒子物理实验的设计等。
2.4 参数估计的挑战与展望参数估计面临着许多挑战，如数据质量、模型复杂性和计算效率等。
未来的研究可以重点关注如何提高参数估计的准确性和稳定性，以及如何处理大规模数据和高维数据的参数估计问题。
此外，随着机器学习和深度学习等技术的发展，参数估计也可以与这些技术相结合，提高建模的精确度和效率。
第三章优化算法3.1 优化算法的概念优化算法是一种通过最小化或最大化目标函数来寻求最优解的方法。
在数学建模中，优化算法是一个重要的工具，可以用于求解复杂的优化问题。
优化算法可以应用于多个领域，如工程优化、物流优化和网络优化等。
3.2 常用优化算法常见的优化算法包括梯度下降法、遗传算法和粒子群优化等。
第二章 参数估计
0
x 2de
x
2xe
x
dx
2
xde
x
0
x
0
0
2 e dx 2 2
0
9
例4：设X1， … ， Xn为取自 N ( , 2 ) 总体的
样本，求参数 , 2 的矩估计。
: E( X ) D( X ) 2 E( X 2 ) [E( X )]2
极大似然法是由德国数学家G.F.Gauss在1821年提 出的.然而这个方法通常归于英国统计学家 R.A.Fisher,因为他在1912年里发现了这一方法,并 且首先研究了这种方法的性质.
设总体的密度函数为f(x,θ), θ为待估参数,θ∈Θ,Θ
为参数空间.当给定样本观察值 x (x1, x2 , xn )后,f(x,
以随便给的,所以根据统计思想建立各种点估计方法
和评价点估计的好坏标准便是估计问题的研究中心.
这里先介绍三个常用的标准:无偏性、有效性和一致
性.
1
有效性
^
^
设 i i ( X1,, X n ), i 1, 2分别是参数 的两个无偏估计,
^
^
^
^
若D 1 D 2 至少有一个n使 成立 , 则称 1比 2 有效.
总体k阶矩 样本k阶矩
k E(Xk )
Ak
1 n
n i 1
X
k i
的矩估计量是
约定：若
是未知参数的矩估计，则u()的矩
估计为u(
),
6
例2、：设X1， … ， Xn为取自参数为的指数分布 总体的样本，求的矩估计。
参数估计2
n
e n
i
x !
i 1 n i 1
ii ) ln L( x1 , x 2 ,..., x n ; ) xi ln n ln xi !
i 1
xi ln L( x1 , x2 ,...,xn ; ) i 1 n 0 iii)令 : 1 n iv)解之得 : xi x为 的极大似然估计值 , n i 1 1 n X i X 为 的极大似然估计量 . n i 1
(1)正态分布N (u, 2 ) (2)指数分布Z ( ) (3)均匀分布U (a, b) (4)二项分布B(n, p) (3)泊松分布 ( ) 试求其中未知参数的矩 估计. 解 : (1)
因为X ~ N ( , 2 ), E ( X ) , D( X ) 2 故有 X ,
注2
若 为 的矩估计量, g ( )为 的连续函数, 亦称g ( )为g ( )
2 2 例如S n 为总体方差D( X )的矩估计量, 则S n S n 为标准差 D( X )
的矩估计量. 的矩估计量.
例1.1
设X 1 , X 2 ,..., X n为来自正态总体 X 的样本, X的分布为
i 1 n n
( X为连续型)
(1.4) (1.5)
或
L( x1 , x2 ,..., xn ) PX i xi ;
i 1
( X为离散型)
达到最大值
L( x1 , x2 ,..., xn ; ) max L( x1 , x2 ,..., xn ; )
(1) 利用求导法求极大然估 计步骤 i )建立似然函数: L( x1 , x 2 ,..., x n ; 1 , 2 ,..., r ) f ( xi ; 1 , 2 ,..., r )
第二章 参数估计2-3 区间估计
I=0.814
上页 下页 返回
钢厂铁水含碳量X 例3. 钢厂铁水含碳量 ~ N(µ,0.1082), 现在随机测定 该厂9炉铁水得 炉铁水得X=4.484,求在置信度为 求在置信度为0.95 的条件 该厂 炉铁水得 求在置信度为 下铁水平均含碳量的置信区间。 下铁水平均含碳量的置信区间。 解
置信区间为
上页
下页
返回
联合方差
上页
下页
返回
1、 µ1 - µ2的1-α置信区间 、 α (1)、 σ12 、σ22已知 、
由于 X −Y ~ N(µ1 − µ2 ,
选取
2 2 σ1 σ2
n1
+
n2
)
因此置信度为1-α 因此置信度为 α的µ1 - µ2置信区间可为
上页
下页
返回
(2)、σ12 、σ22未知，且n1,n2较大 如大于 、 未知， 较大(如大于 如大于50)
=27.5， ，
=6.26， ，
上页
下页
返回
测量一批铅锭的比重，设铅锭的比重X 例6. 测量一批铅锭的比重，设铅锭的比重 ~ N(µ, 现进行16次检测得铅锭的比重有 σ2),现进行 次检测得铅锭的比重有 现进行 次检测得铅锭的比重有X=2.705， ， S2=0.0292，试求总体 的均值µ和方差 σ2置信度为 求总体X的均值 0.95 的置信区间。 的置信区间。 解 (1)求µ的置信区间 σ2未知 n=16,α=0.05. 求 的置信区间, 未知, α 选取 查表得 置信区间为
(二)、总体X数学期望 (二)、总体X数学期望µ未知 数学期望µ 样本X 的无偏估计. 样本 1,X2, • • • , Xn, 且S2是σ2的无偏估计
选取样本函数
应用数理统计第二章参数估计(3)区间估计
例1 有一大批月饼，现从中随机地取16袋，称得重量（以克 计）如下：506 508 499 503 504 510 497 512 514 505 493 496 506 502 509 496 ，设袋装月饼的重量近似地服从正态 分布，试求总体均值的置信度为0.95的置信区间。 解： 2未知, 1-=0.95, /2=0.025,n-1=15, t0.975 (15) 2.1315 由已知的数据算得 x 503.75, S* 6.2022
n1 (n2 1) S12 12 n1 (n2 1) S12 P F (n 1, n1 1) 2 F (n 1, n1 1) 1 2 /2 2 2 1 / 2 2 2 n2 (n1 1) S2 n2 (n1 1) S2
10
得所求的标准差的置信区间为 (4.58, 9.60)
2.4.3 两个正态总体参数的区间估计
在实际中常遇到下面的问题：已知产品的某一质量指标 服从正态分布，但由于原料、设备条件、操作人员不同，或 工艺过程的改变等因素，引起总体均值、总体方差有所改变, 我们需要知道这些变化有多大，这就需要考虑两个正态总体 均值差或方差比的估计问题。
ˆ a ˆ b} {g(a) T ( X , X ,..., X ; ) g(b)} { 1 2 n
其中g ( x )为可逆的已知函数， T ( X 1 , X 2 ,..., X n ; 况
设总体X~N(,2),X1, X2, …,Xn是总体X的样本，求,2 /2 /2 的置信水平为(1)的置信区间.
求得 的置信水平为(1)的置信区间: ( 2未知)
S S* t1 2 (n 1) or X t1 2 (n 1) X n1 n
第二章1-矩估计和极大似然估计
0
解法二
E
X
x
1
x
e dx
1
x
x e dx (2)
2
0
即 E|X|
1 n
用 n i1 X i
替换
EX
即得的另一矩估计量为
ˆ 1
n
n i 1
Xi
16
• 矩估计的优点 – 不依赖总体的分布，简便易行 – 只要n充分大，精确度也很高。
• 矩估计的缺点 – 矩估计的精度较差； – 要求总体的某个k阶矩存在； – 要求未知参数能写为总体的原点矩的函数形 式
得和2的估计值分别为13(mm)和 0.133(mm)2
12
例2 设总体X的概率密度为
f
( x;
)
x 1 ,
0,
0 x 1 其它
X1,X2,,Xn为来自于总体X的样本,x1,x2, ,xn 为样本值,求参数的矩估计。
解： 先求总体矩
1
1
E( X ) x x 1dx x dx
x 1 1
ˆ2 (x1, x2 ,, xn )
数值
ˆk (x1, x2 ,, xn )
称数ˆ1,ˆ2 ,,ˆk 为未知参数1,2 ,,k 的估计值 对应的统计量为未知参数1,2 ,,k 的估计量
问题 如何构造统计量？
6
二.点估计的方法
1、矩方法；（矩估计） 2、极大似然函数法（极大似然估计）.
1. 矩方法
• 极大似然估计的缺点 要求必须知道总体的 分布函数形式
29
多参数情形的极大似然估计
若总体X的概率密度为：f (x;1,2 , ,k )
其中
1
,
2
,,
应用数理统计(武汉理工大)2-参数估计
1
D(S 2 )nI (
2)
n 1 n
1,
n
故S 2是渐进有效的。
第二章 参数估计
例： 设总体X （）, X1, X 2 , , X n是X的一个样本， 讨论的无偏估计X的有效性。
解：lnp( X
,)
ln
X e
X!
X
ln
ln( X
!)
区间估计的关键: 用合适的方法确定两个统计量
1(X1, X2 , , Xn)， 2(X1, X2 , , Xn)
第二章 参数估计
1.区间估计的定义及计算步骤
3) 区间估计的例子
例1 设总体X~N(μ , σ2), σ2已知，μ未知，设X1,…,Xn是X的样本， 求μ的置信度为1-α的置信区间。
)
2
n
,
D(ˆ2 )
D(nZ )
n2D(Z )
n2
n
2
2
当n 1时，显然D(ˆ1) D(ˆ2 ),故ˆ1比ˆ2有效。
第二章 参数估计
最小方差无偏估计问题 设 若 及T对 任(g意X(1, ， X)的2都,任有一 , XD无n()T是 偏) g估(D计()T的量')一， T '个 ( X无1, X偏2估 , 计, X量n )， 则 无称 偏T估(计X1，, X或2 ,者,称X为n )是最g优(无)的偏一估致计最。小方差
其它类型的估计,如 贝叶斯估计…
第二章 参数估计
2.1参数的点估计
1. 矩估计 2. 极大似然估计 3. 点估计量的评价
第二章 参数估计
ˆ = q ( X , K , X ) , q k k 1 n
k = 1, 2, L , m
(2.2)
ˆ 为 q 的矩估计， g ( x 若 q ) 为连续函数，则也称 g (qˆ k k k ) 为 g (q k ) 的矩估计.
【例 2.1】 设总体 X 服从参数为 l 的泊松分布，X 1 , K , X n 为来自总体的样本， 求l 的 矩估计. 解： a1 = EX = l
i =1
定义 2.1：设总体 X 的概率函数为 f ( x;q ) ， x1 ,L , x n 是来自总体的样本，则称
n
L(q ) = Õ f ( xi ;q )
i =1
(2.4)
为总体 X 对应样本 x1 ,L , x n 的似然函数.
L(q ) 越大，越有利于样本 x1 ,K , x n 被观察到.
-l ì l x e ï f ( x 0,1, 2, L 其它
或简写为
f ( x) =
-l l x e
x !
x = 0,1, 2, L
§2.1 点估计
我们经常会遇到这样的问题： 总体 X 的分布函数 F ( x,q ) 的形式已知， 但其中的参数q 未知， 希望利用 X 的样本 x1 ,K , x 这类问题称为参数的点估计 （point n 对 q 的值进行估计， estimation）问题. 比如，已知某种电子元件的寿命 X ~ N ( m , s ) ，即 X 的分布密度
P( X = xi ) = p( xi ,q ), i = 1, 2,L ,
其中q 为未知参数，q Î Q . 设 X 1 , K , X n 是来自总体 X 的一组样本， 观察值为 x1 ,K , x n .我们把观察到的样本看成 结果，而需要判断的是未知参数q 的取值，根据最大似然原理，应该选取一个最有利于结 果的发生的q 值作为 qˆ .
应用数理统计吴翊李永乐第二章-参数估计课后习题参考答案
《应用数理统计》吴翊李永乐第二章-参数估计课后习题参考答案(总19页)--本页仅作为文档封面，使用时请直接删除即可----内页可以根据需求调整合适字体及大小--第二章 参数估计课后习题参考答案设总体X 服从二项分布()n X X X p p N B ,,,,11,,21 <<为其子样，求N 及p 的矩法估计。
解：()()()p Np X D Np X E -==1,令()⎪⎩⎪⎨⎧-==p Np S Np X 12 解上述关于N 、p 的方程得：对容量为n 的子样，对密度函数22(),0(;)0,0x x f x x x ααααα⎧-⎪=⎨⎪≤≥⎩其中参数α的矩法估计。
解：122()()a E x xx dx ααα==-⎰2222()x x dx ααα=-⎰2321221333ααααααα=-=-= 所以 133a x α∧== 其中121,21(),,,n n x x x x x x x n=+++为n 个样本的观察值。
使用一测量仪器对同一值进行了12次独立测量，其结果为(单位：mm) ，，，，，⎪⎪⎩⎪⎪⎨⎧-=-==X S p S X X p X N 2221ˆˆˆ，，，，，试用矩法估计测量的真值和方差(设仪器无系统差)。
解：()()()∑∑====-====ni ini i S XX nX D X X n X E 12210255.014025.2321设子样，，，，，是来自具有密度函数()10,1,<<=βββx f 的总体，试用矩法估计总体均值、总体方差及参数β。
解：()()()()4.22ˆ2,1,407.012.1101221========-===⎰⎰∑∑==X Xdx xdx x xf X E x f XX n S X n X ni i ni i ββββββββ参数：总体方差：总体均值：设n X X X ,,,21 为()1N ，μ的一个字样，求参数μ的MLE ；又若总体为()21N σ，的MLE 。
关于参数估计
关于参数估计虽然⾮计算机专业，但因为⼀些原因打算学习西⽠书，可由于长时间没有碰过概率统计的知识，有所遗忘。
所以特意重新复习了⼀遍类似的知识，写在这⾥权当总结。
主要参考《概率论与数理统计》(陈希孺)。
参数估计就是根据样本推断总体的均值或者⽅差、或者总体分布的其他参数。
可以分两种，⼀种是点估计(估计⼀个参数的值)，另⼀种是区间估计(估计⼀个参数的区间)。
参数估计的⽅法有多种，各种估计⽅法得出的结果不⼀定相同，很难简单的说⼀个必定优于另⼀个。
点估计点估计主要有三种⽅法：矩估计、最⼤似然估计、贝叶斯估计。
矩估计定义k阶样本原点矩为 $$a_k=\frac{1}{n}\sum n_{i=1}X_i k$$若k=1则原点矩显然就是样本均值\bar{X}；再定义k阶样本中⼼矩为m_k=\frac{1}{n}\sum^n_{i=1}(X_i-\bar{X})^k.另⼀⽅⾯，总体分布设为f(x;\theta_1,\theta_2,...,\theta_k)则有m阶原点矩\alpha_m=\int x^mf(x;\theta_1,\theta_2,...,\theta_k){\rm d}x.矩估计的思想就是：令样本k阶矩等于总体k阶矩，得到⼀组⽅程，由此反解出\{\theta_i\}.⼀般原则是要求解n个参数，就选n个最低阶的矩，令它们相等并反解。
例题：设X_1,...,X_n为区间[\theta_1,\theta_2]上均匀分布总体中抽出的n个样本，估计出\theta_1,\theta_2.计算出样本中⼼矩m_1=\sum_iX_i/n和m_2=\sum_iX_i^2/n.再计算出总体中⼼矩分别为\frac{\theta_1+\theta_2}{2}和\frac{(\theta_1+\theta_2)^2}{12}，令它们对应相等，解出来两个\theta即可。
极⼤似然估计符号同前，样本(X_1,...,X_n)的联合概率密度(PDF)为f(x_1;\theta_1,...,\theta_k)f(x_2;\theta_1,...,\theta_k)...f(x_n;\theta_1,...,\theta_k).现在反过来，固定样本\{X_i\}⽽把上⾯PDF看作关于\{\theta_i\}的“密度函数”，加引号是因为实际上\{\theta_i\}是固定参数⽽⾮随机变量，这⾥可以叫做似然函数(likehood, ⽽⾮probability)。
第二章参数估计
第二章 参数估计【学习目标】1、掌握矩估计的替代原则；会求已知分布中未知参数的矩估计（值）2、熟练掌握极大似然估计的思想及求法3、估计量的评价标准：无偏性、有效性、相合性的定义4、统计量的无偏性的判断；两个无偏估计的有效性判断；会用Fisher 信息量及c-R 下界进行统计量的UMVUE 充分性判断5、掌握区间估计的定义6、单个正态总体均值的区间估计（包括方差已知、方差未知）；单个正态总体方差的区间估计（包括均值已知、均值未知）7、两个正态总体均值差的区间估计（方差未知）；两个正态总体方差比的区间估计 8、单侧置信区间的求法 【典型例题讲解】例1、设1,,n X X 是来自均匀分布(,1)U θθ+的总体的容量为n 的样本，其中θ-∞<<+∞为未知参数，试证：θ的极大似然估计量不止一个，例如1(1)ˆXθ=，2()ˆ1n X θ=-，3(1)()11ˆ()22n XXθ=+-都是θ的极大似然估计。
解：(,1)U θθ+分布的密度函数为11()0x f x θθ≤≤+⎧=⎨⎩其他似然函数(1)()11()0n x x L θθθ≤≤≤+⎧=⎨⎩其他由于在(1)()1n x x θθ≤≤≤+上()L θ为常数，所以凡是满足：(1)()ˆˆ1n x x θθ≤≤≤+的ˆθ均为θ的极大似然估计。
从而（1）1(1)ˆX θ=满足此条件，故1(1)ˆX θ=是θ的极大似然估计；（2）由于()(1)1n X X -≤，故2()(1)()2ˆˆ11n n X X X θθ=-≤≤=+，所以2()ˆ1n Xθ=-为θ的极大似然估计；（3）由于()(1)1n X X -≤，故(1)()(1)12n X X X +-≤，(1)()()12n n X X X ++≥，从而有3(1)()(1)()(1)()31111ˆˆ()()12222n n n XXXXXXθθ=+-≤≤≤++=+，故3ˆθ也为θ的极大似然估计。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第二章 参数估计一、填空题1、总体X 的分布函数为);(θx F ，其中θ为未知参数，则对θ常用的点估计方法有 ， 。
2、设总体X 的概率密度为(),(;)0,x e x f x x θθθθ--⎧≥=⎨<⎩而12,,,n X X X 是来自总体X 的简单随机样本，则未知参数θ的矩估计量为_______3、设321,,X X X 是来自总体X 的简单随机样本，且μ=)(X E ，记3211313131X X X ++=μ，3212214141X X X ++=μ 2132121X X +=μ， 3214414141X X X ++=μ则哪个是μ的有偏估计 ，哪个是μ的较有效估计 。
4、随机变量X 的分布函数);(θx F 中未知参数θ的有效估计量和极大似然估计量的关系为 。
5、随机变量X 的分布函数);(θx F 中未知参数θ的有效估计量和最优无偏估计量的关系为 。
6、称统计量),,,(21n X X X T T =为可估函数)(θg 的（弱）一致估计量是指 。
7、判断对错：设总体),(~2σμN X ，且μ与2σ都未知，设n X X X ,...,,21是来自该总体的一个样本，设用矩法求得μ的估计量为1ˆμ、用极大似然法求得μ的估计量为2ˆμ，则1ˆμ=2ˆμ。
_________________8、ˆn θ是总体未知参数θ的相合估计量的一个充分条件是_______ .解：ˆˆlim (), lim Var()0n nn n E θθθ→∞→∞==． 9、已知1021,,x x x 是来自总体X 的简单随机样本，μ=EX 。
令∑∑==+=1076181ˆi i i i x A x μ，则当=A 时，μˆ为总体均值μ的无偏估计。
10、 设总体()θ,0~U X ，现从该总体中抽取容量为10的样本，样本值为0.51.30.61.7 2.21.20.81.5 2.01.6， ， ， ， ， ， ， ， ， 则参数θ的矩估计为 。
11、 设1ˆθ与2ˆθ都是总体未知参数θ的估计，且1ˆθ比2ˆθ有效，则1ˆθ与2ˆθ的期望与方差满足_______ .解：1212ˆˆˆˆ()(), ()()E E D D θθθθ=<． 12、设1ˆθ和2ˆθ均是未知参数θ的无偏估计量，且)ˆ()ˆ(2221θθE E >，则其中的统计量 更有效。
13、在参数的区间估计),(21θθ中，当样本容量n 固定时，精度12θθ-提高时，置信度α-1 。
14、设n X X X ,,,21 是来自总体)1,(~μN X 的样本，则μ的置信度为0.95的置信区间为。
15、设n X X X ,,,21 是来自总体),(~2σμN X 的样本，其中2σ未知，则μ的置信度为0.95的置信区间为 。
16、设n X X X ,,,21 是来自总体),(~2σμN X 的样本，其中μ未知，则2σ的置信度为0.95的置信区间为 。
17、设X 服从参数为λ的指数分布，)2(,,,,21>n X X X n 是来自总体X 的样本，X 为其样本均值，则X n λ2服从 分布。
18、设总体服从正态分布)1,(μN ，且μ未知，设n X X X ,...,,21为来自该总体的一个样本，记∑==ni i X n X 11，则μ的置信水平为1α-的置信区间公式是___________________________________；若已知95.01=-α，则要使上面这个置信区间长度小于等于0.2，则样本容量n 至少要取多大_______。
18、为估计大学生近视眼所占的百分比，用重复抽样方式抽取200名同学进行调查，结果发现有68个同学是近视眼。
则大学生近视眼所占的百分比的95%的置信区间为 。
19、设总体X 未知参数为λ，X 为样本均值, X N(0,1)，则λ的一个双侧近似1-α置信区间为 。
20、设总体12~(,1),,,...,n X U X X X θθ+为样本，则θ的矩估计量为，极大似然估计量为 。
21、设总体212~(,),,,...,n X N X X X μσ为样本，μ、2σ 未知，则2σ的置信度为1－α的置信区间为 。
22、设总体X 在区间]1,[+θθ上服从均匀分布，则θ的矩估计=θˆ ；=)ˆ(θD 。
23、设总体),(~2σμN X ，若μ和2σ均未知，n 为样本容量，总体均值μ的置信水平为α-1的置信区间为),(λλ+-X X ，则λ的值为________；24、在实际问题中求某参数的置信区间时，总是希望置信水平愈 愈好，而置信区间的长度愈 愈好。
但当增大置信水平时，则相应的置信区间长度总是 。
二、简述题1、描述矩估计法的原理。
2、描述极大似然估计法的原理。
3、极大似然估计法的一般步骤是什么？4、评价估计量好坏的标准有哪几个？5、什么是无偏估计？6、什么是较有效？7、什么叫有效估计量？8、判断可估函数)(θg 是有效估计量的充要条件是什么？9、什么是最优无偏估计量？10、什么是一致最小方差无偏估计量？11、有效估计量和最优无偏估计量的关系是什么？ 12、什么叫均方误差最小估计量？ 13、叙述一致估计量的概念。
14、试述评价一个置信区间好坏的标准。
15、描述区间估计中样本容量、精度、置信度的关系。
三、单选题1、设总体未知参数θ的估计量θ满足()E θθ=,则θ一定是θ的( ) A 极大似然估计 B 矩估计 C 无偏估计 D 有效估计2、设总体未知参数θ的估计量θ满足()E θθ≠,则θ一定是θ的( )A 极大似然估计B 矩估计C 有偏估计D 有效估计3、设n X X X ,,,21 为来自均值为μ的总体的简单随机样本，则),,2,1(n i X i =（ ）A ．是μ的有效估计量B ．是μ的一致估计量C ．是μ的无偏估计量D ．不是μ的估计量4、估计量的有效性是指( ) A.估计量的抽样方差比较小 B.估计量的抽样方差比较大 C.估计量的置信区间比较宽D.估计量的置信区间比较窄5、若置信水平保持不变，当增大样本容量时，置信区间（ ） A ．将变宽 B ．将变窄 C ．保持不变 D ．宽窄无法确定6、一个95%的置信区间是指（ ） A ．总体参数有95%的概率落在这一区间内 B ．总体参数有5%的概率未落在这一区间内C ．在用同样方法构造的总体参数的多个区间中，有95%的区间包含该总体参数D ．在用同样方法构造的总体参数的多个区间中，有95%的区间不包含该总体参数7、置信度α-1表示区间估计的（ ） A ．精确性 B ．显著性 C ．可靠性 D ．准确性8、抽取一个容量为100的随机样本，其均值为x =81，标准差s =12。
总体均值μ的99%的置信区间为（ ）其中：58.2995.0=U 。
A 81±1.97 B 81±2.35 C 81±3.09 D 81±3.52四、计算题 1、设1,,n X X 是来自总体X 的样本X 的密度函数为,0(),00,0x e x f x x λλλ-⎧>=>⎨≤⎩ 试求λ的极大似然估计量。
2、设总体X 服从参数为λ的泊松分布，求未知参数λ的矩估计量。
3、 设总体X 服从参数为λ的泊松分布，求未知参数λ的有效估计量。
4、设总体X 的概率密度为.,,0,)()(其它θθ≥⎩⎨⎧=--x e x f xθ是未知参数,n X X X ,,,21 是来自X 的样本，求θ的矩估计量1θ∧5、设n X X X ,...,,21是取自总体X 的一个样本，X 的密度函数为⎪⎩⎪⎨⎧<<=elsex xx f ,00,2)(2θθ其中 未知， ＞0。
试求 的矩估计和极大似然估计。
6、设n X X X ,...,,21 是取自总体X 的一个样本，X 的密度函数为⎪⎩⎪⎨⎧<<-=else x x xx f ,00),(6)(3θθθ 其中θ 未知，0>θ 试求θ的矩估计θˆ。
7、设总体X 的概率密度为.,,0,)()(其它θθ≥⎩⎨⎧=--x e x f xθ是未知参数,n X X X ,,,21 是来自X 的样本，（1）求θ的矩估计量1θ∧；（2）求θ的最大似然估计量2θ∧；（3）1θ∧和2θ∧是不是θ的无偏估计量（说明原因）？8、设总体),(~2σμN X ，且μ与2σ都未知，设n X X X ,,,21 为来自总体的一个样本，设∑==n i i X n X 11，∑=-=n i i X X n S 122)(1。
求μ与2σ的极大似然估计量9、设总体X 的概率分布为其中)30(<<θθ是未知参数,利用总体X 的如下样本值0，1，1，0，2，0，2，1，1，2（1）求θ的矩估计值；（2）求θ的最大似然估计值。
10、设随机变量X 的分布函数为⎪⎩⎪⎨⎧≤>⎪⎭⎫ ⎝⎛-=，，，αx αx x αβαx F β0,1),,( 其中参数1,0>>βα. 设n X X X ,,,21 为来自总体X 的简单随机样本,(1) 当1=α时, 求未知参数β的矩估计量; (2) 当1=α时, 求未知参数β的最大似然估计量; (3) 当2=β时, 求未知参数α的最大似然估计量.11、 设)2(,,,21>n X X X n 为来自总体N (0,2σ)的简单随机样本，X 为样本均值，记.,,2,1,n i X X Y i i =-=求：（1） i Y 的方差(),1,2,,i D Y i n =；（2）1Y 与n Y 的协方差).,(1n Y Y Cov（3）若21)(n Y Y c +是2σ的无偏估计量，求常数c.12、设总体X 的概率密度为(),01,;1,12,0,x f x x θθθ<<⎧⎪=-≤<⎨⎪⎩其他,其中θ是未知参数()01θ<<，12n ,...,X X X 为来自总体X 的简单随机样本，记N 为样本值12,...,n x x x 中小于1的个数.（1） 求θ的矩估计；（2）求θ的最大似然估计13、设总体X 的概率密度为1,021(),12(1)0,x f x x θθθθ⎧<<⎪⎪⎪=≤<⎨-⎪⎪⎪⎩其他n X X X ,,,21 为来自总体X 的简单随机样本，X 是样本均值.（1）求参数θ的矩估计量θ；（2）判断24X 是否为2θ的无偏估计量，并说明理由.解：（1）101()(,)22(1)42x x E X xf x dx dx dx θθθθθθ+∞-∞==+=+-⎰⎰⎰，令()X E X =，代入上式得到θ的矩估计量为1ˆ22X θ=-．（2）222211141 (4)44[()]4()424E X EX DX EX DX DX n n θθθ⎡⎤==+=++=+++⎢⎥⎣⎦，因为()00D X θ≥>，，所以22 (4)E X θ>．故24X 不是2θ的无偏估计量．14、设总体X 服从)0](,0[>θθ上的均匀分布，n X X X ,...,,21是来自总体X 的一个样本，试求参数θ的极大似然估计． 解：X 的密度函数为1,0;(,)0,x f x θθθ≤≤⎧=⎨⎩其他,似然函数为1,0,1,2,,,()0,n i x i n L θθθ<<=⎧⎪=⎨⎪⎩其它显然0θ>时，()L θ是单调减函数，而{}12max ,,,n x x x θ≥，所以{}12ˆmax ,,,n X X X θ=是θ的极大似然估计．15、 设总体X 的概率密度为⎪⎩⎪⎨⎧<<+=其它,0,10,)1()(x x x f θθ 1->θ.n X X X ,...,,21是来自X 的样本，则未知参数θ的极大似然估计量为_________.解:似然函数为111(,,;)(1)(1)(,,)nn n i n i L x x x x x θθθθθ==+=+∏1ln ln(1)ln nii L n x θθ==++∑1ln ln 01nii d L nx d θθ==++∑解似然方程得θ的极大似然估计为1111ln ni i x n θ==-∑.16、设总体的概率密度为101,,(;).0,x x f x θθθ-<<⎧=⎨⎩其它 (0)θ>试用来自总体的样本n X X X ,...,,21，求未知参数θ的矩估计和极大似然估计. 解：先求矩估计1101EX x dx θθμθθ===+⎰111μθμ∴=- 故θ的矩估计为1XX θ=-再求极大似然估计11111(,,;)()nn n i n i L x x x x x θθθθθ--===∏1ln ln (1)ln nii L n x θθ==+-∑1ln ln 0ni i d L n x d θθ==+∑所以θ的极大似然估计为111ln ni i x n θ==-∑.17、已知分子运动的速度X 具有概率密度22(),0,0,()0,0.x x f x x αα-⎧>>=≤⎩n X X X ,...,,21为X 的简单随机样本（1）求未知参数α的矩估计和极大似然估计； （2）验证所求得的矩估计是否为α的无偏估计。