数理统计参数估计
概率论与数理统计教案参数估计
概率论与数理统计教案-参数估计教案章节一:参数估计概述教学目标:1. 理解参数估计的定义及意义;2. 掌握参数估计的两种方法:最大似然估计和最小二乘估计;3. 了解参数估计的假设条件。
教学内容:1. 参数估计的定义及意义;2. 最大似然估计和最小二乘估计的方法及步骤;3. 参数估计的假设条件。
教学方法:1. 讲授法:讲解参数估计的定义、意义、方法及步骤;2. 案例分析法:分析实际案例,让学生更好地理解参数估计的方法及应用。
教学难点:1. 最大似然估计和最小二乘估计的方法及步骤;2. 参数估计的假设条件。
教学准备:1. 教学PPT;2. 相关案例资料。
教学过程:1. 引入参数估计的概念,讲解其意义;2. 讲解最大似然估计和最小二乘估计的方法及步骤;3. 分析实际案例,展示参数估计的应用;4. 讲解参数估计的假设条件;5. 课堂互动,回答学生问题。
作业布置:1. 复习parameter estimation 的定义及意义;2. 学习maximum likelihood estimation 和least squares estimation 的相关知识;3. 思考如何应用parameter estimation 解决实际问题。
教案章节二:最大似然估计教学目标:1. 理解最大似然估计的定义及意义;2. 掌握最大似然估计的计算方法;3. 了解最大似然估计的应用场景。
教学内容:1. 最大似然估计的定义及意义;2. 最大似然估计的计算方法;3. 最大似然估计的应用场景。
教学方法:1. 讲授法:讲解最大似然估计的定义、意义、计算方法;2. 案例分析法:分析实际案例,展示最大似然估计的应用。
教学难点:1. 最大似然估计的计算方法;2. 最大似然估计的应用场景。
教学准备:1. 教学PPT;2. 相关案例资料。
教学过程:1. 引入最大似然估计的概念,讲解其意义;2. 讲解最大似然估计的计算方法;3. 分析实际案例,展示最大似然估计的应用;4. 课堂互动,回答学生问题。
概率论与数理统计第7章参数估计PPT课件
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时,可用样本值的j阶原点矩Aj估计vj,其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;),则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇(Fisher) . 费歇在1922年重新发现了
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路:根据样本的具体情况
注:估计量为样本的函数,样本不同,估计量不 同。
常用估计量构造法:矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系,解出参数, 并用样本矩替代总体矩而得到的参数估计方法。 (由大数定理可知样本矩依概率收敛于总体矩, 且许多分布所含参数都是矩的函数)
下面我们考虑总体为连续型随机变量的情况:
n
它是的函数,记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数,记为L( )。
注:似然函数的概念并不仅限于连续随机变量 ,
对于离散型随机变量,用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知,且只含一个未知参数,
数理统计: 参数估计方法
引例
设总体 X 服从参数为 的指数分布, 未知,
X1 , X 2 , , X n 是来自X的样本, x1 , x2 , , xn 是
相应的样本值,求 的矩估计量和矩估计值.
解 因为 E( X ) 所以 用样本矩替换总体矩, 得 的矩估计量
ˆ
1 n
n i 1
Xi
X
(
x)
1
e
x
,
x0
0,
其他.
但参数 未知。已知参数的取值范围,记为 。
给出样本的一组观察值,如何推断总体的分布?
【思路】给出 的估计,则得到对总体分布的推断。
【方法】根据一定的原则,从 中找到一个值(点) 作为的 估计。
点估计
2
点估计定义
设总体 X 的分布函数 F ( x; ) 的形式为已知,
的估计量.
4
二、估计量的评选标准 1. 无偏性
定义 若 X1, X 2 ,, X n 为总体 X 的一个样本,
是包含在总体 X 的分布中的待估参数, 若估计量ˆ ˆ( X1 , X 2 ,, X n )的数学期望 E(ˆ) 存在, 且对于任意 有
E(ˆ) 则称ˆ 是 的无偏估计量,否则称为有偏的.
(2) lim S 2 2 a.s. (强大数定律) n
即样本方差是总体方差2的强相合估计, 也是相合估计.
12
C. 样本标准差
其观察值:
S
S2
1 n1
n i 1
Xi
X
2
;
s
1 n1
n i 1
( xi
数理统计中的参数估计与置信区间估计
数理统计中的参数估计与置信区间估计数理统计是概率论、数学统计和实证研究的基础,它研究的是通过观测和实验来获取数据,从而对总体的特征进行推断和估计的方法和理论。
在数理统计中,参数估计和置信区间估计是两个重要的概念和方法,用于对总体参数进行推断和估计。
一、参数估计参数估计是指通过样本数据对总体参数进行估计的方法。
总体参数是指总体的某个特征或指标,如均值、方差等。
参数估计可以分为点估计和区间估计两种方法。
1. 点估计点估计是指使用样本数据来估计总体参数的一个具体值,这个估计值被称为点估计量。
常用的点估计量有样本均值、样本方差等。
点估计的目标是使得估计值尽量接近真实的总体参数,即具有无偏性和有效性。
无偏性是指估计值的期望等于真实参数,有效性是指估计值的方差最小。
无偏性是一个重要的性质,它保证了估计值在大样本下趋近于真实值。
有效性则是在无偏估计的前提下,使估计值的方差最小,从而提高估计的准确性。
2. 区间估计区间估计是指通过样本数据得到总体参数的一个范围,这个范围被称为置信区间。
置信区间表示了总体参数的估计精度和可信程度。
在构造置信区间时,需要指定置信水平,常用的置信水平有95%和99%等。
置信水平为95%表示在大量重复抽样中,有95%的置信区间会包含真实的总体参数。
构造置信区间的方法有很多,如正态分布的置信区间、t分布的置信区间等。
不同的方法适用于不同的总体分布和样本信息。
在实际应用中,要根据具体的问题和数据的特点选择合适的置信区间方法。
二、数理统计中的应用参数估计和置信区间估计在数理统计中有广泛的应用,可以用于推断和估计各种领域的问题。
1. 总体均值的估计当我们要估计总体的均值时,可以使用点估计和区间估计的方法。
点估计是通过样本均值来估计总体均值,区间估计则是给出总体均值的一个范围。
2. 总体比例的估计当我们要估计总体的比例时,例如某种特征在总体中出现的比例,也可以使用点估计和区间估计的方法。
点估计是通过样本比例来估计总体比例,区间估计则是给出总体比例的一个范围。
概率论和数理统计(第三学期)第8章参数估计
由契比雪夫不等式,有
P( S 2 ES2
n
n
)
DS
2
n
=
2 4
2 n 1 2
即 lim P( S 2 ES2 ) 0
n
n
n
(n 1)S 2
E
2
n n 1
ES2 2 n
故 lim P( S 2 2 ) 0
n
n
§8.3 参数的区间估计
定义
设是总体的未知参数,若 (1 1
6
S~2 1 1.20 0.162 0.85 0.162 0.30 0.162 6 0.45 0.162 0.82 0.162 0.12 0.162 1 1.042 0.692 0.142 0.612 0.982 0.282 6 1 2.99 6 0.498 2
n
p xi
1
p
1 xi
xi p i1
1
p
n
n xi
i1
i 1
n
令y xi,得: i 1 ln Lxi , p y ln p n yln1 p
由对数似然方程
d ln L y n y 0 dp p 1 p
解得
p
y n
1 n
n i 1
xi
x
因为这是惟一的解,所 以p的极大似然估计值为
二、顺序统计量法
定义
1
, 2
,
,
为总体
n
的一个样本,将它
们按大小次序排列,取 居中的一个数 (若n为偶
数时,则取居中两数的 平均值)记为~,称~为
样本中位数。
即
~
k
1
,
1 2
k
概率论与数理统计-参数估计
第七章 参数估计
例:
引言
设总体 X 是服从参数为 的指数分布,其中参数
未 知 ,
0 .X1 ,,
X
是总体
n
X
的一个样本,
我们的任务是根据样本,来估计 的取值,从
而估计总体的分布.
这 是 一 个 参 数 估 计 问 题.
第七章 参数估计
§1 点估计 §2 估计量的评选标准 §3 区间估计
第七章 参数估计 §1 点估计
2
令
A1
A2
, (
2
1)
.
第七章 参数估计
例6(续)
解此方程组,得
§1 点估计
ˆ
A1 2 A2 A12
,
ˆ
A2
A1 A12
.
ˆ X 2 ,
即
B2
ˆ X .
B2
其中 B2
1 n
n i 1
Xi X
2 为样本的二阶中心矩.
第七章 参数估计(第二十二讲) 三、 极大似然法
§1 点估计
1
第七章 参数估计
例6(续)
EX 2 x 2 f
x dx x 2
x 1e x dx
0
§1 点估计
2 2 x ( e 2)1 x dx
2 0 2
2 2
1 2
1
2
因此有
EX
,
EX
2
1 .
⑵ 在不引起混淆的情况下,我们统称估计量
与估计值为未知参数 的估计.
第七章 参数估计
二、 矩估计法
§1 点估计
设X为连续型随机变量,其概率密度为
f ( x;1 ,, k ), X为离散型随机变量,其分布列为
研究生应用数理统计参数估计
为来自总体的样本,
n
试求:(1)的极大似然估计;
(2)P{X 2}的极大似然估计。
极大似然估计的优点: 利用了总体的分布函数所提供的信息; 不要求总体原点矩的存在(柯西分布) 极大似然估计的缺点: 求解似然方程困难
四、用顺序统计量估计参数
无论X服从何种分布,都可以样本中位数X作为总体均值 E(X)的估计量,以样本极差R作为总体标准差 DX的估计量。 这种估计比较粗超。
研究生应用数理统 计参数估计
一、参数估计的概念
定义:已知母体的分布,估计某个或几个未 知数字特征(参数)的问题,称为参数估 计。
二、参数估计的分类
分为点估计和区间估计;
点估计就是根据样本,估计参数为某个数 值;
区间估计就是根据样本,估计参数在一定 范围内,即一个区间;
总体分布类型已知的统计问题,称为参数 型统计问题;
定理 设X1, X 2, , X n是来自总体X ~ N (, 2 )的样本,X 是
样本中位数,则对任意x,有
lim
n
P
2n(2 X
)
x
1
2
x t2
e 2 dt
§2点估计的优良性
一、无偏性
定义1 设 ( X1, , X n )是参数的估计量。 若E ,则称是的无偏估计量;
若E ,则称(E )是估计量的偏差;
例2.1.1 设总体服从泊松分布P(),
试求的矩估计量.
解1 因为E(X)=,所以的矩估计量为X .
解2 因为D(X)=,所以的矩估计量也为
1 n
X
i
2
X .
例2.1.1 设总体服从泊松分布P(),
试求的矩估计量.
解1 因为E(X)=,所以的矩估计量为X .
应用数理统计——参数估计
这就是矩法估计的理论依据。
三、正态总体参数的区间估计 前面讨论了未知参数的点估计问题,它是用估计
量 θ 的值作为未知参数θ的估计。然而不管θ 是一 个怎样优良的估计量,它也只是一定程度的精确, 至于如何反映精确度,参数的点估计并没有回答。 由于θ 是一随机变量,需说明用θ 去估计θ的精度, 也就是要说明在一定概率意义下, 与θ的误差有 θ 多大。即确定具有特定概率意义的区间,使它以 相当大的概率包含未知参数的真值,以表明总体 参数真值所处的范围。
α
α
α
2
− uα
σ
n } = 1−α ) = 1−α
2
2
2
uα
2
σ
n
< µ < X + uα 2 < µ < x − uα 2
于是P{x − uα 2
σ
n
σ
n
例6:见教材82页例1。
(2)总体方差σ 2未知时,正态总体均值µ的区间估计
X −µ 因为若X服从N ( µ , σ ),则T = 服从t (n − 1) S n
2 2
小结:学习了
1、点估计法——矩法 2、评价估计量优劣的标准——无偏性、有效性 和一致性 3、正态总体的区间估计——均数和方差的区间估计 作业:教材98页第4题。 教材99页第10、13题。 教材100页第17、18题。
3、正态总体方差σ 的区间估计
2
因为若X服从N ( µ , σ 2 ),则χ 2 = 由附表4知P{χ12−α 2 < (n − 1) S 2
(n − 1) S 2
σ2
服从χ 2 (n − 1)
σ2
2 < χα 2 } = 1 − α
数理统计学中的参数估计和假设检验
数理统计学中的参数估计和假设检验在现代统计学中,参数估计和假设检验是非常重要的概念。
这些概念互相关联,但是又有不同的应用。
在此,我们将讨论这两个概念的基本原则以及它们在现实生活中的应用。
参数估计可以被描述为研究一组数据的基本特征。
通过这个过程,我们试图推断出这个数据集的平均值、标准差和其他的参数。
这些参数会充当我们对整个数据集的总体特征的代表,是基于样本数据和概率等数学方法来实现的。
数理统计学中有两种常见的参数估计方法:点估计和区间估计。
点估计法指的是通过现有的样本数据,确定整体数据集的一个参数值。
这个参数值是一个点,代表了这个总体数据的典型特征。
例如,一个统计学家可能会利用一个样本数据集的均值来估计整个数据集的均值。
这个方法非常简单,但是也有缺点,因为单个点可能不能完整地反映出整个总体的信息。
相对于点估计方法,区间估计法则是根据样本数据并结合概率论提供一个充分范围内的参数估计值。
以信心水平的方式,给出估计结果的范围和信心度。
这样的区间被称为可信区间,其中的参数值处于一定的置信度内,一般用百分之几的置信度表示。
例如,一个样本数据的均值在一定的置信度下是x到y之间的。
区间估计法是一种更加准确的方法,因为它允许我们知道参数值的变化范围,而不仅仅是一个单点。
但是,这种技术会带来更多的复杂性,需要一些基本的统计技能。
另一方面,假设检验则是一种帮助我们确定一个假设是否正确的方法。
这个方法通常用于对两个数据组的统计分析中,并且可以用于比较一个数据集的平均值是否等于一个已知的值。
简单说就是,假设检验能够让我们确定样本数据是否足够代表总体,并且也让我们确认样本数据能否代表以前的观测和研究。
在假设检验中,我们制定一个假设被称为研究假设,并组对比之前已知的信息,提出一个对立假设。
之后,我们会挑选一个随机样本并采取测量行动。
我们利用这个测量行动来确定样本数据是否属于已知的总体比例,或者是否对研究假设做出了支持。
如果样本数据足够代表总体,并且不同于已知的比例,则我们可以拒绝研究假设并接受对立假设。
数理统计中的参数估计与置信区间估计及假设检验与拟合优度检验
数理统计中的参数估计与置信区间估计及假设检验与拟合优度检验数理统计是一门研究如何利用数据对未知参数进行估计和进行推断的学科。
本文将介绍数理统计中的参数估计与置信区间估计,以及假设检验与拟合优度检验的基本概念和相关方法。
一、参数估计与置信区间估计在数理统计中,参数是描述总体特征的量,例如总体均值、总体方差等。
参数估计就是利用样本统计量对总体参数进行估计。
常用的参数估计方法有最大似然估计和矩估计。
最大似然估计是一种常用的参数估计方法,其基本思想是选择参数值使得观测到的样本出现的概率最大化。
假设总体服从某个分布,最大似然估计通过优化似然函数来估计参数。
最大似然估计具有良好的性质,例如渐近正态性和无偏性等。
矩估计是另一种常用的参数估计方法,其基本思想是利用样本矩与总体矩的对应关系来估计参数。
例如,样本均值可以用来估计总体均值,样本矩可以通过总体矩的方法进行计算得到。
矩估计具有较好的渐近正态性和无偏性。
参数估计的结果往往带有一定的不确定性,为了评估估计结果的准确性,常使用置信区间估计。
置信区间估计是指通过样本数据得到的区间,该区间包含了未知参数的真值的概率。
常见的置信区间估计方法有正态分布的置信区间估计和大样本下的置信区间估计。
二、假设检验在数理统计中,假设检验是一种推断方法,用于检验总体参数的假设是否成立。
假设检验的基本思想是通过样本数据来判断假设是否得到支持。
常用的假设检验方法有正态总体均值的假设检验、正态总体方差的假设检验和两样本均值的假设检验等。
假设检验包括建立原假设和备择假设,选择适当的检验统计量,并设定显著性水平,进行统计推断。
结果的判断依据是计算得到的检验统计量是否落在拒绝域内。
如果检验统计量落在拒绝域内,拒绝原假设,否则接受原假设。
假设检验的结果可以提供统计学上的证据,用于决策和推断。
三、拟合优度检验拟合优度检验是一种用于检验总体数据是否符合某个特定分布的方法。
在数理统计中,拟合优度检验常用于检验样本数据与给定的分布是否相符。
概率论与数理统计第6章参数估计
设 x1, x2,…, xn 是来自总体 X 的一个样本,
我们用一个统计量 ˆ ˆ(x1,的,取xn值) 作为 的 估计值, 称为ˆ的点估计(量),简称估计。 在这里如何构造统计量 并没有明ˆ确的规定,
只要它满足一定的合理性即可。这就涉及到 两个问题:
k阶原点矩 k的无偏估计。但对中心矩则不一样, 譬如,由于 E(s *2 ) ,n 样1本2 方差s*2不是总体方差 2
的无偏估计,对此,有n 如下两点说明:
(1) 当样本量趋于无穷时,有E(s*2) 2,
我们称 s*2 为 2的渐近无偏估计。
(2)
若对s*2作如下修正:
s2
个无偏估计为1
2X ,2
n 1 n
Xn
,判别1与2哪个有效 n
2时?
解:Var
1
Var
2X
4 n
2
12
2
3n
由
f
n
x
nxBiblioteka n1 n 00 x
其它
E
X
2
n
0
nxn1
n
dx
n
n
2
2
于是Var
第六章 参数估计
§6.1 点估计的概念与无偏性 §6.2 矩估计及相合性 §6.3 最大似然估计与EM算法 §6.4 最小方差无偏估计 §6.5 贝叶斯估计 §6.6 区间估计
一般常用 表示参数,参数 所有可能取值
组成的集合称为参数空间,常用表示。参 数估计问题就是根据样本对上述各种未知参 数作出估计。
I数理统计基本概念及参数估计
点估计有两种方法: 矩估计法和最大似然估计法
18
(一 )
矩估计法:
则有:E ( X v ) = µv (θ1 , θ 2 ,L , θ k ) 其v阶样本矩是:Av = 1 ∑ X iv n i =1
x>0 x≤0
10
对于给定的α , 0 < α < 1, 称满足条件 ∫
∞
Fα ( n1 , n2 )
f ( x; n1 , n2 ) dx = α的点Fα ( n1 , n2 )
为F ( n1 , n2 ) 分布的上α 分位数。Fα ( n1 , n2 )的值可查F 分布表
F1−α (n1 , n2 ) = [ Fα (n2 , n1 )]−1
为t ( n ) 分布的上α 分位数。t分布的上α 分位数可查t分布表
n = 10 n=4
f ( x)
t1−α ( n ) = −tα ( n )
α
n =1
−3 −2 −1 0 1 2 t分布的密度函数
3
x
0
tα ( n )
x
9
t分布的上α 分位数
F分布
定义:设X ∼ χ 2 ( n1 ) , Y ∼ χ 2 ( n2 ) , 且X , Y 独立, 则称随机变量F = X / n1 服从自由度 ( n1 , n2 )的F 分布,记为F ~ F ( n1 , n2 ) Y / n2
n+1
+ Γ ( n2 1 ) t 2 − 2 定理6.2:t ( n ) 分布的概率密度为:f ( t , n ) = 1 + n , −∞ < t < +∞ n nπ Γ ( 2 )
∞
对给定的α , 0 < α < 1, 称满足条件 ∫
数理统计 第七章-参数估计
休息
结束
2. 最大似然法
是在总体类型已知条件下使用的一 种参数估计方法 。 它首先是由德国数学家高斯在1821 年提出的 ,费歇在1922年重新发现了这 一方法,并首先研究了这 种方法的一些 性质 。
休息 结束
最大似然法的基本思想:
已发生的事件具有最大概率。
休息
结束
先看一个简单例子: 在军训时,某位同学与一位教官同 时射击,而在靶纸上只留下一个弹孔。 如果要你推测,是谁打中的呢? 你会如何想呢?
max f ( xi , )
i 1
n
休息
结束
X 假设X 为连续型总体: f ( x; )
( X 1 , , X n ) 为子样
( x1 , , xn ) 为子样观察值。
已发生的事件为:
x x ,X {{X 11 1x, X 1 nx1 ,n } , xn x X n xn } x
休息
结束
ˆ
1 n ( X i X )2 n i 1
1 n ˆ X ( X i X )2 n i 1
休息
结束
矩法的优点是简单易行,并不需要 事先知道总体是什么分布 。 缺点是,当总体类型已知时,没有 充分利用分布提供的信息 . 一般场合下, 矩估计量不具有唯一性 。
( 1 )x , 0 x 1 f( x) 0, 其它
1
其中 1 是未知参数,
X1,X2,…,Xn是取自X的样本,求参数 的矩估计. 解:
1 E( X ) x( 1 )x dx
0
( 1 )
从 中解得
1
0
x
1
数理统计之参数估计
X )2 ,
S2
1 n1
n
(Xi
i 1
X )2,试
比较 E(Sn2 - σ2)2 与 E(S 2 - σ2)2.
解: 由于
(n 1)S 2
2
~
2 (n 1)
(n 1)S 2
2
2(n 1)
(n 1)2
4
D(S 2 ),D(S 2 )
2
n1
4
D(Sn2 )
D( n 1 S2 )
j
j
解出似然估计 ˆjL ˆjL( X1, , Xn ).
否则可通过单调性或放大缩小的方法直接推求.
极大似然估计的性质:
(1) 若(^θ1, …, ^θm)是(θ1, …, θm)的极大似然计, η = g(θ1, …, θm)存在单值反函数,则g(θ^1, …, ^θm)是g(θ1, …, θm)的极大似然估计.
设X1,…,Xn 是来自总体 X 的样本,则
μk = E(Xk )= ∑ xk p(x; θ1, θ2), X 为离散型
或
μk = E(Xk )= xk f (x; θ1, θ2)dx,
X 为连续型
Ak
1 n
n i 1
Xik
1 n
X
k 1
1 n
X
k 2
1 n
X
k n
矩法思想: 用样本矩Ak 作为总体同阶矩μk 的近似,
例 设某种设备的寿命X (小时)服从指数分布,概
率密度为
et , t 0
f ( x; )
0,
其他
其中 λ>0为未知参数. 现从这批设备中任取n台在t =0
时刻开始寿命试验,试验进行到预定时间T0 结束, 此时有 k(0< k < n)台失效,求
《概率论与数理统计》课件第七章 参数估计
03
若存在, 是否惟一?
添加标题
1
2
3
4
5
6
对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用标准
(1)无偏性
(3)一致性
(2)有效性
7.2 估计量的评选标准
无偏性
一致性
有效性
一 、无偏性
定义1 设 是未知参数θ的估计量
09
则称 有效.
10
比
11
例4 设 X1, X2, …, Xn 是X 的一个样本,
添加标题
问那个估计量最有效?
添加标题
解 ⑴
添加标题
由于
添加标题
验证
添加标题
都是
添加标题
的无偏估计.
都是总体均值
的无偏估计量.
故
D
C
A
B
因为
所以
更有效.
例5 设总体 X 的概率密度为
关于一致性的两个常用结论
1. 样本 k 阶矩是总体 k 阶矩的一致性估计量.
是 的一致估计量.
由大数定律证明
用切比雪夫不 等式证明
似然函数为
其中
解得参数θ和μ的矩估计量为
2
时
3
令
1
当
6
,故
5
,表明L是μ的严格递增函数,又
4
第二个似然方程求不出θ的估计值,观察
添加标题
所以当
01
添加标题
从而参数θ和μ的最大似然估计值分别为
03
添加标题
时L 取到最大值
02
添加标题
数理统计与随机过程6--参数估计
2).
当
2 1
2 2
2,
2未知时,有
(X
Y ) (1 2 )
S m1 n1
~
tmn 2 .
( 5)
其中S 2 (m 1)S12 (n 1)S22 . mn2
证明: 1).由基本定理(定理6.4.1),知
X
~
N (1,
σ12 / m),Y
~
N (2 ,
2 2
/
n)
.
由两样本相互独立,知 X 与Y 也相互独立。 故,(4) 式成立;
n
~
tn1.
对给定的置信系数1 α, 取分位数 tn1( / 2),
使得
1 P| t | tn1( / 2)
PX
S n
tn1(
/ 2)
X
S n
tn1
(
/
2)
.
于是,µ 的置信系数为1-α 的区间估计为
X
S n
tn1(
/
2),
X
S n
tn1(
/
2)
(2)
也可简记为
X
S n
tn1
(
/
2)
于是,评价新技术的效果问题,就归结为研究两个正
态总体均值之差 1-2与方差之比12/22的问题。
I. 两个正态总体均值差的区间估计
定理1:设X1, X2, ···, Xm是抽自正态总体X的简
单样本,X~N(1, 12),样本均值与样本方差分别为
X
1 m
m i1
X
,
i
S12
1m m 1 i1 ( X i
.
● σ2 的区间估计
由
概率论与数理统计第七章参数估计
例1. 设总体X的数学期望和方差分别是μ,
σ2 ,求μ , σ2的矩估计量。
E(X )
E( X 2 ) D( X ) [EX ]2 2 2
(3) 写出方程 ln L 0
i1
若方程有解,
求出L(θ)的最大值点 ˆ(x1,x2,..x.n,)
于 是 ˆ ˆ ( X 1 , X 2 , . . . , X n ) 即 为 的 极 大 似 然 估 计 量
例2. 设总体X服从参数λ>0的泊松分布,求 参数λ的极大似然估计量。
例3. 已知某产品的不合格率为p,有简单随机样本 X1 ,X2 ,…, Xn,求p的极大似然估计量。 若抽取100件产品,发现10件次品,试估计p.
ˆ(x1,x2,..x.n,),使得
L (ˆ) m a x L (), (或 L (ˆ) s u p L ())
则 称 ˆ ( x 1 ,x 2 , . . . ,x n ) 为 的 极 大 似 然 估 计 值
称 ˆ ( X 1 ,X 2 ,...,X n ) 为 极 大 似 然 估 计 量
第7章 参数估计
总体所服从的分布类型已知/未知
抽样
参数 估计
估计总体中未知的参数
参数估计 参数估计问题是利用从总体抽样得到的信息
来估计总体的某些参数. 估计新生儿的体重
估计废品率
估计湖中鱼数
§7.1
点估计
设有一个统计总体,总体的分布函数
为 F(x, ),其中为未知参数 (可以是向量) .
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
满足 P{ } 1 , 则称 (-, ) 为 的置信度为 1 的单侧置信区间, 称 为 的单侧置信上限.
与其它总体相比, 正态总体参数的置信区间是最完
善的,应用也最广泛, 在构建正态总体参数的置信区间
的过程中, t 分布、 2分布、F 分布以及标准正态分布
矩估计法的做法是, 以样本矩作为总体矩的估计量,
从而得到总体未知参数的估计.
一般地, X 作为总体均值 E( X )的估计量,
极大似然估计法的做法是,
若对任意给定的样本值 x1, x2 , , xn , 存在
( x1, x2 , , xn ),
使
L( ) max L( ),
则称 ( x1, x2 , , xn ) 为 的极大似然估计值
义如下: 设 X1, , Xn 是取自总体 X 的一个样本,
(X1,
, Xn )
是未知参数
的一个估计量,
若
满足:
(1) E( ) , 即 为 的无偏估计;
(2) D( ) D( * ), * 是 的任一无偏估计;
则称
为
的最小方差无偏估计(也称最佳无偏估计).
例1 设总体 X ~ B(n, p), sin p, 样本容量为1.
S n
X
t (n 1)
n
待估参数 条件 统计量 双侧置信区间 单侧置信下(上)限
方差 2
已知
n
( X ) / (n) 1
2
n
(Xi
i 1
2
)2
n
( Xi )2
i 1
2
2
(n)
,
n ( X i )2 i1
i 1
2 1
2 (n)
n
i
~ (n) ( X
N (0,1) 扮演了总要角色. 正态总体的置信区间,
掌握下列情形: 单正态总体均值(方差已知)的置信区间 单正态总体均值(方差未知)的置信区间 单正态总体方差的置信区间
了解下列情形: 双正态总体均值差(方差已知)的置信区间 双正态总体的均值差(方差未知但相等)的置信区间 双正态总体方差比的置信区间
若 E( ) , 则称 为 的无偏估计量.
有效性
定义 设 1 和 2 都是参数 的无偏估计量,
若 D( 1 ) D( 2 ),
则称
1
较
2
有效.
相合性
定义 设 是未知参数 的估计量, 若 0 有
lim P{ˆ } 1, 则称 为 的相合估计量.
n
注: 在数理统计中常用到最小方差无偏估计, 其定
单正态总体的置信区间表
待估参数 条件 统计量 双侧置信区间 单侧置信下(上)限
均值
2
已知
X n
~ N (0,1)
X
z
2
X z 2
,
n
n
X X
z z
n
n
均值
2
X
Sn
X t 2(n 1)
S, n
X
t (n 1)
n
未知
~ t(n 1) X t 2(n 1)
寻求置信区间的方法 一般步骤:
(1) 选取未知参数 的某个较优估计量 ; (2) 围绕 构造一个依赖于样本与参数 的函数
u u( X1, X2 , Xn , ); (3) 对给定的置信水平1 , 确定1与 2 , 在常用分
布情况下, 这可由分位数查表得;
(4) 对不等式作恒等变形化为
P{ u } 1 ,
证明 不存在无偏估计;
证明:设 的估计ˆ f ( X1 )
n
由于 E(ˆ) f (k)P{ X1 k}
k0
n
f
(k
)C
k n
pk (1
p)nk
Rn (
p)
k0
0 p 1, n 1时,Rn ( p) sin p,
所以 不存在无偏估计;
例2 设总体 X ~ N (0, 2 ), X1, X 2 , X n是来自这一
则 ( , ) 就是 的100(1 - )%的置信区间.
单侧置信区间
定义 设 为总体分布的未知参数, X1, X2 , , Xn是 取自总体 X 的一个样本, 对给定的数1 (0 1),
若存在统计量 (X1, X2 , , Xn ), 满足 P{ } 1 ,
则称( ,) 为 的置信度为1 的单侧置信区间,
极大似然估计的一般方法
求未知参数 的最大似然估计问题, 归结为求似然
函数 L( ) 的最大值点的问题. 当似然函数关于未知
参数可微时, 可利用微分学中求最大值的方法求之.
其主要步骤:
(1) 写出似然函数 L( ) L( x1, x2, , );
(2)
令
dL( ) d
0
或
d ln L( ) d
0,
2
n
i 1
Xi
2
, 而
Xi
~
N (0,1) (i
1,2,
, n),
且它们相互独立, 故依 2 分布定义
n
X
2 i
i 1
2
~ 2(n)
由此知
n
X
2 i
D
i 1
2
2n
D(ˆ
2)
D
1 n
n i 1
X
2 i
1 n2
2n
4
2
n
4
.
完
(2)两种求点估计的方法: 矩估计法 极大似然估计法
总体的样本.
(1)
证明
ˆ
2
1 n
n i 1
X
2 i
是
2的无偏估计;
(2) 求 D(ˆ 2 ).
解
(1)
E(ˆ
2
)
1 n
n i 1
E(
X
2 i
)
n1D(
Xi
)
1 n
n
2
2
故 ˆ 2 是 2的无偏估计.
(2) 因
n
X
2 i
i 1
2
n
i 1
Xi
2
, 而
n
解 (2) 因
X
2 i
i 1
i
2
2
2)/
2 1
(
n)
i 1
方差 2
(n 1)S 2
2
已知 ~ 2(n 1)
(n
求出驻点;
注:因函数 ln L 是 L 的单调增加函数, 且函数ln L( )
与函数 L( ) 有相同的极值点。
(3)区间估计: 置信区间是一个随机区间 ( , ),
它覆盖未知参数具有预先给定的高概率(置信水平),即
对于未知参数 的任意可能取值范围, 有
P{ } 1 .
则称随机区间 ( , ) 为 的置信度为1 的置信区间, 称1 为置信度, 称 与 为 的置信下限与置信上限.
内容小结 参数估计问题分: 点估计和区间估计,
点估计是适当地选择一个统计量作为未知 参数的估计(称为估计量).
若已取得一样本, 将样本值代入估计量, 得到 估计量的值, 以估计量的值作为未知参数的近似值 (称为估计值).
(1)估计量的评选标准
无偏性 有效性 相合性(一致性)
无偏性
定义 设 (X1, X2 , , Xn )是未知参数 的估计量,