第二章 参数估计
数理统计： 参数估计方法
引例
设总体 X 服从参数为 的指数分布， 未知，
X1 , X 2 , , X n 是来自X的样本, x1 , x2 , , xn 是
相应的样本值，求 的矩估计量和矩估计值.
解 因为 E( X ) 所以 用样本矩替换总体矩, 得 的矩估计量
ˆ
1 n
n i 1
Xi
X
(
x)
1
e
x
,
x0
0,
其他.
但参数 未知。已知参数的取值范围,记为 。
给出样本的一组观察值，如何推断总体的分布?
【思路】给出 的估计，则得到对总体分布的推断。
【方法】根据一定的原则，从 中找到一个值(点) 作为的 估计。
点估计
2
点估计定义
设总体 X 的分布函数 F ( x; ) 的形式为已知,
的估计量.
4
二、估计量的评选标准 1. 无偏性
定义 若 X1, X 2 ,, X n 为总体 X 的一个样本，
是包含在总体 X 的分布中的待估参数, 若估计量ˆ ˆ( X1 , X 2 ,, X n )的数学期望 E(ˆ) 存在, 且对于任意 有
E(ˆ) 则称ˆ 是 的无偏估计量,否则称为有偏的.
(2) lim S 2 2 a.s. (强大数定律) n
即样本方差是总体方差2的强相合估计， 也是相合估计.
12
C. 样本标准差
其观察值:
S
S2
1 n1
n i 1
Xi
X
2
;
s
1 n1
n i 1
( xi
统计学参数估计
统计学参数估计参数估计是统计学中的一个重要概念，它是指在推断统计问题中，通过样本数据对总体参数进行估计的过程。
这一过程是通过样本数据来推断总体参数的未知值，从而进行总体的描述和推断。
在统计学中，参数是指总体的其中一种特征的度量，比如总体均值、总体方差等。
而样本则是从总体中获取的一部分观测值。
参数估计的目标就是基于样本数据来估计总体参数，并给出估计的精确程度，即估计的可信区间或置信区间。
常见的参数估计方法包括点估计和区间估计。
点估计是一种通过单个数值来估计总体参数的方法。
点估计的核心是选择合适的统计量作为估计量，并使用样本数据计算出该统计量的具体值。
常见的点估计方法包括最大似然估计和矩估计。
最大似然估计是一种寻找参数值，使得样本数据出现的概率最大的方法。
矩估计则是通过样本矩的函数来估计总体矩的方法。
然而，点估计只能提供一个参数的具体值，无法提供该估计值的精确程度。
为了解决这个问题，区间估计被引入。
区间估计是指通过一个区间来估计总体参数的方法。
该区间被称为置信区间或可信区间。
置信区间是在一定置信水平下，总体参数的真值落在该区间内的概率。
置信区间的计算通常涉及到抽样分布、标准误差和分位数等概念。
在实际应用中，参数估计经常用于统计推断、统计检验和决策等环节。
例如，在医学研究中，研究人员可以通过对患者进行抽样调查来估计其中一种药物的有效性和不良反应的发生率。
在市场调研中，市场研究人员可以通过抽取部分样本来估计一些产品的市场份额或宣传效果。
参数估计的准确性和可靠性是统计分析的关键问题。
估计量的方差和偏倚是影响估计准确性的主要因素，通常被称为估计量的精确度和偏倚性。
经典的参数估计要求估计量是无偏且有效的，即估计量的期望值等于真值，并且方差最小。
总之，参数估计是统计学中的一个重要概念，它通过样本数据对总体参数进行估计，并给出估计值的精确程度。
参数估计在统计推断、统计检验和决策等领域具有广泛的应用。
估计量的准确性和可靠性是参数估计的关键问题，通常通过方差和偏倚的分析来评价估计量的性质。
第二章 参数估计.pdf
22、设总体 X 在区间 [, +1] 上服从均匀分布，则 的矩估计 ˆ =
；
3
D(ˆ) =
。
23、设总体 X ~ N(, 2 ) ，若 和 2 均未知， n 为样本容量，总体均值 的置 信水平为1 − 的置信区间为 (X − , X + ) ，则 的值为________；
24、在实际问题中求某参数的置信区间时，总是希望置信水平愈 愈好，而置
解： E(ˆ1) = E(ˆ2), D(ˆ1) D(ˆ2) ． 12、设ˆ1 和ˆ2 均是未知参数 的无偏估计量，且 E(ˆ12 ) E(ˆ22 ) ，则其中的统计
量 更有效。
13、在参数的区间估计 (1,2 ) 中，当样本容量 n 固定时，精度2 −1 提高时，置
信度1 −
。
14、设 X1, X 2 ,, X n 是来自总体 X ~ N(,1) 的样本，则 的置信度为 0.95 的置
9、什么是最优无偏估计量？ 10、什么是一致最小方差无偏估计量？ 11、有效估计量和最优无偏估计量的关系是什么？ 12、什么叫均方误差最小估计量？ 13、叙述一致估计量的概念。 14、试述评价一个置信区间好坏的标准。 15、描述区间估计中样本容量、精度、置信度的关系。
三、单选题 1、设总体未知参数 的估计量 满足 E( ) = ,则 一定是 的( )
的关系为
。
6 、 称 统 计 量 T = T ( X1, X 2 ,, X n ) 为 可 估 函 数 g() 的 （ 弱 ） 一 致 估 计 量 是
指
。
7、判断对错：设总体 X ~ N(, 2 ) ，且 与 2 都未知，设 X1, X 2 ,..., X n 是来自
1
该总体的一个样本，设用矩法求得 的估计量为 ˆ1 、用极大似然法求得 的
第二章参数估计
第二章 参数估计【学习目标】1、掌握矩估计的替代原则；会求已知分布中未知参数的矩估计（值）2、熟练掌握极大似然估计的思想及求法3、估计量的评价标准：无偏性、有效性、相合性的定义4、统计量的无偏性的判断；两个无偏估计的有效性判断；会用Fisher 信息量及c-R 下界进行统计量的UMVUE 充分性判断5、掌握区间估计的定义6、单个正态总体均值的区间估计（包括方差已知、方差未知）；单个正态总体方差的区间估计（包括均值已知、均值未知）7、两个正态总体均值差的区间估计（方差未知）；两个正态总体方差比的区间估计 8、单侧置信区间的求法 【典型例题讲解】例1、设1,,n X X 是来自均匀分布(,1)U θθ+的总体的容量为n 的样本，其中θ-∞<<+∞为未知参数，试证：θ的极大似然估计量不止一个，例如1(1)ˆXθ=，2()ˆ1n X θ=-，3(1)()11ˆ()22n XXθ=+-都是θ的极大似然估计。
解：(,1)U θθ+分布的密度函数为11()0x f x θθ≤≤+⎧=⎨⎩其他似然函数(1)()11()0n x x L θθθ≤≤≤+⎧=⎨⎩其他由于在(1)()1n x x θθ≤≤≤+上()L θ为常数，所以凡是满足：(1)()ˆˆ1n x x θθ≤≤≤+的ˆθ均为θ的极大似然估计。
从而（1）1(1)ˆX θ=满足此条件，故1(1)ˆX θ=是θ的极大似然估计；（2）由于()(1)1n X X -≤，故2()(1)()2ˆˆ11n n X X X θθ=-≤≤=+，所以2()ˆ1n Xθ=-为θ的极大似然估计；（3）由于()(1)1n X X -≤，故(1)()(1)12n X X X +-≤，(1)()()12n n X X X ++≥，从而有3(1)()(1)()(1)()31111ˆˆ()()12222n n n XXXXXXθθ=+-≤≤≤++=+，故3ˆθ也为θ的极大似然估计。
应用多元统计分析 第二章正态分布的参数估计答案
练习二 多元正态分布的参数估计2.1.试叙述多元联合分布和边际分布之间的关系。
解：多元联合分布讨论多个随机变量联合到一起的概率分布状况，12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数，而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布，其概率密度函数的维数小于p 。
2.2设二维随机向量12()X X '服从二元正态分布，写出其联合分布。
解：设12()X X '的均值向量为()12μμ'=μ，协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭，则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。
2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=-- 其中1a x b ≤≤，2c x d ≤≤。
求（1）随机变量1X 和2X 的边缘密度函数、均值和方差； （2）随机变量1X 和2X 的协方差和相关系数； （3）判断1X 和2X 是否相互独立。
（1）解：随机变量1X 和2X 的边缘密度函数、均值和方差；112121222[()()()()2()()]()()()d x cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()dd c c d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰ 121222202()()2[()2()]()()()()dd c c d c x a x b a t x a t dt b a d c b a d c ------=+----⎰ 2212122222()()[()2()]1()()()()d cdc d c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布，则均值为2b a+，方差为()212b a -。
数值分析答案第二章参数估计习题
f(x)= （） { > − ex λ ) λ 0λ ( x解： λe , x ≥ 0
第二章 参数估计 1.设母体X具有负指数分布，它的分布密度 −λ x 为 λe , x ≥ 0 f(x)= 0, x < 0 其中 λ > 0 。试用矩法求的估计量。 解：x e(λ ) f(x)=
0
1
θ −1
dx =
θ θ +1
X 估计EX
X ∴θ = 1− X
1 e 5.设母体X的密度为 f ( x) = 2σ
−
x
σ
, −∞ < x < ∞
试求 σ 的最大似然估计;并问所得估计量是 否的无偏估计. ∑x x n 解： n 1 −σ 1 n − σ
i
L = ∏ f ( xi ) = ∏
i =1 i =1
ln L = n ln θ + (θ − 1)∑ ln xi
i
0, 其他 n
i =1
( θ >0 )
n i =1
d ln L n ＾= − n = + ∑ ln xi = 0,∴θ θ i dθ ∑ ln xi
i
2矩法估计
EX =
用
X 用估计EX
+∞
−∞
∫ x ⋅ f ( x)dx = ∫ x ⋅θ ⋅ x
2
给定置信概率1−α 即
P ( x − uα
2
σ/ n
，有 uα ，使
2
P{ u ≤ uα } = 1 − α
第二章 参数估计
0
x 2de
x
2xe
x
dx
2
xde
x
0
x
0
0
2 e dx 2 2
0
9
例4：设X1， … ， Xn为取自 N ( , 2 ) 总体的
样本，求参数 , 2 的矩估计。
: E( X ) D( X ) 2 E( X 2 ) [E( X )]2
极大似然法是由德国数学家G.F.Gauss在1821年提 出的.然而这个方法通常归于英国统计学家 R.A.Fisher,因为他在1912年里发现了这一方法,并 且首先研究了这种方法的性质.
设总体的密度函数为f(x,θ), θ为待估参数,θ∈Θ,Θ
为参数空间.当给定样本观察值 x (x1, x2 , xn )后,f(x,
以随便给的,所以根据统计思想建立各种点估计方法
和评价点估计的好坏标准便是估计问题的研究中心.
这里先介绍三个常用的标准:无偏性、有效性和一致
性.
1
有效性
^
^
设 i i ( X1,, X n ), i 1, 2分别是参数 的两个无偏估计,
^
^
^
^
若D 1 D 2 至少有一个n使 成立 , 则称 1比 2 有效.
总体k阶矩 样本k阶矩
k E(Xk )
Ak
1 n
n i 1
X
k i
的矩估计量是
约定：若
是未知参数的矩估计，则u()的矩
估计为u(
),
6
例2、：设X1， … ， Xn为取自参数为的指数分布 总体的样本，求的矩估计。
参数估计2
n
e n
i
x !
i 1 n i 1
ii ) ln L( x1 , x 2 ,..., x n ; ) xi ln n ln xi !
i 1
xi ln L( x1 , x2 ,...,xn ; ) i 1 n 0 iii)令 : 1 n iv)解之得 : xi x为 的极大似然估计值 , n i 1 1 n X i X 为 的极大似然估计量 . n i 1
(1)正态分布N (u, 2 ) (2)指数分布Z ( ) (3)均匀分布U (a, b) (4)二项分布B(n, p) (3)泊松分布 ( ) 试求其中未知参数的矩 估计. 解 : (1)
因为X ~ N ( , 2 ), E ( X ) , D( X ) 2 故有 X ,
注2
若 为 的矩估计量, g ( )为 的连续函数, 亦称g ( )为g ( )
2 2 例如S n 为总体方差D( X )的矩估计量, 则S n S n 为标准差 D( X )
的矩估计量. 的矩估计量.
例1.1
设X 1 , X 2 ,..., X n为来自正态总体 X 的样本, X的分布为
i 1 n n
( X为连续型)
(1.4) (1.5)
或
L( x1 , x2 ,..., xn ) PX i xi ;
i 1
( X为离散型)
达到最大值
L( x1 , x2 ,..., xn ; ) max L( x1 , x2 ,..., xn ; )
(1) 利用求导法求极大然估 计步骤 i )建立似然函数: L( x1 , x 2 ,..., x n ; 1 , 2 ,..., r ) f ( xi ; 1 , 2 ,..., r )
第二章 参数估计2-3 区间估计
I=0.814
上页 下页 返回
钢厂铁水含碳量X 例3. 钢厂铁水含碳量 ~ N(µ,0.1082), 现在随机测定 该厂9炉铁水得 炉铁水得X=4.484,求在置信度为 求在置信度为0.95 的条件 该厂 炉铁水得 求在置信度为 下铁水平均含碳量的置信区间。 下铁水平均含碳量的置信区间。 解
置信区间为
上页
下页
返回
联合方差
上页
下页
返回
1、 µ1 - µ2的1-α置信区间 、 α (1)、 σ12 、σ22已知 、
由于 X −Y ~ N(µ1 − µ2 ,
选取
2 2 σ1 σ2
n1
+
n2
)
因此置信度为1-α 因此置信度为 α的µ1 - µ2置信区间可为
上页
下页
返回
(2)、σ12 、σ22未知，且n1,n2较大 如大于 、 未知， 较大(如大于 如大于50)
=27.5， ，
=6.26， ，
上页
下页
返回
测量一批铅锭的比重，设铅锭的比重X 例6. 测量一批铅锭的比重，设铅锭的比重 ~ N(µ, 现进行16次检测得铅锭的比重有 σ2),现进行 次检测得铅锭的比重有 现进行 次检测得铅锭的比重有X=2.705， ， S2=0.0292，试求总体 的均值µ和方差 σ2置信度为 求总体X的均值 0.95 的置信区间。 的置信区间。 解 (1)求µ的置信区间 σ2未知 n=16,α=0.05. 求 的置信区间, 未知, α 选取 查表得 置信区间为
(二)、总体X数学期望 (二)、总体X数学期望µ未知 数学期望µ 样本X 的无偏估计. 样本 1,X2, • • • , Xn, 且S2是σ2的无偏估计
选取样本函数
第二章1-矩估计和极大似然估计
0
解法二
E
X
x
1
x
e dx
1
x
x e dx (2)
2
0
即 E|X|
1 n
用 n i1 X i
替换
EX
即得的另一矩估计量为
ˆ 1
n
n i 1
Xi
16
• 矩估计的优点 – 不依赖总体的分布，简便易行 – 只要n充分大，精确度也很高。
• 矩估计的缺点 – 矩估计的精度较差； – 要求总体的某个k阶矩存在； – 要求未知参数能写为总体的原点矩的函数形 式
得和2的估计值分别为13(mm)和 0.133(mm)2
12
例2 设总体X的概率密度为
f
( x;
)
x 1 ,
0,
0 x 1 其它
X1,X2,,Xn为来自于总体X的样本,x1,x2, ,xn 为样本值,求参数的矩估计。
解： 先求总体矩
1
1
E( X ) x x 1dx x dx
x 1 1
ˆ2 (x1, x2 ,, xn )
数值
ˆk (x1, x2 ,, xn )
称数ˆ1,ˆ2 ,,ˆk 为未知参数1,2 ,,k 的估计值 对应的统计量为未知参数1,2 ,,k 的估计量
问题 如何构造统计量？
6
二.点估计的方法
1、矩方法；（矩估计） 2、极大似然函数法（极大似然估计）.
1. 矩方法
• 极大似然估计的缺点 要求必须知道总体的 分布函数形式
29
多参数情形的极大似然估计
若总体X的概率密度为：f (x;1,2 , ,k )
其中
1
,
2
,,
应用数理统计(武汉理工大)2-参数估计
1
D(S 2 )nI (
2)
n 1 n
1,
n
故S 2是渐进有效的。
第二章 参数估计
例： 设总体X （）, X1, X 2 , , X n是X的一个样本， 讨论的无偏估计X的有效性。
解：lnp( X
,)
ln
X e
X!
X
ln
ln( X
!)
区间估计的关键: 用合适的方法确定两个统计量
1(X1, X2 , , Xn)， 2(X1, X2 , , Xn)
第二章 参数估计
1.区间估计的定义及计算步骤
3) 区间估计的例子
例1 设总体X~N(μ , σ2), σ2已知，μ未知，设X1,…,Xn是X的样本， 求μ的置信度为1-α的置信区间。
)
2
n
,
D(ˆ2 )
D(nZ )
n2D(Z )
n2
n
2
2
当n 1时，显然D(ˆ1) D(ˆ2 ),故ˆ1比ˆ2有效。
第二章 参数估计
最小方差无偏估计问题 设 若 及T对 任(g意X(1, ， X)的2都,任有一 , XD无n()T是 偏) g估(D计()T的量')一， T '个 ( X无1, X偏2估 , 计, X量n )， 则 无称 偏T估(计X1，, X或2 ,者,称X为n )是最g优(无)的偏一估致计最。小方差
其它类型的估计,如 贝叶斯估计…
第二章 参数估计
2.1参数的点估计
1. 矩估计 2. 极大似然估计 3. 点估计量的评价
第二章 参数估计
ˆ = q ( X , K , X ) , q k k 1 n
k = 1, 2, L , m
(2.2)
ˆ 为 q 的矩估计， g ( x 若 q ) 为连续函数，则也称 g (qˆ k k k ) 为 g (q k ) 的矩估计.
【例 2.1】 设总体 X 服从参数为 l 的泊松分布，X 1 , K , X n 为来自总体的样本， 求l 的 矩估计. 解： a1 = EX = l
i =1
定义 2.1：设总体 X 的概率函数为 f ( x;q ) ， x1 ,L , x n 是来自总体的样本，则称
n
L(q ) = Õ f ( xi ;q )
i =1
(2.4)
为总体 X 对应样本 x1 ,L , x n 的似然函数.
L(q ) 越大，越有利于样本 x1 ,K , x n 被观察到.
-l ì l x e ï f ( x 0,1, 2, L 其它
或简写为
f ( x) =
-l l x e
x !
x = 0,1, 2, L
§2.1 点估计
我们经常会遇到这样的问题： 总体 X 的分布函数 F ( x,q ) 的形式已知， 但其中的参数q 未知， 希望利用 X 的样本 x1 ,K , x 这类问题称为参数的点估计 （point n 对 q 的值进行估计， estimation）问题. 比如，已知某种电子元件的寿命 X ~ N ( m , s ) ，即 X 的分布密度
P( X = xi ) = p( xi ,q ), i = 1, 2,L ,
其中q 为未知参数，q Î Q . 设 X 1 , K , X n 是来自总体 X 的一组样本， 观察值为 x1 ,K , x n .我们把观察到的样本看成 结果，而需要判断的是未知参数q 的取值，根据最大似然原理，应该选取一个最有利于结 果的发生的q 值作为 qˆ .
计量经济学【一元线性回归模型——参数估计】
ˆ0计量ˆ1 和
可以分别表示为被解释变量观测Y值i
的线
性组合（线性函数）；
ˆ证1 明
如( X下i ： X )(Yi (Xi X )2
Y
)
(Xi X) (Xi X )2
(Yi
Y
)
ki (Yi Y )
其中ki ：
(Xi X) (Xi X )2
ki
对ki于引0 进的 ki (X容i 易X证) 明有k如i X下i 的1 特性k：i2
2
,
,
,
,
,
,
,
,
i
1,
2,
n
假设3：随机误差项在不同样本点之间是独立的，不
存
Cov(i , j ) 0,,,,,,,i j,,,,i, j 1, 2, n
在序列相关，即：
一、一元线性回归模型的基本假设
假设 4：随机误差项与解释变量之间不相关， 即：
Cov( Xi , i ) 0,,,,,,,,,,,i 1, 2, n
：待估
E(Y
总样体本回回归归函函数数形形式式：：Yˆi
| Xi)
ˆ0
0 ˆ1X i
1X i
其 计
中 估
方
ˆ0 , ˆ1 法ˆ0，, ˆ1求
是ˆ00,,ˆ11 出
的估计值，我们需要找到一种参数 ， 并0 ,且1 这 种 参 数 估 计 方 法 保 证 了 估
计值 数
与总体真值
尽可能地接近；这种参
i
根据微 小，
积
分中
ˆ0 , ˆ1
求
极
值
的
原
理
，
要
使 i
ei2
待定系数
第二章 估计与检验
二、均值和方差的区间估计和假设 1、总体均值的区间估计
二、均值和方差的区间估计和假设 2、总体方差的区间估计
二、均值和方差的区间估计和假设
例1： 某种零件的重量服从于正态分布。现中 随机抽10件作为样本，观察到的重量(㎏)分 别是：4.8，4.7, 5.0，5.2，4.7，4.9，5.0， 4.6，4.7 ，5.1。估计零件的平均重量，在 95%的置信水平估计平均重量的区间。
MEANS 过程代码如下: Proc MEANS MEAN STD STDERR T PRT; var y; run;
MEANS过程后面的选择项可以选择 MEAN 、STD 、STDERR、 T、 PRT等基 本统计量。这些统计量可以根据研究的实 际需要自行添加删除。
均值 MEAN=0.1794,检验统计量 T＝ 0.86，其概率值 Pr>│T│=0.4037，大于显 著性水平⍺ ,所以接受原假设，拒绝备选假 设，即样本中的含量与标准相同。
•
•
一、基本统计概念
2.假设检验
假设检验是统计推断中另一个重要部分，它与参数估 计有着密切的联系。 假设检验要求先对总体的参数作出一个假设，称为原 假设；另外还要给出一个与其相互对立的备择假设，原假 设与备择假设有且仅有一个成立。然后构造一个合适的检 验统计量，并确定在原假设成立时该统计量的分布，在给 定的显著性水平下，从分布中可得出原假设的拒绝域。最 后由样本观测值计算该统计量的取值，如果取值落在原假 设的拒绝域中，则拒绝原假设，而取对应的备择假设。否 则，不能拒绝原假设。
结果给出了总体均值以及标准差在置信 度90%、95%、99%下的置信区间。
如在intervals语句下面添加alpha=0.05 type=lower；就能获得对应95%置信区间以及对应 的置信下限.
应用数理统计吴翊李永乐第二章-参数估计课后习题参考答案
《应用数理统计》吴翊李永乐第二章-参数估计课后习题参考答案(总19页)--本页仅作为文档封面，使用时请直接删除即可----内页可以根据需求调整合适字体及大小--第二章 参数估计课后习题参考答案设总体X 服从二项分布()n X X X p p N B ,,,,11,,21 <<为其子样，求N 及p 的矩法估计。
解：()()()p Np X D Np X E -==1,令()⎪⎩⎪⎨⎧-==p Np S Np X 12 解上述关于N 、p 的方程得：对容量为n 的子样，对密度函数22(),0(;)0,0x x f x x x ααααα⎧-⎪=⎨⎪≤≥⎩其中参数α的矩法估计。
解：122()()a E x xx dx ααα==-⎰2222()x x dx ααα=-⎰2321221333ααααααα=-=-= 所以 133a x α∧== 其中121,21(),,,n n x x x x x x x n=+++为n 个样本的观察值。
使用一测量仪器对同一值进行了12次独立测量，其结果为(单位：mm) ，，，，，⎪⎪⎩⎪⎪⎨⎧-=-==X S p S X X p X N 2221ˆˆˆ，，，，，试用矩法估计测量的真值和方差(设仪器无系统差)。
解：()()()∑∑====-====ni ini i S XX nX D X X n X E 12210255.014025.2321设子样，，，，，是来自具有密度函数()10,1,<<=βββx f 的总体，试用矩法估计总体均值、总体方差及参数β。
解：()()()()4.22ˆ2,1,407.012.1101221========-===⎰⎰∑∑==X Xdx xdx x xf X E x f XX n S X n X ni i ni i ββββββββ参数：总体方差：总体均值：设n X X X ,,,21 为()1N ，μ的一个字样，求参数μ的MLE ；又若总体为()21N σ，的MLE 。
统计学参数估计
统计学参数估计统计学参数估计是统计学中一种重要的方法，它通过观察样本数据来估计总体参数的值。
参数是描述总体特征的数值，例如总体均值、总体比例等。
参数估计的目的是根据样本信息对总体参数进行推断，从而得到总体特征的近似值。
参数估计的过程通常分为点估计和区间估计两种方法。
点估计是指根据样本数据求出总体参数的一个数值估计量，例如样本均值、样本比例等。
点估计的基本思想是用样本统计量作为总体参数的估计值，它是参数的无偏估计量时，表示点估计是一个良好的估计。
区间估计是指根据样本数据求出一个区间，这个区间包含总体参数的真值的概率较高，通常用置信区间表示。
区间估计的基本思想是总体参数位于一个区间中的可能性，而不是一个确定的值。
置信区间的构造依赖于样本统计量的分布以及总体参数的估计量的抽样分布。
点估计和区间估计的方法有很多，其中最常用的是最大似然估计和矩估计。
最大似然估计是指根据已知样本观测值，选择使样本观测值出现的概率最大的总体参数作为估计值。
最大似然估计的基本思想是找到一个参数值，使得已观测到的样本结果出现的概率尽可能大。
矩估计是指根据样本矩的观测值，选择使样本矩的偏差与总体矩的偏差最小的总体参数作为估计值。
矩估计的基本思想是利用样本矩估计总体矩，从而近似估计总体参数。
参数估计在实际应用中具有广泛的应用价值。
例如，在医学研究中，需要对患者的疾病概率进行估计，以帮助医生做出正确的诊断和治疗决策。
在经济学研究中，需要对经济指标（如GDP、通胀率等）进行估计，以帮助政府制定宏观经济政策。
在市场调研中，需要对消费者行为进行估计，以帮助企业确定产品定价和市场策略。
然而，参数估计也存在一些局限性。
首先，参数估计的结果仅仅是对总体参数的估计，并不是总体参数的确切值。
其次，参数估计的结果受到样本容量的影响，样本容量越大，估计结果越可靠。
另外，参数估计还需要满足一些假设条件，如总体分布的形式、样本的独立性等，如果这些假设条件不满足，估计结果可能会失效。
第二章(简单线性回归模型)2-2答案
2.2 简单线性回归模型参数的估计一、判断题1.使用普通最小二乘法估计模型时，所选择的回归线使得所有观察值的残差和达到最小。
（F)2.随机扰动项和残差项是一回事。
（F ）3.在任何情况下OLS 估计量都是待估参数的最优线性无偏估计。
（F ）4.满足基本假设条件下，随机误差项i μ服从正态分布，但被解释变量Y 不一定服从正态分 布。
（ F ）5.如果观测值i X 近似相等，也不会影响回归系数的估计量。
（ F ）二、单项选择题1．设样本回归模型为i 01i i ˆˆY =X +e ββ+，则普通最小二乘法确定的iˆβ的公式中，错误的是（ D ）。
A ．()()()i i 12i X X Y -Y ˆX X β--∑∑＝ B ．()i i i i 122i i n X Y -X Y ˆn X -X β∑∑∑∑∑＝C ．i i 122i X Y -nXY ˆX -nX β∑∑＝D ．i i i i 12xn X Y -X Y ˆβσ∑∑∑＝ 2．以Y 表示实际观测值，ˆY 表示回归估计值，则普通最小二乘法估计参数的准则是使（ D ）。
A ．i i ˆY Y 0∑（－）＝B ．2i i ˆY Y 0∑（－）＝C ．i i ˆY Y ∑（－）＝最小D ．2i i ˆY Y ∑（－）＝最小 3．设Y 表示实际观测值，ˆY 表示OLS 估计回归值，则下列哪项成立（ D ）。
A ．ˆYY ＝ B ．ˆY Y ＝ C ．ˆY Y ＝ D ．ˆY Y ＝ 4．用OLS 估计经典线性模型i 01i i Y X u ββ+＝＋，则样本回归直线通过点（ D ）。
A ．X Y （，）B ． ˆX Y （，）C ．ˆX Y （，）D ．X Y （，） 5．以Y 表示实际观测值，ˆY表示OLS 估计回归值，则用OLS 得到的样本回归直线i 01iˆˆˆY X ββ+＝满足（ A ）。
A ．i i ˆY Y 0∑（－）＝B ．2i i Y Y 0∑（－）＝ C ． 2i i ˆY Y 0∑（－）＝ D ．2i i ˆY Y 0∑（－）＝6．按经典假设，线性回归模型中的解释变量应是非随机变量，且（ A ）。
多元统计期末复习题
多元数据分析练习题第二章多元正态的参数估计一. 判断题（1）若∑∑=),,(~),,,(21μp T p N X X X X 是对角矩阵，则p X X X ,,,21 相互独立。
（ ）（2）多元正态分布的任何边缘分布为正态分布，反之也成立。
（ ）（3）对任意的随机向量T p X X X X ),,,(21 =来说，其协方差矩阵∑是对称矩阵，并且总是半正定的。
（ ）（4）对标准化的随机向量来说，它的协方差矩阵与原来变量的相关系数阵相同。
（ ） （5）若),,(~),,,(21∑=μp T p N X X X X S X ,分别为样本均值和样本协差阵，则S nX 1,分别为∑,μ的无偏估计。
（ ） 二.计算题1. 假设随机向量TX X X X ),,(321=的协方差矩阵为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡---=∑9232443416，试求相关系数矩阵R 。
⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎣⎡----=131413112141211R 2. 假设随机向量Tx x x ),(21=的协方差矩阵为⎥⎦⎤⎢⎣⎡=∑20119，令212211,2x x y x x y -=+=，试求T y y y ),(21=的协方差矩阵。
⎥⎦⎤⎢⎣⎡--=∑2733603.假设⎥⎦⎤⎢⎣⎡---=∑5.005.05.015.0),,(~3A N X μ，其中T)1,2,1(-=μ，⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡--=∑411121112，试求Ax y =的分布。
)2224,02(2⎪⎪⎭⎫ ⎝⎛--⎪⎪⎭⎫ ⎝⎛-N 三.证明题1.设)()2()1(,,,n X X X 是来自),(∑μp N 的随机样本，X 为样本均值。
试证明：μ=)(X E ，∑=nX D 1)(。
2.设)()2()1(,,,n X X X 是来自),(∑μp N 的随机样本，S n 11-为样本协差阵。
试证明：∑=-)11(S n E 。
3．证明：若p 维正态随机向量),,,(21'=p X X X X 的协差阵为对角矩阵，则X 的各分量是相互独立的随机变量。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第二章 参数估计一、填空题1、总体X 的分布函数为);(θx F ，其中θ为未知参数，则对θ常用的点估计方法有 ， 。
2、设总体X 的概率密度为(),(;)0,x e x f x x θθθθ--⎧≥=⎨<⎩而12,,,n X X X L 是来自总体X 的简单随机样本，则未知参数θ的矩估计量为_______3、设321,,X X X 是来自总体X 的简单随机样本，且μ=)(X E ，记3211313131X X X ++=μ，3212214141X X X ++=μ 2132121X X +=μ， 3214414141X X X ++=μ则哪个是μ的有偏估计 ，哪个是μ的较有效估计 。
4、随机变量X 的分布函数);(θx F 中未知参数θ的有效估计量和极大似然估计量的关系为 。
5、随机变量X 的分布函数);(θx F 中未知参数θ的有效估计量和最优无偏估计量的关系为 。
6、称统计量),,,(21n X X X T T Λ=为可估函数)(θg 的（弱）一致估计量是指 。
7、判断对错：设总体),(~2σμN X ，且μ与2σ都未知，设n X X X ,...,,21是来自该总体的一个样本，设用矩法求得μ的估计量为1ˆμ、用极大似然法求得μ的估计量为2ˆμ，则1ˆμ=2ˆμ。
_________________8、ˆn θ是总体未知参数θ的相合估计量的一个充分条件是_______ .解：ˆˆlim (), lim Var()0n nn n E θθθ→∞→∞==． 9、已知1021,,x x x Λ是来自总体X 的简单随机样本，μ=EX 。
令∑∑==+=1076181ˆi i i i x A x μ，则当=A 时，μˆ为总体均值μ的无偏估计。
10、 设总体()θ,0~U X ，现从该总体中抽取容量为10的样本，样本值为0.51.30.61.7 2.21.20.81.5 2.01.6， ， ， ， ， ， ， ， ， 则参数θ的矩估计为 。
11、 设1ˆθ与2ˆθ都是总体未知参数θ的估计，且1ˆθ比2ˆθ有效，则1ˆθ与2ˆθ的期望与方差满足_______ .解：1212ˆˆˆˆ()(), ()()E E D D θθθθ=<． 12、设1ˆθ和2ˆθ均是未知参数θ的无偏估计量，且)ˆ()ˆ(2221θθE E >，则其中的统计量 更有效。
13、在参数的区间估计),(21θθ中，当样本容量n 固定时，精度12θθ-提高时，置信度α-1 。
14、设n X X X ,,,21Λ是来自总体)1,(~μN X 的样本，则μ的置信度为0.95的置信区间为 。
15、设n X X X ,,,21Λ是来自总体),(~2σμN X 的样本，其中2σ未知，则μ的置信度为0.95的置信区间为 。
16、设n X X X ,,,21Λ是来自总体),(~2σμN X 的样本，其中μ未知，则2σ的置信度为0.95的置信区间为 。
17、设X 服从参数为λ的指数分布，)2(,,,,21>n X X X n Λ是来自总体X 的样本，X 为其样本均值，则X n λ2服从 分布。
18、设总体服从正态分布)1,(μN ，且μ未知，设n X X X ,...,,21为来自该总体的一个样本，记∑==ni i X n X 11，则μ的置信水平为1α-的置信区间公式是___________________________________；若已知95.01=-α，则要使上面这个置信区间长度小于等于0.2，则样本容量n 至少要取多大_______。
18、为估计大学生近视眼所占的百分比，用重复抽样方式抽取200名同学进行调查，结果发现有68个同学是近视眼。
则大学生近视眼所占的百分比的95%的置信区间为 。
19、设总体X 未知参数为λ，X 为样本均值, X N(0,1)，则λ的一个双侧近似1-α置信区间为 。
20、设总体12~(,1),,,...,n X U X X X θθ+为样本，则θ的矩估计量为 ，极大似然估计量为 。
21、设总体212~(,),,,...,n X N X X X μσ为样本，μ、2σ 未知，则2σ的置信度为1－α的置信区间为 。
22、设总体X 在区间]1,[+θθ上服从均匀分布，则θ的矩估计=θˆ ；D。
)ˆ(θ=23、设总体),(~2σμN X ，若μ和2σ均未知，n 为样本容量，总体均值μ的置信水平为α-1的置信区间为),(λλ+-X X ，则λ的值为________；24、在实际问题中求某参数的置信区间时，总是希望置信水平愈 愈好，而置信区间的长度愈 愈好。
但当增大置信水平时，则相应的置信区间长度总是 。
二、简述题1、描述矩估计法的原理。
2、描述极大似然估计法的原理。
3、极大似然估计法的一般步骤是什么？4、评价估计量好坏的标准有哪几个？5、什么是无偏估计？6、什么是较有效？7、什么叫有效估计量？8、判断可估函数)(θg 是有效估计量的充要条件是什么？ 9、什么是最优无偏估计量？10、什么是一致最小方差无偏估计量？11、有效估计量和最优无偏估计量的关系是什么？ 12、什么叫均方误差最小估计量？ 13、叙述一致估计量的概念。
14、试述评价一个置信区间好坏的标准。
15、描述区间估计中样本容量、精度、置信度的关系。
三、单选题1、设总体未知参数θ的估计量θ)满足()E θθ=),则θ)一定是θ的( ) A 极大似然估计 B 矩估计 C 无偏估计 D 有效估计2、设总体未知参数θ的估计量θ)满足()E θθ≠),则θ)一定是θ的( )A 极大似然估计B 矩估计C 有偏估计D 有效估计3、设n X X X ,,,21Λ为来自均值为μ的总体的简单随机样本，则),,2,1(n i X i Λ=（ ）A ．是μ的有效估计量B ．是μ的一致估计量C ．是μ的无偏估计量D ．不是μ的估计量4、估计量的有效性是指( ) A.估计量的抽样方差比较小 B.估计量的抽样方差比较大 C.估计量的置信区间比较宽 D.估计量的置信区间比较窄5、若置信水平保持不变，当增大样本容量时，置信区间（ ） A ．将变宽 B ．将变窄 C ．保持不变 D ．宽窄无法确定6、一个95%的置信区间是指（ ） A ．总体参数有95%的概率落在这一区间内 B ．总体参数有5%的概率未落在这一区间内C ．在用同样方法构造的总体参数的多个区间中，有95%的区间包含该总体参数D ．在用同样方法构造的总体参数的多个区间中，有95%的区间不包含该总体参数7、置信度α-1表示区间估计的（ ） A ．精确性 B ．显著性 C ．可靠性 D ．准确性8、抽取一个容量为100的随机样本，其均值为x =81，标准差s =12。
总体均值μ的99%的置信区间为（ ）其中：58.2995.0=U 。
A 81±1.97B 81±2.35C 81±3.09D 81±3.52四、计算题1、设1,,n X X K 是来自总体X 的样本X 的密度函数为,0(),00,0x e x f x x λλλ-⎧>=>⎨≤⎩试求λ的极大似然估计量。
2、设总体X 服从参数为λ的泊松分布，求未知参数λ的矩估计量。
3、 设总体X 服从参数为λ的泊松分布，求未知参数λ的有效估计量。
4、设总体X 的概率密度为.,,0,)()(其它θθ≥⎩⎨⎧=--x e x f xθ是未知参数,n X X X ,,,21Λ是来自X 的样本，求θ的矩估计量1θ∧5、设n X X X ,...,,21是取自总体X 的一个样本，X 的密度函数为⎪⎩⎪⎨⎧<<=elsex xx f ,00,2)(2θθ其中 未知， ＞0。
试求 的矩估计和极大似然估计。
6、设n X X X ,...,,21 是取自总体X 的一个样本，X 的密度函数为⎪⎩⎪⎨⎧<<-=else x x xx f ,00),(6)(3θθθ 其中θ 未知，0>θ 试求θ的矩估计θˆ。
7、设总体X 的概率密度为.,,0,)()(其它θθ≥⎩⎨⎧=--x e x f xθ是未知参数,n X X X ,,,21Λ是来自X 的样本，（1）求θ的矩估计量1θ∧；（2）求θ的最大似然估计量2θ∧；（3）1θ∧和2θ∧是不是θ的无偏估计量（说明原因）？8、设总体),(~2σμN X ，且μ与2σ都未知，设n X X X ,,,21Λ为来自总体的一个样本，设∑==n i i X n X 11，∑=-=n i i X X n S 122)(1。
求μ与2σ的极大似然估计量9、设总体X 的概率分布为其中)30(<<θθ是未知参数,利用总体X 的如下样本值0，1，1，0，2，0，2，1，1，2（1）求θ的矩估计值；（2）求θ的最大似然估计值。
10、设随机变量X 的分布函数为⎪⎩⎪⎨⎧≤>⎪⎭⎫ ⎝⎛-=，，，αx αx x αβαx F β0,1),,( 其中参数1,0>>βα. 设n X X X ,,,21Λ为来自总体X 的简单随机样本,(1) 当1=α时, 求未知参数β的矩估计量; (2) 当1=α时, 求未知参数β的最大似然估计量; (3) 当2=β时, 求未知参数α的最大似然估计量.11、 设)2(,,,21>n X X X n Λ为来自总体N (0,2σ)的简单随机样本，X 为样本均值，记.,,2,1,n i X X Y i i Λ=-=求：（1） i Y 的方差(),1,2,,i D Y i n =L ； （2）1Y 与n Y 的协方差).,(1n Y Y Cov（3）若21)(n Y Y c +是2σ的无偏估计量，求常数c.12、设总体X 的概率密度为(),01,;1,12,0,x f x x θθθ<<⎧⎪=-≤<⎨⎪⎩其他,其中θ是未知参数()01θ<<，12n ,...,X X X 为来自总体X 的简单随机样本，记N 为样本值12,...,n x x x 中小于1的个数.（1） 求θ的矩估计；（2）求θ的最大似然估计13、设总体X 的概率密度为1,021(),12(1)0,x f x x θθθθ⎧<<⎪⎪⎪=≤<⎨-⎪⎪⎪⎩其他n X X X ,,,21Λ为来自总体X 的简单随机样本，X 是样本均值.（1）求参数θ的矩估计量θ)；（2）判断24X 是否为2θ的无偏估计量，并说明理由.解：（1）101()(,)22(1)42x x E X xf x dx dx dx θθθθθθ+∞-∞==+=+-⎰⎰⎰，令()X E X =，代入上式得到θ的矩估计量为1ˆ22X θ=-．（2）222211141 (4)44[()]4()424E X EX DX EX DX DX n n θθθ⎡⎤==+=++=+++⎢⎥⎣⎦，因为()00D X θ≥>，，所以22 (4)E X θ>．故24X 不是2θ的无偏估计量．14、设总体X 服从)0](,0[>θθ上的均匀分布，n X X X ,...,,21是来自总体X 的一个样本，试求参数θ的极大似然估计． 解：X 的密度函数为1,0;(,)0,x f x θθθ≤≤⎧=⎨⎩其他,似然函数为1,0,1,2,,,()0,n i x i n L θθθ<<=⎧⎪=⎨⎪⎩L 其它显然0θ>时，()L θ是单调减函数，而{}12max ,,,n x x x θ≥L ，所以{}12ˆmax ,,,n X X X θ=L 是θ的极大似然估计．15、 设总体X 的概率密度为⎪⎩⎪⎨⎧<<+=其它,0,10,)1()(x x x f θθ 1->θ.n X X X ,...,,21是来自X 的样本，则未知参数θ的极大似然估计量为_________.解:似然函数为 111(,,;)(1)(1)(,,)nn n i n i L x x x x x θθθθθ==+=+∏L L1ln ln(1)ln nii L n x θθ==++∑1ln ln 01ni i d L nx d θθ==++∑@解似然方程得θ的极大似然估计为$1111ln ni i x n θ==-∑.16、设总体的概率密度为101,,(;).0,x x f x θθθ-<<⎧=⎨⎩其它 (0)θ>试用来自总体的样本n X X X ,...,,21，求未知参数θ的矩估计和极大似然估计. 解：先求矩估计1101EX x dx θθμθθ===+⎰111μθμ∴=- 故θ的矩估计为$1X X θ=-再求极大似然估计11111(,,;)()nn n i n i L x x x x x θθθθθ--===∏L L1ln ln (1)ln nii L n x θθ==+-∑1ln ln 0ni i d L n x d θθ==+∑@所以θ的极大似然估计为$111ln ni i x n θ==-∑.17、已知分子运动的速度X 具有概率密度22(),0,0,()0,0.x x f x x αα-⎧>>=≤⎩n X X X ,...,,21为X 的简单随机样本（1）求未知参数α的矩估计和极大似然估计； （2）验证所求得的矩估计是否为α的无偏估计。