概率论与数理统计课件:7-1 参数估计矩估计
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
向量). 现从该总体抽样,得样本 X1, X2,…, Xn
要依据该样本对参数 作出估计,或估计 的某个已知函数 g( ) .
这类问题称为参数估计.
点估计
参数估计 区间估计
点估计 —— 估计未知参数的值
区间估计—— 根据样本构造出适当的 区间,使他以一定的概率包含未知参数 或未知参数的已知函数的真值
总体 随机抽样
样本 描述
统计量
作出推断
第七章 参数估计
在参数估计问题中,假定总体分布 形式已知,未知的仅仅是一个或几个参数.
参数估计问题是利用从总体抽样得到的样 本来估计总体的某些参数或者参数的函数.
参数估计问题的一般提法 设有一个统计总体,总体的分布函数
为 F(x, ),其中 为未知参数 ( 可以是
Ak ) Bk
)
, k 1,,m
解此方程组得其根为
ˆi (X1 ,, Xn ),i 1,,m
以此分别估计参数i ,i=1,...,m,并称其为 i 的矩估计。
如要估计1 , ,m 的某函数g(1 , ,m),则用
g(θˆ1 θˆm )
去估计g(1,,m),此估计称为g(1,,m)的
矩估计。
1 X
例7.1.2 设X1,X2,…Xn是取自总体X的一个样本,
求总体均值 与方差 2的矩估计。
解: 1 E(X )
2 E(X 2 ) D(X ) (E(X ))2 2 u 2
解方程组得
1
2 2 12
用样本矩代替相应的总体矩得矩估计量为
A1 X
2
A2
A12
1 n
aˆ矩 X
3( A2 X 2 ) X
3
n
n i1
(Xi
X
)2
bˆ矩 X
3( A2 X 2 ) X
3 n
n i1
(
Xi
X
)2
矩法的优点是简单易行,并不需要 事先知道总体是什么分布,只需要 知道总体的矩就可以了.
缺点是,当总体类型已知时,没有 充分利用分布提供的信息. 一般场合 下,矩估计量不具有唯一性.
§1 点估计
已知总体X~ F ( x; ) ,未知,
X1, X2,…, Xn为样本 据此,我们应如何估计
为估计 ,我们需要构造出适当的样本的函数
T(X1, X2,…, Xn)(即统计量),每当有了样本观 测值x1, x2,…, xn ,就代入该函数中算出一个值
T(x1, x2,…, xn ) ,用来作为 的估计值 .
由辛钦大数定律
lim
n
P{|
1 n
n i 1
X
k i
k
| } 1
即
1
n
n i 1
X
k i
P
k ,
当n较大时用样本k阶原点矩近似总体k阶原点矩.即
1
n
n i 1
X
k i
k ( ),
由此估计未知参数,这就是矩估计法
矩估计法是英国统计学家K.皮
尔逊(1857-1936)最早提出的.
其基本思想是用样本矩估计总体矩.
m m (1, 2 ,, m )
(3)用Ai代替上述方程组中的 i,i=1,2,…m
得到 ˆi i (A1, A2 ,, Am ) i=1,2,…m
作为 i i=1,2的,…矩m估计量
(4)若估计的是参数的函数 g(1,2 ,m )
则用 ˆi 代替 i 得到 g(ˆ1,ˆ2 ,ˆm ) 作为 g(1,2 ,m ) 的矩估计量
T(X1,X2,…Xn)称为参数 的估计量
T(x1, x2,…, xn ) 称为参数 的一个估计值
请注意,被估计的参数 是一个未知常数,
而估计量 T(X1,X2,…Xn)是一个随机变量,是 样本的函数, 当样本值取定后,估计值是个 已知的数值.
问题是:使用什么样的统计量去估计 ?
(一). 矩估计法
记总体k阶矩为 k E( X k )
样本k阶矩为
Ak
Байду номын сангаас
1 n
n i 1
X
k i
记总体k阶中心矩为 k E[X E( X )]k
样本k阶中心矩为
Bk
1 n
n i 1
(Xi
X )k
用相应的样本矩去估计总体矩的估计方法 就称为矩估计法.
设总体分布含有个m未知参数 1 ,…,m
令
(or vk k((1,1,,,mm)
矩估计的一般步骤
设总体分布含有个m未知参数 1 ,…,m
(1)根据未知参数的个数求总体的各阶矩
1 E(X ) 1(1,2 ,,m ) 2 E( X 2 ) 2 (1, 2 ,, m )
m E( X m ) m (1, 2 ,, m )
(2)解方程组(即从方程组中解出未知参数)
1 1 (1, 2 ,, m ) 2 2 (1, 2 ,, m )
例7.1.1 设总体X的概率密度为
( 1)x , 0 x 1
f (x)
0,
其它
其中 1
是未知参数,
X1,X2,…,Xn是取自X的样本,求参数 的矩估计.
解:
1
(
E( X )
1
1)
x
1
x(
1)
x
dx
0
1dx
1
0
2
解方程得
21 1 1 1
用 X代替
1
得到 的矩估计为: ˆ 2X 1 .
n i 1
X
2 i
X
2
1 n
n i 1
(Xi
X )2
一般地,不论总体服从什么分布,总体期望 与方差 2 存在,则它们的矩估计量分别为
ˆ
1 n
n i 1
Xi
X
ˆ 2
1 n
n i 1
(Xi
X )2
Sn2
例7.1.3 设总体 X ~ U (a, b), a, b 未知,求 a, b 的
矩法估计量.
解 由于 E( X ) a b , D( X ) (b a)2
2
12
E(X 2)
D(X ) E2(X )
(b a)2 12
a
2
b
2
令
a
2
b
1
(b
a)2 12
a
2
b 2
2
解得 a 1 3(2 12 )
b 1 3(2 12 ) 用样本矩代替相应的总体矩,得到a,b的矩估计为
替换原理是指用样本矩及其函数去替换相应的总 体矩及其函数,譬如:
• 用样本均值估计总体均值E(X),即 Eˆ (X ); x • 用样本方差估计总体方差Var(X),即 Vˆ ar( X ) sn2 • 用样本的 p 分位数估计总体的 p 分位数,
• 用样本中位数估计总体中位数。
设总体的k阶原点矩为k,它们一般均 为参数 的函数,记为 k( )。
要依据该样本对参数 作出估计,或估计 的某个已知函数 g( ) .
这类问题称为参数估计.
点估计
参数估计 区间估计
点估计 —— 估计未知参数的值
区间估计—— 根据样本构造出适当的 区间,使他以一定的概率包含未知参数 或未知参数的已知函数的真值
总体 随机抽样
样本 描述
统计量
作出推断
第七章 参数估计
在参数估计问题中,假定总体分布 形式已知,未知的仅仅是一个或几个参数.
参数估计问题是利用从总体抽样得到的样 本来估计总体的某些参数或者参数的函数.
参数估计问题的一般提法 设有一个统计总体,总体的分布函数
为 F(x, ),其中 为未知参数 ( 可以是
Ak ) Bk
)
, k 1,,m
解此方程组得其根为
ˆi (X1 ,, Xn ),i 1,,m
以此分别估计参数i ,i=1,...,m,并称其为 i 的矩估计。
如要估计1 , ,m 的某函数g(1 , ,m),则用
g(θˆ1 θˆm )
去估计g(1,,m),此估计称为g(1,,m)的
矩估计。
1 X
例7.1.2 设X1,X2,…Xn是取自总体X的一个样本,
求总体均值 与方差 2的矩估计。
解: 1 E(X )
2 E(X 2 ) D(X ) (E(X ))2 2 u 2
解方程组得
1
2 2 12
用样本矩代替相应的总体矩得矩估计量为
A1 X
2
A2
A12
1 n
aˆ矩 X
3( A2 X 2 ) X
3
n
n i1
(Xi
X
)2
bˆ矩 X
3( A2 X 2 ) X
3 n
n i1
(
Xi
X
)2
矩法的优点是简单易行,并不需要 事先知道总体是什么分布,只需要 知道总体的矩就可以了.
缺点是,当总体类型已知时,没有 充分利用分布提供的信息. 一般场合 下,矩估计量不具有唯一性.
§1 点估计
已知总体X~ F ( x; ) ,未知,
X1, X2,…, Xn为样本 据此,我们应如何估计
为估计 ,我们需要构造出适当的样本的函数
T(X1, X2,…, Xn)(即统计量),每当有了样本观 测值x1, x2,…, xn ,就代入该函数中算出一个值
T(x1, x2,…, xn ) ,用来作为 的估计值 .
由辛钦大数定律
lim
n
P{|
1 n
n i 1
X
k i
k
| } 1
即
1
n
n i 1
X
k i
P
k ,
当n较大时用样本k阶原点矩近似总体k阶原点矩.即
1
n
n i 1
X
k i
k ( ),
由此估计未知参数,这就是矩估计法
矩估计法是英国统计学家K.皮
尔逊(1857-1936)最早提出的.
其基本思想是用样本矩估计总体矩.
m m (1, 2 ,, m )
(3)用Ai代替上述方程组中的 i,i=1,2,…m
得到 ˆi i (A1, A2 ,, Am ) i=1,2,…m
作为 i i=1,2的,…矩m估计量
(4)若估计的是参数的函数 g(1,2 ,m )
则用 ˆi 代替 i 得到 g(ˆ1,ˆ2 ,ˆm ) 作为 g(1,2 ,m ) 的矩估计量
T(X1,X2,…Xn)称为参数 的估计量
T(x1, x2,…, xn ) 称为参数 的一个估计值
请注意,被估计的参数 是一个未知常数,
而估计量 T(X1,X2,…Xn)是一个随机变量,是 样本的函数, 当样本值取定后,估计值是个 已知的数值.
问题是:使用什么样的统计量去估计 ?
(一). 矩估计法
记总体k阶矩为 k E( X k )
样本k阶矩为
Ak
Байду номын сангаас
1 n
n i 1
X
k i
记总体k阶中心矩为 k E[X E( X )]k
样本k阶中心矩为
Bk
1 n
n i 1
(Xi
X )k
用相应的样本矩去估计总体矩的估计方法 就称为矩估计法.
设总体分布含有个m未知参数 1 ,…,m
令
(or vk k((1,1,,,mm)
矩估计的一般步骤
设总体分布含有个m未知参数 1 ,…,m
(1)根据未知参数的个数求总体的各阶矩
1 E(X ) 1(1,2 ,,m ) 2 E( X 2 ) 2 (1, 2 ,, m )
m E( X m ) m (1, 2 ,, m )
(2)解方程组(即从方程组中解出未知参数)
1 1 (1, 2 ,, m ) 2 2 (1, 2 ,, m )
例7.1.1 设总体X的概率密度为
( 1)x , 0 x 1
f (x)
0,
其它
其中 1
是未知参数,
X1,X2,…,Xn是取自X的样本,求参数 的矩估计.
解:
1
(
E( X )
1
1)
x
1
x(
1)
x
dx
0
1dx
1
0
2
解方程得
21 1 1 1
用 X代替
1
得到 的矩估计为: ˆ 2X 1 .
n i 1
X
2 i
X
2
1 n
n i 1
(Xi
X )2
一般地,不论总体服从什么分布,总体期望 与方差 2 存在,则它们的矩估计量分别为
ˆ
1 n
n i 1
Xi
X
ˆ 2
1 n
n i 1
(Xi
X )2
Sn2
例7.1.3 设总体 X ~ U (a, b), a, b 未知,求 a, b 的
矩法估计量.
解 由于 E( X ) a b , D( X ) (b a)2
2
12
E(X 2)
D(X ) E2(X )
(b a)2 12
a
2
b
2
令
a
2
b
1
(b
a)2 12
a
2
b 2
2
解得 a 1 3(2 12 )
b 1 3(2 12 ) 用样本矩代替相应的总体矩,得到a,b的矩估计为
替换原理是指用样本矩及其函数去替换相应的总 体矩及其函数,譬如:
• 用样本均值估计总体均值E(X),即 Eˆ (X ); x • 用样本方差估计总体方差Var(X),即 Vˆ ar( X ) sn2 • 用样本的 p 分位数估计总体的 p 分位数,
• 用样本中位数估计总体中位数。
设总体的k阶原点矩为k,它们一般均 为参数 的函数,记为 k( )。