点估计估计量评选标准

故似然函数为
n
n
n
L(p)
pxi
(1p)1xip i1xi
n xi (1p) i1
,
i1
n
n
而 lnL(p)( xi)ln p(n xi)ln 1 (p).
i1
i1
2020/5/8
目 录 前一页 后一页 退 出
第七章 参数估计
例2（续） n
§1 点估计 n
ln L (p )( x i)ln p (n x i)ln 1( p )
说明：若似然方程（组）无解，或似然函数不可导， 此法失效，改用其它方法.
2020/5/8
目 录 前一页 后一页 退 出
第七章 参数估计
§1 点估计
例2 设 X~B(1,p);X1,,Xn是来 X的 自一个样 试求参数 p 的极大似然估计量.
解： 设x1,,xn是一个样 .X的 本分 值布律
P { X x } p x ( 1 p ) 1 x , x 0 ,1 ;
对于 ax (1 ) 满 x 足 (n ) b 的a 任 ,b 有意
L(a,b) 1 1 (ba)n (x(n)x(1))n
2020/5/8
目录
前一页 后一页
退出
第七章 参数估计
例6（续） 即L (： a,b)在 ax(1),bx(n)时，
取最(大 x(n)值 x(1))n
§1 点估计
故a, b的极大似然估计值为：
a ˆx (1 ) mx ii,n b ˆx (n ) mx ia , x
故a, b的极大似然估计量为：
a ˆmX iin , b ˆmX ai.x
2020/5/8
目 录 前一页 后一页 退 出
第七章 参数估计
§1 点估计
极大似然估计性质：
设的函u 数 u(), 具有单值反 ˆ是函数 的极大似则 然uˆ 估 u(ˆ计 )是u； ()的极大似然 .
第七章 参数估计
一、无偏性
§2 估计标准
若 ˆˆ(X1,,Xn)的数学期且 望 Eˆ 存 , 在
则称ˆ 是的无偏估计 . 量
例1 X1,,Xn是总 X~体 N(,2)的样本，
, 2均未知.
因为 EX, 所以ˆ X是的无偏估.计量
而ES2 2,
所以 ˆ2S2n1 1i n1(Xi X)2是 2的无偏. 估
2020/5/8
目 录 前一页 后一页 退 出
第七章 参数估计
说明：
§2 估计标准
如果未知参 有数 两个不同的无 ˆ1与偏 ˆ2， 估 则一定有无穷多计 个． 无偏估
这是因为，对任意的数实，
ˆ11ˆ2
一定是未知的 参无 数偏估计．
2020/5/8
目 录 前一页 后一页 退 出
第七章 参数估计
二、有效性
例5 设总体X 的密度函数为
§1 点估计
fxx1,
0,
0x1, 其 它 .
其中 未 知 ， 1，X1，，Xn是 从 该 总 的 一 个 样本 的． 极试 大求 似 然 估 计
解： 似然函数为
L
n
n i1
xi
1 ,
2020/5/8
ln Lnln 1 nln xi i1 目 录 前一页 后一页 退 出
§2 估计标准
若 ˆ1ˆ1(X 1, ,X n )， ˆ2ˆ2(X 1, ,X n )都 是
的 无,且 偏 D (ˆ1) 估 D (ˆ2)计 ,则称 ˆ1量 较ˆ2有.效
D (ˆ 1 ) E (ˆ 1 - E ˆ 1 ) 2 E (ˆ 1 -) 2 表示 ˆ1与的偏离程 .
例5 设X 总 ~ N ， 体 2，未 其知 中
X1,X2,X3 是从该总体中抽个取样的本一．
试验证：
ˆ11 5X1130 X21 2X3;
ˆ21 3X11 4X2152 X3; ˆ31 3X11 6X21 2X3
都是未知 的 参无 数偏估计， 这并 三的 指 个估 出
令
X
0
1
1 2
2
由此得的矩估计量ˆ为 2X 1 .
1 X
2020/5/8
目 录 前一页 后一页 退 出
二、 极大似然估计法
1、 极大似然估计法的基本思想 设有一个人投篮命中率可能为0.1或0.05，现 在他投篮一次，球投进了，问在这种情形下， 一般来讲我们会更加倾向于哪个答案？
若为数组（0.05，0.1，0.2），（ 0.05，0.1，0.2 ，0.4）
设x1,, xn是 相X应1,, Xn的 一 个 样 本 值 ， 机 点 (X1,, Xn)落 在 (x1,, xn)的 邻 域 （ 边 长 别为 dx1,,dxn的n维立方体）内的 似概 为率 ：
n
f (xi;)dxi
i1
但dxi不随 而变，故只需考虑：
i
n
f (xi ; ),
i 1
2020/5/8
根据极大似然估计的原理，未知参数的 选择应使得试验结果出现的概率最大， 即使得
L( ) L( x1,L , xn ; )
n
p( xi ; )L（ 离 散 型 总 体 ） i 1 n
f ( xi ; )L（ 连 续 型 总 体 ） i 1
达到最大！并称L为似然函数
这种求未知参 的数 方法称为极大． 似
例： ˆ2 n 1i n1(Xi X)2是2的极大似, 然
uu(2) 2有单值反 2u函 2,(u 数 0)
故ˆ ˆ2 n 1i n1(Xi X)2 是的极大似.
2020/5/8
目 录 前一页 后一页 退 出
第七章 参数估计
§2 估计量的的评选标准 •无偏性 •有效性 •一致性
2020/5/8
第七章 参数估计 §1 点估计
•点估计 •矩法 •极大似然法
2020/5/8
目 录 前一页 后一页 退 出
一、 矩估计法
设X为连续型随机变量 概， 率其 密度为
f(x;1,,k),
X为 离 散 型 随 机 变 量分，布其列 为
P { X x } p (x ;1 , ,k ),
其中 1,,k是待估,参 X1,数 ,Xn为来 X的 自样 . 本
第七章 参数估计
§1 点估计
例2 设总 X的 体 均 ， 值 方 2都 差存在 2， 0, 且 但 ， 2未 知 ， X1,又 ,Xn是 设一 个 样 本
求：, 2的矩估计量。
解： 1EX ,
2 EX2D X (E)2 X 22
令 1 A 1 , 2 A 2 ,
即 A 1 , 22 A 2 ,
2020/5/8
目 录 前一页 后一页 退 出
第七章 参数估计
考察 B2n 1i n1 Xi X2
由于
EB2E n 1i n1
Xi X2
§2 估计标准
E nn 1n1 1i n1
Xi X2
n1E S2 n 1 2
n
n
因此 B2 ， n 1i n1 Xi X2是总体 2的 方有 差偏
设 X1,,Xn是n 来 X的 自 样 ,则 X 本 1,,Xn的联合分
p( xi ; )
i 1
设 x i 是 X i 的 样 本 值 , 则 试 验 结 果 x i , i = 1 , L , n 出 现 概 率 为
n
p(xi;), .
i1
2020/5/8
2)若总X体 属连续型，其f概 (x;率 ),密 度 的形式已为 知待 ，估.参数
2020/5/8
第七章 参数估计
极大似然法求估计量的步骤：(一般情况下) §1 点估计
1) 构 造 似 然 函L(数) :
n
n
L()P(xi )(离散型 , ） L()f(xi )(连续型 ; ）
i1
i1
2)取对数 lnL： ();
3)令 ddlnL0;
4)解似然方程 的得 极大似然ˆ估 . 计量
一般都会选择这些数组中最大的数字。
2020/5/8
在应用中，人们总是认为问题的正确答案 应该让事实出现的可能性最大。
参数估计中，未知参数的选择对观察结 果的出现最有利。
未知参数的选择应使得试验结果出现的 概率最大！
2020/5/8
3、极大似然估计的思想的体现
1) 若总体X属离散型，其分布律
P {X x }p (x ;),
例4 设 X~N(,2);,2为未知 x1,参 ,xn 数
是来 X的 自 一个求样 , 2本 的极值 大似， 然估计.量
解： X的概率密度为：
似然f 函(x 数; 为, ：2)2 1 ex 2 p 12({x)2}
L (,
n
2)
i 1
1 2
ex 2 p 12({ x i)2}
n
(xi )2
( 2 )r r (1 ,L ,k ) ,r 1 ,L ,k
( 3 )ˆ r ˆ r(A 1 ,L ,A k ) ,r 1 ,L ,k
用 ˆ1， ， ˆk分别1， 作 ， 为 k的估计量
2020/5/8
第七章 参数估计
§1 点估计
例 1 设某炸药厂一天中发生着火现象的次数X服从
参数为 的泊松分布 未， 知，有以下样 试估计参 （数用矩法）。
设 E X rr存 在 , r 1 ,2 ,L ,k
则 rr(1 ,L ,k ) ,r 1 ,2 ,L ,k .
令 A rr, r 1 ,L,k,其中 Ar
1 n
n i1
Xir
2020/5/8
矩法原理：由辛钦大数定律知
Ar
1 n
n i 1
X
r i
P
r
矩估计法步骤：
( 1 )r r ( 1 ， L ， k ) ,r 1 , L ,k