概统第十章1--2节点估计、估计方法2

7-16
解得
ˆ a矩 X 3( A2 X )
2
3 n 2 X ( Xi X ) , n i 1
ˆ X 3( A X 2 ) b矩 2
3 2 X ( Xi X ) . n i 1
n
7-17
极大似然估计法
思想方法：一次试验就出现的 事件有较大的概率 例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球 现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球. 问: 所取的球来自哪一箱？ 答: 第一箱.
i
0, i 1,2,m
ˆ （4）求解似然方程并写出估计量i , i 1,2,3,, m
例7求参数为p的0-1分布的最大似然估计. 解. P{X=0}=1-p P{X=1}=p

xi
i 1 n
P{X=m}=pm(1-p)1-m(m=0,1)
1 ( X 1 , X 2 ,, X n ) 2 ( X 1 , X 2 ,, X n )

随机变量
k ( X 1 , X 2 ,, X n )
7-6
当测得样本值(x1, x2,…, xn)时,代入上述 统计量，即可得到 k 个数：
ˆ1 ( x1 , x2 ,, xn ) ˆ2 ( x1 , x2 ,, xn )
n
例1 ( X 1 , X 2 ,..... X n ) 为总体X 的一个样本， 总体均值 E ( X ) , 方差 D( X ) , 未知， 求其矩估计量。
2
解
假设总体二阶矩存在,分别是
E(X), E(X 2 )
一阶矩
ch7-1
二阶矩
9
1 n ˆ ˆ E(X) X i X n i 1 1 n 2 ˆ ˆ ˆ E ( X 2 ) D( X ) [ E ( X )]2 2 2 X i n i 1 由上两式得：
设总体的 r 阶矩存在，记为
E ( X r ) r (1 , 2 ,, k )
1 r 样本 X1, X2,…, Xn 的 r 阶矩为 Br X i n i 1 令 1 n r r (1 , 2 ,, k ) X i r 1,2,, k n i1 —— 含未知参数 1,2, ,k 的方程组
L( x1 ,, xn ;1,, k ) max {L( x1 , x2 ,, xn ;1 , 2 ,, k )}
(1 , 2 ,, k )
则称 1 ,, k 为1,…, k 的极大似然估计值


7-25
显然，
ˆr g ( x1 , x2 ,, xn )
7-18
例6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值. 解 总体 X 的概率分布为 x 1 x P( X x) p (1 p) , x 0,1
设 x1, x2,…, xn为总体样本X1, X2,…, Xn 的样本值, 则 P( X 1 x1 , X 2 x2 ,, X n xn )
L L( x1 , , xn ; 1 , , m ) f ( x i ; 1 , , m )
i 1
n
（2）写出对数似然函数(对似然函数求导)
ln L
i 1
n
d ln L ln f ( x i ; 1 , , m ) (只有一个待估参数时求 d )
（3）写出似然方程 ln L
ˆ X
1 n 2 1 n ~2 2 2 2 ˆ Xi X (Xi X ) S n i 1 n i 1
ˆ 即: X ~2 ˆ S
2
不论总体X 服从什么分布，其 数学期望和方差的矩估计量分 别为样本均值和二阶样本矩
ch7-1 10
例2
. 求未知参数 的矩估计量
i 1 n
xi , i 1,2,, n
(1 ,, k )
7-24
若 L( x1 ,, xn ;1,, k ) 关于1, …, k可微,则称 L( x1 , x2 ,, xn ;1 , 2 ,, k ) 0 r 1,2,, k r 为似然方程组 若对于某组给定的样本值 x1, x2,…, xn， 参数 ˆ1 ,ˆ2 ,,ˆk 使似然函数取得最大值, 即
1 10 解 E ( X ) x xi 1147(h) 10 i 1

1 2 2 2 ˆ D( X ) xi x 6821(h ). 10 i 1
2

10
7-15
例5 设总体 X ~ U (a, b), a, b 未知, 求参数 a, b 的 矩法估计量. 2 ab (b a) 解 由于 E ( X ) , D( X ) 2 12 2 2 (b a) a b 2 2 E ( X ) D( X ) E ( X ) 12 2 ˆ ˆ ab 令 X 2 2 2 ˆ ˆ ˆ ˆ (b a) a b 1 n 2 A2 X i 2 12 n i 1
于是 的估计值为 3.045

7-9
矩法 用样本 k 阶矩作为总体 k 阶矩的
方法 估计量, 建立含有待估参数的方程,
从而解出待估参数 一般, 不论总体服从什么分布, 总体期望 与方差 2 存在, 则它们的矩估计量分别为
n 1 1 2 ˆ X i X ( X i X ) 2 S n2 ˆ n i 1 n i 1
参数估计的类型
点估计 —— 估计未知参数的值 区间估计—— 估计未知参数的取值范围， 并使此范围包含未知参数 真值的概率为给定的值.
第一节 点估计问题
点估计的思想方法
7-5
设总体X 的分布函数的形式已知, 但含有 一个或多个未知参数：1,2, ,k 设 X1, X2,…, Xn为总体的一个样本 构造 k 个统计量：
p
x
i 1
n
i
(1 p)
n
x
i 1
n
i
L( p) xi 0,1, i 1,2,, n
对于不同的 p , L (p)不同, 见右下图
Lp 0.01 0.008 0.006 0.004 0.002 0.2 p 0.4 0.6 0.8 1
7-19
p ˆ
现经过一次试验， 事件
似然函数为 L( ) f ( xi , )
i 1 n
7-23
注2 未知参数可以不止一个, 如1,…, k 设X 的密度(或分布)为 f ( x,1 ,, k ) 则定义似然函数为
L( x1 ,, xn ;1 ,, k )
L(1 , , k ) f ( xi ,1 ,, k )
ˆ L( x1 , x2 ,, xn , )

称这样得到的 ˆ g ( x1 , x2 ,, xn )
为参数 的极大似然估计值 简记 mle 称统计量 g ( X , X ,, X ) 1 2 n 为参数 的极大似然估计量 简记 MLE

注1 若 X 连续, 取 f (xi, )为Xi 的密度函数
记为
L( x1 , x2 ,, xn , ) L( )
或
xi u1 , u2 ,, i 1,2,, n,
称 L( ) 为样本的似然函数
7-22
极大似然法的思想 选择适当的 = ˆ ,使L( ) 取最大值, 即
max{ f ( x1 , ) f ( x2 , ) f ( xn , )}
( X 1 x1 , X 2 x2 ,, X n xn )
发生了， 则 p 的取值应使这个事件发生 的概率最大.
在容许范围内选择 p ，使L(p)最大 注意到，ln L(p)是 L 的单调增函数,故若
n xi 令 1 dlnL i 1 i 1 ˆ 0 p dp p 1 p n
ˆk ( x1 , x2 ,, xn )

数值
ˆ 称数 1 , k为未知参数 1 ,, k 的估计值 对应统计量 为未知参数 1 ,, k 的估计量 如何构造统计量？ 问 题 如何评价估计量的好坏？
7-7
三种常用的点估计方法
频率替换法
利用事件A 在 n 次试验中发生的频率
7-20
某个p 使ln L(p)最大, 则这个p 必使L(p)最大。
xi
n
n
x x
i 1 i
n
n n d 2lnL xi n xi i 1 i1 2 0 dp 2 p (1 p) 2
所以
ˆ p x 为所求 p 的估计值.
n
7-12
解方程组 , 得 k 个统计量： ˆ1 ( X 1 , X 2 , , X n ) 未知参数 1, ,k 的矩估计量 ˆ ( X , X , , X )
k 1 2 n
代入一组样本值得 k 个数:
1 ˆ1 ( x1 , x2 ,, xn )
ˆ ( x , x ,, x )
nA / n 作为事件A 发生的概率 p 的估计量
nA p p n
例1 设总体X ~ N ( , 2 ), 在对其作28 次 用频率替换法求参数 的估计值.
7-8
独立观察中, 事件 “X < 4” 出现了21 次, 试
4 21 解 由 P( X 4) ( ) 0.75 28 2 4 0.675 查表得 2
, 设总体 X ~ U (0, ) , X1 , X 2 , , X n 为取自该总体的样本
解 因为 E ( X ) , 所以由 X , 可解得 2 X , 2 2 故未知参数 的矩估计量为 ˆ 2 X .