充分统计量与完备统计量

由因子分解定理可知，f ( x1, x2 ,L , xn )是的充分统
计量，因而充分统计量不唯一.
三、完备统计量(了解内容)
统计量的充分性与完备性在寻找参数的优良估 计中将起到重要的作用.
定义1.5 设总体的分布函数族为F ( x, )( )
，若对于任意一个满足
E [g( X )] 0, 对一切 ，
, Xn
xn
|
X
} n
k
P{ X1
x1, X2
x2 ,L
, Xn
xn, X
} n
P{X k }
n
P{ X1 x1, X 2 x2 ,L , X n xn , nX k}
P{nX k}
n
P{ X1 x1, X2 x2 ,L , Xn xn , Xi k}
i 1 n
P{ Xi k}
F ( x, )的一个样本，T T ( X1 , X2 ,L , Xn )为一个(一维或多
维)统计量，当给定T
t时，若样本（X1 , X2 ,L
,
X
）T的
n
条件分布(离散总体为条件概率，连续总体为条件密度)与参
数 无关，则称T为的充分统计量.
3. 充分统计量的意义
如果知道了统计量T的观察值以后，样本的条 件分布与 无关，也就是样本的剩余部分不再包含 关于 的信息，换言之，在T中包含了关于 的全 部信息，因此要做关于 的统计推断，只需用统计 量T就足够啦.
k}
nk )C
n
P{nX
k n
pk
(1
k}＝Cnk pk (1 p)nk
p)nk 0，则
,因而
(1
n
p)n
k0
g(
k n
)Cnk
( 1
p
p
)k
0，
即对任意的0
n
p 1,
k0
g(
k n
)Cnk
( 1
p
p
)k
0，而此式
是关于 p 的多项式，因而每项系数只能为0，则
1 p
g(
k n
）
0，因而满足Pp
过T依赖于x1, x2 ,L , xn .
(2) 离散型情况
设总体X的分布律P{ X x(i) } p( x(i) , ),(i 1, 2,L ),
( X1, X 2 ,L , X n )T 是一个样本，T ( X1, X 2 ,L , X n )是一
个统计量，则T是的充分统计量的充要条件是：
X , h( x1, x2 ,L
i 1
, xn )
1
n
, g(T ( x1,
xi !
i 1
x2 ,L , xn ), ) nTen ,因而，X是充分统计量
例4(p9 例1.6) 设( X1, X2 ,L , Xn )T 是来自正态总体
N(,1)的一个样本，试证X
1 n
n i 1
X i是参数的充
例如，设总体服从N (, 2 ),在上一节中，用X , Sn2 , 去估计总体的和 2， X , Sn2是否将和 2的信息完全提
炼出来呢？
2. 定义
1922年英国统计学家Fisher提出了描述总体信息 是否被完全提炼的概念—充分统计量.
定义 1.4 设X1 , X2 ,L , Xn是来自总体X具有分布函数
1g(1 p)n(
p )nX
1 p
1 p
其中T ( x1, x2 ,L , xn ) X , h( x1, x2 ,L , xn ) 1, g(T( x1,
x2 ,L
, xn ), ) (1
p)n( p )nT ,因而，X是充分统计量 1 p
例3(p8 例1.5)设( X1, X2 ,L , Xn )T 是来自泊松分
第1.2节 充分统计量与完备统计量
一、充分统计量 二、因子分解定理 三、完备统计量 四、指数型分布族
一、充分统计量
1. 问题的引出 由于样本来自总体，抽取出来的样本包含有总体
的信息。数理统计主要是利用样本信息推断总体的信 息，如何将样本中包含总体的信息提取出来？以及是 否将样本中包含总体的信息完全提取出来？这些都是 数理统计需要解决的问题。
i 1
P{ X1
x1, X 2
n
x2 ,L
, Xn
xn }
P{ Xi k}
i 1
P{X1
x1}P{ X 2
n
x2 }L
P{ X n
xn }
P{ Xi k}
i 1
n
n
xi
n xi
p i1 (1 p) i1
C
k n
pk (1
p)nk
,
n i 1
xi
k,
0,
其他，
1
Cnk
,
0,
n
, xn )
x, h( x1, x2 ,L
1 , xn ) exp{ 2
n
( xi
i 1
x)2 }, g(T ( x1, x2 ,L
, xn ), )
(
1 exp{
2π )n
n ( T )2 },因而，X是充分统计量
2
例5(p9 例1.7) 设( X1, X2 ,L , Xn )T 是来自正态总体
i 1
j 1
其中 (1,2 ,L ,m )T， ，如果包含一个m
维矩形，而且B (b1(1), b2 (2 ),L , bn (n ))T的值域
包含有一个m维的开集，则T (T1( X1, X2 ,L , Xn ),
T2 ( X1, X2 ,L , Xn ),L Tm ( X1, X2 ,L , Xn ))T 是参数 (1,2 ,L ,m )T的充分完备统计量.
例1(p6 例1.3) 设总体X服从两点分布B(1, p),即
P{ X x} px (1 p)1x , x 1, 0,
( X1, X2 ,L , X n )T 是来自总体X的一个样本，试证
X
1 n
n i 1
X i是参数p的充分统计量.
证 利用定义证明其是充分统计量
k
P{ X1
x1, X2
x2 ,L
(1,2 ,L
,m )T , X1, X2 ,L
,
X
为其样本，若样本
n
的联合分布密度具有形式
n
m
f ( xi , ) C( )exp{ bj ( )Tj ( x1, x2 ,L , xn )}h( x1, x2 ,L , xn )
i 1
j 1
其中C( ), bj ( )只与有关而与样本无关，Tj , h只与 样本有关，而与无关.则称f ( x, )为指数型分布族.
以下将通过几个例子来说明判别法则的应用
例2(p8 例1.4) 根据因子分解定理证明例2.3
解 P{ X1 x1, X 2 x2 ,L , X n xn }
n
n
n
xi
n xi
p i1 (1 p) i1 (1 p)n (
p xi ) i1
1 p
n
xi
1g(1 p)n (
p
n i1
)n
说明 对于离散型分布律也有类似的定义.
2、指数型分布族参数的充分完备统计量的构造
定理1.5 设总体X的分布密度为f ( x, )为指数型
分布族，即样本的联合分布密度具有形式
n
m
f ( xi , ) C( )exp{ bj ( )Tj ( x1, x2 ,L , xn )}h( x1, x2 ,L , xn )
证明（略）
例7(p12 例1.9) 设( X1, X2 ,L , Xn )T 是来自泊松分
布P ( )的一个样本，试证X
1 n
n i 1
X i是参数的充
分完备统计量.
n
xi
解
P{ X1 x1, X 2 x2 ,L , X n xn }
i1
n
e n
n
xi !
xi
i 1
1 n
n i1
分统计量. 解 L( )
(
1
{ 1
e 2
n i 1
(
xi
)2
}
2π )n
(
1 2π )n
exp{
1 2
n i 1
( xi
x
x
)2
(
1 2π )n
exp{
1 2
n i 1
( xi
x )2
n (
2
x)2 }
(
1 2π )n
exp{
1 2
n i 1
( xi
x)2 }exp{
n (
2
x)2 }
其中T ( x1, x2 ,L
xi k,
i 1
其他，
显然该条件分布与p无关，因而X 是p的充分统计量.
说明 利用定义判别充分统计量比较麻烦，因而需 要需求更好的判别准则。
二、因子分解定理
1. 充分统计量的判别准则 定理1.3(因子分解定理)(Fisher-Neyman准则) (1) 连续型情况
设总体X具有分布密度f ( x, ),( X1, X2 ,L , X n )T
g(T ( x1, x2 ,L , xn ), ) (
1
1
2π )n exp{ 2 2
n i 1
xi2
n 2
x
n 2
2 2
},因而，T
(
x1
,
x2
,L
, xn ) ( x,
n i 1
xi2 )T是充分统计向量。
2. 充分统计量的函数特性
定理1.4 设T T ( X1, X2 ,L , Xn )是的一个充分统 计量，f (t)是一个单值可逆函数，则f (T )也是的一
n
en en exp{ X gn ln }
1
n
xi !
xi !
i 1
其中T ( x1, x2 ,L
, xn )
X , h( x1, x2 ,L
1 i 1 , xn ) n
,
xi !
i 1
C() en , b() n ln ,因而，
例6(p11 例1.8) 设总体X服从两点分布B(1, p),即 P{ X x} px (1 p)1x , x 1, 0,
( X1, X2 ,L , X n )T 是来自总体X的一个样本，试证
X
1 n
n i 1
X i是参数p的完备统计量.
如果E
p
(
证 由于P{X
n
g( X ))
k0
g(
是一个样本，T ( X1, X2 ,L , Xn )是一个统计量，则T
是的充分统计量的充要条件是：样本的联合分布
密度可以分解为
n
L( ) f ( xi , ) h( x1, x2 ,L , xn )g(T ( x1, x2 ,L , xn ), ) i 1
其中h是x1, x2 ,L , xn的非负函数且与无关，g仅通
样本的联合分布律可以分解为
n
P( x (i) , ) h( x1, x2 ,L , xn )g(T ( x1, x2 ,L , xn ), )
i 1
其中h是x1, x2 ,L , xn的非负函数且与无关，g仅通
过T依赖于x1, x2 ,L , xn .
证明涉及测度论，从略
说明：
如果参数为向量时，统计量T也是随机向量，例如 (, 2 ),则相应的统计向量可以为T ( X , Sn2 ).
{
g(
X）
0}
1,
所以X
是完备
统计量.
充分完备统计量
如果一个统计量既是充分的，又是完备的，则称为 充分完备统计量.
四、指数型分布族
1、指数型分布族的概念 判断一个统计量T ( X1, X2 ,L , Xn )是否为充分
完备统计量比较复杂，为此介绍一类分布族，其参
数的充分完备统计量容易发现。
定义1.7 设总体X的分布密度为f ( x, ),其中
个充分统计量.
证 以连续型为例，由因子分解定理可知 n
L( ) f ( xi , ) h( x1, x2 ,L , xn )g(T ( x1, x2 ,L , xn ), )
i 1
h( x1, x2 ,L
, xn )g( f 1( f (T ( x1, x2 ,L
, xn ))), )
h( x1, x2 ,L , xn )q( f ( x1, x2 ,L , xn ), )
N(, 2)的一个样本，试证T(X1, X2 ,L , Xn ) ( X ,
n
X
2 i
)T
是参数
=(
,
2Baidu Nhomakorabea
)T的联合充分统计量.
i 1
解 L( )
1
e
{
1 2
2
n
( xi )2 }
i 1
( 2π )n
(
1
1
2π )n exp{ 2 2
n i 1
xi2
n 2
n 2 x 2 2 }
n
其中T ( x1, x2 ,L , xn ) ( x, xi2 )T , h( x1, x2 ,L , xn ) 1, i 1
X2 ,L , Xn )为完备统计量.
说明 完备性的含义不是很显然. 但它具有下列性质
一方面，P {g1(T ) g2(T )} 1, , E (g1(T )) E (g2(T )),
另一方面，E (g1(T )－(g2(T ))＝0, P {g1(T ) g2(T )} 1, ,
布P ( )的一个样本，试证X
1 n
n i 1
X i是参数的充
分统计量.
n
xi
解
P{ X1 x1, X 2 x2 ,L , X n xn }
i1
n
e n
1 n
n
xi
1 n i1 n
n
e n
xi ! i 1
nX e n
xi !
xi !
其中T ( x1, x2 ,L
i 1
, xn )
的随机变量g( X ),总有
P {g( X ) 0} 1, 对一切 ，
则称{F( x, ), }为完备的分布函数族.
定义 1.6 设X1 , X2 ,L , Xn是来自总体X具有分布函数 F ( x, )的一个样本，T T ( X1 , X2 ,L , Xn )的分布函数族
{FT ( x, ), }是完备的分布函数族，则称T T ( X1,