第1.2节 充分统计量与完备统计量

1
1 n n 2 exp{ − ∑ ( x i − x ) } exp{ − ( µ − x ) 2 } = 2 i =1 2 ( 2 π )n
1 其 中 T ( x1 , x 2 , L , x n ) = x , h( x1 , x 2 , L , x n ) = exp{ − 2 n 1 2 ∑ ( x i − x ) }, g (T ( x1 , x 2 ,L , x n ), θ ) = ( 2 π ) n exp{ i =1 n − ( µ − T ) 2 }, 因 而 ， X 是 充 分 统 计 量 2
i =1
g (T ( x1 , x 2 , L , x n ), θ ) =
1 ( 2 πσ )
n
exp{ −
1 2σ
2
∑x
i =1
n
2 i
+
nµ
σ
2
x
n nµ 2 }, 因 而 ， T ( x1 , x 2 , L , x n ) = ( x , ∑ x i2 )T 是 充 分 统 计 向 量 。 − 2σ 2 i =1
i =1
=
P{ X1 = x1 , X 2 = x2 ,L , X n = xn } P {∑ X i = k }
i =1 n
=
P{ X1 = x1 }P{ X 2 = x2 }L P{ X n = xn } P {∑ X i = k }
i =1 n
∑ xi n − ∑ xi n p i =1 (1 − p ) i =1 , ∑ xi = k , = k k n− k C n p (1 − p ) i =1 0, 其他，
证明涉及测度论， 证明涉及测度论，从略 说明： 说明：
如果 参数θ 为 向量时 ，统 计量T 也是 随机 向量，wenku.baidu.com例如
i =1
θ = ( µ , σ ), 则相应的统计向量可以为T = ( X , S ).
2 2 n
以下将通过几个例子来说明判别法则的应用
根据因子分解定理证明例2.3 例2(p8 例1.4) 根据因子分解定理证明例2.3 解
n
其中h是x1 , x2 ,L , xn的非负函数且与θ 无关，g仅通 过T 依赖于x1 , x2 ,L , xn .
(2) 离散型情况
i =1
设总体X的分布律P{ X = x } = p( x , θ ),( i = 1, 2,L),
(i ) (i)
( X1 , X 2 ,L , X n )T 是一个样本，T ( X1 , X 2 ,L , X n )是一
P{ X1 = x1 , X 2 = x2 ,L , X n = xn }
p ∑ xi = p i =1 (1 − p) i =1 = (1 − p ) ( ) i =1 1− p n ∑ xi p n i =1n p nX n n ( ) ( ) = 1 1 − p) ( = 1 1 − p ) ( 1− p 1− p
个 统 计 量 ， 则 T 是 θ的 充 分 统 计 量 的 充 要 条 件 是 ： 样本的联合分布律可以分解为
P ( x ( i ) ,θ ) = h( x1 , x2 ,L , xn ) g (T ( x1 , x2 ,L , xn ),θ ) ∏
n
其中h是x1 , x2 ,L , xn的非负函数且与θ 无关，g仅通 过T 依赖于x1 , x2 ,L , xn .
例4(p9 例1.6) 设( X1 , X 2 ,L , X n )T 是来自正态总体 1.6
1 n ,1)的 N(µ ,1)的一个样本，试证X = ∑ X i 是参数µ的充 n i =1 分统计量. 1 −{ ∑ ( x − µ ) } 1 2 解 L( µ ) = e
n 2 i i =1
( 2 π )n 1 1 n exp{ − ∑ ( x i − x + x − µ ) 2 = 2 i =1 ( 2 π )n 1 1 n n 2 exp{ − ∑ ( x i − x ) − ( µ − x ) 2 } = 2 i =1 2 ( 2 π )n
!
∏x
i =1
n
λ nX e − nλ
i
!
其 中 T ( x 1 , x 2 , L , x n ) = X , h ( x1 , x 2 , L , x n ) =
1
∏x
i =1
n
, g ( T ( x1 ,
i
!
x 2 , L , x n ), θ ) = λ nT e − nλ , 因 而 ， X 是 充 分 统 计 量
T 维 )统计量，当给定T = t时，若样本（X 1 , X 2 ,L , X n）的
条件 分 布 (离 散 总体 为 条 件概 率 ， 连续 总 体 为条 件 密 度) 与 参 数θ 无关 ， 则 称T 为 θ 的充 分 统 计量 .
3. 充分统计量的意义 如果知道了统计量T的观察值以后， 如果知道了统计量 的观察值以后，样本的条 的观察值以后 件分布与θ无关， 件分布与θ无关，也就是样本的剩余部分不再包含 关于θ的信息，换言之， 关于θ的信息，换言之，在T中包含了关于θ的全部 中包含了关于 信息，因此要做关于θ的统计推断，只需用统计量T 信息， 的统计推断， 就足够啦. 就足够啦. 1.3) 例1(p6 例1.3 设总体X 服从两点分布B(1, p),即
2 例如，设总体服从N ( µ , σ 2 ), 在上一节中，用X , Sn ,
2 去估计总体的µ 和σ 2， X , Sn 是否将µ 和σ 2的信息完全提
炼出来呢？
2. 定义 1922年英国统计学家 年英国统计学家Fisher提出了描述总体信息 年英国统计学家 提出了描述总体信息 是否被完全提炼的概念—充分统计量 充分统计量. 是否被完全提炼的概念 充分统计量 定义 1.4 设X 1 , X 2 ,L , X n是来自总体X 具有分布函数 F ( x ,θ )的一个样本，T = T ( X 1 , X 2 ,L , X n )为一个(一维或多
第1.2节 充分统计量与完备统计量 1.2节
一、充分统计量 二、因子分解定理 三、完备统计量 四、指数型分布族
一、充分统计量
1. 问题的引出 由于样本来自总体， 由于样本来自总体，抽取出来的样本包含有总体 的信息。 的信息。数理统计主要是利用样本信息推断总体的信 如何将样本中包含总体的信息提取出来？ 息，如何将样本中包含总体的信息提取出来？以及是 否将样本中包含总体的信息完全提取出来？ 否将样本中包含总体的信息完全提取出来？这些都是 数理统计需要解决的问题。 数理统计需要解决的问题。
n n
1 k, = Cn 0,
∑x
i =1
n
i
= k,
其他，
显然该条件分布与p无关，因而X 是p的充分统计量.
利用定义判别充分统计量比较麻烦， 说明 利用定义判别充分统计量比较麻烦，因而需 要需求更好的判别准则。 要需求更好的判别准则。
二、因子分解定理
1. 充分统计量的判别准则 定理1.3(因子分解定理 因子分解定理)(Fisher-Neyman准则 准则) 定理 因子分解定理 准则 (1) 连续型情况
X 2 ,L , X n )为完备统计量.
说明 完备性的含义不是很显然. 但它具有下列性质 完备性的含义不是很显然
一方面，Pθ { g1 (T ) = g2 (T )} = 1, ∀θ ∈ Θ, ⇒ Eθ ( g1 (T )) = Eθ ( g2 (T )), ∀θ ∈ Θ 另一方面，Eθ ( g1 (T )－( g2 (T ))＝0, ∀θ ∈ Θ ⇒ Pθ { g1 (T ) = g2 (T )} = 1, ∀θ ∈ Θ,
1.7) 例5(p9 例1.7 设( X1 , X 2 ,L , X n )T 是来自正态总体
)的 N(µ ,σ 2 )的一个样本，试证T(X1 , X 2 ,L , X n ) = ( X , X i2 )T 是参数θ =(µ , σ 2 )T的联合充分统计量. ∑
i =1 n
解 L( µ ) =
P{ X = x } = p x (1 − p )1− x , x = 1, 0,
( X1 , X 2 ,L , X n )T 是来自总体X的一个样本，试证
1 n X = ∑ X i 是参数p的充分统计量. n i =1
证 利用定义证明其是充分统计量
k P{ X1 = x1 , X 2 = x2 ,L , X n = xn | X = } n k P{ X1 = x1 , X 2 = x2 ,L , X n = xn , X = } n = k P{ X = } n P{ X1 = x1 , X 2 = x2 ,L , X n = xn , nX = k } = P{nX = k } n P{ X1 = x1 , X 2 = x2 ,L , X n = xn , ∑ X i = k } i =1 = n P {∑ X i = k }
的随机变量g ( X ), 总有
Pθ { g( X ) = 0} = 1, 对一切θ ∈ Θ，
则称{F ( x , θ ), θ ∈ Θ}为完备的分布函数族.
定义 1.6 设X 1 , X 2 ,L , X n是来自总体X 具有分布函数 F ( x ,θ )的一个样本，T = T ( X 1 , X 2 ,L , X n )的分布函数族 { FT ( x ,θ ),θ ∈ Θ}是完备的分布函数族，则称T = T ( X 1 ,
设总体X 具有分布密度f ( x , θ ),( X1 , X 2 ,L , X n )T
是一个样本，T ( X1 , X 2 ,L , X n )是一个统计量，则T
是θ的充 分统 计量 的 充要 条件 是： 样本 的 联合 分布 密度可以分解为
L(θ ) = ∏ f ( xi , θ ) = h( x1 , x2 ,L , xn ) g (T ( x1 , x2 ,L , xn ), θ )
n− n
∑ xi
n
∑ xi
n
n
其中T ( x1 , x2 ,L , xn ) = X , h( x1 , x2 ,L , xn ) = 1, g(T ( x1 , p nT x2 ,L , xn ), θ ) = (1 − p) ( ) , 因 而， X 是充 分 统 计 量 1− p
n
T 例3(p8 例1.5)设( X1 , X 2 ,L , X n ) 是来自泊松分 1.5
1 n 布P (λ )的一个样本，试证X = ∑ X i 是参数λ的充 n i =1 分统计量. ∑x
n
解 P { X 1 = x1 , X 2 = x 2 , L , X n = x n } =
∑ xi = 1
n
λ
n
i
i =1
∏x
i =1
e − nλ
i
!
∏x
i =1
n
λ
i
n
i =1
n
e
− nλ
=
1
2. 充分统计量的函数特性 定理1.4 设T = T ( X1 , X 2 ,L , X n )是θ的一个充分统 定理
计量，f ( t )是一个单值可逆函数，则f (T )也是θ的一 个 充 分统 计量 .
以连续型为例， 证 n 以连续型为例，由因子分解定理可知 L(θ ) = ∏ f ( xi , θ ) = h( x1 , x2 ,L , xn ) g (T ( x1 , x2 ,L , xn ), θ )
= h( x1 , x2 ,L , xn ) g( f −1 ( f (T ( x1 , x2 ,L , xn ))), θ ) = h( x1 , x2 ,L , xn )q( f ( x1 , x2 ,L , xn ), θ )
i =1
由因子分解定理可知，f ( x1 , x2 ,L , xn )是θ的充分统 计 量 ， 因 而 充分 统 计 量 不 唯 一 .
= 1
1 ( 2 πσ ) n
n
−{
1 2σ
2
∑ ( x i − µ )2 }
i =1
n
e
( 2 πσ )
exp{ −
1 2σ 2
n
∑
i =1
n
x i2 +
nµ
σ2
nµ 2 x− } 2 2σ
其 中 T ( x1 , x 2 , L , x n ) = ( x , ∑ x i2 )T , h ( x1 , x 2 , L , x n ) = 1,
了解内容) 三、完备统计量(了解内容 完备统计量 了解内容
统计量的充分性与完备性在寻找参数的优良估 计中将起到重要的作用. 计中将起到重要的作用 定义1.5 设总体的分布函数族为F ( x , θ )(θ ∈ Θ) 定义 ， 若对 于任 意 一个 满 足 Eθ [ g ( X )] = 0, 对一切θ ∈ Θ，