1.2 充分统计量与完备统计量

1− p
∑ 若取
T ( x1,
x2 ,",
xn ) =
1 n
n i =1
xi ,
h ( x1, x2 ,", xn ) =1,
g
(T (
x1 ,
x2 ,",
xn);
p)
=
(1
−
p)n( p 1−
) nT p
,
则有 P{ X1 = x1, X 2 = x2 ,", X n = xn } =h ( x1, x2 ,", xn ) g(T ( x1, x2 ,", xn ) ;p),
Pθ {g1(T ) = g2(T )} ＝1， ∀ θ ∈ Θ
⇒ Eθ ⎡⎣g1(T )⎤⎦ = Eθ ⎡⎣g2 (T )⎤⎦ ， ∀ θ ∈ Θ 但反之不一定成立，若 T 是完备统计量，即 T 的分布函
数族是完备分布函数族，则由定义 1.5 知，对于
Eθ ⎡⎣g1(T ) − g2(T )⎤⎦ ＝0， ∀ θ ∈ Θ
有关而与参数θ 无关，则称 f ( x,θ ) 为指数型分布族，对于
离散型总体，如果其样本的联合分布律可以表达成(1.8) 的形式，也同样称它为指数型分布族。
例 1（补充）正态分布族，二项分布族是指数型分布族。 例 2（补充）均匀分布族，二参数指数分布族（当位置参 数已知时）不是指数型分布族。
完备统计量的含义不如充分统计量那么明确，但由定
义可见它有如下特征：
Pθ {g1(T ) = g2(T )} ＝1， ∀ θ ∈ Θ
⇔ Eθ ⎡⎣g1(T )⎤⎦ = Eθ ⎡⎣g2(T )⎤⎦ ，｛F(x; θ ),θ ∈ Θ｝ ∀ θ ∈ Θ (1.7) 对于一般的统计量T = T ( X1, X2,", Xn ) ，总有
∑ 由因子分解定理知,T ( X1 , X 2 ,", X n ) =
1 n
n i =1
Xi
=
X
是 p 的充分统计量.
例 1.5 设 ( X1,..., Xn )T 是来自泊松分布 P( λ )的一个样本,
试证明样本均值 X 是 λ 的充分统计量.
证明 样本 ( X1,..., Xn )T 的联合分布律为
P
⎧ ⎨
X
⎩
=
k⎫
n
⎬ ⎭
=
C
k n
pk (1 −
P )n−k
，k＝0，1，2，…n；0<p<1.
设 g( X ) 使得
∑ E p
⎡⎣ g( X
)⎤⎦
=
n k=0
g
⎛ ⎜⎝
k n
⎞⎟⎠C
k n
pk (1 −
p)n−k
＝0，对一切
0<p<1,
∑ 即 (1 −
p)n
n k=0
g
⎛ ⎜⎝
k n
⎞⎟⎠Cnk
依赖于 x1 , x2 ,", xn .
例 1.4 根据因子分解定理证明例 1.3.
证明 样本的联合分布律为
P{ X1 = x1 , X 2 = x2 ," , X n = xn }
n
n
n
∑ xi
∑ n− xi
= p i=1 (1 − p) i=1 = (1 − p)n (
p
∑ xi ) , i=1
n
∏ P{ X1
=
x1, X 2
=
x2,", Xn
=
xn} =
∑ xi λ e i=1
− λn
/
n
xi !,பைடு நூலகம்
i =1
∑ ∏ 若取
T ( x1,
x2 ,",
xn ) =
1 n
n i =1
xi ,
n
h ( x1, x2 ,", xn ) =1/ xi!
i =1
g(T ( x1, x2 ,", xn ) ; λ )= λnT e−nλ ,
(1.5)
Pθ {g( X ) = 0} = 1 ，对一切θ ∈ Θ， 则称｛F(x;θ ), θ ∈Θ｝为完备的分布函数族。
(1.6)
定义 1.6 设 ( X1,..., Xn )T 为来自总体 F(x;θ )的一个样本， θ ∈ Θ 。 若 统 计 量 T = T(X1, X2 ,", X n ) 的 分 布 函 数 族 ｛ FT(x; θ ), θ ∈ Θ ｝ 是 完 备 的 分 布 函 数 族 ， 则 称 T = T ( X1 , X 2 ,", X n ) 为完备统计量。
即
X
=
k n
时，样本 (
X 1 ,...,
X n )T
的条件概率
P{ X 1
=
x1 ,
X2
=
x2 ,",
Xn
=
xn
|
X
=
k} n
=
P{ X1
=
x1 ,
X2
=
x2 ,",
Xn
=
xn ,
X
=
k} n
P{X = k }
n
∑ ⎧
⎪ P{X1
=
x1, X 2
=
x2 ,",
X n−1
=
xn−1, Xn
=
k
−
n−1
是参数
p
的充分统计量.
n
证明 由于 X i ~ B(1, p) , 易知 nX = ∑ X i ~ B(n, p), 即有 i =1
P{nX
=
k} =
C
k n
pk (1 −
p)n−k , k
=
0,1,", n.
n
设 ( X1, ..., Xn )T 为样本值，其中 xi =0 或 1。当已知 ∑ xi = k ， i =1
xi }
⎪
i =1
,
=
⎪ ⎨
P{nX = k}
⎪
⎪ ⎪⎩
0,
n
∑ xi ≠ k
i =1
n
n
∑ xi
∑ n− xi
=
∑ p i=1 (1 − p) i=1
C
k n
pk (1 −
p)n−k
n
, xi = k ，
i =1
n
0，
∑ xi ≠ k 。
i =1
⎧1
=
⎪⎪ ⎨
Cnk
,
⎪ ⎪⎩
0,
n
∑ xi = k
?17?e??g1t??e??g2t??对于一般的统计量ttx1x2xn总有pg1tg2t1??e??g1t??e??g2t???但反之不一定成立若t是完备统计量即t的分布函数族是完备分布函数族则由定义15知对于e??g1t?g2t??0?总有pg1tg2t1?即式17成立
1.2 充分统计量与完备统计量
律可表示为
n
∏ P{ X1 = x1 , X 2 = x2 ,", X n = xn } = P{ X = xi } i =1
= h( x1, x2 ,", xn )g(T ( x1, x2 ,", xn );θ ),
(1.4)
其中 h 是 x1, x2 ,", xn 的非负函数且与θ 无关, g 仅通过 T
1 exp{− n (µ − T )2 },
2π )n
2
则 L(µ ) = h ( x1, x2 ,", xn ) g(T ( x1, x2 ,", xn ) ; µ ). 由因子分解定理知,T ( X1 , X 2 ,", X n ) = X 是 µ 的充分统计 量.
例（补充）求出均匀分布U(0,θ ) 中参数θ 的充分统计量.
⎛ ⎜ ⎝
p 1−
p
⎞k ⎟ ⎠
＝0，
对一切 0<p<1
∑ 或
n k=0
g
⎛ ⎜⎝
k n
⎞⎟⎠Cnk
⎛ ⎜ ⎝
1
p −
p
⎞k ⎟ ⎠
＝0，
对一切 0<p<1.
上式是关于
⎛ ⎜
⎝
p 1− p
⎞ ⎟ ⎠
的多项式，对一切
0<p<1
要使多项式
值为零，只能是它的每项系数为零，即
g
⎛ ⎜⎝
k n
⎞ ⎟⎠
＝0，
（k＝0，1，2，…n）。由定义知 X 是 p 完备统计量。
n
T=(
X
,
∑
X
2 i
)和
θ
= (µ,σ 2 ) 的函数.
故由因子分解定理知
i =1
n
T=(
X,∑
X
2 i
)是θ
=
(µ,σ
2 ) 的一个联合充分统计量.此时,显
i =1
n
然不能说
∑
X
2 i
是
σ
2
的充分统计量.（因在估计
σ
2
时，仅
i =1
n
用
∑
X
2 i
是不够的）
i =1
定理 1.4 设 T= T ( X1 , X 2 ,", X n ) 是θ 的一个充分统计
i =1
n
∑ xi ≠ k
i =1
与 p 无关，所以 X 是 p 的充分统计量.
n
∑ xi = k
i =1
二、因子分解定理
定理 1.3 (因子分解定理)
（1）连续型情况:设总体 X 具有分布密度 f(x;θ ), ( X1, X 2 ,", X n )T 是一个样本, T ( X1 , X 2 ,", X n ) 是一个统计
试证明样本均值 X 是 µ 的充分统计量.
证明 样本 ( X1, X 2 ,", X n ) T 的联合分布密度为
∑ L(µ) =
(
1 2π
n
)
exp{−
1 2
n i =1
( xi
−
µ )2 }
∑ =
(
1 2π
n
)
exp{−
1 2
n i =1
( xi
−
x)2
−
n 2
(µ
−
x )2 }
∑ =
(
1 2π
m
m
∏ ∑ f ( xi ,θ ) = C(θ )exp{ bj (θ )Tj ( x1, x2 ,", xn )}h( x1, x2 ,", xn ) (1.8)
i =1
i =1
且对于 f ( x,θ ) 的支撑{ x : f ( x,θ } > 0}不依赖于θ . 其中
C(θ ), bj (θ ) 只与参数θ 有关而与样本无关，Tj ,h 只与样本
n
)
exp{−
1 2
n
( xi
i =1
−
x)2 }exp{−
n (µ 2
−
x )2 }
若取
∑ T ( x1, x2 ,", xn ) =
1 n
n i =1
xi
=
x
,
∑ h ( x1,
x2 ,",
xn ) = exp{−
1 2
n i =1
( xi
−
x)2 },
g(T ( x1, x2 ,", xn ) ; µ )= (
如果一个统计量既是充分的，又是完备的，则称为充分
完备统计量。在寻求总体分布中未知参数的的优良估计
中，充分完备统计量扮演着重要的角色。
四、指数型分布族
定 义 1.7 设 总 体 X 的 分 布 密 度 为 f ( x;θ ) ， 其 中 θ = (θ1,...,θm )T ， ( X1,..., Xn )T 为其样本，若样本的联合分布 密度具有形式
Ans：
T
=
max{
1≤ i ≤ n
X
i
}
例 1.7 设 ( X1,..., Xn )T 是来自正态总体 N( µ,σ 2 )的一个样
n
本,
试证明
T
( X1 , X 2 ,", X n )
=(
∑ X ,
X
2 i
)是关于
i =1
θ = (µ,σ 2 ) 的联合充分统计量.
证明 样本的联合分布密度为
∑ L(θ ) =
T 依赖于 x1, x2 ,", xn .
（2）离散型情况: 设总体 X 是分布律为
P{ X = x} = p( x;θ } , (i = 1,2,")
( X1,..., Xn )T 是 X 一个样本,T ( X1 , X 2 ,", X n ) 是一个统计量, 则 T 是θ 的充分统计量的充要条件是: 样本的联合分布
总有 Pθ {g1(T ) = g2(T )} ＝1， ∀ θ ∈Θ 即式(1.7)成立。
例 1.8 设 ( X1, X 2 ,", Xn ) 是来自两点分布Ｂ(1,p)的样本。由
例
1.3
知
X
=
1 n
n
∑
i =1
xi
是
p
的充分统计量。下面验证
X
也是
完备统计量。
n
由于 nX = ∑ Xi 服从二项分布 B(n,p)，故 X 的分布律为 i =1
量,则 T 为θ 的充分统计量的充要条件是:
样本的联合分布密度可以分解为
n
L(θ )= ∏ f ( xi;θ ) i =1
=h ( x1 , x2 ,", xn ) g(T ( x1, x2 ,", xn ) ;θ ),
(1.3)
其中 h 是 x1, x2 ,", xn 的非负函数，且与θ 无关, g 仅通过
则 P{ X1 = x1 , X 2 = x2 ,", X n = xn }
= h ( x1, x2 ,", xn ) g(T ( x1, x2 ,", xn ) ; λ ). 由因子分解定理知,T ( X1 , X 2 ,", X n ) = X 是 λ 的充分统计量. 例 1.6 设 ( X1,..., Xn )T 是来自正态总体 N( µ ,1)的一个样本,
量,f(t)是单值可逆函数, 则 f(T)也是θ 的充分统计量.
本定理说明，一个参数的充分统计量是不唯一的.
三、完备统计量
为了介绍完备统计量的概念，首先需要引入完备分
布函数族的概念。
定义 1.5 设总体 X 的分布函数族为｛F(x;θ ),θ ∈Θ｝
若对任意一个满足
Eθ [g( X )] = 0 ，对一切 θ ∈ Θ， 的随机变量 g(X), 总有
(
1 2π σ )n
exp{−
1 2σ
2
n
( xi
i =1
−
µ )2 }
∑ =
(
1 2π σ )n
exp{−
1 2σ 2
n i =1
xi 2
+
nµ σ2
x
−
nµ 2 2σ 2 }
= h ( x1, x2 ,", xn ) g(T ( x1, x2 ,", xn );θ ) .
其中 h( x1, x2 ,", xn ) = 1 ,而 g(T ( x1, x2 ,", xn ) ;θ )显然是