充分统计量与完备统计量概要28页PPT

合集下载

1.2 充分统计量与完备统计量

1− p
∑ 若取
T ( x1,
x2 ,",
xn ) =
1 n
n i =1
xi ,
h ( x1, x2 ,", xn ) =1,
g
(T (
x1 ,
x2 ,",
xn);
p)
=
(1
−
p)n( p 1−
) nT p
,
则有 P{ X1 = x1, X 2 = x2 ,", X n = xn } =h ( x1, x2 ,", xn ) g(T ( x1, x2 ,", xn ) ;p),
Pθ {g1(T ) = g2(T )} ＝1， ∀ θ ∈ Θ
⇒ Eθ ⎡⎣g1(T )⎤⎦ = Eθ ⎡⎣g2 (T )⎤⎦ ， ∀ θ ∈ Θ 但反之不一定成立，若 T 是完备统计量，即 T 的分布函
数族是完备分布函数族，则由定义 1.5 知，对于
Eθ ⎡⎣g1(T ) − g2(T )⎤⎦ ＝0， ∀ θ ∈ Θ
有关而与参数θ 无关，则称 f ( x,θ ) 为指数型分布族，对于
离散型总体，如果其样本的联合分布律可以表达成(1.8) 的形式，也同样称它为指数型分布族。
例 1（补充）正态分布族，二项分布族是指数型分布族。例 2（补充）均匀分布族，二参数指数分布族（当位置参数已知时）不是指数型分布族。
完备统计量的含义不如充分统计量那么明确，但由定
义可见它有如下特征：
Pθ {g1(T ) = g2(T )} ＝1， ∀ θ ∈ Θ
⇔ Eθ ⎡⎣g1(T )⎤⎦ = Eθ ⎡⎣g2(T )⎤⎦ ，｛F(x; θ ),θ ∈ Θ｝ ∀ θ ∈ Θ (1.7) 对于一般的统计量T = T ( X1, X2,", Xn ) ，总有

充分统计量与完备统计量PPT文档28页

前面，而不在我们的后面。
•
7、心急吃不了热汤圆。
•
8、你可以很有个性，但某些时候请收敛。
•
9、只为成功找方法，不为失败找借口 (蹩脚的工人总是说工具不好)。
•
10、只要下定决心克服恐惧，便几乎能克服任何恐惧。因为，请记住，除了在脑海中，恐惧无处藏身。-- 戴尔．卡耐基。
46、我们若已接受最坏的，就再没有什么损失。——卡耐基 47、书到用时方恨少、事非经过不知难。——陆游 48、书籍把我们引入最美好的社会，使我们认识各个时代的伟大智者。——史美尔斯 49、熟读唐诗三百首，不会作诗也会吟。——孙洙 50、谁和我一样用功，谁就会和我一样成功。——莫扎特

充分统计量_完备统计量_指数分布族

2．完备性 1）定义： F { p ( x; ), } ，设 g ( x) 是定义在样本空间上的一个实函数，一般来说，积分（如果存在） E[ g ( x )]

，因此上述积分（数学 g ( x) p ( x; )dx （）
期望）可以看作一个变换，且是一对一的变换. 即对， g1 ( x ) g 2 ( x ) 1 E g [ g1 ( x )] E g [ g 2 ( x )]

T t X 1 x1 , , X n xn ,
故
P X 1 x1 , , X n xn T t P T t ; h x1 , , xn g t , ,
P X 1 x1 , , X n xn ; P X 1 x1 , , X n xn , T t ;
i 1
n
5) 某些完全性定理（指数族的完全性）：设 X 的样本空间为 ( x, x ) ，分布族为指数族，对，有
dp ( x) c( ) exp[ iTi ( x)]du ( x) ，此处为 Rk 之一子集，若（作为 Rk 的子
i 1
k
集）由内点，则统计量 t ( x) (T1 ( x), , Tk ( x)) 是完全统计量. 定理（次序统计量的完全性）：设分布族 f 满足以下两个条件：
P X x, T X t

u A t
g t h x g t h u
u A t
h x , h u
它与参数无关.又若 x A t , 则T x t ,

太原理工大学数理统计课件第1.2节充分统计量与完备统计量教材

n
解 P { X1 x1 , X 2 x2 ,
1
n
, X n xn }
n

n
i
i 1
xi
x !
i 1 i
e n
x !
i 1 i
n

n
i 1
n
e

1
x !
i 1 i
n
nX e n
1 , g(T ( x1 ,
其中T ( x1 , x2 , x2 ,
例5(p9 例1.7) 设( X1 , X 2 ,
n
, X n )T 是来自正态总体 , Xn ) (X ,
N( , 2 )的一个样本，试证T(X 1 , X 2 ,
i 1
2 T 2 T X ) 是参数 =( , ) 的联合充分统计量. i
解 L( )
1
1 ( 2π )n
k P{ X1 x1 , X 2 x2 , , X n xn | X } n k P{ X1 x1 , X 2 x2 , , X n xn , X } n k P{ X } n P{ X1 x1 , X 2 x2 , , X n xn , nX k } P{nX k } n P{ X1 x1 , X 2 x2 , , X n xn , X i k } i 1 n P { X i k }
n i 2 i 1
( 2 π )n 1 1 n 2 exp{ ( x x x ) i n 2 ( 2π ) i 1 1 1 n n 2 2 exp{ ( x x ) ( x ) } i n 2 i 1 2 ( 2π )
1 n n 2 2 exp{ ( x x ) }exp{ ( x ) } i n 2 i 1 2 ( 2π ) 1

充分统计量与完备统计量

完备统计量的含义不如充分统计量那么明确，但由
定义可见它有如下特征：
P g1 (T ) g2 (T ) 1， E g1 (T ) E g2 (T )，。
（1.7）
对于一般的统计T T ( X 1 , X 2 , , X n ) ，总有
对统计量 T，如果已知它的值以后，样本的条件分布与无关，就意味着样本的剩余部分中已不再包含关于的信息，也就是在 T 中已包含有关的全部信息。因此，对的统计推断只需要从 T 出发即可，不再需要样本数据。
二、因子分解定理
根据充分统计量的含义，在对总体未知参数进行推断时，应在可能的情况下尽量找出关于未知参数的充分统计量。但从定义出发来判别一个统计量是否是充分统计量是很麻烦的。为此，需要一个简单的判别准则。下面给出一个定理——因子分解定理，运用这个定理，判别甚至寻找一个充分统计量有时会很方便。
n P ( X 1 x1 , X 2 x 2 , , X n x n ) , 如果 x i k， P (n X k ) i 1 n 0, 如果 x i k ， i 1 n n xi n xi n p i 1 (1 p ) i 1 , 如果 xi k， k k nk C n p (1 p ) i 1 n 0 , 如果 xi k， i 1 n 1 C k , 如果 xi k， i 1 n n 0, 如果 xi k， i 1
其中 h( x1 , x2 ,, xn ) 1 ，
而 g (T ( x1 , x2 , , xn ); ) 显然是 T ( x , xi2 ) 和 ( , 2 ) 的函数。故由因子分解定理知 T ( X , x i2 ) 是 ( , 2 )

充分统计量_完备统计量_指数分布族

为T X 的函数,而另一个仅为 x 的函数,与参数无关,则T X 是的充分统计量.
2．完备性
1）定义： F { p(x; ), }，设 g(x) 是定义在样本空间上的一个实函数，一般来
说，积分（如果存在） E[g(x)] g(x) p(x; )dx （），因此上述积分（数学
}
exp{
x2 2 2
x 2}
其中 c(, )
1 2
exp{
2 2 2
},
c1
(
,
)
2
, c2 (,
)
1 2
2
h(x) 1,T1(x) x,T2 (x) x2
伽玛分布族：
p ,
(x)
( )
x 1ex
exp{ x ( 1) ln x} ( )
c( , ) exp{c1( , )x c2 ( , ) ln x}, x 0
计量 T T (X1, X2,, Xn ) 称为的充分统计量，如果在给定 T 的取值后，
X1, X 2 ,, X n 的条件与无关.
即不包含关于参数的信息
2）定理 5.5.1（因子分解定理 Factorization Theorem）：设总体概率函数为 f (x; ) ，
P
X
x
T
X
t
P
X P
x,T
T X
X t
t
P P T t
0.
也与无关.因此,条件分布 f x t f x t 与无关,即T X 是的充分统计量.
必要性设 T X 是的充分统计量,由充分统计量的定义, P X x T X t 与
参数无关,它是 x 的函数,记为 h x. 于是,对任意固定的 t ,当 x At 时,T x t

第1.2节充分统计量与完备统计量

T 维 )统计量，当给定T = t时，若样本（X 1 , X 2 ,L , X n）的
条件分布 (离散总体为条件概率，连续总体为条件密度) 与参数θ 无关，则称T 为 θ 的充分统计量 .
3. 充分统计量的意义如果知道了统计量T的观察值以后，如果知道了统计量的观察值以后，样本的条的观察值以后件分布与θ无关，件分布与θ无关，也就是样本的剩余部分不再包含关于θ的信息，换言之，关于θ的信息，换言之，在T中包含了关于θ的全部中包含了关于信息，因此要做关于θ的统计推断，只需用统计量T 信息，的统计推断，就足够啦. 就足够啦. 1.3) 例1(p6 例1.3 设总体X 服从两点分布B(1, p),即
例4(p9 例1.6) 设( X1 , X 2 ,L , X n )T 是来自正态总体 1.6
1 n ,1)的 N(µ ,1)的一个样本，试证X = ∑ X i 是参数µ的充 n i =1 分统计量. 1 −{ ∑ ( x − µ ) } 1 2 解 L( µ ) = e
n 2 i i =1
( 2 π )n 1 1 n exp{ − ∑ ( x i − x + x − µ ) 2 = 2 i =1 ( 2 π )n 1 1 n n 2 exp{ − ∑ ( x i − x ) − ( µ − x ) 2 } = 2 i =1 2 ( 2 π )n
= h( x1 , x2 ,L , xn ) g( f −1 ( f (T ( x1 , x2 ,L , xn ))), θ ) = h( x1 , x2 ,L , xn )q( f ( x1 , x2 ,L , xn ), θ )
i =1
由因子分解定理可知，f ( x1 , x2 ,L , xn )是θ的充分统计量，因而充分统计量不唯一 .

充分统计量与完备统计量PPT课件

1
2
m
T (T ( X , X ,, X ),T ( X , X ,, X ),T ( X , X ,, X ))
1
1
2
n
2
1
2
n
m
1
2
n
是参数 (1 ,2 ,,m )的充分完备统计量。
第22页/共27页
例 1.9 设总体 X 服从泊松分布P( ), X1, X2 ,, Xn为
其样本，样本的联合分布律为
这即是说在统计量T 的取值为 t 的情况下
样本 x 的条件分布F(x|T=t) 已不含的信息，
这正是统计量具有充分性的含义。
第3页/共27页
例. 设总体 X 服从两点分布 B(1, p) ,即
P(X=x)= px (1 p)1x ,x=0,1,
其中 0<p<1, （ X , X ,, X ）为来自总体 X 一个样本,
例为研究某个运动员的打靶命中率，我们对该运动员进行测试，观测其10次，发现除第三、六次未命中外，其余8次都命中。这样的观测结果包含了两种信息：
(1)打靶10次命中8次； (2)2次不命中分别出现在第3次和第6次打靶上。
第二种信息对了解该运动员的命中率是没有什么帮助的。
第1页/共27页
一般地，设我们对该运动员进行n 次观测，得到 x1, x2,…, xn，每个xj 取值非0即1，命
第8页/共27页
定理 1.3 （因子分解定理）
（1）连续型情况：设总体 X 具有分布密度
f ( x; ),( X1 , X2 ,, Xn )是一样本，T ( X1 , X2 ,, Xn )是一个统计量，则T 为的充分统计量的充要条件是：样本的联合分布

5-5充分统计量ppt课件

和任一组观测值x1, , xn ,有
p(x1,..., xn; ) g[T (x1, , xn ), ] h(x1, , xn )
其中g( t,θ)是通过统计量T 的取值而依赖于样本的，而h(x1,…,xn)不依赖于θ.
例4 设x1 , x2……, xn是取自总体N(μ,1) 的样本，
证：
p(
x;
)

1 /

0
, ,
0
x else

p(x1; )
p(
xn
;
)

(1
/
0
)n
，0 ，

min{xi
} max{xi else
}

(1/
) I I n {x( n) } {x(1) 0}
取T x(n) , 并令g(t, ) (1/ )n I{t}, h(x1, , xn ) I{x(1) 0} 由因子分解定理可知,T=x (n)是θ的充分统计量。
3：若样本容量为n, （在上例中）则T1=x1+x2不是充分统计量. 显然,它浪费了n-2个样品的信息.
T和θ可以是向量,
定义:
维数不一定相同
设x1, x2, , xn是总体分布函数为F (x; )的样本，
统计量T T (x1, , xn )称为的充分统计量(也称为
该分布的充分统计量),如果在(任意)给定T 值后,
,
xn ;
)

(2
2
n
)
2
exp{
1
2
2
n
( xi )2}
i 1

(2
n
)2

1.2 充分、完备统计量

f (t )是单定理设 T ( X 1 , X 2 , , X n )为的一充分统计量，
值可逆函数，则 f (T ) 也是的充分统计量结论： 1 统计量用来推测参数的值; 2 充分统计量把可能丢失信息的统计量筛选; 3 最优统计量在充分统计量之中; 4 一个参数的充分统计量不唯一. 问题：在什么情况下，它是唯一的？
对于一般的统计量 T ( X1 , X 2 ,, X n )
P { g1 (T ) g2 (T )} 1, E ( g1 (T )) E ( g2 (T )),
( X1, X 2 ,, X n )T

• 例设是来自总体 X 服从两点分布 B(1, p) 的样本，样本均值 X 是参数 p 的充分统计量，验证 X 也是完备统计量证明：由于 X ~ B(1, p)，n X ~ B(n, p),

P{ X 1 x1 , X 2 x2 ,, X n t xi }
i 1
n 1
P{T t }
P( X
i 1
n 1
i
xi ) P ( X n t xi ) ( n ) n e t!
t i 1
n 1
x
i 1
n
i
t
e t! i 1 x i ! t ( n ) n n t n x ! e i i 1 t!
后，对任意
x1, x2,, xn
有
x
i 1
t ，样本 ( X1 , X 2 ,, X n )T 的条件概
率密度为：
f ( x1 , x2 ,, xn | T t )
f ( x1 , x2 ,, xn1 , t xi )

充分统计量_完备统计量_指数分布族

i 1
i 1
3）常见指数分布族二项分布族：
p
(x)
n x
x (1 )nx
n x
(1
)n
e
x
ln
1
c( ) exp{c1( )x}h(x), x 0,1,, n
其中
c(
)
(1
)n ,
c1 (
)
x
ln
1
,
h(x)
n x
二元正态分布族：
pu, (x)
1 2
exp{
2 2 2
h x1,, xn h y1,yn :T y1,yn t
y1, yn
,
该分布与无关,这证明了充分性.
3）充分性判别法则
定理 4.1 设样本分布密度函数族（连续或离散）为 F f x, : ,T T X
为统计量.则：T 为充分统计量的充分必要条件为：存在关于 t 的可测函数 g t 与关于 x 的非负可测函数 h x ，使得
-4-
X (1) ,, X (n) 是完全的（对任何自然数 n）.
引理：设分布族满足上面的条件（a）， f ( X1,, X n ) 为 Bore（可测得对称函数），满足条
件
f
( X1,,
X n )dF ( X1)dF ( X n )
0f
( X (1) ,,
X(n) )
，对任何
F
f
，
则对 F 中的任意 n 个分布 F1,, Fn ，必有
x f (x)dp (x) 0 , 对一切 ” 的有界 x 可测函数 f (x) ，必有
p {X f (x) 0} 0 ，对一切，则称分布族 { p , } 为有界完全的.若

充分统计量与完备统计量概要28页PPT

1.2 充分统计量与完备统计量

充分统计量与完备统计量PPT文档28页

充分统计量_完备统计量_指数分布族

太原理工大学数理统计课件第1.2节 充分统计量与完备统计量教材

充分统计量与完备统计量

充分统计量_完备统计量_指数分布族

第1.2节 充分统计量与完备统计量

充分统计量与完备统计量PPT课件

5-5充分统计量ppt课件

1.2 充分、完备统计量

充分统计量_完备统计量_指数分布族

太原理工大学数理统计课件第1.2节充分统计量与完备统计量教材

第1.2节充分统计量与完备统计量