第十二讲多元正态分布的参数估计与检验
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
检验问题
H 0：? ? ? 0，H 1：? ? ? 0
令F
?
n (n ? p
p)( X
?
? 0 )T S ?1 ( X
?
? 0 ),
则可以证
明当 H 0 成立时，即 ? ? ? 0时，F ～ F ( p, n ? p)
而当
H
不成立时，
0
F
有偏大的趋势。因此，对
给定的显著性水平 ? ，当
F
?
n (n ?
?
?
)T V
?1(X
?
?
)?? ?
则称随机向量 X 为 p维正态随机向量，其中 ?
称为均值向量，V 为协方差矩阵(协差阵)，且
V ? 0. 对于一般情形V ? 0, 仍可定义多维正
态随机向量， 记为X ～ N p(? ,V )。 当 V ? 0时，
X有前面的密度表示，而当 |V |? 0 时， X 的分 布是退化的正态分布。
且相互独立， 故 ? 2 ? 分布的定义知 Y TY ～ ? 2 ( p).
二、参数的估计
在此给出多元正态分布的参数 ? 和V的估
计。为简单计，仅考虑 V ? 0 的情形。 设 X 1, X 2 ,? , X n (n ? p) 是来自多元正态总
体 N p (? ,V )的简单样本，令
? X
?
1 n
Y ～N p ( A? ? b, AVA T ).
（4） X 为 p 维正态随机向量的充要条件为对任
一 p维向量c， cT X 是一维正态随机变量。
（5）
设X
?
(
X
T 1
,
X
T 2
)T
为多维正态随机向量，
则 X 1与 X
2互不相关的充要条件是
X
与
1
X2
相互独立。
注： 若 Cov( X ,Y ) ? 0，则称 X与 Y 互不相关。
??
?
?
1 2
? ?
0
I
0
p? m
???U ?
TVU
?? ? ?
?1
?2 0
I
0
p? m
?? ? ?
?
?? I m ?0
0??? D. 0?
令
Z
?
?? Y ?W
?? ? ?
??
?
?
1 2
? ?
பைடு நூலகம்
0
0 I p? m
???U T ( X ?
?
?
)
则由性质3知 Z ～ N p(0, D)，且Y ～ N m (0, I m ),
第十二讲 多元正态分布的参数 估计与检验
一、多元正态分布 二、参数的估计
三、参数的检验
一、多元正态分布
定义 如果 p维随机向量 (随机变量)
X ? ( X 1 , X 2 ,? , X p )T
(联合)概率密度函数为
f
( x1,
x2 ,? ,
xp)
?
(2?
1
p
)2 |V
1
|2
exp ?? ? ?
1(X 2
p
p)( X
?
? 0 )T S ?1( X
? ?0)?
F1?? ( p, n ?
p)
时拒绝 H 0 ，否则接受H 0，即拒绝域为
W ? ?F : F ? F1?? ( p, n ? p)?
?1
?
? ?
0 0? ? ??
0????
U TVU
?
? ?
0
?0
? ?
?m
0
0? 0?
0? ?
0?
? ? ? ? ? ? ??
??? 0 ? 0 0 ? 0???
其中 ? i ? 0, i ? 1,? ,m。
令?
?? ? 1
?
? ?
0 ?
0
?2
?
? ? ?
0 ?? 0???, 则有
??? 0 0 ? ? m ???
n k?1
X
k
——样本均值向量
n
S ? ? ( X k ? X )( X k ? X )T —样本离差阵 k?1
定理18.1 设 X 1, X 2 ,? , X n (n ? p) 是来自多元正
态总体 N p (? ,V )的简单样本， 且V ? 0，则 X 是 ? 的极大似然估计， 1 S 是V 的极大似然估计。
由上式可得
X
?
?
?
U
?? ? ?
1
?2
0
0 I p? m
???Z ?
?
U
??
?
1 2
??Y
.
?? 0 ??
若记
B
?
U ???
1 2
??,
它是 p ? m 矩阵，即有
? ?
0
? ?
X ? BY ? ?
（7） 若 X ～ N p (? ,V ), 且 |V |? 0， 则 ? ? ( X ? ? )T V ?1( X ? ? ) ～ ? 2 ( p).
D
?
n(X
?
? 0 )T V
?1(X
?
?0)
?
?2 1? ?
(
p)
时拒绝 H 0 ，否则接受H 0，即拒绝域为
? ? W ?
D:
D
?
?2 1??
( p)
（二） 协差阵 V未知时，均值 ? 的检验
设 X 1, X 2 ,? , X n (n ? p) 是来自多元正态总
体 N p (? ,V )的简单样本，其中V 未知。考虑假设
（6）设X ～ N p(? ,V )，则 rank (V ) ? m 的充要条
件是存在 m ? p 矩阵 B (BB T ? V )使得
X ? BY ? ?
其中Y ～ N m (0, I m )。
证明 充分性由性质3立得。下证必要性。
由于 V 是秩 m 为的非负定阵，则必存在正
交矩阵 U 使得
?? ?
体 N p (? ,V )的简单样本，其中V 已知。考虑假设
检验问题
H 0：? ? ? 0，H 1：? ? ? 0
令 D ? n(X ? ?0 )TV ?1(X ? ?0), 则可以证明当
H 0 成立时，即 ? ? ? 0时， D ～ ? 2 ( p)
而当
H
不成立时，
0
D
有偏大的趋势。因此，对
给定的显著性水平 ? ，当
n 定理18.2 设 X 1, X 2 ,? , X n (n ? p) 是来自多元正
态总体 N p (? ,V )的简单样本， 且V ? 0，则 X 是 ? 的一致最小方差无偏估计， 1 S是V 的一致
n?1 最小方差无偏估计。
三、均值的检验
（一） 协差阵 V已知时，均值 ? 的检验
设 X 1, X 2 ,? , X n (n ? p) 是来自多元正态总
1
证明
由 |V
|?
0 可知
V 是正定矩阵， 所以 V
? 2
存在且为对称矩阵， 这样
?
?
(X
?
?
)T
V
?
1
2V
?1
2(X
?
?)
?
(V
?1
2(X
?
?
))T (V
?1
2(X
?
?
))
令Y
?
V
?1
2(X
?
? ),
则? ? Y TY , 且Y～N p (0, I p ).
由性质3知 Y 的每个分量 Yi服从标准正态分布，
多元正态分布的性质：
（1） p 维正态分布由其均值向量和协方差阵唯 一确定。
（2） 对于任一 p 维向量 ? 及 p 阶非负定矩阵V ，
必存在 p 维正态随机向量 X ～ N p(? ,V )。 （3） 设 X ～ N p (? ,V )，A 是 m ? p常数矩阵， b
是m 维向量， 若令Y ? AX ? b, 则
H 0：? ? ? 0，H 1：? ? ? 0
令F
?
n (n ? p
p)( X
?
? 0 )T S ?1 ( X
?
? 0 ),
则可以证
明当 H 0 成立时，即 ? ? ? 0时，F ～ F ( p, n ? p)
而当
H
不成立时，
0
F
有偏大的趋势。因此，对
给定的显著性水平 ? ，当
F
?
n (n ?
?
?
)T V
?1(X
?
?
)?? ?
则称随机向量 X 为 p维正态随机向量，其中 ?
称为均值向量，V 为协方差矩阵(协差阵)，且
V ? 0. 对于一般情形V ? 0, 仍可定义多维正
态随机向量， 记为X ～ N p(? ,V )。 当 V ? 0时，
X有前面的密度表示，而当 |V |? 0 时， X 的分 布是退化的正态分布。
且相互独立， 故 ? 2 ? 分布的定义知 Y TY ～ ? 2 ( p).
二、参数的估计
在此给出多元正态分布的参数 ? 和V的估
计。为简单计，仅考虑 V ? 0 的情形。 设 X 1, X 2 ,? , X n (n ? p) 是来自多元正态总
体 N p (? ,V )的简单样本，令
? X
?
1 n
Y ～N p ( A? ? b, AVA T ).
（4） X 为 p 维正态随机向量的充要条件为对任
一 p维向量c， cT X 是一维正态随机变量。
（5）
设X
?
(
X
T 1
,
X
T 2
)T
为多维正态随机向量，
则 X 1与 X
2互不相关的充要条件是
X
与
1
X2
相互独立。
注： 若 Cov( X ,Y ) ? 0，则称 X与 Y 互不相关。
??
?
?
1 2
? ?
0
I
0
p? m
???U ?
TVU
?? ? ?
?1
?2 0
I
0
p? m
?? ? ?
?
?? I m ?0
0??? D. 0?
令
Z
?
?? Y ?W
?? ? ?
??
?
?
1 2
? ?
பைடு நூலகம்
0
0 I p? m
???U T ( X ?
?
?
)
则由性质3知 Z ～ N p(0, D)，且Y ～ N m (0, I m ),
第十二讲 多元正态分布的参数 估计与检验
一、多元正态分布 二、参数的估计
三、参数的检验
一、多元正态分布
定义 如果 p维随机向量 (随机变量)
X ? ( X 1 , X 2 ,? , X p )T
(联合)概率密度函数为
f
( x1,
x2 ,? ,
xp)
?
(2?
1
p
)2 |V
1
|2
exp ?? ? ?
1(X 2
p
p)( X
?
? 0 )T S ?1( X
? ?0)?
F1?? ( p, n ?
p)
时拒绝 H 0 ，否则接受H 0，即拒绝域为
W ? ?F : F ? F1?? ( p, n ? p)?
?1
?
? ?
0 0? ? ??
0????
U TVU
?
? ?
0
?0
? ?
?m
0
0? 0?
0? ?
0?
? ? ? ? ? ? ??
??? 0 ? 0 0 ? 0???
其中 ? i ? 0, i ? 1,? ,m。
令?
?? ? 1
?
? ?
0 ?
0
?2
?
? ? ?
0 ?? 0???, 则有
??? 0 0 ? ? m ???
n k?1
X
k
——样本均值向量
n
S ? ? ( X k ? X )( X k ? X )T —样本离差阵 k?1
定理18.1 设 X 1, X 2 ,? , X n (n ? p) 是来自多元正
态总体 N p (? ,V )的简单样本， 且V ? 0，则 X 是 ? 的极大似然估计， 1 S 是V 的极大似然估计。
由上式可得
X
?
?
?
U
?? ? ?
1
?2
0
0 I p? m
???Z ?
?
U
??
?
1 2
??Y
.
?? 0 ??
若记
B
?
U ???
1 2
??,
它是 p ? m 矩阵，即有
? ?
0
? ?
X ? BY ? ?
（7） 若 X ～ N p (? ,V ), 且 |V |? 0， 则 ? ? ( X ? ? )T V ?1( X ? ? ) ～ ? 2 ( p).
D
?
n(X
?
? 0 )T V
?1(X
?
?0)
?
?2 1? ?
(
p)
时拒绝 H 0 ，否则接受H 0，即拒绝域为
? ? W ?
D:
D
?
?2 1??
( p)
（二） 协差阵 V未知时，均值 ? 的检验
设 X 1, X 2 ,? , X n (n ? p) 是来自多元正态总
体 N p (? ,V )的简单样本，其中V 未知。考虑假设
（6）设X ～ N p(? ,V )，则 rank (V ) ? m 的充要条
件是存在 m ? p 矩阵 B (BB T ? V )使得
X ? BY ? ?
其中Y ～ N m (0, I m )。
证明 充分性由性质3立得。下证必要性。
由于 V 是秩 m 为的非负定阵，则必存在正
交矩阵 U 使得
?? ?
体 N p (? ,V )的简单样本，其中V 已知。考虑假设
检验问题
H 0：? ? ? 0，H 1：? ? ? 0
令 D ? n(X ? ?0 )TV ?1(X ? ?0), 则可以证明当
H 0 成立时，即 ? ? ? 0时， D ～ ? 2 ( p)
而当
H
不成立时，
0
D
有偏大的趋势。因此，对
给定的显著性水平 ? ，当
n 定理18.2 设 X 1, X 2 ,? , X n (n ? p) 是来自多元正
态总体 N p (? ,V )的简单样本， 且V ? 0，则 X 是 ? 的一致最小方差无偏估计， 1 S是V 的一致
n?1 最小方差无偏估计。
三、均值的检验
（一） 协差阵 V已知时，均值 ? 的检验
设 X 1, X 2 ,? , X n (n ? p) 是来自多元正态总
1
证明
由 |V
|?
0 可知
V 是正定矩阵， 所以 V
? 2
存在且为对称矩阵， 这样
?
?
(X
?
?
)T
V
?
1
2V
?1
2(X
?
?)
?
(V
?1
2(X
?
?
))T (V
?1
2(X
?
?
))
令Y
?
V
?1
2(X
?
? ),
则? ? Y TY , 且Y～N p (0, I p ).
由性质3知 Y 的每个分量 Yi服从标准正态分布，
多元正态分布的性质：
（1） p 维正态分布由其均值向量和协方差阵唯 一确定。
（2） 对于任一 p 维向量 ? 及 p 阶非负定矩阵V ，
必存在 p 维正态随机向量 X ～ N p(? ,V )。 （3） 设 X ～ N p (? ,V )，A 是 m ? p常数矩阵， b
是m 维向量， 若令Y ? AX ? b, 则