多元正态分布

p q ），则 1 若 rank ( A ) p （自然
存在， X 的分布是一个非退化的 p 元正态分 布，其概率密度见上式。
若 ，则 不存在，X 的 分布称为退化的 p 元正态分布，不存在概 率密度。
rank ( A ) p
1
例如，设 x A u
1 A 0 1 0 ，则 X 1 1
t j / 2
2
q it j u j E e j 1
q 2 j



q
E (e
it j u
j
)
j 1

j 1
q
u
j
(t j )
e
j 1
q
1 exp 2
1 T t exp 2 t t j 1
p
2 i
)
( 2 )
p 2
exp(
1 2
u u ),
T
u i , i 1, , p
u 的均值和协方差矩阵分别为
E ( u ) E ( u 1 ), , E ( u p )
V ( u ) E ( uu )
T


T
0
u 12 u 2 u1 E u u p 1
第二节 多元正态分布的性质
一、多元正态分布的特征函数
多元正态分布的特征函数
1 T T x ( t ) exp i t t t 2
，其中 AA
T
例
上一节二元正态分布的特征函数为
1 2 2 2 2 x ( t1 , t 2 ) exp i ( t1 1 t 2 2 ) ( t1 1 2 t1 t 2 1 2 t 2 2 2
假设 x A u 为 u 的一个非退化线 性变换，其中 A 是一个 p 维非退化矩阵 （即 A 0 ），则称 p 维随机向量 为非退化的多元正态分布，记作 其中 AA 。
T
X
的分布
X ~ N P ( , ) ，
X
的均值和协方差矩阵分别为
E ( x ) AE ( u )
12 k 22 p k
pk
令
C ( I k ,0 ) : k p
，则由 y
~ N r (C b , C C )
T
知 例
X 1 C x ~ N k ( C , C C ) N k ( 1 , 11 )
T
设
X ~ N P ( , )
当 0 时，
f ( x1 , x 2 ) 1 2 1 2 1 x1 1 2 x2 2 2 exp [( ) ( ) ] 1 2 2
另，x 1 和 x 2 的边际密度函数分别是
f 1 ( x1 )
f2 ( x2 )
1 2
1 2
( 2 )
p 2

1 2
1 T 1 exp ( x ) ( x ) 2
设随机向量 u ~ N P ( 0 , I ) ， 为 p 维常 数向量， A 是一个 p q 常数矩阵，则称 x A u 的分布为多元正态分布，仍记 T X ~ N P ( , ) ，其中 AA 。 作
1 2 2 2
则 x1 x 2 (1, 1) X 服从一元正态分布，且
1 E ( x1 x 2 ) (1, 1) 2
12 V ( x1 x 2 ) (1, 1) 1 2
1 2
X ~ N 2 ( , )
2
，这里
1 2
2 2
ቤተ መጻሕፍቲ ባይዱ
1 1 x1 , X , x 2 2 1 2
2 1 2 2 2

由于 (1 )故当 1 时， 0 ，
元正态分布的定义知，存在 p 维常数向量 和 p q 常数矩阵 A ，使得 x A u ，
其中
有
u ~ N q (0, I )
T T
，于是对任意的 a R p ，
T
a x a a Au
T
，因此再由多元正态
分布的定义知， a x 服从一元正态分布。
三、设 X
~ N P ( , )
2 2 1 2 2 1 2 1
1 2 1 2
2
即 x1 x 2 ~ N ( 1 2 , 12 22 2 1 2 )。
四、多元正态分布的任何边际分布仍为正态分
布。设
X ~ N P ( , )，则 X
1 T T exp i t t t 2
二、设 X 是一个 p 维随机向量，当且仅当它的
任何线性函数
a X
T
（ a 为 p 维常数向量）均
服从一元正态分布时， X 服从多元正态分布。
证明
充分性
a 设对一切 a R p ，T x 都服从一元正态分
布。记
T
X 所以， 的特征函数
x (a ) E (e
ia x
T
) a T x (1)
1 T T exp i a a a 2
该式对一切
a R
p
都是成立的，所以由多元正
X
态分布的特征函数表达式知 分布。
服从 p 元正态
必要性
设
X
服从 p 元正态分布，又由多
E (x )
T
， V (x ) ，于
E (a x ) a
T T
是 V (a x ) a a ， 从而
a x ~ N (a , a a )
T T T
，于是其特征函数
可表示为
a x (t ) E (e
T
it a x
T
1 2 T T ) exp it a t a a 2
u
u 1u 2 u2 u pu 2
2


u 1u p 1 u 2u p 0 2 up 0
0 1 0


0 0 I 1
的分布称为均值为 0 ，协方差矩阵为 I 的多元正态分布，记作 u ~ N P ( 0 , I )
证明
由标准正态变量 u j 的特征函数
u e
j
t / 2
2
,
j 1, , q
T
又设 u 1 , , u q 相互独立，则 u ( u 1 , , u q ) 的 特征函数
it u x ( t ) E ( e ) E exp
T
q i t ju j j 1
T
X
个线性函数，从而由上述性质二的必要性知，
a Cx
T
是一元正态变量，所以 a y 是一元正
态变量；再由性质二的充分性知， y 是一个
r 元正态变量。又由于E ( y ) CE ( x ) b C b
V ( y ) CV ( x ) C
T
CC
T
T
故而
y ~ N r (C b , C C )
V ( x ) AV ( u ) A AA
T T

因为雅可比行列式
J (u x ) A
1
AA
T
1 2

1 2
所以
X
的概率密度函数为
p 2
1 T f ( x ) ( 2 ) exp u u J ( u x ) 2 1 p 2 1 T 1 ( 2 ) exp [ A ( x )] [ A ( x )] 2
i 1, , n ，则对任意
xi ~ N p (i , i )
，
n 个常数 k 1 , , k n ，
n 2 i
有
kx
i i 1
n
i
~ N p ( ki i , k i )
i 1 i 1
n
证明 令
y

n
k i x i ，对任意的a R p , a ' y
第三章
第一节
多元正态分布
多元正态分布的定义
设随机向量 u ( u 1 , , u p ) T ，u 1 , , u p
独立同分布于 N ( 0 ,1) ，则 u 的概率密度为
( 2 )
i 1
p
1 2
exp(
1 2
u ) ( 2 )
2 i
p 2
exp(
1
u 2
i 1
所以，X 的特征函数
x (t ) E (e
e
it it x
T
) E e
T

it ( A u )
T
e
it
T
E e

i( A t) U
T
T

1 T T T T u ( A t ) exp i t ( A t ) ( A t ) 2
的任何子向量也服
从多元正态分布，其均值为 的相应子向量，
协方差矩阵为 的相应子矩阵。 证明 不妨对 X 的前 k ( p ) 个变量组成的 子向量作出证明，将 X ， ， 作如下的剖 分：
x1 X x 2
11 1 k k p k pk 21 2 k
，其中
u ~ N 2 (0, I )
，
的分布就是退化的三元正
态分布，即 x ~ N 3 ( 0 , ) ，其中
AA
T
1 0 1
0 1 1 0 1
0 1
1 1 0 1 1
0 1 1
1 1 2
例（二元正态分布） 设
例 则
设
X ~ N P ( , ) ，
T T
a 为 p 维常数向量，
T
a x ~ N (a , a a )
例
设
X ~ N 2 ( , )
，这里
1 2
2 1
x1 X x 2
1 2
这时

1
2 2 2 1 2 (1 ) 2 2 1
2 2
1 2 2 1
由多元正态分布密度函数公式可得此时 概率密度为
f ( x1 , x 2 ) 1 2 1 2 1
2
X
的
1 x1 1 2 x1 1 x 2 2 x2 2 2 exp [( ) 2 ( )( )( ) ] 2 1 1 2 2 2 (1 )
，y
Cx b
，其中
T
C
为
r p 常数矩阵， b 为 r 维常数向量，则
y ~ N r (C b , C C )
（多元正态变量的任何线性变换仍为多元正态 变量。）
证明
对任意
a R
r
，a y a C x a b
T T T
，因 的一
为 X 是多元正态变量，而 a T C x 是
T
，这里
( 1 , , p ) ,
T
X ( x1 , , x p ) ,
( ij )
则每个 x i 的边际分布为
p N ( i , ii )， i 1, ,。
五 、独立的多元正态变量（维数相同）的任意 线性组合仍为多元正态变量。 设 x 1 , , x n 相互独立，且
1 2
2
1
1 x1 1 2 exp[ ( ) ] 2 1

2
1x 2 exp 2 2 2

故有 f ( x1 , x 2 ) f 1 ( x1 ) f 2 ( x 2 ) 即 x 1 和 x 2 相互 独立，因此，对于二元正态分布来说，两个分 量的不相关和独立性是等价的。当 1 1 时， 0 ，即 不存在，此时， X 的概率密 度不存在， X 是一个退化的二元正态分布，并 且 x 1和 x 2 之间以概率 1 存在着线性关系。