特征函数

§4 多元正态分布*
一、 一、密度函数和特征函数 二、性质 本章补充与注记
多元分布以多元正态分布最为重要，在多元分析中多元正态分布更为其立论之本.这一节就借助多元特征函数详细讨论多元正态分布的定义和性质. 对二元的场合已在前面陆续推导过其大部分结果，这里用矩阵的方法对一般n 元情形进行讨论.
一、密度函数和特征函数
第二章§3已经给出n 元正态分布N (a , B)的密度函数
p (x ) =⎭⎬⎫
⎩⎨⎧-'---)()(21exp ||)2(1
12/12/a x B a x B n π.
(1)
它确实是密度, 因为p (x ) >0, 且由于B 正定对称，故存在非奇异阵L ，使B=LL ',故
dx a x L L a x B dx x p n n
R n R ⎭⎬⎫⎩⎨⎧-''--=
--⎰⎰
)()()(21exp ||)2(1)(1
12
/12/π,
作变量代换y =)(1
a x L --，则d x =dy B dy L dy L 2
/11||||||1==-，
dy B y y B dx x p n
n
R n R 2
/1'2
/12/||}21exp{||)2(1)(⎰⎰
-=
π
=
1
2122
2
1
1()exp()/πn k k n n y dy dy --∞∞
-∞∞
=⎰⎰∑=
(
)
/121
22
π
k n
y k e dy k =--∞
∞
∏⎰=1.
故p(x )满足密度函数的条件.
再求N (a , B) 的特征函数. 记t =(,,)t t n 1 ', 由§3的(1'3)式， f (t ) ='()n
it x
R e p x dx
⎰
=
dx a x B a x x it B n
R n )}()(21exp{||)2(1
1
'2
/12/-'---⎰π.
仍令y =)(1a x L --, 则x = L y +a , 再令s =t L '=(s s n 1,,) ', 并注意t a a t ''=,
∑=k
k
k y s y s ',
Bt
t s s s
k
k
''2
==∑, 我们有
f (t ) =dy
B y y Ly it a it B n
R
n 2/1'''2
/12
/||}2/exp{|
|)
2(1
⎰
-+π
='2
1/21exp()exp{[(2)]/2}(2)k k k n n k ia t y is y dy dy π∞∞--∞-∞⋅--∑⎰⎰
=
⎰∏
∑∞
∞---⋅⋅k k k k
k
k dy is y s i t ia })(21exp{21
)exp()exp(2
2
2'π
= exp (i
)2/'
'Bt t t a -, (2)
或
f (t t n 1,,) =exp{i ∑∑∑===-n l n
s s l ls n
k k k t t b t a 111}21. '
)2(
它与一元正态的特征函数的推广，n=1时即为一元正态分布的特征函数. 上面只对B 是正定对称阵场合定义多元正态分布. 当B 是非负定时，(1)式可能没有意义，但(2)式仍有意义. 并且令k /I B B k +=(I 是n 阶单位阵), 则B k 是正
定对称阵,)2/exp()(''t B t t ia t f K k -=是特征函数，且)()(lim t f t f k k =∞→, f (t )是在R
n 上的连续函数，故由上一节的连续性定理知f (t)是特征函数，称它对应的分布为奇异正态分布(Singular normal distribution) 或退化正态分布. 当B 的秩为r (r < n) 时，它实际上只是r 维子空间上的一个分布. 所以特征函数(2) 比密度函数(1) 适用范围更广.因此有时就通过特征函数(2) 来定义多元正态分布. 二、性质
二元正态分布有很多特殊性质，例如：边际分布与条件分布也是正态分布；参数恰好为数学期望、方差和相关系数；独立性与不相关是等价的等等. 这些性质在n 元正态分布中也存在，从特征函数看很容易理解. 分述如下： 性质1 ξ的任一子向量
(,,,)ξξξl l l k 12 '
也服从正态分布，分布为N(
)~,~B a ，
其中
),,(~1'=k
l l a a a ，~
B 为取B 的第l l l k 12,,, 行与列交叉点所得的k 阶矩阵.
证 由多元特征函数性质'2,
(,,,)ξξξl l l k 12 '
的特征函数为f (0, 0
t l 10,,,
0,
t l k
,0,…,0), 在')2(式中除上述各t l j
外，令其余的t i = 0，并记t ~=
(
)
,,1k l l t t ，则
).
2/~~~~~exp(2/exp )~(~''111t B t t a i t t b t a i t f k j k j k s l l s l l l s j j j j j -=⎭⎬⎫⎩⎨⎧-=∑∑∑===
这正是N ()~,~B a 的特征函数. 特别当k =1时，ξj ～N (a b j jj ,). 即多元正态分布的
边际分布还是正态分布.
性质2 N (a , B)的数学期望向量为a ，协方差矩阵为B. 证 由性质1易知E ξξj j j jj
a Var
b ==,, 只需证明B 的非对角线元素为相互协
方差. 因E
ξξξj j j Var E 22
=+()
存在，而使得||E E E j k j k
ξξξξ≤22
存在,由特征函数性
质，
i E f t t j k j k
2
200ξξ∂∂∂=|(,,)
. 再由')2(式，
∂∂f t j =[()ia b t b t j lj l js s s n l n -+∑∑==1211] exp{i 1
111}
2n
n n
k k ls l s k l s a t b t t ===-∑∑∑,
∂∂∂2f
t t j k
={()-++12b b jk kj [()]ia b t b t j lj l js s s n l n -+∑∑==1211111[()2n
n
k
lk l ks s l s ia b t b t ==-+∑∑]}
·exp{i,111
1}2n
n n
k k ls l s k l s a t b t t ===-∑∑∑
令各t r = 0, 注意
b b jk kj
=，就得
E
ξξj k =
,(,)jk j k j k jk
b a a Cov b ξξ+=.
性质3 服从n 元正态分布的随机变量ξξξ12,,, n 相互独立的充要条件是它们两两不相关.
证 ξξξ12,,, n 相互独立⇔f (t t n 1,,) =f t f t n n 11()()
21
'
j
n
j jj t b Bt t ∑==⇔
⇔=b ij 0, j
i n j i ≠=,,,2,1, ⇔ξξi j
与不相关，i,j=1,2,…,n, j i ≠.
利用分块矩阵的运算可知性质3对ξ的任意个子向量类似地成立. 例如记
ξηη='''(,)12，其中ηη12,分别为ξ的k 维和n －k 维子向量,记
B B B B B =⎛⎝ ⎫
⎭
⎪
11122122,则η1与
η2相互独立的充要条件为其相互协方差矩阵B B 1221='=0. 请读者自行证明.
性质4 ξ服从多元正态分布的充要条件是它的各分量的任意线性组合仍服从正态分布.如记l =(,,)l l n 1 '为任意n 维实向量，则
ξ～N (a, B)ξζ'l =⇔～N(
),'
'Bl l a l (3)
⇔==∑ζξl j j
j n
1
～N(
l a l l b j j j n
j k jk
k n
j n
===∑∑∑1
1
1,). ('3)
证 设ξ～N (a ,B)，对任意实数u, 记u l =t ，则ζ的特征函数
]2/)()(exp[)()(')(ul B ul ul ia ul f Ee Ee u f L u i iu '-===='ξξζζ
= exp[i
2/)()(2
''u Bl l u l a -]， 这说明ζ～N (
),'Bl l a l l
. 反之，设ζ～N (),'
'Bl l a l , 则
ξ
ζ)('
)(ul i Ee u f == exp[i
2/)()(2
''u Bl l u l a -] 对一切实数u 都成立. 取u=1，即有)(l f ξξ
'il Ee == exp[i
2/)()(''Bl l l a -]. 故 ξ～N (a , B).
利用性质4，可以把多元随机变量的各分量的任意线性组合为正态变量作为多元正态变量的另一定义.
性质4中的必要条件可以推广到m 维线性变换. 性质5 设ξ=(,,,)ξξξ12 n ～N (a , B), C=
()c ij m n
⨯为m ×n 矩阵，则
ηξ=C 服从m 元正态分布N (C a , CB 'C ). (4)
性质4中的'
l 相当于这里的C.
证
''
()()()()
it i t C i C t f t Ee Ee Ee f C t ηξξηξ'''====
=exp[i
]2/)()(exp[]2/)()('
't C CB t t Ca i t C B t C t C a '-'='''-'. 推论 存在正交阵U 使在η=U ξ的变换下，η的协方差阵为对角矩阵
UBU D d d n '==⎛⎝ ⎫⎭⎪
⎪
1 .
(5)
因为B 是实对称阵，这种正交阵U 是一定存在的，而且d d n 1,, 是B 的特征值，U 的各行是相应的特征向量. 若B 的秩为r ，则η有r 个独立正态分量. 利用分块矩阵，可证性质5当各
ξηi j
,分别为ξ,η的子向量时仍成立.
性质6 ξ～N (a , B), ξ=(,)'''ξξ1
2, 这里ξξ12,分别为ξ的k 维和n －k 维子向量，B B B B B =⎛⎝ ⎫
⎭⎪
11122122,ξ1
～),(111B a N ,ξ2～),(222B a N ,且B 正定, 则在给定ξ1=1x 的
条件下ξ2的条件分布还是正态分布，即服从
N(
111
22121111122211112(),a B B B x a B B B B ---+--). (6)
这是第二章 4例1(n=2, k=1)的推广,证明从略. (6)式说明条件期望是1x 的线性函数，而条件方差与1x 无关.
利用多元正态分布的性质可使关于多元正态分布的计算大为方便.
例1 设ξξξ='(,)12～N(2
2
12,,,,a a r σσ)，求证ηξξ112=+与ηξξ212=-相互独立. 并问ηη12,各自服从怎样的分布？
解 本题可用上一章随机向量的变换来解，但现在可以利用性质5.
ηη12⎛⎝ ⎫
⎭
⎪=
ξξξξξξ1212121111+-⎛⎝ ⎫⎭⎪=-⎛⎝ ⎫⎭⎪⎛⎝ ⎫⎭
⎪
=C ξ, B=
σ211r r ⎛⎝ ⎫⎭
⎪, CB
'=+-⎛
⎝ ⎫⎭
⎪C r r 210012σ.
所以 Cov (ηη12,) = 0，由性质3，ηη12,相互独立. 并因CA =
a a a a 1212+-⎛⎝ ⎫⎭
⎪, 可见
η1～N(2
12,2(1))a a r σ++, η2～N(2
12,2(1))a a r σ--.
例2 ξξξξ='(,,)123～N (a , B), 其中B = ⎪
⎪⎪⎭⎫ ⎝
⎛200011012, 求证ξξ12与相互不独立，而(,)ξξξ123'与相互独立. 证 Cov (ξξ121210,)==≠b ,故ξξ12与相互不独立.又B=B B B B 11122122⎛⎝ ⎫
⎭⎪,
B 1200=⎛⎝ ⎫⎭⎪,故(,)ξξξ123'与相互独立.
补充与注记
1. 有关随机变量不同阶矩之间大小的比较，我们给出下列常用的一些不等式.
1). 霍尔德(H o
lder)不等式. 令ξ和η是两个随机变量，∞<<p 1，1
11=+q p ， 那么
.)||()
||(||||1
1q q
p
p
E E E E ηξξηξη≤≤
特别，令1=η，得p
P
E E 1
)
||(||ξξ≤；当2=p 时，即是柯西-许瓦茨不等式.
进而如果用r ||ξ取代||ξ，并令p r <<1，pr r ='
，那么得
∞<<<≤'1
1
1,)
||()
||('
'
r r E E r r r
r
ξξ
称作李雅普诺夫不等式.
2). 闵可夫斯基(Minkowski) 不等式. 令ξ和η是两个随机变量，∞<<p 1， 那
么
.)
||()
||()
||(1
1
1p
p
p
p
p
p
E E E ηξηξ+≤+
2. 假设X 服从正态分布)1,0(N ，那么X
=Y 服从对数正态分布，具有密度函
数
.
0,21)()(log 21>=
-
x x x p x π
假设11≤≤-a ，定义
[]).()log 2sin(1)(x p x a x p a π+=
不难验证a p 是一个密度函数；p 的任意阶矩有限；并且对于1≥k ，
⎰
⎰∞
∞
-∞
∞
-=.
)()(dx x p x dx x p x k a k
这表明11:)(≤≤-a x p a 是一族彼此不同的密度函数，但具有相同的任意阶矩. 反过来，我们有下列定理.
定理 假设ξ,η是两个随机变量，并且对1≥k ，有相同的k 阶矩k m . 如果对某个0>t ，级数
k k k m t k ∑∞
=0!1
绝对收敛，那么ηξ,具有相同的分布函数. 3. 母函数
对于取值0,1,2...,的离散型随机变量ξ，定义其母函数
∑∞
==P ==0).
()(k k k s Es s G ξξ
ξ
对于一般的随机变量ξ，习惯上定义其母函数为
,)(ξξt E t M =
其中R t ∈使得所求数学期望存在.
母函数是一个研究随机变量和分布函数的重要工具，但并不是对所有的t 都存在.
例1. 如果ξ服从正态分布),(2
σu N ，那么对所有的t ，
,)(2
22
1
t ut t E t M σξ
ξ+==
例2. 如果ξ服从参数为λ的指数分布，那么当λ<t ，
t t M -=
λλ
ξ)(；当λ≥t ，)(t M ξ不存在.
例3．如果ξ服从柯西分布，那么仅当0=t 时，1)(=t M ξ；对于其他所有t ，
)(t M ξ不存在.
一个随机变量的母函数并不总是对所有的$t$都存在，而特征函数总是存在的，两者具有类似的作用.
4. 对于一些不熟悉复变函数理论中的围道积分的读者，我们给出一个可行的计算方法. 假设ξ是一个随机变量，并且存在0>t 使得它的母函数)(s M ξ对所有的|t s ≤|有限，那么其特征函数)()(it M t f ξξ=，也就是说我们可以通过求母函数（实值随机变量的数学期望）给出特征函数.
例. 如果ξ服从正态分布),(2
σu N ，那么2
22
1
)(t iut t f σξ-=
. 如果ξ服从参数为λ
的指数分布，那么.
)(it t f -=
λλ
ξ。