第二章多元正态分布
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
cov(y, z) E(y Ey)(z Ez)
E(Ax EAx)(Bx EBx)
AE(x Ex)(x Ex)B AVar(x)B AIB AB
九、设x ~ Nn (0,) ,y Ax ,z Bx ,其中 A 是 p n 阶矩阵, B 是q n 阶矩阵,rank(A) p ,rank(B) q, 则 Z 与 Y 相互独立,当且仅当 AB 0。
1.608 4.665
0.181 0.776 16.588
0.906 0.839 1.734 2.502
0.414
0.675
2.634
1.178
3.112
1
(x1, , x5 / x6 )
0.303 1
0.018 0.088
1
0.233 0.246 0.269
1
0.096 0.177 0.367 0.442
若 rank(A) p( p q),则Σ-1存在,x Au 是非退化 p 元正态分布;
若 rank(A) p( p q),则1不存在,x Au 是退化 p元正态分布,不存在密度函数。
1 0
例:设随机向量 u ~ N2 (0, I ) ,x Au ,A 0 1 ,则 x 的分布是
n
kixi
~
N
p
(
n
i
,
n
ki2i
).
i1
i1 i1
六、 x ~ N p (,) ,则 (x )1(x ) ~ 2 ( p) 分布。
x*
1
Σ 2 (x
μ)
Var
(x*
)
Var[Σ
1 2
(x
μ)]
1
1
Σ 2Var(x μ)Σ 2
1
1
Σ 2ΣΣ 2 Ι
x* 是p维标准正态分布,故x*'x*服从(2 p)分布。
27.363
1
0.366 1
0.242 0.233
1
0.360 0.324 0.476
1
0.245 0.265 0.540 0.534
1
0.376
0.252
0.676
0.441
0.440
1
7.033 2.168 3.540 1.681 1.276
4.981 2.874 1.276 1.161
Σ12 0
充分性 Σ12 0
Σ1
Σ1 11 0
0
Σ1 22
Σ Σ11 Σ22
Σ1
Σ1 11
Σ
1 22
f
(x1, x2,
, xp)
(2
) p
2
1 2
exp[ 1 (x 2
μ)Σ1(x
μ)]
(2
)k
/
2
11
1 2
exp[
1 2
(x1
μ)Σ
1
11
(x1
μ)]
.(2
)(
pk )/ 2
22
1 2
三、 X服从 p 维正态分布,则 y Cx b ,其中C为 r p 常数矩阵, b为 r 维的常数向量,则
y ~ Nr (C b,CC)
四、设 x ~ N p (,) ,则 x 的任何子向量也服从多元正态 分布,其均值为 的相应子向量,协方差为 的相应子矩 阵。
五、设 x1, x2, , xn , xi ~ N p (i ,i ) i, 1,2, , n 相互独立, 且,则对任意 n 个常数 k1, ,kn ,有
1
6.040 (x1, , x5 / x6 )
1.608 4.665
0.181 0.776 16.588
0.906 0.839 1.734 2.502
0.414
0.675
2.634
1.178
3.112
(x1, , x4 / x6 , x5 ) 11 1221221
6.040
E ( x2
(x1 1)2 2 )(x1
2 )
(x1 1)(x2 2 ) (x2 2 )2
(xp
)( x1
1 )
(xp p )(x2 2 )
AA
( x1 ( x2
1 )( x p 2 )(xp
pp))
(xp p)2
Var(x) AVar(u)A AA
J(u x) A 1 AA 1 2
0var x1
x2
Σ Σ1 21 11
I
I
0var x1
x2
Σ Σ1 21 11
IHale Waihona Puke Baidu
I
0 Σ11
Σ21
Σ12 Σ22
Σ Σ1 21 11
I
Σ11
Σ12
Σ Σ 1 11 12 I
Σ12 Σ12 0
所以x1与x2 Σ21Σ111x1相互独立。
十一、将 x, , 作如下的分块:
(2
)p
2
exp(
1 2
p
i1
xi2
)
xi i 1,2, , p 其中的 u (u1,u2, ,up ) 均值为 E(u) (Eu1, Eu2, , Eup ) 0
协方差为
u12
Var
(u)
E(uu)
E
u2u1
u pu1
1
1
I 1
u1u2 u22
upu2
u1u p
第二章 多元正态分布
§1 多元正态分布的定义
一、标准多元正态分布
设 随 机 向 量 u (u1,u2 , ,up ) , u1,u2 , ,up 独 立 同 分 布 于N (0,1) ,则的 u (u1,u2, ,up ) 密度函数为
n
f
(x1, x2 ,
,
xp )
i1
1
2
exp(
1 2
xi2 )
11.2
11 1221221
30.530 4.638 5.864
3.107 1.851
3.860
5.213
1
2.939
19.5325.132
27.363
4.069
4.525
2.939
19.532
4.069
4.525
6.040 (x1, , x5 / x6 )
协方差为
(x1 1)2
(x1 1)(x2 2 )
E (x2 2 )(x1 2 )
(x2 2 )2
(xp
)(x1
1 )
(xp p )(x2 2 )
(x1 1)(xp p ) (x2 2 )(xp p )
(xp p )2
称 x (x1, x2, , xp ) 服从均值为E(X),协方差为的正态分布。
三、一般的正态分布和标准正态分布的关系
设 x Au,其中 A 是一个 p 阶非退化矩阵,u (u1,u2, ,up )
服从 p 维标准正态分布,则 x Au 服从 p维正态分布,且均
值向量为
E(x) (Ex1, Ex2, , Exp ) (1, 2, , p )
协方差为
Var(x) E(x )(x )
2.056
(x1, x2 , x3, x4 / x5, x6 )
1 0.292 0.057 0.214
1
0.025 0.191
1 0.136
1
1.608 4.665
0.181 0.776 16.588
0.906
0.839
1.734
2.502
0.414
1
0.675
0.414
3.112 2.634
1.178
0.675
2.634
1.178
5.985
1.518 4.519
0.531 0.198 14.359
0.749
0.583 0.737
exp[
1 2
(x2
μ2
)Σ
1
22
(x
2
μ2
)]
f (x) f1(x1) f2 (x2 )
故x1和x
相互独立。
2
八、设 x ~ Nn (0,I) ,y Ax ,z Bx ,其中 A 是 p n 阶矩阵, B 是q n 阶矩阵,rank( A) p ,rank(B) q , 则 Z 与 Y 相互独立,当且仅当 AB 0 。
Σ
Σ11 Σ21
Σ12 k Σ22 k p
μ
μ1 μ2
p
k
k
x
x1 x2
p
k
k
则给定 x2时x1 的条件分布为 Nk (12,112 ) ,其中
μ12
μ1
Σ Σ1 12 22
(x2
μ2 ).
为x2 给定的条件下 x1数学期望。
Σ11.2 Σ11 Σ12Σ221Σ21是x2的条件下x1的条件协条件协方差。
f
( x1 ,
x2 ,
,
xp )
(2
) p
2
exp[
1(x 2
)1 ( x
)] |
J
|
(2 )p 2 1 2 exp[ 1 (x )1(x )]
2
注: 设随机向量 u ~ Nq (0, I ) , 是常数向量,A 是一
个 p *q的常数矩阵,则 x Au 服从正态分布,记 为 x ~ Np (,) ,其中 AA( p * p)
七、将 x, ,作如下的分块:
11 21
12 k 22 k p
1 2
p
k
k
x
x1 x2
p
k
k
子 x1, x2 向量相互独立,当且仅当 12 0。 证:必要性
又
x1和 x 2相互独立 Σ12 E[(x1 μ1 )( x2 μ2 )]
Σ12 E(x1 μ1 )E( x2 μ2 )]
同上可证。
十、将 x, , 作如下的分块:
11 21
12 k 22 k p
1 2
p
k
k
x
x1 x2
p
k
k
则 X1与X 2
1
21 11
X
相互独立,X
1
与2
X1
12
1 22
X
2
相互独立
。
证: 令
cov(x1,z) I
x1 I
0
x1 x2
z
Σ Σ1 21 11
I x1 x2
十二、偏相关系数
矩阵Σ11.2称为条件协方差矩阵,它的元素用 ij.k1, , p
表示。是当 x2 给定的条件下,xi
与
x
(
j
i,
j k )的偏相关
系数,定义为
ij.k 1, , p
ij.k 1, , p ii.k 1, , p jj.k 1, , p
它度量了在值 xk1, , xp给定的条件下,xi 与 xj ( i, j k )相关性的强弱。
u2u
p
u
2 p
二、一般的正态分布
设随机向量 x (x1, x2, , xp ) ,若其的密度函数为
f
( x1 ,
x2 ,
,
xp )
(2
) p
2
1
2
exp[ 1 (x 2
)1 ( x
)]
xi
其中 x (x1, x2, , xp ) 的均值为E(x) (1, 2, , p )
退化的三元正态分布。
1 1
1 0
1 0 1
AA 0 1
1 1
1 0
0 1
1 1
0 1
1 1
1 2
1 0
0 1
1 1
1 1
10
21
1 211 0
1
1 1 2
§2 多元正态分布的性质
一、多元正态分布的特征函数
(t) exp(it 1 tt)
2
二、x是一个服从p维正态分布,当且仅当它的任何 线性函数 ax 服从一元正态分布 N p (,) 。
例 设X~N6( ,),其协方差矩阵为,计算偏相关 系数。
7.033
2.168 4.981
3.540 2.874 30.530
1.681 1.276 4.638 3.107
1.276 1.161 5.864 1.851 3.860
5.213
2.939
19.532
4.069
4.525
E(Ax EAx)(Bx EBx)
AE(x Ex)(x Ex)B AVar(x)B AIB AB
九、设x ~ Nn (0,) ,y Ax ,z Bx ,其中 A 是 p n 阶矩阵, B 是q n 阶矩阵,rank(A) p ,rank(B) q, 则 Z 与 Y 相互独立,当且仅当 AB 0。
1.608 4.665
0.181 0.776 16.588
0.906 0.839 1.734 2.502
0.414
0.675
2.634
1.178
3.112
1
(x1, , x5 / x6 )
0.303 1
0.018 0.088
1
0.233 0.246 0.269
1
0.096 0.177 0.367 0.442
若 rank(A) p( p q),则Σ-1存在,x Au 是非退化 p 元正态分布;
若 rank(A) p( p q),则1不存在,x Au 是退化 p元正态分布,不存在密度函数。
1 0
例:设随机向量 u ~ N2 (0, I ) ,x Au ,A 0 1 ,则 x 的分布是
n
kixi
~
N
p
(
n
i
,
n
ki2i
).
i1
i1 i1
六、 x ~ N p (,) ,则 (x )1(x ) ~ 2 ( p) 分布。
x*
1
Σ 2 (x
μ)
Var
(x*
)
Var[Σ
1 2
(x
μ)]
1
1
Σ 2Var(x μ)Σ 2
1
1
Σ 2ΣΣ 2 Ι
x* 是p维标准正态分布,故x*'x*服从(2 p)分布。
27.363
1
0.366 1
0.242 0.233
1
0.360 0.324 0.476
1
0.245 0.265 0.540 0.534
1
0.376
0.252
0.676
0.441
0.440
1
7.033 2.168 3.540 1.681 1.276
4.981 2.874 1.276 1.161
Σ12 0
充分性 Σ12 0
Σ1
Σ1 11 0
0
Σ1 22
Σ Σ11 Σ22
Σ1
Σ1 11
Σ
1 22
f
(x1, x2,
, xp)
(2
) p
2
1 2
exp[ 1 (x 2
μ)Σ1(x
μ)]
(2
)k
/
2
11
1 2
exp[
1 2
(x1
μ)Σ
1
11
(x1
μ)]
.(2
)(
pk )/ 2
22
1 2
三、 X服从 p 维正态分布,则 y Cx b ,其中C为 r p 常数矩阵, b为 r 维的常数向量,则
y ~ Nr (C b,CC)
四、设 x ~ N p (,) ,则 x 的任何子向量也服从多元正态 分布,其均值为 的相应子向量,协方差为 的相应子矩 阵。
五、设 x1, x2, , xn , xi ~ N p (i ,i ) i, 1,2, , n 相互独立, 且,则对任意 n 个常数 k1, ,kn ,有
1
6.040 (x1, , x5 / x6 )
1.608 4.665
0.181 0.776 16.588
0.906 0.839 1.734 2.502
0.414
0.675
2.634
1.178
3.112
(x1, , x4 / x6 , x5 ) 11 1221221
6.040
E ( x2
(x1 1)2 2 )(x1
2 )
(x1 1)(x2 2 ) (x2 2 )2
(xp
)( x1
1 )
(xp p )(x2 2 )
AA
( x1 ( x2
1 )( x p 2 )(xp
pp))
(xp p)2
Var(x) AVar(u)A AA
J(u x) A 1 AA 1 2
0var x1
x2
Σ Σ1 21 11
I
I
0var x1
x2
Σ Σ1 21 11
IHale Waihona Puke Baidu
I
0 Σ11
Σ21
Σ12 Σ22
Σ Σ1 21 11
I
Σ11
Σ12
Σ Σ 1 11 12 I
Σ12 Σ12 0
所以x1与x2 Σ21Σ111x1相互独立。
十一、将 x, , 作如下的分块:
(2
)p
2
exp(
1 2
p
i1
xi2
)
xi i 1,2, , p 其中的 u (u1,u2, ,up ) 均值为 E(u) (Eu1, Eu2, , Eup ) 0
协方差为
u12
Var
(u)
E(uu)
E
u2u1
u pu1
1
1
I 1
u1u2 u22
upu2
u1u p
第二章 多元正态分布
§1 多元正态分布的定义
一、标准多元正态分布
设 随 机 向 量 u (u1,u2 , ,up ) , u1,u2 , ,up 独 立 同 分 布 于N (0,1) ,则的 u (u1,u2, ,up ) 密度函数为
n
f
(x1, x2 ,
,
xp )
i1
1
2
exp(
1 2
xi2 )
11.2
11 1221221
30.530 4.638 5.864
3.107 1.851
3.860
5.213
1
2.939
19.5325.132
27.363
4.069
4.525
2.939
19.532
4.069
4.525
6.040 (x1, , x5 / x6 )
协方差为
(x1 1)2
(x1 1)(x2 2 )
E (x2 2 )(x1 2 )
(x2 2 )2
(xp
)(x1
1 )
(xp p )(x2 2 )
(x1 1)(xp p ) (x2 2 )(xp p )
(xp p )2
称 x (x1, x2, , xp ) 服从均值为E(X),协方差为的正态分布。
三、一般的正态分布和标准正态分布的关系
设 x Au,其中 A 是一个 p 阶非退化矩阵,u (u1,u2, ,up )
服从 p 维标准正态分布,则 x Au 服从 p维正态分布,且均
值向量为
E(x) (Ex1, Ex2, , Exp ) (1, 2, , p )
协方差为
Var(x) E(x )(x )
2.056
(x1, x2 , x3, x4 / x5, x6 )
1 0.292 0.057 0.214
1
0.025 0.191
1 0.136
1
1.608 4.665
0.181 0.776 16.588
0.906
0.839
1.734
2.502
0.414
1
0.675
0.414
3.112 2.634
1.178
0.675
2.634
1.178
5.985
1.518 4.519
0.531 0.198 14.359
0.749
0.583 0.737
exp[
1 2
(x2
μ2
)Σ
1
22
(x
2
μ2
)]
f (x) f1(x1) f2 (x2 )
故x1和x
相互独立。
2
八、设 x ~ Nn (0,I) ,y Ax ,z Bx ,其中 A 是 p n 阶矩阵, B 是q n 阶矩阵,rank( A) p ,rank(B) q , 则 Z 与 Y 相互独立,当且仅当 AB 0 。
Σ
Σ11 Σ21
Σ12 k Σ22 k p
μ
μ1 μ2
p
k
k
x
x1 x2
p
k
k
则给定 x2时x1 的条件分布为 Nk (12,112 ) ,其中
μ12
μ1
Σ Σ1 12 22
(x2
μ2 ).
为x2 给定的条件下 x1数学期望。
Σ11.2 Σ11 Σ12Σ221Σ21是x2的条件下x1的条件协条件协方差。
f
( x1 ,
x2 ,
,
xp )
(2
) p
2
exp[
1(x 2
)1 ( x
)] |
J
|
(2 )p 2 1 2 exp[ 1 (x )1(x )]
2
注: 设随机向量 u ~ Nq (0, I ) , 是常数向量,A 是一
个 p *q的常数矩阵,则 x Au 服从正态分布,记 为 x ~ Np (,) ,其中 AA( p * p)
七、将 x, ,作如下的分块:
11 21
12 k 22 k p
1 2
p
k
k
x
x1 x2
p
k
k
子 x1, x2 向量相互独立,当且仅当 12 0。 证:必要性
又
x1和 x 2相互独立 Σ12 E[(x1 μ1 )( x2 μ2 )]
Σ12 E(x1 μ1 )E( x2 μ2 )]
同上可证。
十、将 x, , 作如下的分块:
11 21
12 k 22 k p
1 2
p
k
k
x
x1 x2
p
k
k
则 X1与X 2
1
21 11
X
相互独立,X
1
与2
X1
12
1 22
X
2
相互独立
。
证: 令
cov(x1,z) I
x1 I
0
x1 x2
z
Σ Σ1 21 11
I x1 x2
十二、偏相关系数
矩阵Σ11.2称为条件协方差矩阵,它的元素用 ij.k1, , p
表示。是当 x2 给定的条件下,xi
与
x
(
j
i,
j k )的偏相关
系数,定义为
ij.k 1, , p
ij.k 1, , p ii.k 1, , p jj.k 1, , p
它度量了在值 xk1, , xp给定的条件下,xi 与 xj ( i, j k )相关性的强弱。
u2u
p
u
2 p
二、一般的正态分布
设随机向量 x (x1, x2, , xp ) ,若其的密度函数为
f
( x1 ,
x2 ,
,
xp )
(2
) p
2
1
2
exp[ 1 (x 2
)1 ( x
)]
xi
其中 x (x1, x2, , xp ) 的均值为E(x) (1, 2, , p )
退化的三元正态分布。
1 1
1 0
1 0 1
AA 0 1
1 1
1 0
0 1
1 1
0 1
1 1
1 2
1 0
0 1
1 1
1 1
10
21
1 211 0
1
1 1 2
§2 多元正态分布的性质
一、多元正态分布的特征函数
(t) exp(it 1 tt)
2
二、x是一个服从p维正态分布,当且仅当它的任何 线性函数 ax 服从一元正态分布 N p (,) 。
例 设X~N6( ,),其协方差矩阵为,计算偏相关 系数。
7.033
2.168 4.981
3.540 2.874 30.530
1.681 1.276 4.638 3.107
1.276 1.161 5.864 1.851 3.860
5.213
2.939
19.532
4.069
4.525