多元正态分布
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
则称X服从p元正态分布,记作X~Np (μ, Σ),其中,参数μ 和Σ分别为X的均值和协差阵。
例1(二元正态分布 )
设X~N2(μ, Σ),这里
X1 X , X2
1 μ , 2
12 1 2 Σ 2 2 1 2
12 22 32 42
13 23 33 43
14 24 34 44
2
x2 2 x2 2 2 ; c 2 2
X 1 (ii) X 4
1 11 14 ; N2 , 4 41 44
上述等高线上的密度值
2 1 c f x1 , x2 exp 2 2 2 1 2 1 2 1
2
2
4
二元正态分布的密度等高线族 (由10000个二维随机数生成) 0
0
2
0
y
-2
-2 0 2 -2 0 2 4 |ρ|越大,长轴越长 ,短轴越短,即椭圆越扁平; x
( 2)
1 AX 0
其中
X1 0 0 X 1 AΣA ) X 2 X ~ N (Aμ , 0 1 3 X3 1 0 0 1 2 0 1 3 3
第二章 多元正态分布
§2.1 多元正态分布的定义 §2.2 多元正态分布的性质
§2.3 复相关系数和偏相关系数
§2.4 极大似然估计及估计量的性质
§2.5 X 和(n − 1) S的抽样分布
§2.1 多元正态分布的定义
一元正态分布N(μ,σ2)的概率密度函数为:
f x 2
1 2
2 2 x1 x2 2
(1 sin x1 sin x2 )
x1 , x2 R
§2.2 多元正态分布的性质
正态变量的线性组合未必就是正态变量。
证明: 反证法。若命题 “一元正态变量X1,X2, ⋯,Xn 的一切线性组合一定是一元正态变量” 成立,则由 性质(2)知,X1,X2, ⋯,Xn的联合分布必为多元正态 分布,于是命题“一元正态变量的联合分布必为多元 正态分布”成立,从而矛盾。
(4)设X~Np (μ, Σ),则X的任何子向量也服从(多元) 正态分布,其均值为μ的相应子向量,协方差矩阵为Σ 的相应子矩阵。 该性质说明了多元正态分布的任何边缘分布仍为(多 元)正态分布。 需注意,随机向量的任何边缘分布皆为(多元)正态
分布未必表明该随机向量就服从多元正态分布。
1 f ( x1 , x2 ) e 2
X1 k μ1 k Σ11 Σ12 k X ,μ ,Σ pk X μ Σ Σ p k p k 22 2 2 21 k pk
则子向量X1和X2相互独立,当且仅当Σ12=0。 该性质指出,对于多元正态变量而言,其子向量之间
( 3)
X1 1 (1) (1) X μ X 2 2 μ 记X (2) (2) X μ X 3 3 11 12 13 Σ11 Σ12 Σ 21 22 23 Σ 21 22 31 32 33
例 2 若 X ( X1 , X 2 , X 3 ) ~ N 3 ( μ, Σ ) 其中,
11 12 13 21 22 23 31 32 33 1 0 0 设 a (0,1,0) , A ,则 0 0 1 1 2 3
X1 1 X , X2 p 1
1 11 σ 21 Σ σ 21 Σ 22 p 1 1 p 1
X1和X2的线性函数 l X 2间的最大相关系数称为 X1和X2 间的复(或多重)相关系数(multiple correlation
coefficient),记作ρ1∙2,⋯,p, 它度量了一个变量X1与一组
1 e 2
2 x
2 2
2
1 2
1 exp x 2 2
1
x ,
x
若随机向量 X ( X1 , X 2 , , X p )的概率密度函数为
f x 2
p 2
Σ
1 2
1 1 exp x μ Σ x μ 2
12
1 Aμ 0
1 1 1 0 0 AΣA 2 1 0 0 1 3 1
22 32
1 31 0 0 0 1 1 13 2 3 33 0 1 3 1 3 3
则
X
(1)
X1 ~ N 2 ( μ(1) , Σ11 ) X2
其中
μ
(1)
1 2
11 12 Σ11 21 22
, X p ) 服从 p
在此我们应该注意到,如果 X ( X1 , X 2 ,
元正态分布,则它的每个分量必服从一元正态分布,因此 把某个分量的 n 个样品值作成直方图,如果断定不呈正态 分布,则就可以断定随机向量 X ( X1 , X 2 , 可能服从 p 元正态分布。
x
|ρ|越小,长轴越短 ,短轴越长,即椭圆越圆;
|ρ|=1时椭圆退化为一条线段;|ρ|=0时即为圆。
§2.2 多元正态分布的性质
(1)多元正态分布的特征函数是: 1 ' ' X ( t ) exp( it t t ) , AA' . 2 (2)设X是一个p维随机向量,则X服从多元正态分布,
变量X2, ⋯,Xp间的相关程度。 12 1 Σ 22 σ21 σ21 X1 , l X 2 可推导出 1 2 , , p max l 0 11 例4 随机变量X1,⋯,Xp的任一线性函数F=l1X1+⋯+ lp Xp
互不相关和相互独立是等价的。
(7)设X~N p (μ, Σ), Σ>0,则 X μ Σ 1 X μ
2 p
例4 设X~N3(μ,Σ),其中
3 0 0 Σ 0 5 1 0 1 1
则X2和X3不独立,X1和(X2,X3)独立。
(8)设X~N p (μ, Σ), Σ>0,作如下剖分
X1 k μ1 k Σ11 Σ12 k X ,μ ,Σ pk X μ Σ Σ p k p k 22 2 2 21 k pk
则给定X2时X1的条件分布为 N k μ1 2 , Σ11 2 ,其中
1 μ1 2 μ1 Σ12 Σ 22 x2 μ2 1 Σ11 2 Σ11 Σ12 Σ 22 Σ 21
, X p ) 也不
例3 设X~N4(μ, Σ),这里
11 X1 1 X X 2 , μ 2 , Σ 21 31 X3 3 X 4 4 41 2 x1 1 x1 1 则(i) 2 1 1
X2 X3 试求给定X1+2X3时 的条件分布。 X1
§2.3 复相关系数和偏相关系数
一、复相关系数
二、偏相关系数
一、复相关系数
相关系数度量了一个随机变量x1与另一个随机变量x2 之间线性关系的强弱。 复相关系数度量了一个随机变量X1与一组随机变量X2, ⋯,Xp之间线性关系的强弱。 将X, Σ(>0)剖分如下:
§2.2 多元正态分布的性质
(5)设X1,X2, ⋯,Xn相互独立,且Xi~N p (μi, Σi) ,
i=1,2,⋯,n,则对任意n个常数,有
k X
i 1 i
n
i
n n 2 N p ki μi , ki Σ i i 1 i 1
此性质表明,独立的多元正态变量(维数相同)的任意 线性组合仍为多元正态变量。 (6)设X~N p (μ, Σ),对X, μ, Σ(>0)作如下的剖分:
μ1· 2和Σ11· 2分别是条件数学期望和条件协方差矩阵, Σ11· 2通常称为偏协方差矩阵。
这一性质表明,对于多元正态变量,其子向量的条件分布
仍是(多元)正态的。
例5 设X~N3(μ, Σ),其中
1 μ 2 Σ 4 4 1 2 1 4
( 1)
X1 a X (0,1, 0) X 2 X 2 ~ N (aμ, aΣa) X3
其中
1 aμ (0,1, 0) 2 2 3 11 12 13 0 1 aΣa (0,1, 0) 22 23 22 21 0 32 33 31
当且仅当它的任何线性函数 aX 均服从一元正态分布。
性质(2)常可用来证明随机向量服从多元正态分布。
(3)设X~N p (μ, Σ),Y=CX+b其中C为r×p 常数矩阵,
则
Y
N r Cμ b, CΣC
该性质表明,(多元)正态变量的任何线性变换仍为 (多元)正态变量。
§2.2 多元正态分布的性质
1 exp 2 2 1
二元正态分布的密度曲面图
下图是当 , 0.75 时二元正态分布的钟形密
2 1 2 2
度曲面图。
二元正态分布等高线
等高(椭圆)线:
x1 1 x1 1 x2 2 x2 2 2 2 c 1 1 2 2
X4 X (iii) 1 X 3
4 44 41 43 N 3 1 , 14 11 13 。 31 33 3 34
易见,ρ是X1和 X2的相关系数。当|ρ|<1时,可得X的
概率密度函数为:
f x1 , x2 1 2 1 2 1 2
2 x 2 x x x 1 1 1 2 2 2 2 1 2 1 1 2 2