多元统计分析随机向量
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(2)设A,B,C为常数矩阵，则 E(AXB+C)=AE(X)B+C
特别地，对于随机向量X，有 E(AX)=AE(X)
(3)设X1,X2,⋯,Xn为n个同阶的随机矩阵，则 E(X1+X2+⋯+ Xn)=E(X1)+E(X2)+⋯+E(Xn)
二、协方差矩阵
协方差定义为
Cov X ,Y E X E X Y E Y
即 V X E X E X X E X
V X1
Cov
X
2
,
X1
Cov X p , X1
Cov x1, x2 V x2
Cov xp , x2
Cov
X1, X p
Cov
X2, X p
VXp
V(X)亦记作Σ=(σij)，其中σij=Cov(Xi,Xj)。
f (t1,
, t p )d t1
dtp
p f ( x1, , x p ) x1 x p F ( x1, , x p )
多元概率密度函数f (x1, ⋯,xp) ：
(1) f ( x1,
, x p ) 0，对一切实数x1,
,
x
；
p
(2)
f ( x1,
, x p )d x1
d x p 1。
附2 随机向量
§2.1 一元分布 §2.2 多元分布 §2.3 数字特征 §2.4 欧氏距离和马氏距离 §2.5 随机向量的变换 §2.6 特征函数（不讲）
§2.2 多元分布
一、多元概率分布 二、多元概率密度函数 三、边缘分布 四、条件分布 五、独立性
一、多元概率分布
随机向量：元素为随机变量的向量。 随机矩阵：元素为随机变量的矩阵。 随机变量X的分布函数：
E X E X Y E Y
X和Y的协方差矩阵与Y和X的协方差矩阵互为转置关系，
即有 Cov X ,Y CovY , X
若Cov(X,Y)=0，则称X和Y不相关。两个独立的随机向量
必然不相关，但两个不相关的随机向量未必独立。
X=Y时的协差阵Cov(X,X)称为X的协方差矩阵，记作V(X)，
X1 ,Y1
Cov
X
,Y
Cov
X
2
,Y1
Cov X p ,Y1
Cov X1,Y2 Cov X2 ,Y2
Cov X p ,Y2
X1 E X1
E
Y1 E Y1 ,
X p E X p
Cov
X1,Yq
Cov
X 2 ,Yq
Cov X p ,Yq
,Yq E Yq
E
X
E
X1
,
E
X
2
,
,E
Xp
记为μ=(μ1,μ2,⋯,μp)′。
随机矩阵X=(Xij)的数学期望
E
X11
E X E Xij
E
X
21
E X p1
E X12 E X22
E X p2
E
X1q
E
X 2q
E X pq
随机矩阵X的数学期望的性质
(1)设a为常数，则 E(aX)=aE(X)
Fx PX a
随机向量 X X1, X2, , X p 的分布函数：
F x1, x2, , xp P X1 x1, X2 x2, , X p x p
二、多元概率密度函数
一元的情形：
F(x)
x
f
tdt,
f x dFx
dx
多元的情形：
F ( x1,
,xp)
x1
xp
义很有益处。
协差阵的性质
（1）协差阵是非负定阵，即Σ≥0。 推论 若|Σ|≠0，则Σ>0。 （2）设A为常数矩阵，b为常数向量，则
V AX b AV X A
当p=1时，上述等式就是我们熟知的如下等式：
V aX b a2V X
（3）设A和B为常数矩阵，则
Cov AX , BY ACov X ,Y B
协差阵Σ既包含了X各分量的方差，也包含了每两个分 量之间的协方差。显然，Σ是一个对称矩阵。
例1 随机向量一分为二后，其协差阵分为四块：
X V X Cov X ,Y
V
Y
Cov Y
,
X
V Y
其中，对角线块为子向量的协差阵，非对角线块
为两个子向量之间的协差阵。熟悉这四块子矩阵的含
三、边缘分布
设X是p维随机向量，由它的q(<p) 个分量组成的
向量X(1)的分布称为X的关于X(1)的边缘分布。
不妨设 X1 X1, , Xq ，则对连续型的分布，有
ቤተ መጻሕፍቲ ባይዱ
f1 ( x1, , xq ) f ( x1, , x p )d xq1 d x p
四、条件分布
设 X X1, , X p 是p维连续型的随机向量，在给
Cov Xi ,Yj
i1
j1
i1 j1
证明
n
m
Cov Xi ,Yj
i1
j1
n
n m
m
E Xi E Xi Yj E Yj
i1
i1 j1
例2 Σ 0 X 的各分量间存在线性关系（依概率1）。
协差阵的性质
（4）设 A1, A2 , , An和B1, B2 , , Bm 为常数矩阵，则
n
m
nm
Cov Ai Xi , BjYj
Ai Cov Xi ,Yj Bj
i1
j1
i1 j1
n
m nm
推论 Cov Xi , Yj
f x, y fX x fY y
n个连续型随机向量的独立
f x1, , xn f1 x1 fn xn
在实际应用中，若随机向量之间的取值互不影响，则 认为它们之间是相互独立的。
§2.3 数字特征
一、数学期望（均值） 二、协方差矩阵 三、相关矩阵
一、数学期望（均值）
随机向量 X ( X1, X2, , X p )的数学期望
若Cov(X,Y)=0，则称X和Y不相关。 两个独立的随机变量必然不相关，但两个不相关的随机 变量未必独立。 当X=Y时，协方差即为方差，也就是
Cov X , X Var X
X X1, X2, , X p 和Y Y1,Y2, ,Yq 的协方差矩阵（简
称协差阵）定义为:
Cov
定X2 Xq1,
,Xp ,
f2
x 2
0 的条件下，
X1 X1, , Xq 的条件密度定义为：
f x1,
, xq | xq1,
, xp
f
f2
x1, , x p xq1, , x p
f x
或表达为：
f
x1 | x2
f2
x 2
五、独立性
两个连续型随机向量的独立
特别地，对于随机向量X，有 E(AX)=AE(X)
(3)设X1,X2,⋯,Xn为n个同阶的随机矩阵，则 E(X1+X2+⋯+ Xn)=E(X1)+E(X2)+⋯+E(Xn)
二、协方差矩阵
协方差定义为
Cov X ,Y E X E X Y E Y
即 V X E X E X X E X
V X1
Cov
X
2
,
X1
Cov X p , X1
Cov x1, x2 V x2
Cov xp , x2
Cov
X1, X p
Cov
X2, X p
VXp
V(X)亦记作Σ=(σij)，其中σij=Cov(Xi,Xj)。
f (t1,
, t p )d t1
dtp
p f ( x1, , x p ) x1 x p F ( x1, , x p )
多元概率密度函数f (x1, ⋯,xp) ：
(1) f ( x1,
, x p ) 0，对一切实数x1,
,
x
；
p
(2)
f ( x1,
, x p )d x1
d x p 1。
附2 随机向量
§2.1 一元分布 §2.2 多元分布 §2.3 数字特征 §2.4 欧氏距离和马氏距离 §2.5 随机向量的变换 §2.6 特征函数（不讲）
§2.2 多元分布
一、多元概率分布 二、多元概率密度函数 三、边缘分布 四、条件分布 五、独立性
一、多元概率分布
随机向量：元素为随机变量的向量。 随机矩阵：元素为随机变量的矩阵。 随机变量X的分布函数：
E X E X Y E Y
X和Y的协方差矩阵与Y和X的协方差矩阵互为转置关系，
即有 Cov X ,Y CovY , X
若Cov(X,Y)=0，则称X和Y不相关。两个独立的随机向量
必然不相关，但两个不相关的随机向量未必独立。
X=Y时的协差阵Cov(X,X)称为X的协方差矩阵，记作V(X)，
X1 ,Y1
Cov
X
,Y
Cov
X
2
,Y1
Cov X p ,Y1
Cov X1,Y2 Cov X2 ,Y2
Cov X p ,Y2
X1 E X1
E
Y1 E Y1 ,
X p E X p
Cov
X1,Yq
Cov
X 2 ,Yq
Cov X p ,Yq
,Yq E Yq
E
X
E
X1
,
E
X
2
,
,E
Xp
记为μ=(μ1,μ2,⋯,μp)′。
随机矩阵X=(Xij)的数学期望
E
X11
E X E Xij
E
X
21
E X p1
E X12 E X22
E X p2
E
X1q
E
X 2q
E X pq
随机矩阵X的数学期望的性质
(1)设a为常数，则 E(aX)=aE(X)
Fx PX a
随机向量 X X1, X2, , X p 的分布函数：
F x1, x2, , xp P X1 x1, X2 x2, , X p x p
二、多元概率密度函数
一元的情形：
F(x)
x
f
tdt,
f x dFx
dx
多元的情形：
F ( x1,
,xp)
x1
xp
义很有益处。
协差阵的性质
（1）协差阵是非负定阵，即Σ≥0。 推论 若|Σ|≠0，则Σ>0。 （2）设A为常数矩阵，b为常数向量，则
V AX b AV X A
当p=1时，上述等式就是我们熟知的如下等式：
V aX b a2V X
（3）设A和B为常数矩阵，则
Cov AX , BY ACov X ,Y B
协差阵Σ既包含了X各分量的方差，也包含了每两个分 量之间的协方差。显然，Σ是一个对称矩阵。
例1 随机向量一分为二后，其协差阵分为四块：
X V X Cov X ,Y
V
Y
Cov Y
,
X
V Y
其中，对角线块为子向量的协差阵，非对角线块
为两个子向量之间的协差阵。熟悉这四块子矩阵的含
三、边缘分布
设X是p维随机向量，由它的q(<p) 个分量组成的
向量X(1)的分布称为X的关于X(1)的边缘分布。
不妨设 X1 X1, , Xq ，则对连续型的分布，有
ቤተ መጻሕፍቲ ባይዱ
f1 ( x1, , xq ) f ( x1, , x p )d xq1 d x p
四、条件分布
设 X X1, , X p 是p维连续型的随机向量，在给
Cov Xi ,Yj
i1
j1
i1 j1
证明
n
m
Cov Xi ,Yj
i1
j1
n
n m
m
E Xi E Xi Yj E Yj
i1
i1 j1
例2 Σ 0 X 的各分量间存在线性关系（依概率1）。
协差阵的性质
（4）设 A1, A2 , , An和B1, B2 , , Bm 为常数矩阵，则
n
m
nm
Cov Ai Xi , BjYj
Ai Cov Xi ,Yj Bj
i1
j1
i1 j1
n
m nm
推论 Cov Xi , Yj
f x, y fX x fY y
n个连续型随机向量的独立
f x1, , xn f1 x1 fn xn
在实际应用中，若随机向量之间的取值互不影响，则 认为它们之间是相互独立的。
§2.3 数字特征
一、数学期望（均值） 二、协方差矩阵 三、相关矩阵
一、数学期望（均值）
随机向量 X ( X1, X2, , X p )的数学期望
若Cov(X,Y)=0，则称X和Y不相关。 两个独立的随机变量必然不相关，但两个不相关的随机 变量未必独立。 当X=Y时，协方差即为方差，也就是
Cov X , X Var X
X X1, X2, , X p 和Y Y1,Y2, ,Yq 的协方差矩阵（简
称协差阵）定义为:
Cov
定X2 Xq1,
,Xp ,
f2
x 2
0 的条件下，
X1 X1, , Xq 的条件密度定义为：
f x1,
, xq | xq1,
, xp
f
f2
x1, , x p xq1, , x p
f x
或表达为：
f
x1 | x2
f2
x 2
五、独立性
两个连续型随机向量的独立