矩与协方差矩阵

定义 3.8 存在,记为
设二维随机变量 (X1, X 2) 的四个二阶中心矩都
c11 E{[ X1 E( X1)]2}, c12 E{[ X1 E( X1)][ X 2 E( X 2 )]}, c21 E{[ X 2 E( X 2 )][ X1 E( X1)]}, c22 E{[ X 2 E( X 2 )]2},
若 E{[X E( X )]k [Y E(Y )]l} (k,l 1, 2, ) 存在,称它为 X
和 Y 的 k l 阶混合中心矩.
注:① X 的数学期望 E(X ) 是 X 的一阶原点矩. ② X 的方差 D(X ) 是 X 的二阶中心矩.
③协方差 Cov(X ,Y ) 是 X 和Y 的二阶混合中心矩.
相互独立.
谢谢聆听
称矩阵
c11 c21
c12 c22
为
(
X
1
,
X
2
)
的协方差矩阵.
类似地，可定义 n 维随机变量 (X1, X2,, Xn) 的协方差矩阵.
若 cij Cov(Xi , X j ) E{[Xi E(Xi )][X j E(X j )]}i, j 1, 2, , n 都
存在,则称矩阵
c11 c12
C 是 ( X1, X 2,, X n ) 的协
方差矩阵.
n 维正态随机变量 ( X1, X 2,, X n ) 具有如下重要性质： (1) n 维正态随机变量 ( X1, X 2,, X n ) 的每一个分量 Xi (i 1, 2,, n) 都是正态随机变量；反之,若 X1, X 2,, X n 都是正 态随机变量,且相互独立,则 (X1, X 2,, X n ) 是 n 维正态随机变 量.
③ ci2j cii cjj .
1.2 n 维正态分布
二维正态随机变量 ( X1, X 2 ) 的概率密度为
f (x , x ) 2π 1 1 e . 1 2
12
1 2 (1
2
)
(
x1 1 12
)2
2
(
x1
1 )( x2 1 2
2
)
(
x2
2
2 2
)2
2
( X1, X 2 ) 的协方差矩阵为
例 3.23
设
(
X
,Y
)
服从二维正态分布,且
D(
X
)
2 X
,
D(Y )
2 Y
,求
a
满足什么条件时,W
X
aY
和V
X
aY
相互独立.
解 因为W , V 是二维正态随机变量 (X ,Y ) 的线性组合,
因而W , V 分别服从一维正态分布, (W , V ) 服从二维正态分布.
由 n 维正态分布的性质知,W , V 相互独立的充分必要条件是
注：性质中若不具有相互独立性，则反之不一定成立.
(2) n 维随机变量 ( X1, X 2,, X n ) 服从 n 维正态分布 的充分必要条件是 X1, X 2 ,, X n 的任意线性组合 k1X1 k2 X 2 kn X n 均服从一维正态分布（其中 k1, k2 ,, kn 不全为零）.
C
c21
c22
cn1 cn2
c1n
c2
n
cnn
为随机变量 (X1, X2,, Xn) 的协方差矩阵.
注：协方差矩阵中的元素 cij 有如下性质：
① cii D( Xi ), i 1, 2, , n . ② cij c ji , i, j 1, 2, , n ,即 C 为对称矩阵.
W , V 不相关.
由于
Cov(W,V ) Cov[(X aY ),(X aY )]
Cov( X , X ) aCov( X ,Y ) aCov( X ,Y ) a2Cov(Y ,Y )
D( X ) a 2D(Y )
2 X
a
2
2 Y
.
因而当 a
2
2 X
2 Y
时,W , V
不相关,此时W , V
)
.
类似地， n 维正态随机向量 (X1, X 2,, X n ) 的概率密度 可用矩阵表示为
f
( x1 ,
x2 , ,
xn )
1 (2π)n 2
C
1
2
exp
1 (X 2
) 'C 1( X
) ,
x1
其中
X
x2
,
xn
1 E( X1)
2
E(X2
)
,
n E(Xn )
(3)若 ( X1, X 2,, X n ) 服从 n 维正态分布,设 Y1,Y2 ,,Yk 是 X j ( j 1, 2,, n) 的线性函数,则 (Y1,Y2,,Yk ) 服从 k 维正态分布.
注：这一性质称为正态随机变量的线性变换不变性.
(4)设 ( X1, X 2 ,, X n ) 服从 n 维正态分布,则 X1, X 2 ,, X n 相互独立等价于 X1, X 2 ,, X n 两两不相关.
1 2
1
1 2
(
x1
1)2 12
2
( x1
1 )( x2 1 2
2 )
( x2
2 )2
2 2
,
其中 (X ) '是 (X ) 的转置.
于是,二维正态随机变量 (X1, X2) 的概率密度可用矩阵
表示为
f
( x1 ,
x2 )
(2π)2
1 2|
C
|1
2
exp
1 2
(
X
)
'C
1( X
矩与协方差矩阵
1.1 矩与协方差矩阵的概念
定义 3.7 设 X 和Y 为随机变量. 若 E(X k ) (k 1, 2, ) 存在,称它为 X 的 k 阶原点矩,简称 k 阶矩. 若 E{[ X E( X )]k} (k 1, 2, ) 存在,称它为 X 的 k 阶中 心矩. 若 E( X kY l ) (k,l 1, 2, ) 存在,称它为 X 和 Y 的 k l 阶混 合矩.
C
c11
c21
c12
c22
2 1
1
பைடு நூலகம்
2
1
2 2
2
,
它的行列式 逆矩阵
C
12
2 2
1 2
，
C 1
1 C
2 2
1
2
1
2 1
2
.
另记
X
x1 x2
,
1
2
，易验算
( X ) 'C 1( X )
1 C
(x1 1
x2
2
)
2 2
1
2
1 12
2
x1 x2