概率论与数理统计：矩与协方差矩阵的概念

矩与协方差矩阵的概念

§4.4 矩与协方差矩阵

数学期望和方差可以纳入到一个更一般的概念范畴之中，那就是随机变量的矩。

4.4.1 矩与协方差矩阵的概念

定义4.7 设X 和Y 为随机变量.

若)(k X E (1,2,

)k =存在,称它为X 的k 阶原点矩,简称k 阶矩. 若{[()]}k E X E X -(1,2,

)k =存在,称它为X 的k 阶中心矩. 若)(l k Y X E (,1,2,)k l =存在,称它为X 和Y 的l k +阶混合矩.

若})]([)]({[l k Y E Y X E X E --(,1,2,)k l =存在,称它为X 和Y 的l k +阶混合中

心矩.

注:①X 的数学期望)(X E 是X 的一阶原点矩.

②X 的方差)(X D 是X 的二阶中心矩.

③协方差Cov(,)X Y 是X 和Y 的二阶混合中心矩.

定义4.8 设二维随机变量),(21X X 的四个二阶中心矩都存在,记为

2111112112221221122222{[()]},

{[()][()]},

{[()][()]},

{[()]},

c E X E X c E X E X X E X c E X E X X E X c E X E X =-=--=--=-

称矩阵 ⎪⎪⎭⎫ ⎝⎛22211211c c c c 为),(21X X 的协方差矩阵. 类似地，可定义n 维随机变量),,,(21n X X X 的协方差矩阵.

若 ()Cov(,){[()][()]},1,2,,ij i j i i j j c X X E X E X X E X i j n ==--=都存在,则称矩阵

111212122212

n n n n nn c c c c c c c c c ⎛⎫ ⎪ ⎪= ⎪ ⎪⎝⎭

C 为随机变量),,,(21n X X X 的协方差矩阵.

注：协方差矩阵中的元素ij c 有如下性质：

①

(),1,2,,ii i c D X i n ==, ② ,,1,2,,ij ji c c i j n ==,即C 为对称矩阵.

③2ij ii jj c c c ≤⋅.

特别地，2=n 时，二维随机变量的),(Y X 协方差矩阵定义如下： 定义矩阵⎪⎪⎭

⎫ ⎝⎛=)(),(),()(Y D Y X Cov Y X Cov X D C 称为),(Y X 的协方差矩阵 例4.48 设二维连续型随机变量),(Y X 的联合密度函数为

⎪⎩

⎪⎨⎧<<<<+=其它,020,10),21(76),(2y x xy x y x f ，求),(Y X 的协方差矩阵。 解：75)21(76),()(10202=+==⎰⎰⎰⎰∞+∞-∞+∞-dydx xy x x dxdy y x xf X E ， 7039)21(76)(102

0222=+=⎰⎰dxdy xy x x X E ， 49023)75(7039)]([)()(222=-=

-=X E X E X D ， 78)21(76),()(10202=+=

=⎰⎰⎰⎰∞+∞-∞+∞-dydx xy x y dxdy y x yf Y E ， 2134)21(76)(102

0222=+=⎰⎰dydx xy x y Y E ， 14746)78(2134)]([)()(222=-=

-=Y E Y E Y D , 21

17)21(76)(10202=+=⎰⎰dydx xy x xy XY E ， 147178752117)()()(),(-=⨯-=

-=Y E X E XY E Y X Cov ,

于是),(Y X 的协方差矩阵为：⎪⎪⎪⎪⎭

⎫ ⎝⎛--1474614711471490

23。 例4.49 设),(Y X 的协方差矩阵为⎪⎪⎭

⎫ ⎝⎛--=9111C ，求XY ρ. 解 由协方差矩阵的定义可知9)(,1)(,1),(==-=Y D X D Y X Cov 则 31911)()(),(-=⨯-==

Y D X D Y X Cov XY ρ