随机变量的协方差和相关系数

独立与不相关的关系： 若 X 与 Y 独立，则X与Y不相关， 但由X与Y不相关，不一定能推出X与Y独立.
但可以证明对下述情形，独立与不相关等价
若(X,Y)服从二维正态分布，则
X与Y独立 X与Y不相关
三、协方差矩阵
将二维随机变量（X1,X2）的四个数量指标
v11 E{[ X1 E( X1)]2}
cov(X,Y)=E[X-EX][Y-EY]=EXY-EXEY
1) 当(X,Y)是离散型随机变量时,
cov(X ,Y )
(xi EX )( y j EY ) pij ,
ij
2) 当(X,Y)是连续型随机变量时,
cov(X f (x, y)dxdy.
为(X1,X2, …,Xn) 的协方差矩阵.
这是一个非 负定对称矩阵
四、相关系数矩阵
若 i j
cov( X i , X j )
D(Xi ) D(X j )
都存在, 则称
vij
( i, j=1,2,…,n )
vii v jj
11
矩阵
R
21
12
22
1n 2n
n1 n2 nn
这是一个非 负定对称矩阵
注：均值 E(X)是X一阶原点矩,
方差D(X)是X的二阶中心矩.
设 X 和 Y 是随机变量，若
E( X kY l ) k,l=1,2,… 存在，
称它为 X 和 Y 的 k+l 阶混合原点矩. 若 E{[ X E( X )]k [Y E(Y )]l} 存在， 称它为X 和 Y 的 k+l 阶混合中心矩.
注:协方差cov(X,Y)是X和Y的二阶混合中心矩.
六、例题讲解
1、设X ~ N (, 2 ),Y ~ N (, 2 )，且设X，Y相互独立 试求Z1 X Y和Z2 X Y的相关系数(其中，
是不全为零的常数）。
1、解 D( X ) D(Y ) 2
D(Z1) D(X Y ) 2D( X ) 2D(Y ) ( 2 2 ) 2 D(Z2 ) D(X Y ) 2D( X ) 2D(Y ) ( 2 2 ) 2
cov(Z1, Z2 ) cov(X Y ,X Y ) 2cov( X , X ) 2 cov(Y ,Y ) 2D( X ) 2D(Y )
( 2 2 ) 2
Z1Z2
cov(Z1, Z2 ) D(Z1) D(Z2 )
2 2
2 2
2. 设二维连续型随机变量 ( X ,Y )的联合密度
函数为
f
( x,
y)
6 ( x2 7
1 2
xy),
0
x
1,
0
y
2,
0,
其他
求 ( X ,Y )的协方差矩阵及相关系 数.
解
E(X)
x f ( x, y)dxdy
1 2 6 x( x2 1 xy)dydx
0 07
2
1 0
12 7
x
3
6 7
x2
dx
5, 7
人生的重大决定，是由心规划的，像预先计算好的框架，等待着你的星座运行。如期待改变我们的，首先要改变心的轨迹。 友谊只能在实践中产生并在实践中得到保持。 请你用慈悲心和温和的态度，把你的不满与委屈说出来，别人就容易接受。 作者不一定能写到老，但是他一定应该学到老。 家庭成为快乐的种子在外也不致成为障碍物，但是在旅行之际却是夜间的伴侣。——西塞罗 不要拿过去的记忆，来折磨现在的自己。 知道看人背后的是君子；知道背后看人的是小人。 好好扮演自己的角色，做自己该做的事。 学问是异常珍贵的东西，从任何源泉吸收都不可耻。——阿卜日法拉兹 待人退一步，爱人宽一寸，人生自然活得很快乐。 奋斗的双脚在踏碎自己的温床时，却开拓了一条创造之路。 不满是悬空的接替，它让人在比较中不断产生向上攀爬的欲望。
随机变量的协方差和相关系数
随机变量的协方差和相关系数
前面我们介绍了随机变量的数学期望和方差， 对于二维随机变量（X，Y），我们除了讨论X与Y 的数学期望和方差以外，还要讨论描述X和Y之间 关系的数字特征，这就是本讲要讨论的
协方差和相关系数
一、协方差
1.定义 E[ X-EX][Y-EY]称为随机变量X和Y的协方 差,记为cov(X,Y) ，即
v12 E{[ X1 E( X1)][ X 2 E( X 2 )]}
v21 E{[ X 2 E( X 2 )][ X1 E( X1)]}
v22 E{[ X 2 E( X 2 )]2}
这是一个非
排成矩阵的形式:
v11 v21
v12 v22
负定对称矩阵
称此矩阵为（X1,X2）的协方差矩阵.
2.简单性质
(1) cov(X,C)= 0, C为常数； (2) cov(X,X)= D(X) (3) cov(X,Y)= cov(Y,X) (4) cov(aX+b, Y) = a cov(X,Y) a, b 是常数 (5) cov(aX, bY) = ab cov(X,Y) a, b 是常数 (6) cov(X1+X2,Y)= cov(X1,Y) + cov(X2,Y) (7) D(X±Y)=D(X)+D(Y)±2cov(X,Y)
在不致引起混淆时，记 XY 为 .
相关系数的性质：
1. | | 1
由于方差D(Y)是正的,故必有
证: 由方差的性质和协方1 差的2 ≥定0义, 所知,以 | | ≤1。 对任意实数 b, 有
0≤D(Y-bX)= b2D(X)+D(Y)-2b cov(X,Y )
令b cov( X ,Y ) ，则上式为
身体健康，
学习进步！
类似定义n 维随机变量(X1,X2, …,Xn) 的协方差矩阵.
若 vi j cov( X i , X j ) E{[ Xi E( Xi )][ X j E( X j )]}
都存在, 则称
( i, j=1,2,…,n )
v11
矩阵
V
v21
v12
v22
v1n v2n
vn1 vn2 vnn
D(X )
D(Y- bX)= D(Y ) [cov( X ,Y )]2
D(X )
[cov( X ,Y )]2
D(Y )[1
] D(Y )[1 2 ]
D( X )D(Y )
2. XY 1
存在常数 a,b(b≠0)， 使 P{Y= a + b X}=1，
即 X 和 Y 以概率 1 线性相关.
协方差的大小在一定程度上反映了X和Y相互间 的关系，但它还受X与Y本身度量单位的影响.
为了克服这一缺点，对协方差进行标准化，这 就引入了相关系数 .
二、相关系数
定义: 设D(X)>0, D(Y)>0, 称
XY
cov( X ,Y ) D( X )D(Y )
为随机变量 X 和 Y 的相关系数 .
3. X和Y独立时， =0，但其逆不真 .
证: 由于当X和Y独立时，cov(X,Y)= 0, 故
cov( X ,Y ) = 0
D( X )D(Y )
但由 0并不一定能推出X和Y 独立.
例1 设X~N(0,1), Y=X2, 求X和Y的相关系数。
4. 若XY 0 ，则称X和Y（线性）不相关。
为(X1,X2, …,Xn) 的相关系数矩阵。
由于 ii
cov( X i , X i ) 1, D(Xi ) D(Xi )
故相关系数矩阵的主对角元素均为1.
五、 原点矩和中心矩
定义 设X和Y是随机变量，若 E( X k ),k 1,2,
存在，称它为X的k阶原点矩，简称 k阶矩.
若 E{[ X E( X )]k}, k 2,3, 存在，称它为X的k阶中心矩.
定理：若随机变量X与Y的数学期望和方差都存 在，且均不为零，则下列四个命题等价： （1） XY 0 ； （2）cov(X ,Y) = 0； （3）E(XY)=EXEY； （4）D(X ±Y)=DX+DY。
注： XY 反应了X与Y的线性关系密切程度；X与Y不相关
表明两者没有线性关系，但不等于说没有其他关系。