§4.3协方差和相关系数

由于当X和Y独立时，Cov(X,Y)= 0.
故 Cov( X ,Y ) = 0
D( X )D(Y )
但由=0并不一定能推出X和Y 独立. 请看下例.
例3. 设X服从(-1/2, 1/2)内的均匀分布,而Y=cos (X)，求X， Y的相关系数.
解：不难求得 Cov(X,Y)=0.
( 因E(X ) 0, E( XY )
DE((XXY) ) DE(Y[X)E(2YC)]ov(EX[Y,EY()X )] E(X )E(Y)
对任意常数E(aX,Yb )有 E(X )E(Y )
Cov(aX ,bY) E[(aX E(aX ))(bY E(bY))] abE[(X E(X ))(Y E(Y ))] abCov(X ,Y )
E[( X E(X ))k (Y E(Y ))l ] (k,l 1, 2,)
为 k l 阶混合中心矩.
E(X ) D(X ) Cov(X ,Y )
1 阶原点矩 2 阶中心矩 2 阶混合中心矩
对于二维r.v ( X1,，X记2 )
c11 E[( X1 E( X1 ))2 ] D( X1)
0 , | y | 1
f (x, y) fX (x) fY ( y) ( | x | 1, | y | 1)
X ,Y 不独立 又因为
fX (x), 均fY (为y)偶函数
E(
X
)
xf
X
(x)dx
0
E(Y
)
yfY
(
y)dy
0
E(
XY
)
xyf
(x,
y)dxdy
1
xydxdy 0
x2 y2 1
E{[X E(X )][aX b E(aX b)]}
aE[ X E( X )]2 aD(X ).
XY
Cov( X ,Y ) D( X ) D(Y )
aD(X ) D(X ) a2D(X )
|
a a
|
1, 1
a0 .
a0
2. 相关系数的性质及其与独立性的关系
X和Y独立时， =0，但其逆不真.
E[(X E(X ))(Y E(Y))] E(XY) E(X )E(Y) 0
故 X ,Y 不相关
§4.5 矩和协方差矩阵
对于 r.v X ,Y , 称
E( X k ) ( k 1, 2,)
为 k阶原点矩，简称 k阶矩.
E[( X E( X ))k ] ( k 2,3,) 为 k阶中心矩. E( X kY l ) (k,l 1, 2,) 为 k l 阶混合矩.
这X种 与“XX关D从,(EY系X(之直X)”)间观到, 的上Y底关看是Y系k什XD应,E么(kY(无YY)关之)本系间质的差关异系,
但它们的协方差相差了 k2倍
二、相关系数
定义: 设D(X)>0, D(Y)>0, 称
XY
Cov( X ,Y ) D( X ) D(Y )
为随机变量X和Y的相关系数 .
X
,
X
)
c11 c21
c12 c22
称矩阵 Cov(X , X ) 为 X (X1, X2 ) 的协方差矩阵. CT C, 即 C为对称阵
C 0, 即 C为正定(非负定)阵
1 c11 D( X1) 0
一阶顺序2 | C | c11c22 c21c12
二主阶子顺式序 D(X1)D(X 2 ) [Cov(X1, X 2 )]2YO YOY
Y a0 b0 X ( b0 0 )
Y
Y a0b0 X ( b0 0 )
XY 1 X
O
y a0 b0x ( b0 0 )
O Y
XY 0
XY 1 X
X
y a0 b0x ( b0 0 )
0 XY 1 X
O
X
1 XY 0
例1.
XY
1
2
3
1
0
1/6 1/12
1/4
1/ 2
x cos(x) f (x)dx 0 )
1/ 2
X因,而Y之ρ =间0，不存即在X和线Y性不相关关系.，并不意味着它们之间不 但Y与X有严存格在的任函何数关关系系，（即即X和相Y互不独独立立）. ！
相关系数刻划了X和Y间“线性相关”的程度.
显然，若X与Y独立，则X与Y不相关， 但由X与Y不相关，不一定能推出X与Y独立. 但对下述情形，独立与不相关等价
ρ=0，
即X,Y相互独立与不相关是等价的.
例5 设 r.v (X ,Y) 服从圆域 G : x2 y2 1 上的均匀分布,
试讨论 X ,Y 的独立性与相关性. 解： 先求得 X ,Y 的密度函数分别为
fX (x) 2 1 x2 , | x | 1
0 , | x | 1
fY ( y) 2 1 y2 , | y | 1
§4.3 协方差和相关系数
• 协方差 • 相关系数
设 (X ,Y ) ~ f (x, y), X ~ fX (x),Y ~ fY ( y),则
X ,Y 相互独立 f (x, y) f X (x) fY ( y)
若 X ,Y不独立,如何刻画它们之间的关系
若 X ,Y 相互独立,则
f (x, y) fX (x) fY ( y)
c12 E[( X1 E( X1))( X 2 E( X 2 ))] Cov(X1, X 2 ) c21 E[( X 2 E( X 2 ))( X1 E( X1))] Cov( X 2 , X1)
c22 E[( X 2 E( X 2 ))2 ] D( X 2 )
写成矩阵的形式
C
Cov(
1. | XY | 1 2. | XY | 1
Y a bX (a,b为常数 )
1. | XY | 1
证明： D(X+tY) =D(X)+t2D(Y)+2tcov(X,Y) ≥0 于是， △=4cov2(X,Y)-4D(X)D(Y) ≤0 即， cov2(X,Y)/D(X)D(Y) ≤1，得证！
一、协方差(Covariance) 1.定义 若 X ,Y 的方差均存在,记
Cov(X ,Y ) E[(X E(X ))(Y E(Y ))]
称 Cov(X ,Y ) 为 X ,Y 的协方差
计算协方差的一个简单公式
Cov(X,Y)=E{[ X-E(X)][Y-E(Y) ]} =E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y)
XY
Cov( X ,Y ) D( X ) D(Y )
1 6
1
11 3
22
例2. 设随机变量X的方差D( X )≠0，且Y=aX+b(a≠0), 求X和Y的相关系数ρXY .
解： D(Y ) D(aX b) a2D( X ),
Cov(X ,Y ) E{[X E(X )][Y E(Y )]}
即 Cov(X,Y)=E(XY) -E(X)E(Y)
可见，若X与Y独立， Cov(X,Y)= 0 . 若 Cov(X,Y)= 0 ， X与Y是否独立？
Cov(X ,Y ) E[(X E(X ))(Y E(Y ))]
若 X ,Y 相互独立 Cov(X ,Y) 0
Cov(X ,Y ) Cov(Y, X ) D(X ) E(X E(X ))2 Cov(X , X ) Cov(X ,Y ) E[(X E(X ))(Y E(Y ))] D(X Y) DE([XX)YDX(EY()Y)2EY[E(X(X)E(EX()X)(Y)E(YE)(]Y ))]
若(X,Y)服从二维正态分布，则
X与Y独立
X与Y不相关
例4．设（X，Y）服从二维正态分布，求X，Y的相关系数.
解：X，Y的联合密度f(x,y)及边缘密度 fX(x), fY(y) 如下：
f (x, y)
1
e
1 2 (1
2
[ )
(
x1 12
)2
2
(
x
1 )( y 1 2
2
)
(
y
2
2 2
)2
]
21 2 1 2
2
1/6 1/6 1/6
1/2
3
1/12 1/6
0
1/4
求Cov(X,Y) ,ρXY
¼½ ¼
解： E(X) = 2 , E(Y) = 2； E(X2) = 9/2 , E(Y2) = 9/2
D(X) =1/2 , D(Y) = 1/2
E(XY) =
i
j
xi y j pij
23 6
Cov(X,Y) = 23/6 – 4 = - 1/6 ;
主子式
D( X 1 )D( X
2
)(1
2 X1X 2
)
0
对于 n维 r.v ( X1, X2 ,, Xn ), 记
cij Cov( Xi , X j ) E[(Xi E(Xi ))(X j E(X j ))]
(i, j 1, 2,, n)
写成矩阵的形式
c11 c12 c1n
C
c21
故若
E[(X E(X ))(Y E(Y ))] 0 E[(X E(X ))(Y E(Y ))] 0
则 X ,Y 必不独立,它们之间必存在一定关系
前面我们介绍了随机变量的数学期 望和方差，对于多维随机变量，反 映分量之间关系的数字特征中，最 重要的，就是本讲要讨论的“协方 差和相关系数”.
Cov(X1 X2 ,Y ) Cov(X1,Y ) Cov(X2 ,Y )
X ,Y相互独立 Cov(X ,Y) 0
Cov(X ,Y) 0
X ,Y 必不独立
X ,Y 之间必存在某种“关系”
又 kR
Cov(kX , kY
考虑“单位化”的r.v
)
k
2C这Coov种v((X“X,Y,关Y)的)来用系大度相”小量关的是这系密否种数切反关程映X系度Y 了
fX (x)
1
e ,
(
x 1
2
2 1
)2
2 1
fY (y)
1
e ,
(
y2
2
2 2
)
2
2 2
Cov(X ,Y )
(x 1)( y 2 ) f (x, y)dxdy
1 2
XY
Cov( X ,Y ) 1 2 D( X ) D(Y ) 1 2
从而说明二维正态分布随机变量X,Y相互独立
c22
c2
n
cn1 cn2 cnn
称矩阵 C为 (X1 , X2 ,, Xn ) 的协方差矩阵
协方差矩阵 C为正定(非负定)对称阵,即
CT C
C0
作业： 102页 3, 4, 6