一协方差与相关系数的概念及性质
合集下载
第13讲 协方差与相关系数 太原理工大学工程硕士概率论与数理统计
22
[例] 已知 解
X 服从 0, 2π
上的均匀分布，求 E ( X 2 ), E (sin X )
X 的概率密度
1 ， 0 ≤ x ≤ 2π， f ( x) 2 π 其他， 0，
E( X 2 )
1 2 x f ( x)dx 2π
2π 0
3 2 2 π 1 x 4 π x 2 dx 2π 3 0 3
则： 2 X Y ~ N (0,25)
( 2) D(2 X Y ) 4 DX DY 2 2COV ( X , Y ) 1 25 - 4 XY DX DY 25 4 2 3 13 2
则： 2 X Y ~ N (0,13)
20
小结
本讲首先介绍二维随机向量 (X,Y) 的分量 X与Y 的协方差及相关系数的概念、性质和计 算；然后介绍随机变量的各种矩(k 阶原点矩、 k 阶中心矩、k+m 阶混合原点矩、k+m 阶混 合中心矩)，n 维随机向量的协方差阵的概念、 性质和计算；最后简单介绍了n 元正态分布 的概念和三条重要性质。
则(Y1,Y2, …, Yk)'服从k 元正态分布。
这一性质称为正态变量的线性变换不变性。
17
(3) 设(X1,X2, …,Xn)服从n元正态分布，则 “X1, X2, …, Xn 相互独立” 等价于 “X1,X2, …,Xn两两不相关”。
18
例2 设X和Y相互独立，且X~N(1, 2), Y~N(0, 1)。 求 Z = 2X-Y+3 的概率密度。 解: 由X~N(1,2), Y~N(0,1)，且X与Y相互独立,
c22 E{[ X 2 E ( X 2 )]2 } c11 c12 排成一个2×2矩阵 ， c 21 c 22
概率论与数理统计-协方差和相关系数01
相关系数刻划了X和 间 线性相关”的程度. =相关系数刻划了 和Y间“线性相关”的程度
=
9
证： 对任意的 对任意的a,b,令 令
刻画了Y与 刻画了 与a+bX的偏离程度 的偏离程度 e=E{[Y-(a+bX)]2}=E(Y2)+b2E(X2)+a2 -2bE(XY)+2abE(X)-2aE(Y)
要使 与 的某个线性函数 最为接近 就是要找a,b使得误差 最为接近 就是要找 数 要使Y与X的某个线性函数a+bX最为接近,就是要找 使得误差 视为关于a,b的二元函数 视为关于 的二元函数，求驻点： 平方e值最 值最小 平方 值最小. 将e视为关于 的二元函数，求驻点： 字 特 征 解得
X与Y不相关 只说明 与Y之间没有线性关系，但可以有 与 不相关 只说明X与 之间没有线性关系 不相关,只说明 之间没有线性关系， 非线性关系； 非线性关系； 而X与Y独立是指 独立是指X,Y之间既无线性关系， 之间既无线性关系， 与 独立是指 之间既无线性关系 也无非线性关系， 也无非线性关系，故“独立”必然不相关，但反之不然。 独立”必然不相关，但反之不然。 不相关 但是，对于二维正态分布，独立与不相关等价。 但是，对于二维正态分布，独立与不相关等价。 与不相关等价 2 若二维r.v ( X , Y ) ~ N ( µ 1 , µ 2 ; σ 12 , σ 2 ; ρ ) 即：若二维 则X与Y相互独立 与 相互独立
D(X)=p (1-p ) D(X)=np(1-p) D(X)=
E(X) = µ
a +b E(X) = 2 1 E(X) =
D(X)= σ
λ
2
(b − a)2 D(X)= 12
(5) 切比雪夫不等式 =
=
9
证： 对任意的 对任意的a,b,令 令
刻画了Y与 刻画了 与a+bX的偏离程度 的偏离程度 e=E{[Y-(a+bX)]2}=E(Y2)+b2E(X2)+a2 -2bE(XY)+2abE(X)-2aE(Y)
要使 与 的某个线性函数 最为接近 就是要找a,b使得误差 最为接近 就是要找 数 要使Y与X的某个线性函数a+bX最为接近,就是要找 使得误差 视为关于a,b的二元函数 视为关于 的二元函数，求驻点： 平方e值最 值最小 平方 值最小. 将e视为关于 的二元函数，求驻点： 字 特 征 解得
X与Y不相关 只说明 与Y之间没有线性关系，但可以有 与 不相关 只说明X与 之间没有线性关系 不相关,只说明 之间没有线性关系， 非线性关系； 非线性关系； 而X与Y独立是指 独立是指X,Y之间既无线性关系， 之间既无线性关系， 与 独立是指 之间既无线性关系 也无非线性关系， 也无非线性关系，故“独立”必然不相关，但反之不然。 独立”必然不相关，但反之不然。 不相关 但是，对于二维正态分布，独立与不相关等价。 但是，对于二维正态分布，独立与不相关等价。 与不相关等价 2 若二维r.v ( X , Y ) ~ N ( µ 1 , µ 2 ; σ 12 , σ 2 ; ρ ) 即：若二维 则X与Y相互独立 与 相互独立
D(X)=p (1-p ) D(X)=np(1-p) D(X)=
E(X) = µ
a +b E(X) = 2 1 E(X) =
D(X)= σ
λ
2
(b − a)2 D(X)= 12
(5) 切比雪夫不等式 =
相关系数与协方差
相关系数与协方差一、引言在统计学中，相关系数和协方差是两个常用的概念，它们用于度量两个变量之间的关系强度和方向性。
在实际应用中，相关系数和协方差常常用于分析数据之间的关联性，帮助我们理解和解释数据的变化规律。
二、相关系数相关系数用于衡量两个变量之间的线性关系强度和方向性。
常见的相关系数有皮尔逊相关系数和斯皮尔曼相关系数。
2.1 皮尔逊相关系数皮尔逊相关系数（Pearson correlation coefficient）用于度量两个连续变量之间线性关系的强度和方向性。
它的取值范围在-1到1之间，其中-1表示完全的负相关，1表示完全的正相关，0表示无相关关系。
计算公式如下：ρ=∑(x−x‾)(y−y‾)√∑(x i−x‾)2∑(y i−y‾)2其中，ρ为皮尔逊相关系数，x i和y i分别为两个变量的第i个观测值，x‾和y‾分别为两个变量的平均值。
2.2 斯皮尔曼相关系数斯皮尔曼相关系数（Spearman’s rank corre lation coefficient）用于度量两个变量之间的单调关系强度和方向性。
它的取值范围也在-1到1之间，可以用于描述非线性关系。
计算公式如下：ρ=1−6∑d i2 n(n2−1)其中，ρ为斯皮尔曼相关系数，d i为变量在排序中的差异，n为样本个数。
三、协方差协方差用于度量两个变量之间的总体误差。
它可以表征两个变量的变化趋势是同向还是反向，但无法直接比较两个变量之间的关系强弱。
计算公式如下：Cov(X,Y)=∑(X−X‾)(Y−Y‾)N−1其中，Cov(X,Y)为X和Y的协方差，X和Y分别为两个变量的观测值，X‾和Y‾分别为两个变量的平均值，N为样本个数。
四、相关系数与协方差的比较4.1 相同点•相关系数和协方差都用于度量两个变量之间的关系性。
•相关系数和协方差的取值范围都是-1到1之间。
•相关系数和协方差都是对称的，即Cov(X,Y)=Cov(Y,X)，ρXY=ρYX。
协方差与相关系数 PPT
D(V ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 17
所以
Cov(U ,V ) Cov(2X Y , 2X Y )
Cov(2X , 2X ) Cov(2X ,Y ) Cov(Y , 2X ) Cov(Y ,Y )
所以D(t0X*-Y*)=0,由方差得性质知它等价于 P{t0X*-Y* =0}=1,即P{Y=aX+b}=1
其中a=t0σ(Y)/σ(X),b=E(Y)- t0 E(X) σ(Y)/σ(X)、
• 性质3:若X与Y相互独立,则ρXY=0、 证明 若X与Y相互独立,则E(XY)=E(X)E(Y), 又 Cov(X,Y)= E(XY)-E(X)E(Y),所以
协方差与相关系数
一、协方差得概念及性质 二、相关系数得概念及性质 三、协方差得关系式
§1 协方差
• 定义:设二维随机向量(X,Y)得数学期望 (E(X),E(Y))存在,若E[(X-E(X))(Y-E(Y))]存在,则称 它为随机变量X与Y得协方差,记为Cov(X,Y),即
Cov(X,Y)= E[(X-E(X))(Y-E(Y))] • 协方差有计算公式
9 ， XY
1 3
，设
U
2X
Y
，
V 2X Y ， 求 UV .
解
Cov( X ,Y ) XY
D( X ) D(Y ) 1 3
49 2
D(U ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 33
E( X ) (1) 0.15 1 0.35 0.20
协方差与相关系数
其余均方误差
e
D(Y
)(1
2 XY
).
从这个侧面也
能说明 XY 越接近1，e 越小. 反之， XY 越近于0，
e 就越大， Y与X的 线性相关性越小.
完
例3 设 ( X ,Y ) 的分布律为
X
Y
2 1 1 2 P{Y yi }
1
0 1/4 1/4 0
1/ 2
4
1/4 0 0 1/4 1/2
D(Y
)[1
2 XY
],
D(Y
)1
[cov( X ,Y )]2 D( X )D(Y )
D(Y
)[1
2 XY
],
由于方差
D(Y
)
是正的，
故必有
1
2 XY
0,
所以
XY 1.
性质2. 若 X 和 Y 相互独立，则 XY 0;
注意到此时 cov( X ,Y ) 0, 易见结论成立.
注： X 与Y 相互独立
完
例4 设 服从 [ , ] 上的均匀分布, 且
X sin , Y cos
判断 X 与 Y 是否不相关, 是否独立.
解
由于
E( X )
1
2
sind 0,
E(Y
)
1
2
cosd 0,
而
E(
XY
)
1
2
sin cosd 0.
2
因此
E( XY ) E( X )E(Y ),
从而 X 与 Y 不相关. 但由于 X 与 Y 满足关系:
完
例2 设连续型随机变量 ( X ,Y ) 的密度函数为
f
(
x,
协方差与相关系数
= ρσ 1σ 2
ρ xy =
ρσ 1σ 2 = =ρ σ 1σ 2 D ( X ) D (Y )
Cov ( X , Y )
ρ=0, ,
从而说明二维正态分布随机变量X, 相互独立 从而说明二维正态分布随机变量 ,Y相互独立 相互独立与不相关是等价的. 即X,Y相互独立与不相关是等价的. , 相互独立与不相关是等价的
山东农业大学
概率论与数理统计
主讲人:程述汉 苏本堂
设二维( 例2 设二维(X,Y)随机变量的密度函数为
π π 1 cos( x + y ), 0 ≤ x ≤ , - ≤ y ≤ 0 f ( x, y ) =Y )
1 2 0 π 解 因为 E ( X ) = ∫ ∫ π x cos( x + y )dxdy = ≈ 0.7854, 2 0 -2 4 π 2 1 2 0 2 π π 2 D( X ) = ∫ ∫ π x cos( x + y)dxdy -[ E( X )] = + 2 ≈ 0.1876 2 0 -2 16 2 同理可得 E (Y ) ≈ 0.7854, D(Y ) ≈ 0.1876, 1 π 0 π 2 E ( XY ) = ∫ ∫ π xy × cos( x + y )dxdy1 ≈ -0.5708, 2 0 -2 2 cov( X , Y ) = E ( XY ) - E ( X ) E (Y )
2aE[Y E (Y )][ X E ( X )] + 2 E[Y E (Y )][ E (Y ) aE ( X ) b]
2 aE [ X E ( X )][ E (Y ) aE ( X ) b ]
= D(Y ) + a D( X ) + [ E (Y ) aE ( X ) b] 2a cov( X , Y )
协方差与相关系数的区别
协方差与相关系数的区别协方差和相关系数是统计学中常用的两个概念，用于衡量两个变量之间的关系。
虽然它们都可以用来描述变量之间的相关性，但是它们有着不同的计算方法和解释方式。
本文将详细介绍协方差和相关系数的区别。
一、协方差协方差是用来衡量两个变量之间的总体相关性的统计量。
它的计算公式如下：Cov(X,Y) = E[(X-E(X))(Y-E(Y))]其中，X和Y分别表示两个变量，E(X)和E(Y)分别表示X和Y的期望值。
协方差的值可以为正、负或零，分别表示正相关、负相关和无关。
协方差的绝对值越大，表示两个变量之间的相关性越强。
当协方差为正时，表示两个变量呈正相关关系，即当一个变量增大时，另一个变量也增大；当协方差为负时，表示两个变量呈负相关关系，即当一个变量增大时，另一个变量减小；当协方差为零时，表示两个变量之间没有线性相关关系。
然而，协方差的值受到变量单位的影响，因此无法直接比较不同变量之间的相关性。
为了解决这个问题，引入了相关系数。
二、相关系数相关系数是用来衡量两个变量之间线性相关程度的统计量。
它的计算公式如下：ρ(X,Y) = Cov(X,Y) / (σ(X) * σ(Y))其中，Cov(X,Y)表示X和Y的协方差，σ(X)和σ(Y)分别表示X和Y的标准差。
相关系数的取值范围为-1到1之间。
相关系数的绝对值越接近1，表示两个变量之间的线性相关性越强。
当相关系数为1时，表示两个变量完全正相关；当相关系数为-1时，表示两个变量完全负相关；当相关系数为0时，表示两个变量之间没有线性相关关系。
相比于协方差，相关系数消除了变量单位的影响，可以更准确地衡量两个变量之间的相关性。
相关系数还具有标准化的特点，便于比较不同变量之间的相关性。
三、协方差与相关系数的区别1. 计算方法不同：协方差的计算只需要两个变量的期望值，而相关系数的计算需要除以两个变量的标准差。
2. 解释方式不同：协方差的值没有具体的范围，无法直接比较不同变量之间的相关性；相关系数的值在-1到1之间，可以直观地表示两个变量之间的线性相关程度。
概率论教学课件第四章4.4协方差与相关系数
1
一、协方差
对于二维随机变量(X,Y),讨论描述X与Y之间相互 依赖关系的数字特征.
X与Y相互独立 E[(X EX )(Y EY )] 0
或者：E[(X EX )(Y EY )] 0 X与Y一定不相互独立
定义1. 若E[(X EX )(Y EY )]存在, 则称E[(X EX )(Y EY )]为X与Y的协方差.
(连续型)．
-
3
或者用以下公式计算
Cov(X , Y ) E(XY ) EX EY
Cov (X , Y ) E[(X EX )(Y EY )]
E(XY XEY YEX EXEY ) E(XY ) EX EY EX EY EX EY E(XY ) EX EY
4
定义2* 设 DX 0 , DY 0，称X,Y的标准化随机变量
X , Y 的协方差 Cov ( X , Y ) 为X与Y的相关系数.
记 为 XY , 即
XY Cov( X , Y ) E( X Y ) EX EY E( X Y )
E[( X EX )(Y EY )] Cov( X ,Y ) .
其逆命题不真！
注:若Cov X,Y 0,即E XY EXEY,则X与Y不相互独立.
4. D(X Y ) DX DY 2Cov(X , Y ).
5
例4.14 设二维随机变量(X,Y )的联合分布列为
XY 0 1 pi 0 0.2 0.3 0.5 1 0.5 0 0.5
p j 0.7 0.3
1 R
2
R
dx
R
R2 x2
xydy
R2 x2
0，
Cov(X , Y ) E(XY ) EXEY 0 00 0 .
8
Cov(X , Y ) E(XY ) EXEY 0 .
一、协方差
对于二维随机变量(X,Y),讨论描述X与Y之间相互 依赖关系的数字特征.
X与Y相互独立 E[(X EX )(Y EY )] 0
或者：E[(X EX )(Y EY )] 0 X与Y一定不相互独立
定义1. 若E[(X EX )(Y EY )]存在, 则称E[(X EX )(Y EY )]为X与Y的协方差.
(连续型)．
-
3
或者用以下公式计算
Cov(X , Y ) E(XY ) EX EY
Cov (X , Y ) E[(X EX )(Y EY )]
E(XY XEY YEX EXEY ) E(XY ) EX EY EX EY EX EY E(XY ) EX EY
4
定义2* 设 DX 0 , DY 0，称X,Y的标准化随机变量
X , Y 的协方差 Cov ( X , Y ) 为X与Y的相关系数.
记 为 XY , 即
XY Cov( X , Y ) E( X Y ) EX EY E( X Y )
E[( X EX )(Y EY )] Cov( X ,Y ) .
其逆命题不真！
注:若Cov X,Y 0,即E XY EXEY,则X与Y不相互独立.
4. D(X Y ) DX DY 2Cov(X , Y ).
5
例4.14 设二维随机变量(X,Y )的联合分布列为
XY 0 1 pi 0 0.2 0.3 0.5 1 0.5 0 0.5
p j 0.7 0.3
1 R
2
R
dx
R
R2 x2
xydy
R2 x2
0，
Cov(X , Y ) E(XY ) EXEY 0 00 0 .
8
Cov(X , Y ) E(XY ) EXEY 0 .
随机变量的相关系数和相关性解析
3
4. D( X Y ) D( X ) D(Y ) 2Cov (X,Y )
2
E( X EX )2 E(Y EY )2 2E( X EX )(Y EY ) D( X ) D(Y ) 2 cov( X , Y ) ， (X,Y ) . 类似地有 D( X Y ) D( X ) D(Y ) 2Cov n n Cov ( X i , X j ) 推广：D Xi D( X i ) 2 i j i 1 i 1
X Y 1 1 C ov ( ， ) XY D( X ) D(Y ) 3 2 3 2 1 1 （ ） 3 2 4 2 1 ， 6 2
X Y 1 1 X Y D( Z ) D( ) D( X ) D(Y ) 2C ov( ， ) 3 . 3 2 9 4 3 2
因此，若X1,X2, …,Xn两两独立,，则有 n n D Xi D( X i ) i 1 i 1
D( X Y ) EX Y E( X Y ) 2 E( X EX ) (Y EY ) E ( X EX )2 (Y EY )2 2( X EX )(Y EY )
y
3
y 3x
y 2x
2
O
E( X ) E(Y )
2
19 . E(Y ) dx 2 y dy 0 2x 6
1 3x 2
2 xf ( x, y ) dxdy 0 dx 2 x 2 x dy ， 3 1 3x 5 yf ( x, y ) dxdy dx 2 y dy , 0 2x 3
性质2 若 Y a bX ，则 XY 1 (b 0) 证
4. D( X Y ) D( X ) D(Y ) 2Cov (X,Y )
2
E( X EX )2 E(Y EY )2 2E( X EX )(Y EY ) D( X ) D(Y ) 2 cov( X , Y ) ， (X,Y ) . 类似地有 D( X Y ) D( X ) D(Y ) 2Cov n n Cov ( X i , X j ) 推广：D Xi D( X i ) 2 i j i 1 i 1
X Y 1 1 C ov ( ， ) XY D( X ) D(Y ) 3 2 3 2 1 1 （ ） 3 2 4 2 1 ， 6 2
X Y 1 1 X Y D( Z ) D( ) D( X ) D(Y ) 2C ov( ， ) 3 . 3 2 9 4 3 2
因此，若X1,X2, …,Xn两两独立,，则有 n n D Xi D( X i ) i 1 i 1
D( X Y ) EX Y E( X Y ) 2 E( X EX ) (Y EY ) E ( X EX )2 (Y EY )2 2( X EX )(Y EY )
y
3
y 3x
y 2x
2
O
E( X ) E(Y )
2
19 . E(Y ) dx 2 y dy 0 2x 6
1 3x 2
2 xf ( x, y ) dxdy 0 dx 2 x 2 x dy ， 3 1 3x 5 yf ( x, y ) dxdy dx 2 y dy , 0 2x 3
性质2 若 Y a bX ，则 XY 1 (b 0) 证
一协方差与相关系数的概念及性质-27页PPT资料
σ 1σ22π 1ρ2 u eu 2 2du tet2 2dt
ρσ 1σ2 2 2, 2
故 C X 有 ,o Y ) v ρ 1 σ 2 ( σ .
于是 XY D C (X )o X ,D Y v ()Y )(.
结论
(1)二 维正态分布 中 ,参 密数 ρ度 代函 表X数 了 与Y的相关; 系数 ( 2)二 维正态X随 与 Y机 相变 关量 系数 等价 X与 于 Y相互.独立
例 2 已知 X,Y 分 随别 机 N (1 服 ,3 变 2)N ,从 (量 0,42), ρXY 12,设 ZX3Y2.
(1) 求Z的数学期望.和方差 (2) 求X与Z的相关系 . 数 (3) 问X与Z是否相互?为 独什 立?么
解 ( 1 ) 由 E ( X ) 1 , D ( X ) 9 , E ( Y ) 0 , D ( Y ) 1 .
5. 性质
( 1 )CX o ,Y ) v C (Y ,o X )v ; ( ( 2 )C a o ,b X ) v Y a ( C b X ,o Y ),v a ,b ( 为 ;常 ( 3 ) C X 1 X o 2 , Y ) C v X 1 ( , Y ) o C X v 2 , Y ) o ( .
例1 设 (X ,Y )~ N (μ 1 ,μ 2 ,σ 1 2 ,σ 2 2 ,ρ )试 , X 与 求 Y 的
相关 . 系数 解 由f(x,y) 1
2πσ1σ2 1ρ2
ex 2p(11ρ2)(x σ12 μ1)22ρ(xμσ 11 )σ(y2μ2)(y σ2 2 μ2)2
fX(x)
1 e(x2 σ μ 1 2 1)2,x, 2πσ1
一、协方差与相关系数的概念及性质
1. 问题的提出
ρσ 1σ2 2 2, 2
故 C X 有 ,o Y ) v ρ 1 σ 2 ( σ .
于是 XY D C (X )o X ,D Y v ()Y )(.
结论
(1)二 维正态分布 中 ,参 密数 ρ度 代函 表X数 了 与Y的相关; 系数 ( 2)二 维正态X随 与 Y机 相变 关量 系数 等价 X与 于 Y相互.独立
例 2 已知 X,Y 分 随别 机 N (1 服 ,3 变 2)N ,从 (量 0,42), ρXY 12,设 ZX3Y2.
(1) 求Z的数学期望.和方差 (2) 求X与Z的相关系 . 数 (3) 问X与Z是否相互?为 独什 立?么
解 ( 1 ) 由 E ( X ) 1 , D ( X ) 9 , E ( Y ) 0 , D ( Y ) 1 .
5. 性质
( 1 )CX o ,Y ) v C (Y ,o X )v ; ( ( 2 )C a o ,b X ) v Y a ( C b X ,o Y ),v a ,b ( 为 ;常 ( 3 ) C X 1 X o 2 , Y ) C v X 1 ( , Y ) o C X v 2 , Y ) o ( .
例1 设 (X ,Y )~ N (μ 1 ,μ 2 ,σ 1 2 ,σ 2 2 ,ρ )试 , X 与 求 Y 的
相关 . 系数 解 由f(x,y) 1
2πσ1σ2 1ρ2
ex 2p(11ρ2)(x σ12 μ1)22ρ(xμσ 11 )σ(y2μ2)(y σ2 2 μ2)2
fX(x)
1 e(x2 σ μ 1 2 1)2,x, 2πσ1
一、协方差与相关系数的概念及性质
1. 问题的提出
协方差与相关系数
f ( x , y ) = f X ( x ) fY ( y )
独立， 独立时， 简言之， 即 X 与 Y 独立，反之 X 与 Y 独立时，必有 ρ = 0 ，简言之， 对二元正态变量来说，不相关等价于独立。 对二元正态变量来说，不相关等价于独立。
例 设 ( X , Y ) 的分布密度为
1 π f ( x, y) = 0
= E[( X − E ( X ))(( aX + b ) − E ( aX + b ))]
= aE ( X − E ( X ))2 = aD( X )
ρ 2 XY
[cov( X , Y )] a 2 [ D( X )]2 = = 2 =1 2 D( X ) D(Y ) a [ D( X )]
相关程度的量， 相关系数 ρ XY 是 衡量 X 与 Y 之间线性 相关程度的量 ，
第三节 协方差与相关系数
一． 协方差
X 与 Y 的协方差记作 cov( X , Y ) ，定义为
cov( X , Y ) = E[( X − E ( X ))(Y − E (Y ))] = E ( XY ) − E ( X ) E (Y )
独立时， 当 X 与 Y 独立时，有
cov( X , Y ) = 0
ρ XY = 1, 时， X 与 Y 线性相关； ρ XY > 0 ， Y 随 X 增大而增 线性相关；
增大而减小——负相关； ——负相关 大——正相关； XY < 0 ， Y 随 X 增大而减小——负相关； ——正相关； 正相关 ρ ， 之间毫无线性关系， 不相关， ρ XY = 0 ， X 与 Y 之间毫无线性关系，称 X 与 Y 不相关 ， 但可存在其它关系，例如二次关系： 但可存在其它关系，例如二次关系： Y = X 2 ( X ∼ N (0,1)) 设 ( X , Y ) ∼ N ( µ1 , µ2 , σ 12 , σ 12 , ρ ) 则 ρ XY = ρ 且当 ρ = 0 时，有
独立， 独立时， 简言之， 即 X 与 Y 独立，反之 X 与 Y 独立时，必有 ρ = 0 ，简言之， 对二元正态变量来说，不相关等价于独立。 对二元正态变量来说，不相关等价于独立。
例 设 ( X , Y ) 的分布密度为
1 π f ( x, y) = 0
= E[( X − E ( X ))(( aX + b ) − E ( aX + b ))]
= aE ( X − E ( X ))2 = aD( X )
ρ 2 XY
[cov( X , Y )] a 2 [ D( X )]2 = = 2 =1 2 D( X ) D(Y ) a [ D( X )]
相关程度的量， 相关系数 ρ XY 是 衡量 X 与 Y 之间线性 相关程度的量 ，
第三节 协方差与相关系数
一． 协方差
X 与 Y 的协方差记作 cov( X , Y ) ，定义为
cov( X , Y ) = E[( X − E ( X ))(Y − E (Y ))] = E ( XY ) − E ( X ) E (Y )
独立时， 当 X 与 Y 独立时，有
cov( X , Y ) = 0
ρ XY = 1, 时， X 与 Y 线性相关； ρ XY > 0 ， Y 随 X 增大而增 线性相关；
增大而减小——负相关； ——负相关 大——正相关； XY < 0 ， Y 随 X 增大而减小——负相关； ——正相关； 正相关 ρ ， 之间毫无线性关系， 不相关， ρ XY = 0 ， X 与 Y 之间毫无线性关系，称 X 与 Y 不相关 ， 但可存在其它关系，例如二次关系： 但可存在其它关系，例如二次关系： Y = X 2 ( X ∼ N (0,1)) 设 ( X , Y ) ∼ N ( µ1 , µ2 , σ 12 , σ 12 , ρ ) 则 ρ XY = ρ 且当 ρ = 0 时，有
概率论与数理统计协方差和相关系数
X -1 0 1
pk 3/8 2/8 3/8
Y -1 0 1
pk 3/8 2/8 3/8
E( X ) (1) 3 0 2 1 3 0 同理 E(Y ) 0
8
8
8
1
②说明E(：XY虽)然 Cov(Xx,iYy)=j p0i，j 但1
i,i1
P{ X
1P{ X0 8 0}
10,Y101} P{8Y 0} 8
=相关系数刻划了X和Y间“线性相关”的程度.
=
2021/4/4
8
8
皮肌炎图片——皮肌炎的症状表现
数
• 皮肌炎是一种引起皮肤、肌肉、
字
心、肺、肾等多脏器严重损害的， 全身性疾病，而且不少患者同时
伴有恶性肿瘤。它的1症状表现如 特 下：
• 1、早期皮肌炎患者，还往往伴 征 有全身不适症状，如-全身肌肉酸
=ቤተ መጻሕፍቲ ባይዱ
2021/4/4
3
3
§3 协方差和相关系数 Covariance and
correlation coefficient
2021/4/4
4
一、协方差
1、定对于义向: 量设X(和X,YY，)是期一望随和机方向差量只，反称映E{了[X变-E(量X)各][Y自-E(的Y)情]} 况，没有
相互之间的关系。 若X、Y相互独立, E{[X-E(X)][Y-E(Y)]}=0， 因此为EX{[与X-YE的(X)协][Y方-E差(Y,)记]} 作在C一ov定（程X，度Y上）反，映即了X与Y之间的关系，称为X 与Y的协方差。 Cov(X,Y)= E{[X-E(X)][Y-E(Y)]}
② 若 E X E( X ) k 存在，则称之为X的 k阶中心矩
4-3协方差及相关函数
2. 相关系数的意义
当 ρXY 较大时 e 较小, 表明 X ,Y 的线性关系联 系较紧密. 当 ρXY 较小时, X ,Y 线性相关的程度较差.
当 ρXY 0 时, 称 X 和 Y 不相关.
Xi’an University of Post and Telecommunications
例3 设 服从 [0, 2π] 的均匀分布, cos , cos( a ), 这里 a 是定数, 求 和 的相关系数?
( x μ1 )2 2 2 σ1
( x μ1 )( y μ2 )
2
eLeabharlann y μ2 1 x μ1 ρ σ1 2 ( 1 ρ 2 ) σ 2
d yd x
x μ1 1 y μ2 x μ1 , , u 令t ρ 2 σ1 σ1 1 ρ σ2
存在线性关系. 当 a π时, 1, ,
Xi’an University of Post and Telecommunications
Cov( X ,Y ) 1 2 2 ( σ σ 1 ρ tu ρσ σ u )e 1 2 1 2 2 2 2 u t ρσ1σ 2 2 u e 2 d u e 2 d t 2
Xi’an University of Post and Telecommunications
e E[(Y (a bX ))2 ]
E (Y 2 ) b 2 E ( X 2 ) a 2 2bE ( XY ) 2abE ( X ) 2aE (Y ).
将 e 分别关于 a , b 求偏导数, 并令它们等于零, 得
4-3协方差
2 = (1 − ρ XY ) DY = min E[Y − ( a + bX )]2
= DY + DX ⋅
COV 2 ( X , Y )
− 2COV ( X , Y ) ⋅
COV ( X , Y ) DX
即
2 m E Y −(a+bX)] = (1− ρX )D in [ Y Y a,b
2
a ,b
= EY + b EX + a − 2aEY − 2bEXY + 2abEX 达到最小。 求a，b 使 e 达到最小。 ，
2 2 2 2
∂e Y X ∂a = 2a + 2bEX − 2 EY = 0 ⇒a = E −bE 令： ∂ e = 2bEX 2 − 2 EXY + 2aEX = 0 ∂b
协方差与相关系数
(
)
可以证明： 可以证明：X,Y相互独立的充要条件是 相互独立的充要条件是 已证： 已证：
fX ( x) = 1 2π σ 1 e
( x − µ1 ) 2 − 2 2σ 1
ρXY = ρ = 0
e
( y− µ 2 ) 2 − 2 2σ 2
, fY ( y ) =
1 2π σ 2
2 2 则：EX = µ1 , DX = σ 1 , EY = µ 2 , DY = σ 2 ,
a,b ,b
COV ( X ,Y ) ; ⇒ b0 = DX
= E (Y − EY + EX
COV ( X , Y ) COV ( X , Y ) 2 −X⋅ ) DX DX
COV ( X , Y ) 2 ) = E ((Y − EY ) − ( X − EX ) ⋅ DX
= DY + DX ⋅
COV 2 ( X , Y )
− 2COV ( X , Y ) ⋅
COV ( X , Y ) DX
即
2 m E Y −(a+bX)] = (1− ρX )D in [ Y Y a,b
2
a ,b
= EY + b EX + a − 2aEY − 2bEXY + 2abEX 达到最小。 求a，b 使 e 达到最小。 ，
2 2 2 2
∂e Y X ∂a = 2a + 2bEX − 2 EY = 0 ⇒a = E −bE 令： ∂ e = 2bEX 2 − 2 EXY + 2aEX = 0 ∂b
协方差与相关系数
(
)
可以证明： 可以证明：X,Y相互独立的充要条件是 相互独立的充要条件是 已证： 已证：
fX ( x) = 1 2π σ 1 e
( x − µ1 ) 2 − 2 2σ 1
ρXY = ρ = 0
e
( y− µ 2 ) 2 − 2 2σ 2
, fY ( y ) =
1 2π σ 2
2 2 则：EX = µ1 , DX = σ 1 , EY = µ 2 , DY = σ 2 ,
a,b ,b
COV ( X ,Y ) ; ⇒ b0 = DX
= E (Y − EY + EX
COV ( X , Y ) COV ( X , Y ) 2 −X⋅ ) DX DX
COV ( X , Y ) 2 ) = E ((Y − EY ) − ( X − EX ) ⋅ DX
随机变量的协方差和相关系数
cov(X,Y)=E[X-EX][Y-EY]=EXY-EXEY
1) 当(X,Y)是离散型随机变量时,
cov( X , Y ) ( xi EX )( y j EY ) pij量时,
cov( X , Y )
( x EX )( y EY ) f ( x, y)dxdy.
存在，称它为X的k阶中心矩. 注：均值 E(X)是X一阶原点矩, 方差D(X)是X的二阶中心矩.
设 X 和 Y 是随机变量，若
E( X Y )
k
l
k,l=1,2,… 存在，
称它为 X 和 Y 的 k+l 阶混合原点矩.
若 E{[ X E ( X )]k [Y E (Y )]l } 存在， 称它为X 和 Y 的 k+l 阶混合中心矩. 注:协方差cov(X,Y)是X和Y的二阶混合中心矩.
例1 设X~N(0,1), Y=X2, 求X和Y的相关系数。
4. 若 XY 0 ，则称X和Y（线性）不相关。
定理：若随机变量X与Y的数学期望和方差都存 在，且均不为零，则下列四个命题等价： （1） XY 0 ； （2）cov(X ,Y) = 0；
（3）E(XY)=EXEY；
（4）D(X ±Y)=DX+DY。
n2
为(X1,X2, …,Xn) 的相关系数矩阵。
由于 i i
cov( X i , X i ) 1, D( X i ) D( X i )
故相关系数矩阵的主对角元素均为1.
五、 原点矩和中心矩
定义 设X和Y是随机变量，若
E ( X k ), k 1,2, 存在，称它为X的k阶原点矩，简称 k阶矩. 若 E{[ X E ( X )]k }, k 2,3,
协方差和相关系数公式_相关系数与协方差的关系
·若Corr(X,Y)=0，则称X与Y不相关。不相关是指X与Y没有线性关系，但也有可能有其他关系，比如平方关系、立方关系等。
·若Corr(X,Y)=1，则称X与Y完全正相关；若Corr(X,Y)=-1，则称X与Y完全,负相关。
·若0
2协方差与相关系数的一致性
从协方差与相关系数的定义和性质我们不难发现，协方差与相关系数都是反映X与Y相关程度的量。也就是说，他们有异曲同工之效。在刻画二维随机变量两个分量间相互关联程度时，他们保持了一致性。这一点我可以给出以下两个例子来说明。
设（X，Y）是一个二维随机变量，且Var(X)0,Var(Y)0.则称
Cov(X,Y)
(X)(Y)Cov(X,Y) Corr(X,Y)==σxσ y
为X与Y的（线性）相关系数。
利用施瓦茨不等式我们不难得到-1≤Corr(X,Y)≤1.也就是说相关系数是介于-1到1之间的，并且可以对它作以下几点说明：
Corr(X,Y)越接近1，则线性相关程度越高；Corr(X,Y)越接近0，则线性相关程度越低。而协方差则其比
值就不一定小，下面我们来看实例。
例三已知随机向量(X,Y)的联合密度函数为
8
3, 0
求X,Y的协方差及相关系数。
解：先计算两个边际密度函数，再分别计算E(X)、E(X2)、E(Y)、E(Y2)、Var(X)、Var(Y)及E(XY)。
·当Cov(X,Y)
·当Cov(X,Y)=0时，称X与Y不相关。
也就是说，协方差就是用来描述二维随机变量X与Y相互关联程度的一个特征数。协方差Cov(X,Y)是有量纲的量，譬如X表示人的身高，单位是米(m)，Y表示人的体重，单位是公斤(kg)，则Cov(X,Y)带有量纲(m·kg)。为了消除量纲的影响，对协方差除以相同量纲的量，就得到一个新的概念—相关系数，它的定义如下：
·若Corr(X,Y)=1，则称X与Y完全正相关；若Corr(X,Y)=-1，则称X与Y完全,负相关。
·若0
2协方差与相关系数的一致性
从协方差与相关系数的定义和性质我们不难发现，协方差与相关系数都是反映X与Y相关程度的量。也就是说，他们有异曲同工之效。在刻画二维随机变量两个分量间相互关联程度时，他们保持了一致性。这一点我可以给出以下两个例子来说明。
设（X，Y）是一个二维随机变量，且Var(X)0,Var(Y)0.则称
Cov(X,Y)
(X)(Y)Cov(X,Y) Corr(X,Y)==σxσ y
为X与Y的（线性）相关系数。
利用施瓦茨不等式我们不难得到-1≤Corr(X,Y)≤1.也就是说相关系数是介于-1到1之间的，并且可以对它作以下几点说明：
Corr(X,Y)越接近1，则线性相关程度越高；Corr(X,Y)越接近0，则线性相关程度越低。而协方差则其比
值就不一定小，下面我们来看实例。
例三已知随机向量(X,Y)的联合密度函数为
8
3, 0
求X,Y的协方差及相关系数。
解：先计算两个边际密度函数，再分别计算E(X)、E(X2)、E(Y)、E(Y2)、Var(X)、Var(Y)及E(XY)。
·当Cov(X,Y)
·当Cov(X,Y)=0时，称X与Y不相关。
也就是说，协方差就是用来描述二维随机变量X与Y相互关联程度的一个特征数。协方差Cov(X,Y)是有量纲的量，譬如X表示人的身高，单位是米(m)，Y表示人的体重，单位是公斤(kg)，则Cov(X,Y)带有量纲(m·kg)。为了消除量纲的影响，对协方差除以相同量纲的量，就得到一个新的概念—相关系数，它的定义如下：
随机变量的方差、协方差与相关系数
随机变量的方差、 协方差与相关系数
目 录
• 随机变量的方差 • 随机变量的方差 • 随机变量的协方差 • 相关系数 • 方差、协方差与相关系数的关系 • 实例分析
01
CATALOGUE
随机变量的方差
协方差的定义
协方差是衡量两个随机变量同时偏离其各自期望值程度的量，表示两个随机变量 之间的线性相关程度。
03
当两个随机变量的尺度相差很大时，直接计算协方差可能 得出不准确的结果，此时归一化的相关系数更为适用。
方差、协方差与相关系数的应用场景
方差在统计学中广泛应用于衡量数据的离散程度，例如在计算平均值、中位数等统计量时需要考虑数 据的离散程度。
协方差在回归分析、时间序列分析等领域中有着广泛的应用，用于衡量两个变量之间的线性相关程度。
3
当只考虑一个随机变量时，方差即为该随机变量 与自身期望值之差的平方的期望值，因此方差是 协方差的一种特例。
协方差与相关系数的关系
01
相关系数是协方差的一种归一化形式，用于消除两个随机变量 尺度上的差异，计算公式为 $r = frac{Cov(X,Y)}{sigma_X sigma_Y}$。
02
相关系数的取值范围是 [-1,1]，其中 1 表示完全正相关，1 表示完全负相关，0 表示不相关。
详细描述
对称性是指如果随机变量X和Y的相关系数是r，那么随机变量Y和X的相关系数也是r。有界性是指相关 系数的绝对值不超过1，即|r|≤1。非负性是指相关系数的值总是非负的，即r≥0。
相关系数的计算
总结词
相关系数的计算方法有多种，包括皮尔 逊相关系数、斯皮尔曼秩相关系数等。
VS
详细描述
皮尔逊相关系数是最常用的一种，其计算 公式为r=∑[(xi-x̄)(yi-ȳ)]/[(n-1)sxy]，其 中xi和yi分别是随机变量X和Y的第i个观测 值，x̄和ȳ分别是X和Y的均值，sxy是X和 Y的协方差。斯皮尔曼秩相关系数适用于 有序分类变量，其计算方法是根据变量的 秩次进行计算。
目 录
• 随机变量的方差 • 随机变量的方差 • 随机变量的协方差 • 相关系数 • 方差、协方差与相关系数的关系 • 实例分析
01
CATALOGUE
随机变量的方差
协方差的定义
协方差是衡量两个随机变量同时偏离其各自期望值程度的量，表示两个随机变量 之间的线性相关程度。
03
当两个随机变量的尺度相差很大时，直接计算协方差可能 得出不准确的结果，此时归一化的相关系数更为适用。
方差、协方差与相关系数的应用场景
方差在统计学中广泛应用于衡量数据的离散程度，例如在计算平均值、中位数等统计量时需要考虑数 据的离散程度。
协方差在回归分析、时间序列分析等领域中有着广泛的应用，用于衡量两个变量之间的线性相关程度。
3
当只考虑一个随机变量时，方差即为该随机变量 与自身期望值之差的平方的期望值，因此方差是 协方差的一种特例。
协方差与相关系数的关系
01
相关系数是协方差的一种归一化形式，用于消除两个随机变量 尺度上的差异，计算公式为 $r = frac{Cov(X,Y)}{sigma_X sigma_Y}$。
02
相关系数的取值范围是 [-1,1]，其中 1 表示完全正相关，1 表示完全负相关，0 表示不相关。
详细描述
对称性是指如果随机变量X和Y的相关系数是r，那么随机变量Y和X的相关系数也是r。有界性是指相关 系数的绝对值不超过1，即|r|≤1。非负性是指相关系数的值总是非负的，即r≥0。
相关系数的计算
总结词
相关系数的计算方法有多种，包括皮尔 逊相关系数、斯皮尔曼秩相关系数等。
VS
详细描述
皮尔逊相关系数是最常用的一种，其计算 公式为r=∑[(xi-x̄)(yi-ȳ)]/[(n-1)sxy]，其 中xi和yi分别是随机变量X和Y的第i个观测 值，x̄和ȳ分别是X和Y的均值，sxy是X和 Y的协方差。斯皮尔曼秩相关系数适用于 有序分类变量，其计算方法是根据变量的 秩次进行计算。
协方差及相关系数
+∞
=0
ρX X
所以 X 与 X 不相关
( 3 ) 独立性由其定义来判断
对于任意的常数 a > 0 , 事件 ( X < a ) ( X < a ), 且 P ( X < a ) > 0 , P ( X < a ) < 1,因此有 P( X < a, X < a) = P( X < a) P ( X < a)P( X < a) < P( X < a) 所以 P ( X < a , X < a ) ≠ P ( X < a ) P ( X < a ) 故 X 与 X 不独立
Cov ( X , Y ) = E ( XY ) EXEY = pq Cov ( X , Y ) ρ XY = =1 DX DY
例2 设 ( X ,Y ) ~ N ( μ1, σ12,μ2,σ22,ρ), 求 ρXY 解
令 x μ1
Cov ( X ,Y ) = ∫
σ1 y μ2 =t σ2
=s
ξ ,η 为 X , Y的线性组合
所以 ξ ,η 都服从正态分布 N ( 0, + b )σ ) (a
2 2 2
在正态分布中 , 不相关与独立是等价的
所以当 a = b 时, ξ ,η 独立 当 a ≠ b 时, ξ ,η 不独立
( 3) 当ξ ,η 相互独立时 , 即a 2 = b 2 , ξ ,η 都服从
例1 已知 X ,Y 的联合分布为 X Y 1 0 p 0 0 q 1 0 0 < p <1 p+q=1
求 Cov (X ,Y ), ρXY 解 X P 1 p 0 q Y P 1 p 0 q XY P 1 p 0 q
=0
ρX X
所以 X 与 X 不相关
( 3 ) 独立性由其定义来判断
对于任意的常数 a > 0 , 事件 ( X < a ) ( X < a ), 且 P ( X < a ) > 0 , P ( X < a ) < 1,因此有 P( X < a, X < a) = P( X < a) P ( X < a)P( X < a) < P( X < a) 所以 P ( X < a , X < a ) ≠ P ( X < a ) P ( X < a ) 故 X 与 X 不独立
Cov ( X , Y ) = E ( XY ) EXEY = pq Cov ( X , Y ) ρ XY = =1 DX DY
例2 设 ( X ,Y ) ~ N ( μ1, σ12,μ2,σ22,ρ), 求 ρXY 解
令 x μ1
Cov ( X ,Y ) = ∫
σ1 y μ2 =t σ2
=s
ξ ,η 为 X , Y的线性组合
所以 ξ ,η 都服从正态分布 N ( 0, + b )σ ) (a
2 2 2
在正态分布中 , 不相关与独立是等价的
所以当 a = b 时, ξ ,η 独立 当 a ≠ b 时, ξ ,η 不独立
( 3) 当ξ ,η 相互独立时 , 即a 2 = b 2 , ξ ,η 都服从
例1 已知 X ,Y 的联合分布为 X Y 1 0 p 0 0 q 1 0 0 < p <1 p+q=1
求 Cov (X ,Y ), ρXY 解 X P 1 p 0 q Y P 1 p 0 q XY P 1 p 0 q
概率论与数理统计：4-3协方差及相关系数
CovX ,Y EX EX Y EY EX EX EY EY 0.
协方差的计算公式
1 CovX ,Y EXY EX EY 2 DX Y DX DY 2CovX ,Y .
性质
1. CovX ,Y CovY , X . 2. CovaX ,bY abCovX ,Y . a ,b为常数. 3. CovX1 X2 ,Y CovX1,Y CovX2 ,Y .
易知E(X)=0,E(Y)=5/2,E(XY)=0,于是 xy 0,
X,Y不相关.这表示X,Y不存在线性关系.
但,P{X=-2,Y=1}=0 P{X=-2}P{Y=1},知X,Y不
是相互独立的.事实上,X和Y具有关系:Y=X2,Y 的值完全可由X的值所确定.
例2
设X ,Y ~
N
1
,
2
,
2 1
2
1 2
1
2tu
1 2u2
u2 t2
e 2 2 dtdu
1 2 2
u2e
u2 2
du
e
t2 2
dt
1
2
1
2
2
ue
u2 2
du
te
t2 2
dt
1 2 2 2 , 2
故有 CovX ,Y 1 2 .
于是
XY
CovX ,Y DX DY .
得出结论
二维正态分布密度函数中,参数代表了X与Y
协方差及相关系数
协方差与相关系数的概念及性质 相关系数的意义
一、协方差与相关系数的概念及 性质
提出问题
若随机变量X和Y相互独立
DX Y DX DY 若随机变量X和Y不相互独立 DX Y ?
DX Y EX Y 2 EX Y 2 DX DY 2EX EX Y EY .
协方差的计算公式
1 CovX ,Y EXY EX EY 2 DX Y DX DY 2CovX ,Y .
性质
1. CovX ,Y CovY , X . 2. CovaX ,bY abCovX ,Y . a ,b为常数. 3. CovX1 X2 ,Y CovX1,Y CovX2 ,Y .
易知E(X)=0,E(Y)=5/2,E(XY)=0,于是 xy 0,
X,Y不相关.这表示X,Y不存在线性关系.
但,P{X=-2,Y=1}=0 P{X=-2}P{Y=1},知X,Y不
是相互独立的.事实上,X和Y具有关系:Y=X2,Y 的值完全可由X的值所确定.
例2
设X ,Y ~
N
1
,
2
,
2 1
2
1 2
1
2tu
1 2u2
u2 t2
e 2 2 dtdu
1 2 2
u2e
u2 2
du
e
t2 2
dt
1
2
1
2
2
ue
u2 2
du
te
t2 2
dt
1 2 2 2 , 2
故有 CovX ,Y 1 2 .
于是
XY
CovX ,Y DX DY .
得出结论
二维正态分布密度函数中,参数代表了X与Y
协方差及相关系数
协方差与相关系数的概念及性质 相关系数的意义
一、协方差与相关系数的概念及 性质
提出问题
若随机变量X和Y相互独立
DX Y DX DY 若随机变量X和Y不相互独立 DX Y ?
DX Y EX Y 2 EX Y 2 DX DY 2EX EX Y EY .
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(2) 不相关的充要条件 1o X , Y 不相关 ρXY 0; 2o X , Y 不相关 Cov(X ,Y ) 0; 3o X , Y 不相关 E( XY ) E( X )E(Y ).
4. 相关系数的性质
(1) ρXY 1.
(2) ρXY 1 的充要条件是: 存在常数 a, b 使 P{Y a bX } 1.
(3)由二维正态随机变量相关系数为零和相互独 立两者是等价的结论,可知: X与Z是相互独立的.
二、相关系数的意义
1. 问题的提出
问 a,b 应如何选择,可使 aX b 最接近 Y ? 接近的程度又应如何来衡量?
设 e E[(Y (a bX ))2]
则 e 可用来衡量 a bX 近似表达 Y 的好坏程度. 当 e 的值越小,表示 a bX 与 Y 的近似程度越好.
第三节 协方差及相关系数
一、协方差与相关系数的概念及性质 二、相关系数的意义 三、小结
2. 定义
量 E{[X E( X )][Y E(Y )]} 称为随机变量 X 与 Y 的协方差. 记为 Cov( X ,Y ), 即
Cov( X ,Y ) E{[X E( X )][Y E(Y )]}.
t2 2
dtdu
ρσ1σ2 2π
u2e
u2 2
d
u
t2
e2
d
t
ρσ1σ2 2
σ1σ2
1 2π
ρ2
u2
ue 2
d
u
t2
te 2
d
t
2 2,
故有Cov( X ,Y ) ρσ1σ2 .
于是 XY
Cov( X ,Y ) .
D( X ) D(Y )
结论
( 1) 二维正态分布密度函数中,参数 ρ 代表了X 与Y 的相关系数;
解 (1)由E( X ) 1, D( X ) 9, E(Y ) 0, D(Y ) 16.
得 E(Z ) E( X Y ) 1 E( X ) 1 E(Y )
32 3
2
1. 3
D(Z ) D( X ) D(Y ) 2Cov( X ,Y )
3
2
32
1 D( X ) 1 D(Y ) 1 Cov( X ,Y )
由方差性质知
P{Y (a0 b0 X ) 0} 1, 或 P{Y a0 b0 X } 1.
反之,若存在常数a,b 使
P{Y a b X } 1 P{Y (a b X ) 0} 1,
P{[Y (a b X )]2 0} 1,
E{[Y (a b X )]2} 0. 故有
E{[X E( X )]2} E{[Y E(Y )]2} 2E{[X E( X )][Y E(Y )]}
D( X ) D(Y ) 2Cov(X ,Y ).
5. 性质
(1) Cov(X ,Y ) Cov(Y , X ); (2) Cov( aX ,bY ) abCov( X ,Y ) , a, b 为常数; (3) Cov( X1 X2 ,Y ) Cov( X1,Y ) Cov( X2 ,Y ).
解
E( ) 1
2π
cosx dx 0,
2π 0
E() 1
2π
cos( x a)dx 0,
2π 0
E( 2 ) 1 2πcos2 x dx 1 ,
2π 0
2
E( 2 ) 1 2πcos2( x a)dx 1 ,
2π 0
2
E() 1
2π
cosx
cos(
x
a)dx
1
cos
a,
2π 0
2
由以上数据可得相关系数为 cosa.
当a 当a
0时, π时,
1,
1,
, ,
存在线性关系.
当 a π或a 3π时, 0, 与 不相关.
2
2
但 2 2 1, 因此 与 不独立.
动画演示 与 的相关关系.
单击图形播放/暂停 ESC键退出
3. 注意
(1) 不相关与相互独立的关系 相互独立 不相关
)2
x
,
2πσ1
fY ( y)
1
e ,
(
y μ2
2
σ
2 2
)2
y
.
2πσ2
E( X ) μ1, E(Y ) μ2, D( X ) σ12, D(Y ) σ22. 而
Cov( X ,Y )
(
x
μ1 )(
y
μ2
)
f
(
x,
y)d
x
d
y
1
2πσ1σ2 1 ρ2
(x
μ1 )(
2E{[ X E( X )][Y E(Y )]} D( X ) D(Y ) 2Cov( X ,Y ) D( X ) D(Y ).
4. 协方差的计算公式
(1) Cov(X ,Y ) E( XY ) E( X )E(Y ); (2) D( X Y ) D( X ) D(Y ) 2Cov( X ,Y ). 证明 (1)Cov(X ,Y ) E{[X E( X )][Y E(Y )]}
例1
设( X ,Y )
~
N
(
μ1
,
μ2
,
σ12
,
σ
2 2
,
ρ),
试求
X
与Y
的
相关系数.
解 由 f (x, y)
1
2πσ1σ2 1 ρ2
1
exp
2(1
ρ2
)
( x
μ1 )2 σ12
2ρ
(
x
μ1)( y σ1σ2
μ2 )
(
y
μ2 )2
σ
2 2
fX (x)
1
e ,
(
x μ1 2σ12
证明
(1) min e E[(Y (a bX ))2 ] a ,b (1 ρX2Y )D(Y ) 0 1 ρX2 Y 0
ρXY 1.
(2) ρXY 1的充要条件是,存在常数 a,b 使 P{Y a bX } 1.
事实上, ρXY 1 E[(Y (a0 b0 X ))2] 0 0 E[(Y (a0 b0 X ))2 ] D[Y (a0 b0 X )] [E(Y (a0 b0 X ))]2 D[Y (a0 b0 X )] 0, E[Y (a0 b0 X )] 0.
y
μ2 )
e e d y d x.
(
x μ1 2σ12
)2
1 2(1
ρ2
)
y μ2 σ2
ρ
x
μ1 σ1
2
令 t 1 y μ2 ρ x μ1 , u x μ1 ,
1 ρ2 σ2
σ1
σ1
Cov(X ,Y )
1
2π
(σ1σ2
1
ρ2 tu
ρσ1σ
2u2
)e
u2 2
9
4
3
1 9
D(
X
)
1 4Leabharlann D(Y)1 3
ρXY
D( X )
D(Y )
1 4 2 3.
(2) Cov( X , Z ) Cov( X , X Y ) 32
1 Cov( X , X ) 1 Cov( X ,Y )
3
2
1 3
D(
X
)
1 2
ρXY
D( X )
D(Y ) 3 3 0.
故 ρXY Cov(X , Z ) ( D( X ) D(Z )) 0.
( 2) 二维正态随机变量 X 与Y 相关系数为零 等价于 X 与Y 相互独立.
例 2 已知随机变量X ,Y分别服从N (1,32 ), N (0,42 ), ρXY 1 2,设 Z X 3 Y 2.
(1) 求 Z 的数学期望和方差. (2) 求 X 与 Z 的相关系数. (3) 问 X 与 Z 是否相互独立?为什么?
而
Cov(X ,Y ) ρXY D( X ) D(Y )
称为随机变量 X 与 Y 的相关系数.
3. 说明
(1) X 和 Y 的相关系数又称为标准协方差,它是一 个无量纲的量. (2) 若随机变量 X 和 Y 相互独立
Cov(X ,Y ) E{[X E( X )][Y E(Y )]}
E[X E( X )]E[Y E(Y )] 0. (3) 若随机变量 X 和 Y 相互独立 D( X Y ) D( X ) D(Y )
0 E{[Y (a b X )]2} min E[(Y (a bX ))2 ] a ,b E{[Y (a0 b0 X )]2} (1 ρX2Y )D(Y )
ρXY 1.
二维正态随机变量( X ,Y ) 的概率密度曲面与
相关系数 XY 的关系.
单击图形播放/暂停 ESC键退出
确定 a,b 的值,使 e 达到最小.
e E[(Y (a bX ))2]
E(Y 2 ) b2E( X 2 ) a2 2bE( XY ) 2abE( X ) 2aE(Y ).
将 e 分别关于 a,b 求偏导数,并令它们等于零,得
e ae
2a 2bE( X ) 2E(Y ) 2bE( X 2 ) 2E( XY )
三、小结
相关系数的意义 当 ρXY 较大时 , X , Y 的线性相关程度较高. 当 ρXY 较小时, X ,Y 的线性相关程度较差. 当 ρXY 0 时, X 和 Y 不相关.
0, 2aE(
X
)
0.
b
解得
Cov(X ,Y )
Cov(X ,Y )
b0 D( X ) ,a0 E(Y ) E( X ) D( X ) .
将 a0,b0 代入 e E[(Y (a bX ))2]中,得
4. 相关系数的性质
(1) ρXY 1.
(2) ρXY 1 的充要条件是: 存在常数 a, b 使 P{Y a bX } 1.
(3)由二维正态随机变量相关系数为零和相互独 立两者是等价的结论,可知: X与Z是相互独立的.
二、相关系数的意义
1. 问题的提出
问 a,b 应如何选择,可使 aX b 最接近 Y ? 接近的程度又应如何来衡量?
设 e E[(Y (a bX ))2]
则 e 可用来衡量 a bX 近似表达 Y 的好坏程度. 当 e 的值越小,表示 a bX 与 Y 的近似程度越好.
第三节 协方差及相关系数
一、协方差与相关系数的概念及性质 二、相关系数的意义 三、小结
2. 定义
量 E{[X E( X )][Y E(Y )]} 称为随机变量 X 与 Y 的协方差. 记为 Cov( X ,Y ), 即
Cov( X ,Y ) E{[X E( X )][Y E(Y )]}.
t2 2
dtdu
ρσ1σ2 2π
u2e
u2 2
d
u
t2
e2
d
t
ρσ1σ2 2
σ1σ2
1 2π
ρ2
u2
ue 2
d
u
t2
te 2
d
t
2 2,
故有Cov( X ,Y ) ρσ1σ2 .
于是 XY
Cov( X ,Y ) .
D( X ) D(Y )
结论
( 1) 二维正态分布密度函数中,参数 ρ 代表了X 与Y 的相关系数;
解 (1)由E( X ) 1, D( X ) 9, E(Y ) 0, D(Y ) 16.
得 E(Z ) E( X Y ) 1 E( X ) 1 E(Y )
32 3
2
1. 3
D(Z ) D( X ) D(Y ) 2Cov( X ,Y )
3
2
32
1 D( X ) 1 D(Y ) 1 Cov( X ,Y )
由方差性质知
P{Y (a0 b0 X ) 0} 1, 或 P{Y a0 b0 X } 1.
反之,若存在常数a,b 使
P{Y a b X } 1 P{Y (a b X ) 0} 1,
P{[Y (a b X )]2 0} 1,
E{[Y (a b X )]2} 0. 故有
E{[X E( X )]2} E{[Y E(Y )]2} 2E{[X E( X )][Y E(Y )]}
D( X ) D(Y ) 2Cov(X ,Y ).
5. 性质
(1) Cov(X ,Y ) Cov(Y , X ); (2) Cov( aX ,bY ) abCov( X ,Y ) , a, b 为常数; (3) Cov( X1 X2 ,Y ) Cov( X1,Y ) Cov( X2 ,Y ).
解
E( ) 1
2π
cosx dx 0,
2π 0
E() 1
2π
cos( x a)dx 0,
2π 0
E( 2 ) 1 2πcos2 x dx 1 ,
2π 0
2
E( 2 ) 1 2πcos2( x a)dx 1 ,
2π 0
2
E() 1
2π
cosx
cos(
x
a)dx
1
cos
a,
2π 0
2
由以上数据可得相关系数为 cosa.
当a 当a
0时, π时,
1,
1,
, ,
存在线性关系.
当 a π或a 3π时, 0, 与 不相关.
2
2
但 2 2 1, 因此 与 不独立.
动画演示 与 的相关关系.
单击图形播放/暂停 ESC键退出
3. 注意
(1) 不相关与相互独立的关系 相互独立 不相关
)2
x
,
2πσ1
fY ( y)
1
e ,
(
y μ2
2
σ
2 2
)2
y
.
2πσ2
E( X ) μ1, E(Y ) μ2, D( X ) σ12, D(Y ) σ22. 而
Cov( X ,Y )
(
x
μ1 )(
y
μ2
)
f
(
x,
y)d
x
d
y
1
2πσ1σ2 1 ρ2
(x
μ1 )(
2E{[ X E( X )][Y E(Y )]} D( X ) D(Y ) 2Cov( X ,Y ) D( X ) D(Y ).
4. 协方差的计算公式
(1) Cov(X ,Y ) E( XY ) E( X )E(Y ); (2) D( X Y ) D( X ) D(Y ) 2Cov( X ,Y ). 证明 (1)Cov(X ,Y ) E{[X E( X )][Y E(Y )]}
例1
设( X ,Y )
~
N
(
μ1
,
μ2
,
σ12
,
σ
2 2
,
ρ),
试求
X
与Y
的
相关系数.
解 由 f (x, y)
1
2πσ1σ2 1 ρ2
1
exp
2(1
ρ2
)
( x
μ1 )2 σ12
2ρ
(
x
μ1)( y σ1σ2
μ2 )
(
y
μ2 )2
σ
2 2
fX (x)
1
e ,
(
x μ1 2σ12
证明
(1) min e E[(Y (a bX ))2 ] a ,b (1 ρX2Y )D(Y ) 0 1 ρX2 Y 0
ρXY 1.
(2) ρXY 1的充要条件是,存在常数 a,b 使 P{Y a bX } 1.
事实上, ρXY 1 E[(Y (a0 b0 X ))2] 0 0 E[(Y (a0 b0 X ))2 ] D[Y (a0 b0 X )] [E(Y (a0 b0 X ))]2 D[Y (a0 b0 X )] 0, E[Y (a0 b0 X )] 0.
y
μ2 )
e e d y d x.
(
x μ1 2σ12
)2
1 2(1
ρ2
)
y μ2 σ2
ρ
x
μ1 σ1
2
令 t 1 y μ2 ρ x μ1 , u x μ1 ,
1 ρ2 σ2
σ1
σ1
Cov(X ,Y )
1
2π
(σ1σ2
1
ρ2 tu
ρσ1σ
2u2
)e
u2 2
9
4
3
1 9
D(
X
)
1 4Leabharlann D(Y)1 3
ρXY
D( X )
D(Y )
1 4 2 3.
(2) Cov( X , Z ) Cov( X , X Y ) 32
1 Cov( X , X ) 1 Cov( X ,Y )
3
2
1 3
D(
X
)
1 2
ρXY
D( X )
D(Y ) 3 3 0.
故 ρXY Cov(X , Z ) ( D( X ) D(Z )) 0.
( 2) 二维正态随机变量 X 与Y 相关系数为零 等价于 X 与Y 相互独立.
例 2 已知随机变量X ,Y分别服从N (1,32 ), N (0,42 ), ρXY 1 2,设 Z X 3 Y 2.
(1) 求 Z 的数学期望和方差. (2) 求 X 与 Z 的相关系数. (3) 问 X 与 Z 是否相互独立?为什么?
而
Cov(X ,Y ) ρXY D( X ) D(Y )
称为随机变量 X 与 Y 的相关系数.
3. 说明
(1) X 和 Y 的相关系数又称为标准协方差,它是一 个无量纲的量. (2) 若随机变量 X 和 Y 相互独立
Cov(X ,Y ) E{[X E( X )][Y E(Y )]}
E[X E( X )]E[Y E(Y )] 0. (3) 若随机变量 X 和 Y 相互独立 D( X Y ) D( X ) D(Y )
0 E{[Y (a b X )]2} min E[(Y (a bX ))2 ] a ,b E{[Y (a0 b0 X )]2} (1 ρX2Y )D(Y )
ρXY 1.
二维正态随机变量( X ,Y ) 的概率密度曲面与
相关系数 XY 的关系.
单击图形播放/暂停 ESC键退出
确定 a,b 的值,使 e 达到最小.
e E[(Y (a bX ))2]
E(Y 2 ) b2E( X 2 ) a2 2bE( XY ) 2abE( X ) 2aE(Y ).
将 e 分别关于 a,b 求偏导数,并令它们等于零,得
e ae
2a 2bE( X ) 2E(Y ) 2bE( X 2 ) 2E( XY )
三、小结
相关系数的意义 当 ρXY 较大时 , X , Y 的线性相关程度较高. 当 ρXY 较小时, X ,Y 的线性相关程度较差. 当 ρXY 0 时, X 和 Y 不相关.
0, 2aE(
X
)
0.
b
解得
Cov(X ,Y )
Cov(X ,Y )
b0 D( X ) ,a0 E(Y ) E( X ) D( X ) .
将 a0,b0 代入 e E[(Y (a bX ))2]中,得