43 协方差和相关系数精品PPT课件
合集下载
协方差与相关系数 PPT
D(V ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 17
所以
Cov(U ,V ) Cov(2X Y , 2X Y )
Cov(2X , 2X ) Cov(2X ,Y ) Cov(Y , 2X ) Cov(Y ,Y )
所以D(t0X*-Y*)=0,由方差得性质知它等价于 P{t0X*-Y* =0}=1,即P{Y=aX+b}=1
其中a=t0σ(Y)/σ(X),b=E(Y)- t0 E(X) σ(Y)/σ(X)、
• 性质3:若X与Y相互独立,则ρXY=0、 证明 若X与Y相互独立,则E(XY)=E(X)E(Y), 又 Cov(X,Y)= E(XY)-E(X)E(Y),所以
协方差与相关系数
一、协方差得概念及性质 二、相关系数得概念及性质 三、协方差得关系式
§1 协方差
• 定义:设二维随机向量(X,Y)得数学期望 (E(X),E(Y))存在,若E[(X-E(X))(Y-E(Y))]存在,则称 它为随机变量X与Y得协方差,记为Cov(X,Y),即
Cov(X,Y)= E[(X-E(X))(Y-E(Y))] • 协方差有计算公式
9 ， XY
1 3
，设
U
2X
Y
，
V 2X Y ， 求 UV .
解
Cov( X ,Y ) XY
D( X ) D(Y ) 1 3
49 2
D(U ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 33
E( X ) (1) 0.15 1 0.35 0.20
协方差和相关系数的计算ppt(共24张PPT)
E(X 2) 2
D( X ) D(Y ) 2
E(Y 2 ) 2
cov(U ,V ) (a2 b2 ) 2
而 D(U ) a2D( X ) b2D(Y ) (a2 b2 ) 2
D(V ) a2D( X ) b2D(Y ) (a2 b2 ) 2
故
UV
a2 a2
b2 b2
XY 1 0 P pq
E(X ) p, E(Y ) p, D(X ) pq, D(Y ) pq, E(XY ) p, D(XY ) pq,
cov( X ,Y ) pq, XY 1
例2 设 ( X ，Y ) ~ N ( 1，12，2，22，)， 求
XY ．
解
cov( X ,Y )
当D(X ) > 0， D(Y ) > 0 时，当且仅当
P(Y E(Y ) t0 ( X E( X ))) 1
时，等式成立 —Cauchy-Schwarz不等式．
证明 令
g(t) E[(Y E(Y )) t( X E( X ))]2 D(Y ) 2t cov( X ,Y ) t2D( X )
在寒冷的年代里，母爱是温暖。
协方差和相关系数的计算
cov(U ,V ) 解 在文明的年代里，母爱是道德。
继续讨论：a，b 取何值时，U，V 不相关？
E(UV
)
E(U
)E(V
)
为X，Y 的相关系数，记为
a E( X ) b E(Y ) 例2 设 ( X ，Y ) ~ N ( 1， 12， 2， 22，2 )， 求 2XY ． 2
E( XY ) p, D( XY ) pq,
cov( X ,Y ) pq, XY 1
X X p ,Y Y p , P(X Y ) 1
协方差与相关系数(PPT课件)
2 误差rmin (1 XY ) DY , 其 中 XY
C ov(X , Y ) 为相关系数 DX DY
相关系数的性质 相关系数满足|ρXY |≤1且
XY 1 常数a, b, 使P{Y a bX } 1
2 证 由 (1 XY )
rmin 0 知 | XY | 1 DY
则称E ( X EX )(Y EY )为随机变量X 与Y的协方差, 记 为Cov( X ,Y ), 即
Cov( X ,Y ) E ( X EX )(Y EY )
将上式展开, 易得公式
Cov( X ,Y ) E ( XY ) ( EX )( EY )
特别, 当X与Y 相互独立时，有
解 Cov(X ,Y ) XY DX DY 0.5 4 16 4 例3 设 ( X , Y ) 服从参数为 1 ,
2 2 , 12 , 2 , 的
二维正态分布 , 求X 与Y 的相关 系数.
概率统计（ZYH）
例3 解 二维正态分布的密度是
f
exp(h) 2σ1σ 2 1 ρ 2
Cov( X , Y ) Cov( X , Y ) EX , b DX DX
2
Cov( X , Y ) Cov( X , Y ) E Y EY EX X DX DX
Cov(X , Y ) X EX E (Y EY ) DX
( σ1 σ 2 u 2 ) e
t2 2
t 2 u2 2
dtdu
u2 2
σ1σ 2
Hale Waihona Puke 1 e 2dt u
概率论与数理统计协方差和相关系数精品PPT课件
X
E(
X
)Y
E(Y
)
D( X )
D( Y )
Cov( X ,Y ) . D( X ) D(Y )
6
二、相关系数 (correlation coefficient)
1、定义:设(X,Y)是一随机向量，当D(X)>0, D(Y)>0,则称数
数
记作 XY
C值OV ( X ,Y )
D( X ) D(Y )
为了克服这一缺点，在计算协方差时，先对X与Y进行标准化.即:
征 X X E( X ) ,Y Y E(Y ) ,
D( X )
D(Y )
E( X ) 0, E(Y ) 0,
= Cov( X ,Y ) E( X Y ) E( X ) E(Y ) E( X Y )
=
E
准化。
=
注意:更重要的是要知道如何将一个随机变量标准化.
2
§3 协方差和相关系 数
corrCeolvaatriioannce and coefficient
一、协方差
1、定义对: 于设向(X量,YX)和是Y一，随期机望向和量方，差称只E反{[映X-了E(变X)量][各Y-自E(的Y)情]}况，
没有相互之间的关系若。X、Y相互独立, E{[X-E(X)][Y-E(Y)]}=0，
= (5) 切比雪夫不等式
D(X)= 2
(b a)2 D(X)=
12
1
D( X ) 2
设r.vX具有均值E(X)= ,D(X)=2，则对 >0 ,有不等式
=
P
X
2 2
P
X
2
1 2 .
1
P99T10： 设E(X),D(X)均存在,且D(X) ≠0
协方差与相关系数ppt课件
为 X 与 Y 的相关系数。
特别地 ( X , X ) (Y ,Y ) 1.
例1 设(X,Y)服从区域D:0<x<1,0<y<x上
的均匀分布,求X与Y的相关系数.
x=y
解:
f
(
x,
y)Βιβλιοθήκη 2 0(x, y) D 其它
D
1
1
x
2
E(X
)
0
2 xdx
0
dy
3
D( X ) 1 2x2dx x dy 4 1
注 1.方差是协方差特例，协方差是方差的推广；
2.方差反映了r.v.本身的离散程度，而协方差 反映了两个r.v.离散程度及相互联系。
定义2
记Cov( X ,Y )
D( X cov(Y ,
) X
)
cov( X ,Y D(Y )
)
称它为X与Y的协方差矩阵，其中
cov( X ,Y ) cov(Y , X ).
称Y与X负相关；
当(X ,Y ) 0时，称Y与X不相关。
3.不相关与相互独立
当X与Y相互独立时( X ,Y ) 0； 但当( X ,Y ) 0时X与Y不一定相互独立.
例3
X \Y 1
2
（1）若（X,Y) 分布律为
11
9
2 9
2
2 9
4 9
判断（X,Y)不相关性与相互独立性.
(2)若( X ,Y )在xoy平 面 上 由 圆 周x2 y2 1 所 围 的 区 域D内 服 从 均 匀 分 布 ， 证 明
注
1. 1 ( X ,Y ) 1;
2.当 ( X ,Y ) 大时，Y与X的线性相关关系密切；
当 ( X ,Y ) 小时，Y与X的线性相关关系疏远。
特别地 ( X , X ) (Y ,Y ) 1.
例1 设(X,Y)服从区域D:0<x<1,0<y<x上
的均匀分布,求X与Y的相关系数.
x=y
解:
f
(
x,
y)Βιβλιοθήκη 2 0(x, y) D 其它
D
1
1
x
2
E(X
)
0
2 xdx
0
dy
3
D( X ) 1 2x2dx x dy 4 1
注 1.方差是协方差特例，协方差是方差的推广；
2.方差反映了r.v.本身的离散程度，而协方差 反映了两个r.v.离散程度及相互联系。
定义2
记Cov( X ,Y )
D( X cov(Y ,
) X
)
cov( X ,Y D(Y )
)
称它为X与Y的协方差矩阵，其中
cov( X ,Y ) cov(Y , X ).
称Y与X负相关；
当(X ,Y ) 0时，称Y与X不相关。
3.不相关与相互独立
当X与Y相互独立时( X ,Y ) 0； 但当( X ,Y ) 0时X与Y不一定相互独立.
例3
X \Y 1
2
（1）若（X,Y) 分布律为
11
9
2 9
2
2 9
4 9
判断（X,Y)不相关性与相互独立性.
(2)若( X ,Y )在xoy平 面 上 由 圆 周x2 y2 1 所 围 的 区 域D内 服 从 均 匀 分 布 ， 证 明
注
1. 1 ( X ,Y ) 1;
2.当 ( X ,Y ) 大时，Y与X的线性相关关系密切；
当 ( X ,Y ) 小时，Y与X的线性相关关系疏远。
概率论与数理统计课件4.3协方差与相关系数
例 r.v.X ~ U[1,1] 设Y=X2 ,有
E(X ) 0
E( XY ) E( X 3 ) 1 x3dx 0 1
Cov(X , Y ) E(XY) E(X )E(Y ) 0 XY 0
X,Y不相关. 但是,X与Y不独立.
12
概率论与数理统计
设(X, Y)服从二维正态分布, 则X, Y相互独立的
3. 正态变量的线性变换不变性. 若 X=(X1, X2 , … , Xn) 服从 n 元正态分布， Y1,Y2, …，Yk是Xj（j=1,2,…,n）的线性函数， 则 (Y1,Y2, …，Yk) 也服从多元正态分布.
4. 设(X1,X2, …,Xn)服从n元正态分布，则
“X1,X2, …,Xn相互独立”
14
概率论与数理统计
(4) 若E{[X-E(X)]k•[Y-E(Y)]l}, k, l=1, 2,…存在, 则 称它为X和Y的k+l阶中心混合矩. 显然, E(X),E(Y)为一阶原点矩, D(X),D(Y)为二阶 中心矩.
15
概率论与数理统计
设n维随机变量( X1, X2, , Xn )的二阶中心矩及二阶
中心混合矩 ij Cov(Xi , Yj), i, j 1,2, ,n, 都存在, 则
称矩阵
11 12 1n
C
21 n1
22
n2
2n
nn
为n维随机变量( X1, X2, , Xn )的协方差阵.
16
概率论与数理统计
n元正态分布的几条重要性质
1. X=(X1,X2, …,Xn)服从n元正态分布
8
11 1
8
11 1
8
11 1 8
=0
协方差及相关系数PPT课件
3) 1 存在常数 a, b(b≠0), 使 P{ Y=aX+b }=1,
即: X 和 Y 以概率 1 线性相关.
相关系数刻划了X 和Y 间“线性相关”的程度.
概率论
可见, 若 ρ = ±1, Y 与 X 有严格线性关系; 若 ρ = 0, Y 与 X 无线性关系; 若 0 < |ρ| < 1, |ρ|的值越接近于1, Y 与 X的线性相关程度越高; |ρ|的值越接近于0, Y 与 X的线性相关程度越弱.
可见, 均值 E(X)是 X 的一阶原点矩, 方差 D(X)是 X的二阶中心矩。
概率论
2. 定义: 设 X 和 Y 是随机变量,
若 E X k Y l k ,l 1 ,2 , 存 在
称它为 X 和 Y 的 k+l 阶混合(原点)矩. ((k+l)-th mixed raw moment)
若 E [ X E ( X ) ] k [ Y E ( Y ) ] l k , l 1 , 2 ,存 在
称它为 X 和 Y 的 k+l 阶混合中心矩. ((k+l)-th mixed central moment)
可见, 协方差 cov(X, Y)是 X 和 Y 的二阶混合中心矩.
四、协方差矩阵
概率论
将二维随机变量 (X1, X2) 的四个二阶中心矩:
c11 E {X [1E (X 1)2} ]
c 1 2 E { X 1 [ E (X 1 )X ]2 [ E (X 2 )]}
若 cij coX vi,(Xj) E {X [i E (X i)] X j[ E (X j)]}
( i, j=1,2,…,n ) 都存在, 称矩阵:
c11
C
c21
即: X 和 Y 以概率 1 线性相关.
相关系数刻划了X 和Y 间“线性相关”的程度.
概率论
可见, 若 ρ = ±1, Y 与 X 有严格线性关系; 若 ρ = 0, Y 与 X 无线性关系; 若 0 < |ρ| < 1, |ρ|的值越接近于1, Y 与 X的线性相关程度越高; |ρ|的值越接近于0, Y 与 X的线性相关程度越弱.
可见, 均值 E(X)是 X 的一阶原点矩, 方差 D(X)是 X的二阶中心矩。
概率论
2. 定义: 设 X 和 Y 是随机变量,
若 E X k Y l k ,l 1 ,2 , 存 在
称它为 X 和 Y 的 k+l 阶混合(原点)矩. ((k+l)-th mixed raw moment)
若 E [ X E ( X ) ] k [ Y E ( Y ) ] l k , l 1 , 2 ,存 在
称它为 X 和 Y 的 k+l 阶混合中心矩. ((k+l)-th mixed central moment)
可见, 协方差 cov(X, Y)是 X 和 Y 的二阶混合中心矩.
四、协方差矩阵
概率论
将二维随机变量 (X1, X2) 的四个二阶中心矩:
c11 E {X [1E (X 1)2} ]
c 1 2 E { X 1 [ E (X 1 )X ]2 [ E (X 2 )]}
若 cij coX vi,(Xj) E {X [i E (X i)] X j[ E (X j)]}
( i, j=1,2,…,n ) 都存在, 称矩阵:
c11
C
c21
概率论教学课件第四章4.4协方差与相关系数
解
X
~
f (x)
1
,
1
2
x 1
EX 11 0,
0,其他
2
EY cos xf (x)dx = 1 1 cos xdx sin1,
1 2
E( XY ) E( X cos X ) x cos xf (x)dx = 1 1 x cos xdx 0.
1 2
Cov(X ,Y) E(XY) EX EY 0 0sin1 0,
y y 3x
3 y 2x
2
O
1
x
EX
xf (x, y) dxdy
1
dx
3x
2x dy
2
,
0
2x
3
EY
yf (x, y) dxdy
1
dx
3x 2y dy 5 ,
0
2x
3
EX 2
x2 f (x, y)dxdy
1
dx
0
3x 2x
2x2
dy
1 2
,
EY 2
反之，ρXY 1 P(Y aX b) 1,即Y与X几乎处处有线性关系.
证（第一个结论） EY aEX b, DY a2DX , E(XY ) E[X (aX b)] aEX 2 bEX ,
15
XY
Cov( X , Y ) DX DY
E( XY ) EXEY DX DY
性质4.3协方差具有下列性质 1. 对称性： Cov( X ,Y ) Cov(Y , X ) 2. 线性性质：Cov(aX ,bY ) ab Cov( X ,Y )
Cov ( X1 X2 , Y ) Cov ( X1, Y ) Cov ( X2 , Y )
43协方差与相关系数
16 October 2020
第2章 随机变量及其分布
第13页
例1 已知 X ,Y 的联合分布为
pij X 1 Y
1
p
解0
0
X 01
0 0 < p <1，p + q = 1
0 求 Cov (X ,Y ).
q
Y 01
XY 0 1
P qp
P qp
P qp
E(X ) p, E(Y ) p, Cov(X ,Y )
[注] X 和 Y 的相关系数又称为标准协方差,它是一 个无量纲的量.
在不致引起混淆时，记 XY为 .
16 October 2020
第2章 随机变量及其分布
第21页
相关系数 XY 如何刻画X与Y的线性关系强弱的呢
我们希望用Y 与X的线性函数a+bX作比较!
设 e E[(Y (a bX ))2]
第2章 随机变量及其分布
Байду номын сангаас
第1页
第四章 随机变量的数字特征
§4.1 随机变量的数学期望 §4.2 随机变量的方差 §4.3 协方差与相关系数 §4.4 矩与协方差矩阵
16 October 2020
第2章 随机变量及其分布
第2页
§4.3 协方差与相关系数
➢ 数学期望反映了X 取值的中心. ➢ 方差反映了X 取值的离散程度.
非线性相关
不相关
第2章 随机变量及其分布
第9页
一、协方差的概念及性质
1. 问题的提出
如何描述随机变量之间线性关系的强弱？
16 October 2020
第2章 随机变量及其分布
第10页
2. 定义
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
4
12
45
XY
1 12 0.968 1 4 12 45
2) E( X ) 0, E( XY ) 0
XY 0
XY
0.968
:有96.8%的线性相似度，即在[0,1]之间，
y=x2与某条直线y=ax+b的图像差别不大。
XY 0 :根本就没有线性相关性，但有其他相关性。
三. 矩
XY
COV ( X ,Y ) 1 D( X )D(Y ) 2
例6 1) X ~ U (0,1),Y X 2 ,求 XY
2）X ~ U (1,1),Y X 2 ,求 XY
解1)
E( X ) 1 , E(Y ) 1 , E( XY ) 1 , D( X ) 1 , D(Y ) 4
2
3
解 DX 3, DY 1,
D(V ) 16D( X ) 9D(Y ) 24Cov( X ,Y ) 33, D(W ) 4D( X ) 16D(Y ) 16Cov( X ,Y ) 44,
Cov(V ,W ) Cov(4X 3Y 1,2X 4Y ) 8D( X ) 16Cov( X ,Y ) 6Cov(Y , X ) 12D(Y ) 22.
)
1 0
x 0
x
2dy
dx
2 3
D(X )
1 0
x 0
x2
2dy
dx
4 9
1 18
x=y D 1
E(Y
)
1 0
x 0
y
2dy
dx
1 3
D(Y )
1 x
0 0
y2
2dy
dx
1 9
1 18
E(XY )
1 0
x 0
xy
2dy dx
1 4
Cov( X ,Y ) E( XY ) E( X )E(Y ) 1 36
二.相关系数(*)
1. 定义 若随机变量 X，Y的方差和协方差均存在,
且DX>0,DY>0，则
XY
Cov( X ,Y ) DX DY
无量纲 的量
称为X与Y的相关系数.
注1：若记 X * X E(X )
DX
称为X 的标准化，易知EX*=0，DX*=1.且
XY Cov( X *,Y *) E( X *Y *).
性质2“X与Y 独立”
“X与Y不相关”,反之未必成立.
例２ 设(X, Y)在D={(x, y)：x2+y21}上服从均匀分 布，求证：X与Y 不相关，但不是相互独立的。
性质3 X与Y为随机变量,则下列结果等价 (1) X,Y不相关; (2) Cov(X,Y)=0; (3)E( XY)=EX EY; (4) D(X+Y)=DX+DY.
注2 XY 0
X , Y 不相关
Cov( X ,Y ) 0
E( XY ) E( X )E(Y )
D(X Y ) D(X ) D(Y )
X ,Y 相互独立
X , Y 不相关
注3 若 ( X ,Y ) ~ N ( 1, 12, 2, 22, ),
则X ,Y 相互独立
X ,Y 不相关
2. 相关系数的性质
Cov(X ,Y ) E (X EX )(Y EY )
若 ( X ,Y ) 为离散型，
C ov(X ,Y )
[xi E( X )][ y j E(Y )]pij
i1 j1
若 ( X ,Y ) 为连续型，
C ov(X ,Y) [x E(X )][y E(Y )] f (x, y)dxdy
定理 在以上假设条件下，有
(1) | |1； XY
(2) |XY|=1存在常数a, b 使P{Y= aX+b}=1； (3) X与Y不相关 XY=0;
例4 1.设(X,Y)服从区域D:0<x<1,0<y<x上的 均匀分布,求X与Y的相关系数
解
f
(x,
y)
2 0
(x, y) D others
E(X
X，Y 独立 E{(X-EX)(Y-EY)}=0
数 E (X EX )(Y EY )
反映了随机变量 X , Y 之间的某种关系
定义 称 E (X EX )(Y EY )
为X,Y的协方差.记为
Cov(X ,Y ) E (X EX )(Y EY )
证明
Cov(X, Y)=E(XY)-EX•EY.
E( XY ) —— X ,Y 的 二阶原点矩
E(X EX )(Y EY ) — X ,Y 的二阶混合中心矩
X ,Y 的协方差
E
(X
EX )(Y EY D( X ) D(Y )
)
XY
—— X ,Y 的相关系数
例5 设 ( X ,Y ) ~ N ( 1,4; 1,4; 0.5 ),
Z = X + Y , 求 XZ 解 E( X ) E(Y ) 1, D( X ) D(Y ) 4,
§4.3 协方差和相关系数
问题 对于二维随机变量(X ,Y ):
已知联合分布
边缘分布
对二维随机变量,除每个随机变量各自 的概率特性外, 相互之间可能还有某种联系. 问题: 用一个怎样的数去反映这种联系.
一.协方差定义与性质
若X, Y 独立,则根据数学期望的性质，有 E(XY)=EX EY
E{(X-EX)(Y-EY)}=E(XY)-EX EY=0
E(X k )
—— X 的 k 阶原点矩
E(| X |k )
—— X 的 k 阶绝对原点矩
E((X E( X ))k ) —— X 的 k 阶中心矩
E((X E( X ))2 ) D( X )—— X 的 方差
E( X kY l ) —— X ,Y 的 k + l 阶混合原点矩
E (X EX )k (Y EY )l —— X ,Y 的 k + l 阶混合中心矩
协方差性质
性质1 (1) Cov(X, Y)=Cov(Y, X); (2) Cov(X,X)=D(X); Cov(X,c)=0;
(3) Cov(aX, bY)=abCov(X, Y), 其中a, b为 常数；
(4) Cov(X+Y,Z)=Cov(X, Z)+Cov(Y, Z);
D(C1X C2Y ) C12DX C22DY 2C1C2Cov( X ,Y )
XY 1/ 2, cov( X ,Y ) 2
cov(X , Z ) cov(X , X ) cov(X ,Y ) 6
D(Z) D(X Y)
D(X ) D(Y ) 2cov(X ,Y ) 12
XZ 3 / 12