协方差与相关系数(PPT课件)
合集下载
第13讲 协方差与相关系数 太原理工大学工程硕士概率论与数理统计
22
[例] 已知 解
X 服从 0, 2π
上的均匀分布,求 E ( X 2 ), E (sin X )
X 的概率密度
1 , 0 ≤ x ≤ 2π, f ( x) 2 π 其他, 0,
E( X 2 )
1 2 x f ( x)dx 2π
2π 0
3 2 2 π 1 x 4 π x 2 dx 2π 3 0 3
则: 2 X Y ~ N (0,25)
( 2) D(2 X Y ) 4 DX DY 2 2COV ( X , Y ) 1 25 - 4 XY DX DY 25 4 2 3 13 2
则: 2 X Y ~ N (0,13)
20
小结
本讲首先介绍二维随机向量 (X,Y) 的分量 X与Y 的协方差及相关系数的概念、性质和计 算;然后介绍随机变量的各种矩(k 阶原点矩、 k 阶中心矩、k+m 阶混合原点矩、k+m 阶混 合中心矩),n 维随机向量的协方差阵的概念、 性质和计算;最后简单介绍了n 元正态分布 的概念和三条重要性质。
则(Y1,Y2, …, Yk)'服从k 元正态分布。
这一性质称为正态变量的线性变换不变性。
17
(3) 设(X1,X2, …,Xn)服从n元正态分布,则 “X1, X2, …, Xn 相互独立” 等价于 “X1,X2, …,Xn两两不相关”。
18
例2 设X和Y相互独立,且X~N(1, 2), Y~N(0, 1)。 求 Z = 2X-Y+3 的概率密度。 解: 由X~N(1,2), Y~N(0,1),且X与Y相互独立,
c22 E{[ X 2 E ( X 2 )]2 } c11 c12 排成一个2×2矩阵 , c 21 c 22
协方差与相关系数 PPT
D(V ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 17
所以
Cov(U ,V ) Cov(2X Y , 2X Y )
Cov(2X , 2X ) Cov(2X ,Y ) Cov(Y , 2X ) Cov(Y ,Y )
所以D(t0X*-Y*)=0,由方差得性质知它等价于 P{t0X*-Y* =0}=1,即P{Y=aX+b}=1
其中a=t0σ(Y)/σ(X),b=E(Y)- t0 E(X) σ(Y)/σ(X)、
• 性质3:若X与Y相互独立,则ρXY=0、 证明 若X与Y相互独立,则E(XY)=E(X)E(Y), 又 Cov(X,Y)= E(XY)-E(X)E(Y),所以
协方差与相关系数
一、协方差得概念及性质 二、相关系数得概念及性质 三、协方差得关系式
§1 协方差
• 定义:设二维随机向量(X,Y)得数学期望 (E(X),E(Y))存在,若E[(X-E(X))(Y-E(Y))]存在,则称 它为随机变量X与Y得协方差,记为Cov(X,Y),即
Cov(X,Y)= E[(X-E(X))(Y-E(Y))] • 协方差有计算公式
9 , XY
1 3
,设
U
2X
Y
,
V 2X Y , 求 UV .
解
Cov( X ,Y ) XY
D( X ) D(Y ) 1 3
49 2
D(U ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 33
E( X ) (1) 0.15 1 0.35 0.20
第14讲 协方差与相关系数
X 和 Y 独立时 X 和 Y 不相关, 反之不一定成立。 但对下述情形,独立与不相关是一回事: 若(X, Y )服从二维正态分布,则
X 与Y 独立的充分必要条件是X与Y不相关。 参见P70-例3.6.3: X与Y独立 XY=0
练习2 1) X ~ U (0,1), Y X 2 , 求 XY
2 1 x2 1 2 dy = 1 x -1 x 1 1 x2 f X ( x) 0, 其他 1 2 E( X ) x 1 x2 d y 0
1
E ( XY )
1
x 2 y 2 1 1 1
( xy/ ) dxdy
期望、方差、协方差的性质对比
期望
E(c)=C E(aX)=aE(X), E(X+Y) =E(X)+E(Y) 当X与Y独立时 E(XY)=E(X)E(Y)
方差
D(c)=0 D(aX)=a2D(X),
协方差
Cov(c,X)=0
Cov(aX,bY) =abCov(X,Y) D(X+Y)=D(X)+ Cov(X+Y,Z) D(Y)+2Cov(X,Y) =Cov(X,Z) +Cov(Y,Z)
y 1
1 y 2 1 y 2
xdx dy
1 0 dy 0.
所以,Cov(X, Y)= E(XY)-E(X) E(Y) = 0 . 此外,Var(X) > 0, Var(Y) > 0 . 所以,XY = 0,即 X 与 Y 不相关。 但是,在第三章已计算过: X与Y不独立。
第十四讲 协方差与相关系数
前面我们介绍了随机变量的数学期望 和方差,对于多维随机变量,反映分量之 间关系的数字特征中,最重要的,就是本 讲要讨论的 协方差和相关系数
期望、协方差、方差与相关系数PPT22页
期望、协方差、方差与相关系数
41、俯仰终宇宙,不乐复何如。 42、夏日长抱饥,寒夜无被眠。 43、不戚戚于贫贱,不汲汲于富贵。 44、欲言无予和,挥杯劝孤影。 45、盛年不重来,一日难再晨。及时 当勉励 ,岁月 不待人 。
期望、协方差、方差与相关系数
张宏浩
协方差的一些性质
独立意味着不相关
方差是协方差矩阵的对角元
多个随机变量之和的方差
方差的一些性质
切比雪夫不等式
相关系数的定义
相关系数的性质
ห้องสมุดไป่ตู้
66、节制使快乐增加并使享受加强。 ——德 谟克利 特 67、今天应做的事没有做,明天再早也 是耽误 了。——裴斯 泰洛齐 68、决定一个人的一生,以及整个命运 的,只 是一瞬 之间。 ——歌 德 69、懒人无法享受休息之乐。——拉布 克 70、浪费时间是一桩大罪过。——卢梭
41、俯仰终宇宙,不乐复何如。 42、夏日长抱饥,寒夜无被眠。 43、不戚戚于贫贱,不汲汲于富贵。 44、欲言无予和,挥杯劝孤影。 45、盛年不重来,一日难再晨。及时 当勉励 ,岁月 不待人 。
期望、协方差、方差与相关系数
张宏浩
协方差的一些性质
独立意味着不相关
方差是协方差矩阵的对角元
多个随机变量之和的方差
方差的一些性质
切比雪夫不等式
相关系数的定义
相关系数的性质
ห้องสมุดไป่ตู้
66、节制使快乐增加并使享受加强。 ——德 谟克利 特 67、今天应做的事没有做,明天再早也 是耽误 了。——裴斯 泰洛齐 68、决定一个人的一生,以及整个命运 的,只 是一瞬 之间。 ——歌 德 69、懒人无法享受休息之乐。——拉布 克 70、浪费时间是一桩大罪过。——卢梭
协方差和相关系数的计算ppt(共24张PPT)
E(X 2) 2
D( X ) D(Y ) 2
E(Y 2 ) 2
cov(U ,V ) (a2 b2 ) 2
而 D(U ) a2D( X ) b2D(Y ) (a2 b2 ) 2
D(V ) a2D( X ) b2D(Y ) (a2 b2 ) 2
故
UV
a2 a2
b2 b2
XY 1 0 P pq
E(X ) p, E(Y ) p, D(X ) pq, D(Y ) pq, E(XY ) p, D(XY ) pq,
cov( X ,Y ) pq, XY 1
例2 设 ( X ,Y ) ~ N ( 1,12,2,22,), 求
XY .
解
cov( X ,Y )
当D(X ) > 0, D(Y ) > 0 时,当且仅当
P(Y E(Y ) t0 ( X E( X ))) 1
时,等式成立 —Cauchy-Schwarz不等式.
证明 令
g(t) E[(Y E(Y )) t( X E( X ))]2 D(Y ) 2t cov( X ,Y ) t2D( X )
在寒冷的年代里,母爱是温暖。
协方差和相关系数的计算
cov(U ,V ) 解 在文明的年代里,母爱是道德。
继续讨论:a,b 取何值时,U,V 不相关?
E(UV
)
E(U
)E(V
)
为X,Y 的相关系数,记为
a E( X ) b E(Y ) 例2 设 ( X ,Y ) ~ N ( 1, 12, 2, 22,2 ), 求 2XY . 2
E( XY ) p, D( XY ) pq,
cov( X ,Y ) pq, XY 1
X X p ,Y Y p , P(X Y ) 1
概率论与数理统计课件 协方差与相关系数
试求二维正态随机变量的边缘概率密度 .
p( x, y)
1
e 1 2(1 ρ2
)
(
x
μ1 σ12
)2
2
ρ(
x
μ1 )( σ1σ2
y
μ2
)
(
y
μ2 σ22
)2
2πσ1σ2 1 ρ2
pX (x) pY ( y)
1
e ,
(
x μ1 2 σ12
)2
2πσ1 1
e
(
y μ2 2σ22
)2
1
2πσ1σ2
1 ρ2
( x μ1 )( y μ2 )
e e d y d x.
(
x μ1 2σ12
)2
1 2(1
ρ2
)
y
μ2 σ2
ρ
x
μ1 σ1
2
令t
1 1
ρ2
y
μ2 σ2
ρ
x
μ1 σ1
,
u x μ1 , σ1
2019/4/24
4-3—协方差和相关系数
3 .不相关与相互独立的关系
相互独立 不相关
2019/4/24
4-3—协方差和相关系数
10
例1 设 ( X ,Y ) 在圆域 x2 y2 1 上服从均匀分布, (1)问X与Y是否独立? (2)求相关系数
例2 X ~N(0,1),Y X 2, 证明X与Y不相关且不独立
解:E( XY ) E( XX 2 ) x3 ( x)dx 0 Cov( X ,Y ) E( XY ) E( X )E(Y ) 0 故X与Y不相关
2019/4/24
4-3—协方差和相关系数
概率论教学课件第四章4.4协方差与相关系数
1
一、协方差
对于二维随机变量(X,Y),讨论描述X与Y之间相互 依赖关系的数字特征.
X与Y相互独立 E[(X EX )(Y EY )] 0
或者:E[(X EX )(Y EY )] 0 X与Y一定不相互独立
定义1. 若E[(X EX )(Y EY )]存在, 则称E[(X EX )(Y EY )]为X与Y的协方差.
(连续型).
-
3
或者用以下公式计算
Cov(X , Y ) E(XY ) EX EY
Cov (X , Y ) E[(X EX )(Y EY )]
E(XY XEY YEX EXEY ) E(XY ) EX EY EX EY EX EY E(XY ) EX EY
4
定义2* 设 DX 0 , DY 0,称X,Y的标准化随机变量
X , Y 的协方差 Cov ( X , Y ) 为X与Y的相关系数.
记 为 XY , 即
XY Cov( X , Y ) E( X Y ) EX EY E( X Y )
E[( X EX )(Y EY )] Cov( X ,Y ) .
其逆命题不真!
注:若Cov X,Y 0,即E XY EXEY,则X与Y不相互独立.
4. D(X Y ) DX DY 2Cov(X , Y ).
5
例4.14 设二维随机变量(X,Y )的联合分布列为
XY 0 1 pi 0 0.2 0.3 0.5 1 0.5 0 0.5
p j 0.7 0.3
1 R
2
R
dx
R
R2 x2
xydy
R2 x2
0,
Cov(X , Y ) E(XY ) EXEY 0 00 0 .
8
Cov(X , Y ) E(XY ) EXEY 0 .
一、协方差
对于二维随机变量(X,Y),讨论描述X与Y之间相互 依赖关系的数字特征.
X与Y相互独立 E[(X EX )(Y EY )] 0
或者:E[(X EX )(Y EY )] 0 X与Y一定不相互独立
定义1. 若E[(X EX )(Y EY )]存在, 则称E[(X EX )(Y EY )]为X与Y的协方差.
(连续型).
-
3
或者用以下公式计算
Cov(X , Y ) E(XY ) EX EY
Cov (X , Y ) E[(X EX )(Y EY )]
E(XY XEY YEX EXEY ) E(XY ) EX EY EX EY EX EY E(XY ) EX EY
4
定义2* 设 DX 0 , DY 0,称X,Y的标准化随机变量
X , Y 的协方差 Cov ( X , Y ) 为X与Y的相关系数.
记 为 XY , 即
XY Cov( X , Y ) E( X Y ) EX EY E( X Y )
E[( X EX )(Y EY )] Cov( X ,Y ) .
其逆命题不真!
注:若Cov X,Y 0,即E XY EXEY,则X与Y不相互独立.
4. D(X Y ) DX DY 2Cov(X , Y ).
5
例4.14 设二维随机变量(X,Y )的联合分布列为
XY 0 1 pi 0 0.2 0.3 0.5 1 0.5 0 0.5
p j 0.7 0.3
1 R
2
R
dx
R
R2 x2
xydy
R2 x2
0,
Cov(X , Y ) E(XY ) EXEY 0 00 0 .
8
Cov(X , Y ) E(XY ) EXEY 0 .
概率论与数理统计(第三版)第三章4协方差与相关系数-PPT精品文档
o 3 X , Y 不相关 E ( XY ) E ( X ) E ( Y ).
3. 相关系数的性质
是一个用来表征 X ,Y之间线性关系紧密 XY
程度的量 .
1 . 1 ρ XY
a , b使 1 的充要条件是 :存在常数 2 ρ XY
P { Y a bX } 1 .
0.3 0.7
0 . 3 0 0 . 7 1 0 . 7
0 . 6 1 0 . 4 2 1 . 4
0 . 9 50 . 7 1 . 4 0.03
c o v (,) X Y E X Y E X E Y
三、 相关系数的意义
1 . 当 ρ 表明 X,Y的线性关系联 XY 较大时
例1 已知 (X,Y)的分布律求Cov(X,Y)
x 0 1 y 1 2 0.15 0.15 0.45 0.25
解: c o v (,) X Y E X Y E X E Y
EX ( Y ) 0 .9 5
x 0 1
EX ( ) EY ( )
y 1 0.15 0.45 0.6
2 0.15 0.25 0.4
3.设X和Y是随机变量,若
E(XkYL)
k, L=1,2,…
存在,
称它为X和Y的k+L阶混合(原点)矩.
k L 4.若 E {[ X E ( X )] [ Y E ( Y )] } 存在,
称它为X和Y的k+L阶混合中心矩.
二、协方差与相关系数的概念及性质
1. 问题的提出
若随机变量 X 和 Y 相ቤተ መጻሕፍቲ ባይዱ独立 ,那么
3 Cov( X X , Y ) Cov( X , Y ) Co X , Y ). 1 2 1 2
一协方差与相关系数的概念及性质-27页PPT资料
σ 1σ22π 1ρ2 u eu 2 2du tet2 2dt
ρσ 1σ2 2 2, 2
故 C X 有 ,o Y ) v ρ 1 σ 2 ( σ .
于是 XY D C (X )o X ,D Y v ()Y )(.
结论
(1)二 维正态分布 中 ,参 密数 ρ度 代函 表X数 了 与Y的相关; 系数 ( 2)二 维正态X随 与 Y机 相变 关量 系数 等价 X与 于 Y相互.独立
例 2 已知 X,Y 分 随别 机 N (1 服 ,3 变 2)N ,从 (量 0,42), ρXY 12,设 ZX3Y2.
(1) 求Z的数学期望.和方差 (2) 求X与Z的相关系 . 数 (3) 问X与Z是否相互?为 独什 立?么
解 ( 1 ) 由 E ( X ) 1 , D ( X ) 9 , E ( Y ) 0 , D ( Y ) 1 .
5. 性质
( 1 )CX o ,Y ) v C (Y ,o X )v ; ( ( 2 )C a o ,b X ) v Y a ( C b X ,o Y ),v a ,b ( 为 ;常 ( 3 ) C X 1 X o 2 , Y ) C v X 1 ( , Y ) o C X v 2 , Y ) o ( .
例1 设 (X ,Y )~ N (μ 1 ,μ 2 ,σ 1 2 ,σ 2 2 ,ρ )试 , X 与 求 Y 的
相关 . 系数 解 由f(x,y) 1
2πσ1σ2 1ρ2
ex 2p(11ρ2)(x σ12 μ1)22ρ(xμσ 11 )σ(y2μ2)(y σ2 2 μ2)2
fX(x)
1 e(x2 σ μ 1 2 1)2,x, 2πσ1
一、协方差与相关系数的概念及性质
1. 问题的提出
ρσ 1σ2 2 2, 2
故 C X 有 ,o Y ) v ρ 1 σ 2 ( σ .
于是 XY D C (X )o X ,D Y v ()Y )(.
结论
(1)二 维正态分布 中 ,参 密数 ρ度 代函 表X数 了 与Y的相关; 系数 ( 2)二 维正态X随 与 Y机 相变 关量 系数 等价 X与 于 Y相互.独立
例 2 已知 X,Y 分 随别 机 N (1 服 ,3 变 2)N ,从 (量 0,42), ρXY 12,设 ZX3Y2.
(1) 求Z的数学期望.和方差 (2) 求X与Z的相关系 . 数 (3) 问X与Z是否相互?为 独什 立?么
解 ( 1 ) 由 E ( X ) 1 , D ( X ) 9 , E ( Y ) 0 , D ( Y ) 1 .
5. 性质
( 1 )CX o ,Y ) v C (Y ,o X )v ; ( ( 2 )C a o ,b X ) v Y a ( C b X ,o Y ),v a ,b ( 为 ;常 ( 3 ) C X 1 X o 2 , Y ) C v X 1 ( , Y ) o C X v 2 , Y ) o ( .
例1 设 (X ,Y )~ N (μ 1 ,μ 2 ,σ 1 2 ,σ 2 2 ,ρ )试 , X 与 求 Y 的
相关 . 系数 解 由f(x,y) 1
2πσ1σ2 1ρ2
ex 2p(11ρ2)(x σ12 μ1)22ρ(xμσ 11 )σ(y2μ2)(y σ2 2 μ2)2
fX(x)
1 e(x2 σ μ 1 2 1)2,x, 2πσ1
一、协方差与相关系数的概念及性质
1. 问题的提出
第十三讲协方差与相关系数
• 图中的点群向右上方倾斜,点的y坐标随 坐标的 图中的点群向右上方倾斜,点的 坐标随 坐标随x坐标的 增加而增加。 是云团的中心。 增加而增加。(E(X),E(Y)), 是云团的中心。D(X)与 与 D(Y)只描述了 和Y各自的离散程度,缺少一个能 只描述了X和 各自的离散程度 各自的离散程度, 只描述了 够刻划云团XY线性关系的量 线性关系的量。 够刻划云团 线性关系的量。
•
−1 (x −µ1)2 (x −µ1)(y −µ2) (y −µ2)2 解:f (x, y) = exp −2ρ + 2 2 2 2 2(1− ρ ) σ1 σ1σ2 σ2 2πσσ2 1− ρ 1 1
2 1
• X服从 N ( µ1 , σ ) Y服从 N(µ2,σ ) • E(X)= µ1 , D(X)= σ 12 , E(Y)= µ 2 , D(Y)= σ
• 协方差矩阵的意义:在多元正态分布中, 协方差矩阵的意义:在多元正态分布中, 只要知道所有的一阶矩 协方差矩阵, 一阶矩和 只要知道所有的一阶矩和协方差矩阵,分 布就确定了。 布就确定了。
X1 X2 记X = ⋮ X n
µ1 E ( X 1 ) µ2 E(X 2 ) µ = = ⋮ ⋮ µ E(X ) n n
服从以2为参数的泊松分 设X~ π ( 2) , 即X服从以 为参数的泊松分 ~ 服从以 布,Z=3X-2 , 求COV(X,Z) 。 • 解:COV(X,Z)=COV(X,3X-2) • =3COV(X,X)-2COV(X,1) • COV(X,X)=E{[X-E(X)][X-E(X)]}=D(X)=2 (Poisson分布 分布) 分布 • Cov(X,1)=E{[X-E(X)][1-E(1)]} • =E{[X-E(X)].0}=0 • Cov(X,Z)=3×2-2×0=6 × ×
协方差及相关系数PPT课件
3) 1 存在常数 a, b(b≠0), 使 P{ Y=aX+b }=1,
即: X 和 Y 以概率 1 线性相关.
相关系数刻划了X 和Y 间“线性相关”的程度.
概率论
可见, 若 ρ = ±1, Y 与 X 有严格线性关系; 若 ρ = 0, Y 与 X 无线性关系; 若 0 < |ρ| < 1, |ρ|的值越接近于1, Y 与 X的线性相关程度越高; |ρ|的值越接近于0, Y 与 X的线性相关程度越弱.
可见, 均值 E(X)是 X 的一阶原点矩, 方差 D(X)是 X的二阶中心矩。
概率论
2. 定义: 设 X 和 Y 是随机变量,
若 E X k Y l k ,l 1 ,2 , 存 在
称它为 X 和 Y 的 k+l 阶混合(原点)矩. ((k+l)-th mixed raw moment)
若 E [ X E ( X ) ] k [ Y E ( Y ) ] l k , l 1 , 2 ,存 在
称它为 X 和 Y 的 k+l 阶混合中心矩. ((k+l)-th mixed central moment)
可见, 协方差 cov(X, Y)是 X 和 Y 的二阶混合中心矩.
四、协方差矩阵
概率论
将二维随机变量 (X1, X2) 的四个二阶中心矩:
c11 E {X [1E (X 1)2} ]
c 1 2 E { X 1 [ E (X 1 )X ]2 [ E (X 2 )]}
若 cij coX vi,(Xj) E {X [i E (X i)] X j[ E (X j)]}
( i, j=1,2,…,n ) 都存在, 称矩阵:
c11
C
c21
即: X 和 Y 以概率 1 线性相关.
相关系数刻划了X 和Y 间“线性相关”的程度.
概率论
可见, 若 ρ = ±1, Y 与 X 有严格线性关系; 若 ρ = 0, Y 与 X 无线性关系; 若 0 < |ρ| < 1, |ρ|的值越接近于1, Y 与 X的线性相关程度越高; |ρ|的值越接近于0, Y 与 X的线性相关程度越弱.
可见, 均值 E(X)是 X 的一阶原点矩, 方差 D(X)是 X的二阶中心矩。
概率论
2. 定义: 设 X 和 Y 是随机变量,
若 E X k Y l k ,l 1 ,2 , 存 在
称它为 X 和 Y 的 k+l 阶混合(原点)矩. ((k+l)-th mixed raw moment)
若 E [ X E ( X ) ] k [ Y E ( Y ) ] l k , l 1 , 2 ,存 在
称它为 X 和 Y 的 k+l 阶混合中心矩. ((k+l)-th mixed central moment)
可见, 协方差 cov(X, Y)是 X 和 Y 的二阶混合中心矩.
四、协方差矩阵
概率论
将二维随机变量 (X1, X2) 的四个二阶中心矩:
c11 E {X [1E (X 1)2} ]
c 1 2 E { X 1 [ E (X 1 )X ]2 [ E (X 2 )]}
若 cij coX vi,(Xj) E {X [i E (X i)] X j[ E (X j)]}
( i, j=1,2,…,n ) 都存在, 称矩阵:
c11
C
c21
《概率论》第4章_协方差及相关系数
X ,Y互不相关
12/14 12/14
指 X ,Y之间没有线 性关系, 性关系,但可能有 其它关系
2 设 ( X ,Y) ~ N(µ1, µ2,σ12 ,σ2 , ρ), 则 ρ =0 相互独立 X ,Y相互独立 ρXY = 0
X ,Y互不相关
第四章 随机变量的数字特征
§3 协方差及相关系数 设 X 的概率密度为: 的概率密度为:
相关
第四章 随机变量的数字特征
§3 协方差及相关系数
Y
8/14
Y
Y = a0+b0 X ( b0 < 0 )
Y
Y= a0 +b0 X ( b0 > 0 )
O
ρXY = 1
Y
X
O
Y
ρXY = − 1
y = a0 +b0 x ( b0 < 0 )
X
O
y = a0 +b0 x ( b0 > 0 )
ρσ1σ2p{− −t /1 [∞x − µ−u / 2 ( 2 ) ∞ 2 f (x, y) = ex = e dt ⋅ u e du 2π σ 1− ρ π ∫−∞ 2(1− ρ )∫−∞ σ σ 2 (x − µ )( y − µ 2) ( y − µ ) − 2ρ σ1σ2σ − ρ + −t / 2 ]}∞ −u / 2 1 ∞ + σ te σ dt ⋅ ∫−∞ ue du ∫−∞ − µ x − µ 1 = ex − π 1 p{ 2 [( yσ − ρ σ ) + (1− ρ ) (x − µ ) ]} ( σ 2πσ σ 1− ρρσ1σ 2 2 1− ρ ) = −µ 2π µ2π = ρσ1− µ σ y 2π x− 1 x 21 2 令 t = 1 2( −ρ ), u = , J =1 σ σ1 σ1 1− ρ ρσ1σ2 Cov( X2Y ) , = =ρ ∴ ρXY = D( X ) D(Y) σ1σ2
12/14 12/14
指 X ,Y之间没有线 性关系, 性关系,但可能有 其它关系
2 设 ( X ,Y) ~ N(µ1, µ2,σ12 ,σ2 , ρ), 则 ρ =0 相互独立 X ,Y相互独立 ρXY = 0
X ,Y互不相关
第四章 随机变量的数字特征
§3 协方差及相关系数 设 X 的概率密度为: 的概率密度为:
相关
第四章 随机变量的数字特征
§3 协方差及相关系数
Y
8/14
Y
Y = a0+b0 X ( b0 < 0 )
Y
Y= a0 +b0 X ( b0 > 0 )
O
ρXY = 1
Y
X
O
Y
ρXY = − 1
y = a0 +b0 x ( b0 < 0 )
X
O
y = a0 +b0 x ( b0 > 0 )
ρσ1σ2p{− −t /1 [∞x − µ−u / 2 ( 2 ) ∞ 2 f (x, y) = ex = e dt ⋅ u e du 2π σ 1− ρ π ∫−∞ 2(1− ρ )∫−∞ σ σ 2 (x − µ )( y − µ 2) ( y − µ ) − 2ρ σ1σ2σ − ρ + −t / 2 ]}∞ −u / 2 1 ∞ + σ te σ dt ⋅ ∫−∞ ue du ∫−∞ − µ x − µ 1 = ex − π 1 p{ 2 [( yσ − ρ σ ) + (1− ρ ) (x − µ ) ]} ( σ 2πσ σ 1− ρρσ1σ 2 2 1− ρ ) = −µ 2π µ2π = ρσ1− µ σ y 2π x− 1 x 21 2 令 t = 1 2( −ρ ), u = , J =1 σ σ1 σ1 1− ρ ρσ1σ2 Cov( X2Y ) , = =ρ ∴ ρXY = D( X ) D(Y) σ1σ2
相关系数PPT课件
第1页/共21页
2、协方差的定义 (X, Y)为二维随机变量,则称下式为X、Y的协方差。
说明:
Cov(X,Y) =E{[ X-E(X)][Y-E(Y) ]}
⑴ 协方差为X,Y偏差[ X-E(X)] 与[Y-E(Y) ] 乘积的数学期望
(2) Cov(X,Y)>0,正相关;Cov(X,Y)<0, 负相关。=0,不相关
2 2
0.5,
0.4
x1*
0.5 0.4 0.3* 0.5 0.3 0.5 2* 0.4 0.3* 0.5
0.704
第20页/共21页
谢谢您的观看!
第21页/共21页
(3) Cov(aX, bY) =E{[aX-E(aX)][bY-bE(Y) ]} =E{ab [X-E(X)][Y-E(Y) ]} = ab cov(X, Y)
(4) Cov(X1+X2, Y)=E{[X1+X2 -E(X1+X2)][Y-E(Y) ]} =E{[X1 -E(X1)][Y-E(Y) ]}+E{[ X2 -E(X2)] [Y-E(Y) ]}} =Cov(X1, Y) + Cov(X2, Y)
(3) 当X,Y相同时,Cov(X, X) = D(X)=Var(X).
(4) 离散型 : COV ( X ,Y )
[xi E( X )][y j E(Y )] pij
ij
连续型 : COV (X ,Y ) [x E(X )][y E(Y )]f (x, y)dxdy
第2页/共21页
x12
2 1
(1
x1
)2
2 2
2x1(1
x1 )1 2
第19页/共21页
求D( P )
2、协方差的定义 (X, Y)为二维随机变量,则称下式为X、Y的协方差。
说明:
Cov(X,Y) =E{[ X-E(X)][Y-E(Y) ]}
⑴ 协方差为X,Y偏差[ X-E(X)] 与[Y-E(Y) ] 乘积的数学期望
(2) Cov(X,Y)>0,正相关;Cov(X,Y)<0, 负相关。=0,不相关
2 2
0.5,
0.4
x1*
0.5 0.4 0.3* 0.5 0.3 0.5 2* 0.4 0.3* 0.5
0.704
第20页/共21页
谢谢您的观看!
第21页/共21页
(3) Cov(aX, bY) =E{[aX-E(aX)][bY-bE(Y) ]} =E{ab [X-E(X)][Y-E(Y) ]} = ab cov(X, Y)
(4) Cov(X1+X2, Y)=E{[X1+X2 -E(X1+X2)][Y-E(Y) ]} =E{[X1 -E(X1)][Y-E(Y) ]}+E{[ X2 -E(X2)] [Y-E(Y) ]}} =Cov(X1, Y) + Cov(X2, Y)
(3) 当X,Y相同时,Cov(X, X) = D(X)=Var(X).
(4) 离散型 : COV ( X ,Y )
[xi E( X )][y j E(Y )] pij
ij
连续型 : COV (X ,Y ) [x E(X )][y E(Y )]f (x, y)dxdy
第2页/共21页
x12
2 1
(1
x1
)2
2 2
2x1(1
x1 )1 2
第19页/共21页
求D( P )
协方差及相关系数
+∞
=0
ρX X
所以 X 与 X 不相关
( 3 ) 独立性由其定义来判断
对于任意的常数 a > 0 , 事件 ( X < a ) ( X < a ), 且 P ( X < a ) > 0 , P ( X < a ) < 1,因此有 P( X < a, X < a) = P( X < a) P ( X < a)P( X < a) < P( X < a) 所以 P ( X < a , X < a ) ≠ P ( X < a ) P ( X < a ) 故 X 与 X 不独立
Cov ( X , Y ) = E ( XY ) EXEY = pq Cov ( X , Y ) ρ XY = =1 DX DY
例2 设 ( X ,Y ) ~ N ( μ1, σ12,μ2,σ22,ρ), 求 ρXY 解
令 x μ1
Cov ( X ,Y ) = ∫
σ1 y μ2 =t σ2
=s
ξ ,η 为 X , Y的线性组合
所以 ξ ,η 都服从正态分布 N ( 0, + b )σ ) (a
2 2 2
在正态分布中 , 不相关与独立是等价的
所以当 a = b 时, ξ ,η 独立 当 a ≠ b 时, ξ ,η 不独立
( 3) 当ξ ,η 相互独立时 , 即a 2 = b 2 , ξ ,η 都服从
例1 已知 X ,Y 的联合分布为 X Y 1 0 p 0 0 q 1 0 0 < p <1 p+q=1
求 Cov (X ,Y ), ρXY 解 X P 1 p 0 q Y P 1 p 0 q XY P 1 p 0 q
=0
ρX X
所以 X 与 X 不相关
( 3 ) 独立性由其定义来判断
对于任意的常数 a > 0 , 事件 ( X < a ) ( X < a ), 且 P ( X < a ) > 0 , P ( X < a ) < 1,因此有 P( X < a, X < a) = P( X < a) P ( X < a)P( X < a) < P( X < a) 所以 P ( X < a , X < a ) ≠ P ( X < a ) P ( X < a ) 故 X 与 X 不独立
Cov ( X , Y ) = E ( XY ) EXEY = pq Cov ( X , Y ) ρ XY = =1 DX DY
例2 设 ( X ,Y ) ~ N ( μ1, σ12,μ2,σ22,ρ), 求 ρXY 解
令 x μ1
Cov ( X ,Y ) = ∫
σ1 y μ2 =t σ2
=s
ξ ,η 为 X , Y的线性组合
所以 ξ ,η 都服从正态分布 N ( 0, + b )σ ) (a
2 2 2
在正态分布中 , 不相关与独立是等价的
所以当 a = b 时, ξ ,η 独立 当 a ≠ b 时, ξ ,η 不独立
( 3) 当ξ ,η 相互独立时 , 即a 2 = b 2 , ξ ,η 都服从
例1 已知 X ,Y 的联合分布为 X Y 1 0 p 0 0 q 1 0 0 < p <1 p+q=1
求 Cov (X ,Y ), ρXY 解 X P 1 p 0 q Y P 1 p 0 q XY P 1 p 0 q
协方差和相关系数
例10. 设A和B是随机试验E的两个事件,且 P ( A) > 0, P ( B ) > 0, 定义随机变量 ξ ,η 如下: ⎧1, ξ =⎨
当A发生 ⎧1, 当B发生 η =⎨ ⎩0, 当A不发生 ⎩0, 当B不发生
验证,若 ξ ,η 不相关,则 ξ ,η 必相互独立。 解:设事件 A = {ξ = 1}, 则 A = {ξ = 0}, 事件 B = {η = 1}, 则 B = {η = 0}, 显然 E (ξη ) = P ( AB)
E (ξ ) = P( AB ) + P ( AB) E (η ) = P( A B) + P( AB)
由于 B, B 互逆,所以 P( A) = P( AB) + P( AB ) = E (ξ )
由于 A, A 互逆,所以 P( B) = P( AB) + P( A B) = E (η ) 所以 cov(ξ ,η ) = E (ξη ) − E (ξ ) E (η )
* * * * 又 E (ξ ± η ) = E (ξ ) ± E (η ) = 0
又当 D(ξ ) = 0 时,有 P(ξ = E (ξ )) = 1 ⎪ ⎪ 所以 P ξ * ± η * = 0 = 1 即 P ⎧η − E (η ) = ± ξ − E (ξ ) ⎫ = 1 ⎬ ⎨ σξ ⎪ ⎪ ση ⎭ ⎩
⎧1 ⎪ , x + y ≤1 f ( x , y ) = ⎨π ⎪0 其它 ⎩
2 2
试验证 ξ ,η 不相关却也不相互独立。 证明:容易获得
⎧2 ⎪ 1− x , f ξ ( x) = ∫ f ( x, y )dy = ⎨π ⎪ 0, ⎩
2 ∞ −∞
x <1 x ≥1
概率论协方差与相关系数
D ( X * ) D (Y * ) 2 XY 1 1 2 XY 2(1 XY ) ,
*
*
由此可得 | XY | 1 .
* * D ( X Y ) 2(1 XY ) ,易知 (2) 由上述证明,得
XY 1 的充分必要条件是
例1 已知 X ,Y 的联合分布为
Y
pij X
1 p 0
0 0 q 0 < p <1 p+q=1
1
0
求 Cov (X ,Y ), XY
解
X P 1 0 Y P 1 0 XY P 1 0
p q
p q
p
q
E ( X ) p, E (Y ) p, D( X ) pq, D(Y ) pq,
D( X * Y * ) 0 ,
* * * * E ( X Y ) E ( X ) E ( Y ) 0 及方差的性质知, 再由 上式
等价于
X E ( X ) Y E (Y ) P 0 1 , D(Y ) D( X )
取
则X ,Y 相互独立
0
X ,Y 不相关
例3 设 ( X ,Y ) ~ N ( 1,1,4,4,0.5 ), Z = X + Y , 求 XZ 解 D ( X ) D (Y ) 4,
Cov( X , Y ) XY DX DY 2 Cov( X , Z ) Cov( X , X ) Cov( X , Y ) 6
D( Z ) D( X Y ) D( X ) D(Y ) 2Cov( X , Y ) 12 3 故 XZ 3 / 12 2 .
例4 设 X , Y 服从圆域x2 y2 r 2上的均匀分布,证明
*
*
由此可得 | XY | 1 .
* * D ( X Y ) 2(1 XY ) ,易知 (2) 由上述证明,得
XY 1 的充分必要条件是
例1 已知 X ,Y 的联合分布为
Y
pij X
1 p 0
0 0 q 0 < p <1 p+q=1
1
0
求 Cov (X ,Y ), XY
解
X P 1 0 Y P 1 0 XY P 1 0
p q
p q
p
q
E ( X ) p, E (Y ) p, D( X ) pq, D(Y ) pq,
D( X * Y * ) 0 ,
* * * * E ( X Y ) E ( X ) E ( Y ) 0 及方差的性质知, 再由 上式
等价于
X E ( X ) Y E (Y ) P 0 1 , D(Y ) D( X )
取
则X ,Y 相互独立
0
X ,Y 不相关
例3 设 ( X ,Y ) ~ N ( 1,1,4,4,0.5 ), Z = X + Y , 求 XZ 解 D ( X ) D (Y ) 4,
Cov( X , Y ) XY DX DY 2 Cov( X , Z ) Cov( X , X ) Cov( X , Y ) 6
D( Z ) D( X Y ) D( X ) D(Y ) 2Cov( X , Y ) 12 3 故 XZ 3 / 12 2 .
例4 设 X , Y 服从圆域x2 y2 r 2上的均匀分布,证明
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2 误差rmin (1 XY ) DY , 其 中 XY
C ov(X , Y ) 为相关系数 DX DY
相关系数的性质 相关系数满足|ρXY |≤1且
XY 1 常数a, b, 使P{Y a bX } 1
2 证 由 (1 XY )
rmin 0 知 | XY | 1 DY
则称E ( X EX )(Y EY )为随机变量X 与Y的协方差, 记 为Cov( X ,Y ), 即
Cov( X ,Y ) E ( X EX )(Y EY )
将上式展开, 易得公式
Cov( X ,Y ) E ( XY ) ( EX )( EY )
特别, 当X与Y 相互独立时,有
解 Cov(X ,Y ) XY DX DY 0.5 4 16 4 例3 设 ( X , Y ) 服从参数为 1 ,
2 2 , 12 , 2 , 的
二维正态分布 , 求X 与Y 的相关 系数.
概率统计(ZYH)
例3 解 二维正态分布的密度是
f
exp(h) 2σ1σ 2 1 ρ 2
Cov( X , Y ) Cov( X , Y ) EX , b DX DX
2
Cov( X , Y ) Cov( X , Y ) E Y EY EX X DX DX
Cov(X , Y ) X EX E (Y EY ) DX
( σ1 σ 2 u 2 ) e
t2 2
t 2 u2 2
dtdu
u2 2
σ1σ 2
Hale Waihona Puke 1 e 2dt u
2
1 e 2
d u σ1 σ 2
所以 XY
Cov(X , Y ) σ1σ 2 σ1σ 2 DX DY
1 ( x μ1 )2 ( x μ1 )( y μ2 ) ( y μ2 )2 h 2ρ 2 2 2 2(1 ρ ) σ1 σ1σ 2 σ2
1 1 2 2 1
2 2 2 y μ2 x μ1 x μ1 t u σ ρ σ σ 2 2 1 1 2
||
即,如果随机变量 X 和 Y 是相互独立的 , 则必有
E[(X-EX)(Y-EY)]=0 这意味着当 E[(X-EX)(Y-EY)]≠0 时 , X 与 Y 不相互 独立或存在着一定的关系. 为此, 我们引入下面的定义.
概率统计(ZYH)
定义1 对二维( X ,Y ), 若E ( X EX )(Y EY ) 存在,
5.3 协方差与相关系数
一、协方差的定义与性质
二、随机变量的线性逼近与相关系数
概率统计(ZYH)
一、协方差的定义和性质
在5.2节方差性质4°的证明中
协方差
D( X Y ) DX DY 2 E ( X EX )(Y EY )
D( X ) D(Y )
X , Y独立
0
概率统计(ZYH)
得
C ov(X , Y ) EX a EY bEX EY DX E ( XY ) EXEY C ov(X , Y ) b 2 2 EX ( EX ) DX
误差r的最小值:
rmin E[Y (a bX )]2
a EY
2 ( DX σ12 , DY σ2 )
对于二维正态分布, 参数ρ就是X与Y 的相关系
数, 因而二维正态分布可由X与Y 的期望、方差及
它们的相关系数完全确定. 且有如下关系: 相互独立
概率统计(ZYH)
参数ρ=0
不相关
近似程度好 , 我们自然希望误差 |Y-(a+bX)| 越小越 好.或者更方便地,用误差
r E[Y (a bX )]2
来衡量这种逼近的好坏程度.显然,r的值越小,则表 示逼近程度越好.故应取a,b使误差r的值最小. 下面讨论a,b的取值.
概率统计(ZYH)
参数a,b的确定 (设DX 0, DY 0)
r E[Y (a bX )]2
EY 2 a 2 b2 EX 2 2abEX 2aEY 2bE( XY )
r 2a 2bEX 2 EY a
r 2bEX 2 2aEX 2 E ( XY ) b
r 0, a 令 r 0, b
系) 联系不够紧密. 特别当ρXY = 0 时 rmin 达到最大, X与Y 之间无线性关系可言, 这时称 X与Y 不相关. 一般 相互独立 不相关 地 相关系数ρXY刻画了随机变量X与Y 的线性相关性
概率统计(ZYH)
例2 设随机变量 X 和 Y 的方差分别为 4 和 16, 相关系数为-0.5, 求协方差Cov( X ,Y ).
2
[C ov(X , Y )]2 C ov(X , Y ) 2 DY 1 DY DX DX DY
记 XY
C ov(X , Y ) (称其为X 与Y的相关系数) DX DY
2 则 rmin (1 XY ) DY
概率统计(ZYH)
概率统计(ZYH)
2 误差rmin (1 XY ) DY , 其 中 XY
C ov(X , Y ) 为相关系数 DX DY
性质表明:当|ρXY| 较大时rmin较小, 此时X与Y (就线性关系来说) 联系较紧密. 特别当ρXY=±1时, X与Y 之间以概率1存在着线性关系.
当|ρXY| 较小时 rmin 较大, 此时X与Y (就线性关
Cov( X ,Y ) 0 由协方差的定义亦容易推得协方差的如下性质
概率统计(ZYH)
协方差的性质 Cov( X ,Y ) E ( X EX )(Y EY )
设 a , b 是常数, 则当下所遇期望和协方差存在时, 有 1o Cov(a, X ) 0; 2o Cov( X , X ) DX ; 3o Cov( X ,Y ) Cov(Y , X ); 4o Cov(aX , bY ) abCov( X ,Y ); 5o Cov( X Y , Z ) Cov( X , Z ) Cov(Y , Z ). 例1 设X为一随机变量, 其方差为DX, Y=a+bX,
XY 1 rmin 0 常数a, b, 使E[Y (a bX )]2 0
或D[Y (a bX )] { E[Y (a bX )]}2 0
或D[Y (a bX )] 0且E[Y (a bX )] 0 常数a, b, 使P{Y a bX } 1
1 C ov(X , Y ) 2
1 2
概率统计(ZYH)
t
u
( x μ1 )( y μ2 ) e
h
d xd y σ1σ 2 1 ρ 2
t 2 u2 2
(σ1u)σ 2 ( u t 1 ρ2 ) e
dtdu
0
1 C ov(X , Y ) 2
其中a与b均为常数, 求Cov( X ,Y ). 解 Cov( X ,Y ) Cov(a bX , X )
Cov(a , X ) bCov( X , X ) bDX
概率统计(ZYH)
二、随机变量的线性逼近与相关系数 在解决实际问题时,常常需要用随机变量 X的
线性函数a+bX逼近随机变量Y.为了使这种逼近的