概率论第四章_课件2
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
11
例4.3.4.(X,Y)的联合概率分布为:
X Y -1 0 1 -1 1/8 1/8 1/8 0 1/8 0 1/8 1 1/8 1/8 1/8
求 X,Y 的相关系数ρXY. 解:
E[g(X ,Y )]
g( xi , y j ) pij
ij
故 E(X )
xi pij =0
ij
所以 Cov(X,Y)=EXY-EXEY=0
亦即 ρXY=0
第4.4节 矩、协方差矩阵
定义 4.4.1 设 X 和Y 是随机变量,若 E( X k ) , k 1,2, 存 在,则称它为 X 的 k 阶原点矩,简称 k 阶矩。
若 E X E(X)k ,k 1,2, 存在,则称它为 X 的 k 阶中心矩。
1
2
1 2
Cov( X ,Y ) EXY EX EY 0.
从而, ρXY = 0, 故 X, Y 不相关。
另一方面,对于任一满足0<a<1的实数a,都有
a1 1
P{X a} dx (a 1) 1,
1 2
2
P{Y a} P{ X a} a 1dx a
所以
DX Cov(
X
,Y
)
Cov( X ,Y DY
)
1 1
11
§4.5 条件期望
(1)离散型情况下:
设 ( X ,Y ) 为二维离散型随机变量,在 X xi 的条件下Y 的
条件分布律为 PY | X xi,则称 yj P Y yj | X xi
(3) CovX1 X 2 ,Y CovX1,Y CovX 2 ,Y
注: D( X Y ) D( X ) D(Y ) 2Cov( X,Y ) D( X Y ) D( X ) D(Y ) 2Cov( X,Y )
定义 4.3.2
XY
|ρXY|= 1 时,X, Y 之间具有线性关系。
相关系数的计算:
XY
EXY DX
EXEY DY
例.4.3.3
随机向量(X,Y)~f(x,y)=
1
(
x
y)
8
0 x2
0
y2
求X,Y的相关系数ρXY.
0
其它
解:
E[g( X ,Y )] g( x, y) f ( x, y)dxdy
(2)再证明当 XY 1 时, X 与 Y 线性相关。
性质5:D(X)=0
P{X=E(X)}=1
若ρXY = -1, 则
D
X D( X )
Y D(Y )
2 2 XY
0
所以, 有
X D( X )
Y D(Y )
c, 这里c
E
X D( X )
Y D(Y
定理 4.3.1 设 XY 是随机变量 X 与 Y 的相关系数,则有 (1) XY 1
(2) XY 1 充要条件为 PY aX b 1,(a,b为常数,
且a 0)
证明 (1) XY 1.
0 D
X D( X )
Y D(Y )
[[
=EE(XX-EEXX)22+EY(Y-EEYY)22+22EX[(XE-EX XY)(YE-EYY)]
D(X ) D(Y ) 2E[(X E(X ))(Y E(Y ))] D(X ) D(Y ) 2[E(XY ) E(X ) E(Y )]
CovX ,Y DX DY
称为随机变量
X
和Y
的
相关系数。
定义 4.3.3 若 XY 0 ,则称 X 与Y 不相关。
说明:
X, Y 独立
EXY EX EY
Cov( X ,Y ) 0 XY 0 X与Y不相关
注意 : X, Y 不相关, 不一定有 X, Y 相互独立.
所以: XY 1.
0 D
X D( X )
Y D(Y )
,
2
2COV
X, D( X )
Y D(Y
)
2
2
XY
所以: XY 1
综上: XY 1
(2)先证明当 X 与 Y 线性相关时, XY 1 。
若 X 与Y 之间存在线性关系,即Y aX b a 0。
cij COV Xi,X j E Xi E( Xi ) X j E( X j ) , ( i, j 1, 2, ,n )
都存在,则称
c11 c12 c1n
C
c21
cn1
c22 cn2
c2n cnn
yf ( x, y)dxdy =7/6 EY 2 =5/3
所以, DX=11/36, DY=11/36
E(XY )
( xy) f ( x, y)dxdy
2
21 xy ( x y)dxdy
=4/3
00 8
XY (EXY EXEY )
DX DY 1
{或者 E( X ) xi pi =0}
i
E( X 2 )
xi 2 pij =3/4
ij
{或者 E( X 2 ) xi 2 pi =3/4}
i
同理 EY=EX=0
EY2=EX2=3/4
另一方面
E( XY )
( xi y j ) pij
ij
=1/8-1/8-1/8+1/8 =0
注:
D(X Y ) D(X ) D(Y ) 2Cov(X,Y )
3.计算
(1)若(X,Y)为离散型随机向量,
P(X=xi,Y=yj)=pij , (i, j=1,2…), 则
Cov( X ,Y )
( xi EX )( y j EY ) pij
ij
(2)若(X,Y)为连续型随机向量, (X,Y)~f(x,y), 则
Cov( X ,Y ) ( x EX )( y EY ) f ( x, y)dxdy
注意
一般地,常用计算方法为:
重
Cov( X,Y ) E( XY ) E( X )E(Y )
点
例 4.3.1 二维随机变量( X ,Y ) 的联合概率密度为
f
x,
y
若 E(X kY l ) ,k,l 1,2, 存在,则称它为 X 和Y 的
k l 阶混合原点矩。
若 E X E(X)k Y E(Y) l ,k,l 1,2, 存在,
则称它为 X 和Y 的k l 阶混合中心矩
随机向量的协方差矩阵
设 n 维随机变量( X1 , X2 , , Xn ) 的二阶混合中心矩
a 2
因此,有0 P{X a} 1, P{Y a} 0.
因而, F(a,a) P{X a,Y a} P{X a, X a} P{ X a}
P{Y a} P{ X a} P{Y a} FX (a)FY (a)
所以,X 与 Y 不相互独立。
则有
CovX ,Y CovX , aX b CovX , aX CovX , b aCovX , X aDX
DY DaX b a2DX
XY
CovX ,Y DX DY
a a
1
所以: XY 1.
例4.3.2 设 X 在区间[-1,1]上服从均匀分布, Y=|X|。试证明:X与Y不相关,但不相互独立。
证明:先证不相关性。 由已知,X的概率密度为
f
(
x)
1 2
,
0,
1 x 1; 其它。
因此,
1
1
11
E( XY ) E( X X ) x | x | dx 0, EX x dx 0,
性质(4)若X与Y相互独立, 则 D(X+Y)=DX+DY
证证明明::DDX(X+YY )=EE{[X(X+YY)-EE(XX+Y)]22}
= E{[(X-EX)+(Y-EY)]2}
=EE {X(X-EEXX)2+(YY-EEYY)2+22 [(X-EX)(Y-EY)]}
)
.
若ρXY = 1, 则
D
X D( X )
Y D(Y )
2 2 XY
0
所以, 有
X D( X )
Y D(Y )
d ,这里d
E
X D( X )
Y D(Y
)
.
小结:
|ρXY| 的大小反映了X, Y之间线性关系的密切程度:
|ρXY | = 0 时,X, Y 不相关, 无线性关系; 0< |ρXY | < 1 时, X, Y 之间有一定程度的线性关系;
DD((XX) DD((XX)
)
])2]2[
D(DY(Y) ) [ D(DY(Y) ]2)
]2
2C2OCVOV
DX( XDX)( ,X
,Y Y )D(YD) (Y
)
2222 DD((XX)1)1D(DY(Y) )COCVO(VX(,XY,)Y)222X2Y XY
j1
为在 X xi 的条件下,Y 的条件期望。记为 EY | X xi 。
(2)连续型情况下:
设二维连续型随机变量( X ,Y ) 在 X x 的条件下Y 的条件
概率密度为 fY|X ( y | x ) ,则称
EY | X x
yfY|X ( y | x )dy
1, 0,
求: Cov( X ,Y )
0 x 1, 0 y 1
其它
解
11
1
1
E(X)
xf ( x, y)dxdy xdxdy xdx
00
0
2
同理 EY 1
2
EXY
xyf
x,
y dxdy
11
1
1
1
xydxdy xdx ydy
00
0
0
4
故 Cov( X,Y ) E( XY ) E( X )E(Y ) 1 1 1 0
4 22
Baidu Nhomakorabea
2、性质:(1) Cov( X ,Y ) Cov(Y , X )
(2) Cov(aX , bY ) abCov( X ,Y ) ( a, b 是常数)
E(X )
xf ( x, y)dxdy
2
2 x 1 ( x y)dxdy
=7/6
00 8
E(X 2 )
x
2
f
(
x,
y)dxdy
2 2 x2 1 ( x y)dxdy =5/3
00 8
同理由对称性: E(Y )
为
n
维随机变量
X1 , X2 , , Xn 的协方差矩阵。
特别地:对二维 随机向量(X,Y)有协方差矩阵为:
DX Cov(
X
,Y
)
Cov( X DY
,Y
)
例 设X~N(0,1), Y~N(0,1), D(X-Y)=0,求(X,Y)的协差阵.
解: 由题意得: DX=DY=1, D(X-Y)=DX+DY-2Cov(X,Y)=2-2Cov(X,Y) =0 故 Cov(X,Y)=1
x
1
e |x|dx
0
2
EX 2
x
2
1
e |x|dx
x2exdx 2
2
0
所以: DX EX 2 (EX )2 2
为在 X x 的条件下关于Y 的条件期望。
作业: P130: T13(其中E(X,Y)改为求E(XY));
T14, T18, T19
第四 章
4.设随机变量 X 的密度函数为
f x 1 e x
2
x
求 EX 和 DX 。
解:
EX
X 和Y 相互独立,由上一节数学期望的性质(4)知
E( XY ) E( X )E(Y ) 0
于是
第4.3节 协方差及相关系数
1.定义 E[(X-EX)(Y-EY)] 称为 X 和 Y 的协方差, 记作:Cov(X, Y), 即
Cov( X,Y ) E( X EX )(Y EY )
例4.3.4.(X,Y)的联合概率分布为:
X Y -1 0 1 -1 1/8 1/8 1/8 0 1/8 0 1/8 1 1/8 1/8 1/8
求 X,Y 的相关系数ρXY. 解:
E[g(X ,Y )]
g( xi , y j ) pij
ij
故 E(X )
xi pij =0
ij
所以 Cov(X,Y)=EXY-EXEY=0
亦即 ρXY=0
第4.4节 矩、协方差矩阵
定义 4.4.1 设 X 和Y 是随机变量,若 E( X k ) , k 1,2, 存 在,则称它为 X 的 k 阶原点矩,简称 k 阶矩。
若 E X E(X)k ,k 1,2, 存在,则称它为 X 的 k 阶中心矩。
1
2
1 2
Cov( X ,Y ) EXY EX EY 0.
从而, ρXY = 0, 故 X, Y 不相关。
另一方面,对于任一满足0<a<1的实数a,都有
a1 1
P{X a} dx (a 1) 1,
1 2
2
P{Y a} P{ X a} a 1dx a
所以
DX Cov(
X
,Y
)
Cov( X ,Y DY
)
1 1
11
§4.5 条件期望
(1)离散型情况下:
设 ( X ,Y ) 为二维离散型随机变量,在 X xi 的条件下Y 的
条件分布律为 PY | X xi,则称 yj P Y yj | X xi
(3) CovX1 X 2 ,Y CovX1,Y CovX 2 ,Y
注: D( X Y ) D( X ) D(Y ) 2Cov( X,Y ) D( X Y ) D( X ) D(Y ) 2Cov( X,Y )
定义 4.3.2
XY
|ρXY|= 1 时,X, Y 之间具有线性关系。
相关系数的计算:
XY
EXY DX
EXEY DY
例.4.3.3
随机向量(X,Y)~f(x,y)=
1
(
x
y)
8
0 x2
0
y2
求X,Y的相关系数ρXY.
0
其它
解:
E[g( X ,Y )] g( x, y) f ( x, y)dxdy
(2)再证明当 XY 1 时, X 与 Y 线性相关。
性质5:D(X)=0
P{X=E(X)}=1
若ρXY = -1, 则
D
X D( X )
Y D(Y )
2 2 XY
0
所以, 有
X D( X )
Y D(Y )
c, 这里c
E
X D( X )
Y D(Y
定理 4.3.1 设 XY 是随机变量 X 与 Y 的相关系数,则有 (1) XY 1
(2) XY 1 充要条件为 PY aX b 1,(a,b为常数,
且a 0)
证明 (1) XY 1.
0 D
X D( X )
Y D(Y )
[[
=EE(XX-EEXX)22+EY(Y-EEYY)22+22EX[(XE-EX XY)(YE-EYY)]
D(X ) D(Y ) 2E[(X E(X ))(Y E(Y ))] D(X ) D(Y ) 2[E(XY ) E(X ) E(Y )]
CovX ,Y DX DY
称为随机变量
X
和Y
的
相关系数。
定义 4.3.3 若 XY 0 ,则称 X 与Y 不相关。
说明:
X, Y 独立
EXY EX EY
Cov( X ,Y ) 0 XY 0 X与Y不相关
注意 : X, Y 不相关, 不一定有 X, Y 相互独立.
所以: XY 1.
0 D
X D( X )
Y D(Y )
,
2
2COV
X, D( X )
Y D(Y
)
2
2
XY
所以: XY 1
综上: XY 1
(2)先证明当 X 与 Y 线性相关时, XY 1 。
若 X 与Y 之间存在线性关系,即Y aX b a 0。
cij COV Xi,X j E Xi E( Xi ) X j E( X j ) , ( i, j 1, 2, ,n )
都存在,则称
c11 c12 c1n
C
c21
cn1
c22 cn2
c2n cnn
yf ( x, y)dxdy =7/6 EY 2 =5/3
所以, DX=11/36, DY=11/36
E(XY )
( xy) f ( x, y)dxdy
2
21 xy ( x y)dxdy
=4/3
00 8
XY (EXY EXEY )
DX DY 1
{或者 E( X ) xi pi =0}
i
E( X 2 )
xi 2 pij =3/4
ij
{或者 E( X 2 ) xi 2 pi =3/4}
i
同理 EY=EX=0
EY2=EX2=3/4
另一方面
E( XY )
( xi y j ) pij
ij
=1/8-1/8-1/8+1/8 =0
注:
D(X Y ) D(X ) D(Y ) 2Cov(X,Y )
3.计算
(1)若(X,Y)为离散型随机向量,
P(X=xi,Y=yj)=pij , (i, j=1,2…), 则
Cov( X ,Y )
( xi EX )( y j EY ) pij
ij
(2)若(X,Y)为连续型随机向量, (X,Y)~f(x,y), 则
Cov( X ,Y ) ( x EX )( y EY ) f ( x, y)dxdy
注意
一般地,常用计算方法为:
重
Cov( X,Y ) E( XY ) E( X )E(Y )
点
例 4.3.1 二维随机变量( X ,Y ) 的联合概率密度为
f
x,
y
若 E(X kY l ) ,k,l 1,2, 存在,则称它为 X 和Y 的
k l 阶混合原点矩。
若 E X E(X)k Y E(Y) l ,k,l 1,2, 存在,
则称它为 X 和Y 的k l 阶混合中心矩
随机向量的协方差矩阵
设 n 维随机变量( X1 , X2 , , Xn ) 的二阶混合中心矩
a 2
因此,有0 P{X a} 1, P{Y a} 0.
因而, F(a,a) P{X a,Y a} P{X a, X a} P{ X a}
P{Y a} P{ X a} P{Y a} FX (a)FY (a)
所以,X 与 Y 不相互独立。
则有
CovX ,Y CovX , aX b CovX , aX CovX , b aCovX , X aDX
DY DaX b a2DX
XY
CovX ,Y DX DY
a a
1
所以: XY 1.
例4.3.2 设 X 在区间[-1,1]上服从均匀分布, Y=|X|。试证明:X与Y不相关,但不相互独立。
证明:先证不相关性。 由已知,X的概率密度为
f
(
x)
1 2
,
0,
1 x 1; 其它。
因此,
1
1
11
E( XY ) E( X X ) x | x | dx 0, EX x dx 0,
性质(4)若X与Y相互独立, 则 D(X+Y)=DX+DY
证证明明::DDX(X+YY )=EE{[X(X+YY)-EE(XX+Y)]22}
= E{[(X-EX)+(Y-EY)]2}
=EE {X(X-EEXX)2+(YY-EEYY)2+22 [(X-EX)(Y-EY)]}
)
.
若ρXY = 1, 则
D
X D( X )
Y D(Y )
2 2 XY
0
所以, 有
X D( X )
Y D(Y )
d ,这里d
E
X D( X )
Y D(Y
)
.
小结:
|ρXY| 的大小反映了X, Y之间线性关系的密切程度:
|ρXY | = 0 时,X, Y 不相关, 无线性关系; 0< |ρXY | < 1 时, X, Y 之间有一定程度的线性关系;
DD((XX) DD((XX)
)
])2]2[
D(DY(Y) ) [ D(DY(Y) ]2)
]2
2C2OCVOV
DX( XDX)( ,X
,Y Y )D(YD) (Y
)
2222 DD((XX)1)1D(DY(Y) )COCVO(VX(,XY,)Y)222X2Y XY
j1
为在 X xi 的条件下,Y 的条件期望。记为 EY | X xi 。
(2)连续型情况下:
设二维连续型随机变量( X ,Y ) 在 X x 的条件下Y 的条件
概率密度为 fY|X ( y | x ) ,则称
EY | X x
yfY|X ( y | x )dy
1, 0,
求: Cov( X ,Y )
0 x 1, 0 y 1
其它
解
11
1
1
E(X)
xf ( x, y)dxdy xdxdy xdx
00
0
2
同理 EY 1
2
EXY
xyf
x,
y dxdy
11
1
1
1
xydxdy xdx ydy
00
0
0
4
故 Cov( X,Y ) E( XY ) E( X )E(Y ) 1 1 1 0
4 22
Baidu Nhomakorabea
2、性质:(1) Cov( X ,Y ) Cov(Y , X )
(2) Cov(aX , bY ) abCov( X ,Y ) ( a, b 是常数)
E(X )
xf ( x, y)dxdy
2
2 x 1 ( x y)dxdy
=7/6
00 8
E(X 2 )
x
2
f
(
x,
y)dxdy
2 2 x2 1 ( x y)dxdy =5/3
00 8
同理由对称性: E(Y )
为
n
维随机变量
X1 , X2 , , Xn 的协方差矩阵。
特别地:对二维 随机向量(X,Y)有协方差矩阵为:
DX Cov(
X
,Y
)
Cov( X DY
,Y
)
例 设X~N(0,1), Y~N(0,1), D(X-Y)=0,求(X,Y)的协差阵.
解: 由题意得: DX=DY=1, D(X-Y)=DX+DY-2Cov(X,Y)=2-2Cov(X,Y) =0 故 Cov(X,Y)=1
x
1
e |x|dx
0
2
EX 2
x
2
1
e |x|dx
x2exdx 2
2
0
所以: DX EX 2 (EX )2 2
为在 X x 的条件下关于Y 的条件期望。
作业: P130: T13(其中E(X,Y)改为求E(XY));
T14, T18, T19
第四 章
4.设随机变量 X 的密度函数为
f x 1 e x
2
x
求 EX 和 DX 。
解:
EX
X 和Y 相互独立,由上一节数学期望的性质(4)知
E( XY ) E( X )E(Y ) 0
于是
第4.3节 协方差及相关系数
1.定义 E[(X-EX)(Y-EY)] 称为 X 和 Y 的协方差, 记作:Cov(X, Y), 即
Cov( X,Y ) E( X EX )(Y EY )