概率论与数理统计PPT课件第四章数学期望与方差01.ppt
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
| cov( X ,Y ) |2 Var( X )Var(Y )
当且仅当 P(Y E(Y ) t0(X E(X ))) 1 时，等式成立 —Cauchy-Schwarz不等式
11
相关系数的性质
| XY | 1 | XY | 1
Cauchy-Schwarz不等式 的等号成立
即Y 与X 有线性关系的概率等于1， 这种线性关系为
若 X,Y 相互独立, 则上式化为
Var(X Y) Var(X ) Var(Y)
10
B 协方差和相关系数的性质
协方差的性质
cov( X ,Y ) cov(Y , X ) E(XY ) E(X )E(Y ) cov(aX ,bY ) ab cov( X ,Y ) cov( X Y , Z ) cov( X , Z ) cov(Y , Z ) cov( X , X ) Var( X )
PY E(Y ) X E( X ) 1
D(Y )
D(X )
12
相关系数的性质
1) XY 1. 2) XY 1 存在常数 a,b 使 P{Y=a+bX}=1.
证明：令 e E[Y (a bX )]2
EY 2 b2EX 2 a2 2aEY 2bEXY 2abEX
系. 问题是用一个什么样的数去反映这种联系.
数 E(X E(X ))(Y E(Y ))
反映了随机变量X ,Y 之间的某种关系
2
A. 协方差和相关系数的定义
定义 称 E(X E(X ))(Y E(Y ))
为X ,Y 的协方差. 记为
cov(X ,Y ) E(X E(X ))(Y E(Y ))
称
cVova(rY(
X) ,X
)
cov(X ,Y Var(Y )
)
为（X , Y ）的协方差矩阵
可以证明协方差矩阵为半正定矩阵 3
协方差的大小在一定程度上反映了X和 Y相互间的关系，但它还受X与Y本身度量 单位的影响. 例如：
Cov(kX, kY)=k2Cov(X,Y) 为了克服这一缺点，对协方差进行标准化， 这就引入了相关系数的概念 .
j1 i1
7
(2) 若二维连续型随机变量(X,Y)的概率密 度为 f(x , y ), 且Cov (X, Y)存在，则
Cov(X ,Y )
(x E(X ))(y E(Y )) f (x, y)dxdy
(3)Cov(X ,Y ) E(XY ) E(X )E(Y )
8
证明：Cov(X,Y)=E{[X-E(X)][Y-E(Y)]} =E{XY-XE(Y)-YE(X)+E(X)E(Y) }
4
若Var (X ) > 0, Var (Y ) > 0 ,称
E
(
X
E( Var(
X X
))(Y E(Y ) Var(Y )
)
cov( X ,Y ) Var( X ) Var(Y )
为X ,Y 的 相关系数，记为
XY
cov( X ,Y ) Var( X ) Var(Y )
无量纲 的量
事实上， XY cov( X ,Y )
求 a, b 使 e 达到最小
令
e a
2a
2b E X 2
E Y 0
e
b
2b
E
X2
2
E X Y 2
a EX0
将 a EY bEX , 代入第二个方程得
bEX 2
EXY
(EY
bEX )EX
0,
故b
EXY EX 2
EXEY (13EX )2
解得
cov( X ,Y ) b0 DX ;
故
P{Y （ a0 b0 X ) 0 }=1.
即
P{Y＝ a0 b0 X }=1。
15
反之，若存在 a , b 使 P{Y＝ a b X }=1，则
P{Y－（ a b X ）＝０}=1， 故 E[Y (a b X )]2 0 而
0
E[Y
(a
b
X
ቤተ መጻሕፍቲ ባይዱ
)]2
min a ,b
若 XY 0, 称 X ,Y 不相关.
5
协方差和相关系数的计算
—— 利用函数的期望或方差计算协方差
6
(1) 若二维离散型随机变量(X, Y)的分布律为
pij P( X xi ,Y y j ), i, j 1, 2,...
且Cov(X,Y)存在, 则
Cov(X ,Y )
(xi E( X ))( y j E(Y )) pij
前面介绍了随机变量的数学期望和方 差，对于多维随机变量，反映分量之间 相互关系的数字特征中，最重要的，就 是本节要讨论的
协方差和相关系数
1
§4.4 协方差和相关系数
问题 对于二维随机变量(X ,Y ):
已知联合分布
边缘分布
这说明对于二维随机变量， 除了每个随机变 量各自的概率特性以外，相互之间可能还有某种联
DX
cov2 ( X ,Y )
cov( X ,Y )
DY DX (DX )2 2cov( X ,Y ) DX
cov2 ( X ,Y ) cov2( X ,Y )
DY
2
DX
DX
14
cov2( X ,Y ) DY
DX
DY
2 XY
DX
DY
DX
(1
2 XY
)
DY
即： min a ,b
E[Y
(a
bX
)]2
(1
2 XY
)DY
由上式得:
1)
１－
2 XY
0,
XY 1 。
2) 若 XY 1, 则 E[Y (a0 b0 X )]2 0 。
从而 D[Y (a0 b0 X )] ( E[Y (a0 b0 X )] )2
E[Y (a0 b0 X )]2 0
所以 D[Y (a0 b0 X )] 0, E[Y (a0 b0 X )] 0
=E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y) 即
Cov(X,Y)=E(XY) -E(X)E(Y) 可见，若X与Y 独立， 则 Cov(X,Y)= 0 .
9
随机变量和的方差与协方差的关系
Var(X Y ) Var(X ) Var(Y ) 2Cov(X ,Y )
cov( X ,Y ) a0 EY b0EX EY EX DX
min E[Y a ,b
(a bX )]2
E[Y
(a0
b0 X )]2
E(Y EY EX cov( X ,Y ) X cov( X ,Y ))2
DX
DX
E((Y EY ) ( X EX ) cov( X ,Y ))2
当且仅当 P(Y E(Y ) t0(X E(X ))) 1 时，等式成立 —Cauchy-Schwarz不等式
11
相关系数的性质
| XY | 1 | XY | 1
Cauchy-Schwarz不等式 的等号成立
即Y 与X 有线性关系的概率等于1， 这种线性关系为
若 X,Y 相互独立, 则上式化为
Var(X Y) Var(X ) Var(Y)
10
B 协方差和相关系数的性质
协方差的性质
cov( X ,Y ) cov(Y , X ) E(XY ) E(X )E(Y ) cov(aX ,bY ) ab cov( X ,Y ) cov( X Y , Z ) cov( X , Z ) cov(Y , Z ) cov( X , X ) Var( X )
PY E(Y ) X E( X ) 1
D(Y )
D(X )
12
相关系数的性质
1) XY 1. 2) XY 1 存在常数 a,b 使 P{Y=a+bX}=1.
证明：令 e E[Y (a bX )]2
EY 2 b2EX 2 a2 2aEY 2bEXY 2abEX
系. 问题是用一个什么样的数去反映这种联系.
数 E(X E(X ))(Y E(Y ))
反映了随机变量X ,Y 之间的某种关系
2
A. 协方差和相关系数的定义
定义 称 E(X E(X ))(Y E(Y ))
为X ,Y 的协方差. 记为
cov(X ,Y ) E(X E(X ))(Y E(Y ))
称
cVova(rY(
X) ,X
)
cov(X ,Y Var(Y )
)
为（X , Y ）的协方差矩阵
可以证明协方差矩阵为半正定矩阵 3
协方差的大小在一定程度上反映了X和 Y相互间的关系，但它还受X与Y本身度量 单位的影响. 例如：
Cov(kX, kY)=k2Cov(X,Y) 为了克服这一缺点，对协方差进行标准化， 这就引入了相关系数的概念 .
j1 i1
7
(2) 若二维连续型随机变量(X,Y)的概率密 度为 f(x , y ), 且Cov (X, Y)存在，则
Cov(X ,Y )
(x E(X ))(y E(Y )) f (x, y)dxdy
(3)Cov(X ,Y ) E(XY ) E(X )E(Y )
8
证明：Cov(X,Y)=E{[X-E(X)][Y-E(Y)]} =E{XY-XE(Y)-YE(X)+E(X)E(Y) }
4
若Var (X ) > 0, Var (Y ) > 0 ,称
E
(
X
E( Var(
X X
))(Y E(Y ) Var(Y )
)
cov( X ,Y ) Var( X ) Var(Y )
为X ,Y 的 相关系数，记为
XY
cov( X ,Y ) Var( X ) Var(Y )
无量纲 的量
事实上， XY cov( X ,Y )
求 a, b 使 e 达到最小
令
e a
2a
2b E X 2
E Y 0
e
b
2b
E
X2
2
E X Y 2
a EX0
将 a EY bEX , 代入第二个方程得
bEX 2
EXY
(EY
bEX )EX
0,
故b
EXY EX 2
EXEY (13EX )2
解得
cov( X ,Y ) b0 DX ;
故
P{Y （ a0 b0 X ) 0 }=1.
即
P{Y＝ a0 b0 X }=1。
15
反之，若存在 a , b 使 P{Y＝ a b X }=1，则
P{Y－（ a b X ）＝０}=1， 故 E[Y (a b X )]2 0 而
0
E[Y
(a
b
X
ቤተ መጻሕፍቲ ባይዱ
)]2
min a ,b
若 XY 0, 称 X ,Y 不相关.
5
协方差和相关系数的计算
—— 利用函数的期望或方差计算协方差
6
(1) 若二维离散型随机变量(X, Y)的分布律为
pij P( X xi ,Y y j ), i, j 1, 2,...
且Cov(X,Y)存在, 则
Cov(X ,Y )
(xi E( X ))( y j E(Y )) pij
前面介绍了随机变量的数学期望和方 差，对于多维随机变量，反映分量之间 相互关系的数字特征中，最重要的，就 是本节要讨论的
协方差和相关系数
1
§4.4 协方差和相关系数
问题 对于二维随机变量(X ,Y ):
已知联合分布
边缘分布
这说明对于二维随机变量， 除了每个随机变 量各自的概率特性以外，相互之间可能还有某种联
DX
cov2 ( X ,Y )
cov( X ,Y )
DY DX (DX )2 2cov( X ,Y ) DX
cov2 ( X ,Y ) cov2( X ,Y )
DY
2
DX
DX
14
cov2( X ,Y ) DY
DX
DY
2 XY
DX
DY
DX
(1
2 XY
)
DY
即： min a ,b
E[Y
(a
bX
)]2
(1
2 XY
)DY
由上式得:
1)
１－
2 XY
0,
XY 1 。
2) 若 XY 1, 则 E[Y (a0 b0 X )]2 0 。
从而 D[Y (a0 b0 X )] ( E[Y (a0 b0 X )] )2
E[Y (a0 b0 X )]2 0
所以 D[Y (a0 b0 X )] 0, E[Y (a0 b0 X )] 0
=E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y) 即
Cov(X,Y)=E(XY) -E(X)E(Y) 可见，若X与Y 独立， 则 Cov(X,Y)= 0 .
9
随机变量和的方差与协方差的关系
Var(X Y ) Var(X ) Var(Y ) 2Cov(X ,Y )
cov( X ,Y ) a0 EY b0EX EY EX DX
min E[Y a ,b
(a bX )]2
E[Y
(a0
b0 X )]2
E(Y EY EX cov( X ,Y ) X cov( X ,Y ))2
DX
DX
E((Y EY ) ( X EX ) cov( X ,Y ))2