一多元正态分布定义和性质.ppt
合集下载
多元正态分布
1 (2 )
p 2
12
1 1 exp ( x ) ( x ) 2
1
( 这里Σ=AA′,
1 1 1 ( AA ) ( A ) A )
§2.2 多元正态分布的定义
定义2.2.4 若 p 维随机向量X=(X1,X2…Xp)′的联合密 度函数为
⑤ 写出X=AU+μ的密度函数： 1 1 f X ( x) exp u u J (u x) p 2 (2 ) 2 1 1 2 1 1 1 exp [ A ( x )][ A ( x )] p 2 (2 ) 2
§2.2 多元正态分布的定义
1. 多元正态分布的定义
2. 多元正态分布的性质
§2.2 多元正态分布的定义
在一元统计中，若U～N(0,1),则U的任意线性变 换X=σU+μ～N(μ,σ2)。利用这一性质，可以从标准 正态分布来定义一般正态分布： 若U～N(0,1),则称X =σU+μ的分布为一般正态分 布,记为X ～N(μ, σ2 )。 此定义中，不必要求σ＞0,当σ退化为0时仍有意 义。把这种新的定义方式推广到多元情况，可得 出多元正态分布的第一种定义。
故 X2 0 2 0 1 Y X 3 ~ N ( 0 , 0 3 0 ). 2 1 0 1 X1
§2.2 多元正态分布的性质
(3) 设Z=2 X1-X2+3X3,试求随机变量Z的分布. Z=2 X1-X2+3X3 =(2,-1,3)X=CX 2 故有: z C x (2,1,3) 0 4 0 2 z C xC 1 1 0 2 2 (2,1,3) 1 2 0 1 1,0,9 1 0 0 3 3 3 29 所以 Z ~ N(4,29).
p 2
12
1 1 exp ( x ) ( x ) 2
1
( 这里Σ=AA′,
1 1 1 ( AA ) ( A ) A )
§2.2 多元正态分布的定义
定义2.2.4 若 p 维随机向量X=(X1,X2…Xp)′的联合密 度函数为
⑤ 写出X=AU+μ的密度函数： 1 1 f X ( x) exp u u J (u x) p 2 (2 ) 2 1 1 2 1 1 1 exp [ A ( x )][ A ( x )] p 2 (2 ) 2
§2.2 多元正态分布的定义
1. 多元正态分布的定义
2. 多元正态分布的性质
§2.2 多元正态分布的定义
在一元统计中，若U～N(0,1),则U的任意线性变 换X=σU+μ～N(μ,σ2)。利用这一性质，可以从标准 正态分布来定义一般正态分布： 若U～N(0,1),则称X =σU+μ的分布为一般正态分 布,记为X ～N(μ, σ2 )。 此定义中，不必要求σ＞0,当σ退化为0时仍有意 义。把这种新的定义方式推广到多元情况，可得 出多元正态分布的第一种定义。
故 X2 0 2 0 1 Y X 3 ~ N ( 0 , 0 3 0 ). 2 1 0 1 X1
§2.2 多元正态分布的性质
(3) 设Z=2 X1-X2+3X3,试求随机变量Z的分布. Z=2 X1-X2+3X3 =(2,-1,3)X=CX 2 故有: z C x (2,1,3) 0 4 0 2 z C xC 1 1 0 2 2 (2,1,3) 1 2 0 1 1,0,9 1 0 0 3 3 3 29 所以 Z ~ N(4,29).
第一章多元正态分布 PPT
(1) E(AX ) AE(X )
1.7
2021/8/23 (2) E( AXB) AE( X )B
(1.8) 12
§1、1、4 随机向量的数字特 征
2、随机向量X 自协方差阵
Σ COV (X, X) E(X EX)(X EX)/ D(X)
D(X1 )
COV ( X1, X 2 ) COV ( X1, X P )
D(AX ) AD( X )A' AA'
cov( AX , BY ) Acov( X ,Y )B'
2021/8/23
14
§1、1、4 随机向量的数字特 征
(3)设X为 维n随机向量,期望和协方差存在记
μ E(X), Σ D(X) , A为n n常数阵， 则
E(X' AX) tr(AΣ) μ ' Aμ
欧氏距离,依勾股定理有
d (O, P) (x12 x22 )1/2
(1.14)
2021/8/23
19
§1、2 统计距离和马氏距离
但就大部分统计问题而言,欧氏距离是不能
令人满意的。这个地方因为,每个坐标对欧氏距
离的贡献是同等的。当坐标轴表示测量值时,它
们往往带有大小不等的随机波动,在这种情况下
,合理的方法是对坐标加权,使得变化较大的坐
X
j
X j E(X j ) (var X j )1/ 2
j 1, , p
X
( X1,
X
2
,
,
X
p
)
于是
E(X ) 0
D(X ) corr(X) R
(1.12)
何为标准化？ 标准化的作用？
即标准化数据的协差阵正好是原指标的相关阵.
多元正态分布(新) ppt课件
2 22
EX1 1, EX 2 2 ,
(1 0,2 0, 1)
Var(
X
1
)
2 11VBiblioteka r(X2)
2 22
,
( X1, X 2 ) cov(X PPT课件1, X 2 ) 11 22
5
二元正态分布曲面(
2 11
1,
2 22
X i1 X1
11
§2多元正态分布的参数估计
一、多元样本及其样本数字特征
１．多元样本阵
X11 X12
X
X
21
X 22
X
n1
X n2
记
X(i) ( Xi1, Xi2 ,Xip )
X1p
X
2
p
X
np
i 1,2n
PPT课件
12
2、多元样本的数字特征
样本均值：
一、多元正态分布的定义 定义1：若p维随机向量 X (X1,X p) 的密度函数为：
f (x1,xp )
1
(2 ) p
1/ 2
exp
1 2
(x
μ)1( x
μ)
其中， x (x1,xp ), μ 是p维向量 是p阶
正定矩阵，则称X服从p维正态分布，记为 X ~ N p(μ,)
第一章 多元正态分布及其参数估计
PPT课件
1
§1多元正态分布的定义及其性质
多元正态分布的重要性： （1）多元统计分析中很多重要的理论和方法都是直接或间接
正态分布完整ppt课件
正态性检验
使用如Shapiro-Wilk检验、Kolmogorov-Smirnov检验等方法，对 误差项进行正态性检验，以验证其是否符合正态分布。
方差分析中F分布应用
01 02
F分布的定义
F分布是一种连续型概率分布，常用于方差分析中的假设检验。在方差 分析中，通过比较不同组间的方差与组内方差，判断各因素对结果的影 响是否显著。
筛选方法
包括单变量分析和多变量分析等，结合临床 意义和统计学显著性进行生物标志物的筛选 。
社会科学调查数据分析
社会科学调查数据特点
大量、复杂、多维度的数据，往往需要进行统计分析和数据挖掘。
正态分布在社会科学调查数据分析中的应用
通过对调查数据进行正态性检验，选择合适的数据处理和分析方法，如参数检验、回归分析等。
有对称性和单峰性。
性质
对称性：正态分布曲线关于均值对称 。
单峰性：正态分布曲线只有一个峰值 ，位于均值处。
均值、中位数和众数相等。
概率密度函数在均值两侧呈指数下降 。
正态曲线特点
01
02
03
04
形状
钟形曲线，中间高，两边低。
对称性
关于均值对称，即左右两侧形 状相同。
峰值
位于均值处，且峰值高度由标 准差决定。
05
正态分布在金融学领域应用
风险评估及资产组合优化
风险评估
正态分布用于描述金融资产的收益和风险分布，通过计算均值和标准差来评估投资组合 的风险水平。
资产组合优化
基于正态分布假设，利用马科维茨投资组合理论等方法，构建最优资产组合以降低风险 并提高收益。
VaR（Value at Risk）计算
正态分布用于计算投资组合在一定置信水平下的最大可能损失（VaR），以衡量潜在风 险。
使用如Shapiro-Wilk检验、Kolmogorov-Smirnov检验等方法，对 误差项进行正态性检验，以验证其是否符合正态分布。
方差分析中F分布应用
01 02
F分布的定义
F分布是一种连续型概率分布，常用于方差分析中的假设检验。在方差 分析中，通过比较不同组间的方差与组内方差，判断各因素对结果的影 响是否显著。
筛选方法
包括单变量分析和多变量分析等，结合临床 意义和统计学显著性进行生物标志物的筛选 。
社会科学调查数据分析
社会科学调查数据特点
大量、复杂、多维度的数据，往往需要进行统计分析和数据挖掘。
正态分布在社会科学调查数据分析中的应用
通过对调查数据进行正态性检验，选择合适的数据处理和分析方法，如参数检验、回归分析等。
有对称性和单峰性。
性质
对称性：正态分布曲线关于均值对称 。
单峰性：正态分布曲线只有一个峰值 ，位于均值处。
均值、中位数和众数相等。
概率密度函数在均值两侧呈指数下降 。
正态曲线特点
01
02
03
04
形状
钟形曲线，中间高，两边低。
对称性
关于均值对称，即左右两侧形 状相同。
峰值
位于均值处，且峰值高度由标 准差决定。
05
正态分布在金融学领域应用
风险评估及资产组合优化
风险评估
正态分布用于描述金融资产的收益和风险分布，通过计算均值和标准差来评估投资组合 的风险水平。
资产组合优化
基于正态分布假设，利用马科维茨投资组合理论等方法，构建最优资产组合以降低风险 并提高收益。
VaR（Value at Risk）计算
正态分布用于计算投资组合在一定置信水平下的最大可能损失（VaR），以衡量潜在风 险。
《多元正态分布》课件
度概率密度函数的乘积。
高维正态分布在机器学习中的应用
降维处理
高维正态分布可以用于降维处理，通过保留数据的主要特征，降低 数据的维度，提高数据的可解释性和处理效率。
特征选择
高维正态分布可以用于特征选择，通过分析特征之间的相关性，选 择与目标变量高度相关的特征，去除冗余和无关的特征。
概率模型
高维正态分布可以用于构建概率模型，通过估计数据的概率分布， 进行分类、回归和聚类等机器学习任务。
总结词
检验多元正态分布的协方差矩阵是否与预期 协方差矩阵一致。
详细描述
通过对比样本协方差矩阵与预期协方差矩阵 ，评估样本数据是否符合多元正态分布的假 设。常用的方法包括样本协方差矩阵与预期 协方差矩阵的差异检验、样本数据的散点图 和拟合曲线分析等。
多元正态分布的其他假设检验方法
总结词
其他用于检验多元正态分布的方法。
REPORT
CATALOG
DATE
ANALYSIS
SUMMAR Y
02
二元正态分布
二元正态分布的定义
总结词
二元正态分布是多元正态分布在两个维度上的特例，其概率密度函数呈钟形， 且服从二维高斯分布。
详细描述
二元正态分布是一种连续概率分布，描述了两个随机变量之间的关系，当这两 个随机变量相互独立时，其联合概率分布是二元正态分布。它的概率密度函数 由均值向量和协方差矩阵决定，呈现出钟形曲线。
多元正态分布的均值向量和协方差矩阵决定了其 分布形态。
多元正态分布的应用场景
多元统计分析
多元正态分布在多元统计分析中 广泛应用，如主成分分析、因子 分析、聚类分析等。
机器学习
在机器学习中，多元正态分布用 于描述特征之间的相关性，以及 在隐含层节点中实现特征的映射 。
多元正态分布的定义及基本性质
12 11 22
,
f ( x1, x2 )
1 2 11 22 (1 )
2
2 2 x1 1 x2 2 x2 2 1 x1 1 exp 2 2 2(1 ) 11 22 22 11
三、条件分布
若( X , Y )'
2 N (1, 2 , 12 , 2 , )，则X、Y的条件分布为
f ( x, y) f X |Y ( x | y) fY ( y )
2 1 1 1 exp 2 x y 1 2 2 2 2 1 (1 ) 2 2 1 1
X )( X (i ) X ) ' ( sij ) p p
(X
i 1
n
(i )
X )( X (i ) X ) ' X ip X p
X i1 X 1 n X i2 X 2 X i1 X 1 i 1 X X ip p
X i2 X 2
n 2 ( X X ) i1 1 i 1 n ( X i 2 X 2 )( X i1 X 1 ) i 1 n ( X X )( X X ) ip p i1 1 i 1
(X
i 1
n
i1
X 1 )( X i 2 X 2 )
二元正态分布可用N (1, 2 ,11, 22 , )表示。
11 12 12 22 2 | | 11 22 (1 )
§1-5 多元正态分布
， xm ) ， ym ) y1 g1 ( x1， x1 h1 ( y1， y g ( x ， x h ( y ， ， x ) ym ) m 1 m m 1 ， m m
f Y1 ,,Ym ( y1， ， ym ) ( x1， ， xm ) f X 1 ,, X m ( h1 ( y1， ， y m )， ， hm ( y1， ， y m )) ( y1， ， ym )
二．多元正态分布的基本定理
回顾与拓展：随机向量变换的概率密度函数
， Xm) ， Ym ) Y1 g1 ( X 1， X 1 h1 ( Y1， Y g ( X ， X h ( Y ， Xm) Ym ) m 1 ， m 1 ， m m
Y1 Y p1 Y 2
1 2
V11 V V 21
V12 V22
则Y1与Y2 独立的充分必要条件是 V12 0
三．多元正态分布的性质
思考题
设 ( X1, X2, …, Xn ) 是抽自总体 X ～ N( ， ² )的 样本，试问 X = ( X1, X2, …, Xn ) ´服从什么分布？
正态分布 或 Gauss分布。记为 X∼ N(， ² )
( x )2 2 2
一．多元正态分布的定义 标准正态分布
设 X∼ N(， ² )，当 = 0， = 1 时， 称 X 服从标准正态分布，记为 X ∼ N(0，1 ) 标准正态分布的概率密度为
x2 2
( x)
§1-5
多元正态分布
一．多元正态分布的定义
二．多元正态分布的基本定理 三．多元正态分布的性质
一．多元正态分布的定义
多元正态分布.ppt
(2)
令
Y
X X
2 3
X1
0 0 1
1 0 0
0 1 0
X1 X2 X3
BX
,
由性质1知,Y为3维正态随机向量,且
0 1 0 2 0
y
Bx
0 1
0 0
10 00
02
1
xp ap1u1 ..... appu p p
u A
x1 xp
u p
u p
AA 1 2 1 2
§2.2
故 J (u x) 1 1 2. J(x u)
§2.2
⑤ 写出X=AU+μ
fX
(x)
1
(2 ) p
B
fX (x)dx
B
以下来求Jacobi行列式J(u→x).
§2.2
④ 积分变换的Jacobi行列式J(u→x)可利用线性变换
x=Au+μ及J(x→u)来计算：
x1 xp
因
J (x u) x
u1
u1
x1
a11u1
.....
a1pu p
1
2 1
1 1 2
1
1
2
1
2 2
12 1
2
1
2 2
2
二元正态随机向量X
多元正态分布
混合模型
除了高斯混合模型，还有其他类 型的混合模型，如多项式混合模 型、泊松混合模型等。
扩展应用领域
多元正态分布在许多领域都有广 泛的应用，如心理学、经济学、 生物统计学等。
THANKS
感谢观看
02
联合分布的均值向量和协方差矩阵由各个分量的均 值和协方差决定。
03
当各分量之间相互独立时，其联合分布的协方差矩 阵为各分量协方差矩阵的线性组合。
04
多元正态分布的推断
参数估计
最大似然估计
01
通过最大化样本数据的似然函数来估计多元正态分布的参数，
包括均值向量和协方差矩阵。
最小二乘估计
02
将多元正态分布的均值向量作为回归系数，利用最小二乘法进
多元正态分布
• 多元正态分布概述 • 多元正态分布的参数 • 多元正态分布的性质 • 多元正态分布的推断 • 多元正态分布在统计和机器学习中的
应用 • 多元正态分布的扩展和变种
01
多元正态分布概述
定义与性质
定义
多元正态分布是多个连续随机变量的 概率分布，其概率密度函数是多元高 斯函数。
性质
多元正态分布具有旋转对称性、椭球 等高性、边缘分布的独立性和最大熵 等性质。
当其他维度固定时，该维度的边缘分 布是关于均值对称的，且方差与该维 度与其他维度的协方差成正比。
随机变量的线性变换
对于多元正态分布的随机变量，对其 进行线性变换后，新变量的分布仍然 是多元正态分布。
线性变换包括平移、旋转、缩放等， 这些变换不会改变变量的分布形态。
随机向量的联合分布
01
对于多元正态分布的随机向量，其各分量之间的联 合分布也是正态分布。
06
多元正态分布
则称X服从p元正态分布，记作X~Np (μ, Σ)，其中，参数μ 和Σ分别为X的均值和协差阵。
例1（二元正态分布 ）
设X~N2(μ, Σ)，这里
X1 X , X2
1 μ , 2
12 1 2 Σ 2 2 1 2
12 22 32 42
13 23 33 43
14 24 34 44
2
x2 2 x2 2 2 ； c 2 2
X 1 （ii） X 4
1 11 14 ； N2 , 4 41 44
上述等高线上的密度值
2 1 c f x1 , x2 exp 2 2 2 1 2 1 2 1
2
2
4
二元正态分布的密度等高线族 （由10000个二维随机数生成） 0
0
2
0
y
-2
-2 0 2 -2 0 2 4 |ρ|越大，长轴越长 ，短轴越短，即椭圆越扁平； x
（ 2）
1 AX 0
其中
X1 0 0 X 1 AΣA ) X 2 X ~ N (Aμ , 0 1 3 X3 1 0 0 1 2 0 1 3 3
第二章 多元正态分布
§2.1 多元正态分布的定义 §2.2 多元正态分布的性质
§2.3 复相关系数和偏相关系数
§2.4 极大似然估计及估计量的性质
§2.5 X 和(n − 1) S的抽样分布
§2.1 多元正态分布的定义
多元正态分布 ppt课件
ppt课件
16
一元正态分布密度函数图形
f (x) O
0.5 1
2
图1 2 1
ppt课件
x
17
二元正态分布密度函数
f ( x1, x2 )
1
2 1 2
1
2
exp
1 2(1
2)
( x1 1 )2
2 1
2
x1 1 1
20
多元正态分布定义1
定义1.2.1 若 p维随机向量 X 的概率密度函数为
ppt课件
4
随机矩阵的数学期望
定义1.1.2
z11 z12
设Z
z21
z22
zp1 zp2
则Z的数学期望（均值）E(Z )为
z1q
z2q
为p
q阶随机矩阵
，
zpq
E(z11)
E(
Z
)
E
(
z21
)
E(zp1)
E(z12 ) E(z22 )
x2 2 2
( x2 2 )2
2 2
ppt课件
18
二元正态分布密度函数图形
ppt课件
19
一元正态分布密度函数变形
f (x)
1
( x )2
e 2 2
2
(2
)
1 2
(
2
)
1 2
exp
1
(
x
多元正态分布的定义与性质详解演示文稿
2. 风险函数
由于损失函数L与决策函数d(x)有关,而决策函数 是随机变量，因而损失函数也为随机变量。这样损失函 数与样本X的取值有关，因而需要构造一个更好的指标 来衡量决策函数的好坏. 这就是风险函数.
定义4.2 设样本空间和分布族分别为和F * ,决
策空间为,损失函数为L( , d )，决策函数为d( X ),
R( , d1) R( , d2 ),
且存在一些使得不等式严格成立，即R( , d1)
R(
,
d
2
)，则称决策函数d1一致优于d
，如果等式
2
成立即R( , d1)＝R(ห้องสมุดไป่ตู้, d2 ), ，则二者等价.
定义4.4 设D {d( X )}是一切定义在样本空间 上取值于决策空间上的决策函数的全体，若存 在一个决策函数d*( X )(d*( X ) D), 使得对任意一 个d( X ) D,都有
例4(p118) 设总体X服从正态分布N (, 2 ), 2为已知,
( X1, X2 , , Xn)T取自X的样本，试求参数点估计
和区间估计的决策函数.
解 根据上一章的结论，参数点估计的决策函数为
d( x)
x
1 n
n i 1
xi
参数区间估计的决策函数为
d ( x) [ x u
2
n
,
x
u
2
] n
决策 对每个统计问题的具体回答，就称为一个决策.
例如，参数的点估计，每一个估计值就是一个决策. 决策空间 一个统计问题中，可能选取得全部决策 组成的集合为决策空间，记为 R.
例如，设总体分布服从N (, 2 ), 对未知参数进行
估计，由于在(, )中取值，因而其决策空
1.多元正态分布资料
E(
X
i
)
存在，
i
E ( X1 ) 1
E ( X )
E
(
X2
)
2
μ
E ( X P )
P
1.6
是一个p维向量，称为均值向量.
当A、B为常数矩阵时，由定义可立即推出如下性质：
(1) E(AX ) AE(X )
1.7
(2) E(AXB) AE(X )B
(1.8)
9
目录 上页 下页 返回 结束
P(X x,Y y) P(X x)P(Y y) (1.3)
对一切(X , Y )成立。
（1）若F(x,y)为(X,Y)的联合分布函数，G(x)和H(y) 分别为
X和Y的分布函数，则X与Y独立当且仅当
F(x, y) G(x)H( y)
(1.4)
（2）若(X,Y)有密度f(x, y)，用g(x)和h(y)分别表示X和Y
的分布密度，则X和Y独立当且仅当
f ( x, y) g( x)h( y)
(1.5)
注意:在上述定义中，X 和 Y 的维数一般是不同的。
8
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
1、随机向量X 的均值
i
设X
1,2,
p
(
,
X1, X 2 ,, X p )'有 定义随机向量
p X
个分量。若 的均值为
( ij )
COV ( X1, X P )
COV
(
X
2
,
X
P
)
D( X P )
(1.9)
称它为p维随机向量X的协方差阵，简称为 X的协方差阵。
多元统计分析 多元正态分布及PPT课件
1
e e dx
itx
(
x) 2 2
2
2
u ( x ) /
1
eit
(u
)
e
u2 2
d
u
2
12
第12页/共83页
第二章 多元正态分布及参数的估计 §2.2 多元正态分布的性质1
eit
1
1[u2 2itu(it )2 (it )2 ]
e2
du
2 eit
1 1 (uit )2 1 (it )2
e e du 2
2
2
exp[it 1 t 2 2 ] 1
1 (uit )2
e2
du
2
2
exp[it 1 t 2 2 ]
2
13
第13页/共83页
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质1
当 X～N(0,1)时,φ(t)=exp［-t 2 /2］.
性质1 设U= (U1,…,Uq)′为随机向量,
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质2
Z=BX+d d= B(AU+μ)+d = (BA)U+(Bμ+d)
由定义2.2.1可知
Z ～Ns(Bμ+d, (BA)(BA))，
Z ～Ns(Bμ+d, BΣB). (这里Σ=AA).
20
第20页/共83页
第二章 多元正态分布及参数的估计
23
第23页/共83页
第二章 多元正态分布及参数的估计
§2.2 多元正态分布性质2的推论
例f (2x.11,.1x2()X1,X212)的e联12合(x12密x22度)[1函数x为1x2e
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
E( x1 E( x1 ))( y1 E( y1 )) E( x1 E( x1 ))( yq E( yq ))
E(x
p
E(
x
p
))(
y1
E(
y1
))
E(
x
p
E(x
p
))(
yq
E(
yq
))
COV ( x1 , y1 ) COV ( x1 , yq )
f ( x1, x2 )
1
2 1 2
1
2
exp
1 2(1
2)
( x1 1 )2
2 1
2
x1 1 1
x2 2 2
( x2 2 )2
2 2
二元正态分布密度函数图形
一元正态分布密度函数变形
f (x)
1
( x )2
)
E(z22 )
E(z2q )
E(zp1 ) E(zp2 ) E(zpq )
随机向量期望的性质
性 质1.1.1（ 线 性 性 ） 设X为p 维 随 机 向 量 ， A为q p阶 常 数 矩 阵，B为q阶 常 数 向 量 ， 则 E( AX B) A E( X ) B。
第一章 多元正态分布
随机向量的有关概念 多元正态分布定义 多元正态分布的性质 多元正态分布的参数估计
第一节 随机向量的有关概念
随机向量及随机向量的数学期望（均值） 随机向量的协方差矩阵 随机向量的相关矩阵
随机向量
定义：设 X1, X2 ,..., Xp 为 p 个随机变量，
随机矩阵的数学期望
定义1.1.2
z11 z12 z1q
设Z
z21
z22
z2q
为P
q阶
随
机
矩
阵，
则Z
z p1 z p2 z pq
E(z11 ) E(z12 ) E(z1q )
的
数
学
期
望
（
均
值
）E (
Z
)
E ( z21
由它们组成的向量 (X1, X2,..., Xp )' 称作随机向量。
1.随机向量的数学期望
定义1.1.1
x1
设
X
x2
为
p维随机向量，则X的
xp
E(x1)
数
学期
望（均
值）E
(
X
)
E ( x2
)
。
E(xp )
随机向量期望的性质
性 质1.1.2（ 可 加 性 ） 设X、Y为p维 随 机 向 量 ， 则 E( X Y ) E( X ) E(Y )。
性质1.1.3设 X 是 p q 阶随机矩阵， A 为m p阶
常数矩阵， B 为 q n 阶常数矩阵，则有
E(AXB) AE(X)B
2．随机向量的协方差矩阵
E(x
p
E(x
p
))(
x1
E( x1
))
E( x p
E( x p ))(
xp
E(x
p
))
D(x1)
COV (x1, xp )
COV
(
x
p
,
x1
)
D(xp )
( ij ) p p
协方差矩阵的性质
性质1.1.4 设 X、Y 分别为 p 维和 q 维随机向量， Arp、Csq为 常 数 矩 阵 ，b、d 分 别 为r和s 阶 常 数 向 量 ， 则COV ( AX b, CY d ) A COV ( X ,Y ) C
协方差矩阵的性质（续）
性质1.1.5 设 X为 p维随机向量，COV ( X , X) ，
则 为对称且是半正定矩阵，且当 可逆时，
a1
为正定矩阵，若a
a2
是p维常数向量，则
a p
D(aX ) a a
3.随机向量的相关矩阵
定义1.1.4 设 X为 p 维 随 机 向 量 ， 则 称
ቤተ መጻሕፍቲ ባይዱ
方法一：
COV
(
x
p
,
y1
)
COV ( x p , yq )
COV ( X , X ) E( X E( X ))(X E( X ))
E( x1 E( x1 ))( x1 E( x1 )) E( x1 E( x1 ))( x p E( x p ))
x1
这
里
，
X
x2
xp
1
2
p
( ij ) p p
多元正态分布定义2
定义1.2.2 若 p 维随机向量 X 的
任何线性组合均服从一元正态分布， 则称 X 服从多元正态分布。
二元正态分布的两种表示方法
e 2 2
2
(2
)
1 2
(
2
)
1 2
exp
1
(
x
)(
2
)1
(
x
)
2
多元正态分布定义1
定义1.2.1 若 p维随机向量 X 的概率密度函数为
f
(x)
(2
p
)2
1 2
exp
1
(x
) 1 ( x
)
2
则称 X 服从 p 维多元正态分布，记为X ~ N p ( , )。
x1
y1
定义1.1.3
设X
x2
为
p维 随 机 向 量 Y，
y2
xp
yq
为 q维 随 机 向 量 ， 则X 和Y 的 协 方 差 矩 阵 为
COV ( X ,Y ) E( X E( X ))(Y E(Y ))
1 12 1 p
21
1
2 p
为
X
的
相
关
矩
阵
。
p1 p2 1
ij
ij ii jj
其中， ij 为 xi
和 x j 的相关系数， ij
。
ji
相关矩阵与协方差矩阵的关系
D 1 D 1
2
2
1
2
11
其 中 ，D 1 2
1
2
pp
第二节 多元正态分布定义
一元正态分布密度函数
f (x)
1
( x )2
e 2 2
2
一元正态分布密度函数图形
f (x)
0.5 1
2
O
x
图1 2 1
二元正态分布密度函数