【最新】一章多元正态分布
合集下载
多元正态分布
16
§1.2 统计距离和马氏距离
欧氏距离 马氏距离
2016/1/14
目录 上页 下页 返回
结束
17
§1.2 统计距离和马氏距离 欧氏距离
在多指标统计分析中,距离的概念十分重要,样品间的不 少特征都可用距离去描述。大部分多元方法是建立在简单 的距离概念基础上的。即平时人们熟悉的欧氏距离,或称 d ( 0, p ) ( x x ) (1.14) 直线距离.如几何平面上的点 p=(x1,x2)到原点 O=(0,0)的 欧氏距离,依勾股定理有
图1-2
2016/1/14
目录 上页 下页 返回 结束
23
§1.2 统计距离和马氏距离
由图1-2可看出,从绝对长度来看,A点距左面总体G1近些, 即A点到 比A点到1 要“近一些”（这里用的是欧氏距离，比 较的是A点坐标与 到 值之差的绝对值），但从概率观点来 看，A点在 右侧约4 处，A点在 的左侧约3 处，若以标 准差的观点来衡量，A点离 2 比A点离 要“近一些”。显然， 后者是从概率角度上来考虑的，因而更为合理些，它是用坐标 差平方除以方差（或说乘以方差的倒数），从而化为无量纲数， 推广到多维就要乘以协方差阵∑的逆矩阵 ，这就是马氏 距离的概念，以后将会看到，这一距离在多元分析中起着十分 重要的作用。
2
2016/1/14
目录 上页 下页 返回
24
结束
§1.2 统计距离和马氏距离
马氏距离
设X、Y从均值向量为μ，协方差阵为∑的总体G中抽 取的两个样品，定义X、Y两点之间的马氏距离为
2 dm ( X, Y) ( X - Y)/ Σ 1 ( X - Y)
(1.21)
定义X 与总体G 的马氏距离为
优选第一章多元正态分布
★许多随机向量确实遵从正态分布，或近似 遵从正态分布；
★对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
2020/10/2
3
第一章 多元正态分布
多元正态分布是最常用的一种多元
概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布、多元指数
当A、B为常数矩阵时，由定义可推出协差阵有如下性质：
D(AX ) AD(X ) A' AA'
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X 和 Y 称为是相互独立的，若
P(X x, Y y) P(X x)P(Y y) (1.3)
对一切 (X , Y )成立。若 F(x, y) 为(X , Y ) 的联合分布函数
，GG((xx)) H ( y) 分别为X和Y的分布函数，则X与Y 独立X 当且仅
D(X1 )
COV ( X1, X 2 ) COV ( X1, X P )
COV
(
X
2
,
X1)
D(X 2 )
COV ( X 2 ,
X
P
)
COV ( X P , X1) COV ( X P , X 2 ) D(X P )
( ij )
(1.9)
2020/10/2
13
§1.1.4 随机向量的数字特征
个样本。
2020/10/2
6
§1.1.1 随机向量
横看表1-1，记
，
它表示第 个样品的观测值。竖看表1-1,第 列的元素
表示对 第个变量 的n次观测数值。2
…
…
x1 p
2
★对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
2020/10/2
3
第一章 多元正态分布
多元正态分布是最常用的一种多元
概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布、多元指数
当A、B为常数矩阵时，由定义可推出协差阵有如下性质：
D(AX ) AD(X ) A' AA'
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X 和 Y 称为是相互独立的，若
P(X x, Y y) P(X x)P(Y y) (1.3)
对一切 (X , Y )成立。若 F(x, y) 为(X , Y ) 的联合分布函数
，GG((xx)) H ( y) 分别为X和Y的分布函数，则X与Y 独立X 当且仅
D(X1 )
COV ( X1, X 2 ) COV ( X1, X P )
COV
(
X
2
,
X1)
D(X 2 )
COV ( X 2 ,
X
P
)
COV ( X P , X1) COV ( X P , X 2 ) D(X P )
( ij )
(1.9)
2020/10/2
13
§1.1.4 随机向量的数字特征
个样本。
2020/10/2
6
§1.1.1 随机向量
横看表1-1，记
，
它表示第 个样品的观测值。竖看表1-1,第 列的元素
表示对 第个变量 的n次观测数值。2
…
…
x1 p
2
多元正态分布教学文稿
2、多元样本的数字特征 样本均值
1 n
n
(i)
i1
1
x11 x12
n
x1n
x21
x22 x2n
xn1 x12
xnn
X1 X2 X p
样本离差阵 n
S p p ( X(i) X )( X(i) X )
i1
xi1 X1
n xi2 i1
X
2
二元正态分布曲面(11=2,22=4,12=0.75)
二、多元正态分布的性质
性质1：若 X (X1, X p) ~ Np(μ,，) 是对角矩阵，则 X1, X p
相互独立。 性质2：若 X ~ Np(μ,) A为s p阶常数矩阵， d为s维常数向量
则
AX d ~ Ns ( Aμ d , AA)
第一章多元正态分布及其参数估计
多元正态分布的重要性： （1）多元统计分析中很多重要的理论和方法都是直接或间接
地建立在正态分布 基础上的，许多统计量的极限分布往往和 正态分布有关。 （2）许多实际问题涉及的随机向量服从多元正态分布或近似 服从正态分布。因此多元正态分布是多元统计分析的基础。
一、多元正态分布的定义 定义1：若p维随机向量 X (X1, X p) 的密度函数为：
xi1
x1
xip X p
xi2 x2
xip xp
(xi1 x1)2
n (xi2 x1)(xi1 x2)
i1
(
xip
xp )(xi1
x1)
(xi1 x1)(xi2 x2) (xi2 x2)2
(xip xp )(x2 x2)
(
xi1
x1)(xip
x
p
)
第1章多元正态分布的参数估计(精)
第一章 多元正态分布的参数估计一、填空题1.设X 、Y 为两个随机向量，对一切的u 、v ，有)v (p )u (p )uv (p =，则称X 与Y 相互独立。
2.多元分析处理的数据一般都属于 横截面 数据。
3．多元正态向量()'=X X X p ,,1 的协方差阵∑是 对角阵 ，则X 的各分量是相互独立的随机变量。
4．一个p 元函数()p x x x f ,,,21 能作为p R 中某个随机向量的密度函数的主要条 件是 p 'p 21p 21R )x ,,x ,x (,0)x ,,x ,x (f ∈∀≥和1dx dx dx )x ,,x ,x (f p 21-p 21-=⎰⎰+∞∞+∞∞ 。
5.若()∑,~i p i n W S ，k i ,,1 =，且相互独立，则~21k S S S S +++= ),n (W k1i i p ∑∑=。
二、判断题1.多元分布函数()x F 是单调不减函数，而且是右连续的。
正确2.设X 是p 维随机向量，则X 服从多元正态分布的充要条件是：它的任何组合()p R X ∈'αα都是一元正态分布。
错误3.μ是一个P 维的均值向量，当A 、B 为常数矩阵时，具有如下性质：（1）E （AX ）=AE （X ） （2）E （AXB ）=AE （X ）B 正确4．若P 个随机变量X 1，…X P 的联合分布等于各自边缘分布的乘积，则称X 1，… X P 是相互独立的。
正确5．一般情况下，对任何随机向量()'=X X X p ,,1 ，协差阵∑是对称阵，也是正定阵。
错误6．多元正态向量()'=X X X p ,,1 的任意线性变换仍然服从多元正态分布。
正确7．多元正态分布的任何边缘分布为正态分布，反之一样。
错误8．多元样本中，不同样品之间的观测值一定是相互独立的。
正确9．多元正态总体参数均值μ的估计量X 具有无偏性、有效性和一致性。
多元正态分布(新) ppt课件
2 22
EX1 1, EX 2 2 ,
(1 0,2 0, 1)
Var(
X
1
)
2 11VBiblioteka r(X2)
2 22
,
( X1, X 2 ) cov(X PPT课件1, X 2 ) 11 22
5
二元正态分布曲面(
2 11
1,
2 22
X i1 X1
11
§2多元正态分布的参数估计
一、多元样本及其样本数字特征
１．多元样本阵
X11 X12
X
X
21
X 22
X
n1
X n2
记
X(i) ( Xi1, Xi2 ,Xip )
X1p
X
2
p
X
np
i 1,2n
PPT课件
12
2、多元样本的数字特征
样本均值：
一、多元正态分布的定义 定义1：若p维随机向量 X (X1,X p) 的密度函数为：
f (x1,xp )
1
(2 ) p
1/ 2
exp
1 2
(x
μ)1( x
μ)
其中， x (x1,xp ), μ 是p维向量 是p阶
正定矩阵，则称X服从p维正态分布，记为 X ~ N p(μ,)
第一章 多元正态分布及其参数估计
PPT课件
1
§1多元正态分布的定义及其性质
多元正态分布的重要性： （1）多元统计分析中很多重要的理论和方法都是直接或间接
第1章多元正态分布
2.需要有足够大的样本。
为什么在统计学分析中需要有足够大的样本？
例甲、乙两研究者分别 用某新药治疗10例和403 例老年性气管炎患者, 其疗效如下表。
甲 治疗结果 例 数
%
临床治愈
7
70
未治愈
3
30
合计
10
100
乙 治疗结果 例 数
%
临床治愈
83 20
未治愈
320 80
合计
403 100
临床上感兴趣的问题是新药治疗老 年性气管炎治愈率是多少, 而不是10 和403例的治愈频率,
那么应用20%，还是70%, 以估计 新药治疗老年性气管炎治愈率呢？
历史上许多著名科学家做过抛掷硬 币的试验, 抛掷硬币试验结果如表
━━━━━━━━━━━━━━━━━━━━━
试验者 抛掷次数(n) 正面次数(k) 频率(k/n)
─────────────────────
De Morgan 2048
三、期望达到的目的
学会分析多元观测数据，对给定多元数 据能恰当选用本书所介绍的方法，结合 统计软件进行计算、分析。对所研究问 题作出科学评价与合理的推断。
清楚理解每种方法所要解决的问题，前 提条件和局限性等。比较某些有联系方 法之间的相似处与差异。
四、多元统计分析的前提条件
1.多元统计分布对资料的分布有一定的要 求；
28349 14297 24564
4387
9325 4394 11520
993
作图步骤
Step one :作平面坐标系，横坐标取ｐ个点 表示ｐ个指标；
Step two:对给定的依次观测值，在ｐ个点上 的纵坐标和它对应的变量取值成正比；
Step three:连接ｐ个高度的顶点成一条折线， 则一次观测值的轮廓为一条多角折线形。 ｎ次观测值可画ｎ条折线，构成轮廓图。
为什么在统计学分析中需要有足够大的样本？
例甲、乙两研究者分别 用某新药治疗10例和403 例老年性气管炎患者, 其疗效如下表。
甲 治疗结果 例 数
%
临床治愈
7
70
未治愈
3
30
合计
10
100
乙 治疗结果 例 数
%
临床治愈
83 20
未治愈
320 80
合计
403 100
临床上感兴趣的问题是新药治疗老 年性气管炎治愈率是多少, 而不是10 和403例的治愈频率,
那么应用20%，还是70%, 以估计 新药治疗老年性气管炎治愈率呢？
历史上许多著名科学家做过抛掷硬 币的试验, 抛掷硬币试验结果如表
━━━━━━━━━━━━━━━━━━━━━
试验者 抛掷次数(n) 正面次数(k) 频率(k/n)
─────────────────────
De Morgan 2048
三、期望达到的目的
学会分析多元观测数据，对给定多元数 据能恰当选用本书所介绍的方法，结合 统计软件进行计算、分析。对所研究问 题作出科学评价与合理的推断。
清楚理解每种方法所要解决的问题，前 提条件和局限性等。比较某些有联系方 法之间的相似处与差异。
四、多元统计分析的前提条件
1.多元统计分布对资料的分布有一定的要 求；
28349 14297 24564
4387
9325 4394 11520
993
作图步骤
Step one :作平面坐标系，横坐标取ｐ个点 表示ｐ个指标；
Step two:对给定的依次观测值，在ｐ个点上 的纵坐标和它对应的变量取值成正比；
Step three:连接ｐ个高度的顶点成一条折线， 则一次观测值的轮廓为一条多角折线形。 ｎ次观测值可画ｎ条折线，构成轮廓图。
《多元正态分布》课件
度概率密度函数的乘积。
高维正态分布在机器学习中的应用
降维处理
高维正态分布可以用于降维处理，通过保留数据的主要特征，降低 数据的维度，提高数据的可解释性和处理效率。
特征选择
高维正态分布可以用于特征选择，通过分析特征之间的相关性，选 择与目标变量高度相关的特征，去除冗余和无关的特征。
概率模型
高维正态分布可以用于构建概率模型，通过估计数据的概率分布， 进行分类、回归和聚类等机器学习任务。
总结词
检验多元正态分布的协方差矩阵是否与预期 协方差矩阵一致。
详细描述
通过对比样本协方差矩阵与预期协方差矩阵 ，评估样本数据是否符合多元正态分布的假 设。常用的方法包括样本协方差矩阵与预期 协方差矩阵的差异检验、样本数据的散点图 和拟合曲线分析等。
多元正态分布的其他假设检验方法
总结词
其他用于检验多元正态分布的方法。
REPORT
CATALOG
DATE
ANALYSIS
SUMMAR Y
02
二元正态分布
二元正态分布的定义
总结词
二元正态分布是多元正态分布在两个维度上的特例，其概率密度函数呈钟形， 且服从二维高斯分布。
详细描述
二元正态分布是一种连续概率分布，描述了两个随机变量之间的关系，当这两 个随机变量相互独立时，其联合概率分布是二元正态分布。它的概率密度函数 由均值向量和协方差矩阵决定，呈现出钟形曲线。
多元正态分布的均值向量和协方差矩阵决定了其 分布形态。
多元正态分布的应用场景
多元统计分析
多元正态分布在多元统计分析中 广泛应用，如主成分分析、因子 分析、聚类分析等。
机器学习
在机器学习中，多元正态分布用 于描述特征之间的相关性，以及 在隐含层节点中实现特征的映射 。
多元正态分布的定义及基本性质
12 11 22
,
f ( x1, x2 )
1 2 11 22 (1 )
2
2 2 x1 1 x2 2 x2 2 1 x1 1 exp 2 2 2(1 ) 11 22 22 11
三、条件分布
若( X , Y )'
2 N (1, 2 , 12 , 2 , )，则X、Y的条件分布为
f ( x, y) f X |Y ( x | y) fY ( y )
2 1 1 1 exp 2 x y 1 2 2 2 2 1 (1 ) 2 2 1 1
X )( X (i ) X ) ' ( sij ) p p
(X
i 1
n
(i )
X )( X (i ) X ) ' X ip X p
X i1 X 1 n X i2 X 2 X i1 X 1 i 1 X X ip p
X i2 X 2
n 2 ( X X ) i1 1 i 1 n ( X i 2 X 2 )( X i1 X 1 ) i 1 n ( X X )( X X ) ip p i1 1 i 1
(X
i 1
n
i1
X 1 )( X i 2 X 2 )
二元正态分布可用N (1, 2 ,11, 22 , )表示。
11 12 12 22 2 | | 11 22 (1 )
多元正态分布
多元正态分布正态分布，又称为高斯分布，是概率论与统计学中最为重要的概率分布之一。
正态分布的特点是其概率密度函数呈现出钟形曲线的形状，可以描述大多数自然现象中的分布情况。
本文的主要目的是介绍正态分布的定义、性质和应用，并对其多元形式进行讨论。
一、正态分布的定义和性质正态分布的定义如下：设X是一个连续型随机变量，如果它的概率密度函数为f(x) = (1/√(2πσ^2)) * exp(-(x-μ)^2/(2σ^2))其中μ为均值，σ^2为方差，exp为自然指数函数，那么称X服从参数为(μ,σ^2)的正态分布，记作X~N(μ,σ^2)。
正态分布的性质如下：1. 正态分布是一个对称分布，其均值、中位数和众数都重合，位于分布的中心。
2. 正态分布的曲线在均值两侧呈现对称性，标准差决定了曲线的宽度，标准差越小，曲线越陡峭，反之越平缓。
3. 正态分布的累积分布函数可用标准正态分布的累积分布函数来计算。
4. 正态分布的随机变量相加仍然服从正态分布。
二、正态分布的应用正态分布在各个领域中都有广泛的应用，以下列举几个常见的应用场景。
1. 自然科学：正态分布常被用来描述测量误差、物理实验结果和自然现象。
例如，在物理实验中测量的误差往往服从正态分布。
2. 金融领域：正态分布被广泛应用于金融领域的风险管理和股票价格预测中。
基于正态分布的投资组合理论和资产定价模型是金融领域中的重要工具之一。
3. 质量控制：正态分布被应用于质量控制中，用于确定产品的标准差、设定合适的控制上限和下限，从而判断产品是否合格。
4. 社会科学：正态分布在社会科学领域的人口统计、心理学实验和经济学研究中得到广泛应用。
例如，身高、体重等指标的分布往往服从正态分布。
三、多元正态分布多元正态分布是正态分布的一种拓展形式，用于描述多个随机变量之间的相关性。
多元正态分布的定义如下：设X = (X1,X2,...,Xn)是一个n维随机向量，如果它的概率密度函数为f(x) = (1/√((2π)^n|Σ|)) * exp(-1/2(x-μ)Σ^(-1)(x-μ)^T)其中x = (x1,x2,...,xn)，μ = (μ1,μ2,...,μn)为均值向量，Σ为协方差矩阵，|Σ|为协方差矩阵的行列式，exp为自然指数函数，Σ^(-1)表示Σ的逆矩阵，那么称X服从参数为(μ,Σ)的多元正态分布，记作X~N(μ,Σ)。
多元正态分布
混合模型
除了高斯混合模型，还有其他类 型的混合模型，如多项式混合模 型、泊松混合模型等。
扩展应用领域
多元正态分布在许多领域都有广 泛的应用，如心理学、经济学、 生物统计学等。
THANKS
感谢观看
02
联合分布的均值向量和协方差矩阵由各个分量的均 值和协方差决定。
03
当各分量之间相互独立时，其联合分布的协方差矩 阵为各分量协方差矩阵的线性组合。
04
多元正态分布的推断
参数估计
最大似然估计
01
通过最大化样本数据的似然函数来估计多元正态分布的参数，
包括均值向量和协方差矩阵。
最小二乘估计
02
将多元正态分布的均值向量作为回归系数，利用最小二乘法进
多元正态分布
• 多元正态分布概述 • 多元正态分布的参数 • 多元正态分布的性质 • 多元正态分布的推断 • 多元正态分布在统计和机器学习中的
应用 • 多元正态分布的扩展和变种
01
多元正态分布概述
定义与性质
定义
多元正态分布是多个连续随机变量的 概率分布，其概率密度函数是多元高 斯函数。
性质
多元正态分布具有旋转对称性、椭球 等高性、边缘分布的独立性和最大熵 等性质。
当其他维度固定时，该维度的边缘分 布是关于均值对称的，且方差与该维 度与其他维度的协方差成正比。
随机变量的线性变换
对于多元正态分布的随机变量，对其 进行线性变换后，新变量的分布仍然 是多元正态分布。
线性变换包括平移、旋转、缩放等， 这些变换不会改变变量的分布形态。
随机向量的联合分布
01
对于多元正态分布的随机向量，其各分量之间的联 合分布也是正态分布。
06
多元正态分布
第一章 多元正态分布
§1.1 §1.2 §1.3 §1.4 多元分布的基本概念 多元正态分布 均值向量和协方差阵的估计 常用分布及抽样分布
一元正态分布在统计学的理论和实际应用中都有 着重要的地位。同样，在多变量统计学中，多元 正态分布也占有相当重要的位置。原因是： 许多随机向量确实遵从正态分布，或近似遵从正 态分布；
X和Y 的协差阵：
cov( X , Y ) (cov( X i , Y j )), i 1,, n ; j 1,, p
随机向量X 的相关阵：
R (corr ( X i , X j )) ( rij ) P P rij COV ( X i , X j ) D( X i) D( X j ) , i , j 1,2, , p
总体参数协差阵Σ的极大似然估计是：
1 1 n p L ( X ( i ) X )( X ( i ) X ) n n i 1
n 2 ( X X ) 1 i1 i 1 n 2 ( X X ) 2 1 i2 i 1 n
自协方差阵：
Σ COV ( X , X ) E ( X EX )( X EX ) D( X )
D( X 1 ) COV ( X , X ) 2 1 COV ( X , X ) P 1 COV ( X 1 , X 2 ) D( X 2 ) COV ( X P , X 2 ) COV ( X 1 , X P ) COV ( X 2 , X P ) D( X P )
xn2
X (1) x1 p x2 p X (2 ) ( X 1 , X 2 , , X P ) X x np (n)
§1.1 §1.2 §1.3 §1.4 多元分布的基本概念 多元正态分布 均值向量和协方差阵的估计 常用分布及抽样分布
一元正态分布在统计学的理论和实际应用中都有 着重要的地位。同样，在多变量统计学中，多元 正态分布也占有相当重要的位置。原因是： 许多随机向量确实遵从正态分布，或近似遵从正 态分布；
X和Y 的协差阵：
cov( X , Y ) (cov( X i , Y j )), i 1,, n ; j 1,, p
随机向量X 的相关阵：
R (corr ( X i , X j )) ( rij ) P P rij COV ( X i , X j ) D( X i) D( X j ) , i , j 1,2, , p
总体参数协差阵Σ的极大似然估计是：
1 1 n p L ( X ( i ) X )( X ( i ) X ) n n i 1
n 2 ( X X ) 1 i1 i 1 n 2 ( X X ) 2 1 i2 i 1 n
自协方差阵：
Σ COV ( X , X ) E ( X EX )( X EX ) D( X )
D( X 1 ) COV ( X , X ) 2 1 COV ( X , X ) P 1 COV ( X 1 , X 2 ) D( X 2 ) COV ( X P , X 2 ) COV ( X 1 , X P ) COV ( X 2 , X P ) D( X P )
xn2
X (1) x1 p x2 p X (2 ) ( X 1 , X 2 , , X P ) X x np (n)
第一章 多元正态分布资料
★许多随机向量确实遵从正态分布，或近似 遵从正态分布；
★对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
2020/11/11
3
第一章 多元正态分布
多元正态分布是最常用的一种多元
概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布、多元指数
μ
.(1.6)
当 A 、B为常数矩阵时，由定义可立即推出如下性质：
(1) E(AX ) AE(X )
1.7
2020/11/11 (2) E( AXB) AE( X )B
(1.8) 12
§1.1.4 随机向量的数字特征
2、随机向量X 自协方差阵
Σ COV (X, X) E(X EX)(X EX)/ D(X)
分布等。本章从多维变量及多元分布的 基本概念开始，着重介绍多元正态分布 的定义及一些重要性质。
2020/11/11
4
§1.1多元分布的基本概念
§1.1.1 随机向量 §1.1.2 分布函数与密度函数 §1.1.3 多元变量的独立性 §1.1.4 随机向量的数字特征
2020/11/11
5
§1.1.1 随机向量
10
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X 和 Y 称为是相互独立的，若
P(X x, Y y) P(X x)P(Y y) (1.3)
对一切 (X , Y )成立。若 F(x, y) 为(X , Y ) 的联合分布函数
，GG((xx)) H ( y) 分别为X和Y的分布函数，则X与Y 独立X 当且仅
假定所讨论的是多个变量的总体，所研究的数
据是同时观测 p个指标（即变量），又进行了 n 次
★对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
2020/11/11
3
第一章 多元正态分布
多元正态分布是最常用的一种多元
概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布、多元指数
μ
.(1.6)
当 A 、B为常数矩阵时，由定义可立即推出如下性质：
(1) E(AX ) AE(X )
1.7
2020/11/11 (2) E( AXB) AE( X )B
(1.8) 12
§1.1.4 随机向量的数字特征
2、随机向量X 自协方差阵
Σ COV (X, X) E(X EX)(X EX)/ D(X)
分布等。本章从多维变量及多元分布的 基本概念开始，着重介绍多元正态分布 的定义及一些重要性质。
2020/11/11
4
§1.1多元分布的基本概念
§1.1.1 随机向量 §1.1.2 分布函数与密度函数 §1.1.3 多元变量的独立性 §1.1.4 随机向量的数字特征
2020/11/11
5
§1.1.1 随机向量
10
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X 和 Y 称为是相互独立的，若
P(X x, Y y) P(X x)P(Y y) (1.3)
对一切 (X , Y )成立。若 F(x, y) 为(X , Y ) 的联合分布函数
，GG((xx)) H ( y) 分别为X和Y的分布函数，则X与Y 独立X 当且仅
假定所讨论的是多个变量的总体，所研究的数
据是同时观测 p个指标（即变量），又进行了 n 次
多元统计分析——多元正态分布
2
X
n
X
n i 1
i2 X 2
i 1 n
2
i 1
X 1 X ip X p i1 X i 2 X 2 X ip X p n 2 X ip X p i 1
在这个式子中， S 为离差阵，它是每一个样本（向量）与样本均值（向量）的离差乘 积得到的 n 个 P P 阶对称阵的和。跟一元类似， m 不是 的无偏估计，为了得到无偏估 计我们常用样本协方差阵
随机向量 X 的均值或数学期望为：
E X 1 1 E X 2 2 E X μ E X p p
μ 是一个 p 维向量，称为均值向量。在 A 、 B 为常数矩阵的时候，它具有如下的性质：
一、随机向量和矩阵
在多元统计分析中，仍将所研究对象的全体称为总体， 若构成总体的个体是具有p个需要观测指标的个体，称 这个总体为p维总体或p元总体。设从多元总体中随机 抽取n个个体： X (1) , X ( 2) ,，X ( n)
若X (1) , X ( 2) ,，X ( n) 相互独立且与总体同分布，称 X (1) , X ( 2) ,，X ( n) 为该总体的一个多元随机样本， 简称为简单样本。
设 X ～ F x F x1 , x2 ,, x p 若存在一个非负的函数 f ，使得
定义 2
F x f t1 , t2 ,, t p dt1 dt p
x1 xp
对一切 x R p 成立，则称 X （或 F x ）有分布密度 f ，并称 X 为连续型随机向量。
第1章 多元正态分布
医用多元统计分析方法
演示：绘制二元正态密度曲面
要求绘制服从N(0,1;0,1;0)的曲面 打开eg1.2.sas。
医用多元统计分析方法
练习
课后习题1-1：画出二元正态分布曲面 课后习题1-2：写出三元正态分布曲面
医用多元统计分析方法
医用多元统计分析方法
1 (2 ) | |
m 2 1 2
e
1 ( X )( ) 1 ( X ) 2
例1.2 二元正态分布
医用多元统计分析方法
多元正态分布的性质
二元正态分布曲面(11=1,22=1,12=0)
医用多元统计分析方法
二元正态分布曲面(11=1,22=1,12=0)
m元正态分布的性质 每一个变量均服从正态分布。 变量的线性组合服从正态分布。 m 元正态分布中的任意 k (0<k<m)个变量服 从 k 元正态分布。 m元正态分布的条件分布仍服从正态分布。 协方差为0的变量间相互独立。
医用多元统计分析方法
对正态性假定的评估
以后各章讨论的大多数统计方法都依赖于每 个观测都来自于多元正态分布。所以，结果 的准确程度依赖于真实总体与多元正态的近 似程度。当数据与多元正态的中度和极端的 背离时，其推断结果将偏离很大。 但是构造一个高于二维的联合正态性的全面 的检验是困难的。所以我们往往看其边缘分 布是否正态，虽然也有可能出现，低维时为 正态，而高维时非正态的情况，但是在实际 中并不常见。
第1章
多元正态分布
3 多元正态分布的定义
一元正态分布的密度函数
1 2 ( )2 f ( x) e 2 f ( x)
多元正态分布的密度函数
Байду номын сангаас
1.多元正态分布资料
E(
X
i
)
存在，
i
E ( X1 ) 1
E ( X )
E
(
X2
)
2
μ
E ( X P )
P
1.6
是一个p维向量，称为均值向量.
当A、B为常数矩阵时，由定义可立即推出如下性质：
(1) E(AX ) AE(X )
1.7
(2) E(AXB) AE(X )B
(1.8)
9
目录 上页 下页 返回 结束
P(X x,Y y) P(X x)P(Y y) (1.3)
对一切(X , Y )成立。
（1）若F(x,y)为(X,Y)的联合分布函数，G(x)和H(y) 分别为
X和Y的分布函数，则X与Y独立当且仅当
F(x, y) G(x)H( y)
(1.4)
（2）若(X,Y)有密度f(x, y)，用g(x)和h(y)分别表示X和Y
的分布密度，则X和Y独立当且仅当
f ( x, y) g( x)h( y)
(1.5)
注意:在上述定义中，X 和 Y 的维数一般是不同的。
8
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
1、随机向量X 的均值
i
设X
1,2,
p
(
,
X1, X 2 ,, X p )'有 定义随机向量
p X
个分量。若 的均值为
( ij )
COV ( X1, X P )
COV
(
X
2
,
X
P
)
D( X P )
(1.9)
称它为p维随机向量X的协方差阵，简称为 X的协方差阵。
第一章 多元正态分布
分布近似。
❖ /z04-2/143.htm
（2） Λ统计量和Λ分布
设k个总体G1,,Gk ，它们服从 Np (i ,) 。分别抽出
如下的样本：
x11, x12, , x1n1
x21, x22, , x2n2
xk1, xk2, , xknk
x j x j1, x j2 , , x jnj
(i=1,2,…,p)
E(x) (E(x1), E(x2), , E(xp )) (1, 2 p )'
是一个p维向量，称为均值向量
性质 1） 设为常数，则 E(aX) aE(X)； 2）设 A, B,C 分别为常数矩阵，则
E(AXB C) AE(X)B C
3）设 X1, X2,, Xn为 n 个同阶矩阵，则
E{[(Ax AE(x)][(Bx BE(x)]}
AE[(x )(x )]B 5、若(k1,k2,…，kp)是n个不全为零的常数， (x1,x2,…，xp) 是相互独立的p维随机向量，则
V (k1x1 k2x2 knxn ) k12V (x1) k22V (x2 ) kn2V (xn )
若(x, y) 0，两随机向量相互独立。
其中，ij
cov(xi , y j ) D(xi ) D( y j )
❖ 多元正态分布的定义及其性质
多元正态分布是一元正态分布的直接推广。许多 实际问题的分布常是多元正态分布或近似正态分布， 或本身不是正态分布，但他的样本均值近似于多元正 态分布。因此，多元分析的主要理论都是建立在多元 正态总体基础上的。
i 1
1.3 维希特(Wishart)分布
定义 设n个随机向量 xi (xi1, xi2, , xip )(i 1, 2,3, ,n)
❖ /z04-2/143.htm
（2） Λ统计量和Λ分布
设k个总体G1,,Gk ，它们服从 Np (i ,) 。分别抽出
如下的样本：
x11, x12, , x1n1
x21, x22, , x2n2
xk1, xk2, , xknk
x j x j1, x j2 , , x jnj
(i=1,2,…,p)
E(x) (E(x1), E(x2), , E(xp )) (1, 2 p )'
是一个p维向量，称为均值向量
性质 1） 设为常数，则 E(aX) aE(X)； 2）设 A, B,C 分别为常数矩阵，则
E(AXB C) AE(X)B C
3）设 X1, X2,, Xn为 n 个同阶矩阵，则
E{[(Ax AE(x)][(Bx BE(x)]}
AE[(x )(x )]B 5、若(k1,k2,…，kp)是n个不全为零的常数， (x1,x2,…，xp) 是相互独立的p维随机向量，则
V (k1x1 k2x2 knxn ) k12V (x1) k22V (x2 ) kn2V (xn )
若(x, y) 0，两随机向量相互独立。
其中，ij
cov(xi , y j ) D(xi ) D( y j )
❖ 多元正态分布的定义及其性质
多元正态分布是一元正态分布的直接推广。许多 实际问题的分布常是多元正态分布或近似正态分布， 或本身不是正态分布，但他的样本均值近似于多元正 态分布。因此，多元分析的主要理论都是建立在多元 正态总体基础上的。
i 1
1.3 维希特(Wishart)分布
定义 设n个随机向量 xi (xi1, xi2, , xip )(i 1, 2,3, ,n)
977-第一章 多元正态分布
H 0 : 解 释变 量x j对y的 线性 影响 不显 著 H1 : 解 释变 量x j 对y的 线性 影响 显著
等价于
H 0 : j 0，H 1 : j 0
在
原
假
设H
成
0
立
的
情
况
下
，
t ˆ j ~ t(n p 1) c jjˆ 2
t检验
给 定 显 著 性 水 平，
当 t t (n p 1)时 ， 拒 绝H 0 , 2
R 2 越大，说明拟合程度越好。
称 R2 为复相关系数，衡量作为一个 整体的x1 , x2 , x p与y的线性关系的大小。
因 此 ， 需 要 对R2进 行 调 整 。
Ra2
1
SSE (n p 1) SST (n 1)
二、方程显著性检验（F检验）
H0 :回归方程线性不显著， H1 :回归方程线性显著
第一章 多元正态分布
随机向量的有关概念 多元正态分布定义 多元正态分布的性质 多元正态分布的参数估计
性质1.3.1
若 X ~ N p (, ), 那么，对于任一r p阶
常数矩阵C，以及r维常数向量b均有
CX b ~ Nr (C b, C C)
例1.3.1 假 设 X ~ N p (，)，b为p 维 常 数 向 量 ，
即Y j
j X ,且D(Yj )
。
j
贡献率
p
定义3.2.1 称 j
j
为
主
成
分Y
的
j
j 1
k
p
贡献率, 称 j j 为前k个主成分
j 1
j 1
Y1 ,Y2 , ,Yk的 累 积 贡 献 率 。
等价于
H 0 : j 0，H 1 : j 0
在
原
假
设H
成
0
立
的
情
况
下
，
t ˆ j ~ t(n p 1) c jjˆ 2
t检验
给 定 显 著 性 水 平，
当 t t (n p 1)时 ， 拒 绝H 0 , 2
R 2 越大，说明拟合程度越好。
称 R2 为复相关系数，衡量作为一个 整体的x1 , x2 , x p与y的线性关系的大小。
因 此 ， 需 要 对R2进 行 调 整 。
Ra2
1
SSE (n p 1) SST (n 1)
二、方程显著性检验（F检验）
H0 :回归方程线性不显著， H1 :回归方程线性显著
第一章 多元正态分布
随机向量的有关概念 多元正态分布定义 多元正态分布的性质 多元正态分布的参数估计
性质1.3.1
若 X ~ N p (, ), 那么，对于任一r p阶
常数矩阵C，以及r维常数向量b均有
CX b ~ Nr (C b, C C)
例1.3.1 假 设 X ~ N p (，)，b为p 维 常 数 向 量 ，
即Y j
j X ,且D(Yj )
。
j
贡献率
p
定义3.2.1 称 j
j
为
主
成
分Y
的
j
j 1
k
p
贡献率, 称 j j 为前k个主成分
j 1
j 1
Y1 ,Y2 , ,Yk的 累 积 贡 献 率 。
1.多元正态分布
16
1.3.5 偏相关系数的应用: 由性质2和性质3,可以通过偏相关系数判别多元正态随机向量分量间的条 件独立性。 偏相关系数是图模型和因果推断中的重要统计量。
17
1.3.6. 有关相关系数和偏相关系数矩阵的算例:
某种水泥在凝固时释放的热量 与水泥中下列4种化学成分有关：
问题：如何利用4种化学成分的观测值预测水泥凝固时释放的热量？ 13组实验数据为
18
1）计算样本协方差阵
利用上面的公式可以计算得该组数据的样本均值和协方差阵
19
2）Βιβλιοθήκη 203）计算样本相关（系数）阵 利用1.3.2中的定义计算得该组数据的样本相关阵为
21
4）计算样本精度矩阵 对样本协方差阵求逆得
22
5）预测 利用上面相关性分析，可以用样本协方差阵
23
矩阵拉直和Kronecker积
其中
为p 阶正定矩阵。此时, 记
。
1
• 称
为p元标准正态分布， 是 ，其中
的单位矩阵。 ， 为 ，则 的
• 定理1. 设p元随机向量 行满秩矩阵, ，随机向量
其中
。
1.2.2 多元正态分布的性质
性质1： 密度函数 性质2：（特征函数） ，则
2
性质3：
,则 ，
。
性质4：（线性变换）若 是 的矩阵,则 性质5：设
24
拉直运算和Kronecker积的性质
25
1.4 矩阵多元正态分布
设 是来自 元正态总体 的独立样本。 即
随机矩阵的期望：
矩阵的拉直运算：
26
矩阵的拉直运算即是将矩阵依列拉直后形成一个向量。 随机矩阵的协方差阵： 1.4.1 矩阵分布 随机矩阵的分布：随机矩阵拉直后的随机向量的分布。 矩阵 的运算：由于 有
1.3.5 偏相关系数的应用: 由性质2和性质3,可以通过偏相关系数判别多元正态随机向量分量间的条 件独立性。 偏相关系数是图模型和因果推断中的重要统计量。
17
1.3.6. 有关相关系数和偏相关系数矩阵的算例:
某种水泥在凝固时释放的热量 与水泥中下列4种化学成分有关：
问题：如何利用4种化学成分的观测值预测水泥凝固时释放的热量？ 13组实验数据为
18
1）计算样本协方差阵
利用上面的公式可以计算得该组数据的样本均值和协方差阵
19
2）Βιβλιοθήκη 203）计算样本相关（系数）阵 利用1.3.2中的定义计算得该组数据的样本相关阵为
21
4）计算样本精度矩阵 对样本协方差阵求逆得
22
5）预测 利用上面相关性分析，可以用样本协方差阵
23
矩阵拉直和Kronecker积
其中
为p 阶正定矩阵。此时, 记
。
1
• 称
为p元标准正态分布， 是 ，其中
的单位矩阵。 ， 为 ，则 的
• 定理1. 设p元随机向量 行满秩矩阵, ，随机向量
其中
。
1.2.2 多元正态分布的性质
性质1： 密度函数 性质2：（特征函数） ，则
2
性质3：
,则 ，
。
性质4：（线性变换）若 是 的矩阵,则 性质5：设
24
拉直运算和Kronecker积的性质
25
1.4 矩阵多元正态分布
设 是来自 元正态总体 的独立样本。 即
随机矩阵的期望：
矩阵的拉直运算：
26
矩阵的拉直运算即是将矩阵依列拉直后形成一个向量。 随机矩阵的协方差阵： 1.4.1 矩阵分布 随机矩阵的分布：随机矩阵拉直后的随机向量的分布。 矩阵 的运算：由于 有
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
E(X),D(X),A为 nn常数 则 阵
E ( X A ) ' t X ( A rΣ ) μ 'A μ
对于任何随机向量 X (X 1 ,X 2 , ,X p )来' 说， 其协差阵∑都是对称阵，同时总是非负定（也称 半正定）的。大多数情形下是正定的。
2021/2/2
中国人民大学六西格玛质量管理研究中心
11
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
2、随机向量X自协方差阵
Σ C ( X ,O X ) E ( X V E X ) X ( E X ) / D ( X )
D(X1)
CO(V X1,X2) CO(V X1,XP)
CO (V X2,X1)
D(X2)
CO(V X2,XP)
第一章 多元正态分布
§1.1 多元分布的基本概念 §1.2 统计距离和马氏距离 §1.3 多元正态分布 §1.4 均值向量和协方差阵的估计 §1.5 常用分布及抽样分布
2021/2/2
中国人民大学六西格玛质量管理研究中心
1
目录 上页 下页 返回 结束
第一章 多元正态分布
• 一元正态分布在统计学的理论和实际应用 中都有着重要的地位。同样，在多变量统 计学中，多元正态分布也占有相当重要的 位置。原因是：
中国人民大学六西格玛质量管理研究中心
9
目录 上页 下页 返回 结束
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X和 Y 称为是相互独立的，若
P ( X x ,Y y ) P ( X x ) P ( Y y ) (1.3
对一切(X , Y)成立。若F(x, y) 为(X ,Y)的联合分布函
§1.1.1 随机向量
• 因此,样本资料矩阵可用矩阵语言表示为:
x11 Xx21
x12 x1p
x22 x2p
(x1,x2,,xp)xx((//12))
xn1 xn2 xnp
x(/n)
若无特别说明，本书所称向量均指列向量
定义1.1 设 X1,X2, ,Xp为 p个随机变量，由它们组成
的向量 X (X 1 ,X 2 , ,X p)称' 为随机向量。
当A、B为常数矩阵时，由定义可推出协差阵有如下性质：
D(AX )AD (X)A' AA' coA vX (,BY )AcoX v,Y ()B'
2021/2/2
中国人民大学六西格玛质量管理研究中心
13
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
（3）设X为n维随机向量，期望和协方差存在记
直线距离.如几何平面上的点p=(x1,x2)到原点O=(0,0)的
欧氏距离,依勾股定理有
d (0 ,p ) (x 1 2 x 2 2 )1 /2
(1.14
2021/2/2
中国人民大学六西格玛质量管理研究中心
26
目录 上页 下页 返回 结束
§1.2 统计距离和马氏距离
但就大部分统计问题而言，欧氏距离是不 能令人满意的。这里因为，每个坐标对欧氏距 离的贡献是同等的。当坐标轴表示测量值时， 它们往往带有大小不等的随机波动，在这种情 况下，合理的办法是对坐标加权，使得变化较 大的坐标比变化小的坐标有较小的权系数，这 就产生了各种距离。
2021/2/2
中国人民大学六西格玛质量管理研究中心
22
样本相关阵R计算：
2021/2/2
中国人民大学六西格玛质量管理研究中心
23
样本相关阵R计算：
由于样本相关阵是对称的，对角线上全是1，会话区窗 口结果中只显示了扣除对角线后的下三角部分，所以 整个样本相关阵全部写出则应是：
2021/2/2
如果采用存储功能，则
§1.1.1 随机向量
假定所讨论的是多个变量的总体，所研究的数
据是同时观测 p个指标（即变量），又进行了 n次
观测得到的，把这 p个指标表示为 X1,X2, ,Xp常 用向量
X (X 1 ,X 2 , ,X p)'
表示对同一个体观测的 p个变量。若观测了 n
个个体，则可得到如下表1-1的数据，称每一个个
3、随机向量X 和Y 的协差阵
设 X ( X 1 , X 2 , , X n ) 和 Y ' ( Y 1 , Y 2 , , Y p ) 分别'为 n维和 p
维随机向量，它们之间的协方差阵定义为一个 np矩
阵，其元素是 covX(i,Yj)，即 c X , Y o ) (X v c i , Y j ) ,o i ( ) 1 , , n v ; j 1 , , ( p ( 1 . 1 ) 若covX,(Y)0，称 X和Y是不相关的。
• 许多随机向量确实遵从正态分布，或近似 遵从正态分布；
• 对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
2021/2/2
中国人民大学六西格玛质量管理研究中心
2
目录 上页 下页 返回 结束
第一章 多元正态分布
多元正态分布是最常用的一种多元 概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布 、多元指数 分布等。本章从多维变量及多元分布的 基本概念开始，着重介绍多元正态分布 的定义及一些重要性质。
欧氏距离还有一个缺点，这就是当各个分量 为不同性质的量时，“距离”的大小竟然与指 标的单位有关。
16
目录 上页 下页 返回 结束
随机向量数字特征的例子
2021/2/2
中国人民大学六西格玛质量管理研究中心
17
例1-1
• 例1-1 焊接技术培训 班有10名学生：基础 焊接技术（BWT）， 焊接技术提高（AWT） 和焊接车间实践 （PWW）的成绩如表 1-1所示（数据文件 MV_焊接成绩.BTW）。
14
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
4、随机向量X 的相关阵
若随机向量 X (X 1 ,X 2 , ,X p )的' 协差阵存在,且每
个分量的方差大于零，则X的相关阵定义为:
R(co(rXir,Xj))(rij)PP
rij
CO (XV i,Xj) ,i,j1,2, ,p D(Xi) D(Xj)
X
j
X j E(X j) (var X j )1/ 2
j 1, , p
X
(
X
1
,
X
2
,
,
X
p
)
于是
(1.12)
E(X ) 0
D(X ) corr(X) R
即标准化数据的协差阵正好是原指标的相关阵.
R 1 X/ X n 1
(1.13)
2021/2/2
中国人民大学六西格玛质量管理研究中心
(1.11
r ij 也称为分量X i 与 X j之间的（线性）相关系数。
2021/2/2
中国人民大学六西格玛质量管理研究中心
15
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
在数据处理时，为了克服由于指标的量纲不同对统计分 析结果带来的影响，往往在使用某种统计分析方法之前，常 需将每个指标“标准化”，即做如下变换
CO(V XP,X1) CO(V XP,X2) D(X P)
(ij)
(1.9)
称它为 p维随机向量 X的协方差阵，简称为X 的协方差阵。称 covX( ,X) 为 X的广义方差，它 是协差阵的行列式之值。
2021/2/2
中国人民大学六西格玛质量管理研究中心
12
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
体的 p个变量为一个样品，而全体 n个样品形成一
个样本。
2021/2/2
中国人民大学六西格玛质量管理研究中心
5
目录 上页 下页 返回 结束
§1.1.1 随机向量
横看表1-1，记 X () (x 1 ,x 2 , ,x p )，' 1,2, n
它表示第 个样品的观测值。竖看表1-1,第 j 列的元素
F (x ) x 1 x p f(t1 , tp )d t1 dp ,t
(1.2)
对一切xRp 成立，则称 X（或 FX ）有分布
密度 f 并称 X为连续型随机向量。
一个 p维变量的函数f 能作为R p 中某个随机向量
的分布密度，当且仅当
(i) f(x)0 xRp
2021/2/2
(ii) f(x)dx1 Rp
2021/2/2
中国人民大学六西格玛质量管理研究中心
10
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
1、随机向量 X的均值
i1 ,设2 , X p ,(X 定1 ,X 义2 ,随 机,X 向p)量有'
p个分量。若 X的均值为
E(Xi)i存在，
E ( X1 ) 1
E ( X)
数，G(x)和H(y)分别为 X和 Y的分布函数，则 X与 Y独立
当且仅当
F (x ,y) G (x )H (y)
（1.4）
若 (X , Y) 有密度 f (x,y)，用g(x)和h(y)分别表示 X和 Y
的分布密度，则 X和 Y独立当且仅当
f(x,y)g(x)h(y)
(1.5)
注意:在上述定义中，X和 Y的维数一般是不同的。
式中，X ( x 1 ,x 2 , ,x p ) R p ，并记成X~F。
多元分布函数的有关性质此处从略。
2021/2/2
中国人民大学六西格玛质量管理研究中心
8
目录 上页 下页 返回 结束
§1.1.2 分布函数与密度函数
E ( X A ) ' t X ( A rΣ ) μ 'A μ
对于任何随机向量 X (X 1 ,X 2 , ,X p )来' 说， 其协差阵∑都是对称阵，同时总是非负定（也称 半正定）的。大多数情形下是正定的。
2021/2/2
中国人民大学六西格玛质量管理研究中心
11
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
2、随机向量X自协方差阵
Σ C ( X ,O X ) E ( X V E X ) X ( E X ) / D ( X )
D(X1)
CO(V X1,X2) CO(V X1,XP)
CO (V X2,X1)
D(X2)
CO(V X2,XP)
第一章 多元正态分布
§1.1 多元分布的基本概念 §1.2 统计距离和马氏距离 §1.3 多元正态分布 §1.4 均值向量和协方差阵的估计 §1.5 常用分布及抽样分布
2021/2/2
中国人民大学六西格玛质量管理研究中心
1
目录 上页 下页 返回 结束
第一章 多元正态分布
• 一元正态分布在统计学的理论和实际应用 中都有着重要的地位。同样，在多变量统 计学中，多元正态分布也占有相当重要的 位置。原因是：
中国人民大学六西格玛质量管理研究中心
9
目录 上页 下页 返回 结束
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X和 Y 称为是相互独立的，若
P ( X x ,Y y ) P ( X x ) P ( Y y ) (1.3
对一切(X , Y)成立。若F(x, y) 为(X ,Y)的联合分布函
§1.1.1 随机向量
• 因此,样本资料矩阵可用矩阵语言表示为:
x11 Xx21
x12 x1p
x22 x2p
(x1,x2,,xp)xx((//12))
xn1 xn2 xnp
x(/n)
若无特别说明，本书所称向量均指列向量
定义1.1 设 X1,X2, ,Xp为 p个随机变量，由它们组成
的向量 X (X 1 ,X 2 , ,X p)称' 为随机向量。
当A、B为常数矩阵时，由定义可推出协差阵有如下性质：
D(AX )AD (X)A' AA' coA vX (,BY )AcoX v,Y ()B'
2021/2/2
中国人民大学六西格玛质量管理研究中心
13
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
（3）设X为n维随机向量，期望和协方差存在记
直线距离.如几何平面上的点p=(x1,x2)到原点O=(0,0)的
欧氏距离,依勾股定理有
d (0 ,p ) (x 1 2 x 2 2 )1 /2
(1.14
2021/2/2
中国人民大学六西格玛质量管理研究中心
26
目录 上页 下页 返回 结束
§1.2 统计距离和马氏距离
但就大部分统计问题而言，欧氏距离是不 能令人满意的。这里因为，每个坐标对欧氏距 离的贡献是同等的。当坐标轴表示测量值时， 它们往往带有大小不等的随机波动，在这种情 况下，合理的办法是对坐标加权，使得变化较 大的坐标比变化小的坐标有较小的权系数，这 就产生了各种距离。
2021/2/2
中国人民大学六西格玛质量管理研究中心
22
样本相关阵R计算：
2021/2/2
中国人民大学六西格玛质量管理研究中心
23
样本相关阵R计算：
由于样本相关阵是对称的，对角线上全是1，会话区窗 口结果中只显示了扣除对角线后的下三角部分，所以 整个样本相关阵全部写出则应是：
2021/2/2
如果采用存储功能，则
§1.1.1 随机向量
假定所讨论的是多个变量的总体，所研究的数
据是同时观测 p个指标（即变量），又进行了 n次
观测得到的，把这 p个指标表示为 X1,X2, ,Xp常 用向量
X (X 1 ,X 2 , ,X p)'
表示对同一个体观测的 p个变量。若观测了 n
个个体，则可得到如下表1-1的数据，称每一个个
3、随机向量X 和Y 的协差阵
设 X ( X 1 , X 2 , , X n ) 和 Y ' ( Y 1 , Y 2 , , Y p ) 分别'为 n维和 p
维随机向量，它们之间的协方差阵定义为一个 np矩
阵，其元素是 covX(i,Yj)，即 c X , Y o ) (X v c i , Y j ) ,o i ( ) 1 , , n v ; j 1 , , ( p ( 1 . 1 ) 若covX,(Y)0，称 X和Y是不相关的。
• 许多随机向量确实遵从正态分布，或近似 遵从正态分布；
• 对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
2021/2/2
中国人民大学六西格玛质量管理研究中心
2
目录 上页 下页 返回 结束
第一章 多元正态分布
多元正态分布是最常用的一种多元 概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布 、多元指数 分布等。本章从多维变量及多元分布的 基本概念开始，着重介绍多元正态分布 的定义及一些重要性质。
欧氏距离还有一个缺点，这就是当各个分量 为不同性质的量时，“距离”的大小竟然与指 标的单位有关。
16
目录 上页 下页 返回 结束
随机向量数字特征的例子
2021/2/2
中国人民大学六西格玛质量管理研究中心
17
例1-1
• 例1-1 焊接技术培训 班有10名学生：基础 焊接技术（BWT）， 焊接技术提高（AWT） 和焊接车间实践 （PWW）的成绩如表 1-1所示（数据文件 MV_焊接成绩.BTW）。
14
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
4、随机向量X 的相关阵
若随机向量 X (X 1 ,X 2 , ,X p )的' 协差阵存在,且每
个分量的方差大于零，则X的相关阵定义为:
R(co(rXir,Xj))(rij)PP
rij
CO (XV i,Xj) ,i,j1,2, ,p D(Xi) D(Xj)
X
j
X j E(X j) (var X j )1/ 2
j 1, , p
X
(
X
1
,
X
2
,
,
X
p
)
于是
(1.12)
E(X ) 0
D(X ) corr(X) R
即标准化数据的协差阵正好是原指标的相关阵.
R 1 X/ X n 1
(1.13)
2021/2/2
中国人民大学六西格玛质量管理研究中心
(1.11
r ij 也称为分量X i 与 X j之间的（线性）相关系数。
2021/2/2
中国人民大学六西格玛质量管理研究中心
15
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
在数据处理时，为了克服由于指标的量纲不同对统计分 析结果带来的影响，往往在使用某种统计分析方法之前，常 需将每个指标“标准化”，即做如下变换
CO(V XP,X1) CO(V XP,X2) D(X P)
(ij)
(1.9)
称它为 p维随机向量 X的协方差阵，简称为X 的协方差阵。称 covX( ,X) 为 X的广义方差，它 是协差阵的行列式之值。
2021/2/2
中国人民大学六西格玛质量管理研究中心
12
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
体的 p个变量为一个样品，而全体 n个样品形成一
个样本。
2021/2/2
中国人民大学六西格玛质量管理研究中心
5
目录 上页 下页 返回 结束
§1.1.1 随机向量
横看表1-1，记 X () (x 1 ,x 2 , ,x p )，' 1,2, n
它表示第 个样品的观测值。竖看表1-1,第 j 列的元素
F (x ) x 1 x p f(t1 , tp )d t1 dp ,t
(1.2)
对一切xRp 成立，则称 X（或 FX ）有分布
密度 f 并称 X为连续型随机向量。
一个 p维变量的函数f 能作为R p 中某个随机向量
的分布密度，当且仅当
(i) f(x)0 xRp
2021/2/2
(ii) f(x)dx1 Rp
2021/2/2
中国人民大学六西格玛质量管理研究中心
10
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
1、随机向量 X的均值
i1 ,设2 , X p ,(X 定1 ,X 义2 ,随 机,X 向p)量有'
p个分量。若 X的均值为
E(Xi)i存在，
E ( X1 ) 1
E ( X)
数，G(x)和H(y)分别为 X和 Y的分布函数，则 X与 Y独立
当且仅当
F (x ,y) G (x )H (y)
（1.4）
若 (X , Y) 有密度 f (x,y)，用g(x)和h(y)分别表示 X和 Y
的分布密度，则 X和 Y独立当且仅当
f(x,y)g(x)h(y)
(1.5)
注意:在上述定义中，X和 Y的维数一般是不同的。
式中，X ( x 1 ,x 2 , ,x p ) R p ，并记成X~F。
多元分布函数的有关性质此处从略。
2021/2/2
中国人民大学六西格玛质量管理研究中心
8
目录 上页 下页 返回 结束
§1.1.2 分布函数与密度函数