多元正态分布培训课件.ppt
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
• 许多随机向量确实遵从正态分布，或近似 遵从正态分布；
• 对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
精品
目录 上页 下页 返回 结束
第一章 多元正态分布
多元正态分布是最常用的一种多元 概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布 、多元指数 分布等。本章从多维变量及多元分布的 基本概念开始，着重介绍多元正态分布 的定义及一些重要性质。
变量
序号 1
x xnp 11
x12
2
x21
x22
n
xn1
xn2
精品
…
…
x1 p
…
x2 p
…
xnp
目录 上页 下页 返回 结束
§1.1.1 随机向量
• 因此,样本资料矩阵可用矩阵语言表示为:
x11
X
x21
xn1
x12 x22
x1 p x2 p
第一章 多元正态分布
§1.1 多元分布的基本概念 §1.2 统计距离和马氏距离 §1.3 多元正态分布 §1.4 均值向量和协方差阵的估计 §1.5 常用分布及抽样分布
精品
目录 上页 下页 返回 结束
第一章 多元正态分布
• 一元正态分布在统计学的理论和实际应用 中都有着重要的地位。同样，在多变量统 计学中，多元正态分布也占有相当重要的 位置。原因是：
(1.8)
精品
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
2、随机向量X 自协方差阵
ห้องสมุดไป่ตู้
Σ COV (X, X) E(X EX)(X EX)/ D(X)
D(X1 )
COV ( X1, X 2 ) COV ( X1, X P )
COV
(
X
2
,
§1.1.1 随机向量
横看表1-1，记 X() (x1, x 2,, xp )' ， 1,2,n
它表示第 个样品的观测值。竖看表1-1,第 j 列的元素
X j (x1j , x2 j ,, xnj )' , j 1,2, p
表示对 j 第个变量 x j 的n次观测数值。下面为表1-1
式中，X (x1, x2 ,, xp ) R p，并记成X ~ F 。
多元分布函数的有关性质此处从略。
精品
目录 上页 下页 返回 结束
§1.1.2 分布函数与密度函数
定义1.3：设 X ~ F(X ) = F (x1, x2 ,, x p ) ,若存在一个
非负的函数 f ,使得
(x1,
x2
,,
x
p
)
x(/1)
x (/ 2)
xn2 xnp
x(/
n)
若无特别说明，本书所称向量均指列向量
定义1.1 设 X1, X 2 ,, X p 为 p 个随机变量，由它们组成
的向量 X ( X1, X 2,, X p )' 称为随机向量。
X1)
D(X 2 )
COV ( X 2 ,
X
P
)
COV ( X P , X1) COV ( X P , X 2 ) D(X P )
观测得到的，把这 p 个指标表示为 X1, X 2 ,, X p常 用向量
X ( X1, X 2,, X p )'
表示对同一个体观测的 p 个变量。若观测了 n
个个体，则可得到如下表1-1的数据，称每一个个
体的 p 个变量为一个样品，而全体 n个样品形成一
个样本。
精品
目录 上页 下页 返回 结束
F(x)
x1
xp
f (t1,t p )dt1 dt p ,
(1.2)
对一切x R p 成立，则称 X（或 FX ）有分布
密度 f 并称 X 为连续型随机向量。
一个 p 维变量的函数f 能作为R p 中某个随机向量
的分布密度，当且仅当
(i) f (x) 0 x R p
精品
目录 上页 下页 返回 结束
§1.1多元分布的基本概念
§1.1.1 随机向量 §1.1.2 分布函数与密度函数 §1.1.3 多元变量的独立性 §1.1.4 随机向量的数字特征
精品
目录 上页 下页 返回 结束
§1.1.1 随机向量
假定所讨论的是多个变量的总体，所研究的数
据是同时观测 p个指标（即变量），又进行了 n 次
(ii) f (x)dx 1 Rp 精品
目录 上页 下页 返回 结束
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X 和 Y 称为是相互独立的，若
P(X x, Y y) P(X x)P(Y y) (1.3)
对一切(X , Y )成立。若F(x, y) 为(X , Y )的联合分布函
精品
目录 上页 下页 返回 结束
§1.1.2 分布函数与密度函数
描述随机变量的最基本工具是分布函数，类似地描述 随机向量的最基本工具还是分布函数。
定义1.2 设 X (X1, X 2,, X p )' 是一随机向量，它 的多元分布函数是
F(X ) F(x1, x2,, xp ) P(X1 x1,, X p xp ) 1.1
E ( X )
E
(
X2
)
E ( X P )
2
P
μ
1.6
是一个p维向量，称为均值向量.
当 A 、B为常数矩阵时，由定义可立即推出如下性质：
(1) E(AX ) AE(X )
1.7
(2) E(AXB) AE(X )B
(1.5)
注意:在上述定义中，X 和 Y 的维数一般是不同的。
精品
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
1、随机向量X 的均值
i
设X
1,2,
p
(
,
X1, X 2 ,, X p )'有 定义随机向量
p X
个分量。若 的均值为
E(
X
i
)
i存在，
E ( X1 ) 1
数，G(x) 和 H(y)分别为 X 和 Y 的分布函数，则 X 与 Y 独立
当且仅当
F(x, y) G(x)H ( y)
（1.4）
若 (X , Y) 有密度 f (x, y)，用g(x) 和 h( y)分别表示 X和 Y
的分布密度，则 X 和 Y 独立当且仅当
f (x, y) g(x)h( y)
• 对于多元正态分布，已有一整套统计推断 方法，并且得到了许多完整的结果。
精品
目录 上页 下页 返回 结束
第一章 多元正态分布
多元正态分布是最常用的一种多元 概率分布。除此之外，还有多元对数正 态分布，多项式分布，多元超几何分布， 多元 分χ布2 、多元 分布 、多元指数 分布等。本章从多维变量及多元分布的 基本概念开始，着重介绍多元正态分布 的定义及一些重要性质。
变量
序号 1
x xnp 11
x12
2
x21
x22
n
xn1
xn2
精品
…
…
x1 p
…
x2 p
…
xnp
目录 上页 下页 返回 结束
§1.1.1 随机向量
• 因此,样本资料矩阵可用矩阵语言表示为:
x11
X
x21
xn1
x12 x22
x1 p x2 p
第一章 多元正态分布
§1.1 多元分布的基本概念 §1.2 统计距离和马氏距离 §1.3 多元正态分布 §1.4 均值向量和协方差阵的估计 §1.5 常用分布及抽样分布
精品
目录 上页 下页 返回 结束
第一章 多元正态分布
• 一元正态分布在统计学的理论和实际应用 中都有着重要的地位。同样，在多变量统 计学中，多元正态分布也占有相当重要的 位置。原因是：
(1.8)
精品
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
2、随机向量X 自协方差阵
ห้องสมุดไป่ตู้
Σ COV (X, X) E(X EX)(X EX)/ D(X)
D(X1 )
COV ( X1, X 2 ) COV ( X1, X P )
COV
(
X
2
,
§1.1.1 随机向量
横看表1-1，记 X() (x1, x 2,, xp )' ， 1,2,n
它表示第 个样品的观测值。竖看表1-1,第 j 列的元素
X j (x1j , x2 j ,, xnj )' , j 1,2, p
表示对 j 第个变量 x j 的n次观测数值。下面为表1-1
式中，X (x1, x2 ,, xp ) R p，并记成X ~ F 。
多元分布函数的有关性质此处从略。
精品
目录 上页 下页 返回 结束
§1.1.2 分布函数与密度函数
定义1.3：设 X ~ F(X ) = F (x1, x2 ,, x p ) ,若存在一个
非负的函数 f ,使得
(x1,
x2
,,
x
p
)
x(/1)
x (/ 2)
xn2 xnp
x(/
n)
若无特别说明，本书所称向量均指列向量
定义1.1 设 X1, X 2 ,, X p 为 p 个随机变量，由它们组成
的向量 X ( X1, X 2,, X p )' 称为随机向量。
X1)
D(X 2 )
COV ( X 2 ,
X
P
)
COV ( X P , X1) COV ( X P , X 2 ) D(X P )
观测得到的，把这 p 个指标表示为 X1, X 2 ,, X p常 用向量
X ( X1, X 2,, X p )'
表示对同一个体观测的 p 个变量。若观测了 n
个个体，则可得到如下表1-1的数据，称每一个个
体的 p 个变量为一个样品，而全体 n个样品形成一
个样本。
精品
目录 上页 下页 返回 结束
F(x)
x1
xp
f (t1,t p )dt1 dt p ,
(1.2)
对一切x R p 成立，则称 X（或 FX ）有分布
密度 f 并称 X 为连续型随机向量。
一个 p 维变量的函数f 能作为R p 中某个随机向量
的分布密度，当且仅当
(i) f (x) 0 x R p
精品
目录 上页 下页 返回 结束
§1.1多元分布的基本概念
§1.1.1 随机向量 §1.1.2 分布函数与密度函数 §1.1.3 多元变量的独立性 §1.1.4 随机向量的数字特征
精品
目录 上页 下页 返回 结束
§1.1.1 随机向量
假定所讨论的是多个变量的总体，所研究的数
据是同时观测 p个指标（即变量），又进行了 n 次
(ii) f (x)dx 1 Rp 精品
目录 上页 下页 返回 结束
§1.1.3 多元变量的独立性
定义1.4：两个随机向量 X 和 Y 称为是相互独立的，若
P(X x, Y y) P(X x)P(Y y) (1.3)
对一切(X , Y )成立。若F(x, y) 为(X , Y )的联合分布函
精品
目录 上页 下页 返回 结束
§1.1.2 分布函数与密度函数
描述随机变量的最基本工具是分布函数，类似地描述 随机向量的最基本工具还是分布函数。
定义1.2 设 X (X1, X 2,, X p )' 是一随机向量，它 的多元分布函数是
F(X ) F(x1, x2,, xp ) P(X1 x1,, X p xp ) 1.1
E ( X )
E
(
X2
)
E ( X P )
2
P
μ
1.6
是一个p维向量，称为均值向量.
当 A 、B为常数矩阵时，由定义可立即推出如下性质：
(1) E(AX ) AE(X )
1.7
(2) E(AXB) AE(X )B
(1.5)
注意:在上述定义中，X 和 Y 的维数一般是不同的。
精品
目录 上页 下页 返回 结束
§1.1.4 随机向量的数字特征
1、随机向量X 的均值
i
设X
1,2,
p
(
,
X1, X 2 ,, X p )'有 定义随机向量
p X
个分量。若 的均值为
E(
X
i
)
i存在，
E ( X1 ) 1
数，G(x) 和 H(y)分别为 X 和 Y 的分布函数，则 X 与 Y 独立
当且仅当
F(x, y) G(x)H ( y)
（1.4）
若 (X , Y) 有密度 f (x, y)，用g(x) 和 h( y)分别表示 X和 Y
的分布密度，则 X 和 Y 独立当且仅当
f (x, y) g(x)h( y)