第二章多元正态分布
第二章多元正态分布
第二章多元正态分布（一）教学目的通过本章的学习，要求对多元分布的基本概念有所了解，掌握多元正态分布数字特征及其参数估计,尤其是多元正态分布的假设检验。
（二）基本要求要求了解多元分布的基本概念，掌握多元正态分布的参数估计和假设检验。
（三）教学要点1、多维随机向量的边缘密度、条件分布、数字特征2、多元正态分布数字特征及其参数估计3、三个常用的抽样分布4、正态分布总体均值向量的检验（四）教学时数3课时(五）教学内容1、多元分布的基本概念2、多元正态分布数字特征及其参数估计3、三个常用的抽样分布及多元正态分布的假设检验第一节多元分布的基本概念多元统计分析主要方法是建立在多元正态分布的假设之上的。
而多元正态分布又是多元分布中应用最广泛的一种.为此，在介绍多元统计分析方法之前，首先有必要介绍多元正态分布的有关内容.另外，多元统计分析涉及到的都是随机向量或着将多个随机向量放在一起组成的随机矩阵。
为此，学习多元正态分布还需要首先从随机向量的基本概念开始。
多元统计分析，简称多元分析，是指当总体的分布是多维（多元）概率分布时，处理该类总体的数理统计理论和方法的总称，是统计学中的一个重要的分支学科。
早在19世纪就出现了处理二维正态总体的一些方法，但系统地处理多维概率分布总体的统计分析问题，则开始于20世纪。
人们常把1928年维希特（Wishart）分布的导出作为多元分析成为一个独立学科的标志。
20世纪30年代,R。
A。
费希尔、H。
霍特林、许宝騄以及S.N。
罗伊等人做出了一系列奠基性的工作,使多元统计分析在理论上得到了迅速的进展。
20世纪40年代，多元分析在心理、教育、生物等方面获得了一些应用。
由于应用时常需要大量的计算,加上第二次世界大战的影响，使其发展停滞了相当长的时间。
50年代中期，随着电子计算机的发展和普及，它在地质、气象、标准化、生物、图像处理、经济分析等许多领域得到了广泛的应用,也促进了理论的发展。
一、随机向量我们知道，所谓随机变量通俗理解就是“其值随机会而定”的变量.比如,在某厂大批产品中随机地抽取出100个，其中所含废品数X 就是一个随机变量。
厦门大学《应用多元统计分析》习题第02章 多元正态分布的参数估计
思考与练习2.1 试述多元联合分布和边缘分布之间的关系。
2.2 设随机向量12(,)X X ′=X 服从二元正态分布，写出其联合分布密度函数和1X 、2X 各自的边缘密度函数。
2.3 已知随机向量12(,)X X ′=X 的联合分布密度函数为：()()()()()()()()()121122222,d c x a b a x c x a x c f x x b a d c −−+−−−−−2⎡⎤⎣⎦=−−其中，。
求：12,a x b c x d ≤≤≤≤⑴ 随机变量1X 和2X 各自的边缘密度函数、均值与方差。
⑵ 随机变量1X 和2X 的协方差和相关系数。
⑶ 判断1X 和2X 是否相互独立。
2.4 设随机向量12(,,,)p X X X ′=X L 服从正态分布，已知其协差阵为对角阵，证明ΣX 的分量是相互独立的随机变量。
2.5 从某企业全部职工中随机抽取一个容量为6的样本，该样本中各职工的目前工资、受教育年限、初始工资和工作经验资料如下表所示： 职工编号目前工资 （美元）受教育年限（年）初始工资 （美元）工作经验（月）11 2 3 4 5 6 57,000 40,200 21,450 21,900 45,000 28,350 15 16 12 8 15 8 27,000 18,750 12,000 13,200 21,000 12,000 144 36 381 190 138 26设职工总体的以上变量服从多元正态分布，根据样本资料求出均值向量和协差阵的最大似然估计。
2.6 均值向量和协差阵的最大似然估计量具有哪些优良性质？ 2.7 试证多元正态总体的样本均值向量(,)p N μΣ1~(,p N nX μΣ)。
2.8 试证多元正态总体的样本协差阵S 为(,)p N μΣΣ的无偏估计。
2.9 设()1x 、()2x 、…、()n x 是从多元正态总体中独立抽取的一个随机样本，试求样本协差阵的分布。
第2章多元正态分布的参数估计
第2章多元正态分布的参数估计多元正态分布是统计学中常用的一种概率分布模型，在实际应用中经常被用来描述多个变量之间的关系。
在参数估计的过程中，我们通常需要估计多元正态分布的均值向量和协方差矩阵。
本章将介绍多元正态分布的参数估计方法。
多元正态分布的均值向量和协方差矩阵分别用μ和Σ表示。
在参数估计的过程中，我们可以使用样本的均值向量和协方差矩阵来估计总体的均值向量和协方差矩阵。
首先，我们需要收集一个包含n个样本的数据集，其中每个样本有d 个变量。
我们将这个数据集表示为X=[x1, x2, ..., xn]，其中xi是一个d维向量。
均值向量的估计可以通过计算样本向量的平均值来得到。
均值向量的估计公式为：μ̂ = (1/n) * Σxi其中，μ̂是均值向量的估计值。
协方差矩阵的估计可以通过计算样本向量之间的协方差来得到。
协方差矩阵的估计公式为：Σ̂ = (1/n) * Σ(xi - μ̂)(xi - μ̂)T其中，Σ̂是协方差矩阵的估计值。
这里需要注意的是，协方差矩阵是一个对称正定矩阵，因此需要对估计值进行修正，以保证估计出的协方差矩阵是对称正定的。
修正的常用方法有Ledoit-Wolf修正和修正。
在进行参数估计之后，我们还可以计算估计值的标准误差（standard error），以衡量估计值的可靠性。
在多元正态分布的参数估计中，均值向量估计值的标准误差为：SE(μ̂) = (√((2/n)(d(d+1)/2))) * (√(Σi î))协方差矩阵估计值的标准误差为：SE(Σ̂) = (√((1/n)(d(d+1)/2))) * (√(Σi î(Σj ĵ -Σi ĵ^2)))其中，Σi î表示协方差矩阵估计值的第i个对角元素，Σi ĵ表示协方差矩阵估计值的第i行第j列元素。
参数估计的过程中，还需要考虑到样本量的大小。
当样本量较大时，参数估计的精度会提高；而当样本量较小时，参数估计的精度会降低。
多元统计分析：第二章 多元正态分布及
第二章 多元正态分布及参数的估计
§2.1 随 机 向
x11 x X 21 x n1
def
x12 x22 xn 2
x1 p X (1) def x2 p X (2) X xnp (n)
(d表示两边的随机向量服从相同的分布.) d
其中U=(U1,…,Uq),且U1,…,Uq 相互独 立同分布及参数的估计
§2.2 多元正态分布的性质2
Z=BX+d = B(AU+μ)+d = (BA)U+(Bμ+d) 由定义2.2.1可知 Z ～Ns(Bμ+d, (BA)(BA))， Z ～Ns(Bμ+d, BΣB). (这里Σ=AA).
X2 0 2 X ~ N 2 ( 0 , 0 3 0 ) 3
26
则有(1) X1 ~ N(2,1),
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的定义与基本性质—简单例子
X 2 0 1 0 X 1 令 Y X 3 0 0 1 X 2 BX , 1 0 0 X 3 X1
性质1的证明
根据随机向量特征函数的定义和性质，经计算即可 得出X的特征函数为 ΦX(t)= E(eitX)= E(eit (AU+μ) ) it AU 令t′A=s′=(s ,…s ) q 1
exp(it ) E(e ) i ( s1U1 s qU q ) exp( it ) E (e ) isqU q is1U1 exp( it ) E (e e )
du
e
e
第二章 多元正态分布
Σ11 Σ= Σ 21
Σ12 k Σ 22 k − p
µ1 k µ= µபைடு நூலகம்2 p − k
x1 k x= x 2 p − k
则给定 x 2 时 x1 的条件分布为 N k ( µ1⋅2 , Σ11⋅2 ) ，其中
µ1⋅2 = µ1 + Σ12 Σ −1 (x 2 − µ 2 ). 22
7.033 2.168 3.540 4.981 2.874 30.530 Σ=
1.681 1.276 4.638 3.107
1.276 5.213 1.161 2.939 5.864 19.532 1.851 4.069 3.860 4.525 27.363
p 元正态分布；
若 rank(A) < p( p ≤ q)，则Σ−1不存在， = Au + µ是退化 x
p元正态分布，不存在密度函数。
1 0 例：设随机向量 u ~ N2 (0, I ) ， = Au， = 0 1 ，则 x 的分布是 A x 退化的三元正态分布。 1 1
1 1 =I = O 1
二、一般的正态分布 设随机向量 x = (x1, x2 ,L, xp )′ ,若其的密度函数为
f (x1, x2 ,L, xp ) = (2π )
− ∞ < xi < +∞
协方差为
−p 2
Σ
−1 2
1 exp[− (x − µ)′Σ−1(x − µ)] 2
1 0 1 0 1 0 11 0 1 = 0 1 1 Σ = AA′ = 0 1 1 1 1 1 1 2 1 0 1 0 1 1 = 1 1 + 0 1 = 2 −1−1 = 0 Σ= 1 2 1 1 1 1 2
多元统计分析_第2章_多元正态分布_s
第2章多元正态分布§2.1 多元分布§2.2 多元正态分布的定义及基本性质§2.3 正态分布的条件分布和独立性§2.4 矩阵正态分布§2.5 参数的极大似然估计§2.6 极大似然估计的性质13),21′=p ξξξ (ξ随机向量：pn ij ξξ×=)(随机矩阵：注：随机矩阵拉直后就是随机向量，二者都是由多个随机变量组成，只是摆放形势不同.4一、多元分布函数1212121122122.1.1 (,,,)()(,,,) ()(,,,)(,,,)(,,,)~.p p p p p pp ξξξξξξF x F x x x P ξx ξx ξx x x x x R F ξξ′===≤≤≤′=∈ 定义设是一随机向量，它的多元分布函数的联合分布函数定义为式中，记作512122112(1)(,,,)(1,2,,)(2)0(,,,)1(3)(,,,)(,,,)(,,,)0(4)(,,,)1p i p p p F x x x x i p F x x x F x x F x x F x x F =≤≤−∞=−∞==−∞=+∞+∞+∞= 是每个变量的单调非降右连续函数.多元分布函数的性质：71)( )2( ,0)( )1()(=∈∀≥⋅∫dx x f R x x f R f pR pp 当且仅当随机向量的分布密度，中某个能作为一个多元函数9二、边缘分布.)( 3.1.2)1(的边缘分布的分布称为个分量组成的随机向量的维随机向量，由它为若定义ξξξp q q p <10),,,,,,(),,,,,),,)111111)1()2()1(∞∞∞=∞≤∞≤≤≤=≤≤=≤⎟⎟⎠⎞⎜⎜⎝⎛=+ q p q q q q q u u F u ξu ξP u ξu ξP u ξP ξξξξξξ((((1)的分布函数为，则不妨假设11(1)(1212112111)(,,)(,,)q q u u u p p u u u p q p q P ξu f t t dt dt dt f t t dt dt dt dt ∞∞∞−∞−∞−∞−∞−∞−∞∞∞∞+−∞−∞−∞−∞−∞−∞≤=⎡⎤=⎢⎥⎣⎦∫∫∫∫∫∫∫∫∫∫∫∫ 若ξ有分布密度函数f (x )，则12p q p q q q dt dt t t x x f x x f ξ1111)1(),,,,,(),,(++∞∞−∞∞−∞∞−∫∫∫=的边缘分布密度为(1)13注：（1）有分布密度函数，则它的任何边缘分布也有分布密度函数；（2）若的任何边缘分布有分布密度函数，并不能推出有分布密度.ξξξ两个随机向量独立的充分必要条件：①联合分布函数等于边缘分布函数的乘积；②若随机向量为连续型的，联合分布密度等于边缘分布密度的乘积；③若随机向量为离散型，联合分布列等于边缘分布列的乘积；④联合特征函数等于边缘特征函数的乘积.1621).()(~),(~),(~,)4(t t t t ηηηξηξηξΦΦ+ΦΦξξ则量的随机向是相互独立且维数相同与若).()(),( ,)()(,,)5()2()1()2()1(t t t t t t q p ηξξΦΦ=Φ⇔ΦΦ⎟⎟⎠⎞⎜⎜⎝⎛Φ独立和则的特征函数和分别为和特征函数的表示维随机向量和分别为和若ηξηξηξηξη22(7) .p a ξξ′若为维随机向量，则它的分布由一切形如的分布所唯一决定).()exp()( ,),(~ )6(t A a t i t a A t ′Φ′=Φ+=Φξηξηξ则若ξ23).()exp()])([exp()exp()][exp()exp())]([exp()][exp()(t A a t i t A i E a t i A t i E a t i a A t i E t i E t ′Φ′=′′′=′′=+′=′=Φξηξξξη证明：（6）24.,3,,),()][exp()1( 1)][exp()( )7(:的分布它决定了知由性质的特征函数恰好是的函数把它看成得取的特征函数为证明ξξξξa a a i E t a it E t a a a Φ=′=Φ=′=Φ′′′ξξξξ25五、矩2.1.6 ()(), 1, 2, , ,1, 2, , ,()(), .ij ij ij n p E i n j p E ξξξεξξξ=×=== 定义设为随机矩阵，假定存在且有限记称为随机矩阵的均值)()( ij E ξξε=26,(1) ,,,( )(),()()A B C A B C A B CA A εξεξξεξεξ+=+=若为常数矩阵则特别当为随机向量时有注：以下总假定公式中用到的随机矩阵的矩是存在的.均值的性质：27)]([)]([)] )4()()( , )3()()( ,, )2(ξεξεξξηεξεηξεηεξεηξεA tr A tr A E n p A p n b a b a b a B A B A B A ==××+=++=+[tr()()(则常数矩阵，为随机矩阵，为若为常数，则若则为常数矩阵若注：以上四个性质均体现均值的线性性.28().),,cov()(),cov(])()][([),cov( ),,cov(,)(),), 7.2.1 2121的协方差称为时，记作当即其元素是矩阵定义为一个简称协差阵阵的协方差维随机向量，它们之间维和分别为和设定义ξξξξηξηξηεηξεξεηξηξηηηηξ===′−−=×′=′=D p n p n ξξξj i j i p n ((29() ),cov(),cov( j i ηξηξ=()),cov(),cov(j i ξξξξ=31.])(][)([)())()()( ,)2(.})(){() (),cov(,})(){() (),cov()1(′−−+=′−−=+′−′=′−′=a a D a a D a D a ξεξεξξξεξξξεξεξξεξξηεξεηξεηξ(则为常向量若特别协差阵的性质：32A AD A DB A B A B A ′=′=)()( ),cov(),cov( ,)3(ξξηξηξ特别则为常数矩阵和设协差阵的性质（续）35则记值和协差阵存在的均若随机向量定理 ),( ),( ,),,, 1.1.221ξξεμD ξξξξn =Σ=′= ()()( μμξξA A tr A E ′+Σ=′36μμμμξξξξξξA A tr A tr A Etr A Etr A E ′+Σ=′+Σ=′=′=′)()}({)()()(μμξξεξεξεξξεξ′+Σ=′′−′=) (,})(){() ()(:所以因为证明D。
第二章 多元正态分布及参数的估计
27
北大数学学院
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的定义与基本性质—简单例子
y BxB
0 0 1
1 0 0
100 110
1 2 0
003 100
0 0 1
1 0 0
1 0 1
2 0 1
003 100
2
北大数学学院
第二章 多元正态分布及参数的估计
目录
§2.1 随机向量 §2.2 多元正态分布的定义与
基本性质
§2.3 条件分布和独立性 §2.4 随机矩阵的正态分布 §2.5 多元正态分布的参数估计
3
北大数学学院
第二章 多元正态分布及参数的估计
§2.1 随 机 向
本课程所讨论的是多变量总体.把 p个随机变量放在一起得
第二章 多元正态分布及参数的估计
§2.2 多元正态分布性质2的推论
例2.1.1
f (x1, x2
()X1,X212)的e联 12合( x12密 x22度) [1函数x为1 x2e
1 2
(
x12
x22
)
]
我们从后面将给出的正态随机向量的联合密
度函数的形式可知, (X1,X2)不是二元正态随机向 量.但通过计算边缘分布可得出:
本节有关随机向量的一些概念(联合分布, 边缘分布,条件分布,独立性;X的均值向量,X 的协差阵和相关阵,X与Y的协差阵)要求大家 自已复习.
三﹑ 均值向量和协方差阵的性质 (1) 设X,Y为随机向量,A,B为常数阵,则
E(AX)=A·E(X) E(AXB)=A·E(X)·B
6
多元统计分析第二章 多元正态分布
第2章 多元正态分布多元正态分析是一元正态分布向多元的自然推广。
多元正态分布是多元分析的基础，多元分析的许多理论都是建立在多元正态总体基础上的。
虽然实际的数据不一定恰好是多元正态的，但是正态分布常常是真实的总体分布的一种有效的近似。
所以研究多元正态分布在理论上或实际上都有重大意义。
限于篇幅，本章仅简介多元正态简单理论，细节可参看王学民（2004），张尧庭（2002），余锦华（2005），Richard （2003），朱道元（1999）等。
现实世界的许多问题都可以纳入正态理论的范围内，正态分布可以作为许多统计量的近似的抽样分布。
2.1随机向量2.1.1随机向量定义2.1.1：称每个分量都是随机变量的向量为随机向量。
类似地，所有元素都是随机变量的矩阵称为随机矩阵。
设()1,,p X X X '= 是1p ⨯随机向量，其概率分布函数定义为：(){}111,,,,p p p F x x P X x X x =≤≤ ，1,,p x x 为任意实数多元分布函数()1,,p F x x 有如下性质： （1）()10,,1p F x x ≤≤ ；（2）()1,,p F x x 是每个变量,1,2,,i x i p = 的非降右连续函数； （3）(),,1F ∞∞= ；（4）()()()211,,,,,,,0p p F x x F x x F x -∞=-∞==-∞= 。
多元分布和一元分布一样也分为离散型和连续型。
连续型随机向量()1,,pX X X '= 的分布函数可以表示为 ： ()()1111,,,,px x p p p F x x f t t dt dt -∞-∞=⎰⎰，()1,,pp x x R ∈ (2.1)称()1,,p f x x 是()1,,p X X X '= 的多元联合概率密度，简称多元概率密度或多元密度。
多元概率密度()1,,p f x x 有以下性质： （1）()1,,p f x x 非负； （2）()11,,1p p f x x dx dx ∞∞-∞-∞=⎰⎰ ；（3）()()111,,,,p p p nF x x f x x x x ∂=∂∂2.1.2边缘分布、条件分布和独立性 边缘分布设()1,,p X X X '= 是p 维连续型随机向量，由其q 个分量组成的向量()1X （不妨设()()11,,q X X X '= ）的分布称为的边缘分布，其边缘概率密度为：()()()1111,,,,X q p q p f x x f x x dx dx ∞∞+-∞-∞=⎰⎰ (2.2)条件分布设()1,,p X X X '= 是p 维连续型随机向量，()()11,,q X X X '= ,()()()()2112,,,,,0q p X q p X X X f x x ++'=> ,在给定()2X 的条件下,()1X 的条件概率密度函数为：()()()()21111,,,,,,,,p q q p X q p f x x f x x x x f x x ++=(2.3)独立性设()1,,n X X 是连续型随机向量,则1,,n X X 相互独立当且仅当()()()111,,n n X X n f x x f x f x = 对任意1,,n x x 成立。
多元正态分布及参数估计
2019/11/6
应用统计方法
22
2、性质 1） 设为常数，则 E (a X )a(E X )； 2）设 A,B,C 分别为常数矩阵，则
E ( A C X ) A E ( X B ) B C
3）设 X 1,X 2, ,X n为 n个同阶矩阵，则
E ( X 1 X 2 X n ) E X 1 E X 2 E X n
对一切 x、y成立，则称 x和 y相互独立。
2、设 x和 y是两个连续随机向量， x和 y相互
独立，当且仅当
f(x|y)fx(x)或 F (x ,y ) F x(x )F y(y )
对一切
2019/11/6
x
、y
成立。 应用统计方法
19
3、设 x1,x2, ,xn是 n个随机向量，若
F ( x 1 , x 2 , , x m ) F 1 ( x 1 ) F 2 ( x 2 ) F m ( x m ) mn
2019/11/6
应用统计方法
23
二、协方差矩阵
1、定义：设 x (x 1 ,x2, ,xp)和 y (y 1 ,y2, ,y q)分 别为 p维和 q维随机向量，则其协方差矩阵为
Exx2 1 E E ((xx1 2))y1E(y1)
y2E(y2) yqE(yq)
降的右连续函数；
2019/11/6
应用统计方法
4
② 分布函数的取值范围为[0，1]，即
0F(a1,a2, ,ap)1
③ 分布函数当变量取值为无穷大时，函数值收敛到1，即
F(,, ,)1
2019/11/6
应用统计方法
5
二、两个常用的离散多元分布
第二章 多元正态分布 《应用多元统计分析》 ppt课件
1
一、随机向量
在理论上，对多维随机向量的研究和对一维随机 变量的研究思路是类似的，通过分布及其特征进 行刻画。不同的是，可能要考虑变量之间的相关 关系。
在统计应用上，对多维随机向量的研究和对一维 随机变量的研究思路也是一样的，要通过样本资 料来推断总体。
19
二、多元正态分布的数字特征
若 X ~ Np μ, Σ ，则 E(X) μ，D(X) Σ ，即 μ 恰好是
多维随机向量 X的均值向量， Σ 恰好是多维随机 向量 X 的协差阵。其中，
1
μ
2
，
p
11 12
Σ
21
22
p1 p2
1p
2
p
pp
20
三、多元正态分布的参数估计
若 X 的联合分布密度为 f (x1, x2 , , xp )，则 X(1) 的边缘 密度函数为：
f (x1, x2 , , xq )
f (x1, x2 ,
, xq , xq1,
, xp )dtq1
dt，p (2.3)
多维随机向量的独立性。若 p个随机变量
X1, X 2 ,, X p的联合分布密度等于各自边缘分布的 乘积，则称 X1, X 2 ,, X p是互相独立的。
1
x)(x( )
x)
n
(x1 x1)2
1
1 n
n
(x1 x1)(x 2 x2 )
1
n
(x 2 x2 )2
1
n
x 2
1
n
x
p
1
n
( x 1
x1)(x p
xp
第2章多元正态分布参数估计
第2章多元正态分布参数估计多元正态分布是多元随机变量的一种常见模型。
在实际问题中，我们常常需要通过已有的数据对多元正态分布的参数进行估计，便于进行后续的统计分析和预测。
多元正态分布的参数估计主要包括均值向量和协方差矩阵的估计。
对于均值向量的估计，最简单的方法是直接计算样本均值。
假设我们有一个包含n个样本的数据集，其中每个样本有d个维度的观测值，我们可以将样本数据表示为一个n×d的矩阵X。
则样本均值向量的估计值μ可以通过以下公式得到：μ = (1/n) * Σxi其中，xi表示第i个样本观测值。
对于协方差矩阵的估计，最常用的方法是样本协方差矩阵的估计。
样本协方差矩阵S的估计值可以通过以下公式得到：S = (1/n) * Σ(xi - μ)(xi - μ)T其中，T表示矩阵的转置。
需要注意的是，样本协方差矩阵的估计是基于样本的二阶矩估计，因此在数据量较小的情况下，估计结果可能存在偏差。
为了减小估计结果的偏差，可以使用修正样本协方差矩阵的估计。
修正样本协方差矩阵的估计值可以通过以下公式得到：S = ((n-1)/n) * Σ(xi - μ)(xi - μ)T其中，n-1是修正系数。
除了样本协方差矩阵，也可以使用样本相关系数矩阵来估计多元正态分布的协方差矩阵。
样本相关系数矩阵R的估计值可以通过以下公式得到：rij = sij / (si * sj)其中，sij表示样本协方差矩阵的元素，si和sj分别表示样本标准差。
需要注意的是，当样本量较小或者存在样本相关系数为1的情况时，样本相关系数矩阵的估计结果可能不可靠，此时推荐使用样本协方差矩阵来估计。
在实际问题中，参数估计是多元正态分布分析的重要步骤。
通过对样本数据进行参数估计，我们可以对多元正态分布的均值和协方差矩阵有一个初步的认识，从而便于进行后续的模型建立、参数推断和预测。
同时，合理的参数估计方法也有助于提高分析结果的精度和可靠性。
总之，多元正态分布参数估计是一个对多元随机变量的观测数据进行统计分析的重要任务。
多元统计分析第二章多元正态分布
多元统计分析第二章多元正态分布多元正态分布（Multivariate Normal Distribution），是指多个随机变量服从正态分布的情况。
在统计学中，多元正态分布是一个重要的概率分布，广泛应用于多个领域，如经济学、金融学、生物学、工程等。
多元正态分布的概率密度函数可以表示为：f(x;μ,Σ) = (2π)^(-k/2) ，Σ，^(-1/2) exp(-(x-μ)'Σ^(-1)(x-μ)/2)其中，x表示一个k维向量（k个随机变量），μ是一个k维向量，表示均值向量，Σ是一个k*k维协方差矩阵，Σ，表示协方差矩阵的行列式，'表示向量的转置，Σ^(-1)表示协方差矩阵的逆矩阵，exp表示指数函数。
多元正态分布具有以下特点：1.对称性：多元正态分布的密度函数是关于均值向量对称的。
2.线性组合：多元正态分布的线性组合仍然服从正态分布。
3.条件分布：给定其他变量的取值，多元正态分布的边缘分布和条件分布仍然服从正态分布。
4.独立性：多元正态分布的随机变量之间相互独立的充要条件是它们的协方差矩阵为对角矩阵。
对于多元正态分布，可以使用协方差矩阵来描述不同随机变量之间的相关程度。
协方差矩阵的对角线元素表示各个随机变量的方差，非对角线元素表示各个随机变量之间的协方差。
多元正态分布的参数估计也是统计学中一个重要的问题。
通常可以使用最大似然估计方法来估计均值向量和协方差矩阵。
在实际应用中，多元正态分布可以用来描述多个相关变量的联合分布。
例如，在金融学中，可以使用多元正态分布来建模多个股票的收益率。
在生物学中，可以使用多元正态分布来建模多个基因的表达水平。
除了多元正态分布，还存在其他的多元分布，如多元t分布、多元卡方分布等。
这些分布可以用来处理更一般的随机变量，具有更广泛的应用领域。
总之，多元正态分布是统计学中一个重要的概率分布，具有许多重要的性质和应用。
通过对多元正态分布的研究，可以更好地理解和分析多个相关变量的联合分布，推断和预测相关变量的取值，并为实际问题提供可靠的解决方案。
第二章多元正态分布的参数估计
第二章多元正态分布的参数估计多元正态分布是在多个随机变量之间存在相互依赖关系时使用的一种概率分布。
它在许多统计分析和机器学习领域中都有广泛的应用。
在实际应用中，我们通常需要使用样本数据对多元正态分布的参数进行估计。
多元正态分布由均值向量和协方差矩阵两个参数来描述。
均值向量表示各个随机变量的平均值，而协方差矩阵表示各个随机变量之间的协方差。
参数估计的目标就是通过样本数据来估计这两个参数。
首先，我们需要收集一个具有充分样本量的数据集。
对于一个具有n个样本的多元正态分布，我们可以将样本数据表示为一个n行d列的矩阵X，其中每一行是一个d维的样本向量。
其中n表示样本数量，d表示随机变量的个数。
接下来，我们可以根据样本数据来估计多元正态分布的均值向量和协方差矩阵。
1.均值向量的估计：多元正态分布的均值向量可以通过样本均值向量来估计。
样本均值向量的计算公式如下：μ = (1/n) * Σxi其中μ是估计得到的均值向量，xi表示样本矩阵X的第i行。
2.协方差矩阵的估计：多元正态分布的协方差矩阵可以通过样本协方差矩阵来估计。
Σ=(1/(n-1))*(X-μ)'*(X-μ)其中Σ是估计得到的协方差矩阵，X是样本矩阵，μ是估计得到的均值向量。
需要注意的是，在计算协方差矩阵时，我们使用的是样本协方差矩阵而不是总体协方差矩阵。
这是因为样本协方差矩阵能更好地反映样本数据的真实情况。
以上就是多元正态分布的参数估计方法。
通过样本数据，我们可以使用样本均值向量和样本协方差矩阵来估计多元正态分布的参数。
这些参数估计能为我们提供关于多元正态分布的统计属性和特征，进而用于进一步的分析和应用。
第2章 多元正态分布均值向量和协差阵的检验
第二章 多元正态分布均值向量和协差阵的检验一、填空题1.在一个正态总体均值向量的假设检验中，在∑已知的情况下，构造的检验统计量为 ，服从 分布；在∑未知的情况下，构造的检验统计量为 ，服从 分布。
2.若()∑,0~p N X ，()∑,~n W S p ，且X 与S 相互独立，令X S X n T 12-'=，则~12T np p n +- 。
3.若()∑,~μp N X ，()∑,~n W S p ，且X 与S 相互独立，p n ≥，则称统计量X S X n T 12-'=的分布为 分布，记为 。
4．在两个正态总体均值向量的假设检验中,假定其协差阵∑相等,则在∑已知的情况下,构造的统计量为 ,服从的分布为 ；在∑未知的情况下，构造的检验统计量为 ，服从的分布为 。
二、判断题1．设()∑,~μp N X ，()∑,~n W Sp ，p n ≥，则称统计量X S X n T 12-'=的分布为非中心2HotellingT 分布，记为()μ,,~22n p T T 。
2．在协差阵∑未知的情况下对均值向量进行检验，需要用样本协差阵S n 1去代替∑。
3.2HotellingT 分布是一元统计分布中t 分布的推广。
4．在一个正态总体均值向量的假设检验中，在∑已知的情况下，构造的检验统计量服从2HotellingT 分布。
5．在一个正态总体均值向量的假设检验中，在∑未知的情况下，构造的检验统计量服从2χ分布。
6．在两个正态总体均值向量的假设检验中,假定其协差阵∑相等,则在∑已知的情况下,构造的统计量服从多元正态分布。
7．在两个正态总体均值向量的假设检验中,假定其协差阵∑相等, 在∑未知的情况下，构造的检验统计量服从2HotellingT分布。
三、简答题1．试述多元统计分析中的各种均值向量和协差阵检验的基本思想和步骤。
2．试述多元统计分析中2HotellingT分布和一元统计中t分布的关系。
《多元统计分析》第二章 随机向量和多元正态分布
《多元统计分析》MOOC2.1 多元分布王学民一、多元概率分布函数v随机向量：一个向量，若它的分量都是随机变量。
v 随机变量x 的分布函数：v 随机变量x 1和x 2的联合分布函数：v 随机向量的分布函数：v本课程主要讨论连续型的分布。
()12,,,p x x x '=x ()()F a P x a =≤()()121122,,,,,,p p p F a a a P x a x a x a =≤≤≤ ()()121122,,F a a P x a x a =≤≤二、多元概率密度函数v一元的情形：v二元的情形：vp 元的情形：v概率密度函数，简称概率密度或密度函数或密度。
()()d a F a f x x -∞=⎰12121212(,)(,)d d a a F a a f x x x x -∞-∞=⎰⎰1111(,,)(,,)d d pa a p p pF a a f x x x x -∞-∞=⎰⎰分布函数的概念主要用于理论上的讨论，本课程仅在此提一下，后面将不再提及。
分布用密度来描述较为方便。
概率密度的性质v一元密度f (x )的性质：v多元密度f (x 1,⋯,x p )的性质：1111(,,)0,,(,,)d d 1p p p p f x x x x f x x x x ∞∞-∞-∞≥=⎰⎰(1)，对一切实数；(2)。
()0()d 1f x x f x x ∞-∞≥=⎰(1)，对一切实数；(2)。
三、边缘分布v 边缘分布：p 维随机向量 的任意子向量的分布。
v边缘分布可以是关于一个变量，两个变量，…，p −1个变量的边缘分布。
()12,,,p x x x '=x四、条件分布v条件分布：在一些已知条件下的分布。
v例1研究某人群，x1——身高，x2——体重，该人群中x2的分布为f(x2)。
如果已知某人的x1=1.80（米），则对该人体重的推断应依据f(x2|x1=1.80)，而不是f(x2)。
15统计第02章_多元正态分布的参数估计
和
Σ
1 2
9 3
253
令y1=2x1−x2+4x3,y2=x2−x3,y3=x1+3x2−2x3,试求y=(y1,y2,y3)′的数学 期望和协方差矩阵。
若 X ( X1, X 2 , , X p ) 的协差阵存在，且每个分量的方差大
于零，则称随机向量 X 的相关阵为 R Corr( X ) (ij ) p p ，
表示对第 j 个变量 X j 的 n 次观测数值。
因此，表 2.1 所反映出的样本资料可用矩阵表示为
X11 X12
X
X
21
X 22
X1p
X(1)
X2
p
(
X1,
X
，
2
，X
p
)
X (2)
X
n1
Xn2
X
np
X
(n)
（2.1）
简记为 X。
定义 2.1 将 p 个随机变量 X1, X 2 , , X p 的整体称为 p 维随
E(X AX ) tr(AΣ) μAμ
这里我们应该注意到，对于任何的随机向量
X ( X1, X 2 , , X p ) 来说，其协差阵 Σ 都是对称阵，同
时总是非负定（半正定）的。大多数情况是正定的。
例 设随机向量x=(x1,x2,x3)′的数学期望和协方差矩阵分别为
5
4 1 2
μ
2 7
进行标准化！
标 “ 标 准 化 ”， 即 进 行 如 下 变 换
X
* j
X
j
E(X j) D(X j )
，
j 1, , p （2.7）
那么由（2.7）构成的随机向量 X* (X1*, X2*,
第二章-多元正态分布的参数估计
11 Σ 21
31
12 22 32
13 23 33
Σ11
Σ
21
Σ12
22
则
X (1)
X1
X
2
~
N2 ( μ(1) ,
Σ11)
其中
μ (1)
1
2
Σ11
11 21
12
22
在此我们应该注意到，如果 X ( X1, X 2 ,L , X p ) 服从 p
X
X1 X2
,
μ
1 2
,
Σ
2 1
1 2
1 2
2 2
易见，ρ是X1和 X2的相关系数。当|ρ|<1时，可得X的
概率密度函数为：
f
x1,
x2
1
21 2
1
2
exp 2
1
1 2
x1 1 1
2
2
x1 1 1
x2 2 2
x2 2 2
2
二元正态分布的密度曲面图
X3
1
aμ
(0,1,
0)
2
2
3
11 12 aΣa (0,1, 0) 21 22
31 32
13 0
23
1
22
33 0
（2） 其中
AX
1
0
0 0
0 1
X X X
1 2 3
X1
X
3
~
N
(Aμ
,AΣA
)
Aμ
1 0
0 0
0 1
1 2 3
5 1
11
则X2和X3不独立，X1和(X2,X3)独立。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
i1
i
S
n
(
i1
Xi
X)(Xi
X)
则有
S
n
X
j Xj
nXX
i1
1、
~
N
p
(,
1 n
)
2、和S相互独立
3、S ~ Wp (n 1,)
证明：
*
设
*
1
n
*
* 1 n
*
*
ij
nn
1
那么在多元正态的情形下，是否有相同的问题呢？回答
时肯定的。
定义： 设 ~ Wp (n,)和u ~ N p (μ,)相互独立,则
2 nu1u ~ T 2 ( p, n,μ)
称T2服从参数为P和n的非中心霍特林（Hotelling)分布，当。
当 μ 0时，2 nu1u 服从自由度为n的中心霍特林分布， 记为 2 nu1u ~ T 2 ( p, n) 。
a
)
,
x(a 2
)
,,
x(a na
)
1 k na x x
n a1 i1
(a) i
x 1 x a
na
i 1
(a) i
na
W
(x k na
a1 i1
(a) i
x)(x(ia)
x)
E
(x k na
a1 i1
(a) i
xa
)(x(ia)
xa )
B
分布近似。
2、Λ统计量和Λ分布
设k个总体G1,,Gk ，它们服从 N p ( (i) ,) 。分别抽出
如下的样本：
x(1) 1
,
x(1) 2
,,
x(1) n1
x1(
2
)
,
x(2 2
)
,,
x(2 n2
)
x1(
k
)
,
x(k 2
)
,,
x(k nk
)
n
n k
a1
a
xa
x1(
Z
2 p
~
（2 p)
相互独立的标准正态分布的平方和为自由度为 p 的卡方分布。
在一元正态的情形下，我们有样本的统计量
Z x ~ N (0,1) n
当总体的方差未知时，我们必须用样本的方差
S *2
n
1
1
n
(
i 1
xi
x)2
来代替总体的方差，则
t
x S*
n
~
t(n
1)
x2 (x21, x22,, x2 p ) x1 (x11, x12,, x1p )
… xn (xn1, xn2 ,, xnp )
令
1 n
n
i
i 1
样本均值
S
(X n
i 1
i
X)(Xi
X)样本叉积矩阵
则 2 (n 1)n(x )S 1(x ) ~ T 2 ( p, n 1)
定理1：若 ~ Wp (n,) ，且 0 ，n p ，则 的分布密度
为
|
a
1(n p1)
|2
exp( 1 tr1A)
F (a)
np
22
p ( p1 ) 2
n
| |2
2
,a
p
(
n
i
1)
0
i1
2
特别，当 p 1和 1 时， 服从 2 分布。
且 T 2 ( p, n) np F ( p, n p 1) n p1
定理：设 x1,x2,,xn1 是来自多元正态总体 N p (,) 的简单
随机样本，
x2 (x21, x22,, x2 p )
x1 (x11, x12,, x1p )
…
xn1 (xn11, xn1 2 ,, xn1p )
x2 )
~
n1 n2 n1n2
T
2(
p, n
1)
Sp
(n1 1)S1 (n2 1)S2 n1 n2 2
四、基于维斯特(Wishart)分布的统计量
在一元方差分析中，常常遇到基于独立的 2 分布随机变量比值
的F统计量。在多元统计分析中，起到相同作用的是统计量和 分布。
设随机矩阵 X
x21
x22
x2
p
xn1
xn2
xnp
矩阵中的每一个元素均为随机变量，则矩阵X的分布是其列 向量拉长，组成一个长向量
x x11 x1p x21 x2 p xn1 xnp 的分布。
定义 维希特（Wishart）分布的统计量 设 n 个随机向量 Xi ( X i1, X i2 ,, X ip )(i 1,2,3,, n)
2
为一正交矩阵n 令 (1 2 n ) X1 X2 Xn
由于Xi (i 1,2,3,4,n)独立同正态分布,且为正交矩阵，所以
(1 2 n )独立同正态分布
n
1 n
n
i 1
i
E(n)
1 n
x12
x22
xn 2
x21
x22
x2
p
x1
p
x2 p
xnp
xn1
xn 2
xnp
n
X il X lj
l 1
服从自由度为 n 的非中心维斯特分布，记为 ~ Wp (n,,。μ)
特别当 X是 p 阶对称阵，则X 的分布为的下三角部分组 成的长向量
p
(
,
1 n
)
n
S
(X
i1
j
X)(X
j
X)
S
n
X
i1
j Xj
nXX
S
n
i1
X
j
Xj
n n
S nn
S
n1
j 1
j
j
与S相互独立
S
n1
j 1
j
j
~ Wp (n 1,)
当 1，p 1时，由卡方分布的定义可知
为Wm (n,CC) 分布。
三、 抽样分布
定理1：设X1,X2,……Xn是来自多元正态总体Np(,) 的简单随机样本，有
x1 (x11, x12 ,, x1p )
x2 (x21, x22 ,, x2 p )
xn (xn1, xn2 ,, xnp )
令
1 n
n
第2章 抽样分布
Sampling Distributions
§1 样本的联合概率密度函数
设x ~ N p (,), 0, 则总体的密度函数为
f
( x1 ,
x2 ,,
xp
)
(2
)
p
2
1
2
exp[
1 2
(x
) 1 ( x
)]
X1，X2，……，Xn是从总体中抽取的一个简单随机样本，满足X1，
x x11 x1p x22 x2 p xp1, p1 xp, p1 xp, p
在一元正态随机变量中，我们曾经讨论了 2 分布，在多元
正态随机变量也有类似的样本分布。维希特分布（Wishart）相当
于一元统计中的 2 分布。
维希特（ Wishart）分布的密度函数
X11 X12 X1p
X
X 21
X 22
X
2
p
X (1) X (2)
X
n1
X n2
X
np
n
p
X
(n)
独立同分布于
Np
(μ, )
，则随机矩阵
n
i
i
i1
A X X
x11 x21 xn1 x11 x12 x1p
证：
由于样本均值
x
~
Np
(
,
1 n
)
令
1
n 2 (X )
1
E() E[ n 2 (X )]
1
D() D[ n 2 (X )] p
1
n 2 (X ) ~ N p (o,I)
所以
2
Z12
Z
2 2
n
i 1
(2 ) p
2
1
2
exp[
1 2
(
xi
)1(xi )]