应用多元统计分析习题解答主成分分析.doc
(完整word版)应用多元统计分析习题解答主成分分析
主成分分析6.1 试述主成分分析的基本思想。
答：我们处理的问题多是多指标变量问题，由于多个变量之间往往存在着一定程度的相关性，人们希望能通过线性组合的方式从这些指标中尽可能快的提取信息。
当第一个组合不能提取止。
这就是主成分分析的基本思想。
6.2 主成分分析的作用体现在何处？答：一般说来，在主成分分析适用的场合，用较少的主成分就可以得到较多的信息量。
以各个主成分为分量，就得到一个更低维的随机向量；主成分分析的作用就是在降低数据“维数”6.3 简述主成分分析中累积贡献率的具体含义。
答：主成分分析把p 个原始变量12,,,p X X X 的总方差()tr Σ分解成了p 个相互独立的变量p 个主成分的，忽略一些带有较小方差的主成分将不会给总方差带来太大的影响。
这里我们()m p <个主成分，则称11pmm kkk k ψλλ===∑∑ 为主成分1,,m Y Y 的累计贡献率，累计贡献率表明1,,m Y Y 综合12,,,p X X X 的能力。
通常取m ，使得累计贡献率达到一个较高的百分数（如85％以上）。
答：这个说法是正确的。
即原变量方差之和等于新的变量的方差之和6.5 试述根据协差阵进行主成分分析和根据相关阵进行主成分分析的区别。
答：从相关阵求得的主成分与协差阵求得的主成分一般情况是不相同的。
从协方差矩阵出发的，其结果受变量单位的影响。
主成分倾向于多归纳方差大的变量的信息，对于方差小的变量就可能体现得不够，也存在“大数吃小数”的问题。
实际表明，这种差异有时很大。
我6.6 已知X =()’的协差阵为 试进行主成分分析。
解：=0计算得当时，同理，计算得时，易知相互正交单位化向量得，,综上所述，第一主成分为第二主成分为第三主成分为6.7 设X=()’的协方差阵(p为, 0<p<1证明：为最大特征根，其对应的主成分为。
证明：==,为最大特征根当时，=所以，6.8利用主成分分析法，综合评价六个工业行业的经济效益指标。
应用多元统计分析习题解答_朱建平_第七章
Abbo无私奉献，只收1个金币，BS收5个金币的…何老师考简单点啊……第七章 因子分析7.1 试述因子分析与主成分分析的联系与区别。
答：因子分析与主成分分析的联系是：①两种分析方法都是一种降维、简化数据的技术。
②两种分析的求解过程是类似的，都是从一个协方差阵出发，利用特征值、特征向量求解。
因子分析可以说是主成分分析的姐妹篇，将主成分分析向前推进一步便导致因子分析。
因子分析也可以说成是主成分分析的逆问题。
如果说主成分分析是将原指标综合、归纳，那么因子分析可以说是将原指标给予分解、演绎。
因子分析与主成分分析的主要区别是：主成分分析本质上是一种线性变换，将原始坐标变换到变异程度大的方向上为止，突出数据变异的方向，归纳重要信息。
而因子分析是从显在变量去提炼潜在因子的过程。
此外，主成分分析不需要构造分析模型而因子分析要构造因子模型。
7.2 因子分析主要可应用于哪些方面？ 答：因子分析是一种通过显在变量测评潜在变量，通过具体指标测评抽象因子的统计分析方法。
目前因子分析在心理学、社会学、经济学等学科中都有重要的应用。
具体来说，①因子分析可以用于分类。
如用考试分数将学生的学习状况予以分类；用空气中各种成分的比例对空气的优劣予以分类等等②因子分析可以用于探索潜在因素。
即是探索未能观察的或不能观测的的潜在因素是什么，起的作用如何等。
对我们进一步研究与探讨指示方向。
在社会调查分析中十分常用。
③因子分析的另一个作用是用于时空分解。
如研究几个不同地点的不同日期的气象状况，就用因子分析将时间因素引起的变化和空间因素引起的变化分离开来从而判断各自的影响和变化规律。
7.3 简述因子模型中载荷矩阵A 的统计意义。
答：对于因子模型1122i i i ij j im m i X a F a F a F a F ε=++++++ 1,2,,i p =因子载荷阵为11121212221212(,,,)m m m p p pm a a a a a a A A A a a a ⎡⎤⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎣⎦Ai X 与j F 的协方差为：1Cov(,)Cov(,)mi j ik k i j k X F a F F ε==+∑=1Cov(,)Cov(,)mikk j i j k aF F F ε=+∑=ij a若对i X 作标准化处理，=ij a ,因此 ij a 一方面表示i X 对j F 的依赖程度；另一方面也反映了变量iX 对公共因子jF 的相对重要性。
多元统计分析整理版.doc
1、主成分分析的目的是什么？主成分分析是考虑各指标间的相互关系，利用降维的思想把多个指标转换成较少的几个相互独立的、能够解释原始变量绝大部分信息的综合指标，从而使进一步研究变得简单的一种统计方法。
它的目的是希望用较少的变量去解释原始资料的大部分变异，即数据压缩，数据的解释。
常被用来寻找判断事物或现象的综合指标，并对综合指标所包含的信息进行适当的解释。
2、主成分分析基本思想？主成分分析就是设法将原来指标重新组合成一组新的互相无关的几个综合指标来代替原来指标。
同时根据实际需要从中选取几个较少的综合指标尽可能多地反映原来的指标的信息。
● 设p 个原始变量为 ，新的变量(即主成分)为 ，主成分和原始变量之间的关系表示为?3、在进行主成分分析时是否要对原来的p 个指标进行标准化？SPSS 软件是否能对数据自动进行标准化？标准化的目的是什么？需要进行标准化，因为因素之间的数值或者数量级存在较大差距，导致较小的数被淹没，导致主成分偏差较大，所以要进行数据标准化； 进行主成分分析时SPSS 可以自动进行标准化；标准化的目的是消除变量在水平和量纲上的差异造成的影响。
求解步骤⏹ 对原来的p 个指标进行标准化，以消除变量在水平和量纲上的影响 ⏹ 根据标准化后的数据矩阵求出相关系数矩阵 ⏹ 求出协方差矩阵的特征根和特征向量⏹ 确定主成分，并对各主成分所包含的信息给予适当的解释版本二：根据我国31个省市自治区2006年的6项主要经济指标数据，表二至表五，是SPSS 的输出表，试解释从每张表可以得出哪些结论，进行主成分分析，找出主成分并进行适当的解释：（下面是SPSS 的输出结果，请根据结果写出结论） 表一：数据输入界面p 21p x x x ，，， 21p ，21p y y y ，，， 21表二：数据输出界面a）此表为相关系数矩阵，表示的是各个变量之间的相关关系，说明变量之间存在较强的相关系数，适合做主成分分析。
观察各相关系数，若相关矩阵中的大部分相关系数小于0.3，则不适合作因子分析。
应用多元统计分析课后习题答案高惠璇第七章习题解答
7-4 设总体X＝(X1,…,Xp)′～Np(μ,Σ) (Σ＞0),等概率密度
椭球为
(X-μ)′Σ-1(X-μ)=C2(C为常数).
试问椭球的主轴方成分分析
7-5 设3维总体X的协差阵为
试求总体主成分.
4 0 0
0 4 0
0 0 2
解:总体主成分为
Zi Xi(i1,2,3)
1
1
(2) 求X
(3) 试问当ρ取多大时才能使第一主成分的贡献率达95%以上.
解:
5
第七章 主成分分析
6
第七章 主成分分析
7-3 设p维总体X的协差阵为
21
1
1
(01).
(1)
Z1 1p(X1X2Xp);
(2) 试求第一主成分的贡献率.
7
第七章 主成分分析
解:
1
8
第七章 主成分分析
2
12
13 14
12 2
14 13
13 14 2
12
14
13
12 2
,
其中 1 21 31,421 4 21.3
试求X的主成分.
12
第七章 主成分分析
解:
13
第七章 主成分分析
7-8
14
第七章 主成分分析
15
第七章 主成分分析
7-9
16
第七章 主成分分析
主成分向量为
Z ( X 1 ,X 2 ,X 3 ) 或 Z ( X 2 ,X 1 ,X 3 )
三个主成分的方差分别为4,4,2.
10
第七章 主成分分析
7-6
设3维总体X的协差阵为
2 2
2 2
应用多元统计分析课后答案
应用多元统计分析课后答案第二章2.1.试叙述多元联合分布和边际分布之间的关系。
解：多元联合分布讨论多个随机变量联合到一起的概率分布状况，12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数，而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布，其概率密度函数的维数小于p 。
2.2设二维随机向量12()X X '服从二元正态分布，写出其联合分布。
解：设12()X X '的均值向量为()12μμ'=μ，协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭，则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪ ⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。
2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=--其中1a x b ≤≤，2c x d ≤≤。
求（1）随机变量1X 和2X 的边缘密度函数、均值和方差； （2）随机变量1X 和2X 的协方差和相关系数； （3）判断1X 和2X 是否相互独立。
（1）解：随机变量1X 和2X 的边缘密度函数、均值和方差；112121222[()()()()2()()]()()()dx cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()dd c c d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰ 12122222()()2[()2()]()()()()dd cc d c x a x b a t x a t dt b a d c b a d c ------=+----⎰2212122222()()[()2()]1()()()()d cdcd c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布，则均值为2b a +，方差为()212b a -。
应用多元统计分析课后答案朱建平版(前9章).doc
第二章2.1.试叙述多元联合分布和边际分布之间的关系。
解：多元联合分布讨论多个随机变量联合到一起的概率分布状况，12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数，而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布，其概率密度函数的维数小于p 。
2.2设二维随机向量12()X X '服从二元正态分布，写出其联合分布。
解：设12()X X '的均值向量为()12μμ'=μ，协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭，则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。
2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=-- 其中1a x b ≤≤，2c x d ≤≤。
求（1）随机变量1X 和2X 的边缘密度函数、均值和方差； （2）随机变量1X 和2X 的协方差和相关系数； （3）判断1X 和2X 是否相互独立。
（1）解：随机变量1X 和2X 的边缘密度函数、均值和方差；112121222[()()()()2()()]()()()dx cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()ddcc d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰12122222()()2[()2()]()()()()dd cc d c x a x b a t x a t dt b a d c b a d c ------=+----⎰2212122222()()[()2()]1()()()()d cdcd c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布，则均值为2b a +，方差为()212b a -。
《多元统计分析》第五章 主成分分析
盗窃罪 1881.9 3369.8 4467.4 1862.1 3499.8 3903.2 2620.7 3678.4 3840.5 2170.2 3920.4 2599.6 2828.5 2498.7 2685.1 2739.3
┆
汽车犯罪 280.7 753.3 439.5 183.4 663.5 477.1 593.2 467 351.4 297.9 489.4 237.6 528.6 377.4 219.9 244.3 ┆
伤害罪 278.3 284 312.3 203.4 358 292.9 131.8 194.2 449.1 256.5 64.1 172.5 209 153.5 89.8 180.5
┆
夜盗罪 1135.5 1331.7 2346.1 972.6 2139.4 1935.2 1346 1682.6 1859.9 1351.1 1911.5 1050.8 1085 1086.2 812.5 1270.4
v 线性组合含义的解释，从系数角度来说，取决于变量系数的符号和相对大小；从 相关系数角度来说，取决于线性组合与各变量相关系数的符号和相对大小。
11
原始变量方差差异大的情形
v 例2（书中例7.2.2 ） 设x=(x1,x2,x3)′的协方差矩阵为
16 2 30
Σ
2 30
1 4
4 100
经计算，Σ的特征值及特征向量为
需要给出这前几个主成分一个符合实际背景和意义的 解释。
(2)在更多的另一些应用中，主成分只是要达到目的 的一个中间结果 （或步骤），而非目的本身。
例如，主成分聚类、主成分回归、评估正态性、寻找 异常值，以及寻找原始变量间的多重共线性关系等。
此时的主成分可不必给出解释。
多元统计分析第七章主成分分析习题答案
7.1 设随机变量12X(X ,X )'=的协差阵为21,12⎡⎤∑=⎢⎥⎣⎦试求Ｘ的特征根和特征向量，并写出主成分。
解：先求Ｘ的特征根λ，λ满足方程：21012-λ=-λ，即2(2)10-λ-=，因此两个特征根分别为123, 1.λ=λ=设13λ=对应的单位特征向量为()1121a ,a '，则()1121a ,a '满足：1121a 110a 110-⎛⎫⎡⎤⎛⎫= ⎪ ⎪⎢⎥-⎣⎦⎝⎭⎝⎭，故可以取1121a a ⎛⎛⎫ = ⎪ ⎝⎭ ⎝，其对应主成分为：112F X X 22=+；设21λ=对应的单位特征向量为()1222a ,a '，则()1222a ,a '满足：1222a 110a 110⎛⎫⎡⎤⎛⎫=⎪ ⎪⎢⎥⎣⎦⎝⎭⎝⎭，故可以取1222a a ⎛⎫⎛⎫ ⎪= ⎪ ⎝⎭- ⎝，其对应的主成分为：212F 22=-.7.2设随机变量123X (X ,X ,X )'=的协差阵为120250,002-⎡⎤⎢⎥∑=-⎢⎥⎢⎥⎣⎦试求Ｘ的主成分及主成分对变量Ｘ的贡献率。
解：先求Ｘ的特征根λ，λ满足方程：12025002-λ---λ=-λ，即()2(2)610-λλ-λ+=，因此三个特征根分别为1235.8284,2,0.1716λ=λ=λ=设1 5.8284λ=对应的单位特征向量为()112131a ,a ,a '，则它满足：1121314.828420a 020.82840a 000 3.8284a 0--⎡⎤⎛⎫⎛⎫⎪ ⎪⎢⎥--=⎪ ⎪⎢⎥ ⎪ ⎪⎢⎥-⎣⎦⎝⎭⎝⎭，故可以取 112131a 10.38271a 2.41420.92392.6131a 00⎛⎫⎛⎫⎛⎫⎪ ⎪ ⎪=-=- ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭，其对应主成分为： 112F 0.3827X 0.9239X =-，其贡献率为5.828472.86%5.828420.1716=++；设22λ=对应的单位特征向量为()122232a,a ,a '，则它满足：122232120a 0230a 0000a 0--⎡⎤⎛⎫⎛⎫ ⎪ ⎪⎢⎥-= ⎪ ⎪⎢⎥ ⎪ ⎪⎢⎥⎣⎦⎝⎭⎝⎭，故可以取122232a 0a 0a 1⎛⎫⎛⎫⎪ ⎪= ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭，其对应主成分为： 23F X =，其贡献率为225%5.828420.1716=++；设30.1716λ=对应的单位特征向量为()132333a ,a ,a '，则它满足：1323330.828420a 02 4.82840a 000 1.8284a 0-⎡⎤⎛⎫⎛⎫⎪ ⎪⎢⎥-=⎪ ⎪⎢⎥ ⎪ ⎪⎢⎥⎣⎦⎝⎭⎝⎭，故可以取132333a 10.92391a 0.41420.38271.0824a 00⎛⎫⎛⎫⎛⎫⎪ ⎪ ⎪== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭，其对应主成分为： 312F 0.9239X 0.3827X =+，其贡献率为0.17162.14%5.828420.1716=++.7.3 设随机变量12X (X ,X )'=的协差阵为14,4100⎡⎤∑=⎢⎥⎣⎦试从∑和相关阵Ｒ出发求出总体主成分，并加以比较。
应用多元统计分析课后习题答案高惠璇第七章习题解答-20页PPT精选文档
解:
9
第七章 主成分分析
7-5 设3维总体X的协差阵为
试求总体主成分.
4 0 0
0 4 0
0 0 2
解:总体主成分为
Zi Xi(i1,2,3)
主成分向量为
Z ( X 1 ,X 2 ,X 3 ) 或 Z ( X 2 ,X 1 ,X 3 )
三个主成分的方差分别为4,4,2.
(01).
(1)
Z1 1p(X1X2Xp);
(2) 试求第一主成分的贡献率.
7
第七章 主成分分析
解:
1
8
第七章 主成分分析
7-4 设总体X＝(X1,…,Xp)′～Np(μ,Σ) (Σ＞0),等概率密度
椭球为
(X-μ)′Σ-1(X-μ)=C2(C为常数).
试问椭球的主轴方向是什么?
14 13
13 14 2
12
14
13
12 2
,
其中 1 21 31,421 4 21.3
试求X的主成分.
12
第七章 主成分分析
解:
13
第七章 主成分分析
7-8
14
第七章 主成分分析
15
第七章 主成分分析
7-9
16
其中ρ为X1和X2的相关系数(ρ>0). (1) 试从Σ出发求X
1
1
(2) 求X
(3) 试问当ρ取多大时才能使第一主成分的贡献率达95%以上.
解:
5
第七章 主成分分析
6
第七章 主成分分析
7-3 设p维总体X的协差阵为
21
1
(完整版)多元统计分析课后练习答案
第1章 多元正态分布1、在数据处理时，为什么通常要进行标准化处理？数据的标准化是将数据按比例缩放，使之落入一个小的特定区间。
在某些比较和评价的指标处理中经常会用到，去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。
其中最典型的就是0-1标准化和Z 标准化。
2、欧氏距离与马氏距离的优缺点是什么？欧氏距离也称欧几里得度量、欧几里得度量，是一个通常采用的距离定义，它是在m 维空间中两个点之间的真实距离。
在二维和三维空间中的欧氏距离的就是两点之间的距离。
缺点：就大部分统计问题而言，欧氏距离是不能令人满意的。
每个坐标对欧氏距离的贡献是同等的。
当坐标表示测量值时，它们往往带有大小不等的随机波动，在这种情况下，合理的方法是对坐标加权，使变化较大的坐标比变化较小的坐标有较小的权系数，这就产生了各种距离。
当各个分量为不同性质的量时，“距离”的大小与指标的单位有关。
它将样品的不同属性之间的差别等同看待，这一点有时不能满足实际要求。
没有考虑到总体变异对距离远近的影响。
马氏距离表示数据的协方差距离。
为两个服从同一分布并且其协方差矩阵为Σ的随机变量与的差异程度:如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧氏距离,如果协方差矩阵为对角阵,则其也可称为正规化的欧氏距离。
优点：它不受量纲的影响，两点之间的马氏距离与原始数据的测量单位无关。
由标准化数据和中心化数据计算出的二点之间的马氏距离相同。
马氏距离还可以排除变量之间的相关性的干扰。
缺点：夸大了变化微小的变量的作用。
受协方差矩阵不稳定的影响，马氏距离并不总是能顺利计算出。
3、当变量X1和X2方向上的变差相等，且与互相独立时，采用欧氏距离与统计距离是否一致？统计距离区别于欧式距离，此距离要依赖样本的方差和协方差，能够体现各变量在变差大小上的不同，以及优势存在的相关性，还要求距离与各变量所用的单位无关。
如果各变量之间相互独立,即观测变量的协方差矩阵是对角矩阵, 则马氏距离就退化为用各个观测指标的标准差的倒数作为权数的加权欧氏距离。
多元统计分析第三版课后练习题含答案
多元统计分析第三版课后练习题含答案1. 组间差异比较题目有两组数据，分别为A组和B组，经过检验发现两组数据的方差不相等，则应该使用那种方法进行比较？答案当两组数据的方差不相等时，应该使用Welch’s t检验方法进行比较，而不是常规的Student’s t检验方法。
2. 主成分分析题目主成分分析（PCA）是一种常用的数据降维方法。
在PCA分析中，如何选择主成分的个数？答案选择主成分的个数要根据实际情况而定。
一般来说，我们可以参考数据的累计方差贡献率，将累计贡献率大于80%的主成分选出来作为数据的主要特征，进而进行后续的数据分析处理。
3. 线性回归模型题目在线性回归模型中，如何衡量模型的拟合程度？答案模型的拟合程度可以通过R方（R-squared）值来衡量。
R方值越接近1，说明模型越拟合数据，反之则说明拟合程度不高。
但需要注意的是，仅仅使用R方值来衡量一个模型的好坏还不够，也需要考虑其它因素的影响，如是否存在共线性等问题。
4. 混淆矩阵题目什么是混淆矩阵（Confusion Matrix）？在分类问题中，混淆矩阵的作用是什么？答案混淆矩阵是用来评估分类模型的准确度，它可以将分类问题的结果与实际结果进行比较分析。
一般来说，混淆矩阵包含4个参数：真阳性（True Positive, TP）、假阳性（False Positive, FP）、真阴性（True Negative, TN）和假阴性（False Negative, FN）。
在分类问题中，混淆矩阵的作用主要有以下三个：1.衡量模型的质量。
通过混淆矩阵，我们可以计算出分类模型的准确率、精度、召回率等指标来评估模型的质量。
2.选择模型的阈值。
分类模型的阈值是指将不同的样本劃分到不同的分类中的界限值。
通过混淆矩阵，我们可以选择不同的阈值，以获得更好的模型表现。
3.确定模型需要改进的方面。
通过混淆矩阵，我们可以识别出模型中需要改进的方面，从而进一步优化模型。
多元统计分析课后练习答案
第1章 多元正态分布1、在数据处理时,为什么通常要进行标准化处理数据的标准化是将数据按比例缩放,使之落入一个小的特定区间;在某些比较和评价的指标处理中经常会用到,去除数据的单位限制,将其转化为无量纲的纯数值,便于不同单位或量级的指标能够进行比较和加权;其中最典型的就是0-1标准化和Z 标准化;2、欧氏距离与马氏距离的优缺点是什么欧氏距离也称欧几里得度量、欧几里得度量,是一个通常采用的距离定义,它是在m 维空间中两个点之间的真实距离;在二维和三维空间中的欧氏距离的就是两点之间的距离;缺点：就大部分统计问题而言,欧氏距离是不能令人满意的;每个坐标对欧氏距离的贡献是同等的;当坐标表示测量值时,它们往往带有大小不等的随机波动,在这种情况下,合理的方法是对坐标加权,使变化较大的坐标比变化较小的坐标有较小的权系数,这就产生了各种距离;当各个分量为不同性质的量时,“距离”的大小与指标的单位有关;它将样品的不同属性之间的差别等同看待,这一点有时不能满足实际要求;没有考虑到总体变异对距离远近的影响;马氏距离表示数据的协方差距离;为两个服从同一分布并且其协方差矩阵为Σ的随机变量与的差异程度:如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧氏距离,如果协方差矩阵为对角阵,则其也可称为正规化的欧氏距离;优点：它不受量纲的影响,两点之间的马氏距离与原始数据的测量单位无关;由标准化数据和中心化数据计算出的二点之间的马氏距离相同;马氏距离还可以排除变量之间的相关性的干扰;缺点：夸大了变化微小的变量的作用;受协方差矩阵不稳定的影响,马氏距离并不总是能顺利计算出;3、当变量X1和X2方向上的变差相等,且与互相独立时,采用欧氏距离与统计距离是否一致统计距离区别于欧式距离,此距离要依赖样本的方差和协方差,能够体现各变量在变差大小上的不同,以及优势存在的相关性,还要求距离与各变量所用的单位无关;如果各变量之间相互独立,即观测变量的协方差矩阵是对角矩阵, 则马氏距离就退化为用各个观测指标的标准差的倒数作为权数的加权欧氏距离;4、如果正态随机向量12(,,)p X X X X '=的协方差阵为对角阵,证明X 的分量是相互独立的随机变量;解： 因为12(,,)p X X X X '=的密度函数为 又由于21222p σσσ⎛⎫ ⎪ ⎪= ⎪ ⎪ ⎪⎝⎭Σ 则1(,...,)p f x x则其分量是相互独立;5.1y 和2y 是相互独立的随机变量,且1y ～）1,0（N ,2y ～）4,3（N ;（a ）求21y 的分布;（b ）如果⎥⎦⎤⎢⎣⎡-=2/)3(21y y y ,写出y y '关于1y 与2y 的表达式,并写出y y '的分布; （c ）如果⎥⎦⎤⎢⎣⎡=21y y y 且y ～∑），（μN ,写出∑-'1y y 关于1y 与2y 的表达式,并写出∑-'1y y 的分布;解：a 由于1y ～）1,0（N ,所以1y ～）1（2χ; b 由于1y ～）1,0（N ,2y ～）4,3（N ；所以232-y ～）1,0（N ；故2221)23(-+='y y y y ,且y y '～）2（2χ第2章 均值向量和协方差阵的检验1、略2、试谈Wilks 统计量在多元方差分析中的重要意义;3、题目此略多元均值检验,从题意知道,容量为9的样本 ,总体协方差未知假设H0：0μμ= , H1：0μμ≠ n=9 p=5检验统计量/n-1)()(0102μμ-'-=-X S X n T 服从P,n-1的2T 分布 统计量2T 实际上是样本均值与已知总体均值之间的马氏距离再乘以nn-1,这个值越大,相等的可能性越小,备择假设成立时,2T 有变大的趋势,所以拒绝域选择2T 值较大的右侧部分,也可以转变为F 统计量零假设的拒绝区域 {n-p/n-1p}2T >,()p n p F α-1/102T >F5,45μ0= 2972 ’样本均值 ’样本均值-μ0’=协方差矩阵降维——因子分析——抽取Inter-Item Covariance Matrix人均GDP元三产比重%人均消费元人口增长%文盲半文盲%人均GDP元三产比重%人均消费元人口增长%文盲半文盲%协方差的逆矩阵计算：2T=9s^-1 ’F统计量=> 拒绝零假设,边缘及少数民族聚居区的社会经济发展水平与全国平均水平有显着差异;4、略第3章聚类分析1.、聚类分析的基本思想和功能是什么聚类分析的基本思想是研究的样品或指标之间存着程度不同的相似性,于是根据一批样品的多个观测指标,具体找出一些能够度量样品或指标之间的相似程度的统计量,以这些统计量作为划分类型的依据,把一些相似程度较大的样品聚合为一类,把另外一些彼此之间相似程度较大的样品又聚合为另外一类,直到把所有的样品聚合完毕,形成一个有小到大的分类系统,最后再把整个分类系统画成一张分群图,用它把所有样品间的亲疏关系表示出来;功能是把相似的研究对象归类;2、试述系统聚类法的原理和具体步骤;系统聚类是将每个样品分成若干类的方法,其基本思想是先将各个样品各看成一类,然后规定类与类之间的距离,选择距离最小的一对合并成新的一类,计算新类与其他类之间的距离,再将距离最近的两类合并,这样每次减少一类,直至所有的样品合为一类为止; 具体步骤：1、对数据进行变换处理；不是必须的,当数量级相差很大或指标变量具有不同单位时是必要的2、构造n个类,每个类只包含一个样本；3、计算n个样本两两间的距离ijd；4、合并距离最近的两类为一新类；5、计算新类与当前各类的距离,若类的个数等于1,转到6；否则回4；6、画聚类图；7、决定类的个数,从而得出分类结果;3、试述K-均值聚类的方法原理;K-均值法是一种非谱系聚类法,把每个样品聚集到其最近形心均值类中,它是把样品聚集成K个类的集合,类的个数k可以预先给定或者在聚类过程中确定,该方法应用于比系统聚类法大得多的数据组;步骤是把样品分为K个初始类,进行修改,逐个分派样品到期最近均值的类中通常采用标准化数据或非标准化数据计算欧氏距离重新计算接受新样品的类和失去样品的类的形心;重复这一步直到各类无元素进出;4、试述模糊聚类的思想方法;模糊聚类分析是根据客观事物间的特征、亲疏程度、相似性,通过建立模糊相似关系对客观事物进行聚类的分析方法,实质是根据研究对象本身的属性构造模糊矩阵,在此基础上根据一定的隶属度来确定其分类关系;基本思想是要把需要识别的事物与模板进行模糊比较,从而得到所属的类别;简单地说,模糊聚类事先不知道具体的分类类别,而模糊识别是在已知分类的情况下进行的;模糊聚类分析广泛应用在气象预报、地质、农业、林业等方面;它有两种基本方法:系统聚类法和逐步聚类法;该方法多用于定性变量的分类;5、略第4章判别分析1、应用判别分析应该具备什么样的条件答：判别分析最基本的要求是,分组类型在两组以上,每组案例的规模必须至少在一个以上,解释变量必须是可测量的,才能够计算其平均值和方差;对于判别分析有三个假设：1每一个判别变量不能是其他判别变量的线性组合;有时一个判别变量与另外的判别变量高度相关,或与其的线性组合高度相关,也就是多重共线性;2各组变量的协方差矩阵相等;判别分析最简单和最常用的的形式是采用现行判别函数,他们是判别变量的简单线性组合,在各组协方差矩阵相等的假设条件下,可以使用很简单的公式来计算判别函数和进行显着性检验;3各判别变量之间具有多元正态分布,即每个变量对于所有其他变量的固定值有正态分布,在这种条件下可以精确计算显着性检验值和分组归属的概率;2、试述贝叶斯判别法的思路;答：贝叶斯判别法的思路是先假定对研究的对象已有一定的认识,常用先验概率分布来描述这种认识,然后我们取得一个样本,用样本来修正已有的认识先验概率分布,得到后验概率分布,各种统计推断都通过后验概率分布来进行;将贝叶斯判别方法用于判别分析,就得到贝叶斯判别;3、试述费歇判别法的基本思想;答：费歇判别法的基本思想是将高维数据点投影到低维空间上来,然而利用方差分析的思想选出一个最优的投影方向;因此,严格的说费歇判别分析本身不是一种判别方法,只是利用费歇统计量进行数据预处理的方法,以使更有利于用判别分析方法解决问题;为了有利于判别,我们选择投影方向a应使投影后的k个一元总体能尽量分开同一总体中的样品的投影值尽量靠近;k要做到这一点,只要投影后的k个一元总体均值有显着差异,即可利用方差分析的方法使组间平方和尽可能的大;则选取投影方向a使Δa达极大即可;4、什么是逐步判别分析答：具有筛选变量能力的判别方法称为逐步判别分析法;逐步判别分析法就是先从所有因子中挑选一个具有最显着判别能力的因子,然后再挑选第二个因子,这因子是在第一因子的基础上具有最显着判别能力的因子,即第一个和第二个因子联合起来有显着判别能力的因子；接着挑选第三个因子,这因子是在第一、第二因子的基础上具有最显着判别能力的因子;由于因子之间的相互关系,当引进了新的因子之后,会使原来已引入的因子失去显着判别能力;因此,在引入第三个因子之后就要先检验已经引入的因子是否还具有显着判别能力,如果有就要剔除这个不显着的因子；接着再继续引入,直到再没有显着能力的因子可剔除为止,最后利用已选中的变量建立判别函数;5、简要叙述判别分析的步骤及流程答：1研究问题：选择对象,评估一个多元问题各组的差异,将观测个体归类,确定组与组之间的判别函数;2设计要点：选择解释变量,样本量的考虑,建立分析样本的保留样本;3假定：解释变量的正态性,线性关系,解释变量间不存在多重共线性,协方差阵相等;4估计判别函数：联立估计或逐步估计,判别函数的显着性;5使用分类矩阵评估预测的精度：确定最优临界得分,确定准则来评估判对比率,预测精确的统计显着性;6判别函数的解释：需要多少个函数;评价单个函数主要从判别权重、判别载荷、偏F值几个方面；评价两个以上的判别函数,分为评价判别的函数和评价合并的函数;7判别结果的验证：分开样本或交叉验证,刻画组间的差异;6、略第5章主成分分析1、主成分的基本思想是什么在对某一事物进行实证研究时,为更全面、准确地反映事物的特征及其发展规律,往往考虑与其有关的多个指标,在多元统计中也称为变量;一方避免遗漏重要信息而考虑尽可能多的指标看,另一方面考虑指标的增多,又难以避免信息重叠;希望涉及的变量少,而得到的信息量有较多;主成分的基本思想是研究如何通过原来的少数几个线性组合来解释原来变量绝大多数信息的一种多元统计方法;研究某一问题涉及的众多变量之间有一定的相关性,必然存在着支配作用的公共因素;通过对原始变量相关矩阵或协方差矩阵内部结构关系的研究,利用原始变量的线性组合形成几个无关的综合指标主成分来代替原来的指标;通常数学上的处理就是将原来P个指标作线性组合,作为新的综合指标;最经典的做法就是用F1选取的第一个线性组合,即第一个综合指标的方差来表达,即VarF1越大,表示F1包含的信息越多;因此在所有的线性组合中选取的F1应该是方差最大的,故称F1为第一主成分,如果第一主成分不足以代表原来P个指标的信息,再考虑选取F2即选第二个线性组合,为了有效地反映原来信息,F1已有的信息就不需要再出现在F2中,用数学语言表达就是要求CovF1,F2=0则称F2为第二主成分,依此类推可以构造出第三、第四······,第P个主成分;2、主成分在应用中的主要作用是什么作用：利用原始变量的线性组合形成几个综合指标主成分,在保留原始变量主要信息的前提下起到降维与简化问题的作用,使得在研究复杂问题时更容易抓住主要矛盾;通过主成分分析,可以从事物之间错综复杂的关系中找出一些主要成分,从而能有效利用大量数据进行定量分析,解释变量之间的内在关系,得到对事物特征及其发展规律的一些深层次的启发,把研究工作引向深入;主成分分析能降低所研究的数据空间的维数,有时可通过因子载荷aij的结论,弄清X变量间的某些关系,多维数据的一种图形表示方法,用主成分分析筛选变量,可以用较少的计算量来选择,获得选择最佳变量子集合的效果;3.由协方差阵出发和由相关阵出发求主成分有什么不同1由协方差阵出发设随即向量X=X1,X2,X3,……Xp’的协方差矩阵为Σ,1≥2≥……≥p为Σ的特征值,γ1,γ2,……γp为矩阵A各特征值对应的标准正交特征向量,则第i个主成分为Yi=γ1iX1+γ2iX2+……+γpiXp,i=1,2,……,p此时VARYi=i,ＣＯＶＹｉ,Ｙｊ＝０,ｉ≠ｊ我们把X1,X2,X3,……Xp的协方差矩阵Σ的非零特征根1≥2≥……≥p＞0向量对应的标准化特征向量γ1,γ2,……γp分别作为系数向量,Y1=γ1’X, Y2=γ2’X,……, Yp=γp’X分别称为随即向量X的第一主成分,第二主成分……第p主成分;Y的分量Y1,Y2,……,Yp依次是X的第一主成分、第二主成分……第p主成分的充分必要条件是：1Y=P’X,即P为p阶正交阵,2Y的分量之间互不相关,即DY=diag1,2,……,p,3Y的p个分量是按方差由大到小排列,即1≥2≥……≥p;2由相关阵出发对原始变量X进行标准化,Z=Σ^1/2^-1X-μ covZ=R原始变量的相关矩阵实际上就是对原始变量标准化后的协方差矩阵,因此,有相关矩阵求主成分的过程与主成分个数的确定准则实际上是与由协方差矩阵出发求主成分的过程与主成分个数的确定准则相一致的;λi,γi 分别表示相关阵R的特征根值与对应的标准正交特征向量,此时,求得的主成分与原始变量的关系式为：Yi=γi’Z=γi’Σ^1/2^-1X-μ在实际研究中,有时单个指标的方差对研究目的起关键作用,为了达到研究目的,此时用协方差矩阵进行主成分分析恰到好处;有些数据涉及到指标的不同度量尺度使指标方差之间不具有可比性,对于这类数据用协方差矩阵进行主成分分析也有不妥;相关系数矩阵计算主成分其优势效应仅体现在相关性大、相关指标数多的一类指标上;避免单个指标方差对主成分分析产生的负面影响,自然会想到把单个指标的方差从协方差矩阵中剥离,而相关系数矩阵恰好能达到此目的;4、略第6章因子分析1、因子分析与主成分分析有什么本质不同答：1因子分析把诸多变量看成由对每一个变量都有作用的一些公共因子和一些仅对某一个变量有作用的特殊因子线性组合而成,因此,我们的目的就是要从数据中探查能对变量起解释作用的公共因子和特殊因子,以及公共因子和特殊因子的线性组合;主成分分析则简单一些,它只是从空间生成的角度寻找能解释诸多变量绝大部分变异的几组彼此不相关的新变量2因子分析中,把变量表示成各因子的线性组合,而主成分分析中,把主成分表示成各变量的线性组合3主成分分析中不需要有一些专门假设,因子分析则需要一些假设,因子分析的假设包括：各个因子之间不相关,特殊因子之间不相关,公共因子和特殊因子之间不相关;4在因子分析中,提取主因子的方法不仅有主成分法,还有极大似然法等,基于这些不同算法得到的结果一般也不同;而主成分分析只能用主成分法提取;5主成分分析中,当给定的协方差矩阵或者相关矩阵的特征根唯一时,主成分一般是固定；而因子分析中,因子不是固定的,可以旋转得到不同的因子;6在因子分析中,因子个数需要分析者指定,结果随指定的因子数不同而不同;在主成分分析中,主成分的数量是一定的,一般有几个变量就有几个主成分; 7与主成分分析相比,由于因子分析可以使用旋转技术帮助解释因子,在解释方面更加有优势;而如果想把现有的变量变成少数几个新的变量新的变量几乎带有原来所有变量的信息来进行后续的分析,则可以使用主成分分析;2、因子载荷ij a 的统计定义是什么它在实际问题的分析中的作用是什么答：1因子载荷ij a 的统计定义：是原始变量i X 与公共因子j F 的协方差,i X 与j F ),...,2,1;,...,2,1(m j p i ==都是均值为0,方差为1的变量,因此ij a 同时也是i X 与j F 的相关系数;（2）记),,...,2,1(...222212m j a a a g pjj j j =+++=则2j g 表示的是公共因子j F 对于X 的每一分量),...,2,1(p i X i =所提供的方差的总和,称为公共因子j F 对原始变量X 的方贡献,它是衡量公共因子相对重要性的指标;2j g 越大,表明公共因子j F 对i X 的贡献越大,或者说对X的影响作用就越大;如果因子载荷矩阵对A 的所有的),...,2,1(2m j g j =都计算出来,并按大小排序,就可以依此提炼出最有影响的公共因子;3、略第7章 对应分析1、试述对应分析的思想方法及特点;思想：对应分析又称为相应分析,也称R —Q 分析;是因子分子基础发展起来的一种多元统计分析方法;它主要通过分析定性变量构成的列联表来揭示变量之间的关系;当我们对同一观测数据施加R 和Q 型因子分析,并分别保留两个公共因子,则是对应分析的初步;对应分析的基本思想是将一个联列表的行和列中各元素的比例结构以点的形式在较低维的空间中表示出来;它最大特点是能把众多的样品和众多的变量同时作到同一张图解上,将样品的大类及其属性在图上直观而又明了地表示出来,具有直观性;另外,它还省去了因子选择和因子轴旋转等复杂的数学运算及中间过程,可以从因子载荷图上对样品进行直观的分类,而且能够指示分类的主要参数主因子以及分类的依据,是一种直观、简单、方便的多元统计方法;特点：对应分析的基本思想是将一个联列表的行和列中各元素的比例结构以点的形式在较低维的空间中表示出来;它最大特点是能把众多的样品和众多的变量同时作到同一张图解上,将样品的大类及其属性在图上直观而又明了地表示出来,具有直观性;另外,它还省去了因子选择和因子轴旋转等复杂的数学运算及中间过程,可以从因子载荷图上对样品进行直观的分类,而且能够指示分类的主要参数主因子以及分类的依据,是一种直观、简单、方便的多元统计方法;2、试述对应分析中总惯量的意义;总惯量不仅反映了行剖面集定义的各点与其重心加权距离的总和,同时与2x 统计量仅相差一个常数,而2x 统计量反映了列联表横联与纵联的相关关系,因此总惯量也反映了两个属性变量各状态之间的相关关系;对应分析就是在对总惯量信息损失最小的前提下,简化数据结构以反映两属性变量之间的相关关系;3、略 第8章 典型相关分析1、试述典型相关分析的统计思想及该方法在研究实际问题中的作用;答： 典型相关分析是研究两组变量之间相关关系的一种多元统计方法;用于揭示两组变 量之间的内在联系;典型相关分析的目的是识别并量化两组变量之间的联系;将两z |Uz |V 组变量相 关关系的分析转化为一组变量的线性组合与另一组变量线性组合之间的相关关系;基本思想：1在每组变量中找出变量的线性组合,使得两组的线性组合之间具有最大的相关系数;即：X X 1, X 2, , , X p 、XX 1, X 2, , , X q 是两组相互关联的随机变量,分别在两组变量中选取若干有代表性的综合变量 U i 、Vi,使是原变量的线性组合;U i a 1X 1 a 2 X 2..... a P X P ≡ a ‘XV i b 1Y 1 b 2 Y 2 .... b q Y q ≡ b‘Y 在 D aX D bX 1 的条件下,使得 aX , bX 达到最大;2选取和最初挑选的这对线性组合不相关的线性组合,使其配对,并选取相关系数最大的一对;（3）如此继续下去,直到两组变量之间的相关性被提取完毕为此;其作用为：进行两组变量之间的相关性分析,用典型相关系数衡量两组变量之间的相关性;2、简述典型相关分析中冗余分析的内容及作用;答：典型型冗余分析的作用即分析每组变量提取出的典型变量所能解释的该组样本总方差的比 例,从而定量测度典型变量所包含的原始信息量;第一组变量样本的总方差为 t r R 11 p ,第二组变量样本的总方差为 t r R 22 q ;*A ˆz和*B ˆz 是样本典型相关系数矩阵,典型系数向量是矩阵的行向量, Z z z **A ˆU ˆ=,Z z z **B ˆV ˆ=前 r 对典型变量对样本总方差的贡献为则第一组样本方差由前 r 个典型变量解释的比例为：第二组样本方差由前 r 个典型变量解释的比例为：3、典型变量的解释有什么具体方法实际意义是什么答：主要使用三种方法：1典型权重标准相关系数：传统的解释典型函数的方法包括观察每个原始变量在它的典型变量中的典型权重,即标准化相关系数StandardizedCanonical Coefficients 的符号和大小;有较大的典型权重,则说明原始变量对它的典型变量的贡献较大,反之则相反;原始变量的典型权重有相反的符号说明变量之间存在一种反面关系,反之则有正面关系;但是这种解释遭到了很多批评;这些问题说明在解释典型相关的时候应慎用典型权重;（2）典型载荷结构系数：由于典型载荷逐步成为解释典型相关分析结果的基础;典型载荷分析,即典型结构分析Canonical Structure Analyse,是原始变量自变量或者因变量与它的典型变量间的简单线性相关系数;典型载荷反映原始变量与典型变量的共同方差,它的解释类似于因子载荷,就是每个原始变量对典型函数的相对贡献;（3）典型交叉载荷交叉结构系数：它的提出时作为典型载荷的替代,也属于典型结构分析;计算典型交叉载荷包括每个原始因变量与自变量典型变量直接相关,反之亦然;交叉载荷提供了一个更直接地测量因变量组与自变量组之间的关系的指标;实际意义：即使典型相关系数在统计上是显着的,典型根和冗余系数大小也是可接受的,研究者仍需对结果做大量的解释;这些解释包括研究典型函数中原始变量的相对重要性;4.、略。
朱建平-应用多元统计分析课后答案解析
第二章2.1.试叙述多元联合分布和边际分布之间的关系。
解：多元联合分布讨论多个随机变量联合到一起的概率分布状况，12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数，而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布，其概率密度函数的维数小于p 。
2.2设二维随机向量12()X X '服从二元正态分布，写出其联合分布。
解：设12()X X '的均值向量为()12μμ'=μ，协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭，则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。
2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=-- 其中1a x b ≤≤，2c x d ≤≤。
求（1）随机变量1X 和2X 的边缘密度函数、均值和方差； （2）随机变量1X 和2X 的协方差和相关系数； （3）判断1X 和2X 是否相互独立。
（1）解：随机变量1X 和2X 的边缘密度函数、均值和方差；112121222[()()()()2()()]()()()dx cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()dd c c d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰ 121222202()()2[()2()]()()()()dd c c d c x a x b a t x a t dt b a d c b a d c ------=+----⎰ 2212122222()()[()2()]1()()()()d cdc d c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布，则均值为2b a+，方差为()212b a -。
多元统计分析课后练习答案.doc
第1章 多元正态分布1、在数据处理时，为什么通常要进行标准化处理？数据的标准化是将数据按比例缩放，使之落入一个小的特定区间。
在某些比较和评价的指标处理中经常会用到，去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。
其中最典型的就是0-1标准化和Z 标准化。
2、欧氏距离与马氏距离的优缺点是什么？欧氏距离也称欧几里得度量、欧几里得度量，是一个通常采用的距离定义，它是在m 维空间中两个点之间的真实距离。
在二维和三维空间中的欧氏距离的就是两点之间的距离。
缺点：就大部分统计问题而言，欧氏距离是不能令人满意的。
每个坐标对欧氏距离的贡献是同等的。
当坐标表示测量值时，它们往往带有大小不等的随机波动，在这种情况下，合理的方法是对坐标加权，使变化较大的坐标比变化较小的坐标有较小的权系数，这就产生了各种距离。
当各个分量为不同性质的量时，“距离”的大小与指标的单位有关。
它将样品的不同属性之间的差别等同看待，这一点有时不能满足实际要求。
没有考虑到总体变异对距离远近的影响。
马氏距离表示数据的协方差距离。
为两个服从同一分布并且其协方差矩阵为Σ的随机变量与的差异程度:如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧氏距离,如果协方差矩阵为对角阵,则其也可称为正规化的欧氏距离。
优点：它不受量纲的影响，两点之间的马氏距离与原始数据的测量单位无关。
由标准化数据和中心化数据计算出的二点之间的马氏距离相同。
马氏距离还可以排除变量之间的相关性的干扰。
缺点：夸大了变化微小的变量的作用。
受协方差矩阵不稳定的影响，马氏距离并不总是能顺利计算出。
3、当变量X1和X2方向上的变差相等，且与互相独立时，采用欧氏距离与统计距离是否一致？统计距离区别于欧式距离，此距离要依赖样本的方差和协方差，能够体现各变量在变差大小上的不同，以及优势存在的相关性，还要求距离与各变量所用的单位无关。
如果各变量之间相互独立,即观测变量的协方差矩阵是对角矩阵, 则马氏距离就退化为用各个观测指标的标准差的倒数作为权数的加权欧氏距离。
北师大应用多元统计分析作业——主成分分析
应用多元统计分析作业（一）——主成分分析 8‐1：用主成分分析方法探讨城市工业主体结构。
解：执行SAS程序代码：data dxiti81;input number x1-x8;cards;1 90342 52455 101091 19272 82 16.1 197435 0.1722 4903 1973 2035 10313 34.2 7.1 592077 0.0033 6735 21139 3767 1780 36.1 8.2 726396 0.0034 49454 36241 81557 22504 98.1 25.9 348226 0.9855 139190 203505 215898 10609 93.2 12.6 139572 0.6286 12215 16219 10351 6382 62.5 8.7 145818 0.0667 2372 6572 8103 12329 184.4 22.2 20921 0.1528 11062 23078 54935 23804 370.4 41 65486 0.2639 17111 23907 52108 21796 221.5 21.5 63806 0.27610 1206 3930 6126 15586 330.4 29.5 1840 0.43711 2150 5704 6200 10870 184.2 12 8913 0.27412 5251 6155 10383 16875 146.4 27.5 78796 0.15113 14341 13203 19396 14691 94.6 17.8 6354 1.574;proc princomp data=dxiti81 out=oxiti81;var x1-x8;run;proc sort data=oxiti81;by prin1;proc print;id number;var prin1;run;proc sort data=oxiti81;by prin2;proc print;id number;var prin2;run;proc sort data=oxiti81;by prin3;proc print;id number;var prin3;run;proc plot;plot prin2*prin1=number;run;proc cluster data=oxiti81 method=ave pseudo ccc outtree=tr81;var x1-x8;id number;proc tree data=tr81 horizontal graphics;run;结果分析：◆我们使用原始数据的相关系数矩阵计算特征根矩阵。
《应用多元统计分析》各章作业题及部分参考答案
60.6
16.5
2 76
58.1
12.5
3 92
63.2
14.5
4 81
59.0
14.0
5 81
60.8
15.5
6 84
59.5
14.0
解：作如下假设 H0 : μ = μ0 , H1 : μ ≠ μ0
经计算，求的样本均值向量 x = (82.0, 60.2,14.5) ' ，x − μ0 = (−8, 2.2, −1.5) ' ，样本协差阵
x2
+
1 2
x3
+
1 2
x4 。
（2）第一主成分的贡献率为
λ1
+
λ2
λ1 +
λ3
+ λ4
= 1+ 3ρ 4
≥ 95% ，得 ρ
≥ 0.933 。
第 7 章 因子分析
1、设 x = (x1, x2 , x3 )′ 的相关系数矩阵通过因子分析分解为
⎛ ⎜
1
⎜
R
=
⎜ ⎜
−1 3
⎜ ⎜⎜⎝
2 3
−1 3 1
54.58
11.67
产品净值率 10.7
6.2
21.41
11.67
7.90
2、 设 G1, G2 , G3 三个组，欲判别某样品 x0 属于何组，已知 p1 = 0.05, p2 = 0.65, p3 = 0.3,
应用多元统计分析
pofeel@
3
f1 (x0 ) = 0.10, f2 (x0 ) = 0.63, f3 (x0 ) = 2.4 ，假定误判代价矩阵为：
⎢⎣ 4.5 ⎥⎦
应用多元统计分析章节后习题答案详解北大高惠璇八章节习题解答
第八章 因子分析
m1 lm 1 0 m 1 BB ( m1 lm1 ,, p l p ) p l 0 p p
故
j m 1
因
p
2 j
tr(BB BB ) tr(BB BB) tr[(E D)( E D)] tr[E E E D DE DD] Q(m) 0 0 ( i2 ) 2
(
i 1 2 2 2 2
p
2 2 i
)
2 2 3
Q(1) ( ) [( ) ( ) ( ) ] 2 2 0.6795 0.3672 [0.2331 0.3091 0.4943 ] 0.5966 0.3943 0.2023 2 2 2 2 2 Q(2) 3 [( 12 ) 2 ( 2 ) ( 3 ) ] 2 2 2 2 0.3672 [0.2007 0.1452 0.01131 ] 0.1348 0.06149 0.07331
18
(2) ( AA D) 1 D 1 D 1 A( I AD 1 A) 1 A1 D 1 ; (3) A( AA D) 1 ( I m AD 1 A) 1 AD 1. 解：利用分块矩阵求逆公式求以下分块矩阵的逆：
记B221 I m AD A,
1 1 1 21 A B112 B221 A D B
I m AB
A B
1 221
B
22
把B22· 1和B11· 2式代入以上各式，可得：
( D AA) 1 D 1 D 1 A( I m AD 1 A) 1 AD 1 A( D AA) 1 ( I m AD 1 A) 1 AD 1 I m A( D AA) 1 A ( I m AD 1 A) 1 (3) ( 2)
应用多元统计分析课后习题答案高惠璇第七章习题解答共20页
第七章 主成分分析
17
第七章 主成分分析
7-10
18
第七章 主成分分析
77--1112
19
谢谢
解:
9
第七章 主成分分析
7-5 设3维总体X的协差阵为
试求总体主成分.
4 0 0
0 4 0
0 0 2
解:总体主成分为
Zi Xi(i1,2,3)
主成分向量为
Z ( X 1 ,X 2 ,X 3 ) 或 Z ( X 2 ,X 1 ,X 3 )
三个主成分的方差分别为4,4,2.
(01).
(1)
Z1 1p(X1X2Xp);
(2) 试求第一主成分的贡献率.
7
第七章 主成分分析
解:
1
8
第七章 主成分分析
7-4 设总体X＝(X1,…,Xp)′～Np(μ,Σ) (Σ＞0),等概率密度
椭球为
(X-μ)′Σ-1(X-μ)=C2(C为常数).
试问椭球的主轴方向是什么?
14 13
13 14 2
12
14
13
12 2
,
其中 1 21 31,421 4 21.3
试求X的主成分.
12
第七章 主成分分析
解:
13
第七章 主成分分析
7-8
14
第七章 主成分分析
15
第七章 主成分分析
7-9
16
10
第七章 主成分分析
7-6
设3维总体X的协差阵为
2 2
2 2
0
2
0 2 2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
主成分分析6.1 试述主成分分析的基本思想。
答：我们处理的问题多是多指标变量问题，由于多个变量之间往往存在着一定程度的相关性，人们希望能通过线性组合的方式从这些指标中尽可能快的提取信息。
当第一个组合不能提取止。
这就是主成分分析的基本思想。
6.2 主成分分析的作用体现在何处？答：一般说来，在主成分分析适用的场合，用较少的主成分就可以得到较多的信息量。
以各个主成分为分量，就得到一个更低维的随机向量；主成分分析的作用就是在降低数据“维数”6.3 简述主成分分析中累积贡献率的具体含义。
答：主成分分析把p 个原始变量12,,,p X X X L 的总方差()tr Σ分解成了p 个相互独立的变量p 个主成分的，忽略一些带有较小方差的主成分将不会给总方差带来太大的影响。
这里我们()m p <个主成分，则称11pmm kkk k ψλλ===∑∑ 为主成分1,,m Y YL 的累计贡献率，累计贡献率表明1,,m Y Y L 综合12,,,p X X X L 的能力。
通常取m ，使得累计贡献率达到一个较高的百分数（如85％以上）。
答：这个说法是正确的。
即原变量方差之和等于新的变量的方差之和6.5 试述根据协差阵进行主成分分析和根据相关阵进行主成分分析的区别。
答：从相关阵求得的主成分与协差阵求得的主成分一般情况是不相同的。
从协方差矩阵出发的，其结果受变量单位的影响。
主成分倾向于多归纳方差大的变量的信息，对于方差小的变量就可能体现得不够，也存在“大数吃小数”的问题。
实际表明，这种差异有时很大。
我6.6 已知X =()’的协差阵为试进行主成分分析。
解：=0计算得当时，同理，计算得时，易知相互正交单位化向量得，,综上所述，第一主成分为第二主成分为第三主成分为6.7 设X=()’的协方差阵(p为, 0<p<1证明：为最大特征根，其对应的主成分为。
证明：==,为最大特征根当时，=所以，6.8利用主成分分析法，综合评价六个工业行业的经济效益指标。
行业名称资产总计固定资产净值平均余额产品销售收入利润总额煤炭开采和选业6917.2 3032.7 683.3 61.6石油和天然气开采业 5675.9 3926.2 717.5 33877 黑色金属矿采选业 768.1 221.2 96.5 13.8 有色金属矿采选业 622.4 248 116.4 21.6 非金属矿采选业 699.9 291.5 84.9 6.2 其它采矿业 1.6 0.5 0.3 0解:令资产总计为X1，固定资产净值平均余额为X2，产品销售收入为X3，利润总额为X4，用SPSS 对这六个行业进行主成分分析的方法如下：1. 在SPSS 窗口中选择Analyze →Data Reduction →Factor 菜单项，调出因子分析主界面，并将变量15X X -移入Variables 框中，其他均保持系统默认选项，单击OK 按钮，执行因子分析过程（关于因子分子在SPSS 中实现的详细过程，参见7.7）。
得到如表6.1所示的特征根和方差贡献率表和表6.2所示的因子载荷阵。
第一个因子就可以解释86.5%表6.1 特征根和方差贡献率表表6.2 因子载荷阵2. 将表6.2中因子载荷阵中的数据输入SPSS 数据编辑窗口，命名为a 1。
点击菜单项中的Transform →Compute ，调出Compute variable 对话框，在对话框中输入等式： z 1=a 1 / SQRT (3.46)，计算第一个特征向量。
点击OK 按钮，即可在数据编辑窗口中得到以z 1为变量名的第一特征向量。
z1 x1 0.509 x2 0.537 x3 0.530 x40.413根据表6.3得主成分的表达式：4413.03530.02537.01509.0Y1X X X X +++=3. 再次使用Compute 命令，调出Compute variable 对话框，在对话框中输入等式：4*413.03*53.02*537.01*509.0y1xxxx+++=根据六个工业行业计算所的y1的大小可得石油和天然气开采业的经济效益最好，煤炭开采和选业其次，接着依次是黑色金属、非金属、有色金属和其他采矿业。
6.9 下表是我国2003年各地区农村居民家庭平均每人主要食品消费量，试用主成分方法对地区粮食蔬菜食油猪牛羊肉家禽蛋类及其制品水产品食糠酒北京134.05 92.78 9.15 14.6 2.17 10.13 4.25 2.92 14.42天津150.2 69.99 10 11.07 0.84 10.8 8.35 0.72 10.14河北216.72 55.97 6.59 7.1 0.54 6.36 2.25 0.65 7.29山西218.91 80.87 5.72 5.36 0.24 6.15 0.47 1.15 2.59内蒙207.3 70.77 2.79 21.18 1.41 3.82 1.45 1.34 10.77辽宁194.39 178.59 5.9 16.45 2.51 9.59 4.49 0.73 10.8吉林255.99 115.2 6.27 11.42 3.23 8.64 3.6 0.75 13.64黑龙江195.08 111.7 7.62 7.85 2.61 6.26 3.35 0.9 15.09上海189.44 76.6 8.59 16.37 7.4 7.51 16.11 2.12 16.77江苏251.98 109.12 8.27 12.05 4.5 6.72 9.09 1.3 8.82浙江208.46 83.91 5.81 16.42 6.03 5.33 14.64 2.13 24.15安徽228.35 80.97 6.87 9.07 4.27 5.04 5.43 1.42 10.61福建198.27 99.92 5.19 16.51 5.14 3.55 13.3 2.35 16.84江西264.8 144.22 8.77 13.24 3.31 3.5 5.19 1.13 7.31山东229.06 118.19 6.96 8.09 2.7 11.61 4.01 1 10.81河南236.97 100.11 4.22 6.48 1.23 8.01 1.35 1.13 4.23湖南227.39 159.76 9.4 19.86 2.74 3.86 8.1 0.92 7.29湖北247.21 149.44 8.35 17.51 3.89 3.28 6.89 1.13 4.02广东233.75 130.22 6.73 22.27 10.4 2.83 13.3 2.16 3.33广西205.65 108.94 4.92 14.44 7.33 1.12 3.57 1.18 6.14海南236.31 86.61 5.7 15.4 9.77 1.31 14.75 1.24 3.88x6，水产品为x7，食糠为x8，酒为x9，用SPSS进行主成分分析的具体方法参见6.8，分析结果如下：表6.4 特征根和方差贡献率表表6.5 因子载荷阵表6.6 特征向量矩阵z1z2z3x1 0.001169 -0.55035 -0.00518 x2 0.054359 -0.32014 0.616746 x3 0.005261 0.185239 0.697829 x4 0.455914 -0.07584 0.167341 x5 0.509689 -0.14229 -0.05521 x6 -0.32908 0.408063 0.269126 x7 0.500921 0.118795 0.112136 x8 0.388112 0.332893 -0.13025 x90.140866 0.4933 -0.01984根据表6.6得主成分的表达式：9141.08388.07501.06329.0551.04456.03005.02054.01001.01X X X X X X X X X Y +++-++++=9493.08333.07119.06408.05142.04076.03185.0232.0155.02X X X X X X X X X Y ++++--+--=902.08130.07112.06269.05055.04167.03698.02617.01005.03X X X X X X X X X Y --++-+++-=分别计算出以上三项后，利用公式321321Y Y Y Y ∑∑∑++=λλλλλλ得到综合得分并排序如下表：地区y1 y2 y3 y 北京 14.92 -90.42 67.81 -10.16 天津 11.80 -93.48 54.76 -15.31 上海 24.39 -115.46 57.85 -16.51 福建 24.55 -129.93 68.56 -19.17 浙江 25.14 -126.00 59.51 -19.43 辽宁 19.55 -154.56 118.72 -19.47 黑龙江 13.27 -131.90 76.07 -23.38 湖南 23.53 -169.91 108.84 -24.97 广东 29.80 -167.06 88.93 -25.29 广西19.18-144.89 72.06 -25.99内蒙15.93 -130.47 48.84 -27.33海南24.93 -154.57 60.04 -29.19山东11.81 -152.64 81.06 -30.09湖北21.71 -179.61 100.93 -30.74安徽14.06 -143.12 56.46 -30.92江苏18.07 -164.93 76.08 -32.51河北7.10 -129.83 40.94 -32.73山西 6.20 -141.44 55.18 -34.15吉林14.54 -166.90 78.26 -34.32江西18.74 -185.62 97.04 -34.94河南8.32 -156.36 66.62 -35.93最后的分类可以根据最终得分Y的值来划分，由于没有给出具体的分类标准，具体分类结果根据各人的主观意愿可以有多种答案。
6.10 根据习题5.10中2003年我国省会城市和计划单列市的主要经济指标数据，利用主成分分析法对这些地区进行分类。
解：用SPSS进行主成分分析的具体方法参见6.8，分析结果如下：表6.7 特征根和方差贡献率表表6.8 因子载荷阵表6.6 特征向量矩阵z1 z2x1 0.29 0.47x2 0.28 0.48x3 0.14 -0.29x4 0.31 -0.37x5 0.40 -0.20x6 0.40 -0.27x7 0.31 0.39x8 0.39 0.12x9 0.39 -0.24青岛35237.27 14552.46 28597.44 大连31830.56 17629.53 27272.03 济南25149.73 16499.39 22372.97 福州22734.16 16326.97 20677.45 乌鲁木齐22284.54 15284.68 20037.59 沈阳23184.99 12310.22 19694.19 武汉23909.27 9770.56 19370.75 长春21524.95 14179.21 19166.96 成都33808.79 -17638.73 17294.14 太原19445.42 9809.99 16352.45 郑州18561.81 9822.90 15756.62 兰州16568.97 13769.80 15670.44 海口17666.70 11325.77 15631.26 昆明18494.34 8579.72 15311.75 呼和浩特16128.60 13359.10 15239.59 长沙18845.23 6252.54 14802.98 石家庄18229.33 7399.62 14752.99 西安16764.15 4871.97 12946.76。