第11章+主成分分析和因子分析(R)
管理统计SPASS第11章主成分分析与因子分析资料
主成分的计算流程
步骤三：
按如下方法得到主成分 Yi ：
Y1 b1T X ,Y2 b2T X ,,Yk bkT X
பைடு நூலகம்
式中，X ( X1, X 2 ,, X k )T 。
Yi (i 1,, k) 是相互正交的综合变量。将k个主成分放到一
起可得矩阵表达式： Y BT X
Y1 b11 b1k X1
简记为
Y AX
向量 Y 满足如下条件：
指标 Yi 之间不相关。
方差尽可能大，即对 n 个对象的分辨率尽可能强，信息损
失尽可能的少。
主成分分析小结：
(1)从相关的多个指标 X1, X 2 ,, X k 中，求出相互独立 的多个指标 Y1,Y2 ,,Yk 。
(2) Y (Y1,Y2 ,,Yk )T 的方差信息不损失，尽可能等同于 X ( X1, X 2 ,, X k )T 的方差。
Yk bk1 bkk X k
主成分的计算流程
主成分更为明晰的表达式：
Y1 b11X1 b21 X 2 bk1 X k Y2 b12 X1 b22 X 2 bk 2 X k
Yk bk1 X 1 bk 2 X 2 bkk X k
主成分的计算流程
结语：
X 与 Y 的转换关系为：
Y1 a11 a1k X 1
Yk ak1 akk X k
几何解释
在下图 X1 O X 2 的坐标中，散点大致为椭圆状。经过 线性变换可以得到新的坐标 Y1 O Y2 。Y1 在椭圆的长轴上， 反映出了散点在这个方向的最大方差。 Y2 在椭圆的短轴上，反 映出了散点在这个方向的方差。
X2
Y2
X1
Y1
主成分的计算流程
9.3 主成分分析和因子分析的R语言操作
有用的统计学Statistics第9讲降维方法中央财经大学统计与数学学院9.3主成分分析和因子分析的R语言操作学习目标：1.在R中如何实现主成分分析和因子分析2.熟悉主成分分析和因子分析的过程3.理解主成分的含义和主成分的得分，因子的含义和因子得分的应用主成分分析案例背景•某公司打算从48名应聘者中选出6人，对前来应聘的人在简历格式，兴趣爱好，洞察力，工作能力、自信心以及销售能力等15个方面的表现进行打分，然后根据他们的得分情况择优录取。
其中评分取值范围为0～10分，0分为最低评价，10分为最高评价。
•问题：如何根据应聘者在这些方面的得分，给出他们的一个排序情况呢？•可以采用主成分分析法。
主成分分析：读入数据data<-read.csv(file="employee.csv", header = T,fileEncoding= "GB18030") #读取数据head(data) # 显示数据的前几个观测x = scale(data[,-c(1)]) # 数据标准化。
（在本案例中，由于15个变量的量纲都是相同的，所以是否做标准化对结果影响不大）mycor=cor(x) #计算相关系数round(mycor,2) # 输出相关系数，保留两位小数pca.fit=princomp(x, fix_sign=TRUE) #主成分分析，参数fix_sign=TRUE保证被抽取的主成分的第一个元素为非负。
summary(pca.fit) #输出所有主成分的标准差（特征值开平方）、方差贡献率、累计贡献率。
cbind(round(pca.fit$loadings[,1:4],2)) #输出前4个主成分的主成分系数（保留两位小数），可用来解释主成分的含义round(pca.fit$scores[,c(1:4)],2) #输出48个应聘者在第一主成分的得分，保留两位小数因子分析案例背景•如果此时公司想在应聘者中选取最具有某种潜力的人胜任一项重要的工作岗位。
R语言主成分和因子分析
R语言主成分和因子分析
一、主成分分析
1.概念
主成分分析是一种统计分析方法，它通过对原始数据以及从原始数据推导出的新变量的统计分析来抽取其中的最重要的成分，降低数据量，有效地提取隐含在原始数据中的信息。
主成分分析是一种把观测到的多变量数据集合投影到一个更少维空间的工具，用于量化数据的相关结构，简化表达变量间的关系，以及进行因变量间的分类。
2.原理
主成分分析的原理在于通过构成原始数据的变量之间的相关性来分类变量，从而减少多维变量的维数，并从中发现新的非常规变量。
它的计算步骤如下：
（1）计算变量之间的相关系数矩阵；
（2）求解该矩阵特征值和特征向量；
（3）根据特征值，选择K个特征向量，从而构成K个新的变量，从而形成新的数据集；
（4）把新的数据投影到K个新变量（特征向量）上，得到K个新的变量，它们包含了原始数据中所保持的最重要的信息；
（5）最后，通过对新的变量的分析得到的结果，研究者可以对原始变量的关系有更深入的了解。
3.R语言实现
（1）准备数据：一般来说，R语言中使用主成分分析时，要先将入一个矩阵或者数据框，其中每一行代表一个样本，每一列代表一个变量。
第章主成分分析和因子分析习题答案
.707
X8
-.066
.575
.090
Extraction Method: Principal Component Analysis.
Rotation Method: Varimax with Kaiser Normalization.
a Rotation converged in 5 iterations.
28
61
65
81
98
94
95
29
79
95
83
89
89
79
30
81
90
79
73
85
80
31
85
77
75
52
73
59
32
68
85
70
84
89
86
33
85
91
95
63
76
66
34
91
85
100
70
65
76
35
74
74
84
61
80
69
36
88
100
85
49
71
66
37
63
82
66
89
78
80
38
87
84
100
55.043
43.677
中国石油
33.441
19.900
0.735
0.923
28.068
1.043
42.682
45.593
广聚能源
6.790
15.650
0.441
主成分分析和因子分析案例分析PPT课件
+姓名
主成分分析
基础概念：主要成分分析就是考虑各指标之间的相互关系，利用降维方法将 多个指标转换为少数几个互不相关的指标，从而使进一步研究变得简单的一 种统计方法。
分析步骤： （1）原始数据标准化处理 （2）计算相关数矩阵 （3）计算特征值及单位特征向量 （4）计算主成分的方差贡献率和累积方差贡献率 （5）计算主成分
试分析一个国家参与经济全球化的过程主要受哪些因素影响?
从数据来看，一共15个因 素，但有些因素是存在相 关性的，同时各因素对全 球化影响程度也不一样， 故可采用主成分分析。
确定变量及相关步骤
因子分析结果
（1）特征值和方差贡献值
从表中可看前3个主成分已经 解释了总方差的近86.7%，故 可以选择前3个主成分进行分 析。
谢谢大家
荣幸这一路，与你同行
It'S An Honor To Walk With You All The Way
演讲人：XXXXXX 时 间：XX年XX月XX日
表明因子提取方法是 主成分分析，旋转的 方法是方差极大法。
得出结论：北京受x1-x15因素的影响排在第一位。山东排在最后一位。
结束语
当你尽了自己的最大努力时，失败也是伟大的， 所以不要放弃，坚持就是正确的。
When You Do Your Best, Failure Is Great, So Don'T Give Up, Stick To The End
旋转后的因子载荷矩阵
是按照前面设定的“方差极大法”对因子载荷矩 阵旋转的结果。在旋转前的的矩阵中，因子变 量在许多变量上均有较高的载荷，从旋转后的 因子可以看出，因子1在1、3、6、7、12、13、 14上有较大载荷，反映科技投入与产出情况， 可以命名为创新水平因子：因子2在指标5、8、 15上较大载荷，反映地区经济发展及财政科技 投入水平，可以命名为创新因子；因子3在指 标9和10上有较大载荷，可以命民为高科技产 业发展因子。
主成分分析和因子分析
一、概述
意义和作用：
➢ 解决变量间多重共线性。在社会经济研究 工作中经常会遇到多指标的问题，这些指 标间往往存在一定的相关，直接纳入分析 不仅复杂，变量间难以取舍，而且由于分 析前提不满足，得出错误结论。
可编辑版
1
➢ 变量压缩。主成分分析通过线性变换，在尽可 能保留原始变量的信息的基础，降低维度，将 原来的多个变量组合成相互独立的少数的、新 的综合变量。
7
2、适用条件
为了找出变量间内在结构，要求因子分析满足
以下条件：
➢样本量
样本量与变量数的比例应在5: 1以上
总样本量最好大于100，而且原则上越大越
好
➢各变量间必须有相关性
KMO统计量:在（0，1）之间，大于0.9最佳，
0.9-0.7尚可， 0.7-0.6很差，0.5以下放弃
Bartlett’s球形检验：对变量间的独立性
在“旋转”按钮对话框，“方法”设定 为“最大方差法”
在“得分”按钮对话框，选择“保存为 变量”、“方法”设定为“回归”，选 择“显示因子得分系数矩阵”
可编辑版
15
7、输出结果阅读
➢说明的总方差表：包括特征根，旋转前/后的
方差贡献率、累计贡献率
➢变量共同度
➢旋转前/后因子载荷矩阵
➢因子得分模型系数：求出公因子后，可以用
➢因子得分函数系数
可编辑版
12
5、公因子数的确定
公因子数量的确定
➢主成分的累积贡献率：85%以上 ➢ 特征根：大于1 ➢ 综合判断。 因子分析时更重要的是因子的
可解释性，必要时保留特征根小于1的因子
➢利用碎石图帮助确定因子数量
可编辑版
13
《主成份与因子分析》课件
助我们理解变量之间的关系。
因子分析的原理和步骤
1
原理
通过假设存在一些潜在的因子来解释观测数据中的相关性。
2
步骤
1. 确定因子数目 2. 估计因子载荷矩阵 3. 旋转因子载荷矩阵 4. 解释因子载荷矩阵 5. 命名解释出的因子
3
总结与展望
因子分析可以帮助我们理解观测数据中的潜在结构与因果关系。
区别与联系
主成份与因子分析
在这份PPT课件中，我们将探讨主成份与因子分析的定义、背景以及它们在 不同领域的应用。我们还将介绍分析的原理和步骤，并通过案例研究加深理 解。让我们一同进入这个令人着迷的主题！
定义和背景
1 主成份分析
通过线性组合一组变量，提取出能够解释数据方差最多的几个主成份。
2 因子分析
通过假设存在一些无法直接观测到的“因子”，解释观测数据的相关性。
3 背景
这些分析方法应用广泛，从社会科学到自然科学，都有探索变量关系的需求。
主成份分析的原理和步骤
1
原理
通过寻找能够最大化解释数据方差的线
步骤
2
性组合来减少变量数目。
1. 标准化变量
2. 计算协方差矩阵
3. 计算特征值和特征向量
4. 选择最大特征值对应的特征向量
3
总结与展望
5. 归一化主成份
主性组合减少变量数目，因子分析 通过解释观测数据的相关性来揭示潜在的因子。
联系
两种分析方法都可以帮助我们理解变量之间的关系， 从而为进一步研究和应用提供依据。
应用领域
社会科学
主成份和因子分析被广泛用 于心理学、教育学等社会科 学领域，帮助揭示变量之间 的潜在关系。
市场研究
通过主成份和因子分析，我 们可以了解消费者偏好、产 品特征等市场信息。
【原创】R语言主成分分析因子分析案例报告(完整附数据)
R语言主成分分析因子分析案例报告R语言多元分析系列之一：主成分分析主成分分析（principal components analysis，PCA）是一种分析、简化数据集的技术。
它把原始数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标（称为第一主成分）上，第二大方差在第二个坐标（第二主成分）上，依次类推。
主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。
这是通过保留低阶主成分，忽略高阶主成分做到的。
这样低阶成分往往能够保留住数据的最重要方面。
但是在处理观测数目小于变量数目时无法发挥作用，例如基因数据。
R语言中进行主成分分析可以采用基本的princomp函数，将结果输入到summary和plot函数中可分别得到分析结果和碎石图。
但psych扩展包更具灵活性。
1 选择主成分个数选择主成分个数通常有如下几种评判标准：∙根据经验与理论进行选择∙根据累积方差贡献率，例如选择使累积方差贡献率达到80%的主成分个数。
∙根据相关系数矩阵的特征值，选择特征值大于1的主成分。
另一种较为先进的方法是平行分析（parallel analysis）。
该方法首先生成若干组与原始数据结构相同的随机矩阵，求出其特征值并进行平均，然后和真实数据的特征值进行比对，根据交叉点的位置来选择主成分个数。
我们选择USJudgeRatings数据集举例，首先加载psych包，然后使用fa.parallel函数绘制下图，从图中可见第一主成分位于红线上方，第二主成分位于红线下方，因此主成分数目选择1。
fa.parallel(USJudgeRatings[,-1], fa="pc",n.iter=100, show.legend=FALSE)2 提取主成分pc=principal(USJudgeRatings[,-1],nfactors=1)PC1 h2 u21 0.92 0.84 0.15652 0.91 0.83 0.16633 0.97 0.94 0.06134 0.96 0.93 0.07205 0.96 0.92 0.07636 0.98 0.97 0.02997 0.98 0.95 0.04698 1.00 0.99 0.00919 0.99 0.98 0.019610 0.89 0.80 0.201311 0.99 0.97 0.0275PC1SS loadings 10.13Proportion Var 0.92从上面的结果观察到，PC1即观测变量与主成分之间的相关系数，h2是变量能被主成分解释的比例，u2则是不能解释的比例。
主成分分析与因子分析法ppt课件
事实上，以上问题在平时的研究中，也会经 常遇到。它所涉及的问题可以推广到对企业、 对学校、对区域进行分析、评价、排序和分 类等。
比如对n个样本进行综合评价，可选的描述样 本特征的指标很多，而这些指标往往存在一 定的相关性（既不完全独立，又不完全相 关），这就给研究带来很大不便。若选指标 太多，会增加分析问题的难度与复杂性，选 指标太少，有可能会漏掉对样本影响较大的 指标，影响结果的可靠性。
在各种线性组合中方差达到最大者。
满足上述约束得到的合成变量Y1, Y2, …, Yp分别称为 原始变量的第一主成分、第二主成分、…、第 p 主成分，
而且各成分方差在总方差中占的比重依次递减。在实际研究
工作中，仅挑选前几个方差较大的主成分，以达到简化系统
结构的目的。
24
24
三、主成分分析的计算步骤
25
21
(二) 主成分分析的基本思想
假如对某一问题的研究涉及 p 个指标，记为X1，X2, …,
Xp，由这 p 个随机变量构成的随机向量为X=(X1, X2, …,
Xp)，设 X 的均值向量为，协方差矩阵为。设Y=(Y1, Y2 ,
… , Yp)为对 X 进行线性变换得到的合成随机向量，即
Y1 11
主成分分析法与因子分析法
1
主要内容
➢ 主成分分析法 ➢ 因子分析法 ➢ 附：主成分分析法与因子分析法的区别
2
主成分分析法
（Principal Components Analysis,PCA） ➢ 主成分分析法概述 ➢ 主成分分析的基本原理 ➢ 主成分分析的计算步骤
3
一、主成分分析概述
4
引子
假定你是一个公司的财务经理，掌握了公 司的所有数据，这包括众多的变量，比如 固定资产、流动资金、每一笔借贷的数额 和期限、各种税费、工资支出、原料消耗、 产值、利润、折旧、职工人数、职工的分 工和教育程度等等。
R语言主成分和因子分析解析
R语言主成分和因子分析主成分分析（PCA）是一种数据降维技巧，它能将大量相关变量转化为一组很少的不相关变量，这些无关变量称为主成分。
探索性因子分析（EFA）是一系列用来发现一组变量的潜在结构的方法，通过寻找一组更小的、潜在的或隐藏的结构来解释已观测到的、变量间的关系。
1.R中的主成分和因子分析R的基础安装包中提供了PCA和EFA的函数，分别为princomp （）和factanal（）psych包中有用的因子分析函数（1）数据预处理；PCA和EFA都是根据观测变量间的相关性来推导结果。
用户可以输入原始数据矩阵或相关系数矩阵列到principal()和fa（）函数中，若输出初始结果，相关系数矩阵将会被自动计算，在计算前请确保数据中没有缺失值；（2）选择因子分析模型。
判断是PCA（数据降维）还是EFA（发现潜在结构）更符合你的分析目标。
若选择EFA方法时，还需要选择一种估计因子模型的方法（如最大似然估计）。
（3）判断要选择的主成分/因子数目；（4）选择主成分/因子；（5）旋转主成分/因子；（6）解释结果；（7）计算主成分或因子得分。
2.主成分分析PCA的目标是用一组较少的不相关变量代替大量相关变量，同时尽可能保留初始变量的信息，这些推导所得的变量称为主成分，它们是观测变量的线性组合。
如第一主成分为：PC1=a1X1=a2X2+……+akXk 它是k个观测变量的加权组合，对初始变量集的方差解释性最大。
第二主成分是初始变量的线性组合，对方差的解释性排第二，同时与第一主成分正交（不相关）。
后面每一个主成分都最大化它对方差的解释程度，同时与之前所有的主成分都正交，但从实用的角度来看，都希望能用较少的主成分来近似全变量集。
（1）判断主成分的个数PCA中需要多少个主成分的准则：根据先验经验和理论知识判断主成分数；根据要解释变量方差的积累值的阈值来判断需要的主成分数；通过检查变量间k*k的相关系数矩阵来判断保留的主成分数。
【原创】R语言主成分分析因子分析案例报告(完整附数据)
R语言主成分分析因子分析案例报告R语言多元分析系列之一：主成分分析主成分分析（principal components analysis，PCA）是一种分析、简化数据集的技术。
它把原始数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标（称为第一主成分）上，第二大方差在第二个坐标（第二主成分）上，依次类推。
主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。
这是通过保留低阶主成分，忽略高阶主成分做到的。
这样低阶成分往往能够保留住数据的最重要方面。
但是在处理观测数目小于变量数目时无法发挥作用，例如基因数据。
R语言中进行主成分分析可以采用基本的princomp函数，将结果输入到summary和plot函数中可分别得到分析结果和碎石图。
但psych扩展包更具灵活性。
1 选择主成分个数选择主成分个数通常有如下几种评判标准：∙根据经验与理论进行选择∙根据累积方差贡献率，例如选择使累积方差贡献率达到80%的主成分个数。
∙根据相关系数矩阵的特征值，选择特征值大于1的主成分。
另一种较为先进的方法是平行分析（parallel analysis）。
该方法首先生成若干组与原始数据结构相同的随机矩阵，求出其特征值并进行平均，然后和真实数据的特征值进行比对，根据交叉点的位置来选择主成分个数。
我们选择USJudgeRatings数据集举例，首先加载psych包，然后使用fa.parallel函数绘制下图，从图中可见第一主成分位于红线上方，第二主成分位于红线下方，因此主成分数目选择1。
fa.parallel(USJudgeRatings[,-1], fa="pc",n.iter=100, show.legend=FALSE)2 提取主成分pc=principal(USJudgeRatings[,-1],nfactors=1)PC1 h2 u21 0.92 0.84 0.15652 0.91 0.83 0.16633 0.97 0.94 0.06134 0.96 0.93 0.07205 0.96 0.92 0.07636 0.98 0.97 0.02997 0.98 0.95 0.04698 1.00 0.99 0.00919 0.99 0.98 0.019610 0.89 0.80 0.201311 0.99 0.97 0.0275PC1SS loadings 10.13Proportion Var 0.92从上面的结果观察到，PC1即观测变量与主成分之间的相关系数，h2是变量能被主成分解释的比例，u2则是不能解释的比例。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
11 - 23
统计学
STATISTICS (第三版)
主成分分析
(实例分析)
【例】根据我国31个省市自治区2006年的6项主 要经济指标数据，进行主成分分析，找出主成 分并进行适当的解释
31个地区的6项经济指标
11 - 24 2008年8月
统计学
STATISTICS (第三版)
用SPSS进行主成分分析
如果把两个变量用 一个变量来表示， 同时这一个新的变 量又尽可能包含原 来的两个变量的信 息，这就是降维的 过程
2008年8月
11 - 12
统计学
STATISTICS (第三版)
主成分分析的基本思想
(以两个变量为例)
椭圆中有一个长轴和一个短轴，都称为主轴。在长轴方向，数 据的变化明显较大，而短轴方向变化则较小 如果沿着长轴方向设定一个新的坐标系，则新产生的两个变量 和原始变量间存在一定的数学换算关系，同时这两个新变量之 间彼此不相关，而且长轴变量携带了大部分的数据变化信息，而 短轴变量只携带了一小 部分变化的信息(变异) 此时，只需要用长轴方 向的变量就可以代表原 来两个变量的信息。这 样也就把原来的两个变 量降维成了一个变量 。 长短轴相差越大，降维 也就越合理
2008年8月
11 - 5
统计学
STATISTICS (第三版)
因子分析得到的是什么？
因子分析方法在部分领域应用的一些例子 心理学：心理学家瑟斯登对56项测验的得分进行因子分 析，得出了7种主要智力因子：词语理解能力，语言流畅 能力、计数能力、空间能力、记忆力、知觉速度和推理 能力 教育学：某师范大学以一幼儿园3～6岁幼儿为对象，通 过80名幼儿教师对480名幼儿好奇心行为特征描述的开放 式问卷调查，编制出60个项目的初始问卷，对500名幼儿 的初测结果进行探索性因子分析后，形成了33个项目的 正式问卷，对1000名幼儿的评价结果进行验证性因子分 析，结果表明：教师评价的3～6岁幼儿好奇心结构包括 敏感、对未知事物的关注、好问、喜欢摆弄、探索持久 和好奇体验6个因子
在研究实际问题时，往往需要收集多个变量。但这 样会使多个变量间存在较强的相关关系，即这些变 量间存在较多的信息重复，直接利用它们进行分析 ，不但模型复杂，还会因为变量间存在多重共线性 而引起较大的误差 为能够充分利用数据，通常希望用较少的新变量代 替原来较多的旧变量，同时要求这些新变量尽可能 反映原变量的信息 主成分分析和因子分子正是解决这类问题的有效方 法。它们能够提取信息，使变量简化降维，从而使 问题更加简单直观
主成分分析和因子分析的异同
主成分分析和因子分析的数学模型 用主成分分析和因子分析对实际问题进行 综合评价
11 - 4
2008年8月
统计学
STATISTICS (第三版)
主成分分析和因子分析
(Principal Component Analysis & Factor Analysis)
11 - 20
2008年8月
统计学
STATISTICS (第三版)
例9.1 （中学生身体4项指标的主成分分析） 在某中学随机抽取某年级30名学生，测得 其身高（X1）、体重（X2）、胸围（X3） 、坐高（X4）数据如表9.1所示。试对这30 名中学生身体4项指标数据作主成分分析。 解：参见程序exam0901.R
11 - 21
统计学
STATISTICS (第三版)
例9.2 对128个成年男子的身材进行测量，每 人各测得16项指标：身高（X1）、坐高（ X2） 、胸围（X3） 、头高（X4） 、裤长 （X5） 、下档（X6） 、手长（X7） 、领 围（X8） 、前胸（X9） 、后背（X10） 、肩厚（X11） 、肩宽（X12） 、袖长（ X13） 、肋围（X14） 、腰围（X15） 、 腿肚（X16），16项指标的相关矩阵如表 9.2所示，试从相关矩阵R出发进行主成分 分析，对16项指标进行分类。 解：见代码exam0902.R
2008年8月
11 - 6
统计学
STATISTICS (第三版)
因子分析得到的是什么？
医学：一位研究者对山东某县2000～2002年3年 的全死因调查资料中不同地区各恶性肿瘤标化死 亡率进行因子分析后发现，该县居民恶性肿瘤的 发病和死亡具有明显的地区分布。在地区分布中， 各种恶性肿瘤的死亡具有一定程度的聚集性。经 因子分析得到的4个主因子可以解释10种恶性肿 瘤死亡率的74.54％；10种恶性肿瘤中，被解释 的比例最小也在62％以上；而胃癌、白血病、膀 胱癌、乳腺癌、结肠癌死亡率被解释的比例均在 77％以上，表明这10种恶性肿瘤之间存在中等偏 强的内在联系和地区分布特点
第1步 选择【Analyze】下拉菜单，并选择【Data ReductionFactor】，进入主对话框 第2步 在主对话框中将所有原始变量选入【Variables】 第3步 点击【Descriptives】，在【correlation Matrix】下选择 【Coefficirnts】，点击【Continue】回到主ay】下选择【Scree Plot】，点击【Continue】回到主对话框 第5步 点击【Rotation】，在【Display】下选择【Loading Plot】，点击【Continue】回到主对话框 点击【OK】
(principal component analysis)
主成分的概念由Karl Pearson在1901年提出 考察多个变量间相关性一种多元统计方法 研 究 如 何 通 过 少 数 几 个 主 成 分 (principal component)来解释多个变量间的内部结构。即从 原始变量中导出少数几个主分量，使它们尽可能 多地保留原始变量的信息，且彼此间互不相关 主成分分析的目的：数据的压缩；数据的解释
2008年8月
11 - 8
第 11 章 主成分分析和因子分析 11.1 主成分分析
11.1.1 主成分分析的基本原理 11.1.2 主成分分析的数学模型 11.1.3 主成分分析的步骤
11.1 主成分分析 11.1.1 主成分分析的基本原理
统计学
STATISTICS (第三版)
什么是主成分分析？
11 - 14
2008年8月
11.1 主成分分析 11.1.2 主成分分析的数学模型
统计学
STATISTICS (第三版)
主成分分析的数学模型
数学上的处理是将原始的p个变量作线性组合，作为新的 变量 设p个原始变量为 x1， x 2， ， x p ，新的变量(即主成分) 为 y1， y 2， ， y p ，主成分和原始变量之间的关系表示为
2008年8月
11 - 13
统计学
STATISTICS (第三版)
主成分分析的基本思想
(以两个变量为例)
多维变量的情形类似，只不过是一个高维椭球，无法 直观地观察 每个变量都有一个坐标轴，所以有几个变量就有几主 轴。首先把椭球的各个主轴都找出来，再用代表大多 数数据信息的最长的几个轴作为新变量，这样，降维 过程也就完成了 找出 的 这些 新 变量 是原 来 变量 的 线性 组合，叫做主成分
11 - 22
统计学
STATISTICS (第三版)
例9.3（法国经济分析数据）考虑进口总额Y 与3个自变量：国内生产总值X1、存储量 X2和总消费量X3（单位为10亿法郎），现 收集了1949——1959年共11年的数据，如 表9.3所示。试对比数据作经典回归分析和 主成分分析。 解：参见代码exam0903.R
11 - 17 2008年8月
统计学
STATISTICS (第三版)
主成分的选择
究竟选择几个主成分才合适呢？ 一般要求所选主成分的方差总和占全部方差的 80%以上就可以了。当然，这只是一个大体标准 ，具体选择几个要看实际情况 如果原来的变量之间的相关程度高，降维的效果 就会好一些，所选的主成分就会少一些，如果原 来的变量之间本身就不怎么相关，降维的效果自 然就不好 不相关的变量就只能自己代表自己了
该表是选则主成分的主要依据
11 - 27 2008年8月
统计学
STATISTICS (第三版)
根据什么选择主成分？
“Initial Eigenvalues”(初始特征根)
实际上就是本例中的6个主轴的长度 特征根反映了主成分对原始变量的影响程度，表示引入 该主成分后可以解释原始变量的信息 特征根又叫方差，某个特征根占总特征根的比例称为主 成分方差贡献率 p 设特征根为，则第i个主成分的方差贡献率为 i i
常被用来寻找判断事物或现象的综合指标，并对综 合指标所包含的信息进行适当的解释
11 - 11
2008年8月
统计学
STATISTICS (第三版)
主成分分析的基本思想
(以两个变量为例)
对这两个相关变量所携带的信息(在统计上信息往往是 指数据的变异)进行浓缩处理 假定只有两个变量x1 和x2 ，从散点图可见两个变量存 在相关关系，这意味着两个变量提供的信息有重叠
aij 为第i个主成分yi 和原 y1 a11 x1 a12 x 2 a1 p x p 来的第j个变量xj 之间的 线性相关系数，称为载 y 2 a 21 x1 a 22 x 2 a 2 p x p 荷(loading)。比如，a11 表示第1主成分和原来的 第1个变量之间的相关系 y a x a x a x 数，a21 表示第2主成分 p1 1 p2 2 pp p 和原来的第1个变量之间 p 的相关系数 主成分分析的数学模型
统 计 学
(第三版)
统计学