SAS软件应用之主成分分析
SAS学习系列33.-主成分分析
SAS学习系列33.-主成分分析33. 主成分分析（一）原理一、基本思想主成份分析，是数学上对数据降维的一种方法，是将多个变量转化为少数综合变量（集中了原始变量的大部分信息）的一种多元统计方法。
其主要目的是将变量减少，并使其改变为少数几个相互独立的线性组合形成的新变量（主成份，其方差最大），使得原始资料在这些成份上显示最大的个别差异来。
在所有的线性组合中所选取的F1应该是方差最大的，称为第一主成分。
如果第一主成分不足以代表原来所有指标的信息，再考虑选取第二个线性组合F2, 称为第二主成分。
为了有效地反映原有信息，F1已有的信息就不需要再出现在F2中，用数学语言表达就是要求Cov(F1，F2)＝0. 依此类推可以构造出第三、第四、…、第p个主成分。
主成份分析，可以用来综合变量之间的关系，也可用来减少回归分析或聚类分析中的变量数目。
二、基本原理设有n个样品（多元观测值），每个样品观测p项指标（变量）：X1，…，X p，得到原始数据资料阵：其中，X i = (x1i，x2i，…，x ni)T，i = 1, …, p.用数据矩阵X的p个列向量（即p个指标向量）X1，…，X p作线性组合，得到综合指标向量：简写成：F i = a1i X1 + a2i X2+…+a pi X p i = 1, …, p限制系数a i = (a1i，a2i，…，a pi)T为单位向量，即且由下列原则决定：（1）F i与F j互不相关，即COV(F i, F j)=a i T∑a i=0，其中∑为X 的协方差矩阵；（2）F1是X1，X2，…，X p的所有满足上述要求的线性组合中方差最大的，即F2是与F1不相关的X1，…，X p所有线性组合中方差最大的，…，F p是与F1，…，F p-1都不相关的X1，…，X p所有线性组合中方差最方向对应。
F1，F2，…，F p可以理解为p维空间中互相垂直的p 个坐标轴。
三、基本步骤1. 计算样品数据协方差矩阵Σ = (s ij)p p，其中2. 求出Σ的特征值及相应的特征向量λ1>λ2>…>λp>0, 及相应的正交化单位特征向量：则X的第i个主成分为F i= a i T X，i=1, …, p.3. 选择主成分在已确定的全部p个主成分中合理选择m个来实现最终的评价分析。
SAS—第六讲
⎜⎛ λ1
⎟⎞
Var(Y ) =Var(AX ) = AΣA′ = ⎜ % ⎟
⎜ ⎝
λ
p
⎟ ⎠
因此，
⎜⎛ λ1
⎟⎞
p
Σ = A′⎜ ⎜ ⎝
∑ %
λ
p
⎟ ⎟ ⎠
A
，
σ
2 Xi
= (Σ)ii
=
a
2 ji
λ
j
j =1
。
命题得证。）
主成分的选取：
为了降维，往往选取个数小于原变量个数的前面若干主成分来代替原来的
大时，采用协方差矩阵计算的主成分与采用相关阵计算的主成分有较大差异。
例子 2：假定协方差矩阵为：
以此得出特征值和特征向量为
Σ
=
⎜⎜⎝⎛
1 4
1040 ⎟⎟⎠⎞
λ1 = 100.16, a1 = (0.04,0.999)′ λ2 = 0.84, a2 = (0.999,−0.04)′
第一主成分贡献率为 99.2%，如果取第一个主成分，两个原变量的信息提取度分 别为 v1 = 16%,v2 = 99.96% 。由此看出，第一个原变量的信息提取度很不理想。 从协方差矩阵计算出相关矩阵为：
SAS & DATA PROCESSING:
第六讲_PROC PRINCOMP
第六讲：主成分分析（PCA：principal component analysis） 及其 SAS 实现
§7.1 引言 设 X1,", X p 为 p 个随机变量，其方差协方差矩阵为 Σ
主成分分析的作用：
1、 数据降维 Σ 表明了随机变量 X1,", X p 的相关结构。如果找到 k 个不相关的变量（ k < p ）
SAS软件应用之主成分分析
本章小节
在大部分实际问题中，变量之间是有一定的相关性的，人们 自然希望找到较少的几个彼此不相关的综合指标尽可能多地 反映原来众多变量的信息。本章介绍了主成分分析的数学模 型、方法步骤以及主成分分析的应用。我们需要一种综合性 的分析方法，既可减少指标变量的个数，又尽量不损失原指 标变量所包含的信息，对资料进行全面的综合分析。主成分 分析正是适应这一要求产生的，是解决这类题的理想工具。 主成份分析的基本思想就是将彼此相关的一组指标变量转化 为彼此独立的一组新的指标变量，并用其中较少的几个新指 标变量就能综合反应原多个指标变量中所包含的主要信息， 符合专业含义。
主成分分析的方法步骤
计算主成分得分 如果标准化指标变量 X 1 , X 2 ,, X k 的第i个主成分是：
Z i liX li1 X 1 li 2 X 2 lik X k xij x j 其中， X ij , j， 1,2,, k sj 是xj的标准化指标变量。那么，第i个主成分可以 转换为原始指标变量的线性组合：
主成分分析的方法步骤
对原始指标数据进行标准化变换：
X ij xij x j sj , j 1,2,, k
将原始数据标准化，然后利用标准化的数据 计算主成分。X为标准化后的数据矩阵，则：
X 11 X X 21 X n1 X 12 X 22 X n2 X 1k X 2k X nk
li1 li 2 lik li1 x1 li 2 x2 lik xk zi x1 x2 xk ( ),i 1,2,, k s1 s2 sk s1 s2 sk
主成分分析的应用
主成分分析与因子分析（三）：使用SAS实现主成分分析-FACTOR过程
主成分分析与因子分析（三）：使用SAS实现主成分分析-FACTOR过程上一系列文章介绍了使用PRINCOMP过程进行主成分分析。
今天，我们将介绍使用FACTOR过程进行主成分分析。
FACTOR 过程除了PROC PRINCOMP外，还可以使用PROC FACTOR来进行主成分分析。
事实上，在进行标准化后，二者的结果是一样的。
为了比较二者的结果，首先介绍如何对数据进行标准化。
SAS对数据的标准化是通过PROC STDIZE实现的，PROC STDIZE的一般形式如下：其中：•选项METHOD=指定用于标准化的方法，常见的标准化方法有MEAN、SUM、EUCLEN和STD。
•VAR语句指定数据集中用来进行主成分分析的变量，变量类型必须为数值型。
若该语句缺失，那么PROC FACTOR将分析数据集中的所有数值型变量。
标准化的计算方法如下：这里LOCATION和SCALE的值与标准化方法有关。
表12.3列举了一些常见的标准化方法的LOCATION和SCALE值。
有关其他方法具体参数值建议读者参考SAS官方帮助文档。
表12.3 常见标准化方法中的LOCATION值与SCALE值这里仅简单介绍PROC FACTOR中与主成分分析相关部分的选项，在后面使用PROC FACTOR进行因子分析时，会对其他选项进行介绍。
PROC FACTOR的语法如下：其中：•常见的选项有：“DATA=”用于指定输入数据集，“SIMPLE”输出常见的统计量，“CORR”输出原始变量的相关矩阵。
•VAR语句指定数据集中用于分析的变量。
例12.2：使用PROC FACTOR对数据集sashelp.cars进行主成分分析。
示例代码如下：输出结果中基本统计量与相关矩阵的部分如图12.8所示。
图12.8 使用PROC FACTOR进行主成分分析过程中输出基本统计量与相关矩阵同时，PROC FACTOR还输出了相关矩阵的特征值与解释的变异比例，这部分内容也和PROC PRINCOMP一致（如图12.9所示）。
主成分分析和主成分回归(附实际案例和sas代码)
目录主成分分析和主成分回归（附实际案例和sas代码） (2)1 主成分分析的主要思想 (2)2 主成分分析的定义 (2)3 案例基本情况介绍餐饮业零售额相关因素 (3)4 案例相关因素的介绍相关因素的具体数据 (3)5 影响餐饮业零售额因素的主成分分析 (4)6 主成分回归 (9)主成分分析和主成分回归（附实际案例和sas 代码）1 主成分分析的主要思想在进行高维数据系统分析时，通过主成分分析，可以在纷繁的指标变量描述下，了解影响这个系统存在与发展的主要因素。
主成分分析是1933年由霍特林首先提出来的。
在信息损失最小的前提下，将描述某一系统的多个变量综合成少数几个潜变量，从而迅速揭示系统形成的主要因素，并把原来高维空间降到低维子空间。
主成分分析是研究如何通过少数几个主成分来解释多变量的方差的分析方法，也就是求出少数几个主成分，使他们尽可能多地保留原始变量的信息，且彼此不相关它是一种数学变换方法，即把给定的一组变量通过线性变换，转换为一组不相关的变量，在这种变换中保持变量的总方差不变，同时具有最大总方差，称为第一主成分；具有次大方差，成为第二主成分。
依次类推。
若共有p 个变量，实际应用中一般不是找p 个主成分，而是找出个)(p m m <主成分就够了，只要这m 个主成分能够反映原来所有变量的绝大部分的方差。
2 主成分分析的定义设研究对象涉及P 个指标，分别用p X X X ,,21表示，这个指标构成P 维随机向量为)',,,(21p X X X X =。
设随机向量的均值为u ，协方差矩阵为Σ。
主成分分析就是对随机向量进行线性变换以形成新的综合变量，用i Z 表示，满足下式：1212,1,2,,i i i ip P Z u X u X u X i p =++⋅⋅⋅+= (1)为了使新的综合变量能够充分反映原来变量的信息，则i Z 的方差尽可能大且各个i Z 之间不相关。
由于没有限制条件方差可以任意大，设有线面的约束条件：222121,(1,2,)i i ip u u u i p ++⋅⋅⋅== (2)主成分则为满足条件的i Z 。
聚类分析与主成分分析SAS的程序
实验三我国各地区城镇居民消费性支出的主成分分析和聚类分析（王学民编写）一、实验目的1.掌握如何使用SAS软件来进行主成分分析和聚类分析；2.看懂和理解SAS输出的结果，并学会以此来作出分析；3.掌握对实际数据如何来进行主成分分析；4.对同一组数据使用五种系统聚类方法及k均值法，学会对各种聚类效果的比较，获取重要经验；5.掌握使用主成分进行聚类二、实验内容数据集sasuser.examp633中含有1999年全国31个省、直辖市和自治区的城镇居民家庭平均每人全年消费性支出的八个主要变量数据。
对这些数据进行主成分分析，可将这31个地区的前两个主成分得分标示于平面坐标系内，对各地区作直观的比较分析。
对同样的数据使用五种系统聚类方法及k均值法聚类，并对聚类效果作比较。
最后，对主成分的图形聚类和正规聚类的效果进行比较。
实验1进行主成分分析，根据前两个主成分得分所作的散点图对31个地区进行比较分析。
实验2分别使用最长距离法、中间距离法、两种类平均法、离差平方和法和k均值法进行聚类分析，并比较其聚类效果。
实验3主成分聚类，并与上述正规的聚类方法进行比较三、实验要求1.用SAS软件的交互式数据分析菜单系统完成主成分分析；2.完成五种系统聚类方法及k均值法，比较其聚类效果；3.根据前两个主成分得分的散点图作直观的聚类，并与上述正规的聚类方法进行比较。
四、实验指导1.进行主成分分析在inshigt中打开数据集sasuser.examp633，见图1。
选菜单过程如下：在图1中选分析⇒多元（Y X）⇒在变量框中选x1，x2，x3，x4，x5，x6，x7，x8(见图2)⇒Y⇒选输出⇒选主分量分析，主分量选项（见图3）⇒在图4中作图中的选择（主成分个数缺省时为“自动”选项，此时只输出特征值大于1的主成分）⇒确定⇒确定⇒确定图1图2图3图4 得到如图5、图6所示的结果：图5图6从图5可以看出，前两个和前三个主成分的累计贡献率分别达到80.6％和87.8％，第一主成分1ˆy 在所有变量(除在*2x 上的载荷稍偏小外)上都有近似相等的正载荷，反映了综合消费性支出的水平，因此第一主成分可称为综合消费性支出成分。
SAS主成分分析 示例
PROC PRINCOMP <选项列表>;VAR 变量列表;[WEIGHT 变量列表;][FREQ 变量列表;][PARTIAL 变量列表;][BY 变量列表;]RUN;DATA = 输入数据集，可以是原始数据集，也可以是TYPE = CORR，COV的数据集；OUT = 输出包含原始数据和主成分得分的数据集；OUTSTAT = 统计量输出数据集；COVARIANCE | COV要求从协方差阵出发计算主成分，缺省为从相关阵出发计算。
N = 要计算的主成分个数，缺省时全部计算。
STANDARD | STD要求在OUT = 的数据集中把主成分得分标准化为单位方差。
缺省时主成分得分的方差为相应特征值。
PREFIX = 主成分名字的前缀，缺省时为PRIN1、PRIN2…。
Correlation Matrix是所有原始指标变量之间的相关系数矩阵如：GDP(x1)与固定资产投资(x3)之间的相关系数为0.9506；GDP(x1)与工业总产值(x8)之间的相关系数为0.8737；固定资产投资(x3)与工业总产值(x8)之间的相关系数为0.7919；居民消费价格指数(x6)与商品零售价格指数(x7)之间的相关系数为0.7628；货物周转量(x5)与工业总产值(x8)之间的相关系数为0.6586，等等。
Eigenvalues of Correlation Matrix给出了由相关系数矩阵计算出来的全部特征值(Eigenvalue)、相邻两个特征值的差异(difference)、每个主成分的贡献率(proportion)和累积贡献率(cumulative)。
如：第一主成分对方差的贡献率为46.94%，第二主成分对方差的贡献率为27.46%，第三主成分对方差的贡献率为15.19%，之后的主成分的贡献率为0.05。
前三个主成分的累积贡献率为89.58%，因此，对第四主成分以后的主成分完全可以忽略不计，用前三个主成分就可以很好地概括这组数据。
SAS主成分分析实例
王笑（孝）权安徽省五河县临北乡石家村卫生室233316 *****************.cn主成分分析又称主分量、主轴分析，实质就是对较多的变量在尽量保存原信息的情况下加以线性概括。
在此过程前，为消除变量量纲不同造成的影响，首先要对各原始指标进行标准化处理。
迄今为止，所见教材的“主成分分析”实质都是用求得主成分再对原始变量的回归分析。
教材的通病都是未详细说明最后的回归过程，往往令初学者感觉到莫名其妙。
目前，由网上的一些所谓的“主成分分析”可知，或者其资料不适用主成分分析，还有根本就不是主成分分析。
有鉴于此，现利用网上获得的数据，进行主成分分析的探讨。
1 资料与方法1.1 资料来源资料来源于中华人民共和国卫生部网站[1]，我国“2006年工业部门职业病发病及死亡情况”，剔除其中的第1、2、14号无意义指标，以及末尾的观测“其它”，剩余11个指标，观测值有缺失则用0补齐。
程序分别赋这些指标为x1-x11,其名称标签见附件1；余详见数据1。
数据1 2006年工业部门职业病发病及死亡情况相关数据name x1 x2 x3 x4 x5 x6 x7 x8 x9 x10 x11煤炭4567 212 41 0 34 0 13 0 1 57 0石油 2 4 1 0 14 0 0 1 0 14 0电力110 1 1 0 28 1 0 1 1 16 1核工业0 0 0 0 0 0 0 0 0 3 0冶金494 65 40 2 159 0 0 3 5 24 11有色金属1193 120 38 4 190 11 0 7 2 38 1333 13 34 1 84 5 0 29 33 50 1电子7 0 14 3 120 0 0 51 13 3 0兵器7 0 4 0 22 0 0 0 113 6 0船舶18 0 1 0 1 1 0 0 0 2 0化工103 2 105 3 62 2 0 89 170 24 4医药 5 0 8 0 15 0 1 19 8 1 0铁道64 6 2 0 2 1 0 1 0 4 1交通61 1 6 0 14 3 0 6 6 8 0建材698 17 6 0 5 1 0 10 3 20 0建设126 1 23 8 1 3 0 5 2 3 1地质矿产253 3 1 0 4 0 0 1 0 0 0水利 2 17 0 0 0 0 0 0 0 0 0农业23 0 2 0 0 22 5 0 1 0 0森林工业 2 0 1 0 0 0 1 1 1 0 0轻工189 16 101 3 294 10 12 32 4 21 3纺织20 2 12 0 12 1 1 4 2 36 1航空航天 1 0 0 0 1 0 0 5 0 4 0商业11 0 2 0 0 3 1 2 0 2 0邮电 2 0 1 1 0 0 0 0 0 0 0石化工业9 1 5 0 6 0 0 1 1 2 0回收加工业0 0 2 2 0 0 0 0 0 0 01.2 方法将数据1倒入SAS9.1逻辑库sasuser后调用，程序默认对原始数据标准化后进行主成分分析。
sas主成分分析与因子分析
主成分分析是数学上对数据降维的一种方法。其基本 思想是设法将原来众多的具有一定相关性的指标（比如 p个指标），重新组合成一组新的互不相关的综合指标 来代替原来指标。通常数学上的处理就是将原来 p 个指 标作线性组合，作为新的综合指标。但是这种线性组合， 如果不加限制，则可以有很多，应该如何去选取呢？
Var ( F ) max Var ( c 1 iX i) ，其中c = (c1，c2，…，cp)' c 'c 1
i 1 p
F2是与F1不相关的X1，X2，…，Xp一切线性组合中方 差最大的， …， Fp 是与 F1， F2， …， Fp-1都不相关的 X1， X2，…，Xp的一切线性组合中方差最大的。
p
信息的能力越强。
i 1
3. 主成分分析的步骤
(1) 计算协方差矩阵 计算样品数据的协方差矩阵：Σ = (sij)pp，其中
1 n s ( x x x x ij ki i)( kj j) n 1 k 1
i，j = 1，2，…，p
(2) 求出Σ的特征值及相应的特征向量 求出协方差矩阵 Σ 的特征值 12…p>0 及相应的正 交化单位特征向量：
t 1
x k jx j ( x x )
t 1 tj j n 2
( x x )( x x )
k 1 ki i kj j n 2 n ti i tj j
n
( x x ) ( x x )
t 1 t 1
r ij
2
n 1
n 1
i，j = 1，2，…，p 此时n个样品在m个主成分上的得分应为： Fj = a1jX1* + a2jX2* +...+ apjXp* j = 1，2，…，m
运用SAS做主成分分析的例子
加工储藏及对米饭的蒸煮工艺的每一个过程都能对稻 米的食味品质产生影响［3 －5］。目前主要通过两种方法 来评价稻米的食味品质的优劣，一是通过与蒸煮食味 品质相关的理化性状测定，间接的反应食味品质的优 劣［6］； 二是通过人工品尝来直接反应食味品质的优劣。 但这两种方法都存在着明显的不足，前者可以快速的 测定品种食味品质的好坏，但与真实值有一定差距； 后 者能准确的反应食味品质的优劣，但人工品尝费时费 力，且需要对人员进行培训。快速黏度测定仪（ RVA， Rapid Viscosity Analyzer） 特征谱，能很好的反应淀粉 黏度特性，并能用于食味品质的辅助测定［7］。本试验
RVA 的测定参照舒庆尧等［9］的方法实施。采用 瑞典 Newport Scientificpty 生产的黏度快速测定仪进行 RVA（ Rapid Viscosity Analyzer） 测定，项目有最高黏度 （ peak viscosity） 、热浆黏度（ though viscosity） 、最终黏 度（ final viscosity） 和崩解值（ breakdown value，最高黏 度 － 热浆黏度） 、消减值（ setback value，最终黏度 － 最 高黏度） 、回复值（ consistence value，最终黏度 － 热浆 黏度） 和成糊起始温度、峰值时间共 8 个特征值。黏度 单位为 cP，RVU（ Rapid Viscosity Units） 1 RVU = 12 cP。 1． 2． 4 稻米蒸煮品质的评定
SAS主成分分析报告
SAS主成分分析分类：数据之美2013-07-28 20:18 2343人阅读评论(0) 收藏举报目录(?)[-]1. 主成分分析流程2. SAS主成分分析示例3. SAS主成分分析输出结果详解4. 特征值和特征向量隐藏的秘密5. 总结6. 参考文献同事讲主成分分析，举了这么个例子：就像你选女人，有身材、相貌两个指标，如果身材、相貌都很突出，那当然很好选择；但如果两个女人，一个身材突出，一个相貌出众，看着都很喜欢，那可如何是好！这个时候通过主成分分析，汇总出一个指标，这个指标可以一定程度上代替原来的身材、相貌，这时就可以排序做出选择了。
这例子当然有很多缺陷，但至少指出了主成分分析的目的之一：减少决策变量数，也就是降维。
主成分分析的另一个目的是防范多重共线性。
实际问题往往涉及很多变量，但某些变量之间会有一定的相关性，我们希望构造较少的几个互不相关的新指标来代替原始变量，去除多重共线性，减少所需分析的变量，同时尽可能减少这一过程的信息损失。
主成分分析正是基于这样的目的而产生的有效方法。
主成分分析流程主成分分析包含以下流程：1、原始数据标准化。
2、计算标准化变量间的相关系数矩阵。
3、计算相关系数矩阵的特征值和特征向量。
4、计算主成分变量值。
5、统计结果分析，提取所需的主成分。
SAS主成分分析示例我们从实战入手，先来个简单的例子，完整体验使用SAS进行主成分分析的过程。
准备好图1所示的数据集，该数据集包含5个变量和22个观测。
其中变量num用于标识每条观测。
图1可以直接复制下面的程序完成输入：data Practice.PCA_Demo;input num var1 var2 var3 var4;cards;1 21 10.7 99.7 9.52 9.5 17.9 139.6 18.73 21.2 8.4 90 6.84 12 22.7 42.5 24.15 6.8 21.2 55.2 22.46 8.2 22.4 55.6 22.67 3.6 29.2 68.3 26.78 19.5 15.2 18.8 17.49 24.8 5.4 43.7 2.910 8.4 18.6 146.2 19.711 28.9 4.4 4.9 1.112 19.5 15.1 10.2 18.513 28.3 4.7 13.3 1.814 24.7 12.1 116.8 12.615 12.8 23.6 90 23.716 23.1 6.8 100.1 3.717 15.1 13.7 100.9 14.218 2.9 6.2 80.7 2.719 18.4 11.8 99.3 13.820 22.9 12.3 47.6 13.321 5.8 29.4 83.5 27.622 18.8 8.6 61.1 8.9;run;我们的目的是，化简var1-var4四个变量，找出可以替代这四个变量的若干个彼此独立的新变量，也就是找出主成分。
SAS主成分分析
cov( y1 , y 2 ) = 0
（7.25）
'
于是，我们在约束条件（7.2.2）式和（7.2.5）式下寻求向量 a 2 ，使 V ( y 2 ) = a 2 Sa 2 达到最 大，所求的 y 2 称为第二主成分。类似地，我们可以再定义第三主成分、…、第 p 主成分。 一般来说， x 的第 i 主成分 y i = a i x 是指：在约束条件（7.2.2）和
k 设 X 和 Y 是随机变量，若 E ( X ) ， k = 1, 2, L 存在，称它为 X 的 k 阶原点矩，简称 k
阶矩。 若 E [ X - E ( X )] k ， k = 1, 2, L 存在，称它为 X 的 k 阶中心矩。 若 E ( X k Y l ) ， k , l = 1, 2, L 存在，称它为 X 和 Y 的 k + l 阶混合矩。
y i = t i' x ，它具有方差 li ， i = 1,2, L , p 。
二、主成分的性质
5
1. 主成分的均值和协方差矩阵 记
æ y1 ö æ l1 ç ÷ ç ç y2 ÷ ç y = ç ÷ ， u = E ( y) ， L = ç M ç ÷ ç ç0 ç yp ÷ è è ø
由于
l2
ål
i =1
i =1 i =1 i =1
p
p
p
= l1 (t t ) + l 2 (t t ) + L + l p (t t )
' 2 1 1 ' 2 1 2
' 2 1 p
= l1 + 0 = l1
所以， y1 = t1' x 就是所求的第一主成分，它的方差具有最大值 l1 。 如果第一主成分所含信息不够多，还不足以代表原始的 p 个变量，则需考虑使用 y 2 ， 为了使 y 2 所含的信息与 y1 不重叠，应要求
SAS软件与统计应用教程ch6――主成分分析与因子分析PPT课件
求出协方差矩阵Σ的特征值12…p>0及相应的正
交化单位特征向量：
a11
a12
a1p
a1
a21,
a2
a22, ...,ap
a2p
ap1
ap2
app
则X的第i个主成分为Fi = ai'X i = 1，2，…，p。
SAS软件与统计应用教程
STAT
(3) 选择主成分
图中看出，上海在第二主成分PCR2的得分远远高于 其他省市，而在第一主成分PCR1的得分则处于中间。 广东、江苏、山东和浙江则在第1主成分的得分上位于 前列。
SAS软件与统计应用教程
பைடு நூலகம்
STAT
6) 回到INSIGHT的数据窗口，可以看到前两个主成 分的得分情况（如图6-8左）。
单击数据窗口左上角的箭头，在弹出的菜单中选择 “Sort（排序）”选项，在打开的对话框中选定排序变 量PCR1，并单击“Asc/Des”按钮将其设为降序（Des）， 如图6-8所示。
(5) 标准化 实际应用时，指标的量纲往往不同，所以在主成分计
算之前应先消除量纲的影响。消除数据的量纲有很多方 法，常用方法是将原始数据标准化，即做如下数据变换：
其中
xi*j，xijs jxj
i1,2,..n;.j,1,2,..p.,
，j = 1，2，…，p。
标准化x j后 的n1 i数n1 x据ij 阵s2j记为n1X1*，in1其(xi中j 每xj)个2 列向量（标准化变
对于第一主成分而言，除了x2（人均GDP）外，各变 量所占比重均在0.3左右以上，因此第一主成分(Prin1)主
要由x1、x3～x9八个变量解释；而第二主成分则主要由 x2这一个变量解释。
SAS主成分分析
SAS 大作业主成分分析法理学院07统计学01班孙禹40708030104SAS 主成分分析利用SAS 程序我们可以进行主成分分析以及因子分析，因此首先要明白主成分分析与因子分析的概念与步骤，以方便进行后续工作1. 主成分分析的基本思想主成分分析是数学上对数据降维德一种方法。
其基本思想是设法将原来众多的具有一定相关性的指标，重新组合成一组新的互不相关的综合指标来代替原来指标。
这种线性组合有很多种，选取时，在所有的线性组合中所选取的F1应该是方差最大的，故称F1为第一主成分。
如果第一主成分不足以代表原来P 个指标的信息，再选取F2即第二个线性组合，依次类推。
一般地说，利用主成分分析得到的主成分与原始变量之间有如下的关系：（1）、每个主成分都是各原始量的线性组合。
（2）、主成分的数目大大少于原始变量的数目。
（3）、主成分保留了原始变量绝大多数信息。
（4）、各主成分之间互不相关2主成分分析的基本理论假设我们所讨论的实际问题中，有p 个指标，我们把这p 个指标看作p 维随机变量，记为X=(X 1，X 2，…，X p )T ，主成分分析就是要把这p 个指标的问题，转变为讨论p 个指标的线性组合的问题，而这些新的指标F 1，F 2，…，F k (k ≤p ），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。
3主成分分析步骤根据研究问题选取初始分析变量；根据初始变量特性判断由协方差阵求主成分还是由相关阵求主成分； 求协方差阵或相关阵的特征根与特征向量；11112121212122221122p p p p p p p pp pY u X u X u X Y u X u X u X Y u X u X u X =+++=+++=+++判断是否存在明显的多重共线性，若存在，则回到第一步；得到主成分表达式并确定主成分个数，选取主成分；结合主成分对研究问题进行分析并深入研究。
4主成分的上机实验例：北京1961~1986年冬季的气温资料如表，变量个数p=3，对这些资料进行主成分分析。
11-使用SAS进行主成分分析
例如：评价儿童的生长发育情况，某研究者收集了12 个指标，如身高、体重、胸围、肩宽、肺活量等资料。应 如何利用这12个指标进行评价？
这些指标个数很多，且指标间往往是彼此相关的。 如仅选用其中一个指标来评价，则：损失信息 如分别应用每个指标，则：评价是孤立的，非综合性
主成分分析的一般步骤
1、 收集数据并建立数据库
2、 对变量进行标准化处理
yi
xi xi si
,i1,2,p
3、 求主成分:
（1） 求相关矩阵R
r11
R
r1 p
（2） 求R的特征根：
rp1 rpp
λ1≥λ2≥….≥λP
（3） 求R的关于特征根λi的满足正规条件的特征 向量 ai, (ai1,ai2 ,…,aip ) i=1,2,…P
由表达式z2＝-0.707lyl十0.707ly 2，可见y1、y2的系数绝对值相 等，符号相反，前者为负后者为正，说明前音(体重)愈大，第二主 成分的取值愈小，后者(身高)愈大，第二主成分的取值也愈大，即 矮胖者第二主成分取值大，瘦高者第二主成分取值小，说朗第二主 成分描述的是幼儿的体型。
（四）、计算主成分得分
主成分分析的好坏关键在于给综合指标所蕴藏的信 息以恰当的解释。
三、 主成分分析的基本原理：
主成分分析是对多个指标的观察数据 降维压缩，对指标间的内部从属性作客观 评价的多元分析方法。
例：对n个儿童测量其身高(x1)、体重(x2)两个指标， 显然这两个指标是高度相关的，若以x1为横，以x2 为纵轴，用n个对象的数据作散点图。
i p
i
主成分分析法
率为 i i / i ，i越大，说明相应的主成分反映综合 i 1
信息的能力越强。
SAS软件与统计应用教程
SAS
3. 主成分分析的步骤
(1) 计算协方差矩阵
计算样品数据的协方差矩阵：Σ = (sij)pp，其中
sij
1 n 1
n
( xki
k 1
xi )( xkj
xj)
i，j = 1，2，…，p
固定资产 投资x5 1315.9 2288.7 1161.6 703.7 2320 1970.2 2296.6 964.5 3022.9 542.2
基本建设 投资x6 529 1070.7 597.1 361.9 1141.3 779.3 1180.6 397.9 1275.5 352.7
社会消费品 零售总额x7 2258.4 3181.9 1968.3 941.4 3215.8 2035.2 2877.5 1663.3 5013.6 1025.5
SAS软件与统计应用教程
SAS
(3) 选择主成分
在已确定的全部p个主成分中合理选择m个来实现最
终的评价分析。一般用方差贡献率
p
i i / k
解释主成分Fi所反映的信k息1 量的大小，m的确定以累计
贡献率
m
p
G(m) i / k
i 1
k 1
达到足够大（一般在85%以上）为原则。
SAS软件与统计应用教程
各地区的经济发展水平进行主成分分析。
SAS软件与统计应用教程
SAS
1. 使用INSIGHT模块做主成分分析的步骤
使用INSIGHT模块做主成分分析的步骤如下： 1) 在INSIGHT模块中打开数据集Mylib.jjzb；选择菜 单“Analyze”“Multivariate(Y X)（多元分析）”，打 开“Multivariate(Y X)”对话框； 2) 将做主成分分析的变量x1～x9选为Y变量，将变量 diqu选为Label变量，如图所示。
SAS系统和数据分析主成分分析
第三十五课 主成分分析一、 主成分的导出主成分分析（principal component analysis ）是1901年提出，再由Hotelling （1933）加以发展的一种统计方法。
其主要目的是在于将许多变量减少，并使其改变为少数几个相互独立的线性组合形成的变量（主成分），而在经由线性组合而得的成分之方差会变为最大，使得原始p 维资料在这些成分上显示最大的个别差异来。
用一句话来说，主成分分析是将多个变量化为少数综合变量的一种多元统计方法。
设有n 组样品，每组样品有p 个变量，记n 组样品数据见表35.1。
表35.1 p 个变量的n 组样品数据样品号 变量1 2 … n 1X 2Xp X11x21x …1n x 12x22x …2n x 错误！未定义书签。
错误！未定义书签。
错误！未定义书签。
p x 1 错误！未定义书签。
…错误！未定义书签。
如果p 个变量是相互独立的，则可以将问题化为单变量逐个处理，这是比较简单的。
但是对大量的实际问题中提出来的数据，各变量之间往往存在着不同程度的相关关系，这时要搞清这些数据之间的关系，就必须在高维空间中加以研究，这显然是比较麻烦的，为了克服这一困难，一个很自然的想法就是采取降维的方法，也就是利用全部p 个变量来重新构造q 个新的综合变量（p q ≤），并使得这些较少的变量既能尽可能多地反映原来p 个变量的统计特性，并且它们之间又是相互独立的。
假定=x 1(x ，2x ，…，)'p x 是一组随机变量，并且μ=Ex ，协方差阵V x D =)(错误！未定义书签。
考虑1x ，2x ，…，p x 的一个线性组合（或称线性变换）：x a x a x a x a Z p p '=+++= 2211(35.1)这里),,,(21p a a a a ='。
对于综合变量Z ，我们要选择一组系数),,,(21p a a a a ='使得Z 的方差最大；由于Va a x a Var '=')(，对任意给定的常数c ，Va a c x a c Var '='2)(，如果对a 不加以限制，上述问题就变得毫无意义。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
概述
❖ 主成份分析的基本思想就是将彼此相关的一组指标 变量转化为彼此独立的一组新的指标变量，并用其 中较少的几个新指标变量就能综合反应原多个指标 变量中所包含的主要信息，符合专业含义。何为主 成分？简而言之，主成分实际上就是由原变量X1～ Xm线性组合出来的ｍ个互不相关、且未丢失任何信 息的新变量，也称为综合变量。多指标的主成分分 析常被用来寻找判断某种事物或现象的综合指标， 并给综合指标所蕴藏的信息以恰当解释，以便更深 刻地揭示事物内在的规律。
Hale Waihona Puke 0Va(rZk)主成分分析的方法步骤
❖ 求得k个非负特征值 i(i1,2,,k) ，将这些特 征值按从小到大的顺序排列为：
12k0
❖ 再由
l(iR li 11I)li
0 i1,2,,k
❖ 解得每一特征值对应的特征向量，从而求得
各主成分：
Z i li X li1 X 1 li2 X 2 liX kk
k1
n
n
(xki xi )2 (xkj xj )2
k1
k1
主成分分析的方法步骤
❖ 计算相关矩阵的特征值和特征值所对应的特 征向量：
❖ 求主成分的问题，实际上就是要求出标准化 指标变量X的协方差矩阵Cov（X）的特征 值和特征向量。X的协方差矩阵为：
Va(rZ1)
0
Co(vX)LL
Va(rZ2)
X
n1
X n2
X1k
X
2k
X
n
k
主成分分析的方法步骤
❖ 计算相关系数矩阵：
r11 r12 r1k 1 r12 r1k RCo(Xv)r21 r22 r2kr21 1 r2k
rk1 rk2
rk
k
rk1
rk2
1
❖ 其中，
rij
n
(xki xi )(xkj xj )
主成分分析简介
❖ 主成分分析法是一种数学变换的方法, 它把给定的 一组相关变量通过线性变换转成另一组不相关的变 量，这些新的变量按照方差依次递减的顺序排列。 在数学变换中保持变量的总方差不变，使第一变量 具有最大的方差，称为第一主成分，第二变量的方 差次大，并且和第一变量不相关，称为第二主成分。 依次类推，I个变量就有I个主成分。
第16章 主成分分析
中国疾病预防控制中心
概述
❖ 科学研究所涉及的课题往往比较复杂，是因为影响客观事物 的因素多，需要考察的变量多。例如，糖尿病、动脉硬化等 疾病的病因是多种多样的，收集的资料中包含的信息是丰富 多彩的。再如，在心理学研究中，描述儿童气质的指标可以 有9个，描述儿童活动能力的指标可以有6个，；在临床医学 研究中，描述儿童生长发育的的可以有12个指标，鉴别阑尾 炎病型的可以有27个指标。然而，重叠的、低质量的信息越 多，越不利于医生作出诊断。指标较多时，给资料分析带来 很多麻烦，增加了分析问题的复杂性和难度。例如，在线性 回归分析中，要求模型中的自变量是相互独立的，否则，估 计的结果是不准确的，甚至是相反的结论，产生误导。
主成分分析的方法步骤
❖ 计算主成分得分 ❖ 如果标准化指标变量 X1,X2,,Xk的第i个主成分是：
Z i li X li1 X 1 li2 X 2 liX kk
主成分分析的方法步骤
❖ 计算主成分贡献率及累计贡献率
❖ 各主成分互不相关，即的相关系数： ❖ 于rZ 是i,Zj，各C 主(o Z 成C i,v 分Zi(o )Z 间iC ,v Z 的j)(o Z 相j,v 关Zj)系数0(i矩j阵) 为单位矩
阵。
❖ 一般地，主成分Zi的贡献率为：
i i
k
i
k
i1
概述
❖ 在大部分实际问题中，变量之间是有一定的相关性的，人们 自然希望找到较少的几个彼此不相关的综合指标尽可能多地 反映原来众多变量的信息。比如描述儿童生长发育的指标中， 身高、腿长和臂长这三个指标可能是相关的，而胸围、大腿 围和臂围这三个围度指标也会有一定的相关性。如果分别用 每一个指标对儿童的生长发育做出评价，那么这种评价就是 孤立的、片面的，而不是综合的。仅选用几个“重要的”或 “有代表性”的指标来评价，就失去了许多有用的信息，容 易得出片面的结论。所以，我们需要一种综合性的分析方法， 既可减少指标变量的个数，又尽量不损失原指标变量所包含 的信息，对资料进行全面的综合分析。主成分分析正是适应 这一要求产生的，是解决这类题的理想工具。
主成分分析的方法步骤
❖ 计算主成分载荷 ❖ 第的i系个数主l成 ij的分乘Z积i的特征值的平方根与第j原始指标Xj
qij i lij
❖ 为因子载荷。由因子载荷所构成的矩阵为因子载 荷阵。实际数，因子载荷qij就是第i主成分Zi与第j 原始指标Xj之间的相关系数，它反映了主成分Zi与 原始指标Xj之间联系的密切程度与作用方向。
❖ 主成分分析是把原来多个变量划为少数几个综合指 标的一种统计分析方法，是一种降维处理技术。
主成分分析的方法步骤
❖ 主成分分析的过程，就是确定原来变量xj（j1,2,,k） 在各主成分zi（i1,2,,k）上的载荷lij。
❖ 从主成分分析的基本原理和数学模型可以看出，主 成分分析的任务是估计主成分，确定主成分的个数， 解释主成分的实际意义和计算主成分得分。
(i 1,2,,k)
主成分分析的方法步骤
❖ 确定主成分的个数
❖ 当得到了k个主成分后，要根据确定主成分个数的准则和 主成分的实际意义来确定主成分的个数。一般说，确定主 成分个数的准则有两个：①以累积贡献率来确定：当前P 个主成分的累积贡献率达到某一特定值时（一般采用 70%~85%为准则），则保留前P个主成分。②根据特征值 大小来确定，一般地，取特征值大于或等于1为准则。若 有s个特征值大于或等于1，那么就可以确定主成分的个数 为s个。一般可以将两种确定主成分个数的方法结合起来， 选出有实际意义的主成分。
❖ 假设有k个指标x1，x2，…，xk，每一个指标有n个 观测值，它们的标准化指标变量是 X1,X2,,Xk ，
主成分分析的方法步骤
❖ 对原始指标数据进行标准化变换： ❖ 将原始数X据ij标xi准jsj x化j ,，j然1,2,后,利k 用标准化的数据
计算主成分。X为标准化后的数据矩阵，则：
X11 X12 X X 21 X 22