统计分析与方法-第八章 主成分与因子分析
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
100 个学生的数学、物理、化学、语文、历
史、英语的成绩如下表（部分）。
从本例可能提出的问题
目前的问题是，能不能把这个数据的 6个变
量用一两个综合变量来表示呢？ 这一两个综合变量包含有多少原来的信息 呢？ 能不能利用找到的综合变量来对学生排序 呢？这一类数据所涉及的问题可以推广到对 企业，对学校进行分析、排序、判别和分类 等问题。
（0.744+0.736+0.718+0.890+0.870+0.880）/6=0.8113
变量共同度的统计意义
变量Xi的共同度——因子载荷阵A 中第i行元素的平方和， 即：
2 h a ij i 1, , p 2 i j1 m
为了说明他的统计意义，将下式两边求方差，即 Xi a i1F1 +a i2 F2 + +a im Fm + i
2 2 Var（Xi）=a i1 Var（F1）+ +a im Var（Fm）+Var（ i） 2 2 2 =a i1 a i2 a im i2
由Component1、2的系数除以
3.735和
1.133
，得到：
Y1=-0.417x1-0.349x2-0.349x3+0.462x4+0.427x5+0.433x6
Y2=0.183x1+0.275x2+0.265x3+0.158x4+0.225x5+0.220x6
•这些系表示主成分和相应的原先变量的相关系数。 •相关系数(绝对值）越大，主成分对该变量的代表 性也越大。
特征值的贡献还可以从SPSS的所谓碎石图看出
Scree Plot
4
3
2
1
0 1 2 3 4 5 6
Component Number
可以把第一和第二主成分的点画出一个二维图以直 观地显示它们如何解释原来的变量的。
Component Plot
1.0
.5
phys chem math
history english literat
• 头两个成分特征值对应的方差累积占了总方差的 81.142% ，称为累计方差贡献率为 81.142% 。后面的 特征值的贡献越来越少。 • 一般我们取累计方差贡献率达到 85%左右的前 k 个 主成分就可以了，因为它们已经代表了绝大部分的 信息 。 • Spss 中选取主成分的方法有两个：一是根据特征 根≥ 1来选取； 另一种是用户直接规定主成分的个 数来选取。
因子分析
我们如果想知道每个变量与公共因子的关
系，则就要进行因子分析了。因子分析模型 为： x1 a 11F1 a 12 F2 a 1m Fm ε 1
x 2 a 21F1 a 22 F2 a 2p FP ε x p a p1F1 a p2 F2 a pm Fm ε
3
主成分与因子分析
结果统计学家成功了!
这两个不相关的指标就是上衣的型和
号。 本章的教学目的就是教会学生如何建 立和使用降维模型。
4
主成分分析
每个人都会遇到有很多变量的数据。 比如全国或各个地区的带有许多经济和社
会变量的数据；各个学校的研究、教学等各 种变量的数据等等。 这些数据的共同特点是变量很多，在如此 多的变量之中，有很多是相关的。人们希望 能够找出它们的少数“代表”来对它们进行 描述。
这时称：Y1是第一主成分
Y2是第二主成分 ｜
主成分的含义
有原始数据的协方差阵或相关系数据阵，
可计算出矩阵的特征根：
1 2 p
则：1 对应Y1的方差
2 对应Y2的方差
p 对应Yp的方差
主成分的含义
1对应的特征向量： 11，12， 1 p
为第一主成分的线性组 合系数，即： y 1 11x1 12x2 1 p
但是， spss 软件中没有直接给出主成分系
数，而是给出的因子载荷，我们可将因子载 荷系数除以相应的 i ，即可得到主成分系 数。
a Com ponent Matri x
Component 1 2 MATH -.806 .353 PHYS -.674 .531 CHEM -.675 .513 LITERAT .893 .306 HISTORY .825 .435 ENGLISH .836 .425 Extraction Method: Principal Component Analysis. a. 2 components extracted.
主成分分析
对于多维变量的情况和二维类似，也有高
维的椭球，只不过无法直观地看见罢了。 首先把高维椭球的主轴找出来，再用代表 大多数数据信息的最长的几个轴作为新变量； 这样，主成分分析就基本完成了。 注意，和二维情况类似，高维椭球的主轴 也是互相垂直的。这些互相正交的新变量是 原先变量的线性组合，叫做主成分 (principal component)。
因主 子成 分分 析分 析 和
主成分与因子分析
主成分与因子分析
好裁缝做上衣，要测量上体长、手臂长、
胸围等 14 个指标。用流水线生产上衣时要 测量每个顾客的 14 个指标是不可能的。 于是统计学家出了个主意：这 14 个指标 是相关的，可以找出几个反映上衣特征的综 合指标，加工出的上衣大多数人都能穿，当 然特体除外。
μ ij为系数 组成的系数矩阵就是U
这个方程且满足：
2 2 μ2 μ μ k1 k2 kp 1
主成分分析
其中 μ ij
有以下原则来确定：
Yi与Y 相互无 关 j Y1是x 线 一切 线 性 组 最大的 合 1 x p的一切 Y2是x 线 一切 线 性 组 第二大的 合 1 x p的一切
主成分分析
为什么spss中值取了两个主成分呢？
Tot al Va rianc e Exp laine d Initial Eigenvalues % of Compon Varianc Cumulati ent Total e ve % 1 3.735 62.254 62.254 2 1.133 18.887 81.142 3 .457 7.619 88.761 4 .323 5.376 94.137 5 .199 3.320 97.457 6 .153 2.543 100.000 Extraction Method: Principal Component Analysis. Extraction Sums of Squared Loadings % of Varianc Cumulati Total e ve % 3.735 62.254 62.254 1.133 18.887 81.142
对于我们的数据，SPSS输出为：
Tot al Va rianc e Exp laine d Initial Eigenvalues Component Total % of Variance Cumulative % 1 3.735 62.254 62.254 2 1.133 18.887 81.142 3 .457 7.619 88.761 4 .323 5.376 94.137 5 .199 3.320 97.457 6 .153 2.543 100.000 Extraction Method: Principal Component Analysis. Extraction Sums of Squared Loadings Total % of Variance Cumulative % 3.735 62.254 62.254 1.133 18.887 81.142
主成分分析
例中的的数据点是六维的；也就是说，每
个观测值是6维空间中的一个点。我们希望把 6维空间用低维空间表示。 先假定只有二维，即只有两个变量，它们 由横坐标和纵坐标所代表；因此每个观测值 都有相应于这两个坐标轴的两个坐标值；如 果这些数据形成一个椭圆形状的点阵（这在 变量的二维正态的假定下是可能的）
主成分分析和因子分析
本章就介绍两种把变量维数降低以便
于描述、理解和分析的方法：主成分分 析 （ principal component analysis ） 和因子分析（factor analysis）。实际 上主成分分析可以说是因子分析的一个 特例。在引进主成分分析之前，先看下 面的例子。
成绩数据（student.sav）
这里的 Initial
Eigenvalues就是这 里的六个主轴长度，又称特征值（数 据相关阵的特征值）。
主成分分析的一般模型
Y1 μ 11 x1 μ 12 x 2 μ 1p x p Y2 μ 21 x1 μ 22 x 2 μ 2p x p Yp μ p1 x1 μ p2 x 2 μ pp x p
主成分分析
正如二维椭圆有两个主轴，三维椭球有三
个主轴一样，有几个变量，就有几个主成分。 选择越少的主成分，降维就越好。什么是 标准呢？那就是这些被选的主成分所代表的 主轴的长度之和占了主轴长度总和的大部分。 有些文献建议，所选的主轴总长度占所有主 轴长度之和的大约85%即可，其实，这只是一 个大体的说法；具体选几个，要看实际情况 而定。
2
p
因子载荷
a ij ຫໍສະໝຸດ Baidu为因子载荷（实际上是权数）。 因子载荷的统计意义：就是第i个变量与第j 个公共因子的相关系数，即表示变量xi依赖于 Fj 的份量（比重），心理学家将它称为载荷。
MAT H(x 1 ) 0.806F 1 0.353F 2 PHYS(x2 ) 0.671F 1 0.531F 2
a Com ponent Matri x
Component 1 2 MATH -.806 .353 PHYS -.674 .531 CHEM -.675 .513 LITERAT .893 .306 HISTORY .825 .435 ENGLISH .836 .425 Extraction Method: Principal Component Analysis. a. 2 components extracted.
h i2 i2 由于Xi已经标准化了，所以有： 1 h i2 i2
30
公因子方差表
提取出来的公因子对每个变量的解释程度
到底有多大呢？可从公因子方差表得知：
Com munali ties Initial Extraction MATH 1.000 .774 PHYS 1.000 .736 CHEM 1.000 .718 LITERAT 1.000 .890 HISTORY 1.000 .870 ENGLISH 1.000 .880 Extraction Method: Principal Component Analysis.
0.0
-.5
-1.0 -1.0
该图左面三个点是数学、物理、化学三科， 右边三个点是语文、历史、外语三科。
-.5 0.0 .5 1.0
C omponent 1
因子分析
因子分析是主成分分析的推广和发展。
为什么要进行因子分析？
由主成分分析的模型可知：
y1 a11 x1 a12 x2 a1 p x p y2 a21 x1 a22 x2 a2 p x p y p a p1 x1 a p 2 x2 a pp x p
10
-4
-2
0
2
4
-4
-2
0
2
4
主成分分析
那么这个椭圆有一个长轴和一个短轴。
在短轴方向上，数据变化很少；在极端 的情况，短轴如果退化成一点，那只有 在长轴的方向才能够解释这些点的变化 了；这样，由二维到一维的降维就自然 完成了。
主成分分析
当坐标轴和椭圆的长短轴平行，那么代表
长轴的变量就描述了数据的主要变化，而代 表短轴的变量就描述了数据的次要变化。 但是，坐标轴通常并不和椭圆的长短轴平 行。因此，需要寻找椭圆的长短轴，并进行 变换，使得新变量和椭圆的长短轴平行。 如果长轴变量代表了数据包含的大部分信 息，就用该变量代替原先的两个变量（舍去 次要的一维），降维就完成了。 椭圆（球）的长短轴相差得越大，降维也 越有道理。
史、英语的成绩如下表（部分）。
从本例可能提出的问题
目前的问题是，能不能把这个数据的 6个变
量用一两个综合变量来表示呢？ 这一两个综合变量包含有多少原来的信息 呢？ 能不能利用找到的综合变量来对学生排序 呢？这一类数据所涉及的问题可以推广到对 企业，对学校进行分析、排序、判别和分类 等问题。
（0.744+0.736+0.718+0.890+0.870+0.880）/6=0.8113
变量共同度的统计意义
变量Xi的共同度——因子载荷阵A 中第i行元素的平方和， 即：
2 h a ij i 1, , p 2 i j1 m
为了说明他的统计意义，将下式两边求方差，即 Xi a i1F1 +a i2 F2 + +a im Fm + i
2 2 Var（Xi）=a i1 Var（F1）+ +a im Var（Fm）+Var（ i） 2 2 2 =a i1 a i2 a im i2
由Component1、2的系数除以
3.735和
1.133
，得到：
Y1=-0.417x1-0.349x2-0.349x3+0.462x4+0.427x5+0.433x6
Y2=0.183x1+0.275x2+0.265x3+0.158x4+0.225x5+0.220x6
•这些系表示主成分和相应的原先变量的相关系数。 •相关系数(绝对值）越大，主成分对该变量的代表 性也越大。
特征值的贡献还可以从SPSS的所谓碎石图看出
Scree Plot
4
3
2
1
0 1 2 3 4 5 6
Component Number
可以把第一和第二主成分的点画出一个二维图以直 观地显示它们如何解释原来的变量的。
Component Plot
1.0
.5
phys chem math
history english literat
• 头两个成分特征值对应的方差累积占了总方差的 81.142% ，称为累计方差贡献率为 81.142% 。后面的 特征值的贡献越来越少。 • 一般我们取累计方差贡献率达到 85%左右的前 k 个 主成分就可以了，因为它们已经代表了绝大部分的 信息 。 • Spss 中选取主成分的方法有两个：一是根据特征 根≥ 1来选取； 另一种是用户直接规定主成分的个 数来选取。
因子分析
我们如果想知道每个变量与公共因子的关
系，则就要进行因子分析了。因子分析模型 为： x1 a 11F1 a 12 F2 a 1m Fm ε 1
x 2 a 21F1 a 22 F2 a 2p FP ε x p a p1F1 a p2 F2 a pm Fm ε
3
主成分与因子分析
结果统计学家成功了!
这两个不相关的指标就是上衣的型和
号。 本章的教学目的就是教会学生如何建 立和使用降维模型。
4
主成分分析
每个人都会遇到有很多变量的数据。 比如全国或各个地区的带有许多经济和社
会变量的数据；各个学校的研究、教学等各 种变量的数据等等。 这些数据的共同特点是变量很多，在如此 多的变量之中，有很多是相关的。人们希望 能够找出它们的少数“代表”来对它们进行 描述。
这时称：Y1是第一主成分
Y2是第二主成分 ｜
主成分的含义
有原始数据的协方差阵或相关系数据阵，
可计算出矩阵的特征根：
1 2 p
则：1 对应Y1的方差
2 对应Y2的方差
p 对应Yp的方差
主成分的含义
1对应的特征向量： 11，12， 1 p
为第一主成分的线性组 合系数，即： y 1 11x1 12x2 1 p
但是， spss 软件中没有直接给出主成分系
数，而是给出的因子载荷，我们可将因子载 荷系数除以相应的 i ，即可得到主成分系 数。
a Com ponent Matri x
Component 1 2 MATH -.806 .353 PHYS -.674 .531 CHEM -.675 .513 LITERAT .893 .306 HISTORY .825 .435 ENGLISH .836 .425 Extraction Method: Principal Component Analysis. a. 2 components extracted.
主成分分析
对于多维变量的情况和二维类似，也有高
维的椭球，只不过无法直观地看见罢了。 首先把高维椭球的主轴找出来，再用代表 大多数数据信息的最长的几个轴作为新变量； 这样，主成分分析就基本完成了。 注意，和二维情况类似，高维椭球的主轴 也是互相垂直的。这些互相正交的新变量是 原先变量的线性组合，叫做主成分 (principal component)。
因主 子成 分分 析分 析 和
主成分与因子分析
主成分与因子分析
好裁缝做上衣，要测量上体长、手臂长、
胸围等 14 个指标。用流水线生产上衣时要 测量每个顾客的 14 个指标是不可能的。 于是统计学家出了个主意：这 14 个指标 是相关的，可以找出几个反映上衣特征的综 合指标，加工出的上衣大多数人都能穿，当 然特体除外。
μ ij为系数 组成的系数矩阵就是U
这个方程且满足：
2 2 μ2 μ μ k1 k2 kp 1
主成分分析
其中 μ ij
有以下原则来确定：
Yi与Y 相互无 关 j Y1是x 线 一切 线 性 组 最大的 合 1 x p的一切 Y2是x 线 一切 线 性 组 第二大的 合 1 x p的一切
主成分分析
为什么spss中值取了两个主成分呢？
Tot al Va rianc e Exp laine d Initial Eigenvalues % of Compon Varianc Cumulati ent Total e ve % 1 3.735 62.254 62.254 2 1.133 18.887 81.142 3 .457 7.619 88.761 4 .323 5.376 94.137 5 .199 3.320 97.457 6 .153 2.543 100.000 Extraction Method: Principal Component Analysis. Extraction Sums of Squared Loadings % of Varianc Cumulati Total e ve % 3.735 62.254 62.254 1.133 18.887 81.142
对于我们的数据，SPSS输出为：
Tot al Va rianc e Exp laine d Initial Eigenvalues Component Total % of Variance Cumulative % 1 3.735 62.254 62.254 2 1.133 18.887 81.142 3 .457 7.619 88.761 4 .323 5.376 94.137 5 .199 3.320 97.457 6 .153 2.543 100.000 Extraction Method: Principal Component Analysis. Extraction Sums of Squared Loadings Total % of Variance Cumulative % 3.735 62.254 62.254 1.133 18.887 81.142
主成分分析
例中的的数据点是六维的；也就是说，每
个观测值是6维空间中的一个点。我们希望把 6维空间用低维空间表示。 先假定只有二维，即只有两个变量，它们 由横坐标和纵坐标所代表；因此每个观测值 都有相应于这两个坐标轴的两个坐标值；如 果这些数据形成一个椭圆形状的点阵（这在 变量的二维正态的假定下是可能的）
主成分分析和因子分析
本章就介绍两种把变量维数降低以便
于描述、理解和分析的方法：主成分分 析 （ principal component analysis ） 和因子分析（factor analysis）。实际 上主成分分析可以说是因子分析的一个 特例。在引进主成分分析之前，先看下 面的例子。
成绩数据（student.sav）
这里的 Initial
Eigenvalues就是这 里的六个主轴长度，又称特征值（数 据相关阵的特征值）。
主成分分析的一般模型
Y1 μ 11 x1 μ 12 x 2 μ 1p x p Y2 μ 21 x1 μ 22 x 2 μ 2p x p Yp μ p1 x1 μ p2 x 2 μ pp x p
主成分分析
正如二维椭圆有两个主轴，三维椭球有三
个主轴一样，有几个变量，就有几个主成分。 选择越少的主成分，降维就越好。什么是 标准呢？那就是这些被选的主成分所代表的 主轴的长度之和占了主轴长度总和的大部分。 有些文献建议，所选的主轴总长度占所有主 轴长度之和的大约85%即可，其实，这只是一 个大体的说法；具体选几个，要看实际情况 而定。
2
p
因子载荷
a ij ຫໍສະໝຸດ Baidu为因子载荷（实际上是权数）。 因子载荷的统计意义：就是第i个变量与第j 个公共因子的相关系数，即表示变量xi依赖于 Fj 的份量（比重），心理学家将它称为载荷。
MAT H(x 1 ) 0.806F 1 0.353F 2 PHYS(x2 ) 0.671F 1 0.531F 2
a Com ponent Matri x
Component 1 2 MATH -.806 .353 PHYS -.674 .531 CHEM -.675 .513 LITERAT .893 .306 HISTORY .825 .435 ENGLISH .836 .425 Extraction Method: Principal Component Analysis. a. 2 components extracted.
h i2 i2 由于Xi已经标准化了，所以有： 1 h i2 i2
30
公因子方差表
提取出来的公因子对每个变量的解释程度
到底有多大呢？可从公因子方差表得知：
Com munali ties Initial Extraction MATH 1.000 .774 PHYS 1.000 .736 CHEM 1.000 .718 LITERAT 1.000 .890 HISTORY 1.000 .870 ENGLISH 1.000 .880 Extraction Method: Principal Component Analysis.
0.0
-.5
-1.0 -1.0
该图左面三个点是数学、物理、化学三科， 右边三个点是语文、历史、外语三科。
-.5 0.0 .5 1.0
C omponent 1
因子分析
因子分析是主成分分析的推广和发展。
为什么要进行因子分析？
由主成分分析的模型可知：
y1 a11 x1 a12 x2 a1 p x p y2 a21 x1 a22 x2 a2 p x p y p a p1 x1 a p 2 x2 a pp x p
10
-4
-2
0
2
4
-4
-2
0
2
4
主成分分析
那么这个椭圆有一个长轴和一个短轴。
在短轴方向上，数据变化很少；在极端 的情况，短轴如果退化成一点，那只有 在长轴的方向才能够解释这些点的变化 了；这样，由二维到一维的降维就自然 完成了。
主成分分析
当坐标轴和椭圆的长短轴平行，那么代表
长轴的变量就描述了数据的主要变化，而代 表短轴的变量就描述了数据的次要变化。 但是，坐标轴通常并不和椭圆的长短轴平 行。因此，需要寻找椭圆的长短轴，并进行 变换，使得新变量和椭圆的长短轴平行。 如果长轴变量代表了数据包含的大部分信 息，就用该变量代替原先的两个变量（舍去 次要的一维），降维就完成了。 椭圆（球）的长短轴相差得越大，降维也 越有道理。