探索性因素分析讲解

二、探索性因素分析的原理
1、因素分析模型 K个观测变量，分别为x1,x2,…,xk, xi为具有零均值， 单位方差的标准化变量。 因子模型的一般表达式为：
因子负载（Factor loadings） 特殊因子 （Ufacotor）
xi ai1 f 1 ai 2 f 2 ... aimfm ui (i 1, 2,..., k )
因子之间彼此独立 特殊因子和公因子之间彼此独立
二、探索性因素分析的原理
a11 .
二、探索性因素分析的原理
2、因素分析中的有关概念 （1）因子负载（loading）：当公因子之 间完全不相关时，aij等于第i个变量和第j个 因子之间的相关系数。 反映了因子和变量之间的相关程度 大多数情况下，人们往往假设公因子之间 时彼此正交的（Orthogonal），即不相关。
三、探索性因素分析的步骤
判断是否适合做因素分析的方法：
（2）巴特利特球体检验（Bartlett test of sphericity） 差异显著——适合做因素分析
三、探索性因素分析的步骤
（3）KMO（Kaiser－Meyer－Olkin Measure of Sampling Adequacy）测度 比较观测变量之间的简单相关系数和偏相 关系数的相对大小出发，其值的变化范围 从0到1 KMO<0.5肯定不适合做因素分析，最好大 于0.8
四、求解初始因子
2、公因子分析法 公因子方差的估计
用主成分分析的结果作为公因子方差的初始估计值 把每个变量和其余变量的相关系数中绝对值最大的， 作为该变量的公因子方差的初始估计值 用每个变量和剩下的其他变量的复相关系数的平方， 即R2作为该变量的公因子方差的初始估计值。
变量数量越少，不同方法之间的差异越大
三、探索性因素分析的步骤
３、确定因子个数。 有具体的假设，它决定了因子的个数； 没有假设，仅仅希望最后的到的模型能用尽可能 少的因子解释尽可能多的方差。 如果有k个变量，最多只能提取k个因子。通过检 验数据来确定最优因子个数的方法有很多。 Kaiser准则要求因子个数与相关系数矩阵的特征 根个数相等；而Screen检验要求把相关系数矩阵 的的特征根按从小到大的顺序排列，绘制成图， 然后来确定因子的个数。 究竟采用哪种方法来确定因子个数，具体操作时 可以视情况而定。
探索性因素分析
中国人民大学 心理学系 董妍 副教授
一、因素分析的概念
因素分析是多元统计分析技术的一个分支。 主要目的：浓缩数据 通过研究众多变量之间的内部依赖关系，探求观测 数据中的基本结构，并用少数几个假想变量来表示 基本的数据结构。这些假想变量能够反映原来众多 的观测变量所代表的主要信息，并解释这些观测变 量之间的相互依存关系。 这些假想变量称为基础变量，即因子（Factors）。 因素分析就是研究如何以最少的信息丢失把众多的 观测变量浓缩为少数几个因子。
二、探索性因素分析的原理
x1 0.9562 f 1 0.2012 f 2 0.2126u1 x 2 0.8735 f 1 0.2896 f 2 0.3913u 2 x3 0.1744 f 1 0.8972 f 2 0.4057u 3 x 4 0.5675 f 1 0.7586 f 2 0.3202u 4 x5 0.8562 f 1 0.3315 f 2 0.3962u 5
四、求解初始因子
1、主成分分析 （1）主成分的几何意义
空间分布
（2）主成分的求解
特征方程 主成分之间是不相关的，且fp的方差等于λ p。 ∑ λ p＝K,即特征值的和等于变量数 每个主成分所解释的方差等于所有变量在该主 成分上负载的平方和
四、求解初始因子
1、主成分分析 （3）因子个数的确定 特征值准则
二、探索性因素分析的原理
（3）因子的贡献 x1 0.9562 f 1 0.2012 f 2 0.2126u1 每个公因子对数据的解 释能力，可以用该因子 x 2 0.8735 f 1 0.2896 f 2 0.3913u 2 所解释的总方差来衡量， x3 0.1744 f 1 0.8972 f 2 0.4057u 3 通常称为该因子的贡献 x 4 0.5675 f 1 0.7586 f 2 0.3202u 4 （Contributions），记 x5 0.8562 f 1 0.3315 f 2 0.3962u 5 为Vp。它等于和该因子 有关的因子负载的平方 相对指标：每个因子所 和。公因子的总贡献等 解释的方差占所有变量 于各个因子贡献的和。 总方差的比例。
二、探索性因素分析的原理
（2）公因子方差 （Communality） 也叫共同度，又称公共方 差，指观测变量方差中由 公因子决定的比例，Hi2。 当公因子之间正交时，公 因子方差等于和该变量有 关的因子负载的平方和。 公因子方差表示了变量方 差中能被公因子所解释的 部分。
x1 0.9562 f 1 0.2012 f 2 0.2126u1 x2 0.8735 f 1 0.2896 f 2 0.3913u 2 x3 0.1744 f 1 0.8972 f 2 0.4057u 3 x4 0.5675 f 1 0.7586 f 2 0.3202u 4 x5 0.8562 f 1 0.3315 f 2 0.3962u5
二、探索性因素分析的原理
将彼此高度相关而又与别的变量相对独立 的一组变量聚合成群，称之为“因素” （又称潜变量）。 基本思想是，根据相关性大小把变量分组， 使得同组内的变量间相关较高，不同组变 量间的相关较低；每组变量代表一个基本 结构，即因素。 其目的是识别少数几个因子，以之表示并 解释多个相关变量之间的关系，从而减少 变量数目，简化复杂的数据结构。
大于1 应用最普遍
碎石检验准则（Scree test criterion）
曲线变平开始前一个点认为是提取的最大因子数
事先确定因子数 结合几个准则
四、求解初始因子
2、公因子分析法 主成分分析从解释变量的方差出发，假设变量的 方差能完全被主成分所解释，而公因子模型是从 解释变量之间的相关关系出发的，假设观测变量 之间的相关能完全被公因子解释，变量的方差不 一定能完全被公因子解释，这样每个变量被公因 子所解释的方差不再是1，而是公因子方差。所以 公因子模型在求因子解的时候子。 因子的提取方法也有多种，主要有主成分 方法、不加权最小平方法、极大似然法等， 我们可以根据需要选择合适的因子提取方 法。其中主成分方法一种比较常用的提取 因子的方法。
三、探索性因素分析的步骤
５、因子旋转。由于因子载荷阵的不唯一 性，可以对因子进行旋转，而正是由于这 一特征，使得因子结构可以朝我们可以合 理解释的方向趋近。我们用一个正交阵右 乘已经得到的因子载荷阵（由线性代数可 知，一次正交变化对应坐标系的一次旋 转），使旋转后的因子载荷阵结构简化。 旋转的方法也有多种，如正交旋转、斜交 旋转等，最常用的是方差最大化正交旋转。
两个观测变量之间的相关 ri j= a11a21+a21a22+….aimajm
二、探索性因素分析的原理
由因子模型导出的变量之间的相关系数可 以用来判断因子解是否合适，如果从观测 数据计算出的相关系数和从模型导出的变 量的相关系数差别很小，那么我们可以说 模型很好地拟合了观测数据，因子解是合 适的。
一、因素分析的概念
因素分析的历史
1904年斯皮尔曼（Charles Spearman）
应用领域
心理学、社会学、经济学、医学、地质学、气 象学和市场营销等
一、因素分析的概念
作用
寻求基本结构（Summarization）
• 高度相关的变量
化简数据（Data reduction）
• 用因子代替原来的观测变量进行其他统计分析 • 利用因子值对样本进行分类和综合评价
三、探索性因素分析的步骤
７、因子得分。因素分析的数学模型是将 变量表示为公共因子的线性组合，由于公 共因子能反映原始变量的相关关系，用公 共因子代表原始变量时，有时更利于描述 研究对象的特征，因而往往需要反过来将 公共因子表示为变量的线性组合，即因子 得分。
三、探索性因素分析的步骤
如果变量之间的相关程度很小，即大部分 相关系数都小于0.3，则不适合做因素分析。 判断是否适合做因素分析的方法： （1）反映象相关矩阵（Anti－image correlation matrix）。其元素等于负的偏 相关系数 很多元素的值比较大，考虑不适合做因素 分析
公因子（common factors）

f 1, f 2,..., fm
二、探索性因素分析的原理
1.因素分析模型 公因子：各个观测变量所共有的因子，解释了 变量之间的相关 特殊因子：每个观测变量所特有的因子，相当 于多元回归中的残差项，表示该变量不能被公 因子所解释的部分。 因子负载：第i个变量在第j个公因子上的负载， 相当于多元回归分析中的标准化回归系数。 i 1,..., k ; j 1,..., m
一、因素分析的概念
因素分析主要有两种基本形式：探索性因 素分析（Exploratory Factor Analysis） 和验证性因素分析（Confirmatory Factor Analysis）。
探索性因素分析（EFA）致力于找出事物内在 的本质结构； 验证性因素分析（CFA）是用来检验已知的特 定结构是否按照预期的方式产生作用。
三、探索性因素分析的步骤
１、收集观测变量。由于总体的复杂性和统计基 本原理的保证，为了达到研究目的，我们通常采 用抽样的方法收集数据。所以我们必须按照实际 情况收集观测变量，并对其进行观测，获得观测 值。 ２、获得协方差阵（或相关系数矩阵）。我们所 有的分析都是从原始数据的协方差阵（或相关系 数矩阵）出发的，这样使我们分析得到的数据具 有可比性，所以首先要根据资料数据获得变量协 方差阵（或相关系数矩阵）。