数学建模因子分析
数学建模之因子分析法
因子分析因子分析就是一种降维、简化数据的技术。
它通过研究众多变量之间的内部依赖关系，探求观测数据中的基本结构，并用少数几个“抽象”的变量来表示其基本的数据结构。
这几个抽象的变量被称作“因子”，能反映原来众多变量的主要信息。
原始的变量是可观测的显在变量，而因子一般是不可观测的潜在变量。
1.因子分析法的应用①汽车行业业绩评价研究（下载文档）， ②上市公司盈利能力及资本结构实证分析， ③生育率影响因素分析。
2.步骤①对原始数据进行标准化处理 用12,,,m x x x 表示因子分析指标的m 个变量，评价对象有n 个，ij a 表示第i个评价对象对应于第j 个指标的取值。
将每个指标值ij a 转化为标准化指标ij a ，即,(1,2,,;1,2,,)ij jij ja a i n j m s μ-===式中：11n j ij i a n μ==∑，211()1nj ij j i s a n μ==--∑ 相应地，标准化指标变量为,(1,2,,)j jj jx x j m s μ-==②计算相关系数矩阵R()ij m m R r ⨯=1,(,1,2,,)1nkikjk ij aa r i j m n =⋅==-∑式中：1,ii ij ji r r r ==，ij r 是第i 个指标和第j 指标之间的相关系数。
③计算初等载荷矩阵解特征方程0=-R I λ，得到特征值(1,2,,)i i m λ=12,0m λλλ≥≥≥≥，再求出相对应的特征值i λ的特征向量(1,2,,)i u i m =，其中12(,,,)T j j j mj u u u u =,得到初等载荷矩阵为11,,m m u λ⎤Λ=⎦④ 确定主因子的个数()k k m ≤ 一般选取使得累计贡献率1185%kmii i i λλ==≥∑∑的这k 个主因子，对k 个因子载荷矩阵作旋转，用()1k Λ表示1Λ的前k 列，T 表示正交矩阵，则得矩阵()21k T Λ=Λ，建立因子模型，即1111111,.k k mm mk k x F F x F F αααα=++⎧⎪⎨⎪=++⎩ ⑥计算因子得分，作出综合评价求出单个因子的得分函数ˆj F ，用ˆijF 表示第i 个样本对第j 个因子的得分估计值，Y 表示原始数据标准化后的矩阵，则总得分为1ˆˆ()ij n k kF F YR -⨯==Λ 例题我国上市公司赢利能力与资本结构的实证分析已知上市公司的数据见表1表1 上市公司数据试用因子分析法对上述企业进行综合评价。
因子分析数学模型
因子分析数学模型因子分析是一种统计方法，用于研究多个变量间的关系，并将其通过线性组合的方式转化为少数几个影响变量的因子。
因子分析模型是一种数学模型，旨在解释变量之间的相关性，找出潜在的因子影响变量的变异程度。
因子分析的数学模型可以分为两个阶段。
第一阶段是提取因子，通过主成分分析的方法从原始变量中提取出少数几个因子。
主成分分析的核心是将原始变量进行线性组合，使得新的变量能够解释尽可能多的原始变量的变异。
主成分分析将提取的因子按照解释的变异程度排序，选择解释性较好的因子作为主成分。
第二阶段是因子旋转，通过变换因子的坐标轴方向，使得因子能够具有较好的解释性和可解释性。
因子旋转可以使用正交旋转或斜交旋转的方法进行。
正交旋转将因子的坐标轴变换为正交的坐标轴，使得因子之间没有相关性；斜交旋转将因子的坐标轴变换为斜交的坐标轴，使得因子之间可以存在相关性。
根据具体问题的需求，选择适当的旋转方法。
因子分析的数学模型可以表示为：Y=λ1F1+λ2F2+…+λnFn+e其中，Y是观测变量的向量，包括m个变量；F是因子的向量，包括n个因子；λ是因子载荷的矩阵，表示观测变量对因子的影响程度；e是误差项。
因子载荷矩阵λ可以用来衡量观测变量与因子之间的关系，越大表示对应观测变量越受该因子的影响。
因子分析的数学模型还可以进一步扩展为混合因子分析模型。
混合因子分析模型考虑了因子间的相关性和观测变量间的相关性，通过引入协方差矩阵和错误项协方差矩阵，对因子和观测变量的相关性进行建模。
混合因子分析模型可以更准确地描述变量之间的关系，并提供更可靠的因子载荷和因子得分。
总之，因子分析是一种通过线性组合的方式转化变量间关系的统计方法，其数学模型可以用来解释变量之间的相关性，并提取出影响变量的少数几个因子。
因子分析的数学模型在社会科学、市场调研等领域具有广泛的应用价值。
因子分析 数学模型
因子旋转分为两种：正交旋转和斜交旋转 特点： 正交旋转：由因子载荷矩阵A左乘一正交阵而得到，经过 旋转后的新的公因子仍然保持彼此独立的性质。正交变化 主要包括方差最大旋转法、四次最大正交旋转、平均正交 旋转。 斜交旋转：放弃了因子之间彼此独立这个限制，可达到更 简洁的形式，实际意义也更容易解释。 不论是正交旋转还是斜交旋转，都应该在因子旋转后，使 每个因子上的载荷尽可能拉开距离，一部分趋近1，一部 分趋近0，使各个因子的实际意义能更清楚地表现出来。
因子的相关系数。用统计学术语叫权重，表示Xi 依赖Fj 的份量（比重）。
cov( X i , Fj ) aij
变量共同度的统计意义
因子载荷阵A中第i行元素的平方和，即
h a 2ij
2 i j 1 m
称为变量Xi 的共同度。 为了说明它的统计学意义，对Xi的表达式两边求方差，即
var( X i ) var( ait Ft )
a11 a 21 A a p1 a12 a22 ap2 cos C sin sin cos a11 sin a12 cos a p1 sin a p 2 cos
b 1 b 1 V p i 1 h p i 1 h G V1 V2 max
A即为因子协方差阵。 当X的协方差阵未知，可以用样本协方差阵S去代替。
因子旋转
• 不管用何种方法确定因子载荷矩阵A，它们都不 是唯一的，我们可以由任意一组初始公共因子做 线性组合，得到新的一组公共因子，使得新的公 共因子彼此之间相互独立，同时也能很好的解释 原始变量之间的相关关系。 • 这样的线性组合可以找到无数组，这样就引出了 因子旋转。 • 因子旋转的目的是为了找到意义更为明确，实际 意义更明显的公因子。 • 因子旋转不改变变量共同度，只改变公因子的方 差贡献。
因子分析在数据建模中的应用
因子分析在数据建模中的应用因子分析在数据建模中的应用因子分析是一种常用的数据分析方法，它可以用来揭示隐藏在数据背后的结构信息。
在数据建模中，因子分析可以帮助我们降低数据维度，识别关键因素，从而更好地理解数据和进行预测。
一、因子分析的基本原理因子分析假设观测数据是由若干个潜在因子和随机误差共同决定的。
潜在因子代表了数据背后的隐藏结构，它们无法直接观测到，但可以通过观测指标间的相关性来推断。
随机误差则表示了不能由潜在因子解释的部分。
二、因子分析的步骤1. 确定因子分析的目标：我们需要明确想要从数据中获取什么信息，例如识别关键因素、降低数据维度等。
2. 收集数据：收集与目标相关的数据，并进行必要的数据清洗和预处理。
3. 选择合适的因子分析模型：根据数据的性质和目标选择适合的因子分析模型，常用的有主成分分析、最大似然估计等。
4. 进行因子提取：通过因子分析模型，提取潜在因子。
5. 进行因子旋转：为了更好地解释潜在因子，我们通常对提取出的因子进行旋转，使得每个因子与尽可能少的观测指标相关。
6. 进行因子得分计算：对每个个体，计算其在每个因子上的得分，得到新的因子得分矩阵。
7. 进行因子解释和结果验证：解释每个因子所代表的意义，并通过各种统计指标验证因子分析的效果。
三、因子分析的应用1. 降维：因子分析可以帮助我们从大量观测指标中提取出少数几个关键因素，从而降低数据的维度，便于后续分析和可视化。
2. 变量筛选：通过因子分析，可以识别出与目标变量高度相关的观测指标，帮助我们筛选出最具影响力的变量。
3. 建立预测模型：因子分析可以帮助我们识别关键因素，并建立预测模型，从而进行数据预测和决策支持。
4. 数据可视化：通过因子分析，可以将高维度的数据映射到低维度的坐标系中，帮助我们更好地理解数据的结构和关系。
四、因子分析的局限性1. 数据假设：因子分析假设数据符合多元正态分布，如果数据不符合这一假设，可能会导致结果不准确。
数学模型中的因子分析法
数学模型中的因子分析法因子分析是一种常用的数学模型，用于解释多个变量之间的关系和发现潜在的因素。
它是一种降维技术，旨在将众多变量转化为较少数量的无关因子。
因子分析在统计学、心理学和市场研究等领域广泛应用，可用于数据降维、消除多重共线性、提取潜在特征、构建模型等等。
在因子分析中，有两种主要类型：探索性因子分析（Exploratory Factor Analysis，EFA）和验证性因子分析（Confirmatory Factor Analysis，CFA）。
探索性因子分析用于发现数据中的潜在因素，而验证性因子分析则用于验证已经提出的因素模型是否符合实际数据。
探索性因子分析的步骤如下：1.提出假设：确定为什么要进行因子分析以及预期结果，用于指导后续的数据分析。
2.数据准备：收集和整理要进行因子分析的数据，确保数据的可用性和准确性。
3.因子提取：通过主成分分析或最大似然法等方法，提取出能够解释数据变异最大的因子。
4.因子旋转：因子旋转是为了使提取出的因子更易于解释和理解。
常用的旋转方法有正交旋转和斜交旋转等。
5.因子解释和命名：对于每个提取出的因子，需要根据变量的载荷矩阵和旋转后的载荷矩阵进行解释和命名。
载荷矩阵表示每个因子与每个变量之间的关系。
6.结果评估：对于提取出的因子，需要进行信度和效度的评估。
信度评估包括内部一致性和稳定性等指标；效度评估包括构造效度和相关效度等指标。
验证性因子分析通常用于验证已经提出的因子模型是否符合实际数据。
其步骤包括：1.提出假设：确定已存在的因子模型，并对其进行理论和实际的验证。
2.选择分析方法：确定适合验证性因子分析的模型拟合方法，如最大似然法或广义最小二乘法等。
3.构建模型：将因子模型转化为测量模型，并建立测量方程。
4.模型拟合：对构建的测量模型进行拟合，评估模型的拟合度，如χ²检验、准则拟合指数（CFI）等。
5.修正模型：根据拟合域冒去改进模型的拟合，如剔除不显著的路径、修正测量方程等。
因子分析论文关于数学建模
关键词：因子提取正交旋转因子分析因子得分1.问题提出随着我国的经济的发展，人民的生活水平逐渐提高。
从而家庭耐用品的拥有量也有所提高。
但各省市的拥有量也存在差异。
为了准确的把握各省市的情况及其差异。
本文采用多变量统计因子分析的方法，对其进行定量分析。
以期对各省市的耐用品拥有量的情况有个客观的把握，及反映各省市的经济发展情况。
2.耐用品拥有量指标的选择。
为了更好的反映各省市的耐用品拥有量的情况，且根据当今社会家庭拥有耐用品的档次的不同，可将其分为低，中，高档。
从而本文使用2005年统计年鉴的数据。
选取了具有代表的三类九个指标：（一）：低档消费耐用品：普通电话拥有量（部）；（二）：中档消费耐用品：电冰箱拥有量（台），彩电拥有量（台），电视机拥有量（台），空调拥有量（台），移动电话拥有量（部）；（三）：高档奢侈消费耐用品：家用电脑拥有量（台），家用汽车拥有量（辆），摄像机拥有量（台），照相机拥有量（台）；3．各省市耐用品情况分析：1．本文所采取的定量分析方法：本文的研究主要采取因子分析方法。
因子分析是近些年来颇为流行的多元变量统计方法。
它是用较少个数的公共因子的线性函数和特定因子之和来表达原有观测的每个变量，从研究相关矩阵内部的依赖关系出发，把一些具有错综复杂的变量归纳为少数几个综合因子的一种多变量统计分析方法。
当这几个公共因子的累计方差和达到85%以上时，就说明这几个公共因子反映了研究问题的大部分信息，而又不相关，信息不重叠。
因子分析的数学模型用矩阵的形式表示为：X=AF+E其中F为公共因子，E为特殊因子。
本文在对数据标准化以后，采取主成分法提取公共因子，并采用方差最大化正旋转。
2．考察原有变量是否适合进行因子分析。
表（一）是原有变量的相关系数距阵。
可看到大部分的相关系数都较高，各变量呈较强的线性关系。
且表（二）巴特利特球度检验和KMO检验可以看出，k值大于且接近是很适合进行因子分析的。
所以原有变量适合进行因子分析。
《因子分析数学模型》课件
总结与展望
因子分析数学模型是一种强大的数据分析工具，可以揭示变量间的潜在结构和关系，帮助决策者做出准确和可靠的 决策。 未来，随着数据科学和人工智能的发展，因子分析将在更多领域得到应用，成为决策支持和问题解决的重要手段。
参考文献
• 附录1：相关数学知识 • 附录2：实例数据和代码 • 附录3：常见因子分析软件介绍
3
最似然法（MLE）
MLE基于概率统计理论，通过最大化观测数 据与模型之间的似然函数来估计因子载荷。
主因子法（PAF）
PAF基于向量之间的相关系数，寻找具有最 大因子载荷的主要因子，从中提取对观测变 量具有最大解释力的因子。
因子分析的实例分析
数据准备及预 处理
根据特定问题的需求， 选择合适的数据集，并 对数据进行清理、转换 和标准化，以满足因子 分析的假设。
因子数的确定 和选择
根据特征值、解释度方 差贡献率、Scree图等 指标，确定最合适的因 子数，以提取最重要的 信息。
因子旋转和解 释度分析
使用旋转方法（如 Varimax、Promax等）， 优化因子结构，同时通 过解释度判断模型的质 量和合理性。
结果分析和解读
对提取的因子模式进行 解释，结合领域知识和 实际情境，解读因子的 含义和影响，提出相关 建议和决策。
特征值和特征向量
特征值用于衡量因子的重要性， 而特征向量表示因子的方向和 权重。
旋转和解释度
旋转可以优化因子的解释度， 使其更易理解和解释，用以提 高模型的可解释性和可靠度。
因子分析的模型方法
1
主成分分析法（PCA）ቤተ መጻሕፍቲ ባይዱ
2
PCA通过线性变换将观测变量转化为无关变
量的线性组合，从中提取主要特征，以解释
数学建模聚类分析因子分析实例
多元统计分析中的降维方法在四川省社会福利中的应用由于计算机的发展和日益广泛的使用，多元分析方法也很快地应用到社会学、农业、医学、经济学、地质、气象等各个领域。
在国外，从自然科学到社会科学的许多方面，都已证实了多元分析方法是一种很有用的数据处理方法；在我国，多元分析对于农业、气象、国家标准和误差分析等许多方面的研究工作都取得了很大的成绩，引起了广泛的注意。
在许多领域的研究中，为了全面系统地分析问题，对研究对象进行综合评价，我们常常需要考虑衡量问题的多个指标（即变量），由于变量之间可能存在着相关性，如果采用一元统计方法，把多个变量分开，一次分析一个变量，就会丢失大量的信息，研究结果也会偏差很大。
因此需要采用多元统计分析的方法，同时对所有变量的观测数据进行分析。
多元统计分析就是一种同时研究多个变量之间的相互关系，经过对变量的综合处理，充分提取变量之间的信息，进行综合分析和评价的统计方法。
多元统计分析法主要包括降维、分类、回归及其他统计思想。
一．多元统计分析方法中降维的方法1.概述多元统计分析方法是同时对多个变量的观察数据做综合处理和分析。
在不损失有价值信息的情况下，简化观测数据或数据结构，尽可能简单地将被研究对象描述出来，使得对复杂现象的解释变得更容易些。
同时，采用多元统计分析中的聚类分析或判别分析可以对变量或样品进行分类与分组。
根据所测量的特征和分类规则将一些“类似的”对象或变量分组。
多元统计分析也可以研究变量间依赖性。
即对变量间关系的本质进行研究。
是否所有的变量都相互独立?还是一个变量或多个变量依赖于其他变量?它们又是怎样依赖的?通过观测变量数据的散点图，我们可以建立多元回归统计模型，确定出变量之间具体的依赖关系，进而可以根据某些变量的观测值预测另一个或另一些变量的值对事物现象的发展作预测。
最后我们需要构造假设，并对所建立的以多元总体参数形式陈述的多种特殊统计假设进行检验。
在多元统计分析方法中数据简化或结构简化，实质上就是数学中的降维方法。
因子分析数学模型
因子分析数学模型因子分析是一种常用的多元统计分析方法，主要用于分析多个观测变量之间的相关关系。
它通过寻找潜在因子，将多个观测变量转化为较少的几个因子，从而减少变量间的复杂性，进而更好地解释观测数据。
因子分析的数学模型可以表示为：X=ΛF+Ψ其中，X是一个n×p的数据矩阵，表示n个观测对象对p个观测变量的测量结果。
Λ是一个n×m的因子载荷矩阵，表示每个观测变量与每个因子之间的线性关系。
F是一个m×p的因子矩阵，表示每个观测对象在每个因子上的得分。
Ψ是一个n×p的特殊因子载荷矩阵，表示每个观测变量与测量误差的关系。
在因子分析模型中，通过最小化测量误差来确定因子载荷矩阵Λ和特殊因子载荷矩阵Ψ。
最小化误差的方式通常使用最小二乘法，目标函数可以表达为：min(Ψ, Λ) = ∑[x_i - (λ_i1f_1i + λ_i2f_2i + ... +λ_imf_m_i)]^2其中，x_i是观测对象i的观测数据，λ_ij是观测变量j与因子i 的载荷系数，f_ij是观测对象i在因子j上的得分。
通过最小化目标函数，可以得到最优的因子载荷矩阵Λ和特殊因子载荷矩阵Ψ，从而揭示出观测变量之间的潜在因子结构。
在因子分析模型中，还存在一些特殊的情况，包括主成分分析和确认性因子分析。
主成分分析是因子分析的一种特殊情况，它假设所有的观测变量都与因子完全相关，即Ψ为零矩阵。
主成分分析通过计算特征值和特征向量来确定因子载荷矩阵Λ，并选择前几个最大的特征值对应的特征向量作为因子。
确认性因子分析则是在因子分析的基础上进行参数约束，通过设定因子载荷矩阵和特殊因子载荷矩阵的一些限制来验证和验证潜在因子结构的模型。
因子分析是一种灵活性较高的统计方法，可以应用于很多领域，如心理学、教育学、市场营销和金融等。
通过因子分析，我们可以更好地理解和解释观测数据之间的关系，并提取出具有实际意义的因子。
因子分析数学模型
因子分析数学模型因子分析是一种常用的多元统计方法，用于研究变量之间的关联关系和构建数学模型。
其基本思想是将原始变量通过主成分分析或最大似然估计等方法进行转化，得到一组新的综合变量，即因子。
因子分析数学模型描述了原始变量与因子之间的关系，可以用来提取变量的共同信息、简化数据分析过程、减少变量的维度等。
矩阵模型是因子分析的核心数学模型，其假设对于m个观测值和n个变量，存在一个矩阵F(m×k)表示k个共同因子，以及一个矩阵L(n×k)表示每个变量与因子的负荷载。
k是共同因子的个数。
此外，还有一个k×k的协方差矩阵Ψ描述了共同因子之间的关系，以及一个n×n的协方差矩阵Σ描述了变量之间的关联关系。
这个模型可以用数学公式表示为：X=FL^T+E其中，X是观测值矩阵，F是因子矩阵，L是负荷载矩阵，E是特殊因子矩阵，"+"表示矩阵的加法，T表示矩阵的转置。
观测模型是加强版的矩阵模型，它假设每个变量的观测值是由共同因子、特殊因子和测量误差组成。
观测模型中，负荷载矩阵L和特殊因子矩阵E被看作是模型的参数，测量误差项被看作是随机变量。
因此，观测模型可以用数学公式表示为：X=FL^T+E+ε其中，ε是测量误差项，其服从一个均值为零、协方差矩阵为Ψ的多元正态分布。
为了推断因子分析数学模型，需要使用各种统计方法来估计模型的参数。
最常用的方法是主成分分析和最大似然估计法。
主成分分析是一种无信息损失的线性变量转换方法，它将原始变量通过线性组合转换成一组互不相关的主成分。
主成分分析可以用于确定共同因子的个数和负荷载矩阵的估计值。
最大似然估计法是一种参数估计方法，它基于假设观测值服从多元正态分布，通过最大化似然函数来求解参数的估计值。
最大似然估计法可以用于估计负荷载矩阵和协方差矩阵的估计值。
总之，因子分析数学模型是一种实现多变量数据分析和建模的重要方法。
通过构建数学模型，可以提取共同因子、简化数据分析过程、减少变量的维度等。
因子分析数学模型
因子分析数学模型一、引言因子分析是一种强大的统计方法，用于从一组变量中提取出潜在的公共因子。
这种方法在许多领域都有广泛的应用，包括社会科学、心理学、经济学和生物学等。
它的主要目标是减少数据集的维度，同时保留原始数据中的重要信息。
这种方法有助于解释变量之间的关系，揭示隐藏在数据中的结构。
本文将详细介绍因子分析的数学模型及其实现过程。
二、因子分析数学模型1、公共因子模型因子分析的公共因子模型可以表示为：X = AF + ε其中，X是观测数据矩阵，A是因子载荷矩阵，F是公共因子矩阵，ε是特殊因子矩阵。
这个模型的意思是，观测数据X可以由公共因子F和特殊因子ε加权组合而成。
公共因子代表了所有观测变量之间的共性，而特殊因子则代表了每个观测变量的独特性。
2、因子载荷矩阵因子载荷矩阵A描述了每个观测变量与公共因子之间的关系。
矩阵中的每个元素aij表示第i个观测变量在第j个公共因子上的载荷。
通过求解因子载荷矩阵，我们可以找出公共因子对观测变量的影响程度。
3、旋转矩阵在因子分析中，旋转矩阵是一种重要的工具，用于优化公共因子的解释。
旋转矩阵可以使得公共因子的解释更加直观和有意义。
常见的旋转方法包括方差最大旋转（varimax）和正交旋转（quartimax）等。
三、实现过程1、确定公共因子的数量在开始因子分析之前，我们需要确定公共因子的数量。
常见的确定公共因子数量的方法有基于特征值的方法、基于解释方差的方法以及基于碎石图的方法等。
2、求解因子载荷矩阵在确定了公共因子的数量后，我们需要求解因子载荷矩阵。
常用的求解方法有基于主成分分析的方法、基于最大似然估计的方法以及基于最小二乘法的方法等。
3、旋转因子载荷矩阵通过旋转因子载荷矩阵，我们可以优化公共因子的解释。
常见的旋转方法包括方差最大旋转和正交旋转等。
旋转后的因子载荷矩阵可以帮助我们更好地理解公共因子与观测变量之间的关系。
4、解释公共因子我们需要对提取的公共因子进行解释。
数学建模-因子分析
12
2 p
11
22
mm
22
mm
如果特性方差是已知的，问题非常好解决，但通常 情况下，方差是未知的。所以我们要估计个性方差。
20
(1) 个性方差矩阵 已知（主因子法）
R*=AA’=RX- ，我们在前面已经讨论了因子载荷 矩阵A的列平方和是
Sj ip1ai2j (j 1 , ,m )
得特征向量分别为u 1,u2, ,um 。
例 假定某地固定资产投资率x1 ，通货膨胀率x2 ，
失业率 x3 ，相关系数矩阵为
1 1/5 1/5 1/5 1 2/5 1/5 2/5 1
试用主成分分析法求因子分析模型。
16
特征根为：11.5520.8530.6
0.4750.883 0 U0.6290.3310.707
X1 11 12 1mF1 1
X 221
22
2mF 22
Xn p1 p2 pm Fm n
X A F
8
称为 F 1 ,F 2 , ,F m 公共因子，是不可观测的变量， 他们的系数称为因子载荷。 i 是特殊因子，是不能被 前m个公共因子包含的部分。并且满足：
co F ,v ) (0，F, 即不相关；
2
但消费者主要关心的是三个方面，即商店的环境 、商店的服务和商品的价格。因子分析方法可以通过24 个变量，找出反映商店环境、商店服务水平和商品价格 的三个潜在的因子，对商店进行综合评价。而这三个公 共因子可以表示为：
x i i i 1 F 1 i 2 F 2 i 3 F 3 ii 1 , ,24
V ( X i ) a 2 i a 1 V ( F 1 ) r a a 2 i V m ( F r m ) V a ( i )a r
数学建模因子分析
主成分分析的基本思想
(以两个变量为例)
多维变量的情形类似，只不过是一个高维椭球，无法 直观地观察 每个变量都有一个坐标轴，所以有几个变量就有几主 轴。首先把椭球的各个主轴都找出来，再用代表大多 数数据信息的最长的几个轴作为新变量，这样，降维 过程也就完成了 找出 的 这些 新 变量 是原来变量的线性 组合，叫做主成分
第二部分 因子分析
因子分析的意义和数学模型 因子分析的步骤 因子分析的应用
因子分析的意义和数学模型
什么是因子分析？
(factor analysis)
由Charles Spearman于1904年首次提出的 与主成分分析类似，它们都是要找出少数几个新的 变量来代替原始变量 不同之处：主成分分析中的主成分个数与原始变量 个数是一样的，即有几个变量就有几个主成分，只 不过最后我们确定了少数几个主成分而已。而因子 分析则需要事先确定要找几个成分 ，也称为因子 (factor)，然后将原始变量综合为少数的几个因子， 以再现原始变量与因子之间的关系，一般来说，因 子的个数会远远少于原始变量的个数
什么是因子分析？
(factor analysis)
因子分析可以看作是主成分分析的推广和扩展，但 它对问题的研究更深入、更细致一些。实际上，主 成分分析可以看作是因子分析的一个特例 简言之，因子分析是通过对变量之间关系的研究， 找出能综合原始变量的少数几个因子，使得少数因 子能够反映原始变量的绝大部分信息，然后根据相 关性的大小将原始变量分组，使得组内的变量之间 相关性较高，而不同组的变量之间相关性较低。因 此，因子分析属于多元统计中处理降维的一种统计 方法，其目的就是要减少变量的个数，用少数因子 代表多个原始变量
主成分分析的基本思想
数学建模之因子分析法
数学建模之因子分析法
因子分析是一种常用的数学建模方法，用于分析观测变量之间的内在关系和结构。
它通过分析多个观测变量之间的相关性，将它们综合起来解释数据的变异，从而推断潜在的因子或维度。
因子分析的主要目的是降低变量的维度，并发现观测变量之间隐藏的结构成分。
因子分析的一般步骤如下：
1.收集数据：首先，我们需要收集一组变量，这些变量可以是连续型的数据，也可以是离散型的数据。
2. 确定因子数目：在进行因子分析之前，我们需要确定分析所需的因子数目。
可以通过一些统计方法，如Kaiser准则、平行分析或层次分析等来确定。
3.进行因子提取：利用因子提取方法，如主成分分析法（PCA）或最大似然法（ML）等，将原始变量转化为一组因子。
4.因子旋转：由于因子提取得到的因子可能存在模糊性，我们需要对因子进行旋转来使其更具解释性。
常用的旋转方法有方差最大旋转和方差等于1旋转等。
5.因子得分和解释：通过计算因子得分，我们可以得到每个样本的因子得分，从而评估每个样本对于每个因子的贡献。
此外，通过对因子负荷矩阵进行解释，我们可以确定每个因子所代表的具体含义。
6.结果解释和应用：最后，根据因子得分和因子负荷矩阵的结果，我们可以解释数据的变异，并根据需要进一步应用于相关的问题。
因子分析在实际应用中有很多方面的应用，例如心理学、社会学、市场调研等。
在心理学中，因子分析可以用于评估人格特征、心理健康等方面的变量。
在市场调研中，因子分析可以帮助我们发现消费者偏好和行为模式。
因子分析还可以用于降维，减少冗余信息，从而提高其他模型的效果。
因子分析模型
X1 a11 a12
X
2
a21
a22
X
p
a
p1
ap2
a1m F1 1
a2 m
F2
2
a
pm
Fp
p
简记为
X = AF + ε
且满足
m p
cov(F,ε) 0
1
D(F)
1
0
Im
2 1
D(ε)
2 2
0
0
1
0
2 p
因子分析旳目旳
经过模型 X = AF + ε 以F 替代X ，因为m≤p,从而到达简化变量维
G V1 V2 max
G 0
1, 2
经过计算，其旋转角度可按下面公式求得：
tg 4 D 2 AB / p
C ( A2 B2 ) / p
p
A j j 1
p
B vj j 1
p
C
2 j
v
2 j
j 1
p
D 2 j v j j 1
j
a j1 hj
2
a j2 hj
2
对我国30个省市自治区旳农业生产情况作因子分析。 从农业生产条件和生产成果及效益出发，选用六项指 标分别为：X1—乡村劳动力人口（万人）、X2—人均 经营耕地面积（亩）、X3—户均生产性固定资产原值 （元）、X4—家庭基本纯收入（元）、X5—人均农业 总产值（千元/人）、X6—增长值占总产值比重（%） 原始资料数据如下页表:
• 这么旳线性组合能够找到无数组，这么就引出了 因子旋转。
• 因子旋转旳目旳是为了找到意义更为明确，实际 意义更明显旳公因子。
• 因子旋转不变化变量共同度，只变化公因子旳方 差贡献。
因子分析与数学建模(1)
因子分析与数学建模一、预备知识1．多元统计分析涉及到的都是随机向量或多个随机向量放在一起组成的随机矩阵，表示如下)',,,(21p X X X X = ⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=np n n pp X XX X XX X X X X212222111211=()⎪⎪⎪⎪⎪⎭⎫⎝⎛=''',,,)()2()1(21n p X X X XX X 2．随机向量的数字特征及其性质（I ） 设)',,,(21p X X X X =，称)',,,()(21p EX EX EX X E =为X 的均值（向量）或数学期望，或记i EX X E 、)(为i μμ、，即)',,,(21p μμμμ =。
性质：（1）)()(X AE AX E =，（2）B X AE AXB E )()(=，（3）)()()(Y BE X AE BY AX E +=+。
（II ） 设)',,,(21p X X X X =，)',,,(21q Y Y Y Y =，称⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=--=∆),(),(),(),(),(),(),(),(),()')(()(212221212111p p p p p p X X Cov X X Cov X X Cov X X Cov X X Cov X X Cov X X Cov X X Cov X X Cov EX X EX X E X D为X 的方差或协差阵。
常简记∑为)(X D ，ij j i Y X Cov σ为),(，则p p ij ⨯=∑)(σ。
称X 和Y 的协差阵为)')((),(EY Y EX X E Y X Cov --=∆⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=),(),(),(),(),(),(),(),(),(212221212111q p p p q q Y X Cov Y X Cov Y X Cov Y X Cov Y X Cov Y X Cov Y X Cov Y X Cov Y X Cov（III ）随机向量X 的相关矩阵：jjiiij j i j i ij p p ij X Var X Var X X Cov r r R σσσ===⨯)()(),(,)(其中设标准离差阵⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=ppVσσ001121，则有 1211212121)()(,--∑==∑V V R RV V性质：（1）0)(≥X D （2）对任意常数向量)()(X D a X D a =+，有 （3）')()(A X AD AX D = （4）'),(),(B Y X ACov BY AX Cov =。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
怎样解释主成分？
(主成分与原始变量的关系)
根据主成分分析模型和因子载荷，可以得到 两个主成分与原来6个变量之间的线性组合 表达式如下
y1 0.670 x1 0.976 x 2 0.896 x3 0.633 x 4 0.674 x5 0.950 x6 y 2 0.725 x1 0.055 x 2 0.351 x3 0.728 x 4 0.721 x5 0.263 x6 注意：表达式中的不是原始变量，而是标准化变量
主成分分析的数学模型
aij 为第 i 个主成分 yi 和原 来的第 j 个变量 xj 之间的
线性相关系数，称为载 荷 (loading) 。 比 如 ， a11 表示第1主成分和原 来 的 第 1个 变 量 之 间 的 相关系数， a21 表示第2 主 成 分 和 原 来 的 第 1个 变量之间的相关系数
单变量描述统计分析。 1、相关系数矩阵； 输出单变量的基本统 2、显著性水平； 计量，包括每个变量 3、相关系数矩阵的行 的均值、标准差及其 列值； 有效例数 4、相关系数矩阵的逆 矩阵； 初始解。默认选项。 5、再生相关系数矩阵。 输出因子分析的初始 输出因子分析的估计量 解，显示初始公共因 相关系数矩阵，并显示 子方差、特征值及其 参差值，即原始相关系 解释变量的百分比。 数矩阵与再生相关系数 矩阵之间的差值； 6、反映射相关系数矩 阵。包括负片相关系数 矩阵。反映射相关系数 矩阵的对角线可以显示 变量的抽样适度测试值
SPSS的输出结果
(选择主成分)
表3 各主成分所解释的原始变量的方差
该表是选则主成分的主要依据
根据igenvalues”(初始特征根)
实际上就是本例中的6个主轴的长度 特征根反映了主成分对原始变量的影响程度，表示引入 该主成分后可以解释原始变量的信息 特征根又叫方差，某个特征根占总特征根的比例称为主 成分方差贡献率 p 设特征根为，则第i个主成分的方差贡献率为 i i i 1
因子旋转方式： 输出与因子旋转相关 的信息： 1、不进行旋转； 1、旋转解； 2、方差最大正交旋转 2、因子载荷散点图。 法； 3、直接斜交旋转方法； 4、四分位最大正交旋 转法； 5、等量正交旋转法； 6、斜交旋转法
SPSS的输出结果
各变量之间的相关系数矩阵
变量之间的存在较强的相关关系，适合作主成分分析
KMO和球形Bartlett检验。
分析矩阵选项： 提取因子的准 选择和因子提 选择和因子提 则： 2、协方差矩 1、相关系数 取方法有关的 取方法有关的 1、特征值：该 输出选项： 输出选项： 阵。指定利用 矩阵。用于指 2、碎石图。每 1、非旋转因 选项指定因子 分析变量的协 定利用分析变 的特征值； 个因子的方差 子解。要求显 方差矩阵为提 量相关矩阵为 2、指定提取公 取因子的依据。 图，该图利用 示未经旋转的 提取因子的依 因子的数目。 特征值为两个 因子载荷、公 据，当参与分 坐标轴。碎石 共因子方差和 析的变量测度 特征值； 图可以决定保 单位不同时， 留因子的数量 选择该选项 收敛的最大迭代次数
主成分分析的基本思想
(以两个变量为例)
多维变量的情形类似，只不过是一个高维椭球，无法 直观地观察 每个变量都有一个坐标轴，所以有几个变量就有几主 轴。首先把椭球的各个主轴都找出来，再用代表大多 数数据信息的最长的几个轴作为新变量，这样，降维 过程也就完成了 找出 的 这些 新 变量 是原来变量的线性 组合，叫做主成分
主成分分析的步骤
主成分分析的步骤
对原来的p个指标进行标准化，以消除变量 在水平和量纲上的影响 根据标准化后的数据矩阵求出相关系数矩 阵 求出协方差矩阵的特征根和特征向量 确定主成分，并对各主成分所包含的信息 给予适当的解释
主成分分析
(实例分析)
【例】根据我国31个省市自治区2006年的6项主要 经济指标数据，进行主成分分析，找出主成 分并进行适当的解释
主成分的选择
选择几个主成分？选择标准是什么？ 被选的主成分所代表的主轴的长度之和占了主轴 总程度之和的大部分 在统计上，主成分所代表的原始变量的信息用其 方差来表示。因此，所选择的第一个主成分是所 有主成分中的方差最大者，即Var(yi)最大 如果第一个主成分不足以代表原来的个变量，在 考虑选择第二个主成分，依次类推 这些主成分互不相关，且方差递减
第二部分 因子分析
因子分析的意义和数学模型 因子分析的步骤 因子分析的应用
因子分析的意义和数学模型
什么是因子分析？
(factor analysis)
由Charles Spearman于1904年首次提出的 与主成分分析类似，它们都是要找出少数几个新的 变量来代替原始变量 不同之处：主成分分析中的主成分个数与原始变量 个数是一样的，即有几个变量就有几个主成分，只 不过最后我们确定了少数几个主成分而已。而因子 分析则需要事先确定要找几个成分 ，也称为因子 (factor)，然后将原始变量综合为少数的几个因子， 以再现原始变量与因子之间的关系，一般来说，因 子的个数会远远少于原始变量的个数
怎样解释主成分？ (Loading Plot)
相关系数的点越 远离坐标轴，主 成分对原始变量 的代表性就越大。 这3个点远离主 成分2的坐标
载荷图(Loading Plot)直观显示 主成分对原始6变量的解释情况 图中横轴表示第一个主成分与 原始变量间的相关系数；纵轴 表示第二个主成分与原始变量 之间的相关系数 每一个变量对应的主成分载荷 就对应坐标系中的一个点 ，比 如，人均GDP变量对应的点是 (0.670，0.725) 第一个主成分很充分地解释了 原始的6个变量(与每个原始变量 都有较强的正相关关系)，第二 个主成分则较好地解释了居民 消费水平、人均GDP和年末总 人口这3个变量(与它们的相关关 系较高)，而与其他变量的关系 则较弱(相关系数的点靠近坐标 轴)
拐点
怎样解释主成分？
主成分的因子载荷矩阵
表1中的每一列表示一个主成分作为原来变量线性组合的系数，也就是 主成分分析模型中的系数aij 比如，第一主成分所在列的系数0.670表示第1个主成分和原来的第一个 变量(人均GDP)之间的线性相关系数。这个系数越大，说明主成分对该 变量的代表性就越大
比如，第一个主成分的特征根为3.963，占总特征根的的 比例(方差贡献率)为66.052%，这表示第一个主成分解释 了原始6个变量66.052%的信息，可见第一个主成分对原 来的6个变量解释的已经很充分了
根据什么选择主成分？
根据主成分贡献率
一般来说，主成分的累计方差贡献率达到80%以上的前 几个主成分，都可以选作最后的主成分 比如表3中前两个主成分的累计方差贡献率为95.57% 一般情况下，当特征根小于1时，就不再选作主成分了， 因为该主成分的解释力度还不如直接用原始变量解的释 力度大 比如表3中除前两个外，其他主成分的特征根都小于1。 所以SPSS只选择了两个主成分 就本例而言，两个主成分就足以说明各地区的经济发展 状况了
主成分分析的数学模型
主成分分析的数学模型
数学上的处理是将原始的p个变量作线性组合，作为新的 变量 … 设p个原始变量为 x1， x 2， ， x p，新的变量(即主成分)为 ... y1， y 2， ， y p ，主成分和原始变量之间的关系表示为
y1 a11 x1 a12 x 2 a1 p x p y 2 a 21 x1 a 22 x 2 a 2 p x p y a x a x a x p1 1 p2 2 pp p p
根据特特征根的大小
根据什么选择主成分？ (Scree Plot)
SPSS还提供了一个更 为直观的图形工具来帮 助选择主成分，即碎石 图(Scree Plot) 从碎石图可以看到6个 主轴长度变化的趋势 实践中，通常结合具体 情况，选择碎石图中变 化趋势出现拐点的前几 个主成分作为原先变量 的代表，该例中选择前 两个主成分即可
用SPSS进行主成分分析
第1步 选择【Analyze】下拉菜单，并选择【Data Reduction-Factor】，进入主对话框 第2步 在主对话框中将所有原始变量选入【Variables】 第3步 点击【Descriptives】，在【correlation Matrix】下选择【Coefficirnts】，点击【Continue】 回到主对话框 第4步 点击【Extraction】，在【Display】下选择 【Scree Plot】，点击【Continue】回到主对话框 第5步 点击【Rotation】，在【Display】下选择 【Loading Plot】，点击【Continue】回到主对话框 点击【OK】
第十四讲
因子分析
第一部分 主成分分析 第二部分 因子分析
第一部分 主成分分析
1、 主成分分析的基本原理 2、 主成分分析的数学模型 3、 主成分分析的步骤
主成分分析的基本原理
什么是主成分分析？
(principal component analysis)
主成分的概念由Karl Pearson在1901年提出的。 他是考察多个变量间相关性一种多元统计方法 研 究 如 何 通 过 少 数 几 个 主 成 分 (principal component)来解释多个变量间的内部结构。即从原 始变量中导出少数几个主分量，使它们尽可能多地 保留原始变量的信息，且彼此间互不相关。
主成分分析的目的：数据的压缩；数据的解释
常被用来寻找判断事物或现象的综合指标，并对综合指 标所包含的信息进行适当的解释
主成分分析的基本思想
(以两个变量为例)
对这两个相关变量所携带的信息(在统计上信息往往是 指数据的变异)进行浓缩处理 假定只有两个变量x1 和x2 ，从散点图可见两个变量存 在相关关系，这意味着两个变量提供的信息有重叠 如果把两个变量用 一个变量来表示， 同时这一个新的变 量又尽可能包含原 来的两个变量的信 息，这就是降维的 过程