关于主成分分析的几种常用改进方法

参考文献： ［１］余 锦 华，杨 维 权．多 元 统 计 分 析 与 应 用［Ｍ］．广 州 ； 中 山 大 学 出 版 社 ，
２００５． ［２］徐 雅 静 ， 汪 远 征．主 成 分 分 析 应 用 方 法 的 改 进［Ｊ］．数 学 的 实 践 与 认
识，２００６，（６）． ［３］候 文．应 用 主 成 分 分 析 进 行 综 合 评 价 的 一 种 改 进 方 法［Ｊ］，辽 宁 师 范
大学学报（ 自然科学版） ， ２００４，（１２）． （ 责任编辑 ／亦 民）
１６８ 统计与决策 ２００７ 年第 ２１ 期（ 总第 ２４９ 期）
ｊ＝１
ｊ＝１
定 ｋ， 从而建立前 ｋ 个主成分：
Ｚｊ＝ｌｊ＇ Ｚ＝ｌ１ｊＹ１＋…＋ｌｐｊＹｐ，ｊ＝１，２，…，ｋ
１．６ 计算前个主成分的样本值
ｐ
( Ｚｉｊ＝ Ｙｉｔｌｔｊ ｉ＝１，２，…，ｎ， ｊ＝１，２，…，ｋ ｊ＝１
２ 运用传统主成分分析方法易出现的误区 及改进方法
在实际应用中， 为了消除变量量纲的影响， 往往对原始
Ｚｊ＝ｌｊ＇ｌｏｇ（Ｘ ／ｇ（Ｘ）） ＝ｌ１ｊｌｏｇＸ１＋ｌ２ｊｌｏｇＸ２＋…＋ｌｄ＋１ｊｌｏｇＸｄ＋１
（ 注： ｌｊ＇·（－ ｌｏｇｇ（Ｘ））＝－ ［ｌ１ｊ＋ｌ２ｊ＋…＋ｌｄ＋１ｊ］·ｌｏｇｇ（ｘ）＝０）
３ 其它改进方法
除了上述改进方法之外， 近来不少学者又提出了新的改 进方法， 如主成分聚类法。主成分聚类即先做主成分分析， 再 取若干主成分对样品进行聚类分析， 结合第一主成分得分排 序对样品进行分类排名。由此得到一种新的综合评价方法， 具 体 操 作 方 法 详 见 文 献［２］。另 外 还 有 分 组 主 成 分 分 析 方 法［５］等 。 在实际应用当中， 如果不考虑具体问题条件， 一味采取同一 个模式， 难免有失偏颇， 甚至与现实大相径庭。因此， 根据不 同的问题采用不同的改进方法， 对解决具体问题是很有必要 的。
主成分分析是一种常用的多元统计分析（ 即多指标的统 计方法） 方法。是一种化繁为简， 将指标数尽可能压缩的降维 （ 即空间压缩） 技术， 也是一种综合评价方法。目前已广泛应 用于许多领域， 如： 城市生态系统可持续发展的分析， 工业企 业经济效益的分析， 公司财务评价， 学习成绩的比较评价等 等。但是， 传统的主成分分析法在综合评价当中已暴露出很 多缺陷， 很多学者也提出了不同的改进方法， 这些改进方法 是与一定的现实条件相关联的， 因此也不乏出现误用。本文 将对常用的改进方法作进一步探讨。
在概率统计教学中应跟时代背景， 注重实际应用。在日 常教学中， 在使学生获得系统的概率统计概念和方法推理的 基础上， 引入统计实验， 把概率统计教学与统计实验有机地 结合起来， 同时在教学的各个环节中注意加强学生实际应用 能力的培养， 这样能使学生主动应用概率统计概念和推理方 法去观察、分析、解决实际生活中的许多问题， 并掌握一种实 用 的 技 能 ， 让 课 堂 教 学 能 “回 归 ”到 实 践 中 ， 进 一 步 提 高 学 生 的综合素质。
线性结构。这时， 若采用线性方法， 效果往往很差。这就需要
进 一 步 的 改 进 。本 文 将 介 绍 几 种 简 单 的 对 原 始 数 据 进 行 处 理
的 方 法 以 及 “对 数 — 线 性 比 ”［１］主 成 分 方 法 。
改进方法操作如下：
２．１ 对原始数据的处理
２．１．１ 数据的均值化
４ 加强实践教学， 激发学生数据分析能力
结合市场经济背景， 加强概率统计的应用实践环节， 这 无疑是提高学生概率统计兴趣的有效途径， 更是弥补概率统 计理论知识教学不足的有效途径。
一方面， 我们利用概率统计讨论课， 分析数据建模中的
一些经典示例， 再次强化数据建模的思想方法， 数据建模步 骤。另一方面， 我们发动学生参与社会实践活动， 深入实际、 调查研究， 收集实验数据的素材， 并鼓励他们通过建立相应 的概率统计模型来解决一般性问题。
若散点图呈现抛物线特征时， 令 ｙｉｊ＝ )ｘｉｊ 然后以 ｙｉｊ 作为新的数据代替原始数据进行分析即可。 当上述三种变换仍然不能很好的解决问题， 而原始数据
又明显呈现非线性特征时， 还可以采用下述方法。
２．２ “对数—线性比”主成分方法
原香港大学统计系主任 Ａｉｔｃｈｉｓｏｎ 教授（ １９８１ 年） 提 出 用
２０００，２９（９）． （ 责任编辑 ／浩 天）
统计与决策 ２００７ 年第 ２１ 期（ 总第 ２４９ 期） １６７
知识丛林
１．４ 求 Ｒ 的 Ｐ 特征值 λ１，λ２，…，λｐ 及对应的特征向量
"ｌｉｊ % ｌｊ＝##┇&&，ｊ＝１，２，…，ｐ
$ｌｐｌ ’
１．５ 建立主成分
ｋ
ｐ
( ( 按累积方差贡献率 λ１ ｒｊｊ＞８５％（或 ８０％）的 准 则 ， 确
得标准化数据阵 Ｙ＝（Ｙｉｊ）ｎ×ｐ
ｎ
" ｒｉｊ＝
１ ｎ
Ｙｉ·ｊ Ｙｉｋ
ｉ＝１
" ＝ １ ｎ Ｘｉｊ－ Ｘ!ｊ ·Ｘｉｋ－ Ｘ!ｋ
ｎ ｉ ＝ １ Ｓｊ
Ｓｋ
Ｒ＝（ｒｉｊ）ｐ×ｐ （其中 ｒｉｊ＝１， ｒｉｋ＝ｒｋｊ）
表２
方差分析过程
Ｓｏｕｒｃｅ
ＤＦ Ｓｕｍ ｏｆ Ｓｑｕａｒｅｓ Ｍｅａｎ Ｓｑｕａｒｅ Ｆ Ｖａｌｕｅ Ｐｒ ＞ Ｆ
知识丛林
关于主成分分析的几种常用改进方法
李莉娟， 张 娜
（ 洛阳理工学院 数理部， 河南 洛阳 ４７１００３）
摘 要： 针对传统主成分分析方法的缺点和应用当中可能出现的误区， 总结几种常用的主成分
分析改进方法。
关键词： 主成分改进； 综合评价
中图分类号： Ｆ２２４．７
文献标识码： Ａ 文章编号： １００２－ ６４８７（２００７）２１－ ０１６７－ ０２
对数—比（ ｌｏｇｒａｔｉｏ） 变换
Ｙｉ＝ｌｏｇ（Ｘｉ ／ｇ（Ｘ））， ｉ＝１，２，…， ｄ＋１ 亦 即 Ｙ＝ｌｏｇ（Ｘ ／ｇ（Ｘ）），其 中 ｇ（Ｘ）为 成 分 向 量 的 任 一 恒 正 函
数。为简便起见， 一般可取
ｇ（Ｘ）＝（Ｘ１Ｘ２…Ｘｄ＋１）１ ／ｄ＋１（即各指标之几何平均）， 这时
ｄ＋１
数据标准化， 但是标准化在消除量纲或数量级影响的同时，
也抹杀了各指标变异程度的差异信息， 在此种情况下， 我们 通 常 可 采 用 对 原 始 数 据 进 行 均 值 化 处 理［２］， 该 方 法 已 得 到 广
泛采用。另外， 主成分分析对于处理线性结构有很好的效果，
然而对于许多实际问题， 其观测数据阵并非线性结构而呈非
１ 传统 ＰＣＡ 评价模型的算法：
１．１ 输入样本观测值： Ｘ＝（Ｘｉｊ）ｘ×ｐ
１．２ 计算各指标的样本均值和样本标准差：
ｎ
ｎ
" # " Ｘ!ｊ＝
１ ｎ
Ｘｉｊ，
ｉ＝１
Ｓｊ＝
１ ｎ－ １
（Ｘｉｊ－ Ｘ!ｊ）２
ｉ＝１
，
ｊ＝１，２，…，ｐ
１．３ 对标准化， 计算样本相关阵：
令 Ｙｉｊ＝ Ｘｉｊ－ Ｘ!ｊ ， ｉ＝１，２，…，ｎ， ｊ＝１，２，…，ｐ Ｘ!ｊ
在日常教学中在使学生获得系统的概率统计概念和方法推理的基础上引入统计实验把概率统计教学与统计实验有机地结合起来同时在教学的各个环节中注意加强学生实际应用能力的培养这样能使学生主动应用概率统计概念和推理方法去观察分析解决实际生活中的许多问题并掌握一种实用的技能让课堂教学能回归到实践中进一步提高学生的综合素质
( Ｙｉ＝ｌｏｇＸｉ－
１ ｄ＋１
ｊ
ｌｏｇＸｉ
＝１
相应的 Ｙ 的“观测数据阵”
ｄ＋１
( Ｙｉ＝（ｌｏｇＸｉ－
１ ｄ＋１
ｌｏｇＸｉｊ）ｎ×（ｄ＋１）
ｊ＝１
为“对数－ 中心化”协方差阵。
可以证明 Ｄ（ Ｙ） 为奇异阵， 至多有 ｄ 个非零特征值。对其
作谱分解：
ｄ
( Ｄ（Ｙ）＝ λｉｌｊｌｊ＇ ｊ＝１
便可以求得其广义主成分
Ｍｏｄｅｌ
５
５５４
１１０．８
６．１６ ０．０２３
Ｅｒｒｏｒ
６
１０８
１８
Ｃｏｒｒｅｃｔｅｄ Ｔｏｔａｌ １１
６６２
表３ Ｓｏｕｒｃｅ Ａ Ｂ
方差分析
ＤＦ Ｓｕｍ ｏｆ Ｓｑｕａｒｅｓ Ｍｅａｎ Ｓｑｕａｒｅ Ｆ Ｖａｌｕｅ Ｐｒ ＞ Ｆ
３
４９８
１６６
９．２２ ０．０１２
２
５６
２８
１．５６ ０．２８６
输 出 的 表 ２ 表 明 两 个 因 子 方 差 分 析 模 型 是 显 著 的 ，Ｆ＝ ６．１６，ｐ＝０．０２３＜０．０５； 表 ３ 中因素 Ａ 的效应平方和为 ４９８， 因 素 Ｂ 的效应平方和为 ５６， 两者的 Ｆ 值 分 别 为 ９．２２ 和 １．５６， 显 著 性 水 平 分 别 为 ０．０１２ 和 ０．２８６， 结 果 表 明 ， 施 肥 种 类 对 产 量 的 影响显著； 而三个小麦品种对产量的影响不显著。
参考文献： ［１］张德培，罗蕰玲．应用概率统计［ Ｍ］ ．北京： 高等教育出版社， ２０００． ［２］胡 良 剑 ， 孙 晓 君 ．ＭＡＴＬＡＢ 数 学 实 验 ［Ｍ］． 北 京 ： 高 等 教 育 出 版 社 ，
２００６． ［３］邓华玲． 概率统计方法与应用［ Ｍ］ ．北京： 中国农业出版社， ２００６． ［４］冯 珍 珍．数 学 实 验 教 学 新 路 初 探［Ｊ］．上 海 师 范 大 学 学 报（教 育 版 ），
设原始数据： Ｘ＝（ｘｉｊ）ｎ×ｐ，，２，…，ｎ； ｊ＝１，２，…，ｐ
ｎ
( 其中
Ｘｊ＝
１ ｎ
Ｘｋｊ， ｊ＝１，２，…，ｐ， 得均值化数据阵
ｋ＝１
Ｙ＝（ｙｉｊ）ｎ×ｐ
２．１．２ 对数变换法
描绘原始数据 ｘｉｊ 的散点图， 若散点图呈现对数曲线特征 时， 令
ｙｉｊ＝ｌｎｘｉｊ 或 ｙｉｊ＝ｌｇｘｉｊ ２．１．３ 平方根变换法