正则化FDA的核化及与SVM的比较研究

合集下载

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

于春梅，潘泉，程咏梅，张洪才
（北工业大学自西动化学院，西安７０７）１０２
摘要：无论是Ｆｓｅ判别分析（Ｄ还是基于核的ＦＡ（ＦＡ）在小样本情况下都会面临矩阵的病态问题，ｉｒｈＦＡ）ＤＫＤ，
第２７卷第３期
２１００年３月
计算机应用研究
ＡｐｌａｉｎＲｅｅｒｈｏｍｐｔｒｐｉｔｓａｃｆＣｏｕｅｓｃｏ
Ｖｏ．７Ｎｏ３１２．
Ｍａ．２０ｒ０１
正则化ＦＡ的核化及与ＳＭ的比较研究球ＤＶ
ＳｌｉｒｈｒｂｅＯｔｎｆｉｐｏｌｕｏｏｔｓｍ．ＴｔｙｈｏｐｒｏｆｅｕａｉｄＦＡａｄｓｐｏｅｔｒａｈｎＳＭ）ｔｉｐｐｒｅｖｄｏｓｄｅｃｍａｓｎｏｇｌｒｅＤｎｐｒｖｃｃｉｅ（Ｖｕｔｉｒｚｕｔｏｍ，ｈｓａｅｄｒｅｉ
得研究的课题。
０引言
ＦＡ是一种常用的线性分类算法，通过寻找从原始空Ｄ它
正则化技术是为了专门处理该问题而提出来的数学方法，
其作用是控制算法的泛化能力、提高数值计算的稳定性、改善
迭代算法的收敛性。Ｏ’ ｕｌａｌ的综述中给出了不少正则化Ｓｌｖｎ４ｉ技术成功应用的例子。对于正则化Ｆｓｅ判别式的核化，型ｉｒｈ典的方法是转换为广义特征值问题的求解，这种方法不方但便研究其与ＳＭ的关系。本文提出了一种将约束优化问题转Ｖ
ＫｅｎｌｆｒｏｅｕａｉｅＤＡｎｏａｉｏｔｄｔＶＭｒｅｏｍｆｒｇｌｒｚｄＦａｄｃｍｐｒｓｎｓｕｙｗｉｈＳ
ＹｈｎｍｉＰＮＱａ，ＨＮｏｇｍｅ，ＨＮｏｇｃｉＵＣｕ — ｅ，ＡｕｎＣＥＧＹｎ— ｉＺＡＧＨｎ—ａ
正则化技术是解决该问题的有效途径。为了便于研究正则化ＦＡ与支持向量机（Ｖ的关系，导了一种正ＤＳＭ）推
则化ＦＡ的核化算法。将约束优化问题转换为对偶的优化问题，到了与ＳＭ相似的形式，Ｄ得Ｖ分析了该核化算法与ＳＭ的联系。针对Ｔｎｓｅａｔａ（Ｅ过程的故障诊断结果表明，Ｖｅｅｓ — ｓｎＴ）ｅＥｍ正则化ＫＤ的诊断效果明显好于Ｌ — ＦＡＳ
（Ｅ）ｐｏｅｓｓｏｈｔｒｇｌｒｅＤｇｔｂｔｒｄａｎｓｆｅｔｈｎｌａｔｓｕｒｓＳＴｒｃｓｈｗｔａｅｕａｚｄＫＦＡｅｅｔｉｇｏｉｅｆｃｓｔａｅｓｑａｅＶＭ（ＳＳｉｅｓＬ．ＶＭ）．
Ｋｅｒｓｅｕａｉａｉｎ：Ｆｓｅｉｒｍｉａｔｎｌｓｓｅｎｌｔｏｓｏｖｘｏｔｚｔｎ；Ｓｙｗｏｄ：ｒｇｌｒｔｏｚｉｈｒｄｓｉｎｎａｙｉ：ｋｒｅｈｄ：ｃｎｅｐｉａｉｃａｍｅｍｉｏＶＭ
（ｏｅｅｆｕｍｔｎＮｒｗｓｒＰｌｅｎａＵｉｒｔ，ｉａ１０２Ｃｉ）ＣｌｇＡｔａｏ，ｏｈｅｅｏｔｈｉｌｎｅｉＸ ’ ｎ０７，ｈａｌｏｏｉｔｔｎｙｃｃｖｓｙ７ｎ
ＡｂｔａｔＷｈｒａｍａｌａｌｉｅ（ＳｒｂｅｗｉｅａｏｅｉｏｈＦｎＤｓｒｃ：ｅｅｓｓｌｓｍｐｅｓｚ３）ｐｏｌｍｌｂｒｓｎｂｔＤＡａｄＫＦＡ．ＲｅｕａｚｄＦＡＳａｆｃｉｅｌｇｌｒｅＤｉｎｅｆｔｉｅｖ
ａｎｖｌｅｎｌｒｏｅｌｒｅＤ．ｗｉｈｔａｓｅｅｐｉｚｔｎｐｏｌｍｉｏｓｒｉｔｔｐｉｚｔｎｐｏｌｍｎｄａｏｅｒｅｍｆｇａｉｄＦＡｋｏｆｒｕｚｈｃｒｎｆｒｄｏｔｍｉａｉｒｂｅｗｔｃｎｔａｎｏｏｔｏｈｍｉｉｒｂｅｉｕｌａｏｓａｅ０ｔｉｅｈｅｎｌｏｉｈｃｉｌｒｔＶａｄｇｖｅｌｋｔＶＭ．ＳｍｕａｉｎｒｓｌｏｅｅｓｅＥｓｍａｐｃ．ｂａｎｄｔｅｋｒｅｒｌｗｉｈｓｍｉＳＭｎａｅｔｉｓｗｉＳｆｌａｏｈｎｈｉｌｔｅｕｔｆｒＴｎｓｅ — ａｔｎｏｓ
ＳＶＭ。
关键词：正则化；ｉபைடு நூலகம்ｅ判别分析；方法；Ｆｈｒｓ核凸优化；支持向量机
中图分类号：Ｔ１Ｐ８文献标志码：Ａ文章编号：１０ — ６５２１）３０９ — ２０１３９（０００ — ８７０
ｄｉ１．９９ｊｉｎ１０－６５２１．３０４ｏ：０３６／．ｓ．０１３９．０００．２ｓ