基于核稀疏表示的特征选择算法
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
ｕ ａ ｉｃ ｉ ｎ ｔ ｅｐ ｗｅ ｆｓ ａｓ ｅ ｒ ｓ ｎ ａｉｎ．“ ｏ ｄ’ｆ ａｕ ｅ ｗ ｉ ｈ ｐ ｅ ｅ ｖ ｄ ｔ ｅ ｏ ｇｎ ｌｓ ｃ ｒ ｏ ｌ ｅ ｓ ｌ ｃｅ Ｏ ｒ ｌｄ ｓ ｒ ｍｉ ａｉ ｏ ｒｏ ｐ ｒ ｅｒ ｐ ｅ ｅ ｔｔ ｖ ｏ ｇ ｏ ’ ｅ ｔ ｒ ｈ ｃ ｒ ｓ ｒ ｅ ｒ ｉ ａ ｔ ｔ ｅ ｗ ｕ ｄ ｂ ｅｅ ｔ ｄ Ｓ ｈ ｉ ｕ ｒ ｕ ｔ ａ ｅ ｔ ｒ ｅｅ ｔ ｎ ｃ ｕ ｄ ｒ ｄ ｃ ｏ ｕ ａｉｎ ｌｃ ｍｐｅ ｉ ｎ ｍｐ ｏ ｅ ｐ ｅ ｉｉｎ Ｔ ｅ ｒ ｓ ｌ ｆｅ ｐ ｒｍｅ ｔ ｎ ｓａ ｄ ｒ ＣＩ ｈ ｔ ａｕ ｅ ｓ ｌ ｃｉ ｏ ｌ ｅ ｕ ｅ ｃ ｍｐ ｔｔ ａ ｏ ｌｘ ｔ ａ ｄ ｉ ｒ ｖ ｒ ｃ ｓ ． ｈ ｅ ｕｔ ｏ ｘ ｅｉ ｎ ｔ ｎ ａ ｄ Ｕ ｆ ｏ ｏ ｙ ｏ ｓ ｉ ｄ ｔ ｅ ｓｓ ｏ ｈ ｔｔｅ ｐ ｒ ｒ ｎ ｅ ｃ ｍｐ ｒ ｔ ｉ ｌ ｒａｇ ｒ ｈ ｍｐ ｏ ｅ ｂ ｕ ｅ ａ ｅ ａ ｅ ｏ ％ ． ａａ ｓ ｔ ｈ ｗ ｔａ ｈ ｅ ｏ ｍａ ｃ ｏ ａ ｅｗｉ ｓｍｉ ｌ ｏ ｔ ｍｓｉ ｒ ｖ ｓａ ｏ ｔｔ ｖ ｒ ｇ ｆ５ ｆ ｈ ａ ｉ ｈ Ｋｅ ｒ ｓ ｆａ ｕ ｅ ｓ ｌｃｉ ｎ ｓ ａｓ ｅ ｒ ｓ ｎａｉ ｎ；ｋ ｒ ｅ ｉｋ ｙ ｗｏ ｄ ： ｅ ｔ ｒ ｅｅ ｔ ： ｐ ｒ ｅ ｒｐ ｅ ｅ ｔｔ ｏ ｏ ｅｎ ｌｔ ｃ ｒ
ｅ ｐ ｅ ｓｏ ｆｏｉ ｉａ ｔ ｅ ｅ ｐ ｃ ． ｈ ｎ ｉ ｄ ｓｇ ｅ ｖ ｌ ａｅｍｅ ｈ ｎ ｓ ｔ ｅｅ ｔ ｘ ｅ ｅ ｔ ｅ ｔ ｒ ｕ ｓ ｔ． ｈ ａ— ｘ ｒ ｓ ｉｎ ｏ ｒｇｎ ｌ ａｉ ｋ ｒ ｌｓ ａ ｅ Ｔ ｅ ｔ ｅ ｉｎ ｄ ｅ ａｕ ｔ ｃ ａ ｉ ｄａ ｎ ｎ ｍ． ｓ ｌ ｃ ｃ Ｕ ｎ ａｕ ｅ ｓ ｂ ｅ ｓ Ａｓｔ ｅ ｎ ｔ ｏ ｅ ｆ
邓战涛 ，胡谷雨 ， 志松 ，张艳艳 潘
（ 解放 军理 工大 学 指挥 自 动化 学院 ， 南京 ２００ ） １０７ 摘 要 ：为 了解决 高维数据 在分类 时导致 的 维数 灾难 ， 降维是数据预 处理 阶段 的主要 步骤 。基 于稀疏 学 习进行
特 征选择 是 目前的研 究热 点。针 对 现 实 中大量 非线性 可分 问题 助核 技 巧 ， 非线 性 可分 的数 据 样本 映射 到 借 将
核 空间 ， 以解 决特 征 的非线性相 似 问题 。进 一步对核 空 间的数 据样 本进 行 稀 疏 重构 ， 到原 数 据在 核 空 间的 一 得
种简洁的稀疏表达方式， 然后构建相应的评分机制选择最优子集。受益于稀疏 学习的 自然判别能力， 该算法能 够选择 出保持原始数据结构特性的“ 特征， 好” 从而降低 学习模型的计算复杂度 并提升分类精度。在标准 ｕ ｐ 数据集上的实验结果表明， 其性能上与同类算法相比平均可提高约 ５ ％。
第２ ９卷 第 ４期 ２１ ０ ２年 ４ 月
计 算 机 应 用 研 究
Ａｐ ｌ ａｉ ｎ Ｒｅ ｅ ｒ ｈ ｏ ｏ ｕ ｅ ｓ ｐ ｉ ｔｏ ｓ ａ ｃ ｆＣ ｍｐ ｔ ｒ ｃ
Ｖ０ ． ９ Ｎｏ ４ １２ ． Ａｐ ．２ １ ｒ ０２
基 于核 稀 疏 表 的 选 择算 法 示 特征
ｃ ｎｌ．ｎｔｅｆｃ ｆｔｅｎ ｎｉｅｒｐｏ ｌｍ ， ｉ ａ ｅ ｔ ａｅ ｙｋ ｒｅ ｒ ｋ， ｏ ｌ ｅ ｒｄ ｔ ａ ｐ ｅ ｎｏｋ ｒｅ ｐ ｃ ｅ ｔ Ｉ ａ ｅｏ ｏ ｌ ａ ｒｂｅ ｔ ｓｐ ｐ ｒｍｏｉ ｔｄｂ ｅｎ ｌ ｉ ｙ ｈ ｈ ｎ ｈ ｖ ｔ ｃ ｎ ｎｉ ａ ａａｗ ｓｍａ ｐ ｄｉｔ ｅ ｌ ａ ｅ ｎ ｎ ｓ
（ｎｔｕｅｆＣ ｍ ａ ｄＡ ｔｍ ｔ ｎ 尸 ４Ｕ ｉ ｒｔ ｏ Ｓｉ ｃ Ｉｓｉ ｔｏ ｏ ｍ ｎ ｕｏ ａｉ ， Ｌ ｎｖ ｓｙｆ ｃ ｎｅ＆ Ｔｃｎｌ ｙ Ｎａｊ ｇ２ ００ ｔ ｏ ｅ ｉ ｅ ｅｈｏｏ ， ｎｉ １０７，Ｃ ｉａ ｇ ａ ｈｎ ） Ａｂ ｔａ ｔ ｎ ｏｄ ｒｔ ｏｖ ｈ ｒｂｅ ｏ ｉ ｎ ｉｎｉｎ ｓ ｎｃａ ｓ ｃｔ ｎｏ ｉｈ ｄｍｅ ｓｏ ａ ａａ ｉ ｎｉｎ ｌ ｙｒｄ ｃ ｓｒ ｃ ：Ｉ ｒｅ ｓｌｅｔｅｐｏ ｌｍ ｆｄｍｅ ｓｏ ｌｅｓｉ ｌｓｉ ａｉ ｆｈｓ －ｉ ｎｉｎ ｄ ｔ ，ｄｍｅ ｓｏ ａｉ ｅ ｕ ． ｏ ｌ ｉ ｆ ｏ ｌ ｔ
ｔ ｎ ｉ ａ ｋ ｙａ ｐ ｏ ｃ ｎ ｐ ｅｒ ａｍｅ ｔ ｅ ｔ ｒ ｅｅ ｔ ｎ ｂ ｓ ｄ ｏ ｐ ｒ ｅｒ ｐ ｅ ｅ ｔｔ ｎ ｉ ｎ ｆ ｈ ｏｔ ｓ ｒ ｓ ａ ｃ ｐ ｃ ｅ ｉ Ｓ ｅ ｐ ｒａ ｈ ｉ ｒ ｔ ｔ ｎ ．Ｆ ａｕ ｅ ｓ ｌｃｉ ａ ｅ ｎ ｓ ａｓ ｅ ｒ ｓ ｎ ａｉ Ｓｏ ｅ ｏ ｅ ｈ ｔ ｔ ｅ ｅ ｒ ｈｔ ｉ ｓｒ — ｏ ｅ ｏ ｏ ｔ ｅ ｏ
关键 词 ：特征 选择 ；稀疏表 示 ；核技 巧
中图分类号：Ｔ ３ １ Ｐ９
文献标志码 ：Ａ
文章编号 ：１０ —６５ ２１ ）４ １８・３ ０１３９ （０２ ０ —２２０
ｄ ｉ１ ． ９ ９ ｊｉ ｎ １０ －６ ５ ２ １ ． ． ２ ｏ：０ ３ ６ ／．ｓ ．０ １３ ９ ．０ ２ ０ ０ ２ ｓ ４
ｉ ｉｈ ｔｅ ｎ ｎ ｉ ｅ ｒｓｍｉ ｒ ｙ ｏ ｅ ｆａｕ ｅ ｏ ｌ ｅ ｃ ｒ ｕ ｅ ｎ ｅ ｏ ｓ ｕ ｔ ｄ ｂ ｐ ｒｅ ｒ ｐ ｅ ｅ ｔｔ ｎ ｔ ｅ ｏ ｃ ｓ ｎ ｎ ｗｈｃ ｈ ｏ ｌ ａ ｉ ｌｉ ｆｔ ｅ ｔｒ ｓ ｃ ｕ ｄ ｂ ａ） ｒ ｄ ａ ｄ ｒ ｃ ｎ ｔ ｃｅ ｙ ｓ ａ ｓ ｅ ｒ ｓ ｎ ａｉ ｏ ｇ ｔｃ ｎ ｉｉ ｎ ａｔ ｈ ｔ ｒ ｏ ｏ
Ｆ ａｕ ｅ ｓｌｃｉｎ ｂ ｓ ｄ ｏ ｅ ｎ ｌｓ ａｓ ｅ ｒ ｓ ｎａｉｎ ｅ ｔ ｒ ｅｅ ｔｏ ａ ｅ ｎ ｋ ｒ ｅ ｐ ｒｅ ｒ ｐ ｅ ｅ ｔｔｏ
ＤＥ ＮＧ ｈ ｎ ｔ ｐ ＨＵ Ｇｕ ｙ Ｚ ａ ａ ， — ｕ，Ｐ ｈ ‘ｏ ｇ，Ｚ ＡＮ Ｚ ｉｓ ｎ ＨＡＮＧ Ｙａ ’ ａ ｈｙｈ
ｅ ｐ ｅ ｓｏ ｆｏｉ ｉａ ｔ ｅ ｅ ｐ ｃ ． ｈ ｎ ｉ ｄ ｓｇ ｅ ｖ ｌ ａｅｍｅ ｈ ｎ ｓ ｔ ｅｅ ｔ ｘ ｅ ｅ ｔ ｅ ｔ ｒ ｕ ｓ ｔ． ｈ ａ— ｘ ｒ ｓ ｉｎ ｏ ｒｇｎ ｌ ａｉ ｋ ｒ ｌｓ ａ ｅ Ｔ ｅ ｔ ｅ ｉｎ ｄ ｅ ａｕ ｔ ｃ ａ ｉ ｄａ ｎ ｎ ｍ． ｓ ｌ ｃ ｃ Ｕ ｎ ａｕ ｅ ｓ ｂ ｅ ｓ Ａｓｔ ｅ ｎ ｔ ｏ ｅ ｆ
邓战涛 ，胡谷雨 ， 志松 ，张艳艳 潘
（ 解放 军理 工大 学 指挥 自 动化 学院 ， 南京 ２００ ） １０７ 摘 要 ：为 了解决 高维数据 在分类 时导致 的 维数 灾难 ， 降维是数据预 处理 阶段 的主要 步骤 。基 于稀疏 学 习进行
特 征选择 是 目前的研 究热 点。针 对 现 实 中大量 非线性 可分 问题 助核 技 巧 ， 非线 性 可分 的数 据 样本 映射 到 借 将
核 空间 ， 以解 决特 征 的非线性相 似 问题 。进 一步对核 空 间的数 据样 本进 行 稀 疏 重构 ， 到原 数 据在 核 空 间的 一 得
种简洁的稀疏表达方式， 然后构建相应的评分机制选择最优子集。受益于稀疏 学习的 自然判别能力， 该算法能 够选择 出保持原始数据结构特性的“ 特征， 好” 从而降低 学习模型的计算复杂度 并提升分类精度。在标准 ｕ ｐ 数据集上的实验结果表明， 其性能上与同类算法相比平均可提高约 ５ ％。
第２ ９卷 第 ４期 ２１ ０ ２年 ４ 月
计 算 机 应 用 研 究
Ａｐ ｌ ａｉ ｎ Ｒｅ ｅ ｒ ｈ ｏ ｏ ｕ ｅ ｓ ｐ ｉ ｔｏ ｓ ａ ｃ ｆＣ ｍｐ ｔ ｒ ｃ
Ｖ０ ． ９ Ｎｏ ４ １２ ． Ａｐ ．２ １ ｒ ０２
基 于核 稀 疏 表 的 选 择算 法 示 特征
ｃ ｎｌ．ｎｔｅｆｃ ｆｔｅｎ ｎｉｅｒｐｏ ｌｍ ， ｉ ａ ｅ ｔ ａｅ ｙｋ ｒｅ ｒ ｋ， ｏ ｌ ｅ ｒｄ ｔ ａ ｐ ｅ ｎｏｋ ｒｅ ｐ ｃ ｅ ｔ Ｉ ａ ｅｏ ｏ ｌ ａ ｒｂｅ ｔ ｓｐ ｐ ｒｍｏｉ ｔｄｂ ｅｎ ｌ ｉ ｙ ｈ ｈ ｎ ｈ ｖ ｔ ｃ ｎ ｎｉ ａ ａａｗ ｓｍａ ｐ ｄｉｔ ｅ ｌ ａ ｅ ｎ ｎ ｓ
（ｎｔｕｅｆＣ ｍ ａ ｄＡ ｔｍ ｔ ｎ 尸 ４Ｕ ｉ ｒｔ ｏ Ｓｉ ｃ Ｉｓｉ ｔｏ ｏ ｍ ｎ ｕｏ ａｉ ， Ｌ ｎｖ ｓｙｆ ｃ ｎｅ＆ Ｔｃｎｌ ｙ Ｎａｊ ｇ２ ００ ｔ ｏ ｅ ｉ ｅ ｅｈｏｏ ， ｎｉ １０７，Ｃ ｉａ ｇ ａ ｈｎ ） Ａｂ ｔａ ｔ ｎ ｏｄ ｒｔ ｏｖ ｈ ｒｂｅ ｏ ｉ ｎ ｉｎｉｎ ｓ ｎｃａ ｓ ｃｔ ｎｏ ｉｈ ｄｍｅ ｓｏ ａ ａａ ｉ ｎｉｎ ｌ ｙｒｄ ｃ ｓｒ ｃ ：Ｉ ｒｅ ｓｌｅｔｅｐｏ ｌｍ ｆｄｍｅ ｓｏ ｌｅｓｉ ｌｓｉ ａｉ ｆｈｓ －ｉ ｎｉｎ ｄ ｔ ，ｄｍｅ ｓｏ ａｉ ｅ ｕ ． ｏ ｌ ｉ ｆ ｏ ｌ ｔ
ｔ ｎ ｉ ａ ｋ ｙａ ｐ ｏ ｃ ｎ ｐ ｅｒ ａｍｅ ｔ ｅ ｔ ｒ ｅｅ ｔ ｎ ｂ ｓ ｄ ｏ ｐ ｒ ｅｒ ｐ ｅ ｅ ｔｔ ｎ ｉ ｎ ｆ ｈ ｏｔ ｓ ｒ ｓ ａ ｃ ｐ ｃ ｅ ｉ Ｓ ｅ ｐ ｒａ ｈ ｉ ｒ ｔ ｔ ｎ ．Ｆ ａｕ ｅ ｓ ｌｃｉ ａ ｅ ｎ ｓ ａｓ ｅ ｒ ｓ ｎ ａｉ Ｓｏ ｅ ｏ ｅ ｈ ｔ ｔ ｅ ｅ ｒ ｈｔ ｉ ｓｒ — ｏ ｅ ｏ ｏ ｔ ｅ ｏ
关键 词 ：特征 选择 ；稀疏表 示 ；核技 巧
中图分类号：Ｔ ３ １ Ｐ９
文献标志码 ：Ａ
文章编号 ：１０ —６５ ２１ ）４ １８・３ ０１３９ （０２ ０ —２２０
ｄ ｉ１ ． ９ ９ ｊｉ ｎ １０ －６ ５ ２ １ ． ． ２ ｏ：０ ３ ６ ／．ｓ ．０ １３ ９ ．０ ２ ０ ０ ２ ｓ ４
ｉ ｉｈ ｔｅ ｎ ｎ ｉ ｅ ｒｓｍｉ ｒ ｙ ｏ ｅ ｆａｕ ｅ ｏ ｌ ｅ ｃ ｒ ｕ ｅ ｎ ｅ ｏ ｓ ｕ ｔ ｄ ｂ ｐ ｒｅ ｒ ｐ ｅ ｅ ｔｔ ｎ ｔ ｅ ｏ ｃ ｓ ｎ ｎ ｗｈｃ ｈ ｏ ｌ ａ ｉ ｌｉ ｆｔ ｅ ｔｒ ｓ ｃ ｕ ｄ ｂ ａ） ｒ ｄ ａ ｄ ｒ ｃ ｎ ｔ ｃｅ ｙ ｓ ａ ｓ ｅ ｒ ｓ ｎ ａｉ ｏ ｇ ｔｃ ｎ ｉｉ ｎ ａｔ ｈ ｔ ｒ ｏ ｏ
Ｆ ａｕ ｅ ｓｌｃｉｎ ｂ ｓ ｄ ｏ ｅ ｎ ｌｓ ａｓ ｅ ｒ ｓ ｎａｉｎ ｅ ｔ ｒ ｅｅ ｔｏ ａ ｅ ｎ ｋ ｒ ｅ ｐ ｒｅ ｒ ｐ ｅ ｅ ｔｔｏ
ＤＥ ＮＧ ｈ ｎ ｔ ｐ ＨＵ Ｇｕ ｙ Ｚ ａ ａ ， — ｕ，Ｐ ｈ ‘ｏ ｇ，Ｚ ＡＮ Ｚ ｉｓ ｎ ＨＡＮＧ Ｙａ ’ ａ ｈｙｈ