一种新的分类器选择集成算法

性 的子集 和最大个体分类能力 的子集 ，以确定待扩展分类器集 ， 选择具有较 大混合分类 能力的基 分类器 加入到待扩展集中 ， 构成集成系统 ， 进行 加权 投票并产生结果 。实验结果表 明，该 方法 优于经 典的 Ａｄ Ｂ ｏｔ Ｂ ｇ ｉｇ方法 ，具有较高 的分 类准确率 。 ａ ｏ ｓ 和 ａ ｇｎ
关健词 ：多分类器系统 ；选择集成 ；差 异性 ；分类 能力 ；加权投票
Ｎｅ Ｃｌ ｓ ｉ ｅ ｅ ｅ ｔｏ ｗ ａ ｓｆ ｒＳ ｌ ｃ ｉ ｎ Ｅｎｓ ｍ ｂｌ ｇ ｒ ｔ ｉ ｅ ｅＡｌ ｏ ｉｈｍ
Ｙ Ｉ Ｇ ｕａｎｇ ，ＺＨ Ｕ ｕ— Ｎ Ｙ ｑｕａｎ ， Ｈ ＥＮ ｅ Ｃ Ｇ ｎｇ
第３ ８卷 第 ８期
Ｖ０ ＿ ８ ｌ３
・
计
算
机
工
程
２１ ０ ２年 ４月
Ａｐ ｉ ０１ ｒｌ ２ ２
ＮＯ ８ ．
Ｃｏ ｍｐｕ ｅ ｔ ｒＥｎｇ ｎ ｅ ｉ ｇ ｉ ｅ ｒｎ
人工智能及识别技术 ・
一
文 编 １ ０－ ２ ２ ２ ８＿６ ＿３ 文 标 码； 章 号： ０ — ４ （ １ ｏ ｏ ７＿ ０ ３ ８ ０ ）— ｌ ＿ ０ 献ｅ ｌ ｓ ｅ Ｓ ｓｅ ＭＣ ） Ｍｕｔ ｌ Ｃａ ｉ ｒ ｙｔ ｉ ｓｆ ｉ ｍ， Ｓ在医 疗 图像识别 、 字符识别、入侵检测等领域 中的不断成功应 用， 集 成分类 器 系统 的研究 已经成 为数据 挖掘领 域 的一个热 点
问题 。
（ ｔａ Ｃ ａｓ ｃｔ ｎ Ｃ ｐｂｌｙ ＭＣ ） Ｍｕｕｌ ｌｓｉ ａｉ ａａ ｉｔ， Ｃ 函数 ，并 在 其 上 提 出 ｉ ｆ ｏ ｉ 了一 种 选 择 集 成 算 法 ，利 用 该 函数 选 择 出构 建 集 成 的 基 分 类
（． ｃｏ ｌ ｆ ｍｐ ｔｒ ｃｅｃ ｎ ｅｅｏ １Ｓ ｈ ｏ Ｃｏ ｕｅ ｉ ｅ ｄＴ ｌ ｍｍｕ ｉ ｔ ｎ ｎ ｉｅｒ ｇ Ｊ ｎ ｓ ｉｅｓ ｙ Ｚ ｅ ａｇ２ ２ １， ｈｎ ； ｏ Ｓ ｎ ａ ｃ ｎｃ ｉ ｓＥ ｇｎｅｉ ，ｉ ｇｕＵｎｖｒｉ ， ｈ￣ｉ １０ ３Ｃ ｉａ ａｏ ｎ ａ ｔ ｎ ２ Ｓｈ ｏ ｆ ｏ ｏ ｃ ｎ ． ｃ ｏ ｌ Ｅｃｎ ｍｉｓ ｄＭａａ ｅ ｎ， ｏ ｔｅｓＵｎｖｒｉ ， ｎｉｇ２ １８ ， ｈｎ ） ｏ ａ ｎ ｇ ｍｅｔＳ ｕｈ ａｔ ｉｅｓ ｙ Ｎａｊ １ １９ Ｃ ｉａ ｔ ｎ
器 ，从而在一定程度上消除 “ 差异性一 分类性能”矛盾。
２ 基分 类器 的 “ 异性一 类性能 ”矛盾 差 分
２１ 分类器 的差异性 ． 集成分类器系统中的基分类器彼此之间应该是不同的 ， 否则集成便失去了意义 ，这种不同在概念上就是分类器 的差 异性。差异性代表不 同分类器预测能力的独立性和互补性 ， 文献［］ ８将其 定义 为 “ 对于新的样本 ，各个分类器做出不同错 误 的趋势” 。不 同的研究者从不 同的 出发点对 差异性进行 定 义 ，其 中常 见 的有 Ｑ— ａｉｉ、 Ｐ相关性 、Ｋ ｈｖ— ｌｅｔ ｓ ｔｔ ｔ ｓｃ ｏ ａ ｉＷｏｐ ｒ
Ｍ ＣＣ— ＳＣＥＮ ｓ ｐ ｏ ｏｓ ｄ． ｈｉ ａ ｇ ｒｔ ｍ ｒｔｆｎ ｓｃ ａ ｓｆｅ ｕ ｓ ｔ ｉ ｈ ｈ ｖ ｉ ｇ ｓ ｉ ｇ ｅ ａ ｃ ｒ ｃ ｄ ｄ ｖ ｒｉｙ ｔ ｎ ｒ ｔ ｅ ｕ ｅ ｐ ｎ ｉ ｒ ｐ ｅ Ｔ ｓ ｌ ｏ ｉ ｈ ｆ ｓ ｄ ｌ ｓ ｉ ｒｓ ｂ ｅ ｓｗｈ ｃ ａ ｅ ｔ ｂ ｇ ｅ ｔｓｎ ｌ ｃ ｕ ａ ｙ ａ ｉ ｅ ｓｔ ｏ ｇｅ ｅ ａ ｅ ｔ ｎ ｘ ａ ｄ ｉ ｉ ｉ ｈｅ ｎ ｈ ｃ ａ ｓｆ ｅ ｅ，ｔ ｎ ｓ ｌ ｃｓ ｌ ｓ ｉ ｅ ｓ ｔ ａ ｖ ｌｒ ｅ ｔ Ｍ ＣＳ ｏ ｃ ｎ ｔｕ ｔ ｔ ｅ ｅ ｅ ｌ ｓ ｉ ｒ ｓ ｔ ｈｅ ｅ ｅ ｔ ｃａ ｓｆ ｒ ｔ ｈａ ｅ ａ ｇ ｓ ｉ ｉ ｈ ｔ ｏ ｓｒ ｃ ｎｓ ｍｂｌ ｙ ｔ ｍ ｎ ｓ ｓ ｈ ｅ ｓ ｓ ｅ ａ ｄ ｕ ｅ ｗｅｇ ｔ ｄ ｖ ｔ ａ ｎ ｅ ｂ ｅ ｍ ｅｈ ｄ． ｉｈｅ ｏｅ ｓ ｅ ｓｍ ｌ ｔｏ Ｅｘ ｅ ｉ ｎ ａ ｅ ｕｌ ｈ ｗ ｈ ｓ ｍｅ ｏ ｓｂ ｔ ｒｔ ｎ Ａｄ Ｂｏ ｔ ｎ ｇ ｎ ｔ ｏ ． ｐ ｒｍｅ ｔ ｌ ｓ ｔ ｓ ｏ ｔ ｉ ｔ ｄ ｉ ｅ ｔ ｒ ｓ ｈ ｅ ｈａ ａ ｏｓ ｄ Ｂａ ｇｉ ｇ ｍｅ ｈ ｄ ａ
［ ｓｒｃ］ Ｉ ｒｅ ｏ ｉ ｒｖ ｈ ｅｆｒ ｎ ｅｏ ｕｔ ｌ Ｃ ａｓｆ ｒＳ ｓ ｍ（ Ａｂ ｔａ ｔ ｎ ｏｄｒｔ ｍｐｏ ｅｔｅｐｒｏｍａｃ ｆＭ ｌｐｅ ｌｓｉ ｅ ｙｔ ＭＣＳ， ｅ ｌｓｉｅ ｅｅｔ ｎ ｅ ｓｍｂｅａｇ ｒｈ ｃｌ ｄ ｉ ｉ ｅ ） ａｎ ｗ ｃ ｓ ｒｓｌｃｉ ｎｅ ｌ ｌｏｉ ｍ ａｌ ａ ｆ ｉ ｏ ｔ ｅ
中 分 号； Ｐ１ 圈 类 Ｔ３ ２
种 新 的分 类器选择 集成 算 法
尹 光 ，朱玉全 ，陈 耿
（． １ 江苏大学计算机科学 与通信 工程 学院 ，江苏 镇江 ２ ２ １ ；２ 东 南大学经济管理学院 ，南京 ２ １８ ） １０ ３ ． １ １９ 摘 要 ：为提高集成分 类器 系统的分类性能 ，提 出一种分 类器 选择集成算法 ＭＣ —Ｃ Ｎ。该算法选取基 分类器 集中具有最大互信息差异 ＣＳＥ
［ ｙｗｏ ｄ ］ Ｍｕｔ ｌＣｌｓｉｅ ｙ ｔ ＭＣ ） ｓｌｃｉｎｅ ｓｍｂｅ ｄｖｒｉ ； ｌ ｓｆ ａｉｎｃｐ ｂｌｙ ｗｅｇ ｔｄ ｏｅ Ｋｅ ｒ ｓ ｌｐｅ ａｓ ｒ ｓ ｍ（ Ｓ；ｅｅｔ ｅ ｌ； ｉｅｓ ｙ ｃａ ｉｃｔ ａａ ｉｔ； ｉｈｅ ｔ ｉ ｉ ｆ Ｓ ｅ ｏ ｎ ｔ ｓｉ ｏ ｉ ｖ ＤＯＩ １ ．９ ９ ． ｓ．０ ０３ ２ ．０ ２０ ．５ ： Ｏ３ ６／ｉ ｎ １０ —４ ８ １ ．８０ ５ ｊｓ ２