基于信息熵的FCM聚类算法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
５９ ２ １，１（ ） ０２ ００ ２ ３ ３
・智 能技 术 ・
计 算机 工程 与 设计 Ｃ ｍ ｕ ｒ ｎｉ ｅｎ ｄ ｅ ｇ ｏ ｐｔ ｇ ｅｒ ｇ ｎ ｓ ｎ ｅＥ ｎ ｉ ａ Ｄ ｉ
基于信息熵的 Ｆ Ｍ 聚类算法 Ｃ
邢ｈ ｗ ａ ｅｍ ｏ ｉｅ ｌｏｉ ｍ ｅｓｔｅｂ ｔ ｒｖ ｌ ｉ ｎ ｅｆｒ ａ ｃ ｈ ｎｔ ｅｆｚ ｙ Ｃ— ａ ｓａｇ ｒ ｈ ａ ｄｒｃ ｉｅ ｅ ｅｕｔ ｓ ｏ ｔ ｔｈ ｄｆ ｄ ａｇ ｒ ｈ ｇ ｔ ｅｔ ａｉ ｔ ａ ｄｐ ｒｏ ｓ ｈ ｔ ｉ ｔ ｈ ｅ ｄｙ ｍ ｎ ｅｔａ ｈ ｕ ｚ ｍｅ ｌｏ ｔｍ， ｎ ｅ ｅｖ ｄｔ ｎ ｉ ｈ
（． 尔滨德 强 商务 学院 计 算机 与信 息 工程 系，黑龙 江 哈 尔滨 １０ ２ ； １哈 ５０５ ２ ．三锐 系统株 式会社 事 业统 括部 ， 日本 东京 １ １ ０ １ ０． ２） ０
摘 要 ： 对 模 糊 聚 类 存 在 的 数 据 收 缩 问 题 的 不 足 ， 出 了一 种 改 进 现 有 模 糊 聚 类 算 法 的 方 法 ， 进 行 仿 真 实验 研 究 。 糊 针 提 并 模
Ｃ 均 值 （Ｃ 算 法 主 要 通 过 目 标 函 数 的 迭 代 优 化 来 实 现 集 合 划 分 ，以信 息 熵 作 为 模 糊 Ｃ 均 值 算 法 的 约 束 条 件 ，给 出 改 一 Ｆ Ｍ） 一
进 算法 的推 导 过程 ， 出改进 后 的模 糊 ｃ 均值 算法 的 隶属 度 和 聚类 中 心 ， 得 一 实现 了模 糊 ｃ 均值 的改 进算 法 。 实验 结果 可 一
ｐ ｓｄ ｎ ｅ ｉ ｌｉｎｅｐｒ ｎ ｎ ｕ ｔ ．Ｆ ｚｙ ｍｅｎ （Ｃ ｏｅ ，ａ ｄｈ ｍｕａ ｏ ｘ ｅｉ ｔｓ ｏ ｄ ｃ ｄ ｕ ｚ ｔ ｓ ｔ ｍｅ ｉｃ ｅ Ｃ— ａ ｓ Ｆ Ｍ） ａｇｒ ｈ ｉｔｅ ｂｅｔ ｅ ｕ ｃｉｎ ｈｏ ｇ ｅａｉ ｐｉ ｌｏ ｔｍ ｊｃ ｖ ｎ ｔ ｒｕ ｈｉ ｒｔ ｅ ｔ ｉ ｓｈ ｏ ｉ ｆ ｏｔ ｔ ｖｏ —
以表 明，改进 的模 糊 Ｃ 均值 算 法 是有 效 的 ，能 够表 现 出 比模 糊 ｃ 均值 算 法 更好 的 性 能 ， 实 际应 用 中可 以取 得较 好 的 ． 一 在
聚类 效果 。
关键词 ： 模糊 聚类 ；模糊 Ｃ 均值 算 法； 聚类分析 ；信 息熵 ；聚类 算法 一 中图法分 类号 ：Ｐ ８ Ｔ １ 文献标 识码 ： Ａ 文章编 号：０ ０７ ２ ２ １） ３５９ ４ １０—０ ４（００ ２—０２０
Ａｂ ｔ ａ ｔ Ｆ ｒ ｈ ｚ ｙ ｃｕ ｔ ｒ ｇｅ ｉ ｅ ｅ ｒ ｂ ｅ ｏ ｄ ｔ ｎ ｆ ｒ ｔ ｏ ｔ ｃ ｉ ｎ ｅ ｍｅｈ ｄｏ ｆ ｚ ｙｃ ｕ ｔ ｒ ｇａ ｇ ｒ ｈ ｉ ｐ ｏ ｓ ｒ ｃ ： ｏ ｅｆ ｚ ｌ ｓｅ ｉ ｘ ｓ ｄｔ ｏ ｌ ｍ ｆ ａ ａ ｉ ｍｉ ｃ ｎ ｒ ｔ ，ａｎ ｗ ｔ ｏ ｆ ｕ ｚ ｌ ｓｅ ｎ ｌ ｏ ｔ ｍ ｒ ・ ｔ ｕ ｎ ｔ ｈ ｐ ｕ ｏ ｙ ａ ｏ ｉ ｉ ｓ
Ｆ ＣＭ ｌ ｓｅ ｉｇ ａｇ ｒｔ ｍ ａ ｅ ｎ ｉ ｆ ｒ ａｉｎ ｅ ｔｏ ｙ ｃｕ ｔ ｒ ｌ ｏ ｉ ｎ ｈ ｂ ｓ ｄｏ ｏ ｍ ｔ ｎ ｒ ｐ ｎ ｏ
ＸＩ ＮＧ ｉｇ ， Ｘ１ Ｇ ｈ — ｕ Ｗ ＡＮＧ ｅ ｇ ｌ ｇ Ｔｎ Ｎ Ｚ ｉｇ ｏ ， Ｆ ｎ —ｎ ｉ
ｂｅ ｅ ｅ ｕｌｓｉ ｈｅａ ｉ ａｉ ｔ ｒｒ ｓ ｔ ｎｔ ｐｐｌｃ ｔｏｎ．
Ｋｅ ｒ ｓ ｆ ｚ ｌ ｓｅ ｎ ； ｆｚ ｙ Ｃ— ｅ ｓｃｕ ｔｒｎ ｌ ｏ ｉ ｙ ｗｏ ｄ ： ｕ ｚ ｃ ｕ ｔ ｒ ｇ ｕ ｚ ｍ ａ ｌ ｓｅ ｇ ａｇ ｒｔ ； ｃｕ ｔ ｒ ｇａ ａｙ ｉ ； ｉ ｆ ｒ ｔ ｎ ｅ ｔｏ ｙ ｃｕ ｔｒｎ ｌ ｏ ｉ ｍ ｙ ｉ ｎ ｉ ｍ ｈ ｌ ｓｅ ｎ ｎ ｌ ｓｓ ｎ ｏ ｍａｉ ｎ ｒ ｐ ； ｌ ｓ ｉｇ ａ ｇ ｒｔ ｉ ｏ ｅ ｈ
（． ｅａｔ ｎ ｏ Ｃ ｍｐｔｒｎ Ｉｆｒ ｔ ｎ ｎ ｉｅｒ ｇ ａｂｎ ｅｉ ｇ ｏｌ ｅ ｆ ｏ ｍｅ ｅ １ Ｄ ｐｒ ｍｅｔ ｆ ｏ ｕｅａｄ ｎｏｍａ ｏ Ｅ ｇｎｅ ｎ ，Ｈ ｒｉ Ｄ ｑａ Ｃ ｌ ｇ ｏ Ｃ ｍ ｒ ，Ｈａ ｉ １０ ２ ， ｈｎ； ｉ ｉ ｎ ｅ ｃ ｒ ｎ ５ ０ ５ Ｃ ｉａ ｂ ２ Ｂ ｓ ｅｓ ｅ ａ ｍｅｔ Ｓ ｎｉ ｙｔ ｏ ａ ｙ ｉ ｔｄ Ｔ ｋ ｏ１１０ ２ ， Ｊｐ ） ． ｕｉ ｓ Ｄ ｐ ｒ ｎ， ａｅ Ｓ ｓ ｍ Ｃ ｍｐ ｎ ｍｉ ， ｏｙ ０－０ １ ａａ ｎ ｔ ｅ Ｌ ｅ ｎ
ｍｉａｉ ｎｔ ｃ ｉ ｅ ｈ ａａ ｅ ａ ｔ ｉ ｎ Ｗ ｉ ｅｉ ｆ ｒ ａ ｉｎ ｅ ｔｏ ｙ ａ ｅｆ ｚ ｙＣ— ａ ｓ ｌ ｏ ｔ ｍ ｏ ｓ ａｎ ｓ ｔ ｅ ｅ ｖ ｔ ｎｐ ｏ ｅ ｓ ｚ ｔ ｒ ｅｖ ｅ ｔ ｓ ｔ ｒｉ ｏ ． ｏ ｏｅ ｔ ｄ ｐ ｔ ｔｔ ｏ ｈ ｈ ｎ ｍ ｔ ｎ ｒ ｐ ｓ ｈ ｚ ｍｅ ｎ ｇ ｒ ｈ ｃ ｎ ｔ ｉｔ ， ｈ ｒ ａ ｏ ｒ ｃ ｓ ｏ ｔ ｕ ａ ｉ ｒ ｄｉ ｉ ｏ ｅｎ ｗ ｌ ｏ ｔ ｍ ｉｅ ， ｔ ｅｃｕ ｔ ｒ ｇ ｃ ｎ ｅ ｎ ｍｂ ｒ ｈ ｐｏ ｅｎ ｗ ｚ ｙ Ｃ— ａ ｓ ｌｓｅ ｉ ｇ ａ ｇ ｒｔ ｒ ｂ ａｎ ｄ Ｔ ｅ ｆ ｈ ｅ ａｇ ｒ ｈ ｉ ｇ ｖ ｎ ｈ ｌ ｓｅ ｎ ｅ ｔｒａ ｄ ｍｅ ｅ ｓ ｉ ｆ ｈ ｅ ｆ ｚ ｍｅ ｎ ｕ ｔｒｎ ｌ ｏ ｈ ａ ｅ ｏ ｔ ｉ ｅ ． ｈ ｔ ｉ ｓ ｉ ｔ ｕ ｃ ｉｍ
・智 能技 术 ・
计 算机 工程 与 设计 Ｃ ｍ ｕ ｒ ｎｉ ｅｎ ｄ ｅ ｇ ｏ ｐｔ ｇ ｅｒ ｇ ｎ ｓ ｎ ｅＥ ｎ ｉ ａ Ｄ ｉ
基于信息熵的 Ｆ Ｍ 聚类算法 Ｃ
邢ｈ ｗ ａ ｅｍ ｏ ｉｅ ｌｏｉ ｍ ｅｓｔｅｂ ｔ ｒｖ ｌ ｉ ｎ ｅｆｒ ａ ｃ ｈ ｎｔ ｅｆｚ ｙ Ｃ— ａ ｓａｇ ｒ ｈ ａ ｄｒｃ ｉｅ ｅ ｅｕｔ ｓ ｏ ｔ ｔｈ ｄｆ ｄ ａｇ ｒ ｈ ｇ ｔ ｅｔ ａｉ ｔ ａ ｄｐ ｒｏ ｓ ｈ ｔ ｉ ｔ ｈ ｅ ｄｙ ｍ ｎ ｅｔａ ｈ ｕ ｚ ｍｅ ｌｏ ｔｍ， ｎ ｅ ｅｖ ｄｔ ｎ ｉ ｈ
（． 尔滨德 强 商务 学院 计 算机 与信 息 工程 系，黑龙 江 哈 尔滨 １０ ２ ； １哈 ５０５ ２ ．三锐 系统株 式会社 事 业统 括部 ， 日本 东京 １ １ ０ １ ０． ２） ０
摘 要 ： 对 模 糊 聚 类 存 在 的 数 据 收 缩 问 题 的 不 足 ， 出 了一 种 改 进 现 有 模 糊 聚 类 算 法 的 方 法 ， 进 行 仿 真 实验 研 究 。 糊 针 提 并 模
Ｃ 均 值 （Ｃ 算 法 主 要 通 过 目 标 函 数 的 迭 代 优 化 来 实 现 集 合 划 分 ，以信 息 熵 作 为 模 糊 Ｃ 均 值 算 法 的 约 束 条 件 ，给 出 改 一 Ｆ Ｍ） 一
进 算法 的推 导 过程 ， 出改进 后 的模 糊 ｃ 均值 算法 的 隶属 度 和 聚类 中 心 ， 得 一 实现 了模 糊 ｃ 均值 的改 进算 法 。 实验 结果 可 一
ｐ ｓｄ ｎ ｅ ｉ ｌｉｎｅｐｒ ｎ ｎ ｕ ｔ ．Ｆ ｚｙ ｍｅｎ （Ｃ ｏｅ ，ａ ｄｈ ｍｕａ ｏ ｘ ｅｉ ｔｓ ｏ ｄ ｃ ｄ ｕ ｚ ｔ ｓ ｔ ｍｅ ｉｃ ｅ Ｃ— ａ ｓ Ｆ Ｍ） ａｇｒ ｈ ｉｔｅ ｂｅｔ ｅ ｕ ｃｉｎ ｈｏ ｇ ｅａｉ ｐｉ ｌｏ ｔｍ ｊｃ ｖ ｎ ｔ ｒｕ ｈｉ ｒｔ ｅ ｔ ｉ ｓｈ ｏ ｉ ｆ ｏｔ ｔ ｖｏ —
以表 明，改进 的模 糊 Ｃ 均值 算 法 是有 效 的 ，能 够表 现 出 比模 糊 ｃ 均值 算 法 更好 的 性 能 ， 实 际应 用 中可 以取 得较 好 的 ． 一 在
聚类 效果 。
关键词 ： 模糊 聚类 ；模糊 Ｃ 均值 算 法； 聚类分析 ；信 息熵 ；聚类 算法 一 中图法分 类号 ：Ｐ ８ Ｔ １ 文献标 识码 ： Ａ 文章编 号：０ ０７ ２ ２ １） ３５９ ４ １０—０ ４（００ ２—０２０
Ａｂ ｔ ａ ｔ Ｆ ｒ ｈ ｚ ｙ ｃｕ ｔ ｒ ｇｅ ｉ ｅ ｅ ｒ ｂ ｅ ｏ ｄ ｔ ｎ ｆ ｒ ｔ ｏ ｔ ｃ ｉ ｎ ｅ ｍｅｈ ｄｏ ｆ ｚ ｙｃ ｕ ｔ ｒ ｇａ ｇ ｒ ｈ ｉ ｐ ｏ ｓ ｒ ｃ ： ｏ ｅｆ ｚ ｌ ｓｅ ｉ ｘ ｓ ｄｔ ｏ ｌ ｍ ｆ ａ ａ ｉ ｍｉ ｃ ｎ ｒ ｔ ，ａｎ ｗ ｔ ｏ ｆ ｕ ｚ ｌ ｓｅ ｎ ｌ ｏ ｔ ｍ ｒ ・ ｔ ｕ ｎ ｔ ｈ ｐ ｕ ｏ ｙ ａ ｏ ｉ ｉ ｓ
Ｆ ＣＭ ｌ ｓｅ ｉｇ ａｇ ｒｔ ｍ ａ ｅ ｎ ｉ ｆ ｒ ａｉｎ ｅ ｔｏ ｙ ｃｕ ｔ ｒ ｌ ｏ ｉ ｎ ｈ ｂ ｓ ｄｏ ｏ ｍ ｔ ｎ ｒ ｐ ｎ ｏ
ＸＩ ＮＧ ｉｇ ， Ｘ１ Ｇ ｈ — ｕ Ｗ ＡＮＧ ｅ ｇ ｌ ｇ Ｔｎ Ｎ Ｚ ｉｇ ｏ ， Ｆ ｎ —ｎ ｉ
ｂｅ ｅ ｅ ｕｌｓｉ ｈｅａ ｉ ａｉ ｔ ｒｒ ｓ ｔ ｎｔ ｐｐｌｃ ｔｏｎ．
Ｋｅ ｒ ｓ ｆ ｚ ｌ ｓｅ ｎ ； ｆｚ ｙ Ｃ— ｅ ｓｃｕ ｔｒｎ ｌ ｏ ｉ ｙ ｗｏ ｄ ： ｕ ｚ ｃ ｕ ｔ ｒ ｇ ｕ ｚ ｍ ａ ｌ ｓｅ ｇ ａｇ ｒｔ ； ｃｕ ｔ ｒ ｇａ ａｙ ｉ ； ｉ ｆ ｒ ｔ ｎ ｅ ｔｏ ｙ ｃｕ ｔｒｎ ｌ ｏ ｉ ｍ ｙ ｉ ｎ ｉ ｍ ｈ ｌ ｓｅ ｎ ｎ ｌ ｓｓ ｎ ｏ ｍａｉ ｎ ｒ ｐ ； ｌ ｓ ｉｇ ａ ｇ ｒｔ ｉ ｏ ｅ ｈ
（． ｅａｔ ｎ ｏ Ｃ ｍｐｔｒｎ Ｉｆｒ ｔ ｎ ｎ ｉｅｒ ｇ ａｂｎ ｅｉ ｇ ｏｌ ｅ ｆ ｏ ｍｅ ｅ １ Ｄ ｐｒ ｍｅｔ ｆ ｏ ｕｅａｄ ｎｏｍａ ｏ Ｅ ｇｎｅ ｎ ，Ｈ ｒｉ Ｄ ｑａ Ｃ ｌ ｇ ｏ Ｃ ｍ ｒ ，Ｈａ ｉ １０ ２ ， ｈｎ； ｉ ｉ ｎ ｅ ｃ ｒ ｎ ５ ０ ５ Ｃ ｉａ ｂ ２ Ｂ ｓ ｅｓ ｅ ａ ｍｅｔ Ｓ ｎｉ ｙｔ ｏ ａ ｙ ｉ ｔｄ Ｔ ｋ ｏ１１０ ２ ， Ｊｐ ） ． ｕｉ ｓ Ｄ ｐ ｒ ｎ， ａｅ Ｓ ｓ ｍ Ｃ ｍｐ ｎ ｍｉ ， ｏｙ ０－０ １ ａａ ｎ ｔ ｅ Ｌ ｅ ｎ
ｍｉａｉ ｎｔ ｃ ｉ ｅ ｈ ａａ ｅ ａ ｔ ｉ ｎ Ｗ ｉ ｅｉ ｆ ｒ ａ ｉｎ ｅ ｔｏ ｙ ａ ｅｆ ｚ ｙＣ— ａ ｓ ｌ ｏ ｔ ｍ ｏ ｓ ａｎ ｓ ｔ ｅ ｅ ｖ ｔ ｎｐ ｏ ｅ ｓ ｚ ｔ ｒ ｅｖ ｅ ｔ ｓ ｔ ｒｉ ｏ ． ｏ ｏｅ ｔ ｄ ｐ ｔ ｔｔ ｏ ｈ ｈ ｎ ｍ ｔ ｎ ｒ ｐ ｓ ｈ ｚ ｍｅ ｎ ｇ ｒ ｈ ｃ ｎ ｔ ｉｔ ， ｈ ｒ ａ ｏ ｒ ｃ ｓ ｏ ｔ ｕ ａ ｉ ｒ ｄｉ ｉ ｏ ｅｎ ｗ ｌ ｏ ｔ ｍ ｉｅ ， ｔ ｅｃｕ ｔ ｒ ｇ ｃ ｎ ｅ ｎ ｍｂ ｒ ｈ ｐｏ ｅｎ ｗ ｚ ｙ Ｃ— ａ ｓ ｌｓｅ ｉ ｇ ａ ｇ ｒｔ ｒ ｂ ａｎ ｄ Ｔ ｅ ｆ ｈ ｅ ａｇ ｒ ｈ ｉ ｇ ｖ ｎ ｈ ｌ ｓｅ ｎ ｅ ｔｒａ ｄ ｍｅ ｅ ｓ ｉ ｆ ｈ ｅ ｆ ｚ ｍｅ ｎ ｕ ｔｒｎ ｌ ｏ ｈ ａ ｅ ｏ ｔ ｉ ｅ ． ｈ ｔ ｉ ｓ ｉ ｔ ｕ ｃ ｉｍ