聚类有效性的组合评价方法

å Õ mi ( A j) A = A1 £ i £ n
j
其中 c =
å Õ m ( A j) A ¹ Æ1 £ i £ n
i j
其中 a( x) = 1 d ( x y) å ni - 1 x y Î C x ¹ y
i
通过组合规则把不同的证据进行合成， 便可以得到最终 结果。D-S 证据理论可以有效地处理不确定、 不精确和不完整 的信息， 极大增强用户对最终决策结果的信心。D-S 证据理论 的这些特性可以有效地帮助进行聚类评价。
2.1
焦点元素
令 Θ 为识别框架： 设函数 m 满足 m:2Θ ® [0 1] ， 且满足：
m(Æ) = 0
å m( Ai) = 1
m 为基本概率函数， 任取 Ai Î 2Θ ， 若 Ai ¹ Æ ， 则 Ai 为焦点元素。
若 Θ ={1 2 3} ， 则 2Θ 共有 8 个组成元素 2Θ ={Æ(1)(2)(3)
i j i j
3.4
Silhouette 指标 （S）
S 有效性指标[7]定义为：
NC b( x) - a( x) S ( NC ) = 1 å{ 1 å } NC i = 1 ni x Î C max[b( x) a( x)]
i
对于多组证据组合：
m( A) = m1Åm 2 ÅÅm n ( A) = c-1
Computer Engineering and Applications 计算机工程与应用
2011， 47 （19）
15
聚类有效性的组合评价方法
刘燕驰 1， 高学东 1， 国宏伟 2， 武 森1 LIU Yanchi1， GAO Xuedong1， GUO Hongwei2， WU Sen1
1.北京科技大学 经济管理学院， 北京 100083 2.北京科技大学 冶金与生态工程学院， 北京 100083 1.School of Economics and Management， University of Science and Technology Beijing， Beijing 100083， China 2.School of Metallurgical and Ecological Engineering， University of Science and Technology Beijing， Beijing 100083， China LIU Yanchi， GAO Xuedong， GUO Hongwei， et al.Ensembling clustering validation puter Engineering and Applications， 2011， 47 （19） ： 15-17. Abstract： Clustering validation is a key factor to the success of clustering.One of the approaches to validate the clustering results is clustering validation index.However， there is no general index for all kinds of data structures.A Dempster-Shafer， （D-S） evidence theory based ensemble method for multiple indices is proposed recently， named D-S theory based Validation method （DSV） .Experimental results and analysis on various synthetic data sets show that DSV outperforms single clustering validation index. Key words：clustering validation； Dempster-Shafer （D-S） evidence theory； clustering validation index； cluster number 摘 要： 针对现有研究中给出的聚类有效性指标不能有效评价不同结构数据集的聚类结果问题， 提出一种使用多个有效性指标
2
D-S 证据理论
D-S 证据理论由 Dempster 首先提出， 后经 Shafer 完善， 被
认为是多元不确定性信息融合的有效方法， 其原理是对各自 独立的结论通过组合给出一致性结果， 实现信息互补[6]。与概 率推理相比， D-S 理论在不确定性的度量方面更为灵活， 推理 机制更加简洁， 尤其在信任分配上对未知的考虑更接近于人 类专家的思维习惯， 因而在专家系统、 信息融合等领域得到了 广泛的应用[1]。
16
2011， 47 （19）
Computer Engineering and Applications 计算机工程与应用 响， 使其不会随 NC 的增大而递减。和 CH 指标一样， I 就是在 类内紧密度与类间分离度之间寻找一个平衡点， 使其达到最 大， 从而得到最优的聚类结果。p 是用户指定的一个参数， 在 本文中取 p=2。
基金项目： 新世纪优秀人才支持计划 （the New Century Excellent Talents in University of China under Grant No.NCET-05-0097） 。 作者简介： 刘燕驰 （1986—） ， 男， 博士研究生， 主要研究领域为数据挖掘、 聚类评价； 高学东 （1963—） ， 男， 博士， 教授， 博士生导师； 国宏伟 （1978—） ， 男， 博士， 讲师； 武森 （1973—） ， 女， 博士， 教授， 博士生导师。E-mail： liuyanchi@ 收稿日期： 2011-03-01； 修回日期： 2011-04-26
1
引言
策的综合评价指标 WSVF[5]， 但是该指标只是简单地对多个有 效性指标取平均值， 效果提高并不显著。在本课题中， 引入 D-S 证据理论对多指标进行集成， 以便更好地解决不同情况下 数据集的聚类评价问题。
聚类分析是无监督学习中非常重要的一个研究课题， 其 任务是把数据对象集分割成不同的簇， 使得同一簇内的对象 尽量地相近而不同簇的对象尽可能有很大差异。聚类分析已 经被广泛地应用在很多领域， 如图像分析、 生物学、 金融分析 等。聚类分析作为一个无监督学习任务， 使用不同的聚类分 析算法或不同的输入参数 （如聚类数 NC） 将会得到不同的聚 类结果， 需要用户在聚类之后对所得到的分割有效性进行评价。 长久以来， 如何不借助于外部信息 （如类标识） 来评价聚 类结果被认为是聚类应用能否成功的关键因素之一。目前， 已经有一系列聚类有效性指标广泛应用于聚类评价问题并取 得了不错的效果， 如 D、 CH、 I、 S[1-4]等。但是这些指标都有其各 自的适用范围， 针对某一特定结构的数据集， 这些指标可以取 得良好的评价结果。而对于其他不符合指标要求的数据集， 这些指标无法得到令人满意的结果， 如数据集中的噪音会影 响 Dunn 指标的评价效果， 而 I 指标无法处理数据集中存在不 同密度分布的情况。在实际应用中， 对于所需要分析的数据， 其结构、 特性一般都是未知的， 使用单一的聚类有效性指标来 进行聚类评价往往无法得到正确的结果。 在已有文献中， Sheng 等人提出一种借助多信息源进行决
进行聚类评价的组合方法。引入 D-S （Dempster-Shafer） 证据理论对多个有效性指标结果进行集成， 并得到最终的聚类评价结 果。仿真实验和分析验证了该方法的可行性与有效性。 关键词： 聚类评价； D-S 证据理论； 有效性指标； 聚类数 DOI： 10.3778/j.issn.1002-8331.2011.19.005 文章编号： 1002-8331 （2011） 19-0015-03 文献标识码： A 中图分类号： TP181
ì min x Î Ci y Î C j d ( x y) ü ï ï D( NC ) = min ímin ý ï max max x y Î Ck d ( x y) ï î þ D 指标使用类与类之间的最小的两点距离来计算类间分 离度， 同时使用所有类中最大的类直径来计算类内紧密度， D 指标的取值由二者相除得到。容易得出， D 越大表示类与类之 间的间隔越远， 从而对应越佳的聚类结果。
d ( x1 x 2) 表 ni 表示类 Ci 中对象个数， 用 ci 表示类 Ci 中心点，
m 是有效性指标个数， 其中 fi 是第 i 个有效性指标， 而 wi 则是
各有效性指标的权重， 且 å wi = 1 。在计算 WSVF 之前， 首先
i=1
m
示对象间距离。
3指标[2]定义为：
NC
NC
CH 指标通过计算类中各点与类中心的距离平方和来度 量类内的紧密度， 通过计算各类中心点与数据集中心点距离 平方和来度量数据集的分离度， CH 指标由分离度与紧密度的 比值得到。从而， CH 越大代表着类自身越紧密， 类与类之间 越分散， 即更优的聚类结果。
3.3
I 指标
I 有效性指标[4]定义为：
(1 2)(1 3)(2 3)(1 2 3)} ， 存在着除 Æ 之外的 7 个焦点元素。
2.2
组合规则
对于两组证据 m1 m 2 ， 有：
m( A) = m1Åm 2 ( A) = c-1
A = Ai A j
å
m1( Ai)m 2 ( A j)
其中 c =
m1( Ai)m 2 ( A j) å m1( Ai)m2( A j) = 1 - A å A A ¹Æ A =Æ
é ù å d (x c) ê 1 xÎD ú ú I ( NC ) = ê max d ( c c ) i jú ê êNC NC ú d ( x c ) ê ú å å i ê ú i = 1 x Î C i ë û I 指标在所有类中选择类与类中心距离最大值来衡量类