一种基于密度的快速聚类方法_张晓
基于密度的聚类方法
基于密度的聚类方法
基于密度的聚类方法是一种以数据点的密度为目标的聚类算法，
其目的是将使得数据中出现某些较为明显的簇或类的数据点聚集起来，而较少的或者稀少的簇则被分到一起，可以说是识别低密度区间、检
测复杂形态的簇的一种聚类算法。
其主要特点：首先，假设数据集中
存在着显著的聚集簇以及稀疏分布的点，对数据集进行预处理；其次，根据给定的阈值，找到每一个簇的局部密度高的点，将这些点判定为
核心点；然后，搜索局部密度很小的点，将其邻域内的点归入簇；最后，根据阈值确定簇的边缘以及簇的边界，以此来最终判定数据集中
存在的聚集簇。
基于密度和层次的快速聚类算法在数据挖掘中的设计及实现
Ｚｈ ａｎ ｇ Ｙ ａｎ
（ Ｓ ｈ ａ ｎ ｄ ｏ ｎ ｇ Ｉ ｎ ｆ ｏ ｒ ｍａ ｔ ｉ ｏ ｎ Ｖ ｏ ｃ ａ ｔ ｉ ｏ ｎ ａ ｌ ａ ｎ ｄ Ｔ ｅ ｃ ｈ ｎ ｉ ａｌ ｃ Ｃ ｏ ｌ ｌ ｅ ｇ ｅ
【 Ａ ｂ ｓ ｔ ｒ ａ ｃ ｔ】 Ｔ ｈ ｉ ｓ ｐ ａ ｐ ｅ ｒ ｏ ｎ ｔ ｈ ｅ ｂ ａ ｓ ｉ ｓ ｏ ｆ ｄ ｅ ｅ ｐ ａ ｎ ａ ｌ ｙ ｓ ｉ ｓ ｉ ｎ ａ ｌ ｌ ｋ ｉ ｎ ｄ ｓ ａ ｌ ｇ ｏ ｒ ｉ ｈ ｔ ｍ ， ｅ ｓ ｐ ｅ ｃ ｉ ａ ｌ ｌ ｙ ｂ ａ ｓ ｅ ｄ ｏ ｎ ｄ ｅ ｎ ｓ ｉ ｔ ｙ ｃ ｌ ｕ ｓ ｔ ｅ ｒ ｉ ｎ ｇ ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ ａ ｎ ｄ ｏ ｎ ｔ ｈ ｅ ｌ ｅ ｖ ｅ ｌ ｆ ｏ ｌ ｃ ｕ ｓ ｔ ｅ ｒ ｉ ｎ ｇ
DBSCAN基于密度的聚类算法
N Eps ( p) {q | q在数据集 D中，distance(p , q) Eps}
核心对象：如果对象的Eps邻域至少包含最小数目MinPts的对 象，则称该对象为核心对象。 边界点：边界点不是核心点，但落在某个核心点的邻域内。 噪音点：既不是核心点，也不是边界点的任何点
DBSCAN算法概念
数据集中特定点的密度通过该点Eps半径之内的点计 数(包括本身)来估计。
显然，密度依赖于半径。
DBSCAN
• 基于密度定义，我们将点分为：
稠密区域内部的点(核心点) 稠密区域边缘上的点(边界点) 稀疏区域中的点(噪声或背景点).
DBSCAN
• 核心点(core point) :在半径Eps内含有超过 MinPts数目的点，则该点为核心点 这些点都是在簇内的 • 边界点(border point):在半径Eps内点的数量小 于MinPts，但是在核心点的邻居 • 噪音点(noise point):任何不是核心点或边界点 的点.
“直接密度可达”和“密度可达”概念示意描述
解答：根据以上概念知道：由于有标记的各点M、P、O和R的Eps近邻均包含3个 以上的点，因此它们都是核对象；M是从P“直接密度可达”；而Q则是从M“ 直接密度可达”；基于上述结果，Q是从P“密度可达”；但P从Q无法“密度可达 ”(非对称)。类似地，S和R从O是“密度可达”的；O、R和S均是“密度相连”的 。
p是从对象q关于Eps和MinPts密度可达的(density-reachable)。
密度相连：如果存在对象O∈D，使对象p和q都是从O关于Eps和MinPts 密度可达的，那么对象p到q是关于Eps和MinPts密度相连的(densityconnected)。
一种基于密度的快速聚类方法
ISSN１００４‐９０３７，CODEN SCYCE４Journal of Data Acquisition and Processing Vol．３０，No．４，Jul．２０１５，pp．８８８－８９５DOI：１０．１６３３７／j．１００４‐９０３７．２０１５．０４．０２２眗２０１５by Journal of Data Acquisition and Processinghttp：／／sjcj．nuaa．edu．cn E‐mail：sjcj＠nuaa．edu．cn Tel／Fax：＋８６‐０２５‐８４８９２７４２一种基于密度的快速聚类方法张 晓１ 张媛媛２ 高 阳２ 周新民３（１．伊犁师范学院电子与信息工程学院，伊宁，８３５０００；２．南京大学计算机软件新技术国家重点实验室，南京，２１００２３；３．江苏省公安厅物证鉴定中心，南京，２１００４６）摘 要：具有噪声的基于密度的聚类方法（Density‐based spatial clustering of applications with noise，DBSCAN）在数据规模上的扩展性较差。
本文在其基础上提出一种改进算法———具有噪声的基于密度的快速聚类方法（Fast‐density‐based spatial clustering of applications with noise，F‐DBSCAN），对核心对象邻域中的对象只作标记，不再进行扩展检查，通过判断核心对象邻域中是否存在已标记对象来实现簇合并，对边界对象判断其邻域中是否存在核心对象来确认是否为噪声。
此方法避免了原始算法中对重叠区域的重复操作，在不需创建空间索引的前提下，其时间复杂度为O（n log n）。
通过实验数据集和真实数据集，验证其聚类效果及算法效率。
实验表明F‐DBSCAN算法不仅保证了有良好的聚类效果及算法效率，并且在数据规模上具有良好的扩展性。
关键词：聚类；密度；F‐DBSCAN；算法效率中图分类号：T P３０１ 文献标志码：AFast Density‐Based Clustering ApproachZhang Xiao１，Zhang Yuanyuan２，Gao Yang２，Zhou Xinmin３（１．School of Electronics and Information Engineering，Yili Teachers College，Yining，８３５０００，China；２．State Key Laboratory for Software Technology，Nanjing University，Nanjing，２１００２３，China；３．Public Security Material Evidence Identification Center of Jiangsu Province，Nanjing，２１００４６，China）Abstract：Density‐based spatial clustering of applications with noise（DBSCAN）has poor scalability on the data size，especially when the amount of data increases．Here an improved adaptive fast‐density‐based spatial clustering of applications with noise（F‐DBSCAN）algorithm is proposed，with no longer checks of the objects inside the neighborhood of core objects，but just the mark of them．M erging clusters is per‐formed by determining whether there exist the marked objects in the neighborhood of core objects．Noisy objects are recognized by checking whether the neighborhood of border ones contains a core ones．The p roposed algorithm can avoid the repeated checking of overlapping area of the original DBSCAN without building the spatial index，thus improving its efficiency substantially with time complexity approaching O （n log n）．The clustering quality of F‐DBSCAN is validated on both artificial and real datasets，and its effi‐ciency is also validated on two real datasets from different industries．The empirical results suggest that F‐DBSCAN can achieve good clustering quality as well as better efficiency and scalability．Key words：clustering；density；F‐DBSCAN；algorithm efficiency基金项目：江苏省社会发展（BE２０１０６３８）资助项目。
基于密度的聚类算法的经典算法
基于密度的聚类算法的经典算法包括DBSCAN、OPTICS 和DENCLUE。
DBSCAN (Density-Based Spatial Clustering of Applications with Noise) 是最常用的基于密度的聚类算法之一。
其基本理念是，对于每一个点，如果在它的ε-邻域(即半径为ε的圆形区域)内有足够多的点(达到或超过设定的最小点数MinPts)，那么它就是一个核心点。
DBSCAN会找到一个包含这个核心点的所有点的最大区域(即这个核心点的ε-邻域内的所有点，以及这些点的ε-邻域内的所有点，以此类推)，这个区域就是一个聚类。
然后，算法会继续处理其他的核心点，直到所有的点都被处理。
在这个过程中，一些点可能不会被分配到任何一个聚类，这些点被认为是噪音点。
OPTICS (Ordering Points To Identify the Clustering Structure) 也是一种基于密度的聚类算法。
与DBSCAN不同，OPTICS不需要预先设定参数ε和MinPts，而是通过计算每个点到其最近的k个邻居的平均距离来识别异常值和核心点。
这使得OPTICS在处理不同形状或大小的聚类时具有更高的灵活性。
DENCLUE (Density-Based Clustering in Continuous Spaces) 是另一种基于密度的聚类算法。
与DBSCAN和OPTICS不同的是，DENCLUE可以处理任意形状的聚类，并且可以在高维空间中运行。
DENCLUE通过构建一个密度图来识别和划分聚类，其中每个点的密度由其邻居的数量决定。
然后，DENCLUE使用一个基于动态规划的方法来查找从每个点到其邻居的最短路径，从而找到聚类的边缘。
以上是基于密度的聚类的经典算法的一些例子，但请注意，每种算法都有其优点和局限性，选择哪种算法取决于具体的数据分布和问题需求。
一种基于密度树的网格快速聚类算法的研究
中 图分类号： Ｐ １ Ｔ １ ３
种 基 于密度树 的 网格 快速 聚类算法的研 究
赖建 章 ，倪志伟 ，刘志伟
（ 合肥 工业 大 学管 理 学 院 ， 合肥 ２ ０ ０ ） ３０ ９
摘
要 ：聚类算法足数据 挖掘领域ｒ一个１常重要的研究方 。人们已经提 出了许多适 用于大规模 的、高维的数据库的聚类算法 基于密 ｛ Ｊ Ｆ
［ ｓｒｃ ］ ｌｓｅｉｇａｇ ｒｈ ｉａ ｅｙｉ ｏｔｎ ｒｓａｃ ｉ ｃｉｎｉ ｄｔ ｎｎ ． ｔｆｒｌｔｏ ｌｓ ｒ ｇａ ｏｉ ｍｓ ｄｐｅ ｅｌｒｅｓａｅ Ａｂｔａ ｔＣｕ ｔ ｎ ｌｏｉ ｍ ｒ ｒ ｔ ｓｖ ｍｐ ｒ ｔｅｅｒｈｄｒ ｔ ａａ ａ ｅ ｏ ｎ ｍｉｉｇ Ｓ）ａ，ｏｓ ｆ ｕｔ ｉ ｌ ｒｈ ａｔｄｔ ｔ ｇ — ｌ ｃ ｅｎ ｇ ｔ ａ Ｏｈ ａ ｃ
［ ｙｗ ｒｓ ｌｓ ｒ ｇ Ｄ ｎｉ ： ｉ； ｅ ｓ ｙｔ ｅ Ｋｅ ｏ ｄ ＩＣｕｔ ｉ ； ｅ ｓｙ Ｇｒ Ｄ ｎｉ —ｒ ｅｎ ｔ ｄ ｔ ｅ
近 ｌ ０多年来 ，数据挖掘逐渐成为数据库研究领 域的一 个热点…，而数据挖掘这 个领域技术 已经渗透 了我们 日常 生
ＤＢ Ｓ Ａ Ｃ Ｃ Ｎ的一种算法 的改进 ， 不可避 免具有 了 ＤＢ Ｃ Ｎ聚 ＳＡ
Ａ ｉ ｓ ｕ ｔ ｒｎ ｇ ｒ ｔ ｍ ｓ ｄ ｏ ｎ ｉｙ ｅ Ｇｒ ｄ Ｆａ ｔ Ｃｌ ｓ ｅ ｉ ｇ Ａｌ ｏ ｉｈ Ｂａ ｅ ｎ Ｄｅ ｓｔ －ｒ ｅ
ＬＡＩ ｉｎ ｈ ｎ ． ｉ ｉＬＩ Ｚｈｗｅ ａ ｚ ａ ｇ ＮＩＺｈｗｅ． Ｕ ｉ ｉ Ｊ
ｆ ｈ ｏ ｆ ａ ａ ｅ ｎ， ｆｉ ｉｅｓｔ ｆ ｃ ｎ ｌｇ ，Ｈｅｅ ３ ０ ９） Ｓｃ ｏ ｌｏ ｎ ｇ ｍｅ ｔＨｅｅ Ｍ Ｕｎｖ ｒ ｉ ｏ ｈ ｏｏ ｙ ｙ Ｔｅ ｆｉ ０ ０ ２
基于密度的聚类算法
基于密度的聚类算法
密度聚类算法是一种基于数据密度的聚类方法，主要特点是将数据点结合成聚类，旨在从数据集中查找最相近的点。
不同于传统的聚类算法，它更加侧重于计算空间内点的密度，而不是向量空间的距离。
密度聚类有很多类型，其中著名的算法有：DBSCAN（支持度基因聚类）、OPTICS（离散点优化视觉）以及DENCLUE （离散时间处理）等。
DBSCAN算法是一种基于密度的算法，它建立在空间数据点分布上，结合两个参数即半径（eps）和聚类最小数目（minPoints）来形成聚类。
它做的是，首先通过设定一个半径eps，将不同的点连接起来，组成相互之间距离小于eps的点构成一个新的聚类簇，然后将这些特征点的聚类扩大，直到形成一个稳定的聚类。
这就是DBSCAN算法。
而OPTICS算法则是基于密度的另一种聚类算法，它能够通过使用一个可变的半径来构建密度梯度，将离散点根据密度进行排序，并计算点间的可达距离。
根据密度梯度，它可以更好地分割空间中的离散点，并捕获出数据集中斑点和噪音的细节，从而得到比DBSCAN更具有有效性的结果。
最后，DENCLUE算法的主要思想是将数据由时间轴上的离散分布抽象出来，使用一个可变的高斯函数来计算每个点的密度，该可变半径适应于空间密度的可变程度，能够选择合适的结构来描述每个离散点，从而获取更好的聚类效果。
总而言之，基于密度的聚类算法是一种比较精准的聚类方法，通过设定半径和点的最小数目来形成聚类，从而使得空间中的点更加清晰准确的被整合在一起。
基于密度聚类的经典算法
密度聚类是一种非常有效的数据聚类方法，其基本思想是在数据空间中寻找密集区域，将它们划分为不同的簇。
基于密度聚类的经典算法有很多，其中最著名的可能是DBSCAN （Density-Based Spatial Clustering of Applications with Noise）。
DBSCAN是一种基于密度的聚类算法，它可以发现任意形状的簇，并且对噪声具有很强的鲁棒性。
该算法的基本步骤如下：遍历整个数据集，对每个点P，计算其邻域内的点数n(P)。
如果n(P)小于预先设定的阈值MinPts，则将点P标记为噪声点（或者不属于任何簇）。
如果一个点的邻域内的点数n(P)大于等于MinPts，则将该点标记为核心点。
对每个核心点，进行以下操作：标记该核心点；对该核心点的所有邻域点进行标记；重复以上步骤，直到所有被标记的点不再增加为止。
所有被标记的点就组成了一个簇。
所有未被标记的点被视为噪声点。
DBSCAN的特点是可以发现任意形状的簇，并且对噪声具有很强的鲁棒性。
但是，该算法的参数MinPts的选择非常关键，不同的MinPts可能会得到完全不同的聚类结果。
此外，DBSCAN对于高维数据的处理效果不佳，因为高维数据的空间关系变得更加复杂。
除了DBSCAN之外，还有一些其他的基于密度聚类的算法，如OPTICS (Ordering Points To Identify the Clustering Structure)、DENCLUE (Density-Based Clustering in Spatial Databases with Noise)等。
这些算法各有优缺点，选择合适的算法需要根据具体的数据和任务来决定。
基于密度方法的聚类.
层次聚类优缺点 层次聚类方法是不可逆的，也就是说，当通过凝聚式的方 法将两组合并后，无法通过分裂式的办法再将其分离到之 前的状态，反之亦然。 另外，层次聚类过程中调查者必须决定聚类在什么时候停 止，以得到某个数量的分类。 在不必要的情况下应该小心使用层次聚类方法。
DBSCAN聚类过程
第4步，在数据库中选择一点4，由于在以它为圆心的，以1为半径的 圆内包含5个点，因此它是核心点，寻找从它出发可达的点（直接可 达4个，间接可达3个），聚出的新类{1，3，4，5，9，10，12}，选择 下一个点。
密度聚类方法
划分聚类方法
层次聚类方法 密度聚类方法 ：基于密度的聚类方法以数据集在空间分布上的稠 密程度为依据进行聚类，无需预先设定簇的数量，因此特别适合对 于未知内容的数据集进行聚类。 网格聚类方法 模型聚类方法
基于密度方法的聚类- DBSCAN
DBSCAN（Density-Based Spatial Clustering of Applications with Noise）一 个比较有代表性的基于密度的聚类算法。与层次聚类方法不同，它将 簇定义为密度相连的点的最大集合，能够把具有足够高密度的区域划 分为簇，并可在有“噪声”的空间数据库中发现任意形状的聚类。
k-means 算法
k-means 算法基本步骤
1. 从 n个数据对象任意选择 k 个对象作为初始聚类中心； 2. 根据每个聚类对象的均值(中心对象)，计算每个对象与这些中心对象的距离； 并根据最小距离重新对相应对象进行划分； 3. 重新计算每个(有变化)聚类的均值(中心对象)； 4. 计算标准测度函数，当满足一定条件，如函数收敛时，则算法终止；如果条 件不满足则回到步骤2。
一种基于密度的快速聚类算法
第37卷第11期2000年11月计算机研究与发展JOU RNAL O F COM PU T ER R ESEA RCH &D EV ELO PM EN T V o l 137,N o 111N ov .2000原稿收到日期:1999209220;修改稿收到日期:1999212209.本课题得到国家自然科学基金项目(项目编号69743001)和国家教委博士点教育基金的资助.周水庚,男,1966年生,博士研究生,高级工程师,主要从事数据库、数据仓库和数据挖掘以及信息检索等的研究.周傲英,男,1965年生,教授,博士生导师,主要从事数据库、数据挖掘和W eb 信息管理等研究.曹晶,女,1976年生,硕士研究生,主要从事数据库、数据挖掘等研究.胡运发,男,1940年生,教授,博士生导师,主要从事知识工程、数字图书馆、信息检索等研究.一种基于密度的快速聚类算法周水庚 周傲英 曹 晶 胡运发(复旦大学计算机科学系 上海 200433)摘 要 聚类是数据挖掘领域中的一个重要研究方向.聚类技术在统计数据分析、模式识别、图像处理等领域有广泛应用.迄今为止人们提出了许多用于大规模数据库的聚类算法.基于密度的聚类算法DBSCAN 就是一个典型代表.以DBSCAN 为基础,提出了一种基于密度的快速聚类算法.新算法以核心对象邻域中所有对象的代表对象为种子对象来扩展类,从而减少区域查询次数,降低I O 开销,实现快速聚类.对二维空间数据测试表明:快速算法能够有效地对大规模数据库进行聚类,速度上数倍于已有DBSCAN 算法.关键词 空间数据库,数据挖掘,聚类,密度,快速算法,代表对象中图法分类号 T P 311.13;T P 391A FAST D ENSIT Y -BASED CL USTER ING AL G OR ITH MZHOU Shu i 2Geng ,ZHOU A o 2Y ing ,CAO J ing ,and HU Yun 2Fa(D ep a rt m en t of Co mp u ter S cience ,F ud an U n iversity ,S hang ha i 200433)Abstract C lu stering is a p rom ising app licati on area fo r m any fields including data m in ing ,statistical data analysis ,p attern recogn iti on ,i m age p rocessing ,etc .In th is paper ,a fast den sity 2based clu stering algo rithm is developed ,w h ich con siderab ly speeds up the o riginal DB SCAN algo rithm .U n like DB SCAN ,the new DB SCAN u ses on ly a s m all num ber of rep resen tative ob jects in a co re ob ject’s neighbo rhood as seeds to exp and the clu ster so that the execu ti on frequency of regi on query can be decreased ,and con sequen tly the I O co st is reduced .Experi m en tal resu lts show that the new algo rithm is effective and efficien t in clu stering large 2scale databases ,and it is faster than the o riginal DB SCAN by several ti m es .Key words spatial database ,data m in ing ,clu stering ,den sity ,fast algo rithm ,rep resen tative ob jects1 概 述近10多年来,数据挖掘逐渐成为数据库研究领域的一个热点[1].其中,聚类分析就是广为研究的问题之一.所谓聚类,就是将数据库中的数据进行分组,使得每一组内的数据尽可能相似而不同组内的数据尽可能不同.聚类技术在统计数据分析、模式识别、图像处理等领域都有广泛的应用前景.迄今为止,人们已经提出了许多聚类算法[2～7].所有这些算法都试图解决大规模数据的聚类问题.以基于密度的聚类算法DB SCAN [4]为基础,本文提出一种基于密度的快速聚类算法.通过选用核心对象附近区域包含的所有对象的代表对象作为种子对象来扩展类,快速算法减少了区域查询的次数,从而减低了聚类时间和I O 开销.本文内容安排如下:首先在第2节中介绍基于密度的聚类算法DB SCAN 的基本思想,并分析它的局限8821计算机研究与发展2000年性;然后第3节描述基于密度的快速聚类算法;接着在第4节中给出对新算法的测试结果;第5节为结束语,同时指出今后的研究方向.2 基于密度的聚类算法D BSCAN基于密度的聚类算法DB SCAN利用类的密度连通特性,可以快速发现任意形状的类.其基本思想是:对于一个类中的每一对象,在其给定半径的邻域中包含的对象不能少于某一给定的最小数目.在DB SCAN 中,发现一个类的过程是基于这样的事实:一个类能够被其中的任意一个核心对象所确定[4].为了发现一个类,DB SCAN先从D中找到任意一对象p,并查找D中关于Ep s和M inP ts的从p密度可达的所有对象.如果p是核心对象,也就是说,半径为Ep s的p的邻域中包含的对象数不少于M inP ts,则根据算法可以找到一个关于参数Ep s和M inP ts的类.如果p是一个边界点,即半径为Ep s的p的邻域包含的对象数小于M inP ts,则没有对象从p密度可达,p被暂时标注为噪声点.然后,DB SCAN处理数据库D中的下一个对象.密度可达对象的获取是通过不断执行区域查询来实现.一个区域查询返回指定区域中的所有对象.为了有效地执行区域查询,DB SCAN算法使用了空间查询中的R32树结构.在进行聚类前,必须建立针对所有数据的R32树.另外,DB SCAN要求用户指定一个全局参量Ep s(为了减少计算量,预先确定参数M inP ts).为了确定Ep s值,DB SCAN计算任意对象与它的第k个最临近的对象之间的距离.然后,根据求得的距离由小到大进行排序,并绘出排序后的图,称做k2d ist图.k2d ist图中的横坐标表示数据对象与它的第k个最近的对象间的距离;纵坐标则为对应于某一k2d ist距离值的数据对象的个数.R32树的建立和k2d ist图的绘制是非常消耗时间的过程.此外,为了得到好的聚类结果,用户必须根据k2d ist图,通过试探选定一个比较合适的k2d ist值,即Ep s值.再就是,DB SCAN不进行任何的预处理而直接对整个数据库进行聚类操作.这样当数据库非常大时,就必须有大内存量支持,I O消耗也非常大.3 一种基于密度的快速聚类算法3.1 算法思想DB SCAN算法的平均执行时间复杂度为O(n log n)(n是数据库中包含的数据对象数目).聚类过程的大部分时间是用在区域查询操作上.实际上,DB SCAN算法进行聚类的过程就是一个不断执行区域查询的过程.因此,如果能够减少区域查询执行的次数,就可以提高聚类的速度.这里,从减少区域查询频度的目的出发,给出一种快速的基于密度的聚类算法.DB SCAN算法选择一个全局k2d ist值来进行聚类.这样,对于那些最稀的类来说,包含在核心对象的半径为Ep s且Ep s等于k2d ist的邻域中的对象数约为k.然而,对于别的类而言,包含在大多数核心对象的具有相同半径值的邻域中的对象数将大于k.DB SCAN算法对核心对象的邻域中包含的所有对象都执行区域查询操作.对类C中的某一给定核心对象p来说,可以想象它的邻域中所包含的所有对象的邻域将会互相覆盖.假定q是p邻域中的一个对象,如果它的邻域被p邻域中的其它对象的邻域所覆盖,则表明对q的区域查询是可以省掉的.这是因为q的邻域中所包含的对象可以通过对覆盖它的其它对象执行区域查询得到.也就是说,q没有必要作为种子对象用于类扩展.实际上,对于密集的类来说,在一个核心对象的邻域中有相当多的对象可以不用作为类扩展用的种子对象.这样,从加速DB SCAN算法来讲,应当选择核心对象邻域中的部分代表对象,而不是像DB SCAN那样选择所有对象,作为种子对象用于类的扩展.这里称这些被选择的对象为对应邻域的代表对象.直观地,p的邻域中靠边沿的对象更适合作为侯选代表对象,因为靠内部的对象的邻域往往被靠边沿的对象的邻域所覆盖.因此,选择代表对象其实就是选择一些对象,这些对象能够近似地表征所在邻域的形状.图1所示为一个二维数据空间实例,这里的数据对象就是点.其中p是类C中的一个核心对象,q i(i=1～4)就是p邻域的代表对象,它们将作为种子对象用于对p的邻域的扩展.这里代表对象数为4.图1 二维空间中的邻域及其代表对象通过选用核心对象附近区域包含的所有对象的代表对象作为种子对象来扩展类,新算法减少了区域查询的次数,从而减低了聚类时间和I O 开销.但是,新算法显然和原有DB SCAN 算法具有相同的复杂度,也为O (n log n ).3.2 代表对象的选择有2个问题需要解决:①代表对象应该选多少;②如何选择代表对象.显然,代表对象不能太多,亦不能太少.若太多,就难以发挥快速算法的效率;反之,如果太少,则代表对象邻域难以比较完全地覆盖其它对象的邻域,从而造成对象“丢失”,影响到聚类质量和效率.对象“丢失”将在下一节讨论.对于二维空间数据,可以选代表对象数为4.直观地,一个核心对象的邻域可以近似地被4个分散较好的代表对象的具有相同半径的邻域所覆盖.实验结果也表明:选择4个代表对象,不仅丢失对象少,且聚类速度提高明显.对于三维空间数据,可以考虑选择6个代表对象.依次类推,在n 维空间中,选择2n 个代表对象.也就是说,在每一维空间上,选择两个对象作为代表对象用于类的扩展.下面给出一种从核心对象的邻域中选择代表种子对象的算法.其基本思想是:首先选出一个与核心对象最远的对象作为第1个代表对象;随后则选出离所有已被选出的代表对象最远的对象作为下一个代表对象,直到选出所需的全部代表对象为止.下面给出该算法的伪码.算法1.代表对象选择算法R ep resentative S eed s S elect (cand id ate seed s ,rep resentative seed s ,R ep resentative M inp ts ,P oint )rep resentative seed s ∶=0;fo r i ∶=1to R ep resentative M inp ts do { m axD ist ∶=0; fo r each p oint p in cand id ate seed s do { if i =1 m inD ist ∶=d ist (p ,P oint ); else m inD ist ∶=m in {d ist (p ,q ) q ∈rep resentative seed s } if (m inD ist ≥m axD ist ){ m axD ist ∶=m inD ist ;m ax P oint ∶=p } } rep resentative seed s ∶=rep resentative seed s ∪{m ax P oint }.}3.3 丢失对象及其处理由于只从核心对象p 的邻域中选择有限个固定数目的代表对象作为种子对象用于类的扩展,p 的邻域中的一些核心对象必然会被忽略掉.在这种情况下,如果某些对象唯一地从那些被忽略的核心对象密度可达,则当p 所在的类C 扩展完成后,这些对象将未被包含在类C 中.这里称这些对象为丢失对象.当然,它们只是暂时地丢失了,可以采取相应的措施把这些丢失的对象找回来.图2所示为二维空间中出现丢失对象时的情况.这里,p 1和p 2分别唯一地从p 3和p 4密度可达.然而,在聚类过程中,p 3和p 4未被选为代表点.这样,C 1聚类完成后,而p 1和p 2被丢失.由于p 1不是核心点,而p 2是,982111期周水庚等:一种基于密度的快速聚类算法图2 二维空间中的丢失对象最后p1被标注为噪声,而p2归到类C2中.丢失对象是类的快速扩展的结果.显然,有两类丢失对象存在.一类丢失对象因为是边界对象,所以被标注为“噪声”;另一类原本为核心对象,它们作为独立的类中的对象而存在.对于第1类丢失对象,可以这样处理:先得到它的邻域中包含的所有对象,然后查找所包含的对象中是不是存在这样的对象,它们已被标注为某一类.如果确实存在这样的对象,则离丢失对象最近的那个对象所在的类即是丢失对象所在的类.若没有这样的对象存在,则表示丢失对象为真正的“噪声”.对于第2类丢失对象,其实就是将它目前所处的类与它原本应该所在的类合并.丢失对象目前所处的类必然紧靠它原本应该所在的类或者处于它原本应该所在的类之中.可以直接对前者的代表对象进行区域查询,得到这些代表对象的邻域对象.如果某一代表对象为核心对象,且其包含有被标注为其它类的对象,则这些对象所在的类和丢失对象所处的类为同一类,也就是说,这两个类合并为一个类.其实丢失对象也可以不作处理,因为丢失对象发生的可能性是比较小的.测试结果也证实了这一点.3.4 算法描述基于密度的快速聚类算法(FDB SCAN)是基于密度的聚类算法DB SCAN的一个快速版本.在新算法中,当新类的第1个核心点找到后,第1批代表点被选为种子点作为类扩展用.在随后的类扩展回合中,新种子不断增加到种子点集合rep resen ta tive seed s中,用于后续类扩展.如此循环执行下去,直到rep resen ta tive seed s 为空.这表明该类扩展完毕.下面给出的是新算法的基本框架.与DB SCAN相比,新主要在两个方面不同:(1)在主程序FDB S CA N()中,增加了丢失点处理过程H and le L ostP oin ts();(2)在过程E xp andC luster()中,加进了过程R ep resen ta tive S eed s S elect(),用于从核心点的邻域中选择代表点.此外,E xp andC luster()中的流程也作了相应的改变.算法2.快速聚类算法框架FDB S CA N(S etof P oints,Ep s,M inP ts,R ep resentative M inP ts)S etof P oints中的所有点被初始化为UN CLA SS IF IEDC lusterId∶=nex tId(NO ISE);fo r i∶=1to S etof P oints.siz e do{ P oint∶=S etof P oints.g et(i) if P oint.C lId=UN CLA SS IF IED then{ if E xp andC luster(S etof P oints,P oint,C lusterId,Ep s,M inP ts,R ep resentative M inP ts) then C lusterId∶=nex tId(C lusterId) } H and le L ostP oints(S etof P oints,Ep s,M inP ts,R ep resentative M inP ts).}E xp andC luster(S etof P oints,P oint,C lusterId,Ep s,M inP ts,R ep resentative M inP ts):BOOL EAN; cand id ate seed s∶=S etof P oints.reg ionquery(P oint,Ep s); if cand id ate seed s.siz e<M inP ts{ P oint为一边界点 S etof P oint.chang eC lId(P oint,NO ISE); return False; } else{ P oint为一核心点 S etof P oints.chang eC lId s(cand id ate seed s,C lId); R ep resentative S eed s S elect(cand id ate seed s,rep resentative seed s,R ep resentative M inP ts,P oint);0921计算机研究与发展2000年 w h ile rep resentative seed s≠Em p ty do{ cu rrentP∶=rep resentative seed s.f irst(); resu lt∶=S etof P oints.reg ionquery(cu rrentP,Ep s); if resu lt.siz e≥M inP ts then{ cu rrentP为核心点 R rep resentative S eed s S elect(resu lt,rep resentative resu ltP,R ep resentative M inP ts,cu rrentP); fo r each po int p in rep resentative resu ltP do if p.C lId=UN CLA SS IF IED then rep resentative seed s.app end(p); fo r each po int p in result do if p.C lId=UN CLA SS IF IED o r NO ISE then S etof P oints.chang eC lId(p,C lId); } rep resentative seed s.d elete(cu rrentP); } return T rue; }4 算法测试这里对快速算法的性能进行测试,并将测试结果与DB SCAN进行了比较.算法在原有DB SCAN软件包基础上用Bo rland C++5.0实现.所有测试在1台PC机(P2CPU,350M H z内存、9.6GB硬盘)上进行.同时使用了模拟数据和真实数据进行测试.真实数据用的是SEQUO I A2000数据库.该数据库也被文献[4]用于对DB SCAN算法的性能测试.典型测试结果分别列于图3至图5中.表1列出的结果表明新算法引起的点丢失是很少的.表1 对丢失点未作处理时F D BSCAN和D BSCAN结果比较Ep sDBSCAN噪声点FDBSCAN噪声点丢失点6.722322526.1275285105.6401411105.072874315 注:总数据量为50000个图3 对SEQU I OA2000数据库的测试结果图3给出的是对SEQUO I A2000数据库的测试结果.从中可以看到,快速算法总是快于DB SCAN算法.一般情况下,FB SCAN算法快于DB SCAN数倍.图4所示为FDB SCAN和DB SCAN算法针对数据量的可扩展性测试结果.由于PC主存的限制,每次只能测试最多50000个左右的数据.图4中的曲线显示FDB SCAN算法关于数据量的可扩展性优于DB SCAN算法.图5为对一个包含10000个数据点的模拟数据库的聚类测试结果.这里测试的是FDB SCAN算法对DB SCAN算法的加速比与Ep s值的关系.定义FDB SCAN对DB SCAN的加速比为t DBSCAN t FDBSCAN,即DB SCAN和FDB SCAN对同一数据库进行聚类所花192111期周水庚等:一种基于密度的快速聚类算法时间之比.结果显示,加速比随Ep s 值的增大而增大.这是因为Ep s 值愈大,则FDB SCAN 算法扩展类愈快,因此加速比愈大.图4 针对数据量的扩展性测试结果图5 加速比(t DBSCAN t FDBSCAN )和Ep s 值的关系5 结束语聚类是数据挖掘中一门非常有用的技术,用于从大量数据中寻找隐含的数据分布和模式.以DB SCAN 算法为基础,本文提出了一种基于密度的快速聚类算法.该算法能够显著提高聚类速度.通过选用核心对象邻域中包含的所有对象的代表对象作为种子对象来扩展类,快速算法减少了区域查询的次数,从而减低了聚类时间和I O 开销.分别用模拟数据和真实数据对快速算法的性能进行测试,结果表明快速算法优于DB SCAN 算法数倍之多.今后工作重点将集中在如下两个方面:首先,在三维和更高维数空间中研究本文算法的效率;其次,将数据取样(sam p ling )技术、数据分区(p artiti on ing )技术和并行技术与本文快速算法结合起来,用于大规模数据库和数据仓库的聚类分析.参考文献1Chen M S et a l .D ata m ining:A n overview from a database perspective .IEEE T rans on KD E,1996,8(6):866～8832N g R T ,H an J.Efficient and effective clustering m ethods fo r spatial data m ining .In:P roc of the 20th VLDB Conf .Santiago:M o rgan Kaufm ann ,1994.144～1553Zhang T et a l .B I RCH :A n efficient data clustering m ethod fo r very large databases .In :P roc of the A CM S IG M OD Int’l Conf on M anagem ent of D ata .M ontreal :A CM P ress ,1996.73～844E ster M et a l .A density 2based algo rithm fo r discovering clusters in large spatial databases w ith no ise .In :P roc of 2nd Int’l Conf on Know ledge D iscovering in D atabases and D ata M ining (KDD 296).Po rtland :AAA I P ress ,19965Guha S et a l .CU R E :A n efficient clustering algo rithm fo r large databases .In :P roc of the A CM S IG M OD Int’l Conf on M anagem ent of D ata .Seattle :A CM P ress ,1998.73～846Zhang W et a l .ST I N G :A statistical info r m ati on grid app roach to spatial data m ining .In :P roc of the 23rd VLDB Conf .A thens :M o rgan Kaufm ann ,1997.186～1957A graw al R et a l .A utom atic subspace clustering of h igh di m ensi onal data fo r data m ining app licati ons.In :P roc of the A CM S IG M OD Int’l Conf on M anagem ent of D ata .Seattle :A CM P ress ,1998.73～842921计算机研究与发展2000年。
快速聚类法
快速聚类法快速聚类法（Fast clustering Algorithm）是一种常用的数据挖掘技术，能够帮助用户快速地从大量的数据中提取出重要信息。
本文将从以下几个方面来介绍快速聚类法：聚类原理、聚类算法、应用领域及优缺点等。
一、聚类原理聚类是一种无监督学习方法，它的目标是将一组样本划分为若干个同类别的簇，使簇内的样本相互间距离尽可能小，而不同簇之间的样本则尽可能远离。
在聚类过程中，采用的距离度量方法及聚类算法都会对聚类结果产生影响。
二、聚类算法快速聚类法是一种基于密度的聚类算法，它通过计算样本点周围的点的密度大小，将样本点分为密集区域和稀疏区域。
该算法的基本思想是，将样本点按照密度从高到低排序，从密度最大的样本点开始向外扩散，直到达到某个密度阈值停止扩散，形成一个簇。
然后重复上述过程直到所有的样本点都被聚类到某一个簇中。
快速聚类法的优点是可以处理任意形状的聚类，对于噪声和离群点有一定的鲁棒性。
但由于该算法的计算复杂度较高，其时间复杂度为O(n²logn)，处理大规模数据时效率较低。
三、应用领域快速聚类法广泛应用于数据分析、图像处理、自然语言处理等领域。
例如，在文本分类中，可以使用快速聚类法将相似的文本聚成一类，以便更好地进行分类和挖掘。
在图像处理领域中，快速聚类法可以将相似的图像聚类到一起，以实现图像分类或图像检索。
另外，快速聚类法还被广泛应用于社交网络分析、金融风险评估等领域。
例如，在社交网络分析中，可以使用快速聚类法来识别社群或社区，以便更好地理解和分析社交网络的结构和演化。
四、优缺点优点：1. 快速聚类法可以处理任意形状的聚类，对于噪声和离群点有一定的鲁棒性。
2. 该算法使用密度来描述聚类，对密度的定义不依赖于任何假设，具有较强的鲁棒性。
3. 快速聚类法不需要假定数据分布的任何参数，不具有前提条件的偏见。
缺点：1. 该算法的计算复杂度较高，处理大规模数据时效率较低。
2. 算法的结果易受初始参数影响，需要采用合适的参数设置和聚类结果评估方法。
一种基于密度的空间聚类算法
一种基于密度的空间聚类算法
谱聚类（Spectral Clustering）是一种基于密度的空间聚类算法，旨在根据空间结构，以聚类分隔为几个部分。
这种算法指出，当数据点之间存在一定距离关系时，数据点可以被组织为多个簇，这些簇可以抽象为一个谱，其聚类依赖于谱上的谱级而进行划分。
谱聚类既考虑了空间关系，又考虑了数据的相似性，并将它们有机结合起来。
谱式聚类将数据抽象为一个图模型，模型中的顶点是数据点，边是数据点之间的关系，该图通过计算谱级将结果进行聚类，由此引入基于密度的聚类算法。
谱聚类最常用于聚类紧凑性高的数据集，只有在数据的紧凑性较高的情况下，其聚类结果才能表现出较好的聚类效果。
此外，它还具有反应速度快、聚类结果稳定、聚类结果明确的特点，这是让它被广泛使用的最主要原因，使它成为了当今聚类技术中最重要的算法之一。
一种改进的基于密度的聚类算法
一种改进的基于密度的聚类算法
1 什么是基于密度的聚类
基于密度的聚类（density-based clustering）是一种数据挖掘
算法，其背后的思想是将一组数据点划分为不同的簇。
它的优点是可
以使簇的形状不被限制在某种形状（比如圆形或者矩形），因此可以
自由地检测出复杂的空间模型。
2 典型基于密度的聚类算法
典型的基于密度聚类算法有DBSCAN（密度基本空间聚类密度聚类）和OPTICS（OrderingPointstoIdentifytheClusteringStructure）。
DBSCAN可以识别基于密度的簇，并使用核心点，边界点和噪声点来表
示簇。
而OPTICS会构建基于密度的树，以此加强密度聚类的性能。
3 一种改进的基于密度的聚类算法
为了改进传统的基于密度的聚类算法，研究者PengfeiHu等提出
了一种新的基于密度的聚类算法——RBCC（Robust聚类的可变密度块）。
这种算法使用了变化的密度块来检测出各种形状的聚类，并克
服了困扰传统技术的缺点，例如离群点等。
与传统算法相比，RBCC更快，效率更高，在处理高维数据和数据形状不规则的情况下，其效果
更好。
此外，它还可以在空间数据上运行，因此可以用于地理聚类分析。
总之，RBCC是一种改进的基于密度的聚类算法，能够取得更好的结果，在处理复杂的数据时具有很大的优势。
一种基于密度的分布式聚类方法
一种基于密度的分布式聚类方法王岩;彭涛;韩佳育;刘露【期刊名称】《软件学报》【年(卷),期】2017(028)011【摘要】Clustering is an important method for data analysis in the field of data mining.The function of clustering is to divide unlabeled data divided into several groups according to the data similarity.CSDP is a density-based clustering method.When data size is Iarge or data dimensionality is high,the efficiency of clustering is relatively low.In order to improve the efficiency of clustering algorithm,this paper proposes a density-based distributed clustering method,called MRCSDP,which uses MapReduce to cluster text data.This method introduces the definition of independent calculation unit and independent calculation block.First,data are split into several data blocks which are used to construct independent calculation unit and independent calculation block.The task for each independent calculation block is assigned.Then the distributed calculation is conducted to obtain the local density of the data blocks.The local densities are combined to obtain the global density.The center value is calculated according to the global density.Based on the global density and the center value,the candidate cluster centers of each data block can be obtained.Finally,the global cluster centers are obtained by calculating the density of all candidate cluster centers.MRCSDP can achieve betterclustering performance by reducing time complexity.Experimental results show that compared to CSDP,MRCSDP can process large scale data more effectively with loadbalancing on each computing nodes.%聚类是数据挖掘领域中的一种重要的数据分析方法.它根据数据间的相似度,将无标注数据划分为若干聚簇.CSDP是一种基于密度的聚类算法,当数据量较大或数据维数较高时,聚类的效率相对较低.为了提高聚类算法的效率,提出了一种基于密度的分布式聚类方法MRCSDP,利用MapReduce框架对实验数据进行聚类.该方法定义了独立计算单元和独立计算块的概念.首先,将数据拆分为若干数据块,构建独立计算单元和独立计算块,在集群中分配独立计算块的任务;然后进行分布式计算,得到数据块的局部密度,将局部密度合并得到全局密度,根据全局密度计算中心值,由全局密度和中心值得到每个数据块中候选聚簇中心;最后,从候选聚簇中心选举出最终的聚簇中心.MRCSDP 在充分降低时间复杂度的基础上得到较好的聚类效果.实验结果表明,分布式环境下的聚类方法MRCSDP相对于CSDP更能快速、有效地处理大规模数据,并使各节点负载均衡.【总页数】15页(P2836-2850)【作者】王岩;彭涛;韩佳育;刘露【作者单位】吉林大学计算机科学与技术学院,吉林长春 130012;吉林大学计算机科学与技术学院,吉林长春 130012;符号计算与知识工程教育部重点实验室(吉林大学),吉林长春 130012;吉林大学计算机科学与技术学院,吉林长春 130012;吉林大学计算机科学与技术学院,吉林长春 130012【正文语种】中文【中图分类】TP181【相关文献】1.一种基于密度的快速聚类方法 [J], 张晓;张媛媛;高阳;周新民2.一种基于模拟退火算法的密度聚类方法 [J], 何兆怡3.一种基于轨迹数据密度分区的分布式并行聚类方法 [J], 王佳玉;张振宇;褚征;吴晓红4.一种新的基于分布式入侵检测的警报聚类方法 [J], 冯光升;王慧强;武俊鹏;赵倩5.一种基于网民行为的倾向性密度聚类方法 [J], 徐春;王昭;孙彬因版权原因，仅展示原文概要，查看原文内容请购买。
基于密度聚类算法的异常检测
基于密度聚类算法的异常检测
张晓
【期刊名称】《伊犁师范学院学报（自然科学版）》
【年(卷),期】2010(000)004
【摘要】聚类算法通常用于数据的聚类,但只要对算法结果从另一角度进行分析,则可发现它还可以用于异常数据的检测. 首先介绍了数据挖掘中的聚类算法,进而结合具体实例给出应用基于密度的聚类算法DBSCAN进行异常检测的过程,最后指出最终异常数据集的确定还应结合领域专家意见.
【总页数】3页(P52-54)
【作者】张晓
【作者单位】伊犁师范学院,物理与电子信息学院,新疆,伊宁,835000
【正文语种】中文
【中图分类】TP301
【相关文献】
1.基于聚类算法k-means的异常检测系统 [J], 王晨曦;
2.基于流数据聚类算法的电力大数据异常检测 [J], 于小青; 齐林海
3.基于流数据聚类算法的电力大数据异常检测 [J], 于小青; 齐林海
4.基于谱聚类算法的信息资产行为异常检测方法 [J], 孟庆杰;尧海昌
5.基于改进PSO-PFCM聚类算法的电力大数据异常检测方法 [J], 李清
因版权原因，仅展示原文概要，查看原文内容请购买。
一种基于密度的快速聚类算法
一种基于密度的快速聚类算法
周水庚;周傲英;曹晶;胡运发
【期刊名称】《计算机研究与发展》
【年(卷),期】2000(037)011
【摘要】聚类是数据挖掘领域中的一个重要研究方向.聚类技术在统计数据分析、模式识别、图像处理等领域有广泛应用.迄今为止人们提出了许多用于大规模数据库的聚类算法.基于密度的聚类算法DBSCAN就是一个典型代表.以DBSCAN为基础,提出了一种基于密度的快速聚类算法.新算法以核心对象邻域中所有对象的代表对象为种子对象来扩展类,从而减少区域查询次数,降低I/O开销,实现快速聚类.对二维空间数据测试表明:快速算法能够有效地对大规模数据库进行聚类,速度上数倍于已有DBSCAN算法.
【总页数】6页(P1287-1292)
【作者】周水庚;周傲英;曹晶;胡运发
【作者单位】复旦大学计算机科学系,上海,200433;复旦大学计算机科学系,上海,200433;复旦大学计算机科学系,上海,200433;复旦大学计算机科学系,上
海,200433
【正文语种】中文
【中图分类】TP311.13;TP391
【相关文献】
1.一种基于网格和密度凝聚点的快速聚类算法 [J], 陈卓;孟庆春;魏振钢;任丽婕;窦金凤
2.一种基于密度树的网格快速聚类算法的研究 [J], 赖建章;倪志伟;刘志伟
3.一种基于密度的快速聚类算法的改进 [J], 孙凌燕;杨明
4.一种基于参考点的快速密度聚类算法 [J], 闫安;刘琪林
5.一种基于相对密度的快速聚类算法 [J], 孙凌燕;杨明;任建斌
因版权原因，仅展示原文概要，查看原文内容请购买。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Ｚｈａｎｇ Ｘｉａｏ１，Ｚｈａｎｇ Ｙｕａｎｙｕａｎ２，Ｇａｏ Ｙａｎｇ２，Ｚｈｏｕ Ｘｉｎｍｉｎ３
（１．Ｓｃｈｏｏｌ ｏｆ Ｅｌｅｃｔｒｏｎｉｃｓ ａｎｄ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｙｉｌｉ Ｔｅａｃｈｅｒｓ Ｃｏｌｌｅｇｅ，Ｙｉｎｉｎｇ，８３５０００，Ｃｈｉｎａ；２．Ｓｔａｔｅ Ｋｅｙ Ｌａｂｏｒａｔｏｒｙ ｆｏｒ Ｓｏｆｔｗａｒｅ Ｔｅｃｈｎｏｌｏｇｙ，Ｎａｎｊｉｎｇ Ｕｎｉｖｅｒｓｉｔｙ，Ｎａｎｊｉｎｇ，２１００２３，Ｃｈｉｎａ；３．Ｐｕｂｌｉｃ Ｓｅｃｕｒｉｔｙ Ｍａｔｅｒｉａｌ Ｅｖｉｄｅｎｃｅ Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ Ｃｅｎｔｅｒ ｏｆ Ｊｉａｎｇｓｕ Ｐｒｏｖｉｎｃｅ，Ｎａｎｊｉｎｇ，２１００４６，Ｃｈｉｎａ）
ＩＳＳＮ １００４－９０３７，ＣＯＤＥＮ ＳＣＹＣＥ４ Ｊｏｕｒｎａｌ ｏｆ Ｄａｔａ Ａｃｑｕｉｓｉｔｉｏｎ ａｎｄ Ｐｒｏｃｅｓｓｉｎｇ Ｖｏｌ．３０，Ｎｏ．４，Ｊｕｌ．２０１５，ｐｐ．８８８－８９５ ＤＯＩ：１０．１６３３７／ｊ．１００４－９０３７．２０１５．０４．０２２
２０１５ｂｙ Ｊｏｕｒｎａｌ ｏｆ Ｄａｔａ Ａｃｑｕｉｓｉｔｉｏｎ ａｎｄ Ｐｒｏｃｅｓｓｉｎｇ
１ ＤＢＳＣＡＮ 算法与 Ｆ－ＤＢＳＣＡＮ 算法
１．１ 基 本 概 念 ［１４］ （１）Ｅｐｓ－邻域：指给定对象的半径 Ｅｐｓ以内的区域。 （２）核心对象：如果一个对象的 Ｅｐｓ－邻域包含不少于 ＭｉｎＰｔｓ个对象，则该对象被称为核心对象 。 （３）边界对象：如果一个对象的 Ｅｐｓ－邻域包含的对象个数少于 ＭｉｎＰｔｓ，则该对象被称为边界对象 。 （４）直接密度可达：给 定 一 个 数 据 集 Ｄ，如 图 １（ａ）所 示，ｐ，ｑ 为 数 据 集 Ｄ 中 的 对 象，如 果 ｐ 在ｑ 的
Ａｂｓｔｒａｃｔ：Ｄｅｎｓｉｔｙ－ｂａｓｅｄ ｓｐａｔｉａｌ ｃｌｕｓｔｅｒｉｎｇ ｏｆ ａｐｐｌｉｃａｔｉｏｎｓ ｗｉｔｈ ｎｏｉｓｅ （ＤＢＳＣＡＮ）ｈａｓ ｐｏｏｒ ｓｃａｌａｂｉｌｉｔｙ ｏｎ ｔｈｅ ｄａｔａ ｓｉｚｅ，ｅｓｐｅｃｉａｌｌｙ ｗｈｅｎ ｔｈｅ ａｍｏｕｎｔ ｏｆ ｄａｔａ ｉｎｃｒｅａｓｅｓ．Ｈｅｒｅ ａｎ ｉｍｐｒｏｖｅｄ ａｄａｐｔｉｖｅ ｆａｓｔ－ｄｅｎｓｉｔｙ－ｂａｓｅｄ ｓｐａｔｉａｌ ｃｌｕｓｔｅｒｉｎｇ ｏｆ ａｐｐｌｉｃａｔｉｏｎｓ ｗｉｔｈ ｎｏｉｓｅ（Ｆ－ＤＢＳＣＡＮ）ａｌｇｏｒｉｔｈｍ ｉｓ ｐｒｏｐｏｓｅｄ，ｗｉｔｈ ｎｏ ｌｏｎｇｅｒ ｃｈｅｃｋｓ ｏｆ ｔｈｅ ｏｂｊｅｃｔｓ ｉｎｓｉｄｅ ｔｈｅ ｎｅｉｇｈｂｏｒｈｏｏｄ ｏｆ ｃｏｒｅ ｏｂｊｅｃｔｓ，ｂｕｔ ｊｕｓｔ ｔｈｅ ｍａｒｋ ｏｆ ｔｈｅｍ．Ｍｅｒｇｉｎｇ ｃｌｕｓｔｅｒｓ ｉｓ ｐｅｒ－ ｆｏｒｍｅｄ ｂｙ ｄｅｔｅｒｍｉｎｉｎｇ ｗｈｅｔｈｅｒ ｔｈｅｒｅ ｅｘｉｓｔ ｔｈｅ ｍａｒｋｅｄ ｏｂｊｅｃｔｓ ｉｎ ｔｈｅ ｎｅｉｇｈｂｏｒｈｏｏｄ ｏｆ ｃｏｒｅ ｏｂｊｅｃｔｓ．Ｎｏｉｓｙ ｏｂｊｅｃｔｓ ａｒｅ ｒｅｃｏｇｎｉｚｅｄ ｂｙ ｃｈｅｃｋｉｎｇ ｗｈｅｔｈｅｒ ｔｈｅ ｎｅｉｇｈｂｏｒｈｏｏｄ ｏｆ ｂｏｒｄｅｒ ｏｎｅｓ ｃｏｎｔａｉｎｓ ａ ｃｏｒｅ ｏｎｅｓ．Ｔｈｅ ｐｒｏｐｏｓｅｄ ａｌｇｏｒｉｔｈｍ ｃａｎ ａｖｏｉｄ ｔｈｅ ｒｅｐｅａｔｅｄ ｃｈｅｃｋｉｎｇ ｏｆ ｏｖｅｒｌａｐｐｉｎｇ ａｒｅａ ｏｆ ｔｈｅ ｏｒｉｇｉｎａｌ ＤＢＳＣＡＮ ｗｉｔｈｏｕｔ ｂｕｉｌｄｉｎｇ ｔｈｅ ｓｐａｔｉａｌ ｉｎｄｅｘ，ｔｈｕｓ ｉｍｐｒｏｖｉｎｇ ｉｔｓ ｅｆｆｉｃｉｅｎｃｙ ｓｕｂｓｔａｎｔｉａｌｌｙ ｗｉｔｈ ｔｉｍｅ ｃｏｍｐｌｅｘｉｔｙ ａｐｐｒｏａｃｈｉｎｇ Ｏ （ｎｌｏｇｎ）．Ｔｈｅ ｃｌｕｓｔｅｒｉｎｇ ｑｕａｌｉｔｙ ｏｆ Ｆ－ＤＢＳＣＡＮ ｉｓ ｖａｌｉｄａｔｅｄ ｏｎ ｂｏｔｈ ａｒｔｉｆｉｃｉａｌ ａｎｄ ｒｅａｌ ｄａｔａｓｅｔｓ，ａｎｄ ｉｔｓ ｅｆｆｉ－ ｃｉｅｎｃｙ ｉｓ ａｌｓｏ ｖａｌｉｄａｔｅｄ ｏｎ ｔｗｏ ｒｅａｌ ｄａｔａｓｅｔｓ ｆｒｏｍ ｄｉｆｆｅｒｅｎｔ ｉｎｄｕｓｔｒｉｅｓ．Ｔｈｅ ｅｍｐｉｒｉｃａｌ ｒｅｓｕｌｔｓ ｓｕｇｇｅｓｔ ｔｈａｔ Ｆ－ＤＢＳＣＡＮ ｃａｎ ａｃｈｉｅｖｅ ｇｏｏｄ ｃｌｕｓｔｅｒｉｎｇ ｑｕａｌｉｔｙ ａｓ ｗｅｌｌ ａｓ ｂｅｔｔｅｒ ｅｆｆｉｃｉｅｎｃｙ ａｎｄ ｓｃａｌａｂｉｌｉｔｙ． Ｋｅｙ ｗｏｒｄｓ：ｃｌｕｓｔｅｒｉｎｇ；ｄｅｎｓｉｔｙ；Ｆ－ＤＢＳＣＡＮ；ａｌｇｏｒｉｔｈｍ ｅｆｆｉｃｉｅｎｃｙ
Ｅｐｓ邻域内，且ｑ 是一个核心对象 ，则称 ｐ 是从ｑ 直接密度可达的 。 （５）密度可达 ：如图１（ｂ）所示 ，如果存在一个对象序列 ｐ１，ｐ２，…，ｐｎ，ｐ１＝ｑ，ｐｎ＝ｐ，对 ｐｉ∈Ｄ，１≤ｉ≤
ｎ，ｐｉ＋１是从 ｐｉ 关于 Ｅｐｓ和 ＭｉｎＰｔｓ直接密度可达的 ，那么 ｐ 是从ｑ 关于 Ｅｐｓ和 ＭｉｎＰｔｓ密度可达的 。 （６）密度相连：如图１（ｃ）所 示，ｏ 是 数 据 集 合 Ｄ 中 一 个 对 象，如 果 对 象 ｐ 和ｑ 都 是 从ｏ 关 于 Ｅｐｓ和
＊ 基金项目：江苏省社会发展（ＢＥ２０１０６３８）资助项目。 收 稿 日 期 ：２０１４－０１－１０；修 订 日 期 ：２０１４－１０－１０
张晓 等：一种基于密度的快速聚类方法
８８９
引 言
聚类是数据挖掘领域中的重要技术之一。聚类是将数据集中的数据按照某种相似性准则划分成若 干簇，使得同一簇中的数据具有较高的相似性 ，不同簇中的数 据 尽 可 能 不 同。 基 本 的 聚 类 算 法 可 分 为 ５ 类：基于划分的、基于层次的、基于模型的、基于网格 和 基 于 密 度 的 聚 类 算 法 。 其 中，基 于 密 度 的 聚 类 算 法无需预先指定 划 分 的 簇 数 ，能 够 在 含 有 噪 声 的 数 据 中 发 现 任 意 形 状 的 簇 。ＤＢＳＣＡＮ（Ｄｅｎｓｉｔｙ－ｂａｓｅｄ ｓｐａｔｉａｌ ｃｌｕｓｔｅｒｉｎｇ ｏｆ ａｐｐｌｉｃａｔｉｏｎｓ ｗｉｔｈ ｎｏｉｓｅ）算法是一种经典的基于密度的聚类算法 ，该算法可以过滤 低 密度区域，发现稠密样本点 ，有效处理噪声数据 ，但在数据规模上的扩展性较差 ，其时间复杂度为Ｏ（ｎ２）。 对于那些在速度上要求较高的聚类问题 ，其在时间 上 的 消 耗 则 是 一 个 瓶 颈 ，如 大 数 据 聚 类 问 题 、在 线 聚 类问题等。此外，该算法使用两个 全 局 参 数 Ｅｐｓ和 ＭｉｎＰｔｓ，对 于 密 度 不 均 匀 的 数 据 集 ，聚 类 效 果 较 差。 ＤＢＳＣＡＮ 算法从一个对象出发 ，逐步扩 展 去 找 与 这 个 对 象 所 有 密 度 可 达 对 象 ，从 而 形 成 一 个 簇。 由 于 某些核心对象的邻域有重叠 ，所以 存 在 重 复 考 查 现 象。 本 文 提 出 了 基 于 ＤＢＳＣＡＮ 算 法 的 改 进 算 法 Ｆ－ ＤＢＳＣＡＮ（Ｆａｓｔ－ｄｅｎｓｉｔｙ－ｂａｓｅｄ ｓｐａｔｉａｌ ｃｌｕｓｔｅｒｉｎｇ ｏｆ ａｐｐｌｉｃａｔｉｏｎｓ ｗｉｔｈ ｎｏｉｓｅ），通 过 合 并 重 叠 区 域 来 实 现 簇 增长，在不改变数据结构 、无需创建空间索引的前提下使算法效率得到大幅度提升 。
ＭｉｎＰｔｓ密度可达的，那么对象 ｐ 和ｑ 是关于 Ｅｐｓ和 ＭｉｎＰｔｓ密度相连的。 （７）噪 声 ：如 图 １（ｄ）所 示 ，不 包 含 在 任 何 簇 中 的 对 象 被 认 为 是 “噪 声 ”。
１．２ ＤＢＳＣＡＮ 算法［１３］ ＤＢＳＣＡＮ 算法通过检查数据集中每 个 对 象 的 Ｅｐｓ邻 域 来 寻 找 聚 类。 如 果 一 个 对 象 ｐ 的 Ｅｐｓ邻 域
ｈｔｔｐ：／／ｓｊｃｊ．ｎｕａａ．ｅｄｕ．ｃｎ Ｅ－ｍａｉｌ：ｓｊｃｊ＠ｎｕａａ．ｅｄｕ．ｃｎ Ｔｅｌ／Ｆａｘ：＋８６－０２５－８４８９２７４２
一种基于密度的快速聚类方法＊
张 晓１ 张媛媛２ 高 阳２ 周新民３
（１．伊犁师范 学 院 电 子 与 信 息 工 程 学 院 ，伊 宁，８３５０００；２．南 京 大 学 计 算 机 软 件 新 技 术 国 家 重 点 实 验 室 ，南 京， ２１００２３；３．江 苏 省 公 安 厅 物 证 鉴 定 中 心 ，南 京 ，２１００４６）
摘 要：具有噪 声 的 基 于 密 度 的 聚 类 方 法 （Ｄｅｎｓｉｔｙ－ｂａｓｅｄ ｓｐａｔｉａｌ ｃｌｕｓｔｅｒｉｎｇ ｏｆ ａｐｐｌｉｃａｔｉｏｎｓ ｗｉｔｈ ｎｏｉｓｅ， ＤＢＳＣＡＮ）在数据规模上的扩展性较差 。本文 在 其 基 础 上 提 出 一 种 改 进 算 法 ———具 有 噪 声 的 基 于 密 度 的 快速聚类方法（Ｆａｓｔ－ｄｅｎｓｉｔｙ－ｂａｓｅｄ ｓｐａｔｉａｌ ｃｌｕｓｔｅｒｉｎｇ ｏｆ ａｐｐｌｉｃａｔｉｏｎｓ ｗｉｔｈ ｎｏｉｓｅ，Ｆ－ＤＢＳＣＡＮ），对核心对 象邻域中的对象只作标记 ，不再进行扩展检查 ，通过判断核心对象邻域中是否存在已标记对象来 实 现 簇 合并，对边界对象判断其邻域中是否存在核心对象 来 确 认 是 否 为 噪 声 。 此 方 法 避 免 了 原 始 算 法 中 对 重 叠区域的重复操作 ，在不需创建 空 间 索 引 的 前 提 下 ，其 时 间 复 杂 度 为 Ｏ（ｎｌｏｇｎ）。 通 过 实 验 数 据 集 和 真 实数据集，验证其聚类效果及算法效率 。实验表明 Ｆ－ＤＢＳＣＡＮ 算法不仅保证了 有 良 好 的 聚 类 效 果 及 算 法效率，并且在数据规模上具有良好的扩展性 。 关 键 词 ：聚 类 ；密 度 ；Ｆ－ＤＢＳＣＡＮ；算 法 效 率 中 图 分 类 号 ：ＴＰ３０１ 文 献 标 志 码 ：Ａ
包含多于 ＭｉｎＰｔｓ个对象，则创建 些 核 心 对 象 直 接 密 度 可达的对象，这个过程可能涉及一些密度可达簇的 合 并 ，当 没 有 新 的 对 象 可 以 被 添 加 到 任 何 簇 时 ，该 过
８９０
数据采集与处理 Ｊｏｕｒｎａｌ ｏｆ Ｄａｔａ Ａｃｑｕｉｓｉｔｉｏｎ ａｎｄ Ｐｒｏｃｅｓｓｉｎｇ Ｖｏｌ．３０，Ｎｏ．４，２０１５