数据挖掘综述

数据挖掘中聚类算法的综述

摘要：数据挖掘技术在当前研究领域中算是比较热门的一项技术，从国外发展到中国，具有广阔的商业应用前景。本文主要概述了当前数据挖掘的七大方法（分类、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘）和十大经典算法

（C4.5,K-Means,SVM,Apriori,EM,PageRank,AdaBoost,kNN,Naive

Bayes,CART），以及数据挖掘的发展趋势。

关键词：数据挖掘，常用方法，经典算法

1 引言

在当今信息爆炸的时代，伴随着社会事件和自然活动的大量产生（数据的海量增长），人类正面临着“被信息所淹没，但却饥渴于知识”的困境。随着计算机软硬件技术的快速发展、企业信息化水平的不断提高和数据库技术的日臻完善，人类积累的数据量正以指数方式增长。面对海量的、杂乱无序的数据，人们迫切需要一种将传统的数据分析方法与处理海量数据的复杂算法有机结合的技术。数据挖掘技术就是在这样的背景下产生的。它可以从大量的数据中去伪存真，提取有用的信息，并将其转换成知识。

数据挖掘是一个多学科领域，它融合了数据库技术、人工智能、机器学习、模式识别、模糊数学和数理统计等最新技术的研究成果，可以用来支持商业智能应用和决策分析。例如顾客细分、交叉销售、欺诈检测、顾客流失分析、商品销量预测等等，目前广泛应用于银行、金融、医疗、工业、零售和电信等行业。数据挖掘技术的发展对于各行各业来说，都具有重要的现实意义。

2 数据挖掘的概念

2.1 什么是数据挖掘

数据挖掘(Data Mining)，也叫数据开采，数据采掘等，是按照既定的业务目标从海量数据中提取出潜在、有效并能被人理解的模式的高级处理过程．在较浅的层次上，它利用现有数据库管理系统的查询、检索及报表功能，与多维分析、统计分析方法相结合，进行联机分析处理(O乙心)，从而得出可供决策参考的统计分析数据．在深层次上，则从数据库中发现前所未有的、隐含的知识．OLAF'的出现早于数据挖掘，它们都是从数据库中抽取有用信息的方法，就决策支持的需要而言两者是相辅相成的。

OLAP可以看作一种广义的数据挖掘方法，它旨在简化和支持联机分析，而数据挖掘的目的是便这一过程尽可能自动化。

数据挖掘基于的数据库类型主要有：关系型数据库、面向对象数据库、事务数据库、演绎数据库、时态数据库、多媒体数据库、主动数据库、空间数据库、遗留数据库、异质数据库、文本型、

Internet信息库以及新兴的数据仓库。而挖掘后获得的知识包括关联规则、特征规则、区分规则、分类规则、总结规则、偏差规则、聚类规则、模式分析及趋势分析等。

2.2 数据挖掘的特点

数据挖掘技术具有以下特点：

1. 处理的数据规模十分庞大，达到GB、TB数量级，甚至更大。

2. 查询一般是决策制定者(用户)提出的即时随机查询，往往不能形成精确的查询要求，需要靠系统本身寻找其可能感兴趣的东西。

3. 在一些应用(如商业投资等)中，由于数据变化迅速，因此要求数据挖掘能快速做出相应反应以随时提供决策支持。

4. 数据挖掘中，规则的发现基于统计规律．因此，所发现的规则不必适用于所有数据，而是当达到某一临界值时，即认为有效．因此，利用数据挖掘技术可能会发现大量的规则。

5. 数据挖掘所发现的规则是动态的，它只反映了当前状态的数据库具有的规则，随着不断地向数据库中加入新数据，需要随时对其进行更新。

2.3 数据挖掘的应用基础

数据挖掘是一种获得知识的技术。它的基础是数据，手段是各种算法，目的是获得数据中蕴含的知识。发现知识并非易事，人们总是受到各种各样的局限，目前数据缺乏仍然是发现知识的瓶颈。随着数据采集和存储技术的发展，对大量数据的分析和使用成为一个新的难题。对数据挖掘应用而言，知识的发现存在两个极限，一个是数据极限，即数据要么非常庞大，要么数据量足够小，或者数据量小但维度非常大；另一个是算法极限，即针对很多数据（不同的性质，不同的形式）和很多需求，目前所有的算法尚不能很好地解决某些问题。因此，数据挖掘应用具有三个要素：数据，算法，知识。

数据挖掘应用是一个多层次、流程化的工程任务，开展数据挖掘应用也需要从每个层面加以处理，才能保证整个数据挖掘的成功运行。数据挖掘应用从上到下可分为三个大层面，具体结构如下图1所示：

图1 数据挖掘应用的三大层面

应用层：把数据挖掘结果应用于实践。

算法层：提供算法、引擎和界面。

数据层：提供数据源、数据探索、数据准备。

3 数据挖掘的常用方法

数据挖掘从一个新的视角将数据库技术、统计学、机器学习、信息检索技术、数据可视化和模式识别与人工智能等领域有机结合起来，它能组合各个领域的优点，从而能从数据中挖掘到其他传统方法不能发现的有用知识。利用数据挖掘进行数据分析常用的方法主要有分类、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘等，它们分别从不同的角度对数据进行挖掘。

1. 分类

分类就是应用已知的一些属性数据去推测一个未知的离散型属性数据，而这个被推测的属性数据的可取值是预先定义的。要很好地实现这种推测，就需要事先在已知的一些属性和未知的离散型属性之间建立一个有效的模型，即分类模型。

它可以应用到客户的分类、客户的属性和特征分析、客户满意度分析、客户的购买趋势预测等，如一个汽车零售商将客户按照对汽车的喜好划分成不同的类，这样营销人员就可以将新型汽车的广告手册直接邮寄到有这种喜好的客户手中，从而大大增加了商业机会。

2.回归分析

回归分析方法反映的是事务数据库中属性值在时间上的特征，产生一个将数据项映射到一个实值预测变量的函数，发现变量或属性间的依赖关系，其主要研究问题包括数据序列的趋势特征、数据序列的预测以及数据间的相关关系等。

它可以应用到市场营销的各个方面，如客户寻求、保持和预防客户流失活动、产品生命周期分析、销售趋势预测及有针对性的促销活动等。

3.聚类

聚类是将数据划分为簇的过程，根据数据本身的自然分布性质，数据变量之间存在的程度不同的相似性（亲属关系），按一定的准则将最相似的数据聚集成簇。使得属于同一类别的数据间的相似性尽可能大，不同类别中的数据间的相似性尽可能小。

它可以应用到客户群体的分类、客户背景分析、客户购买趋势预测、市场的细分等。

4.关联规则

关联规则是描述数据库中数据项之间所存在的关系的规则，即根据一个事务中某些项的出现可导出另一些项在同一事务中也出现，即隐藏在数据间的关联或相互关系。

在客户关系管理中，通过对企业的客户数据库里的大量数据进行挖掘，可以从大量的记录中发现有趣的关联关系，找出影响市场营销效果的关键因素，为产品定位、定价与定制客户群，客户寻求、细分与保持，市场营销与推销，营销风险评估和诈骗预测等决策支持提供参考依据。

5.特征分析