数据聚类实验报告(附代码)

数据聚类实验报告(附代码)

实验题目：数据聚类实验

1 实验目的

（1）了解常用聚类算法及其优缺点；

（2）掌握k-means聚类算法对数据进行聚类分析的基本原理和划分方法。

（3）利用k-means聚类算法对“ch7 iris.txt”数据集进行聚类实验。

（4）熟悉使用matlab进行算法的实现。

2 实验步骤

2.1 算法原理

聚类就是按照某个特定标准(如距离准则)把一个数据集分割成不同的类或簇，使得同一个簇内的数据对象的相似性尽可能大，同时不在同一个簇中的数据对象的差异性也尽可能地大。即聚类后同一类的数据尽可能聚集到一起，不同数据尽量分离。

k-means是划分方法中较经典的聚类算法之一。由于该算法的效率高，所以在对大规模数据进行聚类时被广泛应用。目前，许多算法均围绕着该算法进行扩展和改进。

k-means算法以k为参数，把n个对象分成

k个簇，使簇内具有较高的相似度，而簇间的相似度较低。k-means算法的处理过程如下：首先，随机地选择k个对象，每个对象初始地代表了一个簇的平均值或中心;对剩余的每个对象，根据其与各簇中心的距离，将它赋给最近的簇;然后重新计算每个簇的平均值。这个过程不断重复，直到准则函数收敛。

通常，采用平方误差准则，其定义如下：

∑∑=⊂-

=

k

i C

p i

i

m p

E

1

2，这里E是数据集中所有对象的平方

误差的总和，p是空间中的点，

i

m是簇i C的平均值。该目标函数使生成的簇尽可能紧凑独立，使用的距离度量是欧几里得距离,当然也可以用其他距离度量。

本实验便采用k-means聚类方法对样本数据对象进行聚类。该方法易实现，对不存在极大值的数据有很好的聚类效果，并且对大数据集有很好的伸缩性。

2.2 算法流程

本实验采用的是k-means聚类算法，类中心

聚类

对新生成的簇重新

计算平均值Y

新的平均

值改变

N

结束

图 1 k-means 算法流程图

k-means算法流程图，如图1所示。k-means算法中的k，由用户输入，最终得到的类别数即为用户输入的数目。聚类过程中，涉及到初始类中心的选择。在程序中，对于类中心，是选择前k个作为初始类中心，对于数据的组织，前k个数据有较大差别，可以提高程序的运行效率和分类结果的准确率。

3 实验结果分析

在实验中，利用k-means聚类算法对“ch7 iris.txt”数据集进行聚类实验。

当k=3时，k-means算法聚类效果如图2所示：

图 2 k=3时聚类效果

当k=4时，k-means算法聚类效果如图3所示：

图 3 k=4时聚类效果

K-means聚类算法的收敛性和初值的选取有关。初始的聚类中心的不同，对聚类结果没有很大的影响，而对迭代次数有显著的影响。数据的输入顺序不同，同样影响迭代次数，而对聚类结果没有太大的影响。

4 实验结论

K-means聚类算法对于类别数的选择k值有较高的要求，如果类别数较少，则不能区分数据。K-means聚类算法找出平均误差最小的k个划

分。当结果簇是密集的，而簇与簇之间的区别明显时，它的效果较好。该算法只有在簇的平均值被定义的情况下才能使用。对于初始类中心的选择，特别重要。对于分类的准确度和距离影响明显。而且该算法对孤立点是敏感的。所以如果数据集中存在有极大值的对象，应该消除这种敏感性。

5 实验心得体会

1、初始值可的选取

K-means聚类算法对于类别数目的选择，需要使用该算法的人员对于数据分类有一定的了解，并且可以根据观察部分原始抽样数据，得出该样本数据的大致类别数目，否则，应用该方法的聚类可能会出现较大的错误率。

2、初始类中心的选取

初始类中心的选择对聚类的准确度有较大的影响。在初始类中心的选择时，最好选择两两距离较大，且能代表不同数据样本类别的点作为初始的类中心点。

参考文献

[1] 数据挖掘：概念与技术/（加）韩家炜，（加）坎伯（Kamber,M.）著；范明等译.-北京：机械

工业出版社，2001.8 .

[2] 效琴，戴汝源．数据挖掘中聚类分析的技术方法[J]．微计算机信息，2003，19(1)．[3] 贺玲，吴玲达，蔡益朝．数据挖掘中的聚类算法综述[J]．计算机应用研究，2007，24(1):10-13．

[4] 孙吉贵，刘杰，赵连宇．聚类算法研究[J]．软件学报，2008，19(1)：48-61．

[5] 冯晓蒲，张铁峰．四种聚类方法之比较[J]．微型机与应用，2010，16．

附录（源代码）

Matlab

%K-means算法主程序

k=3;

x= [0.224 0.624 0.067 0.043

0.749 0.502 0.627 0.541

0.557 0.541 0.847 1.000

0.110 0.502 0.051 0.043

0.722 0.459 0.663 0.584

0.776 0.416 0.831 0.831

0.196 0.667 0.067 0.043

0.612 0.333 0.612 0.584

0.612 0.416 0.812 0.875

0.055 0.584 0.067 0.082

0.557 0.541 0.627 0.624

0.165 0.208 0.592 0.667

0.027 0.376 0.067 0.043

0.639 0.376 0.612 0.498

0.667 0.208 0.812 0.710

0.306 0.710 0.086 0.043

0.196 0.000 0.424 0.376

0.612 0.502 0.694 0.792