第二章作业聚类分析

第二章作业1.画出给定迭代次数为n的系统聚类法的算法流程框图. 答：算法流程图如下：2.对如下5个6维模式样本，用最小距离准则进行系统聚类分析： x 1: 0, 1, 3, 1, 3, 4 x 2: 3, 3, 3, 1, 2, 1 x 3: 1, 0, 0, 0, 1, 1 x 4: 2, 1, 0, 2, 2, 1x 5: 0, 0, 1, 0, 1, 0解：将每一样本看成单独一类，得(0)11{}G x =， (0)22{}G x =，(0)33{}G x = (0)44{}G x =， (0)55{}G x =计算各类之间的欧式距离，可得距离矩阵(0)D (表1-1)。

表1-1① 矩阵(0)D，它是(0)3G 和(0)5G 之间的距离，将它们合并为一类，得到新的分类为(1)(0)11{}G G =，(1)(0)22{}G G =，(1)(0)(0)335{,}G G G = (1)(0)44{}G G =计算聚类后的距离矩阵(1)D 。

按最小距离准则，分别计算(0)3G 与(1)1G 、(1)2G 、(1)4G ，(0)5G 与(1)1G 、(1)2G 、 (1)4G 之间的两种距离，并选用最小距离。

如(1)(0)(1)(0)(1)133151min{D G G G G =与的距离，与的距离}}=5 由此可求得距离矩阵(1)D (表1-2)② 距离矩阵(1)D ，它是(1)3G 和(1)4G 之间的距离，于是合并(1)3G 和(1)4G ，得到新的分类为(2)(1)11{}G G =，(2)(1)22{}G G =，(2)(1)(1)334{,}G G G =按最小距离准则计算距离矩阵(2)D ，得表1-3表1-3选择距离阈值(2)D 则算法停止，得到聚类结果G 1(2)={X1} G 2(2) ={X2} G 3(2)={X3，X5, X4}。

3. 模式样本如下：{X1(0,0),X2(1,0),X3(0,1),X4(1,1),X5(2,1),X6(1,2),X7(2,2),X8(3,2),X9(6,6),X10(7,6),X11(8,6), X12(6,7), X13(7,7), X14(8,7), X15(9,7), X16(7,8), X17(8,8), X18(9,8), X19(8,9), X20(9,9). 选K=2，11210(1)=(00),(1)(76)ttz x z x ===，用K —均值算法进行分类。

解：第一步：选K=2,并选11(1)=(00)tz x =，210(1)(76)t z x ==第二步：因12(1)(1)i i x z x z -<-P P P P ，i=1,2, …,8，故1(1),1,2,,8i x S i ∈=K 又12(1)(1)i i x z x z ->-P P P P ，i=9,10, …,20，故2(1),9,10,,20i x S i ∈=K 得 },...,{)1(8211x x x S =，},...,{)1(201092x x x S = 第三步：计算新的聚类中心181(1)1111(2)(1.25 1.13)8t i x S i z x x N ∈====∑∑ 2202(1)9211(2)(7.677.33)12t i x S i z x x N ∈====∑∑ 第四步：(2)(1),1,2,j j z z j ≠=故回到第二步。

第二步：从新的聚类中心，得12(2)(2)i i x z x z -<-P P P P i=1,2, …,8，故1(1),1,2,,8i x S i ∈=K 12(1)(1)i i x z x z ->-P P P P i=9,10, …,20，故2(1),9,10,,20i x S i ∈=K得 1128(2){,,...}S x x x =，291020(2){,,...}S x x x =第三步：计算聚类中心181(2)1111(3)(1.25 1.13)8t i x S i z x x N ∈====∑∑ 2202(2)9211(3)(7.677.33)12t i x S i z x x N ∈====∑∑ 第四步：(3)(2),1,2,j j z z j ==所以聚类算法收敛，得聚类中心为1(1.25 1.13)tz =， 2(7.677.33)t z =最终聚类结果为：},...,{8211x x x S =，},...,{201092x x x S = 4.编写K-均值聚类算法程序，对下图所示数据进行聚类分析(选k=2)。

clear all ; close all ;Data=[0 0 1 1 1 2 2 3 6 6 7 7 7 8 8 8 8 9 9 9 0 1 0 1 2 1 2 2 6 7 6 7 8 6 7 8 9 7 8 9;]; [DataRow,DataColumn]=size(Data); Step=10;NumKind=2;Center=Data(:,1:NumKind);[KindData,KindNum]=Clustering(Center,Data);NewCenter=CaculateCenter(KindData,KindNum,DataRow);while (sum(sum(NewCenter~=Center))) & StepCenter=NewCenter;[KindData,KindNum]=Clustering(Center,Data);NewCenter=CaculateCenter(KindData,KindNum,DataRow);Step=Step-1;endfor i=1:NumKindKindData(:,1:KindNum(i),i)end%计算聚类中心function NewCenter=CaculateCenter(KindData,KindNum,DataRow) TotalKindNum=length(KindNum);NewCenter=zeros(DataRow,TotalKindNum);for i=1:TotalKindNumTemp=KindData(:,1:KindNum(i),i);NewCenter(:,i)=sum(Temp')'/KindNum(i);end%聚类function [KindData,KindNum]=Clustering(Center,Data)[DataRow,DataColumn]=size(Data);[CenterRow,CenterColumn]=size(Center);KindData=zeros(DataRow,DataColumn,CenterColumn);KindNum=linspace(0,0,CenterColumn);for i=1:DataColumnDistance=linspace(0,0,CenterColumn);for j=1:CenterColumnfor k=1:DataRowDistance(j)=Distance(j)+(Data(k,i)-Center(k,j)).^2;endendDistance=sqrt(Distance);[X,Y]=min(Distance);KindData(:,KindNum(Y)+1,Y)=Data(:,i);KindNum(Y)=KindNum(Y)+1;endans =0 0 1 1 1 2 2 30 1 0 1 2 1 2 2ans =6 67 7 78 8 8 89 9 96 7 6 7 8 6 7 8 9 7 8 9 5.画出ISODATA的的流程图。

第八步分裂运算具体算法：第十一步合并处理具体算法：6.试用ISODATA 对如下模式进行聚类分析：{x1(0,0), x2(3,8),x3(2,2), x4(1,1), x5(5,3), x6(4,8), x7(6,3), x8(5,4), x9(6,4), x10(7,5)} 解：第一步：已知N=10，n=2；取参数K=3, c N =1，1(00)t z =N θ=1，S θ=1，c θ=1，L=1，I=6。

第二步：因只有一个聚类中心，故11210{,,,}S x x x =K 和1N =10。

第三步：因1N >N θ，所以无子集可抛弃。

第四步：修改聚类中心 1111(3.93.8)t x S z x N ∈==∑第五步：计算j D 11111 3.0749x S D x zN ∈=-=∑P P第六步：计算D D =1D =3.0749第七步：因为还不是最后一次迭代，且c N <K/2，故进入第八步。

第八步：求1S 中的标准差向量 t 1(2.21132.5219)σ=第九步：1σ中的最大分量是2.5219，因此1max 2.5219σ=。

第十步：因为1max σ>S θ，且c N <K/2，可将1z 分裂成两个新的聚类。

设1max 0.5 1.2610j r σ=≈，则1(3.9 5.1)tz +=， 1(3.9 1.5)t z -=分别记为1z 和2z ，且c N =2，跳回到第二步。

第二步：新的样本集为1268910{,,,,.}S x x x x x =，213457{,,,,}S x x x x x = 则1N =5，2N =5 第三步：因为1N 和2N 都大于N θ，无子集可抛弃。

第四步：修改聚类中心 1(55.8)t z =，2(2.8 1.8)t z =第五步：计算j D ，j=1,2 111112.2806x S D x zN ∈=-=∑P P ，22221 2.4093x S D x zN ∈=-=∑P P第六步：计算D21111 2.34510c N j j j j j j D N D N D N =====∑∑ 第七步：因为这是偶次迭代，进入第十一步。

第十一步：计算聚类中心之间的距离 1212 4.5651D z z =-=P P 第十二步：比较12D 与c θ，12D >c θ.第十三步：聚类中心不能合并。

第十四步：因聚类之间的分离度大于类内样本分离的标准差，且每一子集的样本数目都具有样本总数中的足够大的百分比，所以不需修改给定的参数。

回到第二步。

第二步：新的样本集为12678910{,,,,,}S x x x x x x =，21345{,,,}S x x x x =且1N =6，2N =4。

因为1N 和2N 都大于N θ，无子集可抛弃。

第四步：修改聚类中心1(5.175.33)t z =，2(2 1.5)t z =第五步：计算j D ，j=1,2 11111 2.2673x S D x z N ∈=-=∑P P ，22221 1.868x S D x zN ∈=-=∑P P第六步：计算D21111 2.107610c N j j j j j j D N D N D N =====∑∑ 第七步：因不满足任何一个条件，直接进入第八步。