应用多元统计分析习题解答聚类分析

应用多元统计分析习题解答聚类分析TPMK standardization office【 TPMK5AB- TPMK08- TPMK2C- TPMK18】第五章 聚类分析5.1 判别分析和聚类分析有何区别？答：即根据一定的判别准则，判定一个样本归属于哪一类。

具体而言，设有n 个样本，对每个样本测得p 项指标（变量）的数据，已知每个样本属于k 个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。

聚类分析是分析如何对样品（或变量）进行量化分类的问题。

在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。

通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。

5.2 试述系统聚类的基本思想。

答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。

5.3 对样品和变量进行聚类分析时， 所构造的统计量分别是什么？简要说明为什么这样构造？答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。

因为我们把n 个样本看作p 维空间的n 个点。

点之间的距离即可代表样品间的相似度。

常用的距离为 （一）闵可夫斯基距离：1/1()()pq qij ik jk k d q XX ==-∑ q 取不同值，分为（1）绝对距离（1q =）（2）欧氏距离（2q =）（3）切比雪夫距离（q =∞）（二）马氏距离（三）兰氏距离对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。

将变量看作p 维空间的向量，一般用（一）夹角余弦（二）相关系数5.4 在进行系统聚类时，不同类间距离计算方法有何区别？选择距离公式应遵循哪些原则？答： 设d ij 表示样品X i 与X j 之间距离，用D ij 表示类G i 与G j 之间的距离。

（1）. 最短距离法（2）最长距离法（3）中间距离法 22222121pq kq kp kr D D D D β++=其中（4）重心法 （5）类平均法（6）可变类平均法其中?是可变的且? <1（7）可变法22221()2kr kp kq pq D D D D ββ-=++ 其中?是可变的且? <1 （8）离差平方和法通常选择距离公式应注意遵循以下的基本原则：（1）要考虑所选择的距离公式在实际应用中有明确的意义。

如欧氏距离就有非常明确的空间距离概念。

马氏距离有消除量纲影响的作用。

（2）要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。

如在进行聚类分析之前已经对变量作了标准化处理，则通常就可采用欧氏距离。

（3）要考虑研究对象的特点和计算量的大小。

样品间距离公式的选择是一个比较复杂且带有一定主观性的问题，我们应根据研究对象的特点不同做出具体分折。

实际中，聚类分析前不妨试探性地多选择几个距离公式分别进行聚类，然后对聚类分析的结果进行对比分析，以确定最合适的距离测度方法。

2222(1)()p q kr kp kq pq r r n n D D D D n n ββ=-++5.5试述K 均值法与系统聚类法的异同。

答：相同：K —均值法和系统聚类法一样，都是以距离的远近亲疏为标准进行聚类的。

不同：系统聚类对不同的类数产生一系列的聚类结果，而K —均值法只能产生指定类数的聚类结果。

具体类数的确定，离不开实践经验的积累；有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K —均值法确定类数的参考。

5.6 试述K 均值法与系统聚类有何区别？试述有序聚类法的基本思想。

答：K 均值法的基本思想是将每一个样品分配给最近中心（均值）的类中。

系统聚类对不同的类数产生一系列的聚类结果，而K —均值法只能产生指定类数的聚类结果。

具体类数的确定，有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K 均值法确定类数的参考。

有序聚类就是解决样品的次序不能变动时的聚类分析问题。

如果用)()2()1(,,,n X X X 表示n 个有序的样品，则每一类必须是这样的形式，即)()1()(,,,j i i X X X +，其中,1n i ≤≤且n j ≤，简记为},,1,{j i i G i +=。

在同一类中的样品是次序相邻的。

一般的步骤是（1）计算直径{D （i,j ）}。

（2）计算最小分类损失函数{L[p(l,k)]}。

(3)确定分类个数k 。

（4）最优分类。

5.7 检测某类产品的重量， 抽了六个样品， 每个样品只测了一个指标，分别为1，2，3，6，9，11.试用最短距离法，重心法进行聚类分析。

（1）用最短距离法进行聚类分析。

采用绝对值距离，计算样品间距离阵1 02 1 05 4 3 08 7 6 3 010 9 8 5 2 0由上表易知中最小元素是于是将，，聚为一类，记为计算距离阵3 06 3 08 5 2 0中最小元素是=2 于是将，聚为一类，记为计算样本距离阵3 06 3 0中最小元素是于是将，聚为一类，记为因此，（2）用重心法进行聚类分析计算样品间平方距离阵1 04 1 025 16 9 064 49 36 9 0100 81 64 25 4 0易知中最小元素是于是将，，聚为一类，记为计算距离阵16 049 9 081 25 4 0注：计算方法,其他以此类推。

中最小元素是=4 于是将，聚为一类，记为计算样本距离阵16 064 16 0中最小元素是于是将，聚为一类，记为因此，5.8 下表是15个上市公司2001年的一些主要财务指标，使用系统聚类法和K－均值法分别对这些公司进行聚类，并对结果进行比较分析。

解:令净资产收益率为X1，每股净利润X2，总资产周转率为X3，资产负债率为X4，流动负债比率为X5，每股净资产为X6，净利润增长率为X7，总资产增长率为X8，用spss对公司聚类分析的步骤如下：a)系统聚类法:1.在SPSS窗口中选择Analyze→Classify→Hierachical Cluster，调出系统聚类分析主界面，并将变量X8-X1移入Variables框中。

在Cluster栏中选择Cases单选按钮，即对样品进行聚类（若选择Variables，则对变量进行聚类）。

在Display栏中选择Statistics和Plots复选框，这样在结果输出窗口中可以同时得到聚类结果统计量和统计图。

图5.1 系统分析法主界面2.点击Statistics按钮，设置在结果输出窗口中给出的聚类分析统计量。

我们选择Agglomeration schedule与Cluster Membership中的Range of solution 2-4，如图5.2所示，点击Continue按钮，返回主界面。

（其中，Agglomeration schedule表示在结果中给出聚类过程表，显示系统聚类的详细步骤；Proximity matrix 表示输出各个体之间的距离矩阵；ClusterMembership 表示在结果中输出一个表，表中显示每个个体被分配到的类别，Range of solution 2-4即将所有个体分为2至4类。

）3.点击Plots按钮，设置结果输出窗口中给出的聚类分析统计图。

选中Dendrogram复选框和Icicle栏中的None单选按钮，如图5.3，即只给出聚类树形图，而不给出冰柱图。

单击Continue按钮，返回主界面。

图5.2 Statistics子对话框图5.3 Plots子对话框4.点击Method按钮，设置系统聚类的方法选项。

Cluster Method下拉列表用于指定聚类的方法，这里选择Between-group inkage（组间平均数连接距离）；Measure栏用于选择对距离和相似性的测度方法，选择Squared Euclidean distance（欧氏距离）；单击Continue按钮，返回主界面。

图5.4 Method子对话框图5.5 Save子对话框5.点击Save按钮，指定保存在数据文件中的用于表明聚类结果的新变量。

None表示不保存任何新变量；Single solution表示生成一个分类变量，在其后的矩形框中输入要分成的类数；Range of solutions表示生成多个分类变量。

这里我们选择Range of solutions，并在后面的两个矩形框中分别输入2和4，即生成三个新的分类变量，分别表明将样品分为2类、3类和4类时的聚类结果,如图5.5。

点击Continue，返回主界面。

6.点击OK按钮，运行系统聚类过程。

聚类结果分析:下面的群集成员表给出了把公司分为2类，3类，4类时各个样本所属类别的情况，另外，从右边的树形图也可以直观地看到，若将15个公司分为2类，则13独自为一类，其余的为一类；若分为3类，则公司8分离出来，自成一类。

以此类推。

表5.1 各样品所属类别表图5.6 聚类树形图b)K均值法的步骤如下：1.在SPSS窗口中选择Analyze→Classify→K-Means Cluster，调出K均值聚类分析主界面，并将变量X1-X8移入Variables框中。

在Method框中选择Iterate classify，即使用K-means算法不断计算新的类中心，并替换旧的类中心（若选择Classify only，则根据初始类中心进行聚类，在聚类过程中不改变类中心）。

在Number of Cluster后面的矩形框中输入想要把样品聚成的类数，这里我们输入3，即将15个公司分为3类。

（Centers按钮，则用于设置迭代的初始类中心。

如果不手工设置，则系统会自动设置初始类中心，这里我们不作设置。

）图5.7 K均值聚类分析主界面2.点击Iterate按钮，对迭代参数进行设置。

Maximum Iterations参数框用于设定K-means算法迭代的最大次数，输入10，Convergence Criterion参数框用于设定算法的收敛判据，输入0，只要在迭代的过程中先满足了其中的参数，则迭代过程就停止。

单击Continue，返回主界面。

图5.8 Iterate子对话框3.点击Save按钮，设置保存在数据文件中的表明聚类结果的新变量。

我们将两个复选框都选中，其中Cluster membership选项用于建立一个代表聚类结果的变量，默认变量名为qcl_1；Distance from cluster center选项建立一个新变量，代表各观测量与其所属类中心的欧氏距离。

单击Continue按钮返回。

图5.9 Save子对话框4.点击Options按钮，指定要计算的统计量。

选中Initial cluster centers和Cluster information for each case复选框。