第十二讲-2聚类分析

方法:有多种聚类方法 聚类结果的解释和证实
5
二、相似系数
意义:用相似系数度量指标和样品间的相似程度.
1.指标(变量)间的相似系数:
①变量为计量数据 相关系数(r)
rij
lx y lxx lyy
②变量为计数数据(等级或两分类)
列联系数(C)
2 C 2 n
二、相似系数
2.个体(样品)间的相似系数
34
分类变量和 连续变量
所有聚类变量 均是连续的
指定分类数
将分类结果 输出到文件
35
分类结果，多出来分类列变量
36ຫໍສະໝຸດ Baidu
聚类分析总结和注意问题
1，层次聚类：变量和记录聚类。聚类图，直观、便于解释
2，k-means 聚类：主要对记录（case）聚类。
在样品量较大时，计算速度快。但结果展示不直观。
3，用于数据的探索性分析，结果解释应密切结合专业知识， 同时尝试用多种聚类方法分类，获得结论。
均为计量数据
25
人为给出 分类数
保存分类 结果
标识变量
26
27
输出结果 结果1.初始类中心
系统产生的初始类中心
28
结果2.迭代过程中类中心的变化量
第一次迭代与初始类中心的距 离分别为52.265和45.793
共经过8次迭代完成聚类。当进行了第8次 迭代后，类中心几乎没有变化，结束聚类29
结果3.各观测量所属类成员表
4，聚类前应对变量作预处理，剔除无效变量以及缺失值过 多的变量。
5，一般需对变量作标准化变换，以消除量纲和变异大幅波
动的影响。
37
30
输出结果
结果4. 各变量均数在3类间的统计差别
三个变量中任意一个的类间均方都远大于误差均方， 三个变量使类间无差异的加深成立的概率均小于 0.05。表明，三个变量能很好的区分各类，类间差 异足够大。H0：类均值相等，类间无差异。
31
结果5. 各个体分类后的编号和例数
32
五、两步聚类Two step
特点如下： 分类变量和连续变量都可以参与两步聚类 可以自动确定分类数 预算速度快 两步： 第一步：预聚类对每个观测量考察一遍，确定
类中心 第二步：正式聚类，使用凝聚法对特征树的叶
节点分组 33
五、两步聚类Two step
条件： 变量独立：用相关分析检验两个连续变
量间的独立性；用列联表检查分类变量 间的独立性；用Means过程检验连续变 量和分类变量间的独立性 分类变量使多项式分布：卡方检验 连续变量是正态分布：K-S
（一）凝聚法（合并法）步骤:
1.将每个变量(样品)各视为一类. 2.将相似系数最大(距离最小)的两类合并新
类, 计算新类与其他类的类间相似系数.
3.重复第2步过程,直到全部合并为一类. SPSS提供此法
8
三、系统聚类(层次聚类)
(hierarchical clustering)
（二）分解法步骤: 1.将所有变量(样品)视为属于一大类. 2.将相似系数最小(距离最大)的类逐层
分解成新类. 3.重复第2步过程,直到每个个体自成一
类为止. 两种方法均是相近的聚为一类。
三、系统聚类(层次聚类)
(hierarchical clustering)
优点： 可对变量聚类，也可对记录聚类 变量可为连续也为分类变量 缺点： 数据量太大时，速度很慢
10
聚类用数据：245个记录，5个变量
16
聚类结果的验证和进一步分析
根据聚类树，究竟聚成几类合适？
考虑每类中含有的变量不能太少，相对均 衡
如何验证聚类结果？类间差异是否显著？ 各类的特征如何？将来如何结合专业解释 ？
进行方差分析或非参数检验，理想结果类间
差异有统计学意义
17
同样数据，记录聚类结果
18
在method中必须指定标准化方法
计量数据 计数变量 二值变量
对距离和相似性测度方法
聚类方法method选择 组间连接：between 组内连接within 最近邻法nearest 最远邻法futthest 重心聚类法centroid 中位数法median Ward最小方差法Ward 默认方法是非常稳健的 方法
指定哪两点间的距离作为确定是否合并的距离。
11
analyze
对变量聚类 对观测量聚类 为连续性变量
12
输出
Plots：统计图表
Dendrogram：树 形图
Icicle：冰柱图
显示方向
如果是记录聚类还 可以通过save生成 聚类结果变量
数据标准化问题
事先通过变量的描述 性统计分析确定数据 量纲间的差异性，决 定是否要标准化
标准化，聚类变量量纲不同，数量级相差太大，需要消 除量纲影响并增强数据可比性需进行数据标准化。 正态分布数据，采用Z分数法，Z Scores 若量纲同且差异不大，选默认值none，不进行标准化14 。
等间隔测度的变量选择连续变量距离测度方法Interval
离散分布的计数变量选择counts
15
对于二值变量选择Binary，1表示出现，0表示不出现
聚类谱系图（聚类树）
相对类间距离25
五类：五个变量各成一类； 四类：organic和CEC变量合并为一类 两类：organic和CECSANDFRAC一类，两外一类
第十二讲 聚类分析 （Cluster Analysis）
古语: “物以类聚”，“人以群分” 找出特征相似的类别，研究其规律性。
一、概 述
1.概念 聚类分析是将未知现象进行归类的多元
统计方法 。高度的组内一致性；高度的组 间异质性。
2.主要用途 对研究的事物分类或做探索性的研究。
目的: 通过分类,找出同类的共性和不同类 的差异,为决策提供参考.
19
20
四、快速样品聚类（k-均值聚类法） (k-means cluster)
用于数量较大的样品聚类.占用内存少， 处理速度快。
可以完全使用系统默认值执行该命令，也可 人为干预。
必须选择聚类的变量和类数，必须至少有一 个是数值型变量。
应该制定一个表明观测量特征的变量作为标 识变量，如编号、姓名等变量。
用个体间某变量(x)的距离(dij)表示: 欧氏距离:（Euclidean distance）
绝对 d ij ( xi x j ) 2 i和j表示不同个体
距离:
dij xi x j
距离越小,样品间相似程度越高.
7
三、系统聚类(层次聚类)
凝聚法
(hierarchical clustering) 分解法
22
快速聚类条件
23
快速样品聚类的原理
选k个凝聚点
初始分类
分类是否合理 是 最终分类
修改分类 否
24
快速样品聚类特点
优点： ✓ 用于数量较大的样品聚类.计算速度快. ✓ 提供统计检验比较类间的差异。 缺点：
✓ 不能自动确定类别数，根据经验确定或不 断调整类别（k）得到结果。
✓ 不能输出树状图信息,不直观. ✓ 只能对记录聚类。不能对变量聚类。变量
2
一、概述
3.类型 R型聚类：即变量聚类，对n个指标（变量
或variable ）归类(index-cluster-analysis)。 找出彼此独立有代表性的自变量，又不丢 失大部分信息。
Q型聚类：即样本聚类，对n个观察对象
（样品或case）归类(samples-cluster-
analysis)。
21
四、快速样品聚类 计算步骤
(k-means cluster)
1.事先人为指定分类数(k类).
2.根据数据本身的结构确定k类的原始中心点
(mean).
3.逐一计算每个记录到各个类别中心点的距离， 就近归类。计算新的中心点(用平均数表示).
4.根据新中心点(mean),计算各记录的距离.
5.重复3-4步.达到规定要求结束.
3
一、概述
4.聚类方法 根据分类样品(变量)的多少及特点。 1. 系统(层次)聚类---(例数少) 2. 非层次聚类：快速聚类（k-means） 3. 智能聚类
两步聚类---例数多（two steps） 神经网络的聚类---(自动确定类别) * SPSS软件可实现.
4
一、概述
5.步骤 选择变量 计算相似性：用距离系数或相关系数. 根据相似性对样品(变量)归类.