薛薇第四版SPSS第十章

0
c
d
聚类分析概述
•
品质型个体间的距离
•
简单匹配(simple matching)系数:适用二值变量。
姓名 授课方式 上机时间 选某门课程
张三
李四 王五
1
1 0
1
1 0
1
0 1
（张三，李四）：a=2 b=1 c=0 d=0 d(x,y)=1/(1+2)=1/3
（张三，王五）：a=1 b=2 c=0 d=0 d(x,y)=2/(1+2)=2/3 张三距李四近

聚类分析概述
依据平均得分的
差距,差距较小的 为一类.
分类过程中,没有
编号 A B C D E
购物环境 服务质量 73 68 66 84 91 94 69 82 88 90
事先指定分类的标 准.完全根据样本 数据客观产生分类 结果.
两类:(A B) (C D E) 三类:(A B) (C) (D E)
分层聚类

聚类数目的确定 聚类数目确定尚无统一标准，一般原则： 各类所包含的元素都不应过多 分类数目应符合分析的目的 分层聚类中可以将类间距离作为确定类数目的辅 助工具 聚类过程中类间距离呈增加趋势 类间距离小，类的相似性大；距离大，相似性 小 绘制碎石图（X轴为类距离，Y轴为类数）
聚类分析概述
•
品质型个体间的距离
姓名
张三 李四 王五
授课方式 上机时间 选某门课程
1 1 0 1 1 0 1 0 1
聚类分析概述

品质型个体间的距离

简单匹配(simple matching)系数:适用二值变 量。
d (i , j ) bc abcd
个体j
1
个体i
0 b
1
a
a为个体i与个体j在所有变量上同时 取1的个数；d为同时取0的个数 特点：排除同时拥有或同时不拥有某 特征的情况；取0和1地位等价，编码 方案的变化不会引起系数的变化。
分层聚类

聚类过程具有一定的层次性，某个类是另个类的子 类 以合并(凝聚)的方式聚类(SPSS采用) 首先,每个个体自成一类 其次,将最“亲密”的个体聚成一小类 然后,将最“亲密”的小类或个体再聚成一类 重复上述过程,即：把所有的个体和小类聚集成越 来越大的类，直到所有的个体都到一起(一大类) 为止 随着聚类的进行,类内的“亲密”性在逐渐减低
5.重复3步和4步，直到达到指定的迭代次数或达到终止 迭代的条件

达到指定迭代次数(maximum iteration),默认10次。 收敛标准(convergence),默认0.02，即：本次迭代产生的 任意新类,各中心位置变化较小.其中最大的变化率小于2%.

K-means快速聚类
……..
聚类分析概述

品质型个体间的距离 –卡方距离:计数变量
姓名 选修课门 数（期望频数 ） 专业课门 数（期望频 数） 得优门 数（期望 频数） 合计
张三
9（8.5）
6（6）
4（4.5）
19
李四
8（8.5）
6（6）
5（4.5）
19
合计
17
12
9
38
(
(9 8.5) 2 (6 6) 2 (4 4.5) 2 8 8.5) 2 (6 6) 2 (5 4.5) 2 )( ) 4.12 8.5 6 4.5 8.5 6 4.5
分层聚类

个体和小类、类和类间的距离 平均链锁法(within-groups linkage) 两类之间的距离定义为两类个案之间距离的 平均值。包括： 组间平均链锁法(between-groups linkage) :只 考虑两类间个案的距离 组内平均链锁法（With-groups linage)：考虑 所有个案间的距离
K-means快速聚类

出发点：希望克服分层聚类在大样本时产生的困 难，提高聚类效率
做法： 通过用户事先指定聚类数目的方式提高效率 因此，分层聚类可以对不同的聚类数而产生一 系列的聚类解，而快速聚类只能产生单一的聚 类解

思路： 1.指定最后要聚成K类

2.指定k个样本作为初始类中心
3.按照距k个中心距离最近的原则把每个样本分派到各 中心所在的类中去,形成一个新的k类，完成一次迭代 4.重新计算k个类的类中心(计算每类各变量的均值,以 均值点作为类中心)
聚类分析概述


亲疏远程度的衡量指标 相似性:数据间相似程度的度量 距离: 数据间差异程度的度量.距离越近,越“亲 密”,聚成一类;距离越远,越“疏远”,分别属于 不同的类 定距型个体间的距离： 把每个个案数据看成是n维空间上的点,在点和点 之间定义某种距离.一般适用于定距数据 k 欧氏距离(EUCLID) EUCLID( x, y ) ( xi yi )2 i 1 平方欧氏距离(SEUCLID)
聚类分析概述

说明： 聚类过程中如果数据在数量级上存在差异时，应进 行标准化处理。例如:
样本号 社科活动人 研究与发展年 研究与发展 员数(人) 投入经费(元) 课题数(项) 1 410 4380000 19 2 336 1730000 21 3 490 220000 8
（1，2） （1，3） （2，3）
性别
男 女
姓名
张三 李四
发烧 咳嗽 检查1 检查2 检查3 检查4
1 1 0 0 1 1 0 0 0 1 0 0
王五
d (张三 , 李四)
男
1
1
0
0
wenku.baidu.com
0
0
0 1 11 0.33 d (张三 , 王五 ) 0.67 2 0 1 1 0 1 1 2 结论:张三和李四最有可能得类似 d (李四, 王五 ) 0.75 11 2 的病;李四和王五不太有可能
聚类分析概述

品质型个体间的距离

根据临床表现研究病人是否有类似的病
性别
男 女
姓名
张三 李四
发烧 咳嗽 检查1 检查2 检查3 检查4
1 1 0 0 1 1 0 0 0 1 0 0
王五
……..
男
1
1
0
0
0
0
聚类分析概述

品质型个体间的距离

雅科比（Jaccard）系数:适用二值变量
J (i , j ) bc abc

“亲疏”程度的衡量对象 个体间距离 个体和小类间、小类和小类间的距离 最短距离法(nearest neighbor): 两类间的距离定义为两类中距离最近的两 个个案之间的距离 最长距离法(furthest neighbor) ： 两类间的距离定义为两类中距离最远的两 个个案之间的距离
样本的欧氏距离 元 十万元 265000 74.07 416000 80.86 151000 154.56
聚类分析概述

说明： 聚类分析中的变量选择问题 变量应和聚类分析的目标密切相关，聚类结 果仅是所选定变量所具数据特点的反应 变量之间不应具有高度相关性 ,否则相当于给 这些变量进行了加权 聚类分析包括： 个案聚类(Q型)和变量聚类(R型)
第十章
SPSS的聚类分析
聚类分析概述

概念： 聚类分析是统计学中研究“物以类聚”的一种 方法,属多元统计分析方法. 例如：细分市场、消费行为划分 聚类分析是建立一种分类，是将一批样本(或变量) 按照在性质上的“亲疏”程度,在没有先验知识的 情况下自动进行分类的方法.其中:类内个体具有较 高的相似性,类间的差异性较大.
分层聚类

以分解的方式聚类 首先,所有个体都属于一类 其次,将大类中最“疏远”的小类或个体分离 出去 然后,分别将小类中最“疏远”的小类或个体 再分离出去 重复上述过程,即：把类分解成越来越小的小 类，直到所有的个体自成一类为止 随着聚类的进行,类内的亲密性在逐渐增强
分层聚类
个体j
a为个体i与个体j在所有变量上同时 取1的个数；d为同时取0的个数
1
个体i
0 b
1
a
0
c
d
特点：排除同时不拥有某特征的情 况；取1的状态比取0更有意义(如: 临床检验中的阳性特征)；编码方案 会引起系数的变化
聚类分析概述

品质型个体间的距离

Jaccard系数举例:根据临床表现研究病人是否 有类似的病