6-聚类分析

相似性统计指标
怎样衡量样品或者变量之间的相似性大小？假 定有N个样品，每个样品有P变量来描述，可测的 一个数组，以矩阵X表示：
比较N个样品间相似性的Q型聚类分析，实际上 是矩阵X的N列数据之间相似性对比；同理，p个变 量之间的相似性的R型分析，是矩阵X的p行之间的 比较。
矩阵X 矩阵X中任意两个样品或两个变量之间 的相似性，表现在以下三个基本方面： ①描述两个样品或变量的两列或两行对应元 素接近的程度 ②两列或两行对应元素成比例的程度 ③两列或两行对应元素消长关系的密切程度 因此，用于表示相似性的统计指标通常 有距离系数、相似系数及相关系数三种。
聚类分析的主要思想是：根据事物本身的特性研 究个体的分类，原则是同一类中的个体有较大的相似 性，不同类中的个体差异很大。 聚类分析的实质是建立一种分类方法，它能将一 批样本数据按照他们在性质上的亲密程度在没有先验 知识的情况下自动进行分类，这里的类就是一个具有 相似性的个体的集合，不同类之间具有明显的区别。 聚类分析是一种探索性的分析，在分类过程中， 人们不必事先给出一个分类的标准，聚类分析能够从 样本数据出发，自动进行分类，因此聚类分析不需要 建模。 在具体进行聚类分析时，出于不同的目的和要求， 可能选择不同的统计量和聚类方法，因此可出现不同 的聚类结果。
层次聚类法
层次聚类法或系统聚类法（hierarchical 层次聚类法或系统聚类法（hierarchical cluster）基本思想是：先将要归类的n cluster）基本思想是：先将要归类的n个样品 （或者变量）各自看成一类，共有n （或者变量）各自看成一类，共有n类；然后按照 事先规定好的方法计算分类统计量，即某种距离 或某种相似系数，将关系最密切的两类并为一类， 其余不变，即得n 其余不变，即得n-1类；又按前面使用的计算新类 与其它类的距离或者相似系数，又将关系最密切 的两类并成一类，其余不变，即得n 的两类并成一类，其余不变，即得n-2类；如此进 行下去，每次重复都减少一类，直到最后所有样 品（或者变量）归为一类为止。显然，越是后来 合并的类，距离就越远。最后再利用一些相应的 指标来确定聚为几类的结果是最为合适的。
在地质研究领域，由于地质对象的 复杂性，单靠定性标志或少量定量标 志进行分类，常常不能揭示客观事物 内在的本质差别和联系。很多分类常 具有很大的主观性和任意性，分类常 常不能反映客观实际，分类方案又经 常因人而异，因此，多元统计分析中 对客观事物进行分类的聚类方法已在 地质研究中取得日益广泛的应用。
距离系数（dik） 距离系数（
常用于Q 常用于Q型聚类分析 每个样品视为p维空间中的一点，d 相当于p 每个样品视为p维空间中的一点，dik相当于p维空间中两点 之间的距离，既两样品点接近的程度。聚类时聚类相近的 样本属于一个类，聚类远的样本属于不同的类。 常用的方法有： 欧氏距离(Euclidean） 欧氏距离(Euclidean）： (Euclidean 欧氏距离平方(Squared 欧氏距离平方(Squared Euclidean)：
在应用上述所有相似性统计指标计 算时，由于测定样品的各种特征所用 的量纲及各种标志值的变化幅度可能 不同。为了避免过分突出那些绝对值 较大的变量在分类中的作用，在进行 聚类分析之前，需要对原始数据进行 处理，应对数据进行标准化或 处理，应对数据进行标准化或正规化 变化。
聚类方法的选择
有了上面的点间距离和类间距离的概念，就可 以介绍聚类的方法了。这里介绍两个简单的方法。 传统的聚类方法大致可以分为两大类， 一类是层次聚类法（Hierarchical）， 一类是层次聚类法（Hierarchical）， 另一类是重新定位聚类法（Relocation），也称非 另一类是重新定位聚类法（Relocation），也称非 层次聚类法。
聚类分析
聚类分析（ analysis） 聚类分析（Cluster analysis）
俗语说，物以类聚、人以群分。分类学是人 类认识世界的基础科学。人类认识世界的一个重 要方法就是对所认识的对象进行分类。人们在认 识世界的过程中，需要把某些方面相似的东西归 成类，以便从中发现规律性，寻找其中共同与不 同的特征。早先分类主要是凭借经验和本学科专 业知识，做些定性分类，很少利用数据进行定量 分类的研究。随着现代科学的迅猛发展，对分类 的要求越来越高，利用数据本身的特性进行定量 分类的数值分类应运而生。尤其是电子计算机的 分类的数值分类应运而生。尤其是电子计算机的 应用，利用数学方法研究分类不仅非常必要，而 且成为可能。聚类分析是数值分类的重要方法， 被广泛地应用于自然科学、社会科学、工农业生 产的各个领域。
当有一个分类指标时，分类比较容易。 但是当有多个指标，要进行分类就不是很容 易了。 比如，要想把中国的县分成若干类，可以按 照自然条件来分：考虑降水、土地、日照、湿度 等各方面；也可以考虑收入、教育水准、医疗条 件、基础设施等指标； 对于多指标分类，由于不同的指标项对重要 程度或依赖关系是相互不同的，所以也不能用平 均的方法，因为这样会忽视相对重要程度的问题。 所以需要进行多元分类，即聚类分析。
显然，这一系列的聚类结果间存在着嵌套， 或者说层次的关系，因此这一类方法的名称 被称为层次聚类法。 由于这种结果上的层次关系，整个分析过程， 特别是每一步中完成的合并都可以用一张二 维空间的图形来表示，这种图被称为“ 维空间的图形来表示，这种图被称为“树状 图”，是层次聚类法结果解释的重要工具。 即可进行样品的聚类，也可进行变量的聚类。 SPSS为层次聚类法提供了很好的支持，具体 SPSS为层次聚类法提供了很好的支持，具体 的过程为菜单中的
如果想要对100个学生进行分类， 如果想要对100个学生进行分类，如果仅仅 知道他们的数学成绩， 知道他们的数学成绩 ， 则只好按照数学成 绩来分类；这些成绩在直线上形成100个点。 绩来分类；这些成绩在直线上形成100个点。 这样就可以把接近的点放到一类。 这样就可以把接近的点放到一类。 如果还知道他们的物理成绩， 如果还知道他们的物理成绩 ， 这样数学和 物理成绩就形成二维平面上的100个点， 物理成绩就形成二维平面上的100个点，也 可以按照距离远近来分类。 可以按照距离远近来分类。 三维或者更高维的情况也是类似；只不过 三维以上的图形无法直观地画出来而已。 三维以上的图形无法直观地画出来而已。
类Gp与类Gq之间的距离Dpq 与类G 之间的距离D 表示点x 之间的距离) (d(xi,xj)表示点xi∈ Gp和xj ∈ Gq之间的距离) 最短距离法: 最短距离法: 最长距离法: 最长距离法: 重心法: 重心法: 类平均法: 类平均法: 离差平方和法。 离差平方和法。
相似性系数
常用于Q型聚类分析，是把第i、k样品看成p维空间中的 两向量，两个样品之间的相似程度可由其向量间夹角的余 弦来表示，公式为
两个距离概念
按照远近程度来聚类需要明确两个概念：一个是点和点 按照远近程度来聚类需要明确两个概念：一个是点和点 之间的距离，一个是类和类之间的距离。 之间的距离，一个是类和类之间的距离。 点间距离有很多定义方式。最简单的是欧氏距离， 点间距离有很多定义方式。最简单的是欧氏距离，还有 其他的距离。 其他的距离。 当然还有一些和距离相反但起同样作用的概念， 当然还有一些和距离相反但起同样作用的概念，比如相 似性等，两点相似度越大，就相当于距离越短。 似性等，两点相似度越大，就相当于距离越短。 由一个点组成的类是最基本的类；如果是类间距离。但是如果某一 类包含不止一个点，那么就要确定类间距离， 类包含不止一个点，那么就要确定类间距离， 类间距离是基于点间距离定义的：比如两类之间最近点 类间距离是基于点间距离定义的：比如两类之间最近点 之间的距离可以作为这两类之间的距离，也可以用两类 之间的距离可以作为这两类之间的距离，也可以用两类 中最远点之间的距离作为这两类之间的距离；当然也可 中最远点之间的距离作为这两类之间的距离；当然也可 以用各类的中心之间的距离来作为类间距离。在计算时， 以用各类的中心之间的距离来作为类间距离。在计算时， 各种点间距离和类间距离的选择是通过统计软件的选项 实现的。不同的选择的结果会不同，但一般不会差太多。 实现的。不同的选择的结果会不同，但一般不会差太多。
式中：i、j＝1，2，…,n（i≠k）为样品号，k＝ 1，2，…，p为变量号。
相关系数
多用于R 多用于R型聚类分析以表示研究对象之 间的相关性，其公式为：
式中：k 式中：k＝1，2，…,p（t≠j）为变量 ,p（t≠j）为变量 号;i,j＝1，2，…，n为样品号。r的取值范围是 ;i,j＝ 为样品号。r ＋1与－1之间，|r|值越大表示两变量之间关系 与－1之间，|r|值越大表示两变量之间关系 越密；｜r|值越小表示关系越不密切 越密；｜r|值越小表示关系越不密切
“Analyze→Classify→Hierarchical Cluster” Cluster”
非层次聚类法
非层次聚类法中以K 均值聚类法（ 非层次聚类法中以K-均值聚类法（K-means Clustering）最为常用，该方法也被称为快速聚 Clustering）最为常用，该方法也被称为快速聚 类法，SPSS中提供的也正是这种方法，具体式菜 类法，SPSS中提供的也正是这种方法，具体式菜 单中的“Analyze→Classify→K单中的“Analyze→Classify→K-Means Cluster” Cluster” K-均值聚类法，类别个数需要在分析前就加 以确定，整个分析过程使用迭代的方式进行，首 先起步于一个初始的分类，然后通过不断的迭代 把数据在不同类别之间移动，直到最后达到一定 的标准为止，整个计算过程中不需要存储基本数 据或者距离矩阵，因此不会出现多个互相嵌套的 聚类结果，而计算速度也要快得多。
Chebychev: max|xi-yi| Block(绝对距离 绝对距离): Σ|xi-yi| 绝对距离 Minkowski： ：
Customized距离(用户自定义距离) Customized距离(用户自定义距离)： 距离