聚类分析法

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2015/11/16 3
1.1 聚类与聚类分析
1.1.2聚类分析的原理 (1)聚类分析的定义 聚类分析是将样品或变量按照它们性质上的亲疏程度 进行分类的多元统计分析方法。进行聚类分析时,用来描述 物品或变量的亲疏程度通常有两个途径,一个是把每个样品 或变量看成是多维空间上的一个点,在多维坐标中,定义点 与点,类与类之间的距离,用点与点间距离来描述作品或变 量之间的亲疏程度;二是计算样品或变量的相似系数,用相 似系数来描述样品或变量之间的亲疏程度。
2015/11/16
11
xij
1.1 聚类与聚类分析
1.1.2聚类分析的原理 (3)距离以及相似系数的选择原则 一般说来,同一批数据采用不同的相似性尺度,就 会得到不同的分类结果,这主要是因为不同指标代表了不同 意上的相似性。因此在进行数值分类时,应注意相似性尺度 的选择,选择的基本原则是: ①所选择的相似性尺度在实际应用中应有明确的意 义。
2015/11/16
进行了规格化变换后的数据特点是 , 将每列的最大数
9
xij
1.1 聚类与聚类分析
1.1.2聚类分析的原理 ▪对数变换 对数变换主要是对原始数据取对数。即
对数变换后的数据特点是,可将具有指数特征的数据结 构化为线性数据结构。
2015/11/16
10
xij
1.1 聚类与聚类分析
2015/11/16
4
1.1 聚类与聚类分析
(2)聚类分析的种类 聚类分析按照分组理论依据的不同,可分为系统聚类法、动态聚类法、模 糊聚类、图论聚类等多种聚类方法。 ①系统聚类分析法。是在样品距离的基础上定义类与类的距离,首先将n个 样品自成一类,然后每次将具有最小距离的两个类合并,合并后再重新计算类 与类之间的距离,再并类,这个过程一直持续到所有的样品都归为一类为止。 这种聚类方法称为系统聚类法。根据并类过程所做的样品并类过程图称为聚类 谱系图。 ②动态聚类分析法。是将n个样品初步分类,然后根据分类函数尽可能小的 原则,对初步分类进行调整优化,直到分类合理为止。这种分类方法一般称为 动态聚类法,也称调优法。 ③模糊聚类分析法。是利用模糊数学中模糊集理论来处理分类问题的方法, 他对经济领域中具有模糊特征的两态数据或多态数据具有明显的分类效果。 ④图论聚类分析法。是利用图论中最小支撑树(MST)的概念来处理分类问 题,是一种独具风格的方法。
2015/11/16
26
1.2 聚类分析的种类
(3)分类函数
2015/11/16
27
1.2 聚类分析的种类
2.动态聚类分析步骤 (1)首先将原始数据进行标准化处理; (2)选择预定数目凝聚点进行初始分类; ( 3 )计算每一类的重心,将重心作为凝聚点,然后计 算每一个样品与重心凝聚点的距离,并将它归入与凝聚点 距离最近的那一类别。每归入一个样品之后,重新计算该 类的重心,并用新计算的重心替代原凝聚点,如果新凝聚 点与老凝聚点重合,则分类过程终止。
聚类分析法
以《国内近十年数字图书馆领域研究热点分 析_基于共词分析》为例
1.1 聚类与聚类分析 1.2 聚类分析的种类 1.3 聚类分析实例
1.1.1聚类分析的含义 (1)含义 “物以类聚,人以群分”,在自然科学和社会科学中, 存在着大量的分类问题。所谓类,通俗地说,就是指相似元 素的集合。 聚类(clustering)是对大量未知标注的数据集,按数据 的内在相似性将数据集划分为多个类别,使类别内的数据相 似度较大而类别间的数据相似度较小,其过程被称为聚类。 (2)聚类分析的作用 聚类是根据“物以类聚”的原理,将本身没有类别的样 本聚集成不同的组,这样的一组数据对象的集合叫做簇,并 且对每一个这样的簇进行描述的过程。
③用密度法选择凝聚点。
2015/11/16 23
1.2 聚类分析的种类
(2)初始分类
有了凝聚点以后接下来就要进行初始分类,同样获得 初始分类也有不同的方法。需要说明的是,初始分类不一 定非通过凝聚点确定不可,也可以依据其他原则分类。 以下是其他几种初始分类方法: ①人为分类,凭经验进行初始分类。 ②选择一批凝聚点后,每个样品按与其距离最近的
2015/11/16
30
2.模糊聚类分析步骤 第二步:建立模糊相似矩阵。
2015/11/16
31
2.模糊聚类分析步骤 第三步:获得模糊分类关系。
2015/11/16
32
2.模糊聚类分析步骤 第四步:进行模糊聚类。 对满足传递性的模糊相似矩阵 进行聚类处理。将 类逐渐合并,最后得到聚类谱系图,从而进行合理的分类。
②根据原始数据的性质,选择适当变换方法,再根 据不同的变换方法选择不同的距离或相似系数。如标准化变 换处理下,相关相似系数和夹角余弦一支;又如原始数据在 进行聚类分析之前已经对变量的相关性做了处理,则通常可 采用欧式距离而不必选用斜交空间距离。再如选择距离时,
2015/11/16 12
9.2 聚类分析的种类
2015/11/16 15
2.常用系统聚类分析方法
(1)最短距离法 pq
D

xi G p , x j Gq
min
dij
Dpq (2)最长距离法
2015/11/16
xi G p , x j Gq
max dij
16
(3)中间距离法
1 2 1 2 1 2 Dir Dip Diq Dpq 2 2 4
2015/11/16
33
1.2.4 图论聚类分析法
(1)图论聚类分析的基本思想 图论聚类法又称为最小支撑树聚类方法。图论 聚类法的基本思想为,一个多变量的样品可以用多维 空间中的一个来代表。在多维空间中,如果样品点在 某些区域密度很高,而在另一些区域密度很低,甚至 空白,且高密度区域被空白或低密度区所分隔,这样 就形成了最自然的、最能体现样品分布结构的聚类。
空间上点与点的距离来进行分类。
2015/11/16
14
(2)系统聚类分析的一般步骤 ①对数据进行变换处理; ②计算各样品之间的距离,并将距离最近的两个样品 合并成一类; ③选择并计算类与类之间的距离,并将距离最近的两 类合并,如果累的个数大于1,则继续并类,直至所有样品归 为一类为止; ④最后绘制系统聚类谱系图,按不同的分类标准,得 出不同的分类结果。
2015/11/16
34
2. 图论聚类分析的 基本原理
I A 4 C X 3 B 3 D H 10 2 Y 3 E 3 9 3 2 2 K F J 2 G
最小支撑树
2015/11/16
35
国内近十年数字图书馆领域研究热点分析——基于共词分析 作者:董伟 [摘要]本文利用SPSS软件,对CNKI数据库中1999~2008年国内 数字图书馆领域发表的期刊论文进行共词分析,并借助聚 类分析和因子分析 , 研究各关键词的关系 , 并绘制出基于 SPSS多维 尺度分析的知识地图,探讨了国内数字图书馆领域的研究现状 与热点。
1.1.2聚类分析的原理 (2)多维空间的距离 对于p个观测指标,n个样品的样本数据,每个样品有 p 个变量,故每个样品都可以看成是 p维空间上的一个点, n 个样品就是的过程维空间上的 n 个点。聚类分析中,对样品 进行分类时,通常采用距离来表示样品之间的亲疏程度,因 此需定义样品之间的距离,即第i个样品与第j个样品之间的 距离,记为,所定义的距离一般满足以下四个条件:
2015/11/16 5
1.1 聚类与聚类分析
1.1.2聚类分析的原理 (3)聚类分析中样品或变量亲疏程度的测定 ①变量类型与数据变换: 通常变量类型是按照计算尺度、定序尺度、定距尺度、 定比尺度分类。其中,前两者又称为定性资料,后两者又称 为定量资料。在进行聚类分析处理时,样品间的相似系数和 距离有许多不同的定义,这些定义与变量的类型有着密切的 关系,不同类型的变量在定义距离或相似性测度时具有很大 的差异。另外,由于样本数据受量纲和数量级的影响,在聚 类分析处理过程中,首先应对原始数据矩阵进行变换处理, 以便使不同量纲、不同数量级的数据能放在一起比较。
2 kp
(1 ) D Hale Waihona Puke Baidu D
2 kq
2 pq
2015/11/16
18
(7)可变法
1 2 2 2 D ( Dkp Dkq ) D pq 2
2 kr
(8)离差平方和法
ni 2 D D D Dpq nr ni nr ni nr ni
2 kr 2 ip 2 iq
2015/11/16
7
xij
1.1 聚类与聚类分析
1.1.2聚类分析的原理 ▪标准化变换 标准化变换是对变量的属性进行变换处理,首先对数 据进行中心化然后再除以标准差,即
2015/11/16
8
xij
1.1 聚类与聚类分析
1.1.2聚类分析的原理 ▪规格化变换(极差规格变换) 规格化变换是从数据矩阵的每一个变量中找出其最大 值和最小值,这两者之差称为极差,然后从每一个原始数据中 减去该变量中的最小值,再除以极差就得到规格化数据.规格 化后的数据为
2015/11/16 6
xij
1.1 聚类与聚类分析
1.1.2聚类分析的原理 ▪中心化变换 对于一个样本数据,观测p各指标,n个样品的数据资料 x12 x1 p x11 阵为 x x x 21 22 2p X x x x n2 np n1
(4)重心法
np nq 2 D D D Dpq nr nr nr nr
2 ir 2 ip 2 iq
np
nq
2015/11/16
17
(5)类平均法
1 D nk nr
2 kr
iGk , jGr

nq nr
d
2 ij
(6)可变类平均法
D
2 kr
np nr
(1 ) D
凝聚点归类。
2015/11/16 24
1.2 聚类分析的种类
(2)初始分类
④做数据标准化处理。

对每一个样品分别计算
⑤用其他聚类方法得到一个分类,这个分类就作为初始分类。
2015/11/16
25
1.2 聚类分析的种类
(3)分类函数 按照修改原则不同,动态聚类方法有按批修改法、逐 个修改法、混合法等。这里主要介绍逐步聚类法中按批修 改法。按批修改法分类的原则是,每一步修改都将使对应 的分类函数缩小,趋于合理,并且分类函数最终趋于定值, 即计算过程是收敛的。
2015/11/16
20
其中系数对不同聚类方法有不同的取值。如表所示:
2015/11/16
21
1.2.2 动态聚类分析法 动态聚类法的基本思想是,开始按照一定方法选取一 批凝聚点,然后让样品向最近的凝聚点靠近形成初始分类。 然而,初试分类不一定合理,需按最近距离的原则进行修 改不合理的分类,这样形成一个最终的分类结果。动态聚 类法具有计算简单的特点,在计算机的处理过程中,不需 要存储距离矩阵,占据较小的内存空间,在很大程度上减 少了计算机的工作量,因而更适合对具有较大样品量的样 本进行将聚类分析。
1.2 聚类分析的种类
1.2.1 系统聚类分析法 1.2.2 动态聚类分析法
1.2.3 模糊聚类分析法
1.2.4 图论聚类分析法
2015/11/16 13
1.2.1 系统聚类分析法
1.基本思想和分析步骤 (1)基本思想 系统聚类分析的基本思想是,把n个样品看成p维(p个
指标)空间的点,而把每个变量看成p维空间的坐标轴,根据
2015/11/16
22
1.2 聚类分析的种类
(1)选择凝聚点
凝聚点就是一批有代表性的点,是待形成类的中心。凝聚 点的选择直接决定初始分类,对分类结果也有很大影响, 通常选择凝聚点的方法为: ①凭经验选择凝聚点。 ②根据数据情况将全部样品人为地凭经验分成k类,之 后计算每一类的重心,将这些重心作为凝聚点。
2015/11/16
28
1.2 聚类分析的种类
1.模糊聚类分析的基本思想
模糊聚类法是将模糊集的概念应用到聚类分析中所产 生的一种聚类方法。它是根据研究对象本身的属性而构造 的一个模糊矩阵,在此基础上根据一定的隶属度来确定其 分类关系,根据分类关系得到相应的聚类结果。
2015/11/16
29
2.模糊聚类分析步骤 第一步:对原始数据进行变换
ni n p
ni nq
2015/11/16
19
3. 系统聚类分析方法的统一公式
由于聚类方法的合并类原则和步骤是完全 一样的,所不同的是类与类之间的距离公式有不同的定 义,所以可得到不同的递推公式。
D D D D D D
2 1969年维希特提出了统一的公式,这为编制统一的 2 2 2 2 2 ir p ip q iq pq ip iq 计算机程序提供了极大的方便性。
相关文档
最新文档