模糊聚类分析方法

模糊聚类分析方法聚类分析是将事物根据一定的特征，并按某种特定要求或规律分类的方法。

由于聚类分析的对象必定是尚未分类的群体，而且现实的分类问题往往带有模糊性，对带有模糊特征的事物进行聚类分析，分类过程中不是仅仅考虑事物之间有无关系，而是考虑事物之间关系的深浅程度，显然用模糊数学的方法处理更为自然，因此称为模糊聚类分析。

一、模糊聚类分析的一般步骤1、第一步：数据标准化[9]（1） 数据矩阵设论域12{,,,}n U x x x = 为被分类对象，每个对象又有m 个指标表示其性状，即12{,,,}i i i im x x x x = (1,2,,i n = ， 于是，得到原始数据矩阵为111212122212m m n n nm x x xx x x x x x ⎛⎫ ⎪ ⎪ ⎪ ⎪⎝⎭。

其中nm x 表示第n 个分类对象的第m 个指标的原始数据。

（2） 数据标准化在实际问题中，不同的数据一般有不同的量纲，为了使不同的量纲也能进行比较，通常需要对数据做适当的变换。

但是，即使这样，得到的数据也不一定在区间[0,1]上。

因此，这里说的数据标准化，就是要根据模糊矩阵的要求，将数据压缩到区间[0,1]上。

通常有以下几种变换： ① 平移·标准差变换i k kikk x x x s -'= (1,2,,;1,2,i n k m ==其中 11nk i k i x x n==∑，k s =经过变换后，每个变量的均值为0，标准差为1，且消除了量纲的影响。

但是，再用得到的ikx '还不一定在区间[0,1]上。

② 平移·极差变换111m i n {}m a x {}m i n {}i k i ki nikikiki ni nx x x x x ≤≤≤≤≤≤''-''=''-，(1,2,,)k m =显然有01ikx ''≤≤，而且也消除了量纲的影响。

③ 对数变换lg ik ik x x '= (1,2,,;1,2,i n k m ==取对数以缩小变量间的数量级。

2、第二步：标定（建立模糊相似矩阵）设论域12{,,,}n U x x x = ，12{,,,}i i i im x x x x = ，依照传统聚类方法确定相似系数，建立模糊相似矩阵，i x 与j x 的相似程度(,)ij i j r R x x =。

确定(,)ij i j r R x x =的方法主要借用传统聚类的相似系数法、距离法以及其他方法。

具体用什么方法，可根据问题的性质，选取下列公式之一计算。

（1） 相似系数法① 夹角余弦法mikjkij xx r =∑ 。

② 最大最小法11()()mikjk k ij mikjk k xx r xx ==∧=∨∑∑。

③ 算术平均最小法112()()mik jk k ij mikjk k x x r xx ==∧=+∑∑。

④ 几何平均最小法112()mi k j kk ij mk x xr ==∧=∑∑。

以上3种方法中要求0ij x >，否则也要做适当变换。

⑤ 数量积法11,,1,,mij ik jk k i j r x x i j M ==⎧⎪=⎨≠⎪⎩∑，其中 1m a x ()mi k j ki jk M x x ≠==∑。

⑥ 相关系数法mik i jk jij x x x x r --=∑，其中 11mi i kk x x m==∑，11mj jkk x x m==∑。

⑦ 指数相似系数法221()13exp[]4mik jk ij k kx x r m s =-=-∑ ， 其中 211()nk ikik i s x x n==-∑，而 11nk i ki x x n==∑ (1,2,,)k m = 。

（2） 距离法① 直接距离法1(,)i j i j r c d x x =-，其中c 为适当选取的参数，使得01ij r ≤≤，(,)i j d x x 表示他们之间的距离。

经常用的距离有 海明距离1(,)mi j i k j k k d x x x x ==-∑。

欧几里得距离(,))i j d x x =切比雪夫距离1(,)mij i k j k k d x x x x ==∨-。

② 倒数距离法1,,,,(,)ij i j i j M r i j d x x =⎧⎪=⎨≠⎪⎩。

其中M 为适当选取的参数，使得01ij r ≤≤。

③ 指数距离法e x p [(,)i j i j r dx x =-。

3、第三步：聚类（求动态聚类图）（1）基于模糊等价矩阵聚类方法① 传递闭包法根据标定所得的模糊矩阵R 还要将其改造称模糊等价矩阵*R 。

用二次方法求R 的传递闭包，即()t R =*R 。

再让λ由大变小，就可形成动态聚类图。

② 布尔矩阵法布尔矩阵法的理论依据是下面的定理：设R 是12{,,,}n U x x x = 上的一个相似的布尔矩阵，则R 具有传递性（当R 是等价布尔矩阵时）⇔矩阵R 在任一排列下的矩阵都没有形如11111001,,,10011111⎛⎫⎛⎫⎛⎫⎛⎫⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭⎝⎭的特殊子矩阵。

布尔矩阵法的具体步骤如下： ① 求模糊相似矩阵的λ-截矩阵R λ.② 若R λ按定理 2.2.1判定为等价的，则由R λ可得U 在λ水平上的分类，若R λ判定为不等价，则R λ在某一排列下有上述形式的特殊子矩阵，此时只要将其中特殊子矩阵的0一律改成1直到不再产生上述形式的子矩阵即可。

如此得到的*R λ为等价矩阵。

因此，由*R λ可得λ水平上的分类。

（2） 直接聚类法所谓直接聚类法，是指在建立模糊相似矩阵之后，不去求传递闭包()t R ，也不用布尔矩阵法，而是直接从模糊相似矩阵出发求得聚类图。

其步骤如下： ① 取11λ=（最大值），对每个i x 作相似类[]i R x ，且 []i R x ={|1}j ij x r =，即将满足1ij r =的i x 与j x 放在一类，构成相似类。

相似类与等价类的不同之处是，不同的相似类可能有公共元素，即可出现[]{,}i R i k x x x =,[]{,}i R j k x x x =,[][]i j x x ⋂≠∅. 此时只要将有公共元素的相似类合并，即可得11λ=水平上的等价分类。

② 取2λ为次大值，从R 中直接找出相似度为2λ的元素对(,)i j x x （即2ij r λ=），将对应于11λ=的等价分类中i x 所在的类与j x 所在的类合并，将所有的这些情况合并后，即得到对应于2λ的等价分类。

③ 取3λ为第三大值，从R 中直接找出相似度为3λ的元素对(,)i j x x （即3ij r λ=），将对应于2λ的等价分类中i x 所在的类与j x 所在的类合并，将所有的这些情况合并后，即得到对应于3λ的等价分类。

④ 以此类推，直到合并到U 成为一类为止。

（3） 最大树法所谓最大树法，就是画出以被分类元素为顶点，以相似矩阵R 的元素ij r 为权重的一颗最大的树，取定[0,1]λ∈，砍断权重低于λ的枝，得到一个不连通的图，各个连通的分支便构成了在λ水平上的分类。

下面介绍求最大树德克鲁克法设12{,,,}n U x x x =⋅⋅⋅，先画出所有顶点(1,2,,)i x i n =⋅⋅⋅，从模糊相似矩阵R 中按ij r 从大到小的顺序依次画枝，并标上权重，要求不产生圈，直到所有顶点连通为止，这就得到一颗最大树（最大树可以不唯一）。

二、最佳阈值λ的确定在模糊聚类分析中对于各个不同的[0,1]λ∈，可得到不同的分类，许多实际问题需要选择某个阈值λ，确定样本的一个具体分类，这就提出了如何确定阈值λ的问题。

一般有以下两个方法：① 按实际需要，在动态聚类图中，调整λ的值以得到适当的分类，而不需要事先准确地估计好样本应分成几类。

当然，也可由具有丰富经验的专家结合专业知识确定阈值λ，从而得出在λ水平上的等价分类 ② 用F 统计量确定λ最佳值。

[11]设论域12{,,,}n U x x x = 为样本空间（样本总数为n ），而每个样本i x 有m 个特征：12{,,,}i i i im x x x x = ，(1,2,,)i n = 。

于是得到原始数据矩阵，如下表所示，其中11(1,2,,)nk iki x x k m n===∑ ，x 称为总体样本的中心向量。

设对应于λ值的分类数为r ，第j 类的样本数为j n ，第j 类的样本记为：()()()12,,,j j j j n x x x ，第j 类的聚类中心为向量()()()()112(,,,)j j j j m x x x x = ，其中()j k x 为第k个特征的平均值，即()()11jn j j k iki jx xn ==∑，(1,2,,)k m= ，作F 统计量()1()()11(1)()jrj j j n rj j ij i n x xr F x x n r ===--=--∑∑∑，其中 ()2j xx -=为()j x 与x 间的距离，()()j j i x x -为第j 类中第i 个样本()j x 与其中心()j x 间的距离。

称为F 统计量，它是遵从自由度为1r -，n r -的F 分布。

它的分子表征类与类之间的距离，分母表征类内样本间的距离。

因此，F 值越大，说明类与类之间的距离越大；类与类间的差异越大，分类就越好。