多目标遗传算法中文【精品毕业设计】(完整版)

一种在复杂网络中发现社区的多目标遗传算法
Clara Pizzuti
摘要——本文提出了一种揭示复杂网络社区结构的多目标遗传算法。

该算法优化了两个目标函数，这些函数能够识别出组内节点密集连接，而组间连接稀疏。

该方法能产生一系列不同等级的网络社区，其中解的等级越高，由更多的社区组成，被包含在社区较少的解中。

社区的数量是通过目标函数更佳的折衷值自动确定的。

对合成和真实网络的实验，结果表明算法成功地检测到了网络结构，并且能与最先进的方法相比较。

关键词：复杂网络，多目标聚类，多目标进化算法
1、简介
复杂网络构成了表示组成许多真实世界系统的对象之间关系的有效形式。

协作网络、因特网、万维网、生物网络、通信传输网络，社交网络只是一些例子。

将网络建模为图，节点代表个体，边代表这些个体之间的联系。

复杂网络研究中的一个重要问题是社区结构[25]的检测，也被称作为聚类[21]，即将一个网络划分为节点组，称作社区或簇或模块，组内连接紧密，组间连接稀疏。

这个问题，如[21]指出，只有在建模网络的图是稀疏的时候才有意义，即边的数量远低于可能的边数，否则就类似于数据簇[31]。

图的聚类不同于数据聚类，因为图中的簇是基于边的密度，而在数据聚类中，它们是与距离或相似度量紧密相关的组点。

然而，网络中社区的概念并未严格定义，因为它的定义受应用领域的影响。

因此，直观的理解是同一社区内部边的数量应该远多于连接图中剩余节点的边的数量，这构成了社区定义的一般建议。

这个直观定义追求两个不同的目标：最大化内部连接和最小化外部连接。

多目标优化是一种解决问题的技术，当多个相互冲突的目标被优化时，成功地找到一组解。

通过利用帕累托最优理论[15]获得这些解，构成了尽可能满足所有目标的全局最优解。

解决多目标优化问题的进化算法取得成功，是因为它们基于种群的特性，同时产生多个最优解和一个帕累托前沿[5]的优良近似。

因此，社区检测能够被表述为多目标优化问题，并且帕累托最优性的框架可以提供一组解对应于目标之间的最佳妥协以达到最优化。

事实上，在上述两个目标之间有一个折衷，因为当整个网络社区结构的外部连接数量为空时，那它就是最小的，然而簇密度不够高。

在过去的几年里，已经提出了许多方法采用多目标技术进行数据聚类。

这些方法大部分在度量空间[14], [17],[18], [28], [38], [39], [49], [51]聚集目标，虽然[8]中给出了分割图的一个方法，并且在[12]中描述了网络用户会议的一个图聚类算法。

本文中，一个多目标方法，名为用于网络的多目标遗传算法(MOGA-Net)，通过利用提出的遗传算法发现网络中的社区。

该方法优化了[32]和[44]中介绍的两个目标函数，它们已被证实在检测复杂网络中模块的有效性。

第一个目标函数利用了community score的概念来衡量对一个网络进行社区划分的质量。

community score值越高，聚类密度越高。

第二个目标函数定义了模块中节点fitness的概念，并且反复迭代找到节点fitness总和最大的模块，以下将这个目标函数称为community fitness。

当总和达到最大时，外部连接是最小。

两个目标函数都有一个正实数参数控制社区的规模。

参数值越大，找到的社区规模越小。

MOGA-Net利用这两个函数的优点，通过有选择地探索搜寻空间获得网络中存在的社区，而不需要提前知道确切的社区数目。

这个数目是通过两个目标之间的最佳折衷自动确定的。

多目标方法的一个有趣结果是它提供的不是一个单独的网络划分，而是一组解。

这些解中的每一个都对应两个目标之间不同的折衷，并对应多种网络划分方式，即由许多不同簇组成。

对合成网络和真实网络的实验表明，这一系列帕累托最优解揭示了网络的分层结构，其中簇的数目较多的解包含在社区数目较少的解中。

多目标方法的这个特性提供了一个很好的机会分析不同层级
的网络和研究不同模块化水平的社区。

本文组织如下，在下一节定义社区的概念，规范化社区检测问题。

第三节描述社区检测的主要方法。

第四节将社区检测问题公式化为一个多目标优化问题。

第五节描述了该方法，采用基因表示，变异操作的使用。

第六节给出该方法用于合成网络和真实网络的结果，以及与一些最先进方法的对比。

最后，在第七节讨论多目标方法的优点，得出结论。

2、社区定义
一个网络N 能被模型化为一个图G=(V,E)，其中V 是一系列客体，被称作节点或顶点，E 是一系列连接，被称作边，这是连接了V 中的两个元素。

网络中的一个社区（也被称作簇或模块）是一组相互连接密度较高的顶点（即一个子图），并且组与组之间连接密度较低。

社区的这个定义相当模糊，并且在密度这个概念上没有达成一致。

[48]中介绍了一个更为正式的定义，通过考量一个一般的节点i 的度k i ，定义ij
j i A k ∑=，这里A 是G 的邻接矩阵。

如果节点i 到节点j 之间有一条边，那么矩阵A 的（i ，j ）位置上为1，否则为0。

假设G S ⊂，节点i 属于G 的子图S ，i 的度分成两部分，
)()()(S k S k S k out i in i i +=
这里，∑∈=S j ij in i A S k )(，是i 与S 中其他节点相连的边的数量。

∑∉=S
j ij out i A k ，是i 与网络其余
部分节点相连的边的数量。

如果S i S k S k out i in i ∈∀>),()(，则子图S 称为强社团。

如果∑∑∈∈>S i S
i out i in i S k S k
)()(，则子图S 称为弱社团。

因此，在一个强社区中，每个节点在社区内与图中剩余部分相比，连接更多。

在一个弱社区中，子图内节点内度的总和大于节点外度的总和。

接下来，我们采用弱社区的概念，因此一个社区被看作一系列节点，它们的内部连接的数量高于不同簇之间外部连接的数量。

3、相关工作
来自不同领域例如物理学，统计学，数据挖掘，进化计算的许多不同算法已经被提出用来检测复杂网络中社区。

被采用的这些方法可以被概括地归为三类：分层分裂方法，分层凝聚方法
[31]，以及优化方法。

分层分裂方法从完整的网络开始，检测连接不同社区的边，并移除它们。

这些方法的例子可以在[3],[25],[35],[41],[42]和[48]。

分层凝聚方法将每个节点看成一个社区，然后递归地合并相同的社区，直到得到整个图[4],[34],[40],[45],[47],[58]。

优化方法定义了一个目标函数将图划分为子图，并且尝试将这个目标最大化从而获得网络的最佳分割
[1],[32],[53]。

在这些优化方法中，有几种方法通过利用进化技术已经成熟。

尤其
[18],[20],[26],[29],[34],[44],[55]运用了遗传算法。

许多其他的方法利用多目标进化算法在度量空间来分割图或者聚集对象[8], [12],[14], [17], [28], [38], [39], [49], [51]。

接下来，我们首先回顾一下来自物理和数据挖掘领域的主要建议，然后报告一个多目标进化聚类方法的描述。

A.复杂网络的社区检测
一些研究人员研究了社区检测问题，最先进建议的完整描述已经超出了本文的范围。

复杂网络社区识别方法广泛而详细的概述可以在[6],[21],[23]中找到。

检测社区最著名的算法是由Newman 和Girvan[25]提出的。

该方法通过删除边来反复地分裂网络。

通过利用中间性的测量来选择被移除的边。

以边的中间性为基础的想法来源于观察到的：如果两个社区通过几条社区间的边连接，那么从一个社区的顶点到另一个社区的顶点的所有路径，必须要通过这些边。

路径决定了计算边所得的中间性分值，通过计算穿过每条边的所有路径，并且删除得分值最高的边，网络
内部的连接被破坏。

重复这个过程，并且将网络划分为更小的部分，直到没有边剩余。

同一作者[42]提出了一个基于不同的中间性测量值的分层分裂方法。

在这篇文章中，Newman 和Girvan 指出需要通过一个算法得出网络划分质量的测量值。

出于这个目的，他们引入了模块度的概念。

通俗地讲，模块度就是如果不考虑社区结构而边随机，社区内边的比例与边比例的期望值之差（模块度的正式定义是在下一节中）。

数值接近1表明社区结构明显。

因此，该算法计算某网络的每个分立社区的模块度，并且作者表明，当社团结构先验已知，高数值的模块度密切对应预期的网络划分。

Newman[40]认为因为高数值的模块度对应好的网络划分，找到网络可能最佳划分的方法就是优化它。

因此，他提出一个分层凝聚方法用于搜寻模块度的最优值。

Newman 注意到，彻底搜寻所有可能的划分方式以获得模块度的最优值，对于由超过20个顶点构成的复杂网络来说是难以实现的，因此需要近似方法。

他提出一个贪婪方法，连接社区使得模块度值产生最大增值。

基于相同策略的一个更快的方法在[4]中由Clauset ，Newman 和Moore 描述。

Blondel et al .[3]提出了一个方法划分大型网络，也是基于模块度优化。

该算法由两个阶段组成，反复迭代，直到没有得到进一步改善。

起初，网络中的每个节点都认为是一个社区。

然后，对每个节点i ，考虑它所有相邻的节点j ，并且计算将i 从它所在的社区移除以及将它增加到j 所在的社区后的模块度增益。

将节点放置在增益为正且最大时的社区中。

如果没有社区有正的增益，i 保留在它原来的分组中。

重复第一阶段直到没有节点可以移动来改善模块度。

第二阶段建立一个网络，其中已有的社区当作一个新的节点，如果有一条边在属于a 社区的节点和属于b 社区的节点之间，那么在ab 两个社区之间有连接。

新的社区能够被加权，在这种情况下，ab 之间边的重量就是相应社区节点之间的连接的权重之和。

在这一点上，可以重复该方法，直到无法做更多的改变以提高模块度。

算法返回所有发现的不同等级的聚类。

Pons 和Latapy [45]介绍了一个名为Walktrap 的分层凝聚算法，用于计算网络的社区结构。

该方法是基于图的随机游动，并且认为随机游动倾向于困在图中密集连接的部分。

两个节点之间距离的新定义是利用随机游动的性能引入的，并且这个定义可以推广到计算两个社区之间的距离。

算法从图的划分开始，其中每个节点是一个社区，然后合并两个相邻的社区（即至少有一个公共边），将两个顶点之间距离的平方值的均值以及它的社区最小化。

重新计算社区之间的距离，重复先前的步骤，直到所有的节点属于同一社区。

为了选出最佳划分，采用Newman 和Girvan 的模块度标准。

Pujol et al .[47]提出一个分层凝聚算法，将光谱分析和模块度优化结合获得网络社区识别的效率和准确度。

他们利用Pons 和Latapy [45]所采用的随机游动的相同概念产生网络的初始分区，然后运用分层凝聚方法反复连接两个社区。

为了合并两个簇，对总模块度贡献最少的节点群被选出，把它与能将模块度增值最大的节点群连接。

Lancichinetti et al .[32]基于社区S 的community fitness 概念，提出一个方法来检测重
叠和分层的社区结构。

设)(S k in i 和
)(S k out i 是社区S 中节点的内度和外度。

S 的community fitness Ρ(S)定义如下：
α
))()(()()(S k S k S k S out i
in i in i S i +∑=P ∈ 其中α是分辨率参数，是一个正实数参数，控制社区的规模。

当
i S k out i ∀=,0)(时，对固定的α，Ρ(S)达到它的最大值。

[32]中使用community fitness 以每次一个找出了所有社区。

作者介绍了关于社区S 的node fitness 的概念，作为有和没有节点i ，S 的community fitness 的变化，即
}){(}){()(i S i S S i -P -⋃P =P
该方法首先随机选择一个节点,并考虑它作为一个社区。

然后遍历S 的所有相邻节点但不包含在S 中，选择相邻节点增加到S 中。

通过计算每个节点的node fitness 做出选择，并且将fitness 值最高的节点增加到S 中。

此时重新计算每个节点的fitness ，并且将fitness 为负值的节点从S 中移除。

当S 中节点的所有不包含的相邻节点fitness 值为负。

一旦得到一个社区，选择一个新的节点，重新开始这个过程，直到所有的节点被指派给至少一组。

作者发现得到的划分与分辨率参数α=1是相关的。

然而，他们引入了一个基于稳定性概念的标准进行选择划分。

如果对于一个取值范围内的α都能实现，则认为这种划分是稳定的。

这个范围的长度决定了划分的更稳定，这就是最佳的结果。

B.多目标聚类方法
多目标优化聚类数据的应用程序近来引起人们的极大兴趣[14][17][28][38][39][49][51]尽管关于网络划分的建议很少[8][12]。

用于数值和分类数据的多目标聚类算法的参考方法是由Handl 和Knowles [28]提出的，并且将之命名为multiobjective clustering with automatic K-determination (MOCK)。

MOCK 的第一目标是最小化一个划分的整体偏差，即数据项之间总的距离和已经被分配的簇的中心。

第二个目标是最小化簇的连通性，计算每个簇数据点有多少个最近的邻点被放在相同的簇中。

算法采用Park 和Song [43]提出的基于轨迹的邻接，这在下一节中描述，并被MOGA-Net 采用了，而且使用了基于最小生长树的特殊初始解，减少了执行时间。

MOCK 也包含了从帕累托前沿近似中选择最优解的最后一步，能够自动实现最优数量的簇。

MOCK 不是专门用于网络划分的，尽管它被用于图的聚类，通过考虑网络的邻接矩阵作为（非）相似矩阵。

Datta et al. [8]提出了优化三个不同的目标用于划分图。

目标将边缘值中的净亏损最小化，当两个连接的节点处于不同的社区时，社区在规模以及簇传播上有不同。

作者强调了图中区域的概念，意为相邻节点的团体。

因此，染色体是节点的集合，其中每个节点根据它在图中的位置是确定的。

算法能将图划分为数量可变的区域，然而区域的范围和每个区域的节点数作为输入参数必须固定。

最近，一个专门用于分类网络用户会议的多目标进化算法由Nildem et al. [12]提出。

获得的簇被用于网络推荐系统用于表示使用模式。

用户访问的web 页面序列被表示为一个加权无向图，其中每个序列都是一个节点，连接两个边的序列的权重是两个节点之间计算得到的相似性。

他们的算法名为GraSC ，使用和MOCK 相同的表示法，但待优化的冲突目标是最小-最大削减[13]和轮廓指数[50]。

前者试图优化社区内之间的相似性并减小子图之间的相似性，后者计算属于同一社区的顶点的平均轮廓指数。

节点i 的轮廓指数是两个平均非相似性之间的归一化值：节点i 与其它社区的节点之间的最小平均非相似性，节点i 和同一社区的其他顶点之间的平均非相似性。

在下一节，社区检测问题被形式化为一个多目标优化问题。

4、作为多目标优化问题的社区检测
不同领域的许多问题都自然地通过多个目标表述出来。

特别地，将一个网络划分为组内连接紧密，组间连接稀疏的节点群有两个相互矛盾的目标。

第一个目标是将属于同一个社区的节点间连接最大化，第二个目标是将社区之间的连接数量最小化。

因此，社区检测问题不能够被充分地表示为一个单一目标，增加了暗中满足其他目标的限制。

更合适的方法是将这个问题正式化为一个多目标聚类问题[19][28]。

一个多目标聚类问题（Ω,F1, F2, . . . , Ft ）定义如下：
t i S F i ,...,1),(min = 服从Ω∈S
其中Ω={S1,...,Sk}是网络的一系列可能社区。

F = {F1, F2, . . . , Ft}是一组单标准函数。

每一个Fi:Ω→R 是不同的目标函数，这些函数决定了得到的社区的可行性。

因为F 是一个将这些相互矛盾的目标必须同时优化的向量，这个问题没有唯一解，但是通过利用帕累托最优理论[15]可以找到一系列解。

考虑两个解S1和S2∈Ω，解S1支配解S2，记为S1 ≺S2，当且仅当
)(S F < )(S F : i ∧ )(S F ≤ )(S F : i 2i 1i 2i 1i ∃∀
一个支配解并不会引人注意，因为对所有的目标都可以进一步改善。

相反，一个非支配解想要在某一个目标上改善就要牺牲另一个目标。

多目标优化的目的就是生成和选择非支配解，这些解被称为帕累托最优。

因此目标是构建帕累托最佳状态。

更正式地讲，一系列帕累托最优解Π被定义为
: ∈ {S = Ω∏不存在Ω∈'S 且S ’≺S}
向量F 将解空间映射到目标函数空间。

当非支配解标注在目标空间中，它们被称作帕累托前沿。

因此帕累托前沿代表了更佳的折衷，尽可能满足所有目标的解。

值得注意的是，正如[28]中所概述的，帕累托最优解总是包含优化单目标的聚类问题的最优解。

A.目标函数
我们的目标是将网络划分成一组组{S1,...,Sk}的顶点，在这些组里边的密度比组间边的密度高。

为此，我们需要一个目标函数能够最大化每个社区内部连接的数量，以及另一个目标函数最小化社区之间连接的数量。

[44]中介绍了衡量一个社区S 质量，最大化S 中节点的入度。

另一方面，[32]中定义了一个标准，最小化一个社区的出度。

两种方法都采用了上述弱社区的定义。

首先我们回忆一下这些措施的定义，然后展示它们如何利用多目标方法找到找到社区的。

接下来，不失一般性，将网络假设为无向图进行建模。

假设μi 表示连接节点i 的边与社区S 中其他节点的边的比值。

更正式地为
)(||1S k S in i i =
μ 这里|S|是社区S 的基数。

社区S 的r 阶幂平均值记作M(S)，定义为
|
|)()(S S M r
i S i ∑∈=μ 注意，M(S)的计算中，因为0≤μ≤1，指数r 增加了与属于同一社区的其它节点连接很多的节点的权重，减小了在S 中连接较少的那些点的权重。

社区S 的体积νS 定义为社区内部节点的边的总数，即与S 相对应的邻接矩阵中1的数量
∑∈=
S j i ij S A ,υ
社区S 的score 定义为score(S)=M(S)×νS 。

因此，score 将节点间连接比例（通过幂平均值）和社区S 包含的内部连接的数量（通过体积）都考虑了。

网络的一种社区划分{S1,...,Sk}的community score 定义为
∑==k i i S score CS 1)
(
第一个目标是最大化社区得分（community score ）CS 。

正如第三节所述，Lancichinetti et al. [32]介绍了社区S 的community fitness 概念
α
))()(()()(S k S k S k S out i in i in i S i +∑=P ∈。