一种理想并行遗传算法模型

1999年5月JOU RNAL O F SO FTW A R E M ay1999　一种理想并行遗传算法模型X侯广坤　骆江鹏(中山大学计算机科学系　广州　510275)摘要　文章讨论了并行遗传算法的迁移现象及群体规模估算模型,分析了迁移的过程,揭示了迁移的实质,并提出了在理想条件下的迁移计算模型.基于迁移计算模型导出了粗粒度并行遗传算法进化质量估量模型.实验结果表明,模型比较准确地预测了在特定领域进化质量的变化趋势.关键词　粗粒度并行遗传算法,积木块,迁移模式,子群体连接拓扑结构,群体规模估算模型.中图法分类号　T P18粗粒度并行遗传算法(coarse2grained parallel genetic algo rithm s)是指,将单一的大群体分割成多个子群体(subpopu lati on),各子群体分别独立进化一段时间,在相互交换一些个体后继续进化,这个个体交换过程被称为迁移(m igrati on).粗粒度并行遗传算法也通常被称为“分布式”遗传算法.并行遗传算法因其性能较串行遗传算法(serial GA s)优越,且实现比较方便,所以一直很受重视.Grefen stette于1981年最早讨论了如何实现并行遗传算法,并提出了4种实现并行的算法,其中第4种就是粗粒度并行遗传算法.1985年,Gro sso对粗粒度并行遗传算法进行了比较系统的研究.Gro sso提出的迁移模式包括了隔代迁移及延迟迁移,并证明隔代迁移与延迟迁移一样能进化出相同质量的解[1].早期的并行遗传算法研究基本上是基于实验来进行论证.1989年,Petty和L euze 等人对并行遗传算法的理论问题作了初步探讨[1].Can tú2Paz和Go ldberg等人认为,群体大小是影响GA s性能的主要因素,并利用一维随机游走模型化积木块进化的过程,用以估计群体大小和进化质量之间的关系[2].1997年Go ldberg等人研究了两种特殊的粗粒度并行遗传算法,即群体完全独立进化和完全连接的情况[3].Go ldberg 等人的并行模型事实上没有考虑到子群体的拓扑结构和迁移对进化的影响.但模型在结构上采用连续两次独立进化的形式.这种形式在实际中也是可取的,因此,本文提出的模型所基于的进化形式采用了类似的结构和计算方法.本文讨论粗粒度并行遗传算法的迁移模型和考虑迁移的群体规模估算模型.第1节讨论了子群体连接拓扑结构.第2节是迁移的近似计算模型.第3节给出了群体规模估算模型.第4节是有关的实验分析.最后为结论.1　子群体连接拓扑结构为了方便地计算进化成功率,本文限定子群体之间处于规则静态的拓扑连接,规则连接是有向简单图连接,是指把r个子群体连接成每个子群体具有m邻接子群体的拓扑形状.迁移的效果由迁移率和邻接子群体决定.因此给定迁移率,在相同的进化参数条件下,规则连接中的子群体进化成功期望解的概率相等.这种情况下可以采用N akano,D avido r和Yam ada等人定义的群体进化成功率[3],假设搜索空间由l个区域组成,令P l为子群体找到期望解的概率(注意,P l为分区数l和积木块成功率P bb的二项分布,默认l个分区的采样过程独立),则(1-P m)r为所有子群体失败的概率.因此,群体的进化成功率为P s=1-(1-P l)r.(1) 为了与串行遗传算法作比较,定义积木块进化成功率P3bb,使得P s与串行群体以相同概率求给定质量的X作者侯广坤,1941年生,教授,主要研究领域为计算理论,人工智能.骆江鹏,1973年生,硕士生,主要研究领域为人工智能.　本文通讯联系人:侯广坤,广州510275,中山大学计算机科学系　本文1997211220收到原稿,1998205204收到修改稿解[3].根据P 3bb 可求子群体的数目n .2　迁移计算模型模型假定延迟迁移方法[3],因此,整个进化过程迁移只发生一次.定义迁移率v 为两个子群体间一次迁移的“移民”数占子群体数目的百分比.因此,如果子群体大小是n ,则发生一次迁移的两个子群体之间将交换nv 个个体.迁移模型前提是:(1)问题领域涉及各部分积木块长度是相等的,(2)假设迁移是同步的,(3)“移民”迁移时随机地取代接受子群体中的个体,即每到达nv 个移民,就取代从接受子群体中随机取出的nv 个个体.假定问题由l 个积木块组成,第1轮进化后,任意积木块进化成功率为P bb ,则任意子群体期望进化lP bb 个积木块,假设此时组成问题解的所有积木块已存在于群体中,可以看出,这一假设的正确性是由子群体的数目保证的.对任意指定分区,其“移民”中的带有正确积木块的概率接近于该分区正确积木块的总数,占群体总数的比例P bb ,实际上,子群体的数目越大越接近.因此,nv 个“移民”含有可能的正确拷贝数目是nvP bb .此时子群体期望进化了b =lP bb 个积木块,进化成功的概率为P bb .对任意指定分区,正确积木块样本的出现概率为b l ,则发生第i 次迁移时期望的积木块样本数近似为L i =L i -1n (1-v )n +nvP bb ,(2)其中L 0=nP bb ılP bb l .(3) 由式(2)、(3)得到,发生次迁移期望的积木块样本数为L m =n 1-(1-v )m P bb +n (1-v )m P 2bb .(4)3　群体规模估算模型下面给出单群体的积木块成功率估算公式[2]:P bb =1-pq x 0.(5)式中q 为积木块采样决策成功概率,p =1-q 为决策失败概率.上式中,x 0表示初始正确的积木块样本数,它的值是n2k ,其中n 为群体大小,k 为积木块的阶(o rder ).从式(4)可以看出,迁移可以更好地混合局部解,平均提高每个积木块在子群体中的样本数目,m 越大,这种效果越明显.因此,第2轮的进化有了一个新的起点,只需将式(5)中的x 0用式(4)代入,便得到第2轮进化积木块进化的成功率:P bb 2=1-p q n 1-(1-v )m P bb +n (1-v )m P 2bb .(6) 利用上式可以算出给定成功率所需的群体规模,但注意到P bb 由n 决定,所以只能用近似求解.P bb 用P bb 2近似,P bb ≈cn 2k ,c =1+q p ,并令P bb 2=P 3bb ,可求解n .n =11-qp -2k ln (1-P 3bb)1-(1-v )m 2.(7) 利用上式与串行遗传算法和无迁移的并行遗传算法群体规模估算公式[3]比较,明显可以看出,为求出相同质量的解,有迁移的平行群体算法所需的子群体个体的数目是最少的.4　实验分析在实验中,GA s 采用了tou rnam en t 选择算子,设定选择概率为1,以充分交换积木块,模型(3)没有考虑变异(m u tati on )的影响,因此,设变异概率为0.群体进化模拟的实验环境是PC 机.—855—软　件　学　报10卷第1个测试函数是O ne M ax 函数[2～4],这是个相对比较容易的线形问题,积木块的长度为1,因此,随机初始化将产生50%正确的积木块.这个函数使用了un ifo rm 交叉算子.第2个测试函数是陷阱函数(trap functi on )[2～4].这里采用了4位陷阱函数,陷阱函数被认为是GA s 难以处理的非线形问题.在实验中,问题的长度是20,即染色体串的长度为80.随机初始化将产生6%正确的积木块.为了减少积木块样本的损失,使用了两点交叉(tw o 2po in t cro ssover ).图1和图2中给出了部分实验结果.图中横坐标表示子群体的邻接群体数,纵坐标表示进化后群体中积木块样本的比例.图1图2 实验结果表明,理论基本与实验结果相符合.同时也表明,当积木块的长度大于1时,理论值偏高.其主要原因是由于模型(3)没有考虑交叉算子对积木块样本的破坏作用(bu ilding b lock discrup ti on ).实际上,将交叉点限定在积木块的边界所得到的结果更接近理论解.交叉算子的这种作用在子群体小的时候比较显著,实验证明,当使用比较大的子群体时,与理论的差距将缩小,限于篇幅,这里不再罗列.5　结　论本文模型化了迁移对平行遗传算法的影响.实验结果表明,在特定的问题领域,理论与实验比较符合.模型与实际的差距在于对交叉算子的考虑.交叉算子往往是与领域相关的,在模型验证的领域,积木块的特征是已知的,利用这些特征设计交叉算子可以使交叉算子对采样过程的影响比较小.但是,在遗传算法实际应用的领域,问题一般很复杂,并且无启发式信息,这种理想交叉算子的设计比较困难,因此,它对采样过程的影响在很多情况下是不可忽略的.对于如何从统计的角度理解交叉算子对采样过程的影响,还有待进一步的研究.参考文献　1　Cant ú2Paz E .A Survey of Parallel Genetic A lgo rithm s .U rbana 2Champaign :Illino is Genetic A lgo rithm s L abo rato ry ,1996　2　H arik G ,Cant ú2Ppaz E ,Go ldberg D E et al .T he Gam bler’s ruin p roblem ,genetic algo rithm s ,and the sizing of popula 2ti ons .In :Back T ed .P roceedings of IEEE Conference’97on Evo luti onary Computati on .N ew Yo rk :IEEE P ress ,1997.7～12　3　Cant ú2Paz E ,Go ldberg D E .M odeling idealized bounding cases of parallel genetic algo rithm s .In :Koza J et al eds .Genetic P rogramm ing 1997:P roceedings of the 2nd A nnual Conference .San F rancisco :M o rgan Kaufm ann Publishers ,1997.353～361　4　M iller B L .N o ise ,samp ling and efficient genetic algo rithm s [Ph .D .T hesis ].U rbana 2Champaign :U niversity of Illino is ,1997—955—5期侯广坤等:一种理想并行遗传算法模型M odel i ng Idea l ized Para llel Genetic A lgor ith m sHOU Guang 2kun LUO J iang 2peng(D ep art m ent of Co mp u ter S cience Z hong shan U niversity Guang z hou 510275)Abstract T he m igrati on and popu lati on sizing of parallel genetic algo rithm s are discu ssed in th is paper ,the m igrati on p rocedu re is analysed ,the natu re of m igrati on is revealed ,then a compu tati on model of m igrati on in the ideal conditi on s is p ropo se .Base on th is model ,a quality esti m ati on fo r parallel genetic algo rithm s w ith large grain is drived ,it p redicts the quality tendency of evo lu ti on qu ite p recisely in special dom ain ,by experi 2m en ts.Key words Parallel genetic algo rithm sw ith large grain ,bu ilding b lock s convergence ,m igrati on schem es ,com 2m un icati on topo logy ,popu lati on sizing .第6届国际计算机辅助设计与图形学学术会议(CAD Graph ics ’99)征文通知 1999年国际计算机设计与图形学学术会议由中国计算机学会、上海交通大学和中国科学院计算技术研究所CAD 开放实验室主办,由IEEE 北京分会、欧洲图形学会、中国自动化学会、计算机图形学与计算机辅助设计专业委员会等单位协办,将于1999年12月1～5日在上海交通大学举行。