基于改进粒子群算法的优化策略

收稿日期:2009-12-13基金项目:国家自然科学基金资助项目(60674021)作者简介:卢 峰(1982-),男,辽宁抚顺人,东北大学博士研究生;高立群(1949-),男,辽宁沈阳人,东北大学教授,博士生导师第32卷第9期2011年9月东北大学学报(自然科学版)Journal of Northeastern U niversity(Natural Science)Vol 32,No.9Sep.2011基于改进粒子群算法的优化策略卢 峰,高立群(东北大学信息科学与工程学院,辽宁沈阳 110819)摘 要:为提高传统粒子群算法的搜索速度和搜索精度,提出了一种改进的自适应粒子群优化算法 将正则变化函数和慢变函数引入传统位置更新和速度更新公式当中,形成两种新的更新机制:搜索算子和开发算子 在算法运行的初始阶段,种群中大部分个体将按照搜索算子进行更新,搜索算子将有助于种群遍历整个解空间;随着迭代次数的增加,按照搜索算子进行更新的个体将逐渐减少,而按照开发算子进行更新的个体将逐渐增多,开发算子将有效地克服陷入局部最优解的问题 通过典型测试函数的仿真实验,新算法在加快收敛速度同时,提高了算法的全局搜索能力关 键 词:进化算法;粒子群算法;全局优化;慢变函数;自适应中图分类号:T G 273 文献标志码:A 文章编号:1005 3026(2011)09 01221 04Novel Optimization Mechanism Based on Improved Particle Swarm OptimizationL U Feng ,GAO L i qun(School of Information Science &Engineering,Northeaster n U niv ersity,Shenyang 110819,China.Corresponding author :LU F eng,E mail:feng.lu.lf @g )Abstract :To accelerate searching speed and optimization accuracy of traditional PSO,an improved particle swarm optimization (PSO )algorithm w as presented.Regularly vary ing function and slow ly varying function were introduced in the position and velocity update formula.New mechanisms such as explorative operator and exploitative operator are formulated.At the beginning,most elements will be updated by explorative operator in the entire search space sufficiently.Within the iterations,more and more particles w ill be handled by ex ploitative operator,which are useful to overcome the deceptions of multiple local optima.It can be seen from the simulation results of the standard benchm ark test functions that the proposed algorithm not only accelerates the convergence process,but also improves g lobal optim ization ability.Key words:evolutionary algorithms;particle sw arm optimization;global optimization;slow ly v arying function;self adaptive20世纪90年代初,产生了模拟自然生物群体行为的优化方法,被称为群智能优化方法 Dorigo 等人通过模拟蚂蚁的寻径行为,提出了蚁群优化算法(ant colony optimization)[1];Eberhart 等人基于对鸟群、鱼群的模拟,提出了粒子群优化算法(particle sw arm optim ization )[2]作为一种群智能优化方法的代表,粒子群算法通过个体间的协作来寻找最优解,每个个体都被赋予一个随机速度并在整个解空间中搜索,通过个体之间的合作与竞争来实现个体进化 由于粒子群优化算法运算简单,易于实现,具有良好的解决非线性、不可微和多峰值复杂优化问题的能力,已被广泛应用于科学和工程实际领域[3-5]但是,粒子群优化算法是根据全体粒子和自身的搜索经验向着最优解的方向进化,在进化后期收敛速度将变得缓慢,同时算法在收敛到一定精度时,容易陷入停滞,无法继续进化更新,因此,存在早熟和陷入局部极值点的现象本文首先介绍了标准粒子群优化算法,并针对粒子群算法所存在的问题,将正则变化函数和慢变函数引入传统位置更新和速度更新公式中,形成两种新的更新机制;提出了一种改进的粒子群优化算法,通过仿真实验比较了本文提出的算法与标准粒子群算法和其他改进算法1 粒子群优化算法粒子群优化算法在解决优化问题时,问题的解对应于搜索空间中个体的位置,称这些个体为 粒子 每个粒子具有位置和速度两个特征,粒子位置坐标对应的目标函数值作为该粒子的适应度 算法通过适应度来衡量粒子的优劣 每个粒子记忆趋向当前的最优粒子,在解空间中更新迭代,如果找到较好的解,将以此为依据来进行下一次搜索,直到完成优化任务假定优化问题如下式所描述:min f(x1,x2, ,x N),s.t.x L i x i x U i,i=1,2, ,N其中:x L i,x U i分别表示第i个分量x i取值范围的下界和上界 首先,初始化1个由N个粒子组成的群体,其中第i个粒子表示1个m维的向量x i,即第i个粒子在m维的搜索空间中的位置是x i,m是解空间的维数;第i个粒子的 飞行 速度也是一个m维的向量,记为v i,i=1,2, ,N 每个粒子的位置就是一个潜在的解,将x i带入目标函数,计算出适应度值,并根据适应度值的大小衡量x i的优劣 将第i个粒子第t代搜索到的最优位置记为p t b i,i=1,2, ,N,整个粒子群迄今为止搜索到的最优位置为l t b i,则粒子群优化算法采用如下公式对粒子进行操作:v t+1i=v t i+c1r1(p t b i-x t i)+c2r2(l t b i-x t i),(1) x t+1i=x t i+v t+1i (2)式(1)中参数c1和c2被称做加速系数,分别控制个体历史最优解p t b i和全局历史最优解l t b i对于粒子更新的影响 参数r1和r2在区间[0,1]内随机选取 文献[6]将惯性权重因子引入到速度更新公式中:v t+1i= i v t i+c1r1(p t b i-x t i)+c2r2(l t b i-x t i),(3)对于原始粒子群优化算法做了有效的补充 惯性权重一般采用区间内递减的设置方法,文献[7]将i 设置为从0 9到0 4的线性下降,使得PSO在开始时探索较大的区域,较快地定位最优解的大致位置,随着 i逐渐减小,粒子速度变慢,开始精细的局部搜索2 改进粒子群优化算法本文所提出的改进粒子群优化算法是将正则变化函数和慢变函数引入到粒子群优化算法的更新公式中,在算法迭代的不同阶段,采用差异化的操作方法,在提升算法搜索速度的同时,有效地避免了陷入局部极值点的现象2.1 初始化为保证算法的搜索效率,初始种群X={x i,i=1,2, ,N}应该较完整地覆盖搜索空间,以第i个粒子的第j位初始参数值为例,可取x i,j=rand j(0,1) (x j,m ax-x j,min)+x j,min,其中j=1,2, ,m,rand(0,1)表示在(0,1)区间均匀分布的随机数2.2 更新在式(3)的基础之上,引入搜索算子对种群中粒子进行如下操作:v t+1i= i v t i+c1r1(p t b i-x t i)+c2r2(l t b i-x t i)+(x L(x)) ,x t+1i=x t i+ i v t i+c1r1(p t b i-x t i)+c2r2(l t b i-x t i)+x L(x)(4)其中, 0,L(x)为慢变函数,由慢变函数的定义及其性质[8]可知x L(x)为正则变化函数 正则函数对于速度和位置的更新产生变异性叠加(参数 可以控制变异大小程度),有利于粒子遍历解空间,加快搜索速度,适用于粒子前中期迭代为提高算法的搜索精度,引入开发算子对种群中粒子进行更新,如下所示:v t+1i= i v t i+c1r1(p t b i-x t i)+c2r2(l t b i-x t i)+(L(x)) ,x t+1i=x t i+ i v t i+c1r1(p t b i-x t i)+c2r2(l t b i-x t i)+L(x)(5)由慢变函数性质可知,开发算子的更新公式等价于如下形式:v t+1i= i v t i+c1r1(p t b i-x t i)+c2r2(l t b i-x t i),x t+1i=x t i+v t+1i+L(x)(6)在速度更新的基础之上,数的扰动,增强了局部搜索能力,有助于提高解的精度,适用于粒子中后期迭代1222东北大学学报(自然科学版) 第32卷因为没有增加(或减小)速度最快的慢变函数,也没有摆动(或振荡)速度最快的慢变函数,所以本文采用L (x )=(lg x )形式慢变函数,其中 R按照搜索算子进行更新操作的粒子数量随着迭代的进行,逐步递减;与之相对应,按照开发算子进行更新操作的粒子数量,逐步增加 进而实现搜索算子与开发算子的协同作用,在保证算法搜索速度的同时,提升算法的搜索精度 2.3 选择为决定粒子x t +1i 是否会成为下一代中的成员,按照贪婪准则将更新后的粒子与当前种群中的粒子x i 进行比较,目标函数较小的粒子将在下一代种群中赢得一席之地,并且要保证下一代中的粒子都比当前种群的对应粒子更佳或者至少一样好 如式(7)所示:x t+1i=x t+1i ,if f (x t+1i ) f (x ti );x t i ,其他(7)2.4 终止条件如果循环代数G 超过了最大迭代次数G max或者精度达到要求则停止搜索,否则将对种群进一步执行更新操作,直到满足终止条件为止3 仿真结果选取常用的8个标准测试函数[9],将本文改进的粒子群优化算法(APSO)与经典粒子群优化算法、VLPSO [10]和FIPS [11]进行比较实验中取测试函数的维数为30维,循环代数为1000次,种群大小为100个测试个体 每个测试函数进行50次独立仿真实验,图1为测试函数搜索曲线图,表1为搜索精度均值和方差 在仿真图1 标准测试函数收敛曲线图Fig.1 C onvergence char acteristics of standard benchm ark functi ons1223第9期 卢 峰等:基于改进粒子群算法的优化策略表1 标准测试函数的仿真结果Table1 Sim ulation and results of standard benchmark functions方 法PSO平均值(标准差)VL PSO平均值(标准差)FI PS平均值(标准差)A PSO平均值(标准差)Spher e 1.061e-3(8.774e-3)7.253e-5(6.342e-4) 3.198e-7(5.483e-6) 4.043e-10(2.373e-9) Schwefel1.2 5.655(10.628) 2.844e-1(4.936) 4.545e-3(4.785e-4) 2.287e-5(8.899e-4) Schwefel2.21 2.649e-1(8.756e-1)7.617e-2(6.928e-1) 1.358e-1(2.232e-1) 1.067e-2(3.789e-2) Rosenbrock23.89(27.22) 6.225e-1(3.237e-1)8.064e-2(4.581e-1) 4.854e-3(1.685e-2) Gr iew ank 1.643e-1(2.287e-1) 6.351e-2(1.258e-1)7.459e-2(1.884e-1)7.690e-3(3.609e-2) Ackely 4.278e-1(5.176e-1) 3.553e-2(7.672e-2) 1.531e-4(9.747e-3) 5.406e-5(7.394Ee-5) Penalty1 1.683e-2(2.511e-2) 2.481e-3(2.338e-3) 3.004-8(7.691e-9) 3.705e-13(3.718e-13) Penalty223.18(24.56) 2.073e-1(1.972e-1) 5.361e-2(4.340e-2) 2.146e-2(1.536e-2)注:表中黑体为所得的最优结果结果中,最好的算法仿真结果用黑体字形式凸显出来;在相同仿真结果的情况下,循环代数少的方法认为是较好的对于所选取的测试函数,本文提出的APSO 算法在搜索精度上要优于其他测试算法;对于大部分测试函数有较快的搜索速度 虽然Penalty2的仿真曲线结果显示,APSO前期收敛速度相对较慢,但在中后期有较高的搜索精度 综合仿真实验结果,本文所提出的改进粒子群优化算法,对于算法搜索性能和搜索精度有较大提升4 结 论本文将慢变函数引入到粒子群优化算法更新公式中,形成两种改进的更新算子,在算法运行的不同阶段,将更新算子应用到相应子种群当中 通过仿真实例比较可以看出,所提算法在提高算法的寻优速度的同时,有效地克服了早熟收敛等问题参考文献:[1]Dorigo M,M aniezzo V,Colorn i A.Ant system:optimization by a colony of cooperating agents[J].I EEET ransactions on System,M an,and Cybernetics:Par t B,1996,26(1):29-41.[2]Kennedy J,Eberhart R.Particle sw arm optimization[C]Proceedings of International Conference on Neural Netw orksin1995.New York:IEEE Press,1995:1942-1948. [3]Gaing Z L.Particle sw arm optimization to solvi ng theeconom ic dispatch considering the generator constraints[J].I EEE T ransactions on Pow er Syste m,2003,18(3):1187-1195.[4]Fan S,Zahara E.A hybri d simplex search and particlesw arm optimization for unconstrained optimization[J].Europ ean Journal of Oper ational Rese ar c h,2007,181(2):527-548.[5]Li X D.Niching w ithout niching paramenters:particleswarm optimizati on using a ri ng topology[J].I EEET ransactions on Ev olutionary Computation,2010,14(1):150-169.[6]Vesterstrom J,Thomsen R.A comparative study ofdifferential evoluti on,particle sw arm optimization,andevolutionary algorithms on numerical benchmark problems[C] Evolutionary Computation.New York:IE EE,2004:1980-1987.[7]Shi Y,Eberhart R.A modified particle sw arm optimization[C] IEEE World Congress on Computational Intelligence.New York:IEEE,1998:69-73.[8]Gal ambos J,S eneta E.Regularly varying sequences[C]Proceedings of the American M athematical Society.RHodeIsland:American M athematical Society,1973:110-116. [9]Hansen pilation of resul ts on the2005CECbenchmark function sets[EB/OL].[2009-10-23].http:w .sg/home/epnsugan/index-files/CEC-05/compareresults.pdf.[10]Clerc M,Kennedy J.The particle swarm explosion,stability,and convergen ce i n a multidimensional com plexspace[J].IEEE Tr ansactions on Ev olutionaryCompu tation,2002,6(1):58-73.[11]M endes R,Kennedy J,Neves J.The fully informed parti clesw arm:simpler,maybe better[J].IEEE Tra nsactions onEv olutionary Compu tation,2004,8(3):204-210.1224东北大学学报(自然科学版) 第32卷。