带变异算子的粒子群优化算法_李宁
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
D!E （/A+ (6= ?@.)A()*） ： ’/2 算法数学表示如下 设搜索空间为 ! 维， 总粒 子 数 为 " 。 第 # 个 粒 子 位 置 表 示
（&#%， …， ； 第 # 个 粒 子 “飞 行 ” 历史中的最优位置 为 $ #% &#!， &#!） （即 该 位 置 对 应 解 最 优 ） 为 ’#% （( #%， …， ， 设 ’) 为 所 有 ’# ( #!， ( #!） （#J% ， …， 中的最 优 值 ； 第 # 个粒子的位置变化率 （速 度 ） 为向 "） 量 * #% （+ #%， 。每个粒子的位置按如下公式进行变化 + #!， … ， + #!） （ “飞行” ） ： （） +（ %/0+（ .1 %023", 0D(（ K&（ E. #, -.% ） #, - ） #, - ） #, - ）
?:@$#"&$： 9+1+68 (* *A. UA5)*,51+68 5: ’/2 (-85)+*A1， *A(* +U， .(U+-> 3-R68+68 +6*5 *A. -5,(- 1+6+1R1， 0. 5335U.= (6 (=T(6,.= ’/2 (-85)+*A1 0+*A 1R*(*+56 53.)(*5)$W> (==+68 *A. 1R*(*+56 53.)(*5) *5 *A. (-85)+*A1 +6 *A. -(*.) 3A(U. 5: ,56T.)8.6,.， *A. (=T(6,.= (-85)+*A1 ,(6 65* 56-> .U,(3. :)51 *A. -5,(- 1+6+1R1XU @(U+6 5: (**)(,*+56 5: *A. -(*.) 3A(U.， @R* (-U5 1(+6*(+6 *A. ,A()(,*.)+U*+, 5: :(U* U3..= +6 *A. .()-> ,56T.)8.6,. 3A(U.$W> *A. ,56*)(U* .Y3.)+1.6*U 5: *A).. 1R-*+15=(- *.U* :R6,*+56U (6= ( .Y(13-. 0A5U. 3)5@-.1 U3(,. +U 656 K,56T.Y U.*， +* A(U @..6 3)5T.= *A(* *A. (=T(6,.= ’/2 (-85)+*A1 ,(6 +13)5T. *A. 8-5@(- ,56T.)8.6,. (@+-+*>， 8).(*-> .6A(6,. *A. )(*. 5: ,56T.)8.6,. (6= 5T.),51. *A. UA5)*,51+68 5: @(U+, ’/2 (-85)+*A1， *A(* +U， .(U+-> 3-R68+68 +6*5 *A. -5,(- 1+6+1R1$ A(B*/#C@： ’/2， 1R*(*+56 53.)(*5)， ,56U*)(+6.= -(>5R* 53*+1+4(*+56
作者简介： 李宁 （%B&!K ） ， 男， 博士生， 讲师， 主要研究方向： 系统工程、 人工智能、 演化计算、 人工生命。孙德宝 （%B#%K ） ， 男， 教授， 博士生导师， 研 究方向： 人工智能、 信号处理等。
%!
!""#$%&
计算机工程与应用
（） （) ） （% ） ! !"#$%& "’’ (& (*（ ) +& ) ） ） （ ） （ ） （! ） *（ ), % -* ) ,. ), % % ! + ! % % ! & ! / +& +& +& 其中， ， 为正常数， 称为加速因子； （ ） 为 ， 之间的 !% !! #$%& ’" %) 随机数； * 称惯性因子， * 较大适于对解空间进行大范围探查 （+,-./0123/4 ） ， 。第 & * 较小适于进行小范围开挖 （+,-./32123/4 ） （% "& "/ ） 维 的 位 置 变 化 范 围 为 ’(561,7， 速度变化范 561,7)， 围 ’(861,7， 迭代中若位置 和 速 度 超 过 边 界 范 围 则 取 边 861,7)， 界值。粒子群初始位置和速度随机产生， 然后按式 （% ） （! ） 进行 迭代， 直至找到满意解。 目前， 常 用 粒 子 群 算 法 为 9/:1. ;<= ， 每个粒子根据邻居 （>+3?@A/0@//7 ） 子 群 内 历 史 最 优 位 置 01 调 整 自 身 位 置 ， 即 式 （% ） 中 0(& 换为 01&。最初的 B./A1. ;<= 可看作 9/:1. ;<= 的 特 例。 C+44+7D
OP 45(6$78)9’:-;$*8)9’ OP 82$#7/+<)=>5#&9#/+<)
对邻居子群内所有粒子的所有维， 按几率 ! 进行重新 随 机 初始化位置和速度；
基金项目： 航天技术创新基金项目
!
粒子群优化算法
通过鸟之间的集体 ’/2 算法模拟鸟集群飞行觅食的行为，
每个备选解被称为 协作使群体达到最优目的。在 ’/2 系统中， 一个 “粒子” （3()*+,-. ） ， 多个粒子共存、 合作寻优 （近似鸟群寻找 食物） ， 每个粒子根据它自身的 “经验” 和相邻粒子群的最佳 “经 验” 在问题空间中向更好的位置 “飞行” ， 搜索最优解。
带变异算子的粒子群优化算法
李
! ! 宁 %，
孙德宝 %
岑翼刚 %
邹
彤%
% （华中科技大学控制科学与工程系， 武汉 #L""&# ） （武汉理工大学计算机科学与技术学院， 武汉 #L""&" ）
?K1(+-： 4+=568M*51$,51
摘 要 针对 ’/2 算法存在易陷入局部最优点的缺点， 该文提出了带变异算子的 ’/2 算法。在算法搜索的后期引入变
%
引言
粒子群优化 （’()*+,-. /0()1 23*+1+4(*+56 ） 算法是一类基
时又保持前期搜索速度快的特性。 对三个多峰的测试函数和一 个 实 例 的 对 比 实 验 结 果 说 明 该 文 所 提 出 的 带 变 异 算 子 的 ’/2 算法优于 ;5,(- ’/2 算法。
的随机优化算法。因受到人工生 于群智能 （/0()1 76*.--+8.6,. ） 命 （9)*+:+,+(- ;+:. ） 的 研 究 结 果 启 发 ， <.66.=> 和 ?@.)A()* 在 并立刻引起了优化 及 演 化 计 算 %BBC 年提出粒子群优化算法 D%E， 等领域的学者们的广泛关注。目前， ’/2 已广泛应用于函数优 化， 神经网络训练， 模式分类、 模糊系统控制以及其他的应用领 动态 域。 近几年的研究和实践表明， ’/2 在多维空间函数寻优、 目标寻优等方面有着收敛速度快、 解质量高、 鲁棒性好等优点， 特别适合工程应用 D!E。 但在后期却易于陷 ’/2 算法在搜索的初期收敛速度很快， 入局部极优点， 尤其当解空间为非凸集 时 ， 这 是 ’/2 算 法 的 主 要缺点。针对这一缺点， 近年来出现了 一 些 改 进 的 ’/2 算 法 ， 如 文 献 D#E 提 出 的 模 糊 ’/2 、 文 献 DCE 中 提 出 的 混 合 ’/2 、 文 献 DFE 提 出 的 智 能 ’/2 、 文 献 D&E 中 提 出 的 小 生 境 ’/2 以 及 文 献 DGE 提 出的保证局部收敛的 HI’/2 等， 这些改进 ’/2 各有优缺点。 该文提出一种改进的 ’/2 算法 ， 在 算 法 搜 索 的 后 期 引 入 变异算子，帮助算法摆脱后期易于陷入局部极优点的束缚， 同
’%%)
R47
其中， 45(6$78)9’ 为子群历史最优粒子位置 01 连续不变化 或变化极小的迭代次数， ;$*8)9’ 为 连 续 不 变 化 次 数 的 阈 值 ； （ 的欧几里得 82$#7/+<) 为 群 内 所 有 粒 子 到 历 史 最 佳 位 置 0 1 )） 空间距离， 82$#7/+<) 可 采 用 为 平 均 聚 集 距 离 ;9$%/+<) 或 最 大 分别定义如下： 聚集距离 ;$*/+<)，
% "! ’ ?* &
（ ）
!
提 出 了 多 种 邻 居 子 群 拓 扑 结 构 ， 如 E34? 型 、
F@++. 型 、 <210 型 等 ， 并 作 了 相 关 分 析 。 该 文 中 邻 居 群 采 用 其对问题空间中局部最优点很多的情 况 效 F@++. 型拓扑结构，
果较好。
61G03:+ H.+0: ’I) 和 J K14 7+4 L+0?@ ’%") 对 于 ;<= 的 收 敛 性 和稳定性作了初步分析，并给出了 一 些 保 证 ;<= 算 法 收 敛 的
异算子， 使算法摆脱后期易于陷入局部极优点的束缚， 同时又保持前期搜索速度快的特性。通过对三个多峰的测试函数 和一个问题空间为非凸集的实例所做 的 对 比 实 验 ， 表 明 改 进 的 ’/2 算 法 增 强 了 全 局 搜 索 能 力 ， 搜索成功率得到大大提 高， 克服了基本 ’/2 易于收敛到局部最优点的缺点。 关键词 粒子群优化算法 变异算子 布局优化 文献标识码 9 中图分类号 N’L"%$F
文章编号 %""!KGLL%K （!""# ） %&K""%!K"L
!"#$%&’( )*"#+ ,-$%+%."$%/0 *%$1 23$"$%/0 ,-(#"$/#
8 4% 5%067， )30 9(:"/7 ;(0 <%6"067 =/3 >/067 （O.3()*1.6* 5: I56*)5- /,+.6,. P ?68+6..)+68 ， QR(4A568 S6+T.)U+*> 5: VRA(6 #L""&#） /,+.6,. P N.,A65-58> ， ! （/,A55- 5: I513R*.) /,+.6,. P N.,A65-58> ， VRA(6 S6+T.)U+*> 5: N.,A65-58> ， VRA(6 #L""&"） %
参数条件。
&9#/+<) 的选 择 将 对 算 法 的 性 能 产 生 很 大 的 影 响 ， 过 大 的 ! 和 >5#&9#/+<) 以及过小的 ;$*8)9’ 都会影响算法的收敛速度和 搜 索精度， 而 如 果 ! 和 >5#&9#/+<) 过 小 或 ;$*8)9’ 过 大 则 都 不 利
于实现提高全局搜索能力的目的。
M
带变异算子的粒子群算法
分析式 （% ） 不难发现， 如果相邻子群的历史最优粒子位置
#
实验及结果
为验证带变异算子 ;<= 有效 性 ， 选 择 M 个 基 准 测 试 函 数
则 粒 子 群 很 接 近 01 时 ， 其速度更 01 在较长时间内未发 生 变 化 ， 新将主要由 23.（ ） 来决定， 于是速度将越来越小， 因此粒子群 ) +& 表现出强烈的 “趋 同 性 ” ， 表现在优化性能上就是收敛速度快， 但易陷入局部最优点。 当所求解问题的约束使得解空间为非凸 集合时， 这一缺点尤其明显。文献 ’%") 提出了 6G.23(N2102 ;<= ， 每迭代若干次后， 保留粒子群的历史最优位置， 粒子全部重新 初始化， 以提高粒子的多样性， 扩大搜索空间， 摆脱局部最优点 的吸引， 保证收敛到全局最优， 但粒子群的全部初始化将完全 破坏当前粒子的结构， 使得收敛速度ຫໍສະໝຸດ Baidu大减缓， 搜索精度也大 大降低。 考虑到这一点， 文章引入变异算子， 与遗传算法类似， 在子 群的历史最优粒子位置 01 连续无 变 化 或 变 化 极 小 时 ， 若 粒 子 群出现较严重聚集情况， 则 保 留 历 史 最 优 粒 子 位 置 01， 将粒子 中少部分维重新随机初始化， 以此来增强全局搜索能力， 克服 收敛到局部最优点的缺点，同时又不降低收敛速度和搜索精 度。定义带变异算子的粒子群算法如下：
;9$%/+<)Q
# ! "!
7 / + - % & - % / & - %
（’ 1& ?*+& ）
!
$
7
1& +&
（M ） （# ）
;$*/+<)-S1,
+Q%$$@7
7 为相邻子群粒子数， >5#&9#/+<) 为 判 断 群 内 粒 子 聚 集 程
度的距离阈值。 变异率 ! 、连续不变化次数阈值 ;$*8)9’ 和距离阈值 >5#A
（&#%， …， ； 第 # 个 粒 子 “飞 行 ” 历史中的最优位置 为 $ #% &#!， &#!） （即 该 位 置 对 应 解 最 优 ） 为 ’#% （( #%， …， ， 设 ’) 为 所 有 ’# ( #!， ( #!） （#J% ， …， 中的最 优 值 ； 第 # 个粒子的位置变化率 （速 度 ） 为向 "） 量 * #% （+ #%， 。每个粒子的位置按如下公式进行变化 + #!， … ， + #!） （ “飞行” ） ： （） +（ %/0+（ .1 %023", 0D(（ K&（ E. #, -.% ） #, - ） #, - ） #, - ）
?:@$#"&$： 9+1+68 (* *A. UA5)*,51+68 5: ’/2 (-85)+*A1， *A(* +U， .(U+-> 3-R68+68 +6*5 *A. -5,(- 1+6+1R1， 0. 5335U.= (6 (=T(6,.= ’/2 (-85)+*A1 0+*A 1R*(*+56 53.)(*5)$W> (==+68 *A. 1R*(*+56 53.)(*5) *5 *A. (-85)+*A1 +6 *A. -(*.) 3A(U. 5: ,56T.)8.6,.， *A. (=T(6,.= (-85)+*A1 ,(6 65* 56-> .U,(3. :)51 *A. -5,(- 1+6+1R1XU @(U+6 5: (**)(,*+56 5: *A. -(*.) 3A(U.， @R* (-U5 1(+6*(+6 *A. ,A()(,*.)+U*+, 5: :(U* U3..= +6 *A. .()-> ,56T.)8.6,. 3A(U.$W> *A. ,56*)(U* .Y3.)+1.6*U 5: *A).. 1R-*+15=(- *.U* :R6,*+56U (6= ( .Y(13-. 0A5U. 3)5@-.1 U3(,. +U 656 K,56T.Y U.*， +* A(U @..6 3)5T.= *A(* *A. (=T(6,.= ’/2 (-85)+*A1 ,(6 +13)5T. *A. 8-5@(- ,56T.)8.6,. (@+-+*>， 8).(*-> .6A(6,. *A. )(*. 5: ,56T.)8.6,. (6= 5T.),51. *A. UA5)*,51+68 5: @(U+, ’/2 (-85)+*A1， *A(* +U， .(U+-> 3-R68+68 +6*5 *A. -5,(- 1+6+1R1$ A(B*/#C@： ’/2， 1R*(*+56 53.)(*5)， ,56U*)(+6.= -(>5R* 53*+1+4(*+56
作者简介： 李宁 （%B&!K ） ， 男， 博士生， 讲师， 主要研究方向： 系统工程、 人工智能、 演化计算、 人工生命。孙德宝 （%B#%K ） ， 男， 教授， 博士生导师， 研 究方向： 人工智能、 信号处理等。
%!
!""#$%&
计算机工程与应用
（） （) ） （% ） ! !"#$%& "’’ (& (*（ ) +& ) ） ） （ ） （ ） （! ） *（ ), % -* ) ,. ), % % ! + ! % % ! & ! / +& +& +& 其中， ， 为正常数， 称为加速因子； （ ） 为 ， 之间的 !% !! #$%& ’" %) 随机数； * 称惯性因子， * 较大适于对解空间进行大范围探查 （+,-./0123/4 ） ， 。第 & * 较小适于进行小范围开挖 （+,-./32123/4 ） （% "& "/ ） 维 的 位 置 变 化 范 围 为 ’(561,7， 速度变化范 561,7)， 围 ’(861,7， 迭代中若位置 和 速 度 超 过 边 界 范 围 则 取 边 861,7)， 界值。粒子群初始位置和速度随机产生， 然后按式 （% ） （! ） 进行 迭代， 直至找到满意解。 目前， 常 用 粒 子 群 算 法 为 9/:1. ;<= ， 每个粒子根据邻居 （>+3?@A/0@//7 ） 子 群 内 历 史 最 优 位 置 01 调 整 自 身 位 置 ， 即 式 （% ） 中 0(& 换为 01&。最初的 B./A1. ;<= 可看作 9/:1. ;<= 的 特 例。 C+44+7D
OP 45(6$78)9’:-;$*8)9’ OP 82$#7/+<)=>5#&9#/+<)
对邻居子群内所有粒子的所有维， 按几率 ! 进行重新 随 机 初始化位置和速度；
基金项目： 航天技术创新基金项目
!
粒子群优化算法
通过鸟之间的集体 ’/2 算法模拟鸟集群飞行觅食的行为，
每个备选解被称为 协作使群体达到最优目的。在 ’/2 系统中， 一个 “粒子” （3()*+,-. ） ， 多个粒子共存、 合作寻优 （近似鸟群寻找 食物） ， 每个粒子根据它自身的 “经验” 和相邻粒子群的最佳 “经 验” 在问题空间中向更好的位置 “飞行” ， 搜索最优解。
带变异算子的粒子群优化算法
李
! ! 宁 %，
孙德宝 %
岑翼刚 %
邹
彤%
% （华中科技大学控制科学与工程系， 武汉 #L""&# ） （武汉理工大学计算机科学与技术学院， 武汉 #L""&" ）
?K1(+-： 4+=568M*51$,51
摘 要 针对 ’/2 算法存在易陷入局部最优点的缺点， 该文提出了带变异算子的 ’/2 算法。在算法搜索的后期引入变
%
引言
粒子群优化 （’()*+,-. /0()1 23*+1+4(*+56 ） 算法是一类基
时又保持前期搜索速度快的特性。 对三个多峰的测试函数和一 个 实 例 的 对 比 实 验 结 果 说 明 该 文 所 提 出 的 带 变 异 算 子 的 ’/2 算法优于 ;5,(- ’/2 算法。
的随机优化算法。因受到人工生 于群智能 （/0()1 76*.--+8.6,. ） 命 （9)*+:+,+(- ;+:. ） 的 研 究 结 果 启 发 ， <.66.=> 和 ?@.)A()* 在 并立刻引起了优化 及 演 化 计 算 %BBC 年提出粒子群优化算法 D%E， 等领域的学者们的广泛关注。目前， ’/2 已广泛应用于函数优 化， 神经网络训练， 模式分类、 模糊系统控制以及其他的应用领 动态 域。 近几年的研究和实践表明， ’/2 在多维空间函数寻优、 目标寻优等方面有着收敛速度快、 解质量高、 鲁棒性好等优点， 特别适合工程应用 D!E。 但在后期却易于陷 ’/2 算法在搜索的初期收敛速度很快， 入局部极优点， 尤其当解空间为非凸集 时 ， 这 是 ’/2 算 法 的 主 要缺点。针对这一缺点， 近年来出现了 一 些 改 进 的 ’/2 算 法 ， 如 文 献 D#E 提 出 的 模 糊 ’/2 、 文 献 DCE 中 提 出 的 混 合 ’/2 、 文 献 DFE 提 出 的 智 能 ’/2 、 文 献 D&E 中 提 出 的 小 生 境 ’/2 以 及 文 献 DGE 提 出的保证局部收敛的 HI’/2 等， 这些改进 ’/2 各有优缺点。 该文提出一种改进的 ’/2 算法 ， 在 算 法 搜 索 的 后 期 引 入 变异算子，帮助算法摆脱后期易于陷入局部极优点的束缚， 同
’%%)
R47
其中， 45(6$78)9’ 为子群历史最优粒子位置 01 连续不变化 或变化极小的迭代次数， ;$*8)9’ 为 连 续 不 变 化 次 数 的 阈 值 ； （ 的欧几里得 82$#7/+<) 为 群 内 所 有 粒 子 到 历 史 最 佳 位 置 0 1 )） 空间距离， 82$#7/+<) 可 采 用 为 平 均 聚 集 距 离 ;9$%/+<) 或 最 大 分别定义如下： 聚集距离 ;$*/+<)，
% "! ’ ?* &
（ ）
!
提 出 了 多 种 邻 居 子 群 拓 扑 结 构 ， 如 E34? 型 、
F@++. 型 、 <210 型 等 ， 并 作 了 相 关 分 析 。 该 文 中 邻 居 群 采 用 其对问题空间中局部最优点很多的情 况 效 F@++. 型拓扑结构，
果较好。
61G03:+ H.+0: ’I) 和 J K14 7+4 L+0?@ ’%") 对 于 ;<= 的 收 敛 性 和稳定性作了初步分析，并给出了 一 些 保 证 ;<= 算 法 收 敛 的
异算子， 使算法摆脱后期易于陷入局部极优点的束缚， 同时又保持前期搜索速度快的特性。通过对三个多峰的测试函数 和一个问题空间为非凸集的实例所做 的 对 比 实 验 ， 表 明 改 进 的 ’/2 算 法 增 强 了 全 局 搜 索 能 力 ， 搜索成功率得到大大提 高， 克服了基本 ’/2 易于收敛到局部最优点的缺点。 关键词 粒子群优化算法 变异算子 布局优化 文献标识码 9 中图分类号 N’L"%$F
文章编号 %""!KGLL%K （!""# ） %&K""%!K"L
!"#$%&’( )*"#+ ,-$%+%."$%/0 *%$1 23$"$%/0 ,-(#"$/#
8 4% 5%067， )30 9(:"/7 ;(0 <%6"067 =/3 >/067 （O.3()*1.6* 5: I56*)5- /,+.6,. P ?68+6..)+68 ， QR(4A568 S6+T.)U+*> 5: VRA(6 #L""&#） /,+.6,. P N.,A65-58> ， ! （/,A55- 5: I513R*.) /,+.6,. P N.,A65-58> ， VRA(6 S6+T.)U+*> 5: N.,A65-58> ， VRA(6 #L""&"） %
参数条件。
&9#/+<) 的选 择 将 对 算 法 的 性 能 产 生 很 大 的 影 响 ， 过 大 的 ! 和 >5#&9#/+<) 以及过小的 ;$*8)9’ 都会影响算法的收敛速度和 搜 索精度， 而 如 果 ! 和 >5#&9#/+<) 过 小 或 ;$*8)9’ 过 大 则 都 不 利
于实现提高全局搜索能力的目的。
M
带变异算子的粒子群算法
分析式 （% ） 不难发现， 如果相邻子群的历史最优粒子位置
#
实验及结果
为验证带变异算子 ;<= 有效 性 ， 选 择 M 个 基 准 测 试 函 数
则 粒 子 群 很 接 近 01 时 ， 其速度更 01 在较长时间内未发 生 变 化 ， 新将主要由 23.（ ） 来决定， 于是速度将越来越小， 因此粒子群 ) +& 表现出强烈的 “趋 同 性 ” ， 表现在优化性能上就是收敛速度快， 但易陷入局部最优点。 当所求解问题的约束使得解空间为非凸 集合时， 这一缺点尤其明显。文献 ’%") 提出了 6G.23(N2102 ;<= ， 每迭代若干次后， 保留粒子群的历史最优位置， 粒子全部重新 初始化， 以提高粒子的多样性， 扩大搜索空间， 摆脱局部最优点 的吸引， 保证收敛到全局最优， 但粒子群的全部初始化将完全 破坏当前粒子的结构， 使得收敛速度ຫໍສະໝຸດ Baidu大减缓， 搜索精度也大 大降低。 考虑到这一点， 文章引入变异算子， 与遗传算法类似， 在子 群的历史最优粒子位置 01 连续无 变 化 或 变 化 极 小 时 ， 若 粒 子 群出现较严重聚集情况， 则 保 留 历 史 最 优 粒 子 位 置 01， 将粒子 中少部分维重新随机初始化， 以此来增强全局搜索能力， 克服 收敛到局部最优点的缺点，同时又不降低收敛速度和搜索精 度。定义带变异算子的粒子群算法如下：
;9$%/+<)Q
# ! "!
7 / + - % & - % / & - %
（’ 1& ?*+& ）
!
$
7
1& +&
（M ） （# ）
;$*/+<)-S1,
+Q%$$@7
7 为相邻子群粒子数， >5#&9#/+<) 为 判 断 群 内 粒 子 聚 集 程
度的距离阈值。 变异率 ! 、连续不变化次数阈值 ;$*8)9’ 和距离阈值 >5#A