群智能算法

智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.1 粒子群算法概述 3. 粒子群算法的产生背景（二）：人工生命（AL）
人工生命是对具有自然生命现象和行为特征的人造系统 的研究，是一门涉及到生命科学，复杂性科学，人工智 能，计算机科学，经济学，哲学和语言学等多学科的交 叉学科，其研究模式主要体现为两类： • 如何利用计算技术研究生物现象； • 如何利用生物技术研究计算问题；
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.1 粒子群算法概述 3. 粒子群算法的产生背景（一）：复杂适应系统（CAS）
CAS是指其内部的成员(Agent)能够通过与其他成员以及 外界环境的交流，并根据学习经验调整自身的结构和行 为，进而实现整个系统的演变和进化的系统 CAS的特点表现为： • 主体(Adaptive Agent)是主动的、活的实体； • 个体与环境(包括其他个体之间)的相互影响，相互作 用，是系统演变和进化的主要动力； • 宏观与微观有机结合 • 引进随机因素的作用，具有更强的描述和表达能力。
6.2.1 粒子群算法概述 4. 粒子群算法的基本原则
接近原则：粒子与群体应能够依照目标前进
特性原则：群体应该能够反应环境的变化，当所处环境 并非最佳解空间时，能够快速飞离该区域。 不同响应原则：群体不会向不佳的解前进 稳定原则：环境改变时，群体移动不会改变其运动模式
适应原则：计算当下最佳解时，群体将会考量适当的参 数变动。
智能计算来自百度文库法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.2 基本粒子群算法 1. 基本粒子群算法思想描述
在PSO中，每个优化问题的潜在解被想象成d维空间上的 一个点，我们称其为一个粒子。粒子在搜索空间中以一 定的速度飞行，速度依据其本身和同伴的飞行经验进行 动态调整。 所有粒子都有一个被目标函数决定的适应值，并知道自 己到目前为止发现的最好的位臵，当前位臵，以及目前 为止整个群体所有粒子所发现的最好位臵。 粒子根据以下信息改变当前位臵:① 当前位置；②当前 速度；③当前位置与自己最好位置之间的距离；④当前 位置与群体最好位置之间的距离
惯性
V i(t+ 1) =
V i(t)+ c1 r1 (t)(P i(t)¡ X i(t)) + c2 r2 (t)(P g (t)¡ X i(t)) X i(t)+ V i(t+ 1)
认知
社会
X i(t+ 1) =
c1和c2为正常数，称为加速系数； r1和r2为[0 1]之间的随机数。 上式中的速度和位臵向量都被限制在有限区域内，一旦 超出界限，则按照响应的最大最小界限计算
6.1 群智能算法概述
6.1.4 群智能算法与进化计算的异同 SI与EC的相同点
都研究个体与群体的关系 都存在个体之间的信息传递 都是为了解决实际问题，而非单纯的模拟自然现象 都属于随机搜索算法 SI与EC的不同点
SI模拟的是个体之间的协同作用，而EC模拟的是适者生 存的自然选择机制。
智能计算方法与应用
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.1 粒子群算法概述 2. 粒子群算法的提出
粒子群算法最早是由美国的社会心理 学家Kennedy和电气工程师Eberhart于 1995年提出，他们在Reynolds的工作 基础上引入了食物要素，进一步模拟 了鸟群飞行觅食的行为，并发现该方 法可以应用于复杂全局寻优问题的求 解。 粒子群优化算法的英文为“Particle Swarm Optimization”，通常缩写为 PSO
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.1 粒子群算法概述 5. 粒子群算法的基本概念
最优化问题 解空间 候选解 候选解集 解的搜索速度 目标函数 单个候选解 搜索过程中的最优点 所有候选解 搜索过程中的最优点 粒子群算法 粒子可行空间 粒子 粒子群 粒子速度 适应度函数 个体极值 全局极值 鸟群觅食行为 天空 鸟的位置 鸟群 鸟的速度 找到食物的可能性 某一只鸟记忆中最接近 食物的位置 整个鸟群觅食过程中最 接近食物的位置
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.2 基本粒子群算法 3. 基本粒子群算法流程 ① ② ③ ④ ⑤ ⑥ 设定粒子群系统相关参数 随机初始化粒子群， 计算每个粒子的适应值 统计个体极值pbest和群体极值gbest 更新每个粒子的速度和位置 判断是否满足停止条件，若满足则进 行步骤6);若不满足则重复步骤3)~5) ⑦ 返回当前群体极值gbest ，
智能计算方法与应用
东北大学 2010年
第六章 群智能算法
•6.1 群智能算法概述 •6.2 粒子群优化算法 •6.3 粒子群算法应用
智能计算方法与应用
东北大学 2010年
6.1 群智能算法概述
• 6.1.1 生物群体行为的启示 • 6.1.2 群智能的概念 • 6.1.3 群智能算法的分类
智能计算方法与应用
东北大学 2010年
智能计算方法与应用
东北大学 2010年
智能计算方法与应用
东北大学 2010年
智能计算方法与应用
东北大学 2010年
智能计算方法与应用
东北大学 2010年
6.1 群智能算法概述
6.1.1 生物群体行为的启示 “群众的力量是伟大的”
鸟群通过协作进行捕食
鱼聚集成群可以有效的逃避捕食者 房间偏僻角落里的蛋糕总会先被蚂蚁发现
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.3 改进粒子群算法 1. 粒子群算法主要研究方向
算法分析；
粒子群拓扑结构；
参数选择与优化；
社会行为与生物行为的模拟；
与其他演化计算的融合；
应用。
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.3 改进粒子群算法 2. 几种常见的粒子群改进算法： 线性递减惯性权重，收敛因子，最大速度，规范系数 二进制PSO，离散PSO 并行PSO，小生境PSO 混合PSO：模糊PSO、混沌PSO、HPSO、免疫PSO
智能计算方法与应用
东北大学 2010年
6.1 群智能算法概述
6.1.2 群智能的概念 1. 群智能(Swarm Intelligence，SI)的概念发展过程
分子自动机系统中提出。分子自动机中的主体在一维或 二维网格空间中与相邻个体相互作用，从而实现自组织。 ——by Beni，Hackwood 任何一种由昆虫群体或其它动物社会行为机制而激发设 计出的算法或分布式解决问题的策略均属于群智能。 ——by Bonabeau、Dorigo & Theraula 无智能或简单智能的主体通过任何形式的聚集协同而表 现出智能行为的特性。 ——by Bonabeau
东北大学 2010年
6.2 粒子群优化算法
•6.2.1 粒子群算法概述 •6.2.2 基本粒子群算法 •6.2.3 改进粒子群算法
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.1 粒子群算法概述 1. 粒子群算法的起源
粒子群优化算法源于1987年Reynolds对鸟群社会系统 boids的仿真研究，boids是一个复杂适应系统。在boids 中，一群鸟在空中飞行，每个鸟遵守以下三条规则： • 1）避免与相邻的鸟发生碰撞冲突； • 2）尽量与自己周围的鸟在速度上保持协调一致； • 3）尽量试图向自己所认为的群体中靠近。 仅通过使用这三条规则，boids系统就实现了非常逼真的 群体聚集行为，鸟成群地在空中飞行，当遇到障碍时它 们会分开绕行而过，随后又会重新形成群体
其中的ω称为惯性系数，通常随算法的搜索过程从0.9到 0.4线性递减；合适的ω取值能够提供算法局部探索与全 局开发的平衡能力，同时也降低了算法对于每一回合的 速度阈值设定的要求。较大的ω使粒子具备较强的开发 能力，较小的ω使粒子具备探索能力
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.2 基本粒子群算法 2. 基本粒子群算法数学描述
已知优化问题为： m i f(x) = f(x 1 ;x 2 ;¢¢¢ ;x d ); n s. x i 2 [ i;U i] = 1;2;¢¢¢ ;n t. L ;i 第i个粒子表示为：X i = (xi1;xi2;¢¢¢;xid )；
智能计算方法与应用
东北大学 2010年
6.1 群智能算法概述
6.1.3 群智能算法的分类 广义的群智能算法包括： 粒子群算法：模拟鸟群觅食行为 蚁群算法：模拟蚁群觅食行为 免疫算法：模拟生物免疫系统工作机理 细菌觅食算法：模拟大肠杆菌觅食行为
混合算法：多种群智能算法的结合
智能计算方法与应用
东北大学 2010年
智能计算方法与应用
东北大学 2010年
6.1 群智能算法概述
6.1.2 群智能的概念 2. 定义SI的五条基本原则（by Mark Millonas 1994) Proximity Principle: 群内个体具有能执行简单的时间或 空间上的评估和计算的能力。 Quality Principle: 群内个体能对环境（包括群内其它个 体）的关键性因素的变化做出响应。 Principle of Diverse Response: 群内不同个体对环境中的 某一变化所表现出的响应行为具有多样性。 Stability Principle: 不是每次环境的变化都会导致整个群 体的行为模式的改变。 Adaptability Principle: 环境所发生的变化中，若出现群 体值得付出代价的改变机遇，群体必须能够改变其行为 模式。
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.3 改进粒子群算法 3. 标准粒子群算法——惯性权重法
惯性权重概念是由Y.Shi和Eberhart于1998年提出的
V i(t+ 1) = X i(t+ 1) = ! V i(t)+ c1 r1 (t)(P i(t)¡ X i(t)) + c2 r2 (t)(P g (t)¡ X i(t)) X i(t)+ V i(t+ 1)
粒子i速度记为： V i = (vi1;vi2;¢¢¢;vid )
个体最好位臵记为 P i = (pi1;pi2 ;¢¢¢;pid ) ，也称为pbest
群体最好位臵记为Pg，也称为gbest;
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法
6.2.2 基本粒子群算法 2. 基本粒子群算法数学描述
6.2.3 改进粒子群算法 4. 收敛（压缩）因子法
在惯性权重法的基础上，1999年Clerc提出了收敛因子法
V i(t+ 1) = X i(t+ 1) = K = K (V i(t) + c1 r1 (t)(P i(t) ¡ X i(t)) + c2 r2 (t)(P g (t) ¡ X i(t))) X i(t) + V i(t+ 1) 2k=j ¡ ' ¡ 2 p ' 2 ¡ 4' j
智能计算方法与应用
东北大学 2010年
6.1 群智能算法概述
6.1.2 群智能的概念 3. SI的核心思路——“Mind is social”
认为人的智能是源于社会性的相互作用，文化和认知是 人类社会性不可分割的重要部分，这一观点成为了群智 能发展的基石。
4. SI的意义和发展前景 群智能的思路，为在没有集中控制且不提供全局模型的 前提下寻找复杂的分布式问题求解方案提供了基础 群智能已成为有别于传统人工智能中连接主义和符号主 义的一种新的关于智能的描述方法。
头脑简单的蜜蜂却能构造出世界上最完美的建筑物
智能计算方法与应用
东北大学 2010年
6.1 群智能算法概述
6.1.1 生物群体行为的启示 生物群中的每个个体只有简单的信息处理能力和行为能力。
鸟群：飞行，捕食，避碰…… 昆虫：爬行，觅食，产生信息素…… 群体中各个个体之间可以进行信息交互。 鸟群：视觉，听觉，磁场…… 昆虫：感知信息素…… 群体的能力要远远超出个体能力的简单叠加 信息感知能力 分工协作能力 适应生存能力
人工生命的研究挑战主要为以下三类 • The Transition of Life • The Evolutionary Potential of Life • The Relation between Life and Mind and Culture
智能计算方法与应用
东北大学 2010年
6.2 粒子群优化算法