蚁群算法原理与应用1
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
市）两两连接lij上残留信息量的集合，在初始时 刻各条路径上的信息量相等，并设τij(0)=const, 基 本蚁群算法的寻优是通过有向图g=(C, L, Γ)实现 的。
18
n
i 1
• 蚂蚁k(k=1,2,…,m)在运动过程中，根据各条路径上的信息 量决定其转移方向。这里用禁忌表tabuk来记录蚂蚁k当前 所走过的城市，集合随着tabuk进化过程做动态调整。在 搜索过程中，蚂蚁根据各条路径上的信息量及路径的启发 信息来计算状态转移概率。在t时刻蚂蚁k由元素（城市）i 转移到元素（城市）j的状态转移概率：
Distributed Optimization by Ant Colonies
Alberto Colorni, Marco Dorigo, Vittorio Maniezzo Dipartimento di Elettronica, Politecnico di Milano Piazza Leonardo da Vinci 32, 20133 Milano, Italy IEEE Transactions on Systems, Man, And CyberneticsPart B: Cybernetics,Vol.26, No.1, Feb 1996. 29-41
[ ij (t )] [ik (t )] , if j allowed k [ is (t )] [is (t )] pij k (t ) (1) s allowed k elsewise 0
19
• 其中allowedk={C-tabuk}表示蚂蚁k下一步允许选择的城市； α为信息启发式因子，表示轨迹的相对重要性，反映了蚂 蚁在运动过程中积累的信息在蚂蚁运动时所起的作用，其 值越大，则该蚂蚁越倾向于选择其它蚂蚁经过的路径，蚂 蚁之间的协作性越强；β为期望启发式因子，表示能见度 的相对重要性，反映蚂蚁在运动过程中启发信息在蚂蚁选 择路径中的受重视程度，其值越大，则该状态状态转移概 率越接近于贪心规则； • ηij(t)为启发函数， ηij(t) =1/dij • 式中dij表示相邻两个城市之间的距离。对蚂蚁k而言，dij 越小，则ηij(t)越大，pijk也就越大。显然，该启发函数表 示蚂蚁从元素（城市）i转移到元素（城市）j的期望程度。
P
NP
NP-C
NP-hard
13
基本蚁群算法模型
• 基本假设
– 蚂蚁之间通过信息素和环境进行通信。每只蚂 蚁仅根据其周围的局部环境作出反应，也只对 周围的局部环境产生影响； – 蚂蚁对环境的反应由其内部模式决定。即蚂蚁 是反应型适应性主体 – 在个体水平上，每只蚂蚁仅根据环境做出独立 选择；在群体水平上，单只蚂蚁的行为是随机 的，但蚁群可通过自组织过程形成高度有序的 群体行为。
7
双桥实验数学模型
假设条件： 1、非对称桥上的信息量与过去一个时间段内经过该桥的蚂蚁数目成正比；
2、某一时刻蚂蚁按照桥上残留的信息量多少来选择其中某座桥
3、经过该桥的蚂蚁数目越多则桥上的残留信息量就越大
设短桥为A，长桥为B，mA和mB分别表示经过桥A和桥B的蚂蚁数目
mA + mB = m 当所有m只蚂蚁都经过两座桥之后，第m+1只蚂蚁选择桥A的概率为：
PA (m)
9
基本蚁群算法的数学模型
10
P、NP、NP-C、NP-hard问题
• P类问题
– 所有可用DTM (Deterministic one-tape Turing Machine) 在多项式时间内求解的判定问题Π的 集合。简记为O(p(n)) – 即 P={L: 存在一个多项式时间DTM程序M，是 的L=LM} , 其中LM表示程序M所识别的语言。 – 若存在一个多项式时间DTM程序，它在编码策 略e之下求解判定问题Π，即L[Π, e]∈P,则称该 判定问题属于P类问题。
3
Fig. 1. An example with real ants
a) Ants follow a path between points A and E. b) An obstacle is interposed; ants can choose to go around it following one of the two different paths with equal probability. c) On the shorter path more pheromone is laid down.
20
• 为了避免残留信息素过多引起残留信息淹没启发信息， 在每只蚂蚁走完一步或者完成对所有n个城市的遍历(也 即一个循环结束)后，要对残留信息进行更新处理。这 种更新策略模仿了人类大脑记忆的特点，在新信息不 断存人大脑的同时，存储在大脑中的旧信息随着时间 的推移逐渐淡化，甚至忘记。由此，t+n时刻在路径(i, j) 上的信息量可按如下规则进行调整
而选择桥B的概率为：
( mA k ) h PA (m) h h (mA k ) (mB k )
PB (m) 1 PA (m)
8
• • • •
参数h 和 k用以匹配真实实验数据 第m+1只蚂蚁首先计算 PA (m) 然后生成一个在区间[0,1]上均匀分布的随机数 若 PA (m) ，则选择桥A，否则选择桥B
14
TSP (Traveling Salesman Problem)
• 有向图
– 有向图D的三元组为 (V, E, f)，其中V是一个非 空集合，其元素称为有向图的结点；E是一个 集合，其元素称为有向图的弧段（边）；f是从 E到VxV上的一个映射（函数）。 – E中的元素总是和V中的序偶对有对应关系，可 用V中的序偶代替E中的元素。 – 一个有向图Ｄ可简记为(V, E).
11
P、NP、NP-C、NP-hard问题
• NP类问题 (Non-deterministic Polynomial)
– 若存在一个多项式函数 g(x) 和一个验证算法H, 对一类判定问题A的任何一个“是”回答，满 足其输入长度d(s)不超过g(d(I)), 其中d(I)为I的 输入长度，且验证算法中S为I的“是”回答的 计算时间不超过g(d(I)), 则称判定问题A为非多 项式确定问题。 – NP类问题是所有可用NDTM (NonDeterministic one-tape Turing Machine)在多项 式时间内求解的判定问题Π的集合
2
2
G=(C, L)是一个有向图，TSP的目的是从有向图G中寻 出长度最短的Hamilton圈， 即一条对C={c1, c2, …, cn}中n个元素（城市）访问且只 访问一次的最短封闭曲线
16
TSP (Traveling Salesman Problem)
• TSP简单形象描述
给定n个城市，一个旅行商从某一城市出发，访问各城 市一次且仅有一次后再回到原出发城市，要求找出一 条最短的巡回路径 可分为对称TSP (Symmetric Traveling Salesman Problem) 和非对称TSP (Asymmetric Traveling Salesman Problem)
Ant System: Optimization by a Colony of Cooperating Agents
Marco Dorigo, Member, IEEE, Vittorio Maniezzo, and Alberto Colorni http://iridia.ulb.ac.be/~mdorigo/HomePageDorigo/
4
Fig. 2. An example with artificial ants
a) The initial graph with distances. b) At time t=0 there is no trail on the graph edges; therefore, ants choose whether to turn right or left with equal probability. c) At time t=1 trail is stronger on shorter edges, which are therefore, in the average, preferred by ants.
15
TSP (Traveling Salesman Problem)
• TSP
设C={c1, c2, …, cn} 是n个城市的集合， L={lij|ci, cj C}是集合C中的元素（城市）两两连接的 集合， dij(i, j=1,1,…,n)是lij的Euclidean距离，即
d ij ( xi x j ) ( yi y j )
• TSP是NP-C问题 • n城市规模的TSP，存在(n-1)!/2条不同闭合路径。
17
基本蚁群算法数学模型
• 设bi(t)表示t时刻位于元素i的蚂蚁数目，τij (t)为t 时刻路径(i, j)上的信息量，n表示TSP规模，m为 蚁群中蚂蚁总数，则
m biLeabharlann (t ) { ij (t ) | ci , c j C} 是t时刻集合C中元素（城
ij (t n) (1 ) ij (t ) ij (t )
ij (t ) ij k (t )
k 1 m
(2) (3)
21
• 式中，ρ表示信息素挥发系数，则1-ρ表示信息素 残留因子，为了防止信息的无限积累， ρ的取值 范围为[0，1), Δτij(t)表示本次循环中路径(i, j)上的 信息素增量，初始时刻Δτij(t) =0, Δτijk(t) 表示第k 只蚂蚁在本次循环中留在路径(i, j)上的信息量。 • 根据信息素更新策略的不同，Dorigo M提出了三 种不同的基本蚁群算法模型，分别称之为AntCycle模型、Ant-Quantity模型及Ant-Density模型， 其差别在于Δτijk(t)求法的不同。
12
P、NP、NP-C、NP-hard问题
• NP-C类问题 (NP-Complete)
– 是NP类中最困难的一类问题。 – 有重要实际意义和工程背景 – TSP (Traveling Salesman Problem)
• Symmetric; Asymmetric
• NP-hard类问题
– NP-C NP-hard
22
• Ant-Cycle模型
Q , 若第k只蚂蚁在本次循环中经过(i, j ) k ij (t ) Lk (4) 0, 否则
5
双桥实验(Goss S, 1989)
Naturwissenschaften 76, 579-581 (1989)
Self-organized Shortcuts in the Argentine Ant
S. Goss, S. Aron, J. L. Deneubourg, and J. M. Pasteels Unit of Behavioural Ecology, C.P. 231, Universit6 Libre de Bruxelles, B- 1050 Bruxelles
6
Fig. 1. A colony of I humilis selecting the short branches on both modules of the bridge
a) one module of the bridge b) and c): photos taken 4 and 8 min after placement of the bridge
自然计算与群体智能
赵林亮
计算机应用技术研究所 zhaoll@
1
蚁群算法
赵林亮
计算机应用技术研究所 zhaoll@
2
参考文献
APPEARED IN PROCEEDINGS OF ECAL91-EUROPEAN CONFERENCE ON ARTIFICIAL LIFE, PARIS, FRANCE, ELSEVIER PUBLISHING,134–142.
18
n
i 1
• 蚂蚁k(k=1,2,…,m)在运动过程中，根据各条路径上的信息 量决定其转移方向。这里用禁忌表tabuk来记录蚂蚁k当前 所走过的城市，集合随着tabuk进化过程做动态调整。在 搜索过程中，蚂蚁根据各条路径上的信息量及路径的启发 信息来计算状态转移概率。在t时刻蚂蚁k由元素（城市）i 转移到元素（城市）j的状态转移概率：
Distributed Optimization by Ant Colonies
Alberto Colorni, Marco Dorigo, Vittorio Maniezzo Dipartimento di Elettronica, Politecnico di Milano Piazza Leonardo da Vinci 32, 20133 Milano, Italy IEEE Transactions on Systems, Man, And CyberneticsPart B: Cybernetics,Vol.26, No.1, Feb 1996. 29-41
[ ij (t )] [ik (t )] , if j allowed k [ is (t )] [is (t )] pij k (t ) (1) s allowed k elsewise 0
19
• 其中allowedk={C-tabuk}表示蚂蚁k下一步允许选择的城市； α为信息启发式因子，表示轨迹的相对重要性，反映了蚂 蚁在运动过程中积累的信息在蚂蚁运动时所起的作用，其 值越大，则该蚂蚁越倾向于选择其它蚂蚁经过的路径，蚂 蚁之间的协作性越强；β为期望启发式因子，表示能见度 的相对重要性，反映蚂蚁在运动过程中启发信息在蚂蚁选 择路径中的受重视程度，其值越大，则该状态状态转移概 率越接近于贪心规则； • ηij(t)为启发函数， ηij(t) =1/dij • 式中dij表示相邻两个城市之间的距离。对蚂蚁k而言，dij 越小，则ηij(t)越大，pijk也就越大。显然，该启发函数表 示蚂蚁从元素（城市）i转移到元素（城市）j的期望程度。
P
NP
NP-C
NP-hard
13
基本蚁群算法模型
• 基本假设
– 蚂蚁之间通过信息素和环境进行通信。每只蚂 蚁仅根据其周围的局部环境作出反应，也只对 周围的局部环境产生影响； – 蚂蚁对环境的反应由其内部模式决定。即蚂蚁 是反应型适应性主体 – 在个体水平上，每只蚂蚁仅根据环境做出独立 选择；在群体水平上，单只蚂蚁的行为是随机 的，但蚁群可通过自组织过程形成高度有序的 群体行为。
7
双桥实验数学模型
假设条件： 1、非对称桥上的信息量与过去一个时间段内经过该桥的蚂蚁数目成正比；
2、某一时刻蚂蚁按照桥上残留的信息量多少来选择其中某座桥
3、经过该桥的蚂蚁数目越多则桥上的残留信息量就越大
设短桥为A，长桥为B，mA和mB分别表示经过桥A和桥B的蚂蚁数目
mA + mB = m 当所有m只蚂蚁都经过两座桥之后，第m+1只蚂蚁选择桥A的概率为：
PA (m)
9
基本蚁群算法的数学模型
10
P、NP、NP-C、NP-hard问题
• P类问题
– 所有可用DTM (Deterministic one-tape Turing Machine) 在多项式时间内求解的判定问题Π的 集合。简记为O(p(n)) – 即 P={L: 存在一个多项式时间DTM程序M，是 的L=LM} , 其中LM表示程序M所识别的语言。 – 若存在一个多项式时间DTM程序，它在编码策 略e之下求解判定问题Π，即L[Π, e]∈P,则称该 判定问题属于P类问题。
3
Fig. 1. An example with real ants
a) Ants follow a path between points A and E. b) An obstacle is interposed; ants can choose to go around it following one of the two different paths with equal probability. c) On the shorter path more pheromone is laid down.
20
• 为了避免残留信息素过多引起残留信息淹没启发信息， 在每只蚂蚁走完一步或者完成对所有n个城市的遍历(也 即一个循环结束)后，要对残留信息进行更新处理。这 种更新策略模仿了人类大脑记忆的特点，在新信息不 断存人大脑的同时，存储在大脑中的旧信息随着时间 的推移逐渐淡化，甚至忘记。由此，t+n时刻在路径(i, j) 上的信息量可按如下规则进行调整
而选择桥B的概率为：
( mA k ) h PA (m) h h (mA k ) (mB k )
PB (m) 1 PA (m)
8
• • • •
参数h 和 k用以匹配真实实验数据 第m+1只蚂蚁首先计算 PA (m) 然后生成一个在区间[0,1]上均匀分布的随机数 若 PA (m) ，则选择桥A，否则选择桥B
14
TSP (Traveling Salesman Problem)
• 有向图
– 有向图D的三元组为 (V, E, f)，其中V是一个非 空集合，其元素称为有向图的结点；E是一个 集合，其元素称为有向图的弧段（边）；f是从 E到VxV上的一个映射（函数）。 – E中的元素总是和V中的序偶对有对应关系，可 用V中的序偶代替E中的元素。 – 一个有向图Ｄ可简记为(V, E).
11
P、NP、NP-C、NP-hard问题
• NP类问题 (Non-deterministic Polynomial)
– 若存在一个多项式函数 g(x) 和一个验证算法H, 对一类判定问题A的任何一个“是”回答，满 足其输入长度d(s)不超过g(d(I)), 其中d(I)为I的 输入长度，且验证算法中S为I的“是”回答的 计算时间不超过g(d(I)), 则称判定问题A为非多 项式确定问题。 – NP类问题是所有可用NDTM (NonDeterministic one-tape Turing Machine)在多项 式时间内求解的判定问题Π的集合
2
2
G=(C, L)是一个有向图，TSP的目的是从有向图G中寻 出长度最短的Hamilton圈， 即一条对C={c1, c2, …, cn}中n个元素（城市）访问且只 访问一次的最短封闭曲线
16
TSP (Traveling Salesman Problem)
• TSP简单形象描述
给定n个城市，一个旅行商从某一城市出发，访问各城 市一次且仅有一次后再回到原出发城市，要求找出一 条最短的巡回路径 可分为对称TSP (Symmetric Traveling Salesman Problem) 和非对称TSP (Asymmetric Traveling Salesman Problem)
Ant System: Optimization by a Colony of Cooperating Agents
Marco Dorigo, Member, IEEE, Vittorio Maniezzo, and Alberto Colorni http://iridia.ulb.ac.be/~mdorigo/HomePageDorigo/
4
Fig. 2. An example with artificial ants
a) The initial graph with distances. b) At time t=0 there is no trail on the graph edges; therefore, ants choose whether to turn right or left with equal probability. c) At time t=1 trail is stronger on shorter edges, which are therefore, in the average, preferred by ants.
15
TSP (Traveling Salesman Problem)
• TSP
设C={c1, c2, …, cn} 是n个城市的集合， L={lij|ci, cj C}是集合C中的元素（城市）两两连接的 集合， dij(i, j=1,1,…,n)是lij的Euclidean距离，即
d ij ( xi x j ) ( yi y j )
• TSP是NP-C问题 • n城市规模的TSP，存在(n-1)!/2条不同闭合路径。
17
基本蚁群算法数学模型
• 设bi(t)表示t时刻位于元素i的蚂蚁数目，τij (t)为t 时刻路径(i, j)上的信息量，n表示TSP规模，m为 蚁群中蚂蚁总数，则
m biLeabharlann (t ) { ij (t ) | ci , c j C} 是t时刻集合C中元素（城
ij (t n) (1 ) ij (t ) ij (t )
ij (t ) ij k (t )
k 1 m
(2) (3)
21
• 式中，ρ表示信息素挥发系数，则1-ρ表示信息素 残留因子，为了防止信息的无限积累， ρ的取值 范围为[0，1), Δτij(t)表示本次循环中路径(i, j)上的 信息素增量，初始时刻Δτij(t) =0, Δτijk(t) 表示第k 只蚂蚁在本次循环中留在路径(i, j)上的信息量。 • 根据信息素更新策略的不同，Dorigo M提出了三 种不同的基本蚁群算法模型，分别称之为AntCycle模型、Ant-Quantity模型及Ant-Density模型， 其差别在于Δτijk(t)求法的不同。
12
P、NP、NP-C、NP-hard问题
• NP-C类问题 (NP-Complete)
– 是NP类中最困难的一类问题。 – 有重要实际意义和工程背景 – TSP (Traveling Salesman Problem)
• Symmetric; Asymmetric
• NP-hard类问题
– NP-C NP-hard
22
• Ant-Cycle模型
Q , 若第k只蚂蚁在本次循环中经过(i, j ) k ij (t ) Lk (4) 0, 否则
5
双桥实验(Goss S, 1989)
Naturwissenschaften 76, 579-581 (1989)
Self-organized Shortcuts in the Argentine Ant
S. Goss, S. Aron, J. L. Deneubourg, and J. M. Pasteels Unit of Behavioural Ecology, C.P. 231, Universit6 Libre de Bruxelles, B- 1050 Bruxelles
6
Fig. 1. A colony of I humilis selecting the short branches on both modules of the bridge
a) one module of the bridge b) and c): photos taken 4 and 8 min after placement of the bridge
自然计算与群体智能
赵林亮
计算机应用技术研究所 zhaoll@
1
蚁群算法
赵林亮
计算机应用技术研究所 zhaoll@
2
参考文献
APPEARED IN PROCEEDINGS OF ECAL91-EUROPEAN CONFERENCE ON ARTIFICIAL LIFE, PARIS, FRANCE, ELSEVIER PUBLISHING,134–142.