清华大学 凸优化 讲义ch5_924402893

A B
障 碍 物
D
C
A B
障 碍 物
D
C
五道口最有人气的论坛
/bbs
STEP
n 城 市 的 TSP 问 题 ， N={1,2,…,n},A={(i,j)|i,j∈N}，城市间的距 离 D = ( d ij ) n×n ，为 TSP 图中的每一条弧(i,j)赋 0 信息素痕迹初值 τ ij (0) = 1
五道口最好的生活网
*
五道口最有人气的论坛
/bbs
定理 GBAS（graph-based ant system）的马尔可夫过 程 X k = (τ ( k ), W ( k )), k = 0,1, L 依 概 率 1 收 敛 到
X * = (τ * , W * ) ，其中 W * 为一条最优路径， τ * 定义如
其中， τ (k ) 为信息素痕迹，在 R 中取值； W (k ) 为 n
|A|
城市的一个排列，最多有 n! 个状态。
定义 一个马尔可夫过程 { X k , k = 0,1, L} ，对任给的 ε > 0 满足
lim Pr X k − X * < ε = 1 ，
k →∞
{
}
则称马尔可夫过程 X k 依概率 1 收敛到 X 。
结束一个循环。如果再对蚁群循环一次，因为W2为全局最优 解，由STEP3的信息素痕迹更新规则，无论四只蚂蚁行走的路 线如何，STEP3 的信息更新为
⎡ 0 1 48 5 24 1 48⎤ ⎢5 24 0 1 48 1 48⎥ ⎥ τ (2) = (τ ij (2) ) = ⎢ ⎢ 1 48 1 48 0 5 24⎥ ⎢ ⎥ 1 48 5 24 1 48 0⎦ ⎣
当前最优解（实际为全局最优解）为W2，STEP3 的信息更新为
⎡ (1) = (τ ij (1) ) = ⎢ ⎢1 24 1 24 0 1 6⎥ ⎢ ⎥ 1 24 1 6 1 24 0⎦ ⎣
五道口最有人气的论坛
/bbs
A B
D
9 个单位时间
障 碍 物
C
A B
D
18 个单位时间
障 碍 物
C
五道口最好的生活网

五道口最有人气的论坛 /bbs 如果蚂蚁每经过一处都留下大小 为1点的信息素，这时ABD路线 的第一点聚集2点，而ACD路线 的第一点聚集1点。在行走36个 单位时间后，这两点的信息素变 化分别为4和2，比值为2：1 ， ACD路线的蚂蚁返回A点。 按比值的比例，蚁群决定ABD路 线派两个蚂蚁而ACD路线上派一 9 个单位时间 个蚂蚁。在每个蚂蚁再各行走36 个单位时间后，ABD和ACD路线 的第一点各累计12和4，比值为3： 1。 如果再按比值分配蚂蚁数量，则 ABD路线分配3个蚂蚁，而ACD 路线分配一个蚂蚁。按原有的模 式重复36个单位时间，ABD和 ACD路线的第一点信息素各累计 18 个单位时间 24和6，比值为4：1。 如此重复下去，可以发现ABD和 ACD路线的第一点信息素的比值 会越来越大，最后的极限是所有 的蚂蚁只选择ABD路线。 五道口最好的生活网
ρ k −1 ⎧ , (i, j )为W的一条弧, ⎪(1 − ρ k −1 )τ ij (k − 1) + （2） τ ij (k ) = ⎨ |W | ⎪ (1 − ρ k −1 )τ ij (k − 1), 其他. ⎩
得到新的τ ij (k ) ，k:=k+1，重复 STEP1。
log k ρk ≤ 1 − , k ≥ K. log(k + 1) 五道口最好的生活网
五道口最好的生活网
五道口最有人气的论坛
/bbs
STEP 2 （内循环）按蚂蚁 1 ≤ s ≤ m 的顺序分别计算。当蚂蚁在城市 i，若 L( s ) = N 或
{l | (i, l ) ∈ A, l ∉ L( s)} = ∅
完 成 第 s 只 蚂 蚁 的 计 算 。 否 则 ， 若 L( s ) ≠ N 且
基本思想
五道口最有人气的论坛
/bbs
蚂蚁：一种生物。 很聪明：“蚂蚁搬家，天要下雨” 。 儿时记忆：成群结队的蚂蚁搬运食物的情形。
蚁群个体弱小、功能并不强大，但群体完成复杂工作。
1992年Dorigo在他的博士论文中首先提出了一种全新 的蚁群系统(ant system)启发式算法，在此基础上一 种很好的优化算法逐渐发展起来。
(
)
{τ (k − 1),W (k − 1)}到 {τ (k ),W (k )}的转移同样具有随机性。这是一个
马尔可夫过程。
五道口最好的生活网

5.2 算法模型和收敛性分析
蚁群优化算法的每步迭代对应随机变量
五道口最有人气的论坛
/bbs
X k = (τ (k ),W (k )), k = 0,1, L
五道口最有人气的论坛
/bbs
第五章 蚁群优化算法 Ant colony optimization algorithms
邢文训 清华大学数学科学系 62787945 Email:wxing@
五道口最好的生活网

不失一般性的令k2则对于k五道口最有人气的论坛wwwwdklifecombbs五道口最好的生活网wwwwdklifecomloglogloglog对于蚁群中的一只固定的蚂蚁它在第k次循环走到路径的概率为五道口最有人气的论坛wwwwdklifecombbs五道口最好的生活网wwwwdklifecomw永远不会被走到的概率的一个上界五道口最有人气的论坛wwwwdklifecombbs五道口最好的生活网wwwwdklifecom可以用归纳的方法证明五道口最有人气的论坛wwwwdklifecombbs五道口最好的生活网wwwwdklifecomsttzle和hoos将信息素的挥发和增强变更为minmin其他的一条弧ijijij为实数给出一个maxmin蚁群优化算法
T = {l | (i, l ) ∈ A, l ∉ L( s )} − {i0 } ≠ ∅ ，则以概率
⎧ τ ij (k − 1) , ⎪ pij (k − 1) = ⎨ ∑τ il (k − 1) ⎪ l∈T 0, ⎩
j ∈T ,
(1)
j ∉T.
到达 j， L( s ) = L( s ) ∪ { j} ，i:=j；
STEP 3 对 1 ≤ s ≤ m ，若 L( s ) = N ，按 L(s)中城市的顺序计算路径长度； 若 L( s ) ≠ N ，路径长度是一个充分大的数。比较 m 只蚂蚁中的路径 长度，记走最短路径的蚂蚁为 t。若 f ( L(t )) < f (W ) ，则 W:=L(t)。 用(2)对 W 路径上的弧信息素痕迹加强，对其他弧的信息素痕迹挥发，
五道口最好的生活网
五道口最有人气的论坛
/bbs
一旦得到一个全局最优解，信息素痕迹更新将不依赖蚁 群的后面行为。再重复一次循环，得到
0 1 96 11 48 1 96⎤ ⎡ ⎢11 48 0 1 96 1 96⎥ ⎥ τ (3) = (τ ij (3) ) = ⎢ ⎢ 1 96 1 96 0 11 48⎥ ⎥ ⎢ 0⎦ ⎣ 1 96 11 48 1 96
五道口最有人气的论坛
/bbs
五道口最好的生活网

五道口最有人气的论坛
/bbs
A B
障 碍 物
D
9 个单位时间
C
A B
D
18 个单位时间
障 碍 物
C
五道口最好的生活网

五道口最有人气的论坛
第二只： W2 : A → C → D → B → A , f (W2 ) = 3.5 ， 第三只： W3 : A → D → C → B → A , f (W3 ) = 8 ， 第四只： W4 : A → B → D → C → A ， f (W4 ) = 4.5 。 五道口最好的生活网
五道口最好的生活网

内容
五道口最有人气的论坛
/bbs
基本概念和算法结构 算法的数学模型及分析算法的收敛性 实现的一些技术细节 应用案例——医学诊断的数据挖掘。
五道口最好的生活网

蚁群优化算法的概念
蚁群的运动
以“信息素”(pheromone)为媒介，间接异步地相互联系。 蚂蚁在行动(寻找食物或者寻找回巢的路径)中，会在它们经 过的地方留下一些化学物质，称之为“信息素”。这些物质能 被同一蚁群中后来的蚂蚁感受到，并作为一种信号影响后者 的行动。 具体表现在后到的蚂蚁选择有这些物质的路径的可能性比选 择没有这些物质的路径的可能性大得多。后到者留下的信息 素会对原有的信息素进行加强，并循环下去。 越短的路径会被越多的蚂蚁访问，一直持续到所有的蚂蚁都 走最短的那一条路径为止。
∑ρ
k
k
=∞
一个示例
五道口最有人气的论坛
/bbs
A
1 0.5
B 1
⎡0 ⎢1 D = (d ij ) = ⎢ ⎢ 1. 5 ⎢ ⎣1
1 0 5 1
0. 5 1 ⎤ 1 1⎥ ⎥ 0 1⎥ ⎥ 1 0⎦
1 1 D 1 1.5
5
C
假设蚁群中有4个蚂蚁，所有的蚂蚁都从城市A出发， 挥发因子 ρ k = 1 2 , k = 1,2,3 ⎡ 0 1 12 1 12 1 12⎤
对
| A|
， 假设有 m 只蚂
蚁在工作， 所有的蚂蚁从同一城市 i0 出发。 k:=1。 当前最好解 W = (1,2,L, n) 。 STEP 1 （外循环）如果满足算法的停止规则，停止 计算并输出计算得到的最好解。 否则， 让蚂蚁 s 从起 点 i0 出发， L(s)表示蚂蚁 s 行走的城市集合， 用 初始 L(s)为空集，1 ≤ s ≤ m 。
/bbs
一个蚂蚁外出寻找食物，蚂蚁 从A点出发，行走速度相同， 食品在D点。 蚂蚁出发时会随机选择ABD或 ACD中的一条。假设初始每条 路线上分别分配一个蚂蚁，每 单位时间行走一步。 当行走9个单位时间后，已经 有一个蚂蚁到达D点，行走的 路线为ABD，而行走ACD路 线的蚂蚁才到达C点。 当行走18个单位时间后，走 ABD的蚂蚁已经回到A点，而 行走ACD的蚂蚁到达D点。
五道口最好的生活网
理论模型
五道口最有人气的论坛
/bbs
蚂蚁以一定的概率转移，并进行信息素痕迹的更新。随每个 k 变化。如 果记第 k 次 （外） 循环结束后的信息素痕迹为τ ( k ) = τ ij (k ) | (i, j ) ∈ A ， 当前最优解为 W (k ) 。于是，第 k 次外循环前，信息素痕迹和当前最优 解为 { (k − 1),W (k − 1)}，经过第 k 次外循环后，得到 { (k ),W (k )}， τ τ
若 L( s ) ≠ N 且 T = {l | (i, l ) ∈ A, l ∉ L( s )} − {i0 } = ∅ ，到达 i0 ， L( s ) = L( s ) ∪ {i0 } ， i:= i0 ；重复 STEP2。
五道口最好的生活网
五道口最有人气的论坛
/bbs
五道口最好的生活网

小结
五道口最有人气的论坛
/bbs
蚂蚁的搜寻过程是以信息素决定的概率分布选择下一个 访问的城市。 算法包括两个扩散和集中的过程，为信息素痕迹的挥发 (evaporation)过程和增强(reinforcement)过程。 信息素痕迹的挥发过程主要用于避免算法太快的向局部 最优区域集中。 增强过程体现在观察蚁群(m只蚂蚁)中每只蚂蚁所找到 的路径并且将蚂蚁所找到最短路径上的弧上保存额外的 信息素。 在STEP3中，除非蚁群发现了一个更好的解，否则，蚁 群的永远记录第一个最好解。
⎢1 12 0 1 12 1 12⎥ ⎥ τ (0) = (τ ij (0) ) = ⎢ 一个初始的记忆表 ⎢1 12 1 12 0 1 12⎥ ⎢ ⎥ 假设蚁群的四只蚂蚁行走的路线分别为： 1 12 1 12 1 12 0⎦ ⎣ 第一只： W1 : A → B → C → D → A , f (W1 ) = 4 ，
⎧ 1 , (i, j )为W *的一条弧, ⎪ = ⎨| W | ⎪ 0, 其他. ⎩
下：τ
*
ij
五道口最好的生活网

五道口最有人气的论坛