基本蚁群算法的收敛性研究

定义 3 鞅 、下鞅和上鞅 [ 10 ] :设 Fn 是单调的σ代数列 , fn 是Ω上的实值函数列 ,称 ( fn , Fn ) 为鞅 (离散鞅 ) . 若 fn 关于 Fn 是可测可积 ,同时对于任意 m < n, 有 :
E ( fn | Fm ) = fm (A. S. )
(3)
若 E ( fn | Fm ) Ε fm (A. S. ) ,称为下鞅 ;若 E ( fn | Fm ) < fm (A. S. ) ,称为上鞅.
期中蚂蚁个体选定子路径 l的概率为 :
∏ Pt =
P{τl ( t, w3 ) }
(7)
l∈w 3
从而 ,当 t Ε 1时 ,有 :
E ( f (τ( t + 1) ) | Ft ) - f (τ( t) )
L
∑ = f (τ( t + 1) ) { Pl+1 {τl ( t + 1, w3 ) } | { Pt {τ( t, w3 ) } Ε 0 l =1
趋于最强. 因此 , 在引入离散鞅的概念后 , 可将最优解集序列转变为下鞅序列来考察
{τ( t) } 的收敛性.
定理 1 当第 t个搜索周期中蚂蚁个体的路径向量 w ( t) 几乎处处收敛到最优解集序
列 w3 = (w0 , w1 , …, wL ) 且 t → ∞时 ,其进化过程是时间离散的非齐次 M arkov过程 ,且残
第 14卷 2期 2006年 6月
应用基础与工程科学学报 JOURNAL OF BASIC SC IENCE AND ENGINEER ING
Vol. 14, No. 2 June 2006
文章编号 : 100520930 (2006) 0220297205 中图分类号 : TP18; TP301. 6 文献标识码 : A
本文以 M arkov 链和 离散 鞅 作 为 研 究 工 具 , 对 基 本 蚁 群 算 法 的 几 乎 处 处 (A lmost
收稿日期 : 2005206203;修订日期 : 2006203203
基金项目 :国家自然科学基金资助项目和江苏省“333”工程基金 (JS200204)重点资助项目 作者简介 :段海滨 (1976—) ,男 ,工学博士 ,硕士生导师.
298
应用基础与工程科学学报 Vol. 14
Surely,简称 A. S. )收敛问题和停时问题进行了研究 ,提出了基本蚁群算法首达时间的定 义 ,并对基本蚁群算法首次到达时间的期望值进行了理论分析.
1 蚁群算法的基本原理
根据仿生学家的长期研究发现 :蚂蚁虽没有视觉 ,但运动时会在路径上释放出一种特 殊的分泌物 信息素 ( Pheromone)寻找路径. 当它们碰到一个还没有走过的路口时 ,就 随机地挑选一条路径前行 ,同时会释放出与路径长度有关的信息素. 蚂蚁走的路径越长 , 则释放的信息素数量越小. 当后来的蚂蚁再次碰到这个路口的时候 ,选择信息素数量较大 路径概率就会相对较大 ,这样形成了一个正反馈机制. 在整个寻径过程中 ,虽然单个蚂蚁 的选择能力有限 ,但是通过信息素的作用使整个蚁群的行为具有非常高的自组织性 ,蚂蚁 之间交换着路径信息 ,最终通过蚁群的集体自催化行为找出最优路径. 蚁群算法的数学模 型通常是借助经典的对称 TSP来进行描述的 ,根据信息素更新策略的不同 , Dorigo M 曾提 出了三种不同的蚁群算法模型 [ 1 ] ,即 Ant2Cycle模型 、Ant2Quantity模型和 Ant2Density模 型 ,其差别在于信息素增量求法的不同. 由于这三个模型中只有 Ant2Cycle模型利用的是 整体信息 ,因而通常采用 Ant2Cycle模型作为基本蚁群算法的数学模型.
若
{
fn
}
是有界的
,
则对于鞅
、下鞅和上鞅而言
,
lim
n→∞
fn
几乎处处存在且有界.
3 基本蚁群算法的 A. S. 收敛性证明
由于基本蚁群算法寻找最优解的途径是根据路径向量 w ( t) 上的残留信息素轨迹向
No. 2 段海滨等 :基本蚁群算法的 A. S. 收敛性研究
299
量 τ( t) 来求解问题. 通常希望蚁群算法在每次迭代之后 , 最优路径上的残留信息素浓度
若 P是 F上的概率测度 ,则 (Ω, F, P) 构成概率空间 , (Ω, F) 称为可测空间. 若 f为可
测空间 (Ω1 , F1 ) 到可测空间 (Ω2 , F2 ) 的映射 ,且对 Π x ∈ F2 , 有 :
f- 1 (A ) = { x; f ( x) ∈ A } ∈ F1
(2)
则称 f为可测映ቤተ መጻሕፍቲ ባይዱ.
该搜索路径与 w ( t - 2) 决定着 w ( t - 1) ,它们又一起通过信息素更新规则决定着τ( t) . 从
而 ,分布 { w ( t - 1) ,τ( t) } 完全由 { w ( t - 2) ,τ( t - 1) } 决定. 又因为信息素更新规则依赖
于 t, 所以该进化过程是时间离散的非齐次 M arkov过程.
Gt
Gt
即
∫f (τ( t + 1) ) dP = f3 P{ Gt }
(8)
Gt
又由于解向量 f (τ( t) ) 单调递增且存在
0 Φ f (τ( t) ) Φ f3
300
应用基础与工程科学学报 Vol. 14
故
lim f (τ( t) ) = f3 (A. S. )
At 的路径向量 , w3 ( t) 表示第 t个搜索周期中任意一只蚂蚁个体在 1, 2, …, t - 1所寻到的
最优解 ,则称 T = m in{ t, w ( t) ∩ w3 ( t) ≠Φ } 为蚁群算法的首达时间.
定理 3:设 E ( T) 表示首达时间 T = m in{ t, w ( t) ∩ w3 ( t) ≠Φ } 的期望值 , c表示期
留信息素轨迹向量 τ( t) A. S. 收敛到最优值 ,即 :
w ( t) → w3 (A. S. ) Ζτ( t) →τ3 (A. S. )
(4)
证明 :根据 M arkov过程的性质可知 , { w ( t - 1) ,τ( t) } 的分布只依赖于 { w ( t - 2) ,
τ( t - 1) }. 而蚂蚁个体在 t - 1次迭代中在搜索路径 w ( t - 1) 的分布只依赖于 τ( t - 1) ,
关键词 :蚁群算法 ;信息素 ; A. S. 收敛性 ; M arkov链 ;离散鞅 ;首达时间
20世纪 90年代初期 ,意大利学者 Dorigo M 等人通过模拟自然界中蚂蚁集体寻径的 行为而提出了蚁群算法 (Ant Colony A lgorithm ) [ 1 ] ,这是一种基于种群的启发式仿生类并 行智能进化算法. 蚁群算法最早成功应用于解决 N 2P难题中著名的旅行商问题 ( Traveling Salesman Problem ,简称 TSP). 由于它采用分布式并行计算机制 ,易于与其它方法结合 ,具 有较强的鲁棒性 [ 2 ] ,最近几年蚁群算法已被陆续应用到许多优化领域 [ 3 ].
虽然至今蚁群算法已经创立了十余年 ,但是对其收敛性的研究是最近几年内才刚刚 开始的. Gutjahr W J最先从有向图论的角度对蚁群算法的收敛性进行了证明 [4 ] ,但是 , Gutjahr W J给出的图搜索蚁群算法收敛性的证明有个很大的缺陷 ,那就是没有给出蚂蚁 数量和信息素残留系数对于无穷小量收敛的上下界 ,因此从某种意义上可以说这种收敛 是不可控的 ;随后 , B adr A 等人 从 [5 ] W iener过程和分支随机路由的角度对蚁群所经过路 径的存亡概率进行了证明 ,最终证明了蚁群所经过路径的存亡过程实际上是一种稳态分 布 ,从侧面证明了蚁群算法的收敛性 ; Stüezle T等人 [6 ]提出了一种新型的 MAX2M IN 蚁群 算法的变量 ,并对基于该变量的目标函数收敛性问题进行了深入研究 ,证明了当蚁群算法 的计算时间序列趋于无穷时 ,算法总能寻到最优解 ,且最优路径上的信息素强度大于其它 任意路径上的信息素强度 ,但是他们所给出的证明过程相对非常弱化 ;丁建立等人 [ 7 ]和 孙焘等人 [8 ]只是对于他们所改进后的遗传蚁群算法和简单蚁群算法进行了初步证明 ,其 在理论泛化意义上具有一定的局限性.
(1)
^
则称 { Xn ; n≥0}为 M arkov链. 定义 2[ 9 ] 设 Ω是一个基本集合 , F是 Ω上的部分子集构成的 σ代数 ,即满足 :
( 1) Φ ∈ F;
( 2) 当 A ∈ F时 , Ac ∈ F;
∞
( 3) 若 Ak ∈ F ( Π k = 1, 2, …) ,则 ∪ Ak ∈ F; k =1
f (τ( t) ) 表示在 t个搜索周期中蚂蚁群体所搜寻到的解向量且单调递增 , f3 表示解向量
f (τ( t) ) 中的最优解 ,则 ( f (τ( t) ) , Ft ) 是正的有界下鞅 ,即 :
E ( f (τ( t + 1) ) | Ft ) Ε f (τ( t) ) ( t Ε 1)
t→∞
对于基本蚁群算法 ,如果期望知道该算法首次寻找到最优解的时间 (首达时间 ) ,此
即停时问题. 由于任意一只蚂蚁个体在任意搜索时刻所寻到的最优解的概率是随机的 ,因
此首次到达最优解的时间也是随机的.
定义 4 蚁群算法的首达时间 :设 w ( t) 表示第 t个搜索周期中 ,蚂蚁个体 A1 , A2 , …,
所以 , ( f (τ( t) ) , Ft ) 是正的有界下鞅.
令 Gt = {τ( t) ∩τl ( t, w3 ) ≠Φ } = { f (τ( t) ) ≠ f3 } ,对于下鞅 f (τ( t) ) , 由条件期
望性质可得
∫ ∫ f3 P{ Gt } Ε f (τ( t + 1) ) dP Ε f (τ( t) ) dP = f3 P{ Gt }
(5)
且
lim f (τ( t) ) = f3 (A. S. )
(6)
t→∞
证明 :由已知条件 , Ft 表示在 t个搜索周期中至少有一只蚂蚁个体穿越最优路径的事
件 ,显然 , Ft 由 { w ( t) ,τ( t) } 随机向量组合中的随机序列产生 , 且其为 σ2域上的随机向
量. 对于时间离散的非齐次 M arkov过程 t个搜索周期的固定给定状态而言 ,在 t个搜索周
2 几个定义
^
定义 1 M arkov链 [ 9 ] :设 { Xn ; n Ε 0} 为一列取值离散的随机变量 ,离散值的全体记
为 S = { j} ,称 S 为状态空间. 若对于 Π n Ε 1, ik ∈ S ( k Φ n + 1) 有 :
^
^
^
^
^
P { Xn +1 = in +1 | Xn = in , …, X0 = i0 } = P { Xn +1 = in +1 | Xn = in }
基本蚁群算法的 A . S . 收敛性研究
段海滨 1 , 王道波 2 , 于秀芬 3
(1. 北京航空航天大学自动化科学与电气工程学院 ,北京 100083; 2. 南京航空航天大学自动化学院 ,江苏 南京
210016; 3. 中国科学院空间科学与应用研究中心 ,北京 100080)
摘要 :蚁群算法是近几年优化领域中新出现的一种启发式仿生类并行智能进化 算法 ,虽然该算法已经在众多组合优化领域中得到广泛应用 ,但是对其收敛性尤 其是 A. S. (A lmost Surely)收敛性问题的研究还存在很多空白. 本文在介绍蚁群 算法基本原理的基础上 ,以 M arkov链和离散鞅作为研究工具 ,对基本蚁群算法 的 A. S. 收敛性问题进行了理论证明 ,把最优解集序列转变为下鞅序列来考察残 留信息素轨迹向量的收敛性 ,随后提出了基本蚁群算法首达时间的定义 ,并对基 本蚁群算法首次到达时间的期望值进行了理论分析.
由于路径向量 w ( t) 中元素有限 ,则最优解集序列 w3 = (w0 , w1 , …, wL ) 为有限集. 所
以 ,当 t → ∞时 , w ( t) → w3 (A. S. ) 等价于 τ( t) →τ3 (A. S. ) .
定理 2 设 Ft 表示在 t个搜索周期中至少有一只蚂蚁个体穿越最优路径的事件 ,