禁忌搜索算法.ppt
合集下载
第2章 禁忌搜索算法
2 . 2 禁忌搜索
• 是局部搜索算法的扩展 • 它的一个重要思想是标记已得到的局部最 优解或求解的过程，并在进一步的迭代中 避开这些局部最优解或过程．
例2 . 2 . 1四城市非对称TSP
距离矩阵
例2 . 2 . 1
• 假设初始解x0 =（ABCD ),目标值为f (x0)=4 • 邻域映射为两个城市顺序对换的2-opt • 始、终点都为A 城市，所以候选集中最多 有两两城市对换对3 个 • 分别对换城市顺序并按目标值由小到大排 列，三个评价值都劣于原值4 ．此时已达到 局部最优解．
问题
( 6 )如何利用更多的信息？ • 通过记录其他一些信息，如当前最好解， 一个被禁对象（交换）被禁的次数，评价 值的大小等，来提高算法的效率 • BC 或CB 出现的高频率反映出这对顺序交 换对目标值影响较大，在现有的禁忌条件 下对BC 的禁忌长度应该增加 ( 7 )终止原则怎样给出？
Hale Waihona Puke 禁忌搜索算法的特征上次
所有候选对换被禁
问题
( 1 )选择什么为禁忌的对象？ 例2 . 2 ．1禁忌的是城市顺序对换，是否会造成 求全局最优解的困难？ ( 2 )禁忌的长度如何选取？ • 禁忌长度短会造成循环，也就可能在一个局部最 优解附近循环 • 禁忌长度长会造成算法的记忆存储量增加，使得 算法计算时间增加，同时可能造成算法无法继续 计算下去 • 因此，必须权衡这对矛盾，确定禁忌长度
例2 . 3 . 4 第3 步
• xnow = ( ACBED ) , f ( xnow ) = 43 • H = { ( ABCDE ; 45 ) , ( ACBDE ; 43 ) , ( ACBED ; 43 ) } • Can_N ( xnow ) = { ( ACBED ; 43 ) , ( ACBDE ; 43 ) , ( ABCED ; 44 ) , ( AEBCD ; 45 ) , ( ADBEC ; 58 ) } • xnext= ( ABCED; 44 )
禁忌搜索算法
3 禁忌搜索的关键参数和操作
3.1 变化因素
目标值的变化
局部搜索主要依赖起点的选取和邻域的结构； 为了得到好的解，可以比较不同的邻域结构和不同 的初始点； 如果初始点的选择足够多，
总可以计算出全局最优解。
2 禁忌搜索
2.1 算法的背景
禁忌搜索算法（Tabu Search）是由美国 科罗拉多州大学的Fred Glover教授在 1986年左右提出来的，是一个用来跳出 局部最优的搜寻方法。在解决最优问题 上，一般区分为两种方式：一种是传统 的方法，另一种方法则是一些启发式搜 索算法。
4.5 T 3.5 T
2 禁忌搜索
2 禁忌搜索示例
四城市非对称TSP问题
第5步
解的形式 A D B C f(x4)=4.5 禁忌对象及长度 B A B 0 C 1 2 C D 候选解
对换 评价值
CD BC BD
7.5 T 8 ☻ 4.5 T
TS算法 框架
(1)是否有其他形式的候选集？ (2)禁忌的长度如何确定？如果在算法中记忆下搜索到 的当前最优解，极端的两种情况是：一是将所有的对换 个数作为禁忌长度，此时等价于将候选集中的所有的对 换遍历；另外则取为1，这等价于局部搜索算法。 (3)是否有评价值的其他替代形式？有时计算目标值的 工作量较大，或无法接受计算目标值所花费的时间，于 是需要其他的方法。 (4)被禁的对换能否再一次解禁？有这样的直观现象， 当搜索到一个局部最优解后，它邻域中的其他状态都被 禁，我们是否解禁一些状态以便跳出局部最优？解禁的 功能就是为了获得更大的搜索范围，以免陷入局部最优 。 (5)如何利用更多的信息？在禁忌搜索算法中，还可记 录其他一些信息。如一个被禁对象（交换）被禁的次数 ，评价值变化的大小等。 (6)终止原则，即一个算法停止的条件，怎样给出？
禁忌搜索算法PPT演示课件
所有子集组成的集合。
N(x)称为x的邻域， y N (x) 称为x的一个邻居。
4
一.导言
2. 局域搜索
邻域的概念 例：TSP问题解的一种表示方法为D={x=(i1,i2,…,in)| i1,i2,…,in是1,2,…,n的排列}，定义它的邻域映射为 2-opt，即x中的两个元素进行对换，N(x)中共包含x 的Cn2=n(n-1)/2个邻居和x本身。 例如：x=(1,2,3,4)， 则C42=6，N(x)={(1,2,3,4), (2,1,3,4), (3,2,1,4), (4,2,3,1), (1,3,2,4), (1,4,3,2), (1,2,4,3)}
是
[4 3 3 5 1]
否
[3 4 2 5 1]
否
8
一.导言
2. 局域搜索
局域搜索算法过程 Step 1 选定一个初始可行解x0，记录当前最优解 xbest:=x0, T=N(xbest)； Step 2 当T\{xbest}=Φ时，或满足其他停止运算准则时， 输出计算结果，停止运算；否则，从T中选一 集合S，得到S中的最好解xnow；若 f (xnow)<f(xbest)，则xbest := xnow ，T=N(xbest)；否 则T:=T\S；重复Step 2。
2. 构成要素
禁忌表 禁忌表(T表)的作用：防止搜索பைடு நூலகம்现循环
① 将移动、移动分量或适值作为禁忌对象 ② 表的长度称为Tabu-Size，可以用来控制局域
搜索和广域搜索 ③ 表是动态更新的——把最新的解记入，最老
的解从表中释放(解禁)
18
二.禁忌搜索
2. 构成要素
选择策略 选择策略的作用：保证TS具有跳出局优的能力 当前解x每一步总是移动到邻域N(x)中未被禁忌的最优 解，即若
N(x)称为x的邻域， y N (x) 称为x的一个邻居。
4
一.导言
2. 局域搜索
邻域的概念 例：TSP问题解的一种表示方法为D={x=(i1,i2,…,in)| i1,i2,…,in是1,2,…,n的排列}，定义它的邻域映射为 2-opt，即x中的两个元素进行对换，N(x)中共包含x 的Cn2=n(n-1)/2个邻居和x本身。 例如：x=(1,2,3,4)， 则C42=6，N(x)={(1,2,3,4), (2,1,3,4), (3,2,1,4), (4,2,3,1), (1,3,2,4), (1,4,3,2), (1,2,4,3)}
是
[4 3 3 5 1]
否
[3 4 2 5 1]
否
8
一.导言
2. 局域搜索
局域搜索算法过程 Step 1 选定一个初始可行解x0，记录当前最优解 xbest:=x0, T=N(xbest)； Step 2 当T\{xbest}=Φ时，或满足其他停止运算准则时， 输出计算结果，停止运算；否则，从T中选一 集合S，得到S中的最好解xnow；若 f (xnow)<f(xbest)，则xbest := xnow ，T=N(xbest)；否 则T:=T\S；重复Step 2。
2. 构成要素
禁忌表 禁忌表(T表)的作用：防止搜索பைடு நூலகம்现循环
① 将移动、移动分量或适值作为禁忌对象 ② 表的长度称为Tabu-Size，可以用来控制局域
搜索和广域搜索 ③ 表是动态更新的——把最新的解记入，最老
的解从表中释放(解禁)
18
二.禁忌搜索
2. 构成要素
选择策略 选择策略的作用：保证TS具有跳出局优的能力 当前解x每一步总是移动到邻域N(x)中未被禁忌的最优 解，即若
禁忌搜索算法.pptx
候选集合
禁忌表
3,2
[1,4,2,5,3,1] f1=8
3-4
3,5
[1,4,5,3,2,1] f2=10
2-3
5,2
[1,4,3,2,5,1] f3=14
4,2
[1,2,3,5,4,1] f4=16
对x3交换3和2时最优f(x）=8，不满足藐视准则，且由于3-2已经在禁忌表中，因此 我们退而求其次选择f2=10对应的解，此时x4=[1,4,5,3,2,1] f(x4)=10，历史最优为5， 将5-3放入禁忌表中，由于禁忌长度为2，因此将最先放入禁忌表中的3-4移出禁忌 表。
[1,4,3,5,2,1] f4=5
对x2交换2和3时，5最优，此时x3=[1,4,3,5,2,1] f(x3)=5，历史最优为5，将2-3放入禁 忌表中
禁忌表
3-4
2-3
禁忌搜索算法(Tabu search)
x3=[1,4,3,5,2,1】 5(x3)=5，历史最优为5
邻域移动（交换中间两个城市）
禁忌表 3-5 2-3
参考教材和资料
彭扬, 伍蓓. 物流系统优化与仿真[M]. 中国物资出版社, 2007.
通过局部邻域搜索和相应 的禁忌准则来避免迂回搜 索，并通过特赦准则释放 被禁忌的优良状态。以保 证多样化的有效搜索，最
终实现全局最优化。
禁忌搜索算法的思想
禁忌搜索算法的思想
1
禁忌搜索算法的思想
2
1
5
4
3
禁忌搜索算法的思想
15 14 13
11 10
12 9
2
1
58
4 6
3
7
时间步 T=1
禁忌表 1、2、3、4、5
禁忌搜索算法ppt课件
个候选解？
的解替换当前解
用新的解替换 当前解;
否
找出下一个 次好的新解
更新tabulist NI=NI+1
NI=0 Intensification
n=n+1
否 NI=M?
是 Diversification
NI=0 是
n<N
否
25
End
判断是否为tabu, 决定接受与否
接受最好的候选解，并替换当前解
NI=0 是
n<N
否
21
End
求得初始解 BS=初始解
初始解
Sequence The length of the route
132456
28
BS
Sequence The length of the route
132456
28
22
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
Sequence The length of the route
当前解 413256
30
Sequence The length of the route
BS
132456
28
Tabu list {41， }，NI=1,n=1
26
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
The length of the route
30
35
38
40
45
24
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
n=0;NI=0
禁忌搜索课件
第25页，共46页。
五.TS举例（8）
迭代5 编码：5-2-1-7-4-6-3
cx= =C20x
结论： 迭代已到5次，得到最优解
5-2-7-1-4-6-3和5-2-1-7-4-6-3
cx = Cx =20
第26页，共46页。
六.TS的中、长期表的使用（1）
引入中长期表的目的 改善TS的广域搜索能力，TS的局域搜索能力很 好，邻域选优快，但广域搜索能力较差。搜索 能力是TS的关键，采用中长期表可改善TS的广 域搜索能力。
数组元加上Tabu-Size;
T表的下半部分，用来记频数，每次(i,j)交换 (i<j)，对应的((j,i)+1)来记忆频数。
第30页，共46页。
六.TS的中、长期表的使用（5） 频数表的优点：同一数组作为T表和频数表共同 使用，方便操作又节省了时间。
第31页，共46页。
六.TS的中、长期表的使用（6）
5，4 7，4 3，6 2，3 4，1
cx
6 4 2 0 -1
……
结论：交换4和5
……
T表
1 2 3
第21页，共46页。
五.TS举例（4）
迭代1 编码：2-4-7-3-5-6-1
cx= Cx =16
移动 Sx
3，1 2，3 3，4 7，1 6，1
……
结论：交换1和3
cx
2 1 -1 -2 -4 ……
若
S x T
停止，否则令
k
k
，若
1 k
NG
(其中NG为最大迭代数)停止；
注：邻S域x小 T，T表表长示。非正正常常设终置止为，(T造表成长的度原<邻因域：
大小)。步骤②的作用是设置循环体出口。
五.TS举例（8）
迭代5 编码：5-2-1-7-4-6-3
cx= =C20x
结论： 迭代已到5次，得到最优解
5-2-7-1-4-6-3和5-2-1-7-4-6-3
cx = Cx =20
第26页，共46页。
六.TS的中、长期表的使用（1）
引入中长期表的目的 改善TS的广域搜索能力，TS的局域搜索能力很 好，邻域选优快，但广域搜索能力较差。搜索 能力是TS的关键，采用中长期表可改善TS的广 域搜索能力。
数组元加上Tabu-Size;
T表的下半部分，用来记频数，每次(i,j)交换 (i<j)，对应的((j,i)+1)来记忆频数。
第30页，共46页。
六.TS的中、长期表的使用（5） 频数表的优点：同一数组作为T表和频数表共同 使用，方便操作又节省了时间。
第31页，共46页。
六.TS的中、长期表的使用（6）
5，4 7，4 3，6 2，3 4，1
cx
6 4 2 0 -1
……
结论：交换4和5
……
T表
1 2 3
第21页，共46页。
五.TS举例（4）
迭代1 编码：2-4-7-3-5-6-1
cx= Cx =16
移动 Sx
3，1 2，3 3，4 7，1 6，1
……
结论：交换1和3
cx
2 1 -1 -2 -4 ……
若
S x T
停止，否则令
k
k
，若
1 k
NG
(其中NG为最大迭代数)停止；
注：邻S域x小 T，T表表长示。非正正常常设终置止为，(T造表成长的度原<邻因域：
大小)。步骤②的作用是设置循环体出口。
第二章禁忌搜索算法
STEP 1
选定一个初始可行解x0，记录当前最优解xbest:=x0, T=N(xbest)；
STEP 2
当T\{xbest}=Φ时，或满足其他停止运算准则时，输出 计算结果，停止运算；否则，从T中选一集合S，得 到S中的最好解xnow；若f (xnow)<f(xbest)，则xbest := xnow ，T=N(xbest)；否则T:=T\S；重复SETP 2。
xbest:=xnow=(ACBDE)
2020/12/2
12
智能优化计算
2.1 局部搜索
2.1.3 局部搜索示例
华东理工大学自动化系 2007年
五个城市的对称TSP问题 方法2：一步随机搜索 第2步 从N(xbest)中又随机选一点，如xnow=(ADBCE)， 对应目标函数为f(xnow)=44> 43
的所有子集组成的。集合
N(x)称为x的邻域y，N(x)称为x的一个邻居。
2020/12/2
5
智能优化计算
2.1 局部索
华东理工大学自动化系 2007年
2.1.1 邻域的概念 例
TSP问题解的一种表示方法为D={x=(i1,i2,…,in)| i1,i2,…,in是1,2,…,n的排列}，定义它的邻域映射为2 －opt，即x中的两个元素进行对换，N(x)中共包含
2020/12/2
/~glover/
15
智能优化计算
2.2 禁忌搜索
2.2.2 禁忌搜索示例
四城市非对称TSP问题
华东理工大学自动化系 2007年
初始解x0=(ABCD)，f(x0)=4，邻域映射为两个城市 顺序对换的2－opt，始、终点都是A城市。
xbest:=xnow=(ACBDE)
禁忌搜索
• 如果在搜索的过程中，留守泰山的兔子还 没有归队，但是找到的地方全是华北平原 等比较低的地方，兔子们就不得不再次考 虑选中泰山，也就是 说，当一个有兔子留 守的地方优越性太突出，超过了“best so far”的状态，就可以不顾及有没有兔子留守， 都把这个地方考虑进来，这就叫“特赦准 则（aspiration criterion）”。
藐视准则
• 当一个禁忌移动在随后T次的迭代内再度出 现时，如果它能把搜索带到一个从未搜索 过的区域，则应该接受该移动即破禁，不 受禁忌表的限制。 • 破禁准侧保证了搜索过程在全部候选解被 禁或者是有优于当前最优解的候选解被禁 时，能够释放特定的解，从而实现全局优 化搜索。
终止规则
• 确定步数终止,无法保证解的效果,应记录当前最 优解; • 频率控制原则,当某一个解、目标值或元素序列的 频率超过一个给定值时,终止计算; • 目标控制原则,如果在一个给定步数内,当前最优 值没有变化,可终止计算.
C
• 第1步 解的形式 选解 禁忌对象及长度 候 对换 评价值
B A B
C
D
A B CD
C
f(x0)=4
CD BC BD
4.5 ☻ 7.5 8
A
1 1
1
B
5 1
四城市非对称TSP问题
D
1
0.5
1.5
C
• 第2步 解的形式 选解 禁忌对象及长度 候 对换 评价值
B A B
C
D
A B DC
C
f(x1)=4.5
邻域
• TSP问题解的一种表示方法为：
D={x=(i1,i2,…,in)|i1,i2,…,in是1,2,…,n的排列}，定义 它的邻域映射为2-opt，即x中的两个元素进行对换， N(x)中共包含x的Cn2=n(n-1)/2个邻居和x本身。 • 例如：x=(1,2,3,4)，则C42=6，N(x)={(1,2,3,4), (2,1,3,4), (3,2,1,4), (4,2,3,1), (1,3,2,4), (1,4,3,2), (1,2,4,3)}
禁忌搜索算法
无时限单向配送车辆优化调度问题的禁忌搜索算法无时限单向配送车辆优化调度问题，是指在制定配送路线时不考虑客户对货物送到（或取走）时间要求的纯送货（或纯取货）车辆调度问题。
无时限单向配送车辆优化调度问题可以描述为：从某配送中心用多台配送车辆向多个客户送货，每个客户的位置和需求量一定，每台配送车辆的载重量一定，其一次配送的最大行驶距离一定，要求合理安排车辆配送路线，使目标函数得到优化，并满足一下条件：（1）每条配送路径上各客户的需求量之和不超过配送车辆的载重量；（2）每条配送路径的长度不超过配送车辆一次配送的最大行驶距离；（3）每个客户的需求必须满足，且只能由一台配送车辆送货。
一、禁忌搜索算法的原理禁忌搜索算法是解决组合优化问题的一种优化方法。
该算法是局部搜索算法的推广，其特点是采用禁忌技术，即用一个禁忌表记录下已经到达过的局部最优点，在下一次搜索中，利用禁忌表中的信息不再或有选择地搜索这些点，以此来挑出局部最优点。
在禁忌搜索算法中，首先按照随机方法产生一个初始解作为当前解，然后在当前解的领域中搜索若干个解，取其中的最优解作为新的当前解。
为了避免陷入局部最优解，这种优化方法允许一定的下山操作（使解的质量变差）。
另外，为了避免对已搜索过的局部最优解的重复，禁忌搜索算法使用禁忌表记录已搜索的局部最优解的历史信息，这可在一定程度上使搜索过程避开局部极值点，从而开辟新的搜索区域。
二、算法要素的设计1.禁忌对象的确定禁忌对象是指禁忌表中被禁的那些变化元素。
由于解状态的变化可以分为解的简单变化、解向量分量的变化和目标值变化三种情况，则在确定禁忌对象时也有相对应的三种禁忌情况。
一般来说，对解的简单变化进行禁忌比另两种的受禁范围要小，因此可能早能造成计算时间的增加，但其优点是提供了较大的搜索范围。
根据配送车辆优化调度问题的特点，可采用对解的简单变化进行禁忌的方法。
举例进行说明：当解从x变化到y时，y可能是局部最优解，为了避开局部最优解，禁忌y这一解再度出现，可采用如下禁忌规则：当y的领域中有比它更优的解时，选择更优的解；当y为其领域的局部最优解时，不再选y，而选比y稍差的解。
禁忌搜索算法 (第6章)
10
8.终止条件
(1)给定最大迭代步数，如N =10000．优点是易于 操作和控制计算时间，但无法保证解的质量． (2)给定当前的最好解保持不变的最大连续迭代次 数．如2500次． (3)设定目标值的偏离幅度．若ZLB为问题的下界， ε为给定的偏离幅度，则当f (x)－ZLB≤ε时，终止计 算． (4) 设定禁忌对象的最大禁忌频率．若某个禁忌对 象的禁忌频率超过给定的值，则终止计算．
6.2 TS的基本思想和步骤
算法的基本思想：给定一个当前解（初始解）和候 选解产生函数（邻域结构），然后在当前解的邻域 中确定若干候选解；若最佳候选解对应的目标值优 于到目前为止搜索到的“最好解”（best-sofar），则忽视其禁忌特性，用其替代当前解和 “最好解”；若不存在上述候选解，则在候选解集 中选择非禁忌的最佳候选解为新的当前解，而无视 它与当前解的优劣；两种情况下都将相应的对象加 入禁忌表，并修改禁忌表中各对象的任期；如此重 复上述迭代搜索过程，直到满足停止准则．
5.禁忌对象
被置入禁忌表中的那些变化元素．禁忌的目的是为 了尽量避免迂回搜索． (1)以整个解的变化为禁忌对象．当解状态由x变化到 解状态y时，将解y（或x→y的变化）视为禁忌对 象． (2)以解分量的变化为禁忌对象．如示例中的情形． (3)以目标值的变化作为禁忌对象．
6.禁忌表和禁忌长度
禁忌表（tabu list）是针对禁忌对象所设计的一种结 构，可以是一维或二维的． 禁忌长度t（tabu length）是禁忌对象的禁忌期，即 9 不允许再次被选取的迭代次数．每迭代一步，t减
11
TS求解过程演示
当前解 最好解 (best-so-far) 逐步减小
显示 总迭代次数 最好解保持 不变的连续 迭代次数 特点 累加 波动
8.终止条件
(1)给定最大迭代步数，如N =10000．优点是易于 操作和控制计算时间，但无法保证解的质量． (2)给定当前的最好解保持不变的最大连续迭代次 数．如2500次． (3)设定目标值的偏离幅度．若ZLB为问题的下界， ε为给定的偏离幅度，则当f (x)－ZLB≤ε时，终止计 算． (4) 设定禁忌对象的最大禁忌频率．若某个禁忌对 象的禁忌频率超过给定的值，则终止计算．
6.2 TS的基本思想和步骤
算法的基本思想：给定一个当前解（初始解）和候 选解产生函数（邻域结构），然后在当前解的邻域 中确定若干候选解；若最佳候选解对应的目标值优 于到目前为止搜索到的“最好解”（best-sofar），则忽视其禁忌特性，用其替代当前解和 “最好解”；若不存在上述候选解，则在候选解集 中选择非禁忌的最佳候选解为新的当前解，而无视 它与当前解的优劣；两种情况下都将相应的对象加 入禁忌表，并修改禁忌表中各对象的任期；如此重 复上述迭代搜索过程，直到满足停止准则．
5.禁忌对象
被置入禁忌表中的那些变化元素．禁忌的目的是为 了尽量避免迂回搜索． (1)以整个解的变化为禁忌对象．当解状态由x变化到 解状态y时，将解y（或x→y的变化）视为禁忌对 象． (2)以解分量的变化为禁忌对象．如示例中的情形． (3)以目标值的变化作为禁忌对象．
6.禁忌表和禁忌长度
禁忌表（tabu list）是针对禁忌对象所设计的一种结 构，可以是一维或二维的． 禁忌长度t（tabu length）是禁忌对象的禁忌期，即 9 不允许再次被选取的迭代次数．每迭代一步，t减
11
TS求解过程演示
当前解 最好解 (best-so-far) 逐步减小
显示 总迭代次数 最好解保持 不变的连续 迭代次数 特点 累加 波动
第七讲 禁忌搜索.ppt
入禁忌表解被解禁退出。
4
禁忌表作用示例（1）
七种不同绝缘材料构 成一种绝缘体，如何 排列七种材料使得绝 缘效果最好？
绝缘效果以绝缘数值 表示，数值越大，效 果越好。
某次迭代后，材料的 排列顺序为2-4-7-3-56-1，交换各种材料对 绝缘效果的改善情况 见下表：
交换的材料 绝缘效果改善
1，3 2，3 3，4 1，7 1，6
2. 禁忌表的概念 禁忌表的作用：防止搜索出现循环 ① 记录前若干步走过的点、方向或目标值，禁
止返回 ② 表是动态更新的——把最新的解记入，最老
的解从表中释放(解禁)。 ③ 表的长度称为Tabu-Size，一般取5、 7 、
11，表长越大分散性越好。
31
二. TS的基本原理及步骤（5）
3. 邻域搜索规则 每一步移动到不在T表中的邻域中的最优解，即
-7
绝缘效果的影响见下 表。
3，5
-9
…
…
6
禁忌表作用示例（3）
上表看出，交换（1，3）对绝缘数值的降 低最小，但是交换后又回到以前的状态， 为避免回到上一次交换前的状态，采用禁 忌表。 所以，选择交换（2，4），是其它选择中 使绝缘数值降低最小的一对。 此禁忌表中存放的不是解，而是解的移动。 为实现全局搜索，往往设置渴望水平，若 一个移动达到渴望水平，能跳离局部最优， 该移动可以不受禁忌表的限制，称为破禁。
S x s s x ud, s X
邻域S x是邻域移动可达到的解的集合。
27
二. TS的基本原理及步骤（3）
邻域举例： x=[0,1,0,0,1,0,0] u=1, d=[0,0,1,0,0,0,0]
sx x ud 0,1,1,0,1,0,0
(仅供参考)Chapter-4-禁忌搜索算法-tsp问题
禁忌搜索算法局部搜索禁忌搜索禁忌搜索的关键参数和操作禁忌搜索的实现与应用局部搜索♦函数优化问题中在距离空间中，通常的邻域定义是以一点为中心的一个球体；♦组合优化问题中1. 邻域的概念:()2,()2()()D DN x D N x x N x D N x x y N x x ∈→∈∈∈且，称为一个邻域映射，其中表示的所有子集组成的集合。
称为的邻域，称为的一个邻居。
局部搜索1. 邻域的概念例TSP问题解的一种表示方法为D={x=(i1,i2,…,i n)| i1,i2,…,i n是1,2,…,n的排列}，定义它的邻域映射为2-OPT，即x中的两个元素进行对换，N(x)中共包含x的C n2=n(n-1)/2个邻居和x 本身。
例如：x=(1,2,3,4)，则C42=6，N(x)={(1,2,3,4), (2,1,3,4), (3,2,1,4), (4,2,3,1), (1,3,2,4), (1,4,3,2), (1,2,4,3)}局部搜索2. 局部搜索算法♦Step 1选定一个初始可行解x0，记录当前最优解x best:=x0, T=N(x best)；♦Step 2当T\{x best}=Φ时，或满足其它停止运算准则时，输出计算结果，停止运算；否则，从T中选一集合S，得到S中的最好解x now；若f (x now)<f(x best)，则x best := x now，T=N(x best)；否则T:=T\S；重复Step 2。
局部搜索五个城市的对称TSP 问题初始解为x best =(ABCDE )，f (x best )=45，定义邻域映射为对换两个城市位置的2-OPT ，选定A 城市为起点。
3. 局部搜索示例局部搜索五个城市的对称TSP 问题方法1：全邻域搜索第1步N (x best )={(ABCDE )，(ACBDE )，(ADCBE )，(AECDB )，(ABDCE )，(ABEDC )，(ABCED )}， 对应目标函数为f (x )={45, 43, 45, 60, 60, 59, 44}x best :=x now =(ACBDE ) 3. 局部搜索示例A B C D E局部搜索3. 局部搜索示例五个城市的对称TSP问题方法1：全邻域搜索第2步N(x best)={(ACBDE)，(ABCDE)，(ADBCE)，(AEBDC)，(ACDBE)，(ACEDB)，(ACBED)}，对应目标函数为f(x)={43, 45, 44, 59, 59, 58, 43}x best:=x now=(ACBDE)局部搜索3. 局部搜索示例五个城市的对称TSP问题方法2：一步随机搜索第1步从N(x best)中随机选一点，如x now=(ACBDE)，对应目标函数为f(x now)=43< 45x best:=x now=(ACBDE)局部搜索3. 局部搜索示例五个城市的对称TSP问题方法2：一步随机搜索第2步从N(x best)中又随机选一点，如x now=(ADBCE)，对应目标函数为f(x now)=44> 43x best:=x now=(ACBDE)禁忌搜索1. 算法的主要思路♦算法的提出禁忌搜索（Tabu Search，TS）是局部邻域搜索算法的推广，Fred Glover在1986年提出这个概念，进而形成一套完整算法。
禁忌搜索算法
设置禁忌长度。 • ② 邻域搜索产生候选解 • 根据步骤①产生初始解，通过搜索算子（search operators），
如relocation、exchange、2-opt等，产生候选解(candidate solution)，并计算各个候选解的适应值（即解对应的目标函数 值）。
• ③ 选择最好的候选解
爬山算法（第三天）
• 使用禁忌搜索算法后，妈妈再也不用担心我找不到人家了，阿弥陀佛~上帝这次创建小 和尚时，倒了一点禁忌搜索（Tabu Search）算法。小和尚在半山腰时想再次尝试爬山， 他发现之前走的路被自己标记了“禁止通行”的路标（禁忌策略），故成功的完成了先 下后上的爬山过程，达到了更高的山峰。
2.1 什么是禁忌搜索算法？
• 禁忌搜索算法（Tabu Search Algorithm，简称TS）起源于对于人 类记忆功能的模仿，是一种元启发式算法(meta-heuristics)。它 从一个初始可行解(initial feasible solution)出发，试探一系列的 特定搜索方向(移动)，选择让特定的目标函数值提升最多的移 动。为了避免陷入局部最优解，禁忌搜索对已经经历过的搜索 过程信息进行记录，从而指导下一步的搜索方向。
• （7）停止规则（Stop Criterion）：禁忌搜索中停止规则的设计多种多样，如最大迭代数、 算法运行时间、给定数目的迭代内不能改进解或组合策略等等。
• 例题1 旅行商问题（TSP）
下面我们以TSP问题为例说明介绍这些组成部分：如下图所示，有5个 城市，任何两个城市之间的距离都是确定的，现要求一个旅行商从某城市 出发必须经过每个城市一次且仅有一次，最后回到出发的城市，问如何确 定一条最短的线路(每条边的长度已在图中标出)？
如上图所示，通过3中搜索算子搜索一次得到的候选解的集合即为当前 邻域。
如relocation、exchange、2-opt等，产生候选解(candidate solution)，并计算各个候选解的适应值（即解对应的目标函数 值）。
• ③ 选择最好的候选解
爬山算法（第三天）
• 使用禁忌搜索算法后，妈妈再也不用担心我找不到人家了，阿弥陀佛~上帝这次创建小 和尚时，倒了一点禁忌搜索（Tabu Search）算法。小和尚在半山腰时想再次尝试爬山， 他发现之前走的路被自己标记了“禁止通行”的路标（禁忌策略），故成功的完成了先 下后上的爬山过程，达到了更高的山峰。
2.1 什么是禁忌搜索算法？
• 禁忌搜索算法（Tabu Search Algorithm，简称TS）起源于对于人 类记忆功能的模仿，是一种元启发式算法(meta-heuristics)。它 从一个初始可行解(initial feasible solution)出发，试探一系列的 特定搜索方向(移动)，选择让特定的目标函数值提升最多的移 动。为了避免陷入局部最优解，禁忌搜索对已经经历过的搜索 过程信息进行记录，从而指导下一步的搜索方向。
• （7）停止规则（Stop Criterion）：禁忌搜索中停止规则的设计多种多样，如最大迭代数、 算法运行时间、给定数目的迭代内不能改进解或组合策略等等。
• 例题1 旅行商问题（TSP）
下面我们以TSP问题为例说明介绍这些组成部分：如下图所示，有5个 城市，任何两个城市之间的距离都是确定的，现要求一个旅行商从某城市 出发必须经过每个城市一次且仅有一次，最后回到出发的城市，问如何确 定一条最短的线路(每条边的长度已在图中标出)？
如上图所示，通过3中搜索算子搜索一次得到的候选解的集合即为当前 邻域。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
n<N
否
19
End
Tabu list 初始化(清空)设M,N的值
• Tabu list { }，长度为2。 记录从当前解生 成新的解的过程中，产生的新的相邻关系
• M=2 • N=4
20
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
n=0;NI=0
求得一系列候选解， 并按优劣排序
1的邻域
2
1
5
4的邻域
4
2的邻域 3
7
禁忌表的更新
更新原则：先进先出 {①, ②, ③} {②, ③, ④} {③ , ④, ⑤} ….
8
禁忌表中元素
禁忌表中元素的可以是完整的解，可以是完 整解的一部分，也可以是采取的一个生成相 邻解的动作等等
完整解：{12345,13245,31245} 生成相邻解的操作（如交换的动作）： {32, 31} 从12345开始，取3出来，插入1245 每个位置前面
是
It’s in tabu？
否
接受新的解用新的 解替换当前解
是否为最后一 是 接受新的解；用新
个候选解？
的解替换当前解
用新的解替换 当前解;
否
找出下一个 次好的新解
更新tabulist NI=NI+1
NI=0 Intensification
n=n+1
否 NI=M?
是 Diversification
NI=0 是
否
最好的新解比 是
BS好？
是
It’s in tabu？
禁忌搜索 Tabu Search
1
禁忌搜索概述
• 禁忌搜索(Tabu Search或Taboo Search， 简称TS)的思想最早由Glover(1986)提出， 它是对局部邻域搜索的一种扩展，是一种 全局逐步寻优算法，是对人类智力过程的 一种模拟。
2
禁忌搜索概述
• TS算法通过引入一个灵活的存储结构和相应的禁 忌准则来避免迂回搜索，并通过藐视准则来赦免 一些被禁忌的优良状态，进而保证多样化的有效 探索以最终实现全局优化。
• 相对于模拟退火和遗传算法，TS是又一种搜索特 点不同的算法。迄今为止，TS算法在组合优化、 生产调度、机器学习、电路设计和神经网络等领 域取得了很大的成功，近年来又在函数全局优化 方面得到较多的研究，并大有发展的趋势。
3
Tabu Search
• 特点 – Neighborhood search + memory • Neighborhood search • Memory –Record the search history –Forbid cycling search
4
பைடு நூலகம்
搜索陷入循环
1的邻域
2
1
4的邻域
4
2的邻域 3
在邻域中找到最好的解 5
加入禁忌表，避免陷入循环
禁忌表长度为3：{①, ②, ③}
规则：不得接受与禁忌表中相同的解
禁忌表的变化：
第一步搜索时{
}
第二步搜索时{①
}
第三步搜索时{①, ②, }
第四步搜索时{①, ②, ③}
6
避免循环的原理：当前解为④时，其领域中 最好的解为①，原本下一步应为①，但其与 禁忌表中的元素相同，所以选择次好的解⑤ ，从而避免死循环
假设记录生成相邻解的方法，Tabu list =
{②, ③, ④},下一步采用②方法生成了迄今
为止最好的解，仍然接受这个，更新Tabu
list={②, ③, ②},
11
分散搜索（Diversification）和 集中搜索（Intensification）策略
• 分散搜索：是为了对整个解的空间 进行更广泛的覆盖，而不是仅仅局 限在某个局部的区域。
否
最好的候选 是
解比BS好？
是
It’s in tabu？ 否
接受新的解用新的 解替换当前解
是否为最后一是 接受新的解；用新 用新的解替换
个候选解？
的解替换当前解 BS;
否
找出下一个 次好的新解
更新tabulist NI=NI+1
NI=0 Intensification
n=n+1
否 NI=M?
是 Diversification NI=0 是
15
变量定义：
n ＝ 搜索次数
N ＝ 搜索N 次，程序结束
NI ＝连续没有找到更好解的次数
M ＝连续M次没有找到更好解， 执行分散搜索策略
BS ＝ 找到的最好的解
16
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
n=0;NI=0
求得一系列候选解， 并按优劣排序
9
禁忌表长度
太短：计算速度快，但容易陷入死循环 太长：计算速度慢
在搜索过程中，禁忌表长度设为固定 在搜索过程中，禁忌表长度可动态变化
禁忌表长度：5—10
10
藐视准则（Aspiration criterion）
如果找到了一个新的解比当前记录的最好 解还要好，那么即使从当前得到这个新的 解被tabu list禁止，仍然接受这个新的解， 并更新tabu list. 即tabu list对这个解没有禁 止作用
• 集中搜索：如果最好解的记录被更新，那么就 执行集中搜索策略，即清空tabu list. 这样可以 在当前区域进行更自由的搜索。
14
要设计一个禁忌搜索算法，需要确 定以下环节
1)初始解和适配值函数（目标函数）； 2)邻域结构(如何生成相邻解)和禁忌对象(禁
忌表中的元素)； 3)候选解选择； 4)禁忌表及其长度； 5)藐视准则 6)集中搜索和分散搜索策略 7)终止准则。 ’
无邻域的搜索 有邻域的搜索 有邻域的搜索 & 分散搜索策略
12
分散搜索（Diversification）和 集中搜索（Intensification）策略
• 集中搜索：如果当前搜索区域内发 现了比较好的解，如果进一步对当 前区域进行更集中的搜索，那么可 能会发现更多更好的解。
13
• 分散搜索策略（Diversification strategy）在当前 搜索区域内进行了一定次数的搜索了之后（如 25次），若不能发现更好的解，那么就执行分 散搜索策略。把tabu list清空，然后从一个新 的初始解开始搜索。
n<N
否
17
End
City to city
1 2 3 4 5 6
TSP算例
1
2
3
4
5
6
12
4
7
9 10
11 20 13
8
6 17 13
6
9
15
18
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
n=0;NI=0
求得一系列候选解， 并按优劣排序
否
最好的新解比 是
BS好？
否
19
End
Tabu list 初始化(清空)设M,N的值
• Tabu list { }，长度为2。 记录从当前解生 成新的解的过程中，产生的新的相邻关系
• M=2 • N=4
20
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
n=0;NI=0
求得一系列候选解， 并按优劣排序
1的邻域
2
1
5
4的邻域
4
2的邻域 3
7
禁忌表的更新
更新原则：先进先出 {①, ②, ③} {②, ③, ④} {③ , ④, ⑤} ….
8
禁忌表中元素
禁忌表中元素的可以是完整的解，可以是完 整解的一部分，也可以是采取的一个生成相 邻解的动作等等
完整解：{12345,13245,31245} 生成相邻解的操作（如交换的动作）： {32, 31} 从12345开始，取3出来，插入1245 每个位置前面
是
It’s in tabu？
否
接受新的解用新的 解替换当前解
是否为最后一 是 接受新的解；用新
个候选解？
的解替换当前解
用新的解替换 当前解;
否
找出下一个 次好的新解
更新tabulist NI=NI+1
NI=0 Intensification
n=n+1
否 NI=M?
是 Diversification
NI=0 是
否
最好的新解比 是
BS好？
是
It’s in tabu？
禁忌搜索 Tabu Search
1
禁忌搜索概述
• 禁忌搜索(Tabu Search或Taboo Search， 简称TS)的思想最早由Glover(1986)提出， 它是对局部邻域搜索的一种扩展，是一种 全局逐步寻优算法，是对人类智力过程的 一种模拟。
2
禁忌搜索概述
• TS算法通过引入一个灵活的存储结构和相应的禁 忌准则来避免迂回搜索，并通过藐视准则来赦免 一些被禁忌的优良状态，进而保证多样化的有效 探索以最终实现全局优化。
• 相对于模拟退火和遗传算法，TS是又一种搜索特 点不同的算法。迄今为止，TS算法在组合优化、 生产调度、机器学习、电路设计和神经网络等领 域取得了很大的成功，近年来又在函数全局优化 方面得到较多的研究，并大有发展的趋势。
3
Tabu Search
• 特点 – Neighborhood search + memory • Neighborhood search • Memory –Record the search history –Forbid cycling search
4
பைடு நூலகம்
搜索陷入循环
1的邻域
2
1
4的邻域
4
2的邻域 3
在邻域中找到最好的解 5
加入禁忌表，避免陷入循环
禁忌表长度为3：{①, ②, ③}
规则：不得接受与禁忌表中相同的解
禁忌表的变化：
第一步搜索时{
}
第二步搜索时{①
}
第三步搜索时{①, ②, }
第四步搜索时{①, ②, ③}
6
避免循环的原理：当前解为④时，其领域中 最好的解为①，原本下一步应为①，但其与 禁忌表中的元素相同，所以选择次好的解⑤ ，从而避免死循环
假设记录生成相邻解的方法，Tabu list =
{②, ③, ④},下一步采用②方法生成了迄今
为止最好的解，仍然接受这个，更新Tabu
list={②, ③, ②},
11
分散搜索（Diversification）和 集中搜索（Intensification）策略
• 分散搜索：是为了对整个解的空间 进行更广泛的覆盖，而不是仅仅局 限在某个局部的区域。
否
最好的候选 是
解比BS好？
是
It’s in tabu？ 否
接受新的解用新的 解替换当前解
是否为最后一是 接受新的解；用新 用新的解替换
个候选解？
的解替换当前解 BS;
否
找出下一个 次好的新解
更新tabulist NI=NI+1
NI=0 Intensification
n=n+1
否 NI=M?
是 Diversification NI=0 是
15
变量定义：
n ＝ 搜索次数
N ＝ 搜索N 次，程序结束
NI ＝连续没有找到更好解的次数
M ＝连续M次没有找到更好解， 执行分散搜索策略
BS ＝ 找到的最好的解
16
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
n=0;NI=0
求得一系列候选解， 并按优劣排序
9
禁忌表长度
太短：计算速度快，但容易陷入死循环 太长：计算速度慢
在搜索过程中，禁忌表长度设为固定 在搜索过程中，禁忌表长度可动态变化
禁忌表长度：5—10
10
藐视准则（Aspiration criterion）
如果找到了一个新的解比当前记录的最好 解还要好，那么即使从当前得到这个新的 解被tabu list禁止，仍然接受这个新的解， 并更新tabu list. 即tabu list对这个解没有禁 止作用
• 集中搜索：如果最好解的记录被更新，那么就 执行集中搜索策略，即清空tabu list. 这样可以 在当前区域进行更自由的搜索。
14
要设计一个禁忌搜索算法，需要确 定以下环节
1)初始解和适配值函数（目标函数）； 2)邻域结构(如何生成相邻解)和禁忌对象(禁
忌表中的元素)； 3)候选解选择； 4)禁忌表及其长度； 5)藐视准则 6)集中搜索和分散搜索策略 7)终止准则。 ’
无邻域的搜索 有邻域的搜索 有邻域的搜索 & 分散搜索策略
12
分散搜索（Diversification）和 集中搜索（Intensification）策略
• 集中搜索：如果当前搜索区域内发 现了比较好的解，如果进一步对当 前区域进行更集中的搜索，那么可 能会发现更多更好的解。
13
• 分散搜索策略（Diversification strategy）在当前 搜索区域内进行了一定次数的搜索了之后（如 25次），若不能发现更好的解，那么就执行分 散搜索策略。把tabu list清空，然后从一个新 的初始解开始搜索。
n<N
否
17
End
City to city
1 2 3 4 5 6
TSP算例
1
2
3
4
5
6
12
4
7
9 10
11 20 13
8
6 17 13
6
9
15
18
Start
Tabu list 初始化(清空) 设M,N的值
求得初始解 BS=初始解
n=0;NI=0
求得一系列候选解， 并按优劣排序
否
最好的新解比 是
BS好？