第10章 回溯法和分支限界法

递归回溯
回溯法对解空间作深度优先搜索，因此，在一般情况下 用递归方法实现回溯法。
void backtrack (int t) { if (t>n) output(x); else for (int i=f(n,t);i<=g(n,t);i++) { x[t]=h(i); if (constraint(t)&&bound(t)) backtrack(t+1); } }
5
• •
回溯法的基本思想
(1)针对所给问题，定义问题的解空间； (2)确定易于搜索的解空间结构； (3)以深度优先方式搜索解空间，并在搜索过程中 用剪枝函数避免无效搜索。 常用剪枝函数： 用约束函数在扩展结点处剪去不满足约束的子树； 用限界函数剪去得不到最优解的子树。
用回溯法解题的一个显著特征是在搜索过程中动态产生问题的 解空间。在任何时刻，算法只保存从根结点到当前扩展结点的 路径。如果解空间树中从根结点到叶结点的最长路径的长度为 h(n)，则回溯法所需的计算空间通常为O(h(n))。而显式地存储 整个解空间则需要O(2h(n))或O(h(n)!)内存空间。 6
8
子集树与排列树
遍历子集树需O(2n)计算时间
void backtrack (int t) { if (t>n) output(x); else for (int i=0;i<=1;i++) { x[t]=i; if (legal(t)) backtrack(t+1); } }
遍历排列树需要O(n!)计算时间
15
重排原理
对于许多问题而言，在搜索试探时选取x[i]的值顺序是任意的。 在其他条件相当的前提下，让可取值最少的x[i]优先。从图中 关于同一问题的2棵不同解空间树，可以体会到这种策略的潜 力。
(a)
(b) 图(a)中，从第1层剪去1棵子树，则从所有应当考虑的3元组中 一次消去12个3元组。对于图(b)，虽然同样从第1层剪去1棵子 树，却只从应当考虑的3元组中消去8个3元组。前者的效果明 16 显比后者好。
2
问题的解空间
• 问题的解向量：回溯法希望一个问题的解能够表示成一个n
• • •
元式(x1,x2,…,xn)的形式。 显约束：对分量xi的取值限定。 隐约束：为满足问题的解而对不同分量之间施加的约束。 解空间：对于问题的一个实例，解向量满足显式约束条件的 所有多元组，构成了该实例的一个解空间。
注意：同一个问题可以有多种表示，有些表示方法更简单， 所需表示的状态空间更小（存储量少，搜索方法简单）。
n后问题
11
• • • • • • • • • • • • • • • • • • • • • • • • •
void nQueens(int n) { x[0] = x[1] =0; int k=1; while(k > 0) { x[k]+=1; //转到下一行 while (x[k]<=n && Place(k)==false) { //如果无解，最后一个皇后就会 安排到格子外面去 x[k]+=1; } if(x[k]<=n) { //第k个皇后仍被放置在格子内， 有解 if(k==n) { num++; cout << num << ":\t"; for( int i=1; i<=n; i++) { cout << x[i] << "\t"; } cout << endl; }
7
迭代回溯
采用树的非递归深度优先遍历算法，可将回溯法表示为一个非 递归迭代过程。
void iterativeBacktrack () { int t=1; while (t>0) { if (f(n,t)<=g(n,t)) for (int i=f(n,t);i<=g(n,t);i++) { x[t]=h(i); if (constraint(t)&&bound(t)) { if (solution(t)) output(x); else t++;} } else t--; }
14
回溯法效率分析
通过前面具体实例的讨论容易看出，回溯算法的 效率在很大程度上依赖于以下因素： (1)产生x[k]的时间； (2)满足显约束的x[k]值的个数； (3)计算约束函数constraint的时间； (4)计算上界函数bound的时间； (5)满足约束函数和上界函数约束的所有x[k]的个 数。 好的约束函数能显著地减少所生成的结点数。但 这样的约束函数往往计算量较大。因此，在选 择约束函数时通常存在生成结点数与约束函数 计算量之间的折衷。
10
•解向量：(x1, x2, … , xn) •显约束：xi=1,2, … ,n •隐约束： 1)不同列：xixj 2)不处于同一正、反对角线：|i-j||xi-xj|
int n=8; int x[9]; int num = 0; //解的个数 //判断第k个皇后能否放在第x[k]列 bool Place(int k) { int i = 1; while( i < k) { if( x[i]==x[k] || (abs(x[i]-x[k]) == abs(i-k)) ) return false; i++; } return true; }
在n×n格的棋盘上放置彼此不受攻击的n个皇后。按照国际象 棋的规则，皇后可以攻击与之处在同一行或同一列或同一斜线 上的棋子。n后问题等价于在n×n格的棋盘上放置n个皇后，任 何2个皇后不放在同一行或同一列或同一斜线上。
1 2 3 4 5 6 7 8 Q Q Q Q Q Q Q
Q
1 2 3 4 5 6 7 8
分支限界法
•
类似于回溯法，也是一种在问题的解空间树T 上搜索问题解的算法。但在一般情况下，分支限 界法与回溯法的求解目标不同。回溯法的求解目 标是找出T中满足约束条件的所有解，而分支限界 法的求解目标则是找出满足约束条件的一个解， 或是在满足约束条件的解中找出使某一目标函数 值达到极大或极小的解，即在某种意义下的最优 解。
0-1背包问题
13
进一步改进算法的建议
•选择合适的搜索顺序，可以使得上界函数更有效的 发挥作用。例如在搜索之前可以将顶点按度从小到大 排序。这在某种意义上相当于给回溯法加入了启发性。 •定义Si={vi,vi+1,...,vn}，依次求出Sn,Sn-1,...,S1的解。 从而得到一个更精确的上界函数，若cn+Si<=max则 剪枝。同时注意到：从Si+1到Si，如果找到一个更大 的团，那么vi必然属于找到的团，此时有Si=Si+1+1， 否则Si=Si+1。因此只要max的值被更新过，就可以确 定已经找到最大值，不必再往下搜索了。
• • • • • • • •
• • • • • • • • •
else { k++; x[k]=0; //转到下一行 } } else //第k个皇后已经被放置到格 子外了，没解，回溯 k--; //回溯 } } int _tmain(int argc, _TCHAR* argv[]) { nQueens(n); getchar(); return 0; }
void backtrack (int t) { if (t>n) output(x); else for (int i=t;i<=n;i++) { swap(x[t], x[i]); if (legal(t)) backtrack(t+1); swap(x[t], x[i]); } 9 }
n后问题
•
分支限界法常以广度优先或以最小耗费（最大效益）优 先的方式搜索问题的解空间树。问题的解空间树是表示问 题解空间的一棵有序树，常见的有子集树和排列树。在搜 索问题的解空间树时，分支限界法与回溯法对当前扩展结 点所使用的扩展方式不同。在分支限界法中，每一个活结 点只有一次机会成为扩展结点。活结点一旦成为扩展结点， 就一次性产生其所有儿子结点。在这些儿子结点中，那些 导致不可行解或导致非最优解的儿子结点被舍弃，其余儿 子结点被子加入活结点表中。此后，从活结点表中取下一 结点成为当前扩展结点，并重复上述结点扩展过程。这个 过程一直持续到找到所求的解或活结点表为空时为止。
3
问题的解空间
n=3时的0-1背包问题用完 全二叉树表示的解空间
子集树
旅行商问题：某售货员
1
源自文库
30
2
6
3 4
20
要到若干城市推销商品， 已知各个城市之间的路程 10 （或旅费）。他要选定一 条从驻地出发，经过每个 城市一遍，最后回到驻地 的路线，使总的路线（或 旅费）最小。 排列树 4
生成问题状态的基本方法
第10章 回溯法
1
回溯法
• 有许多问题，当需要找出它的解集或者要求回答什么
• •
解是满足某些约束条件的最佳解时，往往要使用回溯 法。 回溯法的基本做法是搜索，或是一种组织得井井有条 的，能避免不必要搜索的穷举式搜索法。这种方法适 用于解一些组合数相当大的问题。 回溯法在问题的解空间树中，按深度优先策略，从根 结点出发搜索解空间树。算法搜索至解空间树的任意 一点时，先判断该结点是否包含问题的解。如果肯定 不包含，则跳过对该结点为根的子树的搜索，逐层向 其祖先结点回溯；否则，进入该子树，继续按深度优 先策略搜索。
•
由于求解目标不同，导致分支限界法与回溯法 在解空间树T上的搜索方式也不相同。回溯法以深 度优先的方式搜索解空间树T，而分支限界法则以 广度优先或以最小耗费优先的方式搜索解空间树T。 分支限界法的搜索策略是：在扩展结点处，先 生成其所有的儿子结点（分支），然后再从当前 的活结点表中选择下一个扩展对点。为了有效地 选择下一扩展结点，以加速搜索的进程，在每一 活结点处，计算一个函数值（限界），并根据这 些已计算出的函数值，从当前活结点表中选择一 个最有利的结点作为扩展结点，使搜索朝着解空 间树上有最优解的分支推进，以便尽快地找出一 个最优解。
•解空间：子集树 n wi xi c1 •可行性约束函数： i 1 •上界函数：
private static double bound(int i) {// 计算上界 double cleft = c - cw; // 剩余容量 double bound = cp; // 以物品单位重量价值递减序装入物品 while (i <= n && w[i] <= cleft) { cleft -= w[i]; bound += p[i]; i++; } // 装满背包 if (i <= n) bound += p[i] / w[i] * cleft; return bound; }
回溯法和分支限界法的一些区别
•
有一些问题其实无论用回溯法还是分支限界法都可以得 到很好的解决，但是另外一些则不然。也许我们需要具体 一些的分析——到底何时使用分支限界而何时使用回溯呢？ 回溯法和分支限界法的一些区别： • 两种方法对解空间树的搜索方式 存储结点的常用数据 结构 结点存储特性常用应用 • 回溯法： 深度优先搜索堆栈活结点的所有可行子结 点 被遍历后才被从栈中弹出 找出满足约束条件的所有 解 • 分支限界法： 广度优先或最小消耗优先搜索队列 优先 队列 每个结点只有一次成为活结点的机会 找出满足约束 条件的一个解或特定意义下的最优解
•
所谓“分支”就是采用广度优先的策略，依次 搜索E-结点的所有分支，也就是所有相邻结点， 抛弃不满足约束条件的结点，其余结点加入活结 点表。然后从表中选择一个结点作为下一个E-结 点，继续搜索。 选择下一个E-结点的方式不同，则会有几种不 同的分支搜索方式。 1）FIFO搜索 2）LIFO搜索 3）优先队列式搜索
• 扩展结点:一个正在产生儿子的结点称为扩展结点 • 活结点:一个自身已生成但其儿子还没有全部生成的节点 • •
称做活结点 死结点:一个所有儿子已经产生的结点称做死结点 深度优先的问题状态生成法：如果对一个扩展结点R，一 旦产生了它的一个儿子C，就把C当做新的扩展结点。在 完成对子树C（以C为根的子树）的穷尽搜索之后，将R 重新变成扩展结点，继续生成R的下一个儿子（如果存在） 宽度优先的问题状态生成法：在一个扩展结点变成死结 点之前，它一直是扩展结点 回溯法：为了避免生成那些不可能产生最佳解的问题状 态，要不断地利用限界函数(bounding function)来处 死那些实际上不可能产生所需解的活结点，以减少问题 的计算量。具有限界函数的深度优先生成法称为回溯法