算法设计与分析课件_Algotiyhmsch05-回溯法 (1)
合集下载
算法设计与分析-第2章-算法分析基础PPT课件
2k
1 5(
n 2k 1
)2
L 2×5´( 2n)2
5n2
T (n)
7n
k 1 5
i0
n 2i
2
7n
5n2 (2
2
1
k 1
)
10 n2 3n 10 n2 O (n2 )
• 例: Merge-sort排序算法的复杂性递归方程为
T(n)=(1)
if n=1
T(n)=2T(n/2)+(n) if n>1
T(n) = ？
.
27
2.5 递归算法的分析
三、递推关系式的求解-- 扩展递归技术
步骤： 循环地展开递推关系式， 把递推关系式转化为求和表达式， 然后可使用求和技术解之。
能解决输入规模为多大的问题？
设在新机器上用 t 秒时间能解决输入规模为 N 的问题，则
由于此时
f (N)
N，2 新机器的运行速度/每语句为： t新
t0 , 64
代入关系式
f (N ) *t新 t ，得
N2
*
t0 64
t
n2
* t0
解，得
N 8n
思考：以上说明了什么问题？
.
14
2.2 算法的渐进分析
.
28
2.5 递归算法的分析
求以下递推式的时间复杂性
7
T (n)
2T (n
2)
5n2
解：设 n=2k
T (n) 2T (n 2) 5n2
n1 n>1
2(2T (n 4)( n 4)2 ) 5(n 2)2 ) 5n2
2k T (1)
间就一个常因子范围内而言是相同的。
算法设计与分析课堂PPT
105 秒
11
算法算设法计设与计分与析分>析算法>教概学述安排
算法设计与分析
2、对给定的算法如何分析它的运行效率（复杂 性）
在给定的计算模型下，研究算法或问题的 复杂性：上界、下界、平均以及问题固有 复杂性
12
算法算设法计设与计分与析分>析算法>教概学述安排
课程目标
使学生掌握计算机算法的通用设计方法 ，学会分析算法的空间和时间复杂性。对一 定的实际问题,能够设计求解算法并分析算法 的效率。
5
算算法法设设计计与与分分析析>算>教法学概安述排
例如：第17周上交报告的安排如下，16周周日早上发现 什么报告都没有写，如何安排时间以确保每门课的报告
都能如期完成？若不能全部按期完成，也能尽量使迟交
报告的数目减到最小？
学科
算法设 计与分
析
数据库 原理
计算机 体系结
构
微机原 理
生物认 证技术
高级程 序设计 原理
算法设计与分析>算法概述
2.算法设计过程(程序设计过程)
1.问题的陈述 理解问题，并用科学规范的语言把所求解问题进行准
确的描述,包括所有已知条件和输出要求.
2.建立数学模型 通过对问题分析,找出其中所有操作对象以及对象之
间的关系,并用数学语言加以描述. 对非数值型解法来说, 数学模型通常是链表,树,图,集合等数据结构.
基本内容：
第一章 算法概述 第二章 递归与分治 第三章 动态规划 第四章 贪心算法 第五章 回朔法 第六章 分支限界法 第七章 随机化算法
预备知识: 离散数学、数据结构、程序设计语言C、C＋＋
15
算法算设法计设与计分与析分>析算法>教概学述安排
计算机算法设计与分析第5章 回溯算法PPT课件
注意：同一个问题可以有多种表示，有些 表示方法更简单，所需表示的状态空间更 小（存储量少，搜索方法简单）。
22.09.2020
15
5.1.1 问题的解空间
为了用回溯法求解一个具有n个输入的问题，一 般情况下，将其可能解表示为满足某个约束条 件的等长向量X=(x1, x2, …, xn)，其中分量xi (1≤i≤n) 的取值范围是某个有限集合Si={ai1, ai2, …, airi}， 所有可能的解向量构成了问题的解空间。
22.09.2020
2
提纲
一、回溯法的算法框架 二、装载问题 三、n后问题 四、0-1背包问题 五、最大团问题 六、图的m着色问题 七、旅行售货员问题
22.09.2020
3
提纲
一、回溯法的算法框架 二、装载问题 三、n后问题 四、0-1背包问题 五、最大团问题 六、图的m着色问题 七、旅行售货员问题
17
2 旅行售货员问题
问题描述：某售货员 要到若干城市去推销 商品，一直各城市之 间的路程，他要选定 一条从驻地出发，经 过每个城市一遍，最 后回到住地的路线， 使总的路程最短。
(a) 二维搜索空间无解
(b) 三维搜索空间的解
错误的解空间将不能搜索到正确答案！
22.09.2020
13
5.1.1 问题的解空间
对于任何一个问题，可能解的表示方式和它相应的 解释隐含了解空间及其大小。
例如，对于有n个物品的0/1背包问题，其可能解的 表示方式可以有以下两种：
（1）可能解由一个不等长向量组成，当物品i(1≤i≤n)装入 背包时，解向量中包含分量i，否则，解向量中不包含分 量i，当n=3时，其解空间是：
计算机算法设计与分析
Design and Analysis of Computer Algorithms
22.09.2020
15
5.1.1 问题的解空间
为了用回溯法求解一个具有n个输入的问题，一 般情况下，将其可能解表示为满足某个约束条 件的等长向量X=(x1, x2, …, xn)，其中分量xi (1≤i≤n) 的取值范围是某个有限集合Si={ai1, ai2, …, airi}， 所有可能的解向量构成了问题的解空间。
22.09.2020
2
提纲
一、回溯法的算法框架 二、装载问题 三、n后问题 四、0-1背包问题 五、最大团问题 六、图的m着色问题 七、旅行售货员问题
22.09.2020
3
提纲
一、回溯法的算法框架 二、装载问题 三、n后问题 四、0-1背包问题 五、最大团问题 六、图的m着色问题 七、旅行售货员问题
17
2 旅行售货员问题
问题描述：某售货员 要到若干城市去推销 商品，一直各城市之 间的路程，他要选定 一条从驻地出发，经 过每个城市一遍，最 后回到住地的路线， 使总的路程最短。
(a) 二维搜索空间无解
(b) 三维搜索空间的解
错误的解空间将不能搜索到正确答案！
22.09.2020
13
5.1.1 问题的解空间
对于任何一个问题，可能解的表示方式和它相应的 解释隐含了解空间及其大小。
例如，对于有n个物品的0/1背包问题，其可能解的 表示方式可以有以下两种：
（1）可能解由一个不等长向量组成，当物品i(1≤i≤n)装入 背包时，解向量中包含分量i，否则，解向量中不包含分 量i，当n=3时，其解空间是：
计算机算法设计与分析
Design and Analysis of Computer Algorithms
算法设计与分析课件--回溯法-图的m着色问题
4
5
C
C
n=5, m=3的GCP： 解形式(x1,x2, x3, x4, x5) xi =1(红色), 2(绿色), 3(蓝色)
X3=3
D
9
5.6 图的m着色问题
GCP示例
1
A
AA
A
A X1=1
2
3
X1=1
X1=1 X1=1
B
B
B
B X2=2
4
5
X2=2
C
X2=2
C
C X3=3
n=5, m=3的GCP： 解形式(x1,x2, x3, x4, x5) xi =1(红色), 2(绿色), 3(蓝色)
7
5.6 图的m着色问题
GCP示例
1
AA
A
2
3
X1=1
X1=1
B
B
X2=2
4
5
C
n=5, m=3的GCP： 解形式(x1,x2, x3, x4, x5) xi =1(红色), 2(绿色), 3(蓝色)
8
5.6 图的m着色问题
GCP示例
1
AA
A
A
2
3
X1=1
X1=1 X1=1
B
B
B
X2=2 X2=2
A
X1=1
2
3
B
X2=2 X2=3
4
5
C
X3=3
G
X3=2
n=5, m=3的GCP： 解形式(x1,x2, x3, x4, x5) xi =1(红色), 2(绿色), 3(蓝色)
D
X4=1
E
X5=3
F
H
X4=1
算法设计与分析八 ppt课件
17
例8.4 子集和数问题的解空间的树结构
两种元组表示形式：
1）元组大小可变（xi＜xi+1） 树边标记：由i级结点到i＋1级结点的一条边用xi来表示， 表示k-元组里的第i个元素是已知集合中下标
2020/11/13
16
n-皇后问题
边：从i级到i+1级的边用xi的值标记，表示将皇后i放到第i行的第xi列。 如由1级到2级结点的边给出x1的各种取值：1、2、3、4。
解空间：由从根结点到叶结点的所有路径所定义。
注：共有4！＝24个叶结点，反映了4元组的所有可能排列
——称为排列树。
2020/11/13
需要有效地组织问题的解空间——把元组表示成为有结构的 组织方式。采用何种形式组织问题的解空间？
可以用树结构组织解空间——状态空间树。
例8.3 n-皇后问题。8皇后问题的推广，即在n×n的棋盘
上放置n个皇后，使得它们不会相互攻击。 解空间：由n！个n-元组组成. 实例：4皇后问题的解空间树结构如下所示：
如果判定（x1,…,xi）不可能导致最优解，则将可能要测 试的mi+1…mn个向量一概略去，相对于硬性处理可大大 减少计算量。
2020/11/13
8
概念
1.约束条件：问题的解需要满足的条件。
可以分为显式约束条件和隐式约束条件。
显式约束条件：一般用来规定每个xi的取值范围。
如 ： xi≥0
即Si={所有非负实数}
M=31。则满足要求的子集有： 直接用元素表示：（11，13，7）和（24，7） 用元素下标表示（ k-元组）：（1，2，4）和（3，4） 用元素下标表示（ n-元组）：（1，1，0，1）和
（0，0，1，1）
《算法设计与分析》课件
《算法设计与分析》PPT课件
本课程将介绍算法的设计与分析，包括排序算法、查找算法和动态规划算法。 通过掌握这些算法，您将能够解决各种复杂的问题。
课程介绍
课程目标和内容概述
掌握算法设计与分析的基本概念和方法，学 习不同类型的算法及其应用。
教学方法和要求
通过理论讲解、案例分析和实际编程练习， 提高算法设计与分析的能力。
2 背包问题的动态规划解法
学习如何使用动态规划算法解决背包问题，掌握求解最优解的方法。
总结和课程评价
总结
回顾本课程涉及的算法内容，并思考所学知识 的实际应用。
课程评价
对本课程的内容、教学方法和教师的表现进行 评价和反馈。
算法基础
1 算法概述和分类
了解算法的定义、特性和常见的分类方法，为后续学习打下基础。
2 时间复杂度和空间复杂度
学习如何评估算法的时间和空间效率，并选择最合适的算法。
排序算法
1
插入排序
2
学习插排序算法的思想和实现过程，
掌握其时间复杂度和适用范围。
3
冒泡排序
掌握冒泡排序算法的原理和实现方法， 了解其时间复杂度和应用场景。
快速排序
了解快速排序算法的原理和分治思想， 学会如何选择合适的划分策略。
查找算法
顺序查找
掌握顺序查找算法的基本思想和实现过程，了 解其时间复杂度和使用场景。
二分查找
学习二分查找算法的原理和应用，了解其时间 复杂度和适用条件。
动态规划算法
1 原理和应用举例
了解动态规划算法的核心原理，并通过实例了解其在解决复杂问题时的应用。
本课程将介绍算法的设计与分析，包括排序算法、查找算法和动态规划算法。 通过掌握这些算法，您将能够解决各种复杂的问题。
课程介绍
课程目标和内容概述
掌握算法设计与分析的基本概念和方法，学 习不同类型的算法及其应用。
教学方法和要求
通过理论讲解、案例分析和实际编程练习， 提高算法设计与分析的能力。
2 背包问题的动态规划解法
学习如何使用动态规划算法解决背包问题，掌握求解最优解的方法。
总结和课程评价
总结
回顾本课程涉及的算法内容，并思考所学知识 的实际应用。
课程评价
对本课程的内容、教学方法和教师的表现进行 评价和反馈。
算法基础
1 算法概述和分类
了解算法的定义、特性和常见的分类方法，为后续学习打下基础。
2 时间复杂度和空间复杂度
学习如何评估算法的时间和空间效率，并选择最合适的算法。
排序算法
1
插入排序
2
学习插排序算法的思想和实现过程，
掌握其时间复杂度和适用范围。
3
冒泡排序
掌握冒泡排序算法的原理和实现方法， 了解其时间复杂度和应用场景。
快速排序
了解快速排序算法的原理和分治思想， 学会如何选择合适的划分策略。
查找算法
顺序查找
掌握顺序查找算法的基本思想和实现过程，了 解其时间复杂度和使用场景。
二分查找
学习二分查找算法的原理和应用，了解其时间 复杂度和适用条件。
动态规划算法
1 原理和应用举例
了解动态规划算法的核心原理，并通过实例了解其在解决复杂问题时的应用。
算法设计与分析 ppt
算法设计与分析 >目录
第一章 算法概述 第二章 递归与分治策略 第三章 动态规划 第四章 贪心算法 第五章 回朔法 第六章 分支限界法 第七章 随机化算法
1
算法设计与分析 >第一章 目录
1.1 算法与程序 1.2 算法复杂度分析 1.3 NP完全性理论
2
算法设计与分析>算>法算概法述概述
1.1 算法与程序 1 算法定义及其特性
A
是
否
条件成立？
条件成立？
是
否
B
A
B
A
C
14
算法设计与分>析算>法算概法述概述
5. 算法分类
从解法上 数值型算法:算法中的基本运算为算术运算. 非数值型算法:算法中的基本运算为逻辑运算.
从处理方式上 串行算法:串行计算机上执行的算法. 并行算法:并行计算机上执行的算法.
本课程主要介绍非数值型的串行算法.
如果存在一个函数 ~T(n)使得当n ,有
(T(n) - ~T(n)) / T(n)0
称 ~T(n)是T(n)当 n 时的渐进性态 或 渐进复杂性
27
算法设计与分>>析算算法>法算复概法杂述概性分述析 >渐进性态
在数学上,T(n)与 ~T(有n)相同的最高阶项.可取 为~T(略n去) T(n)的低阶项后剩余的主项. 例如 T(n)=3n2+4nlogn+7, 则 ~T(n) 可以是3n2 当n充分大时用 ~T(n)代替T(n)作为算法复杂性的度量, 以简化分析 比较两个算法时，如果他们的阶不同，就可分出效率高低 。故此时只需关心 ~T最(n高) 限的阶即可。可忽略最高项系 数或低阶项。
4
第一章 算法概述 第二章 递归与分治策略 第三章 动态规划 第四章 贪心算法 第五章 回朔法 第六章 分支限界法 第七章 随机化算法
1
算法设计与分析 >第一章 目录
1.1 算法与程序 1.2 算法复杂度分析 1.3 NP完全性理论
2
算法设计与分析>算>法算概法述概述
1.1 算法与程序 1 算法定义及其特性
A
是
否
条件成立？
条件成立？
是
否
B
A
B
A
C
14
算法设计与分>析算>法算概法述概述
5. 算法分类
从解法上 数值型算法:算法中的基本运算为算术运算. 非数值型算法:算法中的基本运算为逻辑运算.
从处理方式上 串行算法:串行计算机上执行的算法. 并行算法:并行计算机上执行的算法.
本课程主要介绍非数值型的串行算法.
如果存在一个函数 ~T(n)使得当n ,有
(T(n) - ~T(n)) / T(n)0
称 ~T(n)是T(n)当 n 时的渐进性态 或 渐进复杂性
27
算法设计与分>>析算算法>法算复概法杂述概性分述析 >渐进性态
在数学上,T(n)与 ~T(有n)相同的最高阶项.可取 为~T(略n去) T(n)的低阶项后剩余的主项. 例如 T(n)=3n2+4nlogn+7, 则 ~T(n) 可以是3n2 当n充分大时用 ~T(n)代替T(n)作为算法复杂性的度量, 以简化分析 比较两个算法时，如果他们的阶不同，就可分出效率高低 。故此时只需关心 ~T最(n高) 限的阶即可。可忽略最高项系 数或低阶项。
4
算法设计与分析6回溯法PPT课件
n
m a x w i x i i1
n
s . t . S i x i C i1
1.解空间 x1,x2, ,xn，xi x i0,1{0 , 1 } , 1 i n
2.解空间结构树：高度为n+1的完全二叉树，结点总数为 2n1 1，左孩子为1，
右孩子为0.
2021/3/12
8
0-1背包问题的具体求解过程
1
W=(30,12,44,46,50)
1
1.令Wup=0,将物体的序号按价值体积比
2 1
排序结果是（2，1，3，4，5）
3
2.生成部分解(1,1,1,0)，估计当前部分解 1
的价值为Weva=94.3，Weva>Wup
4 0
3.继续向下搜索生成结点6，得到可行解 (1,1,1,0,0),得到价值为86，更新
5 0
Wup=86
6
2021/3/12
12
实例1：0-1背包问题
4.回溯：沿右孩子回溯到左孩子4，生成 相应右孩子7，得到部分解(1,1,0,1)，此时 Weva=93 5.因为Weva>Wup，继续生成结点8，9， 得到可行解(1,1,0,1,0),价值为88，更新 Wup=88
2021/3/12
0-1背包问题
问题描述：3个物W=[16,15,15] ,S=[45,25,25] ,C=30 1.定义解空间： (0,0,0),(0,0,1)…(1,1,1)，含有2 n 个解。 2.确定解空间的结构(二叉树)如图 3.进行深度优先搜索
n=3时的0-1背包问题用完全二叉树表示的解空间
2021/3/12
求解过程：
1.初始化：目标函数置为0，将物品按价值体积比的非增顺序排 序
m a x w i x i i1
n
s . t . S i x i C i1
1.解空间 x1,x2, ,xn，xi x i0,1{0 , 1 } , 1 i n
2.解空间结构树：高度为n+1的完全二叉树，结点总数为 2n1 1，左孩子为1，
右孩子为0.
2021/3/12
8
0-1背包问题的具体求解过程
1
W=(30,12,44,46,50)
1
1.令Wup=0,将物体的序号按价值体积比
2 1
排序结果是（2，1，3，4，5）
3
2.生成部分解(1,1,1,0)，估计当前部分解 1
的价值为Weva=94.3，Weva>Wup
4 0
3.继续向下搜索生成结点6，得到可行解 (1,1,1,0,0),得到价值为86，更新
5 0
Wup=86
6
2021/3/12
12
实例1：0-1背包问题
4.回溯：沿右孩子回溯到左孩子4，生成 相应右孩子7，得到部分解(1,1,0,1)，此时 Weva=93 5.因为Weva>Wup，继续生成结点8，9， 得到可行解(1,1,0,1,0),价值为88，更新 Wup=88
2021/3/12
0-1背包问题
问题描述：3个物W=[16,15,15] ,S=[45,25,25] ,C=30 1.定义解空间： (0,0,0),(0,0,1)…(1,1,1)，含有2 n 个解。 2.确定解空间的结构(二叉树)如图 3.进行深度优先搜索
n=3时的0-1背包问题用完全二叉树表示的解空间
2021/3/12
求解过程：
1.初始化：目标函数置为0，将物品按价值体积比的非增顺序排 序
算法设计与分析》-回溯ppt课件
电路板陈列问题
其中两个能够的陈列如下图，那么该 电路板陈列的密度分别是2，3
左以下图中，跨越插槽2和3,4和5，以及 插槽5和6的连线数均为2。插槽6和7之间 无跨越连线。其他插槽之间只需1条跨越 连线。
算法分析
电路板陈列问题是NP难问题，因此
NP难 问题
不大能够找到解此问题的多项式时间
算法。思索采用回溯法系统的搜索问
陈列树 解空间大小: n!
满足约束条件的解，解 空间中的一个子集
可行解
最优解
使目的函数取极值〔极 大或极小〕的可行解， 一个或少数几个
可行解和 最优解
当前扩展结点成为死结点时，应往回挪动〔回溯〕至最近的 一个活结点处，并使这个活结点成为当前的扩展结点
所搜索到的结 点不是叶结点， 且满足约束条 件和目的函数 的界，其儿子 结点还未全部 搜索终了
now[j]>0且now[j]！=total[j]。用
这个条件来计算插槽i和i+1间的连线
密度。
算法效率
在解空间陈列树的每个节点处，算法 Backtrack破费O(m)计算时间为每个儿 子节点计算密度。因此计算密度所耗费 的总计算时间为O(mn!)。另外，生成陈 列树需求O(n!)时间。每次更新当前最优 解至少使bestd减少1，而算法运转终了 时bestd>=0。因此最优解被更新的额次 数为O(m)。更新最优解需求O(mn)时间 。综上，解电路板陈列问题的回溯算法 Backtrack所需求的计算时间为O(mn!)
树的搜索， 否那么，进 逐层向其祖 入该子树， 先结点回溯 继续按深度
优先战略搜
4索
5
搜索方式
内留意：这棵解空间 树不是遍历前预先建 立的，而是隐含在遍 历过程中。 容
算法设计与分析课件--回溯法-算法框架
32
5.2 回溯法算法框架
解空间： • 对于待求解问题，满足约束的所有解构成了 该问题的一个解空间 (Solution Space)。 • 通常情况下，解空间越小，算法的搜索效率 越高。 • 为了方便搜索，一般用树或图的形式将问题 的解空间有效地组织起来。
• 解空间树： • 三种解空间树：子集树、排列树、满m叉树。
5.1 搜索概述
搜索法： • 假设问题的初始状态、目标状态和算法定义都已确定， 那么问题的解空间就是确定的。问题的求解就是指如 何有效地搜索这个确定的解空间，从中找出问题的真 正解。 • 包括穷举搜索、深度优先搜索、广度优先搜索等。
5
5.1 搜索概述-穷举法
穷举搜索思想：
• 针对问题的可能解是有限种的情况，逐一检查所有可 能的情况，从中找到问题真正的解。
19
5.2 回溯法算法框架
回溯法的搜索思想： • 搜索过程直到找到问题的解或根结点变成死结
点为止。 • 递归式搜索 或 迭代式搜索。
20
5.2 回溯法算法框架
• 举例：0-1背包问题: 1.A是活节点
• w = (16, 15, 15)，v = (45, 25, 25)，W = 30 2.选择B扩展后，B 变为当前扩展结点。 A和B都是活结点
34
5.2 回溯法算法框架
子集树：
• 初始状态（根）、中间状态（中间）、结束状态（叶子）。
• 树中从根到叶子的路径描述了一个n元0-1向量，该n元 0-1向量表示集合S的一个子集，这个子集由对应分量 为1的元素组成。如(1,0,1,1,0) 表示子集{x1,x3,x4}
35
5.2 回溯法算法框架
17
5.2 回溯法算法框架
深度优先的问题状态生成法：在一个扩展结点变成 死结点之前，它一直是扩展结点。
算法设计与分析概要PPT学习教案
第10页/共51页
LC分支限界法
结点代价相关概念
代价函数c(.)：表示从根结点搜索到X，以及在X之下搜索到一个答案状态 所需的代价。如下定义
1. 若X是答案结点，则c(X)是由空间树根到结点X的代价； 2. 若X不是答案结点且子树X不包含任何答案结点，则c(X)= ∞； 3. 否则c(X)等于子树X中具有最小代价的答案结点的代价。
第6页/共51页
求4皇后问题第一个解
FIFO分支限界法生成的状态树
1 图8-6
2
3
4
5
6 7 8 9 10 11 12 13 14 15 16 17
18
22
26
30
31
第7页/共51页
参考 图8-3
存在性问题-分枝限界法算法框架
树结点的数据结构
//状态空间树采用树的双亲表示法，parent是指向其双亲的指针
一般地，f(X) = X在树中的层次 一般地，^g(X)根据问题确定
LC检索(即最小成本检索)：总是选取^c(.)值最小的活 结点为下一个E结点。
若令f(X)≡ 0 时， LC检索退化为DFS搜索 若令^g(X) ≡ 0时，LC检第1索5页退/共5化1页为BFS搜索
15谜问题
15谜问题 在一个分成16格的方形棋盘上，放有15块编了 号码(1,2,…,15)的牌（见下图）。对这些牌给定一种初始 排列如图(a)，要求通过一系列的合法移动将这一初始排 列转换成图(b)所示的那样的目标排列。
设结点X对应的部 分解为(x0,x1,…,xk-1)
设物品按单位收益 由大到小编号，即 p(i)/w(i)≥p(i+1)/w(i +1)
到状态X时，背包 剩余载重cu第24页/共51页
LC分支限界法
结点代价相关概念
代价函数c(.)：表示从根结点搜索到X，以及在X之下搜索到一个答案状态 所需的代价。如下定义
1. 若X是答案结点，则c(X)是由空间树根到结点X的代价； 2. 若X不是答案结点且子树X不包含任何答案结点，则c(X)= ∞； 3. 否则c(X)等于子树X中具有最小代价的答案结点的代价。
第6页/共51页
求4皇后问题第一个解
FIFO分支限界法生成的状态树
1 图8-6
2
3
4
5
6 7 8 9 10 11 12 13 14 15 16 17
18
22
26
30
31
第7页/共51页
参考 图8-3
存在性问题-分枝限界法算法框架
树结点的数据结构
//状态空间树采用树的双亲表示法，parent是指向其双亲的指针
一般地，f(X) = X在树中的层次 一般地，^g(X)根据问题确定
LC检索(即最小成本检索)：总是选取^c(.)值最小的活 结点为下一个E结点。
若令f(X)≡ 0 时， LC检索退化为DFS搜索 若令^g(X) ≡ 0时，LC检第1索5页退/共5化1页为BFS搜索
15谜问题
15谜问题 在一个分成16格的方形棋盘上，放有15块编了 号码(1,2,…,15)的牌（见下图）。对这些牌给定一种初始 排列如图(a)，要求通过一系列的合法移动将这一初始排 列转换成图(b)所示的那样的目标排列。
设结点X对应的部 分解为(x0,x1,…,xk-1)
设物品按单位收益 由大到小编号，即 p(i)/w(i)≥p(i+1)/w(i +1)
到状态X时，背包 剩余载重cu第24页/共51页
算法分析与设计回溯法ppt课件
问题求解的方法
硬性处理法
– 列出所有候选解，逐个检查是否为所需要的解 – 理论上，候选解数量有限，并且通过检查所有或部分
候选解能够得到所需解时，上述方法可行
– 实际中则很少使用，因为候选解的数量通常都非常大 （比如指数级，甚至是大数阶乘），即便采用最快的 计算机也只能解决规模较小的问题。
回溯或分枝限界法
这种以深度优先方式搜索问题的解的方法称为 回溯法
回溯法思想
第一步：为问题定义一个状态空间(state space)。这 个空间必须至少包含问题的一个解
第二步：组织状态空间以便它能被容易地搜索。典型 的组织方法是图或树
第三步：按深度优先的方法从开始结点进行搜索
– 开始结点是一个活结点（也是 E-结点：expansion node） – 如果能从当前的E-结点移动到一个新结点，那么这个新结点将
权衡：限界函数生成结点数和限界函数 本身所需的计算时间
效率分析
效率分析中应考虑的因素
– （1）—（3）与实例无关 – （4）与实例相关
有可能只生成O(n)个结点，有可能生成 几乎全部结点
最坏情况时间
– O(p(n)2n)，p(n)为n的多项式 – O(q(n)n!)，q(n)为n的多项式
Monte Carlo效率估计（1）
解空间
隐式约束描述了xi必须彼此相关的情况， 如0/1背包问题中的背包重量M
回溯法求解的经典问题（1） 8-皇后问题
在一个8*8棋盘上放置8个皇后，且使得每两个 之间都不能互相“攻击”，也就是使得每两个 都不能在同一行、同一列及同一条斜角线上。
8皇后问题的解可以表示为8-元组(x1,…,x8) ， 其中其中xi是第i行皇后所在的列号。
回溯法求解的经典问题（2） 子集和数问题
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
22
回溯法的求解过程
回溯法的求解过程
5.1 回溯算法的基本框架
3 递归回溯
递归回溯
5.1 回溯算法的基本框架
4 迭代回溯
迭代回溯
5.1 回溯算法的基本框架
5 子集树与排列树
子集树：当所给的问题是从n个元素 的集合S中找出满足某种性质的子集 时，相应的解空间称为子集树。 排列树：当所给的问题是确定n个元 素满足某种性质的排列时，相应的 解空间树成为排列树。
作业
max wi xi
i 1 n
s.t. wi xi c1
i 1
xi {0,1},1 i n
35
约束函数？
构造最优解
在类Loading中增加两个私 有数据成员x和bestx。
» X记录从根至当前结点的
路径,x[i]=0/1;[1 0 1 1 0] » Bestx记录当前最优解，算 法搜索到达一个叶子结点 处，就修正besx的值。
第5章 回溯法
计算机算法设计与分析
内容提要
理解 深度优先 搜索策略
掌握 回溯法的 算法策略
学习 应用范例 归纳总结
每一步都非常关键，走好每一步！
理解
回溯法的深度优先搜索策略
通用算法、万能算法？
回溯法
回溯法—“通用解题法”—“万能算法”。
回溯法可以系统的搜索一个问题的所有解或任一 解。
回溯法是一个即带有系统性又带有跳跃性的搜索 算法。
回溯法的基本思想
回溯法的解题基本步骤
(1)针对所给问题，定义问题的解空间； (2)确定易于搜索的解空间结构； (3)以深度优先方式搜索解空间，并在搜索过程中用 剪枝函数避免无效搜索。 用回溯法解题的一个显著特征是在搜索过程中动态 产生问题的解空间。在任何时刻，算法只保存从根 结点到当前扩展结点的路径。如果解空间树中从根 结点到叶结点的最长路径的长度为h(n)，则回溯法 所需的计算空间通常为O(h(n))。而显式地存储整个 解空间则需要O(2h(n))或O(h(n)!)内存空间。
回溯法的应用例子
装载问题、作业调度和0/1背包问题
装载问题
有一批共n个集装箱要装上2艘载重量分别为c1和c2的轮船，其 n 中集装箱i的重量为wi，且 wi c1 c2
i 1
装载问题要求确定：是否有一个合理的装载方案可将这n个集装 箱装上这2艘轮船。如果有，找出一种装载方案。
max wi xi
回溯法的解空间的组织
回溯法的解空间—0/1背包
回溯法的解空间—旅行售货员问题
5.1 回溯算法的基本框架
2 回溯法的基本思想
回溯法的基本思想
回溯法的基本思想距离—0/1背包
旅行售货员问题
• 某个售货员要到若干城市去推销商品，已 知各城市之间的路程（或旅费）。他要选 定一条从驻地城市出发，经过每个城市一 遍，最后回到驻地的路线，使总的路程 （或总旅费）最小。
i 1
n
s.t. wi xi c1
i 1
n
xi {0,1},1 i n
33
n = 3，c1= c2 = 50 w1 = [10,40,40]， w2 = [20,40,40]，
装载例子
有一批共n个集装箱要装上2艘载重量分别为 c1和c2的轮船，其 n 中集装箱i的重量为wi，且 wi c1 c2
• • • • • 问题的解空间 回溯法的基本思想 递归回溯 迭代回溯 子集树与排列树
5.1 回溯算法的基本框架
1 问题的解空间
问题的解空间
问题的解空间举例
回溯法的解空间
回溯法的解空间
为了用回溯法求解一个具有n个输 入的问题，一般情况下，将其可 能的解表示为满足某个约束条件 的等长向量 X = （x1, x2, … , xn)， 其中分量xi（1<=i<=n)的取值范围 是某个有限集合 Si = {ai1, ai2, … , ain}, 所以有可能的解向量构成了问题 的解空间。
宽度优先的问题状态生成法：在一个扩展结点变成死结点 之前，它一直是扩展结点
回溯法：为了避免生成那些不可能产生最佳解的问题状态， 要不断地利用限界函数(bounding function)来处死那些实际 上不可能产生所需解的活结点，以减少问题的计算量。具 有限界函数的深度优先生成法称为回溯法
5.1 回溯法的算法框架
它在问题的解空间树中，按深度优先策略，从 根节点出发搜索解空间树。 算法搜索至解空间树的任一结点时，先判断该 节点是否包含问题的解。如果肯定不包含，则 跳过对以该结点为根的子树的搜索，逐层向其 祖先节点回溯； 否则，进入该子树，继续按深度优先策略搜索
回溯法
生成问题状态的基本方法
扩展结点:一个正在产生孩子的结点称为扩展结点 活结点:一个自身已生成但其孩子还没有全部生成的节点称 做活结点 死结点:一个所有孩子已经产生的结点称做死结点 深度优先的问题状态生成法：如果对一个扩展结点R，一旦 产生了它的一个孩子C，就把C当做新的扩展结点。在完成 对子树C（以C为根的子树）的穷尽搜索之后，将R重新变成 扩展结点，继续生成R的下业1
作业2 作业3
机器1 2
3 2
机器2 1
1 3
批处理作业调度问题
批处理作业调度问题
批处理作业调度问题
批处理作业调度问题
解空间？
是一个排列树。
子树随着作业的减少而减少。
批处理作业调度问题
class Flowshop { friend Flow(int**, int, int []); private: void Backtrack(int i); int **M, // 各作业所需的处理时间 *x, // 当前作业调度 *bestx, // 当前最优作业调度 *f2, // 机器2完成处理时间 f1, // 机器1完成处理时间 f, // 完成时间和 bestf, // 当前最优值 n; // 作业数};
i 1
容易证明，如果一个给定装载问题有解，则采用下面的策略可 得到最优装载方案。 (1)首先将第一艘轮船尽可能装满； (2)将剩余的集装箱装上第二艘轮船。 将第一艘轮船尽可能装满等价于选取全体集装箱的一个子集， 使该子集中集装箱重量之和最接近。由此可知，装载问题等价 于以下特殊的0-1背包问题。 n
遍历排列树需要O(n!)计算时间
void backtrack (int t) { if (t>n) output(x); else for (int i=t;i<=n;i++) { swap(x[t], x[i]); if (legal(t)) backtrack(t+1); swap(x[t], x[i]); } }
图的m着色问题
复杂度分析 图m可着色问题的解空间树中内结点个数是 对于每一个内结点，在最坏情况下，用ok检查当 前扩展结点的每一个儿子所相应的颜色可用性需 耗时O(mn)。因此，回溯法总的时间耗费是
图的m着色问题
分析：5-1；5-2；5-3 设计：5-1；5-3
作业
分析：5-1；5-2；5-3 设计：5-1；5-3
批处理作业调度问题
tji 作业1
作业2 作业3
机器1 2
3 2
机器2 1
1 3
批处理作业调度问题
4皇后问题
4皇后问题
4皇后问题
4皇后问题
4皇后问题
0/1背包
0/1背包
M图着色问题
图的m着色问题
图的m着色问题
图的m着色问题
图的m着色问题
•解向量：(x1, x2, … , xn)表示顶点i所着颜色x[i] •可行性约束函数：顶点i与已着色的相邻顶点颜色不重复。
回溯法：子集树和排列树
子集树与排列树
遍历子集树需O(2n)计算时间
void backtrack (int t) { if (t>n) output(x); else for (int i=0;i<=1;i++) { x[t]=i; if (legal(t)) backtrack(t+1); } }
回溯法的求解过程
回溯法的求解过程
5.1 回溯算法的基本框架
3 递归回溯
递归回溯
5.1 回溯算法的基本框架
4 迭代回溯
迭代回溯
5.1 回溯算法的基本框架
5 子集树与排列树
子集树：当所给的问题是从n个元素 的集合S中找出满足某种性质的子集 时，相应的解空间称为子集树。 排列树：当所给的问题是确定n个元 素满足某种性质的排列时，相应的 解空间树成为排列树。
作业
max wi xi
i 1 n
s.t. wi xi c1
i 1
xi {0,1},1 i n
35
约束函数？
构造最优解
在类Loading中增加两个私 有数据成员x和bestx。
» X记录从根至当前结点的
路径,x[i]=0/1;[1 0 1 1 0] » Bestx记录当前最优解，算 法搜索到达一个叶子结点 处，就修正besx的值。
第5章 回溯法
计算机算法设计与分析
内容提要
理解 深度优先 搜索策略
掌握 回溯法的 算法策略
学习 应用范例 归纳总结
每一步都非常关键，走好每一步！
理解
回溯法的深度优先搜索策略
通用算法、万能算法？
回溯法
回溯法—“通用解题法”—“万能算法”。
回溯法可以系统的搜索一个问题的所有解或任一 解。
回溯法是一个即带有系统性又带有跳跃性的搜索 算法。
回溯法的基本思想
回溯法的解题基本步骤
(1)针对所给问题，定义问题的解空间； (2)确定易于搜索的解空间结构； (3)以深度优先方式搜索解空间，并在搜索过程中用 剪枝函数避免无效搜索。 用回溯法解题的一个显著特征是在搜索过程中动态 产生问题的解空间。在任何时刻，算法只保存从根 结点到当前扩展结点的路径。如果解空间树中从根 结点到叶结点的最长路径的长度为h(n)，则回溯法 所需的计算空间通常为O(h(n))。而显式地存储整个 解空间则需要O(2h(n))或O(h(n)!)内存空间。
回溯法的应用例子
装载问题、作业调度和0/1背包问题
装载问题
有一批共n个集装箱要装上2艘载重量分别为c1和c2的轮船，其 n 中集装箱i的重量为wi，且 wi c1 c2
i 1
装载问题要求确定：是否有一个合理的装载方案可将这n个集装 箱装上这2艘轮船。如果有，找出一种装载方案。
max wi xi
回溯法的解空间的组织
回溯法的解空间—0/1背包
回溯法的解空间—旅行售货员问题
5.1 回溯算法的基本框架
2 回溯法的基本思想
回溯法的基本思想
回溯法的基本思想距离—0/1背包
旅行售货员问题
• 某个售货员要到若干城市去推销商品，已 知各城市之间的路程（或旅费）。他要选 定一条从驻地城市出发，经过每个城市一 遍，最后回到驻地的路线，使总的路程 （或总旅费）最小。
i 1
n
s.t. wi xi c1
i 1
n
xi {0,1},1 i n
33
n = 3，c1= c2 = 50 w1 = [10,40,40]， w2 = [20,40,40]，
装载例子
有一批共n个集装箱要装上2艘载重量分别为 c1和c2的轮船，其 n 中集装箱i的重量为wi，且 wi c1 c2
• • • • • 问题的解空间 回溯法的基本思想 递归回溯 迭代回溯 子集树与排列树
5.1 回溯算法的基本框架
1 问题的解空间
问题的解空间
问题的解空间举例
回溯法的解空间
回溯法的解空间
为了用回溯法求解一个具有n个输 入的问题，一般情况下，将其可 能的解表示为满足某个约束条件 的等长向量 X = （x1, x2, … , xn)， 其中分量xi（1<=i<=n)的取值范围 是某个有限集合 Si = {ai1, ai2, … , ain}, 所以有可能的解向量构成了问题 的解空间。
宽度优先的问题状态生成法：在一个扩展结点变成死结点 之前，它一直是扩展结点
回溯法：为了避免生成那些不可能产生最佳解的问题状态， 要不断地利用限界函数(bounding function)来处死那些实际 上不可能产生所需解的活结点，以减少问题的计算量。具 有限界函数的深度优先生成法称为回溯法
5.1 回溯法的算法框架
它在问题的解空间树中，按深度优先策略，从 根节点出发搜索解空间树。 算法搜索至解空间树的任一结点时，先判断该 节点是否包含问题的解。如果肯定不包含，则 跳过对以该结点为根的子树的搜索，逐层向其 祖先节点回溯； 否则，进入该子树，继续按深度优先策略搜索
回溯法
生成问题状态的基本方法
扩展结点:一个正在产生孩子的结点称为扩展结点 活结点:一个自身已生成但其孩子还没有全部生成的节点称 做活结点 死结点:一个所有孩子已经产生的结点称做死结点 深度优先的问题状态生成法：如果对一个扩展结点R，一旦 产生了它的一个孩子C，就把C当做新的扩展结点。在完成 对子树C（以C为根的子树）的穷尽搜索之后，将R重新变成 扩展结点，继续生成R的下业1
作业2 作业3
机器1 2
3 2
机器2 1
1 3
批处理作业调度问题
批处理作业调度问题
批处理作业调度问题
批处理作业调度问题
解空间？
是一个排列树。
子树随着作业的减少而减少。
批处理作业调度问题
class Flowshop { friend Flow(int**, int, int []); private: void Backtrack(int i); int **M, // 各作业所需的处理时间 *x, // 当前作业调度 *bestx, // 当前最优作业调度 *f2, // 机器2完成处理时间 f1, // 机器1完成处理时间 f, // 完成时间和 bestf, // 当前最优值 n; // 作业数};
i 1
容易证明，如果一个给定装载问题有解，则采用下面的策略可 得到最优装载方案。 (1)首先将第一艘轮船尽可能装满； (2)将剩余的集装箱装上第二艘轮船。 将第一艘轮船尽可能装满等价于选取全体集装箱的一个子集， 使该子集中集装箱重量之和最接近。由此可知，装载问题等价 于以下特殊的0-1背包问题。 n
遍历排列树需要O(n!)计算时间
void backtrack (int t) { if (t>n) output(x); else for (int i=t;i<=n;i++) { swap(x[t], x[i]); if (legal(t)) backtrack(t+1); swap(x[t], x[i]); } }
图的m着色问题
复杂度分析 图m可着色问题的解空间树中内结点个数是 对于每一个内结点，在最坏情况下，用ok检查当 前扩展结点的每一个儿子所相应的颜色可用性需 耗时O(mn)。因此，回溯法总的时间耗费是
图的m着色问题
分析：5-1；5-2；5-3 设计：5-1；5-3
作业
分析：5-1；5-2；5-3 设计：5-1；5-3
批处理作业调度问题
tji 作业1
作业2 作业3
机器1 2
3 2
机器2 1
1 3
批处理作业调度问题
4皇后问题
4皇后问题
4皇后问题
4皇后问题
4皇后问题
0/1背包
0/1背包
M图着色问题
图的m着色问题
图的m着色问题
图的m着色问题
图的m着色问题
•解向量：(x1, x2, … , xn)表示顶点i所着颜色x[i] •可行性约束函数：顶点i与已着色的相邻顶点颜色不重复。
回溯法：子集树和排列树
子集树与排列树
遍历子集树需O(2n)计算时间
void backtrack (int t) { if (t>n) output(x); else for (int i=0;i<=1;i++) { x[t]=i; if (legal(t)) backtrack(t+1); } }