算法2013s-NP完全性与近似算法
算法设计与分析课程教学大纲
算法设计与分析课程教学大纲【适用专业】计算机科学与技术【课时】理论课时：32【学分】 2【课程性质、目标和要求】《算法设计与分析》是计算机科学与技术专业的专业课。
无论是计算科学还是计算实践，算法都在其中扮演着重要角色。
本课程的教学目的是讲授在计算机应用中常常遇到的实际问题的解法，讲授设计和分析各种算法的基本原理、方法和技术，培养学生对算法复杂性进行正确分析的能力。
课程基本要求是⑴掌握算法分析的基本概念和理论。
⑵掌握算法设计技术和分析算法以及算法复杂性。
【教学时间安排】本课程计 2 学分，理论课时32, 学时分配如下：【教学内容要点】第一章算法引论一、学习目的要求1．了解算法的计算复杂性分析方法2．理解算法分析的基本理论3．掌握算法分析的基本概念二、主要教学内容1. 算法的基本概念2. 表达算法的抽象机制3. 采用Java语言与自然语言相结合的方式描述算法的方法4. 算法的计算复杂性分析方法第二章递归与分治策略一、学习目的要求1．理解典型范例中递归与分治策略应用技巧2．掌握递归与分治策略3．掌握数学归纳法证明算法正确性方法二、主要教学内容1. 递归的概念2. 分治法的基本思想3. 二分搜索技术4. 大整数的乘法5. Strassen阵乘法6. 棋盘覆盖7. 合并排序8. 快速排序9. 线性时间选择10. 最接近点对问题11. 循环赛日程表第三章动态规划一、学习目的要求1．理解典型范例中动态规划算法的设计思想2．掌握动态规划算法的基本要求以及算法的设计要点二、主要教学内容1. 矩阵连乘问题2. 动态规划算法的基本要素3. 最长公共子序列4. 最大子段和5. 凸多边形最优三角剖分6. 多边形游戏7. 图像压缩8. 电路布线9. 流水作业调度10. 0—l背包问题11. 最优二叉搜索树12. 动态规划加速原理三、课堂讨论选题1. 最长公共子序列2. 0—l背包问题第四章贪心算法一、学习目的要求1．了解贪心算法的理论基础及基本要素2. 理解典型范例中贪心算法的设计思想3. 掌握贪心算法的设计要点二、主要教学内容1. 活动安排问题2. 贪心算法的基本要素3. 最优装载4. 哈夫曼编码5. 单源最短路径6. 最小生成树7. 多机调度问题8. 贪心算法的理论基础三、课堂讨论选题1. 最优装载2. 单源最短路径第五章回溯法一、学习目的要求1．理解回溯法的效率分析方法2．掌握回溯法的算法框架和应用技巧二、主要教学内容1. 回溯法的算法框架2. 装载问题3. 批处理作业调度4. 符号三角形问题5. n后问题6. 0—l背包问题7. 最大团问题8. 图的m着色问题9. 旅行售货员问题10. 圆排列问题11. 电路板排列问题12. 连续邮资问题13. 回溯法的效率分三、课堂讨论选题1. 0—l背包问题2. 图的m着色问题第六章分支限界法一、学习目的要求1．理解分支限界法的基本思想2．掌握典型范例中分支限界法的应用技巧二、主要教学内容1. 分支限界法的基本思想2. 单源最短路径问题3. 装载问题4. 布线问题5. 0-1背包问题6. 最大团问题7. 旅行售货员问题8. 电路板排列问题9. 批处理作业调度三、课堂讨论选题1. 0-1背包问题2. 批处理作业调度第七章概率算法一、学习目的要求1．理解概率算法的基本思想2．掌握典型范例中概率算法的应用技巧二、主要教学内容1. 随机数2. 数值概率算法3. 舍伍德算法4. 拉斯维加斯算法5. 蒙特卡罗算法第八章 NP完全性理论一、学习目的要求1．了解P类与NP类问题2．了解典型的NP完全问题二、主要教学内容1. 计算模型2. P类与NP类问题3. NP完全问题4. 一些典型的NP完全问题第九章近似算法一、学习目的要求1．掌握近似算法的基本思想2．掌握常用近似算法的应用二、主要教学内容1. 近似算法的性能2. 顶点覆盖问题的近似算法3. 旅行售货员问题近似算法4. 集合覆盖问题的近似算法5. 子集和问题的近似算法第十章算法优化策略一、学习目的要求1．掌握算法优化策略2．掌握算法优化的基本方法二、主要教学内容1. 算法优化策略的比较与选择2. 动态规划加速原理3. 问题的算法特征4. 优化数据结构5. 优化搜索策略【教学（实验）内容要点】算法设计与分析实验是算法设计与分析课的一个实践性教学环节。
运筹学中整数规划问题的近似算法
运筹学中整数规划问题的近似算法运筹学是一门研究如何在有限资源下做最优决策的学科，其中整数规划是其中一种重要的决策方法。
整数规划问题是指在线性规划问题的基础上，对决策变量的取值加以限定，限定为整数值。
整数规划问题在实际应用中非常常见，例如优化生产计划、物流配送、资源分配等。
然而，整数规划问题的解空间通常是离散的，由于整数规划问题的NP难解性质，寻找准确解的效率很低，因此近似算法成为解决整数规划问题的重要手段。
一、近似算法的概念近似算法是指在可接受的误差范围内，通过有效的计算方法得到问题的近似最优解。
在整数规划问题中，近似算法主要通过松弛约束条件、局部搜索等方法寻找问题的近似解。
二、近似算法的分类近似算法可以根据问题的特性和解决方法的不同进行分类，下面介绍几种常见的近似算法。
1. 线性松弛算法（Linear Relaxation）线性松弛算法是整数规划问题中常用的近似算法之一。
该算法的基本思想是将整数规划问题的整数约束放宽为实数约束，得到一个线性规划问题。
然后通过求解线性规划问题的松弛解，并将松弛解的整数部分作为整数规划问题的一个近似解。
2. 近似局部搜索算法（Approximate Local Search）近似局部搜索算法通过在整数规划问题的解空间中进行局部搜索，通过一系列的改进和优化策略来逐步提高解的质量。
该算法在每一步都根据某种准则选择当前最优解，并通过局部搜索来寻找局部最优解。
然后，通过重复进行局部搜索和改进操作，逐渐向全局最优解靠近。
3. 启发式算法（Heuristic Algorithm）启发式算法是一种基于经验和直觉的算法，通过在可行解空间中搜索一组近似解，并根据某种评价准则选择最优解。
在解决整数规划问题时，启发式算法通过寻找有效的近似解，来替代寻找准确解，从而节省计算资源和时间。
三、近似算法的应用案例近似算法在实际问题中有广泛的应用，下面以物流配送问题为例，介绍近似算法的应用。
假设某物流公司需要将一批货物从仓库分配到多个客户，其中仓库和客户的位置已知，货物的需求和供应量也已知。
(完整word版)顶点覆盖问题的NP完全证明和近似算法求解
顶点覆盖问题的NP 完全证明和顶点覆盖优化问题的近似算法顶点覆盖（VERTEX COVER ）给定一个无向图),(E V G =和一个正整数k ，若存在V V ⊆'，k V ='，使得对任意的E v u ∈),(，都有'V u ∈或'V v ∈，则称'V 为图G 的一个大小为k 的顶点覆盖。
顶点覆盖问题的描述判定问题：VERTEX COVER输 入：无向图),(E V G =，正整数k问 题：G 中是否存在一个大小为k 的顶点覆盖，这是一个NP 完全问题 顶点覆盖的NP 完全性证明NP 性的证明：对给定的无向图),(E V G =，若顶点V V ⊆'是图G 的一个大小为k 顶点的覆盖，则可以构造一个确定性的算法，以多项式的时间验证k V ='，及对所有的E v u ∈),(，是否有'V u ∈或'V v ∈。
因此顶点覆盖问题是一个NP 问题。
完全性的证明：我们已知团集（CLIQUE ）问题是一个NP 完全问题，若团集问题归约于顶点覆盖问题，即VERTEX CLIQUE poly αCOVER ，则顶点覆盖问题就是一个NP 完全问题。
我们可以利用无向图的补图来说明这个问题。
若向图),(E V G =，则G 的补图--=),(E V G ，其中}),(|),{(E v u v u E ∉=-。
例如，图1(b)是图1(a)的补图。
在图1(a)中有一个大小为3的团集},,{y v u ，在图1(b)中，则有一个大小为2的顶点覆盖},{w v 。
显然可以在多项式时间里构造图G 的补图-G 。
因此，只要证明图),(E V G =有一个大小为k V -||的团集，当且仅当它的补图-G 有一个大小为k 的顶点覆盖。
(a) (b)图1无向图及补图必要性：如果G 中有一个大小为k V -||的团集，则它具有一个大小为k V -||个顶点的完全子图，令这k V -||个顶点集合为'V 。
中科大算法第二章近似算法--黄刘生(调整后适合打印版)
NP-完全性理论
Karp的贡献
理查德·卡普（Richard Karp ， 1935- ） 1972 年论文 ”Reducibility among Combinatorial Problems” 发 展和加强了由库克提出的“NP完全性”理论。 尤其是库 克仅证明了命题演算的可满足问题是NP完全的，而卡普则证明了从 组合优化中引出的大多数经典问题(背包问题、覆盖问题、匹配问 题、分区问题、路径问题、调度问题等)都是NP完全问题。只要证 明其中任一个问题是属于P类的，就可解决计算复杂性理论中最大 的一个难题，即P=?NP。
SAT∈P当且仅当P=NP
Cook 于1961 年获 Michigan 大学学士学位， 1962 和 1966年分获哈佛 大学硕士与博士学位。 1966-1970 ，他在 UC Berkeley 担任助教授； 1970年加盟多伦多大学，现为该校CS 和数学系教授，他的论文开启 了NP完备性的研究，令该领域于之后的十年成为计算机科学中最活 跃和重要的研究。因其在计算复杂性理论方面的贡献，尤其是在奠 定NP完全性理论基础上的突出贡献而荣获1982年度的图灵奖。
9
P、NP及NPC类问题
NP=？P
∵确定型图灵机是非确定型图灵机的特例，∴P⊆NP 是否有NP⊆P？即是否NP=P？
美国麻省的Clay数学研究所于2000年5月24日在巴黎法兰西学院宣 布：对七个“千年数学难题”中的每一个均悬赏 100 万美元，而 问题NP=？P位列其首:
1.P问题对NP问题 2.霍奇猜想 3. 庞加莱猜想 (2002.11-2003.7 ，俄罗斯数学家佩雷尔曼在 3 篇 论文预印本中证明了几何化猜想，2006被授予菲尔兹奖) 4.黎曼假设 5.杨－米尔斯存在性和质量缺口 6.纳维叶－斯托克斯方程的存在性与光滑性 7.贝赫和斯维讷通－戴尔猜想
《算法设计与分析》(全)
1.1、算法与程序
程序：是算法用某种程序设计语言的具体实现。 程序可以不满足算法的性质(4)。 例如操作系统，是一个在无限循环中执行的程序， 因而不是一个算法。 操作系统的各种任务可看成是单独的问题，每一个 问题由操作系统中的一个子程序通过特定的算法来实 现。该子程序得到输出结果后便终止。
渐近分析记号的若干性质
（1）传递性： ➢ f(n)= (g(n))， g(n)= (h(n)) f(n)= (h(n))； ➢ f(n)= O(g(n))， g(n)= O (h(n)) f(n)= O (h(n))； ➢ f(n)= (g(n))， g(n)= (h(n)) f(n)= (h(n))； ➢ f(n)= o(g(n))， g(n)= o(h(n)) f(n)= o(h(n))； ➢ f(n)= (g(n))， g(n)= (h(n)) f(n)= (h(n))； （2）反身性： ➢ f(n)= (f(n))；f(n)= O(f(n))；f(n)= (f(n)). （3）对称性： ➢ f(n)= (g(n)) g(n)= (f(n)) . （4）互对称性： ➢ f(n)= O(g(n)) g(n)= (f(n)) ； ➢ f(n)= o(g(n)) g(n)= (f(n)) ；
巢湖学院计算机科学与技术系
渐近分析记号的若干性质
规则O(f(n))+O(g(n)) = O(max{f(n),g(n)}) 的证明： ➢ 对于任意f1(n) O(f(n)) ，存在正常数c1和自然数n1，使得对
所有n n1，有f1(n) c1f(n) 。 ➢ 类似地，对于任意g1(n) O(g(n)) ，存在正常数c2和自然数
巢湖学院计算机科学与技术系
第1章 算法引论
第九章 NP完全理论
9.2.1 P 类问题
★定义 1 设 A 是问题 的一个算法。如果在处理问题 的实例时，在算法的执行过 程中，每一步只有一个确定的选择，则称算法 A 是确定性算法。因此，确定性算法对于同 样的输入实例一遍又一遍地执行，其输出从不改变。通常在写程序时，用到的都是一些确定 性算法，比如说排序算法和查找算法等。 ★定义 2 如果对于某个判定问题 ’，存在一个非负整数 k，对于输入规模为 n 的实 例，能够以 O(nk)的时间运行一个确定性算法，得到是或否的答案，则该判定问题 ’是一个 P（polynomial）类问题。
9.1 易解问题和难解问题
无论是计算机专业人士还是计算机科学家， 在研究问题的计算复杂性时， 它们首先考虑 的都是一个给定的问题是不是能够用某些算法在多项式时间内求解， 即算法的时间复杂性是 k 不是 O(n )，其中，n 是问题规模，k 是一个非负整数。Ednonds 于 1965 年指出只有多项式 时间算法才称得上是 “好”算法，他还认为有的问题可能不存在求解它们的这种“好”算法。 其实，多项式时间复杂性并不一定就意味着较低的时间要求，例如：1099n8 和 n100 都是 多项式函数，但它们的值却大得惊人。既然如此，为什么科学家还要用它作标准去定义问题 呢？原因可能有以下几条： （1） 这样做可以为有过多时间要求的那类问题提供一个很好的标准。 （2） 多项式函数在加、乘运算下是自封闭的，并且在那些可以作为有用的分析算法 复杂性的函数类中，多项式函数是具有这种性质的最小函数类。 （3） 多项式时间复杂性的分析结果，对于常用的各种计算机形式模型，具有不变性。 应该说明，对于能找到多项式时间算法的实际问题，它们的多项式时间复杂性函数，一 般都不含有特大系数或较高幂指数的项。
9.2 P 类和 NP 类问题
近似算法
近似算法1 近似算法所有已知的解决NP-难问题算法都有指数型运行时间。
但是，如果我们要找一个“好”解而非最优解，有时候多项式算法是存在的。
给定一个最小化问题和一个近似算法，我们按照如下方法评价算法：首先给出最优解的一个下界，然后把算法的运行结果与这个下界进行比较。
对于最大化问题，先给出一个上界然后把算法的运行结果与这个上界比较。
1.1最小顶点覆盖先来回忆一下顶点覆盖的定义，它是一个与图中所有边相关联的顶点集。
最小顶点覆盖问题是要找一个顶点数最少的顶点覆盖。
最小顶点覆盖的下界可以由最大匹配给出。
因为匹配中任两边不相邻，所以匹配中的每条边至少有一个顶点在顶点覆盖中。
而且，注意到在最大匹配中所有匹配顶点的集合就是一个顶点覆盖。
这是因为，任何一条两端点均未被匹配的边可以添加到匹配中，与匹配的最大性相矛盾。
显然，这个算法包含的顶点数是我们的下界，最大匹配的边数，的两倍。
因此，算法得到的值不会超过最优值的两倍。
我们感兴趣的两个问题是：相对于最优解，我们的下界到底有多“好”，而最后的解又有多“好”？首先来说明下界可能是最优值的两倍。
例如n条边的完全图，最大匹配有条边，所以我们的下界是。
但是，需要n-1个顶点来覆盖这个图。
因为任取一个n-2个顶点的集合，此图是完全图，在被删掉的两个顶点之间肯定存在一条边与选中的这n-2个顶点不关联。
N足够大时，我们有。
因此，比较算法与这个界，不可能有比最优值的2倍更好的下界了。
接下来比较算法的最后结果与最优解。
算法输出被最大匹配匹配的所有顶点。
考虑每部分有n个顶点的完全二分图，这个图存在完美匹配，因此算法输出每一个顶点，即2n个顶点。
但是最优顶点覆盖仅包含来自一边的n个顶点。
可以看出，算法的下界是紧的。
1.2 旅行售货员问题旅行售货员问题如下：给定一个完全图和一个定义在每条边上的距离函数，找一个长度最小的哈密顿圈。
注意，最小支撑树(MST)是最优解的一个下界。
因为如果有一条途径比MST更短，那么在此途径中删掉一条边，就可以得到更小的支撑树。
第8章_NP完全性理论
13
8.2 P类问题和NP类问题
P类语言与NP类语言：
❖ P={L|L是一个能在多项式时间内被一台DTM所接受的语言} ❖ NP={L|L是一个能在多项式时间内被一台NDTM所接受的语言}
21
8.3 NP完全问题
NP完全问题：
令P1是一个判定问题，如果问题P1属于NP类问题，并 且对NP类问题中的每一个问题P2，在P2∝pP1，则称判 定问题P1是一个NP完全(NP Complete, NPC)问题。
NP类问题
NP完全(NPC) 问题
22
8.3 NP完全问题
对于“NPC问题”的论述：
12
8.2 P类问题和NP类问题
NP(Non-deterministic Polynomial)类问题：
➢ 如对于某个判定问题，存在一个非负整数k，对于输入规模为n的实 例，能以O(nk)的时间运行一个非确定性算法得到是或否的答案。 • 能用非确定算法在多项式时间内求解的判定问题。如哈密尔顿回 路问题。 • NP类问题是难解问题的一个子类。 • NP类问题并不要求给出一个算法来求解问题本身，而只要求给 出一个确定性算法在多项式时间验证它。
➢ 求解配对问题，需要进行三次变换： • 将配对问题的输入X,Y变成排序问题的两个输入I1′, I2′； • 应用算法A对I1′, I2′分别排序，得到两个排序输出O1′, O2′； • 将两个排序输出O1′, O2′转换成配对问题的输出O。 • 以上操作可在多项式时间内完成，因此该变换为多项式时间变换
• STEP3：确定性地检查V’的团性质。若V’是一个团则接受输入，
算法设计与分析课件--NP完全性理论-NP完全问题及近似算法
1
第八章 NP完全性理论
目录
8.1 异解问题和难解问题
8.2 P类问题和NP类问题
8.3
NP完全问题
8.4 NP完全问题的近似算法
2
8.3 NP完全问题
问题变换：
➢ NP类问题在最坏情况下的时间复杂性一般都是快速增长的指数函 数。希望能够在NP类问题内部找到一种方法，比较两个问题的计 算复杂性。
❖该近似算法的相对误差定义为=
cc* c*
。若对问题的输
入规模n，有一函数ε(n)使得 c c* ≤ε(n)，则称ε(n)
c*
为该近似算法的相对误差界。
13
8.4 NP完全问题的近似算法
NPC问题的近似算法示例 - TSP：
➢ 给定一个完全无向图G=(V,E)，其每一条边(u,v)∈E有一非 负整数费用c(u,v)。要找出G的最小费用哈密顿回路。如果 TSP满足三角不等式性质，即对于任意3个顶点u,v,w∈V有 ：c(u,w)≤c(u,v)+c(v,w)，则称该TSP为欧几里得TSP，否 则称为一般TSP。
12
8.4 NP完全问题的近似算法
NPC问题的近似算法的性能：
❖若一个最优化问题的最优值为c*，求解该问题的一个近 似算法求得近似最优解相应的目标函数值为c，则将该近 似近≤似算ρ比法(是n的)问。近题ρ似输(比n入)定为规义1模时为n，的求=一m得a个x的c函c*近, c数c*似 ρ。解(在为n)通最，常优即情解m况a。x 下cc* ,，cc*该
➢ 传递性：设P1、P2和P3是3个判定问题。若P1∝τ(n)P2，且P2∝τ(n)P3 ，则P1∝τ(n)P3。
4
8.3 NP完全问题
多项式时间变换示例：
算法分析与设计课件NP完全问题
17
近似算法的性能
若一个最优化问题的最优值为c*，求解该问题的一个 近似算法求得的近似最优解相应的目标函数值为c，则将 c * c max , 该近似算法的性能比定义为= c 。在通常情况 c* 下，该性能比是问题输入规模n的一个函数ρ(n)，即 c * c max , ≤ρ(n)。 c c* 该近似算法的相对误差定义为= c * 。若对问题 cc* 的输入规模n，有一函数ε(n)使得 c * ≤ε(n)，则称 ε(n)为该近似算法的相对误差界。近似算法的性能比 ρ(n)与相对误差界ε(n)之间显然有如下关系： ε(n)≤ρ(n)-1。
4
这种问题的答案，是无法直接计算得到的，只能通过间 接的“猜算”来得到结果。这也就是非确定性问题。而这些 问题的通常有个算法，它不能直接告诉你答案是什么，但可 以告诉你，某个可能的结果是正确的答案还是错误的。这个 可以告诉你“猜算”的答案正确与否的算法，假如可以在多 项式时间内算出来，就叫做多项式非确定性问题。而如果这 个问题的所有可能答案，都是可以在多项式时间内进行正确 与否的验算的话，就叫完全多项式非确定问题。
2
10
接受该语言CLIQUE的非确定性算法：用非确定性选择指令选 出包含k个顶点的候选顶点子集V，然后确定性地检查该子集是否 是团问题的一个解。算法分为3个阶段： 算法的第一阶段将输入串w#v分解，并计算出n= | w | ，以及 用v表示的整数k。若输入不具有形式w#v或|w|不是一个平方数就 2 拒绝该输入。显而易见，第一阶段可 O ( n ) 在时间内完成。 算法的第三阶段是确定性地检查V’的团性质。若V’是一个团 则接受输入，否则拒绝输入。这显然可以在 O ( n 4 ) 时间内完成。 4 因此，整个算法的时间复杂性为O ( n ) 。
多项式时间算法名词解释
多项式时间算法名词解释
1. 多项式时间算法（Polynomial-time algorithm）：指的是在多
项式时间内能够解决给定问题的算法。
多项式时间指的是算法运行所需时间的上界是一个多项式函数。
2. NP问题（NP problem）：指的是非确定性多项式时间问题，即在多项式时间内可以验证问题的解是否正确。
尽管尚未找到多项式时间算法解决这些问题，但可以通过验证一个给定的解来确定问题是否有解。
3. P问题（P problem）：指的是多项式时间问题，即可以在多项式时间内确定问题的解。
P问题是NP问题的一个子集，即
P问题是可以在多项式时间内验证问题解的问题。
4. NP完全问题（NP-complete problem）：指的是在NP问题
中最难的问题之一。
如果可以在多项式时间内解决一个NP-complete问题，那么可以在多项式时间内解决所有NP问题。
5. NP困难问题（NP-hard problem）：指的是至少和NP-complete问题一样困难的问题。
不同于NP-complete问题，
NP-hard问题可能不是一个NP问题，也可能不是能够在多项
式时间内验证解的问题。
6. 随机多项式时间算法（Randomized polynomial-time algorithm）：指的是在多项式时间内运行，并且利用随机性来提高某些问题的解决效率的算法。
7. 近似算法（Approximation algorithm）：指的是在多项式时
间内给出一个可以接近最优解的解的算法。
近似算法通常用于求解NP问题中的最优解，由于NP问题通常很难找到精确解，所以近似算法提供了一种近似解的方法。
2013计算机算法设计与分析期终考试复习题(1)
V 计算机算法设计与分析复习题一、填空题1、一个算法复杂性的高低体现在计算机运行该算法所需的时间和存储器资源上，因此算法的复杂性有 时间 复杂性和空间复杂性之分。
2、出自于“平衡子问题”的思想，通常分治法在分割原问题，形成若干子问题时，这些子问题的规模都大致 相同 。
3、使用二分搜索算法在n 个有序元素表中搜索一个特定元素，在最佳情况下，搜索的时间复杂性为O （1），在最坏情况下，搜索的时间复杂性为O （ logn ）。
4、已知一个分治算法耗费的计算时间T(n)，T(n)满足如下递归方程：⎩⎨⎧≥+<=22221n n O n T n O n T )()/()()( 解得此递归方可得T(n)= O （ log n n ）。
5、动态规划算法有一个变形方法 备忘录方法 。
这种方法不同于动态规划算法“自底向上”的填充方向，而是“自顶向下”的递归方向，为每个解过的子问题建立了备忘录以备需要时查看，同样也可避免相同子问题的重复求解。
6．递归的二分查找算法在divide 阶段所花的时间是 O(1) ，conquer 阶段所花的时间是 T(n/2) ，算法的时间复杂度是 O( log n) 。
7．Prim 算法利用贪心 策略求解 最小生成树问题，其时间复杂度是 O(n 2) 。
8．背包问题可用 贪心法 ， 回溯法 等策略求解。
9．用动态规划算法计算矩阵连乘问题的最优值所花的时间是 O(n 3) ， 子问题空间大小是 O(n 2) 。
10．图的m 着色问题可用 回溯 法求解，其解空间树中叶子结点个数是m n ，解空间树中每个内结点的孩子数是 m 。
11．单源最短路径问题可用贪心法 、 分支限界 等策略求解。
12、一个算法的优劣可以用（时间复杂度）与（空间复杂度）与来衡量。
13、回溯法在问题的解空间中，按（深度优先方式）从根结点出发搜索解空间树。
14、直接或间接地调用自身的算法称为（递归算法）。
15、θ 记号在算法复杂性的表示法中表示（渐进确界或紧致界）。
数学专业的复杂性理论与算法
数学专业的复杂性理论与算法数学是一门独特而抽象的学科，它探索着世界的奥秘和数学概念的内在联系。
在数学专业中，复杂性理论与算法是一个重要的研究领域，它涉及了计算机科学、信息论和数学自身的交叉研究。
本文将从理论与应用两个方面介绍数学专业的复杂性理论与算法。
一、复杂性理论复杂性理论是数学专业中一门重要的学科，它研究问题的复杂性与可解性。
复杂性理论关注于问题的计算难度以及解决问题所需的计算资源。
具体而言，复杂性理论主要研究以下几个方面：1. 多项式时间复杂性理论多项式时间复杂性理论是复杂性理论的一个重要分支，研究的是问题的计算复杂度。
它通过使用多项式时间的算法来描述问题的可解性。
在多项式时间复杂性理论中，有著名的P与NP问题，即判断问题的结果是否能在多项式时间内验证。
这是目前计算机科学中最重要和最困难的问题之一。
2. NP完全性理论NP完全性理论是复杂性理论中的一个核心概念，它是指一个问题既属于NP问题集合，又属于最困难的问题集合。
如果一个问题是NP完全的，那么它的计算复杂度将是指数级的，不太可能在多项式时间内解决。
例如，旅行商问题和背包问题就是NP完全问题的典型例子，它们在实际应用中具有重要的意义。
3. 复杂性分类体系复杂性分类体系是复杂性理论的一个核心内容，它用来对问题的复杂性进行分类与描述。
复杂性分类体系通过研究不同类型问题之间的关系，以及问题在不同资源限制下的可解性，来划分问题的复杂性等级。
常见的分类体系包括时间复杂性分类体系、空间复杂性分类体系以及非确定性复杂性分类体系等。
二、复杂性算法复杂性算法是应用于解决复杂性问题的一种计算方法。
它通过设计高效的算法来解决问题，并尽量减少计算资源的消耗。
复杂性算法主要有以下几个方面的研究：1. 近似算法近似算法是一种灵活的算法设计方法，它通过在限制时间内找到一个有限的解，来逼近最优解。
近似算法的设计目标是在可接受的误差范围内，尽可能快速地得到问题的解。
例如，旅行商问题的近似算法能够有效地求解近似最优的旅行路径，效果在实际应用中被广泛验证。
计算机算法的发展历程
计算机算法的发展历程可以追溯到计算机科学的起源。
以下是计算机算法的主要发展阶段：
早期计算机时期（1940年代-1950年代）：
空间换时间：早期计算机算法主要关注如何通过优化内存使用来提高计算效率，例如使用查表法和存储计算结果等方式。
简单算法时期（1950年代-1960年代）：
排序算法：经典的排序算法如冒泡排序、插入排序和选择排序等被提出和研究。
图算法：最短路径算法（如Dijkstra算法）和最小生成树算法（如Prim和Kruskal算法）等开始被提出。
算法复杂性理论的出现（1960年代-1970年代）：
计算复杂性理论的发展：计算机科学家开始研究算法的复杂性和可解性，提出了时间复杂性和空间复杂性的概念，如大O表示法。
NP完全性理论的提出：Cook和Levin等人提出了NP完全性的概念，对于一类问题的解决方案具有特定的复杂性。
高效算法的兴起（1980年代-1990年代）：
分治法和动态规划：高效算法设计范式如分治法和动态规划在此时兴起，提出了快速排序、归并排序和背包问题等经典算法。
图算法的发展：图算法的研究进一步深入，如最大流算法（如Ford-Fulkerson算法）和图着色算法等。
近似算法和随机化算法（2000年代至今）：
近似算法：为了解决NP难问题，近似算法的研究进一步发展，提出了一系列可以在多项式时间内获得近似解的算法。
随机化算法：引入随机性的算法开始受到重视，如随机快速排序和随机化算法在算法设计中得到广泛应用。
计算机算法的发展一直在不断演进，从早期的简单算法到复杂问题的近似解决方案，以及涉及大规模数据处理和机器学习的算法设计，算法的研究和发展始终是计算机科学的重要领域。
np算法 的近似算法
np算法的近似算法
近似算法是一种用于解决NP难问题的方法，它可以在有限时
间内找到一个近似最优解。
在计算复杂性理论中，一个问题被称为NP问题，如果给定一
个解，可以在多项式时间内验证该解的正确性。
然而，找到一个最优解可能需要指数时间，因此，这些问题被认为是非常困难的。
为了解决这些问题，近似算法提出了一种近似最优解的方法。
近似算法的基本思想是在可接受的时间内找到一个近似最优解，该解与真正的最优解之间存在可控制的差距。
近似算法的性能通常通过近似比或逼近比来度量。
近似比是一个常数，它描述了近似解与最优解之间的差异程度，而逼近比则是一个函数，它描述了近似解质量与输入规模之间的关系。
近似算法的设计和分析是一个活跃的研究领域，有许多经典的近似算法已经被提出。
其中一些方法包括贪婪算法、局部搜索算法、随机化算法和近似固定参数算法等。
这些算法通常基于一些启发式策略，以在有限时间内找到一个好的解。
尽管这些方法不能保证找到最优解，但它们通常能够找到一个近似最优解，这在实际应用中已经被证明是非常有用的。
近似算法与复杂性
▪ P问题与NP问题的定义
1.P问题是指能够在多项式时间内解决的问题，即问题复杂度 随着输入规模的增长而以多项式速度增长。 2.NP问题是指能够在多项式时间内验证答案是否正确的问题， 即给定一个解，能够在多项式时间内判断这个解是否正确。 3.P问题与NP问题的区别在于是否有确定性的算法能够在多项 式时间内找到问题的答案。
1.近似算法的误差来源主要包括问题的复杂性、算法的设计和实现、以及输入数据 的不确定性。 2.问题的复杂性可能导致无法找到精确的最优解，因此需要采用近似算法。 3.算法的设计和实现可能会影响其性能，因此需要进行详细的误差分析。
▪ 误差的度量方法
1.误差的度量方法需要根据问题的特性和目标函数来选择。 2.常见的误差度量方法包括绝对误差、相对误差、均方误差等。 3.对于不同的问题和算法，需要选择合适的误差度量方法来评估其性能。
▪ 背包问题
1.背包问题是要求在给定物品中选取一部分，使得总体积不超 过背包容量，同时价值最大化。 2.0-1背包问题是NP完全的，可以通过规约到子集和问题进行 证明。 3.背包问题在实际应用中如货物运输、资源分配等具有重要意 义。
NP完全问题的证明与实例
布尔可满足性问题（SAT）
1.布尔可满足性问题是要判断给定的布尔表达式是否存在满足 赋值。 2.SAT是NP完全的，可以通过规约到3-SAT问题进行证明。 3.SAT在电路设计、人工智能等领域有广泛应用。
▪ 复杂性理论与计算机科学
1.计算机科学为复杂性理论提供了有效的工具和手段，如计算 机模拟、数据分析等。 2.复杂性理论在计算机科学中也有广泛应用，如算法设计、优 化问题、网络分析等。 3.计算机科学与复杂性理论的相互促进，推动了两个领域的发 展。
复杂性理论的基本概念
NP完备性——精选推荐
NP完备性1.NP完全在计算复杂度理论的世界中，NPC问题是NP（⾮决定性多项式时间）中最难的决定性问题。
因此NP完备问题应该是最不可能被化简为P（多项式时间可决定）的决定性问题的集合。
许多⼈推测P与NPC没有交集。
理由是因若任何NPC问题得到多项式时间的解法，那此解法就可应⽤在所有NP问题上。
更详细的定义容下叙述。
⼀个NPC问题的例⼦是⼦集合加总问题，题⽬为给予⼀个有限数量的整数集合，找出任何⼀个此集合的⾮空⼦集且此⼦集内整数和为零。
意即:I是⼀个包括若⼲整数的集合，找出任⼀I′∈I且∑ I′ = 0这个问题的答案⾮常容易验证，但没有任何⼀个够快的⽅法可以在合理的时间内（意即多项式时间）找到答案。
只能⼀个个将它的⼦集取出来⼀⼀测试，它的时间复杂度是Ο（2n），n是此集合的元素数量。
NPC的正式定义假设P≠ NP的复杂度类的图解。
若P = NP则三类别相同。
⼀个决定性问题C若是为NPC，则代表它对NP是完备的，这表⽰:它是⼀个NP问题，且它是⼀个NP-困难问题，意即其他属于NP的问题可变换（reducible）成它。
可变换在此意指对每个问题L，总有⼀个多项式时间多对⼀变换，即⼀个决定性的算法可以将实例l∈ L 转化成实例c∈ C，并让c回答Yes当且仅当此答案对l也是Yes。
为了证明某个NP问题A实际上是NPC问题，证明者必须找出⼀个已知的NPC问题可以变换成A。
本定义的得到⼀个结论，就是若上述的C有⼀个多项式时间可解的算法，则我们可以将所有的NP问题降到P之中。
这个定义是史提芬?古克[1]所提出。
虽然NPC这个词并没有出现在这篇论⽂上任何地⽅。
在这个资讯科学会议上，资讯科学家激动地讨论NPC问题是否可以在⼀个确定型图灵机上以多项式时间求解。
John Hopcroft总结与会众⼈的共识，认为由于没有⼈能对某⼀命题提出驳倒对⽅的证明，此问题不会于现在解决。
此命题就是知名的P和NP相等吗?。
尚未有⼈能提出证明，说明NPC问题是否能在多项式时间中解决，使得此问题成为著名的数学中未解决的问题。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
NP
poly-time
CIRCUIT-SAT
定理 CircuitSAT是NP完全的。
8/21/2013 算法设计与分析-NP完全性与近似算法 19
NPC问题的证明方法
• 引理 如果L是一个语言，对某个语言 L'∈NPC ，使得L' ≤ P L ，则L是NP难的。而 且，如果有L∈NP ，则L∈NPC。 • 证明：因为L'是NP完全的，对任意的L"∈ NP ，我们有L" ≤ P L'，按照假设有L ' ≤ P L ， 这样按照传递性，我们有L" ≤ P L ，这表明L 是NP难的。如果L∈NP ，则由NP完全的定 义，可知L∈ NPC，故所证成立。
•Exact algorithms / Global optimization •Heuristic algorithms / Local optimization •Approximation algorithms •Randomized algorithms •Linear programming algorithms
Partition
BinPacking
StripPacking
8/21/2013
算法设计与分析-NP完全性与近似算法
22
顶点覆盖问题
输入: 无向图G=(V, E) 输出: CV, 满足 (1) (u, v)E, uC或者vC (2) C是满足条件(1)的最小集合。 判定问题：VERTEX-COVER={<G, k>: 图G 具有规模为k的顶点覆盖}
8/21/2013 算法设计与分析-NP完全性与近似算法 9
P、NP、NP-hard、NPC
• 复杂类NP • 定义 复杂类NP指的是一类能够被多项式时 间验证算法所验证语言的集合。 • 一个语言L属于NP当且仅当存在有两个输入 的多项式时间算法A和常数c，使得 L = {x∈{0, 1}* : there exists a certificate y with |y| = O(|x|c) such that A(x, y) = 1}. • 意思是说，算法A在多项式时间内验证了语 言L。
16
电路可满足性问题 Circuit satisfiability
布尔电路是一个无环的有向图，图中每个顶点对应一个逻辑门，它对应简单的布 尔函数，例如NOT、AND 和OR。逻辑门的入边是其相应布尔函数的输入，如果 入边的起点没有连接到一个逻辑门，则该入边为布尔电路的输入。逻辑门的出边 是其相应布尔函数的输出，如果一个输出的终点不再连接到一个逻辑门，则它称 为整个布尔电路的输出。 Inputs:
8/21/2013 算法设计与分析-NP完全性与近似算法 27
近似算法-基本思想
• 近似算法的基本思想
– 很多实际应用中问题都是NP-完全问题 – NP-完全问题的多项式算法是难以得到的 – 求解NP-完全问题的方法:
• 如果问题的输入很小, 可以使用指数级算法圆满地 解决该问题 • 否则使用多项式算法求解问题的近似优化解
8/21/2013
算法设计与分析-NP完全性与近似算法
20
NPC问题的证明方法
• 证明一个语言L属于NP完全的证明方法：
– 首先证明L∈NP ； – 最后证明是NP难的，其证明过程如下： a)首先选择一个已知属于NP完全的语言L'； b)设计一个计算函数f的算法，能将L'的每个实例 x∈{0, 1}*映射到L的实例f(x) ； c)证明上述转换函数f满足，对任意的x∈{0, 1}*， x∈ L'当且仅当有f (x)∈ L ； d)证明计算函数f的算法是多项式时间算法。
算法设计与分析
讲授内容：NP完全性与近似算法 教 师：胡学钢、吴共庆
2013年8月21日
纲要
• • • • • • • • • 判定问题与最优化问题 多项式时间归约 利用多项式时间归约分析问题的复杂性 P、NP、NP-hard、NPC 电路可满足性问题 NPC问题的证明方法 顶点覆盖问题 处理NP-hard问题 近似算法
8/21/2013 算法设计与分析-NP完全性与近似算法 21
NPC问题的证明方法
CircuitSAT SAT 3-CNF-SAT
Clique
GraphColoring
VertexCover
SetCover
TSP
HamCycle
SubsetSum
Knapsack
ParallelScheduling
25
处理NP难问题
8/21/2013
算法设计与分析-NP完全性与近似算法
26
处理NP难问题
I couldn’t find a polynomial-time algorithm, because no such algorithm exists! I can only make use of :
8/21/2013 算法设计与分析-NP完全性与近似算法 15
P、NP、NP-hard、NPC
• 定理 如果任何一个NPC问题多项式时间可 解，则P=NP。等价地，如果NP中的任何问 题没有多项式时间求解算法，则没有NPC问 题是多项式时间可解的。
NP NPC NP-hard
P
8/21/2013
算法设计与分析-NP完全性与近似算法
yes, f(x)∈ L2 x f (x) yes, x∈ L1
F
A1
A2
no, f (x) ∉L2 no, x ∉L1
8/21/2013
算法设计与分析-NP完全性与近似算法
14
P、NP、NP-hard、NPC
• 多项式时间归约提供了一种证明一个问题至少与 另一个问题一样难的形式化方法 • 定义 给定语言L {0, 1}* ， L是NP完全的（NPcomplete）当且仅当 • (1) L ∈NP； • (2) 对于所有L' ∈NP，有L' ≤ P L 。 • 如果有一个语言L满足上述性质(2)，但不一定满 足性质(1)，则称该语言L是NP难的（NP-hard）。 并记NPC表示所有NP完全语言构成的语言类。 NPC是NP中最难的问题。
算法设计与分析-NP完全性与近似算法 2
8/21/2013
举例
• 容易的和困难的问题
– – – 最短简单路径vs.最长简单路径问题 欧拉回路vs.汉密尔顿回路 2-SAT问题vs. 3-SAT问题等
8/21/2013
算法设计与分析-NP完全性与近似算法
3
判定问题与最优化问题
• 最优化问题 问题的每个可行解都对应一个目标函数值，求解这类问题的 目的是希望得到一个有最优目标函数值的可行解 • 判定问题 回答是否存在一个满足问题要求的解，即解只是简单的回答 “是(1)”或“否(0)”。 • 最优化问题与它相应的判定问题具有密切的联系，通过限界 最优化问题要优化的目标函数值，通常可以把一个最优化问 题转化为一个判定问题。 • 例如，最短路径问题的目标是找一条从u到v的最短路径，优 化的目标函数值是路径的边数。则相应的判定问题(Path)可 以描述为：给定一个有向图G，顶点u和v，以及整数k，问图 中从u到v是否存在一条最多k条边的路径。
8/21/2013 算法设计与分析-NP完全性与近似算法 10
P、NP、NP-hard、NPC
• P = NP ? /millennium/ • Solved???!!!!
•$1,000,000 offered by Clay Mathematical Institute
Logic Gates: NOT 0 OR 1 AND
8/21/2013 算法设计与分析-NP完全性与近似算法 17
0 1
1
0 1 1 Output: 1
1
0
0
1
电路可满足性问题
引理 CircuitSAT属于NP
Inputs: Logic Gates: NOT 0 OR 1 AND 0 0 1 1 0 1 1 0 1 1 Output: 1
8/21/2013
算法设计与分析-NP完全性与近似算法
13
P、NP、NP-hard、NPC
引理 如果语言L1, L2∈{0,1}*使得L1 ≤P L2 ，且L2∈ P ，则L1∈ P 证明：令A2是判定L2的多项式时间算法，令A是计算从L1到L2约简函数f的多项式 时间约简算法，为了证明该引理，只需构造一个能够判定L1的多项式时间算法A1 即可。
8/21/2013
算法设计与分析-NP完全性与近似算法
11
P、NP、NP-hard、NPC
P = NP?
8/21/2013 算法设计与分析-NP完全性与近似算法 12
P、NP、NP-hard、NPC
•
下图描述了将一个语言多项式时间归约到语言的例子。归约函数f提供了一个 多项式时间映射使得如果x∈ L1 ，则f(x)∈ L2 。而且如果x ∉ L1 ，则f (x) ∉L2 。 这样约简函数f将由语言L1表示的判定问题的任何实例x映射到由L2表示的判定 问题的一个实例f(x)。因而，是否f(x)∈ L2的答案提供了是否x∈ L1的答案。 {0, 1}* f {0, 1}*
8/21/2013
算法设计与分析-NP完全性与近似算法
18
电路可满足性问题
• 引理 CircuitSAT是NP难的。 • 证明：令L是NP中的任何一个语言，我们将描述一个 多项式时间算法F ，它计算约简函数f。对于每个二 进制串x，f能够将其映射到一个组合电路，即C = f (x) ， 使得x∈ L当且仅当C∈ CircuitSAT 。 L
8/21/2013 算法设计与分析-NP完全性与近似算法 8
P、NP、NP-hard、NPC
• 定义验证算法A为带两个参数的算法。一个参数是 给定的输入串x（即输入实例），另一个参数是一 个证书y（即解）。如果存在一个证书y，使得 A(x,y) = 1 ，则说算法A验证了输入串x。因此，我 们可以定义能够被算法A所验证的语言 L={x∈{0,1}*:there exists y∈{0,1}* such that A(x, y)=1}. • 直观地说，如果对任何的串x，存在证书y，能够 用该证书证明x ∈ L，而且，对任何x ∉ L，没有 证书能够证明x∈L ，则说算法验证了语言。