计算机算法设计与分析 五种常用算法

浅论五个常用算法

软件工程

姓名：余智昆

专业班级：软件102班

日期：2012.2.18

【摘要】随着信息工业的发展，计算机已然成为人们日常生活中不可或缺的工具。目前，

各行业、各领域都广泛采用了计算机信息技术，并由此产生出开发各种应用软件的需求。为了以最少的成本、最快的速度、最好的质量开发出适应各种应用需求的软件，必须遵循软件工程的原则。设计一个高效的程序不仅需要编程小技巧，更需要合理的数据组织和清晰高效的算法，这正是计算机科学领域数据结构与算法设计所研究的主要内容。通过对计算机算法系统的学习与研究，掌握算法设计的主要方法，培养对算法的计算复杂性正确分析的能力，为独立设计算法和对算法进行复杂性分析奠定了坚实的理论基础。

在计算机语言中，算法的概念是至关重要的，一个优秀的软件，设计出有效的算法将起决定性的作用。本篇论文将对五种常用算法概括总结，希望能够对算法有更深入的理解。

【关键词】递归与分治策略、动态规划、贪心算法、回溯法、分之界限法

【正文】

一、递归与分治策略

A．1.递归：一个直接或间接调用自身的算法称为递归算法。在计算机算法设计与分析中，使用递归技术往往使函数的定义和算法的描述简洁且易于理解。有些数据结构如二叉树等，由于其本身固有的递归特性，特别适合用递归形式来描述。还有一些问题，虽然本身并没有明显的递归结构，但是用递归技术来求解设计出的算法简洁易懂且易于分析。

2.递归算法要求：递归算法所体现的“重复”一般有三个要求

一是每次调用在规模上都有所缩小(通常是减半)；

二是相邻两次重复之间有紧密的联系，前一次要为后一次做准备(通常前一次的输出就作为后一次的输入)；

三是在问题的规模极小时必须用直接给出解答而不再进行递归调用，因而每次递归调用都是有条件的(以规模未达到直接解答的大小为条件)，无条件递归调用将会成为死循环而不能正常结束。

3.递归过程实质：

算法的嵌套调用，只是

调用算法和被调用算法

是同一个算法。和每次

调用相关的一个重要概

念是递归算法的调用层

次。若调用一个递归算

法的主算法为第0层算

法，则主算法调用递归

算法为进入第一层调

用；从第i层递归调用

本算法为进入第i+1层

调用。反之，退出第i

层调用，则返回第i-1

层递归调用。为了保证

递归调用正确执行，系

统要建立一个递归调用

工作栈，为各层次的调

用数据存储区。

4.递归算法的优缺点：结构清晰、可读性强，且容易用数学归纳法证明算法的正确性，

因此它为设计算法、调试程序带来很大的方便。然而，递归算法的运行效率较低，无论是耗费的计算时间还是占用的空间都要比非递归算法要多。因此，我们使用递归算法，必须权衡运行时间与内存这两者的消耗。

B.1.分治策略：对于一个规模为n的问题，若该问题可以容易地解决（比如说规模n较小）则直接解决，否则将其分解为k个规模较小的子问题，这些子问题互相独立且与原问题形式相同，递归地解这些子问题，然后将各子问题的解合并得到原问题的解。这种算法设计策略叫做分治法。

它的一般算法设计模式：

Divid-and-Conquer(p)

{

If(|p|<=n0) Adhoc(p);

Divid P into smaller subinstances

P1,P2,…,Pk;

for(i=1;i<=k;i++)

yi=Divide-and-Conquer(pi);

return Merge(y1,y2,…yk);

}

2.分治法的基本步骤：分治法在每一层递归上都有三个步骤：

分解：将原问题分解为若干个规模较小，相互独立，与原问题形式相同的子问题；

解决：若子问题规模较小而容易被解决则直接解，否则递归地解各个子问题；

合并：将各个子问题的解合并为原问题的解。

3.分治的应用：

分治法所能解决的问题一般具有以下几个特征：

（1）该问题的规模缩小到一定的程度就可以容易地解决；

（2）该问题可以分解为若干个规模较小的相同问题，即该问题具有最优子结构性质；（3）利用该问题分解出的子问题的解可以合并为该问题的解；

（4）该问题所分解出的各个子问题是相互独立的，即子问题之间不包含公共的子子问题。

分治策略在计算机算法中应用还是比较多的，如：二分搜索技术、大整数乘法、Strassen 矩阵乘法、期盼覆盖、合并排序、快速排序、线性时间选择。最接近点问题、循环赛日程表。

二、动态规划

1.基本思想与分治法类似，也是将待求解的问题分解为若干个子问题（阶段），按顺序求解子阶段，前一子问题的解，为后一子问题的求解提供了有用的信息。在求解任一子问题时，列出各种可能的局部解，通过决策保留那些有可能达到最优的局部解，丢弃其他局部解。依次解决各子问题，最后一个子问题就是初始问题的解。由于动态规划解决的问题多数有重叠子问题这个特点，为减少重复计算，对每一个子问题只解一次，将其不同阶段的不同状态保存在一个二维数组中。

与分治法最大的差别是：适合于用动态规划法求解的问题，经分解后得到的子问题往往不是互相独立的（即下一个子阶段的求解是建立在上一个子阶段的解的基础上，进行进一步的求解）。

2.适合解哪类问题：

能采用动态规划求解的问题的一般要具有3个性质：

(1) 最优化原理：如果问题的最优解所包含的子问题的解也是最优的，就称该问题具有最优子结构，即满足最优化原理。

(2) 无后效性：即某阶段状态一旦确定，就不受这个状态以后决策的影响。也就是说，某状态以后的过程不会影响以前的状态，只与当前状态有关。

（3）有重叠子问题：即子问题之间是不独立的，一个子问题在下一阶段决策中可能被多次使用到。（该性质并不是动态规划适用的必要条件，但是如果没有这条性质，动态规划算法同其他算法相比就不具备优势）

3、求解的基本步骤

动态规划所处理的问题是一个多阶段决策问题，一般由初始状态开始，通过对中间阶段决策的选择，达到结束状态。这些决策形成了一个决策序列，同时确定了完成整个过程的一条活动路线(通常是求最优的活动路线)。如图所示。动态规划的

设计都有着一定的模式，一般要经历以下几个步骤。

图1 动态规划决策过程示意图

(1)划分阶段：按照问题的时间或空间特征，把问题分为若干个阶段。在划分阶段时，注意划分后的阶段一定要是有序的或者是可排序的，否则问题就无法求解。

(2)确定状态和状态变量：将问题发展到各个阶段时所处于的各种客观情况用不同的状态表示出来。当然，状态的选择要满足无后效性。

(3)确定决策并写出状态转移方程：因为决策和状态转移有着天然的联系，状态转移就是根据上一阶段的状态和决策来导出本阶段的状态。所以如果确定了决策，状态转移方程也就可写出。但事实上常常是反过来做，根据相邻两个阶段的状态之间的关系来确定决策方法和状态转移方程。

(4)寻找边界条件：给出的状态转移方程是一个递推式，需要一个递推的终止条件或边界条件。

一般，只要解决问题的阶段、状态和状态转移决策确定了，就可以写出状态转移方程（包括边界条件）。

实际应用中可以按以下几个简化的步骤进行设计：

（1）分析最优解的性质，并刻画其结构特征。

（2）递归的定义最优解。

（3）以自底向上或自顶向下的记忆化方式（备忘录法）计算出最优值

（4）根据计算最优值时得到的信息，构造问题的最优解

三、贪心算法

1.概念：用贪婪法设计算法的特点是一步一步地进行，常以当前情况为基础根据某个优化测度作最优选择，而不考虑各种可能的整体情况，它省去了为找最优解要穷尽所有可能而必须耗费的大量时间，它采用自顶向下,以迭代的方法做出相继的贪心选择,每做一次贪心选择就将所求问题简化为一个规模更小的子问题, 通过每一步贪心选择,可得到问题的一个最优解，虽然每一步上都要保证能获得局部最优解，但由此产生的全局解有时不一定是最优的，所以贪婪法不要回溯。

2.贪婪算法可解决的问题通常大部分都有如下的特性:

（1）有一个以最优方式来解决的问题。为了构造问题的解决方案,有一个候选的对象的集合：比如不同面值的硬币。

（2）随着算法的进行,将积累起其它两个集合：一个包含已经被考虑过并被选出的候选对象,另一个包含已经被考虑过但被丢弃的候选对象

（3）有一个函数来检查一个候选对象的集合是否提供了问题的解答。该函数不考虑此时的解决方法是否最优

（4）还有一个函数检查是否一个候选对象的集合是可行的,也即是否可能往该集合上添加更多的候选对象以获得一个解。和上一个函数一样,此时不考虑解决方法的最优性。

（5）选择函数可以指出哪一个剩余的候选对象最有希望构成问题的解。

（6）最后,目标函数给出解的值

3.基本思路

1.建立数学模型来描述问题

2.把求解的问题分成若干个子问题

3.对每一子问题求解，得到子问题的局部最优解

4.把子问题的解局部最优解合成原来解问题的一个解

图2 动态规划与贪心算法的异同点

四、回溯法

1.概念：回溯法(探索与回溯法)是一种选优搜索法，按选优条件向前搜索，以达到目标。但当探索到某一步时，发现原先选择并不优或达不到目标，就退回一步重新选择，这种走不通就退回再走的技术为回溯法，而满足回溯条件的某个状状态的点称为“回溯点”。

2. 用回溯法解题的一般步骤

（1）针对所给问题，定义问题的解空间

（2）确定易于搜索的解空间结构

（3）以深度优先方式搜索解空间，并在搜索过程中用剪枝函数避免无效搜索

3.回溯法的一般流程和技术

在用回溯法求解有关问题的过程中，一般是一边建树，一边遍历该树。在回溯法中我们一般采用非递归方法。下面，我们给出回溯法的非递归算法的一般流程：在用回溯法求解问题，也即在遍历状态空间树的过程中，如果采用非递归方法，则我们一般要用到栈的数据结构。这时，不仅可以用栈来表示正在遍历的树的结点，而且可以很方便地表示建立孩子结点和回溯过程。

例如在组合问题中，我们用一个一维数组Stack[ ]表示栈。开始栈空，则表示了树的根结点。如果元素1进栈，则表示建立并遍历（1）结点；这时如果元素2进栈，则表示建立并遍历（1，2）结点；元素3再进栈，则表示建立并遍历（1，2，3）结点。这时可以判断它满足所有约束条件，是问题的一个解，输出（或保存）。这时只要栈顶元素（3）出栈，即表示从结点（1，2，3）回溯到结点（1，2）。

五、分支限界法

1.概念：分支限界法常以广度优先或以最小耗费（最大效益）优先的方式搜索问题的解空间树。在分支限界法中，每一个活结点只有一次机会成为扩展结点。活结点一旦成为扩展结点，就一次性产生其所有儿子结点。在这些儿子结点中，导致不可行解或导致非最优解的儿子结点被舍弃，其余儿子结点被加入活结点表中此后，从活结点表中取下一结点成为当前扩展结点，并重复上述结点扩展过程。这个过程一直持续到找到所需的解或活结点表为空时为止。

2. 分支限界法的设计思路：

设求解最大化问题，解向量为X=(x1,…,xn)，xi的取值范围为Si，|Si|=ri。在使用分支限界搜索问题的解空间树时，先根据限界函数估算目标函数的界[down, up]，然后从根结点出发，扩展根结点的r1个孩子结点，从而构成分量x1的r1种可能的取值

方式。对这r1个孩子结点分别估算可能的目标函数bound(x1)，其含义：以该结点为根的子树所有可能的取值不大于bound(x1)，即：

bound(x1)≥bound(x1,x2)≥…≥ bound(x1,…,xn)

若某孩子结点的目标函数值超出目标函数的下界，则将该孩子结点丢弃；否则，将该孩子结点保存在待处理结点表PT中。再取PT表中目标函数极大值结点作为扩展的根结点，重复上述。直到一个叶子结点时的可行解X=(x1,…,xn)，及目标函数值

图 2 分支限界法与回溯法的不同

总结与感想：

算法是编程的核心部分，一个程序的优劣取决于算法的优劣，通过对以上五种常用算法的分析总结，在面对问题时，我们要综合考虑，想想到底要应用哪种算法。时间复杂度和空间复杂度也是衡量一个算法的的标准。在没有对各种算法分析总结前，我只是想当然的用哪种算法去解决问题，在对各类算法都对比后发现。用不同的算法去解决同一个问题有时候时会有很大的差别的。只有综合考虑各类因素，不断尝试各种办法才能把自己的程序写的越来越完美。

【参考文献】

王晓东.计算机算法设计与分析.电子工业出版社

百度百科