(算法分析设计)第2章递归与分治策略
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
分解(divide)：将原问题分解为一系列子问题； 递归求解(conquer)：递归求解各个子问题。若
子问题足够小，则直接求解。 合并(merge)：将子问题结果合并成原问题的解
说明：某些问题不需要合并，比如二分搜索 问题
分治法的设计模式
|P|：问题P的规模；
adhoc：分治法中的基本子运 算
表示以塔座b为辅助塔座，将塔座ａ 上自下而上，由大到小叠在一起的 ｎ-1个圆盘按规则移至塔座ｃ上并 按同样顺序叠放。
将塔座a上的圆盘移动 到塔座b上去
Hanoi塔问题的复杂性分析
ｎ=1
移动次数Ｔ（１）＝１
ｎ＝２
移动次数Ｔ（２）＝３
ｎ＝３
移动次数Ｔ（３）＝７
ｎ＝４
移动次数Ｔ（４）＝１５
yi= divide-and-conquer(Pi);
return merge(y1,y2,…,ya);
}
分治法的分割原则
分治法的分割原则
实践表明：将一个问题划分成数据规模大小相 等的a个子问题的处理方法行之有效；
分治法的计算效率分析
分治法的计算效率分析
通常用递归方程来进行分析 分治法将规模为n的问题分成a个规模为n/b的子
ü 分解出的子问题的解可以合并为原问题的解；
ü 分解出的各个子问题是相互独立的。
分析：如比果较nx和=1a即的只中有间一元个素元a[素m，id]则，只若要x=比a[m较i这d]，个则元x素在和L中x就的 可位以置确就定是xm是id否；在如表果中x<。a[因mi此d]，这由个于问a题是满递足增分排治序法的的，第因一此个假适 用如条x在件a中的话，x必然排在a[mid]的前面，所以我们只要在 a分[m析id]：的很前显面然查此找问x即题可分；解如出果的x子>a问[i]题，相同互理独我立们，只即要在在aa[[im]的id前] 的面后或面后查面找查x找即x可是。独无立论的是子在问前题面，还因是此后满面足查分找治x法，的其第方四法个都适 和用在条a件中。查找x一样，只不过是查找的规模缩小了。这就说明 了此问题满足分治法的第二个和第三个适用条件。
以四个盘子为例
移动N个圆盘的过程包括:
2次移动N-1个圆盘的过程 1次移动1个圆盘的过程
void hanoi(int n, int a, int b, int c) { if (n > 0) { hanoi(n-1, a, c, b); move(a,b); hanoi(n-1, c, b, a); } }
逐个地扫描数组a中每个元素，直到找到x 为止。
在含有n个元素的线性表中查找一个元素在最 坏情况下都需要进行n次比较，其时间复杂度 为O(n)。
利用分治法求解此问题,求解过程是：
将n个元素分成个数大致相等彼此独立的两半 部分，即a[n/2]的前面或后面两个子问题；
将第n/2位置的元素与x进行比较，如果相等， 则找到x，算法结束。如果x>a[n/2],则在数组a 的后半部分继续搜索x；如果x<a[n/2],则在数组 a的前半部分继续搜索x。
2 M=3时，类似的可以推出
2 2 2
n
M=4时，A(n,4)的增长速度非常快，以至于没有适当的数学式 子来表示这一函数。
2.1 递归的概念
例3 Ackerman函数 定义单变量的Ackerman函数A(n)为，A(n)=A(n，
n)。 定义其拟逆函数α(n)为：α(n)=min{k｜A(k)≥n}。
logb n1
T(n) nlogb a
aj f (n / bj )
j0
g(n) 函数
g(n)函数
T(n)
aT(n
O(1) / b)
f
(n)
n 1 n 1
logb n1
T(n) nlogb a
aj f (n / bj )
g(n) 函数
j0
T(n)函数
主方法(详见《算法导论》)
根据这两项对结果的影响不 同，分成三种情况讨论
二分搜索技术 大整数的乘法 Strassen矩阵乘法 合并排序 快速排序 线性时间选择
二分搜索技术
二分搜索技术
给定已按升序排好序的n个元素a[0:n-1]，现要在这n个元素中找 出一特定元素x。 分析：ü 该问题的规模缩小到一定的程度就可以容易地解决；
ü 该问题可以分解为若干个规模较小的相同问题;
能因这否为条利问特用题征分的是涉治计应及算用法到复分完杂治全性法取一的决般前效于是提率问随，题着它如是问也果否题是各具规大子有模多问这的数题条增问是特加题不征， 如而可独果增以立具加满的备，足了因的则前此，分大此两治部特法条分征要特问反做征题映许，满了多而足递不这归必具个思要备特想的第征的工三。应作条用，特重征复，地则 可解以公考共虑的贪子问心题算，法此或时动虽态然规也划可。用分治法，但一般 用动态规划较好。
divide-and-conquer(P) {
if(|P|<=n0) adhoc(P);
n0：阀值
如果问题P的规模不超过n0，说明 问题已经容易求解，不要再继续 分解。利用adhoc(P)直接求解。
divide P into smaller subinstances P1,P2,…,Pa;
for(i=1,i<=a,i++)
二分搜索技术
给定已按升序排好序的n个元素a[0:n-1]，现要在这n个元素中找 出一特定元素x。
据此容易设计出二分搜索算法：
template<class Type>
int BinarySearch(Type a[], const Type& x, int l, int r)
{
while (r >= l){ int m = (l+r)/2; if (x == a[m]) return m; if (x < a[m]) r = m-1; else l = m+1; }
第2章 递归与分治策略
学习要点:
• 理解递归的概念。 • 掌握设计有效算法的分治策略。 • 通过下面的范例学习分治策略设计技巧。 （1）二分搜索技术； （2）大整数乘法； （3）Strassen矩阵乘法； （4）合并排序 （5）快速排序； （6）线性时间选择；
算法总体思想
n 对将这要k求个解子的问较题大分规别模求的解问。题如分果割子成问k题个的更规小模规仍模然的不子够问 小题，。则再划分为k个子问题，如此递归的进行下去，直 到问题规模足够小，很容易求出其解为止。
问题
设分解阈值n0=1，且adhoc解规模为1的问题耗费1个 单位时间
设将原问题分解为a个子问题以及用merge将a个子问 题的解合并为原问题解需要使用f(n)个单位时间。
用T(n)表示该分治法divide-and-merge(P)解规模为 |P|=n的问题所需要的计算时间
O(1)
n 1
T(n) aT(n / b) f (n) n 1
return -1; }
算法复杂度分析：
每执行一次算法的while循环， 待搜 索数组的大小减少一半。因此，在 最坏情况下，while循环被执行了 O(logn) 次。循环体内运算需要O(1) 时间，因此整个算法在最坏情况下
后两种方法在时空复杂度上均有较大改善， 但其适用范围有限。
分治法的基本思想
分治法的基本思想
将一个规模为n的问题分解为a个规模较小的子 问题，这些子问题互相独立并且与原问题相同。 通过递归地求解这些子问题，然后再将各个子问 题的解合并，就可以实现对原问题的求解。
分治法的求解过程
分治法的求解过程
当ｎ＝Ｎ时
移动次数Ｔ（Ｎ）＝？
＝２１－１ ＝２２－１ ＝２３－１ ＝２４－１ ＝２Ｎ－１
递归小结
优点：结构清晰，可读性强，而且容易用 数学归纳法来证明算法的正确性，因此它 为设计算法、调试程序带来很大方便。
缺点：递归算法的运行效率较低，无论是 耗费的计算时间还是占用的存储空间都比 非递归算法要多。
T(n)
=n
T(n/2)
T(n/2)
T(n/2)
T(n/2)
2.1 递归的概念
直接或间接地调用自身的算法称为递归算法。 用函数自身给出定义的函数称为递归函数。
由分治法产生的子问题往往是原问题的较小模 式，这就为使用递归技术提供了方便。在这种 情况下，反复应用分治手段，可以使子问题与 原问题类型一致而其规模却不断缩小，最终使 子问题缩小到很容易直接求出其解。这自然导 致递归过程的产生。
A(1,0) 2
A(0,m) 1
m0
A(n,0) n2
n2
A(n,m)A(A(n1,m),m1) n,m1
2.1 递归的概念
例3 Ackerman函数 前2例中的函数都可以找到相应的非递归方式定义：
n ! 1 2 3 ( n 1 ) n
F(n)1512Fra Baidu bibliotekn1125n1
本例中的Ackerman函数却无法找到非递归的定义。
{
if (n <= 1) return 1;
return fibonacci(n-1)+fibonacci(n-2);
}
n Fibonacci(5)的递归求解过程： n 2*8-1=15
2.1 递归的概念
例3 Ackerman函数 当一个函数及它的一个变量是由函数自身定义时，称这个函数 是双递归函数。 Ackerman函数A(n，m)定义如下：
即α(n)是使n≤A(k)成立的最小的k值。 α(n)在复杂度分析中常遇到。对于通常所见到的正
整数n，有α(n)≤4。但在理论上α(n)没有上界，随 着n的增加，它以难以想象的慢速度趋向正无穷大。
2.1 递归的概念
例4 Hanoi塔问题 设a,b,c是3个塔座。开始时，在塔座a上有一叠共n个圆盘，这 些圆盘自下而上，由大到小地叠在一起。各圆盘从小到大编号 为1,2,…,n,现要求将塔座a上的这一叠圆盘移到塔座b上，并仍 按同样顺序叠置。在移动圆盘时应遵守以下移动规则： 规则1：每次只能移动1个圆盘； 规则2：任何时刻都不允许将较大的圆盘压在较小的圆盘之上； 规则3：在满足移动规则1和2的前提下，可将圆盘移至a,b,c中 任一塔座上。
分治与递归像一对孪生兄弟，经常同时应用。
2.1 递归的概念
例1 阶乘函数 非递归定义：n！=n*(n-1)*(n-2)*…*1 阶乘函数可递归地定义为：
边界条件
1 n0 n!n(n1)! n0
递归方程
边界条件与递归方程是递归函数的二个要素。
n 递归算法：
int recur(int n) { if (n <= 1) return 1; return n*recur(n-1); }
n 求Fibonacci数时有很多重复工作：
递归小结
解决方法：在递归算法中消除递归调用，使其 转化为非递归算法。 1、采用一个用户定义的栈来模拟系统的递归调 用工作栈。该方法通用性强，但本质上还是递 归，只不过人工做了本来由编译器做的事情， 优化效果不明显。 2、用递推来实现递归函数。 3、通过变换能将一些递归转化为尾递归，从而 迭代求出结果。
2.1 递归的概念
例3 Ackerman函数
A(n，m)的自变量m的每一个值都定义了一个单变量函数：
M=0时，A(n,0)=n+2
M=1时，A(n,1)=A(A(n-1,1),0)=A(n-1,1)+2，和A(1,1)=2故 A(n,1)=2*n
M=2时，A(n,2)=A(A(n-1,2),1)=2A(n-1,2)，和 A(1,2)=A(A(0,2),1)=A(1,1)=2，故A(n,2)= 2^n 。
分治法的适用条件
分治法所能解决的问题一般具有以下几个特征：
该问题的规模缩小到一定的程度就可以容易地解决；
该问题可以分解为若干个规模较小的相同问题，即该 问题具有最优子结构性质
利用该问题分解出的子问题的解可以合并为该问题的 解；
该问题所分解出的各个子问题是相互独立的，即子问 题之间不包含公共的子问题。
T ( n ) ( n lo g b a ) O ( n lo g b a ) ( n lo g b a )
T ( n ) ( n l o g b a ) ( n l o g b a l g n ) ( n l o g b a l g n )
T ( n )( n lo g b a )(f( n ) )(f( n ) )
递归出口 递归调用
2.1 递归的概念
例2 Fibonacci数列 无穷数列1，1，2，3，5，8，13，21，34，55，……，称为 Fibonacci数列。它可以递归地定义为：
1
n0
F(n)
1
n1
F(n1)F(n2) n1
边界条件 递归方程
第n个Fibonacci数可递归地计算如下：
int fibonacci(int n)
子问题足够小，则直接求解。 合并(merge)：将子问题结果合并成原问题的解
说明：某些问题不需要合并，比如二分搜索 问题
分治法的设计模式
|P|：问题P的规模；
adhoc：分治法中的基本子运 算
表示以塔座b为辅助塔座，将塔座ａ 上自下而上，由大到小叠在一起的 ｎ-1个圆盘按规则移至塔座ｃ上并 按同样顺序叠放。
将塔座a上的圆盘移动 到塔座b上去
Hanoi塔问题的复杂性分析
ｎ=1
移动次数Ｔ（１）＝１
ｎ＝２
移动次数Ｔ（２）＝３
ｎ＝３
移动次数Ｔ（３）＝７
ｎ＝４
移动次数Ｔ（４）＝１５
yi= divide-and-conquer(Pi);
return merge(y1,y2,…,ya);
}
分治法的分割原则
分治法的分割原则
实践表明：将一个问题划分成数据规模大小相 等的a个子问题的处理方法行之有效；
分治法的计算效率分析
分治法的计算效率分析
通常用递归方程来进行分析 分治法将规模为n的问题分成a个规模为n/b的子
ü 分解出的子问题的解可以合并为原问题的解；
ü 分解出的各个子问题是相互独立的。
分析：如比果较nx和=1a即的只中有间一元个素元a[素m，id]则，只若要x=比a[m较i这d]，个则元x素在和L中x就的 可位以置确就定是xm是id否；在如表果中x<。a[因mi此d]，这由个于问a题是满递足增分排治序法的的，第因一此个假适 用如条x在件a中的话，x必然排在a[mid]的前面，所以我们只要在 a分[m析id]：的很前显面然查此找问x即题可分；解如出果的x子>a问[i]题，相同互理独我立们，只即要在在aa[[im]的id前] 的面后或面后查面找查x找即x可是。独无立论的是子在问前题面，还因是此后满面足查分找治x法，的其第方四法个都适 和用在条a件中。查找x一样，只不过是查找的规模缩小了。这就说明 了此问题满足分治法的第二个和第三个适用条件。
以四个盘子为例
移动N个圆盘的过程包括:
2次移动N-1个圆盘的过程 1次移动1个圆盘的过程
void hanoi(int n, int a, int b, int c) { if (n > 0) { hanoi(n-1, a, c, b); move(a,b); hanoi(n-1, c, b, a); } }
逐个地扫描数组a中每个元素，直到找到x 为止。
在含有n个元素的线性表中查找一个元素在最 坏情况下都需要进行n次比较，其时间复杂度 为O(n)。
利用分治法求解此问题,求解过程是：
将n个元素分成个数大致相等彼此独立的两半 部分，即a[n/2]的前面或后面两个子问题；
将第n/2位置的元素与x进行比较，如果相等， 则找到x，算法结束。如果x>a[n/2],则在数组a 的后半部分继续搜索x；如果x<a[n/2],则在数组 a的前半部分继续搜索x。
2 M=3时，类似的可以推出
2 2 2
n
M=4时，A(n,4)的增长速度非常快，以至于没有适当的数学式 子来表示这一函数。
2.1 递归的概念
例3 Ackerman函数 定义单变量的Ackerman函数A(n)为，A(n)=A(n，
n)。 定义其拟逆函数α(n)为：α(n)=min{k｜A(k)≥n}。
logb n1
T(n) nlogb a
aj f (n / bj )
j0
g(n) 函数
g(n)函数
T(n)
aT(n
O(1) / b)
f
(n)
n 1 n 1
logb n1
T(n) nlogb a
aj f (n / bj )
g(n) 函数
j0
T(n)函数
主方法(详见《算法导论》)
根据这两项对结果的影响不 同，分成三种情况讨论
二分搜索技术 大整数的乘法 Strassen矩阵乘法 合并排序 快速排序 线性时间选择
二分搜索技术
二分搜索技术
给定已按升序排好序的n个元素a[0:n-1]，现要在这n个元素中找 出一特定元素x。 分析：ü 该问题的规模缩小到一定的程度就可以容易地解决；
ü 该问题可以分解为若干个规模较小的相同问题;
能因这否为条利问特用题征分的是涉治计应及算用法到复分完杂治全性法取一的决般前效于是提率问随，题着它如是问也果否题是各具规大子有模多问这的数题条增问是特加题不征， 如而可独果增以立具加满的备，足了因的则前此，分大此两治部特法条分征要特问反做征题映许，满了多而足递不这归必具个思要备特想的第征的工三。应作条用，特重征复，地则 可解以公考共虑的贪子问心题算，法此或时动虽态然规也划可。用分治法，但一般 用动态规划较好。
divide-and-conquer(P) {
if(|P|<=n0) adhoc(P);
n0：阀值
如果问题P的规模不超过n0，说明 问题已经容易求解，不要再继续 分解。利用adhoc(P)直接求解。
divide P into smaller subinstances P1,P2,…,Pa;
for(i=1,i<=a,i++)
二分搜索技术
给定已按升序排好序的n个元素a[0:n-1]，现要在这n个元素中找 出一特定元素x。
据此容易设计出二分搜索算法：
template<class Type>
int BinarySearch(Type a[], const Type& x, int l, int r)
{
while (r >= l){ int m = (l+r)/2; if (x == a[m]) return m; if (x < a[m]) r = m-1; else l = m+1; }
第2章 递归与分治策略
学习要点:
• 理解递归的概念。 • 掌握设计有效算法的分治策略。 • 通过下面的范例学习分治策略设计技巧。 （1）二分搜索技术； （2）大整数乘法； （3）Strassen矩阵乘法； （4）合并排序 （5）快速排序； （6）线性时间选择；
算法总体思想
n 对将这要k求个解子的问较题大分规别模求的解问。题如分果割子成问k题个的更规小模规仍模然的不子够问 小题，。则再划分为k个子问题，如此递归的进行下去，直 到问题规模足够小，很容易求出其解为止。
问题
设分解阈值n0=1，且adhoc解规模为1的问题耗费1个 单位时间
设将原问题分解为a个子问题以及用merge将a个子问 题的解合并为原问题解需要使用f(n)个单位时间。
用T(n)表示该分治法divide-and-merge(P)解规模为 |P|=n的问题所需要的计算时间
O(1)
n 1
T(n) aT(n / b) f (n) n 1
return -1; }
算法复杂度分析：
每执行一次算法的while循环， 待搜 索数组的大小减少一半。因此，在 最坏情况下，while循环被执行了 O(logn) 次。循环体内运算需要O(1) 时间，因此整个算法在最坏情况下
后两种方法在时空复杂度上均有较大改善， 但其适用范围有限。
分治法的基本思想
分治法的基本思想
将一个规模为n的问题分解为a个规模较小的子 问题，这些子问题互相独立并且与原问题相同。 通过递归地求解这些子问题，然后再将各个子问 题的解合并，就可以实现对原问题的求解。
分治法的求解过程
分治法的求解过程
当ｎ＝Ｎ时
移动次数Ｔ（Ｎ）＝？
＝２１－１ ＝２２－１ ＝２３－１ ＝２４－１ ＝２Ｎ－１
递归小结
优点：结构清晰，可读性强，而且容易用 数学归纳法来证明算法的正确性，因此它 为设计算法、调试程序带来很大方便。
缺点：递归算法的运行效率较低，无论是 耗费的计算时间还是占用的存储空间都比 非递归算法要多。
T(n)
=n
T(n/2)
T(n/2)
T(n/2)
T(n/2)
2.1 递归的概念
直接或间接地调用自身的算法称为递归算法。 用函数自身给出定义的函数称为递归函数。
由分治法产生的子问题往往是原问题的较小模 式，这就为使用递归技术提供了方便。在这种 情况下，反复应用分治手段，可以使子问题与 原问题类型一致而其规模却不断缩小，最终使 子问题缩小到很容易直接求出其解。这自然导 致递归过程的产生。
A(1,0) 2
A(0,m) 1
m0
A(n,0) n2
n2
A(n,m)A(A(n1,m),m1) n,m1
2.1 递归的概念
例3 Ackerman函数 前2例中的函数都可以找到相应的非递归方式定义：
n ! 1 2 3 ( n 1 ) n
F(n)1512Fra Baidu bibliotekn1125n1
本例中的Ackerman函数却无法找到非递归的定义。
{
if (n <= 1) return 1;
return fibonacci(n-1)+fibonacci(n-2);
}
n Fibonacci(5)的递归求解过程： n 2*8-1=15
2.1 递归的概念
例3 Ackerman函数 当一个函数及它的一个变量是由函数自身定义时，称这个函数 是双递归函数。 Ackerman函数A(n，m)定义如下：
即α(n)是使n≤A(k)成立的最小的k值。 α(n)在复杂度分析中常遇到。对于通常所见到的正
整数n，有α(n)≤4。但在理论上α(n)没有上界，随 着n的增加，它以难以想象的慢速度趋向正无穷大。
2.1 递归的概念
例4 Hanoi塔问题 设a,b,c是3个塔座。开始时，在塔座a上有一叠共n个圆盘，这 些圆盘自下而上，由大到小地叠在一起。各圆盘从小到大编号 为1,2,…,n,现要求将塔座a上的这一叠圆盘移到塔座b上，并仍 按同样顺序叠置。在移动圆盘时应遵守以下移动规则： 规则1：每次只能移动1个圆盘； 规则2：任何时刻都不允许将较大的圆盘压在较小的圆盘之上； 规则3：在满足移动规则1和2的前提下，可将圆盘移至a,b,c中 任一塔座上。
分治与递归像一对孪生兄弟，经常同时应用。
2.1 递归的概念
例1 阶乘函数 非递归定义：n！=n*(n-1)*(n-2)*…*1 阶乘函数可递归地定义为：
边界条件
1 n0 n!n(n1)! n0
递归方程
边界条件与递归方程是递归函数的二个要素。
n 递归算法：
int recur(int n) { if (n <= 1) return 1; return n*recur(n-1); }
n 求Fibonacci数时有很多重复工作：
递归小结
解决方法：在递归算法中消除递归调用，使其 转化为非递归算法。 1、采用一个用户定义的栈来模拟系统的递归调 用工作栈。该方法通用性强，但本质上还是递 归，只不过人工做了本来由编译器做的事情， 优化效果不明显。 2、用递推来实现递归函数。 3、通过变换能将一些递归转化为尾递归，从而 迭代求出结果。
2.1 递归的概念
例3 Ackerman函数
A(n，m)的自变量m的每一个值都定义了一个单变量函数：
M=0时，A(n,0)=n+2
M=1时，A(n,1)=A(A(n-1,1),0)=A(n-1,1)+2，和A(1,1)=2故 A(n,1)=2*n
M=2时，A(n,2)=A(A(n-1,2),1)=2A(n-1,2)，和 A(1,2)=A(A(0,2),1)=A(1,1)=2，故A(n,2)= 2^n 。
分治法的适用条件
分治法所能解决的问题一般具有以下几个特征：
该问题的规模缩小到一定的程度就可以容易地解决；
该问题可以分解为若干个规模较小的相同问题，即该 问题具有最优子结构性质
利用该问题分解出的子问题的解可以合并为该问题的 解；
该问题所分解出的各个子问题是相互独立的，即子问 题之间不包含公共的子问题。
T ( n ) ( n lo g b a ) O ( n lo g b a ) ( n lo g b a )
T ( n ) ( n l o g b a ) ( n l o g b a l g n ) ( n l o g b a l g n )
T ( n )( n lo g b a )(f( n ) )(f( n ) )
递归出口 递归调用
2.1 递归的概念
例2 Fibonacci数列 无穷数列1，1，2，3，5，8，13，21，34，55，……，称为 Fibonacci数列。它可以递归地定义为：
1
n0
F(n)
1
n1
F(n1)F(n2) n1
边界条件 递归方程
第n个Fibonacci数可递归地计算如下：
int fibonacci(int n)