《算法设计与分析》第05讲

上海海洋大学信息学院 8/30/2010
动态规划法的实质也是将较大问题分解为较小的 动态规划法的实质也是将较大问题分解为较小的 同类子问题， 这一点上它与分治法和贪心法类似。 同类子问题 ， 这一点上它与分治法和贪心法类似 。 但动态规划法有自己的特点。 但动态规划法有自己的特点 。 分治法的子问题相 互独立， 相同的子问题被重复计算， 互独立 ， 相同的子问题被重复计算 ， 动态规划法 解决这种子问题重叠现象 种子问题重叠现象。 解决这 种子问题重叠现象 。 贪心法要求针对问题 设计最优量度标准， 但这在很多情况下并不容易。 设计最优量度标准 ， 但这在很多情况下并不容易 。 动态规划法利用最优子结构， 动态规划法利用最优子结构 ， 自底向上从子问题 的最优解逐步构造出整个问题的最优解， 的最优解逐步构造出整个问题的最优解 ， 动态规 划则可以处理不具备贪心准则的问题。 划则可以处理不具备贪心准则的问题。
上海海洋大学信息学院 8/30/2010
动态规划法求解
最优子结构 0/1背包的最优解具有最优子结构特性。设 (x0, 背包的最优解具有最优子结构特性。 背包的最优解具有最优子结构特性 x1,… , xn－1)，xi∈{0,1}是0/1背包的最优解，那么， 背包的最优解， 是 背包的最优解 那么， － ， (x1 ,x2,… , xn－1) 必然是 背包子问题的最优解：背 背包子问题的最优解： － 必然是0/1背包子问题的最优解 包载重M 共有n-1件物品 件物品， i件物品的重量 包载重Mw0x0，共有n-1件物品，第i件物品的重量 效益p 为 wi，效益 i，wi>0，pi>0，1≤i<n。 ， ， ≤ 。
上海海洋大学信息学院 8/30/2010
动态规划的基本要素
一个最优化多步决策问题适合用动态规划法求 解有两个要素：最优子结构特性和重叠子问题。 解有两个要素：最优子结构特性和重叠子问题。
上海海洋大学信息学院 8/30/2010
5.2 最短路径
上海海洋大学信息学院 8/30/2010
多段图问题
例 多段图G=(V,E)是一个带权有向图，它具有如下特性： 是一个带权有向图， 多段图 是一个带权有向图 它具有如下特性： 图中的结点被划分成k≥ 个互不相交的子集 个互不相交的子集V 图中的结点被划分成 ≥2个互不相交的子集 i， 分别只有一个结点， 1≤i≤k。其中 1和Vk分别只有一个结点，V1包含源点 ≤ ≤ 。其中V （source）s，Vk包含汇点（sink）t。对所有边 ） ， 包含汇点（ ）。 <u,v>∈E，多段图要求若 ∈Vi，则v∈Vi＋1，1≤i<k， ∈ ，多段图要求若u∈ ∈ ＋ ≤ ， 每条边的权值为c(u,v)。从s到t的路径长度是这条路 每条边的权值为 。 到 的路径长度是这条路 径上边的权值之和，多段图问题（ 径上边的权值之和，多段图问题（multistage graph problem）是求从s到t的一条长度最短的路径。 ）是求从 到 的一条长度最短的路径。 的一条长度最短的路径
上海海洋大学信息学院 8/30/2010
弗洛伊德算法 template<class T> void MGraph<T>::Floyd(T**& d, int **& path) { int i,j,k; d= new T*[n];path=new int *[n]; for(i=0;i<n;i++){ d[i]=new T [n];path[i]=new int[n]; for (j=0;j<n;j++){ d[i][j]=a[i][j]; if (i!=j && w[i][j]<INFTY) path[i][j]=i; else path[i][j]=-1; } }
上海海洋大学信息学院 8/30/2010
问题描述
问题
已知一个载重为M的背包和n件物品， 已知一个载重为M的背包和n件物品，物品编号从 如果将第i 0 到 n-1 。第 i 件物品的重量为 wi ，如果将第 i 种物 品装入背包将获益p 这里， i<n。 品装入背包将获益 pi ， 这里 ， wi>0 ， pi>0 ， 0≤i<n 。 所谓0 背包问题是指在物品不能分割， 所谓0/1背包问题是指在物品不能分割，只能整件 装入背包或不装入的情况下， 装入背包或不装入的情况下 ， 求一种最佳装载方 案使得总收益最大。 案使得总收益最大。
重叠子问题：为了计算d [i][j]时 重叠子问题：为了计算dk[i][j]时，必须先计算 dk－1[i][j]、dk－1[i][k]和dk－1[k][j]，dk1的元素被 [i][j]、 [i][k]和 [k][j]， 多个d 的元素的计算共享。 多个dk的元素的计算共享。
上海海洋大学信息学院 8/30/2010
上海海洋大学信息学院 8/30/2010
最优解的递推关系
若< i , j >∈E w( i , j ) d1 [ i ][ j ] = 若< i , j >E ∞ dk [ i ][ j ] = min{ dk1 [ i ][ j ], dk1 [ i ][ k ] + dk1 [ k ][ j ] , 1 ≤ k ≤ n 1
上海海洋大学信息学院 8/30/2010
上海海洋大学信息学院 8/30/2010
上海海洋大学信息学院 8/30/2010
上海海洋大学信息学院 8/30/2010
每对结点间的最短路径问题描述
G=(V,E)是一个有 个结点的带权有向图， 是一个有n 设G=(V,E)是一个有n个结点的带权有向图，w(i,j) 是权函数， 是权函数，
上海海洋大学信息学院 8/30/2010
上海海洋大学信息学院 8/30/2010
算法正确性
定理 弗洛伊德算法得到的d[i][j]， 0≤i,j≤n-1是从 到 j的 是从i到 的 弗洛伊德算法得到的 ， ≤ ≤ 是从 最短路径。 最短路径。
上海海洋大学信息学院 8/30/2010
5.3 0/1背包问题 0/1背包问题
上海海洋大学信息学院 8/30/2010
递归式
∞ f ( 1, X ) = 0 X <0 X ≥0
f ( j , X ) = max{ f ( j 1, X ), f(j 1, X wj ) + pj } 0 ≤ j < n
例 设 有 0/1 背 包 问 题 n=3 ， （ w0,w1,w2 ） = （ 2,3,4 ） ， （p0,p1,p2）=（1,2,4）和M=6。 （ ） 。
弗洛伊德算法
弗洛伊德算法的基本思想是： 弗洛伊德算法的基本思想是 ： 令 k=0,1,L,n-1， 每 L ， 次考察一个结点k。二维数组d用于保存各条最短路 次考察一个结点 。二维数组 用于保存各条最短路 径的长度，其中， 存放从结点i到结点 径的长度，其中，d[i][j]存放从结点 到结点 的最短 存放从结点 到结点j的最短 路径的长度。在算法的第k步上应作出决策 步上应作出决策： 到 路径的长度。在算法的第 步上应作出决策：从i到j 的最短路径上是否包含结点k。 的最短路径上是否包含结点 。
上海海洋大学信息学院 8/30/2010
for (k=0;k<n;k++) for (i=0;i<n;i++) for (j=0;j<n;j++) if (d[i][k]+d[k][j] < d[i][j] ){ d[i][j]=d[i][k]+d[k][j]; path[i][j]=path[k][j]; } }弗洛伊德算法的时间复杂度为O(n3) 弗洛伊德算法的时间复杂度为O(n 弗洛伊德算法的时间复杂度为
上海海洋大学信息学院 8/30/2010
设计动态规划算法
设计一个动态规划算法， 设计一个动态规划算法，通常可以按以下几个步 骤进行： 骤进行： 刻画最优解的结构特性； （1）刻画最优解的结构特性； 递归定义最优解值； （2）递归定义最优解值； 以自底向上方式计算最优解值； （3）以自底向上方式计算最优解值； 根据计算得到的信息构造一个最优解。 （4）根据计算得到的信息构造一个最优解。 其中， 其中，第（1）至（3）步是动态规划算法的基本 步骤。最优解值是最优解的目标函数的值。 步骤。最优解值是最优解的目标函数的值。上海海来自大学信息学院 8/30/2010
动态规划的基本思想
假若各个子问题不是独立的， 假若各个子问题不是独立的，不同的子问题的个 数只是多项式量级， 数只是多项式量级，假若能够保存已经解决的子问 题的答案，而在需要的时候再找出已求得的答案， 题的答案，而在需要的时候再找出已求得的答案， 这样就可以避免大量的重复计算 避免大量的重复计算。 这样就可以避免大量的重复计算。 由此而来的基本思路是， 由此而来的基本思路是，用一个表来记录所有已 解决的子问题的答案，不管该问题以后是否被用到， 解决的子问题的答案，不管该问题以后是否被用到， 只要它被计算过，就会将其结果填入表中。 只要它被计算过，就会将其结果填入表中。
上海海洋大学信息学院 8/30/2010
什么是动态规划
动态规划（ 动态规划（dynamic programming）是运筹学的一 programming） 个分支，是求解决策过程（ process） 个分支，是求解决策过程（decision process）最优 化的数学方法。 化的数学方法。 20世纪50年代初美国数学家R.E.Bellman等人在研 20世纪50年代初美国数学家R.E.Bellman等人在研 世纪50年代初美国数学家R.E.Bellman 究多阶段决策过程（ process） 究多阶段决策过程（multistep decision process）的 优化问题时，提出了著名的最优化原理（ 优化问题时，提出了著名的最优化原理（principle of optimality），把多阶段过程转化为一系列单阶段 optimality）， ），把多阶段过程转化为一系列单阶段 过程优化问题的 问题，逐个求解，创立了解决这类过程优化问题的 问题，逐个求解，创立了解决这类过程优化问题 新方法——动态规划。 新方法——动态规划。 动态规划