算法设计与分析-第6章 动态规划

（式6.1）
如果用向量X=( x1, x2, …, xn)表示S中所选取的货币，则
1 xi 0
pi S pi S
（式6.2）
那么，POS机支付的现金必须满足
n
xi pi A
（式6.3）
并且
i 1
n
d min xi i 1
（式6.4）
在付款问题中，集合P是该问题的输入，满足式6.1的 解称为可行解，式6.2是解的表现形式，因为向量X中有n个 元素，每个元素的取值为0或1，所以，可以有2n个不同的 向量，所有这些向量的全体构成该问题的解空间，式6.3是 该问题的约束条件，式6.4是该问题的目标函数，使式6.4取 得极小值的解称为该问题的最优解。
最优的; 2. 然后再证明在这个假设下可构造出比原问题最
优解更好的解，从而导致矛盾。
动态规划法设计算法一般分成三个阶段： （1）分段：将原问题分解为若干个相互重叠的子 问题； （2）分析：分析问题是否满足最优性原理，找出 动态规划函数的递推式； （3）求解：利用递推式自底向上计算，实现动态 规划过程。
j j),
wi V (i
1,
j

wi
)

vi}
（式6.12）
j wi
式6.11表明：把前面i个物品装入容量为0的背包和把0个 物品装入容量为j的背包，得到的价值均为0。式6.12的第一 个式子表明：如果第i个物品的重量大于背包的容量，则装 入前i个物品得到的最大价值和装入前i-1个物品得到的最大 价值是相同的，即物品i不能装入背包；第二个式子表明： 如果第i个物品的重量小于背包的容量，则会有以下两种情 况：（1）如果把第i个物品装入背包，则背包中物品的价值 等于把前i-1个物品装入容量为j-wi的背包中的价值加上第i 个物品的价值vi；（2）如果第i个物品没有装入背包，则背 包中物品的价值就等于把前i-1个物品装入容量为j的背包中 所取得的价值。显然，取二者中价值较大者作为把前i个物 品装入容量为j的背包中的最优解。

n
wi xi C
i 1
xi {0,1} (1 i n)
n
max vi xi
i 1
（式6.9）
（式6.10）
于是，问题归结为寻找一个满足约束条件式6.9，并使目标 函数式6.10达到最大的解向量X=(x1, x2, …, xn)。
证明0/1背包问题满足最优性原理。
总共有五种完全加括号的方式：
(A((BC)D)) 16000 (A(B(CD))) 10500 ((AB)(CD)) 36000 (((AB)C)D) 87500 ((A(BC))D) 34500
22
穷举搜索法
穷举法：列举出所有可能的计算次序，并计算出每一种 计算次序相应需要的数乘次数，从中找出一种数乘次数 最少的计算次序。
动态规划法利用问题的最优性原理，以自底向 上的方式从子问题的最优解逐步构造出整个问题 的最优解。
0/1背包问题
在0/1背包问题中，物品i或者被装入背包，或者不被 装入背包，设xi表示物品i装入背包的情况，则当xi=0时， 表示物品i没有被装入背包，xi=1时，表示物品i被装入背 包。根据问题的要求，有如下约束条件和目标函数：
例2 矩阵连乘问题
给定n个矩阵{A1,A2,...,An}，其中Ai与Ai+1是可乘的， i=1,2,...,n-1。确定一种连乘的顺序，使得矩阵连乘 的计算量为最小。
设 A 和 B 分 别 是 p×q 和 q×r 的 两 个 矩 阵 ， 则 乘 积 C=AB为p×r的矩阵，计算量为pqr次数乘(Why?)。
for (j=1; j<=C; j++) if (j<w[i])
算法6.3——0/1背包问题
V[i][j]=V[i-1][j]; else
V[i][j]=max(V[i-1][j], V[i-1][j-w[i]]+v[i]); j=C; //求装入背包的物品 for (i=n; i>0; i--) { if (V[i][j]>V[i-1][j]) { x[i]=1; j=j-w[i]; } else x[i]=0;
算法复杂度分析：
对于n个矩阵的连乘积，设不同的计算次序的数目为P(n)。
由于每种加括号方式都可分解为两个子矩阵的加括号问 题：(A1...Ak)(Ak+1…An)，可以得到关于P(n)的递推式如下：

1
n 1
P

n



n k
1 1
P

k

P

n

k

n 1

矩阵Ak和Ak+1之间将矩阵链断开，i≤k<j，则其相应 完全加括号方式为（AiAi+1... Ak）（Ak+1 Ak+2... Aj ）。 计算量：
由于矩阵乘法满足结合律，所以计算矩阵的连乘可 以有许多不同的计算次序。但是不同的顺序的总计 算量将会有很大的差别，对于多于2个以上的矩阵连 乘，连乘的顺序却非常重要。
21
不同计算顺序的差别
设有四个矩阵A, B, C, D，它们的维数分别是： A=50×10，B=10×40，C=40×30，D=30×5
算法6.3——0/1背包问题
int KnapSack(int n, int w[ ], int v[ ]) { for (i=0; i<=n; i++) //初始化第0列
V[i][0]=0; for (j=0; j<=C; j++) //初始化第0行 V[0][j]=0; for (i=1; i<=n; i++) //计算第i行，进行第i次迭代
0/1背包问题可以看作是决策一个序列(x1, x2, …, xn)，对任 一变量xi的决策是决定xi=1还是xi=0。在对xi-1决策后，已确定了 (x1, …, xi-1)，在决策xi时，问题处于下列两种状态之一：
（1）背包容量不足以装入物品i，则xi=0，背包不增加价值；
（2）背包容量可以装入物品i，则xi=1，背包的价值增加了vi。
算法设计与分析
主讲人：李广丽
1
第6章 动态规划
(Dynamic Programming)
2
例1 多起点多终点的最短路径问题
3
4
6.1 最优化问题
最优化问题：有n个输入，它的解由这n个输入 的一个子集组成，这个子集必须满足某些事先给定 的条件，这些条件称为约束条件，满足约束条件的 解称为问题的可行解。满足约束条件的可行解可能 不只一个，为了衡量这些可行解的优劣，事先给出 一定的标准，这些标准通常以函数的形式给出，这 些标准函数称为目标函数，使目标函数取得极值（ 极大或极小）的可行解称为最优解，这类问题就称 为最优化问题。
动态规划法的求解过程
原问题
子问题1
子问题2 ……
子问题n
填表 原问题的解
用动态规划法求解的问题具有特征： 能够分解为相互重叠的若干子问题； 满足最优性原理（也称最优子结构性质）：该
问题的最优解中也包含着其子问题的最优解。
（用反证法）分析问题是否满足最优性原理： 1. 先假设由问题的最优解导出的子问题的解不是
例如，有5个物品，其重量分别是{2, 2, 6, 5, 4}，价值分别 为{6, 3, 50, 4, 6}，背包的容量为10。
根据动态规划函数，用一个(n+1)×(C+1)的二维表V， V[i][j]表示把前i个物品装入容量为j的背包中获得的最大价值。
0 1 2 3 4 5 6 7 8 9 10
000000000000
0
V (i, j) V (i 1, j)
xi 1, j j wi V (i, j) V (i 1, j) （式6.13）
设n个物品的重量存储在数组w[n]中，价值存储在数组 v[n]中，背包容量为C，数组V[n+1][C+1]存放迭代结果， 其中V[i][j]表示前i个物品装入容量为பைடு நூலகம்的背包中获得的最大 价值，数组x[n]存储装入背包的物品，动态规划法求解0/1 背包问题的算法如下：
S2
Pn
Sn-1
Sn
多阶段决策过程
6.1.3 动态规划法的设计思想
动态规划法将待求解问题分解成若干个相互重 叠的子问题，每个子问题对应决策过程的一个阶段 ，一般来说，子问题的重叠关系表现在对给定问题 求解的递推关系（也就是动态规划函数）中，将子 问题的解求解一次并填入表中，当需要再次求解此 子问题时，可以通过查表获得该子问题的解而不用 再次求解，从而避免了大量重复计算。
例：付款问题（找零问题）： 超市的自动柜员机（POS机）要找给顾客数量最少的现金。
假 定 POS 机 中 有 n 张 面 值 为 pi(1≤i≤n) 的 货 币 ， 用 集 合 P={p1, p2, …, pn}表示，如果POS机需支付的现金为A，那么 ，它必须从P中选取一个最小子集S，使得
m
pi S , pi A (m | S |) i 1
n
n
n
vi yi vi xi w1x1 wi yi C
i2
i2
i2
因此，
n
n
n
v1x1 vi yi v1x1 vi xi vi xi
i2
i2
i 1
这说明(x1, y2, …, yn)是所给0/1背包问题比(x1, x2, …, xn)更优的 解，从而导致矛盾。
x5=1
w5=4 v5=6 5 0 0 6 6 9 9 12 12 15 15 15
按下述方法来划分阶段：第一阶段，只装入前1个物品
，确定在各种情况下的背包能够得到的最大价值；第二阶段 ，只装入前2个物品，确定在各种情况下的背包能够得到的 最大价值；依此类推，直到第n个阶段。最后，V(n,C)便是在 容量为C的背包中装入n个物品时取得的最大价值。为了确定 装入背包的具体物品，从V(n,C)的值向前推，如果 V(n,C)>V(n-1,C)，表明第n个物品被装入背包，前n-1个物品 被装入容量为C-wn的背包中；否则，第n个物品没有被装入 背包，前n-1个物品被装入容量为C的背包中。依此类推，直 到确定第1个物品是否被装入背包中为止。由此，得到如下 函数：
这两种情况下背包价值的最大者应该是对xi决策后的背包 价值。令V(i, j)表示在前i(1≤i≤n)个物品中能够装入容量为j（ 1≤j≤C）的背包中的物品的最大值，则可以得到如下动态规划 函数：
V(i, 0)= V(0, j)=0
（式6.11）
V
(i,
j)

V (i 1, j) max{V (i 1,
} return V[n][C]; //返回背包取得的最大价值 }
在算法6.3中，第一个for循环的时间性能是O(n)，第二 个for循环的时间性能是O(C)，第三个循环是两层嵌套的for 循环，其时间性能是O(n×C)，第四个for循环的时间性能 是O(n)，所以，算法6.3的时间复杂性为O(n×C)。
P n C n 1，其中，C n
n
1
1

2n n



4n / n3/2
也就是说，P(n)是随n的增长呈指数增长的。
23
动态规划法——1.分析最优解的结构
下面我们考虑用动态规划法求解。 预备：
将矩阵连乘积AiAi+1...Aj简记为A[i:j]，这里i≤j。 考察计算A[i:j]的最优计算次序。设这个计算次序在
设(x1, x2, …, xn)是所给0/1背包问题的一个最优解，则( x2, …, xn)是下面一个子问题的最优解：


n
wi xi C w1x1
i2
xi {0,1} (2 i n)
n
max vi xi i2
如若不然，设(y2, …, yn)是上述子问题的一个最优解，则
6.1.2 最优性原理
对于一个具有n个输入的最优化问题，其求解
过程往往可以划分为若干个阶段，每一阶段的决策 仅依赖于前一阶段的状态，由决策所采取的动作使 状态发生转移，成为下一阶段决策的依据。从而， 一个决策序列在不断变化的状态中产生。这个决策 序列产生的过程称为多阶段决策过程。
S0 P1
P2 S1
x1=1
w1=2 v1=6 1 0 0 6 6 6 6 6 6 6 6 6
x2=1
w2=2 v2=3 2 0 0 6 6 9 9 9 9 9 9 9
x3=0
w3=6 v3=5 3 0 0 6 6 9 9 9 9 11 11 14
x4=0
w4=5 v4=4 4 0 0 6 6 9 9 9 10 11 13 14