第3章对偶理论

第3章 对偶理论

§3.1 线性规划的对偶理论

3.1.1 对偶问题的表述

对称形式的对偶：

（L ） cx min (D) wb max

s.t. b Ax ≥ s.t. c wA ≤

0≥x 0≥w

其中c 为n 维行向量，A 为n m ⨯矩阵，b 为m 维列向量，x 表示n 维列向量，w 表示m 维行向量。

称(D)为线性规划(L)的对偶规划问题。

定理1 (L)与(D)互为对偶规划问题。――（对合性）

例 设原问题 对偶问题

, 12 5 s.t.min 21212121≥≥-≥+-x x x x x x x x 0

, 1

2 1

s.t.5 max 2121212

1≥-≤-≤++w w w w w w w w 非对称形式的对偶：

（LP ） cx min (DP) wb max

s.t. b Ax = s.t. c wA ≤ 0≥x

例 设原问题 对偶问题

,, 523 4 s.t.345min 321321321321≥=++=++++x x x x x x x x x x x x 3

4

2 5

3 s.t.5

4 max 2121212

1≤+≤+≤++w w w w w w w w 一般线性规划问题：

可化为上述二者之一讨论其对偶问题，也可直接写出对偶问题，详细的对应法则见教材（陈宝林）124页。

直接写出对偶的弊端之一是对偶最优解不易确定，而对称形式和非对称形式对偶的最优解都可由原问题的单纯形乘子确定出来。

3.1.2 对偶定理(强对偶定理和弱对偶定理)

定理2 (弱对偶定理)：设x 和w 分别是

（L ） cx min 和 (D) wb max

s.t. b Ax ≥ s.t. c wA ≤

0≥x 0≥w

的可行解，则有下列不等式成立：

b w x

c ≥

证明：由于b x A ≥和0≥w ，则有b w x A w ≥。 由于A w c ≥和0≥x ，则有x A w x c ≥。 因此有b w x c ≥

推论 1 设x 和w 分别是(L)和(D)的可行解，且有b w x c =，则x 和w 分别是(L)和(D)的最优解。

推论2 如果(L)的目标函数在可行集上无下界，则对偶规划(D)无可行解。

推论3 如果(D)的目标函数在可行集上无上界，则原始规划(L)无可行解。

定理3 (强对偶定理)：如果互为对偶规划的两个问题之一有最优解，则另一个问题也有最优解，并且二者的目标值相等。

证明：设原问题（L ）存在最优解，引进松弛变量，写成等价形式：

s.t. min ≥≥=-v x b

v Ax cx

（1）

由于（1）存在最优解，因此可以用单纯形方法求出它的一个最优基本可行解，不妨设该最优解是⎥⎦

⎤⎢⎣⎡=v x y ，相应的最优基是B 。此时所有判别数均非正，即

j c p w j j ∀≤- ,0 （2）

1-=B c w B 为单纯形乘子。

考虑所有原来变量（不包括松弛变量）在基B 下的判别数，把它们所满足的条件（2）用矩阵形式写出：

0≤-c A w 或 c A w ≤ （3）

把所有松弛变量在基B 下的判别数所满足的条件（2）用矩阵形式写出：

0)(≤-I w 或 0≥w （4）

由（3）和（4）可知，w 是对偶问题（D ）的可行解。

由于非基变量的取值为0，以及目标函数中松弛变量的系数为0，因此有

x c y c b B c b w B B B ===-1

根据定理2的推论1，w 是对偶问题（D ）的最优解，且原问题和对偶问题目标函数最优值相等。

类似地可以证明，如果对偶问题存在最优解，则原问题也存在最优解，并且二者的目标值相等。

注：也可用凸集分离定理证明该结论。但运用单纯形法证明该定理属于构造性证明，也适用于求解对偶问题。

3.1.3 互补松弛定理

利用对偶定理可以证明原问题和对偶问题的最优解满足重要的互补松弛性质。

对于互为对偶的一对线性规划问题，已知一个问题的最优解时，可以利用互补松弛定理求出另一个问题的最优解。

定理4 (对称形式的互补松弛定理)：设x 和w 分别是(L)和(D)的可行解，则二者分别为最优解的充分必要条件是：

0)( ,0)(=-=-x c A w b x A w

用i A 表示矩阵A 的第i 行，用j p 表示矩阵A 的第j 列。

推论1 设x 和w 分别是(L)和(D)的可行解，则二者分别为最优解的充分必要条件是： (i) 对n j ,,1Λ=，若0>j x ，就有j j c p w =；若j j c p w <，就有0=j x 。 (ii) 对m i ,,1Λ=，若0>i w ，就有i i b x A =；若i i b x A >，就有0=i w 。

推论2 设x 是(L)的最优解，则w 是(D)的最优解的充要条件是：

(i) 对n j ,,1Λ=，若0>j x ，就有j j c p w =；

(ii) 对m i ,,1Λ=，若i i b x A >，就有0=i w 。

推论3 设w 是(D)的最优解，则x 是(L)的最优解的充要条件是：

(i) 对n j ,,1Λ=，若j j c p w <，就有0=j x ;

(ii) 对m i ,,1Λ=，若0>i w ，就有i i b x A =。

例： 设原问题 对偶问题

,, 2

32 1

3 s.t.32 min 3213213213

21≥≥-+≥+-++x x x x x x x x x x x x 0

, 13 32 2 3 s.t.2 max 2121212121≥≤-≤+-≤++w w w w w w w w w w 设用图解法求得对偶问题的最优解为 )7

11,71(),(21==w w w 则可用互补松弛定理求原问题的最优解。 由于在最优解w 处，对偶问题的第3个约束成立严格不等式，因此原问题第3个变量03=x 。 又由于w 的两个分量均大于0，因此在原问题中前两个约束在最优解处成立等式，即

⎩⎨⎧=-+=+-2

3213321321x x x x x x 把03=x 代入上述方程组，可解得741=x ，7

52=x 。 原问题的最优解为T x x x x )0,7

5

,74(),,(321==。 §3.2 非线性规划的对偶理论

3.2.1 非线性规划的Lagrange 对偶问题的表述

非线性规划的对偶理论不像线性规划的对偶理论简单漂亮。

可以通过多种不同的方式来构造非线性规划对偶问题，如基于Lagrange 函数，凸函数的共轭函数及K-T 最优性条件等。