对偶线性规划

0 1 1 1 1
y2=1
M x6 0 0 1 M 0
0 0 1
M 0
5/2 3/2 3/2 3/2 -M-3/2
3 1 2
1 -M+1
1 3 2 3 -M3
y3=3
原问题最优解：x1=14, x2=0, x3=-4, x4=8, x5=0, x6=0, OBJ=46
15
Cj
18
16
10
0
0
M
CB
am2 ym
c2
a1n y1 a2n y2 amn ym cn
y1, y2 , , ym 0
对偶问题习惯写为 : min g(Y ) bTY T
ATY T C T s.t.
Y 0
5
2.1.2 (max,)标准型的对偶变换
• 目标函数由 max 型变为 min 型 • 对应原问题每个约束行有一个对偶变量 yi，i=1,2,…,m • 对偶问题约束为 型，有 n 行 • 原问题的价值系数 C 变换为对偶问题的右端项 • 原问题的右端项 b 变换为对偶问题的价值系数 • 原问题的技术系数矩阵 A 转置后成为对偶问题的技术
第二章 线性规划的对偶理论及其应用
窗含西岭千秋雪，门泊东吴万里船 对偶是一种普遍现象
2.1 线性规划的对偶理论
2.1.1 线性规划原问题与对偶问题的表达形式
• 任何线性规划问题都有其对偶问题
• 对偶问题有其明显的经济含义
例 2.1.1
max f ( x) x1 2x2 3x3 4x4
x1 2x2 2x3 3x4 25 s.t. 2x1 x2 3x3 2x4 15
• 由于原问题和对偶问题是相互对偶的，因此对偶问题的 检验数与原问题的解也有类似上述关系。
• 更一般地讲，不管原问题是否标准，在最优解的单纯型 表中，都有原问题虚变量(松弛或剩余) 的检验数对应其 对偶问题实变量 (对偶变量)的最优解，原问题实变量(决 策变量) 的检验数对应其对偶问题虚变量 (松弛或剩余变 量)的最优解。因此，原问题或对偶问题只需要求解其 中之一就可以了。
x1, x2 , x3, x4 0
A 资源 B资源
假设有商人要向厂方购买资源A和B，问他们谈判原料 价格的模型是怎样的？
2
例2.1.1
– 设A、B资源的出售价格分别为 y1 和 y2 – 显然商人希望总的收购价越小越好
– 工厂希望出售资源后所得不应比生产产品所得少
max f (x) x1 2x2 3x3 4x4
a11 a12
A
a21 am1
a22 am2
a1n
a2n
amn
4
2.1.1 线性规划原问题与对偶问题的表达形式
把对偶问题展开
min g( y) b1 y1 b2 y2 bm ym
a11 y1 a21 y2 am1 ym c1
s.t.
a12 y1 a22 y2
1 确定出变量 – 找非可行解中最小者，即 min{ bi | bi<0}，设第 i*行的最负，则 i*行称为主行，该行对应的基变量为出变量，xi*'
2 确定入变量 – 最大比例原则
max j
c
j ai*
z
j
j
ai* j 0
(2.3.1)
– 设 j* 列满足(2.3.1)式， j* 列称为主列，xj* 为出变量 3 以主元 ai*j* 为中心迭代 4 检查当前基础解是否为可行解
cj - zj
x4
1
x'3
3
x2
7
OBJ=
39
cj - zj
x4
4
x1
6
x2
4
OBJ=
42
cj - zj
x4
8
x1
14
x"3
4
OBJ=
46
cj - zj
对偶问题最优解：
5 x1 1 2 1 M 5+M
1/3 2/3 1/3 4-M/3 1+M/3
1/2 (1/2) 1/2 9/2 1/2
0 1 0 5 0
f(X0)=CX0= CBB1 b 故由最优解判别定理可知Y0 为对偶问题的最优解。证毕。
– 该定理的证明告诉我们一个非常重要的概念：对偶变 量的最优解等于原问题松弛变量的机会成本。
– 即对偶变量的最优解是原问题资源的影子价格
11
2.2.4 互补松弛定理
定理 设X0, Y0分别是原问题和对偶问题的可行解，U0为原 问题的松弛变量的值、V0为对偶问题剩余变量的值。 X0, Y0分别是原问题和对偶问题最优解的充分必要 条件是 Y0 U0 + V0 X0 = 0
s.t.
2x1x12
x2 x2
2 x3 3x3
3x4 2x4
25 15
A 资源 B资源
x1, x2 , x3, x4 0
目标函数 min g(y)=25y1+15y2
y1 2 y2 1 产品1的所得
s.t.
2 y1 y2 2 2 y1 3y2 3
产品 2 的所得 产品 3的所得
16
2.3 对偶单纯型算法
2.3.1 基本思路
• 原单纯型迭代要求每步都是基础可行解 b=B1b0 • 达到最优解时，检验数 cj–zj 0 (max) 或 cj–zj 0 (min) • 但对于(min, )型所加的剩余变量无法构成初始基础可
行解，因此通过加人工变量来解决
• 大M法和二阶段法较繁
0 1 0
6 0
0 1 0
6 0
1 2 (1)
7 1
0 0 1
6 0
0 x4 1 0 0 0 0
1 0 0 0 0
1 0 0 0 0
1 0 0 0 0
1 0 0 0 0
y1=0
0 x5 0 1 0 0 0
1/3 1/3 1/3 2+M/3 -2-M/3
1/2 1/2 1/2 3/2 3/2
1 1 1 2 2
0 1 0 5 0
y4=0
3 x2 2 1 1 M 3+M
5/3 1/3 (2/3) 2-2M/3 1+2M/3
0 0 1 3 0
0 0 1 3 0
1 2 1 4 1
y5=1
6 x'3 1 (3) 1 M 6+M
0 1 0 6 0
0 1 0 6 0
1 2 1 7 1
0 0 1 6 0
y6=0
-6 x"3 1 3 1 M -6-M
3y1 2 y2 4 产品 4 的所得
y1, y2 0
3
2.1.1 线性规划原问题与对偶问题的表达形式
原问题 : max f (x) CX
AX b
s.t.
X
0
对偶问题 :
min g( y) Yb
s.t.
YA C
Y
0
上两式中
X ( x1, x2 , , xn )T Y ( y1, y2 , , ym ) C (c1, c2 , , cn ) b (b1,b2 , ,bm )T
系数矩阵矩阵 • 原问题与对偶问题互为对偶
– 对偶问题可能比原问题容易求解 – 对偶问题还有很多理论和实际应用的意义
6
2.1.3 非标准型的对偶变换
例2.1.2 原线性规划问题
max f (x) 4x1 5x2
s.t.
3x1 2x2 20 4x1 3x2 10
x1 x2 5
x2 不限, x1 0
8
-14
0
0
0 M-10
16
y2
1
0
1
0
1
0
1
0
y5
1
-3
0
0
-2
1
-1
10
y3
3
1
0
1
-3
0
-2
OBJ= 46
10
16
10 -14
0
-4
cj - zj
8
0
0
14
0 M4
原问题最优解： x4=8 x5=0 x6=0 x1=14 x2=0 x3=4
对偶问题最优解：y1=0, y2=1, y3=3, y4=0, y5=1, y6=0, OBJ=46
v0j x0j 0 j 1,2, ,n
yi0ui0 0 i 1,2, ,m
12
2.2.5 原问题检验数与对偶问题的解
• 在主对偶定理的证明中我们有：对偶(min型)变量的最优 解等于原问题松弛变量的机会成本，或者说原问题松弛 变量检验数的绝对值
• 容易证明，对偶问题最优解的剩余变量解值等于原问题 对应变量的检验数的绝对值
化为(max, )型标准问题
max f ( x) 4x1 5x2 5x2
3x1 2x2 2x2 20
s.t.
4 x1
3x2 3x2 x1 x2 x2
10 5
x1 x2 x2 5
x1, x2 , x2 0
令 y1 w1, y2 w2, y3 w3 w4 经整理得 :
应用标准型对偶变换规 则 min h(w) 20w1 10w2 5w3 5w4
min g( y) 20 y1 10 y2 5y3
3y1 4 y2 y3 4
s.t.
2
y1
3y2
y3
w4
5
y1 0, y2 0, y3 不限
3w1 4w2 w3 w4 4
s.t.
2w1 3w2 w3 w4 5 2w1 3w2 w3 w4 5
YB
b
y1
y2
y3
y4
y5
y6
0
y4
-5
-1
-2
-1
1
0
0
0
y5
-3
-2
-1
-1
0
1
0
M
y6
6
1
3
(1)
0
0
1
OBJ= 6M
M
3M
M
0
0
M
cj - zj 18-M 16-3M 10-M 0
0
0
0
y4
1
0
(1)
0
1
0
1
0
y5
3
-1
2
0
0
1
1
10
y3
6
1
3
1
0
0
1
OBJ= 60
10
30
10
0
0
10
cj - zj
y1 2 y2 y3 5
s.t.
2 y1 y2 y3 3
y1
3y2
y3
6
y1, y2 0, y3 不限
14
CB 0 0 M
0 6 M
0 6 3
0 5 3
0 5 6
Cj
XB
b
x4
18
x5
16
x6
10
OBJ=
10M
cj - zj
x4
38/3
x'3
16/3
x6
14/3
OBJ= 32-14M/3
证：由定理所设，可知有
A X0 + U0 = b X0, U0 0
(1)
Y0 A V0 = C Y0, V0 0
(2)
分别以Y0左乘(1)式，以X0右乘(2)式后，两式相减，得
Y0 U0 + V0 X0 = Y0 b C X0
若 Y0 U0 + V0 X0 = 0，根据最优解判别定理， X0, Y0分别 是原问题和对偶问题最优解。反之亦然。 证毕。
13
例2.2.3 原问题检验数与对偶问题的解
原问题 : max f (x) 5x1 3x2 6x3
x1 2x2 x3 18
s.t.
Fra Baidu bibliotek
2x1 x2 3x3 16
x1 x2 x3 10
x1, x2 0, x3 不限
对偶问题 : min g( y) 18 y1 16 y2 10 y3
w1, w2 , w3, w4 70
表2.1.1 对偶变换的规则
原问题(max,)
技术系数矩阵 A
价值系数 C
右端项 b
第 i 行约束条件为 型
第 i 行约束条件为 型
第 i 行约束条件为 = 型
决策变量 xj 0
决策变量 xj 0
决策变量 xj 不限
对偶问题(min,)
技术系数矩阵 AT 右端项 b
标函数值的下限； min问题的任何可行解目标函数值 是其对偶max问题目标函数值的上限 • 如果原max(min)问题为无界解，则其对偶min (max)问 题无可行解 • 如果原max(min)问题有可行解，其对偶min (max)问题 无可行解，则原问题为无界解
9
2.2.2 最优解判别定理
定理 若原问题的某个可行解X0的目标函数值与对偶问题 某个可行解Y0的目标函数值相等，则X0, Y0分别是相 应问题的最优解
• 能否从剩余变量构成的初始基础非可行解出发迭代， 但保证检验数满足最优条件， cj–zj 0 (max) 或 cj– zj 0 (min)
– 每步迭代保持检验数满足最优条件，但减少非可行度 – 如何判断达到最优解 – 如何保证初始基础解满足最优条件 – 为什么叫对偶单纯型法
17
2.3.2 迭代步骤
10
主对偶定理的证明
证：现证明定理的后一句话。
设 X0 为原问题的最优解，它所对应的基矩阵是 B，
X0= B1 b，则其检验数满足 C CBB1A 0
令 Y0= CBB1，则有 Y0 A C。
显然Y0为对偶问题的可行解。因此有对偶问题目标函
数值，
g(Y0)=Y0b= CBB1 b
而原问题最优解的目标函数值为
价值系数 C 对偶变量 yi 0 对偶变量 yi 0 对偶变量 yi 不限 第 j 行约束条件为 型 第 j 行约束条件为 型 第 j 行约束条件为 = 型
• 约束条件的类型与非负条件对偶 • 非标准的约束条件类型对应非正常的非负条件 • 对偶变换是一一对应的
8
弱对偶定理推论 • max问题的任何可行解目标函数值是其对偶min问题目
证：由弱对偶定理推论1，结论是显然的。
即CX0 = Y0b CX, Y0b = CX0 Yb 。
证毕。
2.2.3 主对偶定理
定理 如果原问题和对偶问题都有可行解，则它们都有最 优解，且它们的最优解的目标函数值相等。
证：由弱对偶定理推论1可知，原问题和对偶问题的目标 函数有界，故一定存在最优解。
现证明定理的后一句话。