第2章 对偶理论
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
原始问题的变量 原始问题的松弛变量
x1
xj
xn
xn+1 xn+i xn+m
y1
yi
ym
ym+1
ym+j
yn+m
对偶问题的变量
对偶问题的剩余变量 j=1,2,…,n)
ym+jxj0=0，yi0xn+i=0 (i=1,2,…,m;
在一对变量中，其中一个大于0，另一个一定等于0
互补松弛性的应用
例：已知下述 LP 问题的对偶问题的最优解 为 y1*=4/5，y2*=3/5，w*=5。试用对偶理论 找出原问题的最优解。
1 0 E2 E1 A 0
2 0 a132 ... a1m 2 2 1 a 23 ... a 2 m 2 2 0 a m 3 ... a mm
1 1 a 12 a 22 1 a 1 22 2 1 1 a a m 2 22
对偶
min ω =Yb s.t. YA≥C Y≥0
引进松弛变量
引进剩余变量
max z=CX s.t. AX+XS=b X, XS≥0
X，Xs
min ω =Yb s.t. YA-YS=C Y, YS≥0
Y，Ys
Y0XS=0 YSX0=0
互补松弛关系
(6).互补松弛性
意义：利用此性质，可以已知某问题的最 优解，求其对偶问题的最优解。
4x1 ≤16
+4y3 ≥3
y1, y2 , y3 ≥0
4x2 ≤12
x1，x2 ≥0
对偶问题的经济背景
原问题：利用有限的资源，安排最优生产 方案，以获得最大的产值；
对偶问题：在相同资源的条件下，正确估 计资源的使用价值，以达到支付最少费用。
原问题
对偶问题
对偶问题的矩阵形式
序号 基变量
XB
XN
二、对偶问题的基本性质
(1).对称性
对偶问题的对偶是原问题。
max z=CX s.t. AX≤b X ≥0
对偶定义
min ω=Yb s.t. YA≥C Y≥0
min z'=-CX
s.t. -AX≥-b X ≥0
对偶定义
max ω´=-Yb s.t. -YA≤-C Y≥0
(2).弱对偶性
若 X 是原问题的可行解，Y 是对偶问题的可 行解，则存在：C X Y b
max z=2x1+3x2
x1+2x2 ≤8
4x1 ≤16
y1 y2 y3
min w=8y1+16y2+12y3
y1+4y2 对偶
2y1
≥2
4x2 ≤12
x1，x2 ≥0
+4y3 ≥3
y1, y2 , y3 ≥0
非对称形式的处理
max z c j x j
j 1 n
max z c j x j
对偶问题的提出
Ⅰ 设备 y1 原材料A y2 原材料B y3 1 4 0 Ⅱ 2 0 4 资源限量 8台时 16 kg 12 kg
每生产一件产品Ⅰ可获利2元， 每生产一件产品Ⅱ可获利3元。
互为对偶问题
max z=2x1+3x2 min w=8y1+16y2+12y3
y1+4y2
2y1
≥2
对偶
x1+2x2 ≤8
推论：若原问题无最优解，那么对偶问题 也无最优解。
提示：无最优解——无界解 / 无可行解
(6).互补松弛性
ˆ 若 X , Yˆ 分别是原问题和对偶问题的可行解， ˆ 那么 YˆX S 0 和 Y S Xˆ 0，当且仅当 X , Yˆ 为最 优解。
max z=CX s.t. AX≤b X ≥0
意义：求极大化 (max) 原问题的任一可行解 的目标函数值，不大于其对偶问题任意可 行解的目标函数值。
(3).最优性
ˆ ˆ 若 X 是原问题的可行解，Y 是对偶问题的可
ˆ 行解，当 C Xˆ Yˆb 时， , Yˆ 是最优解。 X
——可行解是最优解时的性质(4)
(4).无界性
若原 (对偶) 问题为无界解，则其对偶 (原) 问题无可行解。 推论：原 (对偶) 问题无可行解时，其对偶 (原) 问题具有无界解 ，或无可行解。
min Yb YA C Y 0
a11 y1 , y2 ,, ym a m1
a12 am 2
a1n c1 , c2 ,, cn amn
y1 , y2 ,, y m 0
对称形式的对应关系
例：写出对偶问题
第二章 对偶理论
辅助课件 授课人：万飚
主要内容
1. 单纯形法的矩阵描述 2. 改进单纯形法 3. 对偶问题的提出 4. 线性规划的对偶理论 5. 对偶问题的经济解释 6. 对偶单纯形法 7. 灵敏度分析
§1.单纯形法的矩阵描述
max z CX AX b X 0
将系数矩阵分解为基矩阵和非基矩阵： A=(B, N) X=(XB, XN)T 约束条件可表示为： b=AX=(B, N) (XB, XN)T = BXB + NXN 等式两边同时左乘 B-1，有：
1 1 a12 ... a11 m 1 0 a 22 ... a 21m E1 A 1 0 a 1 ... a 1 m2 mm 0 E1 P1 0
a11 a21 P1 a m1
单纯形法的矩阵表示
序 号 0 基变量 XB 检验数行 XB B CB XN N CN 右端项 b 0 θi
B-1BXB + B-1NXN = B-1b
X'B
1
CB-CBB-1B 检验数行 =0 CN-CBB-1N 0-CBB-1b
B-1B = I
B-1N
B-1b
单纯形乘子
分块矩阵与单纯形表对照
基变量 XB 系数矩阵 B-1B=I 非基变量 右边项 RHS B-1b
min x1 x2 x1 x2 1 x1 x2 1 x , x 0 1 2
max z y1 y2 y1 y2 1 y1 y2 1 y , y 0 1 2
(5).对偶定理(强对偶性)
若原问题有最优解，那么对偶问题也有最 优解；且目标函数值相等。
min bi yi
i 1
m
min bi yi' yi"
i 1
m
yi=yi'-yi"
a cj
" i
m aij yi c j i 1 y 无约束 i
对应关系图示
原始问题 max z=CX s.t. AX≤b X ≥0 对偶问题 min ω=Yb s.t. YA≥C Y ≥0
对偶规划问题
原始问题 max z = CX AX≤b X≥0
对偶问题 min ω =Yb YA≥C Y≥0
§4.线性规划的对偶理论
一、原问题与对偶问题的关系
原问题和对偶问题的转换
max z c1 x1 c2 x2 cn xn
max z CX AX b X 0
a11 a m1
1 1 1 a 12 a 22 ... 0 1 1 a 22 ... 0 0 E2 1 1 0 a a ... 1 m2 22
改进单纯形法计算实例
max z=2x1+3x2+0x3+0x4+0x5 x1+2x2+x3 =8
max m
C A n ≤b
n
AT
≥C
m
变换关系列表
写出下述LP问题的对偶问题
min z 2 x1 3 x2 5 x3 x4 x1 x2 3 x3 x4 5 y1 2 x 2 x3 x4 4 y2 1 x2 x3 x4 6 y3 x1 0; x2 , x3 0; x4无约束
x1 x2 x3 x4 x5 1 2 1 0 0 4 0 0 1 0 0 4 0 0 1
b 8 16 12
4x1
4x2
+x4
=16
+x5 =12
x1…x5≥0
§3.对偶问题的提出
对偶理论发展史
1947年，冯· 诺依曼提出对偶规划问题，开 创了线性规划新的研究领域； 1951年，库恩和塔克证明了对偶定理； 1954年，莱姆基提出对偶单纯形法，加斯 和萨迪等人解决了线性规划的灵敏度分析 和参数规划问题； 1956年，塔克提出互补松弛定理； 1956年，哥德曼和塔克比较系统地叙述了 对偶规划的理论。
x1 a12 a1n b1 x2 b am 2 amn m xn x1 , x2 , , x n 0
min y1b1 y2b2 ymbm
j 1
n
n aij x j bi j 1 x 0 j
n yi' aij x j bi j 1 n a x b yi" i ij j j 1
非对称形式的处理
min bi yi' bi yi"
i 1 i 1 m m aij yi' aij yi" c j i 1 i 1 y ' , y" 0 i i m m
1 a11 a21 a11 1 a a m1 11
0 0 1 / a11 a21 / a11 1 E1 a / a 1 m1 11
计算B-1的简便方法
1 1 a12 ... a11 m 1 0 a 22 ... a 21m E1 A 1 1 0 a ... a mm m2
XN
B-1N1
XS
B-1
检验数
0
CN1－CBB-1N1 －CBB-1 －CBB-1b
§2.改进单纯形法
Revised Simplex Method
计算B-1的简便方法
a11 a 21 A a m1 a12 a 22 a m2 ... a1m ... a 2 m ... a mm
B-1BXB + B-1NXN=B-1b 整理得： XB=B-1b－B-1NXN 令 XN=0，可得一个基解 X=(B-1b, 0) T 价值系数也可以分解：C=(CB, CN) 则目标函数： z = CX=(CB, CN) (XB, XN)T= CB XB+ CNXN = CB (B-1b－B-1NXN) + CNXN = CB B-1b + (CN－CBB-1N) XN z0 σN
min 2 x1 3x2 5 x3 2 x4 3x5 x1 x2 2 x3 x4 3x5 4 y1 2 x1 x2 3x3 x4 x5 3 y2 x , x , x , x , x 0 1 2 3 4 5
min b
当两问题互为对偶时： 原问题有 m个约束条件, 对偶问题有 m个变量 原问题有 n个变量，对偶 问题有 n个约束条件 原问题的价值系数对应 对偶问题的右端项 原问题的右端项对应对 偶问题的价值系数 原问题的系数矩阵转置 后为对偶问题系数矩阵 原问题的约束条件与对 偶问题方向相反 原问题与对偶问题优化 方向相反 原问题（不）对称，对 偶问题（不）标准
右端项
θi
0 1
XB
检验数行
B CB
B-1B = I
N CN
B-1N
b 0
B-1b
X'B
检验数行 CB-CBB-1B = 0 CN-CBB-1N 0-CBB-1b C-CBB-1A ≤0 C-YA ≤0 -CBB-1≤0 YA ≥C Y ≥0
单纯形乘子 Y =CBB-1
松弛变量 Xs： CS-CBB-1S≤0 Yb=CBB-1b = w' min
x1
xj
xn
xn+1 xn+i xn+m
y1
yi
ym
ym+1
ym+j
yn+m
对偶问题的变量
对偶问题的剩余变量 j=1,2,…,n)
ym+jxj0=0，yi0xn+i=0 (i=1,2,…,m;
在一对变量中，其中一个大于0，另一个一定等于0
互补松弛性的应用
例：已知下述 LP 问题的对偶问题的最优解 为 y1*=4/5，y2*=3/5，w*=5。试用对偶理论 找出原问题的最优解。
1 0 E2 E1 A 0
2 0 a132 ... a1m 2 2 1 a 23 ... a 2 m 2 2 0 a m 3 ... a mm
1 1 a 12 a 22 1 a 1 22 2 1 1 a a m 2 22
对偶
min ω =Yb s.t. YA≥C Y≥0
引进松弛变量
引进剩余变量
max z=CX s.t. AX+XS=b X, XS≥0
X，Xs
min ω =Yb s.t. YA-YS=C Y, YS≥0
Y，Ys
Y0XS=0 YSX0=0
互补松弛关系
(6).互补松弛性
意义：利用此性质，可以已知某问题的最 优解，求其对偶问题的最优解。
4x1 ≤16
+4y3 ≥3
y1, y2 , y3 ≥0
4x2 ≤12
x1，x2 ≥0
对偶问题的经济背景
原问题：利用有限的资源，安排最优生产 方案，以获得最大的产值；
对偶问题：在相同资源的条件下，正确估 计资源的使用价值，以达到支付最少费用。
原问题
对偶问题
对偶问题的矩阵形式
序号 基变量
XB
XN
二、对偶问题的基本性质
(1).对称性
对偶问题的对偶是原问题。
max z=CX s.t. AX≤b X ≥0
对偶定义
min ω=Yb s.t. YA≥C Y≥0
min z'=-CX
s.t. -AX≥-b X ≥0
对偶定义
max ω´=-Yb s.t. -YA≤-C Y≥0
(2).弱对偶性
若 X 是原问题的可行解，Y 是对偶问题的可 行解，则存在：C X Y b
max z=2x1+3x2
x1+2x2 ≤8
4x1 ≤16
y1 y2 y3
min w=8y1+16y2+12y3
y1+4y2 对偶
2y1
≥2
4x2 ≤12
x1，x2 ≥0
+4y3 ≥3
y1, y2 , y3 ≥0
非对称形式的处理
max z c j x j
j 1 n
max z c j x j
对偶问题的提出
Ⅰ 设备 y1 原材料A y2 原材料B y3 1 4 0 Ⅱ 2 0 4 资源限量 8台时 16 kg 12 kg
每生产一件产品Ⅰ可获利2元， 每生产一件产品Ⅱ可获利3元。
互为对偶问题
max z=2x1+3x2 min w=8y1+16y2+12y3
y1+4y2
2y1
≥2
对偶
x1+2x2 ≤8
推论：若原问题无最优解，那么对偶问题 也无最优解。
提示：无最优解——无界解 / 无可行解
(6).互补松弛性
ˆ 若 X , Yˆ 分别是原问题和对偶问题的可行解， ˆ 那么 YˆX S 0 和 Y S Xˆ 0，当且仅当 X , Yˆ 为最 优解。
max z=CX s.t. AX≤b X ≥0
意义：求极大化 (max) 原问题的任一可行解 的目标函数值，不大于其对偶问题任意可 行解的目标函数值。
(3).最优性
ˆ ˆ 若 X 是原问题的可行解，Y 是对偶问题的可
ˆ 行解，当 C Xˆ Yˆb 时， , Yˆ 是最优解。 X
——可行解是最优解时的性质(4)
(4).无界性
若原 (对偶) 问题为无界解，则其对偶 (原) 问题无可行解。 推论：原 (对偶) 问题无可行解时，其对偶 (原) 问题具有无界解 ，或无可行解。
min Yb YA C Y 0
a11 y1 , y2 ,, ym a m1
a12 am 2
a1n c1 , c2 ,, cn amn
y1 , y2 ,, y m 0
对称形式的对应关系
例：写出对偶问题
第二章 对偶理论
辅助课件 授课人：万飚
主要内容
1. 单纯形法的矩阵描述 2. 改进单纯形法 3. 对偶问题的提出 4. 线性规划的对偶理论 5. 对偶问题的经济解释 6. 对偶单纯形法 7. 灵敏度分析
§1.单纯形法的矩阵描述
max z CX AX b X 0
将系数矩阵分解为基矩阵和非基矩阵： A=(B, N) X=(XB, XN)T 约束条件可表示为： b=AX=(B, N) (XB, XN)T = BXB + NXN 等式两边同时左乘 B-1，有：
1 1 a12 ... a11 m 1 0 a 22 ... a 21m E1 A 1 0 a 1 ... a 1 m2 mm 0 E1 P1 0
a11 a21 P1 a m1
单纯形法的矩阵表示
序 号 0 基变量 XB 检验数行 XB B CB XN N CN 右端项 b 0 θi
B-1BXB + B-1NXN = B-1b
X'B
1
CB-CBB-1B 检验数行 =0 CN-CBB-1N 0-CBB-1b
B-1B = I
B-1N
B-1b
单纯形乘子
分块矩阵与单纯形表对照
基变量 XB 系数矩阵 B-1B=I 非基变量 右边项 RHS B-1b
min x1 x2 x1 x2 1 x1 x2 1 x , x 0 1 2
max z y1 y2 y1 y2 1 y1 y2 1 y , y 0 1 2
(5).对偶定理(强对偶性)
若原问题有最优解，那么对偶问题也有最 优解；且目标函数值相等。
min bi yi
i 1
m
min bi yi' yi"
i 1
m
yi=yi'-yi"
a cj
" i
m aij yi c j i 1 y 无约束 i
对应关系图示
原始问题 max z=CX s.t. AX≤b X ≥0 对偶问题 min ω=Yb s.t. YA≥C Y ≥0
对偶规划问题
原始问题 max z = CX AX≤b X≥0
对偶问题 min ω =Yb YA≥C Y≥0
§4.线性规划的对偶理论
一、原问题与对偶问题的关系
原问题和对偶问题的转换
max z c1 x1 c2 x2 cn xn
max z CX AX b X 0
a11 a m1
1 1 1 a 12 a 22 ... 0 1 1 a 22 ... 0 0 E2 1 1 0 a a ... 1 m2 22
改进单纯形法计算实例
max z=2x1+3x2+0x3+0x4+0x5 x1+2x2+x3 =8
max m
C A n ≤b
n
AT
≥C
m
变换关系列表
写出下述LP问题的对偶问题
min z 2 x1 3 x2 5 x3 x4 x1 x2 3 x3 x4 5 y1 2 x 2 x3 x4 4 y2 1 x2 x3 x4 6 y3 x1 0; x2 , x3 0; x4无约束
x1 x2 x3 x4 x5 1 2 1 0 0 4 0 0 1 0 0 4 0 0 1
b 8 16 12
4x1
4x2
+x4
=16
+x5 =12
x1…x5≥0
§3.对偶问题的提出
对偶理论发展史
1947年，冯· 诺依曼提出对偶规划问题，开 创了线性规划新的研究领域； 1951年，库恩和塔克证明了对偶定理； 1954年，莱姆基提出对偶单纯形法，加斯 和萨迪等人解决了线性规划的灵敏度分析 和参数规划问题； 1956年，塔克提出互补松弛定理； 1956年，哥德曼和塔克比较系统地叙述了 对偶规划的理论。
x1 a12 a1n b1 x2 b am 2 amn m xn x1 , x2 , , x n 0
min y1b1 y2b2 ymbm
j 1
n
n aij x j bi j 1 x 0 j
n yi' aij x j bi j 1 n a x b yi" i ij j j 1
非对称形式的处理
min bi yi' bi yi"
i 1 i 1 m m aij yi' aij yi" c j i 1 i 1 y ' , y" 0 i i m m
1 a11 a21 a11 1 a a m1 11
0 0 1 / a11 a21 / a11 1 E1 a / a 1 m1 11
计算B-1的简便方法
1 1 a12 ... a11 m 1 0 a 22 ... a 21m E1 A 1 1 0 a ... a mm m2
XN
B-1N1
XS
B-1
检验数
0
CN1－CBB-1N1 －CBB-1 －CBB-1b
§2.改进单纯形法
Revised Simplex Method
计算B-1的简便方法
a11 a 21 A a m1 a12 a 22 a m2 ... a1m ... a 2 m ... a mm
B-1BXB + B-1NXN=B-1b 整理得： XB=B-1b－B-1NXN 令 XN=0，可得一个基解 X=(B-1b, 0) T 价值系数也可以分解：C=(CB, CN) 则目标函数： z = CX=(CB, CN) (XB, XN)T= CB XB+ CNXN = CB (B-1b－B-1NXN) + CNXN = CB B-1b + (CN－CBB-1N) XN z0 σN
min 2 x1 3x2 5 x3 2 x4 3x5 x1 x2 2 x3 x4 3x5 4 y1 2 x1 x2 3x3 x4 x5 3 y2 x , x , x , x , x 0 1 2 3 4 5
min b
当两问题互为对偶时： 原问题有 m个约束条件, 对偶问题有 m个变量 原问题有 n个变量，对偶 问题有 n个约束条件 原问题的价值系数对应 对偶问题的右端项 原问题的右端项对应对 偶问题的价值系数 原问题的系数矩阵转置 后为对偶问题系数矩阵 原问题的约束条件与对 偶问题方向相反 原问题与对偶问题优化 方向相反 原问题（不）对称，对 偶问题（不）标准
右端项
θi
0 1
XB
检验数行
B CB
B-1B = I
N CN
B-1N
b 0
B-1b
X'B
检验数行 CB-CBB-1B = 0 CN-CBB-1N 0-CBB-1b C-CBB-1A ≤0 C-YA ≤0 -CBB-1≤0 YA ≥C Y ≥0
单纯形乘子 Y =CBB-1
松弛变量 Xs： CS-CBB-1S≤0 Yb=CBB-1b = w' min