第八章约束优化

大学数学实验
Mathematical Experiments 实验8 约束优化
优化问题的一般形式
优化问题三要素：决策变量；目标函数；约束条件
min f (x)
s.t.
决策变量
hi (x) 0, i 1,...,m g j (x) 0, j 1,...,l x D n
目标函数
8小时 4千克 A2
获利8元/千克
1千克 2小时,1.5元
0.75千克 B2
获利16元/千克
决策 变量
目标 函数
出售x1 千克 A1, x2 千克 A2， x3千克 B1, x4千克 B2
x5千克 A1加工B1， x6千克 A2加工B2
LP
利润 Max z 12 x1 8x2 22 x3 16 x4 1.5x5 1.5x6
x1，x2，x3 0
通过试探发现 β从0.0001~0.1以0.0001的步长变化 就可以得到很好的近似结果
二次规划（QP）模型
实例3：供应与选址
某公司有6个建筑工地，位置坐标为(ai, bi) (单位：公里), 水泥日用量di (单位：吨）
i １ ２ ３ ４５ ６
a 1.25 8.75 0.5 5.75 3 7.25
约 束 条 件
当最优解在可行域边界上取得时 不能用无约束优化方法求解
约束优化的分类 min f (x)
s.t. hi (x) 0, i 1,...,m
数学规划
g j (x) 0, j 1,...,l
(Math. Prog.)
x D n
连 • 线性规划(LP) 目标和约束均为线性函数
型
c R n , A R mn , b R m
• 二维线性规划的图解法 • 一般线性规划的单纯形算法 • 一般线性规划的内点算法
二维线性规划的图解法
max z 3x x
1
2
s.t. x1x1 x2x2 22 ~L1
x 2x 2
1
2
~L2
3x 2x
1
2
14
决策变量：
ci j ~12维 (料场j到 工地i运量）
26
min
cij [(x j ai )2 ( y j bi )2 ]1/ 2
j 1 i1
2
s.t.
cij di , i 1,...,6
j 1
6
cij e j , j 1,2
i 1
cij 0, i 1,...,6, j 1,2
LP其他算法
内点算法(Interior point method)
• 20世纪80年代人们提出的一类新的算法——内点算法 • 也是迭代法，但不再从可行域的一个顶点转换到另一个 顶点，而是直接从可行域的内部逼近最优解。
有效集(Active Set)方法
• LP是QP的特例（只需令所有二次项为零即可） • 可以用QP的算法解LP(如: 有效集方法，详见下节)
续 优
• 非线性规划(NLP) 目标或约束中存在非线性函数
化 二次规划(QP) 目标为二次函数、约束为线性
• 整数规划(IP) 决策变量(部分)为整数
离 散
整数线性规划(ILP)
优 整数非线性规划(INLP)
化 0-1规划
整数决策变量只取０或１
本实验基本内容
LP QP NLP
连续优化
b 1.25 0.75 4.75 5 6.5 7.75
d3
5
4
7
6
11
1)现有 2 料场，位于 A (5, 1), B (2, 7), 记(xj,yj),j=1,2, 日储量 ej 各有 20 吨。
假设：料场和工地之间有直线道路
目标：制定每天的供应计划，即从 A, B 两料场分别
向各工地运送多少吨水泥，使总的吨公里数最小。
至多100公斤A1 制订生产计划，使每天净利润最大
• 15元可增加1桶牛奶，应否投资？ • 聘用临时工人增加劳动时间，工资最多每小时几元？
• B1，B2的获利经常有10%的波动，对计划有无影响？
1桶 牛奶 或
12小时
3千克 A1
获利12元/千克
1千克 2小时,1.5元
0.8千克 B1
获利22元/千克
50万元基金用于投资三种股票A、B、C： A每股年期望收益5元(标准差2元)，目前市价20元； B每股年期望收益8元(标准差6元)，目前市价25元； C每股年期望收益10元(标准差10元)，目前市价30元； 股票A、B收益的相关系数为5/24; 股票A、C收益的相关系数为–0.5; 股票B、C收益的相关系数为–0.25。
先求可行解 满足
Ax b, x 0
x1 x2 x3 2 x1 2x2 x4 2, 3x1 2x2 x5 14, x1, x2 , x3, x4 , x5 0
再在有限个可行解中寻找最优解
1 1
x1 x2 x3 2
A


1

2
x1 2x2 x4 2
DS1=4, DS2=36, DS3=100， cov(S1, S3) r13 DS1 DS3 10
r12=5/24, r13=-0.5，r23=-0.25 cov(S2, S3) r23 DS2 DS3 15
决策变量 x1 、x2和 x3 分别表示投资A、B、C的数量 （国内股票通常以“一手”（100股）为最小单位出售， 这里以100股为单位，期望收益以百元为单位）
1. 问题与模型 2. 基本原理和算法 3. MATLAB实现
实例1: 奶制品生产销售计划
1桶 牛奶 或
12小时
3千克A1 获利12元/千克
1千克
2小时,1.5元
0.8千克B1
获利22元/千克
8小时 4千克A2
获利8元/千克
50桶牛奶, 480小时
1千克
2小时,1.5元
0.75千克B2
获利16元/千克
L2
0
x1
x 2x
1
2
2
~L2
3x 2x 14 ~L3
1
2
x ,x 0
1
2
3x1 2x2 14 ~ L3
无 L3
3x1 x2 14 ~ L3
x2 L1
x2 L1 L2 L3
x2 L1
L3
z=c
L2
L2
0
x1
0
x1
0
x1
无可行解
无最优解(无界) 最优解不唯一
线性规划的标准形和基本性质
约束 条件
原料 供应
劳动
x1 x5 x2 x6 50 加工能力
3
4
附加约束
4(x1 x5 ) 2(x2 x6 )
x1 x5 100 x3 0.8x5
x4 0.75 x6
时间 2x5 2x6 480
非负约束 x1, x6 0
实例2：投资组合问题
3 2
3x1 2x2 x5 14 [ p1 p2
1 0 0
p3
0 1 0
p4
0 0 1
p5 ]
A [B, N]，B可逆
xT [ xB , xN ]T
Ax BxB NxN b
xN 0 xB B1b
x2
B: 基(矩阵)
x: 基(本)解
P B [ p3 p4 p5] x (0,0,2,2,14)T O点
MATLAB 求解 LP
min z cT x
s.t. A1x b1, A2x b2, v1 x v2
•如期望今年得到至少20%的投资回报，应如何投资？ •投资回报率与风险的关系如何？
假设：1、基金不一定要用完（不用不计利息或贬值）
2、风险通常用收益的方差或标准差衡量
实例2：投资组合问题
A、B、C每手(百股)的收益分别记为S1,S2和S3(百元)：
ES1=5, ES2=8, ES3=10，
cov(S1, S2 ) r12 DS1 DS2 25
实例2：投资组合问题
min Z2 4x12 36 x22 100 x32 5x1x2 20 x1x3 30 x2 x3
s.t. 5x1 +8x2+10x3 1000 20x1+25x2+30x3 5000 x1，x2，x3 0
加权 模型
Min Z =βZ2 - Z1 s.t. 20x1+25x2+30x3 5000
线性规划模型
2）改建两个新料场，需要确定新料场位置(xj,yj)和 运量cij ，在其它条件不变下使总吨公里数最小。
26
min
cij [(x j ai )2 ( y j bi )2 ]1/ 2
j 1 i1
2
s.t.
cij di , i 1,...,6,
j 1
6
n维 超平面组成的凸多面体 等值线是超平面 凸多面体的某个顶点
从可行域的某一顶点开始，只需在有限多个顶点中 一个一个找下去，一定能得到最优解。
算法：怎样从一点转到下一点，尽快找到最优解。
求解LP的特殊情形 max z 3x x
1
2
x2
L1
L3
s.t. x1x1 x2x2 22 ~L1
对标准形求解
min z cT x s.t. Ax b, x 0 A Rmn , m n
min z 3x1 x2 0 x3 0 x4 0 x5 s.t. x1 x2 x3 2
x1 2x2 x4 2, 3x1 2x2 x5 14, x1, x2 , x3, x4 , x5 0
~L3
x ,x 0
1
2
x2 L1
L3 grad z x*
* L2
起作用约束：L2;L3
0
z4=10
x1
z2=2 z3=6
z1=0
z5=13
最优解（4，1），最优值zmax=13
LP的约束和目标函数均为线性函数
2维 可行域 线段组成的凸多边形 目标函数 等值线为直线 最优解 凸多边形的某个顶点 求解LP的基本思想
总收益 S=x1S1+x2S2+x3S3 ：是一个随机变量
实例2：投资组合问题
总收益 S=x1S1+x2S2+x3S3 ：是一个随机变量
总期望收益为 Z1=ES= x1ES1+x2ES2+x3ES3=5x1+8x2+10x3
投资风险（总收益的方差）为
Z2 D(x1S1 x2S2 x3S3 ) D(x1S1) D(x2S2 ) D(x3S3 ) 2 cov(x1S1, x2S2 ) 2 cov(x1S1, x3S3 ) 2 cov(x2S2 , x3S3 ) x12DS1 x22DS2 x32DS3 2x1x2 cov(S1, S2 ) 2x1x3 cov(S1, S3 ) 2x2 x3 cov(S2 , S3 ) 4x12 36x22 100x32 5x1x2 20x1x3 30x2 x3
cij e j , j 1,2,
i 1
决策变量： ci j，(xj,yj)~16维
非线性规划模型
cij 0, i 1,...,6, j 1,2.
求解线性规划(LP)的基本原理
基 max(or min) z cT x, x Rn
本
模
s.t. Ax b, x 0
x1 2x2 x4 2, x4 0 3x1 2x2 x5 14, x5 0 x1, x2 0
加入松弛变量/剩余变量将不等式变为等式
标 min z cT x
一般还假定
准 s.t. Ax b, x 0 形 A Rmn , m n
b≥0 rank(A)=m
Q OR
x1 B [ p1 p3 p5] x (2,0,4,0,8)T Q点 B [ p2 p3 p5] x (0,1,3,0,16)T R点
B [ p1 p2 p3] x (4,1,5,0,0)T P点
基本可行解x ：Ax=b, x 0 (xB0，xN=0)
max z 3x x
1
百度文库
2
s.t. x1x1 x2x2 22
min z 3x1 x2 0 x3 0 x4 0 x5
s. t. x1 x2 x3 2, x3 0
x 2x 2
1
2
3x 2x 14
1
2
x ,x 0
1
2
LP基本性质
可行域存在时，必是凸多面体(可能无界)； 最优解存在时，必在可行域的顶点取得(可能无界)； 基本可行解对应于可行域的顶点(极点)。
最优解只需在有限个可行解（基本可行解）中寻找
LP的通常解法是单纯形法(G. B. Dantzig, 1947) 单纯形法的基本思路
从一个顶点转换到另一个顶点（即构成xB和xN 的向量pi间的转换），使目标函数逐步下降。