数学建模的最优化方法

充要条件 : 若f (x*) 0,2 f (x*)正定,则x*是极小点
唯一极小 (全局极小)
f 0.298
f 0
f (x1 x2) 2x12 2x1x2 x22 3x1 x2
多局部极小
f 0.298
求解方法:搜索算法(数值迭代)
在迭代的每一步,确定一个搜索方向和一个步长,使沿此方向和 此步长走一步到达下一点时,函数f(X)的值下降.
3．拟牛顿法
为克服牛顿法的缺点，同时保持较快收敛速度的优点，利用第 k 步 和第 k+1 步得到的X k ，X k1 ，f ( X k ) ，f ( X k1 ) ，构造一个正定
矩阵 G k1 近似代替 2 f ( X k ) ,或用H k1 近似代替( 2 f ( X k )) 1 ，将
牛顿方向改为：
产销量的最佳安排 某厂生产一种产品有
甲、乙两个牌号，讨论在产销平衡的情况下如何 确定各自的产量，使总利润最大. 所谓产销平衡 指工厂的产量等于市场上的销量.
总利润为： z(x1,x2)=(p1-q1)x1+(p2-q2)x2
符号说明
z(x1,x2)表示总利润；
p1，q1，x1 分别表示甲的价格、成本、销量； p2，q2，x2 分别表示乙的价格、成本、销量； aij，bi，λi,ci（i，j =1，2）是待定系数.
0.9997 0.9998 1E-8
最优点 (1 1) 初始点 (-1 1)
1．最速下降法（共轭梯度法）算法步骤：
无 约
⑴ 给定初始点 X 0 E n ，允许误差 0 ,令 k=0；
束
⑵ 计算f X k ；
优
⑶ 检验是否满足收敛性的判别准则：
化
f X k ，
问 题
若满足，则停止迭代，得点X * X k ，否则进行⑷； 的
•混合整数规划: 99B 钻井布局 •最短路，二次规划： 00B 管道订购 •组合优化最短路： 97B 截断切割，
04A 奥运会临时超市(MS)网点设计 •旅行商问题: 98B 灾情巡视 •优化： 02A 车灯光源优化设计
02B 彩票中的数学
最优化理论是运筹学的基本内容
运筹学OR： Operational Research 管理科学MS: Management Science 决策科学DS: Decision Science
⑷ 令 S k f X k ，从X k 出发，沿S k 进行一维搜索， 基
即求k 使得：
min f
0
X k S k
f
X k k S k
；
⑸ 令 X k 1 X k k S k ，k=k+1 返回⑵.
本 算 法
最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最 速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛 慢，最速下降法适用于寻优过程的前期迭代或作为间插步骤，当接近极值 点时，宜选用别种收敛快的算法.
优化Optimization 规划Programming
无线 约性 束规 优划 化
非整 线数 性规 规划 划
组不多目动网 合确目标态络 优定标规规优 化规规划划化
划划
优化问题的一般形式
优化问题三要素：决策变量；目标函数；约束条件
min f (x)
目标函数
s.t. hi (x) 0, i 1,..., m
2．牛顿法算法步骤：
(1) 选定初始点 X 0 E n ，给定允许误差 0 ，令 k=0；
(2)
求f X k
, 2 f X k
1
,检验：若 f
Xk
,则
停止迭代,X * X k .否则, 转向(3)；
(3) 令 S k [ 2 f X k ]1 f X k （牛顿方向）；
步长的选择:搜索方向dk 确定后,求步长实际上是一个一维dk
优化问题
min
f
( xk
dk )
称为一维搜索
成功-失败法 黄金分割法(0.618法)
Fibonacci法 抛物线插值法 三次插值法
方向的选择:最速下降法(梯度法) dk f (xk )
牛顿法 dk (2 f (xk ))1f (xk )
数学建模的最优化方法
数学建模讲座
最优化:在一定条件下,寻求使目标最大（小）的决策
最优化问题的解就是从所有可能的方案中选出最合 理的, 以达到最优目标的方案--最优方案. 搜寻最优方案的方法就是最优化方法.
最优化是工程技术、经济管理、科学研究、社会 生活中经常遇到的问题. 如：
结构设计 资源分配 生产计划 运输方案
如:小于 103
无约束优化 min f (x) xn
F(x)
Xl Xg
最优解都是局部最 优解,全局最优解只 能从局部最优解的 X 比较中得到.
梯度 :f (x) ( f , f , x1 x2
, f )T , xn
Hessian矩阵
:
2
f
(
x)
(
2 f xix
j
)mn
必要条件 : 若x*为的极小点,则f (x*) 0
m
min f (x1, x2 ) (x1 ai )2 (x2 bi )2 i 1
容积问题:对边长为3米的正方形铁板，在四个
角剪去相等的正方形以制成方形无盖水槽，问如 何剪法使水槽的容积最大？
设剪去的正方形的边长为x，则水槽的容积为： (3 2x2 )x 建立无约束优化模型为：
min y=- (3 2x2 )x， 0<x<1.5
H k 1
H
k
1
(f k )T H k f (f k )T xk
k
x k (f
(xk )T k )T x k
xk (f k )T H k H k f k (xk )T
(f k )T xk
DFP（Davidon-Fletcher-Powell）公式：
G k 1
Gk
1
(X k )T G k X (X k )T f k
建模时需要注意的几个基本问题
1.尽量使用实数优化,减少整数约束和整数变量 2.尽量使用光滑优化,减少非光滑约束的个数
如:尽量少使用绝对值函数、符号函数、多个变量求最大(最 小)值、四舍五入、取整函数等
3.尽量使用线性模型,减少非线性约束和非线性 变量的个数
如: x/y<5应改为x<5y
4.合理设定变量上下界,尽可能给定变量初始值 5.模型中使用的参数数量级要适当
约 束
决策变量 g j (x) 0, j 1,...,l
条 件
x D n
可行解（满足约束）与可行域（可行解的集合） 最优解（取到最小或最大值的可行解）
最优化模型与方法的步骤
1.分析问题.发现、提出并形成问题,进行抽象、
简化、归纳和综合.明确问题的目标、各种约束、 问题的可控变量以及有关参数,搜集有关资料
为简化模型,先忽略成本,并令a12=0,a21=0,问题转化为求: z1 = ( b1 - a11x1 ) x1 + ( b2 - a22x2 ) x2
的极值. 显然其解为x1 = b1/2a11 = 50, x2 = b2/2a22 = 70, 可以把它作为原问题的初始值.
约束优化 min f (x)
s.t. hi (x) 0, i 1,..., m g j (x) 0, j 1,..., l x (x1,..., xn )T D n
连 •线性规划LP 目标和约束均为线性函数 续 •非线性规划NLP 目标和约束均为非线性函数 优 二次规划QP 目标为二次函数,约束为线性函数 化
离 •整数规划IP
G k1 S k1 =-f ( X k1 ) ，S k1 =-H k1 f ( X k1 )
从而得到下降方向.
通常采用迭代法计算 G k1 ， H k1 ，迭代公式
BFGS（Boryden-Fletcher-Goldfarb-Shank )T G k xk (xk )T G k (f k )T xk (xk )T G k xk
拟牛顿法 dk Hkf (xk )
Hk 由BFGS迭代公式或DEP公式迭代得出
搜索过程 min f (x1 x2) 100(x2 x12)2 (1 x1)2
x1 x2 f
-1 1 4.00 -0.79 0.58 3.39 -0.53 0.23 2.60 -0.18 0.00 1.50 0.09 -0.03 0.98 0.37 0.11 0.47 0.59 0.33 0.20 0.80 0.63 0.05 0.95 0.90 0.003 0.99 0.99 1E-4 0.999 0.998 1E-5
用上面的公式进行递推.这种方法称为拟牛顿法.
选址问题:某市燃气公司计划要建一个煤气供应站,
该站向城市中有固定位置的m个用户供货. 对于选定 的坐标系, 已知第i个用户的位置为 (ai,bi ),i 1,2,,m 如果只考虑直线距离, 如何确定煤气站的位置,才能 使总的运输距离最短?
设煤气站的位置为(x1, x2 ),则问题的数学模型为
(4) X k1 X k S k ,k k 1 ,转回(2).
如果f是对称正定矩阵A的二次函数，则用牛顿法经过一次 迭代就可达到最优点,如不是二次函数，则牛顿法不能一步达到 极值点，但由于这种函数在极值点附近和二次函数很近似,因此 牛顿法的收敛速度还是很快的.
牛顿法的收敛速度虽然较快，但要求Hessian矩阵要可逆, 要计算二阶导数和逆矩阵，就加大了计算机计算量和存储量.
k
f (f
k (f k )T k )T X k
f k (X k )T G k G k X k (f k )T (X k )T f k
H k1 H k X k (X k )T H k f k (f k )T H k (f k )T X k (f k )T H k f k
计算时可置H 1 I （单位阵），对于给出的X 1 利
基本假设 1．价格与销量成线性关系
利润既取决于销量和价格，也依赖于产量和成本。按照市场规律， 甲的价格 p1 会随其销量 x1 的增长而降低，同时乙的销量 x2 的增长也 会使甲的价格有稍微的下降，可以简单地假设价格与销量成线性关系， 即： p1 = b1 - a11 x1 - a12 x2 ，b1，a11，a12 > 0，且 a11 > a12； 同理， p2 = b2 - a21 x1- a22 x2 ，b2，a21，a22 > 0，且 a22 > a21 .
2．成本与产量成负指数关系
甲的成本随其产量的增长而降低,且有一个渐进值,可以假设为 负指数关系,即:
同理，
q1
r e1x1
1
c1,
q2
r e2x2 2
c2,
r1, 1, c1 0 r2, 2, c2 0
模型建立 总利润函数
z(x1,x2)=(p1-q1)x1+(p2-q2)x2
若根据大量的统计数据,求出系数 b1=100,a11=1,a12=0.1,b2=280,a21=0.2,a22=2,r1=30, λ1=0.015,c1=20, r2=100,λ2=0.02,c2=30, 则问题转化为无约束优化问题：求甲,乙两个牌号的产量x1， x2，使总利润z最大.
CUMCM赛题：约一半以上与最优化问题有关.如：
飞行管理问题(95A) 最优捕鱼策略(96A) 节水洗衣机(96B)
零件参数设计(97A)
投资的收益和风险(98A)
钢管订购和运输(2000B)
电力市场的堵塞管理(2004B)
•非线性规划： 96A 最优捕鱼策略 96B 节水洗衣机 97A 零件参数设计 98A 投资收益与风险01B 公交车调度
线性规划的其他形式可通过形式变换和添加松弛 变量而化为标准型. 常用求解方法:单纯形法
运输问题: 设有m个生产地点 A1, A2,, Am 可供应物
2.建立模型.经过合理的假设,确定变量、参数和
目标与约束之间的关系,使用有效的模型来表示
3.求解.使用和创立各种数学方法和数学技术,对
模型求解(如最优解、次优解、近似解).借助于计 算机软件进行求解复杂的模型,并进行各种数据分 析
4.解的检验和控制.检查求解步骤和程序无误后,
检验解是否反映现实问题并进行灵敏度分析
决策变量(全部或部分)为整数
散 整数线性规划ILP 整数非线性规划INLP
规
纯整数规PIP
划 一般整数规划
混合整数规划MIP 0--1整数规划
线性规划
目标函数和约束条件都是线性函数
线性规划模型的标准型:
min f cx
s.t. Ax b
其中 A (aij)mn, x (x1, x2,, xn)T , b (b1,b2,,bm)T , c (c1,c2,,cn)