第一章 引言
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
qj (j=1,2,,n) 。现计划建立 m 个仓库，第 i 个仓库的容量为 ci (i=1,2,,m) 试确定仓库的位置，使各仓库到各市场的运输量与路程乘积之和最 小。
§3 最优化问题的数学模型与分类
以上列举了几个最优化问题，这些问题所对应的数学模型具
有如下结构：
第一是决策变量，即所考虑的问题可归结为优选若干个被称
通常用 Lagrange 乘子法来求解，即把问题转化为求 Lagrange 函数
l
L(x1, x2 ,, xn , 1, 2 ,, l ) f (x1, x2 ,, xn ) - jhj (x1, x2 ,, xn ) j1
的无约束极值问题。
●最优化问题举例
例 1（多参数曲线拟合问题）
合理。于是，问题转化为求解无约束优化问题
min S (x1, x2 , x3 )
n
[Ri
i 1
x1 exp(ti
x2 )]2 x3
例 2 （运输问题）
设某种物资有 m 个产地， n 个销地。第 i 个产地的产量为
ai (i 1, 2,, m) ；第 j 个销地的需要量为 bj ( j 1, 2,, n) ，其中
建立数学模型时要尽可能简单，而且要能完整地描 述所研究的系统，但要注意到过于简单的数学模型所得 到的结果可能不符合实பைடு நூலகம்情况，而过于详细复杂的模型 又给分析计算带来困难。因此，具体建立怎样的数学模 型需要丰富的经验和熟练的技巧。即使在建立了问题的 数学模型之后，通常也必须对模型进行必要的数学简化 以便于分析、计算。
为参数或变量的量 x1, x2,, xn ，它们都取实数值，它们的一组 值构成了一个方案。
第二是约束条件，即对决策变量 x1, x2,, xn 所加的附加条件， 通常用一组不等式和等式表示为
gi (x1, x2 ,, xn ) 0, hj (x1, x2 ,, xn ) 0,
i 1, 2,, m j 1, 2,,l
1951年，Kuhn 和 Tucher 完成了非线性规划的基础工作. 20世纪70年代，最优化在理论和算法上，以及在应用的 深度和广度上都有了进一步发展. 国内： 古代：田忌赛马 月离迟疾 近代：钱学森，华罗庚，管梅谷
建立最优化数学模型时的一些说明：
数学模型: 对现实事物或问题的数学抽象或描述。
f
x1
(x1,
x2
,,
xn
)
0
fx2(x1, x2 ,, xn ) 0
fxn(x1, x2 ,, xn ) 0
的解，然后判定或验证这些解是否为极值点。
第二，具有等式约束的极值问题
min f (x1, x2 ,, xn ) s.t. hj (x1, x2,, xn ) 0, j 1, 2,,l
t 已知热敏电阻 R 依赖于温度 的函数关系为：
R(t)
x1
exp( t
x2 x3
)
其 中 x1, x2 , x3 是 待 定 的 参 数 。 通 过 实 验 ， 测 得 一 组 数 据
{(ti , Ri ) | i 1, 2,, n} ，问如何确定参数 x1, x2 , x3 ？
可以设想，任给参数 x1, x2 , x3 的一组数值，由上式确定了 R 与 t 的
主要发展历程： 17 世纪 Newton（英） & Leibniz 提出函数的极值问题， 后来出现 Lagrange 乘数法； 1847 年，Cauchy 研究了函数值沿什么方向下降最快的问题， 提出最速下降法； 1939 年，苏联数学家提出了解决下料问题和运输问题这两 种线性规划问题的求解方法； 1947 年，Dantzig 提出解线性规划问题的单纯形法----“20 世纪最伟大的创造之一”
一般的模型简化工作包括以下几类：
（1）将离散变量转化为连续变量。
（2）将非线性函数线性化。
（3）删除一些非主要约束条件。
建立最优化问题数学模型的三要素：
（1）决策变量和参数。
决策变量是由数学模型的解确定的未知数。参数 表示系统的控制变量，有确定性的也有随机性的。
（2）约束或限制条件。
由于现实系统的客观物质条件限制，模型必须包 括把决策变量限制在它们可行值之内，即约束条件，而 这通常是用约束的数学函数形式来表示的。
第一章 引言
什么是最优化 最优化问题举例 最优化问题的数学模型与分类 最优化的基本概念
第一章 引言
§1 什么是最优化 最优化就是从所有可能方案中选择最合理的一种以达到 最优目标的学科。达到最优目标的方案称为最优方案。搜索 最优方案的方法称为最优化方法。关于最优化方法的数学理 论称为最优化理论。 最优化问题至少有两要素：一是可能的方案；二是要追求 的目标。后者是前者的函数。如果第一要素与时间无关称为 静态最优化问题，否则称为动态最优化问题。 本课程主要讨论静态优化问题
件下寻求目标函数 f (x1, x2,, xn ) 的最优。由于极大化目标函数 f (x1, x2,, xn ) 相当于极小化 - f (x1, x2,, xn ) 。本课程只讨论极 小化情形。
（3）目标函数。
这是作为系统决策变量的一个数学函数来衡量系 统的效率，即系统追求的目标。
§2 最优化问题举例
●经典极值问题的一个实例
例 把半径为 1 的实心金属球熔化后，铸成一个实心圆柱体，
问圆柱体取什么尺寸才能使它的表面积最小？
解：设圆柱体的底面半径为 r ，高为 h ，则该问题可表示为
min 2 rh 2 r2
s.t. r2h 4
3 其中“ s.t. ”为“subject to”字头，意为“受约束于”。
也可化为无约束的函数极值问题： min
2 r2 8
3r
此例实际上代表了经典优化中的两种类型的问题及其解法。
第一， 无约束极值问题：
min f (x1, x2 ,, xn ) （或 max f (x1, x2 ,, xn ) ） 其中 f (x1, x2,, xn ) 为 Rn 上的可微函数，求可能的极值点的方 法是：先求出如下 n 元方程组
解：对每一对城市 vi ， v j ，指定一个变量 xij ，令
xij
1, 0，
如果推销员决定从vi直接进入v j 其他情况
nn
则总旅费为 S cijxij ，于是该问题化为使总支出 S最小且满 i0 j0
足条件
n
s.t. xij 1 i0
j 0，1,2,,n
j 1
i 1
型如下：
44
min S
cij xij
i1 j1
4
s.t. xij 1 j 1 4 xij 1 i 1
i 1,2,3,4 j 1,2,3,4
xij 0或1 i 1,2,3,4 ， j 1,2,3,4
这里的变量 xij 叫 0-1 变量。该问题称为 0-1 规划问题。
工程优化方法
硕士研究生学位课程
教材： 《最优化计算方法》，陈开周，西电出版社 参考书：《最优化理论与算法》 陈宝林，清华大学出版社
《实用最优化方法》唐焕文 秦学志，大连理工出版社
作业：按章交作业——每章结束后的下一次课交作业. 注：1)以活页纸方式提交，写清楚姓名、学号、院系专业。
2) 合适时间课堂讲解部分作业 (建议大家课间及课前 答疑).
例 5 （旅行售货员问题，又称货郎担问题） 有一推销员，从城市 v0 出发，要遍访城市 v1,v2,,vn 各一次，
最后返回 v0 。已知从 vi 到 vj 的旅费为 cij ，问他应按怎样的次序 访问这些城市，使得总旅费最少？（设 cii M , M 为充分大的正 数， i 0,1,, n)
其中 gi (x1, x2 ,, xn ) 0( i 1, 2,, m) 称为不等式约束， hj (x1, x2 ,, xn ) 0 (j 1, 2,, l) 称为等式约束。 第三是目标函数，如使利润达到最大或使成本达到最小，
通常刻画为极大化或极小化一个实值函数 f (x1, x2,, xn ) 。 因此最优化问题可理解为确定一组决策变量在满足约束条
课程作用与任务 最优化是一个重要的数学分支，同时又是一门应用广泛、
实用性很强的学科。最优化是从所有可能方案中选择最合理 的方案以达到最优目标的学科，是随着计算机的普遍应用而 发展起来的，已广泛应用于各个领域。本课程旨在讲授最优 化的基本理论和方法，要求通过本课程的学习，具有应用最 优化方法解决一些实际问题的初步技能，并为以后的学习和 工作做必要的准备。
n
xij 1
j0
i 0，1,2,,n
ui u j nxij n 1, 1 i j n
xij 0或1 i, j 0,1,2,,n
ui 为实数
i 0,1,2, ,n
练习： （选址问题） 设有 n 个市场，第 j 个市场的位为 (aj ,bj ) ，对某种货物的需求量为
i 1,2,,m （各产地的运出量不超过产量）
m
xij bj
i 1
xij 0,
j 1,2,,n （各销地的需要量满足） i 1,2,,m, j 1,2,,n
例 3（指派问题）设有四项任务 B1, B2, B3, B4 派四个人 A1, A2, A3, A4 去完成， 每个人都可以承担四项任务中的任何一项，但所耗资金不同。设
一个函数关系式。在几何上它对应于一条曲线，这条曲线并不一定正
好通过那些测量点，一般都要产生“偏差”。通常用所有测量
点沿铅垂方向到曲线的距离平方和作为这种“偏差”的度量，
即
S(x1, x2 , x3)
n
[Ri
i 1
x1 exp(ti
x2 )]2 x3
显然，偏差 S 越小，说明曲线拟合得越好，参数值选择得越
则这个问题的线性规划模型为：
min 200 ( x1+ x2 +x3 +x4 +x5 +x6 +x7 ) s.t. x2 +x3 +x4 +x5 +x6 12
x3 + x4 +x5 +x6 +x7 15 x4 + x5 +x6 +x7 +x1 12 x5 + x6 +x7 +x1+x2 14 x6 + x7 +x1+x2 +x3 16 x7 +x1 +x2 +x3 +x4 18 x1+x2 +x3 +x4 +x5 19 x1, x2 ,x3,x4 ,x5,x6 ,x7 0且为正整数
主要内容 包括绪论、预备知识、常见的一维搜索方法、无约 束优化方法、约束优化方法及线性规划等。 目 的 通过本课程的学习，应能理解和掌握最优化方法的 原理及各种实用算法，具备解决实际优化问题的基本技能。
基本要求 1．理解并掌握最优化的基本概念、无约束优化的基本理论、 约束最优化的基本理论与线性规划的基本理论； 2．熟悉并掌握一维搜索方法、最速下降法、共轭梯度法、牛顿 型方法、变尺度法等等； 3.实践技能：在理解最优化的基本原理、具体算法的基础上， 自己编制解决实际问题的优化程序及实现课内部分算法。
Ai 完成 Bj 所需资金为 cij 。如何分配任务使总支出最少？
解：设变量 ，总支出为 ， xij
1, 0，
指派Ai去完成B j 不派Ai去完成B j
44
S
cij xij
i1 j1
4
4
则满足条件 xij 1（, i 1,2,3,4）， xij 1,（ j 1,2,3,4），该问题的数学模
例 4 某个中型百货商场对售货人员（周工资 200 元）的需求经统
计如下表
星期 一 二 三 四 五 六 日
人数 12
15
12
14
16
18
19
为了保证销售人员充分休息，销售人员每周工作 5 天，休息 2 天。 问应如何安排销售人员的工作时间，使得所配售货人员的总费用最 小？ 解：设从周一起每天开始休息的人数分别为 xi (i 1, 2,, 7) ，
m
ai
n
bj
。由产地 i
到销地
j
的距离为
dij
，问如何安排运输，才
i 1
j 1
能既满足各地的需要，又使所花费的运输总费用最少？
解：设由产地 i 运往销地 j 的货物数量为 xij ， S 为运输的总 费用，则
mn
min S
dij xij
i1 j1
n
s.t. xij ai j 1
§3 最优化问题的数学模型与分类
以上列举了几个最优化问题，这些问题所对应的数学模型具
有如下结构：
第一是决策变量，即所考虑的问题可归结为优选若干个被称
通常用 Lagrange 乘子法来求解，即把问题转化为求 Lagrange 函数
l
L(x1, x2 ,, xn , 1, 2 ,, l ) f (x1, x2 ,, xn ) - jhj (x1, x2 ,, xn ) j1
的无约束极值问题。
●最优化问题举例
例 1（多参数曲线拟合问题）
合理。于是，问题转化为求解无约束优化问题
min S (x1, x2 , x3 )
n
[Ri
i 1
x1 exp(ti
x2 )]2 x3
例 2 （运输问题）
设某种物资有 m 个产地， n 个销地。第 i 个产地的产量为
ai (i 1, 2,, m) ；第 j 个销地的需要量为 bj ( j 1, 2,, n) ，其中
建立数学模型时要尽可能简单，而且要能完整地描 述所研究的系统，但要注意到过于简单的数学模型所得 到的结果可能不符合实பைடு நூலகம்情况，而过于详细复杂的模型 又给分析计算带来困难。因此，具体建立怎样的数学模 型需要丰富的经验和熟练的技巧。即使在建立了问题的 数学模型之后，通常也必须对模型进行必要的数学简化 以便于分析、计算。
为参数或变量的量 x1, x2,, xn ，它们都取实数值，它们的一组 值构成了一个方案。
第二是约束条件，即对决策变量 x1, x2,, xn 所加的附加条件， 通常用一组不等式和等式表示为
gi (x1, x2 ,, xn ) 0, hj (x1, x2 ,, xn ) 0,
i 1, 2,, m j 1, 2,,l
1951年，Kuhn 和 Tucher 完成了非线性规划的基础工作. 20世纪70年代，最优化在理论和算法上，以及在应用的 深度和广度上都有了进一步发展. 国内： 古代：田忌赛马 月离迟疾 近代：钱学森，华罗庚，管梅谷
建立最优化数学模型时的一些说明：
数学模型: 对现实事物或问题的数学抽象或描述。
f
x1
(x1,
x2
,,
xn
)
0
fx2(x1, x2 ,, xn ) 0
fxn(x1, x2 ,, xn ) 0
的解，然后判定或验证这些解是否为极值点。
第二，具有等式约束的极值问题
min f (x1, x2 ,, xn ) s.t. hj (x1, x2,, xn ) 0, j 1, 2,,l
t 已知热敏电阻 R 依赖于温度 的函数关系为：
R(t)
x1
exp( t
x2 x3
)
其 中 x1, x2 , x3 是 待 定 的 参 数 。 通 过 实 验 ， 测 得 一 组 数 据
{(ti , Ri ) | i 1, 2,, n} ，问如何确定参数 x1, x2 , x3 ？
可以设想，任给参数 x1, x2 , x3 的一组数值，由上式确定了 R 与 t 的
主要发展历程： 17 世纪 Newton（英） & Leibniz 提出函数的极值问题， 后来出现 Lagrange 乘数法； 1847 年，Cauchy 研究了函数值沿什么方向下降最快的问题， 提出最速下降法； 1939 年，苏联数学家提出了解决下料问题和运输问题这两 种线性规划问题的求解方法； 1947 年，Dantzig 提出解线性规划问题的单纯形法----“20 世纪最伟大的创造之一”
一般的模型简化工作包括以下几类：
（1）将离散变量转化为连续变量。
（2）将非线性函数线性化。
（3）删除一些非主要约束条件。
建立最优化问题数学模型的三要素：
（1）决策变量和参数。
决策变量是由数学模型的解确定的未知数。参数 表示系统的控制变量，有确定性的也有随机性的。
（2）约束或限制条件。
由于现实系统的客观物质条件限制，模型必须包 括把决策变量限制在它们可行值之内，即约束条件，而 这通常是用约束的数学函数形式来表示的。
第一章 引言
什么是最优化 最优化问题举例 最优化问题的数学模型与分类 最优化的基本概念
第一章 引言
§1 什么是最优化 最优化就是从所有可能方案中选择最合理的一种以达到 最优目标的学科。达到最优目标的方案称为最优方案。搜索 最优方案的方法称为最优化方法。关于最优化方法的数学理 论称为最优化理论。 最优化问题至少有两要素：一是可能的方案；二是要追求 的目标。后者是前者的函数。如果第一要素与时间无关称为 静态最优化问题，否则称为动态最优化问题。 本课程主要讨论静态优化问题
件下寻求目标函数 f (x1, x2,, xn ) 的最优。由于极大化目标函数 f (x1, x2,, xn ) 相当于极小化 - f (x1, x2,, xn ) 。本课程只讨论极 小化情形。
（3）目标函数。
这是作为系统决策变量的一个数学函数来衡量系 统的效率，即系统追求的目标。
§2 最优化问题举例
●经典极值问题的一个实例
例 把半径为 1 的实心金属球熔化后，铸成一个实心圆柱体，
问圆柱体取什么尺寸才能使它的表面积最小？
解：设圆柱体的底面半径为 r ，高为 h ，则该问题可表示为
min 2 rh 2 r2
s.t. r2h 4
3 其中“ s.t. ”为“subject to”字头，意为“受约束于”。
也可化为无约束的函数极值问题： min
2 r2 8
3r
此例实际上代表了经典优化中的两种类型的问题及其解法。
第一， 无约束极值问题：
min f (x1, x2 ,, xn ) （或 max f (x1, x2 ,, xn ) ） 其中 f (x1, x2,, xn ) 为 Rn 上的可微函数，求可能的极值点的方 法是：先求出如下 n 元方程组
解：对每一对城市 vi ， v j ，指定一个变量 xij ，令
xij
1, 0，
如果推销员决定从vi直接进入v j 其他情况
nn
则总旅费为 S cijxij ，于是该问题化为使总支出 S最小且满 i0 j0
足条件
n
s.t. xij 1 i0
j 0，1,2,,n
j 1
i 1
型如下：
44
min S
cij xij
i1 j1
4
s.t. xij 1 j 1 4 xij 1 i 1
i 1,2,3,4 j 1,2,3,4
xij 0或1 i 1,2,3,4 ， j 1,2,3,4
这里的变量 xij 叫 0-1 变量。该问题称为 0-1 规划问题。
工程优化方法
硕士研究生学位课程
教材： 《最优化计算方法》，陈开周，西电出版社 参考书：《最优化理论与算法》 陈宝林，清华大学出版社
《实用最优化方法》唐焕文 秦学志，大连理工出版社
作业：按章交作业——每章结束后的下一次课交作业. 注：1)以活页纸方式提交，写清楚姓名、学号、院系专业。
2) 合适时间课堂讲解部分作业 (建议大家课间及课前 答疑).
例 5 （旅行售货员问题，又称货郎担问题） 有一推销员，从城市 v0 出发，要遍访城市 v1,v2,,vn 各一次，
最后返回 v0 。已知从 vi 到 vj 的旅费为 cij ，问他应按怎样的次序 访问这些城市，使得总旅费最少？（设 cii M , M 为充分大的正 数， i 0,1,, n)
其中 gi (x1, x2 ,, xn ) 0( i 1, 2,, m) 称为不等式约束， hj (x1, x2 ,, xn ) 0 (j 1, 2,, l) 称为等式约束。 第三是目标函数，如使利润达到最大或使成本达到最小，
通常刻画为极大化或极小化一个实值函数 f (x1, x2,, xn ) 。 因此最优化问题可理解为确定一组决策变量在满足约束条
课程作用与任务 最优化是一个重要的数学分支，同时又是一门应用广泛、
实用性很强的学科。最优化是从所有可能方案中选择最合理 的方案以达到最优目标的学科，是随着计算机的普遍应用而 发展起来的，已广泛应用于各个领域。本课程旨在讲授最优 化的基本理论和方法，要求通过本课程的学习，具有应用最 优化方法解决一些实际问题的初步技能，并为以后的学习和 工作做必要的准备。
n
xij 1
j0
i 0，1,2,,n
ui u j nxij n 1, 1 i j n
xij 0或1 i, j 0,1,2,,n
ui 为实数
i 0,1,2, ,n
练习： （选址问题） 设有 n 个市场，第 j 个市场的位为 (aj ,bj ) ，对某种货物的需求量为
i 1,2,,m （各产地的运出量不超过产量）
m
xij bj
i 1
xij 0,
j 1,2,,n （各销地的需要量满足） i 1,2,,m, j 1,2,,n
例 3（指派问题）设有四项任务 B1, B2, B3, B4 派四个人 A1, A2, A3, A4 去完成， 每个人都可以承担四项任务中的任何一项，但所耗资金不同。设
一个函数关系式。在几何上它对应于一条曲线，这条曲线并不一定正
好通过那些测量点，一般都要产生“偏差”。通常用所有测量
点沿铅垂方向到曲线的距离平方和作为这种“偏差”的度量，
即
S(x1, x2 , x3)
n
[Ri
i 1
x1 exp(ti
x2 )]2 x3
显然，偏差 S 越小，说明曲线拟合得越好，参数值选择得越
则这个问题的线性规划模型为：
min 200 ( x1+ x2 +x3 +x4 +x5 +x6 +x7 ) s.t. x2 +x3 +x4 +x5 +x6 12
x3 + x4 +x5 +x6 +x7 15 x4 + x5 +x6 +x7 +x1 12 x5 + x6 +x7 +x1+x2 14 x6 + x7 +x1+x2 +x3 16 x7 +x1 +x2 +x3 +x4 18 x1+x2 +x3 +x4 +x5 19 x1, x2 ,x3,x4 ,x5,x6 ,x7 0且为正整数
主要内容 包括绪论、预备知识、常见的一维搜索方法、无约 束优化方法、约束优化方法及线性规划等。 目 的 通过本课程的学习，应能理解和掌握最优化方法的 原理及各种实用算法，具备解决实际优化问题的基本技能。
基本要求 1．理解并掌握最优化的基本概念、无约束优化的基本理论、 约束最优化的基本理论与线性规划的基本理论； 2．熟悉并掌握一维搜索方法、最速下降法、共轭梯度法、牛顿 型方法、变尺度法等等； 3.实践技能：在理解最优化的基本原理、具体算法的基础上， 自己编制解决实际问题的优化程序及实现课内部分算法。
Ai 完成 Bj 所需资金为 cij 。如何分配任务使总支出最少？
解：设变量 ，总支出为 ， xij
1, 0，
指派Ai去完成B j 不派Ai去完成B j
44
S
cij xij
i1 j1
4
4
则满足条件 xij 1（, i 1,2,3,4）， xij 1,（ j 1,2,3,4），该问题的数学模
例 4 某个中型百货商场对售货人员（周工资 200 元）的需求经统
计如下表
星期 一 二 三 四 五 六 日
人数 12
15
12
14
16
18
19
为了保证销售人员充分休息，销售人员每周工作 5 天，休息 2 天。 问应如何安排销售人员的工作时间，使得所配售货人员的总费用最 小？ 解：设从周一起每天开始休息的人数分别为 xi (i 1, 2,, 7) ，
m
ai
n
bj
。由产地 i
到销地
j
的距离为
dij
，问如何安排运输，才
i 1
j 1
能既满足各地的需要，又使所花费的运输总费用最少？
解：设由产地 i 运往销地 j 的货物数量为 xij ， S 为运输的总 费用，则
mn
min S
dij xij
i1 j1
n
s.t. xij ai j 1