最优化原理与方法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
a 是极值点，极值为： f min (x) f (a 6) (a 2 * a 6) 2 * a 6 6
2 27
x
a3
例 2：用长为 L,宽为 B 的一块薄板，弯成梯形槽，x 和 a 为多少时，容积最大？ 分析： x α 对本题：V=F*L，即如何弯时横断面积 F 最大 B
max F
2
转化为： min{f (X)} x 2x 2
2
-f(X) min{-f(X)}=1 max{f(X)}= -1 (1-3)
因此，今后为了简便，我们只研究极小的问题，这 也就是为什么最优化问题的一般形式为下式的原因：
X* 1
f(X)
min f (X) X h ( X ) 0 s.t s( X ) 0
2 f (X) 2x 1 x 2 2x 1 2 h 1 (X) x 1 x2 4 3 0
r h
x1 x 2
这个问题的集约是： ( x 1 , x 2 ) x 1 0, x 2 0
T
实际上都可以用不等式约束来代替：
s1 (X) x 1 0 s 2 (X) x 2 0
min f (X) s.t h (X) 0
其中 s.t 是 subject to 缩写，表示“满足于” ， “受…约束” 1.3.2 最优化问题的一般形式 以后我们所要讨论的最优化问题有如下形式： 一般式：
(1-1)
min f (X) X h j (X) 0, j 1,2,..., L s.t s i (X) 0, i 1,2,..., m
2 min f (X) 2x 1 x 2 2x 1 2 4 s.t h 1 (X) x 1 x 2 3 0
x2
x12 x 2 4 0 3
x1
0
曲线上每一个点都是容许点，容许点的集合称为容许集，每个容许点都是一种可能 的方案（可计算出一个目标函数） ，所谓优化就是要在容许集中找一点 X ，使得
2 * *
*
*
*
*
-f(X)
f (X * ) 1 ， 很 明 显 ， 它 改 变 符 号 后 的 函 数 f (X) x 2 2x 2 一 定 在 同 一 点 X * 1 处 取 得 极 小 值 f (X * ) 1。由此可见 max f (X) 与 min f (X)具有相同的最
1 最优化问题与数学预备知识
1.1 引言
1.1.1 什么是最优化问题 做一切工作，我们总想从一切可能的方案中选出最优的方案，这就是最优化问题 如 1）安排生产计划方面，如何在现有人力、物力条件下，合理安排产品生产，使 总产值为最高： 2）产品设计方面，工字钢（截面抗弯能力，宽高比或面模量 wx/f）机械零件； 3）工厂布局、物资调动方面； 4）配料方面，如何合理配料，在保证质量前提下使成本最低；5）自动控制中参数 的设定：如轧钢自动控制系统中连轧机各架轧机压下量的设定；在坯料厚度 H 和成品限 制条件都能满足的情况下，如何分配各架轧机的压下量，使达到最优工作状态； 等等，由此可见，在各生产、科研领域中普遍存在着最优化问题。 研究和解决最优化问题的方法是最优化方法， 这种方法的数学理论就是最优化理论。 1.1.2 最优化技术的发展 二次大战前，处理最优化问题的数学方法主要是古典的微分法和变分法。二次大战 中，由于军事业的需要产生了运筹学（美国某工程师入伍，研究在何种运动频率和铁锨 大小情况下， 单位时间内挖的土最多） 。 提出了大量用上述古典方法不能解决的最优化问 题。因此最优化理论和方法得到了发展，特别是六十年代以来，最优化技术发展特别迅 速，成为一门新兴学科，而且得到了广泛应用。 促进最优化技术发展的主要因素是： 科研和生产发展的需要 随着现代化工程技术的复杂化，大型化和精密化，使得一个决策的好坏对经济效果 有重大影响，因此要寻求最优的决策，以获取最好的经济效益，这就为最优化技术发展 提供了必要性。 电子计算机的飞速发展 计算机的飞速发展为最优化技术提供了有力的工具， 使许多以前无法解决的问题 （如 穷举法）现在有了解决的可能。
2h 4r 2rh 0 2r r 2 0 r 2 h 4 3 0
2 3
解得： r 3
, h 23
2 3
此时圆柱体的表面积是 6 2 3 3
2
以上都是微积分中典型的求极值问题。二次大战前，人们把优化狭隘地理解为，取 导数求极值，但是有些函数难以求导，或根本不可能求导，但又明显地具有极大值或极 小值，所以这种古典的极值理论或古典微分法就无能为力了。二次大战时，由于军事业 的需要，产生了运筹学，从而产生了解决多变量大型问题的新的最优化理论和方法，我 们把它称为近代最优化理论与方法，与此相对，我们把古典的极值理论或古典微分法就 称为经典最优化理论与方法。 二者之间的差别在于： 函数是否可微 变量个数的多少 带不带约束方程，特别是带不带不等式约束方程。 最优化是一门崭新的学科，有关的理论和方法还很不完善，有许多问题有待解决， 目前正处于迅速发展之中。
则
2 min( 2x 1 x 2 2x 1 ) 2 s.t x 1 x2 4 3 0 x1 0 x2 0
下面介绍一下容许解或容许点 满足所有约束的向量区称为容许解或容许点。容许点的集合称为容许集。 例：球铸成圆柱体
r x X 1 h x 2
n
x2 x1
X X1
x1 x X 2 或 X x1 x n
x2 xn
于是前面所描述的求极小值问题可以简记为：minf(X) 这里的 f(X)称为向量变量的实值函数。 设有 L 个向量变量的实值函数：h1(X), h2(X), …,hL(X) L 给定 X 后， 又可以把这 L 个实值函数看做是 L 维空间 R 中的一个向量 h(X)的 L 个分 T 量，记为：h(X)=[ h1(X), h2(X), …,hL(X)] 。 按照这种表示方法，具有 L 个等式约束的求极小问题可记为：
1.3 最优化问题的基本概念
1.3.1 最优化问题的向量表示法 研究最优化问题，一般都采用问量表示法，例如前面例子中的（r.H）可以看做是二 X2 维问题中的一个向量区的两个分量，即
r x 1 h x 2 T 或 x 1 x 2
对于 n 维向量空间 R 中一个向量 X 的 n 个分量，即
最优化原理与方法
首先讲几个问题： 1> 本部分以讲最优化原理和方法为主，联系金属加工工艺(轧钢)生产为辅。 因为最优化原理与方法不仅用于金属加工(轧钢生产)， 而且适用于国民经济的各个部门。 2> 最优化（原理）是近化应用数学的一个新的分支。 最优化主要是研究在给定的条件下，如何做出最好的决策去完成所给的任务。 本门课程的基础是微积分和线性代数，本门课程的计算工具是电子计算机。因为用 的数学知识和证明较多，我们在讲课中力求深入浅出，对有些证明我们予以省略，这一 方面是由于学时有限，另一方面不要用过多的证明冲淡我们对方法的掌握，我们的重点 是“实用” 。但要求对一些基本概念要有清晰的了解。 3> 主要参考书是“轧制变形规程优化设计”(刘战英，冶金工业出版社)。 参考书是“最优化原理与方法” （东北工学院，薛嘉庆，冶金工业出版社） 。本书的 规定学时是 70 学时， 所以我们不能全讲， 只讲其中一部分， 有些内容还是这本书没有的。 另一本参考书是“最优化技术基础” （范鸣玉、张莹，清华大学出版社） 4> 学习方法 a、 认真听课，认真做笔记，基本概念和基本方法一定要掌握，要及时复 习。 b、 认真完成作业 c、 上机操作 5> 考核方式 a、 作业完成情况 b、 笔试（闭卷 6> 学习目的 对优化技术入门，能编制简单的优化程序，最好能在毕业设计和论文中加以应用。
或 r 2h
4 3
h
0
这是一个具有约束条件的二个变量(r,H)的非线性最优化问题。 该问题可用拉格朗日乘子法求解。 首先构造 Lagrange 函数
L(r, h, ) 2rh 2r 2 (r 2 h 4 3)
分别对 r,h,λ求偏导数，并令其等于零。
L r L h L
f(X) 优点，因此为了简便，今后只研究求极小的问题。 如果约束中含有“小于等于”的，即
s ( X) 0
两边同乘以负号，就变成“大于等于”了，即
s ( X) 0
注意：不等式约束都要写成这种形式。
首先，把上节课讲过的比较重要的内容再复习一遍 原问题 max f (X) x 2x 2
a 由此解得两个驻点： x1
a 2
x2
a 6
第一个驻点不合实际意义。现在来判断第二个驻点是否为最大点
f ( x) 2 * (a 6 * x) (a 2 * x) * (6) 24 8 * a a a f ( ) 24 * 8 * a 4a 0 6 6
复习回顾：上节课讲了古典微分法与近代最优化理 论与方法的区别 二次大战前，人们把优化狭隘地理解为，取导数求极值，但有些函数难以求导或根 本不可能求导，但又明显地具有极大值或极小值，所以这种古典的极值理论或古典微分 法就无能为力了，二次大战后，由于军事业的需要，产生了运筹学，从而，产生了解决 多变量大型问题的新最优化理论和方法，我们把它称为近代最优化理论与方法，与此同 时，我们把古典的极值理论或古典微分法就称为经典最优化理论与方法，二者的区别： 函数是否可微 变量个数的多少 带不带约束方程，特别是带不带不等式约束方程。 什么是容许点（容许解） 、容许集、最优点、最优值、最优解。 1.3.3 最优化问题的分类
*
f (X * ) min f (X) 。
对问题（1-3）的求解是指，在容许集中找一点 X ，使得目标函数 f(X)在该点取极 小值，即
*
f (X * ) min f (X) s.t. s(X * ) 0 h (X * ) 0
这样的点 X 称为问题（1-3）的最优点，面相应的目标函数值 f (X ) 称为最优值； 合起来 (X , f (X )) 称为最优解，但习惯上，把 X 本身称为最优解。 最优化问题的一般形式（1-3）中是取极小，如果遇到取极大值的问题，只须把目标 函数反号就可以转化为求极小的问题。 例 如 ： f (X) x 2x 2 在 X 1 时 有 极 大 值
对 X x ， 其 中 x 1 0, x 2 0 , 此 时 集 约 束 可 以 用 不 等 式 来 代 替 ， 如 2
x1
s1 (X) x 1 0 s 2 (X) x 2 0
故今后不再考虑ห้องสมุดไป่ตู้约束。 例如：前面例子球铸成圆柱体， X
1 2
(b 2 * x) (B 2 * x 2 * x * cos )* x * sin( )
这是一个具有两个变量的无约束的非线性优化问题。 例 3：把半径为 1 的实心金属球熔化后，铸成一个实心圆柱体，问圆柱体取什么尺 寸才能使它的表面积最小？ r 分析：
min F 2rh 2r 2 3 st. r 2 h 4 3 R
向量式：
(1-2)
min f (X) X h ( X ) 0 s.t s( X ) 0
(1-3)
式中 f(X)称为目标函数(或求它的极小，或求它的极大)。 优化过程就是优选 X，使目标函数达到最优值：f(X)->Optimization si(X)称为不等式约束，它的向量表示法可以写成： T s(X)=[ s1(X), s2(X), …,sm(X)] hj(X)称为等式约束 n X∈Ω,称为集约束，在我们的问题中集约束是无关重要的，这是因为有时Ω≡ R , 不然的话，Ω也可以用不等式约束表达出来，如：
1.2 经典极值问题
在微积分中函数的极值问题就是最简单的最优化问题。 例 1 ：对边长为 a 的正方形铁板，在四个角处剪去相等的正方形以制成方形无盖水
槽，问如何剪法使水槽的容积最大？ 解： x
f ( x) (a 2 * x) 2 * x f ( x) 2 * (a 2 * x) * (2) * x (a 2 * x) 2 (a 2 * x)(a(6 * x) 0
2 27
x
a3
例 2：用长为 L,宽为 B 的一块薄板，弯成梯形槽，x 和 a 为多少时，容积最大？ 分析： x α 对本题：V=F*L，即如何弯时横断面积 F 最大 B
max F
2
转化为： min{f (X)} x 2x 2
2
-f(X) min{-f(X)}=1 max{f(X)}= -1 (1-3)
因此，今后为了简便，我们只研究极小的问题，这 也就是为什么最优化问题的一般形式为下式的原因：
X* 1
f(X)
min f (X) X h ( X ) 0 s.t s( X ) 0
2 f (X) 2x 1 x 2 2x 1 2 h 1 (X) x 1 x2 4 3 0
r h
x1 x 2
这个问题的集约是： ( x 1 , x 2 ) x 1 0, x 2 0
T
实际上都可以用不等式约束来代替：
s1 (X) x 1 0 s 2 (X) x 2 0
min f (X) s.t h (X) 0
其中 s.t 是 subject to 缩写，表示“满足于” ， “受…约束” 1.3.2 最优化问题的一般形式 以后我们所要讨论的最优化问题有如下形式： 一般式：
(1-1)
min f (X) X h j (X) 0, j 1,2,..., L s.t s i (X) 0, i 1,2,..., m
2 min f (X) 2x 1 x 2 2x 1 2 4 s.t h 1 (X) x 1 x 2 3 0
x2
x12 x 2 4 0 3
x1
0
曲线上每一个点都是容许点，容许点的集合称为容许集，每个容许点都是一种可能 的方案（可计算出一个目标函数） ，所谓优化就是要在容许集中找一点 X ，使得
2 * *
*
*
*
*
-f(X)
f (X * ) 1 ， 很 明 显 ， 它 改 变 符 号 后 的 函 数 f (X) x 2 2x 2 一 定 在 同 一 点 X * 1 处 取 得 极 小 值 f (X * ) 1。由此可见 max f (X) 与 min f (X)具有相同的最
1 最优化问题与数学预备知识
1.1 引言
1.1.1 什么是最优化问题 做一切工作，我们总想从一切可能的方案中选出最优的方案，这就是最优化问题 如 1）安排生产计划方面，如何在现有人力、物力条件下，合理安排产品生产，使 总产值为最高： 2）产品设计方面，工字钢（截面抗弯能力，宽高比或面模量 wx/f）机械零件； 3）工厂布局、物资调动方面； 4）配料方面，如何合理配料，在保证质量前提下使成本最低；5）自动控制中参数 的设定：如轧钢自动控制系统中连轧机各架轧机压下量的设定；在坯料厚度 H 和成品限 制条件都能满足的情况下，如何分配各架轧机的压下量，使达到最优工作状态； 等等，由此可见，在各生产、科研领域中普遍存在着最优化问题。 研究和解决最优化问题的方法是最优化方法， 这种方法的数学理论就是最优化理论。 1.1.2 最优化技术的发展 二次大战前，处理最优化问题的数学方法主要是古典的微分法和变分法。二次大战 中，由于军事业的需要产生了运筹学（美国某工程师入伍，研究在何种运动频率和铁锨 大小情况下， 单位时间内挖的土最多） 。 提出了大量用上述古典方法不能解决的最优化问 题。因此最优化理论和方法得到了发展，特别是六十年代以来，最优化技术发展特别迅 速，成为一门新兴学科，而且得到了广泛应用。 促进最优化技术发展的主要因素是： 科研和生产发展的需要 随着现代化工程技术的复杂化，大型化和精密化，使得一个决策的好坏对经济效果 有重大影响，因此要寻求最优的决策，以获取最好的经济效益，这就为最优化技术发展 提供了必要性。 电子计算机的飞速发展 计算机的飞速发展为最优化技术提供了有力的工具， 使许多以前无法解决的问题 （如 穷举法）现在有了解决的可能。
2h 4r 2rh 0 2r r 2 0 r 2 h 4 3 0
2 3
解得： r 3
, h 23
2 3
此时圆柱体的表面积是 6 2 3 3
2
以上都是微积分中典型的求极值问题。二次大战前，人们把优化狭隘地理解为，取 导数求极值，但是有些函数难以求导，或根本不可能求导，但又明显地具有极大值或极 小值，所以这种古典的极值理论或古典微分法就无能为力了。二次大战时，由于军事业 的需要，产生了运筹学，从而产生了解决多变量大型问题的新的最优化理论和方法，我 们把它称为近代最优化理论与方法，与此相对，我们把古典的极值理论或古典微分法就 称为经典最优化理论与方法。 二者之间的差别在于： 函数是否可微 变量个数的多少 带不带约束方程，特别是带不带不等式约束方程。 最优化是一门崭新的学科，有关的理论和方法还很不完善，有许多问题有待解决， 目前正处于迅速发展之中。
则
2 min( 2x 1 x 2 2x 1 ) 2 s.t x 1 x2 4 3 0 x1 0 x2 0
下面介绍一下容许解或容许点 满足所有约束的向量区称为容许解或容许点。容许点的集合称为容许集。 例：球铸成圆柱体
r x X 1 h x 2
n
x2 x1
X X1
x1 x X 2 或 X x1 x n
x2 xn
于是前面所描述的求极小值问题可以简记为：minf(X) 这里的 f(X)称为向量变量的实值函数。 设有 L 个向量变量的实值函数：h1(X), h2(X), …,hL(X) L 给定 X 后， 又可以把这 L 个实值函数看做是 L 维空间 R 中的一个向量 h(X)的 L 个分 T 量，记为：h(X)=[ h1(X), h2(X), …,hL(X)] 。 按照这种表示方法，具有 L 个等式约束的求极小问题可记为：
1.3 最优化问题的基本概念
1.3.1 最优化问题的向量表示法 研究最优化问题，一般都采用问量表示法，例如前面例子中的（r.H）可以看做是二 X2 维问题中的一个向量区的两个分量，即
r x 1 h x 2 T 或 x 1 x 2
对于 n 维向量空间 R 中一个向量 X 的 n 个分量，即
最优化原理与方法
首先讲几个问题： 1> 本部分以讲最优化原理和方法为主，联系金属加工工艺(轧钢)生产为辅。 因为最优化原理与方法不仅用于金属加工(轧钢生产)， 而且适用于国民经济的各个部门。 2> 最优化（原理）是近化应用数学的一个新的分支。 最优化主要是研究在给定的条件下，如何做出最好的决策去完成所给的任务。 本门课程的基础是微积分和线性代数，本门课程的计算工具是电子计算机。因为用 的数学知识和证明较多，我们在讲课中力求深入浅出，对有些证明我们予以省略，这一 方面是由于学时有限，另一方面不要用过多的证明冲淡我们对方法的掌握，我们的重点 是“实用” 。但要求对一些基本概念要有清晰的了解。 3> 主要参考书是“轧制变形规程优化设计”(刘战英，冶金工业出版社)。 参考书是“最优化原理与方法” （东北工学院，薛嘉庆，冶金工业出版社） 。本书的 规定学时是 70 学时， 所以我们不能全讲， 只讲其中一部分， 有些内容还是这本书没有的。 另一本参考书是“最优化技术基础” （范鸣玉、张莹，清华大学出版社） 4> 学习方法 a、 认真听课，认真做笔记，基本概念和基本方法一定要掌握，要及时复 习。 b、 认真完成作业 c、 上机操作 5> 考核方式 a、 作业完成情况 b、 笔试（闭卷 6> 学习目的 对优化技术入门，能编制简单的优化程序，最好能在毕业设计和论文中加以应用。
或 r 2h
4 3
h
0
这是一个具有约束条件的二个变量(r,H)的非线性最优化问题。 该问题可用拉格朗日乘子法求解。 首先构造 Lagrange 函数
L(r, h, ) 2rh 2r 2 (r 2 h 4 3)
分别对 r,h,λ求偏导数，并令其等于零。
L r L h L
f(X) 优点，因此为了简便，今后只研究求极小的问题。 如果约束中含有“小于等于”的，即
s ( X) 0
两边同乘以负号，就变成“大于等于”了，即
s ( X) 0
注意：不等式约束都要写成这种形式。
首先，把上节课讲过的比较重要的内容再复习一遍 原问题 max f (X) x 2x 2
a 由此解得两个驻点： x1
a 2
x2
a 6
第一个驻点不合实际意义。现在来判断第二个驻点是否为最大点
f ( x) 2 * (a 6 * x) (a 2 * x) * (6) 24 8 * a a a f ( ) 24 * 8 * a 4a 0 6 6
复习回顾：上节课讲了古典微分法与近代最优化理 论与方法的区别 二次大战前，人们把优化狭隘地理解为，取导数求极值，但有些函数难以求导或根 本不可能求导，但又明显地具有极大值或极小值，所以这种古典的极值理论或古典微分 法就无能为力了，二次大战后，由于军事业的需要，产生了运筹学，从而，产生了解决 多变量大型问题的新最优化理论和方法，我们把它称为近代最优化理论与方法，与此同 时，我们把古典的极值理论或古典微分法就称为经典最优化理论与方法，二者的区别： 函数是否可微 变量个数的多少 带不带约束方程，特别是带不带不等式约束方程。 什么是容许点（容许解） 、容许集、最优点、最优值、最优解。 1.3.3 最优化问题的分类
*
f (X * ) min f (X) 。
对问题（1-3）的求解是指，在容许集中找一点 X ，使得目标函数 f(X)在该点取极 小值，即
*
f (X * ) min f (X) s.t. s(X * ) 0 h (X * ) 0
这样的点 X 称为问题（1-3）的最优点，面相应的目标函数值 f (X ) 称为最优值； 合起来 (X , f (X )) 称为最优解，但习惯上，把 X 本身称为最优解。 最优化问题的一般形式（1-3）中是取极小，如果遇到取极大值的问题，只须把目标 函数反号就可以转化为求极小的问题。 例 如 ： f (X) x 2x 2 在 X 1 时 有 极 大 值
对 X x ， 其 中 x 1 0, x 2 0 , 此 时 集 约 束 可 以 用 不 等 式 来 代 替 ， 如 2
x1
s1 (X) x 1 0 s 2 (X) x 2 0
故今后不再考虑ห้องสมุดไป่ตู้约束。 例如：前面例子球铸成圆柱体， X
1 2
(b 2 * x) (B 2 * x 2 * x * cos )* x * sin( )
这是一个具有两个变量的无约束的非线性优化问题。 例 3：把半径为 1 的实心金属球熔化后，铸成一个实心圆柱体，问圆柱体取什么尺 寸才能使它的表面积最小？ r 分析：
min F 2rh 2r 2 3 st. r 2 h 4 3 R
向量式：
(1-2)
min f (X) X h ( X ) 0 s.t s( X ) 0
(1-3)
式中 f(X)称为目标函数(或求它的极小，或求它的极大)。 优化过程就是优选 X，使目标函数达到最优值：f(X)->Optimization si(X)称为不等式约束，它的向量表示法可以写成： T s(X)=[ s1(X), s2(X), …,sm(X)] hj(X)称为等式约束 n X∈Ω,称为集约束，在我们的问题中集约束是无关重要的，这是因为有时Ω≡ R , 不然的话，Ω也可以用不等式约束表达出来，如：
1.2 经典极值问题
在微积分中函数的极值问题就是最简单的最优化问题。 例 1 ：对边长为 a 的正方形铁板，在四个角处剪去相等的正方形以制成方形无盖水
槽，问如何剪法使水槽的容积最大？ 解： x
f ( x) (a 2 * x) 2 * x f ( x) 2 * (a 2 * x) * (2) * x (a 2 * x) 2 (a 2 * x)(a(6 * x) 0