清华大学最优化方法
最优化方法课件 (1)
令h()= f()–g(), 则h(0)>0和h(/2)<0.
由 f, g的连续性知 h为连续函数, 据连续函数的基本性
质, 必存在0 , 使h(0)=0, 即f(0) = g(0) . 因为f() • g()=0, 所以f(0) = g(0) = 0.
评注和思考 建模的关键 ~ 和 f(), g()的确定
10
2 数学建摸的基本概念与分类
1. 数学模型与数学建模 2. 数学模型的分类 3. 数学模型的应用领域 4. 数学建模举例 5. 数学建模的过程
11
数学建模与数学模型
• 模型概念
– 把对象实体通过适当的过滤,用适当的表现规则描绘出的简 洁的模仿品.通过这个模仿品,人们可以了解到所研究实体的 本质,而且在形式上便于人们对实体进行分析和处理。
3
Introduction to Mathematic Modeling and Optimization
4
数学家名人录
5
Introduction: Concept, History, Progress and Class of Mathematic Modeling and Optimization
6
Contents
1. 引言:数学建模与最优化的背景
最优化计算方法(工程优化)第1章
最优化在物质运输、自动控制、机械设计、采矿冶金、经 济管理等科学技术各领域中有广泛应用。下面举几个简单的实 例。
例1：把半径为1的实心金属球熔化后，铸成一个实心圆柱体， 问圆柱体取什么尺寸才能使它的表面积最小？
解：决定圆柱体表面积大小有两个决策变量：圆柱体底面半 径r、高h。
问题的约束条件是所铸圆柱体重量与球重相等。即
优化模型的分类
根据问题的不同特点分类
一般的约束优化问题
标准形式
min
xRn
f
x
s.t. gi x 0, i 1, 2, , m
1） gi x 0 -gi x 0
2）
hi
x
0
hi x 0
-hi
x
0
优化模型的分类
根据函数类型分类
线性规划：目标函数、约束条件都是线性的 非线性规划：目标函数、约束条件中的函数不全是线性
yi
a1
1
a3
ln 1
a2 exp
xi
a4 a5
最优化问题举例
例3已：知有从一v旅i 到行团v j从的v旅0费出为发要cij遍，游问城应市如何v1安, v排2 行,..程.,使vn总 ，
费用最小？
模型：
变量—是否从i第个城市到第j个城市
xij 1, 0;
约束—每个城市只能到达一次、离开一次
因此，我们在学习本课程时要尽可能了解如何 由实际问题形成最优化的数学模型。
数学模型: 对现实事物或问题的数学抽象或描述。
最优化问题的数学模型与分类
数学模型的建立
建立数学模型时要尽可能简单，而且要能完整地描 述所研究的系统。
过于简单的数学模型所得到的结果可能不符合实际情 况；而过于详细复杂的模型又给分析计算带来困难。
最优化方法孙文瑜课后答案
最优化方法孙文瑜课后答案【篇一：81010218《最优化算法》教学大纲】xt>课程编号: 81010218课程名称：最优化算法英文名称：optimization algorithm 总学时：32 学分：2适用对象: 信息与计算科学本科专业先修课程：数学分析（1-3），高等代数（1-2），运筹学一、课程性质、目的和任务《最优化算法》课程是信息与计算科学专业的一门主要专业选修课。
本课程的目的是使学生理解最优化理论与方法的基本概念，掌握最优化的基本理论和常见的优化算法，为学习后继课程和解决实际问题打下扎实的基础，培养学生用数学知识解决实际问题的兴趣、意识，以及分析问题和解决问题的能力。
二、教学内容、方法及基本要求1．非线性规划基本概念教学内容：多元函数极值理论。
基本要求：理解非线性规划问题概念，一般形式，最优解的情况。
理解梯度、海赛矩阵等概念，掌握极值点的必要条件，充分条件。
理解凸函数概念，掌握凸函数的判定条件和方法。
理解凸规划概念。
2. 一维搜索教学内容：一维搜索。
基本要求：掌握求解非线性规划问题搜索法的基本思想。
掌握一维搜索的斐波那契方法和0.618法。
3．求解无约束非线性规划问题的解析法教学内容：梯度法，广义牛顿法，共轭梯度法，变度量法。
基本要求：理解梯度法，广义牛顿法，共轭梯度法，变度量法的基本思想，掌握四种方法的迭代步骤，了解四种方法的收敛定理。
4. 求解无约束非线性规划问题的直接法教学内容：步长加速法，方向加速法，单纯形法。
基本要求：理解步长加速法，方向加速法，单纯形法的基本思想，掌握三种方法的迭代步骤，了解三种方法的收敛准则。
了解解析法与直接法的优缺点。
5. 求解约束非线性规划问题的逐步线性逼近法教学内容：逐步线性逼近法。
基本要求：理解约束非线性规划问题一般模型。
理解逐步线性逼近法基本思想，掌握逐步线性逼近法的求解步骤。
6. 求解约束非线性规划问题的拉格朗日乘子法教学内容：拉格朗日乘子法。
最优化方法绪论
用F 表示由s到d的流经过边 (vi , v j )的流量。
掌握主要的优化模型的数学计算方法. 了解优化方法及其数学原理. 学习运用应用数学软件计算优化问题.
最终成绩 = （考勤+作业） 30% + 期末 70% （也许增加应用优化软件解决问题的要求）
使用教材：
最优化方法 何坚勇
参考书 ：
最优化理论与算法 陈宝林
清华大学出版社 1. 线性规划 对偶定理
2. 非线性规划 K-K-T 定理
3. 最优化算法 算法设计技巧
其他参考书目
Nonlinear Programming - Theory and Algorithms Mokhtar S. Bazaraa, C. M. Shetty John Wiley & Sons, Inc. 1979 (2nd Edit, 1993，3nd Edit，2006) Linear and Nonlinear Programming David G. Luenberger Addison-Wesley Publishing Company, 2nd Edition, 1984/2003.. Convex Analysis R. T. Rockafellar Princeton Landmarks in Mathematics and Physics, 1996. Optimization and Nonsmooth Analysis Frank H. Clarke SIAM, 1990.
《最优化方法》最优化方法概述
2019/7/30
最优化方法
6
学习本课程所需的数学知识
向量、向量的模（范数）、向量的运算、
线性相关与无关、基. 矩阵的运算及性质、矩阵的秩、特征值、正定性。
向量函数、连续性、可微性、 梯度、向量函数（多元函数）的Taylor定理
2019/7/30
最优化方法
7
课程基本内容
线性规划 无约束最优化方法 约束最优化方法 多目标最优化方法
线性规划模型的特征：
max z=5x1+2x2
30x1 20x2 160 s.t.5xx1 14x2 15
x1 0, x2 0
•（1）用一组决策变量x1，x2，…, xn表示某一方案，且在一般情况下， 变量的取值是非负的。
•（2）有一个目标函数，这个目标函数可表示为这组变量的线性函数。
2019/7/30
最优化方法
8
学习要求及考评
掌握主要的优化模型的数学计算方法，可以 应用数学软件解决最优化问题。
考评： 大作业（作业+小论文）
2019/7/30
最优化方法
9
参考书目
主要参考书目： 理论方面： (1) 解可新、韩健，《最优化方法》，天津大学出版社,2004 (2) 何坚勇， 《最优化方法》, 清华大学出版社， 2007 计算方面： (3) 曹卫华，郭正， 《最优化技术方法及MATLAB的实现》，
2019/7/30
最优化方法
3
运筹学这一名词最早出现于1938年。当时英， 美等国盟军在与德国的战争中遇到了许多错综 复杂的战略和战术问题难以解决，比如 防空雷达的布置问题 护航舰队的编队问题
为了应付上述各种复杂问题，英美等国逐 批召集不同专业背景的科学家，在三军组织了 各种研究小组，研究的问题都是军事性质的， 这些研究小组运用系统优化的思想，应用数学 技术分析军事问题，取得了非常理想的效果。
《最优化方法》最优化方法概述
定义 x1，x2分别为每公斤产品中甲，乙两种原料的数量，
目标：使总成本最小化 min z=3x1+2x2
约束：配料平衡条件，
x1+x2=1
产品中A、B、C三种化学成分的最低含量
12x1+3x2≥4
2x1+3x2≥2
非负性条件
2019/7/30
3x1+15x2≥5 最优化方法 x1≥0, x2≥0
1
1
3
0
1．5
3
120
3
1
0
4
料头（米） 0
0.1 0.2 0.3 0.8 0.9 1.1
1.4
数学模型 s.t.
min z 0.1x2 0.2x3 0.3x4 0.8x5 0.9x6 1.1x7 1.4x8
x1 2x2
x4
x6
100
2x3 2x4 x5 x6 3x7 100
2019/7/30
最优化方法
8
学习要求及考评
掌握主要的优化模型的数学计算方法，可以 应用数学软件解决最优化问题。
考评： 大作业（作业+小论文）
2019/7/30
最优化方法
9
参考书目
主要参考书目： 理论方面： (1) 解可新、韩健，《最优化方法》，天津大学出版社,2004 (2) 何坚勇， 《最优化方法》, 清华大学出版社， 2007 计算方面： (3) 曹卫华，郭正， 《最优化技术方法及MATLAB的实现》，
2019/7/30
最优化方法
4
二次大战以后，在军事运筹小组中工作过的一部分科 学家开始转入民用部门，他们把对军事系统最优化的研究 成果拓展到各种民用系统的研究上。
清华大学最优化及其作业答案
假设F0非空。
內点法可粗略的分为三个步骤:
步骤一: 找一个可行內点x1∈F0。置k=1。
步骤二: 决定现有解xk是否为(P) 的最优解。若
是, 向
则, 输以出及x适∗ 当= x的k。k步否长则就> 寻0。找一个好的移动方d xk
步骤三：由xk移动到新的内点
多项式时间算法与指数时间算法
• 多项式时间算法(polynomial-time algorithm)或优良算法(good algorithm) : 对于某算法的复杂性函数，其增长速度是输入规 模的多项式函数。
• 指数时间算法(exponential-time algorithm):对于某算法的复杂性函数，其增长 速度是输入规模的指数函数。
将(P1) 变得稍微复杂一些, 将球改为第一象 限来考虑下列问题:
min cT x (P2 ) s.t. x 0
假设xk 0，定义n n矩阵
1
x1k
Dk
பைடு நூலகம்
x2k O
x1k
0
D1 k
1 x2k
O
0
0
xnk
0
1
xnk
定义映射：
Tk : Rn Rn
x y Tk (x) Dk1x 则 Tk1 : Rn Rn
不可行，则不等式组Ax b无解；或者得到其最优
解或判定问题无界，则得到不等式组Ax b的一个
解，显然就以多项式时间解决了问题Ax b。
定理：存在求解LP问题的多项式时间算法的充要条件
是存在求解线性不等式组Ax b的多项式时间算法。
*的对偶问题为
max wb
《最优化方法》课程教学大纲
最优化方法》课程教学大纲课程编号：100004英文名称：Optimizatio n Methods一、课程说明1. 课程类别理工科学位基础课程2. 适应专业及课程性质理、工、经、管类各专业，必修文、法类各专业，选修3. 课程目的（1 ）使学生掌握最优化问题的建模、无约束最优化及约束最优化问题的理论和各种算法;（2）使学生了解二次规划与线性分式规划的一些特殊算法；（3）提高学生应用数学理论与方法分析、解决实际问题的能力以及计算机应用能力。
4. 学分与学时学分2,学时405. 建议先修课程微积分、线性代数、Matlab语言6. 推荐教材或参考书目推荐教材：（1）《非线性最优化》（第一版）.谢政、李建平、汤泽滢主编.国防科技大学出版社.2003年.孙（第一版）参考文瑜、徐成贤、朱德通主编.高等教育出版社.2004年（2）《最优化方法》书目：（第一版）.胡适耕、施保昌主编.华中理工大学出版社.2000年（1）《最优化原理》（2）《运筹学》》（修订版）.《运筹学》教材编写组主编.清华大学出版社.1990年7. 教学方法与手段（1）教学方法：启发式（2）教学手段：多媒体演示、演讲与板书相结合8. 考核及成绩评定考核方式：考试成绩评定：考试课（1）平时成绩占20%形式有：考勤、课堂测验、作业完成情况（2）考试成绩占80%形式有：笔试（开卷）。
9. 课外自学要求（1）课前预习；（2）课后复习；（3）多上机实现各种常用优化算法。
二、课程教学基本内容及要求第一章最优化问题与数学预备知识基本内容：（1 ）最优化的概念；（2）经典最优化中两种类型的问题--无约束极值问题、具有等式约束的极值问题的求解方法；（3）最优化问题的模型及分类；（4）向量函数微分学的有关知识；5）最优化的基本术语。
基本要求：（1）理解最优化的概念；（2）掌握经典最优化中两种类型的问题--无约束极值问题、具有等式约束的极值问题的求解方法；（3）了解最优化问题的模型及分类；（4）掌握向量函数微分学的有关知识；（5）了解最优化的基本术语。
最优化方法
工程管理
• 基于多层次灰色决策模型的施工方案评价 应用灰色理论、方法结合工程实例建立了多 层次灰色决策模型对工程施工方案进行综合 评价，得到了满意的结果。 建设项目投资风险的仿真分析 结合赢利性民用建筑项目的特点，建立了经 济模型及其投资回收期仿真模型，并对仿真 模型进行了精度估计 xuyu@） 徐渝提供（xuyu@）
粮食产量预测
（2）中科院陈锡康教授提出了系统综合因素方法预测粮 食产量。关键技术包括投入占用产出分析、考虑边际收益 率递减的非线性预测方程，以及最小绝对和方法。自1980 年始，在每年的四月底成功地预测中国全年的粮食产量， 五月初报送给中国政府主要领导以及相关的政府职能部门。 三个突出的特点： 预测提前期在半年以上（一般预测方法提前期一般是2 个月）； 平均预测误差为1.6%（一般预测方法的平均预测误差为 5-10%）； 预报粮食产量丰、平、欠方向正确。1999年陈锡康研究 员等在北京召开的第十五届IFORS大会上获得一等奖。 陈锡康提供（xkchen@）
英国OR小组，美国OR小组
• 50年 第一种运筹学杂志 • 48年 英国运筹协会, 52年 美国运筹协会 • 59年 国际运筹学会联盟
线性规划在苏联和美国的出现和发展
康托洛维奇 Dantzig, Koopmans, Von Neumann
线性规划的效用
58年，美国Mobil公司
1975年，康托洛维奇， Koopmans， “最优资源配置理论的贡献”，诺贝尔经济学奖
现代运筹学在中国的兴起
现代运筹学被引入中国是在五十年代后期。 中国第一个运筹学小组在钱学森、许国志先生的 推动下在1956年于中国科学院力学研究所成立。 钱学森先生在MIT取得硕士学位，在加州理工 大学（California Institute of Technology） 取得博士学位后成为该校的第一位Goddard讲座教 授。许国志先生在堪萨斯大学取得博士学位后， 在马里兰大学流体力学和应用数学研究所当研究 员。他们两人是第一个运筹学小组的领导者。
清华大学-机械最优化的设计
二、坐标轮换法及其改进
坐标轮换法也叫做“变量轮换法”、“交 替法”或“降维法”。其基本思想就是通 过“每次仅对多元函数的一个变量沿其坐 标轴进行一维探索，其余各变量均固定不 动，并依次轮换坐标轴进行一维探索，完 成第一轮探索后再重新进行第二轮探索， 直到找到目标函数在全域内的最小点为 止”，实质上是将一个多维的优化问题转 化为一系列的单维优化过程。
80 95 100
158 158 158
72.1285 72.1525 72.154
166.1445 167.932 168.0035
13.3841 13.4048 13.4061
72.1285 72.1525 72.154
166.1445 167.932 168.0035
13.3841 13.4048 13.4061
根据汽车设计理论，确定数学模型中各常数取值：
1、左右转向主销轴线与地面交点之间的距离 K=1000mm； 2、汽车轴距L=2540mm； 3、汽车最小转弯半径Rmin=2.3×L=5842mm； 4、主销偏移距（转臂长）a=230mm； 5、前外转向轮最大转角=26.92437（度）； 6、四杆机构最小传动角δmin=40（度）； 7、梯形臂长最小约束值150mm； 8、梯形臂长最大约束值200mm； 9、θ 0的最小值70（度）。
坐标轮换法 在汽车转向梯形机构优化中 的应用及其改进
2004年12月14日
一、转向梯形机构的优化模型
1.1 已知条件 汽车转向梯形机构工作示意图如图1所示，图中虚 线所示为转向梯形的瞬间任一工作位置，BG为对 角线BE转动的瞬间位置，BH为梯形臂BF转动的 瞬间位置，其中：——外转向车轮的转角；—内 转向车轮的转角；K——左右转向主销轴线与地 面交点之间的距离；L——汽车轴距；m——梯形 臂长，AE＝BF＝m；——中间位置时梯形臂与前 轴的夹角。
最优化方法第2章
第2章 无约束优化计算的基本原理(Fundamental principle ofnon-constrained optimization computation )无约束优化问题 Δmin f (X )注：ma 是目标函数(objective function)x f (X )min(f (X ))=−*X 是f (X )的一个局部极小(值)点(local minimal point)Δ>*f (X )f (X )（*X (X )∀∈Ω开邻域(open neighborhood)）*X 是f (X )的一个全局最小(值)点(global minimal point)Δ*f (X )f (X )≥（n X R ∀∈）§2.1最优性条件(Optimality conditions )一、必要条件对于一元可微函数()f x 在极小值点*x 有*()0′=f x ，类似的对多元函数有： 定理2-1-1 连续可微，)(X f *X 极小点⇒0)(*=∇X f ⇒≠∇0)(*X f 取)()()()()(****λλλo p X f X f p X f X f p T +∇+=+⇒−∇=2*****()()()()()()(T )f X f X f X o f X f X o λλλ=−∇⋅∇+=−∇+λ⇒当0>λ且充分小，有***()()()()*X p X f X p f X λλ+∈Ω⇒+≥可行域内 ⇒22**()()()00()0o f X o f X λλλλ−∇+≥⇒≤∇≤→⇒与∇矛盾*()0f X ≠注：①*X 是的驻点(stationary point))(X f Δ0)(*=∇X f②对满足3312)x x =−在0(0,0)T X =定理2-1-2 二阶连续可微, )(X f *X 是极小点⇒, 半正定(semi-definite)0)(*=∇X f )(*2X f ∇⇒)(X f 二阶连续可微可微⇒)(X f ⇒0)(*=∇X f )(*2X f ∇非半正定⇒, 0p ∃≠∋0)(*2<∇p X f p T ⇒)()(**X f p X f =+λ)()()()(22*2*22λλλo X f <o p X f p T ++∇+⇒λ充分小，有与)()(**X f p X f <+λ⇒*X 极小点矛盾。
清华大学 凸优化 讲义ch7_690401035
扩大了整数规划的可行解区域
n n S = x ∈ Z + | Ax ≥ b ⊆ S ' = x ∈ R+ | Ax ≥ b
五道口最好的生活网
{
}
{
}
对偶规划松弛方法 ——给出下界的方法之一
对偶理论知：对偶规划松弛同线性规划松弛的目 标值相同，但需比较哪一个计算简单。选择计算 时间少的算法。
五道口最有人气的论坛
/bbs
第七章 拉格朗日松弛算法
邢文训 清华大学数学科学系 62787945 Email:wxing@
五道口最好的生活网
五道口最有人气的论坛
/bbs
扩大了整数规划的可行解区域
五道口最好的生活网
五道口最有人气的论坛
Lagrangian Relaxation-LP
Linear Prog.
/bbs
z LP = min cT x s.t. Ax ≥ b x≥0
L( x, λ ) = cT x + λT (b − Ax)
λ ≥0 λ ≥0
x≥0
λ ≥0
x ≥0
z LD = max λT b
In case of
五道口最好的生活网
Z LR > −∞
s.t. AT λ ≤ c
λ≥0
五道口最有人气的论坛
/bbs
Primal Problem
z LP = min c x
目的
• 由于组合优化问题的难度，求解最优值有时是非 常困难的。解决这个难点的一个有效方法是通过 计算下界，用上界和下界的差来评价算法。 • 拉格朗日(Lagrange)松弛算法就是求解下界的一 种方法。
《最优化方法》课程教学标准
《最优化方法》课程教学标准第一部分：课程性质、课程目标与要求《最优化方法》课程，是我院数学与应用数学、信息与计算科学本科专业的选修课程，是系统地培养数学及其应用人才的重要的课程之一，它与工农业生产等实际问题紧密联系。
本课程的目的是利用微积分的思想，结合线性代数，解析几何等其他数学科学的知识，来对各种实际问题建立优化模型，并构造优化算法，使学生学会和掌握本课程的基本优化模型、基础理论和方法，为他们解决实际问题提供思想与方法；同时，通过这门课本身的学习和训练，使学生们学习数学建模的一些基本优化方法，初步了解当今自然科学和社会科学中的一些非线性问题，为将来从事相关领域的科学研究和教学工作培养兴趣，做好准备。
教学时间应安排在第六学期或第七学期。
这时，学生已学完线性代数，基本学完数学分析等课程，这是学习《最优化方法》课程必要的基础知识。
同时，建议在条件允许的情况下，介绍利用常用的数学软件解决优化问题的基本方法和技能，使学生初步体会计算机在解决数学及其应用问题的重要作用，增强使用数学方法和计算机解决问题的意识和能力。
第二部分：教材与学习参考书本课程拟采用由孙文瑜、徐成贤和朱德通编写的、高等教育出版社2004年出版的《最优化方法》一书，作为本课程的主教材。
为了更好地理解和学习课程内容，建议学习者可以进一步阅读以下几本重要的参考书：1、最优化方法，施光燕、董加礼，高等教育出版社，19992、最优化理论与算法，陈宝林，清华大学出版社，1989第三部分：教学内容纲要和课时安排第一章基本概念主要介绍优化问题的基本模型、凸集和凸函数的概念和性质、最优性条件及最优化方法概述。
本章的主要教学内容（教学时数安排：6学时）：§1.1最优化问题简介§1.2凸集和凸函数§1.3 最优性条件§1.4 最优化方法概述第二章线性规划本章介绍线性规划的基本性质及其对偶理论，求解线性规划的单纯形方法和对偶单纯形方法以及内点算法。
最优化方法介绍
最优化方法也称为数学规划，是运筹学的一个分支. 最优化技术是一门较新的学科分支。 它是在本世纪五十年代初在电子计算机广泛应用的推 动下才得到迅速发展，并成为一门直到目前仍然十分活跃 的新兴学科。 最优化所研究的问题是在众多的可行方案中怎样选择 最合理的一种以达到最优目标。将达到最优目标的方案称 为最优方案或最优决策，搜寻最优方案的方法称为最优化 方法，关于最优化方法的数学理论称为最优化论。 最优化问题至少有两要素：一是可能的方案；二是要 追求的目标。后者是前者的函数。
“最优资源配置理论的贡献”，诺贝尔经济学奖
运筹学在工业，农业，商业，物流，经济计划，人力 资源，军事等行业都有着非常广泛的应用。有人曾对世界 上500家著名的企业集团或跨国公司进行过调查，发现其 中95%曾使用过线性规划，75%使用过运输模型，90%使用 过网络计划技术，90%使用过存储模型，43%使用过动态规 划。 由此可见运筹学一门应用性很强的学科。特别是随着 计算机技术的不断发展，计算机成为运筹学最强有力的运 算工具，运筹学越来越显示出其广泛的使用价值。
最近的一些理论研究方向
(2) 不确定性决策研究
• 供应链管理。主要研究基于信息更新下，供应 链模型的优化和决策。 • 随机存储模型。主要用博弈理论和随机比较理 论来研究供应商和销售商之间的协调问题。 • 在不确定性环境下实时供应链控制和应急管理 • 具有多类顾客到达的随机排队网络优化与设计。 主要研究优化与设计中最基本的两个问题，即具 有多类顾客到达随机排队网络的稳定性与扩散逼 近。 张汉勤提供（hanqin@）
最优化技术应用范围十分广泛。 在我们日常生活中，在工农业生产、社会经济、国 防、航空航天工业中处处可见其用途。
最优化技术工作被分成两个方面，一是由实际生产 或科技问题形成最优化的数学模型，二是对所形成的数 学问题进行求解。
清华大学 凸优化 讲义ch1(part1)
1947年
George B. Dantzig提出线性规划(linear programming), (U.S. Department of the Air Force)及单纯形算法
1970s
计算复杂性理论的出现，S. A. Cook(1971)的主要工作。 M.R. Garey and D. S. Johnson(1979)总结工作。 Computers and intractability: a guide to the theory of NPcompleteness.
五道口最有人气的论坛
/bbs
五道口最好的生活网
五道口最有人气的论坛
/bbs
五道口最好的生活网
五道口最有人气的论坛
/bbs
近期情况
文章总数上升趋势，势头减慢 应用文章上升，理论文章下降 寻求更高效的算法
五道口最好的生活网
五道口最有人气的论坛
/bbs
1970s，计算机开始广泛应用，维数爆炸现 象，快速反应要求，计算复杂性理论产生。
将问题进行分类
简单问题：多项式可解 复杂问题：非多项式可解,NP-complete, NP-hard
实际问题求解要求
五道口最好的生活网
五道口最有人气的论坛
/bbs
发展历史
第二次世界大战期间（1940s），game theory, linear programming。
英国海岸雷达系统，负责人：A.P. Rowe, 防空雷达系统与战斗机 配合
英国：在数量上主力战舰（战巡舰 ）和航空母舰的数量占绝对优 势。在质量上英国战舰在有一定的速度优势。在造舰能力上要高于 德国。 德国：战舰是英国的1/3或1/4。航空母舰到战争结束时只有2艘，但 没有参加任何战斗。德国战舰在防护能力，火控系统，火炮威力上 占较大优势。 海上博弈（Game theory）
最优化原理与方法
最优化原理与方法首先讲几个问题：1>本部分以讲最优化原理和方法为主，联系金属加工工艺(轧钢)生产为辅。
因为最优化原理与方法不仅用于金属加工(轧钢生产)，而且适用于国民经济的各个部门。
2>最优化（原理）是近化应用数学的一个新的分支。
最优化主要是研究在给定的条件下，如何做出最好的决策去完成所给的任务。
本门课程的基础是微积分和线性代数，本门课程的计算工具是电子计算机。
因为用的数学知识和证明较多，我们在讲课中力求深入浅出，对有些证明我们予以省略，这一方面是由于学时有限，另一方面不要用过多的证明冲淡我们对方法的掌握，我们的重点是“实用”。
但要求对一些基本概念要有清晰的了解。
3>主要参考书是“轧制变形规程优化设计”(刘战英，冶金工业出版社)。
参考书是“最优化原理与方法”（东北工学院，薛嘉庆，冶金工业出版社）。
本书的规定学时是70学时，所以我们不能全讲，只讲其中一部分，有些内容还是这本书没有的。
另一本参考书是“最优化技术基础”（范鸣玉、张莹，清华大学出版社）4>学习方法a、认真听课，认真做笔记，基本概念和基本方法一定要掌握，要及时复习。
b、认真完成作业c、上机操作5>考核方式a、作业完成情况b、笔试（闭卷6>学习目的对优化技术入门，能编制简单的优化程序，最好能在毕业设计和论文中加以应用。
1最优化问题与数学预备知识1.1引言1.1.1什么是最优化问题做一切工作，我们总想从一切可能的方案中选出最优的方案，这就是最优化问题如1）安排生产计划方面，如何在现有人力、物力条件下，合理安排产品生产，使总产值为最高：2）产品设计方面，工字钢（截面抗弯能力，宽高比或面模量wx/f）机械零件；3）工厂布局、物资调动方面；4）配料方面，如何合理配料，在保证质量前提下使成本最低；5）自动控制中参数的设定：如轧钢自动控制系统中连轧机各架轧机压下量的设定；在坯料厚度H和成品限制条件都能满足的情况下，如何分配各架轧机的压下量，使达到最优工作状态；等等，由此可见，在各生产、科研领域中普遍存在着最优化问题。
清华大学研究生公共课讲义 最优化理论与算法(第2版)
定义
设 为 非 空 凸 集 ， ，若 不
能表示成 中两个不同点的凸组合；换言之，若假
设
一
）
，
图
必推得
，则 称 是凸集 的极点
按此定义，图
中 ，图 ） 中 多 边 形 的 顶 点
，
和 不 是 极 点 图（ 中 圆 周 上 的 点 均 为 极 点
和 是极点，而
由图
可以看出，在给定的两个凸集中，任何一点都能表示成极点的凸组合 这
因此要求
参数的选择还必须保证在负荷 的作用下钢管不发生弯曲，这就要求压应力不
超过临界应力 临界应力可由
公 式 算 出：
其中 是已知的弹性模量 按此要求应有
根据以上分析，桁架的最优设计问题，就是求重量函数 在 上 述 个约束条件下的极小
点问题 它的数学模型是
第 ４ 页
例
选址问题
设 有 个 市 场 ，第 个市场的位置为
乘
数法
年法国数学家
研究了函数值沿什么方向下降最快的问题，提出最速下
降法
年前苏联数学家
提出了解决下料问题和运输问题这两种线
性规划问题的求解方法 人们关于最优化问题的研究工作，随着历史的发展不断深入 但
是，任何科学的进步，都受到历史条件的限制，直至 世纪 年代，最优化这个古老课题
并未形成独立的有系统的学科
在 上 连 续 ，记 作
再设 为开集，如果在每一点
，对所有
连 续 ，则 称 ，偏 导
数
存在且连续，则称 在开集 上连续 可微，记作
如果在每一点
对所有
和
，二 阶 偏 导 数
存在且连续，则称 在 开 集 上 二 次
连 续 可 微 ，记 作 函数 在 处的 梯度为 维 列 向 量：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
小结
原问题(min)
有最优解 无界解 不可行
对应关系
对偶问题(max)
有最优解 不可行 无界解
对偶单纯形法
• 掌握对偶单纯形方法（对偶可行的基本 解，如何求初始对偶可行的基本解）。
• 与原单纯形法的区别： • 原单纯形法保持原问题的可行性，对偶单
2. 极点和极方向的定义
设S是非空集合，x S，若x不能表示成S中两个
不同点的凸组合，即若假设x x(1) (1 )x(2)，必
推出x x(1) x(2)，则称x是凸集S的极点。
要求：会证明或判断一个点是否是极点.
设S是闭凸集，d为非零向量，如果对S中的每一
个x，有{x d | 0} S，则称d是S的方向；又设d (1) 和d (2)是S的两个方向，若对任何正数，有d (1) d (2)，
• 1.携带研究生证，以备查对。
• 2．提前十分钟进入考场。考试开始十五分钟后，不准再 进入考场，逾时以旷考论。题卷发出十五分钟后，方可交 卷离场。
• 3．除答卷必需用的文具及教师指定的考试用具外，书包、 书籍、笔记、纸张等一律按监考教师要求集中放置。
• 4．不允许携带具有信息传递或存储功能的工具（如BP机、 手机等）进入考场。
min f (x) s.t. gi (x) 0, i 1, , m
hj (x) 0, j 1, , l 若f (x)是凸函数，gi (x)(i 1,, m)是凹函数， hj (x)( j 1,,l)是线性函数，则原问题为凸规划。
性质：凸规划的局部极小点就是整体极小点， 且极小点的集合为凸集。
xn1
j 1,,n
• 1．基本概念:
• 可行域(线性规划的可行域是凸集).
• 解的情形:无解(无可行解)、无界解(不存在 有限的最优解)、最优解(最优解与最优值的 区别)、局部最优解与全局最优解.
• 可行解、基本解、基、基变量、非基变量、 基本可行解、非退化（退化）的基本可行解。
• 2．基本性质：
B1b
0
1若cBB1NcN 0极小化问题，则现行基本可行解为最优解。
2 若存在cBB1Pj cj 0，用 主元消去法求改进的基本可行解.
2．寻找初始基本可行解
min f x cx
s.t.
Ax b
x0
两阶段法
min s.t.
eT xa Axxa b x,xa 0
e 111T
min
大M法 s.t.
了解表示定理
2．凸集分离定理
（1）会应用凸集分离定理 （2）掌握Farkas定理和Gordan定理和证明方法，
会应用这两个定理证明相应的题目。
3．凸函数(凹函数)
要求：掌握凸(凹)函数的定义、性质及判断方法，会证 明或判断一个函数是否是凸(凹)函数 。
凸规划
• 凸规划：求凸函数在凸集上的极小点。
• 线性规划存在有限最优解的充要条件是所 有cd(j)为非负数，其中d(j)为可行域的极方向。
• 若线性规划问题存在有限最优解，则目标 函数的最优值可在某个极点达到。
• 基本可行解与可行域极点之间的关系---等 价。
• 基本可行解的存在问题：有可行解，一定 有基本可行解。
单纯形法
min s.t.
要求：会判断一个模型是否为凸规划
线性规划部分
LP的标准形式
1、极小化型 2、约束方程为等式 3、所有的决策变量为非负值 4、约束方程的右端项系数为非负值
n
min z cjxj j1
n
s. t
aijxj bi
j1
xj 0
i 1,,m
min z cx
c1n
s.t. Ax b Amn bm1 0
x0
f x cx
Ax b x0
1.存在初始基B，使得B1b 0.
如何判断该问题是否有最优解？
如何判断一个基是否为最优基？
如何判断该问题是否有无穷多最优解？
用单纯形表求解问题：
xB
xB
Im
xN B-1N
0
cBB-1N-cN
右端 B-1b cBB-1bBiblioteka 假设b B1b 0,有一基本可行解
x
xB xN
• 9．在规定的时间内答卷，不得拖延。交卷时间到，考生 须在原座位安静地等候监考教师收卷后，方可离场。
总复习
• 一.凸集与凸函数 • 1．凸集的定义、性质
设S1和S2是两个凸集，实数，则 (1) S1 {x | x S1}是凸集;
(2) S1 S2 {x(1) x(2) | x(1) S1, x(2) S2}是凸集; (3) S1 S2 {x(1) x(2) | x(1) S1, x(2) S2}是凸集; (4) S1 S2是凸集;
• 5．答卷一般用钢笔或圆珠笔（蓝色或黑色，不得用红 色），不得用铅笔（画图或外语考试选择题等指定用铅笔 除外）。
• 6．答卷时不准互借文具（包括计算器、计算尺等）。
• 7．严禁以任何理由左顾右盼、交头接耳、抄袭或看别人 答卷等各种形式的作弊行为。
• 8．答卷时，不得中途离场后再行返回。如有特殊原因需 离场者，必须经监考教师准许。答卷一经考生带出考场， 即行作废。
cx MeT xa Axxa b x0
e 111T m1
M0
对偶原理
•
min
max
•变
≥0
≤
约
•量
≤0
≥
束
•
无限制
=
方
•
程
•约
≥
≥0
•束 ≤
≤0
变
•方
=
无限制
量
•程
• 会写各种形式（对称、非对称、一般形 式）的对偶问题；
• 掌握弱对偶定理和强对偶定理及其相关 推论；
• 会用互补松弛定理求原问题或对偶问题 的解；
则称d (1)和d (2)是两个不同的方向，若S的方向d不能表示 成该集合的两个不同方向的正的线性组合，则称d为S的 极方向。
要求：会证明或判断一个非零向量是否是方向或极方向.
结论： 设S {x | Ax b, x 0}为非空集合，d是 非零向量，则d是S的方向的充要条件是d 0且 Ad 0。
• 考试时间：2014年1月14日下午2：30-4:30 • 考场安排： • 三教2101：学号在
2010210814~2013210673 三教2102：学号在
2013210677 ~ 2013310384 • 三教2301：其余同学
• 答疑安排： • 2014年1月11、12日 • 上午：8:30~11:30 • 下午：2:30~5:30 • 地点：一教103 • 2014年1月13日 • 上午：8:30~11:30 • 下午：2:30~5:30 • 地点：一教102