农大最优化方法(1)PPT课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
You Know, The More Powerful You Will Be
Thank You
在别人的演说中思考，在自己的故事里成长
Thinking In Other People‘S Speeches，Growing Up In Your Own Story
最优化问题简介
第一节 最优化问题简介
什么是最优化 最优化问题的分类 相关概念
什么是最优化
最优化：在众多可行方案或方法中找到最好的方 案或方法，构造寻求最优解的计算方法.
金融
交通运输
收益最大或 风险最小
两地之间的输送管 道或运输路线在满 足要求的条件下尽
可能短
工业生产
汽车生产中希望 用同样面积的钢 板切割尽可能多
0 在点 x
的内点.
是无效约束，并且称
x
是
内点：对于一个可行点 x ，若所有不等式约束都是无
效约束，就称 x 是可行域的内点.
边界点：不是内点的可行点就是可行域的边界点.
全局最优解与局部最优解
局部最优解：设
, 如果存在 一个邻域
使得
x* F
N (x*) {x | || x x* || },
min s.t.
c1x1 c2 x2 a11x1 a12 x2
c n
xn a1n
xn
b1,
连续光滑a的m1最x1优化a问m2题x2，若目标 a函m数n x和n 约束bm函, 数都是
变量 问题.
am1,1x1 am的1,2线x2性函数，a则m称1,为n x线n 性 规bm划1,
一般形式a：p1
单位产品利
3
5
4
润（千元）
例 生产计划
Qj
xj
j 1,2,3,
max s.t.
3x1 2 x1 2 x2
5x2 3x2 4x3
4x3 1500, 800,
总利润
原料日消耗量 不超过可用量
3x12x2 5x3 2000,
解：设x 产j 品0, j 日产1,量2,3.个单位，
最优化问题的数学模型
x1 a
p
2
x2
a pn xn
bp.
二次规划问题
目标函数是变量 x 的二次函数，约束函数都是变量 x
的线性函数，称为二次规划问题.
一般形式：
min s.t.
q(x) A1x b
1 2
(1)
xT ,
Gx
cT
x
d
A2 x b(2) .
其中 G 为 n n 阶对称矩阵.
可行点与可行域
成立，f 则(x*称) f 是(x问), 题（x 1）N的(x局*)部 最F 优解，若不
等式对于 x*
严格成立，则称
为严格局部x 极N小(x点*). F, x x*
x*
全局(总体)最优解：设
，如果有
x* F
成立，则称f (x*)是问f题(x（), 1）x的全F局最优解，若不等
式对于所有不x同* 于 的可行点严格成立，则称 为
根据实际问题的不同要求，最优化模型有不同的形式， 但经过适当的变换都可以转换成上述一般形式.
最优化问题的分类
最优化问题
根据约束 条件分类
无约束优化问题
min f (x), x Rn.
约束优化问题 等式约束优化问题
不等式约束优化问题 混合约束问题
min f (x), s.t. ci (x) 0, i 1,, m
有效(积极\起作用)约束：对于可行点 x，考虑不等式
约束 ci (x) 0 ，若 ci (x) 0 ，就称约束 ci (x) 0
在点 x 是有效约束，并称可行点
的边界.
x
位于约束
ci
(x)
0
无效约束：对于可行点 x ，若 ci (x) 0 ，就称不等
式约约束ci束( xc) i( x0)
例 无线传感器网络定位问题
xi x j dij , (i, j) N x {(i, j) | dij rd}, i j; ak x j skj , (k, j) Na {(k, j) | skj rd}.
min
( xi x j 2 dij 2 )2
( ak x j 2 skj 2 )2
min f (x), s.t. ci (x) 0, i 1,, m
最优化问题的分类
最优化问题
根据函 数性质、 复杂程 度分类
连续最优化：决策变量取值连续 光滑最优化：函数连续可微 线性规划
非线性最优化
非光滑优化：有一个非光滑
离散最优化：决策变量取值离散
线性规划问题
x ( x1, , xn )T
满足最优化问题的一般形式（1）中所有约束条件的点
称行F为域可，x行即ci (点x), 所0有,i可 1行, 2点,的,集m,合称ci (为x)可行0,域i . m用F1,表示, p可.
c1(x) 2x1 3x2 x3 6 0, 例 x1 0,
x2 0,
x3
x3 0.
x2
x1
有效约束、无效约束与内点、边界点
(i, j )N x , i j
(k , j )Na
刻画上述问题的欧几里得距离几何模型如下：
二次最小二乘问题
例 生产计划
P1, P2 , P3
Q1, Q2 , Q3
产品 原料
Q1
每日原料可
Q2
Q3
用量
某工厂P1用3种原料2
3
0
1500
生P2产3种产品0
2
4
800
已大知的单生P3位产产计品划所. 需3 原料及利2润如下，试5 制定总利20润00最
的外壳
例 无线传感器网络定位问题
给定基站(绿色), m个, 坐标 位置确定；无线传感器 (红 色), n个, 坐标位置待定.
无线传感技术可以测量出 所有小于接收半径rd的无 线传感器与基站间的或者 两个无线传感器间的距离 (蓝色线段).
要求的问题是如何通过这 些距离和给定的基站坐标, 确定所有无线传感器的坐 标.
一般形式
决策变量
目标函数
min f (x),
s.t. ci (x) 0, i 1, 2,, m,
(1)
约束 函其数中
ci (x) 0, i m 1,,wk.baidu.comp,
为连续x 函x数1, x，2,通,常xn还T 要 R求n ,连f 续: R可n 微R. 1, ci : R n R1(i 1, 2,, p)
严格全局最优解. x*
x*
全局最优解与局部最优解
例
ac
d
eb
注1：并非所有连续可微函数都有极小解. 注2：即使问题有最优解，最优解也未必唯一，也未
必是全局最优解.
写在最后
经常不断地学习,你就什么都知道。你知道得越多,你就越有力量 Study Constantly, And You Will Know Everything. The More
Thank You
在别人的演说中思考，在自己的故事里成长
Thinking In Other People‘S Speeches，Growing Up In Your Own Story
最优化问题简介
第一节 最优化问题简介
什么是最优化 最优化问题的分类 相关概念
什么是最优化
最优化：在众多可行方案或方法中找到最好的方 案或方法，构造寻求最优解的计算方法.
金融
交通运输
收益最大或 风险最小
两地之间的输送管 道或运输路线在满 足要求的条件下尽
可能短
工业生产
汽车生产中希望 用同样面积的钢 板切割尽可能多
0 在点 x
的内点.
是无效约束，并且称
x
是
内点：对于一个可行点 x ，若所有不等式约束都是无
效约束，就称 x 是可行域的内点.
边界点：不是内点的可行点就是可行域的边界点.
全局最优解与局部最优解
局部最优解：设
, 如果存在 一个邻域
使得
x* F
N (x*) {x | || x x* || },
min s.t.
c1x1 c2 x2 a11x1 a12 x2
c n
xn a1n
xn
b1,
连续光滑a的m1最x1优化a问m2题x2，若目标 a函m数n x和n 约束bm函, 数都是
变量 问题.
am1,1x1 am的1,2线x2性函数，a则m称1,为n x线n 性 规bm划1,
一般形式a：p1
单位产品利
3
5
4
润（千元）
例 生产计划
Qj
xj
j 1,2,3,
max s.t.
3x1 2 x1 2 x2
5x2 3x2 4x3
4x3 1500, 800,
总利润
原料日消耗量 不超过可用量
3x12x2 5x3 2000,
解：设x 产j 品0, j 日产1,量2,3.个单位，
最优化问题的数学模型
x1 a
p
2
x2
a pn xn
bp.
二次规划问题
目标函数是变量 x 的二次函数，约束函数都是变量 x
的线性函数，称为二次规划问题.
一般形式：
min s.t.
q(x) A1x b
1 2
(1)
xT ,
Gx
cT
x
d
A2 x b(2) .
其中 G 为 n n 阶对称矩阵.
可行点与可行域
成立，f 则(x*称) f 是(x问), 题（x 1）N的(x局*)部 最F 优解，若不
等式对于 x*
严格成立，则称
为严格局部x 极N小(x点*). F, x x*
x*
全局(总体)最优解：设
，如果有
x* F
成立，则称f (x*)是问f题(x（), 1）x的全F局最优解，若不等
式对于所有不x同* 于 的可行点严格成立，则称 为
根据实际问题的不同要求，最优化模型有不同的形式， 但经过适当的变换都可以转换成上述一般形式.
最优化问题的分类
最优化问题
根据约束 条件分类
无约束优化问题
min f (x), x Rn.
约束优化问题 等式约束优化问题
不等式约束优化问题 混合约束问题
min f (x), s.t. ci (x) 0, i 1,, m
有效(积极\起作用)约束：对于可行点 x，考虑不等式
约束 ci (x) 0 ，若 ci (x) 0 ，就称约束 ci (x) 0
在点 x 是有效约束，并称可行点
的边界.
x
位于约束
ci
(x)
0
无效约束：对于可行点 x ，若 ci (x) 0 ，就称不等
式约约束ci束( xc) i( x0)
例 无线传感器网络定位问题
xi x j dij , (i, j) N x {(i, j) | dij rd}, i j; ak x j skj , (k, j) Na {(k, j) | skj rd}.
min
( xi x j 2 dij 2 )2
( ak x j 2 skj 2 )2
min f (x), s.t. ci (x) 0, i 1,, m
最优化问题的分类
最优化问题
根据函 数性质、 复杂程 度分类
连续最优化：决策变量取值连续 光滑最优化：函数连续可微 线性规划
非线性最优化
非光滑优化：有一个非光滑
离散最优化：决策变量取值离散
线性规划问题
x ( x1, , xn )T
满足最优化问题的一般形式（1）中所有约束条件的点
称行F为域可，x行即ci (点x), 所0有,i可 1行, 2点,的,集m,合称ci (为x)可行0,域i . m用F1,表示, p可.
c1(x) 2x1 3x2 x3 6 0, 例 x1 0,
x2 0,
x3
x3 0.
x2
x1
有效约束、无效约束与内点、边界点
(i, j )N x , i j
(k , j )Na
刻画上述问题的欧几里得距离几何模型如下：
二次最小二乘问题
例 生产计划
P1, P2 , P3
Q1, Q2 , Q3
产品 原料
Q1
每日原料可
Q2
Q3
用量
某工厂P1用3种原料2
3
0
1500
生P2产3种产品0
2
4
800
已大知的单生P3位产产计品划所. 需3 原料及利2润如下，试5 制定总利20润00最
的外壳
例 无线传感器网络定位问题
给定基站(绿色), m个, 坐标 位置确定；无线传感器 (红 色), n个, 坐标位置待定.
无线传感技术可以测量出 所有小于接收半径rd的无 线传感器与基站间的或者 两个无线传感器间的距离 (蓝色线段).
要求的问题是如何通过这 些距离和给定的基站坐标, 确定所有无线传感器的坐 标.
一般形式
决策变量
目标函数
min f (x),
s.t. ci (x) 0, i 1, 2,, m,
(1)
约束 函其数中
ci (x) 0, i m 1,,wk.baidu.comp,
为连续x 函x数1, x，2,通,常xn还T 要 R求n ,连f 续: R可n 微R. 1, ci : R n R1(i 1, 2,, p)
严格全局最优解. x*
x*
全局最优解与局部最优解
例
ac
d
eb
注1：并非所有连续可微函数都有极小解. 注2：即使问题有最优解，最优解也未必唯一，也未
必是全局最优解.
写在最后
经常不断地学习,你就什么都知道。你知道得越多,你就越有力量 Study Constantly, And You Will Know Everything. The More