非线性规划
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
运筹学课件
运
决
筹
胜
帷
非线性规划
千
幄
里
之
之
中
Non-linear Programming
外
非线性规划
❖基本概念 ❖凸函数和凸规划 ❖一维搜索方法 ❖无约束最优化方法 ❖约束最优化方法
基本概念
❖非线性规划问题 ❖非线性规划方法概述
非线性规划问题
例1 曲线的最优拟合问题
已知某物体的温度 与时间 t 之间有如 下形式的经验函数关系：
h( x) (h1 ( x),..., hp ( x))T ，
其中， g : R n R p , h : R n Rq ，那么(MP)可简记为
min f ( x)
s.t .
g(x) 0 或者min f ( x) x X
h( x) 0
当p=0,q=0时，称为无约束非线性规 划或者无约束最优化问题。
否则，称为约束非线性规划或者约束 最优化问题。
最优解和极小点
定义 4.1.1 对于非线性规划(MP)，若 x* X ，并且有 f ( x* ) f ( x), x X
则称 x* 是(MP)的整体最优解或整体极小点，称 f ( x* ) 是 (MP)的整体最优值或整体极小值。如果有
f ( x* ) f ( x), x X, x x* 则称 x* 是(MP)的严格整体最优解或严格整体极小点，称 f ( x* ) 是(MP)的严格整体最优值或严格整体极小值。
c1 c2t e c3t
(*)
其中c1 ，c2 ，c3 是待定参数。现通过测
试获得 n 组 与 t 之间的实验数据(ti , i ) ，
i=1，2，…,n。试确定参数c1 ，c2 ，c3 ，
使理论曲线(*)尽可能地与 n 个测试点
t
(ti , i ) 拟合。
n
min [ i (c1 c2ti e c3ti )]2 i1
定理 4.2.2 设 S R n 是非空凸集， f : Rn R 是凸函数，c R
H S ( f , c) x S f ( x) c
是凸集。
，则集合
定理 4.2.3 设 S Rn 是非空开凸集， f : S R 可微，则
（1） f 是 S 上的凸函数的充要条件是 f ( x1 )T ( x 2 x1 ) f ( x 2 ) f ( x1 ) ， x1 , x 2 S
数学规划
设 x ( x1 ,..., xn )T R n ， f ( x); gi ( x), i 1,..., p; hj ( x), j 1,..., q : R n R , 如下的数学模型称为数学规划(Mathematical Programming, MP)：
min f ( x)
s.t. gi ( x) 0, i 1,..., p
hj ( x) 0, j 1,..., q
X
x
Rn
gi (x) hj (x)
0, i 1,...,p 0, j 1,...,q
约束集或可行域
xX
MP的可行解或可行点
向量化表示
令
g( x) ( g1 ( x),..., g p ( x))T
凸函数和凸规划
凸函数及其性质 凸规划及其性质
凸函数及其性质
定义 4.2.1 设 S R n 是非空凸集， f : S R ，如果对任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ，x1 , x 2 S 则称 f 是 S 上的凸函数，或 f 在 S 上是凸的。如果对于任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ，x 1 x 2 则称 f 是 S 上的严格凸函数，或 f 在 S 上是严格凸的。
定义 4.1.2 对于非线性规划(MP)，若 x * X ，并且存x在* 的一个
领域 N ( x* ) x Rn x x* ( 0, R) ，使
f ( x* ) f ( x), x N ( x* ) X ，
则称 x* 是(MP)的局部最优解或局部极小点，称 f ( x* ) 是(MP)的局部 最优值或局部极小点。如果有
则称向量 p 是函数 f(x)在点x 处的下降方向。
定义 4.1.4 设 X Rn , x X , p Rn , p 0 ，若存在 t 0 ，使 x tp X
则称向量 p 是函数 f(x)在点 x 处关于 X 的可行方向。
非线性规划基本迭代格式
第 1 步 选取初始点x0 ，k:=0; 第 2 步 构造搜索方向 pk ； 第 3 步 根据 pk ，确定步长tk ； 第 4 步 令 x k1 x k tk pk ， 若 x k1 已满足某种终止条件，停止迭代，输出 近似解 x k1 ；否则令 k:=k+1，转回第 2 步。
其中 f
(x1)
f ( x1 ) (
若-f 是 S 上的（严格）凸函数，则称 f 是 S 上的（严格）凹函数， 或 f 在 S 上是（严格）凹的。
定理 4.2.1 设 S Rn 是非空凸集。
（1） 若 f : Rn R 是 S 上的凸函数， 0 ，则f 是 S 上的凸函数；
（2） 若 f1 , f 2 : Rn R 都是 S 上的凸函数，则 f1 f 2 是 S 上的凸函数。
例2 构件容积问题
设计一个右图所示的由圆锥和圆柱面 围成的构件，要求构件的表面积为 S， 圆锥部分的高 h 和圆柱部分的高 x2 之 比为 a。确定构件尺寸，使其容积最 大。
x3
x2 x1
max V s.t. x1
(1 x12
a/ a2
3)x12 x2
x
பைடு நூலகம்
2 2
2x1
x
2
x12
S
x1 0, x2 0
f ( x * ) f ( x), x N ( x* ) X , x x* ，
则称 x* 是(MP)的严格局部最优解或严格局部极小点，称 f ( x* ) 是(MP) 的严格局部最优值或严格局部极小点。
非线性规划方法概述
定义 4.1.3 设 f : Rn R, x Rn , p Rn , p 0 ，若存在 0 ，使 f ( x tp) f ( x), t (0, )
运
决
筹
胜
帷
非线性规划
千
幄
里
之
之
中
Non-linear Programming
外
非线性规划
❖基本概念 ❖凸函数和凸规划 ❖一维搜索方法 ❖无约束最优化方法 ❖约束最优化方法
基本概念
❖非线性规划问题 ❖非线性规划方法概述
非线性规划问题
例1 曲线的最优拟合问题
已知某物体的温度 与时间 t 之间有如 下形式的经验函数关系：
h( x) (h1 ( x),..., hp ( x))T ，
其中， g : R n R p , h : R n Rq ，那么(MP)可简记为
min f ( x)
s.t .
g(x) 0 或者min f ( x) x X
h( x) 0
当p=0,q=0时，称为无约束非线性规 划或者无约束最优化问题。
否则，称为约束非线性规划或者约束 最优化问题。
最优解和极小点
定义 4.1.1 对于非线性规划(MP)，若 x* X ，并且有 f ( x* ) f ( x), x X
则称 x* 是(MP)的整体最优解或整体极小点，称 f ( x* ) 是 (MP)的整体最优值或整体极小值。如果有
f ( x* ) f ( x), x X, x x* 则称 x* 是(MP)的严格整体最优解或严格整体极小点，称 f ( x* ) 是(MP)的严格整体最优值或严格整体极小值。
c1 c2t e c3t
(*)
其中c1 ，c2 ，c3 是待定参数。现通过测
试获得 n 组 与 t 之间的实验数据(ti , i ) ，
i=1，2，…,n。试确定参数c1 ，c2 ，c3 ，
使理论曲线(*)尽可能地与 n 个测试点
t
(ti , i ) 拟合。
n
min [ i (c1 c2ti e c3ti )]2 i1
定理 4.2.2 设 S R n 是非空凸集， f : Rn R 是凸函数，c R
H S ( f , c) x S f ( x) c
是凸集。
，则集合
定理 4.2.3 设 S Rn 是非空开凸集， f : S R 可微，则
（1） f 是 S 上的凸函数的充要条件是 f ( x1 )T ( x 2 x1 ) f ( x 2 ) f ( x1 ) ， x1 , x 2 S
数学规划
设 x ( x1 ,..., xn )T R n ， f ( x); gi ( x), i 1,..., p; hj ( x), j 1,..., q : R n R , 如下的数学模型称为数学规划(Mathematical Programming, MP)：
min f ( x)
s.t. gi ( x) 0, i 1,..., p
hj ( x) 0, j 1,..., q
X
x
Rn
gi (x) hj (x)
0, i 1,...,p 0, j 1,...,q
约束集或可行域
xX
MP的可行解或可行点
向量化表示
令
g( x) ( g1 ( x),..., g p ( x))T
凸函数和凸规划
凸函数及其性质 凸规划及其性质
凸函数及其性质
定义 4.2.1 设 S R n 是非空凸集， f : S R ，如果对任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ，x1 , x 2 S 则称 f 是 S 上的凸函数，或 f 在 S 上是凸的。如果对于任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ，x 1 x 2 则称 f 是 S 上的严格凸函数，或 f 在 S 上是严格凸的。
定义 4.1.2 对于非线性规划(MP)，若 x * X ，并且存x在* 的一个
领域 N ( x* ) x Rn x x* ( 0, R) ，使
f ( x* ) f ( x), x N ( x* ) X ，
则称 x* 是(MP)的局部最优解或局部极小点，称 f ( x* ) 是(MP)的局部 最优值或局部极小点。如果有
则称向量 p 是函数 f(x)在点x 处的下降方向。
定义 4.1.4 设 X Rn , x X , p Rn , p 0 ，若存在 t 0 ，使 x tp X
则称向量 p 是函数 f(x)在点 x 处关于 X 的可行方向。
非线性规划基本迭代格式
第 1 步 选取初始点x0 ，k:=0; 第 2 步 构造搜索方向 pk ； 第 3 步 根据 pk ，确定步长tk ； 第 4 步 令 x k1 x k tk pk ， 若 x k1 已满足某种终止条件，停止迭代，输出 近似解 x k1 ；否则令 k:=k+1，转回第 2 步。
其中 f
(x1)
f ( x1 ) (
若-f 是 S 上的（严格）凸函数，则称 f 是 S 上的（严格）凹函数， 或 f 在 S 上是（严格）凹的。
定理 4.2.1 设 S Rn 是非空凸集。
（1） 若 f : Rn R 是 S 上的凸函数， 0 ，则f 是 S 上的凸函数；
（2） 若 f1 , f 2 : Rn R 都是 S 上的凸函数，则 f1 f 2 是 S 上的凸函数。
例2 构件容积问题
设计一个右图所示的由圆锥和圆柱面 围成的构件，要求构件的表面积为 S， 圆锥部分的高 h 和圆柱部分的高 x2 之 比为 a。确定构件尺寸，使其容积最 大。
x3
x2 x1
max V s.t. x1
(1 x12
a/ a2
3)x12 x2
x
பைடு நூலகம்
2 2
2x1
x
2
x12
S
x1 0, x2 0
f ( x * ) f ( x), x N ( x* ) X , x x* ，
则称 x* 是(MP)的严格局部最优解或严格局部极小点，称 f ( x* ) 是(MP) 的严格局部最优值或严格局部极小点。
非线性规划方法概述
定义 4.1.3 设 f : Rn R, x Rn , p Rn , p 0 ，若存在 0 ，使 f ( x tp) f ( x), t (0, )