非线性规划ppt课件
合集下载
第5讲 非线性规划
例1
min
f
x1
2x2
1 2
x12
1 2
x22
2x1 3x2 6
s.t.
x1
4x2
5
x1, x2 0
1.写成标准形式: min
f
x1
2 x2
1 2
x12
1 2
x22
2x1 3x2 6 0 x1 4x2 5 0
s.t. 0 x1 0 x2
例1
min
f
x1
2)当用新建原料场时,决策变量为:xij,xj,yj
1.使用临时原料场
模型求解
使用两个临时原料场A(5,1),B(2,7). 求从料场j 向使用单位i 的运送量
xij,在各建筑工地使用量必须满足和各料场运送量不超过日储量的条件下,
使总的吨千米数最小,此时由于ai,bi 、xj,yj都是已知的,故这是一个线性
输出极值点 M文件 迭代的初值
(6) [x,fval]= fmincon(...) (7) [x,fval,exitflag]= fmincon(...) (8) [x,fval,exitflag,output]= fmincon(...)
变量上下限
参数说明
注意:
[1] fmincon函数提供了大型优化算法和中型优化算法。默认 时,若在fun函数中提供了梯度(options参数的GradObj设置 为’on’),并且只有上下界存在或只有等式约束,fmincon函 数将选择大型算法。当既有等式约束又有梯度约束时,使用 中型算法。 [2] fmincon函数的中型算法使用的是序列二次规划法。在每 一步迭代中求解二次规划子问题,并用BFGS法更新拉格朗日 Hessian矩阵。 [3] fmincon函数可能会给出局部最优解,这与初值X0的选取 有关。
管理运筹学 06 非线性规划.ppt
在此例中,约束h(X ) x1 x2 6 0 对最优解发生 了影响,若以 h(X ) x1 x2 6 0 代替原约束, 则非线性规划的最优解是X (2,2) ,即图中的 C点,此时 f (X ) 0。由于最优点位于可行域 的内部,故事实上约束 h(X ) x1 x2 6 0 并未 发挥作用,问题相当一个无约束极值问题。
于 凸任集意。实数,集合S ={X|X∈R, f (X) ≤}是
2019/11/18
27
2.4 凸函数的性质
设f (X)为定义在凸集R上的凸函数,则它 的任一极小点就是它在R上的最小点(全 局极小点);而且它的极小点形成一个凸 集。
设f (X)为定义在凸集R上的可微凸函数, 若它存在点X*∈R,使得对于所有的X∈R 有▽ f (X *)T (X- X*) ≥0,则X*是f (X)在R上 的最小点(全局极小点)。
Example 2: 在层次分析(Analytic Hierarchy Process,
简记为 AHP)中,为进行多属性的综合评 价,需要确定每个属性的相对重要性,即 它们的权重。为此,将各属性进行两两比 较,从而得出如下判断矩阵:
2019/11/18
5
1.1 非线性规划问题举例
a11 … a1n
则必有
或
0 f (X ) x1
f ( X ) x2
f ( X ) xn
f ( X ) 0
2019/11/18
18
必要条件
f
(X
)
( f
(X x1
)
,
f ( X x2
)
,
在 X*点处的梯度。
,
f ( X xn
于 凸任集意。实数,集合S ={X|X∈R, f (X) ≤}是
2019/11/18
27
2.4 凸函数的性质
设f (X)为定义在凸集R上的凸函数,则它 的任一极小点就是它在R上的最小点(全 局极小点);而且它的极小点形成一个凸 集。
设f (X)为定义在凸集R上的可微凸函数, 若它存在点X*∈R,使得对于所有的X∈R 有▽ f (X *)T (X- X*) ≥0,则X*是f (X)在R上 的最小点(全局极小点)。
Example 2: 在层次分析(Analytic Hierarchy Process,
简记为 AHP)中,为进行多属性的综合评 价,需要确定每个属性的相对重要性,即 它们的权重。为此,将各属性进行两两比 较,从而得出如下判断矩阵:
2019/11/18
5
1.1 非线性规划问题举例
a11 … a1n
则必有
或
0 f (X ) x1
f ( X ) x2
f ( X ) xn
f ( X ) 0
2019/11/18
18
必要条件
f
(X
)
( f
(X x1
)
,
f ( X x2
)
,
在 X*点处的梯度。
,
f ( X xn
非线性规划基本概念.ppt
)
,
x 0
n
)
2、非线性规划问题的解的相关概念 一般来说,非线性规划的求解,比线性规划的求
解困难得多。线性规划有统一的单纯形求解方法,而 非线性规划目前还没有统一的一般算法。
1.1 可行集(可行域)
给定非线性规划问题《1》
min f (x1, x2, , xn )
s.t.
ghii
(x1, (x1,
数学模型3
max(min) I(x,h1, h2 ) k[ 2h1 3
3h 2
3 ];
(x2 h12 ) 2
((20
x)2
h
2 2
)
2
0 x 20, s.t. 3 h1 9,
3 h2 9.
即求三元函数I(x,h1,h2)在所给条件下的上的最大 值与最小值。
D
x
gi (x1,..., xn ) hi (x1,..., xn )
0, i 0, i
1, 2,..., L; L 1,..., m
1.2 局部极小点(局部最优解)
对于非线性规划《1》,若存在 x*D ,且对一切
满足 || x x*|| (即x为x*附近的点),都有 f (x*) f (x)
4、建立规划模型的注意点
4.1 线性规划问题的最优解一定在可行域的边界的顶 点处达到,任何一个最优解,就是全局最优解。
4.2 非线性规划的最优解可以在可行域内任何一点处达 到,非线性规划求解出来的只是局部最优解。所以在 针对非线性规划求解时,具体问题,有具体的搜索最 优解的方法,一般注意:
(1)尽可能给出靠近全局最优解附近的初始可行解; (2)尽可能给出每个决策分量的比较准确的上下界; (3)能够线性化的表达式,尽量线性化; (4)尽量每个表达式连续可导(起码二阶); (5)非线性规划每次求解结果不一定相同。
第13讲 非线性规划.ppt
6
信息与计算科学系
数学 建模
在一组等式或不等式的约束下,求一个函数的最大 值(或最小值)问题,其中至少有一个非线性函数,这 类问题称之为非线性规划问题。可概括为一般形式
min f ( x),
s.t. hj ( x) 0, j 1, , q, (3.1) gi ( x) 0, i 1, , p.
其中 x [x1, , xn]T 称为模型(3.1)的决策变量, f 称 为目标函数, gi (i 1, , p)和hj ( j 1, ,q)称为约束函 数。另外,gi ( x) 0 (i 1, , p)称为等式约束,hj ( x) 0
3
信息与计算科学系
数学 建模
例 3.1 (投资决策问题)某企业有n个项目可供选择
投资,并且至少要对其中一个项目投资。已知该企业拥有
总资金 A元,投资于第i(i 1, ,n)个项目需花资金ai 元, 并预计可收益bi 元。试选择最佳投资方案。
解 设投资决策变量为
xi
1, 决定投资第i个项目 ,i 1, , n,
x(1)+x(2)^2+x(3)^3-20]; %非线性不等式约束
h=[-x(1)-x(2)^2+2;
x(2)+2*x(3)^2-3]; %非线性等式约束
11
信息与计算科学系
数学 建模
(3)编写主程序文件如下 [x,y]=fmincon('fun1',rand(3,1),[],[],[],[],zeros(3,1),[],'fu n2')
14
信息与计)是极小值点,对应的极小值 f (1,0) 5; 点(1,2),( 3,0)不是极值点; 点( 3,2)是极大值点,对应的极大值 f ( 3,2) 31。
非线性规划培训课件.ppt
k
xk
f(xk)
||f(xk)||
pk
0
2 2
1040 100.079968
1040
1
1.901.09083572
3.803.9178054
3.844158 30.8.13895704
格局部最优解。
精品
全局最优解的充分条件
定理 4.4.4 设 f : R n R , x* Rn ,f 是 Rn 上的可微凸函 数。若有 f (x*) 0 ,则 x* 是(UMP)的全局最优解。 证:因为 f 是 Rn 上的可微凸函数,由凸函数的判别定理
4.2.3,可知 x Rn ,有 f x* x x* f x f x* 。 由于 f (x*) 0 ,因此 x Rn , 0 f x f x* ,即
f x* tp f x* 。 取 t 充分小,可使 x* tp N x* ,与(1)矛盾。
精品
局部最优解的充分条件
定理 4.4.3 设 f : R n R 在点 x Rn 处的 Hesse 矩阵 2 f (x*)
存在。若 f x* 0 ,并且 2 f x* 正定,则 x* 是(UMP)的严
df
小点,因此
xk tpk dt
0。
令 xk tpk x1k tp1k , xnk tpnk ,, xnk tpnk u1, u2 ,, un u ,
由复合函数求导法则,
df xk tpk f u du1 f u du2 f u dun
即, t 0, , f x tp f x。可知 p 是 f 在 x 处的下降
方向(定义 4.1.3)。
第5讲_非线性规划课件
参数说明
注意:
[1] fmincon函数提供了大型优化算法和中型优化算法。默认 时,若在fun函数中提供了梯度(options参数的GradObj设置 为’on’),并且只有上下界存在或只有等式约束,fmincon 函数将选择大型算法。当既有等式约束又有梯度约束时,使 用中型算法。
[2] fmincon函数的中型算法使用的是序列二次规划法。在每 一步迭代中求解二次规划子问题,并用BFGS法更新拉格朗 日Hessian矩阵。
iterations: 4
funcCount: 17
stepsize: 1
algorithm: [1x44 char]
firstorderopt: []
cgiterations: []
返回
二、非线性规划模型举例
例4 供应与选址
某公司有6个建筑工地要开工,每个工地的位置(用平面坐标
系a,b表示,距离单位:千米 )及水泥日用量d(吨)由下表给出。
•end
•CC=[aa(1,:) aa(2,:)];
A=[1 1 1 1 1 1 0 0 0 0 0 0
0 0 0 0 0 0 1 1 1 1 1 1]; B=[20;20]; Aeq=[1 0 0 0 0 0 1 0 0 0 0 0
26
min f d(i, j)xij
j1 i1
010000010000 001000001000 000100000100 000010000010 0 0 0 0 0 1 0 0 0 0 0 1 ]; beq=[d(1);d(2);d(3);d(4);d(5);d(6)]; VLB=[0 0 0 0 0 0 0 0 0 0 0 0];VUB=[];
function f=fun3(x);
非线性规划课件
得 X(1)=(x₁ (0),x₂ (1))T,S(1)=f(X(1))
②再固定x₂=x₂ (1): 求以x₁为单变量的目标函数的极值点,
得 X(2)=(x,(2),x₂ (1))T ,S(2)=f(X(2))
此时S(2)优于S(1), 且搜索区间缩短为x₁*∈[x,(2),b,],x₂*∈[x₂ (1),b₂] 第二步:如此交替搜索,直至满足给定精度ε为止
否则,继续缩短区间,
直至满足给定的精度为
①f(x₂)≥f(xq), 取[aq=ao,b,=x,]
X₁ =X2
x'2=b₁-λ(b₁-aq) ②f(x₂)<f(x₁), 取[a=x2,b,=b,]
x=aq+λ(b₁-aq)
10
x₂ =x₁
例 求 解 f(x)=-18x²+72x+28 的极大值点,δ≤0.1,起始搜索区间为[0,3] 解:①用间接法:令 f'(x)=-36x+72=0, 得驻点 x=2
xq*∈[aq,b,],x²*∈[a₂ ,b₂ ],.,x*∈[an,b,]
1、原理: ①从起点 X(0) 出发,沿平行于 x, 轴的方向P(1)进行一维搜索,
求得 f(X) 在该方向P(1)上近似极值点 X(1);
②从点 X(1) 出发,沿平行于 x₂ 轴的方向P(2)进行一维搜索,
求得 f(X) 在该方向P(2)上近似极值点 X(2); ③从点 X(2) 出发,照此交替进行下去,直至满足给定的精度ε为止
六、 寻优方法概述:
1、N.L.P.问题分类
① 无约束条件的NLP问题。 ② 有约束条件的NLP问题。 2、寻优方法
① 间接法(解析法):适应于目标函数有简单明确的数学表达式。
②再固定x₂=x₂ (1): 求以x₁为单变量的目标函数的极值点,
得 X(2)=(x,(2),x₂ (1))T ,S(2)=f(X(2))
此时S(2)优于S(1), 且搜索区间缩短为x₁*∈[x,(2),b,],x₂*∈[x₂ (1),b₂] 第二步:如此交替搜索,直至满足给定精度ε为止
否则,继续缩短区间,
直至满足给定的精度为
①f(x₂)≥f(xq), 取[aq=ao,b,=x,]
X₁ =X2
x'2=b₁-λ(b₁-aq) ②f(x₂)<f(x₁), 取[a=x2,b,=b,]
x=aq+λ(b₁-aq)
10
x₂ =x₁
例 求 解 f(x)=-18x²+72x+28 的极大值点,δ≤0.1,起始搜索区间为[0,3] 解:①用间接法:令 f'(x)=-36x+72=0, 得驻点 x=2
xq*∈[aq,b,],x²*∈[a₂ ,b₂ ],.,x*∈[an,b,]
1、原理: ①从起点 X(0) 出发,沿平行于 x, 轴的方向P(1)进行一维搜索,
求得 f(X) 在该方向P(1)上近似极值点 X(1);
②从点 X(1) 出发,沿平行于 x₂ 轴的方向P(2)进行一维搜索,
求得 f(X) 在该方向P(2)上近似极值点 X(2); ③从点 X(2) 出发,照此交替进行下去,直至满足给定的精度ε为止
六、 寻优方法概述:
1、N.L.P.问题分类
① 无约束条件的NLP问题。 ② 有约束条件的NLP问题。 2、寻优方法
① 间接法(解析法):适应于目标函数有简单明确的数学表达式。
非线性规划PPT演示文稿
正是由于局部最优解的存在,使得非线性规划问 题的求解要比线性规划问题的求解复杂得多。当求 得一个最优解时,常常无法确定该解是否为全局最 优解。但是在某些情况下,可以保证所求得的解就 是全局最优解。下面7.2节、7.3节所介绍的边际收 益递减的二次规划和可分离规划就属于这种情况。
RUC, Information School, Ye Xiang
RUC, Information School, Ye Xiang
求总风险(方差)的一种简便方法
第7章 非线性规划
由于目标函数“总风险(方差)”的公式是非线性的,也 复杂,希望找到一种不容易出错且简便的办法
构造协方差矩阵(方差、协方差)
总风险(方差)=
❖
SUMPRODUCT(MMULT(投资组合,协方差矩阵),投资
第7章 非线性规划
这种方法是将3.2节的成本收益平衡问题非 线性化。在这种情况下,成本是与投资有关 的风险,收益是投资组合的预期回报。
因此,该模型的一般表达形式为:
最小化 风险
约束条件 预期回报≥最低可接受水平
这个模型关注投资组合的风险和预期收益 之间的平衡。
RUC, Information School, Ye Xiang
例7.1 给定一根长度为400米
的绳子,用来围成一块矩形菜 地,问长和宽各为多少,使菜 地的面积最大? 解:这是一个小学数学问题, 现在把它当作一个规划问题来 求解。
RUC, Information School, Ye Xiang
7.1 非线性规划基本概念 第7章 非线性规划
(1) 决策变量
7.2.2 运用非线性规划优化 有价证券投资组合
第7章 非线性规划
投资组合优化,就是确定投资项目中的一 组最优投资比例。这里所说的“最优”,可 以是在一定风险水平下使得投资回报最大, 也可以是在一定的投资回报水平下使得风险 最小。
RUC, Information School, Ye Xiang
RUC, Information School, Ye Xiang
求总风险(方差)的一种简便方法
第7章 非线性规划
由于目标函数“总风险(方差)”的公式是非线性的,也 复杂,希望找到一种不容易出错且简便的办法
构造协方差矩阵(方差、协方差)
总风险(方差)=
❖
SUMPRODUCT(MMULT(投资组合,协方差矩阵),投资
第7章 非线性规划
这种方法是将3.2节的成本收益平衡问题非 线性化。在这种情况下,成本是与投资有关 的风险,收益是投资组合的预期回报。
因此,该模型的一般表达形式为:
最小化 风险
约束条件 预期回报≥最低可接受水平
这个模型关注投资组合的风险和预期收益 之间的平衡。
RUC, Information School, Ye Xiang
例7.1 给定一根长度为400米
的绳子,用来围成一块矩形菜 地,问长和宽各为多少,使菜 地的面积最大? 解:这是一个小学数学问题, 现在把它当作一个规划问题来 求解。
RUC, Information School, Ye Xiang
7.1 非线性规划基本概念 第7章 非线性规划
(1) 决策变量
7.2.2 运用非线性规划优化 有价证券投资组合
第7章 非线性规划
投资组合优化,就是确定投资项目中的一 组最优投资比例。这里所说的“最优”,可 以是在一定风险水平下使得投资回报最大, 也可以是在一定的投资回报水平下使得风险 最小。
运筹学―第六章非线性规划精品PPT课件
F1 1 Fn1 Fn2
, n 2,3,
n 0 1 2 3 4 5 6 7 8 9 10 11 12 …
Fn 1 1 2 3 5 8 13 21 34 55 89 144
23 3
…
Fn1
1 2 3 5 8 13 21 34 55 89 144
Fn
1
2
3
5
8
13
21
34
55
89
144
… 233
hj (x) 0, j 1,...q
(NLP)
X
x
Rn
gi (x) hj (x)
0, i 1,..., p 0, j 1,..., q
约束集
如果(NLP)的约束集X是凸集,目标函数f是 X上的凸函数,则(NLP)叫做非线性凸规划, 或简称为凸规划。
凸规划的性质
定理 6.3 对于非线性规划(NLP),若 gi ( x), i 1,..., p 皆为 Rn 上的凸函数, h j ( x), j 1,..., q 皆为线性函数, 并且 f 是 X 上的凸函数,则 NLP 是凸规划。
性质 6.2 设 S Rn 是非空凸集, f : Rn R 是凸函数, c R ,则集合
H S ( f , c) x S f ( x) c
是凸集。
凸函数的判 定
定理 6.1 设 S Rn 是非空开凸集, f : S R 可微,则
(1) f 是 S 上的凸函数的充要条件是
f ( x1 )T ( x 2 x1 ) f ( x 2 ) f ( x1 ) , x1 , x 2 S
试获得 n 组 与 t 之间的实验数据 (ti , i ) ,
i=1,2,…,n。试确定参数 c1 , c 2 , c 3 ,
非线性规划基础PPT课件
f
(
xk
tkdk
)
min t 0
f(xk
tdk
),
令 xk 1 xk tk dk ;k=k+1,转第1步。
第32页/共35页
• 一维搜索的方法很多,归纳起来,可分为试探 法和函数逼近法。试探法中包括如黄金分割法、 Fibonacci法等;函数逼近法中包括如牛顿法、 割线法等。
第33页/共35页
x (3,1)T
• 例13.6:
是下列优化问题的最优解,验
证x满足Fmrixitnzf-(Jxo) h(nx1定 7理)2 。 (x2 3)2
s.t.gg12((xx))
x12 x1
x22 x2
10 0, 4 0,
g
3
(
x)
x2
0,
第23页/共35页
紧指标集 I={1,2}
f(x)
-
• 在x点取到局部最优值的条件为:F0 G0
g f
i (x)T (x)T
d d
0 0
无解
第21页/共35页
• 定理13.11(Gorden):
设 A (A1,, Am ), Ai Rn ,i 1,, m ,则Ax<0有解
y( Rm ) 0
的充A分T y必 0要(i 条 1件,为, m:) 不存在非零向量
G {d | d 0, x D, 0, (0, ), x d D}
定理13.6 若f(x)在点 x 可微,如果存在方向d,
使 f (x)T d 0 ,则 0 使 (0, ) 有
f (x d) f (x)
第17页/共35页
一、无约束优化的最优性条件
• 在无约束规划问题中,由于不涉及到可行域的 问题,因此,只涉及下降方向。不涉及可行方 向的问题。
运筹学课件第六章 非线性规划
或 x
k 1
x tk p , tk 0
k k
称p k 为 第k轮 搜 索 方 向 , 为 第k轮 沿 搜 索 方 向 tk p k的 步 长 。
第11页
n n n 定义3 设f : R R, x R , p R , p 0, 0,使得 若
f ( x tp) f ( x ), t (0, )
2 1
令 0 得: f ( x1 )T ( x 2 x1 ) f ( x 2 ) f ( x1 )
f ( x 2 ) f ( x1 )
第23页
x1 , x 2 S f ( x ) ( x x ) f ( x ) f ( x )
1 T 2 1 2 1
1 T 2 1 2 1
证 (1) 必要性.设f是S上的凸函数,则对 (0,1), 有
f ( x 2 (1 ) x1 ) f ( x 2 ) (1 ) f ( x1 )
x1 , x 2 S
f ( x 1 ( x 2 x 1 )) f ( x1 )
第14页
全局优化算法概述
全局优化方法可分为随机性方法和确定性方法. 确定性方法充分利用了问题的解析性质, 如函数的 凸性、单调性、稠密性等, 产生一个确定性的有限 或无限点序列, 使得该点序列收敛于全局最优解. 包 括分枝定界算法、区间算法、填充函数法、割平面 法、顶点枚举法等,这类算法在理论上有较强的可行 性, 但对较为复杂的大型优化问题却难于应用.
如果有 f ( x* ) f ( x), x D, x x* 则称 x * 是(P)的严格全局最优解或严格全局极小点, 称 f ( x * ) 是(P)的严格全局最优值或严格全局极小值。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
;
5
数学规划
设 x ( x1 ,..., xn )T Rn , f ( x); gi ( x), i 1,..., p;hj ( x), j 1,..., q : Rn R , 如下的数学模型称为数学规划(Mathematical Programming, MP):
min f ( x)
s.t. gi ( x) 0, i 1,..., p
点的方向。
;
9
非线性规划基本迭代格式
迭代法的基本格式
第 1 步 选取初始点x0 ,k:=0; 第 2 步 构造搜索方向 pk ; 第 3 步 根据 pk ,确定步长tk ; 第 4 步 令 x k1 x k tk pk , 若 x k1 已满足某种终止条件,停止迭代,输出 近似解 x k1 ;否则令 k:=k+1,转回第 2 步。
;
4
例2 构件容积问题
设计一个右图所示的由圆锥和圆柱面 围成的构件,要求构件的表面积为 S, 圆锥部分的高 h 和圆柱部分的高 x2 之 比为 a。确定构件尺寸,使其容积最 大。
x3
x2 x1
max V s.t. x1
(1 x12
a/ a2
3)x12 x2
x
2 2
2x1
x
2
x12
S
x1 0, x2 0
c1 c2t e c3t
(*)
其中c1 ,c2 ,c3 是待定参数。现通过测
试获得 n 组 与 t 之间的实验数据(ti , i ) ,
i=1,2,…,n。试确定参数c1 ,c2 ,c3 ,
使理论曲线(*)尽可能地与 n 个测试点
t
(ti , i ) 拟合。
n
min [ i (c1 c2ti e c3ti )]2 i1
(2) 若 f1 , f 2 : Rn R 都是 S 上的凸函数,则 f1 f2 是 S 上的凸函数。
定理 4.2.2 设 S R n 是非空凸集, f : Rn R 是凸函数,c R
最优值或局部极小点。如果有
f (x* ) f (x), x N (x* ) X, x x* ,
则称 x* 是(MP)的严格局部最优解或严格局部极小点,称 f ( x* ) 是(MP)
的严格局部最优值或严格局部极小点。
;
8
非线性规划方法概述
定义 4.1.3 设 f : Rn R, x Rn , p Rn , p 0 ,若存在 0 f ( x tp) f ( x ), t (0, )
其中, g : Rn R p , h : Rn Rq ,那么(MP)可简记为
min f ( x)
s.t. g(x) 0 或者 min f ( x)
h( x) 0
x X
当p=0,q=0时,称为无约束非线性规 划或者无约束最优化问题。
否则,称为约束非线性规划或者约束 最优化问题。
;
7
最优解和极小点
则称向量 p 是函数 f(x)在点x 处的下降方向。
,使
定义 4.1.4 设 X Rn , x X , p Rn , p 0 ,若存在 t 0 ,使 x tp X
则称向量 p 是函数 f(x)在点 x 处关于 X 的可行方向。
不可行方向
在一点处关于可行区域 X 的可行方向是使这个方向上存在可行
定义 4.1.1 对于非线性规划(MP),若 x* X ,并且有 f ( x* ) f ( x), x X
则称 x* 是(MP)的整体最优解或整体极小点,称 f ( x* ) 是 (MP)的整体最优值或整体极小值。如果有
f ( x* ) f ( x), x X, x x*
则称 x* 是(MP)的严格整体最优解或严格整体极小点,称 f ( x* ) 是(MP)的严格整体最优值或严格整体极小值。
非线性规划
Non-linear Programming
;
1
非线性规划
❖基本概念 ❖凸函数和凸规划 ❖一维搜索方法 ❖无约束最优化方法 ❖约束最优化方法
;
2
基本概念
❖非线性规划问题 ❖非线性规划方法概述
;
3
非线性规划问题
例1 曲线的最优拟合问题
已知某物体的温度 与时间 t 之间有如 下形式的经验函数关系:
若-f 是 S 上的(严格)凸函数,则称 f 是 S 上的(严格)凹函数, 或 f 在 S 上是(严格)凹的。
;
凸函数
(b)凹函数
;
14
1. 凸函数及其性质续一
定理 4.2.1 设 S Rn 是非空凸集。
(1) 若 f : Rn R 是 S 上的凸函数, 0 ,则f 是 S 上的凸函数;
hj ( x) 0, j 1,..., q
约束集或可行域 X
x
Rn
gi (x) hj (x)
0, i 1,...,p 0, j 1,...,q
x X
MP的可行解或可行点
;
6
向量化表示
令
g(x) (g1(x),...,g p (x))T
h(x) (h1(x),..., hq (x))T ,
定义 4.1.2 对于非线性规划(MP),若 x* X ,并且存在 x* 的一个
领域 N ( x* ) x Rn x x* ( 0, R) ,使
f (x* ) f (x), x N (x* ) X ,
则称 x* 是(MP)的局部最优解或局部极小点,称 f ( x* ) 是(MP)的局部
;
10
常用停止规则
1. 相邻两次迭代点的绝对差小于给定误差,即 xk1 xk ;
xk 1 xk
2. 相邻两次迭代点的相对差小于给定误差,即
;
xk
3. f (xk ) ;
4. f (xk1) f (xk )
;
11
凸函数和凸规划
凸函数及其性质 凸规划及其性质
;
12
凸函数及其性质
定义 4.2.1 设 S R n 是非空凸集, f : S R ,如果对任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ,x1 , x 2 S 则称 f 是 S 上的凸函数,或 f 在 S 上是凸的。如果对于任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ,x 1 x 2 则称 f 是 S 上的严格凸函数,或 f 在 S 上是严格凸的。