05-非线性规划-无约束问题04965
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第三章 最优化方法 运筹学
施鹏
cpse@sohu.com system
第三节 非线性规划
当要求容器的容积一定，求表面积最小，以使 用料最省。
min S 3πx12 2πx1 x2
x1
x2
s.t
2 3
πx13
πx12 x2
V
x1≥0，x2≥0
一连续反应器如图所示，进行如下反应
2A B
例 求函数
f (x) 4 4.5x1 4x2 x12 2x22 2x1x2 x14 2x12 x2
的所有稳定点
解
f x1
4.5
2 x1
2 x2
4 x13
4 x1 x2
0
f
x2
4 4x2
2x1
2x12
0
解方程组得
x1 (1.941,3.854)T , x2 (1.053,1.028)T , x3 (0.6117,1.4929)T
目标函数或约束条件中有非线性函数的规 划问题
非线性规划的最优解可能在其可行域中的任意 一点达到
不一定是全局最优解
背景 理论计算 相对于计算要求，计算能力仍十分有限
背景
为加快计算速度，必须明确各种方法的特点， 以针对不同问题选择最合适的方法
求解思路： 迭代 从一个选定的初始点x0出发，按照某种特定的
已知单位体积的液相反应速率为
rA
dcA dt
2.0cA2
2.0cA20 (1
xA )2
原料A的单位成本
C1 4.0c1A.40
折旧、公用工程和其他费用
C2 0.4V 0.6
根据预测，市场只能提供物料A 600单位/h，
产品B的市场需求量FB不超过50 单位/h，产品 B的价格为C3=2000 元/单位。试确定物料A的 进料速度FA0、初始浓度CA0、反应器体积V和 转化率各取多大，才能使得该反应器在单位时
解 (a) f”=6， 故f(x)为（严格）凸函数。 (b) f”=0，故f(x)既凸又凹 (c) f”=-10，故f(x)为（严格）凹函数 (d) f”=6-3x，故f(x)既不为凸也不为凹
对于多元函数，如何判断H是否正定？ 特征值
f(x) 严格凸函数
凸函数 凹函数 严格凹函数
H 正定 半正定 半负定 负定
•
o x1
x2 x
γx1+(1-γ)x2
凸函数 凸规划
非线性规划
min f (x) gi (x) 0
如f(x)和gi(x)都为凸函数，则称该规划问题为 凸规划
可以证明：f(x)的局部极小值也是全局最小值 理想情况
凸性和凹性的判定（一阶条件）
若f(x)有连续的一阶导数，则 f(x)为凸函数 对x1、x2 R，有f(x2)≥f(x1)+f(x1)T (x2-x1) f(x)为严格凸函数 对x1、x2 R，有f(x2)＞f(x1)+ f(x1)T (x2-x1)
则称f(x)为严格凸函数
凸函数 凸规划
y
y=f(x)
f (x1) (1 ) f (x2 ) f [ x1 (1 )x2 ]
o
• •
x1
x2 x
γ x1+(1-γ)x2
凸函数
凸函数 凸规划
y
f [ x1 (1 )x2 ] f (x1) (1 ) f (x2 )
• y=f(x)
特征值 >0 ≥0 ≤0 <0
例 分析函数
f (x) 2x12 3x1x2 2x22
指出此函数属于哪种类型
f x1
4x1 3x2
f x2
3x1 4x2
2 f x12
4, 2 f x1x2
2 f x2x1
3
2 f x22
4
4 3
H
3
4
4 3
H E
0
3 4
1,7 0
x x*
f (x) f (x*)
则称x*为R上的局部极小点，f(x*)称为局部极 小值
→严格局部极小点、严格局部极小值
基本概念
若对于任意x，有
f (x) f (x*)
则x*为R上的全局极小点， f(x*)为全局极小值 →严格全局极小点、严格全局极小值
凸函数 凸规划
凸集： 对于在集合中的每一对点x1和x2，连接两点所
间内的经济效益是最好的？
max z C3FB (C1FA0 C2 )
C3FB (4c1A.40FA0 0.4V 0.6 )
rA
dcA dt
2.0cA2 0 (1 xA )2
FA0cA0 rAV FA0cA0 (1 xA )
0.5FA0cA0 xA 50
FA0 600
非线性规划
凸性和凹性的判定（二阶条件）
Hessian矩阵
H为对称矩阵
H (x) H 2 f (x)
x 0, xT Hx 0 H半正定
x 0, xT Hx 0 H正定
x 0, xT Hx 0 H半负定
x 0, xT Hx 0 H负定
部分x 0，xT Hx 0 H不定
例 判断下列函数的凹凸性（ x R） (a) f(x)=3x2 (b) f(x)=2x (c) f(x)=5x2 (d) f(x)=2x2-x3
H正定，f(x)为严格凸函数
无约束问题
极值存在的必要条件和充分条件
对于一元函数f(x)
极值存在
必要条件→f’(x)=0（稳定点）
充分条件→ f’(x)=0且 f”(x)>0
f ’’(x)<0
对n维函数 必要条件： f(x)在x*处一阶可导
f (x*) 0
充分条件 H(x*)正定，则x*为极小值，反之为极大值
形成的直线段上任一点 x x1 (1 x2 ) 0 1
都在此集合内，则该集合为凸集
凸函数 凸规划
凸函数 如果函数 f (x) F满足
f [ x1 (1 )x2 ] f (x1) (1 ) f (x2 )
则称f(x)为Fຫໍສະໝຸດ Baidu的凸函数 若
f [ x1 (1 )x2 ] f (x1) (1 ) f (x2 )
试判断所得的稳定点是否为最优解
H
(
x1 )
2
f
(1.941,
迭代规则产生一个点列{xk}
xk有穷点列：最后一个点为最优解 xk无穷点列：其中一个点为最优解
基本迭代格式
xk1 xk tk pk
xk Rn ：第k轮迭代点 xk1 Rn ：第k+1轮迭代点 tk：搜索步长 pk：迭代方向
基本概念
对于 f (x) : R En 存在ε>0，使
施鹏
cpse@sohu.com system
第三节 非线性规划
当要求容器的容积一定，求表面积最小，以使 用料最省。
min S 3πx12 2πx1 x2
x1
x2
s.t
2 3
πx13
πx12 x2
V
x1≥0，x2≥0
一连续反应器如图所示，进行如下反应
2A B
例 求函数
f (x) 4 4.5x1 4x2 x12 2x22 2x1x2 x14 2x12 x2
的所有稳定点
解
f x1
4.5
2 x1
2 x2
4 x13
4 x1 x2
0
f
x2
4 4x2
2x1
2x12
0
解方程组得
x1 (1.941,3.854)T , x2 (1.053,1.028)T , x3 (0.6117,1.4929)T
目标函数或约束条件中有非线性函数的规 划问题
非线性规划的最优解可能在其可行域中的任意 一点达到
不一定是全局最优解
背景 理论计算 相对于计算要求，计算能力仍十分有限
背景
为加快计算速度，必须明确各种方法的特点， 以针对不同问题选择最合适的方法
求解思路： 迭代 从一个选定的初始点x0出发，按照某种特定的
已知单位体积的液相反应速率为
rA
dcA dt
2.0cA2
2.0cA20 (1
xA )2
原料A的单位成本
C1 4.0c1A.40
折旧、公用工程和其他费用
C2 0.4V 0.6
根据预测，市场只能提供物料A 600单位/h，
产品B的市场需求量FB不超过50 单位/h，产品 B的价格为C3=2000 元/单位。试确定物料A的 进料速度FA0、初始浓度CA0、反应器体积V和 转化率各取多大，才能使得该反应器在单位时
解 (a) f”=6， 故f(x)为（严格）凸函数。 (b) f”=0，故f(x)既凸又凹 (c) f”=-10，故f(x)为（严格）凹函数 (d) f”=6-3x，故f(x)既不为凸也不为凹
对于多元函数，如何判断H是否正定？ 特征值
f(x) 严格凸函数
凸函数 凹函数 严格凹函数
H 正定 半正定 半负定 负定
•
o x1
x2 x
γx1+(1-γ)x2
凸函数 凸规划
非线性规划
min f (x) gi (x) 0
如f(x)和gi(x)都为凸函数，则称该规划问题为 凸规划
可以证明：f(x)的局部极小值也是全局最小值 理想情况
凸性和凹性的判定（一阶条件）
若f(x)有连续的一阶导数，则 f(x)为凸函数 对x1、x2 R，有f(x2)≥f(x1)+f(x1)T (x2-x1) f(x)为严格凸函数 对x1、x2 R，有f(x2)＞f(x1)+ f(x1)T (x2-x1)
则称f(x)为严格凸函数
凸函数 凸规划
y
y=f(x)
f (x1) (1 ) f (x2 ) f [ x1 (1 )x2 ]
o
• •
x1
x2 x
γ x1+(1-γ)x2
凸函数
凸函数 凸规划
y
f [ x1 (1 )x2 ] f (x1) (1 ) f (x2 )
• y=f(x)
特征值 >0 ≥0 ≤0 <0
例 分析函数
f (x) 2x12 3x1x2 2x22
指出此函数属于哪种类型
f x1
4x1 3x2
f x2
3x1 4x2
2 f x12
4, 2 f x1x2
2 f x2x1
3
2 f x22
4
4 3
H
3
4
4 3
H E
0
3 4
1,7 0
x x*
f (x) f (x*)
则称x*为R上的局部极小点，f(x*)称为局部极 小值
→严格局部极小点、严格局部极小值
基本概念
若对于任意x，有
f (x) f (x*)
则x*为R上的全局极小点， f(x*)为全局极小值 →严格全局极小点、严格全局极小值
凸函数 凸规划
凸集： 对于在集合中的每一对点x1和x2，连接两点所
间内的经济效益是最好的？
max z C3FB (C1FA0 C2 )
C3FB (4c1A.40FA0 0.4V 0.6 )
rA
dcA dt
2.0cA2 0 (1 xA )2
FA0cA0 rAV FA0cA0 (1 xA )
0.5FA0cA0 xA 50
FA0 600
非线性规划
凸性和凹性的判定（二阶条件）
Hessian矩阵
H为对称矩阵
H (x) H 2 f (x)
x 0, xT Hx 0 H半正定
x 0, xT Hx 0 H正定
x 0, xT Hx 0 H半负定
x 0, xT Hx 0 H负定
部分x 0，xT Hx 0 H不定
例 判断下列函数的凹凸性（ x R） (a) f(x)=3x2 (b) f(x)=2x (c) f(x)=5x2 (d) f(x)=2x2-x3
H正定，f(x)为严格凸函数
无约束问题
极值存在的必要条件和充分条件
对于一元函数f(x)
极值存在
必要条件→f’(x)=0（稳定点）
充分条件→ f’(x)=0且 f”(x)>0
f ’’(x)<0
对n维函数 必要条件： f(x)在x*处一阶可导
f (x*) 0
充分条件 H(x*)正定，则x*为极小值，反之为极大值
形成的直线段上任一点 x x1 (1 x2 ) 0 1
都在此集合内，则该集合为凸集
凸函数 凸规划
凸函数 如果函数 f (x) F满足
f [ x1 (1 )x2 ] f (x1) (1 ) f (x2 )
则称f(x)为Fຫໍສະໝຸດ Baidu的凸函数 若
f [ x1 (1 )x2 ] f (x1) (1 ) f (x2 )
试判断所得的稳定点是否为最优解
H
(
x1 )
2
f
(1.941,
迭代规则产生一个点列{xk}
xk有穷点列：最后一个点为最优解 xk无穷点列：其中一个点为最优解
基本迭代格式
xk1 xk tk pk
xk Rn ：第k轮迭代点 xk1 Rn ：第k+1轮迭代点 tk：搜索步长 pk：迭代方向
基本概念
对于 f (x) : R En 存在ε>0，使