最优化理论第五章 惩罚函数法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
定理：问题
∆ 外点法 内点法
应用序列无约束极小化方法，简单
增大
成为病态矩阵 无法求解
3. 乘子法（Hestenes, Powell）提出
3.1. 基本思想： ⑴ 等式约束问题：
其中： ，
Lagrange函数 罚函数
的局部最优解，且满足二阶充分条件，
的局部最优解的二阶充分条件，
衡量快慢
3.2 计算步骤（等式约束）
惩罚函数法
有约束最优化：
可行域
定义：局部极小点，局部严格极小点
一阶条件（必要条件）
二阶条件（必要条件）
惩罚函数法 可行方向法，二次规划
1. 外点罚函数法
1.1 罚函数概念
a 对于等式约束： 对于线性约束可 消元处理
第2项很大
很大的正数
b. 不等式约束
转化为
罚回来
c.一般情况：
过大，计算困难 太小，远离约束问题的最优解
收敛于
称为SUMT方法 基本步骤：
序列无约束极小化方法
1.3. 外点法收敛性
定理2： 的最优解。
定理3：
2. 内点罚函数法
2.1 思想：从内点出发，保持在可行域内部进行搜索。
只适用于不等式约束问题
两种形式：
原始问题的解
2.2 r如何取值？
r太大，问题的解不精确
计算步骤：
∆例题：
解得：
2.3. 收敛性
例：乘子法求解：
3.3. 不等式约束的乘子法
转化为
等式
定义增广Lagrange函数。
求得原问题的解
用配方法整理则有：
增广Lagrange函数变为
一般问题
例题：
则
作业：
1. 阅读MATLAB中optimization toolbox 中的Quasi-Newton Method 和 Least-Squares Method 算法，用Lsqnonlin（）函数 求解
2.
阅读MATLAB中有约束优化函数 fmincon( ) 并编程求解
课பைடு நூலகம்练习：
外点法求解
∆ 外点法 内点法
应用序列无约束极小化方法，简单
增大
成为病态矩阵 无法求解
3. 乘子法（Hestenes, Powell）提出
3.1. 基本思想： ⑴ 等式约束问题：
其中： ，
Lagrange函数 罚函数
的局部最优解，且满足二阶充分条件，
的局部最优解的二阶充分条件，
衡量快慢
3.2 计算步骤（等式约束）
惩罚函数法
有约束最优化：
可行域
定义：局部极小点，局部严格极小点
一阶条件（必要条件）
二阶条件（必要条件）
惩罚函数法 可行方向法，二次规划
1. 外点罚函数法
1.1 罚函数概念
a 对于等式约束： 对于线性约束可 消元处理
第2项很大
很大的正数
b. 不等式约束
转化为
罚回来
c.一般情况：
过大，计算困难 太小，远离约束问题的最优解
收敛于
称为SUMT方法 基本步骤：
序列无约束极小化方法
1.3. 外点法收敛性
定理2： 的最优解。
定理3：
2. 内点罚函数法
2.1 思想：从内点出发，保持在可行域内部进行搜索。
只适用于不等式约束问题
两种形式：
原始问题的解
2.2 r如何取值？
r太大，问题的解不精确
计算步骤：
∆例题：
解得：
2.3. 收敛性
例：乘子法求解：
3.3. 不等式约束的乘子法
转化为
等式
定义增广Lagrange函数。
求得原问题的解
用配方法整理则有：
增广Lagrange函数变为
一般问题
例题：
则
作业：
1. 阅读MATLAB中optimization toolbox 中的Quasi-Newton Method 和 Least-Squares Method 算法，用Lsqnonlin（）函数 求解
2.
阅读MATLAB中有约束优化函数 fmincon( ) 并编程求解
课பைடு நூலகம்练习：
外点法求解