200705 约束优化方法
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
0 x1 8 0 x2 8
min f (X ) x12 x22
一、网格法 s.t g1(X ) 12 2x1 x2 0 0 x1 8 0 x2 8
非劣解中寻优解的思想
不可行 解
非劣解
二 随机方向法
基本思想：利用计算机产生的随机数所构成的随 机方向进行搜索，产生的新点必须在可行域内，即满 足直接法的特性。
０ 、引言
直接解法的基本思想
在约束区间内构造方向，或 算法进行寻优
０、引言
间接解法的思想是： 构造一系列函授，变成无约束算法 构造新的目标函数，部分考虑了约束的
属性，变成无约束的问题，当约束趋紧 后，即可找到满足约束条件的解
０、引言
间接解法是应用较多的算法，其特点为： 无约束算法较为成熟，可进行求解 可处理等式和不等式约束 问题：因子的选取较为困难 许多解法求解的可靠性尚需要进行进
机械优化设计中的问题，大多数属于约束优化设计 问题，其数学模型为
min f (x), xRn
s.t.
gj (x)
0
j 1,2,
,m
hk(x)0 k1,2, ,l
上一章讨论的都是无约束条件下非线性函数的寻 优方法，但在实际工程中大部分问题的变量取值都有 一定的限制，也就是属于有约束条件的寻优问题。
直接解法通常一般只适用于仅含不等式约束的问题， 思路是在m个不等式约束条件所确定的可行域内，选择一
个初始点，然后决定可行搜索方向 d 且以适当的步长 ，
进行搜索，得到一个使目标函数值下降的可行的新点，即 完成一次迭代。再以新点为起点，重复上述搜索过程，直 至满足收敛条件。
x k 1 x k k d k ( k 0 ,1 ,2 ,)
k 步长
d k 可行搜索方向
可行搜索方向:当设计点沿该方向作微量移动时， 目标函数值将下降，且不会越出可行域。
间接解法的基本思路是按照一定的原则构造一个 包含原目标函数和约束条件的新目标函数，即将原约 束优化问题转化成为一个或一系列的无约束优化问题。 再对新的目标函数进行无约束优化计算，从而间接地 搜索到原约束问题的最优解。
0 引言
回顾 1、约束问题有极值的条件
-最优化、最优解的条件
满足K-T条件
证明为凸规划问题
2、极值点在什么位置
在约束的边界上
3、如何进行求解
在约束域内进行
转化成无约束的问题
一、网格法
１、思想
在可性域内构造网格，计算格点上的函数值， 进行可行性判别和优良性判别，找到优点，缩 小网格，进行下一轮寻优
与无约束问题不同，约束问题目标函数的最小值 是满足约束条件下的最小值，即是由约束条件所限定 的可行域内的最小值。只要由约束条件所决定的可行 域必是一个凸集，目标函数是凸函数，其约束最优解 就是全域最优解。否则，将由于所选择的初始点的不 同，而探索到不同的局部最优解上。在这种情况下， 探索结果经常与初始点的选择有关。为了能得到全局 最优解，在探索过程中最好能改变初始点，有时甚至 要改换几次。
Baidu Nhomakorabea
3、思想简单
4、对函数 的特性要求不高
一、网格法
发展： 如何布点可提高收敛的速度！ 紧约束的处理，如何进行约束判断 数据的如何处理！
一、网格法
发展： 如何布点可提高收敛的速度！ 不均布点的网格法 正交网格法
一、网格法
找青岛，西部少布点 智能布点法
按照正交法进行布点 优化布点法
一、网格法
发展：
如何布点可提高收敛的速度！
紧约束的处理 将紧约束放在最前面
速度为什么慢？
min f (x), xRn
s.t.
gj
(x)0
j 1,2,
,m
hk(x)0 k1,2, ,l
一、网格法
程序框图
开始 构建初始网格
寻优
是否最优判断
重新构建网格
结束
一、网格法
网格法的例题：
min f (X ) x12 x22 s.t g1(X ) 12 2x1 x2 0
根据求解方式的不同，约束优化设计问题可分为:直接 解法、间接解法。
（1）直接法
在可域内，构造寻优方法，进行直接寻 优
直接法包括：网格法、复合形法、随机试验法、
随机方向法、可变容差法和可行方向法。
（2）间接法
转化成一系列无约束问题，进行求解
间接法包括：罚函数法、内点罚函数法、外点罚
函数法、混合罚函数法、广义乘子法、广义简约梯度 法和约束变尺度法等。
青岛跨海大桥通车， 青岛进入桥遂时代！
第一长的跨海大桥 第一次公示价格下 降
青岛胶州湾隧道通车，青 岛进入桥遂时代！
第一长的海底隧道 第一次公示价格下降
第五章 有约束优化方法
0 引言 一、网格法 二、 随机方向法 三、 复合形法 四、 可行方向法 五、 惩罚函数法 六、 序列二次规划法
０、 引言
优点：方法简便
可用于非凸集和离散变量
寻得若干非劣解（可行解）
闹通过判断紧约束，提高运算速度
非劣解
第一轮
一、网格法最优
网格法的具体例子
最
优
解
第二轮 最优
加密网格，求出最小解
一、网格法
青岛市寻优
一、网格法
缺点： 运算量大
可能漏掉最优解
优点：1.可求出若干非劣解
2、可用于离散变量问题
一步的研究
0 、引言
有约束问题的基本提法: ①、有约束的解必然在边界上
0、引言
②、证明为凸规划问题，较为困难 ③、求解甚为困难，见好就收 ④、找到最优解和有效的方法难度较大 ——节约机时和提高求解的稳定性非常
重要
直接类解法
一、网格法
首都辐射线 多，对首都 地方均不利
网状公路网，有利于地方经济发展和缓解首都交通压力
随机方向法，是约束最优化问题的一种常用的直 接求解方法。它和随机梯度法、Gauss－Seidel法等都 属于约束随机法。
其基本原理如图所示，在约束可行域S内选取一个初始 点X(0)，在不破坏约束的条件下以合适的步长a。沿X(0) 点周围几个不同的方向（以某种形式产生的随机方向） 进行若干次探索，并计算各方向上等距离（步长a。） 点的函数值，找出其中的最小值f（X(l)）及点X(l)。若f （X(l)）＜f（X(0)），则继续沿方向（X(l)-X(0)）以适 当的步长a向前跨步，得到新点X(1)，若f（X(1)）<老f （X(l)），则将新的起点移至X(1) ，重复前面过程。否 则应缩短步长a，直至取得约束好点。如此循环下去。 当迭代的步长已经很小时，则表明已经逼近约束最优点 。达到计算精度要求时，即可结束迭代计算。
min f (X ) x12 x22
一、网格法 s.t g1(X ) 12 2x1 x2 0 0 x1 8 0 x2 8
非劣解中寻优解的思想
不可行 解
非劣解
二 随机方向法
基本思想：利用计算机产生的随机数所构成的随 机方向进行搜索，产生的新点必须在可行域内，即满 足直接法的特性。
０ 、引言
直接解法的基本思想
在约束区间内构造方向，或 算法进行寻优
０、引言
间接解法的思想是： 构造一系列函授，变成无约束算法 构造新的目标函数，部分考虑了约束的
属性，变成无约束的问题，当约束趋紧 后，即可找到满足约束条件的解
０、引言
间接解法是应用较多的算法，其特点为： 无约束算法较为成熟，可进行求解 可处理等式和不等式约束 问题：因子的选取较为困难 许多解法求解的可靠性尚需要进行进
机械优化设计中的问题，大多数属于约束优化设计 问题，其数学模型为
min f (x), xRn
s.t.
gj (x)
0
j 1,2,
,m
hk(x)0 k1,2, ,l
上一章讨论的都是无约束条件下非线性函数的寻 优方法，但在实际工程中大部分问题的变量取值都有 一定的限制，也就是属于有约束条件的寻优问题。
直接解法通常一般只适用于仅含不等式约束的问题， 思路是在m个不等式约束条件所确定的可行域内，选择一
个初始点，然后决定可行搜索方向 d 且以适当的步长 ，
进行搜索，得到一个使目标函数值下降的可行的新点，即 完成一次迭代。再以新点为起点，重复上述搜索过程，直 至满足收敛条件。
x k 1 x k k d k ( k 0 ,1 ,2 ,)
k 步长
d k 可行搜索方向
可行搜索方向:当设计点沿该方向作微量移动时， 目标函数值将下降，且不会越出可行域。
间接解法的基本思路是按照一定的原则构造一个 包含原目标函数和约束条件的新目标函数，即将原约 束优化问题转化成为一个或一系列的无约束优化问题。 再对新的目标函数进行无约束优化计算，从而间接地 搜索到原约束问题的最优解。
0 引言
回顾 1、约束问题有极值的条件
-最优化、最优解的条件
满足K-T条件
证明为凸规划问题
2、极值点在什么位置
在约束的边界上
3、如何进行求解
在约束域内进行
转化成无约束的问题
一、网格法
１、思想
在可性域内构造网格，计算格点上的函数值， 进行可行性判别和优良性判别，找到优点，缩 小网格，进行下一轮寻优
与无约束问题不同，约束问题目标函数的最小值 是满足约束条件下的最小值，即是由约束条件所限定 的可行域内的最小值。只要由约束条件所决定的可行 域必是一个凸集，目标函数是凸函数，其约束最优解 就是全域最优解。否则，将由于所选择的初始点的不 同，而探索到不同的局部最优解上。在这种情况下， 探索结果经常与初始点的选择有关。为了能得到全局 最优解，在探索过程中最好能改变初始点，有时甚至 要改换几次。
Baidu Nhomakorabea
3、思想简单
4、对函数 的特性要求不高
一、网格法
发展： 如何布点可提高收敛的速度！ 紧约束的处理，如何进行约束判断 数据的如何处理！
一、网格法
发展： 如何布点可提高收敛的速度！ 不均布点的网格法 正交网格法
一、网格法
找青岛，西部少布点 智能布点法
按照正交法进行布点 优化布点法
一、网格法
发展：
如何布点可提高收敛的速度！
紧约束的处理 将紧约束放在最前面
速度为什么慢？
min f (x), xRn
s.t.
gj
(x)0
j 1,2,
,m
hk(x)0 k1,2, ,l
一、网格法
程序框图
开始 构建初始网格
寻优
是否最优判断
重新构建网格
结束
一、网格法
网格法的例题：
min f (X ) x12 x22 s.t g1(X ) 12 2x1 x2 0
根据求解方式的不同，约束优化设计问题可分为:直接 解法、间接解法。
（1）直接法
在可域内，构造寻优方法，进行直接寻 优
直接法包括：网格法、复合形法、随机试验法、
随机方向法、可变容差法和可行方向法。
（2）间接法
转化成一系列无约束问题，进行求解
间接法包括：罚函数法、内点罚函数法、外点罚
函数法、混合罚函数法、广义乘子法、广义简约梯度 法和约束变尺度法等。
青岛跨海大桥通车， 青岛进入桥遂时代！
第一长的跨海大桥 第一次公示价格下 降
青岛胶州湾隧道通车，青 岛进入桥遂时代！
第一长的海底隧道 第一次公示价格下降
第五章 有约束优化方法
0 引言 一、网格法 二、 随机方向法 三、 复合形法 四、 可行方向法 五、 惩罚函数法 六、 序列二次规划法
０、 引言
优点：方法简便
可用于非凸集和离散变量
寻得若干非劣解（可行解）
闹通过判断紧约束，提高运算速度
非劣解
第一轮
一、网格法最优
网格法的具体例子
最
优
解
第二轮 最优
加密网格，求出最小解
一、网格法
青岛市寻优
一、网格法
缺点： 运算量大
可能漏掉最优解
优点：1.可求出若干非劣解
2、可用于离散变量问题
一步的研究
0 、引言
有约束问题的基本提法: ①、有约束的解必然在边界上
0、引言
②、证明为凸规划问题，较为困难 ③、求解甚为困难，见好就收 ④、找到最优解和有效的方法难度较大 ——节约机时和提高求解的稳定性非常
重要
直接类解法
一、网格法
首都辐射线 多，对首都 地方均不利
网状公路网，有利于地方经济发展和缓解首都交通压力
随机方向法，是约束最优化问题的一种常用的直 接求解方法。它和随机梯度法、Gauss－Seidel法等都 属于约束随机法。
其基本原理如图所示，在约束可行域S内选取一个初始 点X(0)，在不破坏约束的条件下以合适的步长a。沿X(0) 点周围几个不同的方向（以某种形式产生的随机方向） 进行若干次探索，并计算各方向上等距离（步长a。） 点的函数值，找出其中的最小值f（X(l)）及点X(l)。若f （X(l)）＜f（X(0)），则继续沿方向（X(l)-X(0)）以适 当的步长a向前跨步，得到新点X(1)，若f（X(1)）<老f （X(l)），则将新的起点移至X(1) ，重复前面过程。否 则应缩短步长a，直至取得约束好点。如此循环下去。 当迭代的步长已经很小时，则表明已经逼近约束最优点 。达到计算精度要求时，即可结束迭代计算。