机械优化设计5约束优化方法共48页文档
合集下载
机械优化设计第五节约束优化方法1-2
初始复合形的顶点。 设有 l (l 1) 个顶点在可行域内。 1）求出己知可行域内L个点 的点集中心 x 1 l xc x j c l
j 1
2）将不可行性点 x q向中心点 x c移动即 x q x c 0.5( x q x c ) x q q l 1 l 2 k 1
1)在可行域内选定 x1
x2
x3
x4
4个点（这里K=2n=4）作为初始复合形的顶点。
2)计算这4个点的函数值，并作比较，确定函数 值最大的坏点 x1 x 。函数值最小的好点
xl x 3 x 3 x l
H
3)以 x 2 x3 x 4 3 点的形心 寻找坏点 x H 的映射点 x R 式中
求解这类问题的方法称为约束优化方法。
依据对约束条件处理方法的不同，可以将 它分为两类： 直接法解: 直接从可行域中寻找出它的约束最优解。 主要方法有约束坐标轮换法，随机方向搜索法， 复合形法及可行向法。
优点:方法简单,直观性强,对函数无特殊要求。 缺点:计算量大,收敛慢,因而效率低。
间接法解: 将约束优化问题进行特殊加权处理，转 化为无约束优化问题，然后，直接利用无约 束优化方法进行求解。主要方法有：消元法， 拉格朗日乘子法，惩罚函数法。
xL
x H : f ( x H ) max f ( x j )
j 1, j 1,
2 k 2 k
xL :
f ( x L ) min f ( x j )
④计算除坏点 x H 外其余各顶点的中心
xc
机械优化设计方法第五章 多变量无约束优化方法
似极小点，则在X(k)点根据函数f(X)的性质，选择一个方向S(k)，沿 此方向搜索函数值应是下降的，称S(k)为下降方向。
(3)当搜索方向S(k)确定以后，由X(k)点出发，沿S(k)方向进行搜索，
定出步长因子α(k)，得新设计点 X(k+1)= X(k)+α(k) S(k) 并满足f(X(k+1))＜f(X(k))。具有这种性质的算法称为下降算法。α(k) 可以是一维搜索方法确定的最优步长因子，亦可用其他方法确定。 (4)若新点X(k+1)满足迭代计算终止条件，则停止迭代，X(k+1)点就 作为近似局部极小点X*；否则，又从X(k+1)点出发，返回第(2)步 继续进行搜索迭代。
的极为有用的性质：从任意初始点X(0)出发，依次沿n个线性无关 的与A共扼的方向S1，S2，…, Sn各进行一维搜索，那么总能在第n 步或n步之前就能达到n维正定二次函数的极小点；并且这个性质 与所有的n个方向的次序无关。因而说共轭方向法具有有限步收敛 的特性。通常称具有这种性质的算法为二次收敛算法。 2.理论与实践证明，将二次收敛算法用于非二次的目标函数， 亦有很好的效果，但迭代次数不一定保证有限次，即对非二次n维 目标函数经n步共轭方向一维搜索不一定就能达到极小点。 3.对于非二次的目标函数寻优的另一种处理方法是循环迭代 法，即当达n步迭代终点X(n)时还未收敛，此时可将X(n)作为新的初 始点，再重新开始迭代，实践证明，这样做要比一直迭代下去具 有更好的效果。 4.即便对于正定二次函数，在数值计算中，由于数据的舍入 以及计算误差的累积，往往破坏了这种共轭性质。
(一)共轭方向的定义
设A为n×n阶实对称正定矩阵，如果有两个n维向量S1和S2满足
S1TAS2=0 则称向量S1与S2对于矩阵A共轭。 共轭向量的方向称为共轭方向。
机械优化设计约束优化方法
根据求解方式的不同，约束优化设计问题可分为:直接 解法、间接解法。
（1）直接法
直接法包括：网格法、复合形法、随机试验法、 随机方向法、可变容差法和可行方向法。
（2）间接法
间接法包括：罚函数法（内点罚函数法、外点罚 函数法、混合罚函数法）、广义乘子法、广义简约梯 度法和约束变尺度法等。
直接解法通常适用于仅含不等式约束的问题，思路是
如前所述，在求解无约束问题的单纯形法中，不 需计算目标函数的梯度，而是靠选取单纯形的顶点并 比较各顶点处目标函数值的大小，来寻找下一步的探 索方向的。在用于求解约束问题的复合形法中，复合 形各顶点的选择和替换，不仅要满足目标函数值的下 降，还应当满足所有的约束条件。
基本思想：在可行域中选取K个设计点 （ n+1≤K≤2n）作为初始复合形的顶点。比较各顶点目标 函数值的大小，去掉目标函数值最大的顶点(称最坏点) ，以坏点以外其余各点的中心为映射中心，用坏点的 映射点替换该点，构成新的复合形顶点。
取次好点和好点连线的中点为X(0)。
令：X(4)= X(0)+α(X(0)-X(H))
称X(4)为映射点，记为X(R)，α为映射系数，通常取 α=1.3，可根据实际情况进行缩减。
一般情况下，映射点的函数值比坏点的函数值要 小，即F(X(R))< F(X(H))。若满足可行域，则用X(R)代替 X(H)构成新的复合形。如此反复迭代直到找到最优解。
（3）计算坏点外的其余各顶点的中心点X(0)。
X0
1 K K1j1
X(j),
j
H
（4）计算映射点X(R)
X (R )X (0 )(X (0 )X (H ))
检查X(R)是否在可行域内。若X(R)为非可行点，将映 射系数减半后再按上式改变映射点，直到X(R)进入可行 域内为止。
（1）直接法
直接法包括：网格法、复合形法、随机试验法、 随机方向法、可变容差法和可行方向法。
（2）间接法
间接法包括：罚函数法（内点罚函数法、外点罚 函数法、混合罚函数法）、广义乘子法、广义简约梯 度法和约束变尺度法等。
直接解法通常适用于仅含不等式约束的问题，思路是
如前所述，在求解无约束问题的单纯形法中，不 需计算目标函数的梯度，而是靠选取单纯形的顶点并 比较各顶点处目标函数值的大小，来寻找下一步的探 索方向的。在用于求解约束问题的复合形法中，复合 形各顶点的选择和替换，不仅要满足目标函数值的下 降，还应当满足所有的约束条件。
基本思想：在可行域中选取K个设计点 （ n+1≤K≤2n）作为初始复合形的顶点。比较各顶点目标 函数值的大小，去掉目标函数值最大的顶点(称最坏点) ，以坏点以外其余各点的中心为映射中心，用坏点的 映射点替换该点，构成新的复合形顶点。
取次好点和好点连线的中点为X(0)。
令：X(4)= X(0)+α(X(0)-X(H))
称X(4)为映射点，记为X(R)，α为映射系数，通常取 α=1.3，可根据实际情况进行缩减。
一般情况下，映射点的函数值比坏点的函数值要 小，即F(X(R))< F(X(H))。若满足可行域，则用X(R)代替 X(H)构成新的复合形。如此反复迭代直到找到最优解。
（3）计算坏点外的其余各顶点的中心点X(0)。
X0
1 K K1j1
X(j),
j
H
（4）计算映射点X(R)
X (R )X (0 )(X (0 )X (H ))
检查X(R)是否在可行域内。若X(R)为非可行点，将映 射系数减半后再按上式改变映射点，直到X(R)进入可行 域内为止。
《机械优化设计》第五章
方法评价： 五. 方法评价： 用于目标函数比较复杂，或在可行域外无定义的场合下： 用于目标函数比较复杂，或在可行域外无定义的场合下： 由于优化过程是在可行域内逐步改进设计方案， 由于优化过程是在可行域内逐步改进设计方案，故在解决工程 问题时，只要满足工程要求，即使未达最优解， 问题时，只要满足工程要求，即使未达最优解，接近的过程解也 是可行的； 是可行的； 初始点和序列极值点均需严格满足所有约束条件； 初始点和序列极值点均需严格满足所有约束条件； 不能解决等式约束问题。 不能解决等式约束问题。
§5-2 惩罚函数法
一、基本原理
目的：将有约束优化问题转化为无约束优化问题来解决。 目的：将有约束优化问题转化为无约束优化问题来解决。 方法： 方法：以原目标函数和加权的约束函数共同构成一个新 的目标函数 Φ( x, r1 ,r2 )，成为无约束优化问题 。 通过不断调整加权因子，产生一系列Φ函数的极小点序列 通过不断调整加权因子，产生一系列Φ 0,1,2… ，逐渐收敛到原目标函数 逐渐收敛到原目标函数 x(k)* (r1(k),r2(k)) k= 0,1,2 的约束最优解。 的约束最优解。 新目标函数： 新目标函数：
衰减函数法） §4.3 外点惩罚函数法 (衰减函数法）
基本思想： 一. 基本思想： 外点法将新目标函数 Φ( x , r ) 构筑在可行域 D 外， 构筑在可行域 的不断递增 递增， 随着惩罚因子 r(k) 的不断递增， 生成一系列新目标函数 Φ(xk ,r(k))，在可行域外逐步 在可行域外 迭代， 迭代，产生的极值点 xk*(r(k)) 序列从可行域外部趋向原目标 序列从可行域外 函数的约束最优点 x* 。
第五章 约束最优化方法
§5-1 概述 约束最优化问题的数学模型是
机械优化设计第五节约束优化-惩罚函数法3-5
外点法求解时，惩罚函数的形式为：
(k ) ( x, r ) f ( x) r max 0, gu ( x) r hv ( x) u 1 v 1
(k ) (k ) m p 2 2
k 1, 2
r
(1) ( 2)
(k )
内点法对企图从内部穿越可行域的点施以惩 g x 0 时，则障碍项的 罚。设计点离边界越近 值急剧增大,并趋向无穷大,于是惩罚越大,于是惩 罚函数 ( x r ( k ) )亦随之急剧增大至无穷大.
u
就好像在可行域的边界上设置很高的障 碍，从而保障迭代点一直在可行域内而又趋向 于约束最优点。当 k r ( k ) 0时，才能求得 原约束问题的最优解。 参数的选取和确定：
(0)
（2）初始惩罚因子 r
(0)
的选择
) . 初始惩罚因子 r ( 0的选择对于计算效率影响很大
若r x, 项）的作用就会很小，
x, r ( k )
( 0 ) 值得太小，则在惩罚函数中障碍项（惩罚
r
(k )
f ( x)
这时求惩罚函数 的无约束极值点。 犹如求原目标函数 f ( x)本身的无约束极值点而 这个极值点 x又不大可能接近 f ( x) 的约束极值点,
D.收敛条件： 同时满足:(1)相邻两次惩罚函数值相对变化 足够小； (2)相邻两次惩罚函数无约束最优 点的距离足够小。
(k ) x r
* (k ) ( k 1) ( k 1) , r x r , r 1 * ( k 1) ( k 1) x r , r
无约束优化方法PPT课件
2
从点xk出发，沿G某一共轭方向d k作一维搜索,到达xk 1
xk 1 xk ak d k
xk 1 xk ak d k 而在点xk、xk 1处的梯度分别为：
gk Gxk b gk1 Gxk1 b
gk1 gk G xk1 xk akGd k
等式两边同乘 d 0 T 得 d 0 T Gd1 0
d 0 d 1 是对G的共轭方向。
三、共轭方向法
1、选定初始点 x0 ，下降方向d 0 和收敛精度ε，k=0。
2、沿 d k 方向进行一维搜索，得 xk1 xk ak d k
3、判断 f xk1 是否满足，若满足则打印 xk1
xk1 xk k Hf xk
变尺度法是对牛顿法的修正，它不是计算二阶导数的矩阵和 它的逆矩阵，而是设法构造一个对称正定矩阵H来代替Hesse 矩阵的逆矩阵。并在迭代过程中，使其逐渐逼近H-1 。
由于对称矩阵H在迭代过程中是不断修正改变的，它对于一 般尺度的梯度起到改变尺度的作用，因此H又称变尺度矩阵。
第二节 最速下降法
优化设计追求目标函数值最小，若搜索方向取该点的负 梯度方向，使函数值在该点附近的范围内下降最快。 按此规律不断走步，形成以下迭代算法：
xk1 xk akf xk
以负梯度方向为搜索方向，所以称最速下降法或梯度法。
搜索方向确定为负梯度方向，还需确定步长因子ak
即求一维搜索的最佳步长，既有
共轭方向的概念是在研究二次函数
f x 1 xTGx bT x c
2 时引出的。 首先考虑二维情况
1 共轭方向
定义1：设G为 n n阶实对称正定矩阵，而 d i , d 为j 在n
从点xk出发，沿G某一共轭方向d k作一维搜索,到达xk 1
xk 1 xk ak d k
xk 1 xk ak d k 而在点xk、xk 1处的梯度分别为：
gk Gxk b gk1 Gxk1 b
gk1 gk G xk1 xk akGd k
等式两边同乘 d 0 T 得 d 0 T Gd1 0
d 0 d 1 是对G的共轭方向。
三、共轭方向法
1、选定初始点 x0 ，下降方向d 0 和收敛精度ε，k=0。
2、沿 d k 方向进行一维搜索，得 xk1 xk ak d k
3、判断 f xk1 是否满足，若满足则打印 xk1
xk1 xk k Hf xk
变尺度法是对牛顿法的修正，它不是计算二阶导数的矩阵和 它的逆矩阵，而是设法构造一个对称正定矩阵H来代替Hesse 矩阵的逆矩阵。并在迭代过程中，使其逐渐逼近H-1 。
由于对称矩阵H在迭代过程中是不断修正改变的，它对于一 般尺度的梯度起到改变尺度的作用，因此H又称变尺度矩阵。
第二节 最速下降法
优化设计追求目标函数值最小，若搜索方向取该点的负 梯度方向，使函数值在该点附近的范围内下降最快。 按此规律不断走步，形成以下迭代算法：
xk1 xk akf xk
以负梯度方向为搜索方向，所以称最速下降法或梯度法。
搜索方向确定为负梯度方向，还需确定步长因子ak
即求一维搜索的最佳步长，既有
共轭方向的概念是在研究二次函数
f x 1 xTGx bT x c
2 时引出的。 首先考虑二维情况
1 共轭方向
定义1：设G为 n n阶实对称正定矩阵，而 d i , d 为j 在n
机械优化设计5约束优化方法
S (k ) 与负梯度方向的夹角应小于900.
2020/4/17
16
2.可行性条件
(1)可行方向
迭代公式:
X (k1) X (k ) (k )S (k )
只要取适当的 (k) ,能0使 仍X在(kD1)内, 则 称可S行(k方) 向.
(2)可行性条件
在边界迭代点处, 实时约束函数沿该方向的方向导数应 不小于0:
计算复合形各顶点的函数值 F(Xj), j=1,2,…,K
比较复合形各顶点的函数值 ，找出好点XL，坏点XH
XH=XR
是
满足终止条件？
否
1 K
XC
K
1
Xj, j
j1
H
是
X R X C ( X C X H ), FR F ( X R )
是
FR<F(XH)
XR∈D
否
否
否
α=0.5α
是
找出次坏点XSH ，XH=XSH
X*=X(K), F*=F(X*) 结束
M=1
X (K) X (K) tS(K)
22
§5-6 惩罚函数法
一. 概述
1. 基本思) 成无约束问题 min 求(解X , r(k) )
X D Rn
* 构造惩罚函数 ( F 惩罚项) 的基本要求:
X Rn
可调参数
迭代公式: X (k1) X (k ) F ( X (k) )
定义目标函数相对下降量: (1)
下一迭代点如仍为内点, 继续进行, 直至迭代点到边界或域外时止.
2. 试验步长因子 t
迭代点在边界附近偏域内一侧时使 用, S (k采) 用最有利的适用可行方向.
X (k)
X (k 1)
2020/4/17
16
2.可行性条件
(1)可行方向
迭代公式:
X (k1) X (k ) (k )S (k )
只要取适当的 (k) ,能0使 仍X在(kD1)内, 则 称可S行(k方) 向.
(2)可行性条件
在边界迭代点处, 实时约束函数沿该方向的方向导数应 不小于0:
计算复合形各顶点的函数值 F(Xj), j=1,2,…,K
比较复合形各顶点的函数值 ，找出好点XL，坏点XH
XH=XR
是
满足终止条件？
否
1 K
XC
K
1
Xj, j
j1
H
是
X R X C ( X C X H ), FR F ( X R )
是
FR<F(XH)
XR∈D
否
否
否
α=0.5α
是
找出次坏点XSH ，XH=XSH
X*=X(K), F*=F(X*) 结束
M=1
X (K) X (K) tS(K)
22
§5-6 惩罚函数法
一. 概述
1. 基本思) 成无约束问题 min 求(解X , r(k) )
X D Rn
* 构造惩罚函数 ( F 惩罚项) 的基本要求:
X Rn
可调参数
迭代公式: X (k1) X (k ) F ( X (k) )
定义目标函数相对下降量: (1)
下一迭代点如仍为内点, 继续进行, 直至迭代点到边界或域外时止.
2. 试验步长因子 t
迭代点在边界附近偏域内一侧时使 用, S (k采) 用最有利的适用可行方向.
X (k)
X (k 1)
机械优化设计约束优化方法
1、产生K个随机点
xi= ai +ξi (bi - ai) i=1,2,….,n ξi为（0，1）区间内产生的均匀分布的随机数，需要n个 随机数产生一个点X (1)。同样，产生其它的随机点X (2)、 X (3)、……X (K)。
2、将非可行点调入可行域 将产生的K个随机点进行判断是否在可行域内，
反复迭代计算，使复合形不断向最优点移动和收 缩，直至收缩到复合形的顶点与形心非常接近，且满 足迭代精度要求为止。
在可行域内任选三个初始点X(1)、X(2)、X(3)，连接这 三点形成一个三角形，此三角形称为初始复合形。计算各 个顶点函数值F(X(1))、 F(X(2))、F(X(3))，找出最大值，记 为坏点X(H)。最小值，记为最好点X(L)。在次好点和好点 连线与坏点反向一侧的各点应具有较小的目标值。
K
F(X ( j)) F(X (L))
j 1
如果不满足终止迭代条件，则返回步骤2继续进行下 一次迭代；否则，可将最后复合形的好点X(L)及其函数值 F(X(L))作为最优解输出。
方法特点
（1）复合形法是求解约束非线性最优化问题的一种 直接方法，仅通过选取各顶点并比较各点处函数值 的大小，就可寻找下一步的探索方向。但复合形各 顶点的选择和替换，不仅要满足目标函数值下降的 要求，还应当满足所有的约束条件。
可行域以外的区域。
非可行域中的点，即不满足所有约束条件的点。
若有点 X k 使某个不等式约束 gu(X) ≤ 0 的等号 成立，即
gi Xk 0 i 1,2, ,m
则称 g i(X) ≤ 0 为点 X k 的一个适时约束。 等式约束始终是适时约束。
1. 可行方向法的搜索策略
第一步迭代都是从可行的初始点 x0 出发，沿点的 负梯度 d 0 f ( x0 )方向，将初始点移动到某一个约 束面（只有一个起作用的约束时）上, 或约束面的交 集（有几个起作用的约束时）上。
xi= ai +ξi (bi - ai) i=1,2,….,n ξi为（0，1）区间内产生的均匀分布的随机数，需要n个 随机数产生一个点X (1)。同样，产生其它的随机点X (2)、 X (3)、……X (K)。
2、将非可行点调入可行域 将产生的K个随机点进行判断是否在可行域内，
反复迭代计算，使复合形不断向最优点移动和收 缩，直至收缩到复合形的顶点与形心非常接近，且满 足迭代精度要求为止。
在可行域内任选三个初始点X(1)、X(2)、X(3)，连接这 三点形成一个三角形，此三角形称为初始复合形。计算各 个顶点函数值F(X(1))、 F(X(2))、F(X(3))，找出最大值，记 为坏点X(H)。最小值，记为最好点X(L)。在次好点和好点 连线与坏点反向一侧的各点应具有较小的目标值。
K
F(X ( j)) F(X (L))
j 1
如果不满足终止迭代条件，则返回步骤2继续进行下 一次迭代；否则，可将最后复合形的好点X(L)及其函数值 F(X(L))作为最优解输出。
方法特点
（1）复合形法是求解约束非线性最优化问题的一种 直接方法，仅通过选取各顶点并比较各点处函数值 的大小，就可寻找下一步的探索方向。但复合形各 顶点的选择和替换，不仅要满足目标函数值下降的 要求，还应当满足所有的约束条件。
可行域以外的区域。
非可行域中的点，即不满足所有约束条件的点。
若有点 X k 使某个不等式约束 gu(X) ≤ 0 的等号 成立，即
gi Xk 0 i 1,2, ,m
则称 g i(X) ≤ 0 为点 X k 的一个适时约束。 等式约束始终是适时约束。
1. 可行方向法的搜索策略
第一步迭代都是从可行的初始点 x0 出发，沿点的 负梯度 d 0 f ( x0 )方向，将初始点移动到某一个约 束面（只有一个起作用的约束时）上, 或约束面的交 集（有几个起作用的约束时）上。
无约束优化方法PPT课件-PPT精选文档
1 1 f x a G d 0 1
等式两边同乘 d
0
T
得
d Gd 0
0 T 1
fxa fx fx 0
k k T k k
k f x f x 0 k 1 T
d
k 1 T
dk 0
由此可知，在最速下降法中，相邻两个迭代点上 的函数梯度相互垂直。而搜索方向就是负梯度方 向，因此相邻两个搜索方向互相垂直。
第四章
无约束优化方法
第一节 概述
从第一章列举的机械设计问题，大多数实际问题 是约束优化问题。 约束优化问题的求解——转化为一系列的无约束 优化问题实现的。
因此，无约束优化问题的解法是优化设计方法 的基本组成部分，也是优化方法的基础。
无约束优化问题的极值条件
f x* 0
解析法(间接解法)
4.3.2 阻尼牛顿法 牛顿法的缺陷是，在确定极值点的过程中，并不含有沿 下降方向搜索的概念。因此对于非二次型函数，在迭代过 k 1 k 程中，可能出现 f( X )f( X )
的现象。为此人们提出了所谓的阻尼牛顿法。
令
k d H ( X ) f ( X ) k
1 k
以上二种经典方法中，人们不断努力，发掘，提出了不
同的改进方法。
第四节共轭方向及共轭方向法
为了克服最速下降法的锯齿现象，提高收敛速度，发展 了一类共轭方向法。搜索方向是共轭方向。
一、共轭方向的概念 共轭方向的概念是在研究二次函数
1T T f x x bx c xG 2
时引出的。 首先考虑二维情况
数值法(直接解法)
等式两边同乘 d
0
T
得
d Gd 0
0 T 1
fxa fx fx 0
k k T k k
k f x f x 0 k 1 T
d
k 1 T
dk 0
由此可知，在最速下降法中，相邻两个迭代点上 的函数梯度相互垂直。而搜索方向就是负梯度方 向，因此相邻两个搜索方向互相垂直。
第四章
无约束优化方法
第一节 概述
从第一章列举的机械设计问题，大多数实际问题 是约束优化问题。 约束优化问题的求解——转化为一系列的无约束 优化问题实现的。
因此，无约束优化问题的解法是优化设计方法 的基本组成部分，也是优化方法的基础。
无约束优化问题的极值条件
f x* 0
解析法(间接解法)
4.3.2 阻尼牛顿法 牛顿法的缺陷是，在确定极值点的过程中，并不含有沿 下降方向搜索的概念。因此对于非二次型函数，在迭代过 k 1 k 程中，可能出现 f( X )f( X )
的现象。为此人们提出了所谓的阻尼牛顿法。
令
k d H ( X ) f ( X ) k
1 k
以上二种经典方法中，人们不断努力，发掘，提出了不
同的改进方法。
第四节共轭方向及共轭方向法
为了克服最速下降法的锯齿现象，提高收敛速度，发展 了一类共轭方向法。搜索方向是共轭方向。
一、共轭方向的概念 共轭方向的概念是在研究二次函数
1T T f x x bx c xG 2
时引出的。 首先考虑二维情况
数值法(直接解法)
机械优化设计--约束问题的最优化方法
3. 初始点 x (0) 的选择： 要求： ① 在可行域内；
② 不要离约束边界太近。
方法： ① 人工估算，需要校核可行性；
② 计算机随机产生，也需校核可行性。
§4.2 内点惩罚函数法
方法：
③ 搜索方法： 任意给出一个初始点；
判断其可行性，若违反了S个约束，求出不满足约束中的最大值：
gk (x0) max{ gu x0 } u 1,2,..., S；
g g’=g+δ
δ0
δ0
δ
§4.3 外点惩罚函数法
四. 步骤：
1. 选择合适的初始点x(0)，并选择 r(0), a, ε1, ε2, δ0，令 k=0 ；
2. 构造惩罚（新目标）函数，调用无约束优化方法，求新目标函数
的最优解 xk* 和 Φ(xk , r(k) ) ；
3.
判断是否接近边界：
若max gu x * rk
，
0
则停止迭代， x* x * rk 。 否则，转第4步。
4. 判断是否收敛：运用终止准则
① x(k1) * (r(k1) ) xk * (r(k) ) 1
②
(x(k1) * (r (k1) )) (xk * (r (k ) )) (x(k1) * (r (k1) ))
大作业布置
3. 运行 SUMT.EXE
① 屏幕显示： N
含义： 设计变量数
② 屏幕显示： X
含义：
初始点
③幕显示： BU
含义：
上界
KG 不等式约束数
KH 等式约束数 （1）
⑤ 屏幕显示： EP : EPS :
C : HO : R
含义：内点法精度 Powell法精度 降低系数 试探 加权因子 步长因子
约束优化方法课件
s．4 当一次迭代的初始点与终点的函数值达到
和其步长达到
f( x ) f( x (0) )
f( x (0) )
ε 1
x x (0) ε 2ቤተ መጻሕፍቲ ባይዱ
时，即结束搜索过程。其最优解为： x*= x， f(x* ) ＝f(x )。否则转向第2步。
第22页/共24页
随机方向搜索法的特点 （1）随机方向搜索法的优点是对目标函数的性态无特殊要求，程序结构简单，使 用方便。另外，由于搜索方向是从许多方向中选择出目标函数值下降最好的方向， 再加上随机变更步长，所以收敛速度比较快。若能选取一个较好的初始点，则其迭 代次数可以减少。因此，它对于大型机械优化设计问题是一种较为有效的方法。
3.2.1 约束优化方法概述
一、约束优化问题的数学模型
minf(x) x D Rn
s.t. gi (x) 0 hj (x) 0
i 1, 2, m j 1, 2, p n
第2页/共24页
二、约束优化方法分类
（1). 直接法 直接法是在满足约束条件的可行域内直接求出问题的约束最优解，整个求解过 程在可行域内进行，因而所得的任一方案都是可行的。原理比较简单，方法比较适 用。
R=a+r(b-a)
第9页/共24页
二、初始点的选择 通常可以有两种确定方法： (1)决定性的方法 即在可行域内人为地确定一个可行的初始点。当约束条件比较简单时，这种
方法是可用的。但当约束条件比较复杂时，人为选择一个可行点就比较困难， 建议用下面的随机选择方法。
(2)随机选择方法 即利用计算机产生的伪随机数来选择一个可行的初始点x(0)。
第4页/共24页
3.2.2 约束随机方向法
基本原理
对于求解
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
计算复合形各顶点的函数值 F(Xj), j=1,2,…,K
比较复合形各顶点的函数值 ，找出好点XL，坏点XH
XH=XR
是
满足终止条件？
否
1 K
XC K1j1Xj, jH
是
X R X C ( X C X H )F R , F ( X R )
是
FR<F(XH)
XR∈D
否
否
否
α=0.5α
是
找出次坏点XSH ，XH=XSH
ⅱ) 计算q个可行点点集的几何中心
X(s) 1 q X( j) q j1 ⅲ) 将非可行点逐一调入可行域内.
X (q 1 ) X (s) 0 .5 (X (q 1 ) X (s))
若仍不可行, 则重
复此步骤, 直至进入 X (s)
可行域为止.
2020/6/17
X(q1)
11
三. 终止判别条件
2020/6/17
X*=XL ,F*=F(XL) 结束
13
§5-5 可行方向法
* 其特点是注意到约束最优点通常在约束边界上：为此，可先找出 一个边界点，然后沿边界搜索;
---是求解大型约束优化问题的主要方法.
一.寻找边界点的方法
1.在D内取一初始点,然后 沿负梯度方向搜索,直至使迭 代点超越D或落在边界上;
化问题求解. 常用方法有: 罚函数法,拉格朗日乘子法等.
2020/6/17
1
§5-2 约束坐标轮换法
一.基本思路
1.依次沿各坐标轴方向---e1,e2,…,en方向搜索; 2.将迭代点限制在可行域内.
•①可取定步长、加速步长和收缩步长,但不能取最 优步长; ②对每一迭代点均需进行可行性和下降性检查.
2.若迭代点在D外,则将它 调回到边界上.
X (0)
X (2) X (2)
X (1)
2020/6/17
14
二.产生适用可行方向的办法
(一)适用可行方向的数学条件 1. 适用(下降)性条件
在迭代点处, 目标函数沿该方向的方向导数应小于0:
[F(X(k))]T S(k) 0 S(k)
[F (X(k))T ]S(k)0
§5-1 优化方法的类型
(按对约束条件的处理方法分)
1）直接法（可解IP型问题） ---将迭代点限制在可行域内(可行性),步步
降低目标函数值(下降性),直至到达最优点.
常用方法有:约束坐标轮换法,约束随机方向法, 复合形法,可行方向法,线性逼近法等.
2）间接法（可解各类问题） ---通过变换,将约束优化问题转化为无约束优
i,i 1 ,2 ,.n .(0 . , i 1 )
2. 将(0,1)中的随机数 i 变换到(-1,1)中去;
yi 2i 1 i1,2,...n,
3. 构成随机方向
y1
S
1
y
2
n
i1
y
2 i
...
y
n
例: 对于三维问题: 10 .2 ,20 .6 ,30 .8
变换得: y 1 0 .6 ,y 2 0 .2 ,y 3 0 .6
S (k ) 与负梯度方向的夹角应小于900.
2020/6/17
15
2.可行性条件
(1)可行方向 迭代公式:
各顶点与好点函数值之差的均方根应不大于误差限
{1 kjk1[F(X(j))F(XL)2]}1 2
不是十分可靠, 可改变 重作, 看结果是否相同.
2020/6/17
12
给定K，δ，α，ε，ai , bi i =1,2,…n
产生初始复合形顶点 Xj , j=1,2,…,K
四. 复合形法的 迭代步骤
0 初始步；长 m在一迭代点处允的 许方 产向 生；数
终止误差(步限长)
XX0S
否 j =0
j =1
否
是
X∈D
K=K+1
是
F=F（X）
否 F<F0 是
是 K< m
否
α≤ε
α=0.5α
否
是
X0=X, F0=F
X*=X0 ,F*=F0
结束
2020/6/17
7
§5-4 复合形法
一. 基本思路
在可行域内选取若干初始点并以之为顶点构成一个多 面体(复合形),然后比较各顶点的函数值,去掉最坏点,代 之以好的新点,并构成新的复合形,以逼近最优点.
2020/6/17
8
二.初始复合形的构成
1. 复合形顶点数K的选择
建议: n1K2n
n小取大值, n大取小值
* 1) 为保证迭代点能逼近极小点, 应使
Kn1
2) 为避免降维, K应取大些; 但过大, 计算量也大.
2020/6/17
9
2. 初始复合形顶点的确定 1) 用试凑方法产生---适于低维情况; 2) 用随机方法产生 ①用随机方法产生K个顶点
先用随机函数产生 n个随机数 i(0,i然后1)
变换到预定的区间 ai中去xi.bi
x i (b i a i)i a i,i 1 ,2 , .n . . ,
这便得到了一个顶点,要连续产生K个顶点.
2020/6/17
10
② 将非可行点调入可行域内
ⅰ) 检查已获得的各顶点的可行性,若无一可行, 则重新产生随机点;若有q个可行,则转下步.
X1 X2
X3
XC
X4
•有两种基本运算:
1) 映射---在坏点的对侧试探新点:先 计算除最坏点外各顶点的几何中心, 然后再作映射计算.
XC0.5(X2X3) X1为最坏点
X4 XC(XCX1)
---映射系数
常取1.3
2) 收缩---保证映射点的“可行”与“下降”
若发现映射点不适用、可行,
则将 减半后重新映射.
于是
0.6 0.688 2
S
1 (0.6)20.220.62
0.20.2294 0.6 0.68822020/6/176三.随机方向法 的迭代步骤
给定X 内 0,0 点 ,m,
α=α0, F0=F(X0)
K计数(方 器向)数 j计数(沿 器该方向前1,进 否过 则0为 )
K=0, j=0
产生随机方向
一. 基本思路
搜索方向----采用随机产生的方向 ① 若该方向不适用、可行，则 产生另一方向；
②若该方向适用、可行，则以定 步长前进；
③若在某处产生的方向足够多， 仍无一适用、可行，则采用收缩 步长；
④若步长小于预先给定的误差限 则终止迭代。
2020/6/17
5
二.随机方向的构成
1.用RND(X)产生n个随机数
2020/6/17
2
二.迭代步骤
X (0) X (3) X (4)
X (1) X (2)
2020/6/17
3
三.存在问题
有时会出现死点, 导致输出“伪最优 点”.
* 为辨别真伪, 要用K-T条件进行检查.
2020/6/17
4
§5-3 约束随机方向法
坐标轮换法有时会输出“伪最优点” ,用随机方向法可克服这一缺点.