机械优化设计
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
X k 1 X k k f X k
(k 0,1, 2 )
机械优化设计 2、最速下降法的原理
（1）使 d f X ，按此规律不断走步，形成迭代算法：
X k 1 X k k f X k
(k 0,1, 2 )
（2）其步长因子 k 取一维搜索的最佳步长，即
f x
k 1
f x
T
k
0 或
d
k 1 T
dk 0
机械优化设计 由此可知，在最速下降 法中，相邻两个迭代点上 的函数梯度相互垂直。而 搜索方向就是负梯度方向， 因此相邻两个搜索方向互 相垂直。这就是说在迭代 点向函数极小点靠近的过 程，走的是曲折的路线， 形成“之”字形的锯齿现 最速下降法的搜索路径 象，而且越接近极小点锯 齿越细。
机械优化设计
第四章
无约束优化方法
一、概述 二、最速下降法（梯度法） 三、牛顿型方法（牛顿法和阻尼牛顿法） 四、共轭方向和共轭方向法 五、共轭梯度法 六、变尺度法 七、坐标轮换法
机械优化设计 实际中的工程问题大都是在一定限制条件下追 求某一指标为最小，属于约束优化问题。 为什么要研究无约束优化问题？
最大。依此方式不断进行，形成迭代的下降算法：
X k 1 X k k d k (k 0,1, 2 )
机械优化设计 3、算法框图
机械优化设计 4、无约束优化方法的分类 搜索方向的构成问题是无约束优化方法的关键。 k 根据确定其搜索方向 d 方法不同，可分为：
（1）只利用目标函数值的无约束优化方法（或称直接法， 即不使用导数信息），如：坐标轮换法、单形替换法及鲍威 （Powell）法。 直接法不必求函数导数，只计算目标函数值。适用于求 解变量个数较少（小于20）的问题，一般情况下效率较低。
（2）利用目标函数的一阶或二阶导数的无约束优化方法 （或称间接法）如：最速下降法（梯度法）、共轭梯度法、 牛顿法及变尺度法； 间接法除了要计算目标函数值外，还要计算目标函数的 梯度，有的还要计算其海赛矩阵；
机械优化设计
二、最速下降法（梯度来自百度文库）
1、基本思想
函数的负梯度方向是函数值在该点下降最快的方向。 将n维问题转化为一系列沿负梯度方向用一维搜索方法寻 优的问题，即利用负梯度作为搜索方向，故称为最速下降 法或梯度法。 搜索方向取该点的负梯度方向即 d f X ，使函 数值在该点附近的范围内下降最快。
1
f X 1 3.686164
经过10次迭代后，得到最优解：
X 0, 0
T
f X 0
该问题的目标函数的等值线为一族椭圆，迭代 点走的是一段锯齿形路线。
机械优化设计 解法2：引入变化
y1, y2 y12 y22
1 0 0
y1 x1 y2 5 x2
0 为一维搜索最佳步长，应满足极值必要条件
0 8(2 40 ) 5000(2 1000 ) 0
626 0 0.02003072 31252
机械优化设计 则第一次迭代设计点位置和函数值
1.919877 2 4 0 X 2 2 100 0.3071785 10 0
函数梯度为局部性质，因此并非“最快”。
机械优化设计
梯度法的迭代历程
机械优化设计
方法特点
1）初始点可任选，每次迭代计算量小，存储量少， 程序简短。即使从一个不好的初始点出发，开始 的几步迭代，目标函数值下降很快，然后慢慢逼 近局部极小点；
2）任意相邻两点的搜索方向是正交的，它的迭代 路径为绕道逼近极小点。当迭代点接近极小点时， 步长变得很小，越走越慢。
2x 4 f X 0 1 50 x2 100
0 0 min (2 4 )2 25(2 100 )2 min f X 1 min f X f X
，则目标函数 f x1, x2 变为
2 y1 4 2 y2 Y 0 20
Y 0 104 Y 0
k k k k f x k 1 f x a f x min f x a f x k k min
根据一元函数极值的必要条件和多元复合函数求导公 式，得
K f X f X f X 0 k k k T
1）有些实际问题，其数学模型本身就是一个无约束问题；
2）通过熟悉它的解法可以为研究约束优化问题打下良好的 基础；
3）约束优化问题的求解可用通过一系列无约束优化方法来 达到。
所以无约束优化问题的解法是优化设计方法的基本 组成部分，也是优化方法的基础。
机械优化设计
一、概述
1、无约束优化问题 T 求 n 维设计变量 X x1 , x 使目标函数 2 , xn f X min ，而对 X 没有任何限制条件。 2、求解方法 （1）利用极值条件来确定极值点的位置。 （2）数值计算方法——搜索方法 基本思想：从给定的初始点 x0 出发，沿某一搜索方向 0 0 d 进行搜索，确定最佳步长 0 使函数值沿 d 下降
机械优化设计 最 速 下 降 法 的 程 序 框 图
机械优化设计 例：求目标函数 f X x12 25x22 的极小点 解法1：取初始点
f X 0 104
X 0 2, 2 ，则初始点处的函数值
T
及梯度分别为：
2 4 2 4 0 X 1 X 0 0f X 0 0 2 100 2 100 0
(k 0,1, 2 )
机械优化设计 2、最速下降法的原理
（1）使 d f X ，按此规律不断走步，形成迭代算法：
X k 1 X k k f X k
(k 0,1, 2 )
（2）其步长因子 k 取一维搜索的最佳步长，即
f x
k 1
f x
T
k
0 或
d
k 1 T
dk 0
机械优化设计 由此可知，在最速下降 法中，相邻两个迭代点上 的函数梯度相互垂直。而 搜索方向就是负梯度方向， 因此相邻两个搜索方向互 相垂直。这就是说在迭代 点向函数极小点靠近的过 程，走的是曲折的路线， 形成“之”字形的锯齿现 最速下降法的搜索路径 象，而且越接近极小点锯 齿越细。
机械优化设计
第四章
无约束优化方法
一、概述 二、最速下降法（梯度法） 三、牛顿型方法（牛顿法和阻尼牛顿法） 四、共轭方向和共轭方向法 五、共轭梯度法 六、变尺度法 七、坐标轮换法
机械优化设计 实际中的工程问题大都是在一定限制条件下追 求某一指标为最小，属于约束优化问题。 为什么要研究无约束优化问题？
最大。依此方式不断进行，形成迭代的下降算法：
X k 1 X k k d k (k 0,1, 2 )
机械优化设计 3、算法框图
机械优化设计 4、无约束优化方法的分类 搜索方向的构成问题是无约束优化方法的关键。 k 根据确定其搜索方向 d 方法不同，可分为：
（1）只利用目标函数值的无约束优化方法（或称直接法， 即不使用导数信息），如：坐标轮换法、单形替换法及鲍威 （Powell）法。 直接法不必求函数导数，只计算目标函数值。适用于求 解变量个数较少（小于20）的问题，一般情况下效率较低。
（2）利用目标函数的一阶或二阶导数的无约束优化方法 （或称间接法）如：最速下降法（梯度法）、共轭梯度法、 牛顿法及变尺度法； 间接法除了要计算目标函数值外，还要计算目标函数的 梯度，有的还要计算其海赛矩阵；
机械优化设计
二、最速下降法（梯度来自百度文库）
1、基本思想
函数的负梯度方向是函数值在该点下降最快的方向。 将n维问题转化为一系列沿负梯度方向用一维搜索方法寻 优的问题，即利用负梯度作为搜索方向，故称为最速下降 法或梯度法。 搜索方向取该点的负梯度方向即 d f X ，使函 数值在该点附近的范围内下降最快。
1
f X 1 3.686164
经过10次迭代后，得到最优解：
X 0, 0
T
f X 0
该问题的目标函数的等值线为一族椭圆，迭代 点走的是一段锯齿形路线。
机械优化设计 解法2：引入变化
y1, y2 y12 y22
1 0 0
y1 x1 y2 5 x2
0 为一维搜索最佳步长，应满足极值必要条件
0 8(2 40 ) 5000(2 1000 ) 0
626 0 0.02003072 31252
机械优化设计 则第一次迭代设计点位置和函数值
1.919877 2 4 0 X 2 2 100 0.3071785 10 0
函数梯度为局部性质，因此并非“最快”。
机械优化设计
梯度法的迭代历程
机械优化设计
方法特点
1）初始点可任选，每次迭代计算量小，存储量少， 程序简短。即使从一个不好的初始点出发，开始 的几步迭代，目标函数值下降很快，然后慢慢逼 近局部极小点；
2）任意相邻两点的搜索方向是正交的，它的迭代 路径为绕道逼近极小点。当迭代点接近极小点时， 步长变得很小，越走越慢。
2x 4 f X 0 1 50 x2 100
0 0 min (2 4 )2 25(2 100 )2 min f X 1 min f X f X
，则目标函数 f x1, x2 变为
2 y1 4 2 y2 Y 0 20
Y 0 104 Y 0
k k k k f x k 1 f x a f x min f x a f x k k min
根据一元函数极值的必要条件和多元复合函数求导公 式，得
K f X f X f X 0 k k k T
1）有些实际问题，其数学模型本身就是一个无约束问题；
2）通过熟悉它的解法可以为研究约束优化问题打下良好的 基础；
3）约束优化问题的求解可用通过一系列无约束优化方法来 达到。
所以无约束优化问题的解法是优化设计方法的基本 组成部分，也是优化方法的基础。
机械优化设计
一、概述
1、无约束优化问题 T 求 n 维设计变量 X x1 , x 使目标函数 2 , xn f X min ，而对 X 没有任何限制条件。 2、求解方法 （1）利用极值条件来确定极值点的位置。 （2）数值计算方法——搜索方法 基本思想：从给定的初始点 x0 出发，沿某一搜索方向 0 0 d 进行搜索，确定最佳步长 0 使函数值沿 d 下降
机械优化设计 最 速 下 降 法 的 程 序 框 图
机械优化设计 例：求目标函数 f X x12 25x22 的极小点 解法1：取初始点
f X 0 104
X 0 2, 2 ，则初始点处的函数值
T
及梯度分别为：
2 4 2 4 0 X 1 X 0 0f X 0 0 2 100 2 100 0