第三章 一维优化方法
合集下载
一维优化方法总结
一维优化方法总结第三章：一维优化方法总结1.一维优化方法介绍求解以为目标函数f （x ）最优解的过程，称为一维优化，所使用的方法称为一维优化方法。
一维优化方法是优化方法中最简单、最基本的优化方法。
他不仅用来解决一维目标函数的求最优问题，而且常用于多维优化问题在既定方向上寻求最优步长的一维搜索。
对于任一次迭代计算，总是希望从已知的点()k x 出发，沿给定的方向()k s 搜索该方向上到目标函数值最小的点(1)k +x 。
这种在确定的搜索方向()k s 上按步长因子()k α迭代使得目标函数在该方向上达到极小值的过程称为一维搜索优化计算方法。
一维搜索最优化方法一般需要分两步进行：第一步是在()k s 方向上确定使得目标函数值取得最小值的步长因子()k α所在的区间；第二步是采用不同方法利用步长因子()k α求得近似解。
2.搜索区间的确定及matlab 编程所谓搜索区间就是沿给定的搜索方向()k s 上找出一个单峰区间12[,]αα，即在该区间内目标函数值的变化只有一个峰值。
本文选用进退法进行区间确定。
这里直接以一维函数为例。
设函数为()y f x =，给定初始点1x ，选定恰当的步长为0h ，求其最小点*x 。
进退法分为三步：试探搜索、前进搜索和后退搜索。
第一步：试探搜索由于最小点*x 的位置是未知的，所以首先要试探最小点*x 位于初始点1x 的左方还是右方，然后再确定包含*x 在内的搜索区间[,]a b 。
由初始点1x 沿Ox 轴正向到2x 点，210x x h =+，分别计算两点的函数值11()y f x =，22()y f x =并比较1y 和2y 值的大小，可分为两种情况：（1）若21y y <，则极小点必在点右方，应继续前进搜索；（2）若21y y >，则极小点必在1x 点左方，应反向，即作后退搜索。
第二步：前进搜索由探索后的2x 点，沿Ox 正向继续前进搜索。
令02h h =，取得前进方向的第三个点32x x h =+，对应的函数值33()y f x =，比较后两个点的函数值，有如下两种情况：（1）若23y y <，则三个点123x x x 、、的函数值的关系为123y y y ><。
3第三章一维优化方法new
1 = b (b - a)
计算其函数值。
2 = a + (b - a)
y1 = f(1) y2 = f(2) 1)若y1<y2则极小点必在区间[a,2]内， 令b =2，新区间为[a，2] 2)若y1≥y2则极小点必在区间[1,b]内， 令a = 1，新区间为[1，b]
经过函数值比较，区间缩短一次。
三、一维搜索方法的分类
分为两类：
一类称做试探法， 按某种给定的规律来确定区间 内插入点的位置， 如黄金分割法等；
一类称为插值法或函数逼近法，这类方法是根据某 些点处的某些信息， 如函数值、一阶导数、二阶导 数等， 构造一个插值函数来逼近原来函数， 用插值 函数的极小点作为区间的极小点， 如二次插值法， 三次插值法等。
3.3 一维搜索的试探方法
黄金分割法适用于[a,b]区间上的任何单峰函数求极小值问题。对函数
除要求单峰外不作其它要求，甚至可以不连续。因此，这种方法的适应
面相当广。黄金分割法也是建立在区间消去法原理基础上的试探方法。
一、黄金分割法的原理
在搜索区间[a, b]内适当插入两点1,2 ，1<2,且在区间内对称位置，
寻求最优步长 (k) 的方法称一维搜索法。求多元函数极值点，
需要进行一系列的一维搜索。
可利用一元函数的极值条件’(*)=0求*。把f (xk +
kdk
)进行泰勒展开并取二阶项，即
f x d f x d Tf x 1 d
T
Gd
2
f x d Tf x 是，计算
p*点的函数值yp*，比较yp*与y2，取其 中较小者所对应的点作为新的2，以 此点的左右两邻点作为新的1和3， 得到缩短后的新区间[1，3]，如图
最优化方法 第三章第二讲 一维搜索
第三次迭代
令 x1 0.538， f1 1.751，取 F3 x2 0.077 (1.462 0.077) 0.846， F4 f 2 1.870。
因为 f 1 f 2 ，所以新区间为 0.077,0.846。
第四次迭代
令 x 2 0.538， f 2 1.751，取 F1 x1 0.077 (0.846 0.077) 0.231， F3 则 f 1 1.822。
设其最优解为 k ，得到 xk 1 xk k pk ，
一维搜索是求解一元函数 ( ) 的最优化问题（也叫 一维最优化问题） ，仍表示为 min f ( x ) 或 min f ( x )。 1
xR
a xb
定义：若在 a, b内 f ( x )有唯一极小点 x* ，在 x* 的左边 f ( x )严格下降，在 x* 的右边 f ( x )严格上升， 则称 f ( x )在区间 a, b上是下单峰函数。
step 6 令 k k 1，若 k n 2，则转 step 5； 若 k n 2，则转 step 7。
step 7 若 f1 f 2 ， 则令 b x2 ，x2 x1 ，f 2 f1 ， 转 step 8； 若 f1 f 2 ，则令 a x1，转 step 8。 step 8 令 x1 x2 0.1(b a ) ， f1 f ( x1 ) 1 * 若 f1 f 2 ，则 x (a x2 )， 2 1 * 若 f1 f 2 ，则 x ( x1 x2 )， 2 1 * 若 f1 f 2 ，则 x ( x1 b ) 。 2
ab step 3 若 b a ，则 x ，停。否则转 step 4。 2
机械优化设计第三章一维搜索方法
(b a)，故
Fn
b
a 。由Fn即可从斐波那契数列表或按F0
F1
1, Fn
Fn1
Fn2 (n
2, 3,
)
推算出相应的n。
3）确定试点并计算相应的函数值，在区间a, b内的两个试点：
x2
a
Fn1 Fn
(b
a),
x1
b
Fn1 Fn
(b
a),
f1 f (x1),
f2 f (x2 )
第三章 一维搜索方法
1.若f (a1) f (b1)，则取[a,b1]为缩短后的搜索区间； 2.若f (a1) f (b1)，则取[a1,b]为缩短后的搜索区间。
第三章 一维搜索方法
第二节 搜索区间的确定与区间消去法原理
间 接
假定在搜索区间[a, b]内取一点x, 并计算它的导数值 f '(x)，可能出现三种情况：
x2 a b x1, f2 f (x2 )
5）检查迭代终止条件：bn1 an1
，若满足，则输出最优解x*
1 (a b), 2
ห้องสมุดไป่ตู้
f*
f (x*)，
若不满足，则转入（4），继续进行迭代。
1. f (a1) f (b1)，由于函数的单峰性， 极小点一定在[a, b1 ]内； 2. f (a1) f (b1)，极小点一定在[a1,b]内； 3. f (a1) f (b1)，极小点一定在[a1,b1]内。
第三章 一维搜索方法
第二节 搜索区间的确定与区间消去法原理
直 接 法
假定在搜索区间[a,b]内任取两点a1和b1，且a1 b1， 并计算f (a1)和f (b1)，可能出现三种情况：
f (x1) f (x) f (x2)
机械优化设计3一维优化方法
2 F ( X ) x12 x2 8 x1 12 x2 52 如：
当
X
(0)
0 0 , S
T
(0)
1 1
T
0 1 X 0 1
则
2 F x12 x2 8 x1 12 x2 52 2 2 20 52
航空航天学院
第三章 一维搜索方法
1）确定初始搜索区间的进退算法；
2）黄金分割法；
3）牛顿法；
4）二次两点插值法；
5）三次两点插值法。
航空航天学院
§3.1
一) 目的
min f (X) X∈Rn
引言
求一组 n 维设计变量 X = [x1,x2 ,…,x n ]T, 使目标函数达到 即求目标函数的最优解：最优点 X* 和最优值 f (X*) 。
确定的搜索区间必定是一个
f (x) f (x)
0
含有最优点α*的单峰区间。
α1
α3 α
0
α1
α3
α
航空航天学院
三) 迭代步骤
给定x1、h0 h=h0
初始进退距
f
y1
y2
y3
y1=f(x1)、x2=x1+h、y2=f(x2) h= -h x3=x1 y3=y1 否 y1≥y2 是 h=2h
f
x1 x2 x3
d
航空航天学院
黄金分割常数用ω表示，我们常常取近似值，记作ω=0.618
怎样用黄金分割常数来缩小变量范围[a,b]，从而找到最佳点呢? 这是要解决的问题.
航空航天学院
把试点安排在黄金分割点来寻找最佳点的方法,就是 黄金分割法.
• 案例 炼钢时通过加入含有特定化学元素的材料,使 炼出来的钢满足一定的指标要求。假设为了炼出某 种特定用途的钢，每吨需要加入某些元素的重量在 1000g到2000g之间，问如何通过试验的方法找到它 的最优加入量。 最朴素的想法是:以1g为间隔,从1001开始,直到 1999,把1000g到2000g的所有情况都做一遍实验, 一定可以得到最优值.
当
X
(0)
0 0 , S
T
(0)
1 1
T
0 1 X 0 1
则
2 F x12 x2 8 x1 12 x2 52 2 2 20 52
航空航天学院
第三章 一维搜索方法
1）确定初始搜索区间的进退算法；
2）黄金分割法；
3）牛顿法；
4）二次两点插值法；
5）三次两点插值法。
航空航天学院
§3.1
一) 目的
min f (X) X∈Rn
引言
求一组 n 维设计变量 X = [x1,x2 ,…,x n ]T, 使目标函数达到 即求目标函数的最优解：最优点 X* 和最优值 f (X*) 。
确定的搜索区间必定是一个
f (x) f (x)
0
含有最优点α*的单峰区间。
α1
α3 α
0
α1
α3
α
航空航天学院
三) 迭代步骤
给定x1、h0 h=h0
初始进退距
f
y1
y2
y3
y1=f(x1)、x2=x1+h、y2=f(x2) h= -h x3=x1 y3=y1 否 y1≥y2 是 h=2h
f
x1 x2 x3
d
航空航天学院
黄金分割常数用ω表示，我们常常取近似值，记作ω=0.618
怎样用黄金分割常数来缩小变量范围[a,b]，从而找到最佳点呢? 这是要解决的问题.
航空航天学院
把试点安排在黄金分割点来寻找最佳点的方法,就是 黄金分割法.
• 案例 炼钢时通过加入含有特定化学元素的材料,使 炼出来的钢满足一定的指标要求。假设为了炼出某 种特定用途的钢，每吨需要加入某些元素的重量在 1000g到2000g之间，问如何通过试验的方法找到它 的最优加入量。 最朴素的想法是:以1g为间隔,从1001开始,直到 1999,把1000g到2000g的所有情况都做一遍实验, 一定可以得到最优值.
机械优化设计-第三章一维优化方法
23
机械优化设计
• 第四次缩小区间： 第四次缩小区间： • 令 x2=x1=0.764, , f2=f1=0.282 • x1=0.472+0.382*(0.944-0.472)=0.652, f1=0.223 • 由于f1<f2, 故新区间 由于f 故新区间[a,b]=[a, x2]=[0.472, 0.764] • 因为 b-a=0.764-0.472=0.292>0.2, 应继续缩小区间。 , 应继续缩小区间。 第五次缩小区间： 第五次缩小区间： f2=f1=0.223 令 x2=x1=0.652, x1=0.472+0.382*(0.764-0.472)=0.584, f1=0.262 由于f 故新区间[a,b]=[x1,b]=[0.584, 0.764] 由于f1>f2, 故新区间 因为 b-a=0.764-0.584=0.18<0.2, 停止迭代。 程序演示 , 停止迭代。 极小点与极小值： 极小点与极小值： x*=0.5*(0.584+0.764)=0.674,
x2 = a + 0.618(b − a), y2 = f ( x2 )
f
b = x2 , x2 = x1, y2 = y1
x1 = a + 0.382(b − a), y1 = f ( x1 )
y1 < y2
否
是
y1 y2
x
b
a = x1 , x1 = x2 , y1 = y2
x2 = a + 0.618(b − a), y2 = f ( x2 )
7
机械优化设计
h0
x2
机械优化设计
2.前进搜索 加大步长 h＝2 h ，产生新点x3= x2+ 2h0 ； （a）如y2<y3，则函数在[x1，x3]内 必有极小点，令a= x1，b= x3搜索 区间为[a，b] ； （b）如y2>y3， 令x1=x2 ，y1=y2 ； x2=x3 ，y2=y3 ； h=2h 重新构造新点x3=x2+h，并比较y2、 y3的大小，直到y2<y3。
机械优化设计
• 第四次缩小区间： 第四次缩小区间： • 令 x2=x1=0.764, , f2=f1=0.282 • x1=0.472+0.382*(0.944-0.472)=0.652, f1=0.223 • 由于f1<f2, 故新区间 由于f 故新区间[a,b]=[a, x2]=[0.472, 0.764] • 因为 b-a=0.764-0.472=0.292>0.2, 应继续缩小区间。 , 应继续缩小区间。 第五次缩小区间： 第五次缩小区间： f2=f1=0.223 令 x2=x1=0.652, x1=0.472+0.382*(0.764-0.472)=0.584, f1=0.262 由于f 故新区间[a,b]=[x1,b]=[0.584, 0.764] 由于f1>f2, 故新区间 因为 b-a=0.764-0.584=0.18<0.2, 停止迭代。 程序演示 , 停止迭代。 极小点与极小值： 极小点与极小值： x*=0.5*(0.584+0.764)=0.674,
x2 = a + 0.618(b − a), y2 = f ( x2 )
f
b = x2 , x2 = x1, y2 = y1
x1 = a + 0.382(b − a), y1 = f ( x1 )
y1 < y2
否
是
y1 y2
x
b
a = x1 , x1 = x2 , y1 = y2
x2 = a + 0.618(b − a), y2 = f ( x2 )
7
机械优化设计
h0
x2
机械优化设计
2.前进搜索 加大步长 h＝2 h ，产生新点x3= x2+ 2h0 ； （a）如y2<y3，则函数在[x1，x3]内 必有极小点，令a= x1，b= x3搜索 区间为[a，b] ； （b）如y2>y3， 令x1=x2 ，y1=y2 ； x2=x3 ，y2=y3 ； h=2h 重新构造新点x3=x2+h，并比较y2、 y3的大小，直到y2<y3。
第三章一维优化方法
p( x )
f ( x)
P3 P2
x
*( k 1) P
*(1) fP
k) x* x*( P
a x1
x2 x1
x *(1) P x2
x3 b x3
25
26
在流程图中有两个判别框的内容需稍加说明。其一是c2=0？若成 立，即：
或写作
这说明三个插值结点P1(x1，f1)、P2(x2，f2)、P3(x3，f3)在同一条直 线上；其二是 * * ( xP -x1)(x3- xP )≤0？ (3.14) * 若成立，则说明 xP 落在区间[x1，x3]之外。
x2 x * p
f 2 f p*
x2 x
* p
f 2 f p*
x2 x * p
f 2 f p*
23
区间的缩短程序框图
24
三、终止准则
x , x , ..., x
x
*( k ) P
P 1
*(1) P
*(2) P
*( k 1) P
, x , ... x
*( k ) P
*
9
3.2 一维搜索的最优化方法
3.2.1 格点法
在区间[a，b]的内部取n个 内等分点： x1，x2，…，xn 区间[a，b]被分成(n+1)等 分，各分点的坐标为:
xk a ba k n 1
f ( x)
逐渐缩小搜索区间
新区间
k 1,2,..., n
o a x1 x2
ym 1 ym
2 2 2 2 ( x2 x3 ) f1 ( x3 x12 ) f 2 ( x12 x2 ) f3 B ( x1 x2 )( x2 x3 )( x3 x1 )
工程优化 第三章 一维搜索
例
经 6 次迭代达到
b7 a7 0.111 0.16 满足精度要求，极小点 x [0.168,0.279] . 0.168 0.279 x 0.23 * 2 实际上，最优解 x 0.25 .可取 作为近似最
优解.
第四节 对分法（二分法） 对分法适用对象：单峰函数、连续可导 优点：每迭代一次可去掉区间的二分之一。 如果找到一个区间 [a, b] ，具有性质 (a) 0, (b) 0 ，则在 a, b 之
* * ( x ) 0. ( x ) 间必有 的极小点 x ，且
算法步骤： 已知 a, b 且 a b ， (a) 0, (b) 0 及 0 . 1）
c ab 2 ，转 2）；
2）若 b a ，转 4）；否则，转 3）；
3 ）计算 (c) . 若 (c) 0 ，转 4 ） ；若 (c) 0 ，则令 a c ，转 1） ；若 (c) 0 ，则令 b c ，转 1） ； * t 4）令 c ，停止迭代. 4 3 2 ( x ) 3 x 16 x 30 x 24 x 8 ，求 ( x) 的极小点. 例 设
第三章 常用一维搜索方法
第一节 一维搜索概述 一、下降迭代算法的基本思想 不失一般性，考虑如下的优化问题
min f ( x)
xS
n f : S R R. 其中
（3.1）
1 x 下降迭代算法的基本思想：给定一个初始点 S ，按照
k k { x } { x 某种迭代规则产生一个点列 ，使得当 } 是有限点列时， k { x 其最后一个点是最优化问题的最优解；当 } 是无穷点列时，
* [ a , b ] ( x ) x 设 在 上是单峰函数，最小点为 .在 (a, b) 内任取
第3章 一维最优化
一维最优化问题： 一维最优化问题：
min s .t .
f ( x) x∈ R
极值点的必要条件： 极值点的必要条件：
f '( x ) = 0
二、 确定搜索区间的方法— 进退法
实际问题 数学模型 数值计算方法
程序设计
上机计算求出结果
数值解法： 数值解法：利用计算机通过反复迭代计 求得实际问题的近似值。 算，求得实际问题的近似值。
[a, b]称为ϕ ( x)的单谷区间。
显然此时x ∗为ϕ ( x)在[a, b]上唯一的极小点。
☺问题：凸函数是不是单谷函数？严格凸函数是 问题：凸函数是不是单谷函数？ 不是单谷函数？单谷函数是不是凸函数？ 不是单谷函数？单谷函数是不是凸函数？
搜索法求解： 搜索法求解： min ϕ (t)
t≥ 0
否
b − x1 ≤ ε
停止，输出 停止，输出x2 是
是
否
停止，输出 停止，输出x1 以[a,x2]为新的搜索区间 为新的搜索区间
三、黄金分割法
f ( a ) = a 2 − 7a + 10 的初始区间， 的初始区间， 例1：用黄金分割法求
设初始点 。= 1 a，初始步长 h 0 = 0 用进退法确定初始区间： 解：用进退法确定初始区间：
ϕ ( x1 )
x1 x2
3
x
2) 第二轮： 第二轮： x2=1.146, x1=0.708
ϕ
ϕ ( x1 ) = −0.0611 ϕ ( x2 ) = 0.2131
x2-0=1.146>0.5 3) 第三轮： 第三轮： x1=0.438, x2=0.708 0
x1 x2
1.854
x
ϕ
第三章一维优化方法
f (X) = f (X(k) ) +[ fx′1 (X(k) ) fx′1 (X(k) )][(x1 − x1(k) )
(x2 − x2(k) )]T (x2 − x2(k) )]T }
fx′′2 (X(k) ) fx′′x2 (X(k) ) 1 1 [(x1 − x1(k) ) + {[(x1 − x1(k) ) (x2 − x2(k) )] 1 (k) (k ) 2 fx′′x2 (X ) fx′′x2 (X ) 1 2 1 T 2 (k ) (k ) T = f (X ) +∇ f (X )∆X + ∆X [∇ f (X(k) )]∆X 2
(k ) (k ) (k )
二元函数f 的泰勒展开： 二元函数 (x1，x2)的泰勒展开： 的泰勒展开
f ( x1 , x2 ) = f ( X ( k ) ) + f x′1 ( X ( k ) )( x1 − x1( k ) ) + f x′2 ( X ( k ) )( x2 − x2 ( k ) ) 1 + [ f x′′2 ( X ( k ) )( x1 − x1( k ) ) 2 + 2 f x′′x2 ( X ( k ) )( x1 − x1( k ) )( x2 − x2 ( k ) ) 1 2 1 + f x′′2 x2 ( X ( k ) )( x2 − x2 ( k ) ) 2 ]
与目标函数在本次迭代所得点xk1处的梯度方向3共轭搜索方向的一个重要性质n维正定二次函数的n次收敛性对于n维正定二次函数若相继以一组相互共轭的向量s索方向则不论从任何初始点出发经过n次一维搜索就可以得到该正定二次函数的极小收敛性与收敛准则迭代算法应具有收敛性即产生的极小点序列或者其中某一点就是极小点或者序列有一个极限它是目标函数的极小点
第3章 一维优化方法
Thank You！
若 f1 ≥ f2 ，则取[ ，b]为新区间，而 作为新区间内的第一个 试算点，即令
而另一试算点可按下式计算出来：
(4) 迭代终止条件判别 若满足b-a ≤ε，则转 下一步； 否则返回步骤(3)，进行 下一次迭代计算，进一步缩 短区间。
(5) 输出最优解
黄金分割法的计算框图， 如图3-7所示。
（3-2）
综上所述，黄金分割法的计算步骤如下：
(1) 给定初始单峰区间[a, b]和收敛精度ε； (2) 在区间[a, b]内取两个内插点并计算其函数值：
(3) 比较函数值 f1和 f2 的大小：
若 f1 < f2 ，则取[a, ]为新区间，而 试算点，即令
则作为新区间内的第一个
而另一试算点可按下式计算出
l，则
首次区间缩短率为：
再次区间缩短率为：
根据每次区间缩短率相等的原则，则有
由此得 即
，或 ，解此方程取其正根可得
这意味着，只要取λ= 0.618，就以满足区间缩短率不变的要求。 即每次缩小区间后，所得到的区间是原区间的0.618倍，舍弃的区间 是原区间的0.382倍。 根据以上结果，黄金分割法的两个内插点的取点规则为：
目前，在 一维优化搜索 中，确定 单峰区间 常用的方法主要是 进退试算法。
进退试算法的基本思想为：
按照一定的规律给出若干试算点，依次比较各试算点的函数 值的大小，直到找到相邻三点的函数值按 “高-低-高” 变化的单峰 区间为止。
进退试算法的运算步骤如下： (1)给定初始点α0和初始步长h ，设搜索区间[a, b]，如图3-3所示。
短率都是取λ= 0.618，即该法是按区间全长的0.618倍的关系来选取两
个对称内插点α1,α2的。
若 f1 ≥ f2 ，则取[ ，b]为新区间，而 作为新区间内的第一个 试算点，即令
而另一试算点可按下式计算出来：
(4) 迭代终止条件判别 若满足b-a ≤ε，则转 下一步； 否则返回步骤(3)，进行 下一次迭代计算，进一步缩 短区间。
(5) 输出最优解
黄金分割法的计算框图， 如图3-7所示。
（3-2）
综上所述，黄金分割法的计算步骤如下：
(1) 给定初始单峰区间[a, b]和收敛精度ε； (2) 在区间[a, b]内取两个内插点并计算其函数值：
(3) 比较函数值 f1和 f2 的大小：
若 f1 < f2 ，则取[a, ]为新区间，而 试算点，即令
则作为新区间内的第一个
而另一试算点可按下式计算出
l，则
首次区间缩短率为：
再次区间缩短率为：
根据每次区间缩短率相等的原则，则有
由此得 即
，或 ，解此方程取其正根可得
这意味着，只要取λ= 0.618，就以满足区间缩短率不变的要求。 即每次缩小区间后，所得到的区间是原区间的0.618倍，舍弃的区间 是原区间的0.382倍。 根据以上结果，黄金分割法的两个内插点的取点规则为：
目前，在 一维优化搜索 中，确定 单峰区间 常用的方法主要是 进退试算法。
进退试算法的基本思想为：
按照一定的规律给出若干试算点，依次比较各试算点的函数 值的大小，直到找到相邻三点的函数值按 “高-低-高” 变化的单峰 区间为止。
进退试算法的运算步骤如下： (1)给定初始点α0和初始步长h ，设搜索区间[a, b]，如图3-3所示。
短率都是取λ= 0.618，即该法是按区间全长的0.618倍的关系来选取两
个对称内插点α1,α2的。
第三章 一维优化方法
二次插值法
( x2 − x3 ) f1 + ( x3 − x1 ) f2 + ( x1 − x2 ) f3 A= ( x1 − x2 )( x2 − x3 )( x3 − x1 )
B=
2 ( x2
−
2 x3 ) f1
− ( x1 − x2 )( x2 − x3 )( x3 − x1 )
2 x1 ) f2
二次插值法
一、插值法概念 假定我们给定的问题是在某一确定区间 内寻求函数的极小点的位置， 内寻求函数的极小点的位置，但是没有函数表 达式，只有若干试验点处的函数值。 达式，只有若干试验点处的函数值。我们可以 根据这些函数值， 根据这些函数值，构成一个与原目标函数相接 近的低次插值多项式， 近的低次插值多项式，用该多项式的最优解作 为原函数最优解的近似解， 为原函数最优解的近似解，这种方法是用低次 插值多项式逐步逼近原目标函数的极小点的近 似求解方法，称为插值方法或函数逼近法。 似求解方法，称为插值方法或函数逼近法。 二、插值法与试探法的异同点 相同点： 相同点：都是利用区间消去法原理将初 始搜索区间不断缩短， 始搜索区间不断缩短，从而求得极小点的数值 近似解。 近似解。
确定初始搜索区间的进退法
三、后退搜索
对调， 令h ← -h0，并将x1与 x2对调，使步长加 ， 倍h←2h，取得x3点，x3 ← x2+h，其函数值 y3与y2比较有如下情况： 比较有如下情况 有如下情况： 1、若y2<y3，则有y1> y2<y3，此时函数 、 f(x)在[x3,x1]必有极小点，故令a ← x3，b ← 必有极小点， 必有极小点 x1，从而构成搜索区间[a,b] 从而构成搜索区间 2、若y2>y3，则继续后退搜索，各点变换 则继续后退搜索， 、 如下： 如下： x1 ← x2 ，y1 ← y2 x2 ← x3 ，y2 ← y3 然后步长加倍 步长加倍， 然后步长加倍，取新点x3，重复上述比较y2与 y3的大小，直至出现y1> y2<y3时，令a ← x3， 的大小， b ← x1，从而构成搜索区间 a,b] 从而构成搜索区间[
机械优化设计教案第三章一维优化
0
F(α 3)
α1
α2
图3.2
α3
α
4
3.2 确定最优解所在区间的进退法
进退法的基本思路
f(α)
f(α *)
0
由单峰函数性质可知，在极 小点左边函数值应严格下降， * 而在极小点 右边函数值应 严格上升。
α
α*
从某一给定的初始点 0 出发，以初始步长h0沿着目标 函数值的下降方向，逐步前进（或后退），直至找到相继 的3个试点的函数值按“大－小－大”变化为止。
5
进退法确定搜索区间的步骤：
1. 方法一[1] (1) 给定初始点α0和初始步长h0; (2) 令α1 ＝α0, h=h0， α2 ＝α1+h, 得： 两试点α1 ，α2 ，计算 f1 ＝f(α1), f2 ＝f(α2);
f ( )
(3) 比较 f1 和 f2 ，存在以下两种情况：
1) 若f1 > f2 ，如右图所示, 取h=2h, 作前进运算。
图3.1
2
在多维优化问题中，一维优化的目的是：在既定的X k 和 S k 下寻求最优步长 k ，使迭代产生的新点 X k 1 的函数值为最小，即：
min F ( X k k S k )
常用的一维搜索方法
试探法 黄金分割法 fibonacci方法 平分法 格点法
插值类方法 牛顿法 抛物线法（二次插值法）
29
平分法的迭代计算步骤
给 定ak , bk , 1 , 2 1) 计 算 k ak bk , 若 bk ak 1， 则 停 止 迭 代 ， 2 并 取 * k , 否 则 转 下 一 步 ；
2) 计算f ' ( k ), 若f ' ( k ) 0或f ' ( k ) 2 , 则停止迭代 , 并取 * k；否则， ak 若f ' ( k ) 0, 则取 k，bk 为缩短后的搜索区间 1 , bk 1 ,
F(α 3)
α1
α2
图3.2
α3
α
4
3.2 确定最优解所在区间的进退法
进退法的基本思路
f(α)
f(α *)
0
由单峰函数性质可知，在极 小点左边函数值应严格下降， * 而在极小点 右边函数值应 严格上升。
α
α*
从某一给定的初始点 0 出发，以初始步长h0沿着目标 函数值的下降方向，逐步前进（或后退），直至找到相继 的3个试点的函数值按“大－小－大”变化为止。
5
进退法确定搜索区间的步骤：
1. 方法一[1] (1) 给定初始点α0和初始步长h0; (2) 令α1 ＝α0, h=h0， α2 ＝α1+h, 得： 两试点α1 ，α2 ，计算 f1 ＝f(α1), f2 ＝f(α2);
f ( )
(3) 比较 f1 和 f2 ，存在以下两种情况：
1) 若f1 > f2 ，如右图所示, 取h=2h, 作前进运算。
图3.1
2
在多维优化问题中，一维优化的目的是：在既定的X k 和 S k 下寻求最优步长 k ，使迭代产生的新点 X k 1 的函数值为最小，即：
min F ( X k k S k )
常用的一维搜索方法
试探法 黄金分割法 fibonacci方法 平分法 格点法
插值类方法 牛顿法 抛物线法（二次插值法）
29
平分法的迭代计算步骤
给 定ak , bk , 1 , 2 1) 计 算 k ak bk , 若 bk ak 1， 则 停 止 迭 代 ， 2 并 取 * k , 否 则 转 下 一 步 ；
2) 计算f ' ( k ), 若f ' ( k ) 0或f ' ( k ) 2 , 则停止迭代 , 并取 * k；否则， ak 若f ' ( k ) 0, 则取 k，bk 为缩短后的搜索区间 1 , bk 1 ,
三章节一维搜索方法
f x ad f x adTf x 1 ad T G ad
2
f x dTf x 1 2dTGd
2
上式求α旳极值，即求α导数为零。
dTf x *d TGd 0
则
*
dTf x
d T Gd
从上式看，需要求导进行计算，对于函数关系复杂旳， 解析法十分不便。
数值法旳基本思绪：拟定 *旳搜索区间，在不断缩小
a2 a3 y1 a3 a1 y2 a1 a2
a1 a2 a2 a3 a3 a1
y3
所以
p
a1
/
2a2
1 2
a22 a32 a2 a3
y1 a32 a12 y1 a3 a1
y2 a12 a22 y2 a1 a2
y3 y3
令
c1
y3 a3
y1 a1
一、牛顿法（切线法）
一维搜索函数 y f ，假定一给出极小点旳一种很好旳近
似点0 ，因为一种连续可微旳函数在极小点附近与一种二次 函数很接近，所以，在0 点附近用一种二次函数 逼近。
f
f
0
f
0
0
1 2
f
0
0 2
求二次函数 旳极小点作为f 极小点旳新近似点1
1 0 即 f 0 f 0 0 0
P a0 a1 a2 2
它应满足条件 P 1 a0 a11 a212 y1 f 1 （1）
P 2 a0
a12
a2
2 2
y2
f
2
P 3
a0
a13
a2
ห้องสมุดไป่ตู้
2 3
y3
f
3
从极值旳必要条件求得
优化设计一维搜索方法第03章-2
牛顿法（Newton’s Method）、二次插值法（Quadratic Interpolation Method）、平分法（Bisection Method）、…
一、牛顿法
1、牛顿法工作原理 设f(x)为一个连续可微的函数，则在x0附近，该函数应该与一 个二次函数接近，即可在点x0附近用一个二次函数φ(x)来逼近函 数f(x) ，即：
f ( x) x 4 4 x 3 6 x 2 16 x 4
例2
解：取x2点为区间[x1,x3]的中点，x2 0.5 ( x1 x3 ) 2.5 , 计算x1,x2,x3 3点处的函数值f1=19，f2=-96.9375，f3=124。可 见函数值满足“高－低－高”形态。 以x1,x2,x3为插值点构造二次曲线， 求第一次近似的二次曲线p(x)的极小值点，由公式得：
x2 x3 f2 f1 f3 f1 即： c1 x2 x1 x3 x1
说明三个插值点位于同一条直线上，因此说明区间已经很 小，插值点非常接近，故可将x2、y2输出作为最优解。
5、区间的缩短 为求得满足收敛精度要求的 最优点，往往需要多次进行插 值计算，搜索区间不断缩短， 使xp*不断逼近原函数的极小点 x* 。
x 1.9545 ， 比较函数值可知 p
f ( x* ) 65.4648 f ( x2 ) 96.9375 p
* x 这种情况应消除左边区段 [ x1 , x ]。然后用 p , x2 , x3 作为 x1,x2,x3新3点,重新构造二次曲线p(x)，如此反复计算，直 * 到 x2 x p 为止。 * p
b
x1 x2 f1 f2 x 2 x p * f 2 f P*
第3章一维优化方法
第3章一维优化方法一维优化方法是数学中用于求解最优化问题的一种重要技术。
在实际问题中，往往需要找到一个函数的最小值或最大值点，一维优化方法就是这样一种方法，可以找到函数在一些区间内的最小值或最大值点。
一维优化方法有很多种，常见的有穷举法、黄金分割法、斐波那契法、抛物线法、割线法、牛顿法等。
不同的方法有不同的适用范围和求解效率，我们可以根据具体问题的特点选择合适的方法进行求解。
穷举法是一种最简单的一维优化方法，它通过遍历函数在给定区间内的所有可能取值，找到其中的最小值或最大值。
穷举法的缺点是计算量大，当问题规模较大时，不适用。
但是它的优点是简单易懂，适用于初学者入门。
黄金分割法是一种较为常用的一维优化方法，它通过划分给定区间，选择区间内一些点进行迭代，不断缩小区间范围，直到找到最优解。
黄金分割法的优点是收敛速度较快，适用于一些比较复杂的问题。
斐波那契法是一种基于斐波那契数列的一维优化方法，它可以在一定程度上提高黄金分割法的效率。
斐波那契法的关键在于选择合适的斐波那契数列作为迭代次数，通过比较函数在斐波那契数列中两个相邻点的取值，确定新的区间范围。
抛物线法是一种通过拟合函数的抛物线来求解最优解的一维优化方法。
它通过选择合适的三个点，构造一个简单的二次函数，找到该函数的极小值点作为最优解。
抛物线法的优点是计算量相对较小，但是在一些复杂的问题中可能不适用。
割线法是一种通过逐步逼近函数极值点的一维优化方法。
它通过选择给定区间上两个初始点，不断用割线近似替代切线，找到极小值点。
割线法的优点是收敛速度快，但是需要在迭代过程中进行导数计算，对于一些无法求导的函数不适用。
牛顿法是一种通过利用函数在一些点处的一阶导数来逼近极值点的一维优化方法。
它通过选择给定区间上一个初始点，利用导数的概念找到极小值点。
牛顿法的优点是收敛速度非常快，但是对于一些无法求导的函数不适用。
综上所述，一维优化方法是数学中用于求解最优化问题的一种重要技术。
03工程优化 第3章-1常用一维搜索
(1) Armiji-Goldstein准则
k 要满足
f ( xk k d k ) f ( xk ) k gk T d k ,
f ( xk k d k ) f ( xk ) (1 )k gkT d k ,
其中
1 0 . 2
常用的一维搜索方法
• 非精确的一维搜索：通过计算少量的函数值，得到一步长
第3章 常用的一维搜索方法
n元函数 f : D Rn R
求解无约束优化问题 min f ( x ) n
x R
定理(必要条件) 设 f : D Rn R (1) x 为D的一个内点; (2) f ( x ) 在 x 可微; (3) x 为 f ( x ) 的极值点; 则 f x 0 。 定理(充分条件)
迭代法的基本思想
首先给定一个初始估计 x 为了求函数f(x)的最优解， 然后按某种规划(即算法)找出比
0
x0更好的解 x1，f ( x1 ) f ( x0 ) 1 2 再按此种规则找出比 x 更好的解 x ，
*
k 如此即可得到一个解的序列 {x }，
若这个解序列有极限 x ， lim x k x* 0， 则称它收敛于x*。
k
若算法是有效的，则它产生的解序列收敛于该问题的最优解。 计算机只能进行有限次迭代，一般很难得到准确解，而只能得 到近似解。当达到满足的精度要求后，即可停止迭代。
迭代法的终止条件
停止迭代时要满足的条件称为终止条件。 理想的终止条件是
f ( x) f ( x*) ，
或者
x x * .
(b) 终止条件 循 环 (c) 迭代格式
判断当前点是否满 足终止条件 否
最优解
k 要满足
f ( xk k d k ) f ( xk ) k gk T d k ,
f ( xk k d k ) f ( xk ) (1 )k gkT d k ,
其中
1 0 . 2
常用的一维搜索方法
• 非精确的一维搜索：通过计算少量的函数值，得到一步长
第3章 常用的一维搜索方法
n元函数 f : D Rn R
求解无约束优化问题 min f ( x ) n
x R
定理(必要条件) 设 f : D Rn R (1) x 为D的一个内点; (2) f ( x ) 在 x 可微; (3) x 为 f ( x ) 的极值点; 则 f x 0 。 定理(充分条件)
迭代法的基本思想
首先给定一个初始估计 x 为了求函数f(x)的最优解， 然后按某种规划(即算法)找出比
0
x0更好的解 x1，f ( x1 ) f ( x0 ) 1 2 再按此种规则找出比 x 更好的解 x ，
*
k 如此即可得到一个解的序列 {x }，
若这个解序列有极限 x ， lim x k x* 0， 则称它收敛于x*。
k
若算法是有效的，则它产生的解序列收敛于该问题的最优解。 计算机只能进行有限次迭代，一般很难得到准确解，而只能得 到近似解。当达到满足的精度要求后，即可停止迭代。
迭代法的终止条件
停止迭代时要满足的条件称为终止条件。 理想的终止条件是
f ( x) f ( x*) ，
或者
x x * .
(b) 终止条件 循 环 (c) 迭代格式
判断当前点是否满 足终止条件 否
最优解
第二部分：03第三章 一维搜索方法
昆明理工大学机电工程学院
一、一维搜索的基本思想
选定初始点1，初始步长h0。计算函数值y1=f(1)和 y2=f(1+ h0)，比较y1和y2，可分三种情况：
y1>y2，则极小点*必在1右方，作正向搜索寻求第三点。 y1<y2，则极小点*必在1+h0左方，作反向搜索寻第三点。 y1=y2，则极小点*必在1和1+h0之间，则为“高-低-高” 形态，找到初始单峰区间为[1 ， 1+h0]
y 2 y1
1
y3
3
h0
O
22 2 1 1 1
h0
2013年9月22日星期日8时42分35秒
2013年9月22日星期日8时42分36秒
8
第 2 部分：优化设计
第三章 一维搜索方法
y
y3
y1 y1 2 y2
y 2 y y3 3
第 2 部分：优化设计
第三章 一维搜索方法
昆明理工大学机电工程学院
一、一维搜索的基本思想
一维最优化搜索是要在单峰区间求单峰函数的极小 点，通常分两步进行： 确定一个最小值所在的区间； 求出该区间内的最优步长因子k值。 确定搜索区间的外推法 在一维搜索时，假设函数f()具有单谷性，即在所考 虑的区间内部，函数f()有唯一得极小点*。为了确定 极小点*所在得区间[a, b]，应使函数f()在[a, b]区间形 f() 成“高－低－高”趋势。 对于一般情况，分正向 搜索和反向搜索的外推法。
*
b
5
2013年9月22日星期日8时42分35秒
1
2013/9/24
第 2 部分：优化设计
第三章 一维搜索方法
第 2 部分：优化设计
一、一维搜索的基本思想
选定初始点1，初始步长h0。计算函数值y1=f(1)和 y2=f(1+ h0)，比较y1和y2，可分三种情况：
y1>y2，则极小点*必在1右方，作正向搜索寻求第三点。 y1<y2，则极小点*必在1+h0左方，作反向搜索寻第三点。 y1=y2，则极小点*必在1和1+h0之间，则为“高-低-高” 形态，找到初始单峰区间为[1 ， 1+h0]
y 2 y1
1
y3
3
h0
O
22 2 1 1 1
h0
2013年9月22日星期日8时42分35秒
2013年9月22日星期日8时42分36秒
8
第 2 部分：优化设计
第三章 一维搜索方法
y
y3
y1 y1 2 y2
y 2 y y3 3
第 2 部分：优化设计
第三章 一维搜索方法
昆明理工大学机电工程学院
一、一维搜索的基本思想
一维最优化搜索是要在单峰区间求单峰函数的极小 点，通常分两步进行： 确定一个最小值所在的区间； 求出该区间内的最优步长因子k值。 确定搜索区间的外推法 在一维搜索时，假设函数f()具有单谷性，即在所考 虑的区间内部，函数f()有唯一得极小点*。为了确定 极小点*所在得区间[a, b]，应使函数f()在[a, b]区间形 f() 成“高－低－高”趋势。 对于一般情况，分正向 搜索和反向搜索的外推法。
*
b
5
2013年9月22日星期日8时42分35秒
1
2013/9/24
第 2 部分：优化设计
第三章 一维搜索方法
第 2 部分：优化设计
最优化第3章一维搜索方法
一维搜索方法一般分两步进行： ■ 首先确定一个包含函数极小点的初始区间，即确定 函数的搜索区间，该区间必须是单峰区间； ■ 然后采用缩小区间或插值逼近的方法得到最优步长， 最终求出该搜索区间内的一维极小点。
§3.1 搜索区间的确定
根据函数的变化情况，可将区间分为单峰区间和多峰区间。 所谓单峰区间，就是在该区间内的函数变化只有一个峰值， 即函数的极小值。
§3.4 插值方法
一、牛顿法
f(x)
利用一点的函数值、 一阶导数以及二阶 导数构造二次多项 式。用构造的二次 多项式的极小点作 为原函数极小点的 近似。
φ0(x)
φ1(x) f(x)
x*
x2
x1
x0 x
§3.4 插值方法
一、牛顿法
设f(x)为一个连续可微的函数，则在点x0附近 进行泰勒展开并保留到二次项：
§3.1 搜索区间的确定
f(x)
f(x)
f(a0) f(a0+h)
f(a0+3h)
f(a0-h) f(a0)
f(a0+h)
0 a0 a
a0+h
a0+3h x b
0 a0-h
a0
a
进退试算法的运算步骤如下：
a0+h x b
(1)给定初始点α0和初始步长h (2)将α0及α0+h 代入目标函数 f(x) 进行计算并比较大小
φ0(x)
φ1(x) f(x)
f ′ (x)
x*
x2 x1
x0
φ ′ 1(x) f ′ (x)
x* x2
x1
x0
牛顿法程序框图
开始
x 给定初始点 ，误差 0
,
令k=0
§3.1 搜索区间的确定
根据函数的变化情况，可将区间分为单峰区间和多峰区间。 所谓单峰区间，就是在该区间内的函数变化只有一个峰值， 即函数的极小值。
§3.4 插值方法
一、牛顿法
f(x)
利用一点的函数值、 一阶导数以及二阶 导数构造二次多项 式。用构造的二次 多项式的极小点作 为原函数极小点的 近似。
φ0(x)
φ1(x) f(x)
x*
x2
x1
x0 x
§3.4 插值方法
一、牛顿法
设f(x)为一个连续可微的函数，则在点x0附近 进行泰勒展开并保留到二次项：
§3.1 搜索区间的确定
f(x)
f(x)
f(a0) f(a0+h)
f(a0+3h)
f(a0-h) f(a0)
f(a0+h)
0 a0 a
a0+h
a0+3h x b
0 a0-h
a0
a
进退试算法的运算步骤如下：
a0+h x b
(1)给定初始点α0和初始步长h (2)将α0及α0+h 代入目标函数 f(x) 进行计算并比较大小
φ0(x)
φ1(x) f(x)
f ′ (x)
x*
x2 x1
x0
φ ′ 1(x) f ′ (x)
x* x2
x1
x0
牛顿法程序框图
开始
x 给定初始点 ，误差 0
,
令k=0
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
输出步长，函数值，设计变量值 %xk0:初始点 %dir0:给定的搜索方向 %th:步长
13
f ( x) 2 x2
机械优化设计
例：用进退法计算函数 %range_search_test1 clc; f=inline('2+x^2','x');
的单峰区间，初始点 。
%在MATLAB命令窗口、程序或者函数中创建局部函数
解：
k 1 2 3 h 0.1 -0.2 -0.4 -0.8 x1 y1 x2 1.9 1.8 1.6 1.2 y2 14.377 12.096 8.488 4.584 x3 1.6 1.2 0.4 y3 8.488 4.584 5.992 1.8 12.096 1.9 14.377 1.8 12.096 1.6 8.488
除对称要求外，黄金分割法还要求在保留下来的区间在 插入一点所形成的区间新三段，与原来区间的三段具有 相同的比例分布。
18
机械优化设计
§3-4 黄金分割法
二、黄金分割法基本思路 将区间按一定的比例缩小，且正常迭代时每缩 短一次区间只需计算一次函数值。
1）
0.618
2）缩短区间的总次数
ln[ /(b a )] k ln 0.618
新区间长度 原区间长度
8
机械优化设计
§3-2 确定初始搜索区间的进退算法
一）基本思路
—试探后作前进或后退计算。
f f
x1 x2 x3 x1 x2
x
x3 x3
x1 x2 x3 x2 x1 x2 x1
x
前进计算
后退计算
9
机械优化设计 给定x1、h0
初始进退距
f
用 h=h0 y1 y2 进 y3 y1=f(x1)、x2=x1+h、y2=f(x2) 退 x x1 x2 x3 h= -h 法 x3=x1 否 x1 x2 x3 y1≥y2 确 y3=y1 前进计算 是 定 f h=2h 初 x1=x2 x3=x2+h、y3=f(x3) 始 y1=y2 是 x1 x2 x x2=x3 y2≥y3 搜 x3 x2 x1 y2=y3 是 否 索 h>0 a=x1、b=x3 x3 x2 x1 a=x3、b=x1 否 区 后退计算 间
xk0=2;th=0.5;dir0=1; %xk0初始点 dir0给定的搜索方向 th步长 [opt_step,fo,xx] = opt_range_serach1(f,xk0,dir0,th) opt_step = 结果为： opt_step=[-3 -2 -1] xo=[-1 0 1] fo=[3 2 3]
结束
10
机械优化设计
3 1.用进退法确定函数f ( x) 3x 8 x 9的一维优
3
化初始区间, 给定初始点x1 0, 初始进退距h0 0.1. 解：
k
1 2 3
h
0.1 0.2 0.4 0.8
x1
0 0.1 0.3
y1
9 8.203 6.681
x2
0.1 0.3 0.7
y2
= f (x (k) + α(k) S ( k) ) 方法： 1. 解析法： 步骤: ① ②
f(X(k) + αS(k) ) 沿S(k) 方向x(k) 台劳展开； 取二次近似：
1 f x ( k ) S ( k ) f ( x ( k ) ) [f ( x ( k ) )]T S ( k ) 2 [ S ( k ) ]T H ( x ( k ) ) S ( k ) 2
为预先给定的误差限。
19
F(X )
机械优化设计
已知F ( X ) 的单峰区间 [a, b] 。为了缩小区间， 在[a, b] 内按一定规则对称地取2个内部点 x1和 x2 ， 并计算F ( x1 )和 F ( x2 )，可能有两种情况：
a
x1
x2
a
x1
x2
(a) 极小点必定在[a,x2]内，令b=x2，区间缩短为[a,x2] (b) 极小点必定在[x1, b]内，令a=x1，区间缩短为[x1, b]
dF 令 4 20 0, 得 5是最优步长 . d * F 2
7
机械优化设计
三、一维搜索的步骤
1) 确定一个包含最优点的初始搜索区间 特点：高--低--高 函数值：“大－小－大” 2) 将含最优点的区间不断缩小
f
o
a
b
x
当该区间的长度小于预先给定的一个很小的 正数 ，则可认为该区间的中点是最优点。 * 区间缩短率：
( k 1) (k ) (k ) (k ) (k ) F ( X ) F ( X s ) ( )
的极值问题，这一过程被称为一维搜索。
3
机械优化设计
§3-1 搜索区间的确定
二.
定义:
一维搜索：
在第K次迭代时，从已知点 X(k)出发， 沿给定方向求最优步长因子α(k)，使 f (X(k) + α S(k) )达到最小值的过程，称 为一维搜索。 f (x (k+1) ) = min. f (x (k) + α S (k) )
可得初始搜索区间a, b 0.4, 1.6.
12
机械优化设计
二）进退法的MATLAB程序
程序说明如下： 函数opt_range_serach(xk0,dir0,th)中输入参数； function [opt_step,fo,xx] = opt_range_serach1(f,xk0,dir0,th) %用进退法搜索三个点，使中点函数值最小；
0.618
22
机械优化设计
*关于缩小区间总次数的证明 证： 0.618 (b a)
k
0.618
k
ba
k ln 0.618 ln
即
ba
lg[ /(b a)] ln[ /(b a)] (或k ) k lg 0.618 ln 0.618
23
机械优化设计
d
b d , 则 2 1 0， 解得 0.618 d bd
欧几里德几何称这种边长分割为黄金分割。
17
机械优化设计
§3-4 黄金分割法
二、黄金分割法基本思路
插入点x1、x2的位置相对于区间[a b]两端点具有对称性。
x1 b b a
x2 a b a
y1 y2
y1 y2
x
b
a x1 , x1 x2 , y1 y2
x2 a 0.618(b a), y2 f ( x2 )
否
a
f
x1 x2 x1 x2 b
ba
是 x 0.5(a b)
y1 y2
止
x
x1 x2 b f f (x ) a x1 x2 * 也可采用迭代次数是否大于或等于 k 作终止准则。
机械优化设计
第三章 一维优化方法 §3-1 搜索区间的确定(进退法)
§3-2 格点法
§3-3 黄金分割法(0.618法)
§3-4 二次插值法
§3-5 三次插值法
1
机械优化设计
教学目的、要求
1．熟悉搜索区间的确定方法（初始区间确定） 2．掌握基本的一维优化方法（寻找极小点）
教学重点
1．进退法
2．黄金分割法 3．二次插值法
14
机械优化设计
§3-3 格点法
一、基本思路 先将搜索区间分成若干等分，计算出当中的n个 等分点的目标函数值. 再通过比较,找出其中的最小 点，则该点的两个邻近点围成缩短了的新区间。
f
a
15
xm1 xm1
xm
b
x
机械优化设计
二、每轮迭代区间的缩短率
2 n 1
三、迭代的终止准则
xm1 xm1
2
机械优化设计
§3-1 搜索区间的确定
一、 问题的提出 当采用数学规划法寻求多元函数的极值点时，一 般要进行一系列如下格式的迭代计算:
X
( k 1)
(k ) (k ) (k ) X S (k 0,1,2,)
当方向S ( k ) 给定，求最佳步长 ( k ) 就是求一元函数 :
四、最优解 五、特点
(预先给定)
x* xm
F * F ( x* )
1）思路简单，编程容易，宜于离散型优化问题； 2）计算量大，不宜用于高维优化问题。
16
机械优化设计
§3-4 黄金分割法
b
一.
黄金分割与0.618法：
•
古希腊建筑师认为：边长为 b，d 的矩 形建筑物，若边长能符合以下条件，则最 美观：
(1 )l 1 2 l
a
x3 x1 x2
b
x
新三段与原来区间的三段具 有相同的比例分布。
2 1 2 得 1 0 其正根为： 5 1 0.618033988
2
21
机械优化设计
*关于 0.618 的证明
所谓的“黄金分割”是指将一线段分成两段的方 法，使整段长与较长段的长度比值等于较长段与 较短段的比值，即 1: : 1
从上式看，需要求导进行计算，对于函数关系复杂的，解析法十分不便。 2. 数值迭代法——确定a*的搜索区间，在不断缩小区间，最终获得近似值。 试探法——应用序列消去原理： 分数法、格点法、黄金分割法
插值法——利用多项式函数逼近（曲线拟合）原理：
二次插值法、 三次插值法
5
机械优化设计
如：
当
2 F ( X ) x12 x2 8 x1 12 x2 52