第03章_一维搜索方法

a)当 f3 f 2 时，１、２、３点 满足（高，低，高） 初始搜索区间确定 [ 3 , 1 ] b)当 f3 f 2 时，１、２、３不满足（高，低，高） 以 2 为起点，步长加倍
h 2h,1 2 , 2 3 , 3 2 h
后退，，反复搜索直至出现（高—低—高） 取 [ 3 , 1 ] 为搜索区间。
2
第三章 第三节 一维搜索的试探方法
*
如不满足条件 ，转步骤(2)
ε为收敛精度
0.618法程序框图如图
第三章 第三节
一维搜索的试探方法
例3-1 对函数 f ( ) 2 2 ，当给定搜索区间 3 5 时，试用黄金分割法求极小点 * 解: a 3 b 5 首先插入两点： 1 2
第三章 第三节 一维搜索的试探方法
2
∴
1 1 0
2 2

5 1 2
0.6180339887...
这种分割称为黄金分割，这种分割保证了每次区间的
新区间长 ）未变——均为0.618，n次迭代缩短率 缩短率E（ 原区间长
En
n 1
黄金分割法的意义： 为将一段线分为两段的方法，使整段长与较长段比 例等于较长段与较短段长度之比：: : (1 ) 1
搜索区间的确定与区间消去法原理
2） f 2 f1 时，前进运算
a)当 f 2 f3 １、２、３点的函数值 满足（高，低，高）。 初始搜索区间确定 [1 , 3 ]
3 2 h f3 f ( 3 )
b)当 f 2 f 3 １、２、３点不满足（高，低，高） 以 2 为起点，步长加倍
第三章 第二节 搜索区间的确定与区间消去法原理
第三节 一维搜索的试探方法
一、0.618法的由来
要求：保留点在新区间的位置与丢去点原区间位置相当。 取对称点 1, 2 假设消去 ( 2 , b) 丢去
1在原区间的 1
位置，相当于原来 2 的位置 1 2 1
首先取初始点 0 [a, b],在 0 点附近用一个二次函数 ( )
来逼近 f ( ) —将 f ( ) 在 0 点Taylor展开并保留二次项
一、牛顿法
f ( ) ( ) f ( 0 ) f ( 0 )( 0 ) 1 2 f ( 0 )( 0 ) 2
第三章 第三节
一维搜索的试探方法
（1）在初始区间 [a, b] 内取两个计算点 1 与 2 1 b 0.618(b a)
二、迭代过程及算法框图
2 a 0.618(b a)
（2）计算 f1 f (1 ), f 2 f ( 2 ) 比较函数值 f1和f 2 并缩短搜索区间 ①若 f1 f 2 ，丢去 [ 2 , b] ，取 [a, a2 ]
f ( ) ——单变量函数，单峰函数，凸函数，初始搜 索区间特征：函数值为高-低-高，
f ( ) 有唯一的极小点
*
一、确定区间的外推法（进退法）
1） 0 —给定初值，h —初始步长
h0
1 0
2 1 h
—试点
f1 f (1 )
第三章 第二节
f 2 f ( 2 )
极值必要条件： (1 ) 0
第三章 第四节 一维搜索的插值方法
对上式求导得： f ( 0 ) f ( 0 )(1 0 ) 0
f ( 0 ) 1 0 f ( 0 )
→ 作为新的插值点
依次继续，得牛顿法迭代公式
k 1
f ( k ) k f ( k )
由于 y2 y1 ，故消去区间 [ 2 , b] 则新的搜索区间为 [3,0.056] 列出前五次迭代的结果
迭代序号
0 1 2 3 4
a
-3 -3 -3 -1.832 -1.832
α1
0.056 -1.111 -1.832 -1.111 -1.386
α2
1.944 0.056 -1.111 -0.665 -1.111
4 。 S 100
25x2
2，从起点X=
2 2
进行一维搜索，a=0,b=0.1,要求精度
0.0001 ，步长h=0.02。 （可编程）
解析解：
1 .919877128 X 0 .0030718
*
f ( X * ) 3.686164
* 0.020030718
第三章 练习
3.用牛顿法求极小点，f(α)= α4-4α 3-3α+5，初始 点α0=2.5，迭代终止使用点距准则,ε=0.2。 4.用二次插值法求迭代两次后的极小点，f(α)= sinα，初始区间[4,5]。
寻查步长h的确定
寻查步长h：一维搜索的步长。若选得太小，需要迭代的次 数增多；若选得太大，虽然一步就可以把极小点 包括起来，但给下一步搜索极小点增加了负担。 步长h的取法： 第一次迭代时，使用下面的公式来求h
(k )
x
( k 1)
为变量的一维优化问题的极值：
(k )
f (x
( k 1)
) f (x
d ) min f ( x
* (k )
(k )
d )
(k ) (k )
*
一维搜索最优化方法：
1）解析法：利用一元函数的极值条件
f ( ) 0 求
' *
*
第三章 第一节
概述
第三章 第二节 搜索区间的确定与区间消去法原理
外 推 法 程 序 框 图 ， 如 图 所 示 。
第三章 第二节 搜索区间的确定与区间消去法原理
二、区间消去法原理： 基本思想：当搜索区间[a， b]确定之后，逐步缩小搜索 区间，直至最小点存在的范围达到允许的误差范围为止。 在区间[a ，b]内任取两点a1，b1，使a<a1<b1<b。
h min( K , d 1
(k )
)
K
est ( 1 10 ~ 1 100
2(est f ( X ( k ) )) d ( k ) f ( X ( k ) )
T
) f X (k )


极小值的一个偏小估计值
以后各次迭代用前一次迭代所走的距离作为步长
h X
(k )
X
( k056 -0.665
y1
0.115 -0.987 -0.306 -0.987 -0.851
比较
< < > < >
y2
7.667 0.115 -0.987 -0.987 -0.987
5
-1.386
-1.111
-0.940
第三章 第三节
一维搜索的试探方法
5次迭代后求得的最优解
须精确计算导数，函数复杂时无法进行。
* 主要采用数值法。 所以求解
2）数值计算法：格点法，黄金分割法（试探法）， 分数法，二次插值法 数值解法过程： 1.确定 所在区间，定初始搜索区间[a，b]
*
2.在搜索区间[a，b]中采用各种搜索法逐步缩小
此区间，获得 的近似值
*
第三章 第一节
概述
第二节 搜索区间的确定与区间消去法原理
x
(k )
x
x ( k ) ( k ) d ( k )
( k 1)
x ( k 1) x ( k ) ( k ) d ( k ) （k=0,1,2,…）
第三章 第一节
概述
x (k ) 和 d (k )下寻找最优步长 一维优化的目的——在既定的
因子 (k ) ，使迭代产生的新点 的函数值为该方向上的最小。 即求
2 b 1 2
取新点
1 b 0.618(b a)
第三章 第三节 一维搜索的试探方法
②若 f1 f 2 丢去 [a,1 ] 取[1, b]
1 a 2 1
取新点
2 a 0.618(b a)
(3)判断迭代终止条件 当
ba b and y 2 y1 y2 ba 时，终止迭代，取
图3—5 区间消去法原理 比较f (a1)，f (b1)，有三种情况 （1）f (a1 ) f (b1 ) 丢掉 [b1, b]，留下 [a, b1 ] ，图a （2）f (a1 ) f (b1 )丢掉 [a, a1 ]，留下 [a1 , b ] ,图b，
第三章 第二节 搜索区间的确定与区间消去法原理
h 2h : 1 2 , 2 3 , 3 2 h
取 [1, 3 ] 为搜索区间。
重复搜索，前进，直至出现三个试点（高，低，高）
第三章 第二节 搜索区间的确定与区间消去法原理
3） f 2 f1 时，后退运算，取
h h 将 f1, 1与f 2 , 2 对调， 3 2 h 计算 f3 f ( 3 )
第三章 一维搜索方法 重点内容
1. 0.618的来历
2. 黄金分割法
3. 牛顿法迭代公式的推导
4. 牛顿法迭代法
第三章 一维搜索方法
结束
第一节 概 述
一维最优化问题——只有一个设计变量的优化问题 一维搜索方法 ——一维优化问题的数值选代方法 一维问题的优化方法是多维问题优化方法的基础 迭代格式
注意： 每次迭代中所保留点与新取点间的位置应该是对称的 区间消去法优劣评价指标。——区间缩短率E
E n= L n/ L 0 Ln—经n次迭代后的缩短区间，L0=b-a 原始区间
三、一维搜索方法的分类
1．由于区间缩小时插入点的位置确定方法不同，
形成了不同的一维搜索方法。 试探法：黄金分割法，Fibonaci数列法 2．函数逼近法（插值法） 二次插值法,三次插值法