第三章一维搜索方法

则
* dTf x
d T Gd
从上式看，需要求导进行计算，对于函数关系复杂的， 解析法十分不便。
数值法的基本思路：确定 *的搜索区间，在不断缩小
区间，最终获得近似值。
第二节 搜索区间的确定和区间消去法原理
一、确定搜索区间的外推法
图3-2 正向搜索的外推法
图3-3 反向搜索的外推法
y3
所以
p

a1
/
2a2

1 2
a22 a32 a2 a3
y1 y1
a32 a12 a3 a1
y2 a12 a22 y2 a1 a2
y3 y3
令
c1

y3 a3
y1 a1
c2

y2 a2

y1 a1
c1
a2 a3
第三章一维搜索方法
采用数学规划法求函数极值点的迭代计算：
xk1 xk ak d k
K+1次迭代的搜索方向
搜索的最佳步长因子
当搜索方向d k给定，求最佳步长 ak 就是求一元函数的极值。
f xk1 f xk akd k ak
称为一维搜索。 是优化搜索方法的基础。
k 0,1, 2,...
牛顿法的几何解释：
牛顿法的计算步骤：
给定初始点 0 ，控制误差 ，并令k=0。
1）计算 f k f k
2）求
k 1
k

f k f k
3)若 ak1 ak 则求得近似解 a* ak 1 ，停止计算，
求二次函数 的极小点作为f 极小点的新近似点1
1 0 即 f 0 f 0 0 0
1
0

f 0 f 0
依次继续下去，可得牛顿法迭代公式：
k 1
k

f k f k
否则作4。
4）令 k k 1 转1。
优点：收敛速度快。 缺点：每一点都要进行二阶导数，工作量大；
要求初始点离极小点不太远，否则有可能使极小化 发散或收敛到非极小点。
二、二次插值（抛物线法）
利用的函数值
f 1 f 2 f 3 ，作出如下的二次插值多项式
三、区间消去法原理
a) f a1 f b1
b) f a1 f b1
c) f a1 f b1
为了避免多计算函数值，将第三种情况合并到前两种 情况中。
a) f a1 f b1
b) f a1 f b1
三、一维搜索方法的分类
从前面的分析可知，每次缩短区间，只需要在区间内在插入一 点并计算其函数值。
第四节一维搜索的插值方法
假定要在某一区间内寻找函数的极小点的位置，虽然没有函数 表达式，但能够给出若干试验点处的函数值。
我们可以根据这些点处的函数值，利用插值的方法建立函数的 近似表达式，进而求处函数的极小点，作为原来函数的极小点 的近似值。这种方法称作插值法，也称函数逼近法。
一、牛顿法（切线法）
求解一元函数 a 的极小点 a* ，可用解析法。
f x ad f x adTf x 1 ad T G ad
2
f x dTf x 1 2dTGd
2
上式求α的极值，即求α导数为零。
dTf x *dTGd 0
一维搜索函数 y f ，假定一给出极小点的一个较好的近
似点0 ，因为一个连续可微的函数在极小点附近与一个二次 函数很接近，因此，在0 点附近用一个二次函数 逼近。
f



f
0
f
0
0
1 2
f
0
0 2
从极值的必要条件求得
（2） （3）
P p a1 2a2 p 0
p a1 / 2a2
要求出系数 a1 和 a2 ，联立方程组（1）、（2）、（3）。
a1 a1 a2 a2 a12 a22 y1 y2
a1 a2 a3 a2 a22 a32 y2 y3
a1
a22 a32 y1 a32 a12 y2 a12 a22 a1 a2 a2 a3 a3 a1
y3
a2
a2 a3 y1 a3 a1 y2 a1 a2
a1 a2 a2 a3 a3 a1
则
ap

1 2
a1

a3

c1 c2

(ap a2 )h 0
(ap a2 )h 0
而插入点的位置，可以由不同的方法来确定。就形成了不同的 一维搜索方法。
试探法 黄金分割法 一维搜索方法分类
插值法 二次插值法
第三节一维搜索的试探法
最常用的一维搜索试探法是黄金分割法，又称0.618法。
要求插入点a1、a2的位置相对于区间[a,b]两端点具有对称性。
a1 b b a a2 a b a
P a0 a1 a2 2
它应满足条件 P1 a0 a11 a212 y1 f 1 （1）
P2 a0 a12 a222 y2 f 2 P3 a0 a13 a232 y3 f 3
除对称要求外，黄金分割法还要求在保留下来的区间再插入一点 所形成的区间新三段，与原来区间的三段具有相同的比例分布。
2
1 2 2 1 0 0.618
所谓的“黄金分割”是指将一线段分成两段的方法，使整段长 与较长段的长度比值等于较长段与较短段的比值，即
1: : 1