第7章 最优化方法概论

f
(x1)
( x32
-
x12 )
f
(x2 )
( x12
-
x22 )
f
( x3 )
2 (x2 - x3) f (x1) (x3 - x1) f (x2 ) (x1 - x2 ) f (x3)
作为f (x)极小点x*的近似
第7章 最优化方法简介
7.2 一维优化方法 7.2.3 插值方法
若x1, x2 , x3等距分布,记h x2 x1 x3 x2
若f (x)在[a,b]上连续 ,f (x)在(a,b)上存在 ,则可知x*为极小点的 必要条件是f (x*) 0
第7章 最优化方法简介
7.2 一维优化方法 7.2.1 四等分法
设在第n步时, 搜索区间为[a(n) , b(n) ] ,并且其中已确定有f (x)的极小点x*
取以下三点
x(n) 1
第7章 最优化方法简介
7.2 一维优化方法 7.2.3 插值方法 基本思想 可以对若干点处的函数值确定插值函数,以此模拟目标函数的性态
用插值函数的极小点近似替代f的极小点 ,提高较高的计算效率
二次插值方法
给定点x1, x2, x3及对应的f (x1), f (x2 ), f (x3) ,可得到二次插值多项式
取得极小值的点x* x1*, x2*,..., xn* T
满足条件(7-2)的点,称为可行点(可行解)
全体可行点的集合称为可行域(或容许集)
最优化问题(7-1)(7-2)的解x*称为最优解
当f 和gi (i 1, 2,.., m)均为线性函数时, 称该最优化问题为线性规划问题 当f 为线性函数, gi (i 1, 2,.., m)为二次函数时, 称为二次规划问题
特点 1.每次迭代时, 有[a(n1) , b(n1) ]是区间[a(n) , b(n) ]的1/ 2
2.每次计算函数值时,总有x2(n1)
x(n) i
3.给定初始搜索区间长为l ,给定的误差界 ,则需要计算的步数N
应满足
l(1)N
2
即N
log2
l
4.由于要计算较多次数的函数值 ,当函数表达式复杂时,该方法
因此,有
__
x
源自文库
x2
h 2
f (x1) f (x2 ) f (x1) 2 f (x2 ) f (x3)
__
__
给定误差界 ,当 f ( x) 可以认为 x 是x*的较好的近似
a(n)
1 4
(b(n)
a(n) )
x(n) 2
a(n)
1 (b(n) 2
a(n))
x(n) 3
b(n)
1 4
(b(n)
a(n) )
此三点将区间四等分
记x0(n)
a(n)
,
x(n) 4
b(n) ,计算f
(x1(n) ),
f
(x2(n) ),
f
(x3(n) )
设其中的最小值点为xi(n) ,则有
p(x)
(x - x2 )(x - x3) (x1 - x2 )(x1 - x3 )
f
(x1)
(x - x1)(x - x3) (x2 - x1)(x2 - x3)
f
(x2 )
(x - x1)(x - x2 ) (x3 - x1)(x3 - x2 )
f
(x3 )
__
极小点 x
1
( x22
-
x32 )
n)
,
x(n) 2
,
使之满足以下关系
x(n) 2
b(n)
a(n) a(n)
b(n) b(n)
x(n) 1
a(n)
x(n) 1
x(n) 2
a(n) a(n)
1
1
计算f (x1(n) ), f (x2(n) ) 并进行比较,若f (x1(n) ) f (x2(n) ) 则删去右边部分
记a ( n 1)
f
(xi(n) )
min(
f
(x1(n) ),
f
(x2(n) ),
f
(
x(n) 3
))
由单峰函数的性质可知,x*必在以xi(n
)为中心的小区间[
x(n) i 1
,
x(n) i 1
]中
因此取此区间为下一步新的搜索区间 ,直到搜索区间的长度小于事先给定
的误差
第7章 最优化方法简介
7.2 一维优化方法 7.2.1 四等分法
当f 和gi (i 1, 2,.., m)均为非线性函数时, 称该最优化问题为非线性规划 问题,或非线性规划
第7章 最优化方法简介
7.2 一维优化方法 一元函数f (x)的极小问题是(非线性)优化的最基本的问题 假设f (x)在所讨论的区间[a,b]上只有唯一的极小点x* ,且函数f (x) 在x*的左边单调降 ,在x*的右边单调增 ,称函数f (x)在[a,b]上具有单峰性 由于函数f (x)是一元的单值函数 ,因此称寻求x*的过程为"一维搜索" 存在极小点x*的区间[a,b]称为"搜索区间"
第7章 最优化方法简介
第7章 最优化方法简介
7.1 最优化方法 最优化问题的数学描述
求以下极值问题 min f (x) f (x1, x2,..., xn )
s.t. gi (x) gi (x1, x2,..., xn ) 0
i 1, 2,..., m
(7 -1) (7 - 2)
即求在满足条件(7-2)的全体x x1, x2,..., xn T 中 ,寻求目标函数(7-1)
a(n) , b(n1)
x(n) 2
第7章 最优化方法简介
7.2 一维优化方法 7.2.2 0.618法(黄金分割法)
若再使用已计算出的f
(x1(n) )作为下次比较的基础 ,则取x2(n1)
x(n) 1
再按对称原则取x1(n1) ,即应满足
x(n1) 2
a ( n 1)
b ( n 1)
x ( n 1) 1
的计算量比较大.
第7章 最优化方法简介
7.2 一维优化方法
7.2.2 0.618法(黄金分割法)
基本思想
采用非等分结点的方法, 并且每步迭代只需计算一个新点的函数值
并确定如何缩小搜索区间
由初始搜索区间[a(0) , b(0) ], 经n次分割后, 得到区间[a(n) , b(n) ]
包含极小点x*.在该区间中选对称的两点x1(
b(n1) a(n1) b(n1) a(n1)
x(n) 1
x(n) 2
a(n) a(n)
由于 x1(n) x(n)
2
a(n) a(n)
1
1
因此有, 1 1
解得
5 1 0.618 2
在搜索区间中按比较 0.618选点,从第二步开始,每步只需计算一个
新点的函数值, 就可以确定区间的分割与取舍, 且新区间的长度仅为 原区间的0.618倍.因此, 称此方法为0.618法,或黄金分割法