机械优化设计讲义第2讲

f
(X
)
2 x12
5
x
2 2
2x1 x2
椭圆抛物面
等值线
（1）等值线愈内层其函数值愈小。
（2）有心的等值线，其等值线族的中心就是一个极值点。
2.2 多元函数的方向导数与梯度
一、方向导数
定义：（以二元函数f(x1,x2)为例）
f lim f (x10 x1, x20 x2 ) f (x10 , x20 )
2.6 约束优化问题的极值条件（K-T条件） 极值条件：指在满足等式和不等式约束条件下，其目标函数取得极 小值时极值点所应满足的条件。 约束问题极小点可能出现两种情况：
1.极小点在可行域的内部。 无约束极值理论在此适用。
2.极小点在可行域的边界上。 库恩-塔克条件
K-T条件： 多元函数不等式约束优化问题 minf(X)
的凸函数，则f(X)在D上的 局部极小点一定是全局极 小点，而且是唯一的。
2.5 无约束优化问题的极值条件
极值条件：指目标函数取得极小值时极值点所应满足的条件。
f (X)
f ( X 0 ) f ( X 0 )T X
1 2
X
T
G
(
X
0
)X
极值点：X*
1.必要条件： f ( X *) 0
2.充分条件： G(X*)正定，为极小点； G(X*)负定，为极大点。
d do X0
d
称它为函数f(x1,x2)在点X0处沿方向d的方向导数。
方向导数与偏导数之间的数量关系：
f d
X0
f x1
X0
cos1
f x2
X0
cos 2
二、二元函数的梯度
f d
X0
f x1
X0
cos1
f x2
X0
cos2
f
x1
f
x2
X0
cos cos
1 2
梯度：
f
f
(X
0
)
s.t. gj(X)≤0 (j=1,2,…,m)
f
(X xi
*)
jJ
j
g j ( X xi
*)
0
极值条件：
g j ( X * ) 0
( j J)
j 0 ( j J )
(i 1,2,, n)
J (X * ) j | g j (X * ) 0, j 1,2,, m
其梯度形式： f ( X * ) jg j ( X * ) jJ
第2章 优化设计的数学基础
2.1 多元函数的等值面(或线) 2.2 多元函数的方向导数与梯度 2.3 多元函数的泰勒展开 2.4 函数的凸性 2.5 无约束优化问题的极值条件 2.6 约束优化问题的极值条件(K-T条件)
2.1 多元函数的等值面(或线) 等值面(等值线)：具有相同函数值的点的集合。
x2 X0
2 f
G(X 0 )
x12 2 f
x2 x1
2 f
x1
x2
2 f
x
2 2
X0
X
xx12
G( X 0 ) 称作函数f(x1,x2)在X0点处的海赛（hessian）矩阵。
2.4 函数的凸性 一、凸集
定义：点集D中任意两点连线全部包含中该集合内，则称D为凸集。
二、凸函数
定义：函数f(X),如果在连结其凸集定义内任意两点X1,X2上的线段上， 函数值总小于或等于用f(X1)和f(X2)作线性内插所得的值，那 么称f(X)为凸函数。
数学表达式： f [X1 (1 ) X 2 ] f ( X1) (1 ) f ( X 2 )
其中：0≤α≤1
凸函数的重要推论： 若函数f(X)为凸集D上
x1
f
x2 X0
f x1
f
x2
X0
性质： 1.梯度方向是函数值变化最快的方向，是最速上升方向。 2.梯度方向为等值面的法线方向。 3.负梯度方向 f ( X 0 ) 为函数最速下降方向。 4.与梯度 f ( X 0 )成锐角的方向为函数上升方向。
与负梯度 f (X0) 成锐角的方向为函数下降方向。
K-T条件几何意义：在约束极小值点X*处，函数了f(X)的负梯度一定能 一定能表示成所有起作用约束在该点梯度（法向量） 的非负线性组合。
以二维问题为例： g1(X),g2(X)为起作用约束。如果Xk是
极值点，则K-T条件可写成：
f ( X k ) 1g1 ( X k ) 2g2 ( X k )
Xk处的截面图形
(a)负梯度位于锥角区之内
(b)负梯度位子锥角区之外
K-T应用举例：P44
K-T条件对于约束优化设计问题的重要性：
（1）可以通过这个条件检验设计点X*是否为约束极小点， 因此它可以成为某些迭代算法的一种收敛条件；
（2）可以捡验一种搜索方法是否合理，如果用这种迭代方法 求得的最优点符合K-T条件，则方法可以认为是可行的。
梯度方向与等值线的关系：
2.3 多元函数的泰勒展开
二元函数f(x1,x2)在X0的泰勒展开式：
f (X)
f ( X 0 ) f ( X 0 )T X
1 2
X
T
G(
X
0
)X
取其二阶展开式：
f (X)
f ( X 0 ) f ( X 0 )T X
1 2
X
T
G
(
Xห้องสมุดไป่ตู้
0
)X
f
f
(
X
0
)
x1
f