第二章 优化设计基础
合集下载
02-优化的设计数学基础
22
2.7 最优解与最优解条件
1.无约束优化设计问题的最优解条件
无约束优化问题的最优解的实质是求目 标函数的最 min f (X ) f (X *) X En
小值:
对一维问题
数x*等为于极零值的点ff ''的'((xx**)必)00要极条大件点 f’(x)=0。一阶导
点为驻点，极f '值'(x*点) 是0 极驻小点点 ，但驻点不一定
1
2
x1
x1(k ) ,
x2
x2(k ) ,,
xn
x(k) n
2 f (X (k x12
2 f (X (k x2x1
) )
) )
, ,
2 f (X (k x1x2 2 f (X (k
x22
) )
) )
,, ,,
2 f (X (k x1xn 2 f (X (k x2xn
) )
) )
x1 x2
x(k) 1
x(k) 2
.
2 f (X (k))
xnx1
,
2 f (X (k)) xnx2
,,
2
f (X xn2
(
k
)
)
xn
xn(k )
f ( X (k) ) f ( X (k) )T ( X X (k) ) 1 ( X X (k) )T 2 f ( X (k) )(X X (k) ) 2
2 f (X (k x2x1
)
)
,
2
f (X x22
(k
)
)
,,
2 f (X (k x2xn
)
)
,,
2 f (X (k)
机械优化设计总复习
机械优化设计总复习
1
第一章 机械优化设计的基本概念和理论
机械优化设计过程包括： (1) 将实际问题加以数学描述，形成数学模型； (2) 选用适当的一种最优化数值方法和计算程序运
算求解。
2
• 建立最优化问题数学模型的三要素：
• （1）设计变量和参数。
•
设计变量是由数学模型的解确定的未知数。
• （2）约束或限制条件。
解析解法 图解法 数值解法
8
第二章 优化设计的数学基础
多元函数的梯度
f
x1
f
X
f xf2
f X
x1
xn
f X
x2
f X
xn
T
9
例1：求二次函数 fx 1 , x 2 x 1 2 x 2 2 4 x 1 4 在点 3,2T
处的梯度。
解：
f
f
(
x)
x1 f
x2x1
2 f
xn
x1
2 f
x1x2
2 f x22
2 f xnx2
2 f
x1xn
2 f
x2xn
2 f
xn2
x
海色（Hessian）矩阵 H ( x ) 正定，即各阶主 子式均大于零，则X*为极小点。
15
4、凸规划
对于约束优化问题
min f X
s .t . gj X 0 (j1,2,3,,m) 若 f X g j X 都为凸函数，
则称此问题为凸规划。
16
六、不等式约束优化问题的极值条件
对于多元函数不等式的约束优化取得极值的条 件：
库恩—塔克条件
f x m xi j 1
1
第一章 机械优化设计的基本概念和理论
机械优化设计过程包括： (1) 将实际问题加以数学描述，形成数学模型； (2) 选用适当的一种最优化数值方法和计算程序运
算求解。
2
• 建立最优化问题数学模型的三要素：
• （1）设计变量和参数。
•
设计变量是由数学模型的解确定的未知数。
• （2）约束或限制条件。
解析解法 图解法 数值解法
8
第二章 优化设计的数学基础
多元函数的梯度
f
x1
f
X
f xf2
f X
x1
xn
f X
x2
f X
xn
T
9
例1：求二次函数 fx 1 , x 2 x 1 2 x 2 2 4 x 1 4 在点 3,2T
处的梯度。
解：
f
f
(
x)
x1 f
x2x1
2 f
xn
x1
2 f
x1x2
2 f x22
2 f xnx2
2 f
x1xn
2 f
x2xn
2 f
xn2
x
海色（Hessian）矩阵 H ( x ) 正定，即各阶主 子式均大于零，则X*为极小点。
15
4、凸规划
对于约束优化问题
min f X
s .t . gj X 0 (j1,2,3,,m) 若 f X g j X 都为凸函数，
则称此问题为凸规划。
16
六、不等式约束优化问题的极值条件
对于多元函数不等式的约束优化取得极值的条 件：
库恩—塔克条件
f x m xi j 1
现代设计理论与方法(优化设计第二章)
证明：作变换 X Y Q b 式中： (Y ) f (Y Q 1b)
1
致 1 结论：Q为正定矩阵的二次型 Y QY 的等值面是以 Y 0知 2 的同心椭球面族。原二次函数就是以 X Q b 为中 力 行 心的同心椭球面族，椭圆中心为极小值点。
0
f x2
f xn x
T
0
明 德x0
f i 1 xi
n
cos i f ( x0 )T d f ( x0 ) cos(f , d )
x0
多元函数的梯度的模：
f 1/ 2 f ( x0 ) [ ( ) ] i 1 xi x0
x2 1
该方向上的单位向量为
4 2 2 5 0 5 f ( x ) e 0 2 2 1 f ( x ) 4 (2) 5 5
2 2 1 0 5 5 5 5 新点 x x1 x 0 e 1 1 1 5 1 5 5 5
明 德 任 责
Q为对称矩阵，f ( X ) X T QX
二次型
f ( X ) 致 2QX
知 力 行
第二节 多元函数的泰勒展开
1、一元函数
f x 在
x x0
点处的泰勒展开为：
1 x0 x f x0 x 2 f x f x0 f 2
f x1 x x2 x 2 0
2 f x1x2 x1 2 x f 2 致 2 知 x2 x
0
明 德 任 责
力 行
2 f x12 令 G ( x0 ) 2 f x x 2 1
1
致 1 结论：Q为正定矩阵的二次型 Y QY 的等值面是以 Y 0知 2 的同心椭球面族。原二次函数就是以 X Q b 为中 力 行 心的同心椭球面族，椭圆中心为极小值点。
0
f x2
f xn x
T
0
明 德x0
f i 1 xi
n
cos i f ( x0 )T d f ( x0 ) cos(f , d )
x0
多元函数的梯度的模：
f 1/ 2 f ( x0 ) [ ( ) ] i 1 xi x0
x2 1
该方向上的单位向量为
4 2 2 5 0 5 f ( x ) e 0 2 2 1 f ( x ) 4 (2) 5 5
2 2 1 0 5 5 5 5 新点 x x1 x 0 e 1 1 1 5 1 5 5 5
明 德 任 责
Q为对称矩阵，f ( X ) X T QX
二次型
f ( X ) 致 2QX
知 力 行
第二节 多元函数的泰勒展开
1、一元函数
f x 在
x x0
点处的泰勒展开为：
1 x0 x f x0 x 2 f x f x0 f 2
f x1 x x2 x 2 0
2 f x1x2 x1 2 x f 2 致 2 知 x2 x
0
明 德 任 责
力 行
2 f x12 令 G ( x0 ) 2 f x x 2 1
第2章 优化方法的数学基础
X ∈ D 对满足 ,
F ( X ) ( X X * ) ≥ 0
*
T
注意: 注意:
不论是无约束或有约束的优化问题,在实际应用中, 不论是无约束或有约束的优化问题,在实际应用中,要证明一个 优化问题是否为凸规划,一般比较困难, 优化问题是否为凸规划,一般比较困难,有时甚至比求解优化问题本 身还要麻烦.尤其对一些工程问题,由于其数学模型的性态都比较复 身还要麻烦.尤其对一些工程问题, 杂,更难实现.因此,在优化设计的求解中,就不必花精力进行求证, 更难实现.因此,在优化设计的求解中,就不必花精力进行求证, 而通常是从几个初始点出发,找出几个局部最优解, 而通常是从几个初始点出发,找出几个局部最优解,从中选择目标函 数值最好的解. 数值最好的解.
2 2
设: 则有
cos θ1 s≡ 为单位向量. 为单位向量. cos θ 2 F = F ( x0 )T s = F ( x0 ) cos(F , s ) x s 0
梯度方向是函数值变化最快的方向,而梯度的模 梯度方向是函数值变化最快的方向, 就是函数变化率的最大值 .
x2 x0
-f(x0) 最速下降方向 下降方向 变化率为零的方向 上升方向 f(x 0) 最速上升方向
凸规划的一些性质: 凸规划的一些性质: 1)可行域 D = X g j ( X ) ≤ 0
{
j = 1, 2, , m
}
为凸集; 为凸集;
2)凸规划问题中的任何局部最优解都是全局最优解; 凸规划问题中的任何局部最优解都是全局最优解; 为凸规划问题 最优解的充分必要条件 规划问题的 可微, 3 ) 若 F ( X ) 可微 , 则 X* 为凸规划问题的 最优解的充分必要条件 为: 对任意
0
机械优化设计方法-
其极小点在目标函数等值面的中心。
约束优化: 在可行域内对设计变量求目标函数 的极小点。 其极小点在可行域内或在可行域边界上。
第四节优化设计问题的基本解法
求解优化问题的方法:
解析法
数学模型复杂时不便求解
数值法
可以处理复杂函数及没有数学表达式 的优化设计问题
图1-11 寻求极值点的搜索过程
A TDh
钢管的临界应力 e
Fe A
2E T 2 D2
8 B2 h2
强度约束条件 x y 可以写成 1 F B2 h2 2 TDh y
稳定约束条件 x e 可以写成
1
F B2 h2 2 2E T 2 D2
TDh
,
,...
x1
x2
xn
沿d方向的方向向量
cos1
d
cos
2
...
cos
n
即
f d
x0
f
x 0 T
d
f x 0 T
cosf ,d
图2-5 梯度方向与等值面的关系
第二节 多元函数的泰勒展开
若目标函数f(x)处处存在一阶导数, 则极值点 的必要条件一阶偏导数等于零, 即
第二章 优化设计的数学基础
机械设计问题一般是非线性规划问题。
实质上是多元非线性函数的极小化问题, 因此, 机械优化设计是建立在多元函数的极值理论 基础上的。
机械优化设计问题分为:
无约束优化 无条件极值问题
约束优化
条件极值问题
第一节 多元函数的方向导数与梯度
一、方向导数
从多元函数的微分学得知，对于一个连续可
f x* 0
满足此条件仅表明该点为驻点, 不能肯定为极值 点, 即使为极值点, 也不能判断为极大点还是极 小点, 还得给出极值点的充分条件
约束优化: 在可行域内对设计变量求目标函数 的极小点。 其极小点在可行域内或在可行域边界上。
第四节优化设计问题的基本解法
求解优化问题的方法:
解析法
数学模型复杂时不便求解
数值法
可以处理复杂函数及没有数学表达式 的优化设计问题
图1-11 寻求极值点的搜索过程
A TDh
钢管的临界应力 e
Fe A
2E T 2 D2
8 B2 h2
强度约束条件 x y 可以写成 1 F B2 h2 2 TDh y
稳定约束条件 x e 可以写成
1
F B2 h2 2 2E T 2 D2
TDh
,
,...
x1
x2
xn
沿d方向的方向向量
cos1
d
cos
2
...
cos
n
即
f d
x0
f
x 0 T
d
f x 0 T
cosf ,d
图2-5 梯度方向与等值面的关系
第二节 多元函数的泰勒展开
若目标函数f(x)处处存在一阶导数, 则极值点 的必要条件一阶偏导数等于零, 即
第二章 优化设计的数学基础
机械设计问题一般是非线性规划问题。
实质上是多元非线性函数的极小化问题, 因此, 机械优化设计是建立在多元函数的极值理论 基础上的。
机械优化设计问题分为:
无约束优化 无条件极值问题
约束优化
条件极值问题
第一节 多元函数的方向导数与梯度
一、方向导数
从多元函数的微分学得知，对于一个连续可
f x* 0
满足此条件仅表明该点为驻点, 不能肯定为极值 点, 即使为极值点, 也不能判断为极大点还是极 小点, 还得给出极值点的充分条件
第二章_一维优化方法
（1）将设计问题的物理模型转化为数学模型，
建立数学模型时要选取设计变量、列出目标函 数，给出约束条件，目标函数是设计问题所要 求的最优化指标与设计变量之间的函数关系式。 （2）采用最适当的最优化方法，求解数学模 型。可归结为在给定的条件（例如约束条件） 下求目标函数的极值或最优化值问题。
1、设计变量：在设计过程中进行选择并 最终必须确定的各项独立参数（变量） 如结构的总体尺寸、零件的几何尺寸、 物理特性等 A:表示 N维设计变量可表示为X
X x1 , x2 ,..., xn
T
X R
n
B维数：设计变量的数目称为最优化设计维数 C：Rn表示设计变量存在的空间 既以n个独立变量为坐标轴组成的n维向量 空间是一个n 维实空间 D设计空间：每一个分量都是互相独立的，所 有各个分量构成了一个空间，即各设计变量的 坐标轴所描述的空间称之为设计空间 E超越空间： n》3时是用图很难表达的空间为
最优方案 最优值
X [ x1 , x2 ,..., x x ] F (X *)
* * * * T
例:某车间生产甲、乙两种产品。生产甲种产
品每件需要用材料9kg、3个工时、4kw电， 可获利60元。生产乙种产品每件需要用材料 4kg、10个工时、5kw电，可获利120元。若 每天能供应材料360kg、有300个工时、能供 200kw电，问每天生产甲、乙两种产品各多 少件，才能够获得最大的利润。
数学基础： 梯度 Hessian 海赛矩阵 函数的凸集与凸函数 在优化设计中应注意局部区域的极小点并不一 定就是整个可行域的最优点（最大值或最小 值）。在整个可行域中对任一x都有 f x f x 时，x就是全域最优点或整体最优点，如果x是 局部可行域中有极小值时，称局部或相对最优 点，函数的凸性表现为单峰性。
机械优化设计第二章
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
二次n维函数用向量和矩阵的表示方法：
若f ( x)是n维函数，则可按下式化为向量及矩阵形式： f ( x) f ( x1 , x2 , , xn ) aij xi x j bk xk c
i 1 j 1 k 1 n n n
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
一个多元函数可用偏导数的概念来研究函数沿各坐标方向 的变化率。 二元函数的偏导数： 一个二元函数f ( x1 , x2 )在点x0 ( x10 , x20 )处的偏导数是
f x1 f x2 f x10 x1 , x20 f x10 , x20 lim x1 0 x1 f x10 , x20 x2 f x10 , x20 lim x2 0 x2
向量d1的方向为：1 2 向量d 2的方向为：1
4
，
3
， 2
6
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f T x f f 梯度： 二元函数f ( x1 , x2 )在点x0处的梯度是f ( x 0 ) 1 , f x1 x2 x0 x 2 x
d 0
偏导数与方向导数之间的数量关系：
f d lim
x0
f x10 x1 , x20 x2 f x10 , x20 d
d 0
lim lim f x1
d 0
f x10 x1 , x20 x2 f ( x10 x1 , x20 ) x2 x2 cos 1
机械优化设计第二五讲讲课文档
按二阶偏导数判断凸性：设 f(x) 是定义在凸集D上具有连续二阶导数的函数，则 f(x)在D上为凸函数的充要条件是：f(x)的Hesse矩阵处处半正定。若Hesse矩阵处 处正定，则f(x)为严格凸函数。
现在十九页，总共五十二页。
目标函数是非凸函数（图 a），或可行域是非凸集（图 b）：
g( p)
现在十七页，总共五十二页。
第二章 优化设计的数学基础
现在十八页，总共五十二页。
第二章 优化设计的数学基础
凸函数的基本性质：
若f(x)是定义在凸集D上的严格凸函数，则f(x)在D上的一个极小点， 也就
是全局最小点。 凸函数的线性组合仍然为凸函数。
设x(1), x(2)为凸函数 f(x)上的两个最小点，则其连线上的任意点也都是最小点。
偶数阶主子式都大于0； H是半正定矩阵的充要条件是它的所有主子式都大于等于0； H是半负定矩阵的充要条件是它的所有奇数阶主子式都小于等于0，并且它的
所有偶数阶主子式都大于等于0；
Hesse 矩阵的正定性： H(x*)正定， 是 x* 为全局极小值点的充分条件； H(x*)半正定, 是 x* 为局部极小值点的充分条件； H(x*)负定， 是 x* 为全局极大值点的充分条件； H(x*)半负定, 是 x* 为局部极大值点的充分条件。
凸性函数的判定（判别函数为凸函数的条件）
按梯度判断凸性：设f(x)是定义在凸集 D上具有连续一阶导数的函数，则f(x) 在D上为凸函数的充要条件是：对于任意的 x(1),x(2)∈D 都有
成立f ( 。x ( 2 ) ) f ( x ( 1 ) ) [ f ( x ( 1 ) ) T [ x ] ( 2 ) x ( 1 ) ]
2 0
0 2
x22
现在十九页，总共五十二页。
目标函数是非凸函数（图 a），或可行域是非凸集（图 b）：
g( p)
现在十七页，总共五十二页。
第二章 优化设计的数学基础
现在十八页，总共五十二页。
第二章 优化设计的数学基础
凸函数的基本性质：
若f(x)是定义在凸集D上的严格凸函数，则f(x)在D上的一个极小点， 也就
是全局最小点。 凸函数的线性组合仍然为凸函数。
设x(1), x(2)为凸函数 f(x)上的两个最小点，则其连线上的任意点也都是最小点。
偶数阶主子式都大于0； H是半正定矩阵的充要条件是它的所有主子式都大于等于0； H是半负定矩阵的充要条件是它的所有奇数阶主子式都小于等于0，并且它的
所有偶数阶主子式都大于等于0；
Hesse 矩阵的正定性： H(x*)正定， 是 x* 为全局极小值点的充分条件； H(x*)半正定, 是 x* 为局部极小值点的充分条件； H(x*)负定， 是 x* 为全局极大值点的充分条件； H(x*)半负定, 是 x* 为局部极大值点的充分条件。
凸性函数的判定（判别函数为凸函数的条件）
按梯度判断凸性：设f(x)是定义在凸集 D上具有连续一阶导数的函数，则f(x) 在D上为凸函数的充要条件是：对于任意的 x(1),x(2)∈D 都有
成立f ( 。x ( 2 ) ) f ( x ( 1 ) ) [ f ( x ( 1 ) ) T [ x ] ( 2 ) x ( 1 ) ]
2 0
0 2
x22
Kuhn-Tucker条件
f x1, x2 4x12 5x22 的极值点坐标。
第六节 不等式约束优化问题的极值条件
在工程中大多数优化问题，可表示为不等式约束 条件的优化问题。
有必要引出非线性优化问题的重要理论，是不等式 约束的多元函数的极值的必要条件。
库恩-塔克（Kuhn-Tucker）条件
一、一元函数在给定区间上的极值条件
h1 x, a1 g1 x a12 a x a12 0 h2 x,b1 g2 x b12 x b b12 0
则该问题的拉格朗日函数
F x, a1,b1, 1, 2 f x 1h1 x, a1 2h2 x,b1
f x 1 a x a12 2 x b b12
微函数f(x)在某一点 x(k )的一阶偏导数为：
f (xk ) ，f (xk ) ，… ，f (xk )
x1
x2
xn
它表示函数f(x)值在x(k )点沿各坐标轴方向的变
化率。
有一个二维函数，如图2-1所示。
图2-1 函数的方向导数
其函数在 x0点沿d方向的方向导数为
f x0
f
x (0) 1
f x0 T
f x0
,
,...
x1
x2
xn
沿d方向的方向向量
cos1
d
cos
2
...
cos
n
即
f d
x0
f
x 0 T
d
f x 0 T
cosf ,d
图2-5 梯度方向与等值面的关系
第二节 多元函数的泰勒展开
若目标函数f(x)处处存在一阶导数，则极值点 的必要条件一阶偏导数等于零，即
对于二维函数 f x1, x2 在 x0 点处的梯度
第六节 不等式约束优化问题的极值条件
在工程中大多数优化问题，可表示为不等式约束 条件的优化问题。
有必要引出非线性优化问题的重要理论，是不等式 约束的多元函数的极值的必要条件。
库恩-塔克（Kuhn-Tucker）条件
一、一元函数在给定区间上的极值条件
h1 x, a1 g1 x a12 a x a12 0 h2 x,b1 g2 x b12 x b b12 0
则该问题的拉格朗日函数
F x, a1,b1, 1, 2 f x 1h1 x, a1 2h2 x,b1
f x 1 a x a12 2 x b b12
微函数f(x)在某一点 x(k )的一阶偏导数为：
f (xk ) ，f (xk ) ，… ，f (xk )
x1
x2
xn
它表示函数f(x)值在x(k )点沿各坐标轴方向的变
化率。
有一个二维函数，如图2-1所示。
图2-1 函数的方向导数
其函数在 x0点沿d方向的方向导数为
f x0
f
x (0) 1
f x0 T
f x0
,
,...
x1
x2
xn
沿d方向的方向向量
cos1
d
cos
2
...
cos
n
即
f d
x0
f
x 0 T
d
f x 0 T
cosf ,d
图2-5 梯度方向与等值面的关系
第二节 多元函数的泰勒展开
若目标函数f(x)处处存在一阶导数，则极值点 的必要条件一阶偏导数等于零，即
对于二维函数 f x1, x2 在 x0 点处的梯度
最优化_第2章 优化设计的数学基础
(0) (0) f ( x1(0) , x2 x2 ) f ( x1(0) , x2 ) f ( x) lim x2 X ( 0) x2 0 x2
分别表示沿坐标轴x1和x2方向在X (0)处的f(X)变化率。
§2.1
多元函数的导数与梯度
(0) (0) f x1(0) x1 , x2 x2 f x1(0) , x2 f lim d X ( 0 ) d 0 d (0) (0) (0) f x1 x1 , x2 f x1(0) , x2 x1 lim d 0 x1 d
n元函数极值充分条件:海塞矩阵为正定。
2 f 2 x 1 2 f x2 x1 (0) G( X ) 2 f xn x1
2 f xn x2
§2.4
凸集、凸函数与凸规划
f X f X*
函数f(X)在X*附近的一切X均满足不等式
2.二阶导数（ Hessian矩阵)判断
Hessian矩阵G(X)在R上处处半正定。
(0) 1 (0) 2
X (0)
x2
§2.2
多元函数的泰勒展开
二元函数泰勒展开矩阵形式:
f x1 , x2 f X
(0)
f ( X
(0) T
1 ) X X TG ( X (0) )X 2
2 f x 2 1 其中: G ( X (0) ) 2 f x2 x1
2 2
2 5 5 5 1 5 1 5 5
f
X
(1)
26 3x 4 x1 x2 x |X ( 0 ) 5 2 5
2 1
第二章-优化设计
优化数学模型： 设计变量：
X x1 x2
T
x3
目标函数：
min f X x1 x2 2 x1 x3 x2 x3
x2
1 1 x1 x2 10 x x1 2 约束条件：
g1 X 4 x1 0 g 2 X x2 0
设计变量X
设计常 量
设计变量:在优化设计过程中需要调整和优选的参数。
特点：
（1）实际工程设计对象的不同，则选取的设计变量也就不同。 它可以是几何参数：如零件外形尺寸、截面尺寸、机构的运动尺寸 等；也可以是某些物理量：如零部件的重量、体积、力与力矩、惯 性矩等；还可以是代表机器工作性能的导出量：如应力、变形等。 总之，设计变量必须是对该项设计性能指标优劣有影响的参数。 （2）设计变量是一组相互独立的基本参数。它的每一个分量都 是相互独立的。
x1
二、优化设计数学模型
可以看出，优化设计的数学模型需要用设计变量、 目标函数和约束条件等基本概念进行描述，可以写成以 下统一的形式： 设计变量：
X x1 , x2 xn 目标函数：
T
f ( X ) f ( x1 , x2 , xn )
约束条件：
不等式约束条件： 等式约束条件：
综上所述，优化数学模型是对实际问题的数学描述和概括，是进行优 化设计的基础。因此，根据设计问题的具体要求和条件建立完备的数学模 型是关系优化设计成败的关键。数学模型的最优解是否是实际问题的最优 解，完全取决于数学模型和实际问题的符合程度。
三、优化问题的分类
一维无约束优化问题 无约束优化问题 工 程 优 化 问 题 多维无约束优化问题
2
3）函数梯度充分小准则 目标函数在迭代点的梯度已达到充分小，即
优化设计基础PPT讲稿
其中，x1 x1 x10，x2 x2 x20
二元函数泰勒展开式的矩阵形式：
f
x
f
x0
f x1
f x2
x0
x1
x2
1 2
x1
2 f
x2
x12 2 f
x2x1
f
x0
f
T
1T
x0 x x G
x0
x …
2
2 f
x1x2 2 f x22
x0
例：设目标函数f (x)
f (x1, x2 ) 4
x12 x2 , 求点x0
[1
1]T 处沿
d1和d2两个方向的方向导数。
向量d1的方向为：1
2
，
4
向量d2的方向为：1
3
，2
6
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f
梯度：二元函数f
(x1, x2 )在点x0处的梯度是f
优化设计基础课件
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
一个多元函数可用偏导数的概念来研究函数沿各坐标方向 的变化率。
二元函数的偏导数：
一个二元函数f (x1, x2 )在点x0 (x10 , x20 )处的偏导数是
f lim f x10 x1, x20 f x10 , x20
(x0 )
x1
f
x2
x0
f
x1
T
f
,
x2
x0
方向导数与梯度的关系： f f (x0 )T d f (x0 ) cos(f , d) d x0
二元函数f
(
x1,
x2
第二章 优化设计
max
l 。这是一个合理选择 d 和 l
Fl w 0.1d 3
T 3 0.2d
②刚度条件：
挠度表达式
Fl 3 64 Fl 3 f f 3EJ 3Ed 4
③结构尺寸边界条件： l lmin 8 cm 将题意的有关已知数值代入，按优化数学模型的规范形式，可归纳为 如下数学模型：
3
例2-2 现用薄钢板制造一体积为5 m ，长度不小于4m的无上盖 的立方体货箱。要求该货箱的钢板耗费量最少，试确定货箱的长、 宽和高的尺寸。 解：分析可知，钢板的耗费量与货箱的表面积成正比。 设货箱的长、宽、高分别为 x1 , x2 , x3，货箱的表面积为S，则 该问题的物理表达式为： (1) 货箱的钢板耗费量（即货箱的表面积用料）最少：
设计变量：
X [ x1 x2 ]T
1 1 ) x2 x1
目标函数的极小化： min f ( X ) x1 x2 2( x1 x3 x2 x3 ) x1 x2 10(
约束条件：
g1 ( X ) 4 x1 0 g 2 ( X ) x2 0 h( X ) 5 x1 x2 x3 0
例2-3 某车间生产甲、乙两种产品。生产甲种产品每件需使用材 料9kg、3个工时、4kw电，可获利润60元。生产乙种产品每件需用材 料4kg、10个工时、5kw电，可获利120元。若每天能供应材料360kg， 有300个工时，能供200kw电。试确定两种产品每天的产量，以使每天 可能获得的利润最大。 解：这是一个生产计划问题，可归结为既满足各项生产条件，又 使每天所能获得的利润达到最大的优化设计问题。 设每天生产的甲、乙两种产品分别为 x1 , x2 件，每天获得的利润可 用函数 f ( x1 , x2 ) 表示，即
l 。这是一个合理选择 d 和 l
Fl w 0.1d 3
T 3 0.2d
②刚度条件：
挠度表达式
Fl 3 64 Fl 3 f f 3EJ 3Ed 4
③结构尺寸边界条件： l lmin 8 cm 将题意的有关已知数值代入，按优化数学模型的规范形式，可归纳为 如下数学模型：
3
例2-2 现用薄钢板制造一体积为5 m ，长度不小于4m的无上盖 的立方体货箱。要求该货箱的钢板耗费量最少，试确定货箱的长、 宽和高的尺寸。 解：分析可知，钢板的耗费量与货箱的表面积成正比。 设货箱的长、宽、高分别为 x1 , x2 , x3，货箱的表面积为S，则 该问题的物理表达式为： (1) 货箱的钢板耗费量（即货箱的表面积用料）最少：
设计变量：
X [ x1 x2 ]T
1 1 ) x2 x1
目标函数的极小化： min f ( X ) x1 x2 2( x1 x3 x2 x3 ) x1 x2 10(
约束条件：
g1 ( X ) 4 x1 0 g 2 ( X ) x2 0 h( X ) 5 x1 x2 x3 0
例2-3 某车间生产甲、乙两种产品。生产甲种产品每件需使用材 料9kg、3个工时、4kw电，可获利润60元。生产乙种产品每件需用材 料4kg、10个工时、5kw电，可获利120元。若每天能供应材料360kg， 有300个工时，能供200kw电。试确定两种产品每天的产量，以使每天 可能获得的利润最大。 解：这是一个生产计划问题，可归结为既满足各项生产条件，又 使每天所能获得的利润达到最大的优化设计问题。 设每天生产的甲、乙两种产品分别为 x1 , x2 件，每天获得的利润可 用函数 f ( x1 , x2 ) 表示，即
优化设计 第二章(基本概念)
= ∇ f ( x ( 0 ) ) T S = ∇ f ( x ( 0 ) ) ⋅ S ⋅ cos ∇ f , S
( 0) (0) 其中： ∇f ( x ( 0) ) = ∂f ( x ) , ∂f ( x ) T
∂x1
∂x2
是 X(0)点的梯度。
s方向的单位向量: S = cos 2 α1 + cos 2 α 2 = 1 。
(k))，f(x)
总有一个定值c 与之对应；而当f(x)取定值 c 时，则有无限多个设计点 X(i)(x1(i), x2(i), …,xn(i) ) （i=1,2, … ）与之对应，这些点集构成一个曲 面，称为等值面。 当 c 取c1,c2, …等 值时，就获得一族曲面 族，称为等值面族。 当f(x)是二维时，获 得一族等值线族； 当f(x)是三维时，获 得一族等值面族； 当f(x)大于三维时， 获得一族超等值面族。
它将设计空间分成两部分：满足约束条件 gu(X) ≤ 0 的部分和不满足约 束条件 gu(X) > 0 的部分。
设计可行域（简称为可行域） 对于一个优化问题，所有约束的约束面将组成一个复合的约束 曲面，包围了设计空间中满足所有约束条件的区域，称为设计 可行域 。 记作
=
{x
g u(x) ≤ 0 h v (x) = 0
第二章 优化问题的数学模型和基本概念
§2.1 优化设计的数学模型 §2.2 优化设计的三大要素 §2.3 优化设计的分类 §2.4 优化设计的数学基础 §2.5 优化设计的最优解及获得最优解的条件 §2.6 优化设计问题的数值迭代法及其收敛条件
§2.1 优化设计的数学模型
一. 机械优化设计方法解决实际问题的步骤
§2.2 优化设计的三大要素
( 0) (0) 其中： ∇f ( x ( 0) ) = ∂f ( x ) , ∂f ( x ) T
∂x1
∂x2
是 X(0)点的梯度。
s方向的单位向量: S = cos 2 α1 + cos 2 α 2 = 1 。
(k))，f(x)
总有一个定值c 与之对应；而当f(x)取定值 c 时，则有无限多个设计点 X(i)(x1(i), x2(i), …,xn(i) ) （i=1,2, … ）与之对应，这些点集构成一个曲 面，称为等值面。 当 c 取c1,c2, …等 值时，就获得一族曲面 族，称为等值面族。 当f(x)是二维时，获 得一族等值线族； 当f(x)是三维时，获 得一族等值面族； 当f(x)大于三维时， 获得一族超等值面族。
它将设计空间分成两部分：满足约束条件 gu(X) ≤ 0 的部分和不满足约 束条件 gu(X) > 0 的部分。
设计可行域（简称为可行域） 对于一个优化问题，所有约束的约束面将组成一个复合的约束 曲面，包围了设计空间中满足所有约束条件的区域，称为设计 可行域 。 记作
=
{x
g u(x) ≤ 0 h v (x) = 0
第二章 优化问题的数学模型和基本概念
§2.1 优化设计的数学模型 §2.2 优化设计的三大要素 §2.3 优化设计的分类 §2.4 优化设计的数学基础 §2.5 优化设计的最优解及获得最优解的条件 §2.6 优化设计问题的数值迭代法及其收敛条件
§2.1 优化设计的数学模型
一. 机械优化设计方法解决实际问题的步骤
§2.2 优化设计的三大要素
第二章 优化设计理论基础
1
第一节 极值理论
由极值的充分条件求函数的二阶导数矩阵，并判断其正定性得
0 6 x 6 12 0 2 f ( X 1) 1 1 0 8 0 6 x 4 2 2
3
矩阵正定
0 6 x 6 12 0 2 f ( X 2 ) 1 0 8 1 6 x2 4 0
x1
x2
a11 x3 a21 a31
a12 a22 a32
a13 y1 y a23 2 a33 y3
( x1a11 x2a21 x3a31 ) y1 ( x1a12 x2a22 x3a32 ) y2 ( x1a13 x2a23 x3a33 ) y3 (数)
-2
矩阵不定
0 6 x 6 12 0 2 f ( X 3 ) 1 3 0 8 0 6 x 4 2 2
3
矩阵不定
0 6 x 6 12 0 2 f ( X 4 ) 1 0 8 3 6 x2 4 0
解：因
g1 ( X ) 22 0 4 0 g2 ( X ) 0 g3 ( X ) 2
得知，点 X k 的起作用约束是 g1 ( X ) 0 和 g 2 ( X ) 0 。
第一节 极值理论
约束问题的极值条件
在点 X k 有
2( x 3) 2 f ( X k ) 1 0 2 x 2 2 x 4 g1 ( X k ) 1 1 1 0 g 2 ( X k ) 1
第一节 极值理论
约束问题的极值条件
第一节 极值理论
由极值的充分条件求函数的二阶导数矩阵，并判断其正定性得
0 6 x 6 12 0 2 f ( X 1) 1 1 0 8 0 6 x 4 2 2
3
矩阵正定
0 6 x 6 12 0 2 f ( X 2 ) 1 0 8 1 6 x2 4 0
x1
x2
a11 x3 a21 a31
a12 a22 a32
a13 y1 y a23 2 a33 y3
( x1a11 x2a21 x3a31 ) y1 ( x1a12 x2a22 x3a32 ) y2 ( x1a13 x2a23 x3a33 ) y3 (数)
-2
矩阵不定
0 6 x 6 12 0 2 f ( X 3 ) 1 3 0 8 0 6 x 4 2 2
3
矩阵不定
0 6 x 6 12 0 2 f ( X 4 ) 1 0 8 3 6 x2 4 0
解：因
g1 ( X ) 22 0 4 0 g2 ( X ) 0 g3 ( X ) 2
得知，点 X k 的起作用约束是 g1 ( X ) 0 和 g 2 ( X ) 0 。
第一节 极值理论
约束问题的极值条件
在点 X k 有
2( x 3) 2 f ( X k ) 1 0 2 x 2 2 x 4 g1 ( X k ) 1 1 1 0 g 2 ( X k ) 1
第一节 极值理论
约束问题的极值条件
结构优化设计的理论与实践
结构优化设计的理论与实践第一章：绪论结构优化设计是指在保证结构强度、刚度、稳定性等基本要求的前提下，通过计算机模拟分析，对结构进行合理的形状、尺寸和材料参数的选择，使得结构在满足功能要求的前提下，重量尽量轻、构造紧凑、材料利用率高的设计方法。
结构优化设计是现代工程高效设计的重要手段之一，已经被广泛应用于轮船、飞机、汽车、建筑等领域，成效显著。
本文将从理论和实践两个方面探究结构优化设计的基本理论、方法以及应用案例，旨在深入探究结构优化设计的发展现状以及未来趋势。
第二章：结构优化设计的理论基础结构优化设计理论的基础是传统结构设计理论及其求解方法，结构优化设计则采用了现代优化理论和计算力学方法。
1. 优化理论优化设计理论主要包括多目标优化方法、动态规划方法、遗传算法等多种优化算法。
多目标优化方法是指将多个不同的、相互矛盾的目标函数进行优化，通过确定各个目标函数相对权重，找到一个尽量平衡的解决方案。
动态规划方法是一种基于DP算法的最优化方法，主要通过对整个问题空间的搜索，找到使得目标函数最优的解。
遗传算法则是通过模拟生物进化过程，产生新的个体解，并运用自然选择等筛选机制，得到最优解的一种计算机模拟方法。
2. 计算力学方法计算力学方法是将材料力学知识融入结构设计中的一种方法，主要包括有限元法、有限差分法、模态分析等方法。
其中有限元法是应用最为广泛的一种计算力学方法，主要利用网格模型对结构进行建模，采用数值求解方法计算出结构各点的应力、位移等物理量，通过分析这些物理量的变化情况，评价结构的稳定性、强度等。
第三章：结构优化设计的实践应用1. 航空航天领域航空航天领域是结构优化设计应用的典型案例之一，航空航天器的质量和性能直接关系到它的飞行能力。
现在，结构优化设计已经成为航空航天器设计的一个重要环节。
利用优化设计方法，可以有效地降低航空航天器的整体重量，提高空中性能。
2. 汽车领域汽车作为现代城市生活的必需品，其结构设计同样对其性能和安全性有着重要的影响。
现代设计方法(第二章 优化设计).
1.直接搜索法。
它只利用目标函数值构成的搜索方法,如POWELL,单纯形法;2.梯度法。
它需要有目标函数及其导数的解析式。
对于非线性的显函数,且变量数较少或中等的问题,用复合形法或罚函数法(其中尤其是内点罚函数法的求解效果一般都比较理想,前者求得全域最优解的可能性较大。
建议当找不到一个可行的初始点时,才用外点罚函数法。
在用罚函数法解优化问题时,必须选用一个合适的无约束优化方法。
如果目标函数的一阶和二阶偏导数易于计算(用解析法,且设计变量不是很多(如n ≤20时,建议用拟牛顿法;若n>20,且每一步的Hessian 矩阵求解变得很费时时,则选用变尺度法较好。
若目标函数的导数计算困难(用解析法或者不存在连续的一阶偏导数,则用Powell共轭方向法效果是最好的。
对于一般工程设计问题,由于维数都不很高(n<50,且函数的求导计算都存在不同程度的困难,因此用内点罚函数法调用Powell无约束优化方法求序列极小化。
优化设计:它是以数学规划理论为基础,以电子计算机为辅助工具的一种设计方法。
它首先将设计问题按规定的格式建立数学模型,并选择合适的优化方法,选择或编制计算机程序,然后通过电子计算机自动获得最优设计方案。
两类优化方法:1.直接法:直接计算目标函数值,比较目标函数值,并以之作为迭代、收敛根据的方法。
2.求导法:以多变量函数极值理论为基础,利用目标函数的性态,并以之作为寻优、迭代、收敛根据的方法。
综合设计法:以程序设计、优化技术、仿真技术及自动绘图技术的综合为基础,以计算机工作站为工具,将工业设计方法提高到更新的阶段,使产品设计,换代、创新更趋于自动化,并展示了有可能向智能化发展的前景。
优化问题的分类:按照目标函数的性质和约束条件可分为无约束问题和有约束问题。
无约束问题按照目标函数包含的单变量或多变量来分类。
(直接搜索法:它只利用目标函数值构成的搜索方法,如POWELL法,单纯形法等。
梯度法:它需要有目标函数及其导数的解析式。
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2 例：证明函数f ( x) x14 2 x12 x2 x12 x2 4 x1 5在
点（2,4）处具有极小值。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
全局极值点（最优点）：
当极值点x*能使f（x*）在整个可行域中为最小值（最大 值）时，即在整个可行域中对任一 x都有f（x）≥f（x*） （或者f（x）≤f（x*） ）时，则x* 就是全局极小点（全局极 大点）。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
局部极值点（相对极值点）：
若f（x*）为局部可行域中的极小值（极大值）而不 是整个可行域中的最小值（或最大值）时，则称x*为局 部极小点（局部极大点）。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
函数的凸性（单峰性）：
一个下凸的函数，它的极值点只有一个，并且该点既 是局部极值点也是全局极值点，我们就称这个函数具有 凸性。
G x0
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
正定矩阵：
T 如果对于任意 x 0，有二次型 x Ax 0成立，则矩阵A为正定矩阵； T 若二次型 x Ax 0，则矩阵A为半正定矩阵； T 相反，如果对于任意 x 0，有 x Ax 0，则矩阵A负定。
必 要 条 件 充 分 条 件
* 海赛矩阵G x 正定（负定）， * 即G x 的各阶主子式均大于零（或负、正相间）
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
多元函数f ( x) f ( x1 , x2 , , xn )在 * 点x ( x1 , x2 , , xn )T 处取得 极小值的充要条件是： 函数在该点的梯度为0， * 且海赛矩阵G x 正定， * 即G x 的各阶主子式均大于零。
* * * f (x ) f (x ) f (x ) 0, 0, , 0， x1 x2 xn * T * f ( x* ) f ( x* ) f (x ) 即梯度f ( x ) , , , 0 x1 x2 xn
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
矩阵正定与负定的判定：
正定：矩阵A正定的条件是A的各阶主子式大于零； 负定：矩阵A负定的条件是各阶主子式负、正相间。
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
* 多元函数f ( x) f ( x1 , x2 ,, xn )在点x ( x1 , x2 , , xn ) T 处取得极值
2 1
二元函数：
x0
x0
x0
x0
2 f x1x2 x2 2
x0
x …
2 2
其中，x1 x1 x10，x2 x2 x20
二元函数泰勒展开式的矩阵形式：
f f x f x0 x1
f x2 x
0
解：
梯度方向，用单位向量 p 表
是梯度的模 。
函数变化率最大的方向就是
f x 2 x 4 4 1 1 f ( x 0 ) f 2 x2 2 0 2 x x 2 x0 f f f ( x 0 ) 2 5 x1 x2 f ( x 0 ) p f ( x 0 ) 2 5 1 5
2 2
示，函数变化率最大的数值就
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
一 元 函 数
f ( x)在x x0点处的泰勒展开式： 1 f ( x) f ( x0 ) f '( x0 )x f ''( x0 )x 2 … 2 其中，x x x0，x 2 ( x x0 )2
x0
f x2
cos 2
x0
x2
d
x20
θ2
X0
x1
θ1
x2
o
x10
x1
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
多元函数的方向导数：
n元函数f ( x1 , x2 , …, xn )在点x 0处沿方向d的方向导数可以表示成：
n f f f cos 1 cos 2 … cos n x2 x xn x i 1 xi x0 x0 0 0 其中， i是方向d与坐标轴xi 方向之间夹角的余弦。 cos
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f T x f f 梯度： 二元函数f ( x1 , x2 )在点x0处的梯度是f ( x 0 ) 1 , f x1 x2 x0 x 2 x
工程优化设计
Mechanical optimization design
主讲：李熹平
教材：工程优化设计与MATLAB实现 清华大学出版社 联系方式：632097
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
一个多元函数可用偏导数的概念来研究函数沿各坐标方向 的变化率。 二元函数的偏导数： 一个二元函数f ( x1 , x2 )在点x0 ( x10 , x20 )处的偏导数是
4
，
3
， 2
6
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f T x f f 梯度： 二元函数f ( x1 , x2 )在点x0处的梯度是f ( x 0 ) 1 , f x1 x2 x0 x 2 x
T
1 T x x G x0 x … 2
对称矩阵
G x0 是函数f ( x1 , x2 )在点x 0 ( x10 , x20 )处的海赛矩阵
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
多元函数泰勒展开式的矩阵形式：
f ( x) f x 0 f x 0
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
f ( x1 , x2 )在点x 0 ( x10 , x20 )处的泰勒展开式： f f ( x1 , x2 ) f ( x10 , x20 ) x1 f x1 x2 1 2 f x2 2 2 x1 2 f x 2 x1x2
f d
f x1
cos i
x0
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
例：设目标函数f ( x)
4 d1和d 2两个方向的方向导数。 f ( x1 , x2 )
x12 x2 , 求点x0 [1 1]T 处沿
向量d1的方向为：1 2 向量d 2的方向为：1
0
梯度的性质：
1）梯度是一个向量；
2）梯度方向是方向导数最大的方向，即函 数值变化最快（函数值变化率最大）的方向 ；
3）梯度方向是等值面（线）的法线方向 。
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
多元函数的梯度：
函数f ( x1 , x2 ,…, xn )在点x 0 ( x10 , x20 , …, xn0 )处的梯度是 f x 1 f x f 2 x1 f xn x0
f x1 f x2 f x10 x1 , x20 f x10 , x20 lim x1 0 x1 f x10 , x20 x2 f x10 , x20 lim x2 0 x2
x0
x0
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
方向导数：
称函数f ( x1 , x2 )在点x0 ( x10 , x20 )处沿某一方向d 的变化率为该函数沿此方向的方向导数， 公式可以表示为 f x10 x1 , x20 x2 f x10 , x20 f lim d x0 d 0 d
x1 1 x 2 x1 2
2 f x 2 1 x2 2 f x2 x1
2 f x1x2 2 f 2 x2 x 0
x1 x … 2
f x 0 f x 0
f x2
T
1 T x x G x0 x … 2
f f x 0 x1
f 是函数在该点的梯度 xn x0
T
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
多元函数的海赛矩阵：
2 f x 2 1 2 f x2 x1 2 f x x n 1 2 f x1x2 2 f 2 x2 2 f xn x2 2 f x1xn 2 f x2 xn 2 f 2 xn
多元函数f ( x) f ( x1 , x2 , , xn )在 * 点x ( x1 , x2 , , xn )T 处取得 极大值的充要条件是： 函数在该点的剃度为0， * 且海赛矩阵G x 负定，
即各阶主子式负、正相间。
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
lim
f d
x0
f x1
cos 1
x0
f x2
cos 2
x0
d 0
f x10 x1 , x20 x2 f ( x10 x1 , x20 ) x2 lim d 0 x2 d f x1 cos 1
点（2,4）处具有极小值。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
全局极值点（最优点）：
当极值点x*能使f（x*）在整个可行域中为最小值（最大 值）时，即在整个可行域中对任一 x都有f（x）≥f（x*） （或者f（x）≤f（x*） ）时，则x* 就是全局极小点（全局极 大点）。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
局部极值点（相对极值点）：
若f（x*）为局部可行域中的极小值（极大值）而不 是整个可行域中的最小值（或最大值）时，则称x*为局 部极小点（局部极大点）。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
函数的凸性（单峰性）：
一个下凸的函数，它的极值点只有一个，并且该点既 是局部极值点也是全局极值点，我们就称这个函数具有 凸性。
G x0
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
正定矩阵：
T 如果对于任意 x 0，有二次型 x Ax 0成立，则矩阵A为正定矩阵； T 若二次型 x Ax 0，则矩阵A为半正定矩阵； T 相反，如果对于任意 x 0，有 x Ax 0，则矩阵A负定。
必 要 条 件 充 分 条 件
* 海赛矩阵G x 正定（负定）， * 即G x 的各阶主子式均大于零（或负、正相间）
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
多元函数f ( x) f ( x1 , x2 , , xn )在 * 点x ( x1 , x2 , , xn )T 处取得 极小值的充要条件是： 函数在该点的梯度为0， * 且海赛矩阵G x 正定， * 即G x 的各阶主子式均大于零。
* * * f (x ) f (x ) f (x ) 0, 0, , 0， x1 x2 xn * T * f ( x* ) f ( x* ) f (x ) 即梯度f ( x ) , , , 0 x1 x2 xn
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
矩阵正定与负定的判定：
正定：矩阵A正定的条件是A的各阶主子式大于零； 负定：矩阵A负定的条件是各阶主子式负、正相间。
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
* 多元函数f ( x) f ( x1 , x2 ,, xn )在点x ( x1 , x2 , , xn ) T 处取得极值
2 1
二元函数：
x0
x0
x0
x0
2 f x1x2 x2 2
x0
x …
2 2
其中，x1 x1 x10，x2 x2 x20
二元函数泰勒展开式的矩阵形式：
f f x f x0 x1
f x2 x
0
解：
梯度方向，用单位向量 p 表
是梯度的模 。
函数变化率最大的方向就是
f x 2 x 4 4 1 1 f ( x 0 ) f 2 x2 2 0 2 x x 2 x0 f f f ( x 0 ) 2 5 x1 x2 f ( x 0 ) p f ( x 0 ) 2 5 1 5
2 2
示，函数变化率最大的数值就
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
一 元 函 数
f ( x)在x x0点处的泰勒展开式： 1 f ( x) f ( x0 ) f '( x0 )x f ''( x0 )x 2 … 2 其中，x x x0，x 2 ( x x0 )2
x0
f x2
cos 2
x0
x2
d
x20
θ2
X0
x1
θ1
x2
o
x10
x1
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
多元函数的方向导数：
n元函数f ( x1 , x2 , …, xn )在点x 0处沿方向d的方向导数可以表示成：
n f f f cos 1 cos 2 … cos n x2 x xn x i 1 xi x0 x0 0 0 其中， i是方向d与坐标轴xi 方向之间夹角的余弦。 cos
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f T x f f 梯度： 二元函数f ( x1 , x2 )在点x0处的梯度是f ( x 0 ) 1 , f x1 x2 x0 x 2 x
工程优化设计
Mechanical optimization design
主讲：李熹平
教材：工程优化设计与MATLAB实现 清华大学出版社 联系方式：632097
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
一个多元函数可用偏导数的概念来研究函数沿各坐标方向 的变化率。 二元函数的偏导数： 一个二元函数f ( x1 , x2 )在点x0 ( x10 , x20 )处的偏导数是
4
，
3
， 2
6
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f T x f f 梯度： 二元函数f ( x1 , x2 )在点x0处的梯度是f ( x 0 ) 1 , f x1 x2 x0 x 2 x
T
1 T x x G x0 x … 2
对称矩阵
G x0 是函数f ( x1 , x2 )在点x 0 ( x10 , x20 )处的海赛矩阵
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
多元函数泰勒展开式的矩阵形式：
f ( x) f x 0 f x 0
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
f ( x1 , x2 )在点x 0 ( x10 , x20 )处的泰勒展开式： f f ( x1 , x2 ) f ( x10 , x20 ) x1 f x1 x2 1 2 f x2 2 2 x1 2 f x 2 x1x2
f d
f x1
cos i
x0
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
例：设目标函数f ( x)
4 d1和d 2两个方向的方向导数。 f ( x1 , x2 )
x12 x2 , 求点x0 [1 1]T 处沿
向量d1的方向为：1 2 向量d 2的方向为：1
0
梯度的性质：
1）梯度是一个向量；
2）梯度方向是方向导数最大的方向，即函 数值变化最快（函数值变化率最大）的方向 ；
3）梯度方向是等值面（线）的法线方向 。
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
多元函数的梯度：
函数f ( x1 , x2 ,…, xn )在点x 0 ( x10 , x20 , …, xn0 )处的梯度是 f x 1 f x f 2 x1 f xn x0
f x1 f x2 f x10 x1 , x20 f x10 , x20 lim x1 0 x1 f x10 , x20 x2 f x10 , x20 lim x2 0 x2
x0
x0
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
方向导数：
称函数f ( x1 , x2 )在点x0 ( x10 , x20 )处沿某一方向d 的变化率为该函数沿此方向的方向导数， 公式可以表示为 f x10 x1 , x20 x2 f x10 , x20 f lim d x0 d 0 d
x1 1 x 2 x1 2
2 f x 2 1 x2 2 f x2 x1
2 f x1x2 2 f 2 x2 x 0
x1 x … 2
f x 0 f x 0
f x2
T
1 T x x G x0 x … 2
f f x 0 x1
f 是函数在该点的梯度 xn x0
T
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
多元函数的海赛矩阵：
2 f x 2 1 2 f x2 x1 2 f x x n 1 2 f x1x2 2 f 2 x2 2 f xn x2 2 f x1xn 2 f x2 xn 2 f 2 xn
多元函数f ( x) f ( x1 , x2 , , xn )在 * 点x ( x1 , x2 , , xn )T 处取得 极大值的充要条件是： 函数在该点的剃度为0， * 且海赛矩阵G x 负定，
即各阶主子式负、正相间。
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
lim
f d
x0
f x1
cos 1
x0
f x2
cos 2
x0
d 0
f x10 x1 , x20 x2 f ( x10 x1 , x20 ) x2 lim d 0 x2 d f x1 cos 1