最新2第二章优化设计的数学基础new汇总
-第二章优化设计的数学基础newPPT课件
15
机械优化设计 上式写成矩阵形式:
f (x)
f
( x0
)
f x1
1 2
x1
2 f
x2
x12 2 f
x1x2
f x2
x0
x1 x2
2 f
x1x2
2 f
x1 x2
机械优化设计
第二章 优化设计的数学基础
一、多元函数的方向导数和梯度
二、多元函数的泰勒展开
三、无约束优化问题的极值条件
四、凸集、凸函数与凸规划 五、等式约束优化问题的极值条件
六、不等式约束优化问题的极值条件
2020/2/20
1
机械优化设计
一、多元函数的方向导数和梯度
1、方向导数
二元函数 f (x1, x2 )在 x0 x10, x20 点处的偏导数的定义是:
23
机械优化设计 定理:若二次函数 f (X ) 1 X TQX bX c 中Q正定,
2 则它的等值面是同心椭球面族,且中心为 X Q1b
证明:作变换 X Y Q1b ,代入二次函数式中:
(Y ) f (Y Q1b)
1 (Y Q1b)Q(Y Q1b) bT (Y Q1b) c 2
f x1
xn
cosn
n i 1
f xi
x0
cosi
2020/2/20
4
机械优化设计
2、二元函数的梯度
f d
x0
f x1
cos 1 +
x0
f x2
2优化设计的数学基础PPT课件
f x 1
f x 2x 0
x 1 x 2
1 2 !
x 1
x 2
x 1 2 2 f
x 1x 2 2 f
x 1 x 2
x 2x 1 x 2 2 x 0
f
ff x1x01,x20x2
1 x10!
1 2!
1 x12!
2f xx212x0
2f xx1212 2f
2xxxfx2111x22x1ff02xf2x2 x1x0
f x2x0
xx11 x2 x2
x2 2f
2fx1 x22x0
x2x2 x20
2f x2 x1 x0
其 中 x 1x 1x 1 x0 2, x1 x 2xx 222xx 0 2 0
第二章 优化设计的数学基础
• 机械优化设计是建立在多元函数的极值理 论基础上
• 无约束优化问题就是数学上的无条件极值 问题
• 约束优化问题则是数学上的条件极值问题
1
标题添加
点击此处输入相 关文本内容
标题添加
点击此处输入相 关文本内容
总体概述
点击此处输入 相关文本内容
点击此处输入 相关文本内容
2
一.多元函数的方向导数与梯度
• 任何一个单值、连续、可微分的不受任何约束 的一元函数f(x)在点(x0)处有极值的充分必要条 件是
0极 小 值 f(x) 0 和f (x)
0极 大 值
• 对于二元函数,若在点(x0)处取得极值其必要 条件是
f x1x0
f x2x0
0 即f x 0
0
14
二元函数取得极值的充分条件
(1) 二元函数在点(x0)处的泰勒展开式,考虑上述极值必
现代设计方法课件PPT 第2章 优化设计的数学基础
3x2 6 6(x1 1)2 6x12 12x1 3x2
将 X (点 X (1) 的值相等。
重庆大学机械工程学院
5
现代设计方法——第2章 优化设计的数学基础
分析式(2-9)中的取值对方向导数 f ( X k) ) / S 影响,可知,在设计空间
中,凡是与梯度方向成锐角的方向函数值都增加;凡是与梯度方向成钝角的方
向函数值都减小;梯度 f (X ) 的方向为函数 f(X) 过 X (k) 点的等值线(或等值面)
的外法线方向。
Δ Δ Δ
x2
变化率为零的方向
下降方向
将代数式(2-6)写成矩阵形式,则有
f
(X (k) S
)
f
(X (k) x1
)
cos1
f
(X (k) x2
)
cos2
f ( X (k) )
x1
f ( X (k) ) cos1
x2
cos
2
f ( X (k) )
令
f ( X (k) )
x1
,
f ( X (k) )
S
cos1 cos2
当 X (k) 为函数的极小点时,有 f (X ) f (X (k) ) 0 ,故必有
[ X X (k) ]T 2 f ( X (k) )[ X X (k) ] 0
根据线性代数的二次型有关知识,上式说明函数的二阶导数矩阵必 须是正定的,这就是多元函数极小值的充分条件。故,多元函数在点 X (k) 取得极小值的充分必要条件是:函数在该点的梯度为零,海赛矩阵(二 阶导数矩阵)正定,即
求展开式的二次项
第2章 优化设计的数学基础
ρ
=
∂F ( x 0 ) ∂x1 =
∆x1 cos θ1 +
∂F ( x 0 ) ∂x2
ρ
+ lim
ρ →0
0 0 F ( x10 + ∆x1 , x2 + ∆x2 ) − F ( x10 + ∆x1 , x2 ) ∆x2
∆x2
ρ
cos θ 2 cos θ 2 + ∂F ( x 0 ) ∂x3 cos θ3
α x + (1 − α ) x ⊂ D
1 2
二、凸函数
定义在凸集D上的函数 ,如满足以下条件, 定义在凸集 上的函数F,如满足以下条件, 上的函数
F αx1 + (1 − α )x 2 ≤ αF x1 + (1 − α )F x 2
则,F为D上的凸函数,如不等式反向,则为 上的凸函数, 为 上的凸函数 如不等式反向, 凹函数 凸函数的性质: 凸函数的性质: F (x1 ) + F (x 2 ) 在D上也是凸函数; λ 1、 F (x ) 、 上也是凸函数; 、 上也是凸函数 2、F为凸函数的充分必要条件是: 为凸函数的充分必要条件是: 、 为凸函数的充分必要条件是 (x 2 ) ≥ F (x1 ) + [∇F (x1 )]T (x 2 − x1 ) F 。 函数切线永远在曲线以下。 即函数切线永远在曲线以下。
T
d = [ cos θ1
cos θ 2 ]
T
设: 则有
cos θ1 S≡ 为单位向量。 为单位向量 cos θ 2 ∂f = ∇f ( x0 )T S = ∇f ( x0 ) cos(∇f , S ) x0 ∂S
梯度方向是函数值增加最快的方向,而梯度 梯度方向是函数值增加最快的方向, 的模就是函数变化率的最大值。
第2章 优化方法的数学基础
X ∈ D 对满足 ,
F ( X ) ( X X * ) ≥ 0
*
T
注意: 注意:
不论是无约束或有约束的优化问题,在实际应用中, 不论是无约束或有约束的优化问题,在实际应用中,要证明一个 优化问题是否为凸规划,一般比较困难, 优化问题是否为凸规划,一般比较困难,有时甚至比求解优化问题本 身还要麻烦.尤其对一些工程问题,由于其数学模型的性态都比较复 身还要麻烦.尤其对一些工程问题, 杂,更难实现.因此,在优化设计的求解中,就不必花精力进行求证, 更难实现.因此,在优化设计的求解中,就不必花精力进行求证, 而通常是从几个初始点出发,找出几个局部最优解, 而通常是从几个初始点出发,找出几个局部最优解,从中选择目标函 数值最好的解. 数值最好的解.
2 2
设: 则有
cos θ1 s≡ 为单位向量. 为单位向量. cos θ 2 F = F ( x0 )T s = F ( x0 ) cos(F , s ) x s 0
梯度方向是函数值变化最快的方向,而梯度的模 梯度方向是函数值变化最快的方向, 就是函数变化率的最大值 .
x2 x0
-f(x0) 最速下降方向 下降方向 变化率为零的方向 上升方向 f(x 0) 最速上升方向
凸规划的一些性质: 凸规划的一些性质: 1)可行域 D = X g j ( X ) ≤ 0
{
j = 1, 2, , m
}
为凸集; 为凸集;
2)凸规划问题中的任何局部最优解都是全局最优解; 凸规划问题中的任何局部最优解都是全局最优解; 为凸规划问题 最优解的充分必要条件 规划问题的 可微, 3 ) 若 F ( X ) 可微 , 则 X* 为凸规划问题的 最优解的充分必要条件 为: 对任意
0
第二章优化设计的数学模型和基本概念02
由以上两个实例可见,一个优化设计问题应包括: (1)有描述设计方案的一组设计变量; (2)有一个或几个目标函数(或准则函数),且是设计变量的标量 函数; (3)明确一组表示可接受设计方案的约束条件,且也是全部或几 个设计变量的标量函数; (4)能求出一组设计变量的值,在满足全部约束条件下,使目标 函数达到最小(或最大)值。
X3 X(1) Δ X(1) X(2)
0 X1
X2
2.2 优化设计的基本术语
一.设计变量(续)
从一个设计问题的许多参数中识别出设计变量应注意以下几 点: 1、设计变量应是独立的; 2、用设计变量来阐述设计问题应该是用最少的数量; 3、在开始阐述设计问题时尽可能用较多的设计参数,然后 再从中选出几个对目标函数影响较大的参数取为设计变量,其 余定为常数,可根据设计规范或经验把它取为固定的值。
§2.1 引言
(3)在剪切过程中,剪刃的水平分速度与轧件运行速度尽可能相等并能保持 不变,以避免轧件出现堆钢和拉钢现象。
§2.1 引言
还须满足如下一些条件才能获得可接受的方案: (1)应满足四扦机构曲柄的存在条件,即曲柄l1为最短扦,它与 任一扦的和小于其余二杆的和; (2)为了保证机构具有良好的传力性能,要求其传动角 不应小 于允许[ ]; (3)应满足给定的重叠度 要求; 飞剪机剪切机构的优化设计可叙述为合理选择7个设计参数,在 满足13个条件下,使3个准则函数同时达到最小。
由于要求设计最小重量的压柱而它的重量w可表示为结构参数d的函数即所以若将它赋予丌同的重量例如w2722n195则可以在图上画出等重曲线等在上述可行区域内其最轻的等重曲线不压杆稳定的极限曲线管子壁厚下限曲线交于e点
第二章
优化设计的基本术语和数学模型
第二优化设计的数学基础
对于约束优化问题
min f x
s.t. gj x 0
j 1, 2,..., m
若 f x g j x都为凸函数,则此问题为凸规划。
凸规划的性质:
x0
1.若给定一点
,则集合
R
x f x f x0
为凸集。
R x 2.可行域
g j x0 j1,2,...,m
则该问题的拉格朗日函数
F x, a1,b1, 1, 2 f x 1h1 x, a1 2h2 x,b1
f x 1 a x a12 2 x b b12
1 0 2 0
根据拉格朗日乘子法,此问题的极值条件:
为凸集
3.凸规划的任何局部最优解就是全局最优解
第五节 等式约束优化问题的极值条件
等式约束 约束优化
不等式约束
min f x
s.t. hk x 0 k 1, 2,...,l
消元法
求解这一问题的方法
拉格朗日乘子法
1.消元法(降维法)
以二元函数为例讨论。 二、拉格朗日乘子法(升维法)
对于具有L个等式约束的n维优化问题
集R内任意不同两点x1 x2 ,不等式
f x2 f x1 x2 x1 T f x1
恒成立。
2.根据二阶导数( Hesse矩阵)来判断函数的凸性
设f(x)为定义在凸集R上且具有连续二阶导数的 函数,则f(x)在R上为凸函数的充要条件
Hesse矩阵在R上处处半正定。
n f x* f x f x*
i1 xi
xi x*
1 n 2 f x* 2 i, j1 xix j
第二章优化设计的数学基础
第二章优化设计的数学基础优化设计是指通过调整设计要素,使得设计达到最佳状态的过程。
在实际应用中,优化设计可以应用于各个领域,包括工程设计、经济决策、生产流程以及物流等等。
在进行优化设计时,我们需要依赖数学的基础知识和方法。
本文将介绍一些常用的数学基础,帮助我们更好地理解和应用优化设计。
首先,优化设计离不开数学模型的建立。
数学模型是对实际问题进行抽象和描述的工具。
它可以将实际问题转化为数学问题,从而进行具体的计算和推理。
常见的数学模型包括线性规划模型、非线性规划模型、整数规划模型等等。
通过建立数学模型,我们可以对设计进行量化和形式化的描述,为后续的优化设计提供依据。
其次,数学中的最优化理论也是优化设计的重要基础。
最优化理论主要研究如何在给定的约束条件下,找到使目标函数达到最优值的决策变量取值。
最优化问题可以分为无约束优化和约束优化两种情况。
无约束优化即在没有约束条件下寻求最优解,而约束优化则在给定一定约束条件下寻找最优解。
在实际的优化设计中,往往需要处理复杂的问题,例如多目标优化、多变量优化等等,并应用最优化理论来解决这些问题。
另外,数值方法是优化设计中不可或缺的工具。
数值方法通过使用数值计算的方法,对优化问题进行求解。
常见的数值方法有穷差法、梯度法、遗传算法等等。
这些方法通过迭代计算的方式,逐步接近最优解。
在实际中,由于优化问题的复杂性,往往难以找到解析解,因此数值方法的应用变得尤为重要。
最后,敏感性分析也是优化设计中的重要工具。
敏感性分析主要研究问题中各个因素对最优解的影响程度。
通过敏感性分析,我们可以了解到设计要素的重要性,从而进行针对性的调整和优化。
敏感性分析方法包括参数敏感性分析、目标函数敏感性分析等等。
通过敏感性分析,我们可以进一步了解设计问题,为优化设计提供实际的参考意见。
综上所述,数学是优化设计的基础。
通过数学模型的建立、最优化理论的应用、数值方法的求解以及敏感性分析的研究,我们能够更好地理解和应用优化设计。
最新2优化设计的数学基础汇总
2优化设计的数学基础第二章优化设计的数学基础优化设计中绝大多数是多变量有约束的非线性规划问题,即是求解多变量非线性函数的极值问题。
由此可见,优化设计是建立在多元函数的极值理论基础上的,对于无约束优化问题为数学上的无条件极值问题,而对于约束优化问题则为数学上的条件极值问题。
本章主要叙述与此相关的数学基础知识。
第一节函数的方向导数与梯度一、函数的方向导数一个二元函数«Skip Record If...»在点«Skip Record If...»处的偏导数,即函数沿坐标轴方向的变化率定义为:而沿空间任一方向S的变化率即方向导数为:方向导数与偏导数之间的数量关系为依此类推可知n维函数«Skip Record If...»在空间一点«Skip Record If...»沿S方向的方向导数为二、函数的梯度函数«Skip Record If...»在某点X的方向导数表明函数沿某一方向S的变化率。
—般函数在某一确定点沿不同方向的变化率是不同的。
为求得函数在某点X的方向导数为最大的方向,引入梯度的概念。
仍以二元函数«Skip Record If...»为例进行讨论,将函数沿方向S 的方向导数写成如下形式令:图2-1 二维空间中的方向图2-2 三维空间中的方向称为«Skip Record If...»在点X处的梯度«Skip Record If...»,而同时设S为单位向量于是方向导数可写为:此式表明,函数«Skip Record If...»沿S方向的方向导数等于向量«Skip Record If...»在S方向上的投影。
且当«Skip Record If...»,即向量«Skip Record If...»与S的方向相向时,向量«Skip Record If...»在S 方向上的投影最大,其值为«Skip Record If...»。
优化设计2数学基础
为起作用约束,即x=a 为不起作用约束,即x>a
上式表明, u1与g1(x)至少必有一个为0,因此,可将u1a1=0的
条件写成:
u1g1(x)=0。
同理,也将u2b1=0的条件写成: u2g2(x)=0。
根据上述讨论,一元函数f(x)在给定区间上的极值条件 可表示为:
df
dx
u1
dg1 dx
u2
同时具有等式和不等式约束的K-T条件
同时具有等式和不等式约束的优化问题 :
min F ( x)
s.t. gj (x) 0 ( j 1,2,L ,m) hk (x) 0 (k 1, 2,L ,l)
K-T条件可表示为:
F xi gj(
x)
jJ
0
j
g j xi
l k 1
k
( jJ)
hk xi
根据拉格朗日乘子法,此问题的极值条件是:
分析u1a1=0 ,只有两种情况,即:
u1=0,a1≠0; u1>=0,a1=0
①当u1>=0,a1=0 时,g1(x)=a-x=0,约束起作用,即为x=a 的情况。
②当u1=0,a1≠0 时,g1(x)=a-x<0,约束不起作用,即为x>a 的情况。
上述分析可表示为:
三、极值的充分条件
2F
x12
2F
2
F
(
x*
)
x2x1
M
2F
xnx1
2F x1x2 2F
x22 M 2F xnx2
L
2F
x1xn
2F
x2xn
正定或负定
M M
L
2F
xn2 x*
✓ 海赛(Hessian)矩阵 H(x) 正定,即各阶主 子式均大于零,则x*为极小点。
02优化设计的数学基础
即:
a11, a12 , , a1n
a11
0,
a11, a12 a21, a22
0,
, a21, a22 , , a2n
0
an1, an2 , , ann
则矩阵A为正定矩阵。
若矩阵A的行列式|A|的各阶顺序主子式负、正交
替地变换符号,则矩阵A为负定矩阵。
9
2.3 函数的等值面或线
➢ 对一般的二次函数
➢ 若二次型 f X XTAX 0
则A为半正定矩阵;
➢ 若二次型 f X XTAX 0
则A为负定矩阵;
➢ 若二次型 f X XTAX 0
则A为半负定矩阵;
➢ 若二次型 f X XTAX
有些X使它为正,有些X使其为负,则A为不定矩阵。
8
➢判断矩阵A是正定或负定的方法:
若矩阵A的行列式|A|的各阶顺序主子式都大于零,
其中
f
(X(0)
)
f
(x(0) ) x1
,
f
( x (0) x2
)
,...,f
(x(0) ) xn
T
为函数在X(0)的梯度
S cos1,cos2, ,cosn T 为一个单位向量
14
2. 函数在某点沿一方向的方向导数等于函数在该点处的
梯度与方向单位向量的内积。写成向量模的形式:
f (X(0)) f (X(0) )T S f TS || f || || S || cos(f ,S) S
4
f
X (k)
f ( X (k) ) f ( X (k) )
f
(
X
(k)
T
)
x1
,
x2
, ,
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
dx i
f
x*T
dx0
i
dh x* k
n hk
x i1
d
xh
i
k
x* T dx0
i
(k = 1,2,l)
令
i n 1 x fi 1 h x1 i 2 h x2 i l h xil di x0
可通过其中的l个方程
fh1h2 hl 0
x 1x 2x
l x
(a)
式(a),(b)可以合并写成
fh1h2 hl 0
x 1x 2x
l x
i
i
i
i
(i = 1, 2,,n)
(c)
令
Fx,fx l khkx
k1
式中 待定系数k称为拉格朗日乘子, F(x, )称为拉格朗日函数。本方法称为
拉格朗日乘子法。
把F(x, )作为一个新的无约束条件的目标函数来求解它的极值点, 所得
解:由于函数变化率最大的方向是梯度方向, 这里用单位向 量p表示, 函数变化率最大的数值是梯度的模f(x0)。求 f(x1,x2)在x0点处的梯度方向和数值,计算 如下
f
f
x0xf1
x2 x0
22xx12
4 2x0
24
fx0 x f1 2 x f2 2422225
p
f x0 f x0
其必要条件为: f ’(x*)=0
若x*为有极小值点,其充分条件为: f ”(x*)>0
若x*为有极大值点,其充分条件为: f ”(x*)<0
2.4 凸集与凸函数与凸规划
2.4.1凸集与非凸集
2.5 等式约束优化问题的极值条件
对于等式约束优化问题: minf(x)
s.t. hk(x) = 0 (k = 1,2,m) 需要导出极值存在的条件。 数学上有两种处理方法: 消元法(降维法) 拉格朗日乘子法(升维法)
i
i
i
i
来求解l个待定系数1,2,,l,使得l个变量的微分dx1, dx2, ,dxl 的系数
全为零。于是得到
n f1 h 12 h 2 l h l di x0
则有
f h1h2 hl 0
x 1x 2x
l x
(b)
j
j
j
j
(j = l+1, l+2,,n)
式(a),(b)及等式约束条件 hk(x) = 0 (k = 1,2,l) 就是点x达到约束极值的必要 条件。
4 2
2 5
2 15
5
三、向多元函数的推广
函数 f(x1,x2, , xn)在x0 (x1,x2, , xn)处的梯度可定义为
f
x1 f
f
x0
x
2
f x1
f xn x0
f x2
f T
xn
x0
函数 f(x1,x2, , xn)在x0处沿d的方向导数可表示为
结果就是满足约束条件的原目标函数的极值点。自F(x, )具有极值的必要条
件:
F x 0i 1 ,2 , ,n , F 0k 1 ,2 , ,l
i
k
可得l+n个方程。由这些方程组求得函数f(x)的极值点x*=[x1* x2* xl*]T.
例2-4 用拉格朗日乘子法计算极值点坐标 f(x1,x2)=4x12+5x22
等值面上过x0的一切曲面相垂直,如图2-5所示。
2.2 多元函数的泰勒(Taylor)展开式
多元函数的泰勒(Taylor)展开在优化方法中十分重要, 许多方法及其收敛性证明都是从它出发的。
2.3 无约束优化问题的极值条件
一、一元函数极值条件 对于连续可微的一元函数f(x),如在x*点有极值,
s.t. hk (x1,x2 ,,xn) = 0 (k = 1,2,l) 由l个约束方程将n个变量中的前l个变量用其余n-l个变量表示, 有
x1 = (xl+1,xl+2,,xn)
x2 = (xl+1,xl+2,,xn)
xn = (xl+1,xl+2,,xn)
将这些函数关系代入到目标函数中, 得到只含有xl+1,xl+2,,xn共n-l个变量的函
d fx 0in 1 x fix 0co i s fx 0T d fx 0co f,s d
d方向上的单位向量
cos 1
d
cos
2
梯度f(x0)的模为
cos n 1
f
x0
n i1
f xi
2
x0
2
梯度方向单位向量为
p
f x0 f x0
,它与函数等值面 f (x) = c相垂直,也就是和
数F(xl+1,xl+2,,xn), 从而利用无约束优化问题的极值条件求解。(因为将)
二、拉格朗日乘子法
通过增加变量将等式约束优化问题变成无约束优化问题。
对于
minf(x) s.t. hk(x) = 0 (k = 1,2,l)
在极值点x*处有
d
fx*
n f
2第二章优化设计的数学基础 new
类似的,
一个三元函数
在 fx,x,x 123
xxx x 0 1,0 2,0 30
点处沿d方向的方向导
数和偏导数的关系如下所示,见图2-2
f f co sf co sf co s
d x x0
1x0
1 x 2x0
2 x 3x0
3
类似的, 一个n元函数fx1,x2, , xn在 x 0 点处沿d方向的方向导数
一、消元法
1)二元函数只有一个等式约束 minf(x1,x2)
s.t. h (x1,x2) = 0
处理方法:将x1表示为x1 = (x2), 并代入目标函数中消去x1,变成一元函数F(x2),
则等式约束优化问题变为无约束优化问题。目标函数二维变一维,故称降维法。
2)n维情况 minf(x1,x2,,xn)
f f cosf cos f cos
d x x0
1 x0
1 x 2 x0
2
x
n
n x0
n f
x i1
cos i
i x0
其中的cosi为d方向和坐标轴xi方向之间夹角的余弦。
2、二元函数的梯度
f f
f
f
dx 0 x 1x 0co 1 s x 2x 0co 2 s x 1
fco 1s x 2 x 0 co 2 s
f
令
f
x 0
x
1
f
f x1
T
f x
2
x0
称其为函数f(x1,x2)在x0点的梯度。
x2 x0
设
d
cos
1
cos2
为d方向的单位向量, 则可得:
f f x T d
d x0
0
`
例2-1 求二元函数
f x , x x 2 x 2 4 x 2 x 5
12
12
1
2
在x0 = [0 0]T处函数变化率最大的方向和数值。