优化理论与最优控制.
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(v 1, 2,, p; u 1, 2,, m) 。
参考书目
刘惟信，《机械最优化设计》，清华大学出版 社，1994年9月，第2版。
思考题
3 2 x ax bx c 0 方程求解：
(a, b, c R)
常规控制回路的优化调整：参数整定
人工神经元网络的学习算法
工业过程的优化调整，比如电站锅炉的燃烧 优化
( x0 , y0 ) 0时，P0(x0 , y0 )为极大点 f xx ( x0 , y0 ) 0时，P0(x0 , y0 )为极小点 f xx
且
3 多元函数
n元函数 f (X) f ( x1, x2 ,, xn ) 在点M处存在极值 的充分必要条件是： ①在点M处函数的梯度为零向量：
边界约束（显约束）：对调整变量的直接限制 约束的形式 隐约束（性能约束）：对调整变量的间接限制
等式约束：对调整变量的约束严格，起着降 低设计自由度的作用。 不等式约束
分类
线性规划：若 f (X), hv (X)和gu (X) 都是调整变量 X的线性函数 ； 非线性规划：若它们不全是调整变量X的线 性函数； 无约束规划： 若 p 0, m 0
• 目标函数
单目标函数：只有一个目标函数； 多目标函数：有多个目标函数。
• 约束条件
{显约束vs 隐约束}、{等式约束vs不等式约束}和{边界约束 vs 性态约束}。
• 控制方程的解
调整（设计、策略、决策）变量组合 最优值的相对性与动态性等。 vs 目标函数；
约束条件
• 目标函数取决于调整变量 ,而在工程实际问 题中调整变量的取值范围是有限制的或必 须满足一定的条件。
H M 为正定时，M为极小点； 且当 H M 为负定时，M为极大点； H 既非正定也非负定时，M为鞍点。 M
最优化问题求解的数值计算方法
1 解析法—间接寻优方法
利用数学分析的方法 ,根据目标函数的变化规 律与函数极值的关系,求目标函数的极值点.
寻找极值点 需要求解由目标函数的偏导数 所组成的方程组或梯度 f (X) 0。
f (X
(M)
f (X(M) ) ) x1
f (X(M) ) f (X(M) ) 0 0 0 0 x2 xn
②Hessian矩阵为正定或负定：
2 f (X (M) ) H(X (M) ) H M 2 f (X (M) ) x 2 1 2 f (X (M) ) x2x1 2 f (X (M) ) x x n 1 2 f (X (M) ) 2 f (X (M) ) x1x2 x1xn 2 (M) 2 (M) f (X ) f (X ) x2 2 x2 xn 2 (M) 2 (M) f (X ) f (X ) xn x2 xn 2
最优化问题的数学模型
最优化问题的控制方程为：
调整参数： X=[x1 x2 x3 … xn]T, X D
目标函数: 约束条件： ymin或 ymax= f(X) hv(X)=0, v=1,2,…,p gu(X) 0, u=1,2,…,m
几点说明
• 调整（决策、策略）变量
原则应选择对目标函数影响大且独立的变量；通常情况 下，调整变量越多，优化潜力越大，但优化过程也越复杂。
f ( x0 ) 0; f ( x0 ) 0 0
极小值
极大值
2 二元函数
若二元函数 z f ( x, y)在P0(x0 , y0 )点的某个领域内有 连续二阶偏导数，则在该点存在极值的充 分必要条件是：
f x( x0 , y0 ) 0 f ( x , y ) 0 y 0 0 f xy ( x, y ) f xx ( x, y) 0 ( x, y ) f yx ( x, y ) x x0 f yy y y0
举例说明（Ⅰ）
小朋友算数
观察到什么现象？ 发现什么问题？ 得到什么结论？
1) 2堆苹果，每堆有3个，问2堆加起来一 共有几个苹果？若有3堆，1000堆这样 的苹果呢？
2）9个苹果，3个小朋友分，问每人分几个 苹果？若有18个，3000个苹果呢？
举例说明（Ⅱ）
简单的工业问题
一简单的仅有两个输入变量x1、x2，一个输出 变量 y 的工业过程，即 y f ( x1, x2 ) 。在工程中， 输入变量即运行（工艺）参数x1、x2一般都有 一定的取值范围 。 不妨设其允许取值范围分 别为[a,b]、[c,d]。那么，图中蓝色方框中所有 的x1、x2组合都能满足系统正常运行的要求。
• 调整（设计、策略、决策）变量 设计变量的数目称为最优化设计的维数。 • 目标函数 在最优化设计中，可将所追求的设计目标（最优 指标）用设计变量的函数（解析或隐含）形式表 达出来，这一过程称为建立目标函数。 • 约束条件 在很多实际问题中，设计变量的取值范围是有限 制的或必须满足一定的条件。以及其他方面的限 制。
然后用 Hessian 矩阵对所找到的稳定点进行 判断，看它是否是最优点。
举例说明（Ⅱ）
请问在这无穷多个组合中，哪个组合y能 取得最大值或最小值呢？
d
x2
5 1 6 8
11 13
4 2
7
12
9
c a
3
10
Baidu Nhomakorabea
x1
b
无约束目标函数的极值点存在条件
1 一元函数
任何一个单值、连续、可微分的不受任何约 束的一元函数 y f ( x)在x x0 点处有极值的 充分必要条件是：
优化理论与最优控制
“优化”与“最优化”
优化
“化”—加在名词或形容词后构成动词,表示 转变成某种性质或状态。比如：绿 化、美化、丑化，自动化，优化…
最优化（值）
指在一定条件影响下所能得到的最佳值。它 是一个相对的概念；不同于数学上的极值， 但在很多情况下可以用最大值或最小值来表 示。
最优化问题的控制方程
参考书目
刘惟信，《机械最优化设计》，清华大学出版 社，1994年9月，第2版。
思考题
3 2 x ax bx c 0 方程求解：
(a, b, c R)
常规控制回路的优化调整：参数整定
人工神经元网络的学习算法
工业过程的优化调整，比如电站锅炉的燃烧 优化
( x0 , y0 ) 0时，P0(x0 , y0 )为极大点 f xx ( x0 , y0 ) 0时，P0(x0 , y0 )为极小点 f xx
且
3 多元函数
n元函数 f (X) f ( x1, x2 ,, xn ) 在点M处存在极值 的充分必要条件是： ①在点M处函数的梯度为零向量：
边界约束（显约束）：对调整变量的直接限制 约束的形式 隐约束（性能约束）：对调整变量的间接限制
等式约束：对调整变量的约束严格，起着降 低设计自由度的作用。 不等式约束
分类
线性规划：若 f (X), hv (X)和gu (X) 都是调整变量 X的线性函数 ； 非线性规划：若它们不全是调整变量X的线 性函数； 无约束规划： 若 p 0, m 0
• 目标函数
单目标函数：只有一个目标函数； 多目标函数：有多个目标函数。
• 约束条件
{显约束vs 隐约束}、{等式约束vs不等式约束}和{边界约束 vs 性态约束}。
• 控制方程的解
调整（设计、策略、决策）变量组合 最优值的相对性与动态性等。 vs 目标函数；
约束条件
• 目标函数取决于调整变量 ,而在工程实际问 题中调整变量的取值范围是有限制的或必 须满足一定的条件。
H M 为正定时，M为极小点； 且当 H M 为负定时，M为极大点； H 既非正定也非负定时，M为鞍点。 M
最优化问题求解的数值计算方法
1 解析法—间接寻优方法
利用数学分析的方法 ,根据目标函数的变化规 律与函数极值的关系,求目标函数的极值点.
寻找极值点 需要求解由目标函数的偏导数 所组成的方程组或梯度 f (X) 0。
f (X
(M)
f (X(M) ) ) x1
f (X(M) ) f (X(M) ) 0 0 0 0 x2 xn
②Hessian矩阵为正定或负定：
2 f (X (M) ) H(X (M) ) H M 2 f (X (M) ) x 2 1 2 f (X (M) ) x2x1 2 f (X (M) ) x x n 1 2 f (X (M) ) 2 f (X (M) ) x1x2 x1xn 2 (M) 2 (M) f (X ) f (X ) x2 2 x2 xn 2 (M) 2 (M) f (X ) f (X ) xn x2 xn 2
最优化问题的数学模型
最优化问题的控制方程为：
调整参数： X=[x1 x2 x3 … xn]T, X D
目标函数: 约束条件： ymin或 ymax= f(X) hv(X)=0, v=1,2,…,p gu(X) 0, u=1,2,…,m
几点说明
• 调整（决策、策略）变量
原则应选择对目标函数影响大且独立的变量；通常情况 下，调整变量越多，优化潜力越大，但优化过程也越复杂。
f ( x0 ) 0; f ( x0 ) 0 0
极小值
极大值
2 二元函数
若二元函数 z f ( x, y)在P0(x0 , y0 )点的某个领域内有 连续二阶偏导数，则在该点存在极值的充 分必要条件是：
f x( x0 , y0 ) 0 f ( x , y ) 0 y 0 0 f xy ( x, y ) f xx ( x, y) 0 ( x, y ) f yx ( x, y ) x x0 f yy y y0
举例说明（Ⅰ）
小朋友算数
观察到什么现象？ 发现什么问题？ 得到什么结论？
1) 2堆苹果，每堆有3个，问2堆加起来一 共有几个苹果？若有3堆，1000堆这样 的苹果呢？
2）9个苹果，3个小朋友分，问每人分几个 苹果？若有18个，3000个苹果呢？
举例说明（Ⅱ）
简单的工业问题
一简单的仅有两个输入变量x1、x2，一个输出 变量 y 的工业过程，即 y f ( x1, x2 ) 。在工程中， 输入变量即运行（工艺）参数x1、x2一般都有 一定的取值范围 。 不妨设其允许取值范围分 别为[a,b]、[c,d]。那么，图中蓝色方框中所有 的x1、x2组合都能满足系统正常运行的要求。
• 调整（设计、策略、决策）变量 设计变量的数目称为最优化设计的维数。 • 目标函数 在最优化设计中，可将所追求的设计目标（最优 指标）用设计变量的函数（解析或隐含）形式表 达出来，这一过程称为建立目标函数。 • 约束条件 在很多实际问题中，设计变量的取值范围是有限 制的或必须满足一定的条件。以及其他方面的限 制。
然后用 Hessian 矩阵对所找到的稳定点进行 判断，看它是否是最优点。
举例说明（Ⅱ）
请问在这无穷多个组合中，哪个组合y能 取得最大值或最小值呢？
d
x2
5 1 6 8
11 13
4 2
7
12
9
c a
3
10
Baidu Nhomakorabea
x1
b
无约束目标函数的极值点存在条件
1 一元函数
任何一个单值、连续、可微分的不受任何约 束的一元函数 y f ( x)在x x0 点处有极值的 充分必要条件是：
优化理论与最优控制
“优化”与“最优化”
优化
“化”—加在名词或形容词后构成动词,表示 转变成某种性质或状态。比如：绿 化、美化、丑化，自动化，优化…
最优化（值）
指在一定条件影响下所能得到的最佳值。它 是一个相对的概念；不同于数学上的极值， 但在很多情况下可以用最大值或最小值来表 示。
最优化问题的控制方程