最优化方法 第三章(约束最优性条件)
2 等式约束最优化问题的最优性条件
将等式约束最优化问题转化为无约束最优化问题求解. 将等式约束最优化问题转化为无约束最优化问题求解.
等式约束最优化问题的最优性条件
一阶必要条件
• Example
Solution:
等式约束最优化问题的最优性条件
等式约束最优化问题的最优性条件
等式约束最优化问题的最优性条件
等式约束最优化问题的最优性条件
二阶充分条件二阶充分条件定理322的几何意义二阶充分条件二阶充分条件在lagrange函数的驻点处如果lagrange函数关于x的hesse矩阵在约束曲面的切平面上正定并不需要在r上正定则就是问题321的严格局部极小点
约束最优化问题的最优性条件
一般约束最优化问题
m in
s.t.
n
cj ( x) = 0,
j =1 l
Байду номын сангаас
∇λ L(x,λ) = −c(x).
等式约束最优化问题的最优性条件
一阶必要条件
, (2) f ( x) 与 ci ( x)(i =1 2,⋯l ) 在 x* 的某邻域内一阶连续可微； , Lagrange (3) ∇ci ( x)(i =1 2,⋯l ) 线性无关； * 定理 则存在一组不全为零的实数 λ1 , λ* ,⋯λ* 2 l
定理 3.2.1
若(1) x*是问题(3.2.1)的局部最优解；
使得： f ( x* ) − ∑λ*∇ci ( x* ) = 0. ∇ i
l i =1
等式约束最优化问题的最优性条件
一阶必要条件 定理3.2.1说明： 定理3.2.1说明： 3.2.1说明
l x ∇f ( x) − ∑λj∇c j ( x) = 0 若 为方程组 j =1 λ c ( x) = 0, j = 1,2,..., l j
约束最优化问题的最优性条件
ci ( x ) ≥ 0
i ∈ I = {l + 1, , m}
一阶必要条件
定理6: (Kuhn-Tucker一阶必要条件)
*
I * = i ci x * = 0, i ∈ I ; 设 x 为问题(3)的局部最优解, f ( x ), ci ( x ) (1 ≤ i ≤ m ) 在 x * 点可微, 对于i ∈ E ∪ I *
*
λ f (x ) ∑ λ ci (x ) = 0
m * 0 *
λ c (x ) = 0 i = 1,2, , m
* i i *
i =1
* i
*
λ ≥ 0 i = 0,1,2, , m
* i
例2: 验证是否满足Fritz-John条件:
min f ( x1 , x2 ) = x1 s.t
*
3 c1 ( x1 , x2 ) = x1 x2 ≥ 0
* 则存在一组不全为零的实数 λ1 , λ* , λ* 使得: 2 l
f x * ∑ λ*ci x * = 0 i
i =1
( )
l
( )
二阶充分条件
定理2: 对等式约束问题,若: (1) f ( x ) 与 ci ( x )(1 ≤ i ≤ l ) 是二阶连续可微函数; (3) s ∈ R n且 s ≠ 0 , 且 s T ci (x * ) = 0 , i = 1,2, l 均有 s T 2 L (x * , λ* )s > 0 xx 则 x* 是等式约束问题的严格局部极小点. (2) x * ∈ R n 与 λ* ∈ R l 使: L(x* , λ* ) = 0 ;
{ ( ) }
的ci (x * ) 线性无关, 则存在非零向量 * λ* = (λ1 , , λ* ) 使得: m
4一般约束最优化问题的最优性条件.
T
, c 2 x
1,1, 0
*
T
.
令 6
即： f x * 2c1 x * 2c2 x * . * 0, i 1,2,3,4,5. c x 令i 0，i 3， 4， 5，则 i i
* x 所以， 是K-T点．
Fritz John 最优性条件—一阶必要条件
一般约束最优化问题的最优性条件
Fritz John 最优性条件—一阶必要条件
一般约束最优化问题的最优性条件
Fritz John 最优性条件—一阶必要条件
缺点
一般约束最优化问题的最优性条件
Kuhn-Tucker 最优性条件—一阶必要条件
一般约束最优化问题的最优性条件
c 3 x x1 0
c4 x x 2 0 c5 x x 3 0
试验证最优点 x * 1, 1, 1T为K-T点．
一般约束最优化问题的最优性条件
解： I * 1, 2, f x * 6,2,4T ,
c1 x
2,2, 2
一般约束最优化问题的最优性条件
Kuhn-Tucker 最优性条件—一阶充分条件
一般约束最优化问题的最优性条件
Kuhn-Tucker 最优性条件—一阶充分条件
一般约束最优化问题的最优性条件
Kuhn-Tucker 最优性条件—一阶充分条件
一般约束最优化问题的最优性条件
Kuhn-Tucker 最优性条件—一阶充分条件
一般约束最优化问题的最优性条件
几何最优性条件—一阶必要条件 定义 I ( x ) {i | gi ( x ) 0, i 1,2,..., m}. 定理3.4.1
最优化问题的约束条件处理方法
最优化问题的约束条件处理方法在最优化问题中，约束条件是限制优化目标的条件。
对于一个最优化问题而言，约束条件的处理是至关重要的，因为它直接影响到问题的可行解集合以及最终的优化结果。
本文将介绍几种常见的约束条件处理方法，以帮助读者更好地理解和应用最优化算法。
一、等式约束条件处理方法等式约束条件是指形如f(x) = 0的约束条件，其中f(x)是一个函数。
处理等式约束条件的常用方法是拉格朗日乘子法。
该方法通过引入拉格朗日乘子，将等式约束条件转化为目标函数的一部分，从而将原问题转化为无约束问题。
具体而言，我们可以构造拉格朗日函数：L(x,λ) = f(x) + λ·g(x)其中，g(x)表示等式约束条件f(x) = 0。
通过对拉格朗日函数求导，我们可以得到原问题的最优解。
需要注意的是，拉格朗日乘子法只能处理等式约束条件，对于不等式约束条件需要使用其他方法。
二、不等式约束条件处理方法不等式约束条件是指形如g(x) ≥ 0或g(x) ≤ 0的约束条件，其中g(x)是一个函数。
处理不等式约束条件的常用方法是罚函数法和投影法。
1. 罚函数法罚函数法通过将约束条件转化为目标函数的一部分，从而将原问题转化为无约束问题。
具体而言，我们可以构造罚函数：P(x) = f(x) + ρ·h(x)其中，h(x)表示不等式约束条件g(x) ≥ 0或g(x) ≤ 0。
通过调整罚函数中的惩罚系数ρ，可以使得罚函数逼近原问题的最优解。
罚函数法的优点是简单易实现，但需要注意选择合适的惩罚系数，以避免陷入局部最优解。
2. 投影法投影法是一种迭代算法，通过不断投影到可行域上来求解约束最优化问题。
具体而言，我们首先将原问题的可行域进行投影，得到一个近似可行解，然后利用该近似可行解来更新目标函数的取值，再次进行投影，直到收敛为止。
投影法的优点是能够处理各种类型的不等式约束条件，并且收敛性良好。
三、混合约束条件处理方法混合约束条件是指同时包含等式约束条件和不等式约束条件的问题。
最优化方法 第三章(罚函数法)
这种惩罚策略，对于在无约束的求解过程中企图违反约
束的迭代点给予很大的目标函数值，迫使无约束问题的 极小点或者无限地向可行域D靠近，或者一直保持在可 行域D内移动，直到收敛到原来约束最优化问题的极小 点。
不改变可行域局部极小值，可以将 约束域之外的局部极小值变大。
p ( x) 0, x D p ( x) 0, x D
k k
k 1
k 1
xk 1是F x, M k 1 的最优解.
k 1 k k 1 k 0 M k 1 M k p ( x ) p ( x ) p ( x ) p ( x )
M k 1 M k
(3) f ( x k 1 ) M k p( x k 1 ) F ( x k 1 , M k ) F ( x k , M k ) f ( x k ) M k p( x k )
gi ( x) gi ( x) max gi ( x), 0 = 罚函数p(x)的构造 2 m l p( x) (max gi ( x), 0) 2 h 2 j ( x)
i 1 j 1
(1) p(x)连续 (2) p( x) 0, x D (3) p( x) 0, x D
二、外点法 外点罚函数法算法步骤 1：给定初始点 x 0 ，初始罚因子M1 0 (可取M1 1 ), 精度 0, k : 1. 2：以 x k 1初始点，求解无约束优化问题
min F ( x, M k ) f ( x) M k p( x)
得到极小点 x* ( M k )，记为 x k ， 其中
p( x) (max gi ( x), 0) h 2 j ( x)
2 i 1 j 1 m l
约束问题的最优化方法
m
⑤ .Φ ( x, r ) = f ( x) − r ∑ ln[− g u ( x)]
(k )
其中：惩罚（加权）因子 降低系数 c：
r ( 0 ) > r (1) > ....r ( k )
0< c <1
r ( k −1) ⋅ c = r ( k )
xk * → x *
当lim r ( k ) → 0
x ∈ D ⊂ Rn s.t. g u ( x ) ≥ 0, u = 1,2,..., p hv ( x ) = 0, v = 1,2,..., q min F ( x )
一. 约束优化问题解法分类： 约束优化方法按求解原理的不同可以分为直接法和间接法两类。
直接解法：随机方向搜索法、复合形法、可行方向法
其中：g u ( x) ≥ 0, u = 1,2,...m
③ .Φ ( x, r ) = f ( x) − ∑ ru ( k )
(k ) u =1
m
1 g u ( x)
④ .Φ ( x, r ) = f ( x) + r
(k )
(k )
(k )
1 ∑ 2 u =1 [ g u ( x )]
m u =1
k →∞
则Φ ( x, r ( k ) ) → f ( x) ,
) x12 + x22 例： 用内点法求 min f ( x=
s.t. g ( x ) = 1 − x1 ≤ 0
的约束最优解。
2 解: 首先构造内点惩罚函数:φ ( x , r ) = x12 + x2 − r k ln( x1 − 1)
(k ) u =1 m
lim r2 H [hv ( x ( k ) )] = 0
最优化：最优性条件
g i ( x ) T d 0 和 h j ( x ) T d 0, 即d LFD( x, D ) 注意：尽管 LFD( x, D )具有代数表示, 但上面的命题表明 LFD( x, D )是SFD( x, D )的一个子集,因此还不能用 LFD( x, D )替换定理 9.1.1中的SFD( x, D )
令 xk x k d k , 由定义9.1.2知, {xk } D.
为理解序列可行方向, 我们来看看它的几何解释：
xk
D
D
●
dk
●
xdຫໍສະໝຸດ xkdk●●
d
x
(a ) 点x在D内部
(b) 点x在D的边界上
序列可行方向实际 上就是可行方向
显然,
序列可行方向包含可行 方向和边界的切线方向
FD( x, D) SFD( x, D) (只需取d k d )
定义9.1.1 设x D, d R n .若存在数 0, 使得 x d D, (0, ], 则称d是D在x处的一个可行方向.
记x处所有可行方向的集合为FD( x, D)
若记x处函数f 的所有下降方向 集合为GD( x ) * 容易看出, 如果x 是(9.1)的最优 解, 则在该点不存在既下降又 可行的方向, 即
等式 h j ( x) 0 : h j ( x)T d 0
由上面分析可知：d FD( x, D ), 则有 h j ( x )T d 0, j E T g ( x ) d 0, i I 且 g i ( x ) 0 i
但反之不一定成立.
为方便起见, 记
可行域：D {x : g i ( x ) 0, i I ; h j ( x ) 0, j E}
最优化方法第三章-孙文瑜
Fnk k ak (1 )(bk a k ) Fnk 1
Fn k 1 k a k (bk a k ), k 1,2,, n 1 Fn k 1 Fn k k ak (bk a k ), k 1,2,, n 1 Fn k 1
25
2018/12/11
3.2.2 Fibonacci法
另一种与0 .618 法相类似的分割方法叫Fibonacci 法. 它与0 .618 法的主要区别之一在于: 搜索区间长度的 缩短率不是采用0 .618 而是采用Fibonacci 数. Fibonacci 数列满足 F0 F1 1
Fk 1 Fk Fk 1 , k 1,2 Fibonacci 法中的计算公式为
N
1
2
1 2
Y
* (t * )
a t1 , t1 t 2 ,
1
约束优化问题的最优性条件
{
}
连续，若 x 是(NLP1)的局部最优解，则存在不全 为零的非负数 w0 , wi (i ∈ i ) ，使得
w0∇f ( x) − ∑ wi ∇gi ( x) = 0
i∈I
证明：参见陈宝林书 page 239
注：运用Fritz John 条件时，可能出现 w0 = 0 的情形。这时Fritz John 条件中实际上不包含 目标函数的任何数据，只是把起作用约束的梯 度组合成零向量。这样的条件，对于问题的解 的描述，没有多大价值。我们感兴趣的是
w0 ≠ 0 的情形，所以为了保证 w0 ≠ 0 ，还需
要对约束施加某种限制。这种限制条件通常称 为约束规格。在定理7.3中，如果增加起作用 约束的梯度线性无关的约束规格，则给出不等 式约束问题的著名的K-T条件。
定理7.8 (K-T 必要条件) 考虑约束问题(NLP) , x 为可行点，I = i gi ( x) = 0 ， f (x) 和 gi (x) (i ∈ I ) 在 x 处可微, gi (x) (i ∉ I ) 在 x 处连续, hj (j=1,…,l) 在 x 处连续可微。向量集
∂f = d T ∇f ( x ) ≥ 0 ∂d
(d
= 1)
即在极小点处的可行方向一定不是下降方向
n R 定理7.1 考虑约束极值问题 (NLP) , 设 S 是 中的非空集合，x ∈ S ， f (x) 在 x 处可微。如果 x
是局部最优解，则
F0 ∩ D = ∅
证明：参见陈宝林书 page236
定理7.5 设在问题（NLP1）中, f 是凸函数, gi(x)(i=1,2,…,m) 是凹函数，S为可行域，x ∈ S
I = i gi ( x) = 0 ， f (x) 和 gi (x) (i ∈ I )在 x 处可微,
最优化方法(约束优化问题的最优性条件)
s.t. c1 ( x ) = x 1 + x 2 + x 3 − 3 = 0 , c 2 ( x ) = − x 1 + x 2 ≥ 0
c 3 ( x ) = x1 ≥ 0 , c 4 ( x ) = x 2 ≥ 0 , c 5 ( x ) = x 3 ≥ 0
带入约束条件可知满足约束条件 将 x = (1,1,1) 带入约束条件可知满足约束条件
验证KT点的步骤 小结
• • • • • • 1 化为标准形式 2 验证约束成立 并且求得有效约束 3 约束规范 ∇f ( x * ) − λ1 ∇c1 ( x * ) − λ 2 ∇c 2 ( x * ) = 0 4 一阶条件方程 例如 5 验证不等式约束互补条件、乘子的非负性 验证不等式约束互补条件、 6结论 结论
* T
并且有效约束集合为 并且有效约束集合为 I = {1,2}
*
∇f ( x ) = ( −3,−1,−2) T ， ∇c1 ( x ) = ( 2,2,2) T ， ∇c 2 ( x ) = ( −1,1,0) T T T 线性无关。 且 ∇c 1 ( x ) = ( 2,2,2) 与 ∇c 2 ( x ) = ( −1,1,0) 线性无关。
向量 d ，如果对任意的 i ∈ I ( x) 有 ∇ci ( x)T d > 0 , 则 d 是点 x 的 可行方向。
令 证明： x ' = x + t d , t > 0。 则对任意的 i ∈ I ( x ) , 有
ci ( x' ) = ci ( x) + t ∇ci ( x)T d + o( || td ||2 )
= t ∇ci ( x)T d + o( || td ||2 )
《最优化方法》课程教学大纲
最优化方法》课程教学大纲课程编号：100004英文名称：Optimizatio n Methods一、课程说明1. 课程类别理工科学位基础课程2. 适应专业及课程性质理、工、经、管类各专业，必修文、法类各专业，选修3. 课程目的（1 ）使学生掌握最优化问题的建模、无约束最优化及约束最优化问题的理论和各种算法;（2）使学生了解二次规划与线性分式规划的一些特殊算法；（3）提高学生应用数学理论与方法分析、解决实际问题的能力以及计算机应用能力。
4. 学分与学时学分2,学时405. 建议先修课程微积分、线性代数、Matlab语言6. 推荐教材或参考书目推荐教材：（1）《非线性最优化》（第一版）.谢政、李建平、汤泽滢主编.国防科技大学出版社.2003年.孙（第一版）参考文瑜、徐成贤、朱德通主编.高等教育出版社.2004年（2）《最优化方法》书目：（第一版）.胡适耕、施保昌主编.华中理工大学出版社.2000年（1）《最优化原理》（2）《运筹学》》（修订版）.《运筹学》教材编写组主编.清华大学出版社.1990年7. 教学方法与手段（1）教学方法：启发式（2）教学手段：多媒体演示、演讲与板书相结合8. 考核及成绩评定考核方式：考试成绩评定：考试课（1）平时成绩占20%形式有：考勤、课堂测验、作业完成情况（2）考试成绩占80%形式有：笔试（开卷）。
9. 课外自学要求（1）课前预习；（2）课后复习；（3）多上机实现各种常用优化算法。
二、课程教学基本内容及要求第一章最优化问题与数学预备知识基本内容：（1 ）最优化的概念；（2）经典最优化中两种类型的问题--无约束极值问题、具有等式约束的极值问题的求解方法；（3）最优化问题的模型及分类；（4）向量函数微分学的有关知识；5）最优化的基本术语。
基本要求：（1）理解最优化的概念；（2）掌握经典最优化中两种类型的问题--无约束极值问题、具有等式约束的极值问题的求解方法；（3）了解最优化问题的模型及分类；（4）掌握向量函数微分学的有关知识；（5）了解最优化的基本术语。
最优化方法 第三章(可行方向法)
又 f ( x k )T d * * 0,
d * 是可行下降方向。
改进方法具有全局收敛性。
一、Zoutendijk法
Frank Wolfe 方法 min f ( x )
给定线性规划问题
Ax b s .t . x0
f ( x k )T d k 0 gi ( x k )T d k 0 , i I ( x k )
1 di 1, i 1, 2,
,n
������ = 0 , 则 ������ ������ 处不存在可行下降方向 , ������ ������ 已是 ������−������ 点. 有例子表明上述方法不一定收敛到 ������−������ 点，即总有������ < 0 .
如果可行点为内点， 可取������ = −������������(������ )计算。
一、Zoutendijk法 非线性约束模型的可行方向确定方法
min s.t.
z f ( x )T d z 0 gi ( x) d z 0, i I
T
一、Zoutendijk法 线性约束模型的可行方向
min f ( x ) Ax b s .t . Cx e
紧约束
A1 b1 定理 设 x D ，在点 x 处有 A1 x b1 , A2 x b2 , 其中A , b ， A2 b2 则非零向量 d 是 x 处的可行方向的充分必要条件是
定理 设 f ( x )可微， x k D, 如果y k 是上述线性规划的最优解,则有
(1) 当f ( x k )T ( y k x k ) 0时 , 则x k 是(1)的K -T点；
约束最优化最优性条件
0
x2
R { x | g i ( x ) 0}
gi (x) 0
x
0
x1
x gi (x) 0
0
形成的边界, 影响下一步选向.
如何判断一个向量是否
是可行方向？
定理 1 给定点 x Q , 记点 x 的积极约束指标集为 向量 d ，如果对任意的 可行方向。
T
min s .t .
可行域为
f (x) g( x) 0
(1 )
Q { x | g ( x ) 0 }。
1 .可 行 方 向
可行方向： 设 x Q ， 为一个向量。如果存在 d
0
实数 0 ，
0
使得对任意的 一个可行方向。
[ 0 , ] 有 x d Q , 则称 d 为 x 处的
T
I ( x ) 。给定
i I(x)
则向量 d 是点 x 处的可行下降方向。
极值点的必要条件：
定理 3 设 x * Q ， ( x *) 是其积极约束指标集。 I ( i I ( x *) ) 在点 x * 处可微， 续。如果 x * 是约束极值问题（
f ( x)和 gi( x)
g i ( x ) ( i I ( x *) ) 在点 x * 处连 1）的局部极小点，则在
i
( x ) 和 i
有且仅有一个成立，即取 0 值，则称为严格互补松弛条 件.
3 . K T 点的计算
例1 求约束极值问题
min f ( x ) x1 x 2 6 x1 6 x 2 8
2 2
s .t .
x1 x 2 4 x1 0 x 0 2
最优化方法及应用_郭科_约束问题的最优性条件
§2.7 约束问题的最优性条件所谓最优性条件就是最优化问题的目标函数与约束函数在最优点处满足的充要条件．这种条件对于最优化算法的终止判定和最优化理论推证都是至关重要的．最优性必要条件是指在最优点处满足哪些条件；充分条件是指满足哪些条件的点是最优点．本节仅讲述最基本的结论．一、约束最优解对约束优化问题的求解，其目的是在由约束条件所规定的可行域D 内，寻求一个目标函数值最小的点*X 及其函数值)(*X f ．这样的解))(,(**X f X 称为约束最优解．约束最优点除了可能落在可行域D 内的情况外，更常常是在约束边界上或等式约束曲面上，因此它的定义及它的一阶必要条件与无约束优化问题不同．（一）约束优化问题的类型约束优化问题根据约束条件类型的不同分为三种，其数学模型如下：（1）不等式约束优化问题（IP 型）min (),..()012i f X s t g X i l ≥=，，，，． （2.16）（2）等式约束优化问题（EP 型）min ()..()012j f X s t h X j m ==，，，，，．（3）一般约束优化问题（GP 型） min ()()012..()012i j f X g X i l s t h X j m ≥=⎧⎪⎨==⎪⎩，，，，，，，，，，．（二）约束优化问题的局部解与全局解按一般约束优化问题，其可行域为 }210)(210)(|{m j X h l i X g X D j i ，，，，；，，，， ===≥=．若对某可行点*X 存在0>ε，当*X 与它邻域的点X 之距离ε<-||||*X X 时，总有)()(*X f X f <则称*X 为该约束优化问题的一个局部最优解．下面以一个简单例子说明．设有⎩⎨⎧=---=≥+=+-=．，，09)2()(02)(..)1()(min 222122221x x X h x X g t s x x X f该问题的几何图形如图2.8所示．从图上的目标函数等值线和不等式约束与等式约束的函数曲线可写出它的两个局部最优解T T X X ]05[]01[*2*1，，，=-=．这是因为在*1X 点邻域的任一满足约束的点X ，都有)()(*1X f X f >；同理，*2X 亦然．１图2.8 对某些约束优化问题，局部解可能有多个．在所有的局部最优解中，目标函数值最小的那个解称为全局最优解．在上例中，由于16)(4)(*2*1==X f X f ，，所以全局最优解为))((*1*1X f X ，． 由此可知，约束优化问题全局解一定是局部解，而局部解不一定是全局解．这与无约束优化问题是相同的．二、约束优化问题局部解的一阶必要条件对于约束，现在进一步阐明起作用约束与不起作用约束的概念．一般的约束优化问题，其约束包含不等式约束l i X g i ，，，， 210)(=≥和等式约束m j X h j ，，，， 210)(==．在可行点k X 处，如果有0)(=k i X g ，则该约束)(X g i 称可行点k X 的起作用约束；而如果有0)(>k i X g ，则该约束)(X g i 称可行点k X 的不起作用约束．对于等式约束0)(=X h j ，显然在任意可行点处的等式约束都是起作用约束． 在某个可行点k X 处，起作用约束在k X 的邻域内起到限制可行域范围的作用，而不起作用约束在k X 处的邻域内就不产生影响．因此，应把注意力集中在起作用约束上．（一）IP 型约束问题的一阶必要条件图2.9所示为具有三个不等式约束的二维最优化问题．图2.9图2.9（a ）是最优点*X 在可行域内部的一种情况．在此种情形下，*X 点的全部约束函数值)(*X g i 均大于零)321(，，=i ，所以这组约束条件对其最优点*X 都不起作用．换句话说，如果除掉全部约束，其最优点也仍是同一个*X 点．因此这种约束优化问题与无约束优化问题是等价的．图2.9（b ）所示的约束最优点*X 在)(1X g 的边界曲线与目标函数等值线的切点处．此时，0)(0)(0)(*3*2*1>>=X g X g X g ，，，所以)(1X g 是起作用约束，而其余的两个是不起作用约束．既然约束最优点*X 是目标函数等值线与)(1X g 边界的切点，则在*X 点处目标函数的梯度)(*X f ∇与约束函数梯度矢量)(*1X g ∇必共线，而且方向一致．若取非负乘子0*1≥λ，则在*X 处存在如下关系0)()(*1*1*=∇-∇X g X f λ．另一种情况如图2.9（c ）所示．当前迭代点k X 在两约束交点上，该点目标函数的梯度矢量)(k X f ∇夹于两约束函数的梯度矢量)()(21k k X g X g ∇∇，之间．显然，在k X 点邻近的可行域内部不存在目标函数值比)(k X f 更小的可行点．因此，点k X 就是约束最优点，记作*X ．由图可知，此时k X 点目标函数的梯度)(k X f ∇可表达为约束函数梯度)(1k X g ∇和)(2k X g ∇的线性组合．若用*X 代替k X 即有)()()(*2*2*1*1*X g X g X f ∇+∇=∇λλ成立，且式中的乘子*1λ和*2λ必为非负．总结以上各种情况，最优解的一阶必要条件为⎪⎪⎪⎩⎪⎪⎪⎨⎧=≥≥=∇-∇∑=．，，，，210)(00)()(**21**1*i X g X g X f i i i i λλ 对于（2.16）IP 型约束问题的一阶必要条件讨论如下： 设最优点*X 位于j 个约束边界的汇交处，则这j 个约束条件组成一个起作用的约束集．按上面的分析，对于*X 点必有下式成立⎪⎪⎪⎩⎪⎪⎪⎨⎧=≥≥=∇-∇∑=．，，，，，，j i X g X g X f i i j i i i 210)(00)()(**1***λλ （2.17）但是在实际求解过程中，并不能预先知道最优点*X 位于哪一个或哪几个约束边界的汇交处．为此，把l 个约束全部考虑进去，并取不起作用约束的相应乘子为零，则最优解的一阶必要条件应把式（2.17）修改为⎪⎪⎪⎩⎪⎪⎪⎨⎧==≥≥=∇-∇∑=．，，，，，，，l i X g X g X g X f i i iil i i i 210)(0)(00)()(****1***λλλ （2.18）式（2.18）为IP 型问题约束最优解的一阶必要条件，它与式（2.17）等价．因为在*X 下，对于起作用约束，必有l i X g i ，，，， 210)(*==使式（2.18）中的第四式成立；对于不起作用约束，虽然0)(*>X g i 而必有0*=i λ，可见式（2.18）与式（2.17）等价．（二）EP 型约束问题的一阶必要条件图2.10所示为具有一个等式约束条件的二维化问题，其数学模型为．，0)(..)(min =X h t s X f在该问题中，等式约束曲线0)(=X h 是它的可行域，而且目标函数等值线C X f =)(与约束曲线0)(=X h 的切点*X 是该约束问题的最优解．图2.10在*X 点处，目标函数的梯度)(*X f ∇与约束函数的梯度)(*X h ∇共线．因此，在最优点*X 处一定存在一个乘子*u ，使得 0)()(***=∇-∇X h u X f成立．对于一般的n 维等式约束优化问题，其数学模型为min ()..()012j f X s t h X j m ==，，，，，．则*X 为其解的一阶必要条件为***1*()()0()012m j j j j f X u h X h X j m =⎧∇-∇=⎪⎨⎪==⎩∑，，，，，．（三）GP 型约束问题解的一阶必要条件由上述不等式约束优化与等式约束优化问题的一阶必要条件，可以推出一般约束优化问题的条件．设n 维一般约束优化问题的数学模型为⎩⎨⎧===≥，，，，，，，，，，，m j X h l i X g t s X f j i 210)(210)(..)(min （2.19）则*X 为其解的一阶必要条件应为⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎨⎧====≥≥=∇-∇-∇∑∑==．，，，，，，，，，，，，m j X h l i X g X g X h u X g X f j i i i i l i m j j j i i 210)(210)(0)(00)()()(*****11*****λλλ （2.20） 函数∑∑==--=l i m j j j i i X h u X g X f u X L 11)()()()(λλ，，称为关于问题（2.19）的广义拉格朗日函数，式中T l ][21λλλλ，，， =，T m u u u u ][21，，， =为拉格朗日乘子．由于引入拉格朗日函数，条件（2.20）中的第一式可写为0)(***=∇u X L X ，，λ．（四）Kuhn —T ｕcker 条件（简称K —T 条件）在优化实用计算中，常常需要判断某可行迭代点k X 是否可作为约束最优点*X 输出而结束迭代，或者对此输出的可行结果进行检查，观察它是否已满足约束最优解的必要条件，这种判断或检验通常借助于T K -条件进行的．对于IP 型问题，T K -条件可叙述如下：如果*X 是一个局部极小点 ，且各梯度矢量)(*X g i ∇组成线性无关的矢量系，那么必存在一组非负乘子*i λ，使得⎪⎩⎪⎨⎧===∇-∇∑=l i X g X g X f ii l i i i ，，，，，210)(0)()(**1***λλ 成立．必须指出，在一般情形下，T K -条件是判别约束极小点的一阶必要条件，但并非充分条件．只是对于凸规划问题，即对于目标函数)(X f 为凸函数，可行域为凸集的最优化问题，T K -条件才是约束最优化问题的充分条件．而且，在这种情况下的局部最优解也必为全局最优解．应用T K -条件检验某迭代点k X 是否为约束最优点的具体作法可按下述步骤进行：（1）检验k X 是否为可行点．为此需要计算k X 处的诸约束函数值)(k i X g ，若是可行点，则l i X g k i ，，，， 210)(=≥． （2）选出可行点k X 处的起作用约束．前面已求得l 个)(k i X g 值，其中等于零或相当接近零的约束就是起作用约束．把这些起作用约束重新编排成序列I i X g i ，，，， 21)(=．（3）计算k X 点目标函数的梯度)(k X f ∇和I 个起作用约束函数的梯度)(k i X g ∇．（4）按T K -条件，k X 点应满足∑==≥=∇-∇Ii i k i i k I i X g X f 1)21(00)()(，，，， λλ. (2.21）将式（2.21）中的各梯度矢量用其分量表示，则可得到i λ为变量的线性方程组⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧=∂∂-∂∂-∂∂-∂∂=∂∂-∂∂-∂∂-∂∂=∂∂-∂∂-∂∂-∂∂．，，0)()()()(0)()()()(0)()()()(22112222211211221111n k I I n k n k n k k I I k k k k I I k k k x X g x X g x X g x X f x X g x X g x X g x X f x X g x X g x X g x X f λλλλλλλλλ 由于矢量系I i X g k i ，，，， 21)(=∇是线性无关的，所以该方程组存在唯一解．通过解此线性方程组，求得一组乘子I λλλ，，，21，若所有乘子均为非负，即I i i ，，，， 210=≥λ，则k X 即为约束最优解．否则，k X 点就不是约束最优点．例2.9 设约束优化问题⎪⎩⎪⎨⎧≥=≥=≥--=+-=．，，，0)(0)(01)(..)2()(min 132222112221x X g x X g x x X g t s x x X f 它的当前迭代点为T k X ]01[，=，试用T K -条件判别它是否为约束最优点． 解：（1）计算k X 点的诸约束函数值，，，1)(0)(011)(2221===-=k k k X g X g X gk X 是可行点．（2）k X 点起作用约束是222211)(1)(x X g x x X g =--=，．（3）求k X 点梯度．，，⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡=∇⎥⎦⎤⎢⎣⎡--=⎥⎦⎤⎢⎣⎡--=∇⎥⎦⎤⎢⎣⎡-=⎥⎦⎤⎢⎣⎡-=∇1010)(1212)(022)2(2)()0,1(2)0,1(11)0,1(21k k k X g x X g x x X f（4）求拉格朗日乘子 按T K -条件应有 ．，01012020)()()(212211=⎥⎦⎤⎢⎣⎡-⎥⎦⎤⎢⎣⎡---⎥⎦⎤⎢⎣⎡-=∇-∇-∇λλλλk k k X g X g X f写成线性方程组 ⎩⎨⎧=-=+-．，0022211λλλ 解得010121>=>=λλ，．乘子均为非负，故T k X ]0,1[=满足约束最优解的一阶必要条件．如图2.11所示，k X 点确为该约束优化问题的局部最优解，由于可行域是凸集，所以点k X 也是该问题的全局最优解．图2.11GP 型的约束最优化问题的T K -条件类似于IP 型约束最优化问题的T K -条件： 如果*X 是一个局部极小点 ，且各梯度矢量)(*X g i ∇和)(*X h j ∇组成线性无关的矢量系，那么必存在两组乘子*i λ和*j u ，使得。
运筹学与最优化方法第3章
1
T
2 f ( x * ) 1 g ( x ) g ( x )0 1 2 3 3 g ( x )0 1 g ( x ) 0 2
min f ( x1 , x2 ) 5 ( x1 x2 )
例3.1.2
2 x12 x2 20 s.t. x1 0 x 0 2
显然它是一个凸规划，它的K-T条件为：
* * * * ( 1, 1) 2 1* ( x1 , x2 ) 2 ( 1,0) 3 (0, 1) 0 * *2 *2 * * * ( x x 1 1 若x1 0, 则显然x2 0, 2 0, 代入 2 2) 0 * * * K T 条件的第一式得2 1 2 x1 0 * x* 0 * * 与2 0矛盾,所以x1 0 3 2 * 同理有x2 0
推广到多元情况，令
L( x, ) f ( x ) i hi ( x ) f ( x ) h( x )
i 1 m
其中 （1，2， ，m ), h( x ) （h1 ( x )，h2 ( x )， ，hm ( x ))T
若x*是(3-2)的l.opt. ,则存在λ*∈ Rm使 * h ( x ) 矩阵形式： * * f ( x ) 0 x 1 1 因为 f ( x ) 2 2( x 2 ) , g1 ( x ) 2x , g 2 ( 2) 2 2
* * 2( x1 2 1 3) 1 2 x1 2 0 * * 2( x 2) 3 2 x 3 2 2 * T 解之得 x ( 2 ， 1 ) 是其最优解 *2 *2 x1 x2 5 0 x* 2 x* 4 0 1 2
3不等式约束最优化问题的最优性条件
定 闭包： 设S Rn , S的闭包定义为： 义 Closure clS { x | S N ( x) , 0}.
可行方向：设S Rn , x clS, d Rn , d 0, 若存在〉0，使得
x d S, (0, ),
则称d为集合S在点x处的可行方向( feasible direction).
则
F0 G0 ,
其中G0 d Rn ci x* T d 0 , i I *
不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件
例1：确定： min f x x1 62 x2 22
s.t x1 2 x2 4 0
3 x1 2 x2 12 0
x1 , x2 0
F0 D .
不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件
仅考虑在某点起作用的约束
定理3.3.2: 在问题(3.3.1)中，假设：
(1) x*为局部最优解且I * i ci x* 0,1 i m ；
(2) f x与ci xi I * 在 x* 点可微；
(3) ci x i I \ I * 在 x* 点连续；
在点 x 2,3T处的可行下降方向.
解：x 2,3T， Ix 1,2.
c1
x
1 2
,
c2
x
3 2
.
不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件
f
x
2 x1 12 2x2 4
,
f
x
8 2
.
设 d d1 , d2 T , 则d T c1 x 0, d1 2d2 0;
即该问题在x*处Fritz-John条件成立.
天津大学《最优化方法》复习题(含答案)
天津大学《最优化方法》复习题(含答案)天津大学《最优化方法》复习题（含答案）第一章 概述(包括凸规划)一、 判断与填空题1 )].([arg )(arg m in m axx f x f nnRx Rx -=∈∈ √2 {}{}.:)(min :)(max nnR D x x f R D x x f ⊆∈-=⊆∈ ⨯3 设.:R R D f n →⊆ 若nR x∈*，对于一切nR x ∈恒有)()(x f x f ≤*，则称*x 为最优化问题)(minx f Dx ∈的全局最优解. ⨯4 设.:R RD f n→⊆ 若Dx∈*，存在*x 的某邻域)(*x N ε，使得对一切)(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(minx f Dx ∈的严格局部最优解. ⨯5 给定一个最优化问题，那么它的最优值是一个定值. √6 非空集合nR D ⊆为凸集当且仅当D 中任意两点连线段上任一点属于D . √7 非空集合nR D ⊆为凸集当且仅当D 中任意有限个点的凸组合仍属于D . √8 任意两个凸集的并集为凸集. ⨯ 9 函数RR D f n→⊆:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √10 设RRD f n→⊆:为凸集D 上的可微凸函数，Dx ∈*.则对D x ∈∀，有).()()()(***-∇≤-x x x f x f x f T⨯ 11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n是凸集。
√12 设{}kx 为由求解)(minx f Dx ∈的算法A 产生的迭代序列，假设算法A 为下降算法，则对{},2,1,0∈∀k ，恒有)()(1kk x f x f ≤+ .13 算法迭代时的终止准则（写出三种）：_____________________________________。
14 凸规划的全体极小点组成的集合是凸集。
1 (LP)的解集是凸的. √2 对于标准型的(LP)，设{}k x 由单纯形算法产生，则对{} ,2,1,0∈k ，有.1+>k T k T x c x c ×3 若*x 为(LP)的最优解，*y 为(DP)的可行解，则.**y b x c T T ≥ √4 设0x 是线性规划(LP)对应的基),,(1m P P B =的基可行解，与基变量m x x ,,1 对应的规范式中，若存在0<k σ，则线性规划(LP)没有最优解。
第三章 (1) 约束优化问题的最优性理论
m
iai , i
0, i
1,...,
m
i 1
如果 n 维向量 g C ，则存在一个
法向量为d的超平面分离 g 和 C，
使得 gTd 0
aiT d 0,i 1,..., m
三、一阶最优性条件
Farkas 引理
给定任意 n 维向量 a1, a2,..., am 与 g，则集合
一、一般约束最优化问题
可行域 X x Rn ci x 0,i I , ci x 0,i E .
min f x xRn
s.t. ci x 0,i E 1, , me, ci x 0,i I me 1, , m.
不同时成立！
g* i*ai*
iE
二、约束规范条件
对不等式约束最优化问题
aiT ( x*)d 0,i I ( x*) (线性化可行方向)
g*Td 0
(下降方向)
不同时成立！
g* i*ai*, i* 0,i I * iI *
起作用约束问题
i* 0？
最优解为x (0,0)
F2 : d (d1, 0)T , d1 1
D : d (d1, d2 )T , d2 0 F1 D F2 D
正则性假设成立，KT约 束规范条件不成立。
二、约束规范条件
一阶必要条件(几何特征) 根据可行方向和下降方向定义, 若 x* 为约束问题的局部最优解，则
等式约束问题
不等式约束问题
记 Ax a1(x), , am (x), ai (x) ci x;
一、一般约束最优化问题 约束优化问题的求解困难：目标函数、约束函数共同作用
天津大学《最优化方法》复习题(含答案)
天津大学《最优化方法》复习题(含答案)天津大学《最优化方法》复习题（含答案）第一章 概述(包括凸规划)一、 判断与填空题1 )].([arg)(arg min maxx f x f n nR x Rx -=∈∈ √2 {}{}.:)(m in :)(m ax nnR D x x f R D x x f ⊆∈-=⊆∈ ⨯ 3 设.:R R D f n →⊆ 若nR x∈*，对于一切nR x ∈恒有)()(x f x f ≤*，则称*x 为最优化问题)(minx f Dx ∈的全局最优解. ⨯4 设.:R RD f n→⊆ 若Dx∈*，存在*x 的某邻域)(*x Nε，使得对一切)(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(minx f Dx ∈的严格局部最优解. ⨯5 给定一个最优化问题，那么它的最优值是一个定值. √6 非空集合nR D ⊆为凸集当且仅当D 中任意两点连线段上任一点属于D . √7 非空集合nR D ⊆为凸集当且仅当D 中任意有限个点的凸组合仍属于D . √8 任意两个凸集的并集为凸集. ⨯ 9 函数RR D f n→⊆:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √10 设RRD f n→⊆:为凸集D 上的可微凸函数，Dx ∈*.则对D x ∈∀，有).()()()(***-∇≤-x x x f x f x f T⨯ 11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n是凸集。
√12 设{}kx 为由求解)(minx f Dx ∈的算法A 产生的迭代序列，假设算法A 为下降算法，则对{}Λ,2,1,0∈∀k ，恒有)()(1kk x f x f ≤+ .13 算法迭代时的终止准则（写出三种）：_____________________________________。
14 凸规划的全体极小点组成的集合是凸集。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
此时 ，目标函数的一阶变分
的“零梯度条件”类似。
，与无约束优化
一、最优性条件
定理 (等式约束二阶必要条件)
l
y ( f ( x ) v j h j ( x ))y 0
T
2
2
j 1
y V ( x ) x h j ( x)x 0, j 1, , l
l
f ( x ) v j h j ( x ) 0
j 1
拉格朗日函数
l
L( x, v) f ( x) v j h j ( x)
j 1
一、最优性条件
等式约束一阶必要条件的含义
目标函数的梯度
属于约束函数在 x 处的梯度
张成的子空间，共面，在正交补空间投影为0；
单个约束
j 1
y V ( x ) x h j ( x)x 0, j 1, , l
或者
l
L ( x, v ) f ( x ) v j h j ( x )
j 1
的关于y的矩阵在 x 处关于正定，则 x 是满足约束的局
部最小点。
2
xx L( x, v)
一、最优性条件
拉格朗日乘子的意义----灵敏度
仅考虑一个线性约束的等式优化问题
x
x x
min f ( x)
s.t. aT x b
x
aT x b
f ( x ) a
cos t f ( x x) f ( x ) f ( x )T x o( x )
aT x o( x ) b o( x )
使得
f ( x )
l
w g ( x ) v h ( x ) 0
iI ( x )
i
wi 0, i I ( x )
i
j 1
j
j
, l)
一、最优性条件
定理中的条件gi (x) (i I ( x )) 在 x 处连续加强为连续可微，
则上述结论等价于
m
l
i 1
j 1
是在 x 处的积极约束（active constraint）或称紧约束、
起用作约束。积极约束指标的全体组成的集合，称为 x
处的积极约束指标集，记为 I ( x )，
I ( x ) {i | gi ( x ) 0, i 1, 2,
, m}
一、最优性条件
例：设 g1 ( x) 2 x12 x2 0, g2 ( x) x12 x22 1 0,
f ( x ) wi gi ( x ) v j h j ( x ) 0
wi 0, i 1,..., m
wi gi ( x ) 0, i 1,..., m
当 i I ( x ) 时， gi ( x ) 0，可知， wi 0,
wig ( x ) 0(i I ( x )) 自然消失。
得到
i 1
x1 3
1
1
0
1 2 3 0
1
0
1
x2 3
K-T点计算：不知道 x
的位置
一、最优性条件
x1 3
1
1
0
1 2 3 0
最优性条件
一
约
束
优
化
五
二
可行方向法
三
罚函数法
四
乘子法
二次逼近法
一、最优性条件
约束优化问题的分类
min f x
xR n
s.t.
gi x 0, i I 1,
, me ,
hi x 0, i E me 1,
等式约束问题
不等式约束问题
一、最:
由1 (4 x1 x2 ) 0 可得 1 0
1 2 3 2 3
与2 0 矛盾。
( 2) 若 x1 0 , x2 0 :
3 0
x1 1 2 3
f x wi gi x 0
gi x d 0
wi 0, w 0
T
T
无解
一、最优性条件
一般约束优化的二阶最优性条件
(二阶必要条件) 若目标函数和约束函数二阶连续可微，
m
l
i 1
j 1
L( x, w, v) f ( x) wi gi ( x) v j h j ( x)
一、最优性条件
min f x
事实上，对于不等式约束优化问题，
s.t.
在点 x 处，下降方向需满足
gi x 0, i I
f x d 0
T
可行方向需满足 gi x d 0
T
若 x 为局部极小值点，则在该点处一定不存在可行下降方
向，即
Gordan引理
f x d 0
1
0
1
x1 3
f ( x) 2
, g1 ( x) 1 , g 2 ( x) 0 , g3 ( x) 1 ,
x2 3
由K-T条件
3
f ( x ) i gi ( x ) 0,
2 x1 0
3 x2 0
g1 ( x) 4 x1 x2 0
g2 ( x) x1 0
g3 ( x) x2 0
再加上问题本身的约束条件
x1 x2 4 0, x1 0, x2 0
(1 3)
联立(1-1),(1-2)和(1-3),求x和相应的乘子
x
O
一、最优性条件
如果 x 是不等式约束问题的局部最小点，那么仍是
该问题不考虑在 x 处的非积极约束后新问题的局部
极小值点；
非积极约束不重要，可以在最优性条件中忽略这些
非积极约束；
在局部最小点处，积极约束可以转化为等式约束进
行处理；
min
f x
min f x
s.t.
gi x 0, i I ,
xR n
s.t.
gi x 0, i I 1,
, me ,
hi x 0, i E me 1,
, m .
可行域：D { x | g ( x) 0, h( x) 0}, 其中的元素可行点；
设可行解 x D, 若 gi ( x ) 0，则称不等式约束gi ( x ) 0
wi gi ( x ) 0, i 1,..., m
x L( x* , w* , v* ) 0.
m
l
w* 0, v* R l
L( x, w, v) f ( x) wi gi ( x) v j h j ( x)
wi gi ( x ) 0
i 1
j 1
拉格朗日函数
一、最优性条件
目标函数的梯度
正交于一阶可行变分子空间，即
V ( x ) x h j ( x)x 0, j 1, , l
l
f ( x ) v j h j ( x ) 0
j 1
一阶可行变分子空间是指由变分
构成的子空间，这些
变分使得约束函数展开到一阶时，在向量 x x x 处仍
y V ( x ) x h j ( x )T x 0, g i ( x )T x 0, i I
有
yT 2xx L( x , w, v) y 0
(二阶充分条件) 若目标函数和约束函数二阶连续可微，
y V ( x )
yT 2xx L( x , w, v) y 0 则 x
定理 (等式约束一阶必要条件) 考虑等式约束优化问题, x 为
可行点，f (x) 在 x 处可微, hj (j=1,…,l)在 x 处连续可微，向量
集 h j ( x ) j 1, , l 线性无关。若 x 是等式约束问题的局部最
优解，则存在数 v j ( j 1, , l ) ，使得
代入法（消元法）
g ( x, y) 0 y ( x)
拉格朗日乘子法
F f ( x, y) g ( x, y)
z f ( x, ( x))
一、最优性条件
推广到多元函数，多等式约束问题
min f ( x)
s.t. h j ( x) 0, j 1, 2,..., l
gi (x) (i I ( x )) 在 x 处连续, hj (j=1,…,l)在 x 处连续可微
向量集 gi ( x ), h j ( x ) i I ( x ), j 1,
, l 线性无关。
若 x 是局部最优解，则存在数wi (i I ( x )) 和 v j ( j 1,
cos t
f ( x x) f ( x )
可推广至非
b
b
线性约束
拉格朗日乘子为最优目标费用随约束的增长而递减的变化率。
l
多个线性约束情形： cos t i bi o( x )
i 1
一、最优性条件
不等式约束优化问题的最优性条件
min f x
s.t.
xR
n
hi x 0, i E.
xR n
gi x 0, i I ( x ),
hi x 0, i E
一、最优性条件
一般约束优化的一阶最优性必要条件
定理 (一阶必要条件) 考虑一般约束优化问题 , x 为可行点