第二章约束非线性规划总结

f ( X 0 )T P 0
f (X0 + λP) <f (X0)
因此，只要P满足上式，即可保证它为X0点的下降方向。
浙江理工大学经济管理学院 4
2.4 约束极值问题4. 可ຫໍສະໝຸດ 下降方向第二章 非线性规划
若X0点的某一方向P，即是该点的可行方向，又是该点的
下降方向，就称它为这个点的可行下降方向。
加上线性无关的条件，从而引出了K-T条件。
浙江理工大学经济管理学院
10
2.4 约束极值问题
(3) Kuhn-Tucker条件
第二章 非线性规划
设X*是NLP问题的局部极小点，函数f(X)和gj(X)(j=1,…,l) 在点X*处有连续一阶偏导数，而且X*处的所有起作用约束 梯度线性无关，则存在不全为零的数u1*, u2*, …,ul * ，使
l * * * f ( X ) u g ( X )0 j j j 1 * j 1,2,...,l u j g j ( X ) 0 uj 0 j 1,2,...,l
这个条件称为Kuhn-Tucker 条件，满足这个条件的点称 为Kuhn-Tucker点。
在X0的不起作用的约束
包括gi(X0) > 0的不等式约束。 几何意义：位于这些约束的内部。
浙江理工大学经济管理学院 1
2.4 约束极值问题
2.可行方向
方向P∈Rn在点X0∈D称为是可行的
第二章 非线性规划
是指存在正数λ0 ，使对一切λ∈[0,λ0]都有X0 + λP ∈D。
记J={ j | gi(X0)=0，1 ≤j ≤l }。即所有起作用约束下标的集合。
9
2.4 约束极值问题
第二章 非线性规划
该定理给出了非线性规划的（局部）最优点应满足的必要 条件。这个条件称为Fritz John条件，满足这个条件的点称 为Fritz John点。 如果u0=0, ▽f(X*)就从式中消去，说明在所讨论的点X*处， 起作用约束的梯度线性相关。这时 Fritz John条件失效。 为了保证u0>0，就需要对讨论点处起作用约束的梯度附近
gi ( X * )T P 0 jJ
对某一点来说，若该点不存在可行下降方向，它就可能是 局部极小点，若存在可行下降方向，它当然就不是极小点。
浙江理工大学经济管理学院
6
2.4 约束极值问题 二、最优性条件（K-T条件）
第二章 非线性规划
库恩-塔克（Kuhn-Tucker)条件是非线性规划领域中最重 要的理论成果之一，具有很重要的理论价值。 (1)Gordan引理
g j ( X 0 P) 0
jJ
因此，只要P满足下式，即可保证它为X0点的可行方向。
gi ( X 0 )T P 0
jJ
3
浙江理工大学经济管理学院
2.4 约束极值问题
3. 下降方向
第二章 非线性规划
设X0 ∈Rn，对某一方向来说，若存在实数λ0’>0 ，使对一
切λ∈[0, λ0’]都有 f (X0 + λP ) <f (X0) 就称P为X0点的一个下降方向。 由泰勒公式 f ( X 0 P) f ( X 0 ) f ( X 0 )T P ( ) 当λ>0足够小时
浙江理工大学经济管理学院
8
2.4 约束极值问题
证明
第二章 非线性规划
因为X*是非线性规划的局部极小点，根据定理4，该点不 存在可行下降方向P,满足
f ( X * )T P 0
gi ( X * )T P 0 jJ
根据Gordan引理，必存在不全为零的数u0,u1,…,ul （j∈J），使
u0f ( X * ) u j g j ( X * ) 0
jJ
对j∈J，令相应的uj =0，从而可将上式变为：
u0f ( X ) u j g j ( X * ) 0
* j 1 l
* 且对所有的j，有： u j g j ( X ) 0
j 1,2,...,l
浙江理工大学经济管理学院
2.4 约束极值问题 一、基本概念和性质
1. 起作用约束
第二章 非线性规划
对于点X0∈D，在X0点等于零的约束称为对X0起作用的约
束，在X0点不等于零的约束称为对X0不起作用的约束。
在点X0起作用的约束
包括全体等式约束hi(X)=0,i=1,…,m和满足gi(X0)=0，j∈J ⊂{1,…,l)的不等式约束gi(X0) ≥ 0( j∈J )。 几何意义：位于这些约束的边界上。
这可作为可行下降的充分条件。
浙江理工大学经济管理学院 5
2.4 约束极值问题
定理4
第二章 非线性规划
设X*是NLP问题的局部极小点，f(X)在X*处可微，而且
gi(X)在X*处可微，当j∈J
gi(X)在X*处连续，当j∈J 则在X*点不存在可行下降方向，从而不存在P同时满足：
f ( X * )T P 0
浙江理工大学经济管理学院
7
2.4 约束极值问题
(2) Fritz John定理
第二章 非线性规划
设X*是NLP问题的局部最优点，函数f(X)和 gj(X)(j=1,…,l)在X*处有连续一阶偏导数，则必 存在不全为零的数u0,u1,…,ul，使
l * * u f ( X ) u g ( X )0 j j 0 j 1 * u g ( X )0 j 1,2,...,l j j uj 0 j 1,2,...,l
如果P为X0点的可行方向，则存在λ0>0，使对任意λ∈[0, λ0]，有：
g j ( X 0 P) gi ( X 0 ) 0
dg j ( X 0 P) d
0
jJ
jJ
gi ( X 0 )T P 0
这个条件是 P是X0的可行方向的充分条件？
浙江理工大学经济管理学院 2
2.4 约束极值问题
第二章 非线性规划
由泰勒公式
g j ( X 0 P) gi ( X 0 ) gi ( X 0 )T P ( )
对X0起作用的约束，当λ>0足够小时
gi ( X 0 )T P 0 g j ( X 0 P) 0
jJ jJ
对X0不起作用的约束， gi(X0)>0，当λ>0足够小时，也有：