库恩—塔克条件

1



2
1

2
两个有效约束边界的情况及推广

由此可见，如果X*是极小点，而且X*点的有效约 束的梯度 g ( X ) 和 g ( X ) 线性独立，则可以将 f ( X ) 表示成为 g ( X ) 和 g ( X ) 的非负线性组合； ，使： 0 和 0 也就是说，存在实数 g ( X ) g ( X ) g ( X ) 0 （6）
1


1


1
1


1
1
两个有效约束边界的情况

若X*点处在两个有效约束边缘上，比如说 g ( X ) 0 和 g ( X ) 0。在这种情况下， f ( X ) 必处于 g ( X ) 和 g ( X ) 的夹角之内；如若不然，X*点必存在可行 下降方向，这与X*是极小点的相矛盾。
两种情况

假设X*是非线性规划的极小点，该点可能处于可 行域的内部，也可能处于可行域的边缘上。若为 前者，该规划问题实质是一个无约束极值问题， X*必满足 f ( X ) 0 ；若为后者，情况就复杂多了， 接下来我们就对这一复杂情况进行分析。

一个有效约束边界的情况


设X*位于第一个约束所形成的可行域的边缘上， g 即第一个约束是X*点处的有效约束， ( X ) 0 。若 是极小点，则 g ( X ) 必与 f ( X )在同一直线上，且 方向相反；否则，在X*点处就一定存在可行下降 方向 。 既然 g ( X )与 f ( X ) 在同一直线上，且方向相反， 则必存在一个实数 0 ，使 （5） f ( X ) g ( X ) 0



j 1
n
j
g j(X ) 0
j g j(X ) 0

j 1, 2 , , n j 1, 2 , , n

j
0
（8）
一般形式的库恩-塔克条件

由于等式约束总是有效约束，所以一般形式的非 线性规划的库恩-塔克条件可表达为：设X*是非线 性规划
{min f ( X ); h i ( X ) 0 , i 1, 2 , , m ; g j ( X ) 0 , j 1, 2 , , n }
n n
d d ，如果极限
lim
f ( x e) f ( x )
0

, R f ( x ) d
存在，则称此极限为函数 f(x)在点 x 处的方向导数,记做
有效约束
是非线性规划的一个可行解。现考虑某一不等 式约束 g ( X ) 0 ，满足该不等式有两种可能： g （1） ( X ) 0 此时不在由该约束形成的可行域边界 上，因此该约束对的微小变动不起限制作用，从 而称该约束为无效约束； g （2） ( X ) 0 此时处在由该约束形成的可行域边界 上，因此该约束对的微小变动会起某种限制作用， 从而称该约束为有效约束。 显而易见，所有等式约束都是有效约束。


1
2



1
2
1
2



1
1
1
1
2
2
如此类推，可以得到（J是所有有效约束的集合） f (X ) g (X ) 0 （7）
j j j J
可能的无效约束处理

为使所有无效约束也同上述有效约束一样包含在 式（7）中，增加约束条件 { g ( X ) 0 ; 0}
库恩—塔克条件
数学规划
设 x ( x 1 ,..., x n ) T R n f ( x ); g ( x ), i 1 ,..., p ; h 如下的数学模型称为数学规划(Mathematical Programming, MP)：

i
( x ), j 1 ,..., q : R j

X
(0)
j
(0) j
(0)
j
可行方向的有效约束

若是点的任一可行方向，则对该点所有有效约束 均有： g (X ) D 0 (1) 其中j代表在点所有有效约束下标的集合
(0) T j
可行方向的有效约束

另一方面，由泰勒展开式 (2) 可知对所有有效约束，当足够小时，只要满足 （1）式，则有 此外，对点所有的无效约束来讲，由于约束函数 的连续性，当足够小时，上式依然成立。从而， 只要方向满足式（1），即可保证是点的可行方向。
一般形式的库恩-塔克条件
f (X )



i 1
m
i hi ( X )



j 1
n
j
g j(X ) 0

j g j(X 1, 2 , , n

j
0
（9）
小结

库恩-塔克条件是非线性规划领域中最重要的理论 成果之一，是确定某点为极值点的必要条件；但 一般来讲它并不是充分条件，因此满足这一条件 的点并非一定就是极值点。对于凸规划，库恩-塔 克条件是极值点存在的充分必要条件。
或者
当p=0,q=0时，称为无约束非线性规划或者无约 束最优化问题。 否则，称为约束非线性规划或者约束最优化问题。
定义 1. 设 f
: R R , x R , d R , d 0 ，若存在
n n n
0
，使
f ( x td ) f ( x ),
t (0, )
n
R
min f (x) s . t . g i ( x ) 0 , i 1 ,..., p h j ( x ) 0 , j 1 ,..., q
g i ( x ) 0 , i 1, ..., p n S x R h j ( x ) 0 , j 1, ..., q
j j j
库恩—塔克条件

设X*是非线性规划 {min f ( X ), g ( X ) 0 , j 1, 2 , , n} 的极小点，而且X*点各有效约束的梯度线性独立， 则存在向量 ( , ,，使下述条件成立： , )
j
1 2 n

f (X )
则称向量 d 是函数 f(x)在点 x 处的下降方向。
定义 2
设S R
n
, x S,d R ,d 0
n
，若存在 t 0 ，使
x td S
则称向量 d 是函数 f(x)在点 x 处关于 S 的可行方向。
定义 3. 设
f :R
n
R , x R , d R , d 0, e
(0) T
(0)
(0)
(0)
局部极小值点的性质

设X*是非线性规划的一个局部极小点，则在点X* 不存在可行下降方向，从而不存在向量D同时满 足 f ( X ) D 0 （4）
T
— g j ( X ) D 0
T

j J
式（4）的几何意义是十分明显的，即点处满足 该条件的方向D与X*点目标函数负梯度方向的夹 角为锐角，与X*点所有有效约束梯度方向的夹角 也为锐角。
的极小点，而且X*点的所有有效约束的梯度 h
( i 1, 2 , , m )

(X ) i

和 g

j
(X ) ( j J)


线性独立，则存在向量

(1 , 2 , , m )
和
( 1 , 2 , , n )
使下述条件成立：
约束集或可行域
向量化表达

令
g 其中， : R
g ( x ) ( g 1 ( x ),..., g p ( x ))
h ( x ) ( h 1 ( x ),..., h p ( x ))
T
T

n
R ,h : R
p
n
R
q
那么(MP)可简记为
m in f ( x )
x S
m in f ( x ) s .t . g (x ) 0 h(x) 0
可行下降方向


将目标函数在处作一阶泰勒展开，若方向D满足 f ( X ) D 0 （3） 则D必是X 点的一个下降方向。 如果Ｄ方向既是 X 点的一个可行方向又是一个下 降方向，就称Ｄ是X 点的一个可行下降方向。显 然，如果某点存在可行下降方向，那么该点就不 会是极小点；另一方面，如果某点是极小点，则 该点不存在可行下降方向。