3不等式约束最优化问题的最优性条件.

不等式约束最优化问题的最优性条件
不等式约束最优化问题
min
s.t .
f x
n
ci x 0,
3.3.1
i 1,2, m ,
n
其中f : R R,ci :R R(i 1,2 ,...,m).
不等式约束最优化问题的最优性条件
定 义
闭包：
Closure
设S R n , S的闭包定义为： clS { x | S N ( x ) , 0}.
x
f ( x )
S
D
不等式约束最优化问题的最优性条件
定义
设(3.3.1)中的一个可行点 x 满足 有效约束： c j x 0, 则称约束 c j x 0为在
Active Constraint
x
处的有效约束或紧约束．
非有效约束： inactive 在
Constraint
若有 ck x 0, 则 称 ck x 0 为
x 处的可行方向锥 x
处的可行方向锥是全空间Rn .
D {d | d 0, 0, 使x d S , (0, )}.
注:当 x int S 时, S在
不等式约束最优化问题的最优性条件
定 下降方向(descent direction)： 义设S R n , x S , d R n , d 0, 且f : S R在点x处可微，
由于FD ，故x一定不是问题的极小点 .
故该问题在 x处的可行下降方向集合 为 2 2 1 FD {d R | d 2 d1 d 2 , d 2 0}. 4 3
不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件
几何最优性条件直观,但难以在实际
计算中应用.
不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件
仅考虑在某点起作用的约束
定理3.3.2: 在问题(3.3.1)中，假设： (1) x * 为局部最优解且I * i c x * 0,1 i m ； i (2) f x 与ci x i I * 在 x * 点可微； (3) ci x i I \ I * 在 x * 点连续； 则
在点 x 2,3 处的可行下降方向.
T
解：x 2,3T ， I x 1,2.
1 c1 x 2 , 3 c 2 x 2 .
不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件
???
将几何最优性条件转化为代数
最优性条件.
(1) Fritz John 条件 (2) Kuhn-Tucker 条件
不等式约束最优化问题的最优性条件
Fritz John 最优性条件—一阶必要条件 (1948) 定理3.3.3: 设 x *为问题(3.3.1)的局部最优解且 * 在 则存在非零 1 i m x 点可微， f x , ci x
其中G0


dR
F0 G0 ,
n
c i x

* T
d 0,i I*

不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件 例 1： 确定：
min s .t
2 2 f x x1 6 x 2 2
x1 2 x 2 4 0 3 x1 2 x 2 12 0 x1 , x 2 0
S
g3(x)=0
(2)
x的非有效约束g3(x)≥0对 x 处的可行方向没有影响，
故非有效约束也称为不起作用的约束.
不等式约束最优化问题的最优性条件
几何最优性条件—一阶必要条件
定理3.3.1: 考虑约束最优化问题 min f ( x ), (3.3.2)
xS
ຫໍສະໝຸດ Baidu
其中S R n 是非空集合， f : S R, 且f在 x处可微.若x是问题( 3.3.2)的局部极小点 ,则 F0 D .
f ( x )T d 0, 则d为f在点x处的下降方向 .
下降方向锥：f在点
x 处的下降方向锥
T
F0 {d | f ( x ) d 0}.
不等式约束最优化问题的最优性条件
可行方向锥与下降方向锥的几何解释
F0 在极小点处，任何 下降方向都不是可 行方向，而任何可 行方向也不是下降 方向，即，不存在 可行下降方向.
2 x1 12 8 f x 2 . 2x 4 , f x 2 T T d 设 d d , d , 则 c1 x 0, d1 2d 2 0;
1 2
d T c2 x 0, 3d1 2d 2 0; d T f x 0, 8d1 2d 2 0.
x
处的非有效约束或松约束．
在可行点
有效集： I I x i ci x 0
x 处的有效约束的指标集：
不等式约束最优化问题的最优性条件
有效约束与非有效约束---几何解释
g1(x)=0
x
g2(x)=0 (1) 在点 x 处, g1(x)≥0 和 g2 (x)≥0是有效约束； g3(x)≥0是非有效约束.
* * 则存在非零的向量* * 0 , 1 , , m , 使得：
* * * * f x c x i i 0 0 m
* 0 i 1,2,, m * c x i i * i 0,1,2, , m i 0
n n 设 S R , x clS , d R , d 0, 若存在〉 0，使得 可行方向：
x d S , (0, ), 则称d为集合S在点x处的可行方向 ( feasible direction).
可行方向锥： S在点
Feasible direction cone