第9讲 最优性条件及二次规划

g j ( X (0) )T D 0, j J ( X (0) ) (1)
D
f ( X ) D 0
(0) T
同时成立
(2)
二、最优性条件
1、Gordan引理
设 A1 ,..., Al 为 l 个 n 维向量，不存在向量P 使得 AT P 0, J 1,..., l成立
j
的充要条件是存在不全为零的非负数，使得
为（I）或（II）的可行域
2 可行方向 定义:
X (0) R, 0 , [0,0 ]
时有 X (0) D R 称 D 为 X (0) 处的可行方向
判别条件 若 D 是
X (0) 的任一可行方向，则有
g j ( X (0) )T D 0, j J ( X (0) )
2 f ( X ) 半正定， ( X ) 是凸函数 f
2 g1 ( X )
2 0 2 0 2 g1 ( X ) , 2 0, 40 0 2 0 2
负定
所以 g1 ( X ) 是凹函数 故该问题为凸规划。
2 求K-T点
2x f (X ) 1 1 2 x1 g1 ( X ) 2 x2 1 g 2 ( X ) 1
(1)
3 下降方向 定义:
X (0) R, 0 , [0,0 ] 时有 f ( X (0) D) f ( X (0) ) 称 D 为X (0)处的下降方向
判别条件 若 若
D
是 X (0) 的任一下降方向，则有 f ( X (0) )T D 0
(2)
D
既满足（1）式又满足（2）式则称
(3),(4)
1 17 X 2
1 17 1 17 , 或X 2 2
T
1 17 2
T
(1) (2) 21 ( x1 x2 ) 1 2 x1
(6)
1 17 2
p m * * * * * f ( X ) i hi ( X ) j g j ( X ) 0 i 1 j 1 j * g j ( X * ) 0, j 1,..., p * 0, (i 1,..., m) * 0, ( j 1,..., p) i j
0 0 g1 ( X * ) , g3 ( X * ) 1 1
线性相关
X * (1, 0)T 不是K-T点。
自己验证 X * (1,0)T 是F-J点。
例2 用K-T条件，求解非线性规划 解：1 验证该问题为凸规划 原问题标准化为
min f ( X ) x12 x2
如上图所示，阴影部分为可行域 R，红色直线为目标函数的等值 线。显然最大值点为（1，0）。
3(1 x1 ) 2 1 1 0 f ( X ) , g1 ( X ) , g 2 ( X ) , g 3 ( X ) 0 1 0 1
(2)
(1)
该问题的K-T条件为
2 x1 (1 1 ) 2 0 1 2 x 0 1 2 2 1 ( x12 x2 2 9) 0 2 ( x1 x2 1 ) 0 1 , 2 0
（1） （2） （3） （4） （5）
X (0)
是(I)的可行解，若 g j ( X (0) ) 0 则称 g j ( X ) 0 为 X (0)
(0) (0) (0) 处的起作用（紧）约束。记 J ( X ) j g j ( X ) 0 1 j l , X 处起作用（紧）约束的下标集 记 R= X g j ( X ) 0 j 1,..., p 或 R= X g j ( X ) 0 j 1,..., p; hi ( X ) 0, i 1,..., m
A
j 1 j
l
j
0
成立
2、Fritze John定理
(I)
p * * 0f ( X ) j g j ( X ) 0 j 1 * j g j ( X ) 0, j 1,..., p j 0, j 1,..., p
最优性条件（5.1）
min f ( X ) s.t. g j (X ) 0 j 1,..., p (I )
min f ( X ) s.t. g j ( X ) 0 hi ( X ) 0 j 1,..., p i 1,..., m ( II )
一、基本概念
1 起作用（紧）约束
（7）
若x*是非线性规划(II)的局部极小点， 且x*点的所有起作用约束的梯度
hi ( X * ), i 1,..., m
和
g j ( X * )( j J )
线性无关。则存在向量
( 1 ,..., l ), M ( 1 ,..., m )
使得
Leabharlann Baidu
* * * * 其中1 ,..., m ; 1 ,..., p 称为广义拉格朗日(Lagrange)乘子。
K-T条件
f ( X * ) 1*g1 ( X * ) 2*g 2 ( X * ) 3*g3 ( X * ) 0 1* g1 ( X * ) 0 2* g 2 ( X * ) 0 3* g3 ( X * ) 0 1* , 2* , 3* 0
0f ( X ) j g j ( X * ) 0
* j 1
(6)
j g j ( X * ) 0, j 0
该定理给出了非线性规划 的(局部)最优点应满足的必要条件。 该条件称为 Fritz John条件，满足这个条件的点称为Fritz John点。
3 Kuhn-Tucker条件
（1） （2） （3） （4）
（5）
（1）式为
1 31* (1 x1* ) 2 2* 0
1* 3* 0
X * (1, 0)T
* 代入上式，得：2 1 0
故 X * (1, 0)T
不是K-T点。
X (1, 0) 的起作用约束为
* T
g1 ( X ) (1 x1 )3 x2 0 g3 ( X ) x2 0
设x*是非线性规划（I）的局部极小点 f ( X ), g j ( X ) 有一阶连续偏导 而且X*处的所有起作用约束梯度线性无关， 则存在数 使得
p * * * f ( X ) j g j ( X ) 0 j 1 * * j g j ( X ) 0, j 1,..., p j * 0, ( j 1,..., p)
(3)
1 (4)
f ( X * )T P 0 * T * g j ( X ) P 0, j J ( X )
0 0, j 0, ( j J )
0 f ( X * )
jJ ( X * )

l
j g j ( X * ) 0 (5)
若x（k）是极小点，则 f ( X (k ) ) 必处于
g1 ( X ( k ) ), g 2 ( X ( k ) )
的夹角之间 不然，x（k）点处必存在可行 下降方向，它就不会是极小点。
（三）举例 例１求
max f ( X ) x1 s.t. (1 x1 )3 x2 0 x1 , x2 0
min f ( X ) x12 x2 s.t. x12 x2 2 9 x1 x2 1
s.t. g1 ( X ) 9 x12 x2 2 0 g 2 ( X ) 1 x1 x2 0
2 0 2 f ( X ) 0 0 2 0, 2 0 0 0 0
（7）
库恩—塔克条件是确定某点为最优点的必要条件，只要是最 优点．且此处起作用约束的梯度线性无关。就必须满足这个 条件。但一般说来它并不是充分条件，因而，满足这个条件 的点不一定就是最优点。 可是，对于凸规划，库恩—塔克条件不但是最优点存在的必 要条件，它同时也是充分条件。 某非线性规划的可行解x*，假定此处有两个起作用约束，
* 2 1 0 * 3(1 x1 ) * 1 * 0 1 2 3 0 1 0 1 0 1*[(1 x1* )3 x2* ] 0 2* x1* 0 3* x2* 0 1* , 2* , 3* 0
第5章
有约束极值问题
最优性条件
（1学时） 二次规划 （1学时） 可行方向法 （1学时） 制约函数法 （1学时） 非线性规划软件求解简介 （1学时） 应用案例 （1学时）
第9讲 最优性条件和二次规划
最优性条件 二次规划
重 点：最优性条件，二次规划 难 点: 最优性条件及应用 基本要求：理解可行方向、下降方向、有效约束等概念， 掌握最优性条件，并会用其求解有约束极值问题，掌握 二次规划模型及求解方法，理解序列二次规划的原理和特点。
1 0, 2 0 (1 1 ) x1 0, 1 0 x1 0
1 0 x12 x2 2 9 x2 3 x2 3, 1
(2) (3)
1 6
X (0, 3)T 是K-T点
(iii)
x12 x2 2 9 1 0, 2 0 x1 x2 1
D
为 X (0)的下 降可行方向
f 定理1 X (0) 为（I）的局部极小值点， ( X )在 X (0) 处可微，
g j ( X )( j J ( X
(0)
(0) 在 X (0)处可微 g j ( X )( j J ( X ))在 X (0) 处连续 ))
则在 X (0) 处不存在可行下降方向。即不存在向量
2 x1 1 2 x1 (1 1 ) 2 0 2 x1 1 2 x 0 1 2 x 0 1 2 1 1 2 2
讨论
(i)1 0, 2 0 2 1 0, (ii)
的极大值点。 并验证其是否 为K-T点。说明 理由。 将原问题标准化
解： R
1
(1 x1 )3 x2
min f1 ( X ) f ( X ) x1 s.t. g1 ( X ) (1 x1 )3 x2 0 g 2 ( X ) x1 0 g3 ( X ) x2 0
（7）
成立
p * * 0f ( X ) j g j ( X ) 0 j 1 * j g j ( X ) 0, j 1,..., p j 0, j 1,..., p
（3）成立
（3） 中各式的两边，
p * * * f ( X ) j g j ( X ) 0 j 1 * * j g j ( X ) 0, j 1,..., p j * 0, ( j 1,..., p)