第10章 约束条件下多变量函数的寻优方法

运筹学
[注] 令J为X1点所有起作用约束的下标的集合, 即
J={j|gj(X1)=0, 1≤j≤l}
则d为点X1的可行方向gj(X1)Td≥0 (jJ).
4. 下降方向 设X1是可行点, 对于该点任一方向d, 若存在1>0, 使得任意(0< <1), 都有f(X1+ d)< f(X1), 则称方向d为X1点的一个下降方向.
f (X )


i1
m
i hi ( X ) j g j ( X ) 0
j1
l
j g j ( X ) 0 , j 1, , l
j
0
,
l
j 1, , l
[注]
f (X )

i1
m
i hi ( X ) j g j ( X )
m l i j i j i1 j1
j g j ( X ) 0 , j 1, , l j 0 ,



j 1, , l
2. 凸规划的全局最优解定理 对非线性规划问题(1)而言, 若 f(X) 是凸函数，gj(X)是凹函数， hi(X)是线性函数，则库恩—塔克点 X* 是全局最优解.
二、库恩—塔克(Kuhn-Tucker)条件
运筹学
对于凸规划, 库恩—塔克条件是最优点存在的充要条件. 1. 一阶必要条件定理 对非线性规划问题(1)而言, 若X*是局部或全局极值点且为正则 点, 则一定存在向量 ( , , m ) 及 ( 1 , , l ) ,使得下述条件 1 成立. f (X ) h (X ) g (X ) 0
等式约束对所有可行点来说都是起作用约束. 2. 正则点 对于非线性规划问题(1), 若在可行点X1处, 各起作用约束的 梯度线性无关, 则X1是约束条件的一个正则点. 3. 可行方向 设R是非线性规划问题(1)的可行域, X1是可行点, d为某个给定 方向, 若存在1>0, 使得对于任意的(0< <1), 都有 X1+ dR 则称方向d为点X1处的一个可行方向.
j1
称为广义拉格朗日函数.
二、库恩—塔克(Kuhn-Tucker)条件
运筹学
对于凸规划, 库恩—塔克条件是最优点存在的充要条件. 1. 一阶必要条件定理 对非线性规划问题(1)而言, 若X*是局部或全局极值点且为正则 点, 则一定存在向量 ( , , m ) 及 ( 1 , , l ) ,使得下述条件 1 成立. f (X ) h (X ) g (X ) 0
min f ( X ) ( x 1 2 ) ( x 2 3 )
2 2
运筹学
s .t . x 1 ( x 2 2 ) 4
2 2
x2 2
求在下列各点处的可行下降方向,并绘图表示各点的可行下降 方向的范围. (1) X1=(2, 2)T (2) X2=(3, 2)T (3) X3=(0, 0)T
m l i j i j i1 j1
j g j ( X ) 0 , j 1, , l j 0 ,



j 1, , l
2. 凸规划的全局最优解定理 对非线性规划问题(1)而言, 若 f(X) 是凸函数，gj(X)是凹函数， hi(X)是线性函数，则库恩—塔克点 X* 是全局最优解. [注] (1) f(X) 是开凸集R上的凸函数 f(X) 的海赛矩阵2f(X)在 R上处处半正定. (2) f(X) 是开凸集R上的严格凸函数 f(X) 的海赛矩阵2f(X)在 R上处处正定.
第10章 约束条件下多变量函数的寻优方法
§10.1 约束极值问题的最优性条件
设有非线性规划问题
min f ( X ) s . t . hi ( X ) 0 , i 1 , , m g j ( X ) 0 , j 1, , l (1 )
运筹学
一、基本概念 1. 起作用约束
等式约束对所有可行点来说都是起作用约束. 2. 正则点
是确定某点为最优点的一阶必要条件. 只要是最优点且为正则点就必满足该条件. 对于凸规划, 库恩—塔克条件是最优点存在的充要条件. 1. 一阶必要条件定理 对非线性规划问题(1)而言, 若X*是局部或全局极值点且为正则 点, 则一定存在向量 ( , , m ) 及 ( 1 , , l ) ,使得下述条件 1 成立.
例2 求下列非线性规划问题.
min f ( X ) 2 x 1 2 x 1 x 2 x 2 10 x 1 10 x 2
2 2
s .t . x 1 x 2 5
2 2
3 x1 x 2 6
令J为X1点所有起作用约束的下标的集合, 即 J={j|gj(X1)=0, 1≤j≤l} 则d为点X1的可行方向gj(X1)Td≥0 (jJ). d为点X1的下降方向f(X1)Td<0 . 例3 设有非线性规划问题(教材4.11题)
对于非线性规划问题(1), 若在可行点X1处, 各起作用约束的 梯度线性无关, 则X1是约束条件的一个正则点.
设有非线性规划问题
min f ( X ) s . t . hi ( X ) 0 , i 1 , , m g j ( X ) 0 , j 1, , l (1 )
运筹学
一、基本概念 1. 起作用约束
[注] d为点X1的下降方向f(X1)Td<0 .
5. 可行下降方向
设有非线性规划问题
min f ( X ) s . t . hi ( X ) 0 , i 1 , , m g j ( X ) 0 , j 1, , l (1 )
运筹学
二、库恩—塔克(Kuhn-Tucker)条件
设有非线性规划问题
min f ( X ) s . t . hi ( X ) 0 , i 1 , , m g j ( X ) 0 , j 1, , l (1 )
运筹学
3. 可行方向 设R是非线性规划问题(1)的可行域, X1是可行点, d为某个给定 方向, 若存在1>0, 使得对于任意的(0< <1), 都有 X1+ dR 则称方向d为点X1处的一个可行方向.
[注] 令J为X1点所有起作用约束的下标的集合, 即
J={j|gj(X1)=0, 1≤j≤l} 则某个方向d为点X1的可行方向gj(X1)Td>0 (jJ).
3. 可行方向 设R是非线性规划问题(1)的可行域, X1是可行点, d为某个给定 方向, 若存在1>0, 使得对于任意的(0< <1), 都有 X1+ dR 则称方向d为点X1处的一个可行方向.
运筹学
作业：P202页第4.17题之（3） 补充：
min f ( X ) ( x 3 ) s .t . 1 x 5
2
m l i j i j i1 j1
j g j ( X ) 0 , j 1, , l j 0 ,



j 1, , l
2. 凸规划的全局最优解定理 对非线性规划问题(1)而言, 若 f(X) 是凸函数，gj(X)是凹函数， hi(X)是线性函数，则库恩—塔克点 X* 是全局最优解.
例1 求下列非线性规划问题.
min f ( X ) x 1 s .t . x 1 0 x1 x 2 1 1 3 ( x 2 1)
2
X*=(1/2,1/2)T, z*=5/4
二、库恩—塔克(Kuhn-Tucker)条件
运筹学
ቤተ መጻሕፍቲ ባይዱ
对于凸规划, 库恩—塔克条件是最优点存在的充要条件. 1. 一阶必要条件定理 对非线性规划问题(1)而言, 若X*是局部或全局极值点且为正则 点, 则一定存在向量 ( , , m ) 及 ( 1 , , l ) ,使得下述条件 1 成立. f (X ) h (X ) g (X ) 0