第四章 序列二次规划

在一定条件下,SQP方法具有超线性收敛速度.
最优化方法之约束非线性规划
Ex.考虑非线性规划
2 min f ( x ) ( x1 2)2 x2 ,
s .t . g ( x ) ( x1 1)2 ( x2 1)2 1 0, x1 , x2 0.
取x0 (0,0)T , 用第一种方法构造H0 , 写出求d 0的二次规划.
x L( x , , ) 0,
i gi ( x ) 0, i 1, ..., m i 0, i 1, 2, ..., m .
m i 1
其中L( x, , ) f ( x ) i gi ( x ) j hj ( x )为Lagrange函数.
(2)
其中d x x k , H k 是一个n阶实对称矩阵, 它可以有多种不同 的构造方法, 而约束条件中的函数分别就是约束函数hj ( x ), gi ( x )在x k 处Taylor展开式中的线性部分.
最优化方法之约束非线性规划
关于Hk的构造常用的有以下几种：
(1).Hk 2 f ( xk );
最优化方法之约束非线性规划
收敛速度
若x*是问题(1)的最优解, { x k }是由某种算法得到的收敛于x*的 迭代点列, 如果 x k 1 x * lim 0, k * k x x 则说{ x k }超线性收敛于x* ; 若 x k 1 x * lim c(c为正常数) k * 2 k x x 则说{ x k }二阶收敛于x * .
第四章 约束非线性优化
最优化方法之约束非线性规划
序列二次规划(SQP)
关于约束非线性规划
min f ( x ), s.t . hi ( x ) 0, i 1, 2, ..., l , g j ( x ) 0, j 1, ..., m (1) x Rn 其中f , gi , hi C 2 ( Rn ).由Kuhn Tucker定理知其K T条件为
即
2 min d12 d 2 4d 1 ,
s .t . 2d1 2d 2 1, d1 , d 2 0.
最优化方法之约束非线性规划
wenku.baidu.com
j 1
l
最优化方法之约束非线性规划
当解(1)得到一个迭代点x k时, 为求得下一个更好的迭代点x k 1时, 一种自然的想法,就是用问题(1)在x k 处的二次规划模型代替 问题(1),以一系列二次规划的解逼近(1)的解,这种方法称为 序列二次规划法( SQP ).
一、搜索方向的确定
当运用SQP方法时, 在x k点处的二次规划一般形式为
最优化方法之约束非线性规划
1 T min d H k d f ( x k )T d , 2 s .t . h j ( x k )T d h j ( x k ) 0, j 1, 2, ..., l , gi ( x k )T d gi ( x k ) 0, i 1, 2, ..., m .
k k k (2).Hk 2 L ( x , , ); x
k k k (3).Hk 2 P ( x , , ),即增广Lagrange函数的Hesse矩阵； x k k k (4).Hk是一个包含2 f ( xk )或2 L ( x , , )信息的正定阵. x
设d 0 (d1 , d2 )T , 则所求二次规划为
d1 2 0 d1 1 min (d1 , d 2 ) ( 4, 0) 2 0 2 d 2 d2 d1 s.t . 1 ( 2, 2) 0, d2 d1 , d 2 0.
2 x1 4 4 0 解 . f ( x ) , f ( x ) 0 2 x2
2,0 2 2,0 0 f ( x) , f ( x ) 0, 2 0, 2
2
最优化方法之约束非线性规划
2 x1 2 2 0 g ( x ) , g ( x ) 2 2 x2 2
最优化方法之约束非线性规划
二、步长的确定
步长确定的常用方法： (1).固定步长为1, 即x k 1 x k d k ; (2).可行性优先准则,即若x k d k为(1)的可行解, 则取 x
k 1
x d ;
k k
否则, 依次计算x x k d k , 0.1, 0.2, ..., 0.9,1.0 到可行域D的距离,以最接近D的x 作为x k 1 .