凸优化理论与应用_内点法

设 x 为对数阀问题的可行解，则牛顿方向 xnt 和对偶 问题的解 满足：
t 2 f 0 ( x) 2 ( x) A
AT xnt tf 0 ( x) ( x) 0 0 vnt
10
信息与通信工程学院 庄伯金 bjzhuang@
例：

LP问题：m 100, n 50 初始值： t (0) 1, 106
信息与通信工程学院 庄伯金 bjzhuang@
11
第一阶段方法

对于不等式约束的优化问题，如何寻找严格可行解或验 证不可解？ 求解优化问题： minimize s
subject to fi ( x) s, i 1,..., m Ax b

近似替代。
I (u ) 不具备良好的连续可微性，考虑用对数阀函数来
信息与通信工程学院 庄伯金 bjzhuang@
3
对数阀函数

对于 t 0 ， 1/ t log(u) 是 I (u ) 的光滑逼近。且 当 t 时，有
1/ t log(u) I (u)

Ax b 对于固定的 x ，si max{ fi ( x),0}
信息ቤተ መጻሕፍቲ ባይዱ通信工程学院 庄伯金 bjzhuang@
13
寻找严格可行解的方法

牛顿法求解优化问题：
minimize s subject to fi ( x) s, i 1,..., m Ax b

迭代终止条件：当前解 s ( k ) 0 ，即终止迭代，严格可 行解为 x ( k ) 。
信息与通信工程学院 庄伯金 bjzhuang@
14
* i
1 T tf 0 ( x) fi ( x) A w 0, Ax b i 1 f i ( x)
m
解。
*
L( x, * (t ), * (t )) f 0 ( x) i* (t ) fi ( x) * (t )( Ax b)
i 1
m

( (t ), (t )) 为对偶问题的可行解。
* *
信息与通信工程学院 庄伯金 bjzhuang@
8
阀方法

1 ，及 0 t0， 初始化：给定严格可行解 x ，
LOOP： * 中心步骤：以 x 为初始点求解优化问题 x (t ) ，
minimize tf0 ( x) ( x) subject to Ax b
凸优化理论与应用
第10章 内点法
信息与通信工程学院 庄伯金 bjzhuang@
1
不等式约束优化问题

问题描述： minimize
f 0 ( x) Ax b
subject to fi ( x) 0, i 1,..., m



fi ( x) 为凸函数，且二次连续可微，且 A R pn , p n, rankA p * p 假设最优值 存在； domf ，满足严格不等式条件 fi ( x) 0 假设存在 x
则优化问题具有强对偶性，其对偶问题亦可解。
信息与通信工程学院 庄伯金 bjzhuang@ 2
不等式约束的消去

示性函数消去不等式约束：
minimize f 0 ( x) I ( fi ( x))
i 1
m
subject to Ax b
0 u 0 I (u) u 0
信息与通信工程学院 庄伯金 bjzhuang@
6
中心线的对偶点

设 x x (t ) ，则存在 w 满足KKT条件：
*

1 * ( t ) , (t ) w / t 令 * tfi ( x (t )) * x x (t ) 是拉格朗日函数 L( x, * (t ), * (t )) 的最小值 则
( x)是凸函数
对数阀函数二阶连续可微，导数为：
m
1 ( x) fi ( x) i 1 f i ( x) m m 1 1 2 T 2 ( x) fi ( x)fi ( x) f i ( x) 2 i 1 f i ( x) i 1 f i ( x)

该问题最优解存在，假设最优值为 p

*
* p 当 0 时，存在严格可行解； * 当 p 0 时，原始问题不可解； * p 当 0 时，无法准确确定。
信息与通信工程学院 庄伯金 bjzhuang@
12
第一阶段方法

优化目标为逐项之和：
minimize 1T s subject to fi ( x) si , i 1,..., m

令
( x) log( fi ( x))
i 1
m

带示性函数的优化问题可近似为：
1 minimize f 0 ( x) ( x), t 0 t subject to Ax b
信息与通信工程学院 庄伯金 bjzhuang@ 4
对数阀函数

对数阀函数
信息与通信工程学院 庄伯金 bjzhuang@
5
中心线

对数阀近似问题的等价问题：
minimize tf0 ( x) ( x), t 0

subject to Ax b 最优解为 x* (t ) ，则最优解集 {x* (t ) | t 0} 称为优化问
题的中心线。
*
信息与通信工程学院 庄伯金 bjzhuang@
7
中心线的对偶点

设 p 为原始问题的最优值，则有：
*
p* g ( * (t ), * (t )) L( x* (t ), * (t ), * (t )) f 0 ( x* (t )) m / t

因此，当 t 时，有 f0 ( x (t )) p 。 x* (t ) 为原始问 题的 m / t 次优解。

* x x (t ) 迭代：
终止条件：若 m / t ，则终止退出。
t t 更新 t ：
信息与通信工程学院 庄伯金 bjzhuang@ 9
收敛性分析

外层循环迭代次数：
log( m /( t (0) )) log

中心步骤实质为一个无约束或等式约束优化问题，其收 敛性分析与相应优化问题的收敛性分析结果一致。