凸优化问题

x x
an ( k ) n
T
y b
，其中 b log c
c(k ) x
k 1 K
K
a1 ( k ) a2 ( k ) 1 2
e
k 1
K
aT ( k ) y b ( k )
目标函数
min c ( k ) x
k 1 K
a1 ( k ) a2 ( k ) 1 2
x
x
an ( k ) n

- 20 -
4.6、凸向量优化
一般表示
min ( w. r. t. K ) f 0 ( x ) s.t. f i ( x ) 0, i 1, , m Ax b
其中
K R q 正常锥
f 0 : R n R q 为 K -凸 f i : R n R 为凸函数
- 21 -
（绝对）最优解 x
-3-
无约束： X dom f 0 （开集）
x dom f 0 , f 0 ( x )T y x 0, y X

f 0 ( x ) 0
仅有等式约束： X y dom f 0 Ay b

x dom f 0 , Ax b, f 0 ( x ) N ( A) f 0 ( x ) R AT
可等价转换为线性规划
max r s.t. aiT xc r ai
2
bi , i 1, , m
- 11 -
4.3、二次规划
线性约束
min 0.5 xT Px qT x r s.t. Gx h Ax b
二次约束
T min 0.5 xT P0 x q0 x r0
s.t. 0.5 xT Pi x qiT x ri , i 1, , m Ax b


2
1 , i 1, , m

min cT x s.t. aiT x Pi T x bi , i 1, , m
2
- 15 -
4.4、几何规划
a a a n ，其中 c 0, ai R, i 单项式： f x cx1 x2 xn ， dom f R
4、 凸优化问题
一般性表示 线性规划 二次规划 几何规划 广义不等式意义下的凸优化 半定规划 凸向量优化
-1-
4.1、一般性表示
min f 0 ( x ) s.t. f i ( x ) 0, i 1, , m aiT x bi , i 1, , p
dom fi 其中 fi , i 0,1, , m 是凸函数，定义域 D i 0,1, , m
- 23 -
通过标量化方法求 Pareto 最优解 任意选择 K 0 求解标量优化问题

min T f 0 ( x ) s.t. f i ( x ) 0, i 1, , m Ax b
所得到的解一定是 Pareto 最优解 对于凸优化问题，改变 K 0 可得到所有的 Pareto 最优解，
i i
常规凸优化问题的很多结论同样成立，例如： 可行集、任意水平子集和最优解集都是凸集 任意局部最优解都是全局最优解 最优解的充要条件同样成立
- 19 -
半定规划
min cT x s.t. F0 Fi xi S k 0
i 1

n
Ax b
其中 Sk 通常省略
标准形式
min tr CX s.t. tr Ai X bi , i 1, , p X Sn 0
x z2 y
min x 1 y

1 s.t. 2 x 1, x 1 3
1
x2 y

1 2
3 y z 1 1
1 2
xy 1 z 2 1
- 17 -
令 yi log xi ，于是 xi e y
i
单项式 多项式
an a2 cx1a1 x2 xn
e a1 y1 an yn b e a
其中 c 是随机向量
可转换为二次规划
min E cT x Var cT x c T x xT Qx s.t. Gx h Ax b
其中 c E c , Q E c c c c

T
， 反映对风险的厌恶情况
- 14 -
dom f x e x f 0
T 0
可由下面问题的最优解得到原问题最优解（ x y z ）
min cT y dz s.t. g iT y hi z 0, i 1, , m aiT y bi z 0, i 1, , p eT y fz 1 z0
1 2 n
正项式：单项式之和 几何规划：下面的 fi , i 为正项式， hi , i 为单项式
min f 0 ( x ) s.t. f i ( x ) 1, i 1, , m hi ( x ) 1, i 1, , p
- 16 -
例、可转换为几何规划的问题
max x y s.t. 2 x 3 x2 3y z y
- 10 -
求多面体最大内切球（Chebyshev 中心）
T 给定 P x ai x bi , i 1, , m ，记 B xc , r x x xc 2 r
要求解 max r s.t. B xc , r P ，最优 xc 称为 Chebyshev 中心
a1 1 a2 2 an n
0
a y 得到最优的 x
i
- 18 -
4.5、广义不等式意义下的凸优化
一般表示
min f 0 ( x ) s.t. f i ( x ) Ki 0, i 1, , m Ax b
其中 f 0 : R n R 凸， K i R k 正常锥， fi : R n R k 为 K i -凸
y X \ x
理由：拟凸函数存在以下充要条件
f 0 ( y ) f 0 x f 0 x
T
y x 0,
x, y dom f 0
-6-
上式不是必要条件的原因 最优解 x 处可能 f 0 x 0 ，不满足上述条件 充分条件不能包含等式的原因， f 0 x 0 可以不是最优解
- 22 -
Pareto 最优解 x P
z , z K f 0 x Po z f 0 x Po f 0 x Po 是 关于 K
的极小元

f 0 x Po K f 0 x Po



Pareto 最优解通常有很多
-2-
x 是最优解的充要条件
可行集 X 的任意 y 都成立 f 0 ( x )T y x 0 （ f 0 ( x)T y x 0 ）
y R
n
f 0 ( y ) f 0 ( x ) 是凸集， f 0 ( x )T y x 0 是 x 处支撑超平面
-7-
4.2、线性规划
min cT x s.t. Gx h Ax b
标准形式
min cT x s.t. Ax b x0
任何线性规划均可等价转换为标准形式
-8-
最优解充要条件
T （此时 c x x 0 ） 可行集 P 的任意 x 都成立 f 0 x x x 0 T
f 0 x K z , z y R q x y f 0 ( x ), f i ( x ) 0, i 1, , m, Ax b

f 0 x 是 关于 K 的最小元

f 0 x K
（绝对）最优解通常不存在

对非凸问题，不能保证这一点
- 24 -

min t s.t. f 0 x t , f i ( x ) 0, 1 i m, Ax b
上境图表示


可视为无限个线性不等式约束的线性规划问题
-5-
拟凸优化
目标函数 f 0 是拟凸函数
x 是最优解的充分条件
x X , f 0 x
T
y x 0,
二阶锥规划
min f T x s.t. Ai x bi Fx g ci 0, i
Ai 0, i

2
ciT x d i , i 1, , m
二次规划 线性规划

例、鲁棒线性规划
min cT x
u s.t. aiT x bi , ai Bi ai Pu i

min log e
k 1
K
aT ( k ) y b ( k )
不等式约束 c(k ) x
k 1
a1 ( k ) a2 ( k ) 1 2
x
x
an ( k ) n
1
aT y b
log e
k 1
K
aT ( k ) y b ( k )
0
等式约束 cx x x 1 log e
如果有最优解，一定有顶点（不在两点连线上）是最优解
-9-
可转换为线性规划的例子
线性约束下极小化线性分式目标函数（拟凸优化）
cT x d min f 0 x T e x f s.t. g iT x hi , i 1, , m aiT x bi , i 1, , p
常规表述“凸集上优化凸函数”可能不满足上述定义，例如
2 min x12 x2 2 s.t. x1 1 x2 0
x1 x2
2
0
2 可行集等价于 x R x1 0, x1 x2 0 ，是凸集，但不算教材
定义的凸优化问题，教材的定义便于求解（二阶导数正定）


仅有非负约束： X y dom f 0 y 0

x dom f 0 , x 0, f 0 ( x )i 0, xi 0, f 0 ( x )i 0, xi 0
-4-
等价表示 一般性表示 min f 0 x s.t. f i ( x) 0, 1 i m, Ax b 消除等式约束 min f 0 Fz x0 s.t. fi ( Fz x0 ) 0, 1 i m 其中 z 是优化向量， Ax0 b ， F 的列向量生成 N A
其中 P, Pi , i 0,1, , m 均属于 S
n
- 12 -
最小二乘问题
无约束
min
Ax b
T
Ax b
有线性不等式约束
min
Ax b Ax b
T
s.t. Gx h
- 13 -
随机费用的线性规划
min cT x s.t. Gx h Ax b