凸优化理论与应用-内点法PPT课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
题的 m / t 次优解。
可编辑
8
阀方法
初始化:给定严格可行解 x ,t 0 , 1 ,及 0
LOOP:
中心步骤:以 x 为初始点求解优化问题 x*(t) ,
minimize tf0(x) (x)
subject to Ax b 迭代: x x* (t)
subject to fi (x) s,i 1,..., m Ax b
迭代终止条件:当前解 s(k) 0 ,即终止迭代,严格可 行解为 x(k ) 。
可编辑
14
1 ( x), t
t
0
subject to Ax b
可编辑
4
对数阀函数
对数阀函数 (x)是凸函数
对数阀函数二阶连续可微,导数为:
( x)
m i 1
1 fi (
x)
fi
(
x)
2(x)
m i 1
1 fi (x)2
fi (x)fi (x)T
m i 1
凸优化理论与应用
第10章 内点法
可编辑
1
不等式约束优化问题
问题描述:minimize f0 (x) subject to fi (x) 0,i 1,..., m Ax b
fi (x) 为凸函数,且二次连续可微,且 A R pn , p n, rankA p
假设最优值 p*存在; 假设存在 x%domf ,满足严格不等式条件 fi (x) 0
1 fi (x)
2
fi (x)
可编辑
5
中心线
对数阀近似问题的等价问题:
minimize tf0 (x) (x),t 0
subject to Ax b 最优解为 x*(t) ,则最优解集 {x*(t) | t 0} 称为优化问
题的中心线。
可编辑
6
中心线的对偶点
设 x x*(t) ,则存在 w 满足KKT条件:
tf0 (x)
m i 1
1 fi (x)
fi (x)
AT w
0,
Ax
b
令
i*
(t)
tfi
1 (x*
(t))
,
*
(t)
w
/
t
则 x x*(t) 是拉格朗日函数L(x, *(t), *(t)) 的最小值
解。
m
L(x, *(t), *(t)) f0 (x) i*(t) fi (x) *(t)( Ax b)
终止条件:若 m/ t ,则终止退出。
更新 t :t t
可编辑
9
收敛性分析
外层循环迭代次数:
log(m /( t(0) ))
log
中心步骤实质为一个无约束或等式约束优化问题,其收 敛性分析与相应优化问题的收敛性分析结果一致。
设 x 为对数阀问题的可行解,则牛顿方向
问题的解 满足:
xnt 和对偶
t2
f0
(
x) A
2
(
x)
AT 0
xnt
vnt
tf0
(x) 0
( x)
可编辑
10
例:
LP问题:m 100, n 50
初始值: t (0) 1, 106
近似替代。
可编辑
3
对数阀函数
对于 t 0 ,1/ t log(u) 是 I (u) 的光滑逼近。且 当 t 时,有
1/ t log(u) I (u)
令
m
(x) log( fi (x))
i 1
带示性函数的优化问题可近似为:
minimize
f0 ( x)
i 1
Байду номын сангаас
(*(t), *(t)) 为对偶问题的可行解。
可编辑
7
中心线的对偶点
设 p* 为原始问题的最优值,则有:
p* g(*(t), *(t)) L(x*(t), *(t), *(t))
f0 (x*(t)) m / t
因此,当 t 时,有 f0 (x*(t)) p*。x*(t) 为原始问
可编辑
11
第一阶段方法
对于不等式约束的优化问题,如何寻找严格可行解或验 证不可解?
求解优化问题:minimize s
subject to fi (x) s,i 1,..., m
Ax b 该问题最优解存在,假设最优值为 p*
当 p* 0 时,存在严格可行解; 当 p* 0 时,原始问题不可解; 当 p* 0 时,无法准确确定。
则优化问题具有强对偶性,其对偶问题亦可解。
可编辑
2
不等式约束的消去
示性函数消去不等式约束:
m
minimize f0 (x) I ( fi (x)) i 1
subject to Ax b
0 u 0 I (u) u 0
I (u) 不具备良好的连续可微性,考虑用对数阀函数来
可编辑
12
第一阶段方法
优化目标为逐项之和:
minimize 1T s subject to fi (x) si ,i 1,..., m
Ax b 对于固定的 x ,si max{ fi (x), 0}
可编辑
13
寻找严格可行解的方法
牛顿法求解优化问题:
minimize s
可编辑
8
阀方法
初始化:给定严格可行解 x ,t 0 , 1 ,及 0
LOOP:
中心步骤:以 x 为初始点求解优化问题 x*(t) ,
minimize tf0(x) (x)
subject to Ax b 迭代: x x* (t)
subject to fi (x) s,i 1,..., m Ax b
迭代终止条件:当前解 s(k) 0 ,即终止迭代,严格可 行解为 x(k ) 。
可编辑
14
1 ( x), t
t
0
subject to Ax b
可编辑
4
对数阀函数
对数阀函数 (x)是凸函数
对数阀函数二阶连续可微,导数为:
( x)
m i 1
1 fi (
x)
fi
(
x)
2(x)
m i 1
1 fi (x)2
fi (x)fi (x)T
m i 1
凸优化理论与应用
第10章 内点法
可编辑
1
不等式约束优化问题
问题描述:minimize f0 (x) subject to fi (x) 0,i 1,..., m Ax b
fi (x) 为凸函数,且二次连续可微,且 A R pn , p n, rankA p
假设最优值 p*存在; 假设存在 x%domf ,满足严格不等式条件 fi (x) 0
1 fi (x)
2
fi (x)
可编辑
5
中心线
对数阀近似问题的等价问题:
minimize tf0 (x) (x),t 0
subject to Ax b 最优解为 x*(t) ,则最优解集 {x*(t) | t 0} 称为优化问
题的中心线。
可编辑
6
中心线的对偶点
设 x x*(t) ,则存在 w 满足KKT条件:
tf0 (x)
m i 1
1 fi (x)
fi (x)
AT w
0,
Ax
b
令
i*
(t)
tfi
1 (x*
(t))
,
*
(t)
w
/
t
则 x x*(t) 是拉格朗日函数L(x, *(t), *(t)) 的最小值
解。
m
L(x, *(t), *(t)) f0 (x) i*(t) fi (x) *(t)( Ax b)
终止条件:若 m/ t ,则终止退出。
更新 t :t t
可编辑
9
收敛性分析
外层循环迭代次数:
log(m /( t(0) ))
log
中心步骤实质为一个无约束或等式约束优化问题,其收 敛性分析与相应优化问题的收敛性分析结果一致。
设 x 为对数阀问题的可行解,则牛顿方向
问题的解 满足:
xnt 和对偶
t2
f0
(
x) A
2
(
x)
AT 0
xnt
vnt
tf0
(x) 0
( x)
可编辑
10
例:
LP问题:m 100, n 50
初始值: t (0) 1, 106
近似替代。
可编辑
3
对数阀函数
对于 t 0 ,1/ t log(u) 是 I (u) 的光滑逼近。且 当 t 时,有
1/ t log(u) I (u)
令
m
(x) log( fi (x))
i 1
带示性函数的优化问题可近似为:
minimize
f0 ( x)
i 1
Байду номын сангаас
(*(t), *(t)) 为对偶问题的可行解。
可编辑
7
中心线的对偶点
设 p* 为原始问题的最优值,则有:
p* g(*(t), *(t)) L(x*(t), *(t), *(t))
f0 (x*(t)) m / t
因此,当 t 时,有 f0 (x*(t)) p*。x*(t) 为原始问
可编辑
11
第一阶段方法
对于不等式约束的优化问题,如何寻找严格可行解或验 证不可解?
求解优化问题:minimize s
subject to fi (x) s,i 1,..., m
Ax b 该问题最优解存在,假设最优值为 p*
当 p* 0 时,存在严格可行解; 当 p* 0 时,原始问题不可解; 当 p* 0 时,无法准确确定。
则优化问题具有强对偶性,其对偶问题亦可解。
可编辑
2
不等式约束的消去
示性函数消去不等式约束:
m
minimize f0 (x) I ( fi (x)) i 1
subject to Ax b
0 u 0 I (u) u 0
I (u) 不具备良好的连续可微性,考虑用对数阀函数来
可编辑
12
第一阶段方法
优化目标为逐项之和:
minimize 1T s subject to fi (x) si ,i 1,..., m
Ax b 对于固定的 x ,si max{ fi (x), 0}
可编辑
13
寻找严格可行解的方法
牛顿法求解优化问题:
minimize s