凸优化理论与应用PPT课件
凸优化课件
例： 半正定锥和矩阵不等式
严格广义不等式
3
广义不等式的性质
4
严格广义不等式的性质
5
S，都有 成立，则称 x 为 S 的最小元。（唯一）
极小元的定义：设 x S ，对于 y S ，若 ，有 y x 成立，则称 x 为 S 的极小元。 （可以有多个） 例2.17 锥 等式。 ，它导出的是 上的关于分量的不
T T
则存在
x C, a x b且x D, a x b.
超平面 分 离了两个不相交的凸集 C 和 D 。仿射函数 在 C 上非正，在 D 上 非负。
8
严格分离：
超平面分离定理的逆定理：
结合逆定理与平面分离定理得出结论：
9
2.5.2 支撑超平面
x0 为 C 边界上的点。若存在 a 0， 定义：设集合 C ， 满足对任意 x C ，都有 aT x aT x0 成立，则称超平 T T { x | a x a x0} 为集合 C 在点 x0 处的支撑超平面。 面
正常锥的对偶锥 仍然是正常锥！ 2.若K 非中空，则K *有端点；
3.若K的闭包有端点，则K *非中空； 4.K 是K的闭凸包；
11
**
2.6.2 广义不等式的对偶
对偶锥 是正常锥，可由这导出一个广义不等式 ，我们称其为广义不等式 的对偶。 广义不等式与其对偶的性质：
12
2.6.3 对偶不等式定义的最小元和极小元
定理：任意非空凸集边界上的任意一点均存在支撑 超平面。 定理：若一个闭的非中空集合，在边界上的任意一 点均存在支撑超平面，则该集合为凸集。
10
2.6 对偶锥和广义不等式
凸优化理论
凸优化理论第一章凸集1、仿射集1.1、定义：任意以及都有；直观上，如果两点在仿射集内，那么通过任意两点的直线位于其内；1.2、仿射集的关联子空间：如果是仿射集，且，则集合是一个子空间（关于加法和数乘封闭）,因此仿射集可以表示为一个子空间加上一个偏移，，可以是C中任意一点；定义C的维数为子空间V的维数（向量基的个数）;1.3、线性方程组的解集:等价于仿射集且其关联的子空间是就是的的零空间即;1.4、仿射组合：如果，称为的仿射组合；如果是仿射集，，且，那么；集合C是仿射集集合包含其中任意点的仿射组合；1.5、仿射包：集合C中的点的所有仿射组合组成的集合记为C的仿射包，；仿射包是包含的最小的仿射集合；1.6、仿射维数：集合仿射维数为其仿射包维数, 即仿射包相关联子空间的维数，即是其子空间最大线性无关基；如果集合的仿射维数小于n ，那么这个集合在仿射集合中;1.7、集合相对内部：定义为的内部，记为，即;集合内部：由其内点构成，内点为;1.8、集合的相对边界：集合C的相对边界定义为，为C的闭包；集合C的边界定义为;------------------------------------------------------------------------------------------------------------------------------ 2.凸集：如果，，，都有；直观上，如果两点在凸集内，则两点间的线段也在凸集内；仿射集是凸集；2.1、凸组合：如果，，，称为的凸组合；点的凸组合可以看做他们的混合或加权平均，代表混合时所占的份数。
如果点在凸集内，则它们的凸组合仍在凸集内；C是凸集集合包含其中所有点的凸组合；2.2、集合的凸包：集合C中所有点的凸组合，;C的凸包是包含C的最小凸集；2.3、无穷级数的凸组合：假设，，，并且，，、、，为凸集，那么若下面的级数收敛，那么2.4、积分的凸组合：假设对所有满足，并且,其中为凸集，那么如果下面积分存在，则： ;2.5、概率的凸组合：假设x是随机变量，为凸集，并且的概率为，那么；---------------------------------------------------------------------------------------------------------------------------------- 3锥：如果对于任意和，都有，称集合C为锥；直观上如果点在锥中，那么以原点为端点过该点的射线在锥中；3.1、凸锥：集合C是锥，并且是凸的，则称C为凸锥，即对于任意，和，，都有直观上，如果两点在凸锥中，那么以原点为端点，以过两点的两条射线为边界的扇形面在凸锥中；3.2、锥组合：具有，形式的点称为的锥组合（或非负线性组合）；如果均属于凸锥C，那么的每一个锥组合也在C中；集合C是凸锥它包含其元素的所有锥组合；3.3、锥包：集合C的锥包是C中所有元素的锥组合的集合；---------------------------------------------------------------------------------------------------------------------------------- 凸集的例子：空集、单点集、全集都是的仿射子集；线段是凸的，但不是仿射的；射线是凸的，不是仿射的，不是锥（除非端点是零点）；直线是仿射的，自然是凸的；如果通过零点，则是锥，并且是凸锥；子空间是仿射的、凸锥(满足对加法、数乘封闭、含零元)；超平面：，其中，且；，，在超平面上；闭的半空间：非平凡线性不等式的解空间，，半空间是凸的，但不是仿射的，也不是锥；半空间边界、内部：、；Euclid球：欧几里得球是凸集：；椭球：椭球是凸集：，对称正定矩阵，决定椭球从各个方向扩展的幅度；半轴长度有给出；正半定矩阵；若为奇异矩阵，椭球退化，即一些维度上半轴长为零，这时其仿射维数等于A的秩，退化的椭球也是凸的；范数球、范数锥：它们是凸集，范数锥：，；如二阶锥（二次锥）；---------------------------------------------------------------------------------------------------------------------------------- 4.多面体：有限个线性等式和不等式的解集：，，;因此多面体是有限个半空间和超平面的交集；仿射集合（如子空间、超平面、直线）、射线、线段、半空间都是多面体；多面体是凸集；有界多面体也称为多胞形<=>有限集合的凸包；多面体可以表示为，，b、d为向量；4.1、单纯形（一种多面体）：点描述法设k+1个点，，仿射独立，即，，，线性独立，那么这些点决定了一个单纯形：，，，，这个集合的仿射维数（它的仿射闭包的维数），即是，空间的维数，显然它的一个基就是，，，即集合的仿射维数为k；单纯形是凸集、并且是多面体，一般称k维单纯形（k+1个仿射独立点生成的凸包）；4.2、常见的单纯形:1维单纯形是一条空间线段（1个基向量，2个空间点）；2维单纯形是一个空间三角形（含其内部）（2个基向量，3个空间点）；3维单纯形是一个四面体（3个基向量，4个空间点）；4.3、单位单纯形：由零向量0和单位向量，，决定的n维单纯形，它可以表示为满足下列条件的向量的集合：;4.4、概率单纯形：由单位向量，，决定的n-1维单纯形，它是满足下列条件的向量集合：;概率单纯形中的每个向量对应于随机变量n个取值对应的一个概率分布，可理解为第i个元素的概率；4.5、单纯形的多面体描述法C是单纯形，充要条件是，对于某些，，有;，其中，，，，，，显然，B的秩为k；因此存在非奇异矩阵，使得，，,则: ，，，，，，，显然：且且且；这里A的选择与，，有关；4.6、多面体：凸包描述法有限集合，，的凸包是：，，，是一个有界多面体，但是无法用线性不等式和不等式的集合将其表示；凸包表达式的一个扩展：，，,其意义是，，的凸包加上，，的锥包，定义了一个多面体，反之每个多面体也都可以表示为此类形式；仿射集是凸集；多面体是凸集；仿射集是多面体；单纯形（特殊多面体）是凸集，可以给出线性等式和不等式表示；多面体（使用线性等式和不等式组定义）等价于凸包，无法给出线性等式和不等式表示；有限集的凸包是有界多面体，无法给出线性等式和不等式表示；5.保凸运算：用以从凸集构造出其他凸集；5.1、求交集：无穷多个凸集的交是凸集；5.2、仿射映射：,且,若S是凸的，那么是凸的；反之成立；伸缩、平移、投影是仿射映射；凸集的和、直积是凸的，凸集的投影是凸的，凸集的部分和是凸的；注意：，也是仿射函数；线性矩阵不等式的解：，是凸集；双曲锥：,是凸集；5.3、透视映射：，，定义域为，如果C是凸集，那么是凸集；反之成立；5.4、线性分式映射：是仿射的，其中并且,那么：，是线性分式（投射）函数, 定义域，P是透视函数；同样象与原象的凸性可以互推；线性分式映射的应用：条件概率，设u和v是分别在，，和，，中取值的随机变量，并且表示概率。
凸分析教学课件.ppt
xS
Th2.5设S为En中的闭凸集，y S,则存在唯一的
点x S,使得 y-x inf y-x xS
2. 凸集与凸函数
证明：令 inf y-x r 0 xS
换言之d不能表成它的两个不同方向的凸锥组合
d
d
d
x0
x0
2. 凸集与凸函数
例2.4 集合S {(x1, x2 ) x2 | x1 | 凡是与向量(0,1)T 夹角 45的向量 都是它的方向。(1,1)T，(1,1)T 是其仅 有的两个极方向
例2.5 设S {x Ax b, x 0} ,d是非零向量。 证明,d是S的方向 d 0且Ad 0.
x
n
x k xk jd j
kK
jJ
k 1,k 0, k K , j 0, j J
kK
(3)指标集J是空集当且仅当P是有界集合,即多胞形.
2. 凸集与凸函数
推论2.1 若多面体S={x|Ax=b,x≥0}非空,则S必有极点.
表示定理直观描述:设 X 为非空多面体. 则存在有限个极点 x1, …, xk , k>0. 进一步,存在有限个极方向 d1, …, dl, l>0 当且 仅当 X 无界. 进而, xX 的充要条件是 x 可以表为 x1, …, xk 的凸组合和d1, …, dl的非负线性组合(凸锥组合).
C T
2. 凸集与凸函数
有限点集{x0, x1,..., xm} n的凸包称为多胞形。 若{x0,x1,..., xm}仿射无关时，对应的凸包称为m维单纯形。 向量xi称为该单纯形的顶点。
凸优化课件
局部最优解和全局最优解
非线性凸优化问题可能存在多个局部最优解，需要研究如何找到全 局最优解或近似全局最优解。
大规模凸优化问题
计算复杂度
大规模凸优化问题的计算复杂度通常很高，需要采用高效的优化 算法。
并行计算和分布式计算
为了加速大规模凸优化问题的求解，可以采用并行计算和分布式计 算技术。
凸函数性质
凸函数具有单调性、有下界性、最小化性质等性质。在优化问题中，凸函数的最小值可 以通过优化方法求解。
凸集与凸函数的几何解释
凸集的几何解释
凸集可以用图形表示，例如二维平面上的一个凸集可以表示 为一个凸多边形。
凸函数的几何解释
对于凸函数，其图像是一个向上的曲线，且在该曲线上任意 两点之间画一条线，该线总是在函数图像之下。这意味着对 于凸函数，其最小值存在于其定义域的端点或边界上。
凸函数的性质
凸函数具有连续性、可微性、单调性 、凸性等性质，这些性质使得凸优化 问题在求解过程中具有一些特殊的优 势。
凸优化在数学与工程领域的应用
在数学领域的应用
凸优化在数学领域中广泛应用于最优化理论、统计推断、机器学习等领域。例 如，在机器学习中，凸优化方法可以用于求解支持向量机、神经网络等模型的 参数。
现状与挑战
目前，凸优化算法在理论和实际应用中都取得了很大的进展。然而，随着问题的复杂性和规模的增加，凸优化算 法也面临着一些挑战，如计算复杂度高、局部最优解等问题。未来，需要进一步研究和发展更高效的算法和技术 ，以解决更复杂的问题。
02
凸集与凸函数
凸集的定义与性质
凸集定义
一个集合称为凸集，如果该集合中的 任意两点之间的线段仍在集合中。
凸优化理论与应用_凸集
03
凸优化问题建模与求解
凸优化问题定义及示例
凸优化问题定义
凸优化问题是一类特殊的数学优化问题，其目标函数是凸函数，约束条件为凸集。凸函数在数学上具有很好的性 质，如局部最优解即为全局最优解，这使得凸优化问题的求解相对简单。
凸优化问题示例
支持向量机（SVM）、线性回归、逻辑回归、最小二乘法等机器学习算法中的优化问题都可以转化为凸优化问题 进行求解。
凸函数与凹函数关系
凹函数定义
凹函数与凸函数相反，满足f(λx1+(1-λ)x2)≥λf(x1)+(1-λ)f(x2)。
凸凹性转换
通过取负操作，可以将凸函数转换为凹函数，反之亦然。即，如果f是凸函数，则-f是凹函数；如果f是凹函数，则-f 是凸函数。
凸凹组合
凸函数和凹函数的线性组合可能既不是凸函数也不是凹函数，但可以通过一定的条件判断其凸凹性。
01
03
02 04
多面体与单纯形
多面体是由有限个线性不等式定 义的集合，即{x | Ax ≤ b}。单纯 形是一种特殊的多面体，每个顶 点都是其他顶点的邻居。
锥与凸锥
锥是由原点出发的射线组成的集 合。如果锥还是凸集，则称为凸 锥。
02
凸函数及其性质
凸函数定义及示例
凸函数定义
在数学中，一个函数被称为凸函数，如果对于该函数定义域内的任意两个点x1 和x2，以及任意实数λ∈[0,1]，都有f(λx1+(1-λ)x2)≤λf(x1)+(1-λ)f(x2)成立。
稀疏表示与重构
在压缩感知中，利用凸 集理论对信号进行稀疏 表示，并通过求解凸优 化问题实现信号的重构 。
噪声鲁棒性
针对压缩感知中的噪声 问题，利用凸集理论构 建鲁棒性优化模型，提 高信号恢复的精度和稳 定性。
凸优化理论与应用-凸优化PPT课件
凸优化问题最优解
定理：设 X 为凸优化问题的可行域，f0 (x)可微。则 x 为最优解当且仅当 f0 (x)T ( y x) 0, y X 成立。
可编辑
15
凸优化问题最优解
定理：无约束凸优化问题中，若 f0 (x)可微。则 x 为最 优解当且仅当 f0 (x) 0成立。
h1(x) (x1 x2 )2 0
等价于凸优化问题
minimize f0 (x) x12 x22 subject to f%1(x) x1 0
h%1(x) x1 x2 0
可编辑
13
凸优化问题的局部最优解
定理：凸优化问题的局部最优解均是全局最优解。
可编辑
14
可编辑
10
优化问题的上半图形式
minimize t subject to f0 (x) t 0,
fi (x) 0, i 1,..., m hi (x) 0, j 1,..., p
可编辑
11
凸优化问题的基本形式
凸优化问题的基本描述：
minimize f0 (x), x R n subject to fi (x) 0, i 1,..., m
hi (z) 0, j 1,..., p x z R, R 0
2
若 x 为局部最优问题的最优解，则它为原最优问题的
局部最优解。
可编辑
4
优化问题的等价形式(1)
定理：若 i 0,i 0,..., m, i 0,i 1,..., p
则原优化问题与以下优化问题等价
hi (x) 0, j 1,..., p
fi (x)为凸函数 hi (x)为仿射函数 若 f0 (x)为准凸函数，则优化问题称为准凸优化问题。 性质：凸优化问题的可行域是凸集。
04凸优化理论与应用_对偶问题PPT演示课件
拉格朗日对偶函数：
g
(
)
1T
W diag( )
0
otherwise
信
7
对偶函数与共轭函数
共轭函数 f *( y) sup ( yT x f (x))
xdomf
共轭函数与对偶函数存在密切联系 具有线性不等式约束和线性等式约束的优化问题：
minimize g(, )
subject to 0
subject to AT c 0
0
信
13
弱对偶性
定理（弱对偶性） ：设原始问题的最优值为 p *，对偶 问题的最优值为d *，则 d* p * 成立。
optimal duality gap
p*d *
在 x relint D，满足 fi (x) 0,i 1,..., m,
minimize f0(x) subject to Ax b
对偶函数：
Cx d
g ( ,
)
bT
d T
f
* 0
(
AT
CT
)
信
8
Equality constrained norm minimization
问题描述： minimize x
subject to Ax b
4
信
5
Standard form LP
原问题：
minimize cT x
subject to Ax b
x 0
拉格朗日函数：
L(x, , ) cT x T x T (Ax b)
02凸优化理论与应用_凸函数
6
下水平集(sublevel set)
定义：集合
C { x dom f | f ( x ) }
称为 f 的 下水平集。
定理：凸函数的任一下水平集均为凸集。 任一下水平集均为凸集的函数不一定为凸函数。
信息与通信工程学院 庄伯金 bjzhuang@
7
函数上半图(epigraph)
定义：集合
epi f {( x , t ) | x dom f , f ( x ) t }
称为函数
f
的上半图。
f
定理：函数
为凸函数当且仅当
f
的上半图为凸集。
信息与通信工程学院 庄伯金 bjzhuang@
8
Jensen不等式
f
为凸函数，则有：
yC
凸函数的透视算子
g ( x , t ) tf ( x / t )
信息与通信工程学院 庄伯金 bjzhuang@
11
共轭函数(conjugate function)
定义：设函数 f : R 定义为
*
n
R
，其共轭函数 f : R
T
*
n
R
，
f ( y ) su p ( y x f ( x )).
n
为真锥，函数 f : R
n
R
称为 K 单调增，若函数 f ( x ) 满足：
x K y f (x) f ( y)
广义凸函数的定义：设K R 均有
m
为真锥，函数 f : R
n
R
m
称为 K 凸，若函数 f ( x ) 满足对 x , y dom f , 0 1
凸优化理论与应用-逼近与拟合PPT课件
题：
minimize 1T y
subject to Ax b, y p x p y
可编辑
14
正则逼近
二元矢量优化问题描述：
minimize(w.r.t. R2) ( Ax b , x )
正则化问题：
minimize Ax b x , 0
最优解描述了两分量的一条折中曲线。
minimize Ax b 2 x 2 , 0
x 为二阶差分算子：
1 2 1 0 ... 0 0 0
0
1
2
1
...
0
0
0
x
n
2
0 ...
0 ...
1 ...
2 ... 0 ... ... ...
0 0 ... ... x
0 0 0 0 ... 2 1 0
该罚函数为鲁棒的罚函数。
Huber罚函数
(r
)
M
(2
r2 r
M
)
r M r M
可编辑
12
最小范数问题
问题描述：minimize x subject to Ax b, A Rmn , m n
可以消去等式约束将其转换为范数逼近问题：
minimize x0 zu
可编辑
7
绝对值和最小逼近
范数采用 l1
范数
• ，原问题为 1
minimize Ax b
1
A Rmn , m n,
即
minimize
m i 1
n k 1
aik
xk
bi
凸优化理论与应用内点法PPT课件
可编辑
13
寻找严格可行解的方法
牛顿法求解优化问题：
minimize s
subject to fi (x) s,i 1,..., m Ax b
迭代终止条件：当前解 s(k) 0 ，即终止迭代，严格可 行解为 x(k ) 。
则优化问题具有强对偶性，其对偶问题亦可解。
可编辑
2
不等式约束的消去
示性函数消去不等式约束：
m
minimize f0 (x) I ( fi (x)) i 1
subject to Ax b
0 u 0 I (u) u 0
I (u) 不具备良好的连续可微性，考虑用对数阀函数来
近似替代。
可编辑
中心步骤：以 x 为初始点求解优化问题 x*(t) ，
minimize tf0(x) (x)
subject to Ax b 迭代： x x* (t)
终止条件：若 m/ t ，则终止退出。
更新 t ：t t
可编辑
9
收敛性分析
外层循环迭代次数：
log(m /( t(0) ))
(t))
,
*
(t)
w
/
t
则 x x*(t) 是拉格朗日函数L(x, *(t), *(t)) 的最小值
解。
m
L(x, *(t), *(t)) f0 (x) i*(t) fi (x) *(t)( Ax b)
i 1
(*(t), *(t)) 为对偶问题的可行解。
可编辑
7
中心线的对偶点
设 p* 为原始问题的最优值，则有：
可编辑
4
对数阀函数
凸优化理论与应用-几何问题PPT课件
aT xi b 1, i 1,..., N , 且aT yi b 1, i 1,..., M
可编辑
5
线性判别
支撑超平面 H1: aT xs b 1
H 2 : aT yt b 1
两超平面之间的距离：
d(H1, H 2) 2 / a 2
已知凸集包含在内的最大体积椭球的球心称为mve中心
凸优化理论与应用
第7章 几何问题
可编辑
1
体积问题
已知集合 C ， E 为包含 C 的椭球，满足： C E {v | Av b 1}
求包含 C 的体积最小的椭球问题：
minimize log det A1
subject to sup Av b 1
maximize log det B subject to sup IC (Bu d) 0
u 2 1
若 C 为多面体，则问题变为：
maximize log det B subject to Bai 2 aiT d bi ,i 1,..., m
可编辑
3
中心问题
已知凸集 C ，包含在C 内的最大体积球的球心，称为 Chebyshev中心。
vC
若 C 为有限集，则问题变为：
minimize log det A1
subject to sup Avi b 1,i 1,..., m
可编辑
2
体积问题
已知凸集 C ， E 为包含在C 内的椭球，满足： E {Bu b | u 1} C
2
求包含在 C 内的体积最大的椭球问题：
已知凸集 C ，包含在 C 内的最大体积椭球的球心，称 为MVE中心。
01凸优化理论与应用_凸集
01凸优化理论与应用_凸集凸优化理论是数学中的一个重要分支，是一种求解优化问题的方法。
在实际应用中广泛存在的一类优化问题，可以用凸优化理论进行形式化的描述和求解。
凸优化理论主要研究凸集、凸函数和凸优化问题，并给出了一系列的优化方法和算法。
凸集是凸优化理论的基础概念之一，它是指一个集合中的任意两个点之间的连线上的所有点也属于该集合。
具体来说，一个凸集要满足以下两个条件：1. 对于任意两个点x1和x2属于凸集C，它们的连线上的任意一点都属于C，即对于任意的t(0<t<1)，都有tx1+(1-t)x2属于C。
2.对于凸集C中的任意一个点x，与该点相接的区域也属于C。
凸集在凸优化问题中起到了重要的作用，它可以用来描述问题的可行解空间，也可以用来描述问题的约束条件。
在凸优化问题中，通常将目标函数定义在凸集上，并要求在该凸集上寻找使目标函数取得最小值的一个点或一个解集。
凸函数是凸优化理论中的另一个重要概念，它是指定义在凸集上的实值函数，对于该函数上的任意两个点，连接它们的线段上的函数值都不大于线段的两个端点的函数值之间的凸函数。
具体来说，对于定义在凸集C上的函数f(x)，对于任意x1和x2属于C以及0<t<1，都有f(tx1+(1-t)x2)<=tf(x1)+(1-t)f(x2)。
凸函数在凸优化问题中起到了至关重要的作用，它具有很多好的性质，比如局部最小值就是全局最小值、唯一最小值等。
因此，在实际应用中，我们通常可以将问题转化为寻找凸函数的最小值。
凸优化问题是指在给定的凸集上求解凸函数的最小值的问题。
通常情况下，凸优化问题的目标函数是一个凸函数，约束条件也是一些凸集。
对于凸优化问题，存在一系列的优化算法和方法，如梯度下降法、内点法、对偶问题等。
凸优化理论与应用广泛涉及到各个领域，如机器学习、图像处理、信号处理、运筹学、控制理论等。
在机器学习中，凸优化理论可以用来描述和求解各种不同的学习问题，如线性回归、逻辑回归、支持向量机等。
01凸优化理论与应用_凸集
多面体(Polyhedra)
多面体：
P {x | a x bj , c x di }
T j T i
k
单纯形(simplex)：
{i vi | i 0, i 1, v1 v0 ,..., vk v0线性无关}
i 0 i 0
k
信息与通信工程学院 庄伯金 bjzhuang@
信息与通信工程学院 庄伯金 bjzhuang@
27
严格广义不等式的性质
1.x K y x K y; 2.x K x; 3.x K y, u K v x u K y v; 4.x K y, 0 x K y 5.x K y, u足够小 x u K y.
凸锥的定义：集合C既是凸集又是锥。
x1 , x2 C,1 ,2 0, 则有1x1 2 x2 C.
锥包的定义：集合C内点的所有锥组合。
{i xi | xi C , i 0}
i 1
信息与通信工程学院 庄伯金 bjzhuang@
k
12
锥
信息与通信工程学院 庄伯金 bjzhuang@
广义不等式
例： 逐项不等式 矩阵不等式
信息与通信工程学院 庄伯金 bjzhuang@
严格广义不等式
26
广义不等式的性质
1.x K x; 2.x K y, y K x x y; 3.x K y, y K z x K z; 4.x K y, u K v x u K y v; 5.x K y, 0 x K y; 6.xi K yi , lim xi x, lim yi y x K y.
01凸优化理论与应用_凸集ppt课件
B(xc,r) {x | x xc r}
范数锥(norm cone)：
{(x,t) | x t}
20
多面体(Polyhedra)
多面体： P {x | aTj x bj ,ciT x di}
单纯形(simplex)：
k
k
{ ivi | i 0, i 1, v1 v0,...,vk v0线性无关}
5
凸集
6
仿射集与凸集的联系
x1, x2 C, [0,1],则 x1 (1 )x2 C
所以仿射集一定是凸集
7
凸集
8
9
凸集
凸包的定义：包含集合C的最小的凸集。
k
k
conv C { i xi | xi C,i 0, i 1}
i 1
i 1
i0
i0
21
22
半正定锥(Positive semidefinite cone)
n阶对称矩阵集：
S n {X R nnn | X X T }
n阶半正定矩阵集：
S
n
{X
Sn
|
X
0}
n阶正定矩阵集：
Sn {X nS阶n |半X正凸定锥0矩}！阵集为
12
锥
13
锥包
14
超平面和半空间
超平面(hyperplane) ： {x | aT x b}
半空间(Halfspace)： {x | aT x b} {x | aT x b}
15
超平面
16
半空间
17
欧氏球和椭球
欧氏球(euclidean ball):