第二节+凸函数和凸规划
最优化方法(凸集与凸函数)
m
m
原来凸集的性质告诉我们： 任意的两个点的凸组合都属于 D。 原来凸集的性质告诉我们： 任意的两个点的凸组合都属于 。 现在让我们证明 们证明， 现在让我们证明，任意的 m 个点的凸组合都属于 D。 。 咋办？？ 咋办？？
两个―――多个 两个―――多个 ――― 两个―――三个―――四个―――多个 两个―――三个―――四个―――多个 ―――三个―――四个―――
=
(i = 1 , 2 ,⋯, k ) 的凸组合。 的凸组合。
（2）凸集：设集合 X ⊂ R n ，如果 X 中任意两点的凸组合 ）凸集： 仍然属于 X ，则称 X 为凸集。 2.凸函数 凸函数 2 1 2 n 设 f : X ⊂ R → R ，任取 x , x ∈ X ，如果∀a1 , a2 ≥ 0 , i∑1ai = 1 ， 任取 如果 = 上的（ 有 f (a1 x 1 + a2 x 2 )(< ) ≤ a1 f ( x 1 ) + a2 f ( x 2 ) ，则称 f 为X上的（严格） 则称 上的 严格） 凸函数。 凸函数。
~ x+x 凸集， 由于 D 是凸集，故有 ∈ D ，又因为 γ 是集合 D 到 y 的 2
最短距离，上式应有等号成立，因此，存在实数 最短距离，上式应有等号成立，因此，存在实数 α 距离 应有等号成立 ~ y − x = α(y − x)
12
是凸集， 设 D ⊂ R n 是凸集， y ∈ R n 但是 y ∉ D ，则 的距离最小， （1）存在唯一的点 x ∈ D ，使得集合 D 到点 y 的距离最小，即 x − y = inf { x − y , x ∈ D} （2） x ∈ D 是点 y 到集合 D 的最短距离点的充分必要条件为
凸函数与凸规划
(
xn x1 xn x1 ) , x1 , , xn 0. n n
推论 3 虽然凸函数除了至多可数个点以外，处处可导，但它的导数却可以在一个处处
稠密集上不存在. 例如，设 {rn } 为 R 上有理数的全体， n 0, n 1,2, ,
可能的. 令 :
1 , 由上面的分离不等式得到 2
y f ( x0 ) ( x x0 ), ( x, y ) (epi f ) i .
令 y f ( x) 得到 f ( x) f ( x0 ) ( x x0 ), x (a, b).
f ( x2 ) f ( x1 ) sup f ( x2 ). x2 x1 x( x1 , x2 )
定理 2.1.4 f 是 (a, b) 上的凸函数的充要条件为 f 在 (a, b) 处处左、右可导，且满足
, x2 ( x1 , x2 ), x1 , x2 x1
epi f （ epi f 定义式中“ ”取到“ ”）. 因此， [0,1],
((1 ) x1 x2 , (1 ) f ( x1 ) f ( x2 )) (1 ) ( x1 , f ( x1 )) ( x2 , f ( x2 )) epi f .
~ f ( x0 ) f ( x0 ) ( x x0 ) f ( x) f ( x0 ) ( x x0 ) 2 o([ x x0 [ 2 ). 1! 2!
于是，也可以说，凸函数几乎处处有上式意义下的“二阶导数” f ( x0 ). 在这一节的最后，我们将函数的凸性与图像空间的凸集联系起来. 设 f : (a, b) R, 称图像空间 R 中的集合
凸函数凸规划
凸函数
下面的图形给出了凸函数f x, y x4 3x2 y4
y2 xy的等值线的图形，可以看出水平集是凸集.
凸函数
凸函数
凸函数的判别定理
定理1:设 f x是定义在凸集 D Rn 上，x, y D ,
令 t f tx 1 t y, t 0,1, 则:
i1
i1
凸函数
性质
定理2.3.2
f1 , f2 ,..., fk 是凸集S上的凸函数, 则
k
(x) ifi (x),i 0(i 1,2,..., k) i 1
和
(x) max 1 i k
fi ( x)
都是S上的凸函数.
凸函数
水平集(Level Set)
凸函数
凸函数(Convex Function) ----定义2.3.1
设 D Rn 是非空凸集， f x: S R,
若对任意的 x, y D ,及任意的 0,1
都有：f x 1 y f x 1 f y 则称函数 f x 为 D 上的凸函数．
(1) f x是凸集 D上的凸函数的充要条件是对 任意的x, y D ,一元函数t为 0,1上的凸函数.
(2)设 x, y D , x y,若 t 在 0,1 上为严格
凸函数，则f x在 D上为严格凸函数．
凸函数
该定理的几何意义是：凸函数上任意两点之 间的部分是一段向下凸的弧．
故, cT x 是凸函数． 类似可以证明 cT x 是凹函数．
凸函数
性质
定理2.3.1
设 f x是凸集D Rn上的凸函数，
x1 , x2 ,..., xk S , i 0(i 1,2,..., k ),
凸集与凸函数ppt课件
2. 凸集与凸函数
Th2.2 给定向量p(≠0)∈Rn, ∈R,则
H {x ¡ n | pT x } (2.1)
是Rn中的一个超平面.反之,Rn任一超平面都可表成 上式的形式,且在相差一个非零常数的意义下, (p, )是唯一的. Th2.3 给定矩阵A mn ,向量b n ,则
M {x ¡ n | Ax b}(简记为Ax b) (2.2) 是 n中的一仿射集.反之, n中的每一仿射集 都可表成(2.2)式的形式,即一组超平面的交集.
17
2. 凸集与凸函数
Df 2.12，设S( ) n, p n，p 0, x S 若S H {x pT (x x ) 0}或者S H － {x pT (x x ) 0}
则称H {x pT (x x )＝0}是S在x处的支撑超平面，若S H ,
则称H为S在x处的正常支撑超平面。
11
2. 凸集与凸函数
m
Df 2.8 给定m个向量, x1,..., xm ¡ n,以及满足 i 1的 i1
非负实数i R,i 1,..,m,称向量
1x1 ... mxm为{x1,..., xm}的凸组合.
Th2.4 集合S ¡ n是凸集,当且仅当S包含其中任意有限个
元素的凸组合,即对m
于是,由下确界定义知,存在序列{x(k)}, x(k) S, 使得 y x(k) r.
先证{x(k)}存在极限x S.只须证{x(k)}为柯西数列。
x(k) x(m)
2
(x(k) y) (x(m) y) 2
2
x(k) y
2
2
x(m) y
2
(x(k) y) (x(m) y)
2
19
多面体(polyhedral set)是有限闭半空间的交. (可表为 Axb ). x1
1-2凸集与凸函数
x∈D
2010-8-21
21
(2) 设 x , y ∈ D, x ≠ y , 若 ( t ) 在 [ 0,1] 上 为 严 格 凸 函 数 , 则
f ( x ) 在 D 上为严格凸函数. 严格凸函数
2010-8-21
16
该定理的几何意义是： 该定理的几何意义是：凸函数上任意两点 间的部分是一段向下凸的弧. 之间的部分是一段向下凸的弧
则称 f ( x ) 为凸集 D 上的凸函数 。 上的凸函数 凸函数。
定义1.5 严格凸函数 定义
定义中 不等式反向 可以得到 函数的定义。 反向,可以得到凹 注:将上述定义中的不等式反向 可以得到凹函数的定义。 将上述定义
严格凸 例 : 设 f ( x ) = ( x 1) ,试 证明 f ( x ) 在 ( ∞ , +∞ ) 上 是 严格 凸 试
§1.2 凸集与凸函数
2010-8-21
1
一、凸集
定义1.1 定义1.1 设集合 D Rn , 若对于任意两点
x , y ∈ D, 及实数 λ ( 0 ≤ λ ≤ 1) , 都有： 都有：
λx + (1 λ) y ∈ D
凸集． 则称集合 D 为凸集． 注：常见的凸集：空集，整个欧氏空间 Rn 常见的凸集：空集， 常见的凸集 超平面： 超平面： = {x ∈Rn a1x1 + a2 x2 +L+ an xn = b} H
为凸集, 上的凸函数,则称规划 定义 1.6: 设 D R n 为凸集 f ( x ) 为 D 上的凸函数 则称规划 为凸规划问题. 问题 min f ( x ) 为凸规划问题
凸集凸函数凸规划
凸集-----性质
k
推论：设Di , i 1,2,, k是凸集，则 i Di i 1 也是凸集，其中i 是实数．
(4) S 是凸集当且仅当S中任意有限个点的凸 组合仍然在S中.
凸集-----性质
注： 和集和并集有很大的区别，凸集的并集
未必是凸集，而凸集的和集是凸集．
例：D1 x,0T x R 表示 x 轴上的点． D2 0, yT y R 表示 y 轴上的点．
x 1 y D,
则称集合 D 为凸集．
常见的凸集：单点集 { x }，空集 ，整个欧氏空间 Rn，
超平面：H x Rn a1 x1 a2 x2 an xn b ,
H
半空间：
x Rn a1x1 a2 x2
= x Rn aT x b
则 D1 D2 表示两个轴的所有点，它不是凸集；
而 D1 D2 R2 凸集．
凸集-----凸包(Convex Hull)
定义 设 S Rn , S 中任意有限个点的所有凸 组合所构成的集合称为S的凸包，记为H(S),即
m
m
H(S) i xi xi S, i 0, i 1,2...,m, i 1, m N
注：将上述定义中的不等式反向，可以得到 凹函数的定义．
凸函数
严格凸函数
设 D Rn 是非空凸集， f x: S R,
若对任意的 x, y D (x y),及任意的 0,1
都有：f x 1 y f x 1 f y
则称函数 f x 为 D 上的严格凸函数．
i 1
i 1
凸组合 (Convex Comb, xi Rn , i 1,2,...m且 i 1.
02凸优化理论与应用_凸函数
6
下水平集(sublevel set)
定义：集合
C { x dom f | f ( x ) }
称为 f 的 下水平集。
定理：凸函数的任一下水平集均为凸集。 任一下水平集均为凸集的函数不一定为凸函数。
信息与通信工程学院 庄伯金 bjzhuang@
7
函数上半图(epigraph)
定义：集合
epi f {( x , t ) | x dom f , f ( x ) t }
称为函数
f
的上半图。
f
定理：函数
为凸函数当且仅当
f
的上半图为凸集。
信息与通信工程学院 庄伯金 bjzhuang@
8
Jensen不等式
f
为凸函数，则有：
yC
凸函数的透视算子
g ( x , t ) tf ( x / t )
信息与通信工程学院 庄伯金 bjzhuang@
11
共轭函数(conjugate function)
定义：设函数 f : R 定义为
*
n
R
，其共轭函数 f : R
T
*
n
R
，
f ( y ) su p ( y x f ( x )).
n
为真锥，函数 f : R
n
R
称为 K 单调增，若函数 f ( x ) 满足：
x K y f (x) f ( y)
广义凸函数的定义：设K R 均有
m
为真锥，函数 f : R
n
R
m
称为 K 凸，若函数 f ( x ) 满足对 x , y dom f , 0 1
第二节 凸函数和凸规划
∂f ( x 1 ) ∂f ( x 1 ) T ,...., ) 是函数 f 在点 x 1 处的一 其中 ∇f ( x ) = ( ∂x 1 ∂x n 阶 导数或梯度。 导数或梯度。 （2） f 是 S 上的严格凸函数的充要条件是 ∇f ( x 1 ) T ( x 2 − x 1 ) < f ( x 2 ) − f ( x 1 ) ， ∀ x1 , x 2 ∈ S, x1 ≠ x 2
是非空凸集， 是凸函数， 定理 4.2.2 设 S ⊂ Rn 是非空凸集， f : Rn ֏ R 是凸函数， c ∈ R ，则集 合 H S ( f , c) = {x ∈ S f ( x) ≤ c} 是凸集。 是凸集。
注：一般来说上述定理的逆是不成立的。
1. 凸函数及其性质续二
是非空开凸集， 可微， 定理 4.2.3 设 S ⊂ R n 是非空开凸集， f : S ֏ R 可微，则 （1） f 是 S 上的凸函数的充要条件是 ∇f ( x 1 )T ( x 2 − x 1 ) ≤ f ( x 2 ) − f ( x 1 ) ， ∀ x 1 , x 2 ∈ S
上的凸函数 凸函数， 上是凸 则称 f 是 S 上的凸函数，或 f 在 S 上是凸的。如果对于任意的 α ∈ (0,1) 有
f (αx 1 + (1 − α ) x 2 ) < αf ( x 1 ) + (1 − α ) f ( x 2 ) ， x 1 ≠ x 2
上是严格凸的 则称 f 是 S 上的严格凸函数，或 f 在 S 上是严格凸的。 上的严格凸函数， 严格凸函数 严格凸
1
证明
1. 凸函数及其性质续三
是非空开凸集， 二阶连续可导， 定理 4.2.4 设 S ⊂ R n 是非空开凸集， f : S ֏ R 二阶连续可导，则 f 是 S 上的凸函数的充要条件是 f 的 Hesse 矩阵 ∇ 2 f ( x ) 在 S 上是半正定 的。 上是正定矩阵时， 上的严格凸函数。（注意： 。（注意 当 ∇ 2 f ( x ) 在 S 上是正定矩阵时，f 是 S 上的严格凸函数。（注意：该 逆命题不成立。） 逆命题不成立。） ∂ 2 f ( x) ∂ 2 f ( x) ∂ 2 f ( x) .... 2 ∂x 1 ∂x 1 ∂x 2 ∂x 1 ∂x n 2 2 ∂ 2 f ( x) ∂ f ( x) ∂ f ( x) ... 2 ∂x ∂x ∂x 2 ∂x 2 ∂x n 2 2 1 ∇ f ( x) = . . . . 2 ∂ f ( x) ∂ 2 f ( x) ∂ 2 f ( x) 2 ∂ x n ∂x 1 ∂ x n ∂ x 2 ∂x n
数学中的凸优化与凸分析
数学中的凸优化与凸分析凸优化和凸分析是数学中重要的分支领域，它们在诸多应用领域都有着广泛的应用。
本文将介绍凸优化和凸分析的基本概念、性质以及它们在实际问题中的应用。
一、凸集与凸函数在进一步探讨凸优化和凸分析之前，我们先来了解一些基本概念。
首先是凸集和凸函数。
1. 凸集凸集是指集合中任意两点的连线上的点都属于该集合。
具体地，对于任意$x, y$属于集合$C$和$0\leq\lambda\leq 1$，满足$\lambda x+(1-\lambda)y$也属于$C$，则$C$是一个凸集。
2. 凸函数凸函数是定义在凸集上的实值函数，满足对于集合内的任意$x,y$和$0\leq\lambda\leq 1$，有$f(\lambda x+(1-\lambda)y)\leq \lambdaf(x)+(1-\lambda)f(y)$。
简单来说，凸函数的任意两点的连线上的函数值都不超过连线两端的函数值。
二、凸优化凸优化是指优化问题的目标函数是凸函数，约束条件是凸集的优化问题。
凸优化问题有着许多重要的性质和算法。
1. 凸优化问题的一般形式凸优化问题的一般形式可以表示为：$$\begin{align*}\text{minimize}\quad &f(x)\\\text{subject to}\quad &x\in C\end{align*}$$其中，$f(x)$是凸函数，$C$是凸集。
2. 凸优化问题的性质凸优化问题具有以下性质：（1）全局最优解是局部最优解。
这意味着在凸优化问题中，存在一个全局最优解，同时该最优解也是局部最优解。
（2）凸优化问题无局部最优解和全局最优解之间的鞍点。
凸优化问题不存在鞍点，因此可以通过寻找局部最优解来获得全局最优解。
3. 典型凸优化问题凸优化问题在实践中有着广泛的应用，以下是一些典型的凸优化问题：（1）线性规划问题（Linear Programming，简称LP）$$\begin{align*}\text{minimize}\quad &c^Tx\\\text{subject to}\quad &Ax\leq b\\&x\geq 0\end{align*}$$（2）二次规划问题（Quadratic Programming，简称QP）$$\begin{align*}\text{minimize}\quad &\frac{1}{2}x^TPx+q^Tx+r\\\text{subject to}\quad &Gx\leq h\\&Ax=b\end{align*}$$（3）半正定规划问题（Semidefinite Programming，简称SDP）$$\begin{align*}\text{minimize}\quad &\langle C,X\rangle\\\text{subject to}\quad &\langle A_i,X\rangle=b_i,\quad i=1,\ldots,m\\&X\succeq 0\end{align*}$$三、凸分析凸分析是研究凸集和凸函数性质的数学分支，它主要研究凸集的性质以及凸函数的导数和二阶导数。
§4.2 凸函数和凸规划
§4.2 凸函数和凸规划1、凸函数及其性质定义 4.2.1 设n R S ⊂是非空凸集，R S f α:，如果对任意的)1,0(∈α有)()1()())1((2121x f x f x x f αααα-+≤-+，S x x ∈∀21, 则称f 是 S 上的凸函数，或 f 在 S 上是凸的。
如果对于任意的)1,0(∈α有)()1()())1((2121x f x f x x f αααα-+<-+，21x x ≠ 则称f 是S 上的严格凸函数，或f 在S 上是严格凸的。
若 f -是S 上的（严格）凸函数，则称f 是S 上的（严格）凹函数，或f 在S 上是（严格）凹的。
例 4.2.1 线性函数既是凸函数，又是凹函数定理 4.2.1 设n R S ⊂是非空凸集。
（1）若R R f n α:是S 上的凸函数，0≥α，则f α是S 上的凸函数；（2）若R R f f n α:,21都是S 上的凸函数，则21f f +是S 上的凸函数。
定理 4.2.2 设n R S ⊂是非空凸集，R R f n α:是凸函数，R c ∈，则集合}{c x f S x c f H S ≤∈=)(),(是凸集。
（称集合),(c f H S 为函数 f 在集合 S 上关于数 c 的水平集）证：任取),,(,21c f H x x S ∈ 则有S x S x ∈∈21,以及c x f c x f ≤≤)(,)(21因为S 是凸集，所以对于任意的)1,0(∈α有S x x ∈-+21)1(αα又因为f 是S 上的凸函数，因此有c c c x f x f x x f =-+≤-+≤-+)1()()1()())1((2121αααααα所以 ),()1(21c f H x x S ∈-+αα。
因此 ),(c f H S 是凸集。
定理 4.2.3 设n R S ⊂是非空开凸集，R S f α:可微，则（1）f 是S 上的凸函数的充要条件是)()()()(12121x f x f x x x f T -≤-∇， S x x ∈∀21, 其中T n x x f x x f x f ))(,....,)(()(1111∂∂∂∂=∇是函数f 在点1x 处的一阶导数或梯度。
第2讲凸集与凸函数
第二讲凸集与凸函数22•定义1(凸集)设集合, 若对于任意两点及实数, 都有, 则称集合为凸集.nR D ⊂D y x ∈,]1,0[∈αD y x ∈-+)1(ααD 凸集x y xyx y凸集•例1. 证明超平面为凸集.证明:设, 对有因此，故为凸集.}{b x a R x H T n =∈=H y x ∈,]1,0[∈∀αbb b ya x a y x a T T T=-+=-+=-+)1()1())1((ααααααH y x ∈-+)1(ααH •例2. 欧式空间, 半空间为凸集.规定空集Ø为凸集.n R }{b x a R x H T n ≥∈=+凸集的性质•(3). 设为凸集，则为凸集.•(2). 设为凸集, , 则为凸集.D R ∈β},|{D x x y y D ∈==ββ21,D D },|{2121D y D x y x z D D ∈∈+==+比如,对于性质(3),是单点集，是三角形为四边形1D 2D 21D D +•(1). 设,,...,为凸集，则...为凸集.1D 2D n D 21D D D =n D•(4).S 是凸集当且仅当S 中任意有限个点的凸组合仍然在S 中.•(5). 设是凸集，则也是凸集，其中是实数。
k i D i ,,2,1, =i ki i D ∑=1βi β例3. 表示x 轴上的点.表示y 轴上的点.则表示两个轴上得所有点，它不是凸集；而是凸集.(){}R x x D T ∈=|0,1(){}R y y D T ∈=|,0221D D ⋃221R D D =+注：凸集的和集和并集有很大的区别，凸集的并集未必是凸集，而凸集的和集是凸集.凸集的性质定义2（-水平集）设是定义在集合R 上的实函数，是实数，则称如下的集合是函数的-水平集。
α)(x f α})(,|{αα≤∈=x f R x x S )(x f α凸函数•定义3 (凸函数)设函数定义在凸集上，若对于及,都有,则称为上的凸函数.f nR D ⊂D y x ∈∀,]1,0[∈∀α)()1()())1((y f x f y x f αααα-+≤-+f D •定义4 (严格凸函数)设函数定义在凸集上若对于及,都有,则称为上的严格凸函数.f n R D ⊂D y x ∈∀,)1,0(∈∀α)()1()())1((y f x f y x f αααα-+<-+f D凸函数•定理1(一阶条件) 设在凸集上可微, 则在上为凸函数的充分必要条件是对, 都有.f n R D ⊂f D D y x ∈∀,)()()()(x y x f x f y f T -∇+≥•定理2(二阶条件) 设在开凸集上二阶可微,则(1).在为上凸函数的充要条件为时,半正定.(2). 时, 正定, 则为上的严格凸函数.f n R D ⊂f D D x ∈∀)(2x f ∇D x ∈∀)(2x f ∇f D 1x 0x 1f 0f ()f x 000()f f T x x +∇-典型凸函数6) f (x) = x log x, x >0.既凸又凹！凸函数与不等式凸函数的性质性质1设()f x 是凸集n D R ⊂上的凸函数,实数0k ≥,则()kf x 也是D 上的凸函数.性质2设()()12,f x f x 是凸集nD R ⊂上的凸函数,实数,0λμ≥,则()()12f x f x λμ+也是D 上的凸函数.性质3设()f x 是凸集nD R ⊂上的凸函数,β是实数,则水平集()(){},,S f x x D f x ββ=∈≤是凸集. 12例5.试判断下列函数的凸凹性。
线性规划凸集凸函数课件
同理可证线性函数 f ( x) = cT x 也是 Rn上的凹函数。
凸函数的性质
性质1 设f 1, f 2为定义在凸集D上的凸函数，l 为非负实数， l 则f1, f1+ f2也是D上凸函数。
性质2 设D是R n中一个凸集，f 是定义在D上的一个凸函数， 则f 在D 的内部连续。
= a (1-a )(x12 + x22 - 2x1 x2 )
= a (1-a ) (x1-x2)2 ≥0
∴ a f (x1) +(1- a ) f (x2)≥ f [ax1 + (1 - a )x2 ]
所以，f (x) = x 2 是R上凸函数。
例：证明线性函数
f ( x) = cT x = c1 x1 + c2 x2 + L + cn xn
仅〝<〞成立,则称为 f (xD)上严格凸函数。
凹函数，严格凹函数
对凸的一元函数 f (x)的几
何意义为：在曲线上任取
两点P1(x1, f (x1)), P2(x2, f (x2))弦 P1P2 位于
弧 P1P2 之上（见图）。
p2 p1 (x, y)
f (x)
x1 x
x2
例如，对 f (x)= x 2，因 "x1,x2∈R ，"a ∈(0,1)
多边形的顶点是 凸集的极点（顶点）。
圆周上的点都是 凸集的极点（顶点）。
定义4 设D为R n中非空凸集，若对" x(1)，x(2) ∈D ，
"a ∈(0,1)恒有
f [ax(1) +(1-a )x(2) ]≤ a f (x(1) )+ (1- a)f (x(2) ) (*)
第二章 最优化-线性规划概要
10
凸 函 数
定义2.1.4 设函数f (x)定义在凸集D Rn上,若
对任意的x,y ∈D,及任意的a ∈ [0,1]都有
f (a x+(1-a)y) ≤ a f(x)+(1-a) f (y)
则称函数f (x)为凸集D上的凸函数.
11
凸 函 数
定义2.1.5 设函数f (x)定义在凸集D Rn上,若 对任意的x,y∈D,x≠y,及任意的a ∈(0,1)都有 f (a x+(1-a)y) < a f(x)+(1-a) f (y) 则称函数f (x)为凸集D上的严格凸函数.
x1 2 x2 3x3 8 x1 2 x2 3x3 x4 8
29
一般形式转化为标准型
(iv)若某个约束方程右端项 bi 0 ，则在约束 方程两端乘以（-1），不等号改变方向，然 后再将不等式化为等式。
(v) 若变量xj无非负约束，则引入非负变量 xj’≥0, xj’’≥0, 令xj=xj’-xj”.
8
极 点
定义2.1.3 设D为凸集, x∈D.若D中不存在两 个相异的点y,z及某一实数a∈(0,1)使得 x=ay+(1-a)z 则称x为D的极点. 凸 集 极点 凸 集 极点
9
极 点
例 D={x ∈Rn| ||x||≤a}(a>0),则||x||=a上的点 均为极点 证明:设||x||=a,若存在y,z ∈D及a∈(0,1),使得 x=ay+(1-a)z.则 a2=||x||2≤a2||y||2+(1-a)2||z||2+2a (1-a)||y||||z||≤a2 不等式取等号,必须||y||=||z||=a, 容易证明y=z=x,根 据定义可知,x为极点.
第二节 凸函数和凸规划
（2） 若 f 1 , f 2 : R R 都是 S 上的凸函数， 则 f 1 f 2 是 S 上的凸函数。
n
定理 4.2.2 设 S R c R ，则集合
n
n f : R R 是凸函数， 是非空凸集，
H S ( f , c) x S f ( x) c
是凸集。（f 在 S 上关于数 c 的水平集）
g1 ( X ) , g2 ( X )
2 g1 2 g1 2 x x x 0 0 半正定， 1 2 1 2 g1 ( X ) , 0 0 2 2 g 凸函数 g1 1 2 x2 x1 x2 2 g2 2 g2 2 x x x 2 0 1 2 1 半正定， 2 g2 ( X ) . 0 0 2 2 g 凸函数 g2 2 2 x2 x2 x1
证明：
x , x H S ( f , c ), 有f (x ) c, f ( x ) c, 且x , x S，
1 2 1 2 1 2
S 是凸集， （ 0,1)，有ax + (1 - a)x S,
1 2
而f 是S上的是凸函， f ( x1 (1 ) x 2 ) f (x1 ) (1 ) f ( x 2 ) c (1 )c c, x (1 ) x H S ( f , c )
f ( x*) f ( x)， x X
N ( x*)
（ 1 ）
如果x*不是整体最优解，则 x X，使
f ( x*) f ( x)，
又因为f是凸函数，所以
f ( x (1 ) x*) f (x ) (1 ) f ( x*) f ( x*) (1 ) f ( x*) f ( x*) （） 2
(大学数学)凸集和凸函数讲义
二阶条件
定理3: 设在开凸集 D Rn 内 f x 二阶可微，则
(1) f x 是 D内的凸函数的充要条件为，在 D 内任一点 x 处，f x 的海色矩阵Gx半正定,
其中：
2 f x12
2 f
Gx
2
f
x
x2 x1
2 f
xn
x1
2 f
x1 x2 2 f x22
若对任意的 x, y D , 及任意的 0,1
都有：f x 1 y f x 1 f y 则称函数 f x 为凸集 D上的凸函数．
定义5 严格凸函数
注：将上述定义中的不等式反向，可以得到 凹函数的定义．
例1：设 f x x 12 , 试证明 f x 在 ,
上是严格凸函数．
证明: 设 x, y R, 且 x y , 0,1 都有： f x 1 y f x 1 f y
极点
定义1 设 D为凸集，x D, 若 D 中不存在
两个相异的点y , z 及某一实数 0,1 使得 x y 1 z , 则称 x 为 D 的极点．
例：D x Rn x a a 0, 则 x a
上的点均为极点．
• 图中0，Q1,2,3,4都是顶点。
凸函数
定义4 设函数 f x 定义在凸集 D Rn 上，
§ 1.2 凸集和凸函数
一 、凸集
定义1 设S为n维欧氏空间Rn 中一个集合.若对S
中任意两点,联结它们的线段仍属于S.即 对S中任意两点 x（1），x（2）及每个实数 [0，1]，都有
x（1）（1 ）x（2） S
则称S为凸集.
x（1）（1 ）x（2）称为x（1）和x（2）的凸组合 .
• 实心圆，实心球体，实心立方体等都是凸集， 圆环不是凸集。从直观上讲，凸集没有凹入 部分，其内部没有空洞。图1-7中的(a)(b)是凸 集，(c)不是凸集。
43凸函数与凸规则 (2)
f( x1 +(1- )x2) f(x1 )+(1-) f(x2 )
+(1-)
= 又 ∵ x1 +(1- )x2∈R ∴ x1 +(1- )x2∈S
例1、证明 f(x)=x12+x22为凸函数
证：只证x12为凸函数 任取a1 , a2∈R
若x12凸，则应有[a1+(1-)a2]2 a12+(1-)a22
整理得(2-)(a1 -a2)2 0 ∵ 0 1 ∴ 2- 0
∴ x12是, x12+x22也是凸函数
(3)、判定 定理1：(一阶条件) f(x)在某开凸集R上定义且可微，f(x)为凸函数
对任x1 , x2∈R, 有f(x2) f(x1)+ f(x1)T(x2-x1)
几何意义：过f(x)任一点切线，必在f(x)曲线 之下。
f
f(x1)+ f(x1)T(x2-x1)
x2
x1
f(x2 )
y=f(x1)+ f(x1)T(x-x1)
x
定理2：(二阶条件)
f(x)在某开凸集R上定义，有二阶连续偏导数， f(x)为凸函数 Hesse矩阵在R上半正定 (4)、凸函数极值：
定理3：f(x)为定义在凸集R上的凸函数，则 它任一个极小点就是R上的最小点。全部极 小点集合是凸集。
称f(x)为R上的凸函数 ﹡当x1 x2 f( x1+(1- )x2)< f(x1 )+(1-) f(x2 )
称f(x)为严格凸函数
几何意义： f(x)任意两点连线，割线上的点 在函数上方。
f(x2 )
f(x1 )+(1- )f(x2 )
线性规划 凸集凸函数
例：证明线性函数
f ( x ) = c T x = c 1 x 1 + c 2 x 2 + L + c n x n
是 R n 上的凸函数。
同理可证线性函数 f(x)=cTx也是 R n上的凹函数。
精品课件
凸函数的性质
性质1 设f 1, f 2为定义在凸集D上的凸函数，l 为非负实数，则 l f1, f1+ f2也是D上凸函数。
xn
x1
xnx2
为 f (x) 在点x处的Hesse矩阵精品。课件
…
2 f
x1xn
…
2 f
x2
xn
L
…
2 f
xn2
多元函数Taylor展开：
fx0+p=fx0+fx0Tp+o(|p|||) fx0+p=fx0+fx0Tp+1 2pT2fx0p+o(|p||2|)
精品课件
定理2(一阶条件）：
是 R n 上的凸函数。
精品课件
定义6:凸规划
R设n D
f (为x )凸集,
凸函数，mi则n f称(x规) 划问题 xD
是定义在D上的
为凸规划。
若规划
min f (x)
s.t.
gi
(x)
0,
hj (x) = 0,
i = 1,2, …, m j = 1,2, …,l
中, f (x) 和- gi (x) 为凸函数, hi (x) 是线性函数,则上述问题为 求凸规划。
精品课件
多边形的顶点是 凸集的极点（顶点）。
圆周上的点都是 凸集的极点（顶点）。
精品课件
定义4 设D为R n中非空凸集，若对" x(1)， x(2) ∈D ，
2凸性
第二章 凸性本章主要内容：凸集的概念及其性质 多胞形的概念及其表示定理 凸函数的概念及性质 凸函数的判别方法 凸规划的概念及基本性质教学目的及要求：理解凸集的概念并掌握其性质，理解多胞形的概念并掌握其表示定理；理解凸函数的概念及性质，掌握凸函数的判别方法，理解凸规划的概念及基本性质。
教学重点：凸规划的基本性质．教学难点：多胞形的表示定理．教学方法：启发式．教学手段：多媒体演示、演讲与板书相结合．教学时间：4学时．教学内容：§2.1 凸集定义 1212,,,,,,,nm m x x x R R λλλ∀∈∈ ，称1mi i i x λ=∑为点12,,,m x x x 的线性组合．当1211,,,,0m i m i λλλλ==≥∑ ，称1mi i i x λ=∑为点12,,,m x x x 的凸组合．当1211,,,,0m i m i λλλλ==>∑ ，称1m i i i x λ=∑为点12,,,m x x x 的严格凸组合． 当12,,,0m λλλ≥ ，称1mi i i x λ=∑为点12,,,m x x x 的凸锥组合．定义 设n S R ⊆，如果12,,[0,1]x x S λ∀∈∀∈，有12(1)x x S λλ+-∈，则称S 为n R 中的凸集．定理1 任意多个凸集的交集是凸集．定理2 设12,n S S R ⊆是凸集，R λ∈，则（1）12121122{|,}S S x x x S x S +=+∈∈是凸集；（2）12121122{|,}S S x x x S x S -=-∈∈是凸集；（3）1111{|}S x x S λλ=∈是凸集．定理3 n S R ⊆是凸集的充要条件是12122,,,,,,,,m m m x x x S x x x ∀≥∀∈ 的一切凸组合都属于S ．定义 设n S R ⊆，则S 中任意有限个点的所有凸组合所构成的集合称为S 的凸包，记为()H S ，即11(){|,0,1,2,,,1,}m mi i i i i i i H S x x S i m m N λλλ+===∈≥==∈∑∑ ．其中N +为所有正整数的集合．特别地，若12{,,,}k S x x x = ，则称()H S 是由12,,,k x x x 所生成的凸包．定理4 设n S R ⊆，则()H S 是n R 中所有包含S 的凸集的交集．定义 设0,n S R x S ⊆∈，如果,(0,)x S λ∀∈∀∈+∞，有00()x x x S λ+-∈，则称S 是以0x 为顶点的锥，如果锥S 又是凸集，则称S 为凸锥．定义 设12,n S S R ⊆是非空集合，如果,0,n p R p R α∃∈≠∈使12{|,},{|,}n T n T S H x x R p x S H x x R p x αα-+⊆=∈≤⊆=∈≥，则称超平面{|,}n T H x x R p x α=∈=分离集合1S 和2S ．定理5 设n S R ⊂为非空闭凸集，\n y R S ∈，则存在唯一的x S ∈，使 inf{}0x y x y x S -=-∈>．定理6 设n S R ⊂为非空闭凸集，\n y R S ∈，则,0,n p R p R α∃∈≠∈，使 ,T T p x p y x S α≤<∀∈，即存在超平面{|,}n T H x x R p x α=∈=分离y 和S ．定理7 设,m n n A R b R ⨯∈∈，则下列两个关系式组有且仅有一组有解：0,0T Ax b x ≤>；,0T A y b y =≥．定理8 设m n A R ⨯∈，则下列两个关系式组有且仅有一组有解：0Ax ≤；0,0,0T A y y y =≥≠．定理9 设,m n p n A R B R ⨯⨯∈∈，则关系式组0,0Ax Bx <=；无解当且仅当,0,0m u R u u ∃∈≥≠和p v R ∈满足0T T A u B v +=．§2.2 多胞形的表示定理定义 n R 中有限个半空间的交集称为多胞形．非空有界的多胞形称为多面体．设,m n m A R b R ⨯∈∈，记{|,0}K x Ax b x ==≥．把K 中矩阵A 的第j 列j p 称为x 的第j 个分量j x 对应的列向量．定义 设n S R ⊆是凸集，0x S ∈，若0x 不能表示成S 中两个不同的点的严格凸组合，则称0x 为S 的极点．定理1 若K ≠∅，则K 必有极点．定理2 设x K ∈，则x 为K 的极点的充分必要条件是x 的非零分量对应的列向量线性无关．推论3 K 的极点个数是有限的．定理4 若K ≠∅，则00ˆˆ{|,}K K K x y x K y K =+=+∈∈， 其中11ˆ{|0,1,2,,,1}k ki i i i i i K x i k λλλ===≥==∑∑ ，12,,,kx x x 为K 的全部极点， 0{|,0,0}n K y y R Ay y =∈=≥．推论5 设K ≠∅，则K 有界的充分必要条件是0{0}K =．推论6 设K 是非空有界集，12,,,k x x x 为K 的全部极点，则x K ∈的充分必要条件是10(1),1k i i i i k λλ=∃≥≤≤=∑，使1ki i i x x λ==∑．定义 设n S R ⊆是非空凸集，,0,n d R d ∈≠ 如果,,0x d S x S λλ+∈∀∈∀>，则称d 是S 的一个方向．又设1d 和2d 是S 的两个方向，若0α∃>，使12d d α=，则称1d 和2d 是相同的方向．如果S 中的方向d 不能表示为两个不相同的方向的正的线性组合，则称d 为S 的极方向．定理7 设K ≠∅，则d 为K 的方向的充分必要条件是0,0,0d d Ad ≥≠=． 推论8 设K ≠∅，则K 为有界集的充分必要条件是K 没有方向． 若记0{|0,1,0}T K y Ay e y y ===≥，其中(1,1,,1)T n e R =∈ ，则有如下结论： 当K ≠∅时，d 为K 的极方向当且仅当1T d e d 为0K 的极点． 当K 为无界集时，设0K 的全部极点为12,,,l d d d ，记01{|0,1,2,,}lj j jj K d j l μμ==≥=∑ ． 定理9 若K 为无界集，则 00K K=． 定理10 若K 为无界集，K 的全部极点为12,,,(1)k x x x k ≥ ，K 的全部极方向为12,,,(1)l d d d l ≥ ，则x K ∈的充分必要条件是：10(1),1k i i i i k λλ=∃≥≤≤=∑和0(1)j j l μ≥≤≤使11k l i i j j i j x x d λμ===+∑∑．定义 设12,,,n k x x x R ∈ ，则称由12,,,k x x x 所生成的凸包为n R 中的多面体．如果21311,,,k x x x x x x --- 线性无关，则称n R 中的多面体12({,,,})k H x x x 是n R 中以12,,,k x x x 为顶点的单纯形．定理11 设12,,,n k x x x R ∈ ，则（1） 多面体12({,,,})k H x x x 中的极点必定是某个(1)r x r k ≤≤；（2） 如果12({,,,})k H x x x 是单纯形，那么它的极点的全体就是顶点的全体．定义 设n S R ⊆为多胞形，设12,x x S ∈为两个不同的极点， 012x x x ∀∈，如果34,x x S ∃∈使得0x 为34x x 的内点，就一定有3412,x x x x ∈，则称1x 和2x 是S 的相邻极点，此时，线段12x x 称为S 的棱．定理12 单纯形中任何两个相异的顶点都是相邻的极点．§2.3 凸函数定义 设n S R ⊆是非空凸集，:f S R →，如果12,x x S ∀∈及[0,1]λ∈，都有 1212((1))()(1)()f x x f x f x λλλλ+-≤+-，则称()f x 为S 上的凸函数．如果1212,,x x S x x ∀∈≠及(0,1)λ∈，都有1212((1))()(1)()f x x f x f x λλλλ+-<+-，则称()f x 为S 上的严格凸函数．如果()f x -为S 上的凸函数，则称()f x 为S 上的凹函数．如果()f x -为S 上的严格凸函数，则称()f x 为S 上的严格凹函数． 定理1 设()f x 是凸集n S R ⊆上的凸函数，121,,,,0(1,2,,),1kk i i i x x x S i k λλ=∈≥==∑ ，则 11()()k ki i i i i i f x f x λλ==≤∑∑．定理2 设12(),(),,()k f x f x f x 是凸集n S R ⊆上的凸函数，则1()(),0(1,2,,)ki i i i x f x i k ϕλλ==≥=∑ ，和 1()max ()i i k x f x φ≤≤=都是S 上的凸函数．定义 设,:,n S R f S R R α⊆→∈，称(,){|,()S f x x S f x αα∈≤ 为函数()f x 在集合S 上关于数α的水平集．定理3 设()f x 是凸集n S R ⊆上的凸函数，则R α∀∈，水平集(,)S f α是凸集．定理4 设n S R ⊆是非空开凸集，:f S R →在S 上可微，则 ()f x 为S 上的凸函数的充分必要条件是2112112()()()(),,T f x f x f x x x x x S ≥+∇-∈．()f x 为S 上的严格凸函数的充分必要条件是211211212()()()(),,,T f x f x f x x x x x S x x >+∇-∈≠．定理5 设n S R ⊆是非空开凸集，:f S R →在S 上具有二阶连续偏导数，则 ()f x 为S 上的凸函数的充分必要条件是 ,()x S f x ∀∈在x 处的Hesse 矩阵2()f x ∇是半正定矩阵．定理6 设n S R ⊆是非空开凸集，:f S R →在S 上具有二阶连续偏导数，如果2,()x S f x ∀∈∇是正定矩阵，则()f x 是S 上的严格凸函数．定理7 设:n f R R →为二次函数，即1()2T T f x x Qx b x c =++，其中Q 是n 对称矩阵，则（1）()f x 为n R 上的凸函数的充分必要条件是Q 为半正定矩阵；（2）()f x 为n R 上的严格凸函数的充分必要条件是Q 为正定矩阵．§2.4 凸规划定义 设n S R ⊆为凸集，()f x 是S 上的凸函数，则称规划问题m i n ()x S f x ∈为凸规划问题．例 1 当()f x 是n R 上的凸函数时，无约束最优化问题min ()n x Rf x ∈是凸规划问题．例2 设,,m n m n A R b R c R ⨯∈∈∈，则线性规划问题min ;,0T c x Ax b x ⎧⎪=⎨⎪≥⎩s.t. （LP ）是凸规划问题．证明 因为（LP ）的目标函数T c x 是线性函数，所以是凸函数．又由于（LP ）的可行域{|,,0}n K x x R Ax b x =∈=≥是多胞形，因此K 是凸集，从而（LP ）是凸规划．例3 设n S R ⊆为开凸集，()f x 是S 上的凸函数，()(1,2,,)i g x i m = 是S 上的凹函数，()(1,2,,)j h x j l = 是n R 上的线性函数，则下面三个规划问题min ();()0,1,2,,,j f x h x j l ⎧⎨==⎩s.t. min ();()0,1,2,,,i f x g x i m ⎧⎨≥=⎩ s.t. min ();()0,1,2,,,()0,1,2,,i j f x g x i m h x j l ⎧⎪≥=⎨⎪==⎩s.t.都是凸规划问题．证明 记 1{|,()0,1,2,,}n j S x x R h x j l =∈== ， 2{|,()0,1,2,,}n i S x x R g x i m =∈≥= ，312S S S = ．要证明上面三个规划问题为凸规划问题，只要证明12,S S 和3S 为n R 中的凸集．因为()(1,2,,)j h x j l = 都是线性函数，所以1S 是l 个超平面的交集，从而1S 为凸集．又由于()(1,2,,)i g x i m -= 均为凸函数，因此各水平集(,0){|,()0}(1,2,,)n i i S g x x R g x i m -=∈≥=都是凸集．于是21(,0)mi i S S g ==- 也是凸集，从而312S S S = 是凸集． 定理1 凸规划问题min ()x Sf x ∈的任何局部极小点都是全局极小点，且它的极小点的集合为凸集．证明 用反证法证明定理的前一部分．设x S ∈为凸规划问题m i n ()x Sf x ∈的局部极小点，即存在x 的某个δ邻域()N x δ，使()(),()f x f x x N x S δ≤∀∈ ．若x 不是全局极小点，则存在xS ∈ ，使()()f x f x < ．由于()f x 为S 上的凸函数，因此 (0,1)λ∀∈，有((1))()(1)()()f x xf x f x f x λλλλ+-≤+-< ． 当λ充分接近1时，可使(1)()x xN x S δλλ+-∈ ，于是()((1))f x f x x λλ≤+- ，矛盾．从而x 是全局极小点．由以上证明可知，()f x 在S 上的极小值也是它在S 上的最小值．设最小值为α，则凸规划问题min ()x Sf x ∈的极小点的集合是水平集(,)S f α，它是凸集． 定理2 在凸规划问题min ()x S f x ∈中，若()f x 为S 上的严格凸函数，且x 为其局部极小点，则x 是它的唯一的全局极小点．证明 由定理1知，x 是全局极小点．假设x也是其全局极小点，且x x ≠ ，则()()f xf x = ，从而由()f x 为S 上的严格凸函数知 1111()()()()2222f x x f x f x f x +<+= ， 这与x 为全局极小点相矛盾．所以min ()x S f x ∈的全局极小点必唯一．。
凸集和凸函数和凸规划课件
设S Rn是非空闭凸集， y Rn \ S, (1)则存在唯一的 x S, 使得它与y的距离
为最小 , 即有
x - y inf x y x S 0.
(2) x S 是点 y 到集合 S 的最短距离点的
充要条件为：x x T x y 0 x S .
注：闭凸集外一点与闭凸集的极小距离， 即投影定理。
凸函数
下面的图形给出了凸函数f x, y x4 3 x2 y4
y2 xy 的等值线的图形，可以看出水平集是凸集.
凸函数
凸函数
凸函数的判别定理
定理1: 设 f x是定义在凸集 D Rn 上，x, y D ,
令 t f tx 1 t y, t 0,1, 则:
(1 f x是凸集 D 上的凸函数的充要条件是对 )任意的x, y D ,一元函数t 为 0,1上的凸函数.
设在开凸集二阶可微若在fx是严格凸的但在点不是正定的凸函数的判别定理凸函数的判别定理二阶条件二阶条件40为正定矩阵条件是上的严格凸函数的充要其中为二次函数即凸函数的判别定理凸函数的判别定理二阶条件二阶条件41凸规划convexprogramming上的凸函数则称规划问题min为凸规划问题
凸集和凸函数和凸规划课件
x 1 y D,
则称集合 D 为凸集．
常见的凸集：单点集 { x }，空集 ，整个欧氏空间 Rn，
超平面：H x Rn a1 x1 a2 x2 an xn b ,
H
半空间：
x Rn a1x1 a2 x2
= x Rn aT x b
an xn b
凸集----举例
H(S)是Rn 中所有包含S 的凸集的交集.
H(S)是包含S 的最小凸集.
凸集-----凸锥 (Convex Cone)
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
x ( 2)
f ( x 2 ) > f ( x1 ) + f '( x1 )( x 2 − x1 )
y = f ( x ) + f ' ( x )( x − x )
1 1 2 1
f ( x2 )
x (1) x ( 2)
凸函数的定义表明， 凸函数的定义表明，凸函数上任意两点的函数值的 连线上的点都在曲线的上方； 连线上的点都在曲线的上方；而上述充要条件则说 函数图像上任一点处的切线都在曲线的下方。 明，函数图像上任一点处的切线都在曲线的下方。
书例4.2.2 书例
2. 凸规划及其性质
min f ( x ) s .t . g i ( x ) ≤ 0, i = 1,..., p h j ( x ) = 0, j = 1,...q
g ( x) ≤ 0, i = 1,...,p n i X = x ∈ R hj ( x) = 0, j = 1,...,q
是非空凸集。 定理 4.2.1 设 S ⊂ R 是非空凸集。 n 上的凸函数， （1） 若 f : R a R 是 S 上的凸函数， α ≥ 0 ，则 α f 是 S 上的凸函数； 上的凸函数； n （2） 若 f1 , f 2 : R a R 都是 S 上的凸函数， 上的凸函数， 上的凸函数。 则 f1 + f 2 是 S 上的凸函数。
第二节 凸函数和凸规划
对于定义在凸集上的凸函数，其极小点就是最小点， 对于定义在凸集上的凸函数，其极小点就是最小点， 极小值就是最小值。 极小值就是最小值。
• 凸函数及其性质 • 凸规划及其性质
称为凸集， 集合 S 称为凸集，如果 S 中任两点的连线内的 点都在集合 S 内。
X2
x1
证明一集合是否为凸集的方法为，假设 证明一集合是否为凸集的方法为，假设X1,X2在此集 合中，则有任意a(0<a<1)使得 1+(1-a)X2属于该集合 使得aX 属于该集合. 合中，则有任意 使得
充分小， 取α>0充分小，有 充分小
α x + (1 − α ) x* ≈ x* ∈ X I N δ ( x*),
1 （）
⇒ f ( x*) ≤ f (α x + (1 − α ) x*)，与（2）矛盾
p112例 4.2.3 验证下列（MP）是凸规划 验证下列（MP）
2 2 min f ( x1, x2 , x3 ) = 2x12 + x2 + 2x3 + x1x3 − x1x2 + x1 + 2x2 2 s.t. g1 ( x) = x12 + x2 − x3 ≤ 0 g2 ( x) = x1 + x2 + 2x3 ≤ 16 g3 ( x) = − x1 − x2 + x3 ≤ 0
⇒ f ( x 2 ) > f ( x1 ) + ∇f ( x1 )T ( x 2 − x1 )
∀ x1 , x 2 ∈ S, x1 ≠ x 2
f (x)
αf ( x (1) ) + (1 − α ) f ( x ( 2) )
f (αx (1) + (1 − α ) x ( 2) )
o x (1)
2 min f ( X ) = x12 + x2 − 4 x1 + 4 g1 ( X ) = − x1 + x2 − 2 ≤ 0 g2 ( X ) = + x12 − x2 + 1 ≤ 0 x , x ≥ 0 1 2
1．建立M文件 ．建立 文件 文件mycon1.m定义非线性约束： 定义非线性约束： 定义非线性约束 function [g,ceq]=mycon1(x) g=[-x(1)+x(2)-2;x(1)^2-x(2)+1]; ceq=[]; 2．输入: ．输入 clear
是非空开凸集， 二阶连续可微 定理 4.2.4 设 S ⊂ R n 是非空开凸集， f : S a R 二阶连续可微，则 f 是 S 上的凸函数的充要条件是 f 的 Hesse 矩阵 ∇ 2 f ( x ) 在 S 上是半正定 的。 上是正定矩阵时， 上的严格凸函数。（注意： 。（注意 当 ∇ 2 f ( x ) 在 S 上是正定矩阵时，f 是 S 上的严格凸函数。（注意：该 逆命题不成立。） 逆命题不成立。） ∂ 2 f ( x) ∂ 2 f ( x) ∂ 2 f ( x) .... 2 ∂x1 ∂x1 ∂x 2 ∂x1 ∂x n 2 2 ∂ 2 f ( x ) 注：线性函 ∂ f ( x) ∂ f ( x) ... 2 ∂x ∂x ∂x 2 ∂x 2 ∂x n 数是凸函数 2 ∇ f ( x) = 2 1 . . . . 2 ∂ f ( x) ∂ 2 f ( x) ∂ 2 f ( x) 2 ∂x n ∂x1 ∂x n ∂x 2 ∂x n
如图所示，该问题最优解（最小点） 如图所示，该问题最优解（最小点）在x*点取得 点取得 。
= (0.58 1.34)
T
f ( X * ) = 3.8
g2 ( X ) = 0
x2
2 1
g1( X ) = 0
x *(0.58, 1.34)
•
f ( X *) = 3.8
1 2
4
−2 o
x1
2 2 min f ( X ) = x12 + x2 − 4 x1 + 4 = ( x1 − 2) 2 + x2 g1 ( X ) = − x1 + x2 − 2 ≤ 0 g2 ( X ) = + x12 − x2 + 1 ≤ 0 x , x ≥ 0 1 2
1 2 1 2 1 2
Q S 是凸集， α ∈ 0,1)，有ax 1 + (1 - a)x 2 ∈ S, ∴∀ （ ⇒ 而 f 是 S上 的 是 凸 函 ， f (α x1 + (1 − α ) x 2 ) ≤ α f (x1 ) + (1 − α ) f ( x 2 ) ≤ α c + (1 − α )c = c, ⇒ α x + (1 − α ) x ∈ H S ( f , c )
f ( x*) ≤ f ( x )， ∀x ∈ X I N δ ( x*)
如果x*不是整体最优解，则 ∃ x ∈ X，使 如果 不是整体最优解， 不是整体最优解
1 （）
f ( x*) ≥ f ( x )，
又因为f是凸函数， 又因为 是凸函数，所以 是凸函数
f (α x + (1 − α ) x*) ≤ α f (x ) + (1 − α ) f ( x*) < α f ( x*) + (1 − α ) f ( x*) = f ( x*) （2 ）
上的凸函数， 皆为线性函数， 皆为 R n 上的凸函数， h j ( x ), j = 1,..., q 皆为线性函数， 上的凸函数， (MP)是凸规划 是凸规划。 并且 f 是 X 上的凸函数，则(MP)是凸规划。
定理 4.2.6 体最优解。 体最优解。
凸规划的任一局部最优解都是它的整
证明： x*是凸规划的一个局部解， 证明：设x*是凸规划的一个局部解，则存在δ>0,使 是凸规划的一个局部解 使
∂ 2 g2 ∂ 2 g2 ∂x1∂x2 ∂x12 2 0 半正定， 2 ∇ g2 ( X ) = = . 半正定， ∂2 g 0 0 凸函数 ∂ 2 g2 2 2 ∂x2 ∂x2 ∂x1
所以，该问题为凸规划。
* * X * = ( x1 x2 )T
g1 ( X ) , g 2 ( X )
∂ 2 g1 ∂ 2 g1 ∂x12 ∂x1∂x2 0 0 2 ∇ g1 ( X ) = = , 2 2 ∂ g ∂ g1 0 0 1 2 ∂x2 ∂x1 ∂x2
半正定， 半正定， 凸函数
1. 凸函数及其性质
是非空凸集， 定义 4.2.1 设 S ⊂ Rn 是非空凸集， f : S a R ，如果对任意的 α ∈(0,1) 有
f (αx1 + (1 − α)x2 ) ≤ αf ( x1 ) + (1 −α) f ( x2 ) ， ∀x1 , x2 ∈ S
上的凸函数 凸函数， 则称 f 是 S 上的凸函数，或 f 在 S 上是凸的。如果对于任意的 α ∈(0,1) 有
n
定理 4.2.2 设 S ⊂ R c ∈ R ，则集合
n
f : R n a R 是凸函数， 是非空凸集， 是凸函数， 是非空凸集，
H S ( f , c ) = {x ∈ S f ( x ) ≤ c}
是凸集。 的水平集） 是凸集。（f 在 S 上关于数 c 的水平集）
证明： 证明
∀x , x ∈ H S ( f , c ), 有f x ) ≤ c, f ( x ) ≤ c, 且x , x ∈ S， (
(a) 凸函数
(b)凹函数 (b)凹函数
f(X) f(X2)
f(X1)
X1
X2
X
f(X) f(X2)
+(1f(αx1+(1-α)x2 ) f(X1)
X1
αx1+(1-α)x2 +(1-
X2
X
f(X) αf( x1 ) +(1- α) f( x2) +(1f(X2)
f(αx1+(1-α)x2 ) +(1-
f(X1)
X1
αx1+(1-α)x2 +(1-
X2
X
f(X) 任意两点的函数值的连线上的点都在曲线的上方 αf( x1 ) +(1- α) f( x2) +(1f(X2)