最优化方法课件014

(ii)设D是凸集,b是一实数,则下面集合是凸集 b D={y | y =b x, x ∈ D}.
5
凸集的性质
(iii)设D1,D2是凸集,则D1与D2的和集 D1+D2={y|y=x+z,x ∈ D1,z ∈ D2}是凸集. 注:和集与并集有很大的区别,凸集的并集未必是凸 集, 而凸集的和集是凸集. 例:D1={(x,0)T|x ∈ R}表示 x 轴上的点, D2={(0,y)T|y ∈R},表示 y 轴上的点. 则D1∪D2表示两个轴的所有点,它不是凸集; D1+D2=R2是凸集
不等式取等号,必须||y||=||z||=a,且（ y,z ） =||y||||z||, 容易证明y=z=x,根据定义可知,x为极点.
9
凸函数
定义1.7.4 设函数f (x)定义在凸集D Rn上,若
对任意的x,y ∈ D,及任意的a ∈ [0,1]都有 f (a x+(1-a)y) ≤ a f(x)+(1-a) f (y)
11
凸函数的例
例1.7.3 设f (x)=(x–1)2,试证明f(x)在(–∞,+∞)上 是严格凸函数.
证明:设x,y∈ R,且x≠y, a (0,1)都有
f (ax+(1-a)y)-(a f (x) +(1-a)f (y)) =(ax+(1-a)y-1)2-a (x-1)2-(1-a) (y-1)2
则称函数f (x)为凸集D上的凸函数.
10
凸函数
定义1.7.5 设函数f (x)定义在凸集D Rn上,若
对任意的x,y∈D,x≠y,及任意的a ∈(0,1)都有 f (a x+(1-a)y) < a f(x)+(1-a) f (y)
则称函数f (x)为凸集D上的严格凸函数.
将上述定义中的不等式反向,可以得到凹函数 和严格凹函数的定义.
§1.7 凸集与凸函数
1
凸集
定义1.7.1 设集合D Rn,若对于任意点x,y∈ D,
及实数a a 1,都有 ax+(1-a)y ∈ D,
则称集合D为凸集. 常见的凸集:空集(补充定义),整个欧式空间Rn, 超平面 H={x∈ Rn|a1x1+a2x2+…anxn=b} 半空间 H+={x∈Rn|a1x1+a2x2+…anxn≥b}
6
推论 凸集的线性组合是凸集.
定义1.7.2 k
设xi∈
Rn,i=1,…,k,实数i≥0,
则 x i xi 称为x1,x2, …,xk的凸组合. i 1
k
i 1,
i 1
两点的凸组合 三点的凸组合 多点的凸组合 容易证明:凸集中任意有限个点的凸组合仍然 在该凸集中.
7
极点
定义1.7.3 设D为凸集, x∈D.若D中不存在两
2
例
3百度文库
凸集的例
例1.7.1 超球||x||≤r为凸集
证明 设x,y为超球中任意两点, ≤a≤1,则有 ||ax+(1-a)y||≤a||x||+(1-a)||y|| ≤a r+(1-a) r = r, 即点ax+(1-a)y属于超球,所以超球为凸集.
4
凸集的性质
(i)有限个(可以改成无限)凸集的交集为凸集. 即:若Dj(j ∈ J)是凸集,则它们的交集 D={x|x ∈ Dj,j ∈ J } 是凸集.
17
凸函数的判断
18
一阶条件
定理1.7.2 (一阶条件) 设在凸集D Rn上f(x)可微,则f(x)在D上为凸函 数的充要条件是对任意的x,y ∈ D,都有
= –a (1-a)(x-y)2<0
因此f(x)在(–∞,+∞)上是严格凸函数. 例1.7.4 线性函数f (x)=cTx=c1x1+c2x2+···+cnxn 既是Rn上凸函数也是Rn上凹函数.
12
凸函数的几何性质
对一元函数f (x),在几何上a f (x1)+(1-a)f (x2) (0≤a≤1)表示连接(x1,f(x1)),(x2,f (x2))的线段, f(ax1+(1-a)x2)表示在点ax1+(1-a)x2处的函数
值,所以一元凸函数表示连接函数图形上任 意两点的线段总是位于曲线弧的上方.
13
对于一元凸函数f(x),可以发现,位于函数曲线 上方的图形是凸集.事实上这一结论对于多元 函数也是成立的,而且是充要条件,即有下面的 定理.
定理:设f(x)是定义在凸集D Rn上的函数,则 f(x)是凸函数的充要条件是其上图epi(f)为凸 集,其中epi(f)={(x,y)|x∈ D,y ∈ R,y≥f(x)}. 证明:作业
下面的图形给出了凸函数f(x,y)=x4+3x2+y4+y2+xy 的等值线(f(x,y)=2,4,6,8,10,12)的图形.可以看出 水平集为凸集.
15
凸函数的性质
2
1
0
-1
-2
-1.5
-1
-0.5
0
0.5
1
1.5
16
凸函数的判断
定理1.7.1 设f(x)定义在凸集D Rn上,x,y∈D.
令F (t)=f (tx+(1-t)y), t ∈ [0,1],则
14
凸函数的性质
(i)设f(x)是凸集D Rn上的凸函数,实数k≥0,则 kf(x)也是D上的凸函数.
(ii)设f1(x), f2(x)是凸集D Rn上的凸函数,实数
m 0,则f1(x)+m f2(x)也是D上的凸函数. (iii)设f(x)是凸集D Rn上的凸函数,b为实数,
则水平集S(f,b)={x|x∈D,f(x)≤b }是凸集.
(i) f(x)是凸集D上的凸函数的充要条件是对任
意的x ∈ D,一元函数F (t)为[0,1]上的凸函数.
(ii) f(x)是凸集D上的严格凸函数的充要条件是
对任意的x,y ∈ D(x≠y),一元函数F (t)为[0,1]
上的严格凸函数. 该定理的几何意义是:凸函数上任意两点之间 的部分是一段向下凸的弧线.
个相异的点y,z及某一实数a∈(0,1)使得 x=ay+(1-a)z
则称x为D的极点.
凸
凸
集
集
极点
极点
8
极点
例1.7.2 D={x ∈Rn| ||x||≤a}(a>0),则||x||=a上 的点均为极点
证明:设||x||=a,若存在y,z ∈D及a∈(0,1),使 得x=ay+(1-a)z.则 a2=||x||2=（ay+(1-a)z,ay+(1-a)z） ≤a2||y||2+(1-a)2||z||2+2a (1-a)||y||||z||≤a2