线性规划的基本定理-最优化方法

j 1
j 1
现构造两个点X（1），X（2），使满足
X（1）=（x1+αλ1,…, xk+αλk ,0,…,0）T X（2）=（x1-αλ1,…, xk-αλk ,0,…,0）T
线性规划解的基本定理
定理2：设X是可行域D的极点，那么，X最多有m个 正分量。
证明：设X=(x1，···xk，0，···，0)T，若k>m，由
z=λx+(1-λ)y
这说明当0 ≤ λ ≤1 时，λx+(1λ)y 表示以x.y为端点的直线段上的所 有点，因而它代表以 x.y为端点的直线 段。
一般地，如果x.y是n维欧氏空间Rn中的两点，则 有如下定义：
如果 x=(x1…xn)T,y=(y1…yn)T是Rn中任意两点，定 义z=λx+(1-λ)y(0≤λ≤1),z=(z1…zn)T 的点 所构成的集合为以x,y为端点的线段，对应λ=0， λ=1的点 x, y叫做这线段的端点，而对应 0<λ<1的点叫做这线段的内点。
表明X不是D的极点，与已知条件矛盾，故k≤m。
线性规划解的基本定理
定理1.4：对标准形式的线性规划，基可行解与可行 域的极点一一对应。
证明：首先证明极点必是基可行解。设X是极点， 由定理1.3,可设X=(x1,…xk,0,…,0)T xj>0,k≤m 若X不是基可行解，由定理1.2，向P1,P2,…,Pk应 线性相关。仿照定理1.3的证明过程，可推导出X 不是极点，与已知条件矛盾。故可知X是基可行解。
其次证明充分性。设X的正分量为x1，x2,…,xk，其对 应的列向量P1,P2,…,Pk线性无关。显然k≤m。
若k=m，则P1,P2,…,Pk可用来构成一个基，所 以X是基本解。而已知X是可行解，故X又是基可行 解。
若k<m，由于A的秩为m，比可从A中再挑出m-k 个列向量，与P1,P2,…,Pk ，一起构成一个线性无 关极大组，即为一个基，由此可知X是基可行解。
定义1.7：设集合S是n维欧式空间En中的闭凸集，d 是En中的非零向量。如果对于S的每个点X，以及 一切非负的数λ，都有
X+λd∈S，λ≥0
则称向量d是凸集S的一个方向。如果d1， d2 是S的方向，且d1≠αd2,∀α>0，则d1,d2是两个不 同的方向。
进一步，如果d是凸集S的一个方向，且不能表 示为S的另外两个不同的方向的正组合，则称d是S 的一个极方向。
其中， 反之，满足上述条件的点必是可行点。
线性规划解的基本定理
定理1.5：如果标准线性规划的可行域D有界，则必 有某个极点是最优解。
定理1.6：设线性规划的可行域D无界,X1 X2,…,XK是 全部极点,d1,d2,…,dL是全部极方向,那么有
①最优解存在的充要条件是 Cdj≤0 j=1,2,···,L
直观地看，凸集是没有凹入的部分，其内部没有 孔洞。
例子：下列四幅图中，哪些是凸集？
x
y
x
y
(a)
(b)
x
y
x
y
(c)
(d)
上图中(a)(b)是凸集，而(c)(d)不是凸集
凸组合
定义1.5：设X1,…,Xm为En中的m个点，若存在m个 数λj满足：
则称点X是点X1,…,Xm的一个凸组合。 任取一个集合S，那么S中的点的所有凸组合的 集合是一个凸集。
由于d3，d4可以表示成两个不同正方向的组合， 所以d3，d4不是极方向。
定理1.1：设集合D={X|AX=b，X≥0}，其中A是行满秩的m行n 列矩阵。那么，集合D是闭凸集。
证明：首先证明D是凸集。任取D中的两个点X1，X2， 以及λ∈[0,1]，则有AXi=b，Xi≥0，i=1,2
A[λX1+(1-λ)X2]=λAX1+(1定理
定理1.3：设X是可行域D的极点，那么，X最多有m 个正分量。
证明：设X=(x1,…,xk，0,…,0)T，若k>m，由于A的秩为
m，则P1,P2,…Pk线性相关，于是存在k个不全为零的数λj，
使得
k
j Pj 0
j 1
因
n X∈D k
故
xj Pj b xj Pj b
约定A是行满秩的m行n列矩阵。
2、基、基向量、基变量、基本解、基本可行解、 可行基、最优解、最优基
基：矩阵A中一个m阶非奇异子矩阵 基向量：基的列向量 基变量：基向量对应的变量 基本解：非基变量全为零的解
基本可行解：非基变量为零，基变量都大于等于 零的解
可行基：基可行解对应的基 最优解：基本解中使目标函数最大的解 最优基：最优解对应的基
显然，当j>m时，有
xj xj1 xj2 0
m
再由于X（1），X（2）均是可行点，故可推知 xjiPj b,i 1, 2
两式相减，得
m
x1j x2j Pj 0
j 1
j 1
已知P1,P2,…,Pm线性无关，所以有 xj1 xj2, j 1,2,,m
且
λX1+(1-λ)X2 ≥0
所以
λX1+(1-λ)X2 ∈D
由凸集的定义知，D是凸集。
其次，可以证明D是闭集。任取D中的收敛序列{Xk}， 设其极限点为 ，则只需要证明 属于D即可。
注意D是线性规划可行域，可等价地表述为
（1-4） 所以Xk的每个分量Xk j，j=1,2，···，n都满足：
（1-5）
其中,α是充分小的正数。显然有X（1）≥0，X（2）≥0
且
K
k
k
AX 1 xj j Pj xjPj j Pj b
j 1
j
j 1
所以
X（1） ∈D
同理
X（2）∈D
注意到λj不全为零，α>0，所以有 X（1）≠ X（2）
但
X=0.5 X（1） +0.5 X（2）
其次证明基可行解必是极点。设X是基可行解， 由定义，可设其对应的基向量为P1,P2,…,Pm ,于 是，可设X为
X=(x1,…xk，0,…,0)T
若X不是极点，则存在异于X的两个X（1）,X（2）,X（1）≠ X（2） ， 以及数λ∈（0,1），使得
X=λX（1）+（1-λ）X（2）
上式的分量表达形式为 xj xj1 1 xj2, j 1,2,,n
②若存在最优解，则有某个极点是最优解
谢谢大家！ 欢迎老师和各位同学批评指正
进一步，如果d是凸集S的一个方向，且不能表 示为S的另外两个不同的方向的正组合，则称d是S 的一个极方向。
从图中可以看出，S是一个无界的集合，向量 d1,d2,d3,d4是S的不同方向，d1,d2是极方向， d3,d4不是极方向：
d3 =α1d1 +α2d2, α1>0,α2>0
d4 =β1d1 +β2d2, β1>0,β2>0
三、极点与极方向
定义1.6：设集合S是凸集，点X是S中的点。如果 对(0S,中1)的上任的意任两意个数相λ异，的都点不X可1，能X有2，：以及开区间
X=λX1 +(1-λ)X2 则称X是凸集S的一个极点。
点设X若成点为XS，的X极1，点X2的均充属要于条凸件集是S，：0≤λ≤1。那么
如果有等式X=λX1 +(1-λ)X2成立 则必有X=X1=X2
❖设R是Rn中的一个点集,（即R≤Rn ），对于任意 两点 x∈R,y∈R以及满足0≤λ≤1的实数λ,恒有: R=λx+(1-λ)y
❖ 则称R为凸集。
❖规定：单点集 {x} 为凸集，空集∅为凸集。
根据以上定义可以看到，凸集的几何意义是： 连接凸集中任意两点的直线段仍在此集合内。
例如实心的圆，实心的矩形，实心的球体， 实心的长方体等等均是凸集，圆周不是凸集。
因
故 在（1-5）式中，令
，则有
表明， ∈D，所以D是闭集。
四、线性规划解的基本定理
定理1.2：设X是标准线性规划问题的可行解。那 么，X是基可行解的充要条件是X的正分量对应的 列向量线性无关。
证明：首先证明必要性。设X是基可行解，那么，由基可 行解的定义，可知其正分量为基变量，对应的列向量都是 基向量，显然线性无关。
于A的秩为m，则P1，P2，···，Pk线性相关，于是存在
k个不全为零的数λk j，使得
j Pj 0
因
j 1
X∈D
故
n
k
j Pj b j Pj b
现构造两个点Xj（1 1），X（j12），使满足
X（1）=（x1+αλ1，··· xk+αλk ，0，···，0）T X（2）=（x1-αλ1，··· xk-αλk ，0，···，0）T
基
本
非
可行解
可 行
基本解
可 行
解
解
二、凸集
→引例 我们先考察二维平面上直 线段上任意一点的表示形 式。（如右图）
取x.y为平面上两点，用以原点为起点的 向量来表示x 和 y，并设z是线段xy上任 意一，得向量 z-y它与向量x-y平行且方 向相同，可以得到下面关系式：
可以得到：
z-y=λ(x-y) 有
综合得：
xj1 xj2
与已知条件矛盾，所以X必是极点。
线性规划解的基本定理
推论：线性规划可行域D必有且只有有限个极点。 表现定理：设D是线性规划的可行域，则 1.当D有界时，D中任意一点均可表现为其极点的凸
组合 2.当D无界时，必有且只有有限个极方向。设若D有K
个极点X1,X2,…,XK，有L个极方向d1,d2,…,dL，则 D中任一点X可表现为
线性规划的基本定理
本节主要内容
➢ 上节内容回顾 ➢ 凸集 ➢ 极点与极方向 ➢ 线性规划解的基本定理