第六章 非线性规划
6_4_非线性规划_多维约束优化_0507
mFra Baidu bibliotek
(3) 如果用求导的方法直接求取上式的极值，需要联立若干偏导方程式，这样求 解是比较困难的，为了便于在计算机上直接应用迭代寻优法，在建立拉格朗日乘子 函数 L x, 之后，立即引入新函数 s：
L min s j 1 x j
n
m 2 gi x i 1
罚项为： gi p x ui gi gi x , i 1, 2,..., m 2
令 L p m ，于是惩罚函数为： F x, M k f x M k gi x ，其中 M k 0 ， i 1
L
M 0 M1 ... M k M k 1... 且有 lim M k k
2
然后利用无约束的多变量函数寻优方法对 s 求极小值，即可得到原问题的最优 解。
拉格朗日乘子法
min 例2 用拉格朗日乘子法求解非线性规划问题 s.t. g1 x 3x1 4 x2 6 0
2 f x 2 x12 2 x1 x2 2 x2 6 x1
2
2
于是拉格朗日函数为：
2 2 2 L x 2 x12 2 x1 x2 2 x2 6 x1 1 3x1 4 x2 x3 6 2 x1 4 x2 x4 2
运筹学—第六章 非线性规划
二维问题的图解
【例6.3】我们考虑非线性规划问题：
x2 2 1
1
1 R 3 X* 2
min[(x1 4) ( x 2 4) ] x12 x 2 1 0 s.t. x2 3 0
2 2
图6-1
x1
C=5 C=3
(4 , 4)
目标函数和2个约束条件是：
t
min [ i (c1 c 2 t i e c3t i )]2
i 1
n
例2 构件容积问题
x3
设计一个右图所示的由圆锥和圆柱面 围成的构件，要求构件的表面积为 S， 圆锥部分的高和圆柱部分的高 x2 之 比为 a。确定构件尺寸，使其容积最 大。
x2 x1
2 m ax V (1 a / 3)x1 x 2 2 2 2 2 s .t . x1 x1 a x 2 2x1 x 2 x1 S x1 0, x 2 0
其中， g : R n R p , h : R n R q ，那么(NLP)可简记为 min f ( x ) min f ( x) g(x) 0 或者 h( x ) 0
当p=0,q=0时，称为无约束非线性规 划或者无约束最优化问题。 否则，称为约束非线性规划或者约束 最优化问题。
性质 6.2 设 S R n 是非空凸集， f : R n R 是凸函数， c R ，则集合
第六讲线性规划与非线性规划
应付检验员工资为 8 4x1 8 3x2 32x1 24x2,
因检验员错检而造成的损失为
(8 25 2% x1 815 5% x2 ) 2 8x1 12x2
min z (32x1 24x2 ) (8x1 12x2 ) 40x1 36x2
❖ 例1： min f (x1, x2 ) 2x12 3x1x2 3x22 3x1 x2
s.t. x1 2x2 3
2x1 x2 3
•
x1 3x2 4
x1 2, x2 0
❖ 改写成标准形式：
min
z
1 2
( x1
4
x2
)
3
3
6
x1 x2
3 T
1
x1 x2
： ❖ 例1 max z 0.4x1 0.28x2 0.32x3 0.72x4 0.64x5 0.6x6
s.t. 0.01x1 0.01x2 0.01x3 0.03x4 0.03x5 0.03x6 850
0.02x1 0.05x4 700
•
0.02x2 0.05x5 100
s.t.
2
1
1 3
x1 x2
3 4
1
2
x1 x2
3
2
x1 x2
0
❖ 编程(见MATLAB程序(erciguihua1))
第6章非线性规划
但是投入的资源有限，能源总共1O个单位，而每单位生产资料x1要消耗1单位 但是投入的资源有限，能源总共1O个单位，而每单位生产资料x 要消耗1 1O个单位、 能源，每单位生产资料x 要消耗2单位能源。 应如何安排生产资料使产出最大？ 能源，每单位生产资料x2要消耗2单位能源。问:应如何安排生产资料使产出最大？ 解: Max
第 六 章 非线性规划
6.1 基本概念和基本原理
一、非线性规划的数学模型： 非线性规划的数学模型： 某企业生产一种产品y需要生产资料x 例6-1 某企业生产一种产品y需要生产资料x1和x2，用经济计量学 方法根据统计资料可写出生产函数为: 方法根据统计资料可写出生产函数为:
1 2 y = 2 x1 / 3 ⋅ x 2 / 3
f(x) f(x) f(x)
o
a0
X* x2 x1 b0
x
o
a0 x2 x1 X*
b0
x
o
a0 x2
X*
x1 b0
x
x1,x2 在x*的右侧
x1,x2 在x*的左侧
x1,x2 在x*的两侧
百度文库
均在x 的右侧， 去掉[x 此时x ① x1,x2 均在x*的右侧，f(x2)＜f(x1)，去掉[x1,b0]，此时x*∈[a0,x1] 均在x 的左侧， 去掉[a 此时x ② x1,x2 均在x*的左侧，f(x2)＞f(x1)，去掉[a0,x2]，此时x*∈[x2,b0] 均在x 的两侧， ③ x1,x2 均在x*的两侧，f(x2)＝f(x1)： 去掉[x 此时x a.去掉[x1,b0]，此时x*∈[a0,x1] 去掉[a 此时x b.去掉[a0,x2]，此时x*∈[x2,b0] 9
第六章 非线性规划
第六章 非线性规划
由前几章知道，线性规划的目标函数和约束条件都是其自变量的线性函数，如果目标函数或约束条件中包含有自变量的非线性函数，则这样的规划问题就属于非线性规划。
第一节 基本概念
一、 非线性规划的数学模型
非线性规划数学模型的一般形式是
⎪⎩⎪
⎨⎧=≥==),,2,1(0)(),,2,1(0)()(min l j x g m i x h x f j
i （6.1）
其中，X=（n χχχ,,,21 ）T 是n 维欧氏空间E n 中的点（向量），目标函数)(X f 和约束函数)()(X j X i g h 、为X 的实函数。
有时，也将非线性规划的数学模型写成 ⎩⎨
⎧
=≥),,2,1(0)()
(min l j X g X f j (6.2)
即约束条件中不出现等式，如果有某一约束条件为等式0)(=X g j ，则可用如下两个不等式约束替代它： ⎩⎨
⎧≥-≥0)(0
)(X g X g j
j
模型（6.2）也常表示成另一种形式：
{}⎩
⎨⎧
=≥=⊂∈),,2,1(,0)(|),(min l j X g X R E R X X f j n (6.3)
上式中R 为问题的可行域。
若某个约束条件氏“≤”不等式的形式，只需用“-1”乘这个约束的两端，即可将其变成“≥”的形式。此外，由于[])(m in )(m ax x f X f --=，且这两种情况下求出的最优解相同（如有最优解存在），故当需使目标函数极大化时，只需求其负函数极小化即可。 二、二维问题的图解
当只有两个自变量时，求解非线性规划也可像对线性规划那样借助于图解法。 考虑非线性规划问题
第6讲非线性规划
非现性规划的基本概念
定义 如果目标函数或约束条件中至少有一个是非线性函数, 则最优化问题就叫做非线性规划问题．
一般形式:
mifn X
s.t.hgij
X X
=
0 0
i = 1,2,..., m; j = 1,2,...,l.
（1）
其中 X = x1, x2,L, xn T Rn，f , gi,hj 是定义在 Rn 上的实值函
输出极值点 M文件 迭代的初值 变量上下限 参数说明
(6) [x,fval]= fmincon(…) (7) [x,fval,exitflag]= fmincon(…) (8)[x,fval,exitflag,output]= fmincon(…)
2021/7/27
18
注意：
[1] fmincon函数提供了大型优化算法和中型优化算法．默认 时: 若在fun函数中提供了梯度（options参数的GradObj设置 为’on’），并且只有上下界存在或只有等式约束，fmincon函 数将选择大型算法．当既有等式约束又有梯度约束时，使用中型 算法．
X
,
rk
，其中
X
D0的
最优解设为 X k = X rk D0；
(4)
检验是否满足
r
m
ln
i=1
g
i
Xk
运筹学——非线性规划
非线性规划
非线性规划基本迭代格式
第1步
选取初始点 x0 ，k:=0;
第2步
构造搜索方向 pk ；
第3步
根据 pk ，确定步长tk ；
第4步
令 x k1 x k tk pk ，
若 xk1 已满足某种终止条件，停止迭代，输出
近似解 x k1 ；否则令 k:=k+1，转回第 2 步。
前一页 后一页 退 出 非线性规划
则称f是S上的严格凸函数，或f在S上是严格凸的。 若 f是S上的(严格)凸函数，称f是S上的(严格) 凹函数,或f在S上是(严格)凹的。
前一页 后一页 退 出 非线性规划
例 f ( x) T x ,其中 , xRn , R1即是凸的也是凹的。
例 f ( x)|| x||其中xRn是凸函数
定理 4.2.6 凸规划的任一局部最优解都是它的整体 最优解。
非线性规划
一维搜索方法
目标函数为单变量的非线性
规划问题称为一维搜索问题
min t0 (0ttmax )
其中 t R。
(t)
精确一维搜索方法 0.618法
Newton法 非精确一维搜索方法
Goldstein法
Armijo法
f ( x1 )（f ( x1 ),f ( x1 )）T是函数在点x1处的梯度。
第六讲 线性规划与非线性规划
v1 x v2
(1)首先建立M文件fun.m,用来定义目标函数f(x)，形 式为 function f=fun(x) f=f(x); c (2)若有非线性约束条件：1 x 0 或c2 x 0, 则建立M 文件c.m定义函数c1 x , c2 x , 一般形式为 function [c1,c2]=c(x) c1=… c2=… (3)建立主程序。求解非线性规划的函数是fmincon, 调用格式为 x=fmincon(„fun‟,x0,A1,b1); [x,fv,ef,out,lag,grad,hess]=fmincon(„fun‟,x0,A1,b1,A2 ,b2,v1,v2,‟c‟,opt,P1,P2,…)
纯整数规划(PIP)
混合整数规划(MIP)
连续规划
整数规划(IP)
ቤተ መጻሕፍቲ ባይዱ
一、线性规划
1、引例
问题一：任务分配问题：某车间有甲、乙两台机床，可用 于加工三种工件.假定这两台车床的可用台时数分别为800 和900，三种工件的数量分别为400、600和500，且已知 用三种不同车床加工单位数量不同工件所需的台时数和加 工费用如下表.问怎样分配车床的加工任务，才能既满足加 工工件的要求，又使加工费用最低？
4、用MATLAB优化工具箱解线性规划 (1) 模型1： min z cT x
s.t. Ax b
第六章非线性规划(管理运筹学,李军)
2020/7/30
凸函数
X(1) X (1) (1 ) X (2) X(2) X 凹函数
25
非凹非凸函数示意图
f (X) f (X(1)) f (X(2))
2020/7/30
X(1)
X(1) +(1-)X(2)
X(2)
X
非凸非凹函数
26
2.4 凸函数的性质
设f (X)为定义在凸集R上的凸函数，则对
f (X)
f ( X (1) ) (1 ) f ( X (2) )
f (X (1) (1 ) X (2) )
f (X) f (X (1) (1 ) X (2) )
f ( X (1) ) (1 ) f ( X (2) )
X(1) X (1) (1 ) X (2) X(2) X
2020/7/30
38
3.2 下降迭代算法
确定搜索方向P (k)是关键的一步，各种算法的区 别主要在于确定搜索方向P (k)的方法不同。
步长 k 的选定一般都是以使目标函数在搜索方 向上下降最多为依据的，称为最佳步长，即沿 射线 X X (k) P(k) 求目标函数的极小值
k : min f ( X (k) P(k) )
6
1.1 非线性规划问题举例
现需要从判断矩阵求出各属性的权重，
为使求出的权重向量W在最小二乘意义上
chapter 6 非线性规划
第一节 非线性规划问题及其数学模型
二、非线性规划模型的一般形式
– min f(X) – s.t. – hi(X) = 0 i = 1,2,…,m; – gj(X) ≥0 j = 1,2,…, l – 其中，X = ( x1，x2，…，xn)T是n维欧式空间En
中的向量（点）；f(X)为目标函数，hi(X) = 0 (i = 1,2,…,m)，gj(X) ≥0 (j = 1,2,…, l)为约束条件。
– 考虑各个过程的时间限制，得到该问题的数学模型如下： max f = 80x1－(1/15)x12 + 150x2 －(1/5)x22
s.t.
(7/10) x1 + x2 <=630
(1/2) x1 + (5/6) x2 <=600
x1 + (2/3) x2 <=700
(1/10) x1 + (1/4) x2 <=135 x1、x2≥0
三、非线性规划问题的最优性条件
– 1. 无约束问题的最优性条件
– 当一个优化问题没有约束条件时，此问题可称为无约束的最 优化问题，即求一个多元函数的极值问题。无约束的最优化
问题的形式可描述为
min f(X) X∈En
– 以下给出无约束最优化问题的一阶必要条件和二阶充分条件。
– 定理6.5（一阶必要条件） 若f(X)在En中的某个区域R上一
第六章 非线性规划基本概念与基本原理
定义 6-1 设 x*∈R n, δ >0，集合 {x | x Rn ,且 x x* }
称为 x*的δ 邻域，记为 N (x*，δ )，其中 x x* 表示 x 与 x*之间 的距离（通常为 欧几里德距离）．
定义 6-2 设 f (x )为定义在 n 维欧氏空间 E n 中的某一区域 S
为凸集。
规定：单点集 {x} 为凸集，空集为凸集。
注: x(1)＋(1- ) x(2) = x(2)＋(x(1)- x(2)) 是连接 x(1)与x(2)的线段 。
特征值都大于零的 实对称矩阵 特征值都不小于零 的实对称矩阵
所有各阶顺序主子式都大于零，即
det Ai 0(i 1,2,, n) det A 0 且det Ai 0(i 1,2,, n 1)
负定矩阵
半负定矩 阵
特征值都小于零的 实对称矩阵 特征值都不大于零 的实对称矩阵 特征值既有大于零
a11 A3 a21
a31
a12 a22 a32
a13 a23 a33
a11
a22 a32
a23 a33
a21
a12 a32
a13 a33
a31
a12 a22
a13 a23
其余各阶顺序主子式依此类推．
表 6-1 给出了各矩阵的定义及充分必要条件．
第六章 非线性规划基本概念与基本原理
wenku.baidu.com称矩阵
6.2 凸函数和凸规划
回顾一下凸集的概念：
定义：设集合 S Rn，若x(1), x(2)S, [0,1]，必有 x(1)＋(1- ) x(2) S ，则称 S
为凸集。
规定：单点集 {x} 为凸集，空集为凸集。
注: x(1)＋(1- ) x(2) = x(2)＋(x(1)- x(2)) 是连接 x(1)与x(2)的线段 。
目标函数：
min f (x ) = 40x1x2+20x12
约束条件：
x12x2=12
12 x1x2+2 x12 ≤68
x1≥0, x2≥0
记为
min f (x ) = 40x1x2+20x12
s.t x12x2=12
12
x1x2+2
x
2 1
≤68
x1≥ 0
x2≥ 0
其中 s.t 是 subject to（受约束于）的缩写，min 是 minimize（最小化）
性质 2：梯度方向是函数值增加最快的方向，即函数变化率最大的方 向，而负梯度方向则是函数值减小最快的方向．
如果采用欧几里德距离，函数 f (x )在 x (0)处的梯度的
模取为：
f (x(0) )
f
(x(0) x1
)
2
f (x(0) x2
大纲解读 第六章 非线性规划
（二）无约束极值问题 1、识记：（1）无约束极值，（2）斐波那契法， （3）黄金分割法，（4）最佳步长公式，（5）梯 度法与共轭梯度法，（6）牛顿法与拟牛顿法。 2、领会：（1）下降算法，（2）算法的收敛性， （3）一维搜索法，（4）梯度法与共轭梯度法， （5）牛顿法与拟牛顿法。 3、应用：无约束极值问题的求解。
大纲解读Hale Waihona Puke Baidu第六章 非线性规划
一、考核知识点 （一）基本概念 （二）无约束极值问题 （三）有约束极值问题
（一）基本概念基本概念 1、识记：（1）非线性规划，（2）可行解与最优 解，（3）梯度，（4）海塞阵，（5）泰勒公式， （6）凸规划。 2、领会：（1）非线性规划问题，（2）极值条件， （3）凸函数与凹函数。 3、应用：非线性规划模型的建立。
（三）有约束极值问题 1、识记：（1）有约束极值问题，（2）起作用约 束，（3）可行下降方向，（4）K-T定理。 2、领会：（1）最优性条件，（2）二次规划， （3）罚函数法。 3、应用：（1）有约束问题的求解，（2）罚函数 法的应用。
西北农林科技大学运筹学课件第六章非线性规划
∇ f(x(k)) (f(xx1k))2(∂ f∂ (xx2k))2(∂ f∂ (xxnk))2
• 确定最优步长
f(x(k1))f(x(k) kf(x(k)))m ifn(x(k) -∇ f(x(k))) f(x(k) ∇ f(x(k)))()()0
k
f(x(k))T∇ f(x(k)) ∇ f(x(k))T H(x(k))∇ f(x(k))
1
2
x1
2
x2
x 2
d (1) f ( X (1) )
X
(1)
d
(1)
0
0
1
1
f ( X ) f ( X (1) d (1) ) 1 ( )
1( ) 2 2 0 1 1
X
(2)
X
(1)
1d
(1)
0
0
1
1
1
1
X (1) (0 ,0 )T
解： 令f(X)0
f (X) x1
x12
40
f(X) x2
x22
4x2
0
2f(X)20x1
0 2x24
2 2 2 2
0
4
0
4
驻点处的海赛矩阵： 不定
4 0
0
-
4
极小点 极大点 不定
4 0 4 0 4 0
非线性规划_基础理论_0505
典型的非线性规划问题
选址问题
问题的提出 Ai (i = 1, 2,..., n ) 一家大型连锁超市在某地有家分店 ，为了数学 语言描述的方便，可在平面直角坐标系给出其位臵表述：A1的坐标为(x1,y1)， A2的坐标为(x2,y2) ，以此类推， An的坐标为(xn,yn) 。现在超市拟在当地选 择一个理想的位臵建立一个供货点，由于该超市各分店在经营规模上的不同， 出货量也不同，导致供货点对各分店的送货频率不同，假设供货点每周给Ai送 货的次数为ci(i=1,2,…,n)，同时假设每公里的运输费保持定值m元/公里。那 么超市应当把供货点设在什么地方可以使得运输成本最低？ 问题分析 假设供货点坐标为(x,y) ，那么由供货点到某分店Ai的距离和运输费 分别为： si = (x - x i )2 + (y - yi )2
目标函数的等值面具有以下性质
• 不同值的等值面之间不相交； • 除了极值所在的等值面外，其余的等值面不会在区域的内部中断，这是因为目标函 数都是连续函数； • 等值面稠密的地方，目标函数值变化较快，稀疏的地方变化较慢。
非线性规划的理论基础
全局最优解和局部最优解
非线性规划问题的可行域 把满足非线性规划中约束条件的解称为可行解（或可行点），所有可 行点的集合称为可行集（或可行域），记为D。即 D = {x | gi (x) ? 0, h j ( x) 0, x R n } 局部极小值点 x* Î D xÎ D d> 0 对于非线性规划问题，设 ，若存在 ，使得对一 * * f ( x* ) £ f (x) ，都有 x d 切 x- x < ，且 ，则称 是f(x)在D上的局部极小值点（局部最优解） x ¹ x* f ( x* ) < f (x) x* 特别的，当 时，若 ，则称 是f(x)在D 上的严格局部极小值点（严格局部最优解） 全局极小值点 * x* Î D f (x xÎ D ) £ f (x) 对于非线性规划问题，设 ，对任意的 ，都 * 有 x ，则称 是f(x)在D上的全局极小值点（全局最优解） * * * x x ¹ x f x < f ( x ) ( ) 特别的，当 时，若 ，则称 是f(x)在D 上的严格全局极小值点（严格全局最优解）。
运筹学--第六章非线性规划
第六章 非线性规划
１７１ 习题六
6.1 试计算函数f （X ）＝㏑（x 12＋x 1x 2＋x 22）的梯度和Hesse 矩阵。
6.2 试证明下述函数f （X ）＝2x 1x 2x 3－4x 1x 3 －2x 2x 3＋x 12＋x 22＋x 32－2x 1－4x 2＋4x 3具有驻点（0，3，1），（0，1，－1），（1，2，0），（2，1，1），（2，3，－1），再应用充分性条件找出其极点。
6.3 判定此非线性规划是否为凸规划：
max f （X ）＝x 1＋2x 2
st. x 12＋x 22 ≤9
x 2 ≥0
6.4 用0.618法求函数 f （x ）＝x 2—6x ＋2在区间〔0，10〕上的极小点，要求缩短后的区间长度不大于原区间长度的8％。
6.5 用斐波那契法求函数 f （x ）＝－3x 2＋21.6x ＋1在区间〔0，25〕上的极大点，要求缩短后的区间长度不大于原区间长度的8％。
6.6 试用共轭梯度法求二次函数 f （X ）＝21X T AX 的极小点，其中
1 1
1 2
6.7 试写出非线性规划
max f （x ）＝（x －4）2
1 ≤ x ≤ 6
在点x*的Kuhn-Tucker 条件，并进行求解。
6.8给出二次规划 max f （X ）＝10x 1＋4x 2－x 12＋4x 1x 2－4x 22
x 1＋ x 2 ≤ 6
4x 1＋ x 2 ≤ 18
x 1 ≥ 0，x 2 ≥ 0
（1） 写出Kuhn-Tucker 条件并求最优解；
（2） 写出等价的线性规划问题并求解。
6.9 试用可行方向法求解非线性规划
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第六章非线性规划（一）非线性规划的理论模型
Min f(X)
s.t. h
i
(X)=0（i=1，2，…,m）
g
j
(X)≥0（j=1，2，…,m）
其中，目标函数和约束方程含有非线性表达式。
若D={X∈R n:h
i (X)=0,i=1,2,…,m,g
j
(X)≥0,j=1,2,…,l}为可行域
可简化为 min f(X)
X∈D
D中的点X为非线性规划模型的可行解
当D=R n时---无约束线性规划当D≠R n时---有约束线性规划
（二）非线性规划的解及相关概念
1）可行解：D中的点X为非线性规划模型的可行解
2）最优解：若有X*∈D，对于任意的X∈D，都存在f(X*)≤f（X）则X*为最优解。（全局最优解）
注：非线性规划问题的最优解可以在可行域的任意点取得。
3）梯度：若函数f(X)在X
0的领域内有连续一阶偏导数，则称f(X)在X
处对n
个变量的偏导数组成的向量为f(X)在X
的梯度。
梯度的几何意义：○1等高线；
○2函数f(X)在X
0的梯度方向是函数在X
处增加最快的方
向；
○3函数f(X)在X
0的梯度是等高线在点X
切平面的法向量；
4）海赛阵：若函数f(X)在X
0的领域内有连续二阶偏导数，则称f(X)在X
处对n
个变量两两组合的二阶偏导数组成的矩阵为f(X)在X
的海赛阵。
5）凸规划：在非线性规划问题中，目标函数为凸函数，不等式约束为凹函数，等式约束为仿射函数，则称这样的非线性规划为凸规划。
注：○1如果f(X)为凸函数，则-f(X)为凹函数.
○2对于多元函数f(X)，海赛阵为半正定，则f(X)为凸函数；
海赛阵为半负定，则f(X)为凹函数。
6）凸规划的性质：凸规划的约束集为凸集，凸规划的最优解集是凸集，任何局部最优解也是全局最优解。如果目标函数为严格凸函数，且
最优解存在，则其最优解是唯一的。
（三）无约束极值的解法
1）一维搜索：一维搜索是一种求解单变量实值函数的极值点的过程，也称线性搜索。常用的搜索方法有斐波拉契法，0.618法等
2）梯度法：梯度法也叫最速下降法，是一种求解无约束极值问题的最简单，最基本的下降类算法，其指导思想是：选取P
K
，使函数f(x)下降最快，
或者说使f(X
K +入P
K
)-f(X
K
)<0,并且是上式左边的绝对值尽可能地大。
（四）罚函数法
罚函数法：罚函数法是求解一般有约束极值问题的一种比较简单实用的方法，其基本思想是：将约束条件与目标函数组合在一起，化成无约束极
值问题来进行求解。
可分为外点法和内点法。外点法是从可行域的外部逐步逼近最优解，
内点法是从可行域的内部逐渐逼近最优解。