求解非线性规划

合集下载

非线性规划问题的求解及其应用

非线性规划问题的求解及其应用非线性规划，可以说是一种非常复杂的数学问题。

在实际应用中，许多系统的优化问题，都可以被转化为非线性规划问题。

但是，由于这种问题的复杂性，非线性规划的求解一直是数学界的一个研究热点。

一、非线性规划的基本概念1. 可行域在非线性规划中，可行域指的是满足所有约束条件的点集。

在二维平面上，可行域能够很容易地表示出来，但在多维空间中，可行域的表示就变得非常困难。

2. 目标函数目标函数是一个数学公式，它用来评估在可行域中各个点的“好坏程度”。

一个非线性规划问题的求解，其实就是在可行域内寻找一个能够最大化目标函数值的点。

3. 约束条件约束条件是指规划问题中需要满足的条件。

这些条件包括函数值的范围限制、变量之间相互制约等。

通常来说，非线性规划的约束条件相对于线性规划而言更加复杂。

二、非线性规划的求解方法在非线性规划问题的求解中，有很多种方法可供选择。

下面，我们来介绍其中一些常用的方法。

1. 半定规划半定规划（Semi-definite Programming, SDP）是非线性规划的一个子集，它具有线性规划的一些特性，但可以解决一些非线性问题。

与线性规划不同的是，半定规划中的目标函数和约束条件都可以是非线性的。

2. 内点法内点法是一种非常流行的求解非线性规划问题的方法。

它是一种基于迭代的算法，可以在多项式时间内求解最优解。

内点法的一个优点是，它能够解决带有大量约束条件的规划问题。

3. 外点法外点法是另一种常用的求解非线性规划问题的方法。

外点法首先将非线性规划问题转化为一组等式和不等式约束条件的问题。

然后，采用一种迭代的方法，不断地拟合目标函数，以求得最优解。

4. 全局优化法全局优化法是非线性规划问题中最难的问题之一。

全局优化法的目标是寻找一个区域内的全局最优解，这个解要在这个区域中所有可能的解中处于最佳位置。

由于非线性规划问题的复杂性，全局优化法通常需要使用一些高级算法来求解。

三、非线性规划的应用非线性规划被广泛地应用于各种领域，下面我们来介绍其中一些应用。

用最速下降法求解无约束非线性规划问题

运筹学实习报告姓名： xxxxxxxxxx 学号： xxxxxxxxxxx 专业班级： xxxxxxxxxxxx 2 0 1 3年 7 月 0 4 日题目：用最速下降法求解无约束非线性规划问题摘要：无约束最优化问题的求解方法分为解析法和直接法两大类。

解析法需要计算函数的梯度，其中最速下降法就属于解析法中的一种。

对于一个无约束非线性规划利用最速下降法求解，首先需要确定其优化方向，此优化方向应该选择为f 在当前点处的负梯度方向，利用一维搜索法找出沿此方向上的最小值及其对应点，此后将该点作为新的出发点重复上述过程，直到达到允许的误差为止。

本文通过理论的计算方法，进一步分析，最后用c++编程实现求出允许误差内的最优解。

此编程可用于计算符合下列形式的函数求最优解过程：f(x)=a[0]x1*x1+a[1]x2*x2+a[2]x1*x2+a[3]x1+a[4]x2+a[5]其中：a[i] (i=0,1,2,3,4,5) 为函数的系数。

本文以“ 李占利主编，中国矿业大学出版社出版”的《最优化理论与方法》第五章 “无约束最优化方法，5.1 最速下降法 ”例5—1为实例，首先利用上述迭代的方法，计算出各迭代点的函数值，梯度及其模。

然后应用c++语言编程，得到在精度范围内的精确最优解。

C++编程计算的最优解为 : T x x ]0329218.0,00823045.0[)3(*-==。

即转化为分数结果为：⎥⎦⎤⎢⎣⎡-==412432)3(*x x 。

满足精度要求的模为：1010736154.0||||)3(=<=εp 。

关键词：无约束非线性规划解析法最速下降法梯度模最优解一、算法思想无约束最优化方法中的最速下降法首先需要确定其优化方向，此优化方向应该选择为f 在当前点处的负梯度方向，利用一维搜索法找出沿此方向上的最小值及其对应点，此后将该点作为新的出发点重复上述过程，直到达到允许的误差为止。

实验二利用Lingo求解整数规划及非线性规划问题

例 3 用Lingo软件求解非线性规划问题
min z x1 12 x2 22
x2 x1 1,
x1
x2
2,
x1
0,
x2
0.
Lingo 程序: min= x1-1 ^2+ x2-2 ^2;
x2-x1=1;
x1+x2<=2;
注意: Lingo 默认变量的取值从0到正无穷大, 变量定界函数可以改变默认状态. @free x : 取消对变量x的限制即x可取任意实数值
例 4 求函数 zx22y22 的最小值.
例 4 求函数 zx22y22 的最小值.
解: 编写Lingo 程序如下:
min= x+2 ^2+ y-2 ^2; @free x ; 求得结果: x=-2, y=2
二、Lingo 循环编程语句
1 集合的定义包括如下参数: 1 集合的名称.
sets: endsets
44
minZ
aijxij
i1 j1
4
xij
1
j 1,2,3,4
s.t.
i 1 4
xij
1
i 1,2,3,4
j1
xij 0或1 i, j 1,2,3,4
LINGO程序如下：
MODEL: SETS: person/A,B,C,D/; task/1..4/; assign person,task :a,x; ENDSETS DATA: a=1100,800,1000,700,
77
63
67
丁
55
76
62
62
甲, 乙, 丙, 丁四名队员各自游什么姿势 , 才最有可能取得好成绩

非线性规划的解法

非线性规划的解法非线性规划是一类重要的数学规划问题，它包含了很多实际应用场景，如金融市场中的资产配置问题，工程界中的最优设计问题等等。

由于非线性目标函数及约束条件的存在，非线性规划问题难以找到全局最优解，面对这样的问题，研究人员提出了众多的解法。

本文将从梯度法、牛顿法、共轭梯度法、拟牛顿法等方法进行介绍，着重讨论它们的优劣性和适用范围。

一、梯度法首先介绍的是梯度法，在非线性规划中，它是最简单的方法之一。

梯度法的核心思想是通过寻找函数的下降方向来不断地优化目标函数。

特别是在解决单峰函数或弱凸函数方面优势明显。

然而，梯度算法也存在一些不足之处，例如：当函数的梯度下降速度过慢时，算法可能会陷入局部最小值中无法跳出，还需要关注梯度方向更新的频率。

当目标函数的梯度非常大，梯度法在求解时可能会遇到局部性和发散性问题。

因此，它并不适合解决多峰、强凸函数。

二、牛顿法在牛顿法中，通过多项式函数的二阶导数信息对目标函数进行近似，寻找下降方向，以求取第一个局部极小值，有时还可以找到全局最小值。

牛顿法在计算方向时充分利用二阶导数的信息，使梯度下降速度更快，收敛更快。

因此，牛顿法适用于单峰性函数问题，同时由于牛顿法已经充分利用二阶信息，因此在解决问题时更加精确，准确性更高。

但牛顿法的计算量比梯度法大，所以不适合大规模的非线性规划问题。

此外，当一些细节信息不准确时，牛顿法可能会导致计算数值不稳定和影响收敛性。

三、共轭梯度法共轭梯度法是非线性规划的另一种解法方法。

共轭梯度法沿预定义的方向向梯度下降，使梯度下降的方向具有共轭性，从而避免了梯度下降法中的副作用。

基于共轭梯度的方法需要存储早期的梯度，随着迭代的进行，每个轴线性搜索方向的计算都会存储预定的轴单位向量。

共轭梯度方法的收敛速度比梯度方法快，是求解非线性规划的有效方法。

四、拟牛顿法拟牛顿法与牛顿法的思路不同，它在目标函数中利用Broyden、Fletcher、Goldfarb、Shanno（BFGS）算法或拟牛顿法更新的方法来寻找下降方向。

MATLAB求解非线性规划

MATLAB求解非线性规划非线性规划是一类涉及非线性目标函数或非线性约束条件的数学规划问题。

MATLAB是一种强大的数学计算软件，可以用来求解非线性规划问题。

本文将介绍MATLAB中求解非线性规划问题的方法。

1. 目标函数和约束条件在MATLAB中，非线性规划问题可以表示为以下形式：minimize f(x)subject to c(x)≤0ceq(x)=0lb≤x≤ub其中f(x)是目标函数，c(x)和ceq(x)是不等式和等式约束条件，lb和ub是变量的下限和上限。

2. 求解器MATLAB提供了多种求解器可以用来求解非线性规划问题。

其中常用的有fmincon和lsqnonlin。

lsqnonlin可以用来求解非线性最小二乘问题。

它使用的是Levenberg-Marquardt算法，能够有效地求解非线性最小二乘问题，并且具有较好的收敛性。

3. 示例下面我们来看一个求解非线性规划问题的示例。

假设我们要求解以下非线性规划问题：首先，我们需要定义目标函数和约束条件。

在MATLAB中，我们可以使用anonymous function来定义目标函数和约束条件。

代码如下：f = @(x)x(1)^2+2*x(2)^2+3*x(3)^2;c = @(x)[x(1)+x(2)+x(3)-4, x(1)*x(2)+x(1)*x(3)+x(2)*x(3)-3];ceq = [];lb = [0,0,0];接下来，我们使用fmincon求解非线性规划问题。

代码如下：[x,fval,exitflag,output] = fmincon(f,[1,1,1],[],[],[],[],lb,[],@(x)c(x));其中，第一个参数是目标函数，第二个参数是变量的初值，第三个参数是不等式约束条件，第四个参数是等式约束条件，第五个参数是变量的下限，第六个参数是变量的上限，第七个参数是非线性约束条件，最后一个参数是opts，可以设置其他求解参数。

非线性规划问题的求解方法研究

非线性规划问题的求解方法研究随着科技的不断发展，各行各业也在不断发展变化。

非线性规划问题的求解方法也成为了当下热门的话题之一。

非线性规划是指优化问题中目标函数或约束条件是非线性的情况，这类问题在实际应用中很常见。

解决非线性规划问题的数学方法又被称为非线性规划算法。

非线性规划算法主要分为两类：确定性算法和随机算法。

确定性算法是通过一系列有规律的计算来达到问题的最优解。

而随机算法则是简单而暴力的方法，通过一些随机序列来优化思路，最终达到问题的最优解。

下面将介绍几类典型的非线性规划算法。

一、传统算法1. 信赖域算法信赖域算法是一种可应用于大规模非线性规划问题的优化方法。

它考虑了简单的限制条件，以期得到最优解。

它是迭代求解算法，通过寻找限制条件来达到最优解。

2. 罚函数算法罚函数算法的思想是将限制条件进行“惩罚”，使其变得更加强烈。

它可以转化为一个无限制最优化问题来求解原问题。

3. 共轭梯度法共轭梯度法是一种求解大规模非线性规划问题的高效算法。

它是迭代法，通过寻找相互垂直的方向来达到最优解。

二、元启发式算法元启发式搜索（也称为群智能）是一种通过模拟自然界的行为以解决优化问题的算法，包括蚁群算法、粒子群算法、遗传算法等。

1. 蚁群算法蚁群算法是一种基于蚂蚁行为的元启发式算法。

它通过模拟蚂蚁寻找食物的方式来优化问题，即将蚂蚁的行为规则应用于优化问题中。

2. 粒子群算法粒子群算法是一种仿照群体行为的元启发式算法。

它通过模拟鸟群、鱼群等集体行为来寻找最优解。

3. 遗传算法遗传算法是一种模拟自然选择和遗传机制的元启发式算法。

它通过模仿生物进化的过程来寻找最优解。

遗传算法适用于搜索空间大、目标函数复杂的优化问题。

三、其他算法除了传统算法和元启发式算法，还有一些其他的算法也被应用于非线性规划问题中，包括模拟退火算法、蒙特卡罗方法等。

1. 模拟退火算法模拟退火算法是一种随机退火过程，通过在优化问题的解空间中随机地搜索来寻找最优解。

规划求解wps非线性规划

规划求解wps非线性规划
1. 打开WPS软件，新建一个文档，点击工具栏中的“求解器”按钮，弹出“求解器”窗口。

2. 在“求解方法”中选择“非线性规划”，点击“确定”。

3. 在“目标单元格”中输入目标函数的单元格地址。

4. 在“约束条件”区域中，输入各约束条件的单元格地址和约束条件符号（大于等于、小于等于、等于等符号）。

5. 在“变量单元格”一栏中，输入待求解的变量单元格地址和初始值。

6. 点击“选项”按钮，设置求解的精度和最大迭代次数等参数。

7. 点击“确定”进行求解。

如果求解成功，求解结果将会显示在目标函数单元格中。

注意事项：
1. WPS非线性规划的求解结果取决于初始解的好坏，因此需要尝试不同的初始解来得到更好的结果。

2. 在设置约束条件符号时，需要注意约束条件符号的正确性，不当设置会导致求解失败。

3. 在设置求解的精度和最大迭代次数时，需要根据实际情况进行调整，保证求解的准确性和效率。

非线性规划

非线性规划什么是非线性规划？非线性规划（Nonlinear Programming，简称NLP）是一种数学优化方法，用于求解包含非线性约束条件的优化问题。

与线性规划不同，非线性规划中的目标函数和约束条件都可以是非线性的。

非线性规划的数学表达式一般来说，非线性规划可以表示为以下数学模型：minimize f(x)subject to g_i(x) <= 0, i = 1, 2, ..., mh_j(x) = 0, j = 1, 2, ..., px ∈ R^n其中，f(x)是目标函数，g_i(x)和h_j(x)分别是m个不等式约束和p个等式约束，x是优化变量，属于n维实数空间。

非线性规划的解法由于非线性规划问题比线性规划问题更为复杂，因此解决非线性规划问题的方法也更多样。

以下列举了几种常用的非线性规划求解方法：1. 数值方法数值方法是最常用的非线性规划求解方法之一。

它基于迭代的思想，通过不断优化目标函数的近似解来逼近问题的最优解。

常见的数值方法有梯度下降法、牛顿法、拟牛顿法等。

2. 优化软件优化软件是一类针对非线性规划问题开发的专用软件，它集成了各种求解算法和优化工具，可以方便地求解各种类型的非线性规划问题。

常见的优化软件有MATLAB、GAMS、AMPL等。

3. 线性化方法线性化方法是一种将非线性规划问题转化为等价的线性规划问题的求解方法。

它通过线性化目标函数和约束条件，将非线性规划问题转化为线性规划问题，然后利用线性规划的求解方法求解得到最优解。

4. 分类方法分类方法是一种将非线性规划问题分解为若干个子问题求解的方法。

它将原始的非线性规划问题分解为多个子问题，然后将每个子问题分别求解，并逐步逼近原始问题的最优解。

以上仅是非线性规划求解方法的一小部分，实际上还有很多其他的方法和技巧可供选择。

在实际应用中，选择合适的方法和工具是非常重要的。

非线性规划的应用非线性规划在实际生活和工程中有着广泛的应用。

lingo解非线性规划

在LINGO中使用LINDO模型
优化建模
④ 运行程序的LINGO报告窗口（如下图）
注：LINGO不询问是否进行敏感性分析，敏感性分析需要将来通过修改系统选项启动敏感性分析后，再调用“REPORT|RANGE”菜单命令来实现。现在同样可以把模型和结果报告保存在文件中。
优化建模
一个简单的LINGO程序
例直接用LINGO来解如下二次规划问题：
Max98x127x72x120.3x1x22x22 1
s.t. x1x2100
2
x12x2
3
x1,x20 为整数
4
输入窗口如下：
程序语句输入的备注：
max=98*x1+277*x2-x1^2-0.3*x1*x2-2*x2^2;
优化建模
•LINGO总是根据“MAX=”或“MIN=”寻找目标函数。
IN(V0)10
加上变量的非负约束
优化建模
注：LINDO中没有数组，只能对每个季度分别定义变量，如正常产量就要有RP1，RP2，RP3，RP4 4个变量等。写起来就比较麻烦，尤其是更多(如1000个季度)的时候。
记四个季度组成的集合QUARTERS={1，2，3，4}，它们就是上面数组的下标集合，而数组DEM,RP,OP, INV 对集合QUARTERS中的每个元素1，2，3，4分别对应于一个值。LINGO正是充分利用了这种数组及其下标的关系，引入了“集合”及其“属性”的概念，把 QUARTERS={1，2，3，4}称为集合，把DEM,RP,OP, INV称为该集合的属性(即定义在该集合上的属性)。
集合及其属性
• QUARTERS集合的属性
• DEM
• RP
优化建模

非线性规划求解

s.t.
1 1
x1 x2
2．输入命令：
H=[1 -1; -1 2]; c=[-2 ;-6];A=[1 1; -1 2];b=[2;2]; Aeq=[];beq=[]; VLB=[0;0];VUB=[]; [x,z]=quadprog(H,c,A,b,Aeq,beq,VLB,VUB)
i =1 i =1
m
m
1 g i X
其中称 r lng i X 或 r
i =1 i =1
m
m
1 为障碍项， r为障碍因子. g i X
这样问题（1）就转化为求一系列极值问题： min I X , r
X D
0
k

得 X（r ）.
k
k
内点法的迭代步骤
(1) 给定允许误差 0 ，取r1
??xfdx?min定义2对于问题1设若存在使得对一切且都有则称x是fx在d上的局部极小值点局部最优解特别地当时若dx?0??dx????xxxx????xfxf?nrx???????njirxxhxgxd????00局部极小值点局部最优解
数学建模与数学实验
非线性规划
实验目的
1．直观了解非线性规划的基本内容．
2．掌握用数学软件求解优化问题．
实验内容
1．非线性规划的基本理论．
2．用数学软件求解非线性规划． 3．钢管订购及运输优化模型． 4．实验作业．
非线性规划
非线性规划的基本概念
*非线性规划的基本解法
返回
非现性规划的基本概念定义如果目标函数或约束条件中至少有一个是非线性函数, 则最优 x 2 2 2 0 x 1 0 x 2

6-3无约束非线性规划问题的求解

使得 f ( x k k d k ) min f ( x k d k )。

4. 令 x k 1 x k k d k , 令 k : k 1 , 转2。
二、共轭梯度法 1. 共轭方向与正定二次函数设A为n×n对称正定阵，X和Y是n维欧氏空间En中的两个向量，若有 XTAY=0，则称X和Y关于A共轭，或X和Y关于A正交。 n p , p , , p E 设A为n×n对称正定阵，若向量组 1 2 中任 n 意两个向量关于A共轭，即满足条件 piT Ap j 0 (i j; i, j 1,2,, n) ，则称该向量组为A共轭。定理6-11 设为A为n×n对称正定阵，p1 , p2 ,, pn 为A共轭的非零向量，则这一向量组线性无关。证设有实数k1 , k 2 ,, k n ，使得 k1 p1 k 2 p2 k n pn 0 0 i=1,2,…,n 用 piT A 左乘上式得： ki piT Api ， T 但 pi 0 且A为正定，从而 pi Api 0 故必有 ki 0 (i 1,2,, n) ，从而知 p1 , p2 ,, pn线性无关。
o
d (1)T Ad ( 2) 0,
即等值面上一点处的切向量与由这一点指向极小点的向量关于A 共轭。
p0 , p1 ,, pk 1 (k n) 定理6-12 设 f ( X )是上面讲的二次正定函数，为A共轭，则从任一点X 0出发，依次沿 p0 , p1 ,, pk 1 执行一维搜索，即 * min f ( X p ) f ( X k k k k pk )
2 f ( x ) A,
因为A 正定，所以 2 f ( x ) A 0 ,
x

非线性规划问题的求解方法[优质ppt]

4.2、内点法（内部惩罚函数法）： min F ( x, )
s.t. x S
算法：（ 1）给定初始内点 x (0) S ，允许误差 e>0，
障碍参数 (1) ，缩小系数 b (0 ,1) ，置 k= 1 ；
（ 2）以 x (k1) 为初始点，求解下列规划问题：
f21=subs(fx2x1); f22=subs(fx2x2); if(double(sqrt(f1^2+f2^2))<=0.002)
a(k+1)=double(x1);b(k+1)=double(x2);f0(k+1)=double(subs(f)); break; else X=[x1 x2]'-inv([f11 f12;f21 f22])*[f1 f2]'; x1=X(1,1);x2=X(2,1); end end if(double(sqrt((a(k+1)-a(k))^2+(b(k+1)b(k))^2))<=0.001)&&(double(abs((f0(k+1)-f0(k))/f0(k)))<=0.001) a(k+1) b(k+1) k f0(k+1) break; else m(k+1)=c*m(k);
min f ( x ) ( k ) B ( x )
s.t. x S
，令 x (k) 为所求极小点
（ 3）如果 (k)B (x (k) ) e ，则停止计算，得到结果x (k) ，
(k 1) b (k )

用LINGO解决非线性规划问题

注意比较：
当去掉第二个约束条件y<=0.5时,最小值为-3 当x=0, y=1时;
当去掉所有约束条件无条件最值时,最小
值为-5 当x=1, y=2时;
15
三、用LINGO解决非线性规划问题
例3 求解非线性规划问题：
16
三、用LINGO解决非线性规划问题
17
三、用LINGO解决非线性规划问题
18
X1+ 3X2<=18;
X1,X2为决策变量;
2X1+ X2<=16;
4X2<=20; 第二到四行均为约束条件
8
二、用LINGO解决基本的线性规划问题
我们编辑程序并求解后,得到LINGO Model窗口、 Solution report窗口和Solver status窗口如下：
9
二、用LINGO解决基本的线性规划问题
6

二、用LINGO解决基本的线性规划问题
例1 求解如下的线性规划模型：
m ax z 50 x1 70 x2 ,
x1 3 x2 1 8,
2 x 1 x 2 1 6 ,
4x2 20,
x 1 , x 2 0
7
二、用LINGO解决基本的线性规划问题
我们编辑一个LINGO程序：
MAX=50X1+70X2; 目标函数;
三、用LINGO解决非线性规划问题
例4 求解二次规划问题：
直接使用LINGO最大化过程：
max=98x1+277x2-x1^2-0.3x1x2-2x2^2; x1 + x2 <= 100; x1 <= 2x2; ginx1;ginx2;
19
三、用LINGO解决非线性规划问题

非线性规划

非线性规划非线性规划(Nonlinear Programming ，简记为NP)研究的对象是非线性函数的数值最优化问题，是运筹学的最重要分支之一，20世纪50年代形成一门学科，其理论和应用发展十分迅猛，随着计算机的发展，非线性规划应用越来越广泛，针对不同的问题提出了特别的算法，到目前为止还没有适合于各种非线性规划问题的一般算法，有待人们进一步研究.§1 非线性规划基本概念一、引例例7.1 一容器由圆锥面和圆柱面围成. 表面积为S ，圆锥部分高为h ，h 和圆柱部分高2x 之比为a ,1x 为圆柱底圆半径.求21,x x 使面积最大.解：由条件 a x h =2/22121231x x x ax V ππ+=21212222112221x x x x a x x S πππ+++⋅⋅=所以，数学模型为：212)311(max x x a V π+=s.t. S x x x x a x x =+++21212222112πππ0,21≥x x例7.2 某高校学生食堂用餐，拟购三种食品，馒头0.3元/个，肉丸子1元/个，青菜0.6/碗.该学生的一顿饭支出不能够超过5元.问如何花费达到最满意？解：设该学生买入馒头，肉丸子，青菜的数量分别为321,,x x x ；个人的满意度函数即为效用函数为321321321),,(aaax x Ax x x x u =.于是数学模型为321321321),,(max aaax x Ax x x x u =s.t.56.03.0321≤++x x x 321,,x x x 为非负整数二、数学模型称如下形式的数学模型为数学规划（Mathematical Programming 简称MP ） )(min x f z = （7.1）（MP ） t s . 0)(≥x g i m i ,,1 = （7.2） 0)(=x h j l j ,,1 = （7.3）其中Tn x x x x ),,,(21 =是n 维欧几里得空间nR 中的向量（点），)(x f 为目标函数，0)(,0)(=≥x h x g j i 为约束条件.称满足约束条件的向量x 为（MP ）问题的一个可行解，全体可行点组成的集合称为可行域.K ={}l j x h mi x g R x j i n,,2,10)(,,2,10)( ===≤∈如果)(),(),(x h x g x f j i 均为线性函数，就是前面所学的线性规划问题(LP).如果至少有一个为非线性函数称为非线性规划问题.由于等式约束0)(=x h j 等价于下列两个不等式约束 0)(,0)(≥-≥x h x h j j 所以(MP)问题又可表示为 )(min x f z =s.t. 0)(≥x g i m i ,,1 = （7.4）三、数学基础 1、线性代数知识考虑二次型Az z T ，z 为n 维向量正定的二次型：若对于任意0≠z ，有0>Az z T；半正定的二次型：若对于任意0≠z ，有0≥Az z T ；负定的二次型：若对于任意0≠z ，有0<Az z T ；半负定的二次型：若对于任意0≠z ，有0≤Az z T ；不定二次型：0≠∃z ，有0>Az z T，又0≠∃z ，有0<Az z T.二次型Az z T 为正定的充要条件是它的矩阵A 的左上角各阶主子式都大于零. 二次型Az z T 为负定的充要条件是它的矩阵A 的左上角各阶主子式负正相间.2、分析数学知识（1）方向导数和梯度(二维为例)考虑函数),(21x x f Z =，及方向j i lϕϕsin cos +=梯度：Tx f x f j x f i x f x x f ),(),(212121∂∂∂∂=∂∂+∂∂=∇ ；方向导数：⎪⎪⎭⎫⎝⎛∂∂∂∂=∂∂+∂∂=∂∂ϕϕϕϕsin cos ),(sin cos 2121x f x f x f x f l f )),,(cos(||),(||),(),(21212121l x x gardf x x gardf lx x gardf lx x f T=⋅=⋅∇=考虑等值线00201),(c x x f =上一点),(0201x x 梯度方向 ),(0201x x gardf 即为法线方向n.如果)(x f 二次可微，称⎪⎪⎪⎪⎪⎭⎫⎝⎛=)()()()()()()()()()(212222111211x h x h x h x h x h x h x h x h x h x H nn n n n n为)(x f 在点 x 处的Hesse 矩阵.（2）多元函数泰勒公式：若)(,),(0x f R S x x f u n⊆∈=在点0x 处的某个领域具有二阶连续偏导数，则有x x x f x x x f x f x x f T T∆∆+∇∆+∆∇+=∆+)(21)()()(02000θ 10≤≤θ )||(||)(21)()(||)(||)()(2020000x x x f x x x f x f x x x f x f T TT ∆+∆∇∆+∆∇+=∆+∆∇+=οο 四、最优解的类型定义7.1 (MP)问题的一个可行点*x 被称为整体极小点，如果对于任意的可行点K x ∈，都有不等式)()(*x f x f ≥成立.如果对于任意可行点*,x x K x ≠∈均有)()(*x f x f >，称点*x 是)(x f 的可行解集K上的严格整体极小点.定义7.2 问题(MP)的一个可行点*x 被称为一个局部极小点，如果存在一个正数ε使得对于所有满足关系式ε<-*x x 的可行点x 都有)()(*≥x f x f 成立.如果对任意的可行点K x ∈，*≠x x ，存在一个正数ε使得对于所有满足关系式ε<-*x x 的可行点x 都有)()(*>x f x f 成立.则称*x 是)(x f 在K 上的一个局部严格极小点.显然整体极小点一定是局部极小点，反之不然. 五、凸规划定义7.3 集合K 被称为nR 中的一个凸集，如果对于K 中任意两点21,x x 和任一实数]1,0[∈λ，点K x x ∈-+21)1(λλ.几何解释：当一个集合是凸集时，连接此集合中任意两点的线段也一定包含在此集合内，规定φ空集是凸集.定义7.4 凸函数：)(x f 是凸集K 上的实值函数，如果对于K 中任意两点21,x x 和任意实数]1,0[∈λ有不等式)()1()())1((2121x f x f x x f λλλλ-+≤-+成立.严格凸函数：)(x f 是凸集K 上的实值函数，如果对于K 中任意两点21,x x ，21x x ≠和任意实数)1,0(∈λ，有不等式)()1()())1((2121x f x f x x f λλλλ-+<-+成立.定义7.5 )(x f 是定义在凸集K 上的实值函数，如果)(x f -是K 上凸函数，称)(x f 是凹函数.定理7.1 设)(x f 是凸集K 上的凸函数，则)(x f 在K 中的任一局部极小点都是它的整体极小点.证明：设*x 是一局部极小点而非整体极小点，则必存在可行点K x ∈(可行域))()(*x f x f <∍.对任一]1,0[∈λ，由于)(x f 的凸性，有 )()()1()())1((***x f x f x f x x f ≤-+≤-+λλλλ当0→λ时，*)1(x x λλ-+与*x 充分接近，与*x 是局部极小矛盾. 证毕. 定义7.6 设有(MP)问题)(min x f kx ∈，若可行域K 是凸集，)(x f 是K 上的凸函数，则称此规划问题为凸规划.定理7.2 凸规划的任一局部极小解为整体极小解. 六、非线性规划问题的求解方法考虑(MP)问题：lj x h m i x g t s x f j i ,,10)(,,10)(.)(min ===≥ （7.5）一般来说，MP 问题难以求得整体极小点，只能求得局部极小点.以后我们说求(MP)问题，指的是求局部极小点.1、无约束极小化问题（UMP ） )(min x f nRx ∈ （7.6）这里)(x f 是定义在n R 上的一个实值函数定理7.3（一阶必要条件）如果)(x f 是可微函数.*x 是上述无约束问题（UMP ）的一个局部极小点或局部极大点的必要条件是：0)(*=∇x f .满足0)(=∇x f 的点称为平稳点或驻点.定理7.4 设)(x f 为定义在n R 上的二阶连续可微函数，如果*x 是)(x f 的一个局部极小点，必有nT Ry y x H y x f ∈∀≥=∇0)(0)(**这里)(*x H 表示)(x f 在*x 处的Hesse 矩阵.证明：nE y ∈∀，根据)(x f 在点*x 处的展开式有)()(21)()(2*2**λολλ++=+y x H y x f y x f T)0)((*=∇x f若0)(,*<∍∈∃y x H y R y T n ，当λ充分小时，有 )()(21|2*2λολ>y x H y T∴有)()(**x f y x f <+λ.这和*x 是)(x f 的极小矛盾.定理7.5 设)(x f 是定义在nR 上的二阶连续可微函数，如果点*x 满足0)(*=∇x f ，而且存在*x 的一个邻域0)(),(,),(*≥∈∀∈∀∍*y x H y x x R y x T n 有，则*x 是)(x f 的一个局部极小点.在高等数学中求解极值点方法先求出满足0)(=∇x f 的点及不可导点.在这些点判断)(x f 是否取得极小值.2、等式约束的极小化问题考虑 )(min x fl j x h t s j ,,10)(. == （7.7）定义7.7 如果)(,),(),(21x h x h x h l ∇∇∇ 在点x 处线性无关，则称点x 是此约束条件的一个正则点.Langrange 乘子法：引进拉格朗日函数 ∑=-=lj jj x h u x f u x L 1)()(),(其中Tl u u u u ),,,(21 =被称为拉格朗日乘子向量.定理7.6 设l j x h x f j ,,1),(),( =是连续可微函数，*x 是)(x f 在可行集中的一个局部极小点.在*x 是正则点的假定下必存在一个拉格朗日乘子向量u ，使得),(*u x 满足方程组)(0)()(*1**==∇-∇∑=x h x h u x f lj j j对等式约束，用拉格朗日乘子法求解出平稳点，判断是否极值点.用上述解析法求解无约束和等式约束极值问题的平稳点，再判断是否为极值点.该方法有一定的局限性：（1）它们要求函数是连续的，可微的，实际问题中不一定满足这一条件；（2）上述求平稳点的方程组求解比较困难，有些解不出来；（3）实际问题中有大量的不等式约束.因此求解非线性规划应有更好的新方法.实际应用中一般用迭代法来求解非线性规划问题，即求近似最优解的方法.3、非线性规划问题的求解方法—迭代法迭代法一般过程为：在(MP)问题的可行域K 内选择初始点0:,0=k x ，确定某一方向k p ，使目标函数)(x f 从k x 出发，沿k p 方向使目标函数值下降，即)0(,>∈+=λλK p x x k ，有)()(0x f x f <，进一步确定kλ，使)(m i n )(0k k k k k p x f p x f λλλ+=+>，令k k k k p x x λ+=+1.如果1+k x 已满足某终止条件，1+k x 为近似最优解.否则，从1+k x 出发找一个方向1+k p ，确定步长1+k λ，使K p x x k k k k ∈+=++++1112λ，有)(min )(1102++>++=k k k p x f x f λλ.如此继续，将得到点列{}kx .显然有 >>>>)()()(1kx f x f x f ,即点列{}kx 相对应的目标函数是一个单调下降的数列.当{}kx 是有穷点列时，希望最后一个点是(MP)问题的某种意义下的最优解.当{}kx 为无穷点列时，它有极限点，其极限点是(MP)的某种意义下的最优解（此时称该方法是收敛的）.迭代法求解(MP)的注意点：该方法构造的点列{}kx ，其极限点应是近似最优解，即该算法必须是收敛的.迭代法一般步骤：①. 选取初始点0x ，0:=k ②. 构造搜索方向kp ③. 根据kp 方向确定k λ ④. 令k k k k p x xλ+=+1⑤. 若1+k x已满足某终止条件，停止迭代，输出近似最优解1+k x.否则令1:+=k k ，转向第②步.计算终止条件在上述迭代中有：若1+k x满足某终止条件则停止计算，输出近似最优解1+k x.这里满足某终止条件即到达某精确度要求.常用的计算终止条件有以下几个：（1）自变量的改变量充分小时，11||||ε<-+k k x x，或21||||||||ε<-+kk k x x x ，停止计算. （2）当函数值的下降量充分小时，31)()(ε<-+k kx f x f ，或41|)(|)()(ε<-+k k k x f x f x f ，停止计算.（3）在无约束最优化中，当函数梯度的模充分小时51||)(||ε<∇+k x f ，停止计算.迭代法的关键：① 如何构造每一轮的搜索方向kp ② 确定步长k λ关于k λ，前面是以)(min kk p x f λλ+产生的，也有些算法k λ取为一个固定值，这要根据具体问题来确定.关于kp 的选择，在无约束极值问题中只要是使目标函数值下降的方向就可以了，对于约束极值问题则必需为可行下降方向.定义7.8 设0,,:1≠∈→p R x R R f nn，若存在0>δ使),0(δλ∈∀，)()(x f p x f <+λ则称向量p 是函数)(x f 在点x 处的下降方向.定义7.9 设0,,,≠∈∈∈p R p K x R K nn，若存在0>λ使得K p x ∈+λ，称向量p 是点x 处关于K 的可行方向. 若一个向量p 既是目标函数f 在点x 处的下降方向，又是该点处关于可行域K 的可行方向，则称p 为函数f 在点x 处关于区域K 的可行下降方向.根据不同原理产生了不同的kp 和k λ的选择方法，就产生了各种算法. 在以后的讨论中，一维极值的优化问题是讨论求解步长k λ.无约束极值中讨论的最速下降法，共轭方向法，坐标轮换法，牛顿法，变尺度法及有约束极值中讨论的可行方向法都是根据不同的原理选择kp 得到的迭代算法.七、迭代算法的收敛性定义7.10 设有一算法A ，若对任一初始点（可行点），通过A 进行迭代时，或在有限步后停止得到满足要求的点；或得到一个无穷点列，它的任何一个聚点均是满足要求的点，则称此算法A 具有全局收敛性.定义7.11 设（UMP ）问题的目标函数Px Qx x x f T+=21)(，Q 为对称半正定矩阵，若由算法A 进行迭代时，不论初始点0x 如何选择，必能在有限步后停止迭代，得到所要求的点，则称此算法A 有二次有限终止性.定义7.12 设序列{}kr收敛于*r，定义满足∞<=--≤**+∞−→−βhkk k rr r r 1______lim0的非负数h 的上确界为{}k r 的收敛级.若序列的收敛级为h ，就称序列是h 级收敛的.若1=h 且1<β就称序列是以收敛比β线性收敛的. 若1>h 或1=h 且0=β就称序列是超线性收敛的. 如何判别算法的收敛性和收敛速度问题本书不讨论.本书给出的算法中，最速下降法具有全局收敛性、是线性收敛的；改进牛顿法具有全局收敛性、二次有限终止性、是二阶线性收敛的；变尺度法和共轭方向法具有全局收敛性和二次有限终止性、是超线性收敛的；Zoutenddijk 法不具有全局收敛性、改进的T-V 法具有全局收敛性；制约函数法具有全局收敛性.关于这些算法的收敛性的讨论和证明有兴趣的读者可参考其他文献.§2 一维极值问题的优化方法前面讨论迭代算法时,从kx 出发确定沿k p 方向的步长k λ是这样求解的),(min 0k k p x f λλ+>这里k x ,k p 已知.所以,若记)()(λλg p x f k k =+,则为求解)(min 0λλg >的过程.于是我们考虑如下形式的极值问题.)(min x f bx a ≤≤ (7.8)b a R x ,,1∈为任意实数很显然可应用高等数学中学过的解析法,即令0)('=x f 求出平稳点,但如前面所述如果该方程解不出来,怎么办?可用下述迭代算法—0.618法.定义7.13 )(x f 定义在],[b a 上,若存在点∍∈],[*b a x 当*x y x ≤<,有)()(y f x f >,当*x y x ≥>时,)()(y f x f >,称)(x f 在],[b a 中为单峰函数(单谷函数).显然满足定义要求的点*x 是)(x f 在],[b a 中的极小点.在],[b a 中任选两点21,x x ,且b x x a <<<21,根据)(x f 的单峰性,若)()(21x f x f <,则*x 必然位于],[2x a 内,如果)()(21x f x f >,则*x 必然位于],[1b x 内.如果)()(21x f x f =,则*x 必然位于],[21x x ,记此区间为],[11b a .如此继续,得闭区间套⊃⊃⊃⊃],[],[],[11n n b a b a b a .显然 ,1,0],,[*=∈i b a x i i ，又0→-i i a b .由闭区间套性质, *x 为极小值点.闭区间套的选择方法不同,求得的*x 的快慢及求解过程的计算量是不一样的，有一个常用的方法是0.618法.0.618法：取],[],[b a =βα① 在],[βα中选取1λ和2λ,)(618.0),(382.021αβαλαβαλ-+=-+=,求出)(1λf 和)(2λf 进入②.② 若)()(21λλf f <,取],[],[2λαβα=,若αλ-2已足够小,停止,否则进入③.若)()(21λλf f >,取],[],[1βλβα=,若1λβ-已足够小,停止,否则进入④. 若)()(21λλf f =,取],[],[21λλβα=,若12λλ-已足够小,停止,否则进入①. ③ 取上一步中的1λ为2λ,显然有)(618.02αβαλ-+=,令)(382.01αβαλ-+=,求出)(1λf ,返回②.④ 取上一步的2λ为1λ,则有)(382.01αβαλ-+=,令)(618.02αβαλ-+=,求出)(2λf 返回②.设初始区间为],[b a ，用0.618法，经过k 次迭代后],[βα的长度ka b 618.1)(-=-αβ，只要k 充分大αβ-可以小于任何给定的正数.例7.3 用0.618法求解λλλ2)(min 2+=f单峰区间为[-3，5]，2.0=ε解：[α，β]=[-3，5]1λ=-3+0.382×8=0.056 )(1λf =0.1152λ=-3+0.618×8=1.944 )(2λf =7.667由于)(1λf <)(2λf 所以新的不定区间为[α，β] =[-3，1.944] 由于β-α=4.944>0.22λ:=1λ=0.056 )(2λf :=)(1λf =0.115 1λ=-3+0.382×4.944=-1.112 )(1λf =-0.987如此反复得下表7-1：在进行8次迭代后,2.0112.1936.0<+-=-αβ取中间值024.1*-=λ或032.12-=λ作为近似最优解.显然真正极小点是-1.0.一维收索方法很多，如函数逼近法、牛顿法等可参考其他文献.§3 无约束极值的优化方法考虑无约束最优化问题（UMP ）)(min x f nR x ∈ (7.9) 前面已经讨论过,求解此无约束优化问题,可以求出平稳点及不可导点的方法.令0)(*=∇x f ,求出平稳点.如果)(*2x f ∇是正定的,则*x 是UMP 的严格局部最优解.若)(x f 在n R 上是凸函数,则是整体最优解.在求解0)(*=∇x f 这n 维方程组比较困难时，就用最优化算法——迭代法.本节将介绍最速下降法,牛顿法,共轭方向法,坐标轮换法,变尺度法.这些算法就是用不同的方法来选择搜索方向k p 而得到的.当然kp 必须是下降方向.定理7.7 设R R f n→:，在点x 处可微,若存在nR p ∈,使0)(<∇p x f T,则向量p是f 在x 处的下降方向.证明:)(x f 可微(在x 处)，由泰勒展开式,有 ||)(||)()()(p p x f x f p x f Tλολλ+∇+=+ ,0,0)(><∇λp x f T0)(<∇∴p x f Tλ），（当δλδ0∈∃∴时,有0||)(||)(<+∇p p x f Tλολ),0()()(δλλ∈∀<+∴x f p x fp ∴是)(x f 在点x 的下降方向. 证毕.一、最速下降法最速下降法又称梯度法,选择负梯度方向作为目标函数值下降的方向,是比较古老的一种算法，其它的方法是它的变形或受它的启发而得到的，因此它是最优化方法的基础. 基本思想:迭代法求解无约束最优化(5.9)问题的关键是求下降方向kp .显然最容易想到的是使目标函数值下降速度最快的方向.从当前点kx 出发,什么方向是使)(x f 下降速度最快呢? 由泰勒展开知:||)(||)()()(k k T k k k k p p x f p x f x f λολλ+∇-=+-略去λ的高阶无穷小项,取)(kkx f p -∇=时,函数值下降最多.而)(kx f ∇为)(x f 在kx 处的梯度，所以下降方向kp 取为负梯度方向时,目标函数值下降最快.最速下降法:①. 取初始点0x ,允许误差0>ε,令0:=k ②. 计算)(kkx f p -∇=③. 若ε<||||k p ,停止，点k x 为近似最优解.否则进入④.④. 求 k λ,使)(min )(0kk k k k p x f p x f λλλ+=+≥ ⑤. 令kk k k p x xλ+=+1，1:+=k k ，返回②例7.4 用最速下降法求解下列无约束优化问题1222121225),(m in x x x x x f -+=取初始点Tx )2,2(0= 终止误差 610-=ε解：很显然，该问题的整体最优解为Tx )0,1(*=⎪⎪⎭⎫⎝⎛-=∇215022)(x x x f ，令0,10)(21==⇒=∇x x x f易验证)(*2x f ∇是正定的， ∴是整体最优解. 下面用最速下降法求解T T x x x f x f x f )50,22(),()(2121-=∂∂∂∂=∇ T x )2,2(0=T x f )100,2()(0=∇∴取Tp )100,2(0-=由⎪⎪⎭⎫⎝⎛--=⎪⎪⎭⎫ ⎝⎛--+⎪⎪⎭⎫ ⎝⎛=+λλλλ10022210022200p x4)22(2)1002(25)22()(2200+---+-=+λλλλp x f得0)1002(5000)22(4=----=λλλd df020007679.0500008100080==⇒λ⎪⎪⎭⎫⎝⎛-=⎪⎪⎭⎫ ⎝⎛--+⎪⎪⎭⎫ ⎝⎛=+=0007679.0959984642.11002020007679.0220001p x x λ重复上述过程得 Tx )01824717.0,009122542.1(2=789850288.0)(,078282.0)(,100)(21-=-==x f x f x f图7-1从图7-1可知，{}kx 随着迭代次数的增加，越来越接近与最优解)0,1(，同时也看到，随着迭代次数的增加，收敛速度越来越慢.极小点附近沿着一种锯齿形前进，即产生“拉锯”现象：{}kx沿相互正交的方向小步拐进，趋于最优解的过程非常缓慢.这种现象怎样解释？如何克服？在求k λ时，由于)()(kkp x f λλϕ+=，求导得0)('=λϕ，k λ是)(λϕ的极小点.故有0)()('=⋅+∇=k T k k k k p p x f λλϕ，即0)(=⋅+∇kk k k p p x f λ，又)(11++-∇=k k x f p，即0)(1=⋅+k T k p p 或0)()(1=∇⋅∇+k T k x f x f .也就是最速下降法相邻两个搜索方向是彼此正交的.因此最速下降法是局部下降最快，但不一定是整体下降最快的.在实际应用中一般开始几步用最速下降法，后来用下面介绍的牛顿法.这样两个算法结合起来，求解速度较快.二、牛顿法基本思想：考虑无约束优化问题(5.9))(min x f nRx ∈ 由前面的讨论知，若能解出方程组0)(=∇x f ，求出平稳点*x ，则可验证*x 是否为极值点.由于0)(=∇x f 难以求解.如果)(x f 具有连续的二阶偏导数,则考虑用)(x f 在点*x 二阶泰勒展开式条件替代)(x f ∇，即由22||)(||))(()(21)()()()(k k k T k k T k k x x x x x f x x x x x f x f x f -+-∇-+-∇+=ο))(()(21)()()()()(2kk T k k T k k x x x f x x x x x f x f x g x f -∇-+-∇+=≈⇒令0))(()()()(2=-∇+∇=∇≈∇kk k x x x f x f x g x f)())((121k k k k x f x f x x ∇∇-=⇒-+即从kx 出发，搜索方向为)())((12kkkx f x f p ∇∇-=-，步长恒为1，得到下一个迭代点1+k x.牛顿法：①．选取初始点0,0=：k x ，精度0>ε ②．计算)(kx f ∇，如果ε≤∇||)(||kx f ，计算终止.否则计算)(2kx f ∇，求出搜索方向)())((12kk k x f x f p ∇∇-=-. ③．令1:,1+=+=+k k p x x k k k ，返回②.例7.5 考虑无约束问题22122214)(m in x x x x x f -+=试分别取初始点（1）T x )1,1(0=，（2）T x )4,3(0=（3）Tx )0,2(0=，取精度要求310-=ε，用牛顿法求解.解：⎪⎪⎭⎫ ⎝⎛--=∇212211228)(x x x x x x f ⎪⎪⎭⎫⎝⎛---=∇22228)(1122x x x x f (1) 取Tx )1,1(0=有Tx f )1,6()(0=∇ ε>=∇0828.6||)(||0x f⎪⎪⎭⎫⎝⎛--=∇2226)(02x fT x f x f p )2500.2,7500.1()())((01020--=∇⋅∇-=-Tp x x )2500.1,7500.0(01--=+= 重复计算结果得表7-2.ε<=0||)(||4x f T x )0,0(4=∴为近似最优解.实际上，该问题最优解为**)0,0(=x(2) 取Tx )4,3(0=,同上计算,得TT x x x )4,8284.2(,)4,8333.2(),4,3(21===有ε<=∇=∇=∇0||)(||,1667.0||)(||,1||)(||210x f x f x f ，这一迭代结果收敛到)(x f 的鞍点T)4,22(.(3) 取Tx )0,2(0=T x f )4,16()(0-=∇ ⎪⎪⎭⎫⎝⎛--=∇2448)(02x f0)(02=∇x f , 即)(02x f ∇不可逆，所以无法求得点1x .牛顿法的主要缺点:（1）该法的某次迭代反而使目标函数值增大(见上例).（2）初始点0x 距极小点*x 较远时,产生的点列{}kx可能不收敛,还会出现)(*2x f ∇的奇异情况.（3） )(*2x f ∇的逆矩阵计算量大. 牛顿迭代法的主要优点:当目标函数)(x f 满足一定条件,初始点0x 充分接近极小点*x 时,由牛顿法产生的点列{}kx 不仅能够收敛到*x,而且收敛速度非常快.实际应用中常将最速下降法和牛顿法结合起来使用.牛顿法的改进:上面介绍的牛顿法中,kx 处的搜索方向为)())((12kkkx f x f p ∇∇-=-,步长恒为 1.若通过一维搜索来取最优步长k λ,可防止在迭代中步长恒为1时标目标函数值增大的可能. 改进的牛顿法:①. 取初始点nR x ∈0,允许误差0:,0=>k ε.②. 检验是否满足ε<∇||)(||kx f ,若是,迭代停止,得到k x 为近似最优解.否则进入③.③. 令)())((12kk k x f x f p ∇∇-=-.④. 求k λ,使)()(min kk k k k p x f p x f λλλ+=+. ⑤. 令k k k k p x x λ+=+1,令1+=k k ：转②.三、坐标轮换法既然求解非线性规划问题的迭代法是给出初始点0x ,求出一个方向kp ,根据kp 确定步长k λ,使k k k k p x xλ+=+1，如果1+k x 满足某精度要求则停止，否则继续找方向1+k p .显然构造出搜索方向有一定的困难，能否按既定的搜索方向寻找最优解,省去找搜索方向kp 呢?在最速下降法中我们看到相邻两个搜索方向kp 和1+k p是正交的.我们知道在n 维欧氏空间中坐标轴向量n εεε,,,21 是正交的，可否选坐标轴向量为搜索方向kp 为呢?回答是肯定的，这样我们得到了坐标轮换法.基本思想:从1x 出发,取11ε=p ,沿1p 进行一维搜索得到1112p x x λ+=.若2x 满足精度要求,则停止.否则取22ε=p ,2223p x x λ+=.如此继续,, 取n n n n n n p x x p λε+==+1,，若1+n x 满足精度要求,则停止.否则令11ε=+n p ,1112+++++=n n n n p x x λ,如此反复连续,可以求出近似最优解.坐标轮换法的缺点是收敛速度较慢,搜索效率较低,但基本思想简单,沿坐标轴的方向进行搜索.四、共轭方向法和共轭梯度法共轭方向法是一类方法的总称,它原来是为求解目标函数为二次函数的问题而设计的.这类方法的特点是:方法中的搜索方向是与二次函数的系数矩阵Q 有关的所谓共轭方向，用这类方法求解n 元二次函数的极小化问题最多进行n 次一维搜索便可以得到极小点.由于可微的非二次函数在极小点附近的性态近似于二次函数,因此这类方法也用于求可微的非二次函数的UMP 问题.定义7.14 设Q 为n n ⨯对称正定矩阵,如果0=Qy x T称n 维向量x 和y 关于Q 共轭.定义7.15 设k p p p ,,,21 为nR 中一组向量, Q 是一个n n ⨯对称正定矩阵.如果k j i j i Qp p Qp p i T i j T i ,,2,1,,,0,0 =≠≠=,称k p p p ,,,21 为Q 共轭向量组,也称它们为一组Q 共轭方向.当E Q =(单位矩阵)时,为正交方向.定理7.8 若k p p p ,,,21 为矩阵Q 共轭向量组,则它们必线性无关. 证明: 若存在k l l l ,,,21 ,使011=++k k p l p l ,则对任一k j ,,2,1 =,由 0)(11===∑∑==j T j j ki j T j iki iiT jQp p l Qp pl p l Q p又0>j Tj Qp p , 0=∴j l∴ k p p p ,,,21 线性无关. 证毕.由高等代数知识可知, Q 共轭向量组中最多包含n 个向量, n 是向量的维数.反之,可以证明,由n 维空间的任一组基出发可以构造出一组Q 共轭方向11,,,-n pp p .前面我们已经讲述了坐标轮换法，在n 维欧几里德空间中, n εεε,,,21 是一组线性无关的正交向量.从0x 出发,依次使用n εεε,,,21 作为下降方向进行一维精确搜索来确定n x x x ,,,21 ,重复进行得点列{}k x ,最终求得满足精度要求的最优解.刚才我们引进了共轭向量组11,,,-n p p p ,又证明了它们的线性无关性,那么是否可以用这共轭向量组像坐标轮换法一样,从0x 出发依次用11,,,-n pp p 作为下降方向来确定{}kx,最终求得近似最优解?回答是肯定的.这个方法称为共轭方向法.共轭方向法适合任何可微凸函数,且对于二次函数极值)(min x f x p Qx x T T+=21特别有效.下面的定理告诉我们用共轭方向法求解二次函数的极值，经过n 次迭代就能求得最优解.定理7.9 设Q 为n n ⨯对称正定矩阵,函数x p Qx x x f T T+=21)(,又设 110,,,-n p p p 为一组Q 共轭向量组,且每个i p 是(下面形成的)i x 点处的下降方向.则由任一点0x 出发,按如下迭代至多n 步后收敛,k k k k p x xλ+=+1,这里k λ满足)(m i n )(0k k k k k p x f p x f λλλ+=+>.证明: 欲证至多n 步收敛,即证0)(=∇nx f .下证)(nx f ∇和11,,,-n pp p 正交.p Qx x f +=∇)( p Qx x f kk+=∇∴)( p p x Q p Qx xf k k k k k ++=+=∇++)()(11λkk k k k k Qp x f p Qp Qx λλ+∇=++=)( =+∇=∇---111)()(n n n n Qpx f x f λ 11111)(--++++++∇=n n k k k Qp Qp xf λλQ p Q p x f x f Tn n T k k T k T n )()()()(11111--++++++∇=∇λλkT n n k T k k k T k k T n Qp p Qp p p x f p x f )()()()(11111--++++++∇=∇λλ000+++= )2,,2,1,0(-=n k 又0)(1=∇-n Tn px f0)(=∇∴kT n p x f )1,,1,0(-=n k)(nx f ∇∴和11,,,-n pp p 正交，又110,,,-n pp p 线性无关.0)(=∇∴nx fnx ∴是问题的最优解. 证毕. 共轭方向法具有二次有限终止性. 由于共轭方向组11,,,-n p p p 的取法有很大的随意性,用不同方式产生一组共轭方向就得到不同的共轭方向法.如果利用迭代点处的负梯度向量为基础产生一组共轭方向,这样的方法叫共轭梯度法.下面对二次函数讨论形成Q 共轭梯度方向的一般方法,然后引到求解无约束化问题上.任取初始点n R x ∈0,若0)(0≠∇x f ,取)(0x f p -∇=,从0x 点沿方向0p 进行一维搜索 ,求得0λ.令0001p x x λ+=,若0)(1=∇x f ,则已获得最优解1*x x =.否则，取0011)(p x f p υ+-∇=,其中0υ的选择要使1p 和0p 关于Q 共轭，由0)(01=Qp p T ,得0100)()()(Qp p x f Q p T T ∇=υ一般地,若已获得Q 共轭方向kp p p ,,,1和依次沿它们进行一维搜索的得到的点列110,,,+k x x x ,若0)(1=∇+k x f ,则最优解为1*+=k x x ,否则∑=+++-∇=ki i i k k p xf p011)(α为使1+k p 和11,,,-k pp p 是共轭,可证0110====-k ααα所以有 k k k k p x f pυ+-∇=++)(11又1+k p和kp 是Q 共轭的.有0)(1=+k Tk Qp p，得kT k k T k k Qpp x f Q p )()()(1+∇=υ 2,,2,1,0-=n k 进一步可得k υ221||)(||||)(||k k x f x f ∇∇=+ 2,,1,0-=n k综合起来得 Fletcher-Reeves 公式2)21110||(||||)(||)()(k k k k k k k x f x f p x f px f p ∇∇=+-∇=-∇=+++υυ 2,,2,1,0-=n k （7.10）共轭梯度法： ①．选取初始点0x ，给定终止误差0>ε. ②．计算)(0x f ∇，若ε≤∇||)(||0x f ,停止迭代，输出0x .否则进行③.③．取)(0x f p -∇=，令0:=k④．求k λ，)(min )(0kkkk kp x f p x f λλλ+=+≥，令k k k k p x xλ+=+1⑤．计算)(1+∇k xf ，若ε≤∇+||)(||1k x f ，停止迭代，1*+=k x x 为最优解.否则转⑥.⑥．若n k =+1，令nx x =:0，转③(已经完成一组共轭方向的迭代,进入下一轮)否则转⑦ ⑦．取kk k k p xf pυ+-∇=++)(11,其中221||)(||||)(||k k k x f x f ∇∇=+υ,令1:+=k k ,转④当)(x f 是二次函数时上述共轭梯度法至多进行n 步可求得最优解.当)(x f 不是二次函数,共轭梯度法也可以构造11,,,-n p p p ,但已不具有有限步收敛的性质，于是和坐标轮换法一样经过一轮迭代后,采用重新开始的技巧.上述共轭梯度法就是带有再开始技巧的F-R 法.例7.6 用F-R 法求下面问题 2212121252),(m in x x x x x f +-=取初始点T x )2,2(0=,终止误差为610-=ε解:在例7.4中已得Tx f p )100,2()(0-=-∇= Tx )0007679.0,959984642.1(1-= Tx f )038395.0,919969284.1()(1-=∇000368628.010004687756228.3||)(||||)(||20210==∇∇=x f x f υ ⎪⎪⎭⎫ ⎝⎛-=⎪⎪⎭⎫ ⎝⎛--+⎪⎪⎭⎫ ⎝⎛-=+-∇=0015322.092070654.11002000368628.0038395.0919969284.1)(0011p x f p υ⎪⎪⎭⎫ ⎝⎛+--=+0015322.00007679.092070654.1959984642.111λλλp x0378228399.7687703443.3)(11=+-=+λλλd p x df499808794.01=∴λ⎪⎪⎭⎫ ⎝⎛≈⎪⎪⎭⎫ ⎝⎛-=⎪⎪⎭⎫⎝⎛⨯+--⨯+=+=010********.0999998622.00015322.0499808794.00007679.0)92070654.1(499808794.0959984642.11112p x x λε<=∇0||)(||2x f , ∴最优解⎪⎪⎭⎫⎝⎛==012*x x .五、变尺度法当初始点为)(x f 的其极值点附近时牛顿法收敛速度很快，但缺点是需计算)(2kx f ∇的逆矩阵，在实际问题中目标函数往往相当复杂，计算二阶导数的工作量或者太大或者不可能，在x 的维数很高时，计算逆矩阵也相当费事.如果能设法构造另一个矩阵kH ，用它来逼近二阶导数矩阵的逆矩阵12))((-∇kx f 则可避免上述问题.下面就来研究如何构造12))((-∇kx f 的近似矩阵kH .我们希望：每一步都能以现有的信息来确定下一个搜索方向，每做一次迭代，目标函数值均有所下降，这些近似矩阵最后应收敛于最优解处的海赛矩阵的逆矩阵12))((-∇kx f .p Qx x f xp Qx x x f T T+=∇+=)(21)(考虑于是 )]()([)()()(11111k k k k k k k k x f x f Q x x x x Q x f xf ∇-∇=-⇒-=∇-∇+-+++当)(x f 是非二次函数时，令)]()([111k k k k k x f x f H x x ∇-∇=-+++ （7.11）称为拟牛顿条件.显然，我们构造出来的近似矩阵k H 必须满足上述拟牛顿条件及递推性：k k k H H H ∆+=+1，这里k H ∆称为矫正矩阵.记 k k k kk k x x x x f x f G -=∆∇-∇=∆++11)()( 有 kk k k k k G H H G H x ∆∆+=∆=∆+)(1 .变尺度法即DEP 法是由Davidon 首先提出，后来又被Fletcher 和Powell 改进的算法.记kk T k kT k k k k T k T k k k k kk T k kT k k k k T k T k k kG H G HG G H x G x x H H G H G H G G H x G x x H ∆∆∆∆-∆∆∆∆+=∆∆∆∆-∆∆∆∆=∆+)()()()()()()()(1 （7.12）容易验证1+k H 满足拟牛顿条件，称上式为DEP 公式.变尺度方法计算步骤：（１）给出初始点nR x ∈0，允许误差0>ε.（２）若ε<∇||)(||0x f ，停止，0x 为近似最优解；否则转下一步.（３）取I H =0（单位矩阵），0=：k . （４） )(kk k x f H p ∇-=（５）求k λ，使)(min )(0kk k k k p x f p x f λλλ+=+≥. （６）令kk k k p x xλ+=+1（７）若ε<∇+||)(||1k xf ，1+k x 为最优解，停止；否则当1-=n k 时，令n x x =：0转（３）.（即迭代一轮n 次仍没求得最优解，以新的0x 为起点重新开始一轮新的迭代）.k k k k k kx x x x f xf G n k -=∆∇-∇=∆-<++11),()(1时，令当.计算kk T k kT k k k k T k T k k kk G H G H G G H x G x x H H∆∆∆∆-∆∆∆∆+=+)()()()(1，令1+=k k ：，转（４）. §4 约束极值的最优化方法考虑(MP)问题：0)(0)(..)(min =≥x H x g t s x f （7.13）其中Tl T m x h x h x h x g x g x g ))(,),(()(,))(,),(()(11 ==是向量函数.显然 0)(0)(0)(≥-≥⇔=x h x h x h ，　于是（MP ）问题可以写为：Tm x g x g x g x g t s x f ))(,),(()(0)(..)(min 1 =≥ （7.14）一、积极约束设0x 是（MP ）问题（5.14）的一个可行解.对0)(0≥x g i 来说，在点0x 有两种情况：或者0)(0>x g i ，或者0)(0=x g i .0)(0>x g i 时，则0x 不在0)(0=x g i 形成的边界上，称这一约束为0x 的非积极约束；0)(0=x g i 时，0x 处于由0)(0≥x g i 这个约束条件形成的可行域边界上，当0x 有变化时就不满足0)(0=x g i 的条件，所以称为积极约束，记为：{}()|()0,1i I x i g x i m ==≤≤.定义7.16 设x 满足约束条件0)(0≥x g i ),,1(m i =，0)(|{)(==x g i x I i ，}m i ≤≤1，如果)(x g i ∇，)(x I i ∈线性无关，则称点x 是约束条件的一个正则点.二、可行方向、下降方向的代数条件前面我们已经给出可行方向和下降方向的定义，下面给出其代数条件.可行方向：设K 是（MP ）问题（5.14）的可行域，K x ∈,0,≠∈p R p n.若存在00>λ使得],0[0λλ∈时有K p x ∈+λ，称p 为x 点处的一个可行方向.由泰勒公式：||)(||)()()(p p x g x g p x g T i i i λολλ+∇+=+当x 为)(x g i 的积极约束时，有0)(=x g i .只要0>λ足够小，)(p x g i λ+和p x g T i )(∇λ同号，于是当0)(>∇p x g T i 时有0)(≥+p x g i λ )(x I i ∈.当x 为)(x g i 的非积极约束时，有0)(>x g i .由)(x g i 的连续性，当0>λ足够小时，由保号性知 0)(≥+p x g i λ )(x I i ∉.所以只要 0)(>∇p x g T i ，)(x I i ∈就可保证0)(≥+p x g i λ，于是p 为x 点处的一个可行方向.称0)(>∇p x g T i ，)(x I i ∈ 为p 在点x 处是可行方向的代数条件.下降方向：设K 是（MP ）问题的可行域，K x ∈,0,≠∈p R p n.若存在00>λ使得],0[0λλ∈时，有)()(x f p x f <+λ，称p 为x 点处的一个下降方向.由泰勒公式：||)(||)()()(p p x f x f p x f Tλολλ+∇+=+.当λ足够小时，只要0)(<∇p x f T，有)()(x f p x f <+λ. 称0)(<∇p x f T为p 在x 点处的一个下降方向的代数条件.三、可行下降方向设K 为（MP ）问题（5.14）的可行域，K x ∈，若存在0,≠∈p R p n，p 既是x 点处的下降方向又是可行方向，则称p 为点x 处的可行下降方向.定理7.10 考虑非线性规划问题（5.14），K x ∈，),,1)()(m i x g x f i =（和在x点处可微，若*x 是局部极小点，则x 点处必不存在可行下降方向，即不存在p 同时满足：⎪⎩⎪⎨⎧∈>∇<∇)(0)(0)(x I i p x g p x f Ti T证明：反证法，设局部极小点x 处存在可行下降方向p ，于是1λ∃，当],0[1λλ∈时有)()(x f p x f <+λ，又p 为可行方向．2λ∃∴当],0[2λλ∈时K p x ∈+λ，这与x 是。

数学中的非线性规划与凸优化

数学中的非线性规划与凸优化数学广泛应用于各个领域，其中非线性规划和凸优化是数学中重要且常见的概念。

非线性规划是指在给定的约束条件下，寻找一个目标函数的最优解；而凸优化是指在给定的凸约束条件下，寻找一个凸函数的最优解。

本文将分别介绍非线性规划和凸优化的基本概念、求解方法和应用领域。

一、非线性规划非线性规划是求解非线性优化问题的数学方法。

与线性规划相比，非线性规划没有线性约束条件，目标函数和约束条件都是非线性的。

非线性规划在实际问题中的应用非常广泛，比如工程设计、金融投资和生产优化等领域。

1.1 基本概念非线性规划问题可以用如下形式表示：$$\begin{align*}\text{minimize} \quad & f(\mathbf{x}) \\\text{subject to} \quad & g_i(\mathbf{x}) \leq 0, \quad i = 1,2,\ldots,m \\ & h_j(\mathbf{x}) = 0, \quad j = 1,2,\ldots,p \\\end{align*}$$其中，$f(\mathbf{x})$是目标函数，$\mathbf{x} \in\mathbb{R}^n$是优化变量，$g_i(\mathbf{x}) \leq 0$和$h_j(\mathbf{x}) = 0$是约束条件。

1.2 求解方法求解非线性规划问题的方法有很多，常用的方法包括梯度下降法、牛顿法和拟牛顿法等。

这些方法都是通过迭代的方式，逐步优化目标函数，直到找到最优解或接近最优解。

1.2.1 梯度下降法梯度下降法是一种常用的求解非线性规划问题的方法。

它通过不断沿着负梯度方向更新优化变量，逐步接近最优解。

具体步骤如下：（1）初始化优化变量$\mathbf{x}^{(0)}$和学习率$\alpha$；（2）计算目标函数$f(\mathbf{x}^{(k)})$的梯度$\nablaf(\mathbf{x}^{(k)})$；（3）更新优化变量：$\mathbf{x}^{(k+1)} = \mathbf{x}^{(k)} -\alpha \nabla f(\mathbf{x}^{(k)})$；（4）重复步骤（2）和（3），直到满足终止条件。

现代设计方法学试题：非线性规划题目

1．利用程序求解非线性规划问题求出目标函数在约束条件内的极小点，并求出函数最优值，并判定极小点是否是全局最优解。

2．求解非线性规划问题利用程序求出目标函数的海塞矩阵，以及各阶主子式，并判定该规划是否是凸规划。

3．解非线性规划问题判定，是否是该规划的极值点。

4．求解非线性规划问题求出该规划的极小值，并判定其是否是全局最优点。

5．解非线性规划问题判定该规划是否是凸规划，求出该规划的极小点，并求出在极小点处的函数值。

解答：第一题：答案：所得全局最优解为x =（1.3333 ，0.3333）所得全局最优目标函数值为fx =-8.1111第二题：答案：目标函数f(x)的海塞矩阵为:H0 =1 -1 0-1 2 00 0 1目标函数f(x)海塞矩阵各阶主子式为:f(x)海塞矩阵的1阶主子式= 1f(x)海塞矩阵的2阶主子式= 1f(x)海塞矩阵的3阶主子式= 1由于目标函数以及所有不等式约束函数的海塞矩阵正定，所以该规划为凸规划第三题：答案：所得极值点为x =（1.0000，1.0000 ，-0.5000）所得极值点处最优目标函数值为fx =0.7500第四题：答案：所得全局最优解为x =（0，0，2）所得全局最优目标函数值为fx =-24第五题：答案：目标函数f(x)海塞矩阵各阶主子式为:D0 =1.00000.7500约束函数g1(x)海塞矩阵的各阶主子式为：D1=约束函数g2(x)海塞矩阵的各阶主子式为：D2=约束函数g3(x)海塞矩阵的各阶主子式为：D3=由于目标函数以及所有不等式约束函数的海塞矩阵正定，所以该规划为凸规划，所得的极值点为全局最优点。

所得全局最优解为x =（2，-2）所得全局最优目标函数值为fx = 6。

求非线性规划kt—解的一种方法

求非线性规划kt—解的一种方法非线性规划kt-解是一种用于求解非线性规划的方法。

它是由俄罗斯数学家kt-解提出的。

非线性规划kt-解的一般求解流程如下：1.首先，需要确定非线性规划的目标函数和约束条件。

目标函数是指你希望最大化或最小化的函数，而约束条件则是指限制变量取值的条件。

2.然后，需要设计一个求解方案。

通常，这需要使用一些数学方法，例如微积分、拉格朗日乘数法等。

3.接着，需要使用求解方案来解决非线性规划。

这可能需要通过迭代或者解方程的方法来解决。

4.最后，需要检验所得的解是否满足非线性规划的所有约束条件。

如果满足，则该解为最优解；否则，则需要重新设计求解方案，并继续求解。

非线性规划kt-解求解方法的优点在于，它可以适用于各种类型的非线性规划，并且求解的过程相对简单。

但是，这种方法的缺点在于，在求解复杂的非线性规划时，可能会产生较大的误差，并且迭代次数较多，解决起来较为困难。

除了kt-解法，还有其他许多用于求解非线性规划的方法，例如拉格朗日乘数法、二次规划法、随机化算法等。

在选择求解方法时，需要根据实际情况进行选择，并考虑解的精度、求解的复杂度和效率等因素。

在使用kt-解法求解非线性规划时，需要注意以下几点：1.首先，需要确保非线性规划的目标函数和约束条件是可以使用kt-解法求解的。

2.其次，在设计求解方案时，需要考虑求解的复杂度和精度。

3.最后，在求解过程中，需要注意检查所得解是否满足非线性规划的所有约束条件，并及时调整求解方案。

总的来说，kt-解法是一种有效的求解非线性规划的方法，但是在使用时需要注意一些细节，以保证求解的准确性和效率。