Matlab经典优化函数详细介绍

Matlab 经典优化函数详细介绍----------------Matlab 优化工具箱简介5.1 线性优化线性规划问题是目标函数和约束条件均为线性函数的问题，MATLAB7.0解决的线性规划问题的标准形式为 minsub. to ：其中f 、x 、b 、beq 、lb 、ub 为向量，A 、Aeq 为矩阵. 其它形式的线性规划问题都可经过适当变换化为此标准形式. 在MATLAB5.x 以上版中，线性规划问题Linear Programming 已用函数linprog 取代了MATLAB5.x 版中的lp 函数.当然，由于版本的向下兼容性，一般说来，低版本中的函数在7.0版中仍可使用.函数 linprog格式 x = linprog(f,A,b)%求min f ' *x sub.to 线性规划的最优解. x = linprog(f,A,b,Aeq,beq) %等式约束，若没有不等式约束，则A=[ ]，b=[ ]. x = linprog(f,A,b,Aeq,beq,lb,ub) .%指定x 的范围，若没有等式约束 ，则Aeq=[ ]，beq=[ ]. x = linprog(f,A,b,Aeq,beq,lb,ub,x0)nR x xf ∈'b x A ≤⋅beqx Aeq =⋅ubx lb ≤≤bx A ≤⋅%设置初值x0.x = linprog(f,A,b,Aeq,beq,lb,ub,x0,options)% options为指定的优化参数.[x,fval] = linprog(…)% 返回目标函数最优值，即fval= f ' *x.[x,lambda,exitflag] = linprog(…)% lambda为解x的Lagrange乘子.[x, lambda,fval,exitflag] = linprog(…)% exitflag为终止迭代的错误条件.[x,fval, lambda,exitflag,output] = linprog(…)% output为关于优化的一些信息.说明: 若exitflag>0表示函数收敛于解x，exitflag=0表示超过函数估值或迭代的最大次数，exitflag<0表示函数不收敛于解x；若lambda=lower 表示下界lb，lambda=upper表示上界ub，lambda=ineqlin 表示不等式约束，lambda=eqlin表示等式约束，lambda中的非0元素表示对应的约束是有效约束；output=iterations表示迭代次数，output=algorithm表示使用的运算规则，output=cgiterations表示PCG 迭代次数.MATLAB求解优化问题的主要函数类型模型基本函数名一元函数极小Min F（x）s.t.x1<x<x2 x=fminbnd(‘F’,x1,x2)无约束极小Min F(X)X=fminunc(‘F’,X0) X=fminsearch(‘F’,X0)线性规划Min X c Ts.t.AX<=bX=linprog(c,A,b) 二次规划 Min 21x T Hx+c Txs.t. Ax<=b X=quadprog(H,c,A,b) 约束极小 （非线性规划） Min F(X) s.t. G(X)<=0X=fmincon(‘FG ’,X 0) 多目标优化问题Min rs.t. F(x)-wr<=goal X=fgoalattain(‘F ’,x,goal,w)极小极大问题Min max {F i (x)}X {Fi(x)}s.t. G(x)<=0X=fminimax(‘FG ’,x 0)优化函数的输入变量优化函数的输出变量变量 描 述调用函数 f 线性规划的目标函数f*X 或二次规划的目标函数X ’*H*X+f*X 中线性项的系数向量 linprog,quadprogfun 非线性优化的目标函数.fun 必须为行命令对象或M 文件、嵌入函数、或MEX 文件的名称 fminbnd,fminsearch,fminunc, fmincon,lsqcurvefit,lsqnonlin,fgoalattain,fminimaxH 二次规划的目标函数X ’*H*X+f*X 中二次项的系数矩阵quadprogA,bA 矩阵和b 向量分别为线性不等式约束：b AX ≤中的系数矩阵和右端向量 linprog,quadprog,fgoalattain,fmincon, fminimax Aeq,beq Aeq 矩阵和beq 向量分别为线性等式约束： beq X Aeq =⋅中的系数矩阵和右端向量 linprog,quadprog,fgoalattain,fmincon, fminimaxvlb,vub X 的下限和上限向量：vlb ≤X ≤vublinprog,quadprog,fgoalattain, fmincon,fminimax,lsqcurvefit,lsqnonlinX 0 迭代初始点坐标 除fminbnd 外所有优化函数x 1,x 2 函数最小化的区间fminbnd options 优化选项参数结构，定义用于优化函数的参数 所有优化函数5.2非线性优化5.2.1 有约束的一元函数的最小值 单变量函数求最小值的标准形式为sub.to 函数 fminbnd格式 x = fminbnd(fun,x1,x2) %返回自变量x 在区间上函数fun 取最小值时x 值，fun 为目标函数的表达式字符串或MATLAB 自定义函数的函数柄.x = fminbnd(fun,x1,x2,options) [x,fval] = fminbnd(…) [x,fval,exitflag] = fminbnd(…) [x,fval,exitflag,output] = fminbnd(…)例5-2 计算下面函数在区间(0，1)内的最小值.变量 描 述调用函数 x由优化函数求得的值.若exitflag>0,则x 为解;否则,x 不是最终解,它只是迭代制止时优化过程的值所有优化函数fval 解x 处的目标函数值linprog,quadprog,fgoalattain, fmincon,fminimax,lsqcurvefit,lsqnonlin, fminbndexitflag 描述退出条件:● exitflag>0,表目标函数收敛于解x 处● exitflag=0,表已达到函数评价或迭代的最大次数● exitflag<0,表目标函数不收敛output包含优化结果信息的输出结构. ● Iterations:迭代次数● Algorithm:所采用的算法 ● FuncCount:函数评价次数所有优化函数)x (f min x21x x x <<解：>> [x,fval,exitflag,output]=fminbnd('(x^3+cos(x)+x*log(x))/exp(x)',0,1) x =0.5223 fval =0.3974 exitflag = 1 output =iterations: 9 funcCount: 9algorithm: 'golden section search, parabolic interpolation'例5-3 在[0，5]上求下面函数的最小值解：先自定义函数：在MATLAB 编辑器中建立M 文件为： function f = myfun(x) f = (x-3).^2 - 1;保存为myfun.m ，然后在命令窗口键入命令： >> x=fminbnd(@myfun,0,5) 则结果显示为： x = 35.2.2 无约束多元函数最小值 多元函数最小值的标准形式为其中：x 为向量.命令 利用函数fminsearch 求无约束多元函数最小值. 函数 fminsearch格式 x = fminsearch(fun,x0) %x0为初始点，fun 为目标函数的表达式字符串或MATLAB 自定义函数的函数柄. x = fminsearch(fun,x0,options) % options 查optimset. [x,fval] = fminsearch(…) %最优点的函数值.x3e x log x x cos x )x (f ++=)x (f min x[x,fval,exitflag] = fminsearch(…) % exitflag 与单变量情形一致. [x,fval,ex itflag,output] = fminsearch(…) %output 与单变量情形一致.例题5-4 求 的最小值点.解：>>X=fminsearch('2*x(1)^3+4*x(1)*x(2)^3-10*x(1)*x(2)+x(2)^2', [0,0]) 结果为X =1.0016 0.8335 或在MATLAB 编辑器中建立函数文件. function f=myfun(x)f=2*x(1)^3+4*x(1)*x(2)^3-10*x(1)*x(2)+x(2)^2; 保存为myfun.m ，在命令窗口键入>> X=fminsearch ('myfun', [0,0]) 或 >> X=fminsearch(@myfun, [0,0]) 结果为：X =1.0016 0.83355.2.3 有约束的多元函数最小值 非线性有约束的多元函数的标准形式为：sub.to 其中：x 、b 、beq 、lb 、ub 是向量，A 、Aeq 为矩阵，C(x)、Ceq(x)是返回向量的函数，f(x)为目标函数，f(x)、C(x)、Ceq(x)可以是非线性函数.在MATLAB5.x 中，它的求解由函数constr 实现. 函数 fmincon格式 x = fmincon(fun,x0,A,b) x = fmincon(fun,x0,A,b,Aeq,beq) x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub)222132131x x x 10x x 4x 2y +-+=ubx lb ≤≤)x (f min x)x (Ceq =beq x Aeq =⋅bx A ≤⋅0)x (C ≤x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon) x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon,options) [x,fval] = fmincon(…) [x,fval,exitflag] = fmincon(…) [x,fval,exitflag,output] = fmincon(…) [x,fval,exitflag,output,lambda] = fmincon(…) [x,fval ,exitflag,output,lambda,grad] = fmincon(…) [x,fval,exitflag,output,lambda,grad,hessian] = fmincon(… 参数说明：fun 为目标函数，它可用前面的方法定义；nonlcon 的作用是通过接受的向量x 来计算非线性不等约束和等式约束分别在x 处的估计C 和Ceq ，通过指定函数柄来使用，如： >>x = fmincon(@myfun,x0,A,b,Aeq,beq,lb,ub,@mycon)，先建立非线性约束函数，并保存为mycon.m ：function [C,Ceq] = mycon(x) C = … % 计算x 处的非线性不等约束的函数值. Ceq = … % 计算x 处的非线性等式约束的函数值. lambda 是Lagrange 乘子，它体现哪一个约束有效. output 输出优化信息；grad 表示目标函数在x 处的梯度； hessian 表示目标函数在x 处的Hessian 值. 例5-5 求下面问题在初始点（0，1）处的最优解 min21212221x 5x 2x x x x ---+Sub.to解：约束条件的标准形式为： sub.to先在MATLAB 编辑器中建立非线性约束函数文件： function [c, ceq]=mycon (x) c=(x(1)-1)^2-x(2);ceq=[ ]; %无等式约束. 然后，在命令窗口键入如下命令或建立M 文件：>>fun='x(1)^2+x(2)^2-x(1)*x(2)-2*x(1)-5*x(2)'; %目标函数. >>x0=[0 1];>>A=[-2 3]; % 线性不等式约束. >>b=6;>>Aeq=[ ]; % 无线性等式约束. >>beq=[ ];>>lb=[ ]; % x 没有下、上界. >>ub=[ ];>>[x,fval,exitflag,output,lambda,grad,hessian] =fmincon(fun,x0,A,b,Aeq,beq,lb,ub,@mycon) 则结果为x = 3 4 fval = -13exitflag = 1 % 解收敛. output =iterations: 2 funcCount: 9 stepsize: 1algorithm: 'medium-scale: SQP, Quasi-Newton, line-search' firstorderopt: [ ] cgiterations: [ ] lambda =lower: [2x1 double] % x 下界有效情况，通过lambda.lower 可查看. upper: [2x1 double] % x 上界有效情况，为0表示约束无效.eqlin: [0x1 double] %线性等式约束有效情况，不为0表示约束有效. eqnonlin: [0x1 double] %非线性等式约束有效情况. ineqlin: 2.5081e-008 %线性不等式约束有效情况.neqnonlin: 6.1938e-008 %非线性不等式约束有效情况.grad = %目标函数在最小值点的梯度. 1.0e-006 * -0.17760x )1x (221≥+--0x )1x (221≤--6x 3x 221≤+-6x 3x 221≤+-hessian = %目标函数在最小值点的Hessian 值. 1.0000 -0.0000 -0.0000 1.00005.2.4 二次规划问题二次规划问题（quadratic programming ）的标准形式为：sub.to其中，H 、A 、Aeq 为矩阵，f 、b 、beq 、lb 、ub 、x 为向量 其它形式的二次规划问题都可转化为标准形式.MATLAB5.x 版中的qp 函数已被6.0版中的函数quadprog 取代。