数学建模-优化问题
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
⑷ 令 S k f X k ，从X k 出发，沿S k 进行一维搜索，
即求k 使得：
min f
0
X k S k
f
X k k S k
；
⑸ 令 X k 1 X k k S k ，k=k+1 返回⑵.
最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最
百度文库
速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛
(3) 令 S k [ 2 f X k ]1f X k （牛顿方向）；
(4) X k1 X k S k , k k 1 ,转回(2).
如果f是对称正定矩阵A的二次函数，则用牛顿法经过一次迭代 就可达到最优点,如不是二次函数，则牛顿法不能一步达到极值点， 但由于这种函数在极值点附近和二次函数很近似,因此牛顿法的收 敛速度还是很快的.
X=fmincon(‘FG’,X0)
达到目标问题
Min r s.t. F(x)-wr<=goal
X=fgoalattain(‘F’,x,goal,w)
极小极大问题
Min max {Fi(x)}
X {Fi(x)}
s.t. G(x)<=0
X=fminimax(‘FG’,x0)
2. 优化函数的输入变量
使用优化函数或优化工具箱中其它优化函数时, 输入变量见下表:
0.9997 0.9998 1E-8
最优点 (1 1) 初始点 (-1 1)
返回
无约束优化问题的基本算法
1．最速下降法（共轭梯度法）算法步骤：
⑴ 给定初始点 X 0 E n ，允许误差 0 ,令 k=0；
⑵ 计算f X k ；
⑶ 检验是否满足收敛性的判别准则：
f X k ，
若满足，则停止迭代，得点X * X k ，否则进行⑷；
慢，最速下降法适用于寻优过程的前期迭代或作为间插步骤，当接近极值
点时，宜选用别种收敛快的算法.
2．牛顿法算法步骤：
(1) 选定初始点 X 0 E n ，给定允许误差 0 ，令 k=0；
(2) 求f X k , 2 f X k 1 ,检验：若 f X k ,则
停止迭代, X * X k .否则, 转向(3)；
一般优化问题概述
约束优化constrained optimization的简单分类
数学规划mathematical programming 或连续优化continuous optmization • 线性规划(LP) 目标和约束均为线性函数
Linear programming • 非线性规划(NLP) 目标或约束中存在非线性函数
牛顿法的收敛速度虽然较快，但要求Hessian矩阵要可逆， 要计算二阶导数和逆矩阵，就加大了计算机计算量和存储量.
Matlab优化工具箱简介
1.MATLAB求解优化问题的主要函数
类型
模
型
基本函数名
一元函数极小 无约束极小 线性规划
Min F（x）s.t.x1<x<x2
Min F(X)
Min cT X
s.t.AX<=b
x=fminbnd(‘F’,x1,x2) X=fminunc(‘F’,X0)
X=fminsearch(‘F’,X0)
X=linprog(c,A,b)
二次规划
Min 1 xTHx+cTx
2
s.t. Ax<=b
X=quadprog(H,c,A,b)
约束极小 （非线性规划）
Min F(X) s.t. G(X)<=0
变量 f
fun
H A,b
Aeq,beq
vlb,vub X0
x1,x2 options
描述 线性规划的目标函数f*X 或二次规划的目标函
数X’*H*X+f*X 中线性项的系数向量
非线性优化的目标函数.fun必须为行命令对象 或M文件、嵌入函数、或MEX文件的名称
二次规划的目标函数X’*H*X+f*X 中二次项的系 数矩阵
A矩阵和b向量分别为线性不等式约束：
AX b 中的系数矩阵和右端向量
Aeq矩阵和beq向量分别为线性等式约束：
Aeq X beq 中的系数矩阵和右端向量
X的下限和上限向量：vlb≤X≤vub
迭代初始点坐标 函数最小化的区间 优化选项参数结构，定义用于优化函数的参数
调用函数
linprog,quadprog
返回
求解无约束最优化问题的基本思想
标准形式：
其中
min f X
X E n
f : En E1
max f X = min [ f X ]
X E n
X E n
求解的基本思想 ( 以二元函数为例 )
f (x1 x2 )
连 续 可 微
0
x1
x2
f (X0) f (X1) f (X2)
X0
31
X1
X2
x2
5
0
x1
唯一极小 (全局极小)
f 0.298
f 0
f (x1 x2 ) 2x12 2x1x2 x22 3x1 x2
多局部极小
f 0.298
搜索过程 min f (x1 x2 ) 100 (x2 x12 )2 (1 x1)2
x1 x2 f
-1 1 4.00 -0.79 0.58 3.39 -0.53 0.23 2.60 -0.18 0.00 1.50 0.09 -0.03 0.98 0.37 0.11 0.47 0.59 0.33 0.20 0.80 0.63 0.05 0.95 0.90 0.003 0.99 0.99 1E-4 0.999 0.998 1E-5
✓ 整数线性规划(ILP)，整数非线性规划(INLP) ✓ 纯整数规划(PIP), 混合整数规划(MIP) Pure (mixed) Integer programming 一般整数规划，0-1（整数）规划 Zero-one programming
无约束最优化问题
求解无约束最优化问题的的基本思想 *无约束最优化问题的基本算法
Nonlinear programming 二次规划(QP) 目标为二次函数、约束为线性 Quadratic programming
一般优化问题概述
离散优化discrete optimization 或组合优化combinatorial optimization
整数规划(IP) 决策变量(全部或部分)为整数 Integer programming
fminbnd,fminsearch,fminunc, fmincon,lsqcurvefit,lsqnonlin,
即求k 使得：
min f
0
X k S k
f
X k k S k
；
⑸ 令 X k 1 X k k S k ，k=k+1 返回⑵.
最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最
百度文库
速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛
(3) 令 S k [ 2 f X k ]1f X k （牛顿方向）；
(4) X k1 X k S k , k k 1 ,转回(2).
如果f是对称正定矩阵A的二次函数，则用牛顿法经过一次迭代 就可达到最优点,如不是二次函数，则牛顿法不能一步达到极值点， 但由于这种函数在极值点附近和二次函数很近似,因此牛顿法的收 敛速度还是很快的.
X=fmincon(‘FG’,X0)
达到目标问题
Min r s.t. F(x)-wr<=goal
X=fgoalattain(‘F’,x,goal,w)
极小极大问题
Min max {Fi(x)}
X {Fi(x)}
s.t. G(x)<=0
X=fminimax(‘FG’,x0)
2. 优化函数的输入变量
使用优化函数或优化工具箱中其它优化函数时, 输入变量见下表:
0.9997 0.9998 1E-8
最优点 (1 1) 初始点 (-1 1)
返回
无约束优化问题的基本算法
1．最速下降法（共轭梯度法）算法步骤：
⑴ 给定初始点 X 0 E n ，允许误差 0 ,令 k=0；
⑵ 计算f X k ；
⑶ 检验是否满足收敛性的判别准则：
f X k ，
若满足，则停止迭代，得点X * X k ，否则进行⑷；
慢，最速下降法适用于寻优过程的前期迭代或作为间插步骤，当接近极值
点时，宜选用别种收敛快的算法.
2．牛顿法算法步骤：
(1) 选定初始点 X 0 E n ，给定允许误差 0 ，令 k=0；
(2) 求f X k , 2 f X k 1 ,检验：若 f X k ,则
停止迭代, X * X k .否则, 转向(3)；
一般优化问题概述
约束优化constrained optimization的简单分类
数学规划mathematical programming 或连续优化continuous optmization • 线性规划(LP) 目标和约束均为线性函数
Linear programming • 非线性规划(NLP) 目标或约束中存在非线性函数
牛顿法的收敛速度虽然较快，但要求Hessian矩阵要可逆， 要计算二阶导数和逆矩阵，就加大了计算机计算量和存储量.
Matlab优化工具箱简介
1.MATLAB求解优化问题的主要函数
类型
模
型
基本函数名
一元函数极小 无约束极小 线性规划
Min F（x）s.t.x1<x<x2
Min F(X)
Min cT X
s.t.AX<=b
x=fminbnd(‘F’,x1,x2) X=fminunc(‘F’,X0)
X=fminsearch(‘F’,X0)
X=linprog(c,A,b)
二次规划
Min 1 xTHx+cTx
2
s.t. Ax<=b
X=quadprog(H,c,A,b)
约束极小 （非线性规划）
Min F(X) s.t. G(X)<=0
变量 f
fun
H A,b
Aeq,beq
vlb,vub X0
x1,x2 options
描述 线性规划的目标函数f*X 或二次规划的目标函
数X’*H*X+f*X 中线性项的系数向量
非线性优化的目标函数.fun必须为行命令对象 或M文件、嵌入函数、或MEX文件的名称
二次规划的目标函数X’*H*X+f*X 中二次项的系 数矩阵
A矩阵和b向量分别为线性不等式约束：
AX b 中的系数矩阵和右端向量
Aeq矩阵和beq向量分别为线性等式约束：
Aeq X beq 中的系数矩阵和右端向量
X的下限和上限向量：vlb≤X≤vub
迭代初始点坐标 函数最小化的区间 优化选项参数结构，定义用于优化函数的参数
调用函数
linprog,quadprog
返回
求解无约束最优化问题的基本思想
标准形式：
其中
min f X
X E n
f : En E1
max f X = min [ f X ]
X E n
X E n
求解的基本思想 ( 以二元函数为例 )
f (x1 x2 )
连 续 可 微
0
x1
x2
f (X0) f (X1) f (X2)
X0
31
X1
X2
x2
5
0
x1
唯一极小 (全局极小)
f 0.298
f 0
f (x1 x2 ) 2x12 2x1x2 x22 3x1 x2
多局部极小
f 0.298
搜索过程 min f (x1 x2 ) 100 (x2 x12 )2 (1 x1)2
x1 x2 f
-1 1 4.00 -0.79 0.58 3.39 -0.53 0.23 2.60 -0.18 0.00 1.50 0.09 -0.03 0.98 0.37 0.11 0.47 0.59 0.33 0.20 0.80 0.63 0.05 0.95 0.90 0.003 0.99 0.99 1E-4 0.999 0.998 1E-5
✓ 整数线性规划(ILP)，整数非线性规划(INLP) ✓ 纯整数规划(PIP), 混合整数规划(MIP) Pure (mixed) Integer programming 一般整数规划，0-1（整数）规划 Zero-one programming
无约束最优化问题
求解无约束最优化问题的的基本思想 *无约束最优化问题的基本算法
Nonlinear programming 二次规划(QP) 目标为二次函数、约束为线性 Quadratic programming
一般优化问题概述
离散优化discrete optimization 或组合优化combinatorial optimization
整数规划(IP) 决策变量(全部或部分)为整数 Integer programming
fminbnd,fminsearch,fminunc, fmincon,lsqcurvefit,lsqnonlin,