《最优化方法》复习题

合集下载

《最优化方法》复习题(含答案)

附录5 《最优化方法》复习题

1、设n n A R ⨯∈是对称矩阵，,n b R c R ∈∈，求1()2

T f x x Ax b x c =++在任意点x 处的梯度和Hesse 矩阵．

解 2(),()f x Ax b f x A ∇=+∇=．

2、设()()t f x td ϕ=+，其中:n f R R →二阶可导，,,n n x R d R t R ∈∈∈，试求()t ϕ''．解 2()(),()()T T t f x td d t d f x td d ϕϕ'''=∇+=∇+．

3、设方向n d R ∈是函数()f x 在点x 处的下降方向，令

()()()()()

T T

dd f x f x H I d f x f x f x ∇∇=--∇∇∇，其中I 为单位矩阵，证明方向()p H f x =-∇也是函数()f x 在点x 处的下降方向．证明由于方向d 是函数()f x 在点x 处的下降方向，因此()0T f x d ∇<，从而

()()()T T f x p f x H f x ∇=-∇∇

()()()()()()()()

T T

T T dd f x f x f x I f x d f x f x f x ∇∇=-∇--∇∇∇∇

()()()0T T f x f x f x d =-∇∇+∇<，

所以，方向p 是函数()f x 在点x 处的下降方向．

4、n S R ⊆是凸集的充分必要条件是12122,,,,,,,,m m m x x x S x x x ∀≥∀∈L L 的一切凸组合都属于S ．

《最优化方法》复习题.pdf

《最优化方法》复习题

一、简述题

1、怎样判断一个函数是否为凸函数．

（例如：判断函数212

212151022)(x x x x x x x f-=是否为凸函数）2、写出几种迭代的收敛条件．

3、熟练掌握利用单纯形表求解线性规划问题的方法（包括大M法及二阶段法）.

见书本61页(利用单纯形表求解);

69页例题(利用大M法求解、二阶段法求解);4、简述牛顿法和拟牛顿法的

优缺点．简述共轭梯度法的基本思想．

写出Goldstein、Wolfe非精确一维线性搜索的公式。5、叙述常用优化算法的迭代公式．

（1）0.618法的迭代公式：(1)(),

().k k k k k

k k k a b a a b aλτμτ＝--??=-?

（2）Fibonacci法的迭代公式：111(),(1,2,,1)()

n k k

k k k n k n k k k k k n k F a b a F k n F a b a Fλμ-----? =-??

=-?

?=-??

L．（3）Newton一维搜索法的迭代公式：1

1k k k

最优化方法练习题(答案)

练习题一

1、建立优化模型应考虑哪些要素? 答：决策变量、目标函数和约束条件。

2、讨论优化模型最优解的存在性、迭代算法的收敛性及停止准则。

答：针对一般优化模型()()min ()

0,1,2, 0,1,

,i j f x s t g x i m h x j p

≥===，讨论解的可行域D ，若存在一点*X D ∈，对于X D ∀∈ 均有*()()f X f X ≤则称*X 为优化模型最优解，最优解存在；迭代算法的收敛性是指迭代所得到的序列(1)(2)()

,K X X X ，满足(1)()()()K K f X f X +≤，

则迭代法收敛；收敛的停止准则有(1)()k k x x ε+-<，

(1)()

()

k k k x x x ε+-<，

()()(1)()k k f x f x ε+-<，

()()()

(1)()()k k k f x f x f x ε+-<，()()k f x ε∇<等等。

练习题二

1、某公司看中了例2.1中厂家所拥有的3种资源R 1、R

2、和R 3，欲出价收购（可能用于生产附加值更高的产品）。如果你是该公司的决策者，对这3种资源的收购报价是多少？（该问题称为例2.1的对偶问题）。

解：确定决策变量对3种资源报价123,,y y y 作为本问题的决策变量。

确定目标函数问题的目标很清楚——“收购价最小”。

确定约束条件资源的报价至少应该高于原生产产品的利润，这样原厂家才可能卖。

因此有如下线性规划问题：123min 170100150w y y y =++

最优化方法(试题+答案)

一、填空题

1.若()()⎪⎪⎭

⎫ ⎝⎛+⎪⎪⎭⎫

⎝⎛⎪⎪⎭⎫ ⎝⎛=212121

312112)(x x x x x x x f ，

则=∇)(x f ，=∇)(2x f .

2.设f 连续可微且0)(≠∇x f ，若向量d 满足，则它是f 在x 处的一个下降方向。

3.向量T

)3,2,1(关于3阶单位方阵的所有线性无关的共轭向量有 . 4. 设R R f n →:二次可微，则f 在x 处的牛顿方向为 . 5.举出一个具有二次终止性的无约束二次规划算法： .

6.以下约束优化问题：

)(01)(..)(min 212121

≥-==+-==x x x g x x x h t s x x f

的K-K-T 条件为：

. 7.以下约束优化问题：

..)(min 212

21=++=x x t s x x x f

的外点罚函数为（取罚参数为μ） .

二、证明题（7分+8分）

1.设1,2,1,:m i R R g n i =→和m m i R R h n

i ,1,:1+=→都是线性函数，证明下

面的约束问题：

}

,,1{,

0)(},1{,

0)(..)(min 1112

m m E j x h m I i x g t s x x f j i n

k k

+=∈==∈≥=∑=

是凸规划问题。

2.设R R f →2

:连续可微，n i R a ∈，R h i ∈，m i ,2,1=，考察如下的约束条件问题：

}

,1{,0}

2,1{,0..)

(min 11m m E i b x a m I i b x a t s x f i T i i T

《最优化方法》期末试题

作用：

①仿真的过程也是实验的过程，而且还是系统地收集和积累信息的过程。尤其是对一些复杂的随机问题，应用仿真技术是提供所需信息的唯一令人满意的方法。

②仿真技术有可能对一些难以建立物理模型或数学模型的对象系统，通过仿真模型来顺利地解决预测、分析和评价等系统问题。

③通过系统仿真，可以把一个复杂的系统化降阶成若干子系统以便于分析，并能指出各子系统之间的各种逻辑关系。

④通过系统仿真，还能启发新的策略或新思想的产生，或能暴露出在系统中隐藏着的实质性问题。同时，当有新的要素增加到系统中时，仿真可以预先指出系统状态中可能会出现的瓶颈现象或其它的问题。

2.简述两个Wardrop 均衡原理及其适用范围。

答：

Wardrop提出的第一原理定义是：在道路的利用者都确切知道网络的交通状态并试图选择最短径路时，网络将会达到平衡状态。在考虑拥挤对行驶时间影响的网络中，当网络达到平衡状态时，每个 OD

对的各条被使用的径路具有相等而且最小的行驶时间；没有被使用的径路的行驶时间大于或等于最小行

驶时间。

Wardrop提出的第二原理是：系统平衡条件下，拥挤的路网上交通流应该按照平均或总的出行成本

最小为依据来分配。

第一原理对应的行为原则是网络出行者各自寻求最小的个人出行成本，而第二原理对应的行为原则是网络的总出行成本最小。

3.系统协调的特点。

答：

（1）各子系统之间既涉及合作行为，又涉及到竞争行为。

（2）各子系统之间相互作用构成一个反馈控制系统，通过信息作为“中介”而构成整体

（3）整体系统往往具有多个决策人，构成竞争决策模式。

最优化方法习题答案

最优化方法是数学中一门重要的学科，它研究如何找到使函数取得最大值或最小值的方法。在实际问题中，最优化方法被广泛应用于经济学、工程学、管理学等领域。本文将为读者提供一些最优化方法习题的答案，希望能够帮助读者更好地理解和应用这一学科。

一、单变量函数的最优化问题

1. 求函数f(x) = x^2 - 2x + 1在区间[0, 3]上的最小值。

解：首先，我们需要找到函数f(x)的驻点。计算f'(x) = 2x - 2，并令其等于零，得到x = 1。然后，我们计算f''(x) = 2，发现在x = 1处，f''(x)大于零，说明该

点是函数的极小值点。

接下来，我们需要检查区间的端点和驻点，找到函数f(x)在这些点的函数值。

f(0) = 1，f(1) = 0，f(3) = 4。由于f(1)是最小的函数值，因此函数f(x)在区间[0, 3]上的最小值为0。

2. 求函数f(x) = e^x - 2x在整个实数轴上的最小值。

解：首先，我们计算f'(x) = e^x - 2，并令其等于零，得到x = ln(2)。然后，我们计算f''(x) = e^x，发现在x = ln(2)处，f''(x)大于零，说明该点是函数的极小值点。

接下来，我们需要检查整个实数轴上的函数值。由于函数f(x)在x趋近负无穷大时趋于负无穷大，而在x趋近正无穷大时趋于正无穷大，因此函数f(x)在整个实数轴上没有最小值。

二、多变量函数的最优化问题

1. 求函数f(x, y) = x^2 + y^2 - 2x - 4y在闭区域D={(x, y)|0≤x≤2, 0≤y≤3}上的最小值。

《最优化方法》课程复习考试

《最优化方法》复习提要第一章最优化问题与数学预备知识

§1. 1 模型

无约束最优化问题 12min (),(,,

,)T n n f x x x x x R =∈．

约束最优化问题（},,2,1,0)(;,,2,1,0)(,|{l j x h m i x g R x x S j i n ===≥∈=∧

）

min ();...f x s t x S ⎧⎨

∈⎩ 即 m i n ();

..()0,1,2,,,

()0,1,2,

i j f x s t g x i m h x j l ⎧⎪

≥=⎨⎪==

⎩

其中()f x 称为目标函数，12,,

,n x x x 称为决策变量，S 称为可行域，

()0(1,2,

,),()0(1,2,

,)i j g x i m h x j l ≥===称为约束条件．

§1. 2 多元函数的梯度、Hesse 矩阵及Taylor 公式

定义设:,n n f R R x R →∈．如果n ∃维向量p ，n x R ∀∆∈，有

()()()T f x x f x p x o x +∆-=∆+∆．

则称()f x 在点x 处可微，并称()T df x p x =∆为()f x 在点x 处的微分．

如果()f x 在点x 处对于12(,,

,)T n x x x x =的各分量的偏导数

()

,1,2,,i

f x i n x ∂=∂

都存在，则称()f x 在点x 处一阶可导，并称向量

()()

()()(

,,,

f x f x f x f x x x x ∂∂∂∇=∂∂∂ 为()f x 在点x 处一阶导数或梯度．

最优化期末试题及答案

一、选择题

1.什么是最优化问题？

a) 通过最大化或最小化目标函数来寻找最优解的问题。

b) 通过列举所有可能解决方案来确定最佳解的问题。

c) 通过随机选择解决方案来找到次优解的问题。

d) 通过迭代算法来逼近最优解的问题。

答案：a) 通过最大化或最小化目标函数来寻找最优解的问题。

2.以下哪种算法可以用于求解最优化问题？

a) 深度优先搜索算法。

b) 贪婪算法。

c) 动态规划算法。

d) 所有以上算法。

答案：d) 所有以上算法。

3.最优化问题的特点是什么？

a) 可以有多个最优解。

b) 可以没有最优解。

c) 最优解通常唯一。

d) 最优解不一定存在。

答案：d) 最优解不一定存在。

4.以下哪种方法可以用于求解连续函数的最优化问题？

a) 线性规划。

b) 整数规划。

c) 非线性规划。

d) 所有以上方法。

答案：c) 非线性规划。

5.最优化问题的求解过程中，目标函数可能存在的特点是什么？

a) 凸函数。

b) 凹函数。

c) 非凸函数。

d) 所有以上情况都可能。

答案：d) 所有以上情况都可能。

二、填空题

1.最优化问题的目标是_________目标函数。

答案：最大化或最小化。

2.在最优化问题中，决策变量的取值范围被称为_______。

答案：可行域。

3.最优化问题的求解可以归结为求解目标函数的__________。

答案：极值。

4.在最优化问题中，优化变量的取值范围为实数集，该问题被称为_________。

答案：连续优化问题。

5.最优化问题的求解可以分为_________方法和_________方法。

《最优化方法》复习题(含答案)

附录5 《最优化方法》复习题

1、设n n A R ⨯∈是对称矩阵，,n b R c R ∈∈，求1()2

T f x x Ax b x c =++在任意点x 处的梯度和Hesse 矩阵．

解 2(),()f x Ax b f x A ∇=+∇=．

2、设()()t f x td ϕ=+，其中:n f R R →二阶可导，,,n n x R d R t R ∈∈∈，试求()t ϕ''．解 2()(),()()T T t f x td d t d f x td d ϕϕ'''=∇+=∇+．

3、设方向n d R ∈是函数()f x 在点x 处的下降方向，令

()()()()()

T T

()()()T T f x p f x H f x ∇=-∇∇

()()()()()()()()

T T

T T dd f x f x f x I f x d f x f x f x ∇∇=-∇--∇∇∇∇

()()()0T T f x f x f x d =-∇∇+∇<，

所以，方向p 是函数()f x 在点x 处的下降方向． 4、n S R ⊆是凸集的充分必要条件是12122,,,

,,,,

,m m m x x x S x x x ∀≥∀∈的一切

凸组合都属于S ．

最优化方法知识题一

习题一

一、考虑二次函数f(x)=

x x x x x x 212

2212132+-++

1) 写出它的矩阵—向量形式: f(x)=x Qx b x T

T +2

1 2) 矩阵Q 是不是奇异的? 3) 证明: f(x)是正定的 4) f(x)是凸的吗? 5) 写出f(x)在点x =)

1,2(T

处的支撑超平面(即切平面)方程

解:1) f(x)=

x x x x x x 212

2212

132+-++

=⎪⎪⎭⎫ ⎝⎛x x 2121⎪⎪⎭⎫ ⎝⎛6222⎪⎪⎭⎫ ⎝⎛x x 21+⎪

⎪⎭

⎫ ⎝⎛-11T

⎪⎪⎭

⎫ ⎝⎛x x 21 其中 x=⎪

⎪⎭

⎫

⎝⎛x x 21 ,Q=⎪⎪⎭⎫ ⎝⎛6222 , b=⎪⎪⎭⎫

⎝⎛-11 2) 因为Q=⎪⎪⎭

⎫

⎝⎛6222 ,所以 |Q|=6222=8>0 即可知Q 是非奇异的 3) 因为|2|>0, 6

2=8>0 ,所以Q 是正定的,故f(x)是正定的

4) 因为

)(2

x f ∇

=⎪⎪⎭

⎫ ⎝⎛6222,所以|)(2x f ∇|=8>0,故推出)(2

x f ∇是正定的,即 )(2

x f ∇

是凸的

5) 因为)(x f ∇ =

x 6x 1,2-x 2x (22121+++T

,所以)(x f ∇=(5,11)

所以 f(x)在点x 处的切线方程为5(

21-x )+11(12

-x

)=0

二、求下列函数的梯度问题和Hesse 矩阵 1) f(x)=2

x 1

x x x x x 2392

3121+++x x x 2322+

2) f(x)=ln(

天津大学最优化方法复习题.docx

《最优化方法》复习题

笫一章概述(包括凸规划)

一、判断与填空题

1arg max /(x) = arg m in7

xeR n xeR n

2max {/(x): x G D e /?" }= 一min {/(x): x e Z) o /?H} x

3设f : D u RJ R.若疋wR”,对于一切xwR”恒有/(x*)

最优化问题min /(兀)的全局最优解.x

XG D

4设f : D匚R" — R.若x* ,存在F的某邻域/.(/),使得对一切

兀e 恒有/(%*)< f(x),则称T为最优化问题min fM的严格局部最

XE D

优解.X

5给定一个最优化问题，那么它的最优值是一个定值.V

6非空集合D c /?"为凸集当且仅当D中任意两点连线段上任一点属于D. V

7非空集合D匸/?"为凸集当且仅当D中任意有限个点的凸组合仍属丁D. V 8任意两个凸集的并集为凸集.x

9 函数f : D j R" T/?为凸集D上的凸函数当且仅当一/为D上的凹函数.V

10设f : D u RJ R为凸集D上的可微凸函数，eD .则对Vx G D ,有fM -/(%*)< V/(x*)' (x -x*). x

11若c(兀)是凹函数，则D = [x^R n\ c(x) > 0}是凸集。V

12设{*}为由求解min/(Q的算法A产牛的迭代序列，假设算法A为下降算法，

xeD

则对Pk e {0,1, 2,…}，恒有____ /(x,+1) < /(X,) _____________ .

13算法迭代吋的终止准则（写出三种）： _____________________________ o 14凸规划的全休极小点组成的集合是凸集。V

天津大学《最优化方法》深刻复知识题(含答案解析)

天津大学《最优化方法》复习题（含答案）

第一章概述(包括凸规划)

一、判断与填空题

1 )].([arg

)(arg

min max

x f x f n

R x R

x -=∈∈ √

2 {}{}

.:)(m in :)(m ax n n R D x x f R D x x f ⊆∈-=⊆∈ ⨯

3 设.:R R D f n

→⊆ 若n R x ∈*，对于一切n R x ∈恒有)()(x f x f ≤*

，则称*

x 为

最优化问题)(min

x f D

x ∈的全局最优解. ⨯

4 设.:R R D f n →⊆ 若D x ∈*，存在*

x 的某邻域)(*x N ε，使得对一切

)(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(min x f D

x ∈的严格局部最

优解. ⨯

5 给定一个最优化问题，那么它的最优值是一个定值. √

6 非空集合n

R D ⊆为凸集当且仅当D 中任意两点连线段上任一点属于D . √ 7 非空集合n

R D ⊆为凸集当且仅当D 中任意有限个点的凸组合仍属于D . √

8 任意两个凸集的并集为凸集. ⨯

9 函数R R D f n

→⊆:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √

10 设R R D f n

→⊆:为凸集D 上的可微凸函数，D x ∈*

. 则对D x ∈∀，有

).()()()(***-∇≤-x x x f x f x f T ⨯

11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n 是凸集。 √ 12 设{}k

为由求解)(min

最优化方法习题答案

x1 4x2 2x3 x4 x6 8 s.t.3x1 2x2 x5 x7 6
xi 0,i 1,2...7
构造初始单纯形表，并计算
x1
x2
z'
-2
-3
w
4
6
x6
1
4
x7
3
2
x3
x4
x5
x6
x7
-1
0
0
0
0
2
-1
-1
0
0
2
-1
0
1
0
8
0
0
-1
0
1
6
以 x 2 为换入变量， x6 为换出变量，得
（4） min z 2x1 5x2 x1 2x2 6
s.t.x1 x2 2 x1, x2 0
解：由图可知该线性规划可行域为空，则原问题无可行解。
1.2 对下列线性规划问题，找出所有的基解，基可行解，并求出最优解和最优值。
（1） min z 5x1 2x2 3x3 6x4
x1 2x2 3x3 4x4 7 s.t.2x1 x2 x3 2x4 3
线性无关，故有
x1
x2
1
x3
x4
，令非基变量为
x3
x4
x5
0
，得
x1 2x2 4 x5
x1

最优化方法测验及答案套

《最优化方法》1

一、填空题：

1．最优化问题的数学模型一般为：____________________________，其中 ___________称为目标函数，___________称为约束函数，可行域D 可以表示为_____________________________，若______________________________，称*x 为问题的局部最优解，若_____________________________________，称*x 为问题的全局最优解。

2．设f(x)= 212121522x x x x x +-+，则其梯度为___________，海色矩阵___________,令,)0,1(,)2,1(T T d x ==则f(x)在x 处沿方向d 的一阶方向导数为___________，几何意义为___________________________________,二阶方向导数为___________________，几何意义为_________________________ ___________________________________。 3．设严格凸二次规划形式为：

012.

.222)(min 21212

221≥≥≤+--+=x x x x t s x x x x x f

则其对偶规划为___________________________________________。

4．求解无约束最优化问题：n R x x f ∈),(min ，设k x 是不满足最优性条件的第k 步迭代点，则：

最优化方法试卷

华东理工大学研究生《最优化方法》考试卷

专业 ________ 班级 ________ 学号 ________ 姓名 ________ 成绩 ________

2014年12月11日一、简答题（40分，每小题4分）

1．请写出最优化问题的一般模型形式。 2．试叙述局部最优解和全局最优解的定义。 3．请给出优化算法收敛速度的定义。 4．请给出优化算法的终止准则。 5．给出下降方向的定义和判别方法？ 6．简述下降迭代法的基本步骤。

7．何谓共轭方向？你知道由线性无关向量组构造共轭向量组的方法吗？ 8．最速下降法是最好的优化算法吗？为什么？ 9．何谓可行方向及如何判别？

10．优化问题的最优解与可行下降方向有什么关系？

二、（10分）试用最速下降法（梯度法）求解如下问题，初始点⎪⎪⎭⎫

⎝⎛=110x ，只迭代一次，并

判断迭代结果是否为最优解。

212

22122)(min 2x x x x x f R

x -+=∈

三、（10分）试叙述Powell 基本算法步骤或单纯形替换法的步骤，并简述其特点。四、（10分）试用惩罚函数求解如下的优化问题

8 ..)3()(min 2≥--=x t s x x f

五、（10分）考虑下述线性规划问题

1223 1832 ..233)(max 321321321321≥=++=+++-=x x x x x x x x x t s x x x x f ，，

1．求出该问题的所有基本解，并指出哪些是基本可行解； 2．该问题是否有最优解？若有，请求出其最优解。

六、（10分）考虑问题

010)3( 010)3( ..)(max 2113

最优化方法试卷及答案5套【整理版】

《最优化方法》1

一、填空题：

1．最优化问题的数学模型一般为：____________________________，其中

___________称为目标函数，___________称为约束函数，可行域D 可以表示

为_____________________________，若______________________________，

称*x 为问题的局部最优解，若_____________________________________，称*x 为问题的全局最优解。

方向导数为___________________，几何意义为_________________________

___________________________________。

3．设严格凸二次规划形式为：

012.

.222)(min 21212

221≥≥≤+--+=x x x x t s x x x x x f

则其对偶规划为___________________________________________。

4．求解无约束最优化问题：n R x x f ∈),(min ，设k x 是不满足最优性条件的第k 步迭代点，则：