最优化方法复习题

《最优化方法》复习题

一、 简述题

1、怎样判断一个函数是否为凸函数.

（例如: 判断函数212

2

212151022)(x x x x x x x f +-++=是否为凸函数） 2、写出几种迭代的收敛条件.

3、熟练掌握利用单纯形表求解线性规划问题的方法（包括大M 法及二阶段法）.

见书本61页(利用单纯形表求解);

69页例题 (利用大M 法求解、二阶段法求解);

4、简述牛顿法和拟牛顿法的优缺点. 简述共轭梯度法的基本思想.

写出Goldstein 、Wolfe 非精确一维线性搜索的公式。 5、叙述常用优化算法的迭代公式．

（1）0.618法的迭代公式：(1)(),

().k k k k k

k k k a b a a b a λτμτ=+--⎧⎨=+-⎩

（2）Fibonacci 法的迭代公式：11

1(),(1,2,,1)()

n k k

k k k n k n k k k k k n k F a b a F k n F a b a F λμ---+--+⎧

=+-⎪⎪=-⎨

⎪=+-⎪⎩

L ． （3）Newton 一维搜索法的迭代公式： 1

1k k k

k x x G g -+=-． （4）推导最速下降法用于问题1min ()2

T

T f x x Gx b x c =

++的迭代公式： 1()T k k

k k k T k k k

g g x x f x g G gx +=-∇

（5）Newton 法的迭代公式：211[()]()k k k k x x f x f x -+=-∇∇．

（6）共轭方向法用于问题1min ()2

T

T f x x Qx b x c =

++的迭代公式： 1()T k k

k k k T

k k

f x d x x d d Qd +∇=-． 二、计算题

双折线法练习题 课本135页 例3.9.1 FR 共轭梯度法例题：课本150页 例4.3.5 二次规划有效集：课本213页例6.3.2, 所有留过的课后习题.

三、练习题：

1、设n n A R ⨯∈是对称矩阵，,n b R c R ∈∈，求1()2

T

T f x x Ax b x c =++在任意点x 处的梯度和Hesse 矩阵．

解 2(),()f x Ax b f x A ∇=+∇=．

2、设()()t f x td ϕ=+，其中:n f R R →二阶可导，,,n n x R d R t R ∈∈∈，试求()t ϕ''． 解 2()(),()()T T t f x td d t d f x td d ϕϕ'''=∇+=∇+．

3、证明：凸规划min ()x S

f x ∈的任意局部最优解必是全局最优解．

证明 用反证法．设x S ∈为凸规划问题min ()x S

f x ∈的局部最优解，即存在x 的某

个δ邻域()N x δ，使()(),()f x f x x N x S δ≤∀∈I ．若x 不是全局最优解，则存在

x S ∈%，使()()f x f x <%．由于()f x 为S 上的凸函数，因此 (0,1)λ∀∈，有

((1))()(1)()()f x x f x f x f x λλλλ+-≤+-<%%．

当λ充分接近1时，可使(1)()x x

N x S δλλ+-∈%I ，于是()((1))f x f x x λλ≤+-%，矛盾．从而x 是全局最优解．

4、已知线性规划：123123123123123min ()2;..360,2210,20,,,0.f x x x x s t x x x x x x x x x x x x =-+⎧⎪++≤⎪⎪

-+≤⎨⎪+-≤⎪⎪≥⎩

（1）用单纯形法求解该线性规划问题； （2）写出线性规划的对偶问题；

解 （1）引进变量456,,x x x ，将给定的线性规划问题化为标准形式：

123123412351236126min ()2;

..360,2210,20,,,,0.f x x x x s t x x x x x x x x x x x x x x x =-+⎧⎪+++=⎪⎪

-++=⎨⎪+-+=⎪⎪≥⎩

L

所给问题的最优解为(0,20,0)T x =，最优值为20f =-． （2）所给问题的对偶问题为：

123123123123123max ()601020;..32,21,21,,,0.g y y y y s t y y y y y y y y y y y y =---⎧⎪---≤⎪⎪

-+-≤-⎨⎪--+≤⎪⎪≥⎩

5、用0.618法求解 2min ()(3)t t ϕ=-，要求缩短后的区间长度不超过0.2，初始区间取[0,10]． 解 第一次迭代： 取11[,][0,10],0.2a b ε==． 确定最初试探点11,λμ分别为

11110.382() 3.82a b a λ=+-=，11110.618() 6.18a b a μ=+-=．

求目标函数值：21()(3.823)0.67ϕλ=-=，21()(6.183)10.11ϕμ=-=．

比较目标函数值：11()()ϕλϕμ<． 比较11 6.1800.2a με-=->=． 第二次迭代：

212121210, 6.18, 3.82,()()0.67a a b μμλϕμϕλ========．

2222220.382()0.382(6.180) 2.36,()(2.363)0.4a b a λϕλ=+-=-==-=．

2222()(), 3.82a ϕλϕμμε<-=>． 第三次迭代：

323232320, 3.82, 2.36,()()0.4a a b μμλϕμϕλ========．

2333330.382()0.382(3.820) 1.46,()(1.463) 2.37a b a λϕλ=+-=-==-=．

3333()(), 3.82 1.46b ϕλϕμλε>-=->． 第四次迭代：

434343431.46, 3.82, 2.36,()()0.4a b b λλμϕλϕμ========．

444440.618() 1.460.0.618(3.82 1.46) 2.918,()0.0067a b a μϕμ=+-=+-==． 4444()(), 3.82 2.36b ϕλϕμλε>-=->． 第五次迭代：

545454542.36, 3.82, 2.918,()()0.0067a b b λλμϕλϕμ========．

555550.618() 3.262,()0.0686a b a μϕμ=+-==． 5555()(), 3.262 2.36a ϕλϕμμε<-=->． 第六次迭代：

656565652.36, 3.262, 2.918,()()0.0067a a b μμλϕμϕλ========．

666660.382() 2.7045,()0.087a b a λϕλ=+-==．

6666()(), 3.262 2.7045b ϕλϕμλε>-=->．