最优化原理与方法课后习题2
最优化方法练习题答案修改建议版本--删减版
最优化⽅法练习题答案修改建议版本--删减版练习题⼀1、建⽴优化模型应考虑哪些要素 ?答:决策变量、⽬标函数和约束条件。
2、讨论优化模型最优解的存在性、迭代算法的收敛性及停⽌准则。
min f (x)答:针对⼀般优化模型 s.t. g i x 0,i 1,2,L m ,讨论解的可⾏域 D ,若存在⼀点 X * D ,对 h j x0, j 1,L , p于 X D 均有 f(X *) f(X)则称 X *为优化模型最优解,最优解存在;迭代算法的收敛性是指迭代所得到的序列 X (1),X (2),L ,X (K)L ,满⾜ f(X (K 1)) f (X (K)),则迭代法收敛;收敛的停⽌准则有等。
练习题⼆1、某公司看中了例 2.1中⼚家所拥有的 3种资源 R 1、R2、和R 3,欲出价收购(可能⽤于⽣产附加值更⾼的产品) 的对偶问题)。
如果你是该公司的决策者,对这 3 种资源的收购报价是多少? (该问题称为例 2.1解:确定决策变量对 3种资源报价 y 1,y 2, y 3作为本问题的决策变量。
确定⽬标函数问题的⽬标很清楚——“收购价最⼩” 。
确定约束条件资源的报价⾄少应该⾼于原⽣产产品的利润,这样原⼚家才可能卖。
因此有如下线性规划问题: min w 170y 1 100y 2 150y 35y 1 2y 2 y 3 10 s.t. 2y 1 3y 2 5y 3 18y 1, y 2,y 3 02、研究线性规划的对偶理论和⽅法(包括对偶规划模型形式、对偶理论和对偶单纯形法) 答:略。
3、⽤单纯形法求解下列线性规划问题:x (k 1) x (k)x (k 1)x (k)x (k) min zx1x2x3minz4x2x3x1 x22x 32x12x2 x32(1) s.t. 2x1x2 x3 3x22x 3x 42 x1x34x2x3x 5 5x 1,x 2,x 3 0x i 0(i 1,2, ,5)解:(1)引⼊松弛变量 x 4, x 5,x 6min z x 1 x 2x30*x 40* x 5 0* x 6x 1 x 22x 3 x4=22x 1 x 2 x 3x5=3x6=4x1, x2, x3, x4, x5, x6 0因检验数σ2<0,故确定 x 2 为换⼊⾮基变量,以 x 2的系数列的正分量对应去除常数列,最⼩⽐值所在⾏对应的基变量 x 4 作为换出的基变量因检验数σ3<0,故确定 x 3 为换⼊⾮基变量,以 x 3的系数列的正分量对应去除常数列,最⼩⽐值所在⾏对应的基变量 x 5作为换出的基变量。
重庆大学最优化方法习题答案
x1
x2
x3
x4
x5
x6
x7
z
x4 x5 x7
10+2M 5
15+M 3
12+M 1
0 1
0 0
-M 0
0 0 9
-5
6
15
0
1
0
0
15
2
1
1
0
0
-1
1
5
以 x1 为换入变量, x 4 为换出变量
x1
x2
x3
x4
x5
x6
x7
z
(0,2,1,0) , z 4 1 ;
⑤因为 p 2 , p 4 线性相关, x 2 , x 4 不能构成基变量; ⑥因为 p 3 , p 4 线性无关,可得基解 x
(6)
(0,0,1,1) , z 6 3 ;
所以 x ( 2) , x (4) , x (6) 是原问题的基可行解, x (6) 是最优解,最优值是 z 3 。 (2) max z x 1 x 2 2x 3 x 4 x 5
(4)为退化解。
x1 c1 x2 x5 x6 a1
1+M
1-4M 1 -4
-2+M -1 1
0 1 0
-M 0 -1
0 0 1 5 7
x4 x6
3 1
以 x1 作为换入基, x 4 作为换出基有
x1
x2
x3
x4
x5
x6
0
2 13M 3 3 1 3 13 3
4M 5 3 3
-1
最优化原理与方法课后习题1
第一章、预备知识一、考虑二次函数()2211221223f X x x x x x x =++-+1) 写出它的矩阵—向量形式: ()f X =12TTQx x xb +2) 矩阵Q 是不是奇异的? 3) 证明: f(x)是正定的 4) f(x)是凸的吗? 5) 写出f(x)在点x =()2,1T处的支撑超平面(即切平面)方程解: 1) f(x)=xx x x x x2122212132+-++=⎪⎪⎭⎫ ⎝⎛x x 2121⎪⎪⎭⎫⎝⎛6222⎪⎪⎭⎫ ⎝⎛x x 21+11T-⎛⎫ ⎪⎝⎭⎪⎪⎭⎫ ⎝⎛x x 21 其中 x=⎪⎪⎭⎫ ⎝⎛x x 21 ,Q=⎪⎪⎭⎫ ⎝⎛6222, b=⎪⎪⎭⎫⎝⎛-11 2) 因为Q=⎪⎪⎭⎫ ⎝⎛6222,所以 |Q|=6222=8>0 即可知Q 是非奇异的3) 因为|2|>0, 6222=8>0 ,所以Q 是正定的,故f(x)是正定的4) 因为2()f x ∇=⎪⎪⎭⎫ ⎝⎛6222,所以|)(2x f ∇|=8>0,故推出)(2x f ∇是正定的, 即)(2x f ∇是凸的5) 因为)(x f ∇=2121(2x 2-1,261)x x x T+++,所以)(x f ∇=(5,11)所以 ()f x 在点x 处的切线方程为5(21-x )+11(12-x )=0 二、 求下列函数的梯度问题和Hesse 矩阵 1) ()f x =2x 12+xx x x x 23923121+++x x x 2322+2) ()f x =2212()21n l x x x x ++解: 1) )(x f ∇= (,94321x xx ++ 26321+++xx x, xx 219+))(2x f ∇=⎪⎪⎪⎭⎫ ⎝⎛019161914 2) )(x f ∇=(x x x x xx 112221221+++,x x x x x x112221221+++))(2x f ∇=⎪⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛----------++++++++)()()()(2221212222212142221214222121222222121222212122221212212122x x x x x x x x x x x x x x x x x x x x xx x xx x x x x x x x 三、 设f(x)=xx x x x x x323223322122--+++,取点)1,1,1()1(Tx=.验证d )1(=(1,0,-1)是f(x)在点x )1(处的一个下降方向,并计算min >t f(x )1(+t d)1()证明: )(x f ∇=)124,123,x 2(233221-+-+x x x x T)5,4,2()(1Tx f =∇d )(1x f ∇=(1,0,-1)⎪⎪⎪⎭⎫ ⎝⎛542= -3<0所以d)1(是f(x)在x )1(处的一个下降方向f(x )1(+t d)1()=f((1+t,1,1-t))=433)1(1)1(221(222)1()1+-=----+++-+t t t t t t∇f(x )1(+t d)1()=6t-3=0 所以t=0.5>0所以0min >t f(x )1(+t d)1()=3*0.25-3*0.5+4=3.25四、设,,i i i a b c (j=1,2,….,n )考虑问题Min f(x)=∑=nj jj xc 1s.t. b nj jjxa =∑=10≥xj(j=1,2,….,n)1) 写出其Kuhn Tuker 条件 2) 证明问题最优值是])([12112∑=nj j j b c a解:1)因),....,1(n j x j = 为目标函数的分母故0>x j所以λ*j (j=1,…,n )都为0所以Kuhn Tuker 条件为 0)()(=∇+∇x h x f μ即 ⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛---x c x c x c n n 2222211 +⎪⎪⎪⎪⎪⎭⎫ ⎝⎛a a a n 21μ=0 2)将ac xjjjμ=代入 h(x)=0 只有一点得221(nj b n j bμ==⇒=∑=故有ac ca x jj nj jjj b∑==1所以最优解是21211()n j j j b a c =⎡⎤⎢⎥⎢⎥⎣⎦∑.五、使用Kuhn Tuker 条件,求问题min f(x)=)2()1(2122--+x xs.t.,021212112≥≥=+=-x x x x x x 的Kuhn Tuker 点,并验证此点为问题的最优解 解:x=(1/2,3/2) 0≠ 故1λ*,λ*2=0 则 0)()()(2211=+∇+∇x x x f h h μμ 即0111142222121=⎪⎪⎭⎫⎝⎛+⎪⎪⎭⎫ ⎝⎛-+⎪⎪⎭⎫ ⎝⎛--μμx x ⇒120,1μμ==-而⎪⎪⎭⎫ ⎝⎛=∇2002)(2x f ()210g x *∇= ()220g x *∇= ()210h x *∇=()220h x *∇=,()()()()()()()22222211221122H x f x g x g x h x h x f x λλμμ***********=∇+∇+∇+∇+∇=∇(){}{}12121213|00|1020,22T T T x y h y h y y y y y y *⎧⎫⎛⎫=∇=∇==-+-=+-==⎨⎬⎪⎝⎭⎩⎭故08)(2>=∇x x f x T ,即其为最优解.第二章、无约束优化问题一、设f(x)为定义在区间[a,b]上的实值函数,x *是问题min{f(x)|a b x ≤≤}的最优解。
最优化方法及其应用课后答案
1 2( ( ⎨最优化方法部分课后习题解答1.一直优化问题的数学模型为:习题一min f (x ) = (x − 3)2 + (x − 4)2⎧g (x ) = x − x − 5 ≥ 0 ⎪ 11 2 2 ⎪试用图解法求出:s .t . ⎨g 2 (x ) = −x 1 − x 2 + 5 ≥ 0 ⎪g (x ) = x ≥ 0 ⎪ 3 1 ⎪⎩g 4 (x ) = x 2 ≥ 0(1) 无约束最优点,并求出最优值。
(2) 约束最优点,并求出其最优值。
(3) 如果加一个等式约束 h (x ) = x 1 −x 2 = 0 ,其约束最优解是什么? *解 :(1)在无约束条件下, f (x ) 的可行域在整个 x 1 0x 2 平面上,不难看出,当 x =(3,4) 时, f (x ) 取最小值,即,最优点为 x * =(3,4):且最优值为: f (x * ) =0(2)在约束条件下, f (x ) 的可行域为图中阴影部分所示,此时,求该问题的最优点就是在约束集合即可行域中找一点 (x 1 ,x 2 ) ,使其落在半径最小的同心圆上,显然,从图示中可以看出,当 x *=15 , 5 ) 时, f (x ) 所在的圆的半径最小。
4 4⎧g (x ) = x −x − 5 = 0⎧ 15 ⎪x 1 = 其中:点为 g 1 (x) 和 g 2 (x ) 的交点,令 ⎪ 1 1 2 ⎨2 求解得到: ⎨ 45即最优点为 x *= ⎪⎩g 2 (x ) = −x 1 −x 2 + 5 = 015 , 5 ) :最优值为: f(x * ) = 65 ⎪x =⎪⎩ 2 44 48(3).若增加一个等式约束,则由图可知,可行域为空集,即此时最优解不存在。
2.一个矩形无盖油箱的外部总面积限定为 S ,怎样设计可使油箱的容量最大?试列出这个优化问题的数学模型,并回答这属于几维的优化问题. 解:列出这个优化问题的数学模型为:max f (x ) = x 1x 2 x 3⎧x 1x 2 + 2x 2 x 3 + 2x 1x 3 ≤ S ⎪ s .t . ⎪x 1 > 0⎪x 2 > 0 ⎪⎩x 3 > 0该优化问题属于三维的优化问题。
最优化方法部分课后习题解答(1-7)
最优化方法部分课后习题解答习题一1.一直优化问题的数学模型为:22121122123142min ()(3)(4)5()02()50..()0()0f x x xg x x x g x x x s t g x x g x x =−+−⎧=−−≥⎪⎪⎪=−−+≥⎨⎪=≥⎪=≥⎪⎩试用图解法求出:(1)无约束最优点,并求出最优值。
(2)约束最优点,并求出其最优值。
(3)如果加一个等式约束,其约束最优解是什么?12()0h x x x =−=解:(1)在无约束条件下,的可行域在整个平面上,不难看出,当=(3,4)()f x 120x x *x 时,取最小值,即,最优点为=(3,4):且最优值为:=0()f x *x *()f x (2)在约束条件下,的可行域为图中阴影部分所示,此时,求该问题的最优点就是()f x 在约束集合即可行域中找一点,使其落在半径最小的同心圆上,显然,从图示中可12(,)x x 以看出,当时,所在的圆的半径最小。
*155(,)44x =()f x 其中:点为和的交点,令求解得到:1()g x 2()g x 1122125()02()50g x x x g x x x ⎧=−−=⎪⎨⎪=−−+=⎩1215454x x ⎧=⎪⎪⎨⎪=⎪⎩即最优点为:最优值为:=*155(,)44x =*()f x 658(3).若增加一个等式约束,则由图可知,可行域为空集,即此时最优解不存在。
2.一个矩形无盖油箱的外部总面积限定为S,怎样设计可使油箱的容量最大?试列出这个优化问题的数学模型,并回答这属于几维的优化问题.解:列出这个优化问题的数学模型为:该优化问题属于三维的优化问题。
123122313123max ()220..00f x x x x x x x x x x S x s t x x =++≤⎧⎪>⎪⎨>⎪⎪>⎩32123sx y z v⎛⎞=====⎜⎟⎝⎠习题二3.计算一般二次函数的梯度。
最优化设计 课后习题答案
最优化方法-习题解答张彦斌计算机学院2014年10月20日Contents1第一章最优化理论基础-P13习题1(1)、2(3)(4)、3、412第二章线搜索算法-P27习题2、4、643第三章最速下降法和牛顿法P41习题1,2,374第四章共轭梯度法P51习题1,3,6(1)105第五章拟牛顿法P73-2126第六章信赖域方法P86-8147第七章非线性最小二乘问题P98-1,2,6188第八章最优性条件P112-1,2,5,6239第九章罚函数法P132,1-(1)、2-(1)、3-(3),62610第十一章二次规划习题11P178-1(1),5291第一章最优化理论基础-P13习题1(1)、2(3)(4)、3、4 1.验证下列各集合是凸集:(1)S={(x1,x2)|2x1+x2≥1,x1−2x2≥1};需要验证:根据凸集的定义,对任意的x(x1,x2),y(y1,y2)∈S及任意的实数λ∈[0,1],都有λx+(1−λ)y∈S.即,(λx1+(1−λ)y1,λx2+(1−λ)y2)∈S证:由x(x1,x2),y(y1,y2)∈S得到,{2x1+x2≥1,x1−2x2≥12y1+y2≥1,y1−2y2≥1(1)1把(1)中的两个式子对应的左右两部分分别乘以λ和1−λ,然后再相加,即得λ(2x1+x2)+(1−λ)(2y1+y2)≥1,λ(x1−2x2)+(1−λ)(y1−2y2)≥1(2)合并同类项,2(λx1+(1−λ)y1)+(λx2+(1−λ)y2)≥1,(λx1+(1−λ)y1)−2(λx2+(1−λ)y2)≥1(3)证毕.2.判断下列函数为凸(凹)函数或严格凸(凹)函数:(3)f(x)=x21−2x1x2+x22+2x1+3x2首先二阶导数连续可微,根据定理1.5,f在凸集上是(I)凸函数的充分必要条件是∇2f(x)对一切x为半正定;(II)严格凸函数的充分条件是∇2f(x)对一切x为正定。
最优化方法习题答案
习题一1.1利用图解法求下列线性规划问题: (1)21x x z max +=⎪⎪⎩⎪⎪⎨⎧≥≤+≥+0x ,x 5x 2x 2x x 3.t .s 212121 解:根据条件,可行域为下面图形中的阴影部分,,有图形可知,原问题在A 点取得最优值,最优值z=5(2)21x 6x z min -=⎪⎪⎩⎪⎪⎨⎧≥≤+-≤+0x ,x 7x x 1x x 2.t .s 212121 解:图中阴影部分表示可行域,由图可知原问题在点A 处取得最优值,最优值z=-6.(3)21x 2x 3z max +=⎪⎪⎩⎪⎪⎨⎧≥-≥-≤+-0x ,x 4x 2x 1x x .t .s 212121 解:如图所示,可行域为图中阴影部分,易得原线性规划问题为无界解。
(4)21x 5x 2z min -=⎪⎪⎩⎪⎪⎨⎧≥≤+≥+0x ,x 2x x 6x 2x .t .s 212121 解:由图可知该线性规划可行域为空,则原问题无可行解。
1.2 对下列线性规划问题,找出所有的基解,基可行解,并求出最优解和最优值。
(1)4321x 6x 3x 2x 5z min -+-=⎪⎪⎩⎪⎪⎨⎧≥=+++=+++0x ,x ,x ,x 3x 2x x x 27x 4x 3x 2x .t .s 432143214321 解:易知1x 的系数列向量⎪⎪⎭⎫ ⎝⎛=21p 1,2x 的系数列向量⎪⎪⎭⎫ ⎝⎛=12p 2,3x 的系数列向量⎪⎪⎭⎫⎝⎛=13p 3,4x 的系数列向量⎪⎪⎭⎫⎝⎛=24p 4。
①因为21p ,p 线性无关,故有⎪⎩⎪⎨⎧--=+--=+43214321x 2x 3x x 2x 4x 37x 2x ,令非基变量为0x x 43==,得⎪⎪⎩⎪⎪⎨⎧=-=311x 31x 21,所以得到一个基解)0,0,311,31(x )1(-=是非基可行解; ②因为31p ,p 线性无关,可得基解)0,511,0,52(x)2(=,543z 2=;③因为41p ,p 线性无关,可得基解611,0,0,31(x )3(-=,是非基可行解;④因为32p ,p 线性无关,可得基解)0,1,2,0(x )4(=,1z 4-=;⑤因为42p ,p 线性相关,42x ,x 不能构成基变量; ⑥因为43p ,p 线性无关,可得基解)1,1,0,0(x )6(=,3z 6-=;所以)6()4()2(x ,x ,x是原问题的基可行解,)6(x 是最优解,最优值是3z -=。
最优化计算方法课后习题答案----高等教育出版社。施光燕
习题二包括题目: P36页5(1)(4)5(4)习题三包括题目:P61页1(1)(2); 3; 5; 6;14;15(1)1(1)(2)的解如下3题的解如下5,6题14题解如下14。
设22121212()(6)(233)f x x x x x x x =+++---, 求点在(4,6)T -处的牛顿方向。
解:已知 (1)(4,6)T x =-,由题意得121212212121212(6)2(233)(3)()2(6)2(233)(3)x x x x x x x f x x x x x x x x +++-----⎛⎫∇= ⎪+++-----⎝⎭∴ (1)1344()56g f x -⎛⎫=∇=⎪⎝⎭21212122211212122(3)22(3)(3)2(233)()22(3)(3)2(233)22(3)x x x x x x x f x x x x x x x x +--+--------⎛⎫∇= ⎪+--------+--⎝⎭∴ (1)2(1)1656()()564G x f x --⎛⎫=∇=⎪-⎝⎭(1)11/8007/400()7/4001/200G x --⎛⎫= ⎪--⎝⎭∴ (1)(1)11141/100()574/100d G x g -⎛⎫=-=⎪-⎝⎭15(1)解如下15。
用DFP 方法求下列问题的极小点(1)22121212min353x x x x x x ++++ 解:取 (0)(1,1)T x=,0H I =时,DFP 法的第一步与最速下降法相同2112352()156x x f x x x ++⎛⎫∇= ⎪++⎝⎭, (0)(1,1)T x =,(0)10()12f x ⎛⎫∇= ⎪⎝⎭(1)0.07800.2936x -⎛⎫= ⎪-⎝⎭, (1)1.3760() 1.1516f x ⎛⎫∇= ⎪-⎝⎭以下作第二次迭代(1)(0)1 1.07801.2936x xδ-⎛⎫=-= ⎪-⎝⎭, (1)(0)18.6240()()13.1516f x f x γ-⎛⎫=∇-∇= ⎪-⎝⎭0110111011101T T T TH H H H H γγδδδγγγ=+-其中,111011126.3096,247.3380T T T H δγγγγγ===11 1.1621 1.39451.3945 1.6734T δδ⎛⎫= ⎪⎝⎭ , 01101174.3734113.4194113.4194172.9646T TH H γγγγ⎛⎫== ⎪⎝⎭所以10.74350.40560.40560.3643H -⎛⎫= ⎪-⎝⎭(1)(1)1 1.4901()0.9776d H f x -⎛⎫=-∇= ⎪⎝⎭令 (2)(1)(1)1xx d α=+ , 利用(1)(1)()0df x d d αα+=,求得 10.5727α=- 所以 (2)(1)(1)0.77540.57270.8535x x d ⎛⎫=-= ⎪-⎝⎭ , (2)0.2833()0.244f x ⎛⎫∇= ⎪-⎝⎭以下作第三次迭代(2)(1)20.85340.5599xx δ⎛⎫=-= ⎪-⎝⎭ , (2)(1)2 1.0927()()0.9076f x f x γ-⎛⎫=∇-∇= ⎪⎝⎭22 1.4407T δγ=- , 212 1.9922T H γγ= 220.72830.47780.47780.3135T δδ-⎛⎫=⎪-⎝⎭1221 1.39360.91350.91350.5988T H H γγ-⎛⎫= ⎪-⎝⎭所以22122121222120.46150.38460.38460.1539T T T T H H H H H δδγγδγγγ-⎛⎫=+-= ⎪-⎝⎭(2)(2)20.2246()0.1465d H f x ⎛⎫=-∇= ⎪-⎝⎭令 (3)(2)(2)2xxdα=+ , 利用(2)(2)()0df x d d αα+=,求得 21α= 所以 (3)(2)(2)11xx d ⎛⎫=+= ⎪-⎝⎭, 因为 (3)()0f x ∇=,于是停止(3)(1,1)T x =-即为最优解。
最优化原理与方法课后习题2
习题一一、考虑二次函数f(x)=x x x x x x 2122212132+-++1) 写出它的矩阵—向量形式: f(x)=x Qx b xTT +21 2) 矩阵Q 是不是奇异的? 3) 证明: f(x)是正定的 4) f(x)是凸的吗? 5) 写出f(x)在点x =)1,2(T处的支撑超平面(即切平面)方程解:1) f(x)=x x x x x x 2122212132+-++=⎪⎪⎭⎫ ⎝⎛x x 2121⎪⎪⎭⎫ ⎝⎛6222⎪⎪⎭⎫ ⎝⎛x x 21+⎪⎪⎭⎫ ⎝⎛-11T⎪⎪⎭⎫⎝⎛x x 21 其中x=⎪⎪⎭⎫ ⎝⎛x x 21 ,Q=⎪⎪⎭⎫ ⎝⎛6222 , b=⎪⎪⎭⎫⎝⎛-11 2) 因为Q=⎪⎪⎭⎫⎝⎛6222 ,所以 |Q|=6222=8>0 即可知Q 是非奇异的 3) 因为|2|>0,6222=8>0 ,所以Q 是正定的,故f(x)是正定的 4) 因为)(2x f ∇=⎪⎪⎭⎫ ⎝⎛6222,所以|)(2x f ∇|=8>0,故推出)(2x f ∇是正定的,即)(2x f ∇是凸的5) 因为)(x f ∇ =1)x 6x 1,2-x 2x (22121+++T,所以)(x f ∇=(5,11)所以 f(x)在点x 处的切线方程为5(21-x )+11(12-x )=0二、 求下列函数的梯度问题和Hesse 矩阵 1) f(x)=2x 12+x x x xx 23923121+++x x x 2322+2) f(x)=ln(x 12+x x x 2221+)解: 1) )(x f ∇= (,94321x x x ++ 26321+++x x x , x x 219+))(2x f ∇=⎪⎪⎪⎭⎫ ⎝⎛0191619142) )(x f ∇=(x x x x x x 112221221+++ ,x x x x xx 112221221+++))(2x f ∇=⎪⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛----------++++++++)()()()(2221212222212142221214222121222222121222212122221212212122x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x 三、设f(x)=x x x x x x x 323223322122--+++,取点)1,1,1()1(Tx =.验证d)1(=(1,0,-1)是f(x)在点x)1(处的一个下降方向,并计算min >t f(x)1(+td)1()证明: )(x f ∇=)124,123,x 2(233221-+-+x x x x T)5,4,2()(1Tx f =∇d )(1x f ∇=(1,0,-1)⎪⎪⎪⎭⎫⎝⎛542= -3<0所以d)1(是f(x)在x)1(处的一个下降方向f(x)1(+td)1()=f((1+t,1,1-t)) =433)1(1)1(221(222)1()1+-=----+++-+t t t t t t∇f(x )1(+t d )1()=6t-3=0 所以t=0.5>0所以min >t f(x )1(+td)1()=3*0.25-3*0.5+4=3.25四、设aj,b ,cj(j=1,2,….,n )考虑问题Min f(x)=∑=nj jj xc 1s.t. b nj jjxa =∑=10≥xj(j=1,2,….,n)1) 写出其Kuhn Tuker 条件2) 证明问题最优值是])([12112∑=n j j j b c a 解:1)因),....,1(n j xj= 为目标函数的分母故0>x j所以λ*j(j=1,…,n )都为0所以Kuhn Tuker 条件为 0)()(=∇+∇x h x f μ即 ⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛---x c x c x c n n 2222211 +⎪⎪⎪⎪⎪⎭⎫ ⎝⎛a a a n 21μ=0 2)将ac x jj j μ=代入 h(x)=0 只有一点得∑=∑==⇒=nj jjn j j j b n c a bca 122)(1μ故有acc a x jj nj jjjb ∑==1所以最优解是])([12112∑=nj j j b c a 五、使用Kuhn Tuker 条件,求问题min f(x)=)2()1(2122--+x xs.t. 0,021212112≥≥=+=-x x x x x x的Kuhn Tuker 点,并验证此点为问题的最优解 解:x=(1/2,3/2) 0≠ 故λ*1,λ*2=0则 0)()()(2211=+∇+∇x x x f h h μμ即0111142222121=⎪⎪⎭⎫⎝⎛+⎪⎪⎭⎫ ⎝⎛-+⎪⎪⎭⎫ ⎝⎛--μμx x ⇒1,021-==μμ而⎪⎪⎭⎫ ⎝⎛=∇2002)(2x f 故08)(2>=∇x x f x T 即其为最优解六、在习题五的条件下证明L(μλ,,x*)),,(),,(μλμλ*****≤≤x L L x其中 L (x,μλ,)=f(x)+)2()1(2112-++--x x x x μλ证明:L(μλ,,x*)=f(x *)+)2()1(2112-++--****x x x x μλ= f(x *) = f(x *)+λ*)1(12--**x x +μ*-+**x x 21(2)= ),,(μλ***x L= f(x*))2()1()()(2112-++--+=≤**x x x x x f x f μλ= μλ**,,(x L )习题二一、设f(x)为定义在区间[a,b]上的实值函数,x*是问题min{f(x)|a b x ≤≤}的最优解。
最优化方法习题答案
习题一1.1利用图解法求下列线性规划问题: (1)21x x z max +=⎪⎪⎩⎪⎪⎨⎧≥≤+≥+0x ,x 5x 2x 2x x 3.t .s 212121 解:根据条件,可行域为下面图形中的阴影部分,,有图形可知,原问题在A 点取得最优值,最优值z=5(2)21x 6x z min -=⎪⎪⎩⎪⎪⎨⎧≥≤+-≤+0x ,x 7x x 1x x 2.t .s 212121 解:图中阴影部分表示可行域,由图可知原问题在点A 处取得最优值,最优值z=-6.(3)21x 2x 3z max +=⎪⎪⎩⎪⎪⎨⎧≥-≥-≤+-0x ,x 4x 2x 1x x .t .s 212121 解:如图所示,可行域为图中阴影部分,易得原线性规划问题为无界解。
(4)21x 5x 2z min -=⎪⎪⎩⎪⎪⎨⎧≥≤+≥+0x ,x 2x x 6x 2x .t .s 212121 解:由图可知该线性规划可行域为空,则原问题无可行解。
1.2 对下列线性规划问题,找出所有的基解,基可行解,并求出最优解和最优值。
(1)4321x 6x 3x 2x 5z min -+-=⎪⎪⎩⎪⎪⎨⎧≥=+++=+++0x ,x ,x ,x 3x 2x x x 27x 4x 3x 2x .t .s 432143214321 解:易知1x 的系数列向量⎪⎪⎭⎫ ⎝⎛=21p 1,2x 的系数列向量⎪⎪⎭⎫ ⎝⎛=12p 2,3x 的系数列向量⎪⎪⎭⎫⎝⎛=13p 3,4x 的系数列向量⎪⎪⎭⎫⎝⎛=24p 4。
①因为21p ,p 线性无关,故有⎪⎩⎪⎨⎧--=+--=+43214321x 2x 3x x 2x 4x 37x 2x ,令非基变量为0x x 43==,得⎪⎪⎩⎪⎪⎨⎧=-=311x 31x 21,所以得到一个基解)0,0,311,31(x )1(-=是非基可行解; ②因为31p ,p 线性无关,可得基解)0,511,0,52(x)2(=,543z 2=;③因为41p ,p 线性无关,可得基解611,0,0,31(x )3(-=,是非基可行解;④因为32p ,p 线性无关,可得基解)0,1,2,0(x )4(=,1z 4-=;⑤因为42p ,p 线性相关,42x ,x 不能构成基变量; ⑥因为43p ,p 线性无关,可得基解)1,1,0,0(x )6(=,3z 6-=;所以)6()4()2(x ,x ,x是原问题的基可行解,)6(x 是最优解,最优值是3z -=。
最优化方法习题答案
习题一1.1利用图解法求下列线性规划问题: (1)21x x z max +=⎪⎪⎩⎪⎪⎨⎧≥≤+≥+0x ,x 5x 2x 2x x 3.t .s 212121 解:根据条件,可行域为下面图形中的阴影部分,,有图形可知,原问题在A 点取得最优值,最优值z=5(2)21x 6x z min -=⎪⎪⎩⎪⎪⎨⎧≥≤+-≤+0x ,x 7x x 1x x 2.t .s 212121 解:图中阴影部分表示可行域,由图可知原问题在点A 处取得最优值,最优值z=-6.(3)21x 2x 3z max +=⎪⎪⎩⎪⎪⎨⎧≥-≥-≤+-0x ,x 4x 2x 1x x .t .s 212121 解:如图所示,可行域为图中阴影部分,易得原线性规划问题为无界解。
(4)21x 5x 2z min -=⎪⎪⎩⎪⎪⎨⎧≥≤+≥+0x ,x 2x x 6x 2x .t .s 212121 解:由图可知该线性规划可行域为空,则原问题无可行解。
1.2 对下列线性规划问题,找出所有的基解,基可行解,并求出最优解和最优值。
(1)4321x 6x 3x 2x 5z min -+-=⎪⎪⎩⎪⎪⎨⎧≥=+++=+++0x ,x ,x ,x 3x 2x x x 27x 4x 3x 2x .t .s 432143214321 解:易知1x 的系数列向量⎪⎪⎭⎫ ⎝⎛=21p 1,2x 的系数列向量⎪⎪⎭⎫ ⎝⎛=12p 2,3x 的系数列向量⎪⎪⎭⎫⎝⎛=13p 3,4x 的系数列向量⎪⎪⎭⎫⎝⎛=24p 4。
①因为21p ,p 线性无关,故有⎪⎩⎪⎨⎧--=+--=+43214321x 2x 3x x 2x 4x 37x 2x ,令非基变量为0x x 43==,得⎪⎪⎩⎪⎪⎨⎧=-=311x 31x 21,所以得到一个基解)0,0,311,31(x )1(-=是非基可行解; ②因为31p ,p 线性无关,可得基解)0,511,0,52(x)2(=,543z 2=;③因为41p ,p 线性无关,可得基解611,0,0,31(x )3(-=,是非基可行解;④因为32p ,p 线性无关,可得基解)0,1,2,0(x )4(=,1z 4-=;⑤因为42p ,p 线性相关,42x ,x 不能构成基变量; ⑥因为43p ,p 线性无关,可得基解)1,1,0,0(x )6(=,3z 6-=;所以)6()4()2(x ,x ,x是原问题的基可行解,)6(x 是最优解,最优值是3z -=。
最优化方法习题答案
x3
-M
0
0
0
5
-1
1
2
x4
x5
1+ 2 M
0
3
ห้องสมุดไป่ตู้
x2
1 3
1
x5
2 3
0
以 x1 为换入基, x5 作为换出基有
-1- M 3
1 3 1
3
-M
0
0
0
5
3
-1
1
1
3
x1
x2
x3
x4
x5
0
x2
0
x1
1
0
1
2
1
1
2
0
1
2
3
3 M
-5.5
2
2
1
1
1.5
2
2
3 3
0.5
22
以 x 4 换入, x 2 换出有
⑤因为 p2 , p4 线性相关, x 2 , x 4 不能构成基变量;
⑥因为 p3, p4 线性无关,可得基解 x(6) (0,0,1,1) , z6 3 ;
所以 x(2) , x(4) , x(6) 是原问题的基可行解, x(6) 是最优解,最优值是 z 3 。
(2) max z x1 x2 2x3 x4 x5
x1 2x2 3x3 4x4 7 s.t.2x1 x2 x3 2x4 3
x1, x2 , x3, x4 0
解:易知
x1 的系数列向量
p1
1
2
,x 2
的系数列向量
p2
2
1
最优化理论与方法习题
2 f 4, x2x3
2 f 6 2 x1 2 x3
12 x12 2 x2 2 f ( x) 2 x1 2 x3
2 x1 12 x2 4
2 x3 4 6 2 x1
即为Hesse矩阵
无约束函数极值的充分条件 若点x*满足f ( x
记目标函数和约束函数分别为f(x),g(x),h(x),他们在 点x处的梯度分别是
2( x1 3) 1 6( x1 3) f ( x ) , g ( x ) , h ( x ) 0 1 2 x2 Lagrange函数是
f 6 x3 4 x2 2 x1 x3 x3
4 x13 2 x1 x2 x32 2 2 f ( x) 6 x2 x1 4 x3 6 x3 4 x2 2 x1 x3
又因为
2 f 2 f 2 f 12 x12 2 x2 , 2 x1 , 2 x3 2 x1 x2 x1 x3 x1 2 f 12 x2 , 2 x2
Hesse矩阵为
2
4 f (x ) 0
*
0 4
x*=[2, 1]T是f(x)的严格极小点,f(x*)=10
例:利用极值条件解下列问题
min
2 f ( x) ( x12 1) 2 x12 x2 2 x1
解:先求驻点, 由于 f f 3 4 x1 2 x1 2, 2 x2 x1 x2 令f'(x)=0,即4 x13 2 x1 2 0,x2=0 2 解得驻点x*=(1,0) 12 x12-2 0 10 0 2 2 又Hessian阵 f'(x)= f'(x*)= 0 2 2 0 正定,故x*=(1,0) 是局部极小点。
最优化方法习题答案
s.t.3x1 2x2 6 x1, x2 , x3 0
解:引入剩余变量 x 4 , x5 和人工变量 x6 , x7 ,利用两阶段法得到辅助线性规划 max w x6 x7 max z' 2x1 3x2 x3
x1 x2 x3 x4 1 s.t. x1 2x2 x5 4
xi 0,i 1,2,3,4,5
解:易知
x1
的系数列向量
p1
1
1
,
x2
的系数列向量
p2
1
2
,
x3
的系数列向量
p3
1
0
,
x4
的系数列向量 p4
1
0
,
x5 的系数列向量 p5
0
1
。
①因为 p1, p2
1 3 1
3
-M
0
0
0
5
3
-1
1
1
3
x1
x2
x3
x4
x5
0
x2
0
x1
1
0
1
2
1
1
2
0
1
2
3
3 M
-5.5
2
2
1
1
1.5
2
2
3 3
0.5
22
以 x 4 换入, x 2 换出有
x1
0
x4
0
x1
1
x2
x3
-3
-2
2
1
3
1
x4
x5
0
3M
-10
最优化方法及其应用课后答案
最优化方法及其应用课后答案1. 最优化方法的分类包括哪些方面?最优化方法可分为三类:数学规划、非数学规划和元启发式方法。
2. 线性规划的标准形式是什么?线性规划的标准形式为:max cTxsubject toAx ≤ bx ≥ 0其中,cTx表示优化目标,Ax≤b表示约束条件,x≥0表示非负约束条件。
3. 拉格朗日乘数法是如何解决带有等式约束的优化问题的?拉格朗日乘数法是通过构建拉格朗日函数来解决带有等式约束的优化问题的。
具体地,拉格朗日函数L(x,λ)定义为:L(x,λ)=f(x)+λTh(x)其中,f(x)是优化目标函数,h(x)是等式约束函数,λ是拉格朗日乘数。
然后,通过求解L(x,λ)的梯度和等于0的条件,得到原问题的解。
4. 什么是梯度下降法?梯度下降法是一种迭代求解方法,用于优化无约束的多次可微函数。
该方法通过向负梯度方向下降来逐步逼近优化目标的最小值。
具体地,梯度下降法的迭代公式为:x(k+1)=x(k)-αk∇f(x(k))其中,x(k)是第k次迭代后的解,αk是步长,∇f(x(k))表示f(x(k))的梯度。
5. 遗传算法是如何实现优化的?遗传算法是一种元启发式方法,它基于模拟生物进化过程来实现优化。
算法先随机生成一组初始的个体,然后对这些个体进行遗传操作(交叉、变异),以产生新的个体,并按照适应度函数的大小保留一部分个体,舍弃一部分个体。
通过多次迭代,逐步优化得到最优解。
6. 模拟退火算法的基本思想是什么?模拟退火算法是一种元启发式方法,它基于物理中的退火现象进行优化。
算法维护一个当前解,然后随机生成一个新的解,并计算当前解到新解的能量差。
如果新解比当前解更优,则直接接受它。
若不是,则以一定概率接受新解,并降低概率参数T,然后继续下一步迭代。
通过多次迭代,逐步优化得到最优解。
7. 最大熵模型的基本原理是什么?最大熵模型是一种概率模型,它通过最大化经验熵与先验熵之和来实现分类或回归问题的优化。
最优化方法练习题答案修改建议版本--删减版要点
练习题一1、建立优化模型应考虑哪些要素? 答:决策变量、目标函数和约束条件。
2、讨论优化模型最优解的存在性、迭代算法的收敛性及停止准则。
答:针对一般优化模型()()min ()..0,1,2, 0,1,,i j f x s t g x i m h x j p≥===,讨论解的可行域D ,若存在一点*X D ∈,对于X D ∀∈ 均有*()()f X f X ≤则称*X 为优化模型最优解,最优解存在;迭代算法的收敛性是指迭代所得到的序列(1)(2)(),,,K X X X ,满足(1)()()()K K f X f X +≤,则迭代法收敛;收敛的停止准则有(1)()k k x x ε+-<,(1)()()k k k x x x ε+-<,()()(1)()k k f x f x ε+-<,()()()(1)()()k k k f x f x f x ε+-<,()()k f x ε∇<等等。
练习题二1、某公司看中了例2.1中厂家所拥有的3种资源R 1、R2、和R 3,欲出价收购(可能用于生产附加值更高的产品)。
如果你是该公司的决策者,对这3种资源的收购报价是多少?(该问题称为例2.1的对偶问题)。
解:确定决策变量 对3种资源报价123,,y y y 作为本问题的决策变量。
确定目标函数 问题的目标很清楚——“收购价最小”。
确定约束条件 资源的报价至少应该高于原生产产品的利润,这样原厂家才可能卖。
因此有如下线性规划问题:123min 170100150w y y y =++1231231235210..23518,,0y y y s t y y y y y y ++≥⎧⎪++≥⎨⎪≥⎩ *2、研究线性规划的对偶理论和方法(包括对偶规划模型形式、对偶理论和对偶单纯形法)。
答:略。
3、用单纯形法求解下列线性规划问题:(1)⎪⎪⎩⎪⎪⎨⎧≥≤+-≤++≤-++-=0,,43222..min32131321321321x x x x x x x x x x x t s x x x z ; (2)⎪⎪⎩⎪⎪⎨⎧=≥=++=+-=+-+-=)5,,2,1(052222..4min53243232132 i x x x x x x x x x x t s x x z i 解:(1)引入松弛变量x 4,x 5,x 6123456min 0*0*0*z x x x x x x =-++++12341232 =22 5 =3..1 3 6=41,2,3,4,5,60x x x x x x x x s t x x x x x x x x x +-+⎧⎪+++⎪⎨-++⎪⎪≥⎩因检验数σ2<0,故确定x 2为换入非基变量,以x 2的系数列的正分量对应去除常数列,最小比值所在行对应的基变量x 4作为换出的基变量。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
或者
证明:1)设= () 则 由 得 或
故1)得证 2)的驻点为
或 三、设f(x)=试证:共轭梯度法的线性搜索中,有,其中 证明:由已知 ,得
令为t的凸二次函数。要使是的极小点即为驻点,故满足 而
= = = 故有
得 四、用共轭梯度法求解: min f(x)= , x 取初始点 解:易知
第一次迭代:
线性搜索得步长
从而 = 第二次迭代:
线性搜索得步长:
所以 最优解为 5、 用拟Newton法求解: min 取初始点
解:1)DFC法 取初始对称矩阵
第一次迭代: 计算得,
经一维线性搜索得:=0.25
置
第二次迭代 经一维线性搜索得:=6.25
故最优解为: 2)BFGS法
取定初始对称矩阵 第一次迭代: 计算得, 经一维线性搜索得:=0.25 同DFP法,初始修正矩阵 第二次迭代: 经一维线性搜索得: 故最优解为:
习题三
1、 给定问题 min s.t.
取初始点,用简约梯度法求其最优解 解:约束条件为
则,
= = 得
得
故为问题的K-T点 2、 用梯度投影法求解问题
min s.t. 取初始点 解: 迭代(1) 投影矩阵
故
故 投影矩阵
令 故 为其 K-T 点 3、用可行方向法求解问题 min s.t. 取初始点 解: 迭代一: 有效约束 确定下降方向
4、 设 ,b ,(j=1,2,….,n)考虑问题 Min f(x)= s.t.
(j=1,2,….,n) 1) 写出其Kuhn Tuker 条件
2) 证明问题最优值是 解:1)因 为目标函数的分母故
所以(j=1,…,n)都为0 所以Kuhn Tuker 条件为 即 +=0 2)将代入 h(x)=0 只有一点 得 故有 所以最优解是 五、使用Kuhn Tuker 条件,求问题 min f(x)= s.t. 的Kuhn Tuker 点,并验证此点为问题的最优解 解:x=(1/2,3/2) 故,=0 则 即
= 2) =( , )
= 3、 设f(x)=,取点.验证=(1,0,-1)是f(x)在点处的一个下降方向,并计算
f(+t) 证明: =
d=(1,0,-1)= -3<0 所以是f(x)在处的一个下降方向 f(+t)=f((1+t,1,1-t)) = f(+t)=6t-3=0 所以t=0.5>0 所以f(+t)=3*0.25-3*0.5+4=3.25
满足f()<max{f(),f()}, 证明:不妨设<,则<
“必要性” 若 则由单谷函数定义知 故有
“充分性” 由,的任意性取=时,f()>f() 则>>= 且f()<f() 若取 =时, f()>f()
=<< 且 f()<f() 满足单谷函数的定义
二、设<, 1)证明:满足条件
的二次函数是(严格)凸函数 2)证明:由二次插值所得f(x)的近似极小值点(即的驻点)是
min -4 s.t. i=1,2 解得 且其最优值为-6,即处的搜索方向
Байду номын сангаас
线性搜索
而
迭代2: 有效约束 确定下降方向 min s.t. i=1,2 得且其最优值为-2 线性搜索
而
迭代3: 有效约束 确定下降方向 min s.t. i=1,2 得 ,其最优值为线性搜索
而
迭代 4: 有效约束 确定下降方向 min s.t. i=1,2 得 ,其最优值为0 为K-T点
习题一
一、 考虑二次函数f(x)= 1) 写出它的矩阵—向量形式: f(x)= 2) 矩阵Q是不是奇异的? 3) 证明: f(x)是正定的 4) f(x)是凸的吗? 5) 写出f(x)在点=处的支撑超平面(即切平面)方程
解:1) f(x)= =+ 其中 x= ,Q= , b=
2) 因为Q= ,所以 |Q|==8>0 即可知Q是非奇异的 3) 因为|2|>0, =8>0 ,所以Q是正定的,故f(x)是正定的 4) 因为=,所以||=8>0,故推出是正定的,即 是凸的 5) 因为 =,所以=(5,11) 所以 f(x)在点处的切线方程为5()+11()=0 二、 求下列函数的梯度问题和Hesse矩阵 1) f(x)=2++ 2) f(x)=ln(+) 解: 1) = ( , )
而故 即其为最优解 六、在习题五的条件下证明 L() 其中 L(x,)=f(x)+ 证明:L()=f()+
= f() = f()++2)= = f()
=)
习题二
一、 设f(x)为定义在区间[a,b]上的实值函数,是问题min{f(x)|a} 的最优解。证明:f(x)是[a,b]上的单谷函数的充要条件是对 任意