最优化方法及其应用课后答案(郭科 陈聆 魏友华)

T T
⎛2 ⎞ ⎛1 ⎞ ⎟ , ∇g1 ( x ) = ⎜ ⎟ ，由 ∇gi ( x ) ≥ 0 条件下的 ⎝ −2 ⎠ ⎝ −1⎠ ≥ 0 ，得到 λ1 = 2 ，点 x = [ −1,1] 满足 K-T 条
T
K-T 条件得： ∇f ( x) −
∑ λ ∇g ( x) = 0, λ
i i i∈I
7 2
（14） 基解 x14 = (0, 0, − ,8, 0, 0) 不是基可行解。 （15） 基解 x15 = (0, 0, , 0,8, 0) 是基可行解，且 f ( x) = 3 。 （16） 基解 x16 = (0, 0, 0,3,5, 0) 是基可行解，且 f ( x) = 3 。 2. 用单纯形法求解下列线性规划问题：
max f ( x ) = x1 x2 x3 ⎧ x1 x2 + 2 x2 x3 + 2 x1 x3 ≤ S ⎪x > 0 该优化问题属于三维的优化问题。 ⎪ s.t. ⎨ 1 ⎪ x2 > 0 ⎪ ⎩ x3 > 0
3
s 3s 1 ⎛ s ⎞ 2 x = s / 3, y = s / 3, z = s / 12 v = = ⎜ ⎟ 18 2⎝ 3⎠
（1） 基解 x1 = (0,
16 7 , − , 0, 0, 0) 不是基可行解， 3 6
（2） 基解 x2 = (0,10, 0, 7, 0, 0) 不是基可行解， （3） 基解 x3 = (0,3, 0, 0,3.5, 0) 是基可行解，且 f ( x) = 3 ，ห้องสมุดไป่ตู้（4） 基解 x4 = ( , −4, 0, 0, 0,
i
件。又因 ∇ 2 f ( x) 正定，故 f ( x) 为严格凸函数，该最优化问题是凸规划问题，由
x* = [ −1,1] 是 K-T 点，所以 x* = [ −1,1] 也是该问题的全局最优点。
T
T
8.设约束优化问题：
min f ( x) = ( x1 − 2) 2 + x2 2 ⎧ g1 ( x) = − x1 ≤ 0 ⎪ s.t. ⎨ g 2 ( x) = − x2 ≤ 0 ⎪ 2 ⎩ g 3 ( x) = −1 + x1 + x2 ≤ 0
解：将现行规划问题化为标准形式如下：
作初始单纯形表，并按单纯形表步骤进行迭代，如下：
CB
XB
b
-10
x1
-5
x2
0
x3
0
x4
5 2
3 2
1 2
5 15 ) 不是基可行解。 4 4 3 9 9 （10） 基解 x10 = ( , 0, 0, 0, 4, ) 是基可行解，且 f ( x) = 。 4 4 4 16 7 （11） 基解 x11 = (0, , − , 0, 0, 0) 不是基可行解。 3 6
（9） 基解 x9 = ( , 0, 0, −2, 0, （12） 基解 x12 = (0,10, 0, −7, 0, 0) 不是基可行解。 （13） 基解 x13 = (0,3, 0, 0, , 0) 是基可行解，且 f ( x) = 3 。
现判断该问题是否为凸规划问题，因 ∇ 2 f ( x) 正定，故 f ( x) 为凸函数， g1 ( x ), g 2 ( x ) 为 线性函数，亦为凸函数， ∇ 2 g 3 ( x) 半正定，所以 g 3 ( x ) 为凸函数，所以该优化问题为凸 规划问题，即点 xk = [1, 0] 是该问题的约束最优解。 习题三
7 4
21 ) 不是基可行解， 4
（5） 基解 x5 = (0, 0, − ,8, 0, 0) 不是基可行解， （6） 基解 x6 = (0, 0, , 0,16, 0) 是基可行解，且 f ( x) = 3 ， （7） 基解 x7 = (1, 0, − , 0, 0,3) 不是基可行解， （8） 基解 x8 = (0, 0, 0,3,5, 0) 是基可行解，且 f ( x) = 0 ，
T
1. 对于下列线性规划问题找出所有基解，指出哪些是基可行解，并确定出最优解。
max f ( x ) = 3x1 + x2 + 2 x3 ⎧12 x1 + 3x2 + 6 x3 + x4 = 9 ⎪ （1） ⎪8 x1 + x2 − 4 x3 + 2 x5 = 10 s.t. ⎨ ⎪3 x1 − x6 = 0 ⎪ x j ≥ 0, ( j = 1, 2...6) ⎩ ⎛12 3 6 3 0 0 ⎞ ⎜ ⎟ 解：令 A = ⎜ 8 1 -4 0 2 0 ⎟ = ( P 1, P 2, P 3, P 4, P 5, P 6) ⎜ 3 0 0 0 0 -1 ⎟ ⎝ ⎠
（3） f ( x1 , x2 , x3 ) = x12 + 2 x2 2 − 3 x3 2 − 4 x1 x2 解： ∇ 2 f ( x) 不是半正定，即 f ( x) 非凸，然后判断- f ( x) ，经验证： ∇ 2 (− f ( x)) 不是半 正定，由此可知： f ( x) 非凸非凹。
7.设约束优化问题的数学模型为：
min f ( x) = x12 + 4 x1 + x22 − 4 x2 + 10 ⎧ g1 ( x) = x1 − x2 + 2 ≥ 0 s.t. ⎨ 2 2 ⎩ g 2 ( x) = − x1 − x2 − 2 x1 + 2 x2 ≥ 0
试用 K-T 条件判别点 x = [ −1,1] 是否为最优点。 解：对于点 x = [ −1,1] ， g1 ( x) =0， g 2 ( x) ≥ 0 ，点满足约束条件，故点 X 是可行解。 且 g1 ( x) 是起作用约束，I = {1} , ∇f ( x) = ⎜
最优化方法部分课后习题解答
习题一 1.一直优化问题的数学模型为：
min f ( x ) = ( x1 − 3)2 + ( x2 − 4)2 5 ⎧ ⎪ g1 ( x) = x1 − x2 − 2 ≥ 0 ⎪ ⎪ s.t. ⎨ g 2 ( x ) = − x1 − x2 + 5 ≥ 0 ⎪ g 3 ( x) = x1 ≥ 0 ⎪ ⎪ ⎩ g 4 ( x ) = x2 ≥ 0
* * *
15 5 , ) 时， f ( x) 所在的圆的半径最小。 4 4
15 ⎧ 5 x1 = ⎧ ⎪ ⎪ g1 ( x ) = x1 − x2 − = 0 ⎪ 4 其中：点为 g1 ( x) 和 g 2 ( x) 的交点，令 ⎨ 求解得到： ⎨ 2 ⎪ ⎪x = 5 ⎩ g 2 ( x) = − x1 − x2 + 5 = 0 ⎪ 2 4 ⎩
=
1 ( AX + AT X ) + b 2
5.求下列函数的梯度和 Hesse 矩阵 （1） f ( x) = x1 + 2 x2 + 3 x3 − 4 x1 x3
2 2 2
⎛ 2 0 -4 ⎞ ⎜ ⎟ 解： ∇ f ( x ) = ⎜ 0 4 0 ⎟ ⎜ −4 0 6 ⎟ ⎝ ⎠
2
（2） f ( x) = 3 x1 x2 + e
即最优点为 x = (
*
15 5 65 , ) ：最优值为： f ( x* ) = 4 4 8
（3）.若增加一个等式约束，则由图可知，可行域为空集，即此时最优解不存在。 2.一个矩形无盖油箱的外部总面积限定为 S， 怎样设计可使油箱的容量最大？试列出这个优 化问题的数学模型，并回答这属于几维的优化问题. 解：列出这个优化问题的数学模型为：
试用图解法求出： （1） 无约束最优点，并求出最优值。 （2） 约束最优点，并求出其最优值。 （3） 如果加一个等式约束 h( x ) = x1 − x2 = 0 ，其约束最优解是什么？ 解：（1）在无约束条件下， f ( x) 的可行域在整个 x1 0 x2 平面上，不难看出，当 x =（3，4） 时， f ( x) 取最小值，即，最优点为 x =（3，4）：且最优值为： f ( x* ) =0 （2）在约束条件下， f ( x) 的可行域为图中阴影部分所示，此时，求该问题的最优点就是 在约束集合即可行域中找一点 ( x1 , x2 ) ，使其落在半径最小的同心圆上，显然，从图示中可 以看出，当 x = (
1 n ⎡1 n ⎤ ⎡ n ⎤ ⎡ n ⎤ a x + a x + b a1 j x j ⎥ ai1 xi ⎥ ⎡ ∂f ( x ) ⎤ ⎢ ∑ 1 j j ∑ ∑ i1 i 1 ⎥ ⎢ ∑ ⎢ 2 i =1 ⎢ ⎥ ⎢ 2 j =1 ⎥ ⎢ j =1 ⎥ ⎢ i =1 ⎥ ∂ x 1 n n n ⎢ ⎥ ⎢1 ⎥ ⎢ ⎥ 1 ⎢ n ⎥ ⎡b ⎤ ⎢ ∂f ( x ) ⎥ ⎢ ∑ a2 j x j + ∑ ai 2 xi + b2 ⎥ 1 ⎢ ∑ a2 j x j ⎥ 1 ⎢ ∑ ai 2 xi ⎥ ⎢ 1 ⎥ 2 i =1 ∇f ( x ) = ⎢ + b ⎥ = ⎢ 2 j =1 ⎥ = 2 ⎢ j =1 ⎥ + 2 ⎢ i =1 ⎥ ⎢ 2⎥ ⎢ ∂x2 ⎥ ⎢⋮ ⎥ ⎢⋮ ⎥ ⎢⋮ ⎥ ⎢ ⎣b3 ⎥ ⎦ ⎢ ∂f ( x ) ⎥ ⎢ ⎥ ⎢ ⎥ ⎢ ⎥ n n n n ⎢ ⎥ ⎢1 1 ⎥ ⎢ ⎢∑ a x ⎥ anj x j ⎥ in i ∑ ⎣ ∂x3 ⎦ ⎢ ∑ anj x j + ∑ ain xi + bn ⎥ ⎢ ⎥ ⎢ ⎥ 2 2 ⎣ i =1 ⎦ i =1 ⎣ j =1 ⎦ ⎣ j =1 ⎦
T T T
⎛ −2 ⎞ ⎛0 ⎞ ⎟ ， ∇g 2 ( xk ) = ⎜ ⎟ ⎝0 ⎠ ⎝ −1 ⎠
⎛ 2⎞ ∇g 3 ( xk ) = ⎜ ⎟ ，由约束条件为 gi ( x) ≤ 0 时的 K-T 条件得，应有： ⎝1 ⎠ ⎧λ = 1 T ∇f ( x) + ∑ λi ∇gi ( x ) = 0, λi ≥ 0 解得： ⎨ 2 ，所以 xk = [1, 0] 为 K-T 点。 i∈I ⎩λ3 = 1
习题二
3.计算一般二次函数 f ( x) =
1 T X AX + bT X + c 的梯度。 2
解：设： A = (aij ) n×n , b = (b1 , b2 ,...bn )T , X = ( x1 , x2 ,...xn )T 则：
f ( x) =
n 1 n n a x x + bi xi + c ，将它对变量 xi (i = 1, 2,...n) 球偏导数得： ∑∑ ij i j ∑ 2 i =1 j =1 i =1
它的当前迭代点为 xk = [1, 0] ，试用 K-T 条件判定它是不是约束最优解。 解：对于点 xk = [1, 0] g1 ( xk ) = −1 ≤ 0, g 2 ( xk ) = 0, g 3 ( xk ) = 0 ，点 xk = [1, 0] 是可行点， 且起作用的约束条件是， g 2 ( x), g3 ( x) ， I = {2,3} , ∇f ( xk ) = ⎜
5 2
3 2
max f ( x ) = 10 x1 + 5 x2
（1）
⎧3 x1 + 4 x2 ≤ 9 ⎪ s.t. ⎨5 x1 + 2 x2 ≤ 8 ⎪x , x ≥ 0 ⎩ 1 2 min(− f ( x )) = −10 x1 − 5 x2 + 0 x3 + 0 x4 ⎧3 x1 + 4 x2 + x3 = 9 ⎪ s.t. ⎨5 x1 + 2 x2 + x4 = 8 ⎪x , x , x , x ≥ 0 ⎩ 1 2 3 4
2
x1 x2
解： ∇ 2 f ( x) = ⎜
⎛ x2 2e x1x2 6x2 + e x1 x2 +x1 x2 e x1 x2 ⎜ 6x + e x1x2 +x x e x1 x2 6x +x 2 e x1 x2 ⎝ 2 1 2 1 1
⎞ ⎟ ⎟ ⎠
6.判断下列函数是凸函数，凹函数，还是既不凸也不凹函数： （1） f ( x1 , x2 ) = − x12 + 2 x2 2 + 3 x1 x2 解： ∇ 2 f ( x) 不是半正定，即 f ( x) 非凸，然后判断- f ( x) ，经验证： ∇ 2 (− f ( x)) 不是半 正定，由此可知： f ( x) 非凸非凹。 （2） f ( x1 , x2 ) = 2 x12 − 4 x1 x2 + 3 x2 2 − 5 x1 − 6 解： ∇ 2 f ( x) 半正定，故 f ( x) 为凸函数。