求解二次规划问题的拉格朗日及有效集方法样本

求解二次规划问题的拉格朗

日及有效集方法——最优化方法课程实验报告

学院: 数学与统计学院

班级: 硕2041班

姓名: 王彭

学号:

指导教师: 阮小娥

同组人: 钱东东

资料内容仅供您学习参考，如有不当或者侵权，请联系改正或者删除。

求解二次规划问题的拉格朗日

及有效集方法

摘要

二次规划师非线性优化中的一种特殊情形, 它的目标函数是二次实函数, 约束函数都是线性函数。由于二次规划比较简单, 便于求解( 仅次于线性规划) , 而且一些非线性优化问题能够转化为求解一些列的二次规划问题, 因此二次规划的求解方法较早引起人们的重视, 称为求解非线性优化的一个重要途径。二次规划的算法较多, 本文仅介绍求解等式约束凸二尺规划的拉格朗日方法以及求解一般约束凸二次规划的有效集方法。

关键字: 二次规划, 拉格朗日方法, 有效集方法。

【目录】

摘要................................................ 错误!未定义书签。

1 等式约束凸二次规划的解法.......................... 错误!未定义书签。

1.1 问题描述.................................... 错误!未定义书签。

1.2 拉格朗日方法求解等式约束二次规划问题........ 错误!未定义书签。

1.2.1 拉格朗日方法的推导.................... 错误!未定义书签。

1.2.2 拉格朗日方法的应用.................... 错误!未定义书签。

2 一般凸二次规划问题的解法.......................... 错误!未定义书签。

2.1 问题描述.................................... 错误!未定义书签。

2.2 有效集法求解一般凸二次规划问题.............. 错误!未定义书签。

2.2.1 有效集方法的理论推导.................. 错误!未定义书签。

2.2.2 有效集方法的算法步骤.................. 错误!未定义书签。

2.2.3 有效集方法的应用...................... 错误!未定义书签。

3 总结与体会........................................ 错误!未定义书签。

4 附录.............................................. 错误!未定义书签。

4.1 拉格朗日方法的matlab程序................... 错误!未定义书签。

4.2 有效集方法的Matlab程序..................... 错误!未定义书签。

资料内容仅供您学习参考，如有不当或者侵权，请联系改正或者删除。

1 等式约束凸二次规划的解法

1.1 问题描述

我们考虑如下的二次规划问题

⎪⎩

⎪⎨⎧=+b Ax t s x c Hx x T T ..,21min (1.1) 其中n n R H ⨯∈对称正定, n m R A ⨯∈行满秩, n R x c,∈, m R b ∈。

1.2 拉格朗日方法求解等式约束二次规划问题

1.2.1 拉格朗日方法的推导

首先写出拉格朗日函数:

)(2

1)L(x,b Ax x c Hx x T T T --+=λλ, (1.2) 令

0),(,0),(=∇=∇λλλx L x L x ,

得到方程组

.

,A -Hx T b Ax c -=--=λ 将上述方程组写成分块矩阵形式:

.0H ⎥⎦⎤⎢⎣⎡--=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡--b c x A

A T λ(1.3) 我们称伤处方程组的系数矩阵

⎥⎦⎤⎢⎣⎡0A

-A -H T 为拉格朗日矩阵。

下面的定理给出了线性方程组(1.1)有唯一解的充分条件。

定理1 设n m R H ⨯∈对称正定, n m R A ⨯∈行满秩。若在问题(1.1)的解*x 处满

足二阶充分条件, 即

,0,0,,0d T =≠∈∀>Ad d R d Hd n

则线性方程组(1.4)的系数矩阵非奇异, 即方程组( 1.4) 有唯一解。其中, 方程组(1.4)为( 1.1) 对应的齐次方程组:

00A -H T =⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡-v d A

( 1.4) . 下面, 我们来推导方程(1.3)的求解公式。根据定理1, 拉格朗日矩阵必然是非奇异的, 故可设其逆为

⎥⎦⎤⎢⎣⎡--=⎥⎦⎤⎢⎣⎡C B B G T 0A

-A -H T . 由恒等式

⎥⎦

⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡--⎥⎦⎤⎢⎣⎡⨯⨯m n

m m n n T I I C B B G 000A -A -H T 可得 .,0,

0,A HG T m T n m m n T T n I AB AG C A HB I B ==-=--=+⨯⨯

于是由上述四个等式得到矩阵C B,G,的表示式

)

7.1(.)()6.1(,

)()5.1(,

)(H G 111111111-1----------==-=T T T T A AH C AH A AH B AH A AH A H 因此, 由(1.3)可得解得表示式

)8.1(,x ⎥⎦⎤⎢⎣⎡-+-=⎥⎦⎤⎢⎣⎡--⎥⎦⎤⎢⎣⎡--=⎥⎦⎤⎢⎣⎡Cb Bc b B Gc b c C B B G T T λ

其中, C B,G,分别由(1.5),(1.6),(1.7)给出。 下面给出x 和λ的另一种等价表示式。设k x 是问题(1.1)的任一可行点, 即k x 满足b =k Ax 。而在此点处目标函数的梯度为c Hx x f k k +=∇=)(g k , 利用k x 和k g , 可将(1.8)改写为