可行方向法基本算法

可行方向法基本算法
考虑线性规划问题： Min (),{|()0,1,2,...}
{n j f X X R E R X g X j l ∈⊂=≥= 设()k X 是它的一个可行解，但不是要求的极小点，为了求它的极小点或近似极小点，应在()k X 点的可行下降方向中选取某一方向()k D ，并确定步长k λ，使得 (1)()k k k k X X D R λ+=+∈
(1)()()()k k f X f X +<
若满足精度要求，迭代停止，(1)k X +就是所求的点。

否则，从(1)k X +出发继续进行迭代。

直到满足要求为止。

上述这种方法称为可行方向法。

设()k x 点的起作用约束集非空，为求()k x 点的可行下降方向，可由下述不等式组确定响亮D ：
()()()0()0,k T k T i f X D g X D j J ⎧⎪⎨⎪⎩
∇<∇>∈ 这等价于由下面的不等式组求向量D 和实数η：
()()k T f X D η∇≤
()(),i k T g X D j J η-∇≤∈
0η<
现使()()k T f X D ∇和()()i k T g X D -∇（对所有j J ∈）的最大值极小化（必须同时
限制向量D 的模），即可将上述选取搜索方向的工作，转换为求解下述线性规划问题：
Min η
()()k T f X D η∇≤
()()(),()k i k T g X D j J X η-∇≤∈
11,1,2,3,..
i d i n -≤≤=
式中(1,2,3,...,)i d i n =为向量D 的分量。

在上式中加入最后一个限制条件，位的是使该线性规划有有限最优解；由于我们的目的在于寻找搜索方向D ，只需知道D 的各分量的相对大小即可。

将上述线性规划的最优解记为()(,)k k D η，如果求出的0k η=，说明在()k X 点不存在可行下降方向，在()()k j g X ∇（此处()()k j J X ∈）线性无关的条件下，()k X 为一K-T 点，若解出0k η<，则得到可行下降方向()k D ，这就是我们所要的所搜方向。

上述可行方向法的迭代步骤如下：
（1）确定允许误差10ε>和20ε>，选取初始近似点(0)X R ∈，并令:0k =。

（2）确定起作用约束指标集()()(){|()0,1}k k j J X j g X j l ==≤≤
①若()()21()||()||k k J X f X ε=∅∅∇≤（为空集），而且，停止迭代，得点()k X 。

②若 ()()21()|()||k k J X f X ε=∅∇>，但，则选搜索方向()()(),k k D f X =-∇然后转向第（5）步。

③若()()k J X ≠∅，转下一步
（3）求解线性规划
M i n η
()()k T f X D η∇≤
()()(),()k i k T g X D j J X η-∇≤∈
11,1,2,3,..
i d i n -≤≤= 设它的最优解为()(,)k k D η。

（4）检验是否满足2||k ηε≤，若满足则停止迭代，得到()k X ；否则，以()k D 为搜索方向，并转向下一步。

（5）解下述一维极值问题()()0:()k k k Min f X D λλ
λλ-≤≤+，此处 ()()max{|()0,1,2,...,}k k j g X D j l λλλ-=+≥=
（6）令 (1)()(
k k k k X X D λ+=+ :1k k =+
转回第（2）步。