非线性规划模型

非线性规划模型

在上一次作业中，我们对线性规划模型进行了相应的介绍及优缺点，然而在

实际问题中并不是所有的问题都可以利用线性规划模型求解。实际问题中许多都

可以归结为一个非线性规划问题，即如果目标函数和约束条件中包含有非线性函数，则这样的问题称为非线性规划问题。一般来说，解决非线性的问题要比线性的问题难得多，不像线性规划有适用于一般情况的单纯形法。对于线性规划来说，其可行域一般是一个凸集，只要存在最优解，则其最优解一定在可行域的边界上达到；对于非线性规划，即使是存在最优解，却是可以在可行域的任一点达到，因此，对于非线性规划模型，迄今为止还没有一种适用于一般情况的求解方法，我们在本文中也只是介绍了几个比较常用的几个求解方法。

一、非线性规划的分类1无约束的非线性规划当问题没有约束条件时，即求多元函数

的极值问题，一般模型为

I r m i n f(X)

X 一0

此类问题即为无约束的非线性规划问题

1.1无约束非线性规划的解法

1.1.1 一般迭代法

即为可行方向法。对于问题J mnf(X)

[X X O

给出f (X)的极小点的初始值X(O),按某种规律计算出一系列的X(k)(k =1,2,…)，

希望点阵｛X (k)｝的极限X "就是f (X)的一个极小点。

由一个解向量X(k)求出另一个新的解向量X(kI)

向量是由方向和长度确定的，所以XZ I)=X k「k P k(k =12…)

即求解A和P k,选择'k和P k的原则是使目标函数在点阵上的值逐步减小，即

f (X0) 一f (X1) 一- f (X k) 一.

检验｛X(k)｝是否收敛与最优解，及对于给定的精度；7,是否IIlf(X k JlF ；

1.1.2 一维搜索法

当用迭代法求函数的极小点时，常常用到一维搜索，即沿某一已知方向求目标函数的极小点。一维搜索的方法很多，常用的有：

(1)试探法(“成功一失败”，斐波那契法，0.618法等)；

(2)插值法(抛物线插值法，三次插值法等)；

(3)微积分中的求根法(切线法，二分法等)。考虑一维极小化问题

a¾f(t)

若f (t)是[a,b]区间上的下单峰函数，我们介绍通过不断地缩短[a,b]的长度，来

搜索得min f(t)的近似最优解的两个方法。通过缩短区间 [a,b],逐步搜索得 a 空 m t in f (t)的最优解t *的近似值

a

-≤ιb

2.1.3 梯度法

选择一个使函数值下降速度最快的的方向。

把f(x)在X (IO

点的方向导数最小的方向

作为搜索方向，即令 P k

——∖

f (X k

).

计算步骤：

(1) 选定初始点 X 0

和给定的要求；∙0，k=0 ；

(2) 若 |八 f(X k

)* ;,则停止计算，X^X k

,否则 P

(k)

=-V f(X k

)；

(3)

在X (k

)处沿方向P (I)

做一维搜索得x (

j

I)

=

X k

…k P k

,令k = kT ,返回 第二

步，直到求得最优解为止

.可以求得：

、_ Vf(X

(I)

)¼ V f (X (I)

) ^Vf(X (I)

)T

.H(X (I)

^V f(X (I)

).

2.1.4共轭梯度法

又称共轭斜量法，仅适用于正定二次函数的极小值问题：

1

min f(X) = X T

AX B T

X C

2

A 为n n 阶实对称正定阵 X,

B ∙ E n

,c 为常数

从任意初始点X (I)

和向量P

(I)

= -

f (X ⑴)出发，由

(f (X (I)

)

δχ

所(X

(I)

)…

))T

CX n

CX 2

「济(X (I)

) 商(X

(I)

)…

CF(X

(I)

)I

、 J

CX 1

ZV

J

% EX n Cf(X (I)

) 商(X (I)

)…

Gr(X (I)

)

cx 2^x 1

- CX 2CX 2 ,

≡

CX 2

C X n

-

Cf(X (I)

) 伊(X (I)

)… GF(X (I)

) CX n CX I

~!

CX^X 2

'

EXnEX n

H(X (I)

)二

If(X (I)

) =

(k “2 ,n -1)

可以得到一一能够证明向量一一是线性无关的，且关于 A 是两两共轭的。从而可得到

则 为 的极小点。 计算步骤:

(1)对任意初始点

X

(I)

∙

E n

和向量P ⑴-f (X ⑴)，取k = 1;

(2)若I

f (X (I)

) =0,即得到最优解，停止计算，否则求

(k =1,2,…,n -1)

(3)令 k =k 1 ；返回(2)

2.1.5 牛顿法

对于问题：

1 min f(X) X T

AX B T

X C

2

由I f(X)=AX ∙B=0,则由最优条件'f(X) =0,当A 为正定时，Ad 存在，于是有

X^ -A 4B 为最优解

2.1.6 拟牛顿法

对于一般的二阶可微函数f (X),在X (I)

点的局部有

f(X) ： f(X (I)

Γ If(X (I)

)T

(X _ X (I)

) ∙ 1(X _ X (I)

)TI 2

f(X (I)

)(^X (I)

)

2

当√f(X Ck)

)正定时，也可用上面的牛顿法，这就是拟牛顿法。

X (k D =X k k

P k k

= min f (x (k

)

k

P (k )

)=

Cf(X (k )))T p (k )

(P (

G )T AP (k)

和 P (k I)

-f (x (k I)

) —P (k

「k

Vf(X (k I)

) A (P (Io )T

(P (k))T

AP

(k)

X (k 1) = X k k

P k

, k

= min f(X (I) k

P (I)

)=

" f(X )) P (P (I))T

AP

(I)

P (

k D

一屮x (k1)

)「k P (k)

「k

U(X (II)

)A (P (I))T

(P (I))T

AP

(I)