多变量约束优化方法

第7章 多维约束优化方法

Chapter 7 Constrained Several Variables Technique

7-1 概述 Summarize

工程中的优化设计问题绝大多数是约束优化问题，即

n

R X X f ∈)

(min

n

p v X h m u X g t s v u <===≥,,2,10

)(,,2,10

)(..

约束最优点不仅与目标函数的性质有关，也与约束函数的性质有关。因此，约束优化问题比无约束优化问题情况更复杂，求解困难也更大。

根据对约束条件处理方法的不同，解决约束优化问题的方法分成二类: 1) 直接法 Direct Method

寻优过程直接在设计空间的可行域D 内进行，但对每一个迭代点)(k X 必须进行可行性

()(()01,2,

,)k u g X u m

≤=和下降性))()(()1()(+>k k X f X f 检查。直接算法简单，直观性

强，对目标函数和约束函数的函数性态没有特殊的要求。但是它的计算量大、收敛速度慢，因此效率低，比较适用于解决低维数的、具有不等式约束的优化问题。这类算法包括随机方向法、复合形法等。

2) 间接法 Indirect Method

间接法的主要思路是，首先将约束优化问题转化为无约束优化问题，然后再用无约束 优化方法来进行求解。间接解法分很多类，其中比较有代表性的、用的比较广泛的是惩罚函数法。

7-2 惩罚函数法 Penalty Method

在将约束优化问题转换成无约束优化问题时,惩罚函数法的处理思路与拉格朗日法很相似, 都是把目标函数与约束条件合并形成新的函数,而后求其最优解。但惩罚函数法得到的新函数不是一个而是一个系列。因此，用无约束优化算法求解得的最优解也是一个系列，即

**2*1,,k X X X ，当k →∞时，**k X X →。因此，惩罚函数法又称序列无约束最小化技术

Sequential Unconstrained Minimization Technique ， 即SUMT 法。 7-2-1惩罚函数法的基本原理 Principle 根据约束优化问题

n

R X X f ∈)

(min

..()0

1,2,,()0

1,2,,u v s t g X u m h X v p n

≤===<

构造新的函数 --- 惩罚函数

∑

∑==++=m

u p

v v

k u k k k X h H r X g G r X f

r r X 1

1

)

(2)

(1)(2)(1)]([)]([)(),,(ϕ

其中，)]([X g G u ，)]([X h H v 是)(X g u 和)(X h v 的复合函数；)(2)(1,k k r r 是在迭代过程中随迭代次数k 的增大而不断调整的参数，称为惩罚因子Penalty Factor ，它们是单调增monotone

increasing (decreasing) 或者单调减的正实数数列positive real number ；

)]([)(1X g G r u k 和

)]([)(2X h H r v k 称为惩罚项 Penalty term ，其值为非负。

从惩罚函数的表达式可以看到，惩罚函数值在一般情况下总是大于原目标函数的值，即f ≥ϕ。为了使惩罚函数ϕ的最优解*k X 最后能够收敛到原目标函数f 的最优解*X ，一方面要构造合适的复合函数)]([X g G u 和)]([X h H v ，使其在惩罚函数的极小化过程中，当迭代点()k X 不满足原约束条件时受到惩罚；另一方面，随着迭代次数k 的增加，不断地调整惩罚因子)(2)(1,k k r r 的值，使惩罚项的惩罚作用越来越小并趋于消失。因此，构造的惩罚项应具有如下性质

)

(0)]([lim )(0)]([lim )(2)(1∞→=

∞→=k X h H r k X g G r v k u k

根据惩罚项的函数形式，惩罚函数法又分为内点惩罚函数法、外点惩罚函数法和混合惩罚函数法。

7-2-2 外点惩罚函数法 Exterior Point Penalty Method 1）. 特点

用外点惩罚函数法求解约束优化问题时，惩罚函数定义在可行域外，在寻优过程中无约

束的序列最优点*

*2*1,,k X X X 是从可行域的外部逼近原约束优化问题最优解*X 的。在可行

域内部，原目标函数与惩罚函数的等值线重合（即f ϕ=），而在外部，由于f ≥ϕ惩罚起作用，惩罚函数的等值线有畸形的趋势。用外点法即可以求解不等式约束优化问题，又可以求

解等式约束优化问题。

2） 仅有不等式约束的外点惩罚函数

（1）问题

n

R

X X f ∈)

(min ..()01,2,,u s t g X u m ≥=

（2）惩罚函数 {}

2

()()()11

1

(1)

(2)

(,)()[()]()max[0,()]0m m

k k k u u u u X r f X r G g X f X r g X r

r

ϕ=-=+=+<<<<→∞

∑∑

（3）说明

式中，0

()0max[0,()]()()0

u u u u g X g X g X g X ≤⎧=⎨

>⎩ , 惩罚因子()k r 为单调增的正数数列

（I ）当迭代点满足约束条件时，()

k r 无论取何值都有{}2

()

1

max[0,()]0m

k u

u r

g

X ==∑，

此时有f =ϕ，惩罚项不起作用；

(II) 当迭代点不满足约束条件时，如1()0g X >，就有

{}2

()()211min[0,()]()0m

k k u u r g X r g X ==>∑，表明惩罚项起作用了，迭代点

)(k X 离边界越远，

)(21X g 项就越大，其惩罚作用也就越大，就迫使迭代点)(k X 向可行域靠拢，最