多目标进化算法

• 或者 ( fi ( X ) fi ( X * ))
(5)
iI
• 或至少存在一个 j I ，I={1，2，…r},使：
• fj(X) fj(X*)
(6)
• 其中Ω满足式(1)和式(2)的可行解集，即：
{X n | gi ( X ) 0, hj ( X ) 0;(i 1, 2, , k; j 1, 2, , l)}
进一步研究
• 更一般的，更通用的，更接近于自然进化的MOEA模型 • 基于进化环境的多目标进化模型。 • MOEA在有限时间内的收敛性。 • 构造多目标最优解集的最少时间复杂度。 • 进化过程中，个体循环地进入归档集问题。 • MOEA在不同参数时的比较研究。 • MOEA进化过程中，非支配集变化规律的研究。 • MOEA运行的统一框架。 • 不确定多目标优化问题。 • ……
• 实心点A、B、C、D、E、 F均处在最优边界上，它 们都是最优解(Pareto points) ,是非支配的(nondominated)；空心点G、H 、I、J、K、L落在搜索区 域内，但不在最优边界上
，不是最优解，是被支配 的(dominated)，它们直接 或间接受最优边界上的最 优解支配。
• 2.300 5.290
• 2.400 5.760
• 2.500 6.250
• 2.600 6.760
• 2.700 7.290
• 2.800 7.840
• 2.900 8.410
• ………..
f2 25.000 24.010 23.040 22.090 21.160 20.250 19.360 0.000 0.010
approaches)
• 按决策方式的不同，Coello Coello等将多目 标进化算法分为三大类(Coello Coello et al. 2002)：
• 前决策技术(priori technique)
• 交互决策技术(progressive technique)
• 后决策技术(posteriori technique)
• 寻求 X * (x1*, x2*,L , xn*) ，使ufr(X *)在满足约束(1)和(2)的同时 达到最优。
例子
• 决策变量x,满足约束条件：-3≤x ≤ 3 • 设有2个优化目标：f(x)=(f1(x),f2(x)),其中 • f1=x2 • f2=(x-2)2 • 求解x*,使得f(x*)同时达到最小。
ur
• 定义5：给定一个多目标优化问题 Min f (X ) ，它 的最优解集定义为：
P* {X *} {X | X ' , f j ( X ' ) f j ( X ), ( j 1, 2,L , r)}
• 多目标进化算法的优化过程是，针对每一代进化 群体，寻找出其当前最优个体(即当前最优解)， 称一个进化群体的当前最优解为非支配解(nondominated solution)，或称为非劣解(non-inferior solution)；所有非支配解的集合称之为当前进化 群体的非支配集(NDS：non-dominated solutions)，并使非支配集NDS不断逼近真正的最 优解集，最终达到最优，即使NDSet*⊆{X*}， NDSet*为算法运行结束时所求得的非支配集 。
•
定义3：给定一个多目标优化问题
Min
ur f
(X
)
，
•
若 X*
，且不存在其它的
*
X
使得：
• f j (X *) f j (X *)，( j 1, 2,L , r) 成立，且其中至少一
个是严格不等式，
•
则称X*是
ur Min f ( X )
的Pareto最优解。
• X f1
f2
•0
0
4
• 0.1 0.01
基本概念
• 进化算法(evolutionary algorithm, EA)得到 了非常广泛应用。
• 现实中，一般对多个目标同时优化，往往 优化的多个目标之间是相互冲突。
• 如：企业生产中，产品质量与生产成本的 关系。
• 为达到总目标的最优化，对各子目标进行 折衷，出现了多目标进化算法(multiobjective EA,MOEA)。
• 从2001年以来，每二年召开一次有关多目标进化的国际会 议(EMO：evolutionary multi-criterion optimization)
• 国际刊物“IEEE Transactions on Evolutionary Computation”(1997年创刊)
• Evolutionary Computation (1993年创刊) • Genetic Programming and Evolvable Machines (1999年)
Pareto最优边界
•
定义6：给定一个多目标优化问题
Min
ur f
(
X
)
和
它的最优解集{X*}，它的Pareto最优边界定
义为：
ur
• PF* { f ( X ) ( f1( X ), f2 ( X ),L , fr ( X )) | X {X *}}
• 区别：Pareto最优解集，Pareto最优边界
f1
A
G
H
B I
C
K J
L
D
E
F
f2
个体之间的支配关系
• 对两个变量(个体)x和y进行比较时，可能存在三 种关系：x大于y，x等于y，x小于y。在多目标情 况下，由于每个个体有多个属性，比较两个个体 之间的关系不能使用简单的大小关系。如两个目 标的个体(2, 6)和(3, 5)，在第一个目标上有2小于 3，而在第二个目标上又有6大于5，这种情况下 个体(2, 6)和(3, 5)之间的关系是什么呢？另一种 情况，如个体(2, 6)和(3, 8)，它们之间的关系又 是什么呢？当目标数大于2时，又如何比较不同个 体之间的关系呢？
3.6109
2.89
• 0.4 0.16
2.56
• 0.5 0.25
2.25
• 0.6 0.36
1.96
• 0.7 0.49
1.69
• 0.8 0.64
1.44
• 0.9 0.81
1.21
•1
1
1
• 1.1 1.21
0.81
• 1.2 1.44
0.64
• 1.3 1.69
值空间分布图
•X
f1
• -3.000 9.000
• -2.900 8.410
• -2.800 7.840
• -2.700 7.290
• -2.600 6.760
• -2.500 6.250
• -2.400 5.760
• 2.000 4.000
• 2.100 4.410
• …………
• 2.200 4.840
多目标进化算法简介
郑金华
jhzheng@
多目标进化算法历史
• 1967年Rosenberg就建议采用基于进化的搜索来处理多目 标优化问题。
• 1984年，David Schaffer首次在机器学习中实现了向量评估 遗传算法。
• 1989年David Goldberg在其著作《Genetic algorithms for search, optimization, and machine learning》中，提出了 用进化算法实现多目标的优化技术。
的关(系do(dmoimnainteadte)。re表la示tio为n)p。 q，其中“ ”是支配
• 定义9(目标空间中的支配关系)
• 设U (u1,u2 ,L ,ur ) 和V (v1, v2 ,L , vr )是目标空间 中的两个向量，称U支配V(表示为 U p V)， 当且仅当：uk vk , (k 1, 2,L , r) 且 l {1, 2,L , r} ，使 ul vl 。
• 据定义9，我们便可以得出结论：(2, 6)支配 (3, 8)，(2, 6)和(3, 5)之间互相不支配。
• 区别：决策空间支配关系，目标空间支配关系
多目标进化算法
• 为了便于理解，我们这里给出一类基于Pareto的 多目标进化算法的一般流程，首先产生一个初始 种群P，接着选择某个进化算法(如遗传算法)对P 执行进化操作(如交叉、变异和选择)，得到新的 进化群体R。然后采用某种策略构造P∪R的非支 配集Nset，一般情况下在设计算法时已设置了非 支配集的大小(如N)，若当前非支配集Nset的大小 大于或小于N时，需要按照某种策略对Nset进行 调整，调整时一方面使Nset满足大小要求，同时 也必须使Nset满足分布性要求。之后判断是否满 足终止条件，若满足终止条件则结束，否则将 Nset中个体复制到P中并继续下一轮进化 。
一般描述
• 给定决策向量，它满足下列约束：
gi ( X ) 0 i 1, 2,L , k (1)
hi ( X ) 0 i 1, 2,L ,l (2)
• 设有r个优化目标，且这r个优化目标是相互冲突的 ，优化目标可表示为：
ur f ( X ) ( f1( X ), f2 ( X ),L , fr ( X )) (3)
决策空间和目标空间
X 决策空间 -3 -2.9 …
f1 目标空间 9 8.41 …
f2 目标空间 25 24.01 …
2.9 3 8.41 9 0.81 1
•
定义2：给定一个多目标优化问题
Min
ur f
(X
)，称
X* 是最优解(即Pareto optimal solution)，
若 X ，满足下列条件：
• 如果f (X1) f (X2 )，则称 X1 比 X 2 更优越； • 定义 X * ：
• 若X*比更优越的X 不存在，则称X*为弱Pareto 最优解。
• 若X*比任何X 都优越，则称X*为完全Pareto 最优解。
• 若比X*优越的X 不存在，则称X*为强Pareto最 优解。
0.040 0.090 0.160 0.250 0.360 0.490 0.640 0.810
Pareto最优解基本定义
• 多目标优化的最优解称为Pareto最优解。(1896年
Vilfredo Pareto）
•
定义1：给定一个多目标优化问题
ur f (X
)，它的最优解x*定义为：
•
ur
uur
f ( X * ) opt f ( X )
开始 产生初始种群P 用EA进化P得新群体R
构造P∪R的非支配集Nset
调整Nset的规模并使之满足分布性要求
满足终止条件
否
P<=Nset
是 输出结果，结束
• 在MOEA中，保留上一代非支配集，并使之 参入新一代的多目标进化操作是非常重要 的，这类似于进化算法中保留上一代的最 优个体，从而使新一代的非支配集不比上 一代差，这也是算法收敛的必要条件。这 样，一代一代的进化下去，进化群体的非 支配集不断地逼近真正的最优边界(true pareto optimal front)，最终得到满意的解集 (不一定是最优解集)。
0.49
• 1.4 1.96
0.36
• 1.5 2.25
0.25
• 1.6 2.56
0.16
• 1.7 2.89
0.09
• 1.8 3.24
0.04
• 1.9 3.61
0.01
•2
4
0
Pareto最优解
•
定义4：给定一个多目标优化问题
Min
ur f
(
X
)
，设
X1
,
X
2
• 如果f (X1) f (X2)，则称 X1 比 X 2优越；
MOEA分类
• 按选择机制的不同(Coello Coello et al. 2004)，可以将MOEA 分为：
• 聚集函数(aggregating functions) • 基于群体的方法(population-based
approaches) • 基于Pareto的方法(pareto-based
• 定义8(个体之间的支配关系) 设p和q是进化群体 Pop中的任意两个不同的个体，我们称p支配 (dominate)q，则必须满足下列二个条件：
• (1)对所有的子目标，p不比q差 • 即 fk ( p) fk (q), (k 1, 2,L , r) ； • (2)至少存在一个子目标，使p比q好 • 即 l {1, 2,L , r} ，使 fl ( p) fl (q) 。 • 其中r为子目标的数量。 • 此时称p为非支配的(non-dominated)，q为被支配
•
其中：
ur X f :¡
r
(3) (4)
• 这里Ω为满足式(1)和式(2)的可行解集，即：
{X n | gi (X ) 0, hj (X ) 0;(i 1, 2, , k; j 1, 2, ,l)}
•
我们称Ω为决策变量空间(简称决策空间)，向量函数
ur f(
X将)
¡ n 映射到集合 ¡ r，∏是目标函数空间(称目标空间)。