进化策略和进化规划课件

路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
然后从这两个个体中组合出如下新个体：
式中qi＝1或2，它以相同的概率针对i＝Байду номын сангаас，2，…，n随机选取 。
对重组产生的新个体执行突变操作，突变方式及σ的调整与 (1+1)-ES相同。
将突变后的个体与父代μ个个体相比较，若优于父代最差个体 ，则代替后者成为下一代μ个个体新成员，否则，重新执行 重组和突变产生另一新个体，
进化策略和进化规划课 件
路漫漫其修远兮, 吾将上下而求索
2020年4月2日星期四
8.1 进化算法的早期研究
进化算法起源于20世纪30年代的通过仿真生物进化过程进行机器 学习的研究。早在1932年，Cannon就把自然进化想象为一个学 习过程。与自然进化过程的机制和结果稍微不同是，Cannon不 是通过维持一个特定的种群来进行搜索，而是对单个个体反复进 行随机试验。到了1950年，Turng认识到，在机器学习和进化之 间存在着明显的关系。1959年，Friedman推测，利用变异和选择 的仿真可以设计“思想机器”，并且指出下棋的程序可以用这种方 法设计。在1960年，Cambell猜想：在导致知识扩张的所有过程 中，都要涉及“盲目—变化—选择—幸存”的过程。此后，一些学 者逐渐将进化理论用于随机工程控制、机器学习和函数优化等领 域。
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
Rechenburg引入了如下想法，在每个新样本的特征分布中附加了 一个自适应参数。在这个方法中，每个解矢量不仅包括了n维试 验矢量x，而且还包括了扰动矢量σ，后者给出如何变异x以及它 本身如何变异的指令。例如，设x为当前矢量， σ为对应于x每个 维的方差矢量，于是新的解矢量x’， σ’可以这样产生：
• 假设不管发生什么遗传变换，所造成各个行为的变化均遵 循零均值和某个标准差的高斯分布。
• 由于基因多效性和多基因性，特定基因的改变可以影响许 多表现型特征。所以在创造新子代时，较为合适的是同时 改变亲本所有分量。
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
进化策略的最初试验采用上述算法，主要采用单亲本—单子代
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
(μ+1)-ES和(1+1)-ES具有相同的策略：只产生一个新个体。 (μ+1)-ES的特点在于： (1) 采用群体，其中包含μ个个体； (2) 增添重组算子，它相当于遗传算法中的交叉算子，从父 代继承信息构成新个体。
显然，(μ+1)-ES比(1+1)-ES有了明显的改进，为进化策略这种 新的进化算法奠定良好的基础。
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
在1973年，Rechenburg把该算法的期望收敛速度定义为对 最优点的平均距离与要得到此改善所需要的试验次数之比 。
1981年，Schwefel在进化策略中使用多重亲本和子代，这是 Rechenburg早期工作（使用多重亲本，但是仅使用单个子 代）的发展，后来考察了两种方法，分别表示为(μ+λ)-ES 和(μ，λ)-ES。在前者中，μ个亲本制造λ个子代，所有解均 参加生存竞争，选出最好的μ个作为下一代的亲本。在后者 中，只有λ（ λ > μ ）个子代参加生存竞争，在每代中μ个亲 本被完全取代。这就是说，对于每一代，每个解张成的生 命是有限的。增加种群大小，就在固定数目的世代中增加 了优化速率。
(2) 从各维的可行范围内随机选取亲本xi，i＝1，…，p的初始值。初 始试验的分布一般是均匀分布。
(3) 通过对于x的每个分量增加零均值和预先选定的标准差的高斯随 机变量，从每个亲本xi产生子代x’i。
(4) 通过将误差F(xi)和F(x’i)，i＝1，…，p进行排序，选择并决定哪 些矢量保留。具有最小误差的p个矢量变成下一代的新亲本。
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
(μ + 1)-ES: 早期的(1十1)-ES，没有体现群体的作用，只是单个个体在进
化，具有明显的局限性。随后，Rechenberg又提出(μ+1)ES，在这种进化策略中，父代有μ个个体(μ＞1)，并且引入 重组(Recombination)算子，使父代个体组合出新的个体。 在执行重组时，从μ个父代个体中用随机的方法任选两个个 体：
(5) 进行新试验，选择具有最小方差的新子代，一直到获得充分解， 或者直到满足某个终止条件
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
• 在这个模型中，把试验解的分量看做个体的行为特性，而 不是沿染色体排列的基因。可以和GA一样，假设这些表现 型特征具有基因根源，但是它们之间的联系实质并没有被 弄清楚，所以我们把着重点放在个体的行为特性上。
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
• 进化策略（Evolutionary Strategies）是在1965年由Rechenburg和 Schwefel独立提出的。
• 早期的进化策略的种群中只包含一个个体，并且只使用变异操作 。在每一代中，变异后的个体与其父代进行比较，并选择较好的 一个，这种选择策略被称为（1+1）策略。
N(0,1)表示单个标准高所随机变量， Ni(0,1)表示第i个独立相同的 标准高斯分布，τ和τ’是影响总体和个体步长的算子集参数。以这 种方式，进化策略可以在线地适应误差曲面的宽度，并且更恰当 地分配实验次数。
• 进化策略中的个体用传统的十进制实型数表示，即：
Xt——第t代个体的数值， N(0,σ)——服从正态分布的随机数，其均值为零，标准差为σ。
路漫漫其修远兮, 吾将上下而求索
8.2 进化策略
进化策略的一般算法可以描述如下：
(1) 问题为寻找实值n维矢量x，使得函数F(x):RnR取极值。不失一 般性，设此程序为极小化过程。
的搜索，即“（1+1）进化策略((1+1)-ES)”，其中单个子
代是由单个亲本产生的，它们都被置于生存竞争中，较弱 的一个要被挑选出来消去。 当把这种算法用于函数优化时，发现它有两个缺点： (1) 各维取定常的标准差使得程序收敛到最优解的速度很慢； (2) 点到点搜索的脆弱本质使得程序在局部极值附近容易受停 滞的影响（虽然此算法表明可以渐近地收敛到全局最优点 ）。