进化策略和进化规划课件(PPT 42张)

8.2 进化策略
然后从这两个个体中组合出如下新个体：
式中qi＝1或2，它以相同的概率针对i＝1，2，…，n随机选取。
对重组产生的新个体执行突变操作，突变方式及σ的调整与 (1+1)-ES相同。 将突变后的个体与父代μ个个体相比较，若优于父代最差个体， 则代替后者成为下一代μ个个体新成员，否则，重新执行重 组和突变产生另一新个体，
8.2 进化策略
在1973年，Rechenburg把该算法的期望收敛速度定义为对 最优点的平均距离与要得到此改善所需要的试验次数之比 。
1981年，Schwefel在进化策略中使用多重亲本和子代，这是 Rechenburg早期工作（使用多重亲本，但是仅使用单个子 代）的发展，后来考察了两种方法，分别表示为(μ+λ)-ES 和(μ，λ)-ES。在前者中，μ个亲本制造λ个子代，所有解均 参加生存竞争，选出最好的μ个作为下一代的亲本。在后者 中，只有λ（ λ > μ ）个子代参加生存竞争，在每代中μ个亲 本被完全取代。这就是说，对于每一代，每个解张成的生 命是有限的。增加种群大小，就在固定数目的世代中增加 了优化速率。
8.2 进化策略
进化策略的最初试验采用上述算法，主要采用单亲本—单子代 的搜索，即“（1+1）进化策略((1+1)-ES)”，其中单个子 代是由单个亲本产生的，它们都被置于生存竞争中，较弱 的一个要被挑选出来消去。 当把这种算法用于函数优化时，发现它有两个缺点： (1) 各维取定常的标准差使得程序收敛到最优解的速度很慢； (2) 点到点搜索的脆弱本质使得程序在局部极值附近容易受停 滞的影响（虽然此算法表明可以渐近地收敛到全局最优 点）。
(5) 进行新试验，选择具有最小方差的新子代，一直到获得充分解， 或者直到满足某个终止条件
8.2 进化策略
• 在这个模型中，把试验解的分量看做个体的行为特性，而 不是沿染色体排列的基因。可以和GA一样，假设这些表现 型特征具有基因根源，但是它们之间的联系实质并没有被 弄清楚，所以我们把着重点放在个体的行为特性上。 • 假设不管发生什么遗传变换，所造成各个行为的变化均遵 循零均值和某个标准差的高斯分布。 • 由于基因多效性和多基因性，特定基因的改变可以影响许 多表现型特征。所以在创造新子代时，较为合适的是同时 改变亲本所有分量。
Xt——第t代个体的数值， N(0,σ)——服从正态分布的随机数，其均值为零，标准差为σ。
8.2 进化策略
进化策略的一般算法可以描述如下： (1) 问题为寻找实值n维矢量x，使得函数F(x):RnR取极值。不失一 般性，设此程序为极小化过程。 (2) 从各维的可行范围内随机选取亲本xi，i＝1，…，p的初始值。初 始试验的分布一般是均匀分布。 (3) 通过对于x的每个分量增加零均值和预先选定的标准差的高斯随 机变量，从每个亲本xi产生子代x’i。 (4) 通过将误差F(xi)和F(x’i)，i＝1，…，p进行排序，选择并决定哪 些矢量保留。具有最小误差的p个矢量变成下一代的新亲本。
N(0,1)表示单个标准高所随机变量， Ni(0,1)表示第i个独立相同的 标准高斯分布，τ和τ’是影响总体和个体步长的算子集参数。以这 种方式，进化策略可以在线地适应误差曲面的宽度，并且更恰当 地分配实验次数。
进化策略和进化规划
德国学者Schwefel和Rechenburg美国学者Fogel分别提出 进化策略ES和进化规划EP。这三种方法具有共同的本 质，分别强调了自然进化中的不同方面：遗传算法强 调染色体的操作，进化策略强调了个体级的行为变化。 而进化规划则强调种群级上的行为变化。现在学术界 把遗传算法GA、进化策略ES和进化规划EP通称为进 化算法EC。
8.1 进化算法的早期研究
进化算法起源于20世纪30年代的通过仿真生物进化过程进行机器 学习的研究。早在1932年，Cannon就把自然进化想象为一个学 习过程。与自然进化过程的机制和结果稍微不同是，Cannon不 是通过维持一个特定的种群来进行搜索，而是对单个个体反复进 行随机试验。到了1950年，Turng认识到，在机器学习和进化之 间存在着明显的关系。1959年，Friedman推测，利用变异和选择 的仿真可以设计“思想机器”，并且指出下棋的程序可以用这种 方法设计。在1960年，Cambell猜想：在导致知识扩张的所有过 程中，都要涉及“盲目—变化—选择—幸存”的过程。此后，一 些学者逐渐将进化理论用于随机工程控制、机器学习和函数优化 等领域。
8.2 进化策略
(μ + 1)-ES: 早期的(1十1)-ES，没有体现群体的作用，只是单个个体在进 化，具有明显的局限性。随后，Rechenberg又提出(μ+1)ES，在这种进化策略中，父代有μ个个体(μ＞1)，并且引入 重组(Recombination)算子，使父代个体组合出新的个体。 在执行重组时，从μ个父代个体中用随机的方法任选两个个 体：
8.2 进Βιβλιοθήκη Baidu策略
(μ+1)-ES和(1+1)-ES具有相同的策略：只产生一个新个体。 (μ+1)-ES的特点在于： (1) 采用群体，其中包含μ个个体； (2) 增添重组算子，它相当于遗传算法中的交叉算子，从父 代继承信息构成新个体。
显然，(μ+1)-ES比(1+1)-ES有了明显的改进，为进化策略这种 新的进化算法奠定良好的基础。
8.2 进化策略
• 进化策略（Evolutionary Strategies）是在1965年由Rechenburg和 Schwefel独立提出的。 • 早期的进化策略的种群中只包含一个个体，并且只使用变异操作。 在每一代中，变异后的个体与其父代进行比较，并选择较好的一 个，这种选择策略被称为（1+1）策略。 • 进化策略中的个体用传统的十进制实型数表示，即：
8.2 进化策略
Rechenburg引入了如下想法，在每个新样本的特征分布中附加了 一个自适应参数。在这个方法中，每个解矢量不仅包括了n维试 验矢量x，而且还包括了扰动矢量σ，后者给出如何变异x以及它 本身如何变异的指令。例如，设x为当前矢量， σ为对应于x每个 维的方差矢量，于是新的解矢量x’， σ’可以这样产生：