GP(Genetic Programming)算法

四 GP算法的基本原理 算法的基本原理 －－个体的描述方法 －－个体的描述方法
(2)超越函数，如sin, cos, tan, log, exp等。其中 要防止处理小于或等 超越函数， 超越函数 等 其中log要防止处理小于或等 于零的数值，称保护性对数，记为Rlog其处理方法类似于％。 其处理方法类似于％。 于零的数值，称保护性对数，记为 其处理方法类似于 (3)布尔运算符，如AND、OR或NOT等。 布尔运算符， 布尔运算符 、 或 等 (4)条件表达式，如If-then-else, Switch-Case等。 条件表达式， 条件表达式 等 (5)循环表达式，如Do-until, while-do, For-do等。 循环表达式， 循环表达式 等 (6)控制转移说明，如Go to, Call, Jump等。 控制转移说明， 控制转移说明 等 变量赋值函数， (7)变量赋值函数，如a:＝1, Read, Write等。 变量赋值函数 ＝ 等 (8)其他定义的函数。 其他定义的函数。 其他定义的函数
四 GP算法的基本原理 算法的基本原理
1 、个体的描述方法 2、初始群体的生成 、 3、适应性度量 、 4、基本算子 、 5、辅助算子 、 6、终止准则 、 7、结果标定 、 8、控制参数 、
四 GP算法的基本原理 算法的基本原理 －－个体的描述方法 －－个体的描述方法
GP算法中首先所要解决的问题是如何用一系列可行的函数对 算法中首先所要解决的问题是如何用一系列可行的函数对 个体进行描述，而这种函数能反复地由 个体进行描述，而这种函数能反复地由Nf 个函数F = { f , f ,L , f 1 2 T ={ 组合而成。 和Nterm个终止符a1, a 2,L , a N } 组合而成。函数集
二 GP算法的模式理论 算法的模式理论
GP算法中对模式的定义为：模式是群体中含有一个或多个特 算法中对模式的定义为： 算法中对模式的定义为 定子树的所有个体（ 的集合。也就是说， 定子树的所有个体（树）的集合。也就是说，一个模式是一 个具有某些共同特征的符号表达式的集合。 个具有某些共同特征的符号表达式的集合。 假设某个共同特征是一个由s个特定点组成的子树， 假设某个共同特征是一个由 个特定点组成的子树，即在该树 个特定点组成的子树 内没有不定点（ 算法中的*点），则该子树用下式表达 则该子树用下式表达： 内没有不定点（即GA算法中的 点），则该子树用下式表达： 算法中的
H ={a1, a2,Las;ξ}
个特定点组成的子树； 式中 H――由s个特定点组成的子树； 由 个特定点组成的子树 ai――特定结点 ，i＝1, 2, ┄, ； 特定结点i， ＝ ┄,s； 特定结点 ――子树的结构关系 子树的结构关系。 ξ――子树的结构关系。
二 GP算法的模式理论 算法的模式理论
1 2
然而在实际中，我们要限制其数目和其形态大小。比如说， 然而在实际中，我们要限制其数目和其形态大小。比如说， 我们可限制一棵树的形态大小为W（用最大结点数表示）。 我们可限制一棵树的形态大小为 （用最大结点数表示）。 一旦W给定 那么由所有不超过W个结点 给定， 个结点， 一旦 给定，那么由所有不超过 个结点，且包含特定子树 的树的集合是有限的， 的树的集合是有限的，即
f (H , t ) m(H, t +1) ≥ m(H, t)(1−δ ) f (t)
群体平均适应度； 式中 f (t ) ――群体平均适应度； 群体平均适应度 子代模式的平均适应度； 子代模式的平均适应度 f (H, t) ――子代模式的平均适应度； 子代属于模式的个体数； 子代属于模式的个体数 m(H,t) ――子代属于模式的个体数； 模式破坏的概率。 模式破坏的概率 δ ――模式破坏的概率。
具有某个共同特征的个体的集合也是一个包含同一特定子树 的所有树的集合。 的所有树的集合。假设用 T ( g 1, H )表示包含共同特征为g 、 的树，一般情况下这样的树的个数是无限的， 结点数为 H 的树，一般情况下这样的树的个数是无), T 2 ( g , H ), K}
GP（Genetic Programming）算法 （ ）
目录
一 概述 二 GP算法的模式理论 算法的模式理论 三 一般方法步骤 四 GP算法的基本原理 算法的基本原理
一 概述
1989年John R.Koza提出了 （Genetic Programming）算法，该 年 提出了GP（ 提出了 ）算法， 方法属于进化计算（ 方法属于进化计算（Evolutionary Computation，EC）模型的一 ， ） 种，是受自然选择启发的一种强有力的搜索方法，基本思想是演 是受自然选择启发的一种强有力的搜索方法， 化候选的程序种群以解决一个特定的问题。种群中每个个体解决 化候选的程序种群以解决一个特定的问题。 目标问题的能力都通过适应度函数被评估。然后对个体进行复制、 目标问题的能力都通过适应度函数被评估。然后对个体进行复制、 交叉等基因操作。 交叉等基因操作。一旦复制和根据给定概率进行的交叉操作执行 完毕，新生成的个体被重新用适应度函数评估。 完毕，新生成的个体被重新用适应度函数评估。这个过程被重复 进行直至运行到制定的代数或者最优个体被找到。 进行直至运行到制定的代数或者最优个体被找到。
Nf
四 GP算法的基本原理 算法的基本原理 －－个体的描述方法 －－个体的描述方法
问题的表达 遗传规划是用层次结构可变的形式表达问题，在表达中主要用函数 遗传规划是用层次结构可变的形式表达问题，在表达中主要用函数 终止符两类组分 简单地说，终止符表示问题的值， 两类组分。 和终止符两类组分。简单地说，终止符表示问题的值，函数表示对 值的处理。综合在一起，遗传规划的个体表示对各种值(终止符 终止符)的 值的处理。综合在一起，遗传规划的个体表示对各种值 终止符 的 处理过程(函数 函数)。 处理过程(函数)。 在函数集F＝ 在函数集 ＝{f1, f2, …, fn}中，函数 i可以是运算符、函数、说明等， 中 函数f 可以是运算符、函数、说明等， 具体有： 具体有： (1) 算术运算符，如+, -, *, /等。其中除号为防止计算机溢出，规定不允 算术运算符， 等 其中除号为防止计算机溢出， 许用零作分母，称保护性除法(Protected Division)，用％标记。一 标记。 许用零作分母，称保护性除法 ， 旦遇到分母为零时，最简单的处理方法是令其商为1、 旦遇到分母为零时，最简单的处理方法是令其商为 、或是重新选 择算术运算符。 择算术运算符。
二 GP算法的模式理论 算法的模式理论
算法中， 在GP算法中，若作为模式标志的子树很小，或者子树之间的 算法中 若作为模式标志的子树很小， 距离很小，则模式因交换而破坏的可能性也很小。 距离很小，则模式因交换而破坏的可能性也很小。对于按单 一子树定义的模式来说， 一子树定义的模式来说，复制和交换的最终效果相当于从高 适应度的树中分离出结点少的子树作为积木块，以一种近似 适应度的树中分离出结点少的子树作为积木块， 最优的方式来构筑新的个体。一定时间后， 最优的方式来构筑新的个体。一定时间后，搜索空间收缩成 维数不断衰减、适应度不断增加的符号表达式。 维数不断衰减、适应度不断增加的符号表达式。
二 GP算法的模式理论 算法的模式理论
上述论断也适用于包含特定子树多于一个的模式。 上述论断也适用于包含特定子树多于一个的模式。当接近最 优解时，如果存活的模式中不但该模式的子树结点数相当少， 优解时，如果存活的模式中不但该模式的子树结点数相当少， 而且该模式的诸子树的距离也相当小， 而且该模式的诸子树的距离也相当小，那么复制和交换的最 终效果相当于从具有高适应度的树中分离出小而近的子树作 为积木块，并以一种近似最优的方式来构筑新的个体。 为积木块，并以一种近似最优的方式来构筑新的个体。
term
Nf
}
F中每个特定的函数 fi 假定有 z(fi), i = 1, 2, …, Nf 个自变量， 中每个特定的函数 个自变量， 则对函数f 来说，相应有的自变量个数分别为： 则对函数 1，f2，…，fNf 来说，相应有的自变量个数分别为：
z
(f ) (f )
1
,z
2
,L , z
f
四 GP算法的基本原理 算法的基本原理 －－个体的描述方法 －－个体的描述方法
终止符集T＝ 包括各种常数、输入、变量等， 终止符集 ＝{t1, t2, …, tn} 包括各种常数、输入、变量等，具体 有： (1) 常数，如π、180o等， 常数， 、 (2) 变量，如x, y, z等。 变量， 等 (3) 输入，如a, b, c等。 输入， 等 顾名思义，终止符是个体表达的终点。 顾名思义，终止符是个体表达的终点。
一 概述
GP算法提出了一种全新的结构描述方法，其实质是用广义的 算法提出了一种全新的结构描述方法， 算法提出了一种全新的结构描述方法 层次化计算机程序描述问题。 层次化计算机程序描述问题。这种广义的计算机程序能根据 环境状况动态改变其结构和大小， 环境状况动态改变其结构和大小，在工程中具有广泛的代表 性，因为很多工程问题可以归结为对特定的输出的计算机程 序。
式中 N ――具有共同特征 H 的个体数； 具有共同特征 的个体数； f(Ti(gi, H))――个体的适应度。 个体的适应度。 个体的适应度
二 GP算法的模式理论 算法的模式理论
算法中， 在GP算法中，模式因进化而出现的数目增长或衰减取决于模 算法中 式的平均适应度与群体平均适应度的比值。 式的平均适应度与群体平均适应度的比值。即 ：
三 一般方法步骤
遗传规划的工作步骤可归纳如下： 遗传规划的工作步骤可归纳如下： (1)确定个体的表达方式，包括函数集F及终止符集 。 确定个体的表达方式，包括函数集 及终止符集 及终止符集T。 确定个体的表达方式 (2)随机产生初始群体。 随机产生初始群体。 随机产生初始群体 (3)计算各个体的适应度。 计算各个体的适应度。 计算各个体的适应度 (4)根据遗传参数，用下述操作产生新个体： 根据遗传参数，用下述操作产生新个体： 根据遗传参数 1)复制。将已有的优良个体复制，加入新群体中，并相应删除劣质 复制。 复制 将已有的优良个体复制，加入新群体中， 个体 2)交换。将选出的两个个体进行交换，所产生的两个新个体插入新 交换。 交换 将选出的两个个体进行交换， 群体中。 群体中。 3)突变。随机改变个体某一部分，将新个体插入新群体中。 突变。 突变 随机改变个体某一部分，将新个体插入新群体中。 (5)反复执行 及(4)．直至取得满意结果。 反复执行(3)及 ．直至取得满意结果。 反复执行