GA3-遗传算法展望
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
• 50年代后期，一些生物学家着手采用电子计算机模拟生物的遗传系统，尽管这 些工作纯粹是研究生物现象，但其中已使用现代遗传算法的一些标识方式。
• 1965年，德国的L.Rechenberg等人正式提出进化策略的方法，当时的进化策略只
有一个个体，而且进化操作也只有变异一种。 • 1965年，美国的L.j.Fogel正式提出进化规划，在计算中采用多个个体组成的群 体，而且只运用变异操作。 • 60年代期间，美国J.H.Holland在研究自适应系统时，提出系统本身与外部环境 相互协调的遗传算法。1968年，J.H.Holland教授又提出模式理论，它成为遗传 算法的主要理论基础。 • 1967年，Bagley发表了关于遗传算法应用的论文，在其论文中首次使用“遗传算 法（ Genetic Algorithm）”一词。
件生产车间调度、流水线生产车间调度、生产规划、任务分
配等方面遗传算法都得到了有效的应用。
(4) 自动控制 在自动控制领域中很多与优化相关的问题需要求解，遗 传算法已在其中得到了初步的应用，并显示出了良好的效果。 例如用遗传算法进行航空控制系统的优化、使用遗传算 法设计空间交会控制器、基于遗传算法的模糊控制器的优化
• 90年代期间，有关遗传算法的国际会议也比较活跃，见下表。
• 我国开展遗传算法研究，主要在90年代。目前，已成为继专家系统、人工神 经网络之后有关人工智能方面的第三个热点课题。
遗传算法的应用 遗传算法提供了一种求解复杂系统优化间题的通用框架， 它不依赖于问题的具 体领域，对问题的种类有很强的鲁棒性，所以广泛应用于很 多学科。下面是遗传 算法的一些主要应用领域： (1) 函数优化 函数优化是遗传算法的经典应用领域，也是对遗传算法 进行性能评价的常用算例。 对于一些非线性、多模型、多目标的函数优化问题，用 其他优化方法较难求解，用遗传算法可以方便地得到较好的 结果。
全问题非常有效。
例如，遗传算法已经在求解旅行商问题、背包问题、装 箱问题、图形划分问题等方面得到成功的应用。
(3) 生产调度问题 生产调度问题在很多情况下所建立起来的数学模型难以精 确求解，即使经过一些简化之后可以进行求解，也会因简化 得太多而使得求解结果与实际相差甚远。而目前在现实生产 中也主要是靠一些经验来进行调度。 现在遗传算法已成为解决复杂调度问题的有效工具，在单
(6) 图像处理 图像处理是计算机视觉中的一个重要研究领域。在图像 处理过程中，如扫描、 特征提取、图像分割等不可避免地会 存在一些误差，这些误差会影响图像处理的效果。如何使这 些误差最小是使计算机视觉达到实用化的重要要求。 遗传算法在这些图像处理中的优化计算方面找到了用武 之地，日前已在模式识别、图像恢复、图像边缘特征提取等 方面得到了应用。
过程发生在染色体上；
(3) 生物的繁殖过程是由其基因的复制过程来完成的； (4) 通过同源染色体之间的交叉或染色体的变异会产生新的物 种，使生物呈现新的 性状。 (5) 对环境适应性好的基因或染色体经常比适应性差的基因或 染色体有更多的机会遗传到下一代。
生物的遗传方式：
1. 复制
生物的主耍遗传方式是复制。遗传过程中，父代的遗传物质DNA被复制到子 代。即细胞在分裂时，遗传物质DNA通过复制(Reproduction)而转移到新生的细 胞中，新细胞就继承了旧细胞的基因。 2. 交叉 有性生殖生物在繁殖下一代时，两个同源染色体之间通过交叉(Crossover)而重 组，亦即在两个染色体的某一相同位置处DNA被切断，其前后两串分别交义组合 而形成两个新的染色体。 3. 变异 在进行细胞复制时，虽然概率很小，仅仅有可能产生某些复制差错，从而使 DNA发生某种变异(Mutation)，产生出新的染色体。这些新的染色体表现出新的 性状。 如此这般，遗传基因或染色体在遗传的过程中由于各种各样的原因而发生变化。
(8) 遗传编程 Koza发展了遗传编程的概念，他使用了以LISP语言所表 示的编码方法，基于 对一种树型结构所进行的遗传操作来自动生成计算机程序。 虽然遗传编程的理论尚未成熟，应用也有一些限制，但它已 成功地应用于人工智能、机器学习等领域。
(9) 机器学习 学习能力是高级自适应系统所应具备的能力之一。基于 遗传算法的机器学习， 特别是分类器系统，在很多领域中都得到了应用。例如， 遗传算法被用于学习 模糊控制规则，利用遗传算法来学习隶属度函数，从而更 好地改进了模糊系统 的性能；基于遗传算法的机器学习可用来调整人工神经网 络的连接权，也可用 于人工神经网络的网络结构优化设计；分类器系统也在学 习式多机器人路径规 划系统中得到了成功的应用。
设计、基于遗传算法的参数辨识、基于遗传算法的模糊控制
规则的学习、利用遗传算法进行人工神经网络的结构优化设 计和权值学习等，都显示出了遗传算法在这些领域中应用的
可能性。
(5) 机器人学 机器人是一类复杂的难以精确建模的人工系统，而遗传 算法的起源就来自于对人工自适应系统的研究，所以机器人 学理所当然地成为遗传算法的一个重要应用领域。 例如，遗传算法已经在移动机器人路径规划、关节机器人 运动轨迹规划、机器人逆运动学求解、细胞机器人的结构优 化和行为协调等方面得到研究和应用。
(7) 人工生命 人工生命是用计算机、机械等人工媒体模拟或构造出的 具有自然生物系统特有行为的人造系统。自组织能力和自学 习能力是人工生命的两大主要特征。人工生命与遗传算法有 着密切的关系，基于遗传算法的进化模型是研究人工生命现 象的重要基础理论。 虽然人工生命的研究尚处于启蒙阶段．但遗传算法已在 其进化模型、学习模 型、行为模型、自组织模型等方面显示 出了初步的应用能力，并且必将得到更为 深入的应用和发展。 人工生命与遗传算法相辅相成，遗传算法为人工生命的研究 提供了一个有效的工具，人工生命的研究也必将促进遗传算 法的进一步发展。
1.2.2 遗传策法的运算过程
选择(复制)： 根据各个个体的适应度，按照一 定的规则或方法，从第t代群体P(t) 中选择出一些优良的个体遗传到下 一代群体P(t+1)中； 交叉： 将群体P(t)内的各个个体随机搭配 成对，对每一对个体，以某个概率 (称为交叉概率）交换它们之间的 部分染色体； 变异： 对群体P(t)中的每一个个体，以 某一概率(称为变异概率)改变某 一个或某一些基因座上的基因值 为其他基因值。
遗传与进化的系统观 虽然人们还未完全揭开遗传与进化的奥秘，即没有完全掌 握其机制、也不完全 清楚染色体编码和译码过程的细节， 更不完全了解其控制方式，但遗传与进化的以下几个特点却 为人们所共识：
(1) 生物的所有遗传信息都包含在其染色体中，染色体决定了 生物的性状；
(2) 染色体是由基因及其有规律的排列所构成的，遗传和进化
实际问题参数集 编码 群体t 计算适值 运算：复制 交叉 变异
群体t+1群体t
群体t+1
N
满足要求？ Y
解码
改善或解决实际问题
1.3 遗传算法的发展
进化算法与其他科学技术一样，都经历一段成长过程，逐渐发展壮大。此过程可 大致分为三个时期：萌芽期、成长期和发展期。
(1) 萌芽期 (50年代后期至70年Fra Baidu bibliotek初期)
(3) 发展期(90年代以后)
90年代，遗传算法不断地向广度和深度发展。 • 1991年，D.Lawrence出版《遗传算法手册(Handbook of Genetic Algorithms )一书， 详尽地介绍遗传算法的工作细节。 • 1996年 Z.Michalewicz的专著《遗传算法 + 数据结构 = 进化程序》深入讨论了遗 传算法的各种专门问题。 同年，T.Back的专著《进化算法的理论与实践：进化策略、进化规划、遗传算法》 深入阐明进化算法的许多理论问题。 • 1992年，Koza出版专著《遗传规划——应用自然选择法则的计算机程序设计 (Genetic Programming:on the Programming of Computer by Means of Natural Selection)》，该书全面介绍了遗传规划的原理及应用实例，标明遗传规划己成
1.4 遗传算法的应用 (2) 组合优化 随着问题规模的增大，组合优化问题的搜索空间也急剧 扩大，有时在目前的计算机上用枚举法很难或甚至不可能求 出其精确最优解。对这类复杂问题，人们己意识到应把主要 精力放在寻求其满意解上，而遗传算法是寻求这种满意解的 最佳工具之一。实践证明，遗传算法对于组合优化中的NP完
为进化算法的一个重要分支。Koza本人也被视作遗传规划的奠基人。
• 1994年，Koza又出版第二部专著《遗传规划Ⅱ：可再用程序的自动发现(Genetic Programming Ⅱ:Automatic Discovery of Reusable Programs)》，提出自动定义 函数的新概念，在遗传规划中引入子程序的新技术。 同年，K.E.Kinnear主编《遗传规划进展(Advances in Genetic Programming)》， 汇集许多研究工作者有关应用遗传规划的经验和技术。
(2) 成长期 (70年代中期至80年代末期)
• 1975年，J.H.Holland教授的专著《自然界和人工系统的适应性(Adaptation in Natural and Artificial System)》正式出版，全面地介绍了遗传算法，人们常常 把这一事件视作遗传算法问世的标志， Holland也被视作遗传算法的创始人。 • 1975年，De.Jong在其博士论文中结合模式定理进行了大量的纯数值函数优化计 算实验，树立了遗传算法的工作框架，得到了一些重要且具有指导意义的结论。 • 1987年，美国D.Lawrence总结人们长期从事遗传算法的经验，公开出版《遗传 算法和模拟退火(Genetic Algorithm and Simulated Annealing)》一书，以论文 集形式用大量实例介绍遗传算法。 • 1985年，作为Holland的学生，D.E.Goldberg博士出版专著《遗传算法——搜索、 优化及机器学习(Genetic Algorithms——in Search，Optimization and Machine Learning)》，全面、系统地介绍遗传算法，使这一技术得到普及与推广。该书 被人们视为遗传算法的教科书。 • 1985年，在美国举行第一届遗传算法国际学术会议(International Conference on Genetic Algorithms，简称ICGA），与会者交流运用遗传算法的经验。随后， 1987，1989，1991，1993，l 995及l 997年，每2年左右都举行一次这种会议。
• 1965年，德国的L.Rechenberg等人正式提出进化策略的方法，当时的进化策略只
有一个个体，而且进化操作也只有变异一种。 • 1965年，美国的L.j.Fogel正式提出进化规划，在计算中采用多个个体组成的群 体，而且只运用变异操作。 • 60年代期间，美国J.H.Holland在研究自适应系统时，提出系统本身与外部环境 相互协调的遗传算法。1968年，J.H.Holland教授又提出模式理论，它成为遗传 算法的主要理论基础。 • 1967年，Bagley发表了关于遗传算法应用的论文，在其论文中首次使用“遗传算 法（ Genetic Algorithm）”一词。
件生产车间调度、流水线生产车间调度、生产规划、任务分
配等方面遗传算法都得到了有效的应用。
(4) 自动控制 在自动控制领域中很多与优化相关的问题需要求解，遗 传算法已在其中得到了初步的应用，并显示出了良好的效果。 例如用遗传算法进行航空控制系统的优化、使用遗传算 法设计空间交会控制器、基于遗传算法的模糊控制器的优化
• 90年代期间，有关遗传算法的国际会议也比较活跃，见下表。
• 我国开展遗传算法研究，主要在90年代。目前，已成为继专家系统、人工神 经网络之后有关人工智能方面的第三个热点课题。
遗传算法的应用 遗传算法提供了一种求解复杂系统优化间题的通用框架， 它不依赖于问题的具 体领域，对问题的种类有很强的鲁棒性，所以广泛应用于很 多学科。下面是遗传 算法的一些主要应用领域： (1) 函数优化 函数优化是遗传算法的经典应用领域，也是对遗传算法 进行性能评价的常用算例。 对于一些非线性、多模型、多目标的函数优化问题，用 其他优化方法较难求解，用遗传算法可以方便地得到较好的 结果。
全问题非常有效。
例如，遗传算法已经在求解旅行商问题、背包问题、装 箱问题、图形划分问题等方面得到成功的应用。
(3) 生产调度问题 生产调度问题在很多情况下所建立起来的数学模型难以精 确求解，即使经过一些简化之后可以进行求解，也会因简化 得太多而使得求解结果与实际相差甚远。而目前在现实生产 中也主要是靠一些经验来进行调度。 现在遗传算法已成为解决复杂调度问题的有效工具，在单
(6) 图像处理 图像处理是计算机视觉中的一个重要研究领域。在图像 处理过程中，如扫描、 特征提取、图像分割等不可避免地会 存在一些误差，这些误差会影响图像处理的效果。如何使这 些误差最小是使计算机视觉达到实用化的重要要求。 遗传算法在这些图像处理中的优化计算方面找到了用武 之地，日前已在模式识别、图像恢复、图像边缘特征提取等 方面得到了应用。
过程发生在染色体上；
(3) 生物的繁殖过程是由其基因的复制过程来完成的； (4) 通过同源染色体之间的交叉或染色体的变异会产生新的物 种，使生物呈现新的 性状。 (5) 对环境适应性好的基因或染色体经常比适应性差的基因或 染色体有更多的机会遗传到下一代。
生物的遗传方式：
1. 复制
生物的主耍遗传方式是复制。遗传过程中，父代的遗传物质DNA被复制到子 代。即细胞在分裂时，遗传物质DNA通过复制(Reproduction)而转移到新生的细 胞中，新细胞就继承了旧细胞的基因。 2. 交叉 有性生殖生物在繁殖下一代时，两个同源染色体之间通过交叉(Crossover)而重 组，亦即在两个染色体的某一相同位置处DNA被切断，其前后两串分别交义组合 而形成两个新的染色体。 3. 变异 在进行细胞复制时，虽然概率很小，仅仅有可能产生某些复制差错，从而使 DNA发生某种变异(Mutation)，产生出新的染色体。这些新的染色体表现出新的 性状。 如此这般，遗传基因或染色体在遗传的过程中由于各种各样的原因而发生变化。
(8) 遗传编程 Koza发展了遗传编程的概念，他使用了以LISP语言所表 示的编码方法，基于 对一种树型结构所进行的遗传操作来自动生成计算机程序。 虽然遗传编程的理论尚未成熟，应用也有一些限制，但它已 成功地应用于人工智能、机器学习等领域。
(9) 机器学习 学习能力是高级自适应系统所应具备的能力之一。基于 遗传算法的机器学习， 特别是分类器系统，在很多领域中都得到了应用。例如， 遗传算法被用于学习 模糊控制规则，利用遗传算法来学习隶属度函数，从而更 好地改进了模糊系统 的性能；基于遗传算法的机器学习可用来调整人工神经网 络的连接权，也可用 于人工神经网络的网络结构优化设计；分类器系统也在学 习式多机器人路径规 划系统中得到了成功的应用。
设计、基于遗传算法的参数辨识、基于遗传算法的模糊控制
规则的学习、利用遗传算法进行人工神经网络的结构优化设 计和权值学习等，都显示出了遗传算法在这些领域中应用的
可能性。
(5) 机器人学 机器人是一类复杂的难以精确建模的人工系统，而遗传 算法的起源就来自于对人工自适应系统的研究，所以机器人 学理所当然地成为遗传算法的一个重要应用领域。 例如，遗传算法已经在移动机器人路径规划、关节机器人 运动轨迹规划、机器人逆运动学求解、细胞机器人的结构优 化和行为协调等方面得到研究和应用。
(7) 人工生命 人工生命是用计算机、机械等人工媒体模拟或构造出的 具有自然生物系统特有行为的人造系统。自组织能力和自学 习能力是人工生命的两大主要特征。人工生命与遗传算法有 着密切的关系，基于遗传算法的进化模型是研究人工生命现 象的重要基础理论。 虽然人工生命的研究尚处于启蒙阶段．但遗传算法已在 其进化模型、学习模 型、行为模型、自组织模型等方面显示 出了初步的应用能力，并且必将得到更为 深入的应用和发展。 人工生命与遗传算法相辅相成，遗传算法为人工生命的研究 提供了一个有效的工具，人工生命的研究也必将促进遗传算 法的进一步发展。
1.2.2 遗传策法的运算过程
选择(复制)： 根据各个个体的适应度，按照一 定的规则或方法，从第t代群体P(t) 中选择出一些优良的个体遗传到下 一代群体P(t+1)中； 交叉： 将群体P(t)内的各个个体随机搭配 成对，对每一对个体，以某个概率 (称为交叉概率）交换它们之间的 部分染色体； 变异： 对群体P(t)中的每一个个体，以 某一概率(称为变异概率)改变某 一个或某一些基因座上的基因值 为其他基因值。
遗传与进化的系统观 虽然人们还未完全揭开遗传与进化的奥秘，即没有完全掌 握其机制、也不完全 清楚染色体编码和译码过程的细节， 更不完全了解其控制方式，但遗传与进化的以下几个特点却 为人们所共识：
(1) 生物的所有遗传信息都包含在其染色体中，染色体决定了 生物的性状；
(2) 染色体是由基因及其有规律的排列所构成的，遗传和进化
实际问题参数集 编码 群体t 计算适值 运算：复制 交叉 变异
群体t+1群体t
群体t+1
N
满足要求？ Y
解码
改善或解决实际问题
1.3 遗传算法的发展
进化算法与其他科学技术一样，都经历一段成长过程，逐渐发展壮大。此过程可 大致分为三个时期：萌芽期、成长期和发展期。
(1) 萌芽期 (50年代后期至70年Fra Baidu bibliotek初期)
(3) 发展期(90年代以后)
90年代，遗传算法不断地向广度和深度发展。 • 1991年，D.Lawrence出版《遗传算法手册(Handbook of Genetic Algorithms )一书， 详尽地介绍遗传算法的工作细节。 • 1996年 Z.Michalewicz的专著《遗传算法 + 数据结构 = 进化程序》深入讨论了遗 传算法的各种专门问题。 同年，T.Back的专著《进化算法的理论与实践：进化策略、进化规划、遗传算法》 深入阐明进化算法的许多理论问题。 • 1992年，Koza出版专著《遗传规划——应用自然选择法则的计算机程序设计 (Genetic Programming:on the Programming of Computer by Means of Natural Selection)》，该书全面介绍了遗传规划的原理及应用实例，标明遗传规划己成
1.4 遗传算法的应用 (2) 组合优化 随着问题规模的增大，组合优化问题的搜索空间也急剧 扩大，有时在目前的计算机上用枚举法很难或甚至不可能求 出其精确最优解。对这类复杂问题，人们己意识到应把主要 精力放在寻求其满意解上，而遗传算法是寻求这种满意解的 最佳工具之一。实践证明，遗传算法对于组合优化中的NP完
为进化算法的一个重要分支。Koza本人也被视作遗传规划的奠基人。
• 1994年，Koza又出版第二部专著《遗传规划Ⅱ：可再用程序的自动发现(Genetic Programming Ⅱ:Automatic Discovery of Reusable Programs)》，提出自动定义 函数的新概念，在遗传规划中引入子程序的新技术。 同年，K.E.Kinnear主编《遗传规划进展(Advances in Genetic Programming)》， 汇集许多研究工作者有关应用遗传规划的经验和技术。
(2) 成长期 (70年代中期至80年代末期)
• 1975年，J.H.Holland教授的专著《自然界和人工系统的适应性(Adaptation in Natural and Artificial System)》正式出版，全面地介绍了遗传算法，人们常常 把这一事件视作遗传算法问世的标志， Holland也被视作遗传算法的创始人。 • 1975年，De.Jong在其博士论文中结合模式定理进行了大量的纯数值函数优化计 算实验，树立了遗传算法的工作框架，得到了一些重要且具有指导意义的结论。 • 1987年，美国D.Lawrence总结人们长期从事遗传算法的经验，公开出版《遗传 算法和模拟退火(Genetic Algorithm and Simulated Annealing)》一书，以论文 集形式用大量实例介绍遗传算法。 • 1985年，作为Holland的学生，D.E.Goldberg博士出版专著《遗传算法——搜索、 优化及机器学习(Genetic Algorithms——in Search，Optimization and Machine Learning)》，全面、系统地介绍遗传算法，使这一技术得到普及与推广。该书 被人们视为遗传算法的教科书。 • 1985年，在美国举行第一届遗传算法国际学术会议(International Conference on Genetic Algorithms，简称ICGA），与会者交流运用遗传算法的经验。随后， 1987，1989，1991，1993，l 995及l 997年，每2年左右都举行一次这种会议。