最优化方法遗传算法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
遗传算法
大连理工大学 金博
达尔文进化理论的主要论点
1) 生物的所有遗传信息都包含在其染色体中，染 色体决定了生物的性状； 2) 染色体是由基因及其有规律的排列所构成的， 遗传和进化过程发生在染色体上； 3) 生物的繁殖过程是由其基因的复制过程来完成 的； 4) 通过同源染色体之间的交叉或染色体的变异会 产生新的物种，使生物呈现新的性状； 5) 对环境适应性好的基因或染色体经常比适应性 差的基因或染色体有更多的机会遗传到下一代。
遗传算法的特点
特点： 通用 鲁棒 次优解、满意解 遗传算法能解决的问题： 优化 NP完全 NP难 高度复杂的非线性问题
遗传算法与传统优化算法的主要不同
1) 遗传算法不是直接作用在参变量集上, 而是 利用参变量集的某种编码;
2) 遗传算法不是从单个点, 而是在群体中从一 个点开始搜索; 3) 遗传算法利用适应值信息, 无需导数或其它 辅助信息; 4) 遗传算法利用概率转移规则, 而非确定性规 则。
动轨迹规划、机器人结构优化和行为协调等方面得到研究和应用 。 （6）图像处理 遗传算法可用于图像处理过程中的扫描、特征提取、图像分 割等的优化计算。目前遗传算法已经在模式识别、图像恢复、图 像边缘特征提取等方面得到了应用。
Leabharlann Baidu
（7）人工生命 人工生命是用计算机、机械等人工媒体模拟或构造出的具有生物系统
特有行为的人造系统。人工生命与遗传算法有着密切的联系，基于遗传
算法的进化模型是研究人工生命现象的重要基础理论。遗传算法为人工 生命的研究提供了一个有效的工具。
（8）遗传编程
遗传算法已成功地应用于人工智能、机器学习等领域的编程。
（9）机器学习
基于遗传算法的机器学习在很多领域都得到了应用。例如，采用遗
传算法实现模糊控制规则的优化，可以改进模糊系统的性能；遗传算 法可用于神经网络连接权的调整和结构的优化；采用遗传算法设计的
分类器系统可用于学习式多机器人路径规划。
的机器学习的新概念。
（2）J.D.Bagley
1967年，Holland的学生Bagley在其博士论文中首次提
出了“遗传算法”一词，并发表了遗传算法应用方面的第一 篇论文。他发展了复制、交叉、变异、显性、倒位等遗传算 子，在个体编码上使用了双倍体的编码方法。在遗传算法的 不同阶段采用了不同的概率，从而创立了自适应遗传算法的
（4）自动控制。
在自动控制领域中有很多与优化相关的问题需要求解，遗传
算法已经在其中得到了初步的应用。例如，利用遗传算法进行 控制器参数的优化、基于遗传算法的模糊控制规则的学习、基 于遗传算法的参数辨识、基于遗传算法的神经网络结构的优化 和权值学习等。
（5）机器人
例如，遗传算法已经在移动机器人路径规划、关节机器人运
（1）J.H.Holland 20世纪70年代初，Holland教授提出了遗传算法的基本 定理—模式定理，从而奠定了遗传算法的理论基础。模式定 理揭示了群体中优良个体（较好的模式）的样本数将以指数
级规律增长，从理论上保证了遗传算法用于寻求最优可行解
的优化过程。1975年，Holland出版了第一本系统论述遗传 算法和人工自适应系统的专著《自然系统和人工系统的自适 应性》。20世纪80年代，Holland教授实现了第一个基于遗 传算法的机器学习系统—分类器系统，开创了基于遗传算法
。
（1）函数优化。 函数优化是遗传算法的经典应用领域，也是遗传算法进行性 能评价的常用算例。尤其是对非线性、多模型、多目标的函数优 化问题，采用其他优化方法较难求解，而遗传算法却可以得到较 好的结果。 （2）组合优化。 随着问题的增大，组合优化问题的搜索空间也急剧扩大，采 用传统的优化方法很难得到最优解。遗传算法是寻求这种满意解 的最佳工具。例如，遗传算法已经在求解旅行商问题、背包问题
概念。
（3）K.A.De Jong
1975年，De Jong博士在其博士论文中结合模式定理
进行了大量纯数值函数优化计算实验，树立了遗传算法的 工作框架。他推荐了在大多数优化问题中都较适用的遗传 算法的参数，建立了著名的De Jong五函数测试平台，定 义了评价遗传算法性能的在线指标和离线指标。 （4）D.J.Goldberg 1989年，Goldberg出版了专著《搜索、优化和机器 学习中的遗传算法》，该书全面地论述了遗传算法的基本 原理及其应用，奠定了现代遗传算法的科学基础。
遗传算法
遗传算法思想来源于生物进化过程, 它 是基于进化过程中的信息遗传机制和优胜 劣汰的自然选择原则的优化算法。遗传算 法用概率搜索过程在状态空间中搜索，产 生新的样本。
遗传算法与自然进化的比较
自然界 染色体 基因 等位基因(allele) 染色体位置(locus) 基因型(genotype) 表型(phenotype) 遗传算法 字符串 字符,特征 特征值 字符串位置 结构 参数集,译码结构
、装箱问题、图形划分问题等方面得到成功的应用。
（3）生产调度问题 在很多情况下，采用建立数学模型的方法难以对生产调度问
题进行精确求解。在现实生产中多采用一些经验进行调度。遗
传算法是解决复杂调度问题的有效工具，在单件生产车间调度 、流水线生产车间调度、生产规划、任务分配等方面遗传算法
都得到了有效的应用。
（5）L.Davis
1991年，Davis编辑出版了《遗传算法手册》一书，为
推广和普及遗传算法的应用起到了重要的指导作用。 （6）J.R.Koza 1992年，Koza将遗传算法应用于计算机程序的优化设 计及自动生成，提出了遗传编程的概念，并成功地将遗传
编程的方法应用于人工智能、机器学习和符号处理等方面
遗传算法的发展
遗传算法起源于对生物系统所进行的计算机模拟 研究。早在20世纪40年代，就有学者开始研究如何利 用计算机进行生物模拟的技术，他们从生物学的角度
进行了生物的进化过程模拟、遗传过程模拟等研究工
作。进入20世纪60年代，美国密执安大学的Holland 教授及其学生们受到这种生物模拟技术的启发，创造 出一种基于生物遗传和进化机制的适合于复杂系统优 化计算的自适应概率优化技术—遗传算法。
大连理工大学 金博
达尔文进化理论的主要论点
1) 生物的所有遗传信息都包含在其染色体中，染 色体决定了生物的性状； 2) 染色体是由基因及其有规律的排列所构成的， 遗传和进化过程发生在染色体上； 3) 生物的繁殖过程是由其基因的复制过程来完成 的； 4) 通过同源染色体之间的交叉或染色体的变异会 产生新的物种，使生物呈现新的性状； 5) 对环境适应性好的基因或染色体经常比适应性 差的基因或染色体有更多的机会遗传到下一代。
遗传算法的特点
特点： 通用 鲁棒 次优解、满意解 遗传算法能解决的问题： 优化 NP完全 NP难 高度复杂的非线性问题
遗传算法与传统优化算法的主要不同
1) 遗传算法不是直接作用在参变量集上, 而是 利用参变量集的某种编码;
2) 遗传算法不是从单个点, 而是在群体中从一 个点开始搜索; 3) 遗传算法利用适应值信息, 无需导数或其它 辅助信息; 4) 遗传算法利用概率转移规则, 而非确定性规 则。
动轨迹规划、机器人结构优化和行为协调等方面得到研究和应用 。 （6）图像处理 遗传算法可用于图像处理过程中的扫描、特征提取、图像分 割等的优化计算。目前遗传算法已经在模式识别、图像恢复、图 像边缘特征提取等方面得到了应用。
Leabharlann Baidu
（7）人工生命 人工生命是用计算机、机械等人工媒体模拟或构造出的具有生物系统
特有行为的人造系统。人工生命与遗传算法有着密切的联系，基于遗传
算法的进化模型是研究人工生命现象的重要基础理论。遗传算法为人工 生命的研究提供了一个有效的工具。
（8）遗传编程
遗传算法已成功地应用于人工智能、机器学习等领域的编程。
（9）机器学习
基于遗传算法的机器学习在很多领域都得到了应用。例如，采用遗
传算法实现模糊控制规则的优化，可以改进模糊系统的性能；遗传算 法可用于神经网络连接权的调整和结构的优化；采用遗传算法设计的
分类器系统可用于学习式多机器人路径规划。
的机器学习的新概念。
（2）J.D.Bagley
1967年，Holland的学生Bagley在其博士论文中首次提
出了“遗传算法”一词，并发表了遗传算法应用方面的第一 篇论文。他发展了复制、交叉、变异、显性、倒位等遗传算 子，在个体编码上使用了双倍体的编码方法。在遗传算法的 不同阶段采用了不同的概率，从而创立了自适应遗传算法的
（4）自动控制。
在自动控制领域中有很多与优化相关的问题需要求解，遗传
算法已经在其中得到了初步的应用。例如，利用遗传算法进行 控制器参数的优化、基于遗传算法的模糊控制规则的学习、基 于遗传算法的参数辨识、基于遗传算法的神经网络结构的优化 和权值学习等。
（5）机器人
例如，遗传算法已经在移动机器人路径规划、关节机器人运
（1）J.H.Holland 20世纪70年代初，Holland教授提出了遗传算法的基本 定理—模式定理，从而奠定了遗传算法的理论基础。模式定 理揭示了群体中优良个体（较好的模式）的样本数将以指数
级规律增长，从理论上保证了遗传算法用于寻求最优可行解
的优化过程。1975年，Holland出版了第一本系统论述遗传 算法和人工自适应系统的专著《自然系统和人工系统的自适 应性》。20世纪80年代，Holland教授实现了第一个基于遗 传算法的机器学习系统—分类器系统，开创了基于遗传算法
。
（1）函数优化。 函数优化是遗传算法的经典应用领域，也是遗传算法进行性 能评价的常用算例。尤其是对非线性、多模型、多目标的函数优 化问题，采用其他优化方法较难求解，而遗传算法却可以得到较 好的结果。 （2）组合优化。 随着问题的增大，组合优化问题的搜索空间也急剧扩大，采 用传统的优化方法很难得到最优解。遗传算法是寻求这种满意解 的最佳工具。例如，遗传算法已经在求解旅行商问题、背包问题
概念。
（3）K.A.De Jong
1975年，De Jong博士在其博士论文中结合模式定理
进行了大量纯数值函数优化计算实验，树立了遗传算法的 工作框架。他推荐了在大多数优化问题中都较适用的遗传 算法的参数，建立了著名的De Jong五函数测试平台，定 义了评价遗传算法性能的在线指标和离线指标。 （4）D.J.Goldberg 1989年，Goldberg出版了专著《搜索、优化和机器 学习中的遗传算法》，该书全面地论述了遗传算法的基本 原理及其应用，奠定了现代遗传算法的科学基础。
遗传算法
遗传算法思想来源于生物进化过程, 它 是基于进化过程中的信息遗传机制和优胜 劣汰的自然选择原则的优化算法。遗传算 法用概率搜索过程在状态空间中搜索，产 生新的样本。
遗传算法与自然进化的比较
自然界 染色体 基因 等位基因(allele) 染色体位置(locus) 基因型(genotype) 表型(phenotype) 遗传算法 字符串 字符,特征 特征值 字符串位置 结构 参数集,译码结构
、装箱问题、图形划分问题等方面得到成功的应用。
（3）生产调度问题 在很多情况下，采用建立数学模型的方法难以对生产调度问
题进行精确求解。在现实生产中多采用一些经验进行调度。遗
传算法是解决复杂调度问题的有效工具，在单件生产车间调度 、流水线生产车间调度、生产规划、任务分配等方面遗传算法
都得到了有效的应用。
（5）L.Davis
1991年，Davis编辑出版了《遗传算法手册》一书，为
推广和普及遗传算法的应用起到了重要的指导作用。 （6）J.R.Koza 1992年，Koza将遗传算法应用于计算机程序的优化设 计及自动生成，提出了遗传编程的概念，并成功地将遗传
编程的方法应用于人工智能、机器学习和符号处理等方面
遗传算法的发展
遗传算法起源于对生物系统所进行的计算机模拟 研究。早在20世纪40年代，就有学者开始研究如何利 用计算机进行生物模拟的技术，他们从生物学的角度
进行了生物的进化过程模拟、遗传过程模拟等研究工
作。进入20世纪60年代，美国密执安大学的Holland 教授及其学生们受到这种生物模拟技术的启发，创造 出一种基于生物遗传和进化机制的适合于复杂系统优 化计算的自适应概率优化技术—遗传算法。