计算智能
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
NP类问题：非确定性多项式问题(Non-deterministic Polynomial)
。有些问题，其答案是无法直接计算得到的，只能通过间接的猜算或试算来 得到结果，这就是非确定性问题(Non-deterministic)。虽然在多项式时间 内难于求解但不难判断给定一个解的正确性的问题，即：在多项式时间内可 以由一个算法验证一个解是否正确的非确定性问题，就是NP类问题。
20！= 1.216×1017 203 = 8000
O(1), O(log n), O(n), O(n log n), O(nb)
O(bn), O(n!)
1 可求解与难求解问题
P类问题，NP类问题，NPC类问 题P类问题： 多项式问题(Polynomial Problem)，指计算机可以在有限
时间内求解的问题，即：P类问题是可以找出一个呈现O(na)复杂性算法的 问题，其中a为常数。
进化算法，遗传解算法，蚁群算法，蜂群算法, …
应该是O(na)
2 遗传算法
生物群体的生存过程普遍遵循达尔文的物竞天择、适者生
存的进化准则；生物通过个体间的选择、交叉、变异来适应大
自然环境。
个体A的 染色体
染色体A的 基因片段
两个个体
新个体的
基
染色体
因
新 个 体
重
组
种 群
新 一 代 种 群
个体B的 染色体
2 遗传算法
对于TSP问题，可以按一条回路中城市的次序进行编码。
从城市w1开始，依次经过城市w2 ，……，wn，最后回到城市 w1，我们就有如下编码表示：
w1 w2 …… wn 由于是回路，记wn+1=w1。它其实是1，……，n的一个循 环排列。要注意w1，w2，……，wn是互不相同的。
2 遗传算法
2 遗传算法
遗传算法提出：于20世纪60年代由密歇根(Michigan)大学 Hollstien, Bagleyh和Rosenberg等人在其博士论文中首先加 以研究；1975年，美国J.H.Holland教授在其著作 “Adaptation in Natural and Artificial Systems”中系统 地阐述了遗传算法，给出了遗传算法的基本定理和大量的数学 理论证明。
(3) 遗传算法利用目标函数的适应度这一信息而非利用导数或 其它辅助信息来指导搜索；
(4) 遗传算法利用选择、交叉、变异等算子而不是利用确定性 规则进行随机操作。
2 遗传算法
2.1 遗传算法的基本原理
霍兰德提出的遗传算法通常称为简单遗传算法（SGA）。
编码与解码
许多应用问题的结构很复杂，但可以化为简单的位串形 式编码表示。将问题结构变换为位串形式编码表示的过程叫编 码；而相反将位串形式编码表示变换为原问题结构的过程叫解 码或译码。把位串形式编码表示叫染色体，有时也叫个体。
NPC问题：完全非确定性多项式问题(NP-Complete)。如果NP问题的
所有可能答案都可以在多项式时间内进行正确与否的验算的话就叫做完全非 确定性多项式问题，即NP-Complete问题。
1 可求解与难求解问题
旅行商问题
对于销售员旅行问题（Travelling Salesman Problem, TSP ），设有n个城市，城市I 和城市j之间的距离 为d(i,j)，要求找到 一条遍访每个城市一 次而且恰好一次的 旅行线路，使其路径 总长度为最短。
计算智能
• 可求解与难求解问题 • 遗传算法 • 群智能算法
1 可求解与难求解问题
现实世界中的问题分类
计算机在有限时间内能够求解的(可求解问题) 计算机在有限时间内不能求解的(难求解问题) 计算机完全不能求解的(不可计算问题)
问题的计算复杂性
计算复杂性是指问题的一种特性，即利用计算机求解问题的 难易性或难易程度，其衡量标准： 计算所需的步数或指令条数(即时间复杂度) 计算所需的存储空间大小(即空间复杂度) ----通常表达为关于问题规模n的一个函数 O(f(n))
染色体B的 基因片段
染 色 体 与 基 因
繁衍后的种群
个体对环境的适 应性:优胜劣汰
2 遗传算法
生物染色体用数学方式或计算机方式来体现就是一串数码 ，仍叫染色体，有时也叫个体；适应能Baidu Nhomakorabea用对应一个染色体的 数值来衡量；染色体的选择或淘汰问题是按求最大还是最小问 题来进行。
遗传算法（Genetic AlgorichmsGA）是模仿生物遗传学 和自然选择机理，通过人工方式构造的一类优化搜索算法，是 对生物进化过程进行的一种数学仿真，是进化计算的一种最重 要形式。
1 可求解与难求解问题
NPC类问题求解
TSP问题的 遍历算法
穷举法或称遍历法：对解空间中的 每一个可能解进行验证，直到所有 的解都被验证是否正确，便能得到 精确的结果---精确解
可能是O(n!) 或O(an)
TSP问题的
近似解求解算法---近似解
贪心算法 仿生学算法
∆ = | 近似解 – 精确解 | 满意解： ∆充分小时的近似
遗传算法发展：David E. Goldberg教授1989年出版了 “Genetic Algorichms”一书，这一著作通常被认为是遗传 算法的方法、理论及应用的全面系统的总结。从1985年起，国 际上开始陆续举行遗传算法的国际会议，后来又更名为进化计 算。参加进化计算国际会议的人数及收录文章的数量、广度和 深度逐年扩大。从此，进化计算逐渐成为人们用来解决高度复 杂问题的新思路和新方法。
2 遗传算法
遗传算法特点：遗传算法是一种基于空间搜索的算法，它通过自 然选择、遗传、变异等操作以及达尔文适者生存的理论，模拟自然 进化过程来寻找所求问题的解答。遗传算法具有以下特点：
(1) 遗传算法是对参数集合的编码而非针对参数本身进行进化 ；
(2) 遗传算法是从问题解的编码组开始而非从单个解开始搜索 ；
1 可求解与难求解问题
O(n3)与O(3n)的差别
差别 O(n3)
O(3n)
0.2秒 41028秒=1015年
注：每秒百万次，n=60，1015年相当于10亿 台计算机计算一百万年
O(n!)与O(n3)的
问题规模n
计算量
10 10！
20 20！
100 100！
1000 1000！
10000 10000！
适应度函数
。有些问题，其答案是无法直接计算得到的，只能通过间接的猜算或试算来 得到结果，这就是非确定性问题(Non-deterministic)。虽然在多项式时间 内难于求解但不难判断给定一个解的正确性的问题，即：在多项式时间内可 以由一个算法验证一个解是否正确的非确定性问题，就是NP类问题。
20！= 1.216×1017 203 = 8000
O(1), O(log n), O(n), O(n log n), O(nb)
O(bn), O(n!)
1 可求解与难求解问题
P类问题，NP类问题，NPC类问 题P类问题： 多项式问题(Polynomial Problem)，指计算机可以在有限
时间内求解的问题，即：P类问题是可以找出一个呈现O(na)复杂性算法的 问题，其中a为常数。
进化算法，遗传解算法，蚁群算法，蜂群算法, …
应该是O(na)
2 遗传算法
生物群体的生存过程普遍遵循达尔文的物竞天择、适者生
存的进化准则；生物通过个体间的选择、交叉、变异来适应大
自然环境。
个体A的 染色体
染色体A的 基因片段
两个个体
新个体的
基
染色体
因
新 个 体
重
组
种 群
新 一 代 种 群
个体B的 染色体
2 遗传算法
对于TSP问题，可以按一条回路中城市的次序进行编码。
从城市w1开始，依次经过城市w2 ，……，wn，最后回到城市 w1，我们就有如下编码表示：
w1 w2 …… wn 由于是回路，记wn+1=w1。它其实是1，……，n的一个循 环排列。要注意w1，w2，……，wn是互不相同的。
2 遗传算法
2 遗传算法
遗传算法提出：于20世纪60年代由密歇根(Michigan)大学 Hollstien, Bagleyh和Rosenberg等人在其博士论文中首先加 以研究；1975年，美国J.H.Holland教授在其著作 “Adaptation in Natural and Artificial Systems”中系统 地阐述了遗传算法，给出了遗传算法的基本定理和大量的数学 理论证明。
(3) 遗传算法利用目标函数的适应度这一信息而非利用导数或 其它辅助信息来指导搜索；
(4) 遗传算法利用选择、交叉、变异等算子而不是利用确定性 规则进行随机操作。
2 遗传算法
2.1 遗传算法的基本原理
霍兰德提出的遗传算法通常称为简单遗传算法（SGA）。
编码与解码
许多应用问题的结构很复杂，但可以化为简单的位串形 式编码表示。将问题结构变换为位串形式编码表示的过程叫编 码；而相反将位串形式编码表示变换为原问题结构的过程叫解 码或译码。把位串形式编码表示叫染色体，有时也叫个体。
NPC问题：完全非确定性多项式问题(NP-Complete)。如果NP问题的
所有可能答案都可以在多项式时间内进行正确与否的验算的话就叫做完全非 确定性多项式问题，即NP-Complete问题。
1 可求解与难求解问题
旅行商问题
对于销售员旅行问题（Travelling Salesman Problem, TSP ），设有n个城市，城市I 和城市j之间的距离 为d(i,j)，要求找到 一条遍访每个城市一 次而且恰好一次的 旅行线路，使其路径 总长度为最短。
计算智能
• 可求解与难求解问题 • 遗传算法 • 群智能算法
1 可求解与难求解问题
现实世界中的问题分类
计算机在有限时间内能够求解的(可求解问题) 计算机在有限时间内不能求解的(难求解问题) 计算机完全不能求解的(不可计算问题)
问题的计算复杂性
计算复杂性是指问题的一种特性，即利用计算机求解问题的 难易性或难易程度，其衡量标准： 计算所需的步数或指令条数(即时间复杂度) 计算所需的存储空间大小(即空间复杂度) ----通常表达为关于问题规模n的一个函数 O(f(n))
染色体B的 基因片段
染 色 体 与 基 因
繁衍后的种群
个体对环境的适 应性:优胜劣汰
2 遗传算法
生物染色体用数学方式或计算机方式来体现就是一串数码 ，仍叫染色体，有时也叫个体；适应能Baidu Nhomakorabea用对应一个染色体的 数值来衡量；染色体的选择或淘汰问题是按求最大还是最小问 题来进行。
遗传算法（Genetic AlgorichmsGA）是模仿生物遗传学 和自然选择机理，通过人工方式构造的一类优化搜索算法，是 对生物进化过程进行的一种数学仿真，是进化计算的一种最重 要形式。
1 可求解与难求解问题
NPC类问题求解
TSP问题的 遍历算法
穷举法或称遍历法：对解空间中的 每一个可能解进行验证，直到所有 的解都被验证是否正确，便能得到 精确的结果---精确解
可能是O(n!) 或O(an)
TSP问题的
近似解求解算法---近似解
贪心算法 仿生学算法
∆ = | 近似解 – 精确解 | 满意解： ∆充分小时的近似
遗传算法发展：David E. Goldberg教授1989年出版了 “Genetic Algorichms”一书，这一著作通常被认为是遗传 算法的方法、理论及应用的全面系统的总结。从1985年起，国 际上开始陆续举行遗传算法的国际会议，后来又更名为进化计 算。参加进化计算国际会议的人数及收录文章的数量、广度和 深度逐年扩大。从此，进化计算逐渐成为人们用来解决高度复 杂问题的新思路和新方法。
2 遗传算法
遗传算法特点：遗传算法是一种基于空间搜索的算法，它通过自 然选择、遗传、变异等操作以及达尔文适者生存的理论，模拟自然 进化过程来寻找所求问题的解答。遗传算法具有以下特点：
(1) 遗传算法是对参数集合的编码而非针对参数本身进行进化 ；
(2) 遗传算法是从问题解的编码组开始而非从单个解开始搜索 ；
1 可求解与难求解问题
O(n3)与O(3n)的差别
差别 O(n3)
O(3n)
0.2秒 41028秒=1015年
注：每秒百万次，n=60，1015年相当于10亿 台计算机计算一百万年
O(n!)与O(n3)的
问题规模n
计算量
10 10！
20 20！
100 100！
1000 1000！
10000 10000！
适应度函数