基于有限马尔可夫链的收敛性分析
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
(H).
例6.3 (*0101) 5 2 3, (0*1***) 3 1 2,
(*1***) 2 2 0
6.1 模式定理
定义6.4 设s是一个长度为 l 的二进制位串,H是 一个长度为 l 的模式,若 s H, 则称s与模式H匹
配。 例6.4 二进制位串00与下列模式匹配:00,*0,
在一个模式中,字符0或1所出现的位置称为确 定位置,字符*所出现的位置称为不确定位置。
6.1 模式定理
定义6.2 模式H中确定位置的个数称为模式H的 阶,记为 o(H ) 。
例6.2 o(*0101) 4, o(0**1*) 2 定义6.3 模式H中第一个确定位置与最后一个确
定位置之间的距离称为模式H的定义长度,记为
第六章
遗传算法的理论基础
武汉大学计算机学院
6.1 模式定理
模式定理是由Holland所提出的,其目的是从理 论上解释遗传算法的有效性。
Holland的模式定理是针对简单遗传算法(SGA) 而言的,即假定在遗传算法中,种群的规模不 变,使用二进制编码、基于适应值比例的选择 策略、单点杂交算子和通常的变异算子。
f (v)
f (v)
vH P (t )
N vH P(t) M (H , t ) M (H , t ) M (H , t ) f (H , t )
f (v)
f (v)
f (t)
vP (t )
vP (t )
N
6.1 模式定理
再考虑杂交算子对模式的影响。 杂交算子随机地选取1到 l 1 中的一个位置,并
)
1
pc
(H )
l 1
个与H匹配的个体。
6.1 模式定理
最后讨论变异算子对模式H的影响。 对于一个属于模式H的个体v,变异算子以概率 pm
对v的每一位相互独立地进行变异,当且仅当变 异算子在H的 o(H ) 个确定位置上不对v进行变异 时,经变异算子后所得到的个体仍然属于H。因 为对v的某一位进行变异的概率为 pm , 所以对某 一位不进行变异的概率为 1 pm , 于是属于模式H 中个体v经变异后仍然属于模式H的概率为
6.1 模式定理
由上所述,属于模式H的个体经杂交后不属于模 式H的概率至多为
(H )
pc l 1
因而,属于模式H的个体经杂交后仍属于模式H
的概率至少为
1
pc
(H )
l 1
6.1 模式定理
由于选择和杂交是相互独立的,所以经过选择 和杂交后种群中近似地有
M(H,t)
f
(H,t f (t)
交换两个父体中所选取位置右边的子串。显然, 若选取的杂交位置不在模式H的第一个确定位置 和最后一个确定位置之间,那么原来属于H中的 个体经杂交后仍然属于H。 若所选取的杂交位置在模式H的第一个确定位置 和最后一个确定位置之间,那么原来属于H中的 个体经杂交后有可能不再属于H。
6.1 模式定理
值得注意的是原来属于H中的个体经杂交后也有 可能仍然属于H。例如 若在上面的例子中 111000与001100进行杂交,杂交位置仍为3,那 么杂交后所得到的两个子串为111100和001000, 其中后代111100仍然属于H。
f (H, t) 1
f (v)
H P(t ) vH P(t )
6.1 模式定理
例6.5 假定当前种群中的个体及适应值如表6.1 所示,则模式H及其适应值如表6.2所示。
表6.1 个体及其适应值
个体 101 100 010 110
适应值 5 1 2 3
表6.2 模式及其适应值
H
f(H,t)
*** (5+1+2+3)/4=2.75
0*,**。 二进制位串110与下列模式匹配:110,*10,1*0,
11*,**0,*1*,1**,***。
显然一个长度为 l 的二进制位串与 2l 个不同的
模式匹配。
6.1 模式定理
定义6.5 假设 P(t) {v1(t), v2(t), , vN (t)} 表示 SGA在第t代时的种群,f 为SGA所使用的适应 函数,H为任一模式,则称P(t)中与模式H匹配 的个体的平均适应值为模式H在第t代的适应值, 记为 f (H, t), 即有
**0
(1+2+3)/3=2
*1*
(2+3)/2=2.5
*00
1/1=1
6.1 模式定理
定理6.1(模式定理) 设 P(t) {v1(t), v2(t), , vN (t)} 表示SGA在第t代时的种群,SGA的杂交概率和
变异概率分别为 pc 和 pm,H为任一模式,M(H , t) 表示第t代种群 P(t ) 中与H匹配个体的个数,则有 估计式
o(H )
pm )
(若pm 1)
M(H,t)
f
(H,t) f (t)
1
pc
(H )
l 1
o(H )
pm
6.1 模式定理
推论6.1 在SGA中,定义长度较短、低阶且适应 值大于种群平均适应值的模式H,在种群中的数 目呈指数增长。
证 设对任意 t t, 都有
f (H ,t) C f (t)
M (H , t 1)
M(H,t)
f
(H,t f (t)
)
1
Fra Baidu bibliotekpc
(H )
l 1
o(
H
)
pm
其中 f (t) 为P(t)中个体的平均适应值,l为个体的
编码长度。
6.1 模式定理
证 首先考虑选择对模式H的影响。 由于SGA采用基于适应值比例的选择策略,所以 在第t代种群 P(t) 中,与H匹配的个体被选择作 为父体的个数的期望值为
定义6.1字符集{0,1,*}上的一个字符串称为一个 模式。
6.1 模式定理
在一个模式中,*表示一个不确定的字符,即表 示0或1,所以一个模式可以表示一个二进制位 串的集合。
例6.1 模式*0101表示集合{00101,10101},而模 式0**1*表示集合{00010,00011,00110,00111, 01010,01011,01110,01111}。
(1 pm )o( H )
因此,经选择、杂交、变异操作后,第t+1代中 包含模式H的个体数目 M(H , t 1) 有以下估计式:
M(H,t
1)
M(H,t)
f
(H,t) f (t)
1
pc
(H )
l 1
(1
pm )o( H )
M(H,t)
f
(H,t) f (t)
1
pc
(H )
l 1
(1
例6.3 (*0101) 5 2 3, (0*1***) 3 1 2,
(*1***) 2 2 0
6.1 模式定理
定义6.4 设s是一个长度为 l 的二进制位串,H是 一个长度为 l 的模式,若 s H, 则称s与模式H匹
配。 例6.4 二进制位串00与下列模式匹配:00,*0,
在一个模式中,字符0或1所出现的位置称为确 定位置,字符*所出现的位置称为不确定位置。
6.1 模式定理
定义6.2 模式H中确定位置的个数称为模式H的 阶,记为 o(H ) 。
例6.2 o(*0101) 4, o(0**1*) 2 定义6.3 模式H中第一个确定位置与最后一个确
定位置之间的距离称为模式H的定义长度,记为
第六章
遗传算法的理论基础
武汉大学计算机学院
6.1 模式定理
模式定理是由Holland所提出的,其目的是从理 论上解释遗传算法的有效性。
Holland的模式定理是针对简单遗传算法(SGA) 而言的,即假定在遗传算法中,种群的规模不 变,使用二进制编码、基于适应值比例的选择 策略、单点杂交算子和通常的变异算子。
f (v)
f (v)
vH P (t )
N vH P(t) M (H , t ) M (H , t ) M (H , t ) f (H , t )
f (v)
f (v)
f (t)
vP (t )
vP (t )
N
6.1 模式定理
再考虑杂交算子对模式的影响。 杂交算子随机地选取1到 l 1 中的一个位置,并
)
1
pc
(H )
l 1
个与H匹配的个体。
6.1 模式定理
最后讨论变异算子对模式H的影响。 对于一个属于模式H的个体v,变异算子以概率 pm
对v的每一位相互独立地进行变异,当且仅当变 异算子在H的 o(H ) 个确定位置上不对v进行变异 时,经变异算子后所得到的个体仍然属于H。因 为对v的某一位进行变异的概率为 pm , 所以对某 一位不进行变异的概率为 1 pm , 于是属于模式H 中个体v经变异后仍然属于模式H的概率为
6.1 模式定理
由上所述,属于模式H的个体经杂交后不属于模 式H的概率至多为
(H )
pc l 1
因而,属于模式H的个体经杂交后仍属于模式H
的概率至少为
1
pc
(H )
l 1
6.1 模式定理
由于选择和杂交是相互独立的,所以经过选择 和杂交后种群中近似地有
M(H,t)
f
(H,t f (t)
交换两个父体中所选取位置右边的子串。显然, 若选取的杂交位置不在模式H的第一个确定位置 和最后一个确定位置之间,那么原来属于H中的 个体经杂交后仍然属于H。 若所选取的杂交位置在模式H的第一个确定位置 和最后一个确定位置之间,那么原来属于H中的 个体经杂交后有可能不再属于H。
6.1 模式定理
值得注意的是原来属于H中的个体经杂交后也有 可能仍然属于H。例如 若在上面的例子中 111000与001100进行杂交,杂交位置仍为3,那 么杂交后所得到的两个子串为111100和001000, 其中后代111100仍然属于H。
f (H, t) 1
f (v)
H P(t ) vH P(t )
6.1 模式定理
例6.5 假定当前种群中的个体及适应值如表6.1 所示,则模式H及其适应值如表6.2所示。
表6.1 个体及其适应值
个体 101 100 010 110
适应值 5 1 2 3
表6.2 模式及其适应值
H
f(H,t)
*** (5+1+2+3)/4=2.75
0*,**。 二进制位串110与下列模式匹配:110,*10,1*0,
11*,**0,*1*,1**,***。
显然一个长度为 l 的二进制位串与 2l 个不同的
模式匹配。
6.1 模式定理
定义6.5 假设 P(t) {v1(t), v2(t), , vN (t)} 表示 SGA在第t代时的种群,f 为SGA所使用的适应 函数,H为任一模式,则称P(t)中与模式H匹配 的个体的平均适应值为模式H在第t代的适应值, 记为 f (H, t), 即有
**0
(1+2+3)/3=2
*1*
(2+3)/2=2.5
*00
1/1=1
6.1 模式定理
定理6.1(模式定理) 设 P(t) {v1(t), v2(t), , vN (t)} 表示SGA在第t代时的种群,SGA的杂交概率和
变异概率分别为 pc 和 pm,H为任一模式,M(H , t) 表示第t代种群 P(t ) 中与H匹配个体的个数,则有 估计式
o(H )
pm )
(若pm 1)
M(H,t)
f
(H,t) f (t)
1
pc
(H )
l 1
o(H )
pm
6.1 模式定理
推论6.1 在SGA中,定义长度较短、低阶且适应 值大于种群平均适应值的模式H,在种群中的数 目呈指数增长。
证 设对任意 t t, 都有
f (H ,t) C f (t)
M (H , t 1)
M(H,t)
f
(H,t f (t)
)
1
Fra Baidu bibliotekpc
(H )
l 1
o(
H
)
pm
其中 f (t) 为P(t)中个体的平均适应值,l为个体的
编码长度。
6.1 模式定理
证 首先考虑选择对模式H的影响。 由于SGA采用基于适应值比例的选择策略,所以 在第t代种群 P(t) 中,与H匹配的个体被选择作 为父体的个数的期望值为
定义6.1字符集{0,1,*}上的一个字符串称为一个 模式。
6.1 模式定理
在一个模式中,*表示一个不确定的字符,即表 示0或1,所以一个模式可以表示一个二进制位 串的集合。
例6.1 模式*0101表示集合{00101,10101},而模 式0**1*表示集合{00010,00011,00110,00111, 01010,01011,01110,01111}。
(1 pm )o( H )
因此,经选择、杂交、变异操作后,第t+1代中 包含模式H的个体数目 M(H , t 1) 有以下估计式:
M(H,t
1)
M(H,t)
f
(H,t) f (t)
1
pc
(H )
l 1
(1
pm )o( H )
M(H,t)
f
(H,t) f (t)
1
pc
(H )
l 1
(1