4.3 马尔可夫链收敛分析
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
度,N 为群体的规模。因此 M 是一个全正矩阵。
(3)种群选取
简单遗传算法经过交配和变异后得到一个群体(状 态) ,通过种群选取变化到另一个状态。记种群选取的 转移矩阵为 S ( sij ) M M 。仅考虑一个状态 i 经过种群选 取不变的概率 sii , 假设状态 i 由 N 个染色体{ X 1 , X 2 ,..., X N } 组成,则一个染色体 X j 被选中的概率为
M+=diag(M,M,…,M),
S+=diag(S,S,…,S),
其中各对角阵中分别有|Ω|个C、M和S。
只从第一个记忆位考虑,在一步转移中,状态 Y ( t ) ( X beat ( t 1), X 1 ( t ),..., X N ( t )) 到 Y ( t 1) ( X beat ( t ), X 1 ( t 1),..., X N ( t 1)) 的转移概 率有
i 0 k 1
i 1
(k ) p lim p 和 pi 1 j ij 0 , k
n
k
例 4.5(续例 4.2)由于群体选用 4 个染色体, 则表 4.2 中 { ( 0001 ) , ( 0100 ) , ( 0011 ) , (1110)}为一个状态,{(0000) , (0101) , (0001) , (0011) }也为一个状态。 染色体 (个 4 2 数)空间维数是 ,所以简单遗传算法的状态 空间维数是 M | |N (24 )4 。
( p1 , p2 ,..., pn ) P ( p1 , p2 ,..., pn ) , pi 1
和 p j lim p
k (k ) ij
n
0。 即( p1 , p2 ,..., p ) 是矩阵 P 的
T
i 1 T n
特征值为 1 且每一个分量为正数的特征向量, 且满足 pi 1。
fitness( X j )
k 1
fitness( X k )
N
0,
则状态 i 经过种群选取不变的概率
N fitness( X j ) ,所以,S=( sii )是列容的。 sii N 0 j 1 fitness( X k ) k 1
i 1 n
C 0 引理 4.6 若 P= R T 的随机阵,其中可约阵中 C 为 一 个 m m 全 正 随 机 阵 , R,T 0 , 则
Ck k 1 P l i mP k l i m i k k k T RC i 0
t 来自百度文库
f * max{ f ( X ) | X }。
所以,S=( sii )是列容的。
定理 4.2 若参数满足:变异概率 0 pc 1,交配 概率 0 pm 1,则简单遗传算法不优化到最优值。
只要对简单遗传算法做一点改动,每次记录下当 前最优解并将群体状态最前面增加一维存放当前最 优解,则遗传算法收敛到最优解。
Ak 0 ;
(4) 归约的,若 A 非负且经过相同的行和列初等变换
C 0 得到如下形式 ,其中,C 和 T 皆为方阵; R T
(5)不可约的,如果 A 非负且不是归约的; (6)随机的,若 A 非负且
aij 1, i {1,2,..., n} ;
j 1 n
(7)稳定的,若 A 是一个随机阵且所有行相 同,即每一列中的元素全部相同; (8)列容的,若 A 是一个随机阵且每一列中 至少有一个正数。
定理 4.3 如果改进简单遗传算法按交配、变异、 种群选取之后更新当前最优染色体(解)的进化 循环过程,则收敛于全局最优。
定理4.4 如果改进简单遗传算法按交配、变异、种 群选取之后更新当前最优染色体,之后再进行种群 选取的进化循环过程,则收敛于全局最优。
交配、变异和种群选取使得一个群体(状态)变 化到另一个群体(状态) ,这也就是一个有限状 态马氏链。
(1) 交配 记交配概率矩阵C (cij ) M M ,其中 cij 为从状态 i 经过交配变为状态 j 的概率。一个状态经过交配 运算总要变化到另一个状态,因此 cij 1 。C
j 1 M
引理 4.4 若 C、M 和 S 是随机的,其中 M>0 和 S 是列容的,则 CMS>0
引理 4.5 若 P 是本原随机阵,则 P k 收敛到一个 全正稳定随机阵 P lim P k (1,1,...,1)T ( p1 , p2 ,..., pn )
k
其中( p1 , p2 ,..., pn )T 唯一满足,
改进简单遗传算法的主要特征是:进化的每一代 中, 记录前面各代遗传的最优解并存放在群体的第 一位, 这个染色体只起一个记录的功能而不参与遗 传运算。改进遗传算法的状态空间维数是 M | |N 1。
由于第一位的染色体不参与遗传运算,将第一位 相同的改进群体归于一类。他们具有简单遗传算法 相同的交配矩阵C,变异矩阵M和种群选择矩阵S。 记改进简单遗传算法的交配、变异和种群选择转移 阵分别为C+、M+和S+,则按第一位染色体相同的改进 群体归一类有 C+=diag(C,C,…,C),
i
0 C R T k
0 ,是一 0
个稳定的随机矩阵,满足
P lim P k (1,1,...,1)T ( p1 , p2 ,..., pn ) ,
其中, p j 0(1 j m ),p j 0( m 1 j n ,)R 表示 T i RC k i 的极限。
定义 4.2 假设优化问题要求目标函数 f(x)达到最 大。令 Z t max{ f ( X j ( t )) | j 1,2,..., N }, 其中Y ( t ) ( X 1 ( t ), X 2 ( t ),..., X N ( t )) 是第 t 代遗传后 得到的一个群体。一个遗传算法收敛到全局最 优,当且仅当 limPr( Z t f *) 1,其中,
1, 若 max{ X 1 ( t ), , X N ( t )} X best ( t ) ( X 1 ( t ) X N ( t )) ( X 1 ( t 1) X N ( t 1)) Pr(Y ( t 1) | Y ( t )) 0 其它
两个状态
si {(1000),(0101),(1100)} , s j {(1010),(1110),(0101)}
则 H ij =6。由于染色体的每个基因有相同的变异概率
pm 0 , 则 状 态 i 变 成 状 态 j 的 概 率 为 Nn Hi j H i j n 为个体的编码长 mi j p m ( 1 p m ) ,其中 0
为一个随机矩阵。
(2)变异
经过概率为 pm 0 的简单变异,两个群体状态 i 和 j 转 移 的 概 率 记 为 m ij , 对 应 的 概 率 矩 阵 为
M ( mij ) M M 。比较状态 i 和 j 中个体顺序相同和位 置相同的基因,记有相同基因的位置总数记为 H ij ,如
4.3 马尔可夫链收敛分析
定义 4.1 一个方阵 A R nn 称为:
(1) 非负的( A 0) , 若 aij 0 , ,i j { 1 ,2 ,. } (2) 全正的( A 0) , 若 aij 0 , ,i j { 1 ,2 ,. }
n 成立; n 成立;
(3) 本原的,如果 A 非负且存在一个整数 k 1使得
如果将第一位的染色体按目标值从好到坏的顺序 排列, 则第一位(4.11)的变化可以表示为一步转移 概率矩阵 U11 U U 21 22 , U ... ... ... U||,1 U ||,2 ... U||,| }
其中 Uij 是一个| |N | |N 矩阵, U 的每样中恰好 有一个 1,U11 是一个单位矩阵。
(3)种群选取
简单遗传算法经过交配和变异后得到一个群体(状 态) ,通过种群选取变化到另一个状态。记种群选取的 转移矩阵为 S ( sij ) M M 。仅考虑一个状态 i 经过种群选 取不变的概率 sii , 假设状态 i 由 N 个染色体{ X 1 , X 2 ,..., X N } 组成,则一个染色体 X j 被选中的概率为
M+=diag(M,M,…,M),
S+=diag(S,S,…,S),
其中各对角阵中分别有|Ω|个C、M和S。
只从第一个记忆位考虑,在一步转移中,状态 Y ( t ) ( X beat ( t 1), X 1 ( t ),..., X N ( t )) 到 Y ( t 1) ( X beat ( t ), X 1 ( t 1),..., X N ( t 1)) 的转移概 率有
i 0 k 1
i 1
(k ) p lim p 和 pi 1 j ij 0 , k
n
k
例 4.5(续例 4.2)由于群体选用 4 个染色体, 则表 4.2 中 { ( 0001 ) , ( 0100 ) , ( 0011 ) , (1110)}为一个状态,{(0000) , (0101) , (0001) , (0011) }也为一个状态。 染色体 (个 4 2 数)空间维数是 ,所以简单遗传算法的状态 空间维数是 M | |N (24 )4 。
( p1 , p2 ,..., pn ) P ( p1 , p2 ,..., pn ) , pi 1
和 p j lim p
k (k ) ij
n
0。 即( p1 , p2 ,..., p ) 是矩阵 P 的
T
i 1 T n
特征值为 1 且每一个分量为正数的特征向量, 且满足 pi 1。
fitness( X j )
k 1
fitness( X k )
N
0,
则状态 i 经过种群选取不变的概率
N fitness( X j ) ,所以,S=( sii )是列容的。 sii N 0 j 1 fitness( X k ) k 1
i 1 n
C 0 引理 4.6 若 P= R T 的随机阵,其中可约阵中 C 为 一 个 m m 全 正 随 机 阵 , R,T 0 , 则
Ck k 1 P l i mP k l i m i k k k T RC i 0
t 来自百度文库
f * max{ f ( X ) | X }。
所以,S=( sii )是列容的。
定理 4.2 若参数满足:变异概率 0 pc 1,交配 概率 0 pm 1,则简单遗传算法不优化到最优值。
只要对简单遗传算法做一点改动,每次记录下当 前最优解并将群体状态最前面增加一维存放当前最 优解,则遗传算法收敛到最优解。
Ak 0 ;
(4) 归约的,若 A 非负且经过相同的行和列初等变换
C 0 得到如下形式 ,其中,C 和 T 皆为方阵; R T
(5)不可约的,如果 A 非负且不是归约的; (6)随机的,若 A 非负且
aij 1, i {1,2,..., n} ;
j 1 n
(7)稳定的,若 A 是一个随机阵且所有行相 同,即每一列中的元素全部相同; (8)列容的,若 A 是一个随机阵且每一列中 至少有一个正数。
定理 4.3 如果改进简单遗传算法按交配、变异、 种群选取之后更新当前最优染色体(解)的进化 循环过程,则收敛于全局最优。
定理4.4 如果改进简单遗传算法按交配、变异、种 群选取之后更新当前最优染色体,之后再进行种群 选取的进化循环过程,则收敛于全局最优。
交配、变异和种群选取使得一个群体(状态)变 化到另一个群体(状态) ,这也就是一个有限状 态马氏链。
(1) 交配 记交配概率矩阵C (cij ) M M ,其中 cij 为从状态 i 经过交配变为状态 j 的概率。一个状态经过交配 运算总要变化到另一个状态,因此 cij 1 。C
j 1 M
引理 4.4 若 C、M 和 S 是随机的,其中 M>0 和 S 是列容的,则 CMS>0
引理 4.5 若 P 是本原随机阵,则 P k 收敛到一个 全正稳定随机阵 P lim P k (1,1,...,1)T ( p1 , p2 ,..., pn )
k
其中( p1 , p2 ,..., pn )T 唯一满足,
改进简单遗传算法的主要特征是:进化的每一代 中, 记录前面各代遗传的最优解并存放在群体的第 一位, 这个染色体只起一个记录的功能而不参与遗 传运算。改进遗传算法的状态空间维数是 M | |N 1。
由于第一位的染色体不参与遗传运算,将第一位 相同的改进群体归于一类。他们具有简单遗传算法 相同的交配矩阵C,变异矩阵M和种群选择矩阵S。 记改进简单遗传算法的交配、变异和种群选择转移 阵分别为C+、M+和S+,则按第一位染色体相同的改进 群体归一类有 C+=diag(C,C,…,C),
i
0 C R T k
0 ,是一 0
个稳定的随机矩阵,满足
P lim P k (1,1,...,1)T ( p1 , p2 ,..., pn ) ,
其中, p j 0(1 j m ),p j 0( m 1 j n ,)R 表示 T i RC k i 的极限。
定义 4.2 假设优化问题要求目标函数 f(x)达到最 大。令 Z t max{ f ( X j ( t )) | j 1,2,..., N }, 其中Y ( t ) ( X 1 ( t ), X 2 ( t ),..., X N ( t )) 是第 t 代遗传后 得到的一个群体。一个遗传算法收敛到全局最 优,当且仅当 limPr( Z t f *) 1,其中,
1, 若 max{ X 1 ( t ), , X N ( t )} X best ( t ) ( X 1 ( t ) X N ( t )) ( X 1 ( t 1) X N ( t 1)) Pr(Y ( t 1) | Y ( t )) 0 其它
两个状态
si {(1000),(0101),(1100)} , s j {(1010),(1110),(0101)}
则 H ij =6。由于染色体的每个基因有相同的变异概率
pm 0 , 则 状 态 i 变 成 状 态 j 的 概 率 为 Nn Hi j H i j n 为个体的编码长 mi j p m ( 1 p m ) ,其中 0
为一个随机矩阵。
(2)变异
经过概率为 pm 0 的简单变异,两个群体状态 i 和 j 转 移 的 概 率 记 为 m ij , 对 应 的 概 率 矩 阵 为
M ( mij ) M M 。比较状态 i 和 j 中个体顺序相同和位 置相同的基因,记有相同基因的位置总数记为 H ij ,如
4.3 马尔可夫链收敛分析
定义 4.1 一个方阵 A R nn 称为:
(1) 非负的( A 0) , 若 aij 0 , ,i j { 1 ,2 ,. } (2) 全正的( A 0) , 若 aij 0 , ,i j { 1 ,2 ,. }
n 成立; n 成立;
(3) 本原的,如果 A 非负且存在一个整数 k 1使得
如果将第一位的染色体按目标值从好到坏的顺序 排列, 则第一位(4.11)的变化可以表示为一步转移 概率矩阵 U11 U U 21 22 , U ... ... ... U||,1 U ||,2 ... U||,| }
其中 Uij 是一个| |N | |N 矩阵, U 的每样中恰好 有一个 1,U11 是一个单位矩阵。