马尔可夫链
第四章 马尔可夫链
股市预测
预测股票价格变化 基于历史数据建立模型 考虑股票之间的相关性 用于投资决策和风险管理
05
马尔可夫链的算法
状态转移矩阵算法
定义：状态转移 矩阵算法是马尔 可夫链中用于描 述状态转移概率 的算法
计算方法：根据 历史数据和当前 状态计算未来的 状态转移概率
应用场景：广泛 应用于自然语言 处理、语音识别、 机器翻译等领域
类问题等。
可扩展性强： 马尔可夫链可 以通过增加状 态和转移概率 来扩展模型， 以处理更复杂
的问题。
缺点
状态转移概率矩 阵必须已知
无法处理连续时 间或非齐次过程
无法处理多维或 多状态过程
无法处理非马尔 可夫过程
YOUR LOGO
THANK YOU
汇报人：儿
特点：隐马尔可夫链的状态转移和观测概率是参数化的，需要通过训练数据来估计。
应用：隐马尔可夫链在语音识别、自然语言处理、机器翻译等领域有广泛应用。
算法：隐马尔可夫链的算法包括前向-后向算法、Viterbi算法和Baum-Welch算法等。
04
马尔可夫链的应用
自然语言处理
文本分类：利 用马尔可夫链 对文本进行分 类，如垃圾邮 件过滤、情感
01
添加章节标题
02
马尔可夫链的定义
状态转移
定义：马尔可夫链的状态转移概率是描述状态之间转移的规则
特性：状态转移具有无记忆性，即下一个状态只与当前状态有关，与过去状态无关
转移矩阵：描述状态转移概率的矩阵
稳态分布：在长期状态下，马尔可夫链将趋于一个稳态分布，该分布描述
YOUR LOGO
马尔可夫链
,a click to unlimited possibilities
马尔可夫链
例7 设马氏链{Xn}的状态空间为 I={1, 2, 3, 4, 5}， 转移概率矩阵为
1 2
1
2
0 0
0
1 2
1 2
0
0
0
P 0 0 1 0 0
3 / 16 . 1/ 4
于是: (1) P{X0 0, X2 1}
P{ X0 0}P{ X2 1 | X0 0} 1 5 5 ;
3 16 48
2020年5月21日星期四
(2)P{X2 1}
P{X0 0}P{X2 1 | X0 0} P{X0 1}P{X2 1 | X0 1}
显然有
p(n) 11
p(n) 21
P(n)
p(n j1
)
L
p(n) 12
p(n) 22
p(n) 1j
L
p(n) 2j
L
p(n) j2
p(n) jj
L
LL
L
(1)
0
p(n) ij
1
(2)
p(n) ij
1,
i
1,
2,L
j
2020年5月21日星期四
切普曼-柯尔莫哥洛夫方程(C-K方程): 对任意的m,n≥0,有
的矩阵
p11 p21
P
L
pj1 L
p12 L p22 L LL pj2 L LL
p1 j L
p2 j L
L
L
p jj L
L L
称为一步转移概率矩阵. 显然有
(1) 0 pij 1
(2)
pij 1, i 1, 2,L
j
2020年5月21日星期四
3、马尔可夫链举例
马尔可夫链
(3) P( n) P P( n1) (4) P( n) P n
初始概率和绝对概率
初始概率： 绝对概率：
p j (n) P{X n j}, ( j I )
p j P{X 0 j}, ( j I )
初始分布：
{ p j } { p j , j I}
绝对分布：
(第七章)马尔可夫链
马尔可夫链的概念及转移概率 马尔可夫链的状态分类 状态空间的分解 遍历性与平稳分布
马尔可夫过程的四种类型
马尔可夫链
时间、状态都离散 时间离散、状态连续
马尔可夫序列
纯不连续马尔可夫过程
时间连续、状态离散
时间、状态都连续
连续马尔可夫过程（或扩散过程）
（3）函数表达式
[例3] 设 { Xn , nT } 是一个马尔可夫链，其状态
空间 I = {a, b, c}，转移矩阵为
1 / 2 1 / 4 1 / 4 P 2 / 3 0 1 / 3 3 / 5 2 / 5 0
求： (1) P{ X 1 b, X 2 c, X 3 a, X 4 c X 0 c};
一步转移概率矩阵
p11 P p21 p12 p22 p1n p2 n
性质： (1) pij 0 , i, j I
(2)
p
jI
ij
1, i I
（随机矩阵）
n 步转移概率
[定义] 称条件概率
( n) pij P{X mn j X m i}, (i, j I , m 0, n 1)
( n) n 0, 0 l < n 和 i , j I ，n 步转移概率 pij 具有下 列性质：
马尔可夫链公式
马尔可夫链公式1. 什么是马尔可夫链马尔可夫链是指一个随机过程，在这个过程中某些状态可以通过概率转移去到其他状态，而且转移只与当前状态有关，与之前的状态无关。
具有这个特点的随机过程称为马尔可夫过程，而它产生的序列称为马尔可夫链。
2. 马尔可夫链的特点马尔可夫链具有以下几个特点：- 状态空间：指该随机过程中所有可能的状态的集合。
- 转移概率：在任意时刻，从一个状态转移到另一个状态的概率。
- 状态的分布：表示在任意时刻每个状态出现的概率。
- 稳定性：表示在长时间运转后达到的稳定状态的分布。
3. 马尔可夫链的公式马尔可夫链的公式描述了该过程中某个状态在下一时刻的概率分布与当前状态的概率分布之间的关系。
数学表示如下：P(X_n+1=i | X_n=j) = Pij其中，Pij表示从状态j转移到状态i的概率。
上述公式可以表示为一个矩阵形式：P = [Pij]其中P是一个n×n的矩阵，表示马尔可夫链的状态转移概率矩阵。
矩阵中的每个元素都是非负的，且每一行元素之和为1。
4. 马尔可夫链的应用马尔可夫链可以应用于许多现实生活中的问题。
例如：- 预测天气：根据前面几天的天气情况，通过马尔可夫链可以预测后面几天的天气情况。
- 音乐生成：通过马尔可夫链可以生成新的音乐片段，以及根据既有音乐生成新的音乐曲目。
- 股票分析：通过分析历史数据，使用马尔可夫链可以预测未来股票价格的走势。
- 自然语言处理：使用马尔可夫链可以构建文本生成模型，例如自动泡面爆款语录。
总之，马尔可夫链是一种极为重要的随机过程，在很多领域都有广泛的应用。
熟悉马尔可夫链公式，能够帮助我们更好地理解和应用这个概念，从而解决很多实际问题。
马尔可夫链
三.有限维概率分布 马尔可夫链{ X ( t ), t t
0
, t 1 , t 2 , }在初始时刻t 0 的概率
分布:
p j ( t 0 ) P { X ( t 0 ) j },
j 0 ,1, 2 ,
称为初始分布. 初始分布与转移概率完全地确定了马尔可夫链的 任何有限维分布.下面的定理二正是论述这一点. 不妨设齐次马尔可夫链的参数集和状态空间都是 非负整数集,那么有如下定理。
P { X ( k 1 ) j1 , X ( k 2 ) j 2 , , X ( k n ) j n }
p i ( 0 ) p ij1 1 p j1 j22
(k )
( k k1 )
p j n n1 j n n 1
(k k
)
i0
(13.9)
例6 在本节例5中,设初始时输入0和1的概率分别为 1/3和2/3,求第2、3、6步都传输出1的概率.
t 2 t n t n 1
和 S 内任意 n 1 个状态
j1 , j 2 , , j n , j n 1 , 如果条件概率
P { X ( t n 1 ) j n 1 | X ( t 1 ) j1 , X ( t 2 ) j 2 , , X ( t n ) j n }
二：马尔可夫链的分类 状态空间 S 是离散的(有限集或可列集),参数集 T 可为离散或连续的两类. 三：离散参数马尔可夫链 （1）转移概率 定义2 在离散参数马尔可夫链{ X ( t ), t 中,条件概率 P { X ( t
m 1
t 0 , t 1 , t 2 , , t n , }
1
马尔可夫链的基本概念
马尔可夫链的基本概念马尔可夫链是一种数学模型，用于描述具有马尔可夫性质的随机过程。
马尔可夫性质指的是在给定当前状态的情况下，未来状态的概率只与当前状态有关，与过去状态无关。
马尔可夫链由一组状态和状态之间的转移概率组成，可以用于模拟和预测各种随机过程，如天气变化、股票价格波动等。
一、马尔可夫链的定义马尔可夫链由状态空间和转移概率矩阵组成。
状态空间是指所有可能的状态的集合，用S表示。
转移概率矩阵是一个n×n的矩阵，其中n 是状态空间的大小。
转移概率矩阵的元素表示从一个状态转移到另一个状态的概率。
二、马尔可夫链的性质1. 马尔可夫性质：在给定当前状态的情况下，未来状态的概率只与当前状态有关，与过去状态无关。
2. 遍历性：从任意一个状态出发，经过有限步骤后可以到达任意一个状态。
3. 周期性：一个状态可以分为周期为k的状态和非周期状态。
周期为k的状态在经过k步后才能返回原状态，非周期状态的周期为1。
4. 不可约性：如果一个马尔可夫链中的任意两个状态都是可达的，那么该马尔可夫链是不可约的。
5. 非周期马尔可夫链的收敛性：如果一个马尔可夫链是非周期的且不可约的，那么它具有收敛性，即在经过足够多的步骤后，状态分布会趋于稳定。
三、马尔可夫链的应用马尔可夫链在许多领域都有广泛的应用，包括自然语言处理、机器学习、金融市场分析等。
1. 自然语言处理：马尔可夫链可以用于语言模型的建立，通过分析文本中的词语之间的转移概率，可以预测下一个词语的出现概率，从而实现自动文本生成、机器翻译等任务。
2. 机器学习：马尔可夫链可以用于序列数据的建模和预测，如音频信号处理、图像处理等。
通过分析序列数据中的状态转移概率，可以预测下一个状态的出现概率，从而实现序列数据的预测和分类。
3. 金融市场分析：马尔可夫链可以用于分析金融市场的波动性和趋势。
通过分析股票价格的状态转移概率，可以预测未来股票价格的走势，从而指导投资决策。
四、马尔可夫链的改进和扩展马尔可夫链的基本概念可以通过改进和扩展来适应更复杂的问题。
马尔可夫链的定义及例子
3、转移概率
定义 i, j S, 称 P Xn1 j Xn i
的一步转移概率。
pij n 为n时刻
若i, j S, pij n pij ，即pij与n无关，称转移概率
具有平稳性.此时称{Xn,n≥0}为齐次（或时齐的）马尔 可夫链。记P=(pij)，称P为{Xn,n≥0}的一步转移概率矩阵.
0
j!
j 0,1, i
pi0公式略有不同，它是服务台由有i个顾客转为空闲的
概率，即第n个顾客来到时刻到第n+1个顾客来到时刻之
间系统服务完的顾客数≥i+1。
pi0 P X n1 0 X n i P(Yn i 1) P(Yn k) k i1
et (t)k dG t ,
0 P{Yn
j Tn1 x}dG x
( x) j exdG x, j 0,1, 2,
0 j!
因此， {Xn，n≥1}是马尔可夫链。其转移概率为
P0 j P( X n1 j X n 0) P(Yn j X n 0)
P(Yn
P( X n1 in1 X n in )
所以{Xn,n≥0}是马尔可夫链，且
pij P( X n1 j X n i) P( f i,Yn1 j) P( f i,Y1 j)
二、切普曼-柯尔莫哥洛夫方程
1，随机矩阵 定义：称矩阵A=(aij)S×S为随机矩阵，若aij ≥0，且
一步转移概率矩阵
0.5009
0.0458 0.2559 0.1388 0.2134
0.0466 0.0988 0.36584 0.14264
第2章-马尔可夫链
0.4834
0.5009
例
甲、乙两人进行比赛，设每局比赛中甲胜的概率是p，
乙胜的概率是q，和局的概率是r ，（p q r 1）。
设每局比赛后，胜者记“+1”分，负者记“-1”分，
和局不记分。当两人中有一人获得2分结束比赛。X以n
表示比赛至第n局时甲获得的分数。
（1）写出状态空间；（2）求P(2)；
pij a0j,i ,
ji ji
显然{Yn,n≥1}也是一马尔可夫链。
例2 M/G/1排队系统
若以X(t)记在t时刻系统中的顾客数，{X(t),t≥0}则不具马 尔可夫性。
Xn-----第n个顾客走后剩下的顾客数， Yn -----第n+1个顾客接受服务期间来到的顾客数，则
X
n1
Xn 1 Yn ,
CHAPTER 2 马尔可夫链
第一节 基本概念
一、马尔可夫链的定义及例子
1、定义
随机过程Xn, n 0,1, 2, 称为马尔可夫链，若它只
取有限或可列个值（称为过程的状态，记为0，1，2，…），
并且，对任意
及状态
，有
n0
i, j, i0 , i1, , in1
P( X n1 j X 0 i0 , X1 i1, , X n1 in1, X n i)
（3）问在甲获得1分的情况下，再赛二局可以结束比 赛的概率是多少？
解
（1）
记甲获得“负2分”为状态1，获得 “负1分”为状态2，获得“0分”为状态3， 获得“正1分”为状态4，获得“正2分”为 状态5，则状态空间为
I {1，2，3，4，5}
一步转移概率矩阵
1 0 0 0 0
q
r
p
《马尔可夫链讲》课件
在平稳分布下，系统的各个状态之间转移的次数趋于平衡，每个状态的平均逗留时 的 马尔可夫链，都存在至少一个平
稳分布。
存在性定理的证明基于遍历理论 ，即如果马尔可夫链是遍历的，
那么它必然存在平稳分布。
根据接受概率判断是否接受样本的技 术，可以提高样本的质量和效率。
接受-拒绝抽样技术
接受概率
根据目标分布和当前状态计算出的概率，用于判断是否接受当前状态 转移为下一个状态。
拒绝概率
根据当前状态和接受概率计算出的概率，用于判断是否拒绝当前状态 转移为下一个状态。
接受-拒绝抽样过程
根据当前状态和接受概率计算出接受该状态的概率，如果该概率大于 随机数，则接受该状态作为下一个状态，否则拒绝并重新抽样。
详细描述
马尔可夫链定义为一个随机过程，其 中每个状态只与前一个状态有关，当 前状态只依赖于前一时刻的状态，不 受到过去状态的影响。
马尔可夫链的应用场景
总结词
马尔可夫链在多个领域有广泛应用。
详细描述
在自然语言处理中，马尔可夫链可以用于生成文本、语言模型等；在金融领域 ，马尔可夫链可以用于股票价格预测、风险评估等；在物理学中，马尔可夫链 可以用于描述粒子运动、化学反应等。
模型训练与预测
模型选择
根据数据特点和业务需求选择合适的马尔可 夫链模型。
模型训练
使用历史数据训练马尔可夫链模型。
参数设置
根据经验和业务理解设置模型参数。
预测与推断
基于训练好的模型对未来或未知数据进行预 测和推断。
结果评估与优化
评估指标
选择合适的评估指标（如准确率、召回率、F1值等）对预测结果进行评估。
马尔可夫链
马尔可夫链马尔可夫过程按其状态和时间参数是连续的或离散的,可分为三类: (1) 时间,状态都是离散的马尔可夫过程,称为马尔可夫链.(2) 时间连续,状态离散的马尔可夫过程,称为连续时间的马尔可夫 (3) 时间,状态都连续的马尔可夫过程. 4.1马尔可夫链的概念及转移概率 一,定义假设马尔可夫过程},{T n X n ∈的参数集T 是离散的时间集合,即 T={0,1,2,…},其相应n X 可能取值的全体组成的状态空间是离散的状态集,...}.,{21i i I =定义4.1 设有随机过程},{T n X n ∈,若对于任意的整数T n ∈和任意的I i i i i n ∈+.,...,,,1210,条件概率满足n n n n i X i X i X i X P ====++,...,,{110011}=},{11n n n n i X i X P ==++ (4.1) 则称},{T n X n ∈为马尔可夫链,简称.马氏链.(4.1)式是马尔可夫链的马氏性(或无后效性)的数学表达式.由定义知 ],...,,{1100n n i X i X i X P =====}.,...,,{111100--====n n n n i X i X i X i X P },...,,{111100--===n n i X i X i X P =}{11--==n n n n i X i X P .},...,,{111100--===n n i X i X i X P =… =}{11--==n n n n i X i X P }{2211----==n n n n i X i X P …}{0011i X i X P ==}.{00i X P =可见,马尔可夫链的统计特性完全由条件概率}{11n n n n i X i X P ==++所决定. 二,转移概率条件概率}{1i X j X P n n ==+的直观含义为系统在时刻n 处于状态i 的条件下,在时刻n+1系统处于状态j 的概率.它相当于随机游动的质点在时刻n 处于状态i 的条件下,下一步转移到状态j 的概率.记此条件概率为).(n p ij 定义4.2 称条件概率).(n p ij = }{11n n n n i X i X P ==++为马尔可夫链},{T n X n ∈在时刻n 的一步转移概率,其中i,j I ∈,简称为转移概率. 定义4.3 若对任意i,j I ∈,马尔可夫链},{T n X n ∈的转移概率).(n p ij 与n 无关,则称马尔可夫链是齐次的,并记).(n p ij 为.ij p下面我们只讨论齐次马尔可夫链,通常将齐次两字省略.设p 表示一步转移概率.ij p 所组成的矩阵,且状态空间I={1,2,…},则⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=...........................2222111211nnp p p p p p p 称为系统的一步转移概率矩阵,它有性质: (1) .,1)2(;,,0∑∈∈=∈≥Ij ij ijI i p I j i p通常称满足上述(1),(2)性质的矩阵为随机矩阵. 定义4.4称条件概率ij n p )(= )1,0,,(},{≥≥∈==+n m I j i i X j X P m n m 为马尔可夫链},{T n X n ∈的n 步转移概率,.并称)()()(n ij n p p =为马尔可夫链的n 步转移矩阵,其中(1) .,1)2(;,,0)(∑∈∈=∈≥Ij ij n ij n I i p I j i p 即也是随机矩阵.当n=1 时, .)1(ij p =.ij p ,此时一步转移矩阵.)1(p p =此外我们规定 ⎩⎨⎧=≠=.,1,,0)0(j i j i pij定理4.1设},{T n X n ∈为马尔可夫链,则对任意整数n l n <≤≥0,0和,,I j i ∈n 步转移概率.)(ij n p 具有下列性质:(1)))()()(l n kj Ik l ik n ij p p p -∈∑=; (4.2)(2) ;......112111)(j k Ik k k ik Ik n ij n n p p p p --∑∑∈∈= (4.3)(3);)1()(-=n n PP P (4.4) (4).)(n n P P =(4.5)证明(1) 利用全概率公式及马尔可夫性,有}{)(i X j X P p m n m n ij ===+=}{},{i X P j X i X P m n m m ===+}{},{.},{},,{i X P k X i X P k X i X P j X k X i X P m l m m Ik l m m n m l m m =========+∈+++∑}{}{i X k X P k X j X P m l m l m Ik n m =====++∈+∑=)()()()(m p l m p l ik Ik l n ij +∑∈-=)()(.l n kjIk l ik p p -∈∑. (2)在(1)中令1,1k k l ==得))1()(111-∈∑=n jkIk ik n ij p p p 这是一个递推公式,可递推下下去即得(4.3). (3)在(1).令l=1利用矩阵乘法可得. (4) 由(3),利用归纳法可证.定理4.1中的(1)式称为切普曼---柯尔哥洛夫方程,简称C-K 方程 .定义4.5设},{T n X n ∈为马尔可夫链,称 },{0j X P p j ==)(},{)(I j j X P n p n j ∈==为},{T n X n ∈的初始概率和绝对概率,并分别称}),({},,{I j n p I j p j j ∈∈为},{T n X n ∈的初始分布和绝对分布.简记为}.),({},,{n p p j j 称概率向量 )0(),...),(),(()(21>=n n p n p n P T 为n 时刻的绝对概率向量,而称)0(,...),,(21>=n p p P T为初始向量.定理4.2设},{T n X n ∈为马尔可夫链,则对任意整数I j n ∈≥,1,绝对概率).(n p j 具有下列性质:(1)))()(n ij Ii i j p p n p ∑∈=; (4.6)(2) ij Ii i j p n p p )1(-=∑∈ (4.7)(3);)0()()(n T T P P n P = (4.8) (4)P n P n P T T )1()(-= (4.9)证明(1) ===}{)(j X P n p n j},{0j X i XP n Ii ==∑∈= }{}{00i X P i X j XP nIi ===∑∈ =)(n ijIi i p p ∑∈ (2)===}{)(j X P n p n j },{1j X i X P n Ii n ==∑∈-=}{}{11i X P i X j X P n n n Ii ===--∈∑==ij Ii i p n p ∑∈-)1((3)与(4)是(1)与(2)的矩阵形式.定理4.3 设},{T n X n ∈为马尔可夫链,则对任意,1,,...,1≥∈n I i i n 有 },...{11n n i X i X P ===....11n n i i ii i p p p -∑ (4.10) 证明 由全概率公式及马氏性有},...{11n n i X i X P ===},...,,{110n n Ii i X i X i X P ===∈=},...,,{110n n Ii i X i X i X P ===∑∈=}.,{}{0110i X i X P i X P Ii ===∑∈...},...,{110--===n n n n i X i X i X P=}.,{}{0110i X i X P i X P Ii ===∑∈..}{11--==n n n n i X i X P=n n i i ii Ii i p p p 11...-∑∈.三,马尔可夫链的例子例4.1 无限制随机游动设质点在数轴上移动,每次移动一格,向右移动的概率为p,向左移动的概率为 q=1-p,这种运动称为无限制随机游动.以n X 表示时刻n 质点所处的位置,则},{T n X n ∈是一个齐次马尔可夫链,试写出它的一步和k 步转移概率. 解 },{T n X n ∈的状态空间,...},2,1,0{±±=I 其一步转移概率矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=.....................00.........0.....................p q p q P 设在第k 步转移中向右移了x 步向左移动了y 步,且经过k 步转移状态从j 进入j,则⎩⎨⎧-=-=+i j y x k y x ,.2)(,2)(i j k y i j k x --=-+=由于x,y 都只取整数,所以)(i j k -±必须是偶数.又在k 步中哪x 步向右,哪y 步向左是任意的,选取的方法有x k C 种.于是⎩⎨⎧-+-+=是奇数是偶数)(,0)(,i j k i j k q p C p y x x k k ij.例4.2赌徒输光问题.两赌徒甲,乙进行一系列赌博.赌徒甲有a 元,赌注乙有b 元,每赌一局输者给赢者1元,没有和局,直到两人中有一个输光为止.设在每一局中,甲赢的概率为p,输的概率为q=1-p,求甲输光的概率.这个问题实质上是带有两个吸收壁的随机游动,其状态空间为I={0,1,2,…,c} c=a+b.故现在的问题是求质点从a 出发到达0状态先于到达c=a+b 状态的概率.解 设i u 表示甲从状态i 出发转移到状态0的概率,要计算的是a u ..由于0和c 是吸收状态,故,10=u .0=c u i u 由全概公式).1,...,2,1(,11-=+=-+c i qu pu u i i i (4.11) 上式的含义是,甲从状态i 出发开始赌到输光的概率等于’他接下去赢了一局(概率为p)处于状态i+1后再输光”;和他接下去输一局(概率为q),处于状态i-1后再输光”这两个事件的概率.由于p+q=1,(4.11)实质上是一个差分方程.1,...,2,1),(11-=-=--+c i u u r u u i i i i (4.12)其中pqr =,其边界条件为.0,10==c u u (4.13) 先讨论r=1,即p=q=1/2的情况,(4.12)成为 .1,...,2,1),(11-=-=--+c i u u r u u i i i i 令,01α+=u u 得,2012αα+=+=u u u …,01ααi u u u i i +=+=- …,01ααc u u u c c +=+=-将,1,00==u u c 代于最后一式,得参数,1c-=α所以.1,...,2,1,1-=-=ci ciu i 令i=a, 求得甲输光的概率为.1ba bc a u a +=-= 由于甲,乙的地位是对称的,故乙输光的概率为.ba a u a +=再讨论1≠r ,即q p ≠的情况.由(4.12)式得到)(11--=-=-∑i c k i i k c u u r u u =)(011u u r c ki i-=∑-=.1)1(1r r r u ck ---= (4.14) 令k=0,由于,0=c u 有rr u c---=11)1(11即,11)1(1crru --=- 代入(4.14)式,得.1,...,2,1,1-=--=c k rr r u cck k 令k=a,得到输光的概率,1cca a rr r u --= 由对称性,乙输光的概率为.,11111q p r r r r u c cb b =--= 由于,1=+b a u u 因此在1≠r 时,即q p ≠时两个人中也总有一个人要输光的. 例4.3 天气预报问题设昨日,今日都下雨,明日有雨的概率为0.7;昨日无雨今日有雨,明日有雨的概率为0.5;昨日有雨,今日无雨明日有雨的概率为0.4;昨日,今日均无雨,明日有雨的概率为0.2.若星期一星期二均下雨,求星期四下雨的概率.解 设昨日,今日连续两天有雨称为状态0(RR),昨日无雨今日有雨称为状态1(NR),昨日有雨今日无雨称为状态2(RN),昨日今日无雨称为状态3(NN),于是天气预报模型可看作一个四状态的马尔可夫链,其中转移概率为 7.0}{}{}{00====今昨明今昨明今连续三天有雨R R R P P R R R R P p , )(0}{01不可能事件今昨明今==R R R N P p ,,3.07.01}{}{02=-===今昨明今昨明今R R N P R R N R P p)(0}{03不可能事件今昨明今==R R N N P p ,其中R 代表有雨,N 代表无雨.类似地可得到所有状态的一步转移概率,于是它的一步转移概率矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=33323130232221201312111003020100p p p p p p p p p p p p p p p p P =⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡8.002.006.004.0005.005.003.007.0其中两步转移矩阵为==P P P .)2(⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡8.002.006.004.0005.005.003.007.0.⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡8.002.006.004.0005.005.003.007.0 = ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡.64.010.016.010.048..020.012.020.030.015.020.035.018.021.012.049.0 由于星期四下雨意味着过程所处的状态为0或1,因此星期一星期二连续下雨,星期四下雨的概率为.61.012.049.0)2(01)2(00=+=+=p p p例 4.4 设质点在线段[1,4]上作随机游动,假设它只能在时刻T n ∈发生移动,且只能停留在1,2,3,4点上.当质点转移到2,3点时,它以1/3的概率向左或向右移动一格或停留在原处.当质点称动到点1时,它以概率1停留在原处.当质点移动到点4时,它以概率1移动到点3.若以n X 表示质点在时刻n 所处的位置,则},{T n X n ∈ 是一个齐次马尔可夫链,其转移概率矩阵为⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=0100313131003131310001P 例中的点1称为吸收壁,即质点一旦到达这种状态后就被吸收住了,不再移动;点4称为反射壁,即质点一旦到达这种状态后,必然被反射出去.例4.5生灭链.观察某种生物群体,以n X 表示在时刻n 群体的数目,设为i 个数量单位,如在时刻n+1增生到i+1个单位的概率为i b ,减灭到i 个数量单位的概率为i a ,保持不变的概率为)(1i i i b a r +-=,则}0,{≥n X n 为齐次马尔可夫链,I={0,1,2,…,}.其转移概率为⎪⎩⎪⎨⎧+==+==.1,,,1,i j a j i r i j b p ii i ij称此马尔可夫链为生灭链. 4.2 遍历性设齐次马氏链的状态空间为I,若对于所有,,I a a j i ∈转移概率)(n P ij 存在极限 j ij n n P π=∞→)(lim (不依赖于i)或 ⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡→=................................................)(212121j j jn P n P πππππππππ则称此链具有遍历性.又若∑=jj 1π,则同时称,...),(21πππ=为链的极限分布.齐次马氏链在什么条件下才具有遍历性?如何求出它的极限分布?这问题在理论上已经解决,但是要较多的篇幅.下面对有限链的遍历性给出一个充分条件. 定理4.4设齐次马氏链},{T n X n ∈的状态空间为P a a a I n },,...,,{21=是它的一步转移概率矩阵,如果存在正整数m,使对任意的j i a a ,都有 ,,...,2,1,,0)(N j i m p ij =>则此链具有遍历性,且有极限分布, ),,...,,(21N ππππ=它是方程组 P ππ=或即ij Ni i j p ∑==1ππ的满足条件∑==>Nj j j 11,0ππ的唯一解.在定理条件下马氏链的极限分布又是平稳分布.即若用π作为链的初始分布,即π=)0(p ,则链在任一时刻T n ∈的分布)(n p 永远与π一致,事实上ππππ======-P P P n P p n p n n ...)()0()(1 例4..6 设马尔可夫链的转移概率矩阵为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=9.005.005.01.08.01.02.01.07.0P 解 容易证明满足定理4.4条件.可得方程组⎪⎪⎩⎪⎪⎨⎧=++++=++=++=1,9.01.02.0,05.08.01.0,05.01.07.0321321332123211πππππππππππππππ解上述方程组得平稳分布为.5882.0,2353.0,1765.0321===πππ。
马尔科夫链
4.隐含状态转移概率矩阵A。 描述了HMM模型中各个状态之间的转移概率。 其中Aij=P(Sj|Si),1≤i,,j≤N. 表示在t时刻、状态为Si的条件下，在t+1时刻状态是 Sj的概率。 5.观测状态转移概率矩阵B（ConfusionMatrix） 令N代表隐含状态数目，M代表可观测状态数目，则： Bij=P(Oi|Sj),1≤i≤M,1≤j≤N.表示在t时刻、隐含状态是 Sj条件下，观察状态为Oi的概率。
隐马尔可夫模型（Hidden Markov Model， HMM）是统计模型，它用来描述一个含有隐含 未知参数的马尔可夫过程。其难点是从可观察的 参数中确定该过程的隐含参数。然后利用这些参 数来作进一步的分析，例如模式识别。 在正常的马尔可夫模型中，状态对于观察者来说 是直接可见的。这样状态的转换概率便是全部的 参数。而在隐马尔可夫模型中,状态并不是直接可 见的，但受状态影响的某些变量则是可见的。每 一个状态在可能输出的符号上都有一概率分布。 因此输出符号的序列能够透露出状态序列的一些 信息。
隐马尔可夫模型状态变迁图 x — 隐含状态 y — 可观察的输出 a — 转换概率（transition probabilities） b — 输出概率（output probabilities）
1.隐含状态S 这些状态之间满足马尔可夫性质，是马尔可夫模型中实际所 隐含的状态。这些状态通常无法通过直接观测而得到。（例 如S1、S2、S3等等) 2.可观测状态O 在模型中与隐含状态相关联，可通过直接观测而得到。(例 如O1、O2、O3等等，可观测状态的数目不一定要和隐含 状态的数目一致。） 3.初始状态概率矩阵π 表示隐含状态在初始时刻t=1的概率矩阵，(例如t=1时， P(S1)=p1、P(S2)=P2、P(S3)=p3，则初始状态概率矩阵 π=[p1p2p3].
马尔科夫链
马尔可夫分析法（markov analysis）又称为马尔可夫转移矩阵法，是指在马尔可夫过程的假设前提下，通过分析随机变量的现时变化情况来预测这些变量未来变化情况的一种预测方法。
马尔可夫分析起源于俄国数学家安德烈·马尔可夫对成链的试验序列的研究。
1907年马尔可夫发现某些随机事件的第N次试验结果常决定于它的前一次（N－1次）试验结果，马尔可夫假定各次转移过程中的转移概率无后效性，用以对物理学中的布朗运动作出数学描述；1923年由美国数学家诺伯特·维纳提出连续轨道的马尔可夫过程的严格数学结构；30－40年代由柯尔莫戈罗夫、费勒、德布林、莱维和杜布等人建立了马尔可夫过程的一般理论，并把时间序列转移概率的链式称为马尔可夫链。
马尔可夫分析法已成为市场预测的有效工具，用来预测顾客的购买行为和商品的市场占有率等，同时也应用在企业的人力资源管理上。
基本涵义单个生产厂家的产品在同类商品总额中所占的比率，称为该厂产品的市场占有率。
在激烈的竞争中，市场占有率随产品的质量、消费者的偏好以及企业的促销作用等因素而发生变化，企业在对产品种类与经营方向做出决策时，需要预测各种商品之间不断转移的市场占有率。
市场占有率的预测可采用马尔可夫分析法，也就是运用转移概率矩阵对市场占有率进行市场趋势分析的方法。
俄国数学家马尔可夫在20世纪初发现：一个系统的某些因素在转移中，第N次结果只受第N－1次结果影响，只与当前所处状态有关，与其他无关。
例如：研究一个商店的累计销售额，如果现在时刻的累计销售额已知，则未来某一时刻的累计销售额与现在时刻以前的任一时刻的累计销售额都无关。
在马尔可夫分析中，引入状态转移这个概念。
所谓状态是指客观事物可能出现或存在的状态；状态转移是指客观事物由一种状态转移到另一种状态的概率。
马尔可夫分析法的一般步骤为：1、调查目前的市场占有率情况；2、调查消费者购买产品时的变动情况；3、建立数学模型；4、预测未来市场的占有率。
马尔科夫链
1.马尔可夫链马尔可夫过程是随机过程的一个分支, 它的最基本特征是“无后效性”, 即在已知某一随机过程“现在”的条件下, 其“将来”与“过去”是独立的。
马尔可夫链是状态与时间参数都离散的马尔可夫过程。
定义在概率空间(Ω，F , P ) 上的随机序列{X (t)，t ∈T }, 其中T = {0, 1, 2, ⋯}, 状态空间I = {0, 1, 2,⋯}, 称为马尔可夫链, 如果对任意正整数L ，m ，k, 及任意非负整数j L >⋯>j 2>j 1 (m>j L ), i m + k , i m , i jL , ⋯, i j2，i j1有P{X (m + k) = i m + k ︳X (m) = i m , X jL = i jL , ⋯, X j2 = i j2 , X j1 = i j1}= P{X (m + k) = i m + k ︳X (m ) = i m } （1） 这里,需假定P{X (m) = i m , X (jL) = i jL , ⋯, X (j1) =i j1} > 0实际应用中, 一般考虑齐次马尔可夫链, 即对任意 k,n ∈N +，有P ij (n,k)=P ij (k) i,j = 0, 1, ⋯ （2）其中P ij (n,k)表示“于n 阶段状态为i,经k 步转移至状态j 的概率”, P ij (k)表示“从状态i 经k 步转移至状态j 的概率”。
齐次的马尔可夫链{X (t)}完全由其初始分布{P (i),i= 0,1,⋯}及其状态转移概率矩阵(状态转移概率P ij ,(i,j=0,1,⋯) 所构成的矩阵)所决定。
2.权马尔可夫链预测的思想由于生产井产量是一相依的随机变量,各阶自相关系数刻画了各种滞时的产量间的相关关系及其强弱。
因而,可考虑先分别依其前面若干时段的产量对该时段产量状况进行预测,然后,按前面各时段与该时段相依关系的强弱加权求和,即达到充分、合理利用信息进行预测的目的。
马尔可夫链概念
马尔可夫链概念马尔可夫链（Markov chain）是一种描述随机过程的数学模型，其名称源自俄罗斯数学家安德烈·马尔可夫。
马尔可夫链具有记忆独立性的特点，即未来状态只依赖于当前状态，与过去状态无关。
马尔可夫链在很多领域中都有广泛的应用，如模拟与仿真、自然语言处理、金融工程等。
马尔可夫链的基本概念是状态和转移概率。
状态是随机变量，代表系统的一种特定状态，可以是离散的也可以是连续的。
转移概率是指从一个状态转移到另一个状态的概率。
马尔可夫链的转移概率可以用一个转移矩阵表示。
假设当前状态为i，下一个状态为j的概率可以表示为矩阵中第i行第j列的元素。
马尔可夫链的特性之一是其具有无记忆性。
也就是说，无论过去的路径如何，下一步的状态只依赖于当前状态。
这是因为马尔可夫链具有马尔可夫性质，即满足马尔可夫性质的随机过程具有无后效性。
这一特性使得马尔可夫链的分析相对简单，可以通过概率论和线性代数的方法进行求解。
马尔可夫链可以分为有限状态马尔可夫链和无限状态马尔可夫链。
有限状态马尔可夫链的状态数是有限的，转移概率可以用矩阵表示。
而无限状态马尔可夫链的状态数是无穷的，转移概率可以用转移函数表示。
对于无限状态马尔可夫链，常见的分析方法有平稳分布和极限分布。
平稳分布是指在马尔可夫链中经过长时间之后，系统的状态分布不再发生变化。
平稳分布可以用向量表示，该向量的元素表示系统处于各个状态的概率。
通过求解转移概率方程，可以得到平稳分布。
在实际应用中，平稳分布可以用于预测未来的状态变化。
极限分布是指在马尔可夫链中经过无限次迭代后，系统的状态分布趋于稳定。
极限分布也可以用向量表示，表示系统处于各个状态的概率。
通过求解转移概率方程的极限，可以得到极限分布。
极限分布在统计学和物理学中有重要的应用，常用于描述随机过程的长期行为。
总结起来，马尔可夫链是一种描述随机过程的数学模型，具有无记忆性的特点。
它通过状态和转移概率描述系统的状态变化，并且可以用转移矩阵或转移函数表示。
第20讲马尔可夫(Markov)链
性质: (1)
∑p
j =1
N
j
(n) = 1 ( s , n ) = ∑ P{ xn = a j x s = ai } = 1
j =1
N
(2)
∑p
j =1
N
N
ij
(3)
p j ( n ) = ∑ pij ( s , n ) pi ( s )
i =1
(4)
p ( n ) = P T ( s , n )p ( s )
p j (n) = P{xn = a j }
p(n) = [ p1 (n)
p2 (n) L pN (n)]
T
pij (s, n) = P{xn = a j xs = ai }
P (s, n) L P N (s, n) 11 1 P(s, n) = M M M PN1 (s, n) L PNN (s, n)
第二十讲 主要内容：
• 马尔可夫（Markov）链 马尔可夫链的定义及一般特性 齐次马尔可夫链 平稳马尔可夫链及其求解 马尔可夫链状态分类 马尔可夫链的遍历性
1
6.1 马尔可夫链 1、定义 状态和时间参量都是离散的随机过程，在tr 时刻状 态已知的条件下，其后tr+1时刻所处的状态只与tr 时刻的 状态有关，而与以前tr-1、tr-2……时刻的状态无关，则该 过程称马尔可夫链。 用公式可表示如下：
p j , j = 1, 2, L , N 是该链平稳时的状态概率。
定理 对有穷马尔可夫链，如存在正整数s，使
Pij (s ) > 0
式中 i , j = 1, 2, L , N ，则该链具有遍历性。
17
例3：设马尔可夫链的一步转移矩阵为
第七讲马尔可夫链
P { X n a i(n )|X n 1 a i(n 1 )}(i1,2,,N) 则称 { X n }为马尔可夫链（简称马氏链）。
为了完整的描述一个随机过程，需要给出任意 有限维概率函数。 对于马氏链的任意有限维概率函 数完全由初始分布和转移概率矩阵来描述。
设 {X(n),n0,1 ,2,}为一马氏链，其状态空间
E{0,1,2,}或为有限子集。
令 p i(0 ) P [X (0 ) i], i E，且对任意的 i E
均有
pi (0) 0
若与m无关，则称该马氏链为齐次马氏链，此时
pij (m,mk) 表示为 p ij ( k ) 。
(1) 一步转移概率
在齐次条件下，令 p ij( m ,m k ) P [X m k a j|X m a i]
中 k 1 则
pij(1 )pij(m ,m 1 )pij
称为一步转移概率。
由所有一步转移概率 p ij 构成的矩阵
均有
pi (n) 0 pi (n) 1 iE
则称 {pi(n),iE}为该马氏链的绝对分布，也称
绝对概率。
定理 马氏链的绝对概率由初始分布和相应的转移概 率唯一确定。
利用C-K方程，则n步转移矩阵可由一步转移 矩阵唯一确定。
推论 马氏链的绝对概率由初始分布和一步转移概率 唯一确定。
转移图（状态转移图与概率转移图）
p jj (n)
n0
推论 如果状态j是非常返的，则必有
ln im pjj(n)0
设i是一常返态，则从i出发可经过n (n1,2,)步 首次返回i，
马尔可夫链课件
p12 p22 0 0
p13 p23 1 0
p14 p24 0 1
三、马氏链的例子
例2 (0-1传输系统或简单信号模型)
X0 1 X1 2 X2 Xn-1 Xn
…
n
…
如图所示，只传输数字0和1的串联系统中，设每一级的传真率为p， 误码率为q=1-p。并设一个单位时间传输一级，X0是第一级的输入，Xn
n
P P X i |X ik k 1 和 1 P{ X n j | X n 1 i} 确定. {kX i} 分布 条件概率 0 k P X 0 i0，X 1 i1， ，X k 2 ik 2 马氏性
P X k 1 ik 1 | X 0 i0， ，X k 2 ik 2 P X k ik |X k 1 ik 1
则称 { X n，n 0}为齐次马尔可夫链，称 pij 为从状态 i
转移到状态 j 的一步转移概率. 若马尔科夫链 { X n，n 0}的状态空间是有限集，则
称 { X n，n 0}为有限状态的马尔科夫链；
若马尔科夫链 { X n，n 0}的状态空间是可列集，则 称 { X n，n 0} 为可列状态的马尔科夫链.
P X 0 i0 P X 1 i1 | X 0 i0 P X k ik |X k 1 ik 1
二、转移概率
定义1 设 { X n，n 0}是马尔可夫链，记
Байду номын сангаас
pij (n) P{X n 1 j | X n i}
称 pij 为马尔可夫链 { X n，n 0} 在时刻 n 时的一步转 移概率。 当 i，n 固定时，一步转移概率 pij (n) 实质上就是 在 X n i 的条件下，随机变量 X n 1的条件分布律，所以 条件分布律满足：
马尔可夫链
4模型完整的四叉树模型也存在一些问题.⑴因概率值过小，计算机的精度难以保障而出现下溢，若层次多，这一问题更为突出.虽然可以通过取对数的方法将接近于0 的小值转换成大的负值，但若层次过多、概率值过小，该方法也难以奏效，且为了这些转换所采用的技巧又增加了不少计算量.⑵当图像较大而导致层次较多时，逐层的计算甚为繁琐下溢现象肯定会出现，存储中间变量也会占用大量空间，在时间空间上都有更多的开销 .⑶分层模型存在块效应，即区域边界可能出现跳跃，因为在该模型中，同一层随机场中相邻的像素不一定有同一个父节点，同一层的相邻像素间又没有交互，从而可能出现边界不连续的现象.5MRF为了解决这些问题，我们提出一种新的分层MRF 模型——半树模型，其结构和图15类似，仍然是四叉树，只是层数比完整的四叉树大大减少，相当于将完整的四叉树截为两部分，只取下面的这部分.模型最下层仍和图像大小一致，但最上层则不止一个节点.完整的四叉树模型所具有的性质完全适用于半树模型，不同点仅在于最上层,完整的树模型从上到下构成了完整的因果依赖性，而半树模型的层间因果关系被截断，该层节点的父节点及祖先均被删去，因此该层中的各节点不具有条件独立性，即不满足上述的性质2,因而对这一层转为考虑层内相邻节点间的关系.半树模型和完整的树模型相比，层次减少了许多，这样，层次间的信息传递快了，概率值也不会因为过多层次的逐层计算而小到出现下溢.但第0 层带来了新的问题，我们必须得考虑节点间的交互，才能得出正确的推导结果，也正是因为在第0 层考虑了相邻节点间的影响，使得该模型的块现象要好于完整的树模型.对于层次数的选取，我们认为不宜多，太多则达不到简化模型的目的，其优势体现不出来，但也不能太少，因为第0 层的概率计算仍然要采用非迭代的算法，层数少表明第0 层的节点数仍较多，计算费时，所以在实验中将层数取为完整层次数的一半或一半稍少.MPM 算法3半树模型的MPM 算法图像分割即已知观测图像y,估计X 的配置，采用贝叶斯估计器，可由一个优化问题来表示：?x = arg min [E C ( x,x ）′ | Y = y],x其中代价函数C 给出了真实配置为x 而实际分割结果为x′时的代价.在已知y 的情况下，最小化这一代价的期望，从而得到最佳的分割.代价函数取法不同得到了不同的估计器，若C(x,x′）=1?δ(x,x′）（当x=x′时δ(x,x′）=1,否则δ(x,x′）=0)得到的是MAP 估计器，它意味着x 和x′只要在一个像素处有不同，则代价为1,对误分类的惩罚比较重，汪西莉等：一种分层马尔可夫图像模型及其推导算法而在实际中存在一些误分类是完全允许的.若将半树模型的MPM 算法记为HT-MPM,它分为向上算法和向下算法两步，向上算法自下而上根据式⑵、式⑶逐层计算P(yd(s)|xs)和P(xs,xρ(s)|yd(s)），对最下层P(yd(s)|xs)=P(ys|xs). 向下算法自上而下根据式⑴逐层计算P(xs|y)，对最上层由P(x0|y)采样x0⑴，…,x0(n),6详细说明马尔可夫链，因安德烈·马尔可夫(A.A.Markov,1856－1922)得名，是数学中具有马尔可夫性质的离散时间随机过程。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
P (x n 1 k | x 0 i )P (x n j | x n 1 k ) rij (n 1)Pkj
k 1 k 1 m
m
n 步转移概率矩阵： rij (n ) 看成一个二维矩阵第 i 行第 j 列的元素。 讨论 n 时： 例 1 中，每一个 rij (n ) 都收敛于一个极限值，不依赖于初始状态 i。
Wj Wk pkj
k 1 m
1 Wk
k 1
m
3、另外有
Wj 0 ，对于所有的非常返状态 j Wj 0 ，对于所有的常返状态 j
1 Wm ] [0 0 1] ，可用 MATLAB 解决。 pm1 pmm 1 1
P(x 0 i0 , x1 i1, , x n in ) P(x 0 i0 )Pi i Pi i Pi
01 12 n 1 n
i
图形上，一个状态序列能表示为在转移概率图中的一个转移弧线序列。在给定初始状态下， 该路径的概率等于每个弧线上转移概率的乘积。 n 步转移概率 定义： rij (n ) P (x n i | x 0 i ) 计算在当前状态条件下，未来某个时期状态的概率分布。 当前状态 i，n 个时间段后的状态将是 j 的计算公式：C-K 方程
1 0 0 0 0.3 0.4 0.3 0 0 0.3 0.4 0.3 0 0 1 0
转移概率图
例 3：一个教授抽取测试卷子。卷子的难度分成 3 种：困难、中等和容易。如果本次抽到的 困难的卷子，则下次分别有 0.5 的概率抽中中等和容易的卷子。如果本次抽到的是中等的卷 子，则下次仍旧 0.5 的概率为中等难度，另外有 0.25 的概率抽中困难或容易的卷子。如果本 次抽到的是容易的卷子， 则下次仍旧 0.5 的概率为容易难度， 另外有 0.25 的概率抽中困难或 中等的卷子。 转移概率矩阵
0 0.5 0.5 0.25 0.5 0.25 0.25 0.25 0.5
转移概率图
-----------------------------------------------------------------------------------------路径的概率 计算未来任何一个给定状态序列的概率。
状态的分类 可达的 如果对于某一个 n，n 步转移概率 rij (n ) 是正的，则称状态 j 为从状态 i 可达的。 常返态：对于每个从 i 出发可达的状态 j，相应的从 j 出发也可达 i，那么状态 i 称为常 返的。如果一个状态不是常返的，我们称之为非常返的。 如果 i 是常返态，那么从 i 可达的状态集合 A(i ) 组成一个常返类。
单个常返类
一个非常返态(3)和一个常返类(1,2)
两个非常返态(2,3)和两个常返类 马尔可夫链的分解 一个马尔可夫链的状态集合可以分解成一个或多个常返类， 加上可能的一些非常返状态。 一个常返态从它所属的类里任何一个状态出发是可达的， 但从其他类里的常返状态出发 是不可达的。 从任何一个常返状态出发都不可到达非常返状态。 从一个非常返状态出发，至少有一个或多个常返态是可达的。 常返类的周期性：一个状态被回访时间是否出现周期性。 如果一个常返类的状态可被分成 d>1 个互不相交的子集， 且满足所有的转移都是从一个这样 的子集到下一个，我们称这个常返类是周期的。 如果一个常返类不具有周期，称为非周期的。
rij (n ) rij (n 1)Pkj ，其中 rij (1) Pij
k 1 m
表示为矩阵：
R(n) PP P Pn
C-K 公式证明，应用全概率公式：
P (x n j | x 0 i ) P (x n 1 k | x 0 i )P (x n j | x n 1 k, x 0 i )
Pij 的取值（取正值） 。
由该模型描述的马尔可夫链是一个随机变量序列 X0 , X1, ，它们取值于 S，并且满足： 对于任意的时间 n，所有状态以及所有之前可能的状态序列 i0 , , in ，均有
P(x n 1 j | x n i, x n 1 in 1,, x 0 i0 ) Pij
马尔可夫链
该模型里，过去对未来的影响归结于对状态的影响，它的概率分布随着时间变化。假设 变量取值的状态只取有限个值。 应用：几乎全部动力系统，通信、自动化控制、信息传输、制造业、经济、运筹学等。 离散时间的马尔可夫链 状态在确定的离散时间点上发生变化。 转移概率 Pij：当前状态 i，下一个状态 j 的概率。 核心假设：只要时刻 n 的状态为 i，不论过去发生什么，不论如何达到状态 i，下一个 时刻转移到状态 j 的概率一定是转移概率 Pij。 马尔可夫模型的性质： 一个马尔可夫链模型由以下特征确定： 1. 状态集合 S {1, 2, , m} 2. 3. 可能发生状态转移 (i, j ) 的集合，即由所有 Pij 0 的 i, j 组成。
稳态性质 研究对象：一个常返类，并且不是周期的。 单个常返类的链也可能是不收敛的，比如具有周期的常返类。 稳态收敛定理： 考虑一个非周期的，单个常返类的马尔可夫链，那么，状态 j 和它对应的稳态概率W j 具有 如下性质： 1、对于每个 j 有
n ij
lim r (n) Wj
2、 是下面方程组的唯一解：
马尔可夫链由转移概率矩阵刻画： 第 i 行，第 j 列的元素为 Pij
P P 1m 11 P P m 1 mm
转移概率图 1. 节点 nodes：表示状态 2. 连接节点的有向弧线 arcs：表示可能发生的转移 3. Pij：标在相应的弧线旁边 例 1：爱丽丝上一门课程，每周可能进步也可能落后。 如果给定的一周，她进步了，那么后一周进步的概率为 0.8，落后的概率为 0.2； 如果给定的一周，她落后了，那么后一周进步的概率为 0.6，落后的概率为 0.4； 假设这些概率都不依赖她之前的每周的进步落后情况。 转移概率矩阵
0.75 0.25 Pij () 0.75 0.25
例 2 中， rij (n ) 仍旧收敛，但是极限值依赖于初始状态，并且对于某特定的状态极限值可能 为 0。
1 2 / 3 Pij () 1 / 3 0 0 0 0 0 0 0 0 1 / 3 0 2 / 3 0 0
0.8 0.2 0.6 0.4
转移概率图
------------------------------------------------------------------------------------例 2：苍蝇和蜘蛛 一只苍蝇在一条直线上移动（共 4 个单位） ，每次移动一个单位长度。每单位时间，它以 0.3 的概率向左移动一个单位，以 0.3 的概率向右移动一个单位，以 0.4 的概率停留在原地。 两只蜘蛛等待在位置 1 和 4，如果苍蝇到达这两个位置，它将被蜘蛛捕获，过程结束。 转移概率矩阵