马尔科夫链例题整理

0 q 0 P 1 ... 0 p p 0 q 0 p 0 0 ... 0 0 ... 0 p ... 0 q 0 0 q q 0 0 ... p 0
... ... ... ... ... 0 ... 0 0 ... 0
首页
4．一个质点在全直线的整数点上作随机游动，移 动的规则是：以概率p从i移到i-1，以概率q从i移到 i+1，以概率r停留在i，且 r p q 1 ，试 求转移概率矩阵。
i j c 1
j 0 c 1
而
u j u j uc

c 1
j 0
1 rc j r d0 d0 1 r
(ui ui 1 )
c 1 i
di r d 0 j c i j i j r r j c j 1 d0 r (1 r L r )d0 1 r j c 两式相比 r r 首页 uj c 1 r
根据全概率公式有
百度文库
u j u j 1 p u j 1q
这一方程实质上是一差分方程，它的边界条件是
u0 1, uc 0
首页
欲求
于是
ua
uj （p + q）u j pu j 1 qu j 1
先求
q u j u j 1 ( )(u j 1 u j ) p
设
q r p
0 0 0 p 1
首页
（2）二步转移概率矩阵
P
(2)
P
2
1 q rp q2 0 0
0 r 2 pq 2rq q 0
2
0 2 pr r 2 2 pq 2qr 0
0 p2 2 pr r pq 0
2
0 0 p2 p rp 1
p01 P( X1 1 | X 0 0) P(Y0 1) p1
p10 P( X n1 0 | X n 1) P( X n 1 Yn 0 | X n 1)
P(Yn 0) p0 p22 P( X n1 2 | X n 2) P(Yn 1) p1
练习题． 扔一颗色子，若前n次扔出的点数的最大值为j， 就说 X n j, 试问 X n j, 是否为马氏链？求一步转移概率矩 阵。
I={1，2，3，4，5，6}
首页
1 1 1 6 6 6 0 2 1 6 6 3 0 0 P 6 0 0 0 0 ... 0 0 ... 0
首页
q q P1 0 ...
p 0 q ...
0 p 0 ...
0 0 p ...
0 0 0 ...
... ... ... ...
q 0 反 射 壁
p 1 2 3
首页
例3．一个圆周上共有N格（按顺时针排列），一 个质点在该圆周上作随机游动，移动的规则是： 质点总是以概率p顺时针游动一格， 以概率 q 1 p 逆时针游动一格。试求转移概率 矩阵。 I {1, 2,..., N }
解 设0 j c
设u j 为质点从 j 出发到达 0 状态先于到达 c 状态的概率。
考虑质点从j出发移动一步后的情况
在以概率 p 移到 j 1 的假设下，
u 到达 0 状态先于到达 c 状态的概率为 j 1
同理 以概率 q 移到 j 1 的前提下，
u 到达 0 状态先于到达 c 状态的概率为 j 1
解 这是一个齐次马氏链，其状态空间为 0 0 I={0，1，2，…，a} 0 1 1 a 1 0 0 a a 一步转移矩阵是 2 a2 0 0 P a a 1 ... ... ... ... a 1 0 ... 0 a 首页 0 ... 0 0
... 0 ... 0 ... 0 ... ... 1 0 a 1 0
E {..., 2, 1,0,1,2,...}
... ... P1 ... ...
首页
... 0 0 ...
... p 0 ...
... r p ...
... q r ...
... 0 q ...
... 0 0 ...
... ... ... ...
5．设袋中有a个球，球为黑色的或白色的，今随 机地从袋中取一个球，然后放回一个不同颜色的 球。若在袋里有k个白球，则称系统处于状态k， 试用马尔可夫链描述这个模型（称为爱伦菲斯特 模型），并求转移概率矩阵。
质点在1，5两点被“吸收”
若 X (n) 表示质点在时刻n所处的位置，求 一步转移概率。
状态空间I={1，2，3，4，5}， 参数集T={1，2，3，………}，
1 其一步转 1 移矩阵为 2 P 0 1 0 0
0 0 1 2 0 0
0 1 2 0 1 2 0
0 0 1 2 0 0
首页
解
（1） 记甲获得“负2分”为状态1，获得 “负1分”为状态2，获得“0分”为状态3， 获得“正1分”为状态4，获得“正2分”为 状态5，则状态空间为
I {1 2，3，4，5} ，
一步转移概率矩阵
1 q P 0 0 0
0 r q 0 0
0 p r q 0
0 0 p r 0
故
r r ua c 1 r
a
c
q a q c ( ) ( ) p p
当
q c 1 ( ) p
r 1
u0 uc 1 cd0
c j uj c
而 因此 故
u j (c j )d0
ca b ua c c
1 6 1 6 1 6 4 6 0 0
1 6 1 6 1 6 1 6 5 6 1
1 6 1 6 1 6 1 6 1 6 0
例1
甲、乙两人进行比赛，设每局比赛中甲胜的概率 是p，乙胜的概率是q，和局的概率是 r ， （ p q r 1 ）。设每局比赛后，胜者记“+1” 分，负者记“—1”分，和局不记分。当两人中有 一人获得2分结束比赛。以 X n 表示比赛至第n 局时甲获得的分数。 （1）写出状态空间； （2）求 P(2) ； （3）问在甲获得1分的情况下，再赛二局可 以结束比赛的概率是多少？
d j u j u j 1
则可得到两个相邻差分间的递推关系
于是
d j rd j 1
d j rd j 1 r d j 2 L r d0
2 j
需讨论 r
首页
当
r 1 c 1 1 u0 uc (u j u j 1 )


j 0
c 1
d j
0 0 0 1 2 1
首页
有两个吸收壁的随机游动
例2．带有反射壁的随机游动
设随机游动的状态空间I = {0，1，2，…}，移动的 规则是： （1）若移动前在0处，则下一步以概率p向右移 动一个单位，以概率q停留在原处（p+q=1）； （2）若移动前在其它点处，则均以概率p向右移 动一个单位，以概率q向左移动一个单位。
首页
由以上计算结果可知
当 r 1 即 p q 时，甲先输光的概率为
q c 1 ( ) p b 当 r 1 即 p q 时， 甲先输光的概率为
用同样的方法可以求得乙先输光的概率
q a q c ( ) ( ) p p
c
q a 当 p q 时，乙输光的概率为1 ( ) p a 当 p q 时，乙先输光的概率为 c
前言：马尔可夫过程的描述分类
例1 直线上带吸收壁的随机游动（醉汉游动）
设一质点在线段[1，5 ]上随机游动，每秒钟发生 一次随机游动，移动的规则是： 1 （1）若移动前在2，3，4处，则均以概率 向左 2 或向右 移动一单位； （2）若移动前在1，5处，则以概率1停留在原处。
1 2 3 4 5
质点在1，5两点被“吸收”
p20 P( X n1 0 | X n 2) P( X n 1 Yn 0 | X n 2) P(Yn 1) 0 p21 P( X n1 1 | X n 2) P( X n 1 Yn 1 | X n 2)
p11 P( X n1 1 | X n 1) P( X n 1 Yn 1 | X n 1) P(Yn 1) p1
q c 1 ( ) p
首页
例3 排队问题 顾客到服务台排队等候服务，在每一个服务周期中只 要服务台前有顾客在等待，就要对排在前面的一位提 供服务，若服务台前无顾客时就不能实施服务。
设在第 n 个服务周期中到达的顾客数为一随机变量 Yn
且诸Yn 独立同分布：
P Yn k ) pk ， k 0,1, 2, L ， （
设 X n 表示在时刻n质点的位置， 则 { X n ， n 0 }是一个齐次马氏链，写出其一步转 移概率。 首页
q
p
q
p
0 左反射壁 1 2 m-1 m 右反射壁
q q 0 P1 ... 0 0
p 0 0 0 ... 0 0 0 0 p 0 0 ... 0 0 0 q 0 p 0 ... 0 0 0 ... ... ... ... ... ... ... ... 0 0 0 0 ... q 0 p 0 0 0 0 ... 0 q p
首页
一步转移概率矩阵的计算
引 例
例1 直线上带吸收壁的随机游动（醉汉游动） 设一质点在线段[1，5 ]上随机游动，每秒钟发生 一次随机游动，移动的规则是： 1 （1）若移动前在2，3，4处，则均以概率 向左 2 或向右 移动一单位； （2）若移动前在1，5处，则以概率1停留在原处。
1 2 3 4 5
P(Yn 0) p0
首页
所以转移矩阵为
p0 p 0 P 0 1 0 L
首页
（3）
在P
(2)
中 p (2) 45 是在甲得 1 分的情况下经二步转移至得 2 分
从而结束比赛的概率；
p (2) 41 是在甲得 1 分的情况下经二步转移至—2 分（即乙得 2 分）
从而结束比赛的概率。 所以题中所求概率为
p (2) 45 + p (2) 41 ( p rp) 0 p(1 r )
若 X (n) 表示质点在时刻n所处的位置，分析它的 概率特性。
例2 直线上的随机游动时的位置X(t),是 无后效性的随机过程.
例3 电话交换台在t时刻前来到的呼叫数X(t), 是无后效性的随机过程.
例4 无 记 忆 性 布朗运动 未来处于某状态的概率特性只与现在状态 有关，而与以前的状态无关，这种特性叫 无记忆性（无后效性）。
X n 1 Yn , X n1 Yn , 若 Xn 1
p
k
k
1
记 X n 为服务周期 n 开始时服务台前顾客数 则有 在第n周期已有一个
若 Xn 0
顾客在服务，到第n+1 周期已服务完毕
此时{ X n ，n 1 }为一马氏链， 求其转移矩阵
解
先求出转移概率
p00 P( X1 0 | X 0 0) P(Y0 0) p0
首页
首页
例2 赌徒输光问题 赌徒甲有资本a元，赌徒乙有资本b元，两人进行 赌博，每赌一局输者给赢者1元，没有和局，直 赌至两人中有一人输光为止。设在每一局中，甲 获胜的概率为p，乙获胜的概率为 q 1 p ， 求甲输光的概率。 分 析 这个问题实质上是带有两个吸收壁的随机游动。从 甲的角度看，他初始时刻处于a，每次移动一格，向 右移（即赢1元）的概率为p，向左移（即输1元）的 概率为q。如果一旦到达0（即甲输光）或a + b（即 乙输光）这个游动就停止。这时的状态空间为{0，1， 2，…，c}，c = a + b，。现在的问题是求质点从a出 发到达0状态先于到达c状态的概率。