随机过程第五章(下)

合集下载

随机过程课程第五章平稳过程

（1）均值函数为常数： m(t) E[X (t)] m
（2）相关函数仅是时间差 t1 t2 的函数：
记
B( ) R(t1,t2 )
证只对连续型的情况
m(t) E[ X (t)] xf (t；x)dx
xf (x)dx m
首页
R(t1,t2 ) E[ X (t1) X (t2 )]
而与时间起点无关。
证
首页
一对维任意的，必有 f (t；x) f (t ；x) 若令 t ，得
f (t；x) f (0；x) f (x) 即一维概率密度 f (t；x) 与 t 无关。
同理有一维分布函数也与t无关，
即 F(t；x) F(0；x)
证二维对于二维概率密度，有
f (t1,t2；x1, x2 ) f (t1 ,t2 ；x1, x2 )
首页
返回
第三节平稳正态过程与正交增量过程
一、平稳正态过程
定义1 若正态随机过程{ X (t) ,t (,) }，满足
E[X (t)] m
R(t1,t2 ) E[ X (t1) X (t2 )] B( )
则称 X (t)为平稳正态过程。
t1 t2
注平稳正态过程一定是严平稳过程。
证
由于
第五章平稳过程
第一节基本概念第二节平稳过程相关函数的性质第三节平稳正态过程与正交增量过程第四节遍历性定理
第一节基本概念
一、严平稳过程
定义1 设随机过程{ X (t) ,t T }，若对任意n，任意 t1，t2 , , tn T t1 t2 tn 当t1 ，t2 ，…，tn T 时，有 F (t1, t2 , , tn；x1, x2 , , xn ) P{X (t1） x1, X (t2 ) x2 , , X (tn ) xn )}

随机信号分析_第五章_窄带随机过程

定义复指数函数： ~s (t) ae j (t) ae j e j0t a~e j0t 式中 a~ ae j ，称为复包络。可以看出s(t)是~s (t) 的实部，即：
s(t) Re[~s (t)]
某些情况下，用复指数形式来分析问题更加简便，可以简化信号和滤波器的分析。
复信号~s (t) 的频谱为：
1. s(t) Re[~s (t)]
2.
X~ (
)
2 0
X
(
)
0 0
式中X~ ( )为~s (t)的频谱。
可以证明：满足上面要求的 ~s (t) 是存在的，称为解析信号。把它用解析表达式表示为：~s (t) s(t) jsˆ(t)
可以推导出： sˆ(t)
1
s( ) d
t
上式称为希尔伯特(Hilbert)变换，记做
0
ω ω0-ωc ω0 ω0+ωc
|X~H(ω)|
0
ω0-ωc ω0 ω0+ωc
ω
2. 复指数表示
设s(t)为窄带信号，其频谱为X(ω) 。定义窄带信号s(t)的复指数函数 ~se (t) 为：
~se (t) A(t)e j[0t (t)] A~(t)e j0t 其中A~(t)＝A(t)e j (t) sc (t) jss (t)
用复数表示为：
s(t)=acosφ(t)=a[ejφ(t)+ e-jφ(t)]/2
因为 e j0t ( 0 )
所以s(t)的频谱为：
X(ω)= a[ejθδ(ω-ω0)+e-jθδ(ω+ω0)]/2 |X(ω)|= a[δ(ω-ω0)+δ(ω+ω0)]/2 说明正弦型信号包含正负两种频率成分，其频谱为对称的两根单一谱线。

随机过程-第五章-连续时间的马尔可夫链

第五章连续时间的马尔可夫链5.1连续时间的马尔可夫链考虑取非负整数值的连续时间随机过程}.0),({≥t t X定义5.1 设随机过程}.0),({≥t t X ,状态空间}0,{≥=n i I n ,若对任意121...0+<<<≤n t t t 及I i i i n ∈+121,...,,有})(,...)(,)()({221111n n n n i t X i t X i t X i t X P ====++=})()({11n n n n i t X i t X P ==++ (5.1) 则称}.0),({≥t t X 为连续时间马尔可夫链.由定义知,连续时间马尔可夫链是具有马尔可夫性的随机过程,即过程在已知现在时刻n t 及一切过去时刻所处状态的条件下,将来时刻1+n t 的状态只依赖于现在状态而与过去无关.记(5.1)式条件概率一般形式为),(})()({t s p i s X j t s X P ij ===+ (5.2) 它表示系统在s 时刻处于状态i,经过时间t 后转移到状态j 的转移概率.定义5.2 若(5.2)式的转移概率与s 无关,则称连续时间马尔可夫链具有平稳的或齐次的转移概率,此时转移概率简记为 ),(),(t p t s p ij ij =其转移概率矩阵简记为).0,,()),(()(≥∈=t I j i t p t P ij以下的讨论均假定我们所考虑的连续时间马尔可夫链都具有齐次转移概率.简称为齐次马尔可夫过程.假设在某时刻,比如说时刻0,马尔可夫链进入状态i,而且接下来的s 个单位时间单位中过程未离开状态i,(即未发生转移),问随后的t 个单位时间中过程仍不离开状态i 的概率是多少呢?由马尔可夫我们知道,过程在时刻s 处于状态i 条件下,在区间[s,s+t]中仍然处于i 的概率正是它处于i 至少t 个单位的无条件概率..若记i h 为记过程在转移到另一个状态之前停留在状态i 的时间,则对一切s,t 0≥有},{}{t h P s h t s h P i i i >=>+>可见,随机变量i h 具有无记忆性,因此i h 服从指数分布.由此可见,一个连续时间马尔可夫链,每当它进入状态i,具有如下性质: (1) 在转移到另一状态之前处于状态i 的时间服从参数为i v 的指数分布;(2) 当过程离开状态i 时,接着以概率ij p 进行状态j,1=∑≠ij ij p .上述性质也是我们构造连续时间马尔可夫链的一种方法.当∞=i v 时,称状态i 为瞬时状态,因为过程一旦进入此状态立即就离开.0=i v 时,称状态i 为吸收状态,因为过程一旦进入状态就永远不再离开了.尽管瞬时状态在理论上是可能的,但以后假设对一切i, ∞<≤i v 0.因此,实际上一个连续时间的马尔可夫链是一个这样的随机过程,它按照一个离散时间的马尔可夫链从一个状态转移到另一个状态,但在转移到下一个状态之前,它在各个状态停留的时间服从指数分布.此外在状态i 过程停留的时间与下一个到达的状态必须是相互独立的随机变量.因此下一个到达的状态依赖于i h ,那么过程处于状态i 已有多久的信息与一个状态的预报有关,这与马尔可夫性的假定相矛盾.定理5.1 齐次马尔可夫过程的转移概率具有下列性质:;0)1(≥ij p (2);1=∑∈ij Ij p(3) ∑∈=+Ik kj ik ij s p t p s t p )()()(.其中(3)式即为连续时间齐次马尔可夫链的切普曼—柯尔哥洛夫方程. 证明只证(3).由全概率公式及马尔可夫性可得 ===+=+)})0()({)(i X j s t X P s t p ij =∑∈===+Ik i X k t X j s t X P })0()(,)({=})()({})0()({k t X j s t X P i X k t X P Ik ==+==∑∈∑∈=Ik kj ik s p t p )()(.对于转移概率)(t p ij ,一般还假定它满足:⎩⎨⎧≠==→.,0,1)(lim 0j i ji t p ij t(5.3)称(5.3)式为正则条件.正则条件说明,过程刚进入某状态不可能立即又跳跃到另一状态.这正好说明一个物理系统要在有限时间内发生限多次跳跃,从而消耗无穷多的能量这是不可能的.定义5.3 对于任一0≥t 记 },)({)(j t X P t p j ==,},)0({)0(I j j X P p p j j ∈===分别称}{},),({,I j p I j t p j j ∈∈ 齐次马尔可夫过程的绝对概率分布和初始概率分布.定理5.2齐次马尔可夫过程的绝对概率及有限维概率分布具有下列性质: (1) ,0)(≥t p j (2),1)(=∑∈t p j Ij(3) )()(t p p t p ij Ii i j ∑∈=;(4) );()()(h p t p h t p ij Ii i j ∑∈=+(5)).()...(})(,...,)({112111211-∈--====-∑n n i i i i ii Ii i n n t t p t t p p p i t X i t X p n n例5.1试证明泊松过程}0),({≥t t X 为连续时间齐次马尔可夫链. 证明先证泊松过程具有马尔可夫性,再证明齐次性.由泊松过程的定义它是独立增量过程,且X(0)=0.11,...0+<<<n n t t t ,有})(,...,)()({1111n n n n i t X i t X i t X P ===++= ,.)0()()()({1111i X t X i i t X t X P n n n n =--==-++ =,111212)()(,...)()(---=--=-n n n n i i t X t X i i t X t X } = })()({11n n n n i i t X t X P -=-++ . 另一方面,因为})()({11n n n n i t X i t X P ==++=})0()()()({11n n n n n n i X t X i i t X t X P =--=-++ =})()({11n n n n i i t X t X P -=-++所以})(,...,)()({1111n n n n i t X i t X i t X P ===++=})()({11n n n n i t X i t X P ==++. 即泊松过程是一个连续时间马尔可夫过程.以下证明齐次性. 当i j ≥ 时,由泊松过程的定义})()({i s X j t s X P ==+= })()({i j s X t s X P -=-+=)!()(i j t eij t---λλ j<i.时,由于过程的增量只取非负整数,故,0),(=t s p ij 所以⎪⎩⎪⎨⎧<≥-==--i j ij i j t e t p t s p i j t ij ij ,0,)!()()(),(λλ, 即转移概率只与t 有关,泊松过程具有齐次性.5.2柯尔莫哥洛夫微分方程对于连续时间齐次马尔可夫链转移概率)(t p ij 的求解一般比较复杂.下面首先讨论)(t p ij 的可微性及)(t p ij 满足的柯尔莫哥洛夫微分程.引理5.1 设齐次马尔可夫过程满足正则性条件(5.3),则对于任意固定的)(,,t p I j i ij ∈是t 的一致连续函数.证明设h>0,由定理5.1得)()()()()(t p t p h p t p h t p ij rj Ir ir ij ij -=-+∑∈)()()()()(t p t p h p t p h p ij ij ii rj ir ir -+=∑≠=)()](1[)()(t p h p t p h p ij ii rj ir ir --=∑≠故有)],(1[)()](1[)()(h p t p h p t p h t p ii ij ii ij ij --≥--=-+ ),(1)()()()()(h p h p t p h p t p h t p ii ir ir rj ir ir ij ij -=≤≤-+∑∑≠≠因此).(1)()(h p t p h t p ii ij ij -≤-+对于h<0,同样有).(1)()(h p t p h t p ii ij ij --≤-+ 综上所述得到).(1)()(h p t p h t p ii ij ij -≤-+ 由正则性条件知,0)()(lim 0=-+→t p h t p ij ij h 即)(t p ij 关于t 是一致连续的.以下我们恒设齐次马尔可夫过程满足正则性条件(5.3)式.定理5.3 设)(t p ij 是齐次马尔可夫过程的转移概率,则下列极限存在 (1);)(1lim 0∞≤==∆∆-→∆ii i ii t q v t t p (2).,)(lim 0j i q tt p ij ij t ≠∞<=∆∆→∆我们称ij q 为齐次马尔可夫过程从状态i 到状态j 的转移概率或跳跃强度.定理中的极限的概率意义为:在长为t ∆的时间区间内,过程从状态i 转移到另一其他状态的转移概率为)(1t p ii ∆-等于t q ii ∆加一个比t ∆高阶的无穷小量,而过程从状态i 转移到状态j 的转移概率为)(t p ij ∆等于t q ij ∆加一个比t ∆高阶的无穷小量. 推论对有限齐次马尔可夫过程,有 ∞<=∑≠ij ij ii q q证明由定理5.1 ,有)()(1,1)(t p t p t pij ij ii Ij ij∆=∆-=∆∑∑≠∈由于求和是在有限集中进行,故有.)(lim )(1lim 00∑∑≠≠→∆→∆=∆∆=∆∆-=ij ij ij i j t ii t ii q t t p t t p q (5.4)对于状态空间无限的齐次马尔可夫过程,一般只有 ∑≠≥ij ij ii q q .若连续时间齐次马尔可夫是具有有限状态空间I={0,1,2,…,n},则其转移速率构成以下形式的矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---=nn n n n n q q q q q qq q q Q .....................11111000100 (5.5) 由(5.4)式知,Q 矩阵的每一行元素之和为0,对角线元素为负或0,其余.0,≥ij q 利用Q 矩阵可以推出任意时间间隔t 的转移概率所满足的方法组,从而可以求解转移概率.由切普曼---柯尔莫哥洛夫方程有 ),()()(t p h p h t p Ik kj ik ij ∑∈=+或等价地)()](1[)()()()(t p h p t p h p t p h t p ij ii kj ik ik ij ij --=-+∑≠两边除以h 后令0→h 取极限,应用定理5.3得到 )()()(lim )()(lim 00t p q t p hh p ht p h t p ij ii kj ik ik h ij ij h -=-+∑≠→→ (5.6) 假定在(5.6)式的右边可交换极限与求和,再运用定理5.3,于是得到以下结论: 定理5.4 (柯尔莫哥洛夫向后方程)假设,ii ik ik q q =∑≠则对一切i,j 及0≥t ,有,)()(ij ii ik kj ik ijp q t p q t p -='∑≠ (5.7) 证明只要证明(5.6)式右边极限与求和可交换次序.现在对于任意固定的N,有≥∑≠→)()(inflim 0t p hh p kj ik ik h )()()(inf lim ,,0t p q t p h h p kj Nk i k ik kj Nk i k ik h ∑∑<≠<≠→= 因为上式对一切N 成立,所以)()()(inflim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≥ (5.8) 为了倒转不等式,注意对于N>i,由于,1)(≤t p kj 所以 ≤∑≠→)()(sup lim ,0t p hh p kj i k ik h ≤+≤∑∑≥<≠→])()()(sup[lim ,0Nk ik kj Nk i k ik h h h p t p h h p ≤--+≤∑∑<≠<≠→])()(1)()(sup[lim ,,0Nk i k ik ii kj Nk i k ik h h h p h h p t p h h p ,)(,,∑∑<≠<≠-+≤Nk i k ikii kj Nk i k ikqq t p q令∞→N ,由定理5.3和条件得)()()(sup lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≤. 上式连同(5.8)可得 )()()(lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→=.定理5.4中)(t p ij 满足的微分方程组以柯尔莫可洛夫向后方程著称.称它们为向后方程,是因为在计算时刻t+h 的状态的概率分布时我们对退后到时刻h 的状态取条件,即我们从)()(})0()({..})(,)0()({)(h p t p i X k h X P k h X i X j h t X P h t p ik Ik kj Ik ij ∑∑∈∈======+=+开始计算.对时刻t 的状态取条件,我们可以导出另一组方程,称为柯尔莫哥洛夫向前方程.可得),()()(h p t p h t p kj Ik ik ij ∑∈=+)()()()()(t p h p t p t p h t p ij kj Ik ik ij ij -=-+∑∈=)()](1[)()(t p h p h p t p ij jj kj jk ik --=∑≠,所以 )}.()(1)()({lim )()(lim 00t p h h p h h p t p ht p h t p ij jj kj jk ik h ij ij h --=-+∑≠→→假定我们能交换极限与求和,则由定理5.3便得到),()()(t p q q t p t p ij ii jk kj ik ij-='∑≠ 令人遗憾的是上述极限与求和的交换不是恒成立,所以上式并非总是成立.然而在大多数模型中----包括全部生灭过程与全部有限状态的模型,它们是成立的. 定理5.5(柯尔莫哥洛夫向前方程) 在适当的正则条件下,,)()()(jj ij kj ik ik ijq t p q t p t p -='∑≠ (5.9) 利用方程组(5.7)或(5.9)及初始条件 .,0)0(,1)0(j i p p ij ii ≠==我们可以解得)(t p ij .柯尔莫哥洛夫向后和向前方程虽然形式不同,但是可以证明它们所求得的解)(t p ij 是相同的.在实际应用中,当固定最后所处状态j,研究)(t p ij 时(i=0,1,2,…,n),采用向后方程比较方便;当固定状态i,研究)(t p ij 时(j=0,1,2,…,),则采用向前方程较方便.向后方程和向前方程可以写成矩阵形式),()(t QP t P =' (5.10) ,)()(Q t P t P =' (5.11) 其中⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---= (222120121110)020100q q q q q qq q q Q ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=............ (222120121110)020100p p p p p pp p p P 这样,连续时间马尔可夫链的转移概率的求解问题就是矩阵微分方程的求解问题,其转移概率由其转移速率矩阵Q 决定.特别地,若Q 是一个有限维矩阵,则(5.10)和(5.11)的解为 .!)()(0∑∞===j jQtj Qt et P定理5.6 .齐次马尔可夫过程在t 时刻处于状态I j ∈的绝对概率)(t p j 满足下列方程:.)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' (5.12)证明由定理5.2,有)()(t p p t p ij Ii i j ∑∈=t将向前方程(5.9)式两边乘以,i p 并对i 求和得.)())(()(kj jk ikiIi jj ijiIi ijIi iq t pp q t pp t p p ∑∑∑∑≠∈∈∈+-='故 .)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' .与离散马尔可夫链类似,我们讨论转移概率 )(t p ij 当 ∞→t 时的极限分布与平稳分布的有限性质.定义5.4 设)(t p ij 为连续时间马尔可夫链的转移概率,若存在时刻 21,t t ,使得 ,0)(1>t p ij ,0)(2>t p ij则称状态i 和j 是互通的.若所有状态都是互通的,则称此马尔可夫链为不可约的.定理5.7 设连续时间的马尔可夫是不可约的,则有下列性质:(1) 若它是正常返的,则极限)(lim t p ij t ∞→存在且等于.,0I j j ∈>π这里.,0I j j ∈>π是方程组1,==∑∑∈≠Ij j kj jk k jj j q q πππ (5.13)的唯一非负解.此时称.,0{I j j ∈>π是该过程的平稳分布,并且有 .)(lim j j t t p π=∞→ (2) 若它是零常返的或非常返的,则.,,0)(lim )(lim I j i t p t p j t ij t ∈==∞→∞→在实际问题中,有些问题可以用柯尔莫哥洛夫方程直接求解,有些问题虽然不能求解但是可以用方程(5.13)求解.例5.2 考虑两个状态的连续时间马尔可夫链,在转移到状态1之前链在状态0停留的时间是参数为λ的指数变量,而在回到状态0之前它停留在状态1的时间是参数为μ的指数变量,显然该链是一个齐次马尔可夫过程,其状态转移概率为 ),()(01h o h h p +=λ),()(10h o h h p +=μ由定理5.3知由柯尔莫哥洛夫向前方程得到)()()(000100t p t p t p λμ-='=,)()(00μμλ++-t p 其中最后一个等式来自).(1)(0001t p t p -=因为,1)0(00=p 由常数变易法得 ,)()(00t e t p μλμλλμλμ+-+++=若记,,00μλμμμλλλ+=+=则,)()(0000t e t p μλλμ+-+=类似地由向前方程)()()(010001t p t p t p μλ-=' ,)()(lim )(1lim 1001010011011q h p dhdhh p h h p q h h h ====-==→→μ,)()(lim )(1lim 0100101000000q h p dhdhh p h h p q h h h ====-==→→λ可解得 ,)()(0001t e t p μλλλ+--= 由对称性知,)()(0011t e t p μλμλ+-+= ,)()(0010t e t p μλμμ+--= 转移概率的极限为),(lim )(lim 10000t p t p t t ∞→∞→==μ),(lim )(lim 11001t p t p t t ∞→∞→==λ 由此可见,当∞→t 时, )(t p ij 的极限存在且与i 无关.定理5.6知,平稳分布为 0100,λπμπ== 若取初始分布为平稳分布,即,}0)0({00μ===p X P ,}1)0({01λ===p X P 则过程在时刻t 的绝对概率分布为 )()()(1010000t p p t p p t p +==0)(000)(00]1[][μμλμλμμλμλ=-+++-+-t t e e=0)(000)(00][]1[λμλλλμμλμλ=++-+-+-t t e e .例5.3 机器维修问题.设例5.2中状态0代表某机器正常工作状态1代表机器出故障.状态转移概率与例5.2相同,即在h 时间内,机器从正常工作变为出故障的概率为),()(01h o h h p +=λ在h 时间内,机器从有故障变为经修复后正常工作的概率为),()(10h o h h p +=μ试求在t=0时正常工作的机器,在t=5时为正常工作的概率. 解由例5.2已求得该过程的Q 矩阵为⎪⎪⎭⎫⎝⎛--=μμλλQ .根据题意,要求机器最后所处的状态为正常工作,只需计算)(00t p 即可. 由例5.2知,)()(0000t e t p μλλμ+-+=,,00μλμμμλλλ+=+=故 ,)5(5)(0000μλλμ+-+=e p 因为P{X(0)=0}=1=,0p 所以)()()(1010101t p p t p p t p +=====)5()5(}0)5({0000p p p X P .)5(5)(0000μλλμ+-+=e p5.3 生灭过程连续时间马尔可夫链的一类重要特殊情形是生灭过程,它的特征是在很短的时间内,系统的状态只能从状态i 转移到状态i-1或i+1或保持不变,确切定义如下. 定义5.5 设齐次马尔可夫过程}0),({≥t t X 的状态空间为I={0,1,2,…},转移概率为)(t p ij ,如果,0),()(1,>+=+i i i i h o h h p λλ,0,0),()(01,=>+=-μμμi i i i h o h h p),()(1)(,h o h h p i i i i ++-=μλ则称 }0),({≥t t X 为生灭过程,i λ为出生率, i μ为死亡率.若,λλi i =μλμμ,(,i i =是正常数),则称}0),({≥t t X 为线性生灭过程. 若0≡i μ,则称}0),({≥t t X 为纯生过程. 若0≡i λ,则称}0),({≥t t X 为纯灭过程. 生灭过程可作如下概率解释:若以X(t)表示一个生物群体在t 时刻的大小,则在很短的时间h 内(不计高阶无穷小),群体变化有三种可能,状态由i 变到i+1,即增加一个个体,其概率为h i λ;.状态由i 变到i-1,即减少一个个体,.其概率为h i μ;群体大小保持不变,其概率为.)(1h i i μλ+-由定理5.3得到,0,)()(,0≥+=-==i h p dhd t q i i h ii ii μλ ⎩⎨⎧≥-=≥+====,1,1,,0,1,)()(0i i j i i j h p dh d t q ii h ij ij μλ ,2,0≥-=j i q ij故柯尔莫哥洛夫向前方程为.,),()()()()(1,11,1I j i t p t p t p t p j i j ij j j j i j ij∈++-='++--μμλλ 故柯尔莫哥洛夫向后方程为.,),()()()()(,11,I j i t p t p t p t p j i i ij j j j i i ij∈++-='+-λμλμ 因为上述方程组的求解较为困难,我们讨论其平稳分布.由(5.13)式,有 ,2),()(,≥-=j i h o h p j i,1100πμπλ=.1,)(1111≥+=+++--j j j j j j j j πμπλπμλ逐步递推得,0101πμλπ=…, ,11--=j jj j πμλπ 再利用11=∑∞=j j π,得平稳分布,11211100)......1(-∞=-∑+=j j j μμμλλλπ, 112111021110)......1(......-∞=--∑+=j jj j j j μμμλλλμμμλλλπ 例5.4 生灭过程例子M/M/S 排队系统.假设顾客按照参数为λ的泊松过程来到一个有s 个服务员的服务站,即相继来到之间的时间是均值为λ1的独立指数随机变量,每一个顾客一来到,如果有服务员空闲,则直接进行服务,否则此顾客加入排队系列.当一个服务员结束对一位顾客的服务时顾客就离开服务系统,排队中的下一顾客进入服务. 假定相继的服务时间是独立的指数随机变量,均值为μ1.如果我们以X(t)记时刻t 系统中的人数,则}0),({≥t t X 是生灭过程⎩⎨⎧>≤≤=,,,1,s n s s n n n μμμ .0,≥=n n λλM/M/s 排队系统中M 表示马尔可夫过程,s 代表s 个服务员.特别在M/M/1排队系统中,μμλλ==n n ,,若1<μλ,则由(5.14)可得 .0),1()()(1)(1≥-=+=∑∞=n n n nnn μλμλμλμλπ。

第五章连续时间马尔可夫链-随机过程

二、连续时间马尔可夫链的状态逗留时间和转移速率命题以 i 记过程在转移到另一状态之前停留在状态 i 的时间，则对一切 s，t0 有 P{ i t s | i s} P{ i t } ，因此，随机变量 i 是无记忆的必有指数分布，其参数设为 v i
证明： P{ i t s | i s}
P{T1 t } 1 e t
P{T1 T2 t } P{T1 T2 t | T1 x } e t dx
0 t
= (1 e 2 ( t x ) ) e x dx (1 e t )2
0
t
P{T1 T2 T3 t } P{T1 T2 T3 t | T1 T2 x }dFT1 T2 ( x )
i 1 n
其中 f 是密度函数(5.3.2)
e (t x) ,0 x t f ( x) 1 et 0, 其它
但因为(5.3.1)是 n 个密度为 f 的随机变量的子样 Y1,Y2,, Yn 的顺序统计量 Y(1),Y(2),, Y(n)的联合密度函数。于是得命题 5.3.1 一个尤尔过程，其 X(0)=1，则给定 X(t)=n+1 时，出生时刻 S1,S2,, Sn 的分布如同取自密度为(5.3.2)的母体的容量为 n 的子样 Y1,Y2,, Yn 的顺序统计量 Y(1),Y(2),, Y(n)的分布。
0 1 2 3
…Байду номын сангаас
n
n

2
3
… (n 1)
若对一切 n， n 0 (即若死亡是不可能的)，则生灭过程称为纯生过程，i 个个体开始的纯生过程，生长率为 n , n i 。

刘次华随机过程第五章

i∈ I
1 1 2
i∈I
i
ij
(t )
i∈I
n−1i n
(t n − t n −1 )
5.1 连续时间马尔可夫链
例5.1 证明泊松过程{X(t), t≥0}为连续时间齐次马尔可夫链。证明：先证泊松过程的马尔可夫性。证明：泊松过程是独立增量过程，且X(0)=0，对任意0<t1< t2<…< tn< tn+1有
j ≠i
1 − pii (∆t ) qii = lim = lim ∆t →0 ∆t →0 ∆t 注：一般而言qii
∑p
j ≠i
ij
(∆t )
∆t
= ∑ qij
j ≠i
∑q
j ≠i
ij
5.2 柯尔莫哥洛夫微分方程
若连续时间齐次马尔可夫链具有有限状态空间I={0,1,2,…,n}, 则
⎛ − q00 ⎜ ⎜ q10 Q= ⎜ ⎜ ⎜ q ⎝ n0 q01 − q11 qn1 q0 n ⎞ ⎛ Q1 ⎞ ⎟ ⎜ ⎟ q1n ⎟ ⎜ Q2 ⎟ = ⎟ ⎜ ⎟ ⎟ ⎜ ⎟ ⎟ ⎜ ⎟ − qnn ⎠ ⎝ Qn ⎠
5.1 连续时间马尔可夫链
定义5.2 齐次转移概率 pij(s,t)=pij(t) (与起始时刻s无关，只与时间间隔t有关) 转移概率矩阵P(t)=(pij(t)) ，i,j∈I，t ≥0 命题：若τi为过程在状态转移之前停留在命题：状态i的时间，则对s, t≥0有 (1) P{τ i > s + t | τ i > s} = P{τ i > t} (2) τi 服从指数分布证(1) 事实上
5.1 连续时间马尔可夫链
过程在状态转移之前处于状态i的时间τi服从指数分布 Fτ i ( x ) = 1 − e − λi x F (1)当λi=+∞时， τ ( x ) = 1, P{τ i > x} = 1 − Fτ ( x ) = 0, 状态i的停留时间τi 超过x的概率为0，则称状态i为瞬时状态； F (2)当λi=0时，τ ( x ) = 0, P{τ i > x} = 1 − Fτ ( x ) = 1, 状态i的停留时间τi 超过x的概率为1，则称状态i为吸收状态。

第五章随机过程中的马尔可夫过程

p(k m) ij
(n)

p(k il
)
(n)
p(m lj
)
(n

k
),
i, j S,
n, k, m 0
l
或
P(km) (n) P(k) (n)P(m) (n k)
证明
2006年9月
p(k ij
m)
(n)

P{X
nk
m

j|
Xn
i}
P{U( X nk l), X nkm j | X n i} l
i
P( X 0 i)P( Xt1 i1 | X 0 i)P( X t2 i2 | X 0 i, X t1 i1)L i
• P( X tn in | X 0 i, X t1 i1, X t2 i2 ,L , X tn1 in1)
P( X 0 i)P( X t1 i1 | X 0 i)P( X t2 i2 | X 0 i)P( X tn in | X tn1 in1)
i

qi0
pt1 ii1

(0)
pt2 i1i2
t1

(t1
)L
p (t ) tn tn1
in1in
n1
i
2006年9月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
3) 绝对分布
称q(jn) P(Xn j), n 0, j S为马尔可夫链{Xn，n 0}的绝对分布。
2006年9月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
一种最简单的形式:
P{X (t1) i1, X (t2 ) i2,L , X (tn1) in1, X (tn ) in} P{X (t1) i1}P{X (t2) i2}L P{X (tn ) in}

随机过程第五章连续时间的马尔可夫链

第五章连续时间的马尔可夫链5.1连续时间的马尔可夫链考虑取非负整数值的连续时间随机过程}.0),({≥t t X定义5.1 设随机过程}.0),({≥t t X ,状态空间}0,{≥=n i I n ,若对任意121...0+<<<≤n t t t 及I i i i n ∈+121,...,,有})(,...)(,)()({221111n n n n i t X i t X i t X i t X P ====++=})()({11n n n n i t X i t X P ==++ (5.1) 则称}.0),({≥t t X 为连续时间马尔可夫链.由定义知,连续时间马尔可夫链是具有马尔可夫性的随机过程,即过程在已知现在时刻n t 及一切过去时刻所处状态的条件下,将来时刻1+n t 的状态只依赖于现在状态而与过去无关.记(5.1)式条件概率一般形式为),(})()({t s p i s X j t s X P ij ===+ (5.2) 它表示系统在s 时刻处于状态i,经过时间t 后转移到状态j 的转移概率. 定义5.2 若(5.2)式的转移概率与s 无关,则称连续时间马尔可夫链具有平稳的或齐次的转移概率,此时转移概率简记为 ),(),(t p t s p ij ij =其转移概率矩阵简记为).0,,()),(()(≥∈=t I j i t p t P ij以下的讨论均假定我们所考虑的连续时间马尔可夫链都具有齐次转移概率.简称为齐次马尔可夫过程.假设在某时刻,比如说时刻0,马尔可夫链进入状态i,而且接下来的s 个单位时间单位中过程未离开状态i,(即未发生转移),问随后的t 个单位时间中过程仍不离开状态i 的概率是多少呢?由马尔可夫我们知道,过程在时刻s 处于状态i 条件下,在区间[s,s+t]中仍然处于i 的概率正是它处于i 至少t 个单位的无条件概率..若记i h 为记过程在转移到另一个状态之前停留在状态i 的时间,则对一切s,t 0≥有},{}{t h P s h t s h P i i i >=>+>可见,随机变量i h 具有无记忆性,因此i h 服从指数分布.由此可见,一个连续时间马尔可夫链,每当它进入状态i,具有如下性质: (1) 在转移到另一状态之前处于状态i 的时间服从参数为i v 的指数分布; (2) 当过程离开状态i 时,接着以概率ij p 进行状态j,1=∑≠ij ij p .上述性质也是我们构造连续时间马尔可夫链的一种方法.当∞=i v 时,称状态i 为瞬时状态,因为过程一旦进入此状态立即就离开.0=i v 时,称状态i 为吸收状态,因为过程一旦进入状态就永远不再离开了.尽管瞬时状态在理论上是可能的,但以后假设对一切i, ∞<≤i v 0.因此,实际上一个连续时间的马尔可夫链是一个这样的随机过程,它按照一个离散时间的马尔可夫链从一个状态转移到另一个状态,但在转移到下一个状态之前,它在各个状态停留的时间服从指数分布.此外在状态i 过程停留的时间与下一个到达的状态必须是相互独立的随机变量.因此下一个到达的状态依赖于i h ,那么过程处于状态i 已有多久的信息与一个状态的预报有关,这与马尔可夫性的假定相矛盾.定理5.1 齐次马尔可夫过程的转移概率具有下列性质: ;0)1(≥ij p (2);1=∑∈ij Ij p(3) ∑∈=+Ik kj ik ij s p t p s t p )()()(.其中(3)式即为连续时间齐次马尔可夫链的切普曼—柯尔哥洛夫方程.证明只证(3).由全概率公式及马尔可夫性可得 ===+=+)})0()({)(i X j s t X P s t p ij =∑∈===+Ik i X k t X j s t X P })0()(,)({=})()({})0()({k t X j s t X P i X k t X P Ik ==+==∑∈∑∈=Ik kj ik s p t p )()(.对于转移概率)(t p ij ,一般还假定它满足: ⎩⎨⎧≠==→.,0,1)(lim 0j i ji t p ij t (5.3) 称(5.3)式为正则条件.正则条件说明,过程刚进入某状态不可能立即又跳跃到另一状态.这正好说明一个物理系统要在有限时间内发生限多次跳跃,从而消耗无穷多的能量这是不可能的.定义5.3 对于任一0≥t 记 },)({)(j t X P t p j ==,},)0({)0(I j j X P p p j j ∈===分别称}{},),({,I j p I j t p j j ∈∈ 齐次马尔可夫过程的绝对概率分布和初始概率分布.定理5.2齐次马尔可夫过程的绝对概率及有限维概率分布具有下列性质: (1) ,0)(≥t p j (2),1)(=∑∈t p j Ij(3) )()(t p p t p ij Ii i j ∑∈=;(4) );()()(h p t p h t p ij Ii i j ∑∈=+(5)).()...(})(,...,)({112111211-∈--====-∑n n i i i i ii Ii i n n t t p t t p p p i t X i t X p n n例5.1试证明泊松过程}0),({≥t t X 为连续时间齐次马尔可夫链. 证明先证泊松过程具有马尔可夫性,再证明齐次性.由泊松过程的定义它是独立增量过程,且X(0)=0.11,...0+<<<n n t t t ,有})(,...,)()({1111n n n n i t X i t X i t X P ===++= ,.)0()()()({1111i X t X i i t X t X P n n n n =--==-++ =,111212)()(,...)()(---=--=-n n n n i i t X t X i i t X t X } = })()({11n n n n i i t X t X P -=-++ . 另一方面,因为})()({11n n n n i t X i t X P ==++=})0()()()({11n n n n n n i X t X i i t X t X P =--=-++ =})()({11n n n n i i t X t X P -=-++所以})(,...,)()({1111n n n n i t X i t X i t X P ===++=})()({11n n n n i t X i t X P ==++. 即泊松过程是一个连续时间马尔可夫过程.以下证明齐次性. 当i j ≥ 时,由泊松过程的定义})()({i s X j t s X P ==+= })()({i j s X t s X P -=-+=)!()(i j t eij t---λλ j<i.时,由于过程的增量只取非负整数,故,0),(=t s p ij 所以⎪⎩⎪⎨⎧<≥-==--i j ij i j t e t p t s p i j t ij ij ,0,)!()()(),(λλ, 即转移概率只与t 有关,泊松过程具有齐次性. 5.2柯尔莫哥洛夫微分方程对于连续时间齐次马尔可夫链转移概率)(t p ij 的求解一般比较复杂.下面首先讨论)(t p ij 的可微性及)(t p ij 满足的柯尔莫哥洛夫微分程.引理5.1 设齐次马尔可夫过程满足正则性条件(5.3),则对于任意固定的)(,,t p I j i ij ∈是t 的一致连续函数.证明设h>0,由定理5.1得)()()()()(t p t p h p t p h t p ij rj Ir ir ij ij -=-+∑∈)()()()()(t p t p h p t p h p ij ij ii rj ir ir -+=∑≠=)()](1[)()(t p h p t p h p ij ii rj ir ir --=∑≠故有)],(1[)()](1[)()(h p t p h p t p h t p ii ij ii ij ij --≥--=-+ ),(1)()()()()(h p h p t p h p t p h t p ii ir ir rj ir ir ij ij -=≤≤-+∑∑≠≠因此).(1)()(h p t p h t p ii ij ij -≤-+对于h<0,同样有).(1)()(h p t p h t p ii ij ij --≤-+ 综上所述得到).(1)()(h p t p h t p ii ij ij -≤-+ 由正则性条件知,0)()(lim 0=-+→t p h t p ij ij h即)(t p ij 关于t 是一致连续的.以下我们恒设齐次马尔可夫过程满足正则性条件(5.3)式.定理5.3 设)(t p ij 是齐次马尔可夫过程的转移概率,则下列极限存在 (1);)(1lim 0∞≤==∆∆-→∆ii i ii t q v t t p (2).,)(lim 0j i q tt p ij ij t ≠∞<=∆∆→∆我们称ij q 为齐次马尔可夫过程从状态i 到状态j 的转移概率或跳跃强度.定理中的极限的概率意义为:在长为t ∆的时间区间内,过程从状态i 转移到另一其他状态的转移概率为)(1t p ii ∆-等于t q ii ∆加一个比t ∆高阶的无穷小量,而过程从状态i 转移到状态j 的转移概率为)(t p ij ∆等于t q ij ∆加一个比t ∆高阶的无穷小量. 推论对有限齐次马尔可夫过程,有 ∞<=∑≠ij ij ii q q证明由定理5.1 ,有)()(1,1)(t p t p t pij ij ii Ij ij∆=∆-=∆∑∑≠∈由于求和是在有限集中进行,故有.)(lim )(1lim 00∑∑≠≠→∆→∆=∆∆=∆∆-=ij ij ij i j t ii t ii q t t p t t p q (5.4)对于状态空间无限的齐次马尔可夫过程,一般只有 ∑≠≥ij ij ii q q .若连续时间齐次马尔可夫是具有有限状态空间I={0,1,2,…,n},则其转移速率构成以下形式的矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---=nn n n n n q q q q q qq q q Q .....................11111000100 (5.5) 由(5.4)式知,Q 矩阵的每一行元素之和为0,对角线元素为负或0,其余.0,≥ij q 利用Q 矩阵可以推出任意时间间隔t 的转移概率所满足的方法组,从而可以求解转移概率.由切普曼---柯尔莫哥洛夫方程有 ),()()(t p h p h t p Ik kj ik ij ∑∈=+或等价地)()](1[)()()()(t p h p t p h p t p h t p ij ii kj ik ik ij ij --=-+∑≠两边除以h 后令0→h 取极限,应用定理5.3得到 )()()(lim )()(lim 00t p q t p hh p ht p h t p ij ii kj ik ik h ij ij h -=-+∑≠→→ (5.6) 假定在(5.6)式的右边可交换极限与求和,再运用定理5.3,于是得到以下结论: 定理5.4 (柯尔莫哥洛夫向后方程)假设,ii ik ik q q =∑≠则对一切i,j 及0≥t ,有,)()(ij ii ik kj ik ijp q t p q t p -='∑≠ (5.7) 证明只要证明(5.6)式右边极限与求和可交换次序.现在对于任意固定的N,有 ≥∑≠→)()(inflim 0t p hh p kj ik ik h )()()(inf lim ,,0t p q t p h h p kj Nk i k ik kj Nk i k ik h ∑∑<≠<≠→= 因为上式对一切N 成立,所以)()()(inflim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≥ (5.8) 为了倒转不等式,注意对于N>i,由于,1)(≤t p kj 所以≤∑≠→)()(sup lim ,0t p hh p kj i k ik h ≤+≤∑∑≥<≠→])()()(sup[lim ,0Nk ik kj Nk i k ik h h h p t p h h p ≤--+≤∑∑<≠<≠→])()(1)()(sup[lim ,,0Nk i k ik ii kj Nk i k ik h h h p h h p t p h h p ,)(,,∑∑<≠<≠-+≤Nk i k ikii kj Nk i k ikqq t p q令∞→N ,由定理5.3和条件得 )()()(sup lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≤. 上式连同(5.8)可得 )()()(lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→=.定理5.4中)(t p ij 满足的微分方程组以柯尔莫可洛夫向后方程著称.称它们为向后方程,是因为在计算时刻t+h 的状态的概率分布时我们对退后到时刻h 的状态取条件,即我们从)()(})0()({..})(,)0()({)(h p t p i X k h X P k h X i X j h t X P h t p ik Ik kj Ik ij ∑∑∈∈======+=+开始计算.对时刻t 的状态取条件,我们可以导出另一组方程,称为柯尔莫哥洛夫向前方程.可得),()()(h p t p h t p kj Ik ik ij ∑∈=+)()()()()(t p h p t p t p h t p ij kj Ik ik ij ij -=-+∑∈=)()](1[)()(t p h p h p t p ij jj kj jk ik --=∑≠,所以 )}.()(1)()({lim )()(lim 00t p h h p h h p t p ht p h t p ij jj kj jk ik h ij ij h --=-+∑≠→→假定我们能交换极限与求和,则由定理5.3便得到),()()(t p q q t p t p ij ii jk kj ik ij-='∑≠ 令人遗憾的是上述极限与求和的交换不是恒成立,所以上式并非总是成立.然而在大多数模型中----包括全部生灭过程与全部有限状态的模型,它们是成立的. 定理5.5(柯尔莫哥洛夫向前方程) 在适当的正则条件下,,)()()(jj ij kj ik ik ijq t p q t p t p -='∑≠ (5.9) 利用方程组(5.7)或(5.9)及初始条件 .,0)0(,1)0(j i p p ij ii ≠==我们可以解得)(t p ij .柯尔莫哥洛夫向后和向前方程虽然形式不同,但是可以证明它们所求得的解)(t p ij 是相同的.在实际应用中,当固定最后所处状态j,研究)(t p ij 时(i=0,1,2,…,n),采用向后方程比较方便;当固定状态i,研究)(t p ij 时(j=0,1,2,…,),则采用向前方程较方便.向后方程和向前方程可以写成矩阵形式),()(t QP t P =' (5.10) ,)()(Q t P t P =' (5.11) 其中⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---= (222120121110)020100q q q q q qq q q Q ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=............ (222120121110)020100p p p p p pp p p P 这样,连续时间马尔可夫链的转移概率的求解问题就是矩阵微分方程的求解问题,其转移概率由其转移速率矩阵Q 决定.特别地,若Q 是一个有限维矩阵,则(5.10)和(5.11)的解为 .!)()(0∑∞===j jQtj Qt et P定理5.6 .齐次马尔可夫过程在t 时刻处于状态I j ∈的绝对概率)(t p j 满足下列方程:.)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' (5.12)证明由定理5.2,有)()(t p p t p ij Ii i j ∑∈=t将向前方程(5.9)式两边乘以,i p 并对i 求和得.)())(()(kj jk ikiIi jj ijiIi ijIi iq t pp q t pp t p p ∑∑∑∑≠∈∈∈+-='故 .)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' .与离散马尔可夫链类似,我们讨论转移概率 )(t p ij 当 ∞→t 时的极限分布与平稳分布的有限性质.定义5.4 设)(t p ij 为连续时间马尔可夫链的转移概率,若存在时刻 21,t t ,使得 ,0)(1>t p ij ,0)(2>t p ij则称状态i 和j 是互通的.若所有状态都是互通的,则称此马尔可夫链为不可约定理5.7 设连续时间的马尔可夫是不可约的,则有下列性质:(1) 若它是正常返的,则极限)(lim t p ij t ∞→存在且等于.,0I j j ∈>π这里.,0I j j ∈>π是方程组1,==∑∑∈≠Ij j kj jk k jj j q q πππ (5.13)的唯一非负解.此时称.,0{I j j ∈>π是该过程的平稳分布,并且有 .)(lim j j t t p π=∞→ (2) 若它是零常返的或非常返的,则.,,0)(lim )(lim I j i t p t p j t ij t ∈==∞→∞→在实际问题中,有些问题可以用柯尔莫哥洛夫方程直接求解,有些问题虽然不能求解但是可以用方程(5.13)求解.例5.2 考虑两个状态的连续时间马尔可夫链,在转移到状态1之前链在状态0停留的时间是参数为λ的指数变量,而在回到状态0之前它停留在状态1的时间是参数为μ的指数变量,显然该链是一个齐次马尔可夫过程,其状态转移概率为 ),()(01h o h h p +=λ),()(10h o h h p +=μ由定理5.3知,)()(lim )(1lim 1001010011011q h p dhdhh p h h p q h h h ====-==→→μ,)()(lim )(1lim 0100101000000q h p dhdhh p h h p q h h h ====-==→→λ由柯尔莫哥洛夫向前方程得到)()()(000100t p t p t p λμ-='=,)()(00μμλ++-t p 其中最后一个等式来自).(1)(0001t p t p -=因为,1)0(00=p 由常数变易法得 ,)()(00t e t p μλμλλμλμ+-+++=若记,,00μλμμμλλλ+=+=则,)()(0000t e t p μλλμ+-+=类似地由向前方程)()()(010001t p t p t p μλ-=' 可解得 ,)()(0001t e t p μλλλ+--= 由对称性知,)()(0011t e t p μλμλ+-+= ,)()(0010t e t p μλμμ+--= 转移概率的极限为),(lim )(lim 10000t p t p t t ∞→∞→==μ),(lim )(lim 11001t p t p t t ∞→∞→==λ 由此可见,当∞→t 时, )(t p ij 的极限存在且与i 无关.定理5.6知,平稳分布为 0100,λπμπ== 若取初始分布为平稳分布,即,}0)0({00μ===p X P ,}1)0({01λ===p X P 则过程在时刻t 的绝对概率分布为 )()()(1010000t p p t p p t p +==0)(000)(00]1[][μμλμλμμλμλ=-+++-+-t t e e=0)(000)(00][]1[λμλλλμμλμλ=++-+-+-t t e e .例5.3 机器维修问题.设例5.2中状态0代表某机器正常工作状态1代表机器出故障.状态转移概率与例5.2相同,即在h 时间内,机器从正常工作变为出故障的概率为),()(01h o h h p +=λ在h 时间内,机器从有故障变为经修复后正常工作的概率为),()(10h o h h p +=μ试求在t=0时正常工作的机器,在t=5时为正常工作的概率.解由例5.2已求得该过程的Q 矩阵为⎪⎪⎭⎫⎝⎛--=μμλλQ .根据题意,要求机器最后所处的状态为正常工作,只需计算)(00t p 即可. 由例5.2知,)()(0000t e t p μλλμ+-+=,,00μλμμμλλλ+=+=故 ,)5(5)(0000μλλμ+-+=e p 因为P{X(0)=0}=1=,0p 所以====)5()5(}0)5({0000p p p X P .)5(5)(0000μλλμ+-+=e p 5.3 生灭过程连续时间马尔可夫链的一类重要特殊情形是生灭过程,它的特征是在很短的时间内,系统的状态只能从状态i 转移到状态i-1或i+1或保持不变,确切定义如下. 定义5.5 设齐次马尔可夫过程}0),({≥t t X 的状态空间为I={0,1,2,…},转移概率为)(t p ij ,如果,0),()(1,>+=+i i i i h o h h p λλ)()()(1010101t p p t p p t p +=,0,0),()(01,=>+=-μμμi i i i h o h h p ),()(1)(,h o h h p i i i i ++-=μλ则称 }0),({≥t t X 为生灭过程,i λ为出生率,i μ为死亡率.若,λλi i =μλμμ,(,i i =是正常数),则称}0),({≥t t X 为线性生灭过程.若0≡i μ,则称}0),({≥t t X 为纯生过程. 若0≡i λ,则称}0),({≥t t X 为纯灭过程. 生灭过程可作如下概率解释:若以X(t)表示一个生物群体在t 时刻的大小,则在很短的时间h 内(不计高阶无穷小),群体变化有三种可能,状态由i 变到i+1,即增加一个个体,其概率为h i λ;.状态由i 变到i-1,即减少一个个体,.其概率为h i μ;群体大小保持不变,其概率为.)(1h i i μλ+- 由定理5.3得到 ,0,)()(,0≥+=-==i h p dhdt q i i h ii ii μλ ⎩⎨⎧≥-=≥+====,1,1,,0,1,)()(0i i j i i j h p dh dt q i i h ij ij μλ,2,0≥-=j i q ij 故柯尔莫哥洛夫向前方程为.,),()()()()(1,11,1I j i t p t p t p t p j i j ij j j j i j ij∈++-='++--μμλλ 故柯尔莫哥洛夫向后方程为.,),()()()()(,11,I j i t p t p t p t p j i i ij j j j i i ij∈++-='+-λμλμ 因为上述方程组的求解较为困难,我们讨论其平稳分布.由(5.13)式,有 ,1100πμπλ=.1,)(1111≥+=+++--j j j j j j j j πμπλπμλ 逐步递推得,2),()(,≥-=j i h o h p j i,0101πμλπ=…, ,11--=j jj j πμλπ 再利用11=∑∞=j j π,得平稳分布,11211100)......1(-∞=-∑+=j jj μμμλλλπ,112111021110)......1(......-∞=--∑+=j jj j j j μμμλλλμμμλλλπ例5.4 生灭过程例子M/M/S 排队系统.假设顾客按照参数为λ的泊松过程来到一个有s 个服务员的服务站,即相继来到之间的时间是均值为λ1的独立指数随机变量,每一个顾客一来到,如果有服务员空闲,则直接进行服务,否则此顾客加入排队系列.当一个服务员结束对一位顾客的服务时顾客就离开服务系统,排队中的下一顾客进入服务. 假定相继的服务时间是独立的指数随机变量,均值为μ1.如果我们以X(t)记时刻t 系统中的人数,则}0),({≥t t X 是生灭过程⎩⎨⎧>≤≤=,,,1,s n s s n n n μμμ.0,≥=n n λλM/M/s 排队系统中M 表示马尔可夫过程,s 代表s 个服务员.特别在M/M/1排队系统中,μμλλ==n n ,,若1<μλ,则由(5.14)可得.0),1()()(1)(1≥-=+=∑∞=n n n nnn μλμλμλμλπ。

研究生课程随机过程课件第五章2

µ −λ
p 'ij (t ) = λi pi +1, j (t ) − (λi + µi ) pij (t ) + µi pi −1, j (t ) 向后方程： p '0 j (t ) = λ0 p0 j (t ) + λ0 p0 j (t )
类似向前方程，绝对概率也有如下方程： p′ (t ) = −(µ j + λ j ) p j (t ) + λ j −1 p j −1 (t ) + µ j +1 p j +1 (t ) j ′ p0 (t ) = − p0 (t )λ0 + µ1 p1 (t )
λ λ −λ −µ 2µ − λ − 2µ
λ
sµ
状态转移图如下：
λ
0
λ
1 2
λ
⋯⋯
3µ
λ
S
λ
S+1
λ
sµ
µ
2µ
sµ
sµ
平稳分布： − λπ 0 + µπ 1 = 0 λπ k −1 − (λ + kµ )π k + (k + 1)µπ k +1 = 0 1 ≤ k ≤ s − 1 λπ − (λ + sµ )π + sµπ = 0 k ≥ s k −1 k k +1
qi ,i +1 = λ iµ , i < s qi ,i −1 = sµ , i ≥ s − λ − iµ , i < s qii = − λ − sµ , i ≥ s qij = 0,
− λ µ Q=
i− j ≥2
− λ − sµ λ ⋯

(解答)《随机过程》第五章习题

T 2 (u)du
0

T 0

2
(v)dv

P
2
1 T T E{ 2 (u) 2 (v)}dudv P 2 T2 0 0
1 T2
T 0
T 0
[
R2
(0)

2
R2
(u

v)]dudv

P
2
2
T2
T 0
T 0
R2
(u

v)dudv
H ( j) 2 1
j
2 2
由维纳－辛嵌定理，有：
S
()

F[R
(
)]

2
2
2
2
由输入输出功率谱的关系，有：
因此，我们有
S ()

H ( j) 2 S ()

( 2
2
2
2 )( 2
2)

2
2
2 2
2
H ( j) 2 Sn ()

N0 2( 2 2 )
由维纳－辛嵌定理，有：
由于
R
( )

F
1[S
()]

N0 4
e

E{(t)} 0 ， D{(t)}
E{(t)(t)} 2[R (0) R (T )]
N0 2
1 eT
ˆ
（1）在 t 0 时输出(0) 大于 y 的概率 P{(0) y}；
（2）求条件概率 P{(0) y (T ) 0}，其中T 0 ；
（3）求条件概率 P{(0) y (T ) 0}，其中T 0 。

随机过程第5章(Galton-Waston分支过程)

存在性
对于给定的生育概率函数， Galton-Watson分支过程存在。
唯一性
对于给定的生育概率函数， Galton-Watson分支过程是唯一的。
灭绝概率
定义
灭绝概率是指种群最终消亡的概率。
计算方法
通过递归方式计算每一代种群数量的概率分布，最终得到灭绝概率。
应用
灭绝概率在生态学、遗传学等领域有广泛应用，如评估种群稳定性、预测种群发展趋势等。
计算机科学
在计算机科学中，GaltonWatson分支过程可用于模拟网络流量、路由协议等。
统计学
在统计学中，Galton-Watson分支过程可用于估计事件的概率分布和参数估计。
02
Galton-Watson分支过程的数学模型
模型建立
01
02
03
定义
初始条件
繁殖规则
Galton-Watson分支过程是一个离散时间的马尔可夫链，描述了一代代繁殖的种群数量变化。
01
02
03
无重叠世代
每一代种群与下一代种群没有重叠，即每一代种群中的个体不会在下一代中出现。
无移民和迁出
种群中没有新的个体加入或离开，即种群数量只受繁殖和死亡的影响。
独立同分布
每一代种群中个体的繁殖数量独立且服从相同的概率分布。
03
Galton-Watson分支过程的性质与定理
存在性与唯一性
生物多样性研究
通过模拟不同环境下的物种繁殖和灭绝过程，可以研究生物多样性的形成和维持机制，为保护生物多样性提供理论支持。
遗传学中的应用
基因传递模型
Galton-Watson分支过程可以用于描述基因在世代之间的传递过程，帮助遗传学家理解基因突变和进化的机制。

随机过程第五章平稳随机过程

1,
0,
T st;
其他.
E{Y (s)Y (t)} E{E[Y (s)Y (t) ]}
st
1 P{ T s t } 1 ,
T 对于 t 的其它情形可做类似推理.
电子科技大学
随机二元传输过程是一个平稳过程,记τ=s－t,
其自相关函数为
0,

),
a;
0,
a
RX(t, t+τ)与 t 无关, 故X(t) 是宽平稳过程.
P128例12 泊松过程不是平稳过程，
是平稳增量过程.
电子科技大学
三、两种平稳性的关系
1）严平稳过程不一定是宽平稳的; 因宽平稳过程一定是二阶矩过程,而严平稳过程未必是二阶矩过程. 2）宽平稳不一定严平稳;
CX (s,t) RX (s,t) mX 2 RX () mX 2
电子科技大学
注自协方差函数与自相关函数都仅依赖于t－s.
平稳过程在实际中是常见过程,如
照明电网中电压的波动过程; 电子系统中的随机噪声; 稳定气象条件下海域中一定点处的海浪高度随时间的变化或随地点的变化(平稳随机场)；卫星图片中相同条件下的灰度水平.
t 0,
随机变量与随机过程》
其中X0 与N(t)相互独立，且
美 A.帕普
力斯，p303
C C
X0 ～ 1 1 C > 0,
2 2
电子科技大学
讨论｛X(t), t≥0｝的平稳性.
C
－C
解因 X (t) X0(1)N(t) , t 0, mX (t) E[X(t)] E(X0 )E[(1)N(t)] 0, t 0

《随机过程》第5章-布朗运动

LOGO
随机过程
第五章布朗运动

1 布朗运动的基本概念 2 布朗运动的首中时及最大值 3 布朗运动的应用
1 基本概念
• 最初由英国生物学家布朗(Brown)于1827年提出这种物理现背象；景 • 1905年爱因斯坦首次对这一现象的物理规律给出数学描述；定 • 1918 年维纳(Wiener) 运用数学理论严格描述这种无规则运动，并用随机过程理论和概率理论建立了数学模型。因此义布朗运动又称维纳过程；性 • 是具有连续时间参数和连续状态空间的一类随机过程；质 • 在金融领域的证券市场中（如债券、期权等），有着极其重要的应用。将布朗运动与股票价格行为联系在一起，进推而建立起维纳过程的数学模型是本世纪的一项具有重要意广义的金融创新，在现代金融数学中占有重要地位。
中南民族大学经济学院
平移不变性：设 *�� , �� ≥ 0+ 为布朗运动，则 *�� + �� −
�� 0+为布朗运动，则* ��
, �� ≥ 0, �� >
�� 2 − �� 2(��2 −��1 )
中南民族大学经济学院
5
《随机过程》第5章-布朗运动
1 基本概念
有限维联合分布
背景 (�� 1 , ⋯ �� )的联合概率密度函数为定义
��
设 *�� , �� ≥ 0+ 为标准布朗运动，对 ∀0 = ��0 < ��1 < ⋯ < �� ，

第5章_随机过程通过线性系统_

G YX ( ω ) = G X ( ω ) H ( ω )
∞
∫ h(τ )x ( t τ , ξ
∞
∞
i
)d τ
∫ h(τ )x ( t τ , ξ
0
i
)d τ
也只能是随机过程的一个样本且有界。即，系统输出 y(t,ξi ) 也只能是随机过程的一个样本且有界。其无法代表系统输出随机过程的全体。其无法代表系统输出随机过程的全体。只有当每个输入样本
x(t , ξ ) 都是有界的，才有都是有界的，
其中，称为系统的功率传输函数所以，系统的功率传输函数。其中，|H(ω)|2称为系统的功率传输函数。所以，系统的输出功率=系统的输入功率系统的输入功率× 系统的输出功率系统的输入功率× |H(ω)| 2。
系统输出Y(t)的自相关函数的自相关函数系统输出
1 +∞ RY (τ ) = GY (ω )e jωτ dω 2π ∫ ∞ 1 +∞ 2 H (ω ) G X (ω )e jωτ dω = 2π ∫ ∞
x(t ) X (ω) h(t ) H (ω) y(t ) = x(t ) h(t ) Y (ω) = X (ω) H (ω)
问题：随机信号通过线性系统情况如何呢？其输入、问题：随机信号通过线性系统情况如何呢？其输入、输出以及与系统函数间的关系如何？及与系统函数间的关系如何？
随机信号——函数值无法用数学式或列表形式确切的表述。函数值无法用数学式或列表形式确切的表述。随机信号函数值无法用数学式或列表形式确切的表述其原因是：其原因是：随机性，即任何时刻点上的取值不能预先确定。 1.随机性，即任何时刻点上的取值不能预先确定。因为随机过程（信号）随时间或依时序组成的每个时间点上随机过程（信号）是随时间或依时序组成的每个时间点上随机变量的集合的集合，的随机变量的集合，所以随机信号每个时间点上对应的函数值都是一个随机变量。即便通过一个具体的实验所得到数值都是一个随机变量。随机变量的确定函数也只能是该随机过程的一个样本函数函数， x ( 函数的确定函数，也只能是该随机过程的一个样本t , ξ i ) ，它也无法表征整个随机过程的行为它也无法表征整个随机过程的行为。波及性， 2.波及性，随机过程可以认为是某个随机系统中某一个端口的输出，端口的输出，各时间点上随机变量的取值往往具有前后的波及影响，既不同时间点上随机变量间的关联性。波及影响，既不同时间点上随机变量间的关联性。这种波及或关联性是由随机系统的各种惯性决定的。惯性决定的及或关联性是由随机系统的各种惯性决定的。

随机过程第5章

第五章离散参数Markov 链5.1 Markov 链的基本概念 1．Markov 链和转移概率矩阵定义5-1考虑只取有限个或可数个值的随机过程{},0,1,2,nX n = ．把过程所取可能值的全体称为它的状态空间，记之为E ，通常假{}0,1,2,E = ．若n X i =就说“过程在时刻n 处于状态i ”．若对任意状态011,,,(,n 0)n i i i i j -≥ 及任意的有11111001(|,,,,)(|)n n n n n n n P X j X i X i X i X i P X j X i +--+======== 这样的随机过程称为Markov 链．假设每当过程处于状态i ，则在下一个时刻将处于状态j 的概率是固定的ijp ，即对任意时刻n ，有1(|)n nijP X j X i p +===，称过程具有齐次性．称矩阵00010201011121012j j i i i ij p p p p p p p p P p p p p ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦是一步转移概率矩阵，简称为转移矩阵．由ijp 的定义可知，这是一种带有平稳转移概率的Markov 链，也称作时间齐次Markov 链或简称时齐次Markov 链．我们研究的均为齐次马氏链．2．例题例5-1（直线上的随机游动）考虑在直线上整数点上运动的粒子，当它处于位置j 时，向右转移到j+1的概率为p ，而向左移动到j-1的概率为q=p-1，又设时刻0时粒子处在原点，即00X =．于是粒子在时刻n 所处的位置{}n X 就是一个Markov 链，且具有转移概率,1,10,jk p k j p q k j =+⎧⎪==-⎨⎪⎩其他当12p q ==时，称为简单对称随机游动．例5-6（排队模型）考虑顾客到服务台排队等候服务，在每个服务周期中只要服务台前有顾客在等待，就要对排队在队前的一位顾客提供服务，若服务台前无顾客时就不实施服务．设在第n 个服务周期中到达的顾客数为一随机变量n Y ，且序列{}nY 是独立同分布随机序列，即(),0,1,2,,n k P Y k p k === 且01k k p ∞==∑设n X 为服务周期n 开始时服务台前顾客数，则有11,1,0n n n n n n X Y X X Y X +-+≥⎧=⎨=⎩若若此时{},1nXn ≥为一Markov 链，其转移概率矩阵为01234012340123012000p p p p p p p p p p P p p p p p p p ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦例5-8（生灭链）观察某种生物群体，以n X 表示在时刻n群体的数目，设为i 个数量单位，如在时刻n+1增生到i+1个数量单位的概率为i b ，减灭到i-1个数量单位的概率为i a ，保持不变的概率为1()i i i r a b =-+，则{},0nX n ≥为齐次马尔可夫链，{}0,1,2,E = ，其转移概率为,1,,1i ij i ib j i p r i ja j i =+⎧⎪==⎨⎪=-⎩ 0(0)a =,称此马尔可夫链为生灭链．3．定理5-1设随机过程{}nX 满足：（1）1(,)(1),n n n X f X n ξ-=≥其中:f E E E ⨯→，且n ξ取值在E 上；（2）{},1nn ξ≥为独立同分布随机变量，且0X 与{},1n n ξ≥也相互独立，则{}n X 是Markov 链，而且其一步转移概率为，对于任意,i j E ∈，1((,))ij p P f i j ξ==证明：设1n ≥，由上面(1)、(2)可知，1n ξ+与12,,,nX X X 互相独立，所以有1110011100111001(|,,,)((,)|,,,)((,)|,,,)((,))n n n n n n n n n n n n n n P X j X i X i X i P f X j X i X i X i P f i j X i X i X i P f i j ξξξ+--+--+--+================同理111001(|,,,)(|)n n n n n n P X j X i X i X i P X j X i +--+=======即{}nX 是Markov 链，由时间齐次性，其一步转移概率为1((,))ij p P f i j ξ==于是定理5-1得证．4．定理5-2时齐次Markov 链{}nX 完全由其初始状态的概率分布0(),1,2,i p P X i i ===和其转移概率矩阵()ijP p =所确定．证明：对于任意12,,,n i i i E ∈ ，计算有限维联合分布，由概率的乘法公式及马氏性可知1001121001100111100111100111111001111(,,,)(,,,)(|,,,)(,,,)(|)(,,,)n n n nn n n n n n n n n n n n n n n n i i i i i i i i i P X i X i X i P X i X i X i P X i X i X i X i P X i X i X i P X i X i P X i X i X i p p p p p ------------======================定理5-2得证． 5．例题例5-9（1）（二项过程的概念）设在每次试验中，事件A 发生的概率为(01)p p <<，独立地重复进行这项试验，以n Y 表示到第n 次为止事件A 发生的次数，则{},1,2,nY n = 是一个二项过程．说明：令n X 表示第n 次试验中事件A 发生的次数，则n X ~(0)1,(1),1,2,n n P X p P X p n ==-=== 且独立．（易知{},1nX n ≥为马氏过程）而1,1,2,n n Y X X n =++= 服从二项分布(,)B n p ，故称此{},1nY n ≥为二项过程．（2）二项过程具有独立平稳增量性．证明：易知增量1n l n n n l Y Y X X +++-=++ ，1121n l k n l n l n l k Y Y X X ++++++++++-=++ ，等等相互独立；且~(,),1,2,n m n Y Y B m p n +-= ，即具有平稳性．即{},1nY n ≥为一个独立平稳增量过程．（3）独立平稳增量过程为马氏过程．5.2 C-K 方程1．定理5-3 Chapman-Kolmogorov 方程对任何整数,0m n ≥，有()()()m n m n ijik kj k Epp p +∈=∑或()()()m n m n P P P +=⨯证明：这里只需要证明()(1)n n P PP -=成立，再依次递推即可证明本定理．（？）因为()0100100101010(1)(|)(,|)(|)(|,)(|)(|)(n ij n n k n k n k n ik kj k P P X j X i P X j X k X i P X k X i P X j X i X k P X k X i P X j X k p p ∞=∞=∞=∞-====================∑∑∑∑由马氏性）根据矩阵的乘法规则，知()(1)n n P PP -=．定理得证．注：定义m 步转移概率()(|)m ijn m n pP X j X i +===，()m ijp 表示给定时刻n 时，过程处于状态i ，间隔m 步之后过程在时刻n+m 转移到了状态j 的条件概率．还约定(0)1iip =，(0)0ijp =，i j ≠以()n ijp 表示第i 行、第j 列的元素矩阵()n P =(()n ijp ),称为Markov 链的n 步转移概率矩阵．2．例题（两状态Markov 链）例5-10在重复独立贝努里（Bernoulli ）试验中，每次试验有两种状态{}0,1E =，设{}nX 表示第n 次试验中出现的结果，且有(1),(0)1,1,2,n n P X p P X q p n =====-=其中01p <<，则{},1nX n ≥显然是独立同分布随机序列，从而它是Markov 链．于是经过计算有00100111,p p q p p p ====所以，一步转移概率矩阵为q p P qp ⎡⎤=⎢⎥⎣⎦而且有()n qp PP q p ⎡⎤==⎢⎥⎣⎦5.3 Markov 链的状态分类 1．互通定义5-2称自状态i 可达状态j ，并记i j →，如果存在0n >，使()0n ijp >，称状态i 与j 互通（相同，互达），并记为i j ↔，如i j →且j i →2．定理5-4可达关系与互通关系都具有传递性，即如果i j →且j k →，则i k → 证：因为有i j →，j k →，所以存在1,1l m ≥≥，使()()0,0l m ij jk p p >>由C-K 方程()()()()()0l m l m l m ik is sk ij jk sp p p p p +=≥>∑这里1l m +≥，所以i k →成立．若将可达关系得证明正向进行，再反向进行，就可得出互通关系的传递性，证毕． 3．定义5-3 设{},1nXn ≥为齐次Markov 链，其状态空间为E 。

随机过程Ch5连续时间的马尔可夫链ppt课件

注：虽然前进方程和后退方程在形式上有所不同，但两者的解都是同一的，费勒在1940年已证明。
由柯尔莫哥洛夫向前方程旳矩阵形式可得
例：设有一参数连续，状态离散的马尔可夫
过程X t,t 0，状态空间为I 1,2,, N，
当i j，时qij 1，i, j 1,2,, N，
当i 1,2,, N时，qii (N 1)，求pij t 。
则器件在0, t 正常工作，即寿命超过t的概率为： PX t exdx et
t
已知器件用了t小时，器件寿命超过t h，
即在t,t h器件不坏的概率为：
p00h PX t h / X t
PX
t h, X
PX t
t
PX t h PX t
e t h et
eh
1 h
5.2柯尔莫哥洛夫微分方程
一.连续性条件(正则性条件)
规定lim t 0
pij t ij
1 0
i j i j
或lim Pt I t 0
称此为连续性条件(正则性条件)
阐明：过程刚进入某状态不可能立即又跳跃到另一状态，这恰好阐明一种物理系统要在有限时间内发生无限屡次跳跃，从而消耗无穷多旳能量这是不可能旳，亦即经过很短时间系统旳状态几乎是不变旳。
定理：设pij (t)是齐次马尔可夫过程的转移概率，则下列极限存在：
dpij t
dt
t 0
lim
h0
pij h
h
pij 0
lim
h0
pij h ij
h
Hale Waihona Puke qij即: 1dpii t
dt
t 0
lim
h0
pii h 1
h

随机过程第五章期末练习题

③、证明在 T 时间内取得极大值的平均次数为
3/5 T 2
(0 / 2)5 (0 / 2)5 。 (0 / 2)3 (0 / 2)3
注： t 任意小时，可利用性质：

b at
b
f ( x)dx f (b)at 。
2、设某平稳正态窄带随机过程 X (t ) =A(t ) cos[0t (t )] 的功率谱密度函数为
f XX ' ( x, x '; t , t ) ；
③、设 t 为任意小的时间间隔， X (t ) 在 (t , t t ) 向上穿越 x 轴的条件为：X '(t ) 0 、
X '(t )t X (t ) 0 ，求 X (t ) 在 (t , t t ) 内穿越 x 轴的概率；
简答题
1、什么是窄带随机过程？ <答案>如果一个随机过程的功率谱密度限制在相应中心频率附近的窄频带内，该频带宽度远小于中心频率，则称之为窄带随机过程。 2、将高频窄带信号表示成复解析信号有什么好处？ <答案>把一高频窄带信号表示成复信号时，就可以把原来具有高频频谱的信号化为只具有低频频谱的复包络与复载波的乘积。该复包络的频谱可通过把复信号的频谱左移得到。这样就可将高频信号的运算转换为低频信号的运算，使分析得以简化。 3、什么是窄带随机过程的准正弦表达式？ <答案>窄带随机过程一般表现为具有高频载波和低频振幅、低频相位的正弦振荡形式，即称为窄带随机过程的准正弦表达式。
2 2
的一维概率密度分布函数 f A ( a, t ) 为 f ( , t )
2
，相位过程 (t ) 的一维概率密度分布函数
。

周荫清《随机过程理论》第5章高斯随机过程

2 2 1
X s (t ) X c (t )
ˆ X (t ) X s (t ) sin 0t X c (t ) cos 0t
式中
ˆ X c (t ) X (t ) cos 0 (t ) X (t ) sin 0 (t ) ˆ X s (t ) X (t ) sin 0 (t ) X (t ) cos 0 (t )
2
0
exp{x cos }d
所以，相位的二维分布为
p (1 , 2 ) C
2 1 2
4 x
1
2
[
(1 cos )
2
1 2
cos
3 2
(1 cos )
2 2
] 0 1 , 2 2
式中 = cos
r ( ) cos(
1 )
i 2 D[ X (ti )] 2
二、高斯随机过程
高斯过程是二阶矩过程严格平稳和广义平稳等价
E[ X 2 (t )]
相互独立和互不相关等价
特征函数
1 n n n n (v1 , v2 ,, vn ; t1 , t2 ,, tn ) exp j aivi CX (ti , tk )vivk 2 i 1 k 1 i 1
四、随机相位正弦波加窄带平稳高斯随机过程之和
设随机相位正弦波加窄带平稳高斯过程之和为
Y (t ) s(t ) N (t ) 式中 s(t ) B cos[0t ] B cos 0t cos B sin 0t sin
N(t)为窄带噪声，是一个平稳高斯过程
N (t ) An (t )cos[0t n (t )] Nc (t )cos 0t Ns (t )sin 0t

随机过程-第五章马尔可夫链

假设当前四种鲜奶的市场份额为 (vA , vB , vC , vD ) (25%,30%,35%,10%) ，试求半年后鲜奶的市场份额。解：根据题设首先可写出一步转移概率矩阵
0.95 0.02 0.02 0.01 0.3 0.6 0.06 0.04 P 0.2 0.1 0.7 0 0.2 0.2 0.1 0.5
P
jS
ij
1, i S 。则称该矩阵为随机矩阵。
显然，随机矩阵的各行元素之和都等于 1。
例 5.1 赌徒输光问题：考虑一赌徒，在每局赌博中他以概率 p 赢得 1 元，以概率
q 1 p 输掉 1 元，假设各局赌博是相互独立的，赌徒开始有 i （ ቤተ መጻሕፍቲ ባይዱ i n ）元，且他在赌
显然， Markov 链的统计特征由其初始分布 P{ X 0 i0 } 和转移概率 P{ X k i X k 1 ik 1} （ k 1, 2,, n ）决定。
定义 5.3 时齐 Markov 链：当 Markov 链的转移概率 P{ X n1 j X n i} 只与状态 i, j 有
m n m, n 0 使得 P ij 0, Pjk 0 ，利用 C-K 方程（1）可知
n n Pikm n Pirm Prk Pijm Pjk 0 rS
K 类似地可以证明存在 K 0 使得 Pki 0 。
称互通的两个状态属于同一个类，且由命题 5.1 可知，任何一个状态不能同时属于两个不同的类，即任意两个不同的类不相交。思考：对例 5.1 中的赌徒问题的状态分类？定义 5.7 可约：若 Markov 链只存在一个类，则称它为不可约的；否则称为可约的。在不可约的 Markov 链中，一切状态都是彼此互通的。