第五章 空间随机过程
随机过程_课件---第五章
随机过程_课件---第五章第五章离散参数Markov 链5.1 Markov 链的基本概念1、Markov 链和转移概率矩阵定义5-1考虑只取有限个或可数个值的随机过程{},0,1,2,n X n = 。
把过程所取可能值得全体称为它的状态空间，记之为E ，通常假设{}0,1,2,E= 。
若n X i =就说“过程在时刻n 处于状态i ”，假设每当过程处于状态i ，则在下一个时刻将处于状态j 的概率是固定的ij p ，即对任意时刻n1(|)n n ij P X j X i p +===若对任意状态011,,,(,n 0)n i i i i j -≥ 及任意的有11111001(|,,,,)(|)n n n n n n n P X j X i X i X i X i P X j X i +--+======== 这样的随机过程称为Markov 链。
称矩阵00010201011121012j j i i i ij p p p p p p p p P p p p p ??=是一步转移概率矩阵，简称为转移矩阵。
由ij p 的定义可知，这是一种带有平稳转移概率的Markov 链，也称作时间齐次Markov 链或简称时齐次Markov 链。
且具有，0ij p ≥ , 01ij j p ∞==∑2、例题例5-1（直线上的随机游动）考虑在直线上整数点上运动的粒子，当它处于位置j 时，向右转移到j+1的概率为p ，而向左移动到j-1的概率为q=p-1，又设时刻0时粒子处在原点，即00X =。
于是粒子在时刻n 所处的位置{}n X 就是一个Markov 链，且具有转移概率,1,10,jk p k j p q k j =+??==-其他当12p q ==时，称为简单对称随机游动。
例5-6（排队模型）考虑顾客到服务台排队等候服务，在每个服务周期中只要服务台前有顾客在等待，就要对排队在队前的一位顾客提供服务，若服务台前无顾客时就不实施服务。
第五章 随机过程中的马尔可夫过程
p(k m) ij
(n)
p(k il
)
(n)
p(m lj
)
(n
k
),
i, j S,
n, k, m 0
l
或
P(km) (n) P(k) (n)P(m) (n k)
证明
2006年9月
p(k ij
m)
(n)
P{X
nk
m
j|
Xn
i}
P{U( X nk l), X nkm j | X n i} l
i
P( X 0 i)P( Xt1 i1 | X 0 i)P( X t2 i2 | X 0 i, X t1 i1)L i
• P( X tn in | X 0 i, X t1 i1, X t2 i2 ,L , X tn1 in1)
P( X 0 i)P( X t1 i1 | X 0 i)P( X t2 i2 | X 0 i)P( X tn in | X tn1 in1)
i
qi0
pt1 ii1
(0)
pt2 i1i2
t1
(t1
)L
p (t ) tn tn1
in1in
n1
i
2006年9月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
3) 绝对分布
称q(jn) P(Xn j), n 0, j S为马尔可夫链{Xn，n 0}的绝对分布。
2006年9月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
一种最简单的形式:
P{X (t1) i1, X (t2 ) i2,L , X (tn1) in1, X (tn ) in} P{X (t1) i1}P{X (t2) i2}L P{X (tn ) in}
随机过程课件-c5
⎧1 , i = j lim pij (t ) = ⎨ t →0 ⎩0 , i ≠ j
5 连续时间的马尔可夫链
12
转移速率
5 连续时间的马尔可夫链
13
Q矩阵
若连续时间齐次马尔可夫链具有有限状态空间I={0,1,2,…,n}
λ
λ
26
求其平稳分布。
pij(t)极限存在且与i无关，存在平稳分布
5 连续时间的马尔可夫链
27
或者
此Markov链是不可约的
5 连续时间的马尔可夫链
28
5 连续时间的马尔可夫链
29
5.3 生灭过程
5 连续时间的马尔可夫链
30
Q矩阵
I = {0,1,2,3,...}
⎛ − λ0 ⎜ ⎜ μ1 ⎜ Q=⎜ ⎜ ⎜ ⎜ ⎜ ⎝
⎛ − q00 ⎜ ⎜ q10 Q =⎜ ⎜ ⎜ q ⎝ n0 q01 − q11 qn1 q0 n ⎞ ⎟ q1n ⎟ ⎟ ⎟ − qnn ⎟ ⎠
Q= P′ (0)
利用Q可以推出任意时间间隔的转移概率所满足的方程组，从 而求解转移概率。
5 连续时间的马尔可夫链
14
微分方程
P′(t)=QP(t) 定理5.5 (科尔莫戈罗夫向前方程) 在适当的正则条件下有
5 连续时间的马尔可夫链
22
渐近性质
5 连续时间的马尔可夫链
23
5 连续时间的马尔可夫链
24
回顾
转移概率： pij(s,t)= P{X(s+t)=j|X(s)=i} P(s+t)=P(s)P(t) 转移速率 Q= P′ (0) 科尔莫戈罗夫微分方程 向后方程：P′(t)=QP(t) 向前方程：P′(t)=P(t)Q
《随机过程》课件
f1(x1, t1)
F1(x1, t1) x1
4
● 随机过程 (t) 的二维分布函数：
F2 (x1, x2 ;t1,t2 , ) P (t1) x1, (t2 ) x2
● 随机过程 (t)的二维概率密度函数：
f2
(x1,
x2 ; t1, t2
)
2F2 (x1, x2;t1,t2 ) x1 x2
Dξ t Eξ 2 t 2atξ t a2 t
E[ξ 2 (t)] 2at Eξ t a2 (t)
E[ξ 2 (t)] a2 (t)
于
均
值
所以 a(t
，) 的方偏差离等程于x度2均f。1方(
x值,
t与)d均x值平[a方(t之)]差2
，
它
表
示
随
机
过
程
在
时
刻
t
对
均方值
均值平方
8
● 相关函数
在通信系统中所遇到的信号及噪声，大多数可视为平稳的随机过程。 因此，研究平稳随机过程有着很大的实际意义。
13
● 2.2 各态历经性 ● 问题的提出：我们知道，随机过程的数字特征（均值、相关函数）是对随 机过程的所有样本函数的统计平均，但在实际中常常很难测得大量的样本， 这样，我们自然会提出这样一个问题：能否从一次试验而得到的一个样本 函数x(t)来决定平稳过程的数字特征呢? ● 回答是肯定的。平稳过程在满足一定的条件下具有一个有趣而又非常有用 的特性，称为“各态历经性”（又称“遍历性”）。具有各态历经性的过 程，其数字特征（均为统计平均）完全可由随机过程中的任一实现的时间 平均值来代替。 ● 下面，我们来讨论各态历经性的条件。
R(t1,t2 ) E[ (t1) (t2 )]
随机过程第五章连续时间的马尔可夫链
第五章 连续时间的马尔可夫链5.1连续时间的马尔可夫链考虑取非负整数值的连续时间随机过程}.0),({≥t t X定义5.1 设随机过程}.0),({≥t t X ,状态空间}0,{≥=n i I n ,若对任意121...0+<<<≤n t t t 及I i i i n ∈+121,...,,有})(,...)(,)()({221111n n n n i t X i t X i t X i t X P ====++=})()({11n n n n i t X i t X P ==++ (5.1) 则称}.0),({≥t t X 为连续时间马尔可夫链.由定义知,连续时间马尔可夫链是具有马尔可夫性的随机过程,即过程在已知现在时刻n t 及一切过去时刻所处状态的条件下,将来时刻1+n t 的状态只依赖于现在状态而与过去无关.记(5.1)式条件概率一般形式为),(})()({t s p i s X j t s X P ij ===+ (5.2) 它表示系统在s 时刻处于状态i,经过时间t 后转移到状态j 的转移概率. 定义5.2 若(5.2)式的转移概率与s 无关,则称连续时间马尔可夫链具有平稳的或齐次的转移概率,此时转移概率简记为 ),(),(t p t s p ij ij =其转移概率矩阵简记为).0,,()),(()(≥∈=t I j i t p t P ij以下的讨论均假定我们所考虑的连续时间马尔可夫链都具有齐次转移概率.简称为齐次马尔可夫过程.假设在某时刻,比如说时刻0,马尔可夫链进入状态i,而且接下来的s 个单位时间单位中过程未离开状态i,(即未发生转移),问随后的t 个单位时间中过程仍不离开状态i 的概率是多少呢?由马尔可夫我们知道,过程在时刻s 处于状态i 条件下,在区间[s,s+t]中仍然处于i 的概率正是它处于i 至少t 个单位的无条件概率..若记i h 为记过程在转移到另一个状态之前停留在状态i 的时间,则对一切s,t 0≥有},{}{t h P s h t s h P i i i >=>+>可见,随机变量i h 具有无记忆性,因此i h 服从指数分布.由此可见,一个连续时间马尔可夫链,每当它进入状态i,具有如下性质: (1) 在转移到另一状态之前处于状态i 的时间服从参数为i v 的指数分布; (2) 当过程离开状态i 时,接着以概率ij p 进行状态j,1=∑≠ij ij p .上述性质也是我们构造连续时间马尔可夫链的一种方法.当∞=i v 时,称状态i 为瞬时状态,因为过程一旦进入此状态立即就离开.0=i v 时,称状态i 为吸收状态,因为过程一旦进入状态就永远不再离开了.尽管瞬时状态在理论上是可能的,但以后假设对一切i, ∞<≤i v 0.因此,实际上一个连续时间的马尔可夫链是一个这样的随机过程,它按照一个离散时间的马尔可夫链从一个状态转移到另一个状态,但在转移到下一个状态之前,它在各个状态停留的时间服从指数分布.此外在状态i 过程停留的时间与下一个到达的状态必须是相互独立的随机变量.因此下一个到达的状态依赖于i h ,那么过程处于状态i 已有多久的信息与一个状态的预报有关,这与马尔可夫性的假定相矛盾.定理5.1 齐次马尔可夫过程的转移概率具有下列性质: ;0)1(≥ij p (2);1=∑∈ij Ij p(3) ∑∈=+Ik kj ik ij s p t p s t p )()()(.其中(3)式即为连续时间齐次马尔可夫链的切普曼—柯尔哥洛夫方程.证明 只证(3).由全概率公式及马尔可夫性可得 ===+=+)})0()({)(i X j s t X P s t p ij =∑∈===+Ik i X k t X j s t X P })0()(,)({=})()({})0()({k t X j s t X P i X k t X P Ik ==+==∑∈∑∈=Ik kj ik s p t p )()(.对于转移概率)(t p ij ,一般还假定它满足: ⎩⎨⎧≠==→.,0,1)(lim 0j i ji t p ij t (5.3) 称(5.3)式为正则条件.正则条件说明,过程刚进入某状态不可能立即又跳跃到另一状态.这正好说明一个物理系统要在有限时间内发生限多次跳跃,从而消耗无穷多的能量这是不可能的.定义5.3 对于任 一0≥t 记 },)({)(j t X P t p j ==,},)0({)0(I j j X P p p j j ∈===分别称}{},),({,I j p I j t p j j ∈∈ 齐次马尔可夫过程的绝对概率分布和初始概率分布.定理5.2齐次马尔可夫过程的绝对概率及有限维概率分布具有下列性质: (1) ,0)(≥t p j (2),1)(=∑∈t p j Ij(3) )()(t p p t p ij Ii i j ∑∈=;(4) );()()(h p t p h t p ij Ii i j ∑∈=+(5)).()...(})(,...,)({112111211-∈--====-∑n n i i i i ii Ii i n n t t p t t p p p i t X i t X p n n例5.1试证明泊松过程}0),({≥t t X 为连续时间齐次马尔可夫链. 证明 先证泊松过程具有马尔可夫性,再证明齐次性.由泊松过程的定义 它是独立增量过程,且X(0)=0.11,...0+<<<n n t t t ,有})(,...,)()({1111n n n n i t X i t X i t X P ===++= ,.)0()()()({1111i X t X i i t X t X P n n n n =--==-++ =,111212)()(,...)()(---=--=-n n n n i i t X t X i i t X t X } = })()({11n n n n i i t X t X P -=-++ . 另一方面,因为})()({11n n n n i t X i t X P ==++=})0()()()({11n n n n n n i X t X i i t X t X P =--=-++ =})()({11n n n n i i t X t X P -=-++所以})(,...,)()({1111n n n n i t X i t X i t X P ===++=})()({11n n n n i t X i t X P ==++. 即泊松过程是一个连续时间马尔可夫过程.以下证明齐次性. 当i j ≥ 时,由泊松过程的定义})()({i s X j t s X P ==+= })()({i j s X t s X P -=-+=)!()(i j t eij t---λλ j<i.时,由于过程的增量只取非负整数,故,0),(=t s p ij 所以⎪⎩⎪⎨⎧<≥-==--i j ij i j t e t p t s p i j t ij ij ,0,)!()()(),(λλ, 即转移概率只与t 有关,泊松过程具有齐次性. 5.2柯尔莫哥洛夫微分方程对于连续时间齐次马尔可夫链转移概率)(t p ij 的求解一般比较复杂.下面首先讨论)(t p ij 的可微性及)(t p ij 满足的柯尔莫哥洛夫微分程.引理5.1 设齐次马尔可夫过程满足正则性条件(5.3),则对于任意固定的)(,,t p I j i ij ∈是t 的一致连续函数.证明 设h>0,由定理5.1得)()()()()(t p t p h p t p h t p ij rj Ir ir ij ij -=-+∑∈)()()()()(t p t p h p t p h p ij ij ii rj ir ir -+=∑≠=)()](1[)()(t p h p t p h p ij ii rj ir ir --=∑≠故有)],(1[)()](1[)()(h p t p h p t p h t p ii ij ii ij ij --≥--=-+ ),(1)()()()()(h p h p t p h p t p h t p ii ir ir rj ir ir ij ij -=≤≤-+∑∑≠≠因此).(1)()(h p t p h t p ii ij ij -≤-+对于h<0,同样有).(1)()(h p t p h t p ii ij ij --≤-+ 综上所述得到).(1)()(h p t p h t p ii ij ij -≤-+ 由正则性条件知,0)()(lim 0=-+→t p h t p ij ij h即)(t p ij 关于t 是一致连续的.以下我们恒设齐次马尔可夫过程满足正则性条件(5.3)式.定理5.3 设)(t p ij 是齐次马尔可夫过程的转移概率,则下列极限存在 (1);)(1lim 0∞≤==∆∆-→∆ii i ii t q v t t p (2).,)(lim 0j i q tt p ij ij t ≠∞<=∆∆→∆我们称ij q 为齐次马尔可夫过程从状态i 到状态j 的转移概率或跳跃强度.定理中的极限的概率意义为:在长为t ∆的时间区间内,过程从状态i 转移到另一其他状态的转移概率为)(1t p ii ∆-等于t q ii ∆加一个比t ∆高阶的无穷小量,而过程从状态i 转移到状态j 的转移概率为)(t p ij ∆等于t q ij ∆加一个比t ∆高阶的无穷小量. 推论 对有限齐次马尔可夫过程,有 ∞<=∑≠ij ij ii q q证明 由定理5.1 ,有)()(1,1)(t p t p t pij ij ii Ij ij∆=∆-=∆∑∑≠∈由于求和是在有限集中进行,故有.)(lim )(1lim 00∑∑≠≠→∆→∆=∆∆=∆∆-=ij ij ij i j t ii t ii q t t p t t p q (5.4)对于状态空间无限的齐次马尔可夫过程,一般只有 ∑≠≥ij ij ii q q .若连续时间齐次马尔可夫是具有有限状态空间I={0,1,2,…,n},则其转移速率构成以下形式的矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---=nn n n n n q q q q q qq q q Q .....................11111000100 (5.5) 由(5.4)式知,Q 矩阵的每一行元素之和为0,对角线元素为负或0,其余.0,≥ij q 利用Q 矩阵可以推出任意时间间隔t 的转移概率所满足的方法组,从而可以求解转移概率.由切普曼---柯尔莫哥洛夫方程有 ),()()(t p h p h t p Ik kj ik ij ∑∈=+或等价地)()](1[)()()()(t p h p t p h p t p h t p ij ii kj ik ik ij ij --=-+∑≠两边除以h 后令0→h 取极限,应用定理5.3得到 )()()(lim )()(lim 00t p q t p hh p ht p h t p ij ii kj ik ik h ij ij h -=-+∑≠→→ (5.6) 假定在(5.6)式的右边可交换极限与求和,再运用定理5.3,于是得到以下结论: 定理5.4 (柯尔莫哥洛夫向后方程)假设,ii ik ik q q =∑≠则对一切i,j 及0≥t ,有,)()(ij ii ik kj ik ijp q t p q t p -='∑≠ (5.7) 证明 只要证明(5.6)式右边极限与求和可交换次序.现在对于任意固定的N,有 ≥∑≠→)()(inflim 0t p hh p kj ik ik h )()()(inf lim ,,0t p q t p h h p kj Nk i k ik kj Nk i k ik h ∑∑<≠<≠→= 因为上式对一切N 成立,所以)()()(inflim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≥ (5.8) 为了倒转不等式,注意对于N>i,由于,1)(≤t p kj 所以≤∑≠→)()(sup lim ,0t p hh p kj i k ik h ≤+≤∑∑≥<≠→])()()(sup[lim ,0Nk ik kj Nk i k ik h h h p t p h h p ≤--+≤∑∑<≠<≠→])()(1)()(sup[lim ,,0Nk i k ik ii kj Nk i k ik h h h p h h p t p h h p ,)(,,∑∑<≠<≠-+≤Nk i k ikii kj Nk i k ikqq t p q令∞→N ,由定理5.3和条件得 )()()(sup lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≤. 上式连同(5.8)可得 )()()(lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→=.定理5.4中)(t p ij 满足的微分方程组以柯尔莫可洛夫向后方程著称.称它们为向后方程,是因为在计算时刻t+h 的状态的概率分布时我们对退后到时刻h 的状态取条件,即我们从)()(})0()({..})(,)0()({)(h p t p i X k h X P k h X i X j h t X P h t p ik Ik kj Ik ij ∑∑∈∈======+=+开始计算.对时刻t 的状态取条件,我们可以导出另一组方程,称为柯尔莫哥洛夫向前方程.可得),()()(h p t p h t p kj Ik ik ij ∑∈=+)()()()()(t p h p t p t p h t p ij kj Ik ik ij ij -=-+∑∈=)()](1[)()(t p h p h p t p ij jj kj jk ik --=∑≠,所以 )}.()(1)()({lim )()(lim 00t p h h p h h p t p ht p h t p ij jj kj jk ik h ij ij h --=-+∑≠→→假定我们能交换极限与求和,则由定理5.3便得到),()()(t p q q t p t p ij ii jk kj ik ij-='∑≠ 令人遗憾的是上述极限与求和的交换不是恒成立,所以上式并非总是成立.然而在大多数模型中----包括全部生灭过程与全部有限状态的模型,它们是成立的. 定理5.5(柯尔莫哥洛夫向前方程) 在适当的正则条件下,,)()()(jj ij kj ik ik ijq t p q t p t p -='∑≠ (5.9) 利用方程组(5.7)或(5.9)及初始条件 .,0)0(,1)0(j i p p ij ii ≠==我们可以解得)(t p ij .柯尔莫哥洛夫向后和向前方程虽然形式不同,但是可以证明它们所求得的解)(t p ij 是相同的.在实际应用中,当固定最后所处状态j,研究)(t p ij 时(i=0,1,2,…,n),采用向后方程比较方便;当固定状态i,研究)(t p ij 时(j=0,1,2,…,),则采用向前方程较方便.向后方程和向前方程可以写成矩阵形式),()(t QP t P =' (5.10) ,)()(Q t P t P =' (5.11) 其中⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---= (222120121110)020100q q q q q qq q q Q ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=............ (222120121110)020100p p p p p pp p p P 这样,连续时间马尔可夫链的转移概率的求解问题就是矩阵微分方程的求解问题,其转移概率由其转移速率矩阵Q 决定.特别地,若Q 是一个有限维矩阵,则(5.10)和(5.11)的解为 .!)()(0∑∞===j jQtj Qt et P定理5.6 .齐次马尔可夫过程在t 时刻处于状态I j ∈的绝对概率)(t p j 满足下列方程:.)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' (5.12)证明 由定理5.2,有)()(t p p t p ij Ii i j ∑∈=t将向前方程(5.9)式两边乘以,i p 并对i 求和得.)())(()(kj jk ikiIi jj ijiIi ijIi iq t pp q t pp t p p ∑∑∑∑≠∈∈∈+-='故 .)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' .与离散马尔可夫链类似,我们讨论转移概率 )(t p ij 当 ∞→t 时的极限分布与平稳分布的有限性质.定义5.4 设)(t p ij 为连续时间马尔可夫链的转移概率,若存在时刻 21,t t ,使得 ,0)(1>t p ij ,0)(2>t p ij则称状态i 和j 是互通的.若所有状态都是互通的,则称此马尔可夫链为不可约定理5.7 设连续时间的马尔可夫是不可约的,则有下列性质:(1) 若它是正常返的,则极限)(lim t p ij t ∞→存在且等于.,0I j j ∈>π这里.,0I j j ∈>π是方程组1,==∑∑∈≠Ij j kj jk k jj j q q πππ (5.13)的唯一非负解.此时称.,0{I j j ∈>π是该过程的平稳分布,并且有 .)(lim j j t t p π=∞→ (2) 若它是零常返的或非常返的,则.,,0)(lim )(lim I j i t p t p j t ij t ∈==∞→∞→在实际问题中,有些问题可以用柯尔莫哥洛夫方程直接求解,有些问题虽然不能求解但是可以用方程(5.13)求解.例5.2 考虑两个状态的连续时间马尔可夫链,在转移到状态1之前链在状态0停留的时间是参数为λ的指数变量,而在回到状态0之前它停留在状态1的时间是参数为μ的指数变量,显然该链是一个齐次马尔可夫过程,其状态转移概率为 ),()(01h o h h p +=λ),()(10h o h h p +=μ由定理5.3知,)()(lim )(1lim 1001010011011q h p dhdhh p h h p q h h h ====-==→→μ,)()(lim )(1lim 0100101000000q h p dhdhh p h h p q h h h ====-==→→λ由柯尔莫哥洛夫向前方程得到)()()(000100t p t p t p λμ-='=,)()(00μμλ++-t p 其中最后一个等式来自).(1)(0001t p t p -=因为,1)0(00=p 由常数变易法得 ,)()(00t e t p μλμλλμλμ+-+++=若记,,00μλμμμλλλ+=+=则,)()(0000t e t p μλλμ+-+=类似地由向前方程)()()(010001t p t p t p μλ-=' 可解得 ,)()(0001t e t p μλλλ+--= 由对称性知,)()(0011t e t p μλμλ+-+= ,)()(0010t e t p μλμμ+--= 转移概率的极限为),(lim )(lim 10000t p t p t t ∞→∞→==μ),(lim )(lim 11001t p t p t t ∞→∞→==λ 由此可见,当∞→t 时, )(t p ij 的极限存在且与i 无关.定理5.6知,平稳分布为 0100,λπμπ== 若取初始分布为平稳分布,即,}0)0({00μ===p X P ,}1)0({01λ===p X P 则过程在时刻t 的绝对概率分布为 )()()(1010000t p p t p p t p +==0)(000)(00]1[][μμλμλμμλμλ=-+++-+-t t e e=0)(000)(00][]1[λμλλλμμλμλ=++-+-+-t t e e .例5.3 机器维修问题.设例5.2中状态0代表某机器正常工作状态1代表机器出故障.状态转移概率与例5.2相同,即在h 时间内,机器从正常工作变为出故障的概率为),()(01h o h h p +=λ在h 时间内,机器从有故障变为经修复后正常工作的概率为),()(10h o h h p +=μ试求在t=0时正常工作的机器,在t=5时为正常工作的概率.解 由例5.2已求得该过程的Q 矩阵为⎪⎪⎭⎫⎝⎛--=μμλλQ .根据题意,要求机器最后所处的状态为正常工作,只需计算)(00t p 即可. 由例5.2知,)()(0000t e t p μλλμ+-+=,,00μλμμμλλλ+=+=故 ,)5(5)(0000μλλμ+-+=e p 因为P{X(0)=0}=1=,0p 所以====)5()5(}0)5({0000p p p X P .)5(5)(0000μλλμ+-+=e p 5.3 生灭过程连续时间马尔可夫链的一类重要特殊情形是生灭过程,它的特征是在很短的时间内,系统的状态只能从状态i 转移到状态i-1或i+1或保持不变,确切定义如下. 定义5.5 设齐次马尔可夫过程}0),({≥t t X 的状态空间为I={0,1,2,…},转移概率为)(t p ij ,如果,0),()(1,>+=+i i i i h o h h p λλ)()()(1010101t p p t p p t p +=,0,0),()(01,=>+=-μμμi i i i h o h h p ),()(1)(,h o h h p i i i i ++-=μλ则称 }0),({≥t t X 为生灭过程,i λ为出生率,i μ为死亡率.若,λλi i =μλμμ,(,i i =是正常数),则称}0),({≥t t X 为线性生灭过程.若0≡i μ,则称}0),({≥t t X 为纯生过程. 若0≡i λ,则称}0),({≥t t X 为纯灭过程. 生灭过程可作如下概率解释:若以X(t)表示一个生物群体在t 时刻的大小,则在很短的时间h 内(不计高阶无穷小),群体变化有三种可能,状态由i 变到i+1,即增加一个个体,其概率为h i λ;.状态由i 变到i-1,即减少一个个体,.其概率为h i μ;群体大小保持不变,其概率为.)(1h i i μλ+- 由定理5.3得到 ,0,)()(,0≥+=-==i h p dhdt q i i h ii ii μλ ⎩⎨⎧≥-=≥+====,1,1,,0,1,)()(0i i j i i j h p dh dt q i i h ij ij μλ,2,0≥-=j i q ij 故柯尔莫哥洛夫向前方程为.,),()()()()(1,11,1I j i t p t p t p t p j i j ij j j j i j ij∈++-='++--μμλλ 故柯尔莫哥洛夫向后方程为.,),()()()()(,11,I j i t p t p t p t p j i i ij j j j i i ij∈++-='+-λμλμ 因为上述方程组的求解较为困难,我们讨论其平稳分布.由(5.13)式,有 ,1100πμπλ=.1,)(1111≥+=+++--j j j j j j j j πμπλπμλ 逐步递推得,2),()(,≥-=j i h o h p j i,0101πμλπ=…, ,11--=j jj j πμλπ 再利用11=∑∞=j j π,得平稳分布,11211100)......1(-∞=-∑+=j jj μμμλλλπ,112111021110)......1(......-∞=--∑+=j jj j j j μμμλλλμμμλλλπ例5.4 生灭过程例子M/M/S 排队系统.假设顾客按照参数为λ的泊松过程来到一个有s 个服务员的服务站,即相继来到之间的时间是均值为λ1的独立指数随机变量,每一个顾客一来到,如果有服务员空闲,则直接进行服务,否则此顾客加入排队系列.当一个服务员结束对一位顾客的服务时顾客就离开服务系统,排队中的下一顾客进入服务. 假定相继的服务时间是独立的指数随机变量,均值为μ1.如果我们以X(t)记时刻t 系统中的人数,则}0),({≥t t X 是生灭过程⎩⎨⎧>≤≤=,,,1,s n s s n n n μμμ.0,≥=n n λλM/M/s 排队系统中M 表示马尔可夫过程,s 代表s 个服务员.特别在M/M/1排队系统中,μμλλ==n n ,,若1<μλ,则由(5.14)可得.0),1()()(1)(1≥-=+=∑∞=n n n nnn μλμλμλμλπ。
研究生课程 随机过程 课件第五章2
µ −λ
p 'ij (t ) = λi pi +1, j (t ) − (λi + µi ) pij (t ) + µi pi −1, j (t ) 向后方程： p '0 j (t ) = λ0 p0 j (t ) + λ0 p0 j (t )
类似向前方程，绝对概率也有如下方程： p′ (t ) = −(µ j + λ j ) p j (t ) + λ j −1 p j −1 (t ) + µ j +1 p j +1 (t ) j ′ p0 (t ) = − p0 (t )λ0 + µ1 p1 (t )
λ λ −λ −µ 2µ − λ − 2µ
λ
sµ
状态转移图如下：
λ
0
λ
1 2
λ
⋯⋯
3µ
λ
S
λ
S+1
λ
sµ
µ
2µ
sµ
sµ
平稳分布： − λπ 0 + µπ 1 = 0 λπ k −1 − (λ + kµ )π k + (k + 1)µπ k +1 = 0 1 ≤ k ≤ s − 1 λπ − (λ + sµ )π + sµπ = 0 k ≥ s k −1 k k +1
qi ,i +1 = λ iµ , i < s qi ,i −1 = sµ , i ≥ s − λ − iµ , i < s qii = − λ − sµ , i ≥ s qij = 0,
− λ µ Q=
i− j ≥2
− λ − sµ λ ⋯
随机过程课件
随机过程课件随机过程课件随机过程是概率论与数理统计中的重要概念，它描述了随机变量随时间的演化规律。
在现代科学和工程领域，随机过程被广泛应用于信号处理、通信系统、金融市场等众多领域。
本文将介绍随机过程的基本概念、分类以及一些常见的应用。
一、随机过程的基本概念随机过程是一族随机变量的集合，它描述了随机变量随时间的变化。
在数学上，随机过程可以用函数的形式表示，即X(t)，其中t表示时间，X(t)表示在时间t时刻的随机变量。
随机过程可以分为离散时间和连续时间两种类型。
离散时间随机过程是指随机变量在离散时间点上的演化，例如抛硬币的结果、骰子的点数等。
连续时间随机过程是指随机变量在连续时间上的演化，例如股票价格的变动、电信号的传输等。
二、随机过程的分类根据随机过程的性质和演化规律，可以将其分为多种类型。
常见的分类包括马尔可夫过程、泊松过程、布朗运动等。
1. 马尔可夫过程马尔可夫过程是指在给定当前状态下，未来的演化只与当前状态有关，与过去的状态无关。
马尔可夫过程具有“无记忆”的特性，常用于描述具有时序性质的问题，如排队系统、信道传输等。
2. 泊松过程泊松过程是一种用于描述随机事件的发生次数的随机过程。
它具有独立增量和无记忆性的特点，常用于描述到达率恒定的随机事件，如电话呼叫、交通流量等。
3. 布朗运动布朗运动是一种连续时间的随机过程，其演化规律由随机变量驱动。
布朗运动具有连续性、无界性和马尔可夫性等特点，广泛应用于金融市场、物理学等领域。
三、随机过程的应用随机过程在现代科学和工程领域有着广泛的应用。
以下列举几个常见的应用领域。
1. 信号处理随机过程在信号处理中起到了重要的作用。
通过对信号进行建模，可以利用随机过程的理论和方法对信号进行分析和处理，如图像压缩、语音识别等。
2. 通信系统随机过程在通信系统中也有着重要的应用。
通过对信道的建模，可以利用随机过程的理论来分析和优化通信系统的性能，如误码率分析、信道编码等。
随机过程教案
随机过程教案一、引言随机过程是概率论和数理统计中的一个重要概念，也是现代科学和工程领域中的重要基础。
随机过程的概念和性质对于理解随机现象的规律、预测未来事件的发展趋势具有重要的意义。
因此，学习随机过程理论对于培养学生的创新思维和科学研究能力具有重要的意义。
二、基本概念1. 随机过程的定义随机过程是指由一个概率空间和一组定义在该概率空间上的随机变量组成的数学结构。
简单来说，随机过程是一组随机变量的集合，这些随机变量的取值随机且可能随时间变化。
2. 随机过程的分类随机过程可以分为离散随机过程和连续随机过程两大类。
离散随机过程是在离散时间下的随机变量序列，而连续随机过程是在连续时间下的随机变量序列。
三、常见随机过程模型1. 马尔可夫链马尔可夫链是一种描述随机事件状态转移规律的数学模型，具有“无后效性”和“马尔可夫性”两大重要性质。
在实际应用中，马尔可夫链常用于描述具有一定状态转移概率的系统。
2. 泊松过程泊松过程是一种描述随机事件在时间轴上发生的模型，常用于描述独立性事件发生的规律。
泊松过程具有平稳性和无记忆性两大特点，在信号处理和通信工程领域有广泛的应用。
3. 布朗运动布朗运动是描述微粒在液体或气体中无规则运动的数学模型，具有连续性、无界性、弱马尔可夫性等特点。
布朗运动在金融市场模型、生物学种群演化等领域有着重要的应用。
四、随机过程教学方法1. 理论讲解在教学过程中，首先应当对随机过程的基本概念和性质进行详细的理论讲解，帮助学生建立起对随机过程的整体认识和理解。
2. 例题分析通过一些典型的例题分析，引导学生掌握随机过程的求解方法和技巧，培养学生的解决问题的能力和思维逻辑。
3. 实例演练在教学中增加一些实际应用场景的实例演练，帮助学生将理论知识与实际问题相结合，提升学生的应用能力和创新意识。
五、总结与展望随机过程是一个重要而复杂的数学概念，对学生的数学思维和逻辑推理能力有着很高的要求。
通过本教案的学习，相信学生们可以更好地理解和掌握随机过程的相关知识，为将来的学习和研究打下坚实的基础。
《随机过程》课件
马尔可夫过程的定义与性质
马尔可夫过程是一种重要的随机过程，具有马尔可夫性质，即未来状态只与当前状态有关。本部分将详 细介绍马尔可夫过程的定义和特性。
马尔可夫过程的应用
马尔可夫过程在很多领域都有广泛的应用，如金融风险评估、自然语言处理和社交网络分析等。我们将 义与性质
《随机过程》PPT课件
随机过程是一个重要的数学概念，本课件将深入介绍随机过程的定义、分类 以及常见例子，帮助您全面理解随机过程的本质。
随机过程的定义与随机变量的区别
了解随机过程和随机变量的不同之处对于理解随机过程的基本概念至关重要，本部分将详细讨论它们的 区别及其意义。
随机过程的分类及常见例子
随机过程可以根据其性质和特征进行分类，例如马尔可夫过程、泊松过程、布朗运动等。我们将介绍每 种类型的定义和常见应用。
布朗运动在金融和物理领域的 应用
布朗运动在金融领域和物理领域有着广泛的应用，如金融市场模型和粒子扩 散模型。我们将介绍一些相关的应用场景。
随机过程在数据分析中的应用
频率分析
利用随机过程的特性进行频率域信号分析， 如功率谱估计和频谱分析。
信号处理
利用随机过程的随机性和噪声模型进行信号 处理和滤波。
泊松过程是一种重要的随机过程，具有独立增量和平稳增量的特性。本部分 将详细介绍泊松过程的定义以及其它一些重要的性质。
泊松过程的应用
泊松过程在很多实际问题中具有重要的应用，如事件发生的模拟、人流和交通流量的预测等。我们将分 享一些实际案例。
布朗运动的定义与性质
布朗运动是一种连续时间的随机过程，具有随机漂移和随机扩散的特性。本部分将详细探讨布朗运动的 定义和一些重要的性质。
时域分析
通过对随机过程的统计特性进行分析，如均 值、方差和自相关函数。
《随机过程》课件
泊松过程
定义
泊松过程是一种计数随机过程，其事件的发生是 相互独立的，且具有恒定的平均发生率。
例子
放射性衰变、电话呼叫次数、交通事故等。
应用领域
物理学、工程学、保险学等。
03
随机过程的变换与函数
随机过程的线性变换
线性变换的定义
线性变换是指对随机过程中的每个时间点，将该点的随机变量或随机向量乘以一个常数 或矩阵，并加上另一个常数或矩阵。
应用
微分在随机过程的理论和应用中非常重要，例如在金融 领域中，可以通过计算股票价格的导数来预测股票价格 的变动趋势。
积分的定义
随机过程的积分是指对随机过程中的每个时间点，将该 点的随机变量进行积分。
积分的性质
积分运算可以改变随机过程的统计特性，例如期望、方 差和协方差等。
应用
积分在随机过程的理论和应用中也有重要应用，例如在 信号处理中，可以通过对信号进行积分来提取信号的特 征或进行信号的合成。
连续随机过程
01
定义
连续随机过程是在时间或空间上 连续取值的随机现象的数学模型 。
02
03
例子
应用领域
电子信号、温度波动、随机漫步 等。
物理、工程、金融等。
马尔可夫过程
定义
马尔可夫过程是一种特殊的随机过程，其未来状态只依赖于当前 状态，与过去状态无关。
例子
赌徒输赢的过程、天气变化等。
应用领域
统计学、计算机科学、人工智能等。
将随机信号视为随时间变化的随机变量序列，具有时间和概率的统 计特性。
随机模型
根据实际需求建立信号的随机模型，如高斯过程、马尔可夫过程等 。
信号的滤波与预测
滤波器设计
根据随机模型设计滤波 器，用于提取有用信号 或抑制噪声。
随机过程基础
随机过程基础随机过程是概率论中一个重要的分支，用于描述随机现象的演化规律和统计特性。
本文将介绍随机过程的基础概念、性质和常见的模型类型。
一、随机过程的概念随机过程是指由一组随机变量组成的函数族 {X(t), t ∈ T}，其中 T是一组时间指标。
随机过程可以看作是随机变量随时间的变化过程。
随机过程可以分为离散时间和连续时间两种类型。
离散时间随机过程：当时间指标集 T 为离散集合时，称为离散时间随机过程。
常见的离散时间随机过程有马尔可夫链和泊松过程。
连续时间随机过程：当时间指标集 T 为连续集合时，称为连续时间随机过程。
连续时间随机过程可以用随机微分方程进行描述，常见的连续时间随机过程有布朗运动和扩散过程。
二、随机过程的性质1. 状态空间：随机过程的状态空间是指随机变量 X(t) 可能取值的集合。
2. 轨道：对于固定的时间参数 t，随机过程的轨道是随机过程的一个实现，称为一个样本函数。
3. 随机过程的均值函数和自相关函数：对于随机过程 {X(t), t ∈ T}，定义均值函数和自相关函数如下：均值函数：μ(t) = E[X(t)]自相关函数：R(t1, t2) = E[(X(t1) - μ(t1))(X(t2) - μ(t2))]均值函数描述了随机过程在不同时间点的平均值，自相关函数描述了不同时刻的随机变量之间的相关性。
4. 平稳性：如果对于任意的时刻 t1 和 t2，二者的联合分布仅仅依赖于时间差 t2 - t1，而不依赖于具体的时刻 t1 和 t2，那么称该随机过程是平稳的。
三、常见的随机过程模型1. 马尔可夫过程：马尔可夫过程是一类具有马尔可夫性质的随机过程。
在马尔可夫过程中，未来的状态只与当前的状态有关，与过去的状态无关。
2. 泊松过程：泊松过程是一类具有独立增量和平稳增量的随机过程。
泊松过程常用于描述具有随机到达时间和随机离去时间的事件。
3. 布朗运动：布朗运动是一类连续时间的随机过程，具有无记忆性和独立增量性质。
随机过程知识点间的逻辑
随机过程知识点间的逻辑随机过程是概率论的一个重要分支，研究的是随机现象的演化规律。
它在各个领域都有着广泛的应用，如金融、通信、生物学等。
本文将以人类的视角，生动形象地介绍随机过程的相关知识点。
一、随机过程的概念随机过程是一种随时间变化的数学模型，它描述了随机事件随时间的演化规律。
可以将随机过程看作是一系列随机变量的集合，这些随机变量代表了在不同时间点上的随机事件。
二、随机过程的分类根据时间的连续性和随机性的性质，随机过程可分为连续时间随机过程和离散时间随机过程两种。
连续时间随机过程是在连续时间上进行观察的，例如布朗运动；离散时间随机过程是在离散时间上进行观察的，例如泊松过程。
三、随机过程的特征随机过程的特征可以通过其概率分布函数、均值函数和自相关函数等来描述。
概率分布函数描述了随机过程的取值在不同时间点上的概率分布；均值函数描述了随机过程的期望取值在不同时间点上的变化；自相关函数描述了随机过程在不同时间点上的相关性。
四、随机过程的性质随机过程具有多种性质，如平稳性、马尔可夫性和独立增量性等。
平稳性是指随机过程在时间平移下具有不变性；马尔可夫性是指在给定当前状态下，未来状态的概率只依赖于当前状态，而与过去状态无关；独立增量性是指在不同时间段内的随机变量是相互独立的。
五、随机过程的应用随机过程在金融领域的应用非常广泛，如股票价格的模拟与预测、期权定价等；在通信领域，随机过程被用于描述信号的传输与接收过程；在生物学领域，随机过程被用于模拟遗传变异和进化过程。
六、随机过程的发展随机过程是概率论的重要分支，随着数学理论的不断发展，随机过程的理论框架也在不断完善。
现代随机过程理论已经成为数学和应用数学领域的重要研究方向，为解决实际问题提供了有力的工具。
随机过程作为描述随机现象演化规律的数学模型，在各个领域都有着重要的应用。
通过对随机过程的分类、特征、性质和应用的介绍，相信读者对随机过程有了更深入的了解。
希望本文能够以人类的视角，生动形象地呈现随机过程的相关知识，使读者感到仿佛是真人在叙述。
物理学中的随机过程
物理学中的随机过程随机过程是物理学中一个重要的概念，它在众多领域中具有广泛的应用。
随机过程描述了具有一定随机性质的系统的演化规律，可用于解释自然界中的现象，以及设计和优化各种工程系统。
一、随机过程的概念和分类随机过程的概念可简单理解为随机事件随时间的演变。
它包括离散随机过程和连续随机过程两种主要类型。
离散随机过程具有离散状态和离散时间的特点，如泊松过程、马尔可夫链等；而连续随机过程则具有连续状态和连续时间的特点，如布朗运动、随机微分方程等。
二、随机过程在自然界中的应用随机过程在物理学中的应用非常广泛。
以布朗运动为例，它描述了具有随机性质的微粒在液体或气体中的运动轨迹。
布朗运动的研究帮助我们理解原子和分子在介质中的扩散行为，以及污染物在大气中的传播规律。
此外，随机过程还可用于描述粒子在物体表面的吸附行为、天体物理学中的星体分布等。
三、随机过程在工程领域中的应用在工程领域中，随机过程的应用也十分重要。
例如，通信系统中的信道传输可以用马尔可夫链模型进行描述，根据状态转移概率可以推断出信号的正确传输概率。
此外，随机过程还可用于控制系统的性能评估、网络流量的建模以及风力发电中对风速的建模等方面。
四、随机过程在金融学中的应用随机过程在金融学中的应用也是非常重要的。
例如，随机微分方程被广泛应用于金融市场的定价模型和风险管理中。
股票价格、利率变动等金融变量都被认为是随机过程。
通过对这些随机过程的建模和分析，可以对金融市场进行预测和风险控制。
五、随机过程的研究方法和难点随机过程的研究方法主要包括概率论、统计学、微积分等数学工具的运用。
通过数学模型的建立和分析，可以研究系统的统计特性和随机行为。
然而，由于随机过程的演化受到多种因素的影响，因此其建模和分析往往面临不确定性和复杂性的挑战。
在实际应用中，如何选择恰当的数学模型，并进行合理的参数估计和演化预测，是一项具有挑战性的任务。
六、展望随机过程作为物理学中的一项基础理论，不仅在研究中起着重要作用，同时也有着广泛的应用前景。
随机过程-第五章-连续时间的马尔可夫链
第五章 连续时间的马尔可夫链5.1连续时间的马尔可夫链考虑取非负整数值的连续时间随机过程}.0),({≥t t X定义5.1 设随机过程}.0),({≥t t X ,状态空间}0,{≥=n i I n ,若对任意121...0+<<<≤n t t t 及I i i i n ∈+121,...,,有})(,...)(,)()({221111n n n n i t X i t X i t X i t X P ====++=})()({11n n n n i t X i t X P ==++ (5.1) 则称}.0),({≥t t X 为连续时间马尔可夫链.由定义知,连续时间马尔可夫链是具有马尔可夫性的随机过程,即过程在已知现在时刻n t 及一切过去时刻所处状态的条件下,将来时刻1+n t 的状态只依赖于现在状态而与过去无关.记(5.1)式条件概率一般形式为),(})()({t s p i s X j t s X P ij ===+ (5.2) 它表示系统在s 时刻处于状态i,经过时间t 后转移到状态j 的转移概率.定义5.2 若(5.2)式的转移概率与s 无关,则称连续时间马尔可夫链具有平稳的或齐次的转移概率,此时转移概率简记为 ),(),(t p t s p ij ij =其转移概率矩阵简记为).0,,()),(()(≥∈=t I j i t p t P ij以下的讨论均假定我们所考虑的连续时间马尔可夫链都具有齐次转移概率.简称为齐次马尔可夫过程.假设在某时刻,比如说时刻0,马尔可夫链进入状态i,而且接下来的s 个单位时间单位中过程未离开状态i,(即未发生转移),问随后的t 个单位时间中过程仍不离开状态i 的概率是多少呢?由马尔可夫我们知道,过程在时刻s 处于状态i 条件下,在区间[s,s+t]中仍然处于i 的概率正是它处于i 至少t 个单位的无条件概率..若记i h 为记过程在转移到另一个状态之前停留在状态i 的时间,则对一切s,t 0≥有},{}{t h P s h t s h P i i i >=>+>可见,随机变量i h 具有无记忆性,因此i h 服从指数分布.由此可见,一个连续时间马尔可夫链,每当它进入状态i,具有如下性质: (1) 在转移到另一状态之前处于状态i 的时间服从参数为i v 的指数分布;(2) 当过程离开状态i 时,接着以概率ij p 进行状态j,1=∑≠ij ij p .上述性质也是我们构造连续时间马尔可夫链的一种方法.当∞=i v 时,称状态i 为瞬时状态,因为过程一旦进入此状态立即就离开.0=i v 时,称状态i 为吸收状态,因为过程一旦进入状态就永远不再离开了.尽管瞬时状态在理论上是可能的,但以后假设对一切i, ∞<≤i v 0.因此,实际上一个连续时间的马尔可夫链是一个这样的随机过程,它按照一个离散时间的马尔可夫链从一个状态转移到另一个状态,但在转移到下一个状态之前,它在各个状态停留的时间服从指数分布.此外在状态i 过程停留的时间与下一个到达的状态必须是相互独立的随机变量.因此下一个到达的状态依赖于i h ,那么过程处于状态i 已有多久的信息与一个状态的预报有关,这与马尔可夫性的假定相矛盾.定理5.1 齐次马尔可夫过程的转移概率具有下列性质:;0)1(≥ij p (2);1=∑∈ij Ij p(3) ∑∈=+Ik kj ik ij s p t p s t p )()()(.其中(3)式即为连续时间齐次马尔可夫链的切普曼—柯尔哥洛夫方程. 证明 只证(3).由全概率公式及马尔可夫性可得 ===+=+)})0()({)(i X j s t X P s t p ij =∑∈===+Ik i X k t X j s t X P })0()(,)({=})()({})0()({k t X j s t X P i X k t X P Ik ==+==∑∈∑∈=Ik kj ik s p t p )()(.对于转移概率)(t p ij ,一般还假定它满足:⎩⎨⎧≠==→.,0,1)(lim 0j i ji t p ij t(5.3)称(5.3)式为正则条件.正则条件说明,过程刚进入某状态不可能立即又跳跃到另一状态.这正好说明一个物理系统要在有限时间内发生限多次跳跃,从而消耗无穷多的能量这是不可能的.定义5.3 对于任 一0≥t 记 },)({)(j t X P t p j ==,},)0({)0(I j j X P p p j j ∈===分别称}{},),({,I j p I j t p j j ∈∈ 齐次马尔可夫过程的绝对概率分布和初始概率分布.定理5.2齐次马尔可夫过程的绝对概率及有限维概率分布具有下列性质: (1) ,0)(≥t p j (2),1)(=∑∈t p j Ij(3) )()(t p p t p ij Ii i j ∑∈=;(4) );()()(h p t p h t p ij Ii i j ∑∈=+(5)).()...(})(,...,)({112111211-∈--====-∑n n i i i i ii Ii i n n t t p t t p p p i t X i t X p n n例5.1试证明泊松过程}0),({≥t t X 为连续时间齐次马尔可夫链. 证明 先证泊松过程具有马尔可夫性,再证明齐次性.由泊松过程的定义 它是独立增量过程,且X(0)=0.11,...0+<<<n n t t t ,有})(,...,)()({1111n n n n i t X i t X i t X P ===++= ,.)0()()()({1111i X t X i i t X t X P n n n n =--==-++ =,111212)()(,...)()(---=--=-n n n n i i t X t X i i t X t X } = })()({11n n n n i i t X t X P -=-++ . 另一方面,因为})()({11n n n n i t X i t X P ==++=})0()()()({11n n n n n n i X t X i i t X t X P =--=-++ =})()({11n n n n i i t X t X P -=-++所以})(,...,)()({1111n n n n i t X i t X i t X P ===++=})()({11n n n n i t X i t X P ==++. 即泊松过程是一个连续时间马尔可夫过程.以下证明齐次性. 当i j ≥ 时,由泊松过程的定义})()({i s X j t s X P ==+= })()({i j s X t s X P -=-+=)!()(i j t eij t---λλ j<i.时,由于过程的增量只取非负整数,故,0),(=t s p ij 所以⎪⎩⎪⎨⎧<≥-==--i j ij i j t e t p t s p i j t ij ij ,0,)!()()(),(λλ, 即转移概率只与t 有关,泊松过程具有齐次性.5.2柯尔莫哥洛夫微分方程对于连续时间齐次马尔可夫链转移概率)(t p ij 的求解一般比较复杂.下面首先讨论)(t p ij 的可微性及)(t p ij 满足的柯尔莫哥洛夫微分程.引理5.1 设齐次马尔可夫过程满足正则性条件(5.3),则对于任意固定的)(,,t p I j i ij ∈是t 的一致连续函数.证明 设h>0,由定理5.1得)()()()()(t p t p h p t p h t p ij rj Ir ir ij ij -=-+∑∈)()()()()(t p t p h p t p h p ij ij ii rj ir ir -+=∑≠=)()](1[)()(t p h p t p h p ij ii rj ir ir --=∑≠故有)],(1[)()](1[)()(h p t p h p t p h t p ii ij ii ij ij --≥--=-+ ),(1)()()()()(h p h p t p h p t p h t p ii ir ir rj ir ir ij ij -=≤≤-+∑∑≠≠因此).(1)()(h p t p h t p ii ij ij -≤-+对于h<0,同样有).(1)()(h p t p h t p ii ij ij --≤-+ 综上所述得到).(1)()(h p t p h t p ii ij ij -≤-+ 由正则性条件知,0)()(lim 0=-+→t p h t p ij ij h 即)(t p ij 关于t 是一致连续的.以下我们恒设齐次马尔可夫过程满足正则性条件(5.3)式.定理5.3 设)(t p ij 是齐次马尔可夫过程的转移概率,则下列极限存在 (1);)(1lim 0∞≤==∆∆-→∆ii i ii t q v t t p (2).,)(lim 0j i q tt p ij ij t ≠∞<=∆∆→∆我们称ij q 为齐次马尔可夫过程从状态i 到状态j 的转移概率或跳跃强度.定理中的极限的概率意义为:在长为t ∆的时间区间内,过程从状态i 转移到另一其他状态的转移概率为)(1t p ii ∆-等于t q ii ∆加一个比t ∆高阶的无穷小量,而过程从状态i 转移到状态j 的转移概率为)(t p ij ∆等于t q ij ∆加一个比t ∆高阶的无穷小量. 推论 对有限齐次马尔可夫过程,有 ∞<=∑≠ij ij ii q q证明 由定理5.1 ,有)()(1,1)(t p t p t pij ij ii Ij ij∆=∆-=∆∑∑≠∈由于求和是在有限集中进行,故有.)(lim )(1lim 00∑∑≠≠→∆→∆=∆∆=∆∆-=ij ij ij i j t ii t ii q t t p t t p q (5.4)对于状态空间无限的齐次马尔可夫过程,一般只有 ∑≠≥ij ij ii q q .若连续时间齐次马尔可夫是具有有限状态空间I={0,1,2,…,n},则其转移速率构成以下形式的矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---=nn n n n n q q q q q qq q q Q .....................11111000100 (5.5) 由(5.4)式知,Q 矩阵的每一行元素之和为0,对角线元素为负或0,其余.0,≥ij q 利用Q 矩阵可以推出任意时间间隔t 的转移概率所满足的方法组,从而可以求解转移概率.由切普曼---柯尔莫哥洛夫方程有 ),()()(t p h p h t p Ik kj ik ij ∑∈=+或等价地)()](1[)()()()(t p h p t p h p t p h t p ij ii kj ik ik ij ij --=-+∑≠两边除以h 后令0→h 取极限,应用定理5.3得到 )()()(lim )()(lim 00t p q t p hh p ht p h t p ij ii kj ik ik h ij ij h -=-+∑≠→→ (5.6) 假定在(5.6)式的右边可交换极限与求和,再运用定理5.3,于是得到以下结论: 定理5.4 (柯尔莫哥洛夫向后方程)假设,ii ik ik q q =∑≠则对一切i,j 及0≥t ,有,)()(ij ii ik kj ik ijp q t p q t p -='∑≠ (5.7) 证明 只要证明(5.6)式右边极限与求和可交换次序.现在对于任意固定的N,有≥∑≠→)()(inflim 0t p hh p kj ik ik h )()()(inf lim ,,0t p q t p h h p kj Nk i k ik kj Nk i k ik h ∑∑<≠<≠→= 因为上式对一切N 成立,所以)()()(inflim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≥ (5.8) 为了倒转不等式,注意对于N>i,由于,1)(≤t p kj 所以 ≤∑≠→)()(sup lim ,0t p hh p kj i k ik h ≤+≤∑∑≥<≠→])()()(sup[lim ,0Nk ik kj Nk i k ik h h h p t p h h p ≤--+≤∑∑<≠<≠→])()(1)()(sup[lim ,,0Nk i k ik ii kj Nk i k ik h h h p h h p t p h h p ,)(,,∑∑<≠<≠-+≤Nk i k ikii kj Nk i k ikqq t p q令∞→N ,由定理5.3和条件得)()()(sup lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→≤. 上式连同(5.8)可得 )()()(lim ,,0t p q t p h h p kj i k ik kj i k ik h ∑∑≠≠→=.定理5.4中)(t p ij 满足的微分方程组以柯尔莫可洛夫向后方程著称.称它们为向后方程,是因为在计算时刻t+h 的状态的概率分布时我们对退后到时刻h 的状态取条件,即我们从)()(})0()({..})(,)0()({)(h p t p i X k h X P k h X i X j h t X P h t p ik Ik kj Ik ij ∑∑∈∈======+=+开始计算.对时刻t 的状态取条件,我们可以导出另一组方程,称为柯尔莫哥洛夫向前方程.可得),()()(h p t p h t p kj Ik ik ij ∑∈=+)()()()()(t p h p t p t p h t p ij kj Ik ik ij ij -=-+∑∈=)()](1[)()(t p h p h p t p ij jj kj jk ik --=∑≠,所以 )}.()(1)()({lim )()(lim 00t p h h p h h p t p ht p h t p ij jj kj jk ik h ij ij h --=-+∑≠→→假定我们能交换极限与求和,则由定理5.3便得到),()()(t p q q t p t p ij ii jk kj ik ij-='∑≠ 令人遗憾的是上述极限与求和的交换不是恒成立,所以上式并非总是成立.然而在大多数模型中----包括全部生灭过程与全部有限状态的模型,它们是成立的. 定理5.5(柯尔莫哥洛夫向前方程) 在适当的正则条件下,,)()()(jj ij kj ik ik ijq t p q t p t p -='∑≠ (5.9) 利用方程组(5.7)或(5.9)及初始条件 .,0)0(,1)0(j i p p ij ii ≠==我们可以解得)(t p ij .柯尔莫哥洛夫向后和向前方程虽然形式不同,但是可以证明它们所求得的解)(t p ij 是相同的.在实际应用中,当固定最后所处状态j,研究)(t p ij 时(i=0,1,2,…,n),采用向后方程比较方便;当固定状态i,研究)(t p ij 时(j=0,1,2,…,),则采用向前方程较方便.向后方程和向前方程可以写成矩阵形式),()(t QP t P =' (5.10) ,)()(Q t P t P =' (5.11) 其中⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡---= (222120121110)020100q q q q q qq q q Q ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=............ (222120121110)020100p p p p p pp p p P 这样,连续时间马尔可夫链的转移概率的求解问题就是矩阵微分方程的求解问题,其转移概率由其转移速率矩阵Q 决定.特别地,若Q 是一个有限维矩阵,则(5.10)和(5.11)的解为 .!)()(0∑∞===j jQtj Qt et P定理5.6 .齐次马尔可夫过程在t 时刻处于状态I j ∈的绝对概率)(t p j 满足下列方程:.)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' (5.12)证明 由定理5.2,有)()(t p p t p ij Ii i j ∑∈=t将向前方程(5.9)式两边乘以,i p 并对i 求和得.)())(()(kj jk ikiIi jj ijiIi ijIi iq t pp q t pp t p p ∑∑∑∑≠∈∈∈+-='故 .)()()(kj jk k jj j j q t p q t p t p ∑≠+-=' .与离散马尔可夫链类似,我们讨论转移概率 )(t p ij 当 ∞→t 时的极限分布与平稳分布的有限性质.定义5.4 设)(t p ij 为连续时间马尔可夫链的转移概率,若存在时刻 21,t t ,使得 ,0)(1>t p ij ,0)(2>t p ij则称状态i 和j 是互通的.若所有状态都是互通的,则称此马尔可夫链为不可约的.定理5.7 设连续时间的马尔可夫是不可约的,则有下列性质:(1) 若它是正常返的,则极限)(lim t p ij t ∞→存在且等于.,0I j j ∈>π这里.,0I j j ∈>π是方程组1,==∑∑∈≠Ij j kj jk k jj j q q πππ (5.13)的唯一非负解.此时称.,0{I j j ∈>π是该过程的平稳分布,并且有 .)(lim j j t t p π=∞→ (2) 若它是零常返的或非常返的,则.,,0)(lim )(lim I j i t p t p j t ij t ∈==∞→∞→在实际问题中,有些问题可以用柯尔莫哥洛夫方程直接求解,有些问题虽然不能求解但是可以用方程(5.13)求解.例5.2 考虑两个状态的连续时间马尔可夫链,在转移到状态1之前链在状态0停留的时间是参数为λ的指数变量,而在回到状态0之前它停留在状态1的时间是参数为μ的指数变量,显然该链是一个齐次马尔可夫过程,其状态转移概率为 ),()(01h o h h p +=λ),()(10h o h h p +=μ由定理5.3知由柯尔莫哥洛夫向前方程得到)()()(000100t p t p t p λμ-='=,)()(00μμλ++-t p 其中最后一个等式来自).(1)(0001t p t p -=因为,1)0(00=p 由常数变易法得 ,)()(00t e t p μλμλλμλμ+-+++=若记,,00μλμμμλλλ+=+=则,)()(0000t e t p μλλμ+-+=类似地由向前方程)()()(010001t p t p t p μλ-=' ,)()(lim )(1lim 1001010011011q h p dhdhh p h h p q h h h ====-==→→μ,)()(lim )(1lim 0100101000000q h p dhdhh p h h p q h h h ====-==→→λ可解得 ,)()(0001t e t p μλλλ+--= 由对称性知,)()(0011t e t p μλμλ+-+= ,)()(0010t e t p μλμμ+--= 转移概率的极限为),(lim )(lim 10000t p t p t t ∞→∞→==μ),(lim )(lim 11001t p t p t t ∞→∞→==λ 由此可见,当∞→t 时, )(t p ij 的极限存在且与i 无关.定理5.6知,平稳分布为 0100,λπμπ== 若取初始分布为平稳分布,即,}0)0({00μ===p X P ,}1)0({01λ===p X P 则过程在时刻t 的绝对概率分布为 )()()(1010000t p p t p p t p +==0)(000)(00]1[][μμλμλμμλμλ=-+++-+-t t e e=0)(000)(00][]1[λμλλλμμλμλ=++-+-+-t t e e .例5.3 机器维修问题.设例5.2中状态0代表某机器正常工作状态1代表机器出故障.状态转移概率与例5.2相同,即在h 时间内,机器从正常工作变为出故障的概率为),()(01h o h h p +=λ在h 时间内,机器从有故障变为经修复后正常工作的概率为),()(10h o h h p +=μ试求在t=0时正常工作的机器,在t=5时为正常工作的概率. 解 由例5.2已求得该过程的Q 矩阵为⎪⎪⎭⎫⎝⎛--=μμλλQ .根据题意,要求机器最后所处的状态为正常工作,只需计算)(00t p 即可. 由例5.2知,)()(0000t e t p μλλμ+-+=,,00μλμμμλλλ+=+=故 ,)5(5)(0000μλλμ+-+=e p 因为P{X(0)=0}=1=,0p 所以)()()(1010101t p p t p p t p +=====)5()5(}0)5({0000p p p X P .)5(5)(0000μλλμ+-+=e p5.3 生灭过程连续时间马尔可夫链的一类重要特殊情形是生灭过程,它的特征是在很短的时间内,系统的状态只能从状态i 转移到状态i-1或i+1或保持不变,确切定义如下. 定义5.5 设齐次马尔可夫过程}0),({≥t t X 的状态空间为I={0,1,2,…},转移概率为)(t p ij ,如果,0),()(1,>+=+i i i i h o h h p λλ,0,0),()(01,=>+=-μμμi i i i h o h h p),()(1)(,h o h h p i i i i ++-=μλ则称 }0),({≥t t X 为生灭过程,i λ为出生率, i μ为死亡率.若,λλi i =μλμμ,(,i i =是正常数),则称}0),({≥t t X 为线性生灭过程. 若0≡i μ,则称}0),({≥t t X 为纯生过程. 若0≡i λ,则称}0),({≥t t X 为纯灭过程. 生灭过程可作如下概率解释:若以X(t)表示一个生物群体在t 时刻的大小,则在很短的时间h 内(不计高阶无穷小),群体变化有三种可能,状态由i 变到i+1,即增加一个个体,其概率为h i λ;.状态由i 变到i-1,即减少一个个体,.其概率为h i μ;群体大小保持不变,其概率为.)(1h i i μλ+-由定理5.3得到,0,)()(,0≥+=-==i h p dhd t q i i h ii ii μλ ⎩⎨⎧≥-=≥+====,1,1,,0,1,)()(0i i j i i j h p dh d t q ii h ij ij μλ ,2,0≥-=j i q ij故柯尔莫哥洛夫向前方程为.,),()()()()(1,11,1I j i t p t p t p t p j i j ij j j j i j ij∈++-='++--μμλλ 故柯尔莫哥洛夫向后方程为.,),()()()()(,11,I j i t p t p t p t p j i i ij j j j i i ij∈++-='+-λμλμ 因为上述方程组的求解较为困难,我们讨论其平稳分布.由(5.13)式,有 ,2),()(,≥-=j i h o h p j i,1100πμπλ=.1,)(1111≥+=+++--j j j j j j j j πμπλπμλ逐步递推得,0101πμλπ=…, ,11--=j jj j πμλπ 再利用11=∑∞=j j π,得平稳分布,11211100)......1(-∞=-∑+=j j j μμμλλλπ, 112111021110)......1(......-∞=--∑+=j jj j j j μμμλλλμμμλλλπ 例5.4 生灭过程例子M/M/S 排队系统.假设顾客按照参数为λ的泊松过程来到一个有s 个服务员的服务站,即相继来到之间的时间是均值为λ1的独立指数随机变量,每一个顾客一来到,如果有服务员空闲,则直接进行服务,否则此顾客加入排队系列.当一个服务员结束对一位顾客的服务时顾客就离开服务系统,排队中的下一顾客进入服务. 假定相继的服务时间是独立的指数随机变量,均值为μ1.如果我们以X(t)记时刻t 系统中的人数,则}0),({≥t t X 是生灭过程⎩⎨⎧>≤≤=,,,1,s n s s n n n μμμ .0,≥=n n λλM/M/s 排队系统中M 表示马尔可夫过程,s 代表s 个服务员.特别在M/M/1排队系统中,μμλλ==n n ,,若1<μλ,则由(5.14)可得 .0),1()()(1)(1≥-=+=∑∞=n n n nnn μλμλμλμλπ。
随机过程的概念理解
随机过程的概念理解先前概念：1、样本点ζ： 随机试验每个可能出现的结果。
骰⼦有6⾯，分别记为‘A’、‘B’、‘C’、‘D’、‘E’、‘F’。
掷骰⼦⼀次，记录结果，则该随机试验的样本点有6个，其中⼀个⽐如为“A⾯朝上”。
2、样本空间Ω： 全体样本点的集合。
3、事件： Ω的⼦集。
“A⾯或C⾯朝上”3、事件域 F： Ω所有的⼦集的集合，即事件的集合。
4、概率 P： 姑且可以理解为某个事件发⽣的可能性。
5、概率空间（Ω，F，P）6、随机变量 X： 已知⼀个概率空间（Ω，F，P），如果对于其样本空间Ω上的每⼀个样本ζk ，都有⼀个实数xk = X(ζk) 与它对应。
对应于所有样本ζ∈Ω，则得到定义在Ω上的单值实函数X（ζ）。
若每个实数x的数集{X（ζ）<= x}仍是事件域F中的事件，则称这个单值实函数X（ζ）为随机变量。
7，⼆维随机变量： X、Y 为定义在同⼀个概率空间（Ω，F，P）上的两个随机变量，则称其总体（X、Y）为⼆维随机变量。
8、数学期望： 对随机变量的所有可能值作统计平均，这⾥所有可能值对应于样本空间内所有样本点所映射的实数值。
随机过程： 举例，掷骰⼦，掷3下，分别在t1、t2、t3 三个时刻记录结果。
“A上”对应于实数1；“B上”对应于实数2；“C上”对应于实数3 ，以此类推。
这就是⼀个定义在三个时刻上的离散函数，当然可以去定义⼀个连续的函数。
但是呢，这个函数很奇怪，因为这个函数有多种情况，你可以理解为好多⼈在和你⼀起且在同样的三个时刻掷骰⼦，所以会有不同的函数出现。
⽽这种情况，其实就对应了随机变量，我们把所有的函数情况的集合叫作样本空间，某⼀种函数叫作样本点，显然总共有6*6*6个不同的样本点。
但是这个和前⾯定义的有所不同的是，每个样本点所做的映射不再是⼀个实数值，⽽是⼀个函数，⼀个随时间变化的函数，也就是我们在原来随机变量的基础上，由⼀个固定的实数值拓展到⼀个随时间变化的实数，即函数。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(G, H ) sup{G G， H H， P(G ) 0} P(G H ) P( H ) (G, H ) sup{G G， H H } ， P (G H ) P(G ) P( H )
显然，如果两个事件 G 和 H，是相互独立的，它们的联合概率等于边际概率的乘积， 条件分布等于无条件边际分布，所以 和 都是零。当 和 的系数和信息集之间的时间 间隔 （m ） 的度量方法有关时， 引进两个信息集之间缺乏独立性的一种正式的度量方法。 混合和 -混合的系数的概念正式的表述为：
本质上，这个概念假设，空间的相互影响（同类单位）发生在一个给定的半径（邻域） 内，当空间单位离开这个邻域足够远时，这种相互影响就消失了。它意味着相邻近的一种特 殊形式，和在第 3.1 节考察的定义是相似的。此外，异质性的程度由施加在矩上的正则条件 所限制。 通常情况下，Smith 定义了一个正则的随机域 ，作为遵从统一的非退化和 Lyapunov 条件两个要求的空间随机过程。这些条件表述为：
(m) sup n [ B (, n) ，B (n m,) (m) sup n [ B ( , n ) ，B (n m,)
B ( , n) 和 B ( n m,) 代表了两个由时间间隔 m 分开的信息集， 一个随机过程被称 为 -混合或 -混合， 如果各自的混合系数达到零， 随着信息集之间的时间间隔 m 增加至无 穷：
E[i , j ] 0
对于 d
另一方面， 当空间单位被大于 的距离分开时， 是没有相关性的。 这是远程独立的要求。 这种因果结构形成了一个能够得到有效的统计特性的一般的框架。 作为构建空间基础的 距离度量标准的应用， 和它在空间相互影响理论中的重要性是相似的。 虽然这意味着某种各 向同性程度，但是在一般的空间中定义距离的灵活性基本上绕开这一限制。而且，局部协变 随机域的概念不局限于格子， 但是能够应用于任何可以定义真正的距离度量标准的空间单位 的排列。另外，正协方差的要求，和需要背假设的同质性程度对应用空间模型来说，也许仍 然太严格。 5.1.4 混合序列 混合序列的概念形成了处理随机过程中相关性和异质性问题的最有力的框架。 虽然， 这 通常用来处理随时间变化的独立性和跨横截面单位的异质性， 但是， 包含的一般原则可以通 过一种相当简明的方法被推广到空间相关性。 直观地，对混合概念来说，出发点是两个作为样本空间（ -超复系， -域，或 Borel域）的子集的信息集之间的不同。这些信息集被时间间隔 m 分开，通过一个合适定义的度 量标准。在时间序列背景下，由两个 -超复系来表出，假如 G 和 H，G 代表过去的所有信 息，从 到给定的时间 n ，H 代表未来的所有信息，从时间 n m 到 。在空间中，这 两个信息集可以被认为是非常笼统的，因为它们是关于不同的空间单位或空间单位的集合， 即一个特定的距离。混合系数提供了一种方法来度量这两个信息集或 -超复系之间的相关 性。 在这种形式背景下，引进两种信息集之间的相关性的度量方法，一个表述为相对度量 （ -混合） ，另一个是绝对度量（ -混合） 。形式上，事件 G 和 H 分别属于信息集 G 和 H：
第五章 空间随机过程: 术语及一般性质
这一章中，为了估计和检验空间计量模型，我们讨论正规数学和统计背景下的一般术 语，尽管这部分内容相当抽象，我将采用简略的处理方法。关于各种定义、定理和证明的深 入探讨，超出了本书的范围，因为相关的理论著作讲述的很详尽。这一章的主要目的是集中 给出一些重要的结论，这些结论已经被介绍在各种文献中。 理论的计量经济文献的一些重要新成果强调，在处理空间效果的过程中，怎样把这些 最新的研究成果应用于一般的相关情况。 尽管关于空间的应用不能发展成为一种思想， 但是 这些抽象的结论形成了空间模型的各种估计程序和检验性质的检验的基础。 在这方面， 相关 和异方差随机过程的理论，证明是非常重要的。 这一章主要包含三个部分。在第一部分中，介绍空间随机过程的概念，并简要讨论一 些重要的特性；第二部分，从关于渐近逼近估计和推断的文献中总结一些基本概念，某种程 度上， 它们从属于空间和时空过程。 通过诸如在实践中遇到的空间建模的一致性和渐近性等 概念的恰当性的重要检验来结束本章。 5.1 空间随机过程的性质 5.1.1 定义 随机过程是一个规范的概念，曾经用来表明按照某种有规律的形式被组织在一起的随 机变量的集合或者序列。更确切地说，如果一个随机变量，假如说 x ，和一个下标变量相联 系，假如 i ， i 属于 p-维空间， R p ，中的一个点，那么
{xi , i I }
是一个随机过程， 集合 I 是一个由下标参数的所有可能取值组成的一个集合， 它可以是任何 一般维度的空间，离散的或连续的。空间随机过程是下标属于空间中一个点的特殊情况。 这一类随机变量被定义明确的联合密度或分布函数所刻画。当这个密度函数是正态分 布时，它有许多简化的结论，这个过程称之为高斯随机过程。 一个随机过程是完全确定的，当属于这个随机过程的 xi 的任何有限子集的联合分布函 数已知时。这需要一个完全确定的 xi ——对任意的 i ，一个明确定义的状态矢量空间（即随 机变量所有可能取值的集合）——和下标范围之间相关性的集合。 空间随机过程的概念不同于经验工作中采用的传统的随机抽样方法。的确，在空间中 不同点的观测值之间的相关性被假设由一个未知的基本过程产生。 这个过程的具体形式被一 个先验的假设的基础上的实质性的理论所决定。相反，在随机抽样的情况下，观测单位之间 的相关性是不希望得到的一个特征。 5.1.2 平稳性和各向同性 空间数据的空间随机过程方法意味着只有一个观测是可获得的，即空间或时空中随机 变量值的分布， 因为这不是一个控制的情况， 一些限制条件需要被施加在相关程度和被允许 的异方差性上。实质上，为了推断这一基本过程的某些特征，需要假设稳定性的程度，这通 常通过施加平稳性、遍历性和各向同性的要求来实现。 一个平稳的随机过程已经达到了一种统计平衡的状态，以至于这个产生机制被假设能
-混合： (m) 0 ，当 m
-混合： (m) 0 ，当 m
虽然通过特定的随机过程所暗含的混合程度并不总是明显的， 但是这个概念的实际应用 由于和矩形式上联系的限制的引进而容易。这导致了在缺乏独立性（混合）和允许的异质性 （矩约束）之间的一个明确的权衡，这构成了许多实际收敛性质和中心极限定理的基础。 直观地，随着一个过程的 memory 的减少，即随着距离的增加，相关性迅速的减弱，允 许更多的异质性。另一方面，随着相关性在范围上的扩大，高阶矩上更严格的约束限制了异 质性的程度。虽然，在某种意义上，混合序列的概念和平稳性以及遍历性是相似的，相关性 和异质性之间的明确权衡考虑到更广泛的过程需要被建立模型， 和以更切合实际的假设和限 制构建一个框架体系。 空间过程的一般概念的扩充是很简单的， 只要空间单位能够通过一个定义明确的距离度 量单位的方式被组织起来。直观地，时间轴上的距离与在空间距离上有直接的相似。只要空 间上的相关性随距离的增加以某种有规律的形式减弱， 可以得出关于混合条件的相似。 这意 味着空间的权矩阵应该反映距离的衰减形式。权矩阵被认为概括了空间相互作用的同步形 式。建立在可获得的正式概念的基础上的权矩阵，例如 Weibull（1976）的公理化方法，能 够满足这一要求。 由于空间相关性被允许随着距离的增加， 以一种平稳的形式衰减， 混合系数的方法被视 为一种比 Smith（1980）的远程独立的概念略微更一般的框架体系。它也考虑到了空间中异 质性的更令人满意的处理方法。 5.2 随机过程的渐近方法 空间数据集中独立性的缺乏预先排除了许多传统抽样理论的应用， 这些抽样理论是建立 在独立随机抽样原则的基础上的。 取而代之的是， 估计和检验统计的性质的推导需要被建立 在渐近考虑，即当在空间、时间、或时空中观测到的数据的数量以一种有规律的形式增加到 无穷时，逼近是有效的。直观地，由于样本中的相关性使得信息的丧失，可以通过增加数据 集的容量来弥补。在一个宽松的意义上说，包含在较大的相关数据集中的信息，与较小的相
2 (i )
E ( i i
2 d
（统一非退化）
)
（Lyapunov 条件）
第一个要求限制了偏离均值的最小程度， 第二个要求变化的范围 （没有二阶以上的矩比 正数 大） 。 用一个适当的度量标准来表示两个观测的空间单位之间的距离， 局部协变的要求被定义 为两个假定的合并，相邻的协变和远程独立，首先假设对于足够邻近的两个空间单位（即， 它们之间的距离小于一个具体的正数 ） ，正的协变是存在的。即，
够穿越时间和空间而同一的起作用。 换句话说， 这种联合分布对于任何观测值的子集都是一 样的（同方差），这意味着对矩的许多限制，例如固定均值和常有限方差。 在比较正式的情况下，严格的平稳性被定义为这样的一种状态，对于任意的 s，随机过 程
{xi , i I }
的任何有限子集 {xi , x j , , xn } 和子集 {xi s , x j s , , xn s } 有相同的联合分布，其中，s 代表 了在时间、空间或时空上相同的变化。 在时间序列背景下，变化的概念是很简单的。平稳性意味着在任何时点上， xi 的分布 是一样的，均值和方差是常值和有限的， xi 和 x j 之间的协方差不依赖于特殊的时间周期， 只依赖于在时间上的变化。弱平稳性的概念，大多数应用中使用的是协方差的平稳性，时间 的独立性只是对两阶矩要求。 在时间序列分析中平稳性要求导致了被时间变化标出的自方差和自相关函数的应用， 通过 Box 和 Jenkins 所发明的著名的方法在模型的识别和估计中提供帮助。 此外，因为基本的随机过程是可以确认的，并且为了确保良好的渐近性质的存在性，一 些限制必须被施加在相关的程度上。例如，由遍历性的必要条件组成经常运用的约束条件， 总体上来说，这些条件确保两个事件在极限条件下是相互独立的。 在空间分析中，统一变化的念是相当复杂的,因为在空间 weight matrices 的讨论中已 经指出。在一种严格的意义上，一个空间过程是平稳的，当子集中的任何随机变量的联合分 布仅仅依赖于不同点的相对位置时， 即由它们的相对方位和各自的距离所决定。 因为在二维 平面（或者更高维空间）中的点之间的方位，仍然留有许多不同的情形，关于各向同性的更 严格一点的概念也通常被利用。 对于一个各向同性的随机过程， 联合分布只和相互之间的位 置距离有关，和方位是无关的。 再次， 弱的或协方差空间平稳性和各向同性能够通过限制一阶和二阶矩的这些要求来定 义。因此，对于一个弱的空间平稳过程，在两个不同位置的随机变量之间的协方差仅仅和它 们位置之间的距离和关于一个坐标系统的相对方位有关。 对于一个各向同性的随机过程， 这 些矩只取决于两位置之间的距离。 在时间序列情形的分析中， 空间自方差和相关函数的分析， 被空间变化标出，形成了模型识别和估计的基础。 Hooper 和 Hewings（1981）已经指出，这种模拟仅仅在有限类型的空间过程中适合。 没有限制性的假设，没有空间 lag 的概念是可得到的，它提供了一个平稳性概念的精确的理 解和与之相联系的空间自相关函数的应用。因此，在时间序列分析中，有一个很有意义的类 似于 Box-Jenkins 方法的空间数据处理方法，受限于这些空间过程。不幸的是，那些具有明 确定义的自相关性质的空间过程的结构是非常限定的。 此外， 空间平稳性和各向同性的本质， 对于这类在应用科学中遇到的数据和空间结构似乎相当的不现实的。 这个问题不局限于空间 过程中，但是也和时间领域有关。例如，在经济时间序列的分析中，平稳性假设的无条件应 用的缺陷被 White 和 Domowitz（1984）讨论过。 5.1.3 局部协变随机域 构造进行重要的估计和假设检验的空间随机过程的一个不同方法， 是明确限制相关性程 度，在提出空间样本的中心极限定理的背景下，Smith（1980）提出了对称的局部协变随机 域。