电子科技大学随机过程覃思义第五章sjgc
电子科技大学随机过程覃思义sjgc课件
06
随机过程在通信中的 应用
信号检测与估计
信号检测
在通信系统中，信号检测是接收端对发送端发送的信号进行识别和判断的过程。随机过 程理论在信号检测中发挥了重要作用，通过对信号的统计特性进行分析，实现信号的有
效检测。
VS
常见的多用户检测算法包括匹配滤波 器、最小均方误差、最大似然等，这 些算法在理论上均可以利用随机过程 理论进行推导和优化。
无线通信中的信号处理
无线通信环境复杂多变，信号处理技术对于保证通信系统的 稳定性和可靠性至关重要。利用随机过程理论，可以对无线 信道中的噪声、干扰等影响因素进行分析和控制，提高信号 传输的质量和可靠性。
数学期望的性质
数学期望具有线性性质、可加性 和可交换性等性质，这些性质在 计算和推导中具有重要应用。
数学期望的运算
数学期望的运算包括求和、乘法 、极限等运算，这些运算在计算 随机变量的数学期望时是必要的 。
方差与协方差
方差的定义
方差是随机变量与其数学期望的差的平方的平均值， 用于描述随机变量取值分散的程度。
在数字信号处理、控制系统分析和离 散时间系统模拟等领域中广泛应用， 通过Z变换可以将离散时间序列转换 为复平面上的函数，从而更好地分析 系统的频率响应和稳定性。
05
随机过程优化
最优估计理论
最小方差无偏估计
在所有无偏估计中，具有最小方差的估计被称为最小方差无偏估 计。
一致性估计
随着样本量的增加，估计值会逐渐接近真实值，这种估计被称为一 致性估计。
协方差的定义
协方差是两个随机变量取值之间线性关系的度量，其 值可以为正、负或零。
西安电子科技大学讲义-随机过程
第一章随机过程 1
第一章随机过程
本章主要内容：
随机过程的基本概念
●随机过程的数字特征
●随机过程的微分和积分计算
●随机过程的平稳性和遍历性
●随机过程的相关函数及其性质
●复随机过程
●正态分布的随机过程
第一章我们介绍了随机变量，随机变量是一个与时间无关的量，随机变量的某个结果，是一个确定的数值。
例如，骰子的6面，点数总是1～6，假设A面点数为1，那么无论你何时投掷成A面，它的点数都是1，不会出现其它的结果，即结果具有同一性。
但生活中，许多参量是随时间变化的，如测量接收机的电压，它是一个随时间变化的曲线；又如频率源的输出频率，它随温度变化，所以有个频率稳定度的范围的概念（即偏离标称频率的最大范围）。
这些随时间变化的
随机变量就称为随机过程。
显然，随机过程是由随机变量构成，又与时间相关。
随机过程-习题解答电子科技大学陈良均
在独立同分布的随机变量序列中，当样本量趋于无穷时，无论总体分布是什么，样本均 值的分布趋近于正态分布。
05
随机过程的估计与预测
参数估计
矩估计法
利用随机过程的数学期望、方差等矩特征，通过 样本矩来估计参数。
最小二乘估计法
通过最小化误差的平方和来估计参数，常用的有 普通最小二乘法和加权最小二乘法。
泊松过程
总结词
泊松过程是一种随机过程，其中事件 的发生是相互独立的，且具有恒定的 发生率。
详细描述
泊松过程描述了在单位时间内发生事 件的次数，其中事件的发生是相互独 立的，且具有恒定的发生率。这种过 程在物理学、工程学、统计学等领域 有广泛应用。
随机漫步
总结词
随机漫步是一种随机过程，其中每一步 都是随机的，且与前一步无关。
信号的滤波与预测
要点一
信号滤波
利用滤波器对随机信号进行处理，提取出所需频率成分， 抑制噪声和其他干扰。
要点二
信号预测
基于随机过程理论，利用历史数据对未来信号进行预测， 提高信号处理的准确性和可靠性。
信号的检测与估计
信号检测
在存在噪声和干扰的情况下，利用随机过程理论，检测 出有用的信号，提高信号检测的灵敏度和抗干扰能力。
参数估计
通过分析随机信号的统计特性，估计出信号的某些参数 ，如频率、相位等，为进一步处理和应用提供依据。
感谢您的观看
THANKS
06
随机过程在信号处理中的应 用
信号的随机模型化
信号的随机模型化
01
将信号表示为随机过程，以便更好地理解和分析信号的特性。
随机信号的统计特性
02
研究随机信号的均值、方差、相关函数等统计特性，以描述信
电子科技大学 随机过程 覃思义 第一章1sjgc1.4
m 1 n 1
若存在实数 I, 使对任意的ε> 0, 存在δ> 0, 只要
λ max {( xi 1 xi ), ( y j 1 y j )} δ
0 i n 1 0 j m 1
（ 时, 对任意分点及 xi *，y j *) 的任意取法, 不等式
a f ( x )d [ g ( x )] a
电子科技大学
b b
3) 设α,β是任意常数，则
f ( x ) d [ g ( x )].
随机变量的数字特征
以上三个等式成立的意义是: 当等号右边存 在时, 左边也存在并相等. 4) 若a < c <b, 则有
a f ( x )dg ( x ) c b a f ( x ) dg ( x ) c f ( x ) dg ( x )
dF ( x ) F ( x ) p ( x ) 0 , dx
若R-S积分存在则
f ( x )dF ( x ) f ( x ) p ( x )dx
电子科技大学
随机变量的数字特征
二、二元R-S积分简介
假定二元函数 F ( x , y ) 满足下述条件: 1) 对于平面上任意矩形 a1 x b1 , a2 y b2 ,有
均成立.
则记
a xb c yd
f ( x , y )dF ( x , y ) lim σ
λ 0
lim f ( x i* , y * ) F ( xi , x i 1 ; y j , y j 1 ) I j
λ 0 j 0 i 0
m 1 n 1
称 积 分 I 为 f ( x, y ) 关 于 F ( x, y ) 在 矩 形 {( x, y ) : a x b, c y d } 上的 R-S 积分.
通信原理—随机过程5讲(新)
高斯随机过程 随机过程通过 线性系统
窄带随机过程 正弦波加窄带 高斯噪声 小 结
b jk
E{[ (t j ) a j ][ (tk ) ak )]}
j k
：归一化协方差。
如果各随机变量两两之间互不相关，则上式中，对所有
fn ( x1 ,
, xn ; t1 ,
, tn ) f ( x1 , t1 )
2015/8/1
电 子 技 术 系
一维高斯随机过程
随机信号分析
基本概念 统计特性和 数字特征 平稳随机过程
23:27
（3）a表示分布中心，
形将随着
当a=0，
1 时，称f(x)为标准正态分布的密度
的减小而变高和变窄。
表示集中程度，f(x)图
函数。
高斯随机过程 随机过程通过 线性系统
误差函数表示正态分布
2015/8/1
电
子
技
术
系
误差函数和互补误差函数
随机信号分析
基本概念 统计特性和 数字特征 平稳随机过程
23:27
误差函数
erf ( x)
2
x
0
e dt
t 2
erf (0) 0, erf () 1, erf ( x) erf ( x)
互补误差函数
高斯随机过程 随机过程通过 线性系统
自相关函数是否与时间起点有关？
19
2015/8/1
电
子
技
术
系
随机过程通过线性系统
随机信号分析
基本概念 统计特性和 数字特征 平稳随机过程
23:27
2. 输出过程ξo(t)的自相关函数
北大随机过程课件：第 5 章 第 4 讲 高斯随机过程通过非线性系统
高斯随机过程通过非线性系统（续1）高斯随机过程通过半波整流器的研究半波整流非线性函数关系：,0,bx x y x ≥⎧=⎨<⎩1．输入是窄带平稳实高斯随机过程输入随机过程的概率密度⎟⎟⎠⎞⎜⎜⎝⎛−=222;2exp 21)(ξξξσπσx x f t 输出随机过程的概率密度2;1()()()2t t t f y y U y ηδ⎛⎞=+⋅ 各阶矩、方差偶数阶矩，考虑到输入窄带平稳实高斯随机过程的概率密度函数是偶函数，[][]13)12(212122222⋅−=="m b E b E m m m m m σξη 奇数阶矩[]135)12(22!1212212⋅⋅−=+++"m b m E m m m m ξσπη均值[]ξσπηb t E 21)(=方差[][][]{}()πσσπσηηηξξξ/11212121)()()(2222222−=⎟⎟⎠⎞⎜⎜⎝⎛−=−=b b b t E t E t D相关函数2100222122212122221))(1(2)(2exp ))(1(2),()(dx dx x x x x x x b t t R R ∫∫∞∞⎟⎟⎠⎞⎜⎜⎝⎛−−+−⋅−==τρστρτρπστξξηηηη 其中，122{}()t t E x x ξρτσ=，利用典型的积分变换1，得：222222211()()()244()()b R b b R R R ηηξξξξξξξξξτσττππστσρτ≈++=功率谱∫∫∞∞−∞∞−′′−′++==f d f f P f P b f P b f b d eR f P f j )()(4)(41)(21)()(222222ξξξξξξξξτπηηηηπσδσπττ2．输入信号是矩形带通窄带实平稳随机过程输入的功率谱密度：⎪⎩⎪⎨⎧Δ+<<Δ−=otherwise,022,2/)(000ff f f f N f P ξξ 20f N ξσΔ⋅＝非线性器件输出信号的功率谱密度：直流分量：())(21)(210222f N f b f b δπδσπξ⋅Δ= 低频分量f f Δ≤≤0⎟⎟⎠⎞⎜⎜⎝⎛Δ−⎟⎠⎞⎜⎝⎛=⎟⎟⎠⎞⎜⎜⎝⎛Δ−Δ⎟⎠⎞⎜⎝⎛f fN b f f f N b 1241224022022ππσξ 带通信号分量2/2/f f f f f c c Δ+≤≤Δ−24102N b二倍频分量f f f f f c c Δ+≤≤Δ−22⎟⎟⎠⎞⎜⎜⎝⎛Δ−⎟⎠⎞⎜⎝⎛=⎟⎟⎠⎞⎜⎜⎝⎛Δ−Δ⎟⎠⎞⎜⎝⎛f fN b f f f N b 128124022022ππσξ 低通滤波器输出信号的功率谱密度：直流分量：())(21)(210222f N f b f b δπδσπξ⋅Δ= 低频分量f f Δ≤≤0⎟⎟⎠⎞⎜⎜⎝⎛Δ−⎟⎠⎞⎜⎝⎛=⎟⎟⎠⎞⎜⎜⎝⎛Δ−Δ⎟⎠⎞⎜⎝⎛f fN b f f f N b 1241224022022ππσξ典型的坐标变换1原积分：2100222122212122221))(1(2)(2exp ))(1(2),()(dx dx x x x x x x b t t R R ∫∫∞∞⎟⎟⎠⎞⎜⎜⎝⎛−−+−⋅−==τρστρτρπστξξηηηη 其中，[]221/)()()(ξστρt x t x E =变换))(1(2))(1(2222221τρστρσξξ−=−=x v x u))(1(2),(),(2221τρσξ−=∂∂v u x x积分()[]d udv uv v u uv b dx dx x x x x x x b t t R R ∫∫∫∫∞∞∞∞−+−⋅−=⎟⎟⎠⎞⎜⎜⎝⎛−−+−⋅−==00222/3222210022212221212/122221)(2exp ))(1(2))(1(2)(2exp ))(1(2),()(τρπτρστρστρτρπστξξξηηηη 典型的坐标变换2积分之间的关系：()[]()[]()[]dwdI dudv wuv v u uv dudv wuv v u uv dw dIdudvwuv v u I 212exp 2exp 22exp 002200220022=−+−⋅−+−⋅=−+−=∫∫∫∫∫∫∞∞∞∞∞∞典型的坐标变换3原积分：()[]d udv wuv v u I ∫∫∞∞−+−=00222exp积分变换：从v u ,平面到θ,r 平面，参数()παα,0,1cos ∈≤=wαθααθαsin 2cos sin 2cos ⎟⎠⎞⎜⎝⎛−=⎟⎠⎞⎜⎝⎛+=r v r u ， 注意到下列关系：⎟⎠⎞⎜⎝⎛−−==−=⎟⎠⎞⎜⎝⎛−==+=22,22,022,22,0απθπθααπθπθαv uααθααθααθααθαθθsin sin 2sin sin 2sin sin 2cos sin 2cos r r r r v u r v r u =⎟⎠⎞⎜⎝⎛−⎟⎠⎞⎜⎝⎛+−⎟⎠⎞⎜⎝⎛−⎟⎠⎞⎜⎝⎛+=∂∂∂∂∂∂∂∂ ()()()()()(()())222222222222222cos 2cos 12cos 2cos 12cos 1sin 22cos cos 2cos cos 22cos 12cos 1sin 2sin 2cos sin 2cos cos 2sin 2cos sin 2cos )(2r r r r r r uvv u =−−+−−−−++++=−−−++++=⎟⎠⎞⎜⎝⎛−⎟⎠⎞⎜⎝⎛+−⎟⎠⎞⎜⎝⎛−+⎟⎠⎞⎜⎝⎛+=−+θαθααθαθααθαααθαθαααθααθαααθααθατρ 原积分：()[]210222002212sin 2/sin 2exp sin 2exp w w drd r rdudvwuv v u I −+=−=−=−+−=−∞−−−∞∞∫∫∫∫πααπθααπαπww1sin 2/cos −−==παα原积分：()()()()()w ww w w w www w w w dw d dw dI 12/3222212221sin 2/12121121sin 2/11112sin 2/−−−+−+−=−−++−−=−+=πππ原积分：()[]()()()ww ww dwdIdudv wuv v u uv 12/3220022sin2/14141212exp −∞∞+−+−==−+−⋅∫∫π原积分：()()[]⎥⎦⎤⎢⎣⎡+++++⋅=⎥⎦⎤⎟⎠⎞⎜⎝⎛⋅⋅⋅+⋅+++⎢⎣⎡⎟⎠⎞⎜⎝⎛−⋅⋅−⋅−−⋅=++−⋅=⎟⎟⎠⎞⎜⎜⎝⎛−−+−⋅−==−∞∞∫∫"")(801)(241)(21)(2121)(54231)(321)(2)()(6421)(421)(21121)(sin 2/)()(121))(1(2)(2exp ))(1(2),()(84222536422212/1222100222122212122221τρτρτρτρπσπτρτρτρπτρτρτρτρσπτρπτρτρσπτρστρτρπστξξξξξηηηηb b b dx dx x x x x x x b t t R R由于1)(≤τρ)()()(4)(4121)(2222222τρσττπστσπτξξξξξξξξξηη=++=R R b R b b R。
电子科技大学 随机过程 覃思义 第一章1sjgc1.3
y1=g1(x1,…,xn) ,…, yk=gk(x1,…,xn)
则 Yi=gi(X1,…,Xn), ( i=1,2,…,k)是随机变量. (Y1,Y2,…,Yk)的联合分布函数为：
F ( y1 , y2 , , yk ) P{Y1 y1 , Y2 y2 , , Yk yk }
P{ g1 ( X 1 , , X n ) y1 , , g k ( X 1 , , X n ) yk }
电子科技大学
随机变量的函数
2)关于一个(或几个)随机变量的函数
3）二维随机变量的变换
定理1.3.1 设(X1, X2)的联合密度为f(x1, x2),若 函数 y1 g1 ( x1 , x 2 ); y2 g 2 ( x1 , x 2 ). 满足下述条件:
电子科技大学
随机变量的函数
f [ x1 ( y1 , y 2 ), x 2 ( y1 , y 2 )] J
电子科技大学
随机变量的函数
证 Y1, Y2是随机变量，其联合分布函数为
F ( y1 , y2 ) f ( x1 , x2 )dx1dx 2
D
其中 D {( x1 , x2 ) : g1 ( x1 , x2 ) y1 , g2 ( x1 , , y2 ), x 2 x 2 ( y1 , y2 ).
x1 y1 J x 2 y1 x1 y 2 0 x 2 y 2
② 有连续的一阶偏导数； ③Jacobi行列式
则Y1=g1(X1,X2), Y2=g2(X1,X2)的联合概率密度为
做积分变换
x1 x1 ( u1 , u2 ); x2 x2 ( u1 , u2 ).
y1
随机过程课件-c5
⎧1 , i = j lim pij (t ) = ⎨ t →0 ⎩0 , i ≠ j
5 连续时间的马尔可夫链
12
转移速率
5 连续时间的马尔可夫链
13
Q矩阵
若连续时间齐次马尔可夫链具有有限状态空间I={0,1,2,…,n}
λ
λ
26
求其平稳分布。
pij(t)极限存在且与i无关，存在平稳分布
5 连续时间的马尔可夫链
27
或者
此Markov链是不可约的
5 连续时间的马尔可夫链
28
5 连续时间的马尔可夫链
29
5.3 生灭过程
5 连续时间的马尔可夫链
30
Q矩阵
I = {0,1,2,3,...}
⎛ − λ0 ⎜ ⎜ μ1 ⎜ Q=⎜ ⎜ ⎜ ⎜ ⎜ ⎝
⎛ − q00 ⎜ ⎜ q10 Q =⎜ ⎜ ⎜ q ⎝ n0 q01 − q11 qn1 q0 n ⎞ ⎟ q1n ⎟ ⎟ ⎟ − qnn ⎟ ⎠
Q= P′ (0)
利用Q可以推出任意时间间隔的转移概率所满足的方程组，从 而求解转移概率。
5 连续时间的马尔可夫链
14
微分方程
P′(t)=QP(t) 定理5.5 (科尔莫戈罗夫向前方程) 在适当的正则条件下有
5 连续时间的马尔可夫链
22
渐近性质
5 连续时间的马尔可夫链
23
5 连续时间的马尔可夫链
24
回顾
转移概率： pij(s,t)= P{X(s+t)=j|X(s)=i} P(s+t)=P(s)P(t) 转移速率 Q= P′ (0) 科尔莫戈罗夫微分方程 向后方程：P′(t)=QP(t) 向前方程：P′(t)=P(t)Q
随机过程第五章
∑
∑
的唯一非负解，此时称 是该过程的平稳分布 的唯一非负解，此时称{πj , j∈I}是该过程的平稳分布，并且 ∈ 是该过程的平稳分布， 有
l i m p ij ( t ) = l i m p j ( t ) = π
t→ ∞ t→ ∞
j
2. 若它是零常返的或非常返的，则 若它是零常返的或非常返的 零常返的或非常返
pij (t1 ) > 0, p ji (t2 ) > 0
则称状态i和 是互通的 若所有状态都是互通 都是互通的 则称状态 和j是互通的。若所有状态都是互通的，则 不可约的 称此马尔可夫链为不可约 称此马尔可夫链为不可约的。
14
转移概率p 在 转移概率 ij(t)在t→∞时的性质及其平稳分布 时的性质及其平稳分布
8
定理5.3 定理 是齐次马尔可夫过程的转移概率且满足正则性条件， 设pij(t)是齐次马尔可夫过程的转移概率且满足正则性条件，则下列极限 是齐次马尔可夫过程的转移概率且满足正则性条件 存在： 存在： 1. 2.
1 − pii (∆t ) = vi = qii ≤ ∞ ∆t → 0 ∆t p ij ( ∆ t ) lim = q ij < ∞ , i ≠ j ∆t → 0 ∆t lim
例题5.3： 例题 ：机器维修问题 设例题5.2中状态 代表某机器正常工作 状态1代表机器出故障 代表机器出故障。 设例题 中状态0代表某机器正常工作，状态 代表机器出故障。 中状态 代表某机器正常工作， 状态转移概率与例题5.2相同 即在h时间内 相同， 时间内， 状态转移概率与例题 相同，即在 时间内，及其从正常工作变为 出故障的概率为p 时间内， 出故障的概率为 01(h)=λh+o(h)；在h时间内，机器从有故障变为经 ； 时间内 修复后正常工作的概率为p 修复后正常工作的概率为 10(h)=µh+o(h)，试求在 时正常工作的 µ ，试求在t=0时正常工作的 机器， 时为正常工作的概率。 机器，在t=5时为正常工作的概率。 时为正常工作的概率
第二章随机过程(函数)
t1 ，全体样本在t1 时刻的取值ξ(t1)是一个不含t变化的随机
变量。 因此，我们又可以把随机过程看成依赖时间参数的一族随 机变量。可见，随机过程具有随机变量和时间函数的特点。
8
西安电子科技大学 理学院
随机过程的定义：设Sk(k=1, 2, …)是随机试验。 每一次 试验都有一条时间波形（称为样本函数或实现），记作xi(t)， 所有可能出现的结果的总体{x1(t), x2(t)， …, xn(t)， …} 就构成一随机过程，记作ξ(t)。简言之， 无穷多个样本函 数的总体叫做随机过程，如图所示。
N=200;
ind=find(rand(N,1)>0.5); z(1:N)=1; z(ind)=-1; stairs(1:25,z(1:25)); axis([0 25 -1.5 1.5]); xlabel('时间-秒 （假定T=1 秒）'); ylabel('X(t)','FontSize',[12]);
17
西安电子科技大学 理学院
伪随机序列似乎已经失去了“随机”特点，但是它确
代替或者模拟了某类随机过程！
所谓：经目之事有恐未真；过耳之言焉能全信！ 工程种研究随机过程实际是通过理论分析其大量样本 函数，建立符合其实际过程或者称为能体现其过程特点 的伪随机序列模型，对伪随机序列进行研究，即可得到
其过程特点。
3
西安电子科技大学 理学院
随机信号序列
4
西安电子科技大学 理学院
5
西安电子科技大学 理学院
6
西安电子科技大学 理学院
7
西安电子科技大学 理学院
按分布特性分类，依照过程在不同时刻状态的统计依赖关 分类。例如：独立增量过程，马尔可夫过程，平稳过程,鞅，
西电随机过程课件
所以S.P.的一维分布为X(t) ～N(0,1+t2) 又对任意的t1≥0, t2≥0, X(t1)=A+Bt1 ～N(0,1+t12), X(t2)=A+Bt2 ～N(0,1+t22),
即
( X (t1 )
1 1 X (t2 )) ( A B) t1 t2
由A,B独立知, (A,B)服从二维正态分布 (定理 正态变量的线性变换是正态变量)
3. n维分布函数
对任意固定的t1,t2, …,tn∈T, X (t1) ,X (t2),…, X (tn)为n个随机变量.称其联合分布函数
F (t1,t2 ,…,tn ; x1, x2,…, xn) = P(X(t1) ≤x1, X(t2) ≤x2 … X(tn) ≤xn ) x1 x2,…, xn ∈R 为随机过程{X(t),t∈T}的n维分布函数.
1 x 0 0 x 0
例2 设随机过程 X(t)=A+Bt, t≥0,其中A,B 是相互 独立的随机变量,且都服从标准正态分布N(0,1).求 该随机过程的一维和二维分布
解 对任意的t≥0, X(t)=A+Bt, 有题意知X(t)是正态分布. 又 E[X(t)]=0, D[X(t)]=1+t2
X(t)
例1的样本曲线与状态
状态X(t0)=4
样本曲线x1(t) x1(t) t 状态X(t0)=5 样本曲线x2(t) x2(t) t
t0 状态空间S={0,1,2,….}, T=[0,+∞)
例2 的样本曲线与状态
X(t)
X(t) A cos(t )
样本曲线x1(t)
状态X(t0)
fV (h( x)) h( x) f 3 ( x) X( ) 0 4
电子科技大学 随机过程 覃思义 第六章sjgc6.2-2
电子科技大学
2) V是转移矩阵的不动点向 量,
称马氏链是平稳的, 称 V 是马氏链的平稳 分布. P178
定义4 注 若马氏链的初始分布是一个平稳分 布V，则绝对分布为
(n) VP VPP
n
n1
VP
n1
V
即绝对分布保持不变.
系统具有平稳性
电子科技大学
1 2 3
一步概率转移矩阵为 p11 p12 p13 0 1 P p21 p22 p23 q 0 p31 p32 p33 0 1
讨论{X(n), n≥1}是否遍历？ 解 {X(n), n≥1}是齐次马氏链.
电子科技大学
0 p 0
(n 0 ) ij
0， 则此马氏链是遍历的，
且极限分布Π是方程组
电子科技大学
j i pij , （j 1,2, s） ,
i 1
s
(1)
在满足条件 j 0， j 1, 下的唯一解.
j 1
s
是概率 向量
注一 对于齐次马氏链, 由C－K方程, 有
记 P ( pij ),
电子科技大学
[(1 p)w1 pw2 pw1 (1 p)w2 ] ( w1 w2 )
(1 p )w1 w 2 w1 pw1 (1 p)w 2 w 2 w1 w 2 1
w1 w 2 w1 w 2 1
记
{ j，j E }，
齐次遍历马氏链的n 步转移矩阵，有
P (n)
当n
1 2 j 1 2 j
电子科技大学-随机过程-覃思义-第五章sjgc5.3ppt课件
.
证明 令 Z (t)X (t)X (t )，则
m Z ( t ) E [ X ( t ) X ( t ) R ] X ( ), 由正态随机变量性质
P197性质4 之(2)
T l i 4 m T 122 0 2 T (2 T )R X ()d
D { X ( t)} E [X ( t)2 ] { E [X ( t)]2 }
.
T l i 2 m T 1 20 2 T (2 T )R X ( )d m X 2
T l iT 1 m 0 2 T ( 1 2 T )R [ X ( ) m X 2 ] d 0 .
思想方法：用时间平均代替统计平均.
续Ex.1 设X(t)=Y, t∈(－∞, + ∞), 且 D(Y)≠0, D(Y)<+∞,{X(t) 是平稳过程. 若Y非单点分布时, X(t) Y常数 ,
P {X (t)E [X (t)] 1 }
X( t )的均值不具有各态历经性.
.
又因
R X () E [X ( t)X ( t ) ] E (Y 2 ) Y 2
X( t )的自相关函数也不具有各态历经性.
续Ex.2 设 X ( t ) a c 0 o t ) s t , ( ( , )
a,ω0是实常数, Θ～U(0, 2π),讨论过程的遍历 性.
解 m X E [X (t) ]0 2 2 1 a co 0 ts ( )d 0
1T
lT . i2 T .m T aco0 ts ()d tX (t)
lT .i .m 4 a T 2 T T [c o s (20 t0 2 ) c o s0]d t
随机过程第5章
第五章 离散参数Markov 链5.1 Markov 链的基本概念 1．Markov 链和转移概率矩阵 定义5-1考虑只取有限个或可数个值的随机过程{},0,1,2,nX n = ．把过程所取可能值的全体称为它的状态空间，记之为E ，通常假{}0,1,2,E = ．若n X i =就说“过程在时刻n 处于状态i ”．若对任意状态011,,,(,n 0)n i i i i j -≥ 及任意的有11111001(|,,,,)(|)n n n n n n n P X j X i X i X i X i P X j X i +--+======== 这样的随机过程称为Markov 链．假设每当过程处于状态i ，则在下一个时刻将处于状态j 的概率是固定的ijp ，即对任意时刻n ，有1(|)n nijP X j X i p +===，称过程具有齐次性．称矩阵00010201011121012j j i i i ij p p p p p p p p P p p p p ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦是一步转移概率矩阵，简称为转移矩阵． 由ijp 的定义可知，这是一种带有平稳转移概率的Markov 链，也称作时间齐次Markov 链或简称时齐次Markov 链．我们研究的均为齐次马氏链．2．例题例5-1（直线上的随机游动）考虑在直线上整数点上运动的粒子，当它处于位置j 时，向右转移到j+1的概率为p ，而向左移动到j-1的概率为q=p-1，又设时刻0时粒子处在原点，即00X =．于是粒子在时刻n 所处的位置{}n X 就是一个Markov 链，且具有转移概率,1,10,jk p k j p q k j =+⎧⎪==-⎨⎪⎩其他当12p q ==时，称为简单对称随机游动．例5-6（排队模型）考虑顾客到服务台排队等候服务，在每个服务周期中只要服务台前有顾客在等待，就要对排队在队前的一位顾客提供服务，若服务台前无顾客时就不实施服务．设在第n 个服务周期中到达的顾客数为一随机变量n Y ，且序列{}nY 是独立同分布随机序列，即(),0,1,2,,n k P Y k p k === 且01k k p ∞==∑设n X 为服务周期n 开始时服务台前顾客数，则有11,1,0n n n n n n X Y X X Y X +-+≥⎧=⎨=⎩若若此时{},1nXn ≥为一Markov 链，其转移概率矩阵为01234012340123012000p p p p p p p p p p P p p p p p p p ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦例5-8（生灭链）观察某种生物群体，以n X 表示在时刻n群体的数目，设为i 个数量单位，如在时刻n+1增生到i+1个数量单位的概率为i b ，减灭到i-1个数量单位的概率为i a ，保持不变的概率为1()i i i r a b =-+，则{},0nX n ≥为齐次马尔可夫链，{}0,1,2,E = ，其转移概率为,1,,1i ij i ib j i p r i ja j i =+⎧⎪==⎨⎪=-⎩ 0(0)a =,称此马尔可夫链为生灭链．3．定理5-1设随机过程{}nX 满足：（1）1(,)(1),n n n X f X n ξ-=≥其中:f E E E ⨯→，且n ξ取值在E 上； （2）{},1nn ξ≥为独立同分布随机变量，且0X 与{},1n n ξ≥也相互独立，则{}n X 是Markov 链，而且其一步转移概率为，对于任意,i j E ∈，1((,))ij p P f i j ξ==证明：设1n ≥，由上面(1)、(2)可知，1n ξ+与12,,,nX X X 互相独立，所以有1110011100111001(|,,,)((,)|,,,)((,)|,,,)((,))n n n n n n n n n n n n n n P X j X i X i X i P f X j X i X i X i P f i j X i X i X i P f i j ξξξ+--+--+--+================同理111001(|,,,)(|)n n n n n n P X j X i X i X i P X j X i +--+=======即{}nX 是Markov 链，由时间齐次性，其一步转移概率为1((,))ij p P f i j ξ==于是定理5-1得证．4．定理5-2时齐次Markov 链{}nX 完全由其初始状态的概率分布0(),1,2,i p P X i i ===和其转移概率矩阵()ijP p =所确定．证明：对于任意12,,,n i i i E ∈ ，计算有限维联合分布，由概率的乘法公式及马氏性可知1001121001100111100111100111111001111(,,,)(,,,)(|,,,)(,,,)(|)(,,,)n n n nn n n n n n n n n n n n n n n n i i i i i i i i i P X i X i X i P X i X i X i P X i X i X i X i P X i X i X i P X i X i P X i X i X i p p p p p ------------======================定理5-2得证． 5．例题 例5-9（1）（二项过程的概念）设在每次试验中，事件A 发生的概率为(01)p p <<，独立地重复进行这项试验，以n Y 表示到第n 次为止事件A 发生的次数，则{},1,2,nY n = 是一个二项过程．说明：令n X 表示第n 次试验中事件A 发生的次数，则n X ~(0)1,(1),1,2,n n P X p P X p n ==-=== 且独立．（易知{},1nX n ≥为马氏过程）而1,1,2,n n Y X X n =++= 服从二项分布(,)B n p ，故称此{},1nY n ≥为二项过程．（2）二项过程具有独立平稳增量性． 证明：易知增量1n l n n n l Y Y X X +++-=++ ，1121n l k n l n l n l k Y Y X X ++++++++++-=++ ，等等相互独立；且~(,),1,2,n m n Y Y B m p n +-= ，即具有平稳性． 即{},1nY n ≥为一个独立平稳增量过程．（3）独立平稳增量过程为马氏过程．5.2 C-K 方程1．定理5-3 Chapman-Kolmogorov 方程 对任何整数,0m n ≥， 有()()()m n m n ijik kj k Epp p +∈=∑或()()()m n m n P P P +=⨯证明：这里只需要证明()(1)n n P PP -=成立，再依次递推即可证明本定理．（？）因为()0100100101010(1)(|)(,|)(|)(|,)(|)(|)(n ij n n k n k n k n ik kj k P P X j X i P X j X k X i P X k X i P X j X i X k P X k X i P X j X k p p ∞=∞=∞=∞-====================∑∑∑∑由马氏性）根据矩阵的乘法规则，知()(1)n n P PP -=．定理得证．注：定义m 步转移概率()(|)m ijn m n pP X j X i +===，()m ijp 表示给定时刻n 时，过程处于状态i ，间隔m 步之后过程在时刻n+m 转移到了状态j 的条件概率．还约定(0)1iip =，(0)0ijp =，i j ≠以()n ijp 表示第i 行、第j 列的元素矩阵()n P =(()n ijp ),称为Markov 链的n 步转移概率矩阵．2．例题（两状态Markov 链） 例5-10在重复独立贝努里（Bernoulli ）试验中，每次试验有两种状态{}0,1E =，设{}nX 表示第n 次试验中出现的结果，且有(1),(0)1,1,2,n n P X p P X q p n =====-=其中01p <<，则{},1nX n ≥显然是独立同分布随机序列，从而它是Markov 链．于是经过计算有00100111,p p q p p p ====所以，一步转移概率矩阵为q p P qp ⎡⎤=⎢⎥⎣⎦而且有()n qp PP q p ⎡⎤==⎢⎥⎣⎦5.3 Markov 链的状态分类 1．互通 定义5-2称自状态i 可达状态j ，并记i j →，如果存在0n >，使()0n ijp >，称状态i 与j 互通（相同，互达），并记为i j ↔，如i j →且j i →2．定理5-4可达关系与互通关系都具有传递性，即如果i j →且j k →，则i k → 证：因为有i j →，j k →，所以存在1,1l m ≥≥，使()()0,0l m ij jk p p >>由C-K 方程()()()()()0l m l m l m ik is sk ij jk sp p p p p +=≥>∑这里1l m +≥，所以i k →成立．若将可达关系得证明正向进行，再反向进行，就可得出互通关系的传递性，证毕． 3．定义5-3 设{},1nXn ≥为齐次Markov 链，其状态空间为E 。
随机过程第5章
(3) 00
p03 p33 p30 1/ 8,
进一步地： 1 1 0 n n n n 2 4 2 n4 2 n2
0是正常返态
当n 4时，
( n) n 2 n 4 f00 p03 p33 p30 p01 p12 p23 p33 p30
1 2n
正常返态返回速度快于零常返态
P （ i | X 0 i)和i的计算：
令 fij(n) P( X n j, X n1 j,..., X1 j | X 0 i)
从i出发第n步首次击中j的概率
fij P( j | X 0 i) 从i出发能击中j的概率
给出这个Markov链状态的等价类, 并且试给出 其n步转移概率矩阵.
答: 等价类为: {1, 4}, {2, 5}和{3}. 其中3为吸 收态.
(n) 定义5.9 设i为Markov链的一个状态, 使 pii 0 的
所有正整数n (n1)的最大公约数, 称为状态i
的周期, 记作d(i) 或 di .
n 1
(n) ij
则 fij 表示从状态i出发最终到达状态j的概率. 性质：当i j 时, 则 i j fij > 0.
定义5.5 如果 fii = 1, 则称状态i是常返的. 否则, 即
fii<1, 称状态i为非常返的或瞬过的. 注: 如果状态i是常返的, 那么从状态i出发经过有 限步转移后最后又回到i的概率为1.
则 fij fij( n )
n 1
i常返 fii 1
若i常返，则
i nfii( n )
n 1
例1. 设{ X n }是时齐Markov链，I {0,1, 2,3}，其一步转移 0 0.5 0 0.5 0 0 1 0 ，讨论状态0和3的常返性。 矩阵P 0 0 0 1 0.5 0 0 0.5
电子科技大学 随机过程 覃思义 第一章1sjgc1.0
令 t 0 得微分方程 dx ( t ) x( t ) dt
解得实值连续函数
x ( t ) x0 e , t 0.
2）随机性方法 设时刻t 细菌数为随机变量X(t),设(t, t+Δt)内 增加的细菌数与Δt 有关而与t 无关, 在X(t)=x条件下,X(t+Δt)变为x+1个的概率为
教学特点: 1. 立足于数学基本理论的介绍; 2. 力图帮助同学掌握随机分析的基本思 想和基本方法; 3. 尽量阐述清楚基本概念及相应的工程背景; 4. 尝试将各类随机 油
令t 0，得
d P X ( t ) x xPX ( t ) x x 1PX ( t ) x 1 dt 初始条件为
1, P X (0) x 0,
x x0; x x0 .
解得 x x0 x0 t t x x 0 PX ( t ) x C x 1 e (1 e ) , x x0
冰川运动
冰川消融
据四川台网测定：截止2008年7月8日8 时，汶川8.0级地震余震区共发生16 299次 余震，其中4.0～4.9级198次，5.0～5.9级28 次，6.0～6.9级5次，最大震级为6.4级。 汶川余震序列 汶川余震序列图1 汶川余震地点图 汶川余震序列图2
现象特点：关注一族随时间或地点变 化的随机变量，有自身的统计规律，而 且变量间有着内在的关联关系.
随机过程论：研究和描述随机现象演
变的概率统计规律.
随机过程理论是近代数学的重要组成 部分, 应用非常广泛,实际工程背景强. 二、研究方法
Ex. 设某种细菌群体的个数在时段(t, t+Δt)内 只能增加,增加的数量与t 时刻的细菌数成正比, 且x0=x(0)>0. 1) 确定性方法 设t 时刻的细菌数为x(t),有
随机过程5.4-1
( n)
ii
1 1 f ii
证明见王梓坤著《随机过程论》P64.
电子科技大学
定理5.4.4： （常返状态 判别准则）
状态i是常返的充要条件是
n 1
pii
n
状态i是非常返的充要条件是
p
n 1
n
ii
电子科技大学
推论1 若i是非常返的，则
n
lim pii
P{T13 n}
k n
P{T13 k X (0) 1}13
研究首达概率和首达时间有实际工程意义. 电子科技大学
定义5.4.3 设 P{Tij } 0, j E , 称
( n) 通 ij E[Tij ] nf ij n 1 过 有 为从状态 i 出发, 首次到达状态j 的平均转 限 移步数(时间). 步 特别当 i=j ， 称 jj 为状态j首次返回 的 一 定 平均返回时间。 会 有i 到j 电子科技大学
最终概率 f ij P{ 存在n 1, 使X ( n) j X (0) i },
是系统从状态“i” 出发经过有限步转移后 最终到达状态“j” 的概率. 定理5.4.1
( n) f ij
（首达概率表示式）
对i , j E 及 n 1， 有
pi i1 pi1 i2 pin1
n 1
E[Y ( n) | X (0) i ]
n 1
P[ X ( n ) i | X ( 0) i ]
n 1
Pii
n 1
( n)
故从i出发返回i的平均次数为 电子科技大学
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1T
1T
X(t)l.i.m X(t)dtl.i.m YdtY
T 2TT
T 2T T
X (t)X (t)Tl .i. m21TTTX(t)X(t)dt l.i.m1 TYYdtY2
T 2T T
电子科技大学随机
Ex.2 设 X ( t ) a c o 0 t ) s t , ( ( , )
x(t)dt
1
T
x(t)x(t )dt
2T T
2T T
？ 近似估计E{X(t)}、R()?
过程满足一定条件时可行.
电子科技大学随机
二、平稳过程的各态历经性
定义5.3.1 设{X(t), t∈(－∞,+ ∞)}是平稳过
程， 若均方极限
二次均
X(t) ˆ l.i.m1
T
X(t)dtຫໍສະໝຸດ T 2T T方极限
a,ω0是实常数, Θ～U(0, 2π),计算X(t) 的时间 平均和时间相关函数.
解 因m X0, R X()a 2 2co 0s,
{X(t),t∈(-∞,+ ∞)}是平稳过程.
X (t)lT . i2 .1 T m T Taco0s t ( )dt
aT
lT . i2 .T m T (c0 o tcs o s si0 n tsi ) n dt
注2 时间平均 X(t) 是随机变量, 时间相关函数 X(t)X(t ) 是随机过程. 参数为τ
平稳随机过程的均值函数是常数，相关 函数R(τ)是普通函数.
电子科技大学随机
Ex.1 设X(t)=Y, t∈(－∞, + ∞), 且 D(Y )≠0, D(Y )<+∞.计算X(t) 的时间平均和时间相关函 数
思想方法：用时间平均代替统计平均.
续Ex.1 设X(t)=Y, t∈(－∞, + ∞), 且 D(Y)≠0, D(Y)<+∞,{X(t) 是平稳过程. 若Y非单点分布时, X(t) Y常数 ,
P {X (t)E [X (t)]1 }
X( t )的均值不具有各态历经性.
电子科技大学随机
又因
R X () E [X ( t)X ( t ) ] E (Y 2 ) Y 2
2）对实际动态数据进行零均值化, 如何从 数据得到均值函数？
3）困难在于需知道过程的一、二维分布. 4）设想用试验法解决.
电子科技大学随机
设想 研究平稳过程{X(t), t∈T}，
X(t1,ω) t1
X(tn+τ,ω) tn+τ
X(t,ω1) X(t,ω2) X(t,ω3)
进行足够多次的试验，得到样本函数族
§5.3 平稳过程的各态历经性
一、问题背景
1）在何种条件下, 可以依据平稳过程的 一条现实建立有效描述过程的数学模型？
2）实际问题中常需确定随机过程的数学 期望和方差、相关函数；
如飞机在高空飞行，受湍流影响产生机翼 震动，需考虑机翼振幅大小的均值与方差.
电子科技大学随机
电路中电子不规则运动引起的热噪声(电 位的脉动).考虑脉动范围,噪声功率等归结为 求过程的方差, 相关系数.
a 2 T
lT .i .m 4 T T [c o s (20 t0 2 ) c o s0]d t
1 2
a2
cos0
电子科技大学随机
定义5.3.2 设{X(t),t∈(－∞,+ ∞)}是平稳过程 1 )若 P { X ( t) m X } 1 , 称X(t)的均值具有各态历经性(均方遍历性).
2 )若 任 意 ， P {X (t)X ( t ) R X () } 1
称X(t)的相关函数具有各态历经性.
均值和相关函数都具有各态历经性的平稳过 程称为各态历经过程.
注 各态历经过程一定是平稳过程, 逆不真.
电子科技大学随机
一个随机过程具备各态历经性, 可以通过研 究其一条 样本函数来获取过程的全部信息.
电子科技大学随机
a
T
T
lT .i .m 2 T [c o s T c o s0 td t s in T s in0 td t]
l.i.m ac T
o s0sTin 0T0,
X (t)X (t)
a 2 T
lT .i .m 2 T T c o s(0 t )c o s[0 (t) ]d t
存在,称为X(t)在(－∞,+ ∞)上的时间平均.
对于固定的τ，均方极限
X(t)X(t)
ˆ l.i.m1 T X(t)X(t)dt T2T T
二次均 方极限
存在, 称为X( t )在(－∞,+ ∞)上的时间相关函数.
电子科技大学随机
注1 应保证{X(t),t∈R}在任意有限区间上 均方可积.(均方连续是充分条件).
电子科技大学随机
{ x ( t , ( 1 ) x ( t , , 2 ) , x , ( t , n ) t ) T } ,
根据大数定律，对固定t1∈T，可令
m ˆX(t1)n 1k n1xk(t1),
R ˆX()n 1kn 1xk(t1)xk(t1),
统计平均
缺点 1) 需要很大 n ,实际工程中难以实现.
X( t )的自相关函数也不具有各态历经性.
续Ex.2 设 X ( t ) a c o 0 t ) s t , ( ( , )
a,ω0是实常数, Θ～U(0, 2π),讨论过程的遍历 性.
解 m X E [X (t) ]0 2 2 1 a co 0 t s) (d 0
1T
lT . i2 .T m T aco0 ts ()d tX (t)
电子科技大学随机
E[X(t)X(t)]
2 1a 2c
02
o 0 t s) (co 0 (ts [) ]d
1 2
a2
cos0
X(t)X(t)
X(t)的均值和相关函数都具有各态历经性.
多数情况不必根据定义验证过程的均方遍
历性, 以下给出判断遍历性的遍历性定理.
电子科技大学随机
三、均值各态历经性定理 定理5.3.1 设{X(t),t∈R}是平稳过程,则其均 值各态历经的充要条件是
2) 过程具有不可重复性.
电子科技大学随机
Ex.1 下面的数据是某城市1991~1996 年中每个季度的民用煤消耗量（单位：吨）
电子科技大学随机
民用煤消耗量数据散布图
年平均 曲线
数据 曲线
电子科技大学随机
问题 能否用一条样本函数去估计随机过
程的数字特征？ 即能否用时间轴上的均值
时间平均
1
T