随机过程第3章
教程:第3章 随机过程

• 角度2:随机过程是随机变量概念的延伸
其一,它是一个时间函数; 其二,在固定的某一观察时刻t1 ,全体样本在t1时 刻的取值ξ(t1)是一个不含t变化的随机变量。
可见,随机过程具有随机变量和时间函数的特点。 因此,我们又可以把随机过程看成依赖时间参
数的一族随机变量。这个角度更适合对随机过程 理论进行精确的数学描述。
– 相关函数和协方差函数之间的关系
B(t1,t2 ) R(t1, t2 ) a(t1) a(t2 )
若a(t1) = a(t2),则B(t1, t2) = R(t1, t2)
14
互相关函数
• 互相关函数 R (t1 , t2 ) E[ (t1 )(t2 )]
式中(t)和(t)分别表示两个随机过程。
f (t) fT (t)
T
0
T
2
2
t
28
– 对于平稳随机过程 (t) ,可以把f (t)当作是(t)的一个样本;
某一样本的功率谱密度不能作为过程的功率谱密度。过程的功
率谱密度应看作是对所有样本的功率谱的统计平均,故 (t)
的功率谱密度可以定义为
P ( f )
E
Pf
(f)
lim E FT ( f ) 2
30
• 在维纳-辛钦关系基础上,我们可以得到以下结论:
– 对功率谱密度进行积分,可得平稳过程的总功率:
R(0) P ( f )df
上式从频域的角度给出了过程平均功率的计算法。
– 各态历经过程的任一样本函数的功率谱密度等于过程 的功率谱密度。也就是说,每一样本函数的谱特性都能很好
地表现整个过程的的谱特性。
31
– 功率谱密度P ( f )具有非负性和实偶性,即有
随机过程第三章 泊松过程

解:设一年开始为 0 时刻,1 月末为时刻 1,则年末为时刻 12,依泊松过程的定义可知
PN (12) N (0) n e412 (412)n
n!
平均索赔请求次数及金额
E[N(12) N(0)] 412 48
3.2 与泊松过程相联系的若干分布
记 Tn , n 1, 2,表示第 n 次事件发生的时刻,规定T0 0 。记 Xn , n 1,2, 表示第 n
即
N(t) n Tn t
因此
PTn
T
P N (t )
n
in
et
(t)i i!
对上式求导,得到Tn 的概率密度函数
f (t)
et (t)i
et
(t)i1
et
(t )( n 1)
in
i! in
(i 1)!
(n 1)!
命题得证。
注:Tn 的数字特征
ETn
n
,
DTn
n 2
;且
ETn
nEX n
P ti Ti ti hi ,i 1, 2,, n N (t) n
PN (ti
hi )
N (ti )
1,
N (ti1) N (ti hi )
PN (t) n
0,1
i
n,
N (t1)
0
h1e h1
h e e hn (th1h2 hn ) n et (t)n / n!
n! tn
-2-
P0 (t) et
类似地,当 n 1时
Pn (t h) PN (t h) n PN (t) n, N (t h) N (t) 0 PN (t) n 1, N (t h) N (t) 1
随机过程第三章

随机过程的概率密度函数
概率密度函数
对于连续随机过程,其概率密度函数描述了随机过程在各个时间点或位置上的取值的可能性密度。
联合概率密度函数
对于多个连续随机过程的组合,其联合概率密度函数描述了这些随机过程在各个时间点或位置上的取 值的联合可能性密度。
03
随机过程的数字特征
均值函数
总结词
描述随机过程中心趋势的数字特征
泊松过程
定义
泊松过程是一种随机过程,其中事件的 发生是相互独立的,且以恒定的平均速
率在时间上均匀地发生。
应用
在物理学、工程学、生物学等领域都 有应用,如放射性衰变、电话呼叫等。
性质
泊松过程具有无记忆性,即两次事件 发生的时间间隔与它们是否同时发生 无关。
扩展
泊松过程可以推广为更复杂的过程, 如非齐次泊松过程和条件泊松过程。
随机过程第三章
目录
• 随机过程的基本概念 • 随机过程的概率分布 • 随机过程的数字特征 • 随机过程的平稳性和遍历性 • 马尔科夫链和泊松过程 • 随机过程的应用
01
随机过程的基本概念
随机过程的定义
01
随机过程:一个随机过程是一个定义在概率空间上的
参数集的集合,这个集合的元素是随机变量。
02
马尔科夫链和泊松过程的比较
关联性
马尔科夫链和泊松过程都是随机过程,但它们的 性质和应用场景有所不同。
时间连续性
马尔科夫链可以适用于连续时间,而泊松过程通 常适用于离散时间。
ABCD
状态转移
马尔科夫链关注的是状态之间的转移,而泊松过 程关注的是事件的发生。
应用领域
马尔科夫链在社会科学和生物科学中应用广泛, 而泊松过程在物理学和工程学中更为常见。
第三章 随机过程

第三章随机过程随机变量随机过程平稳随机过程及其特点高斯过程与高斯白噪声随机过程通过系统窄带高斯过程与窄带高斯白噪声 正弦波加窄带高斯噪声3.1 随机变量一、概念二、统计特性随机变量X,概率密度函数f(x)三、数字特征——数学期望——方差——协方差随机变量X 的数学期望定义物理意义表示随机变量的均值Æ直流分量性质C 是常数,则E(C)=C 。
C 是常数,则E(C ·X)=C ·E(X)。
X 、Y 是任意两个随机变量,则E(X+Y)=E(X)+E(Y)。
X 、Y 是两个互相独立的随机变量,则E(X·Y)=E(X)·E(Y)。
∫∞∞−=dx x xf X E )()(随机变量X 的方差定义物理意义表示随机变量与均值的偏离程度Æ交流功率方差一般也用表示,其平方根称为标准方差[]{}[]2222)()()()]([)()(X E X E dxx f X E x X E x E X D −=−=−=∫∞∞−2XσX σ随机变量X 的协方差定义E(XY)称相关函数物理意义描述两维随机变量(X,Y)的相互关系几个概念独立f(x,y)=f(x)f(y) 不相关COV(X,Y)=0正交E(XY)=0[][]{})()()()()(),(Y E X E Y X E Y E y X E x E Y X COV ⋅−⋅=−−=3.2 随机过程一、概念二、统计特性一、概念二、统计特性概率分布数学期望(均值) 方差协方差函数相关函数1.概率分布2.数学期望 (均值)E[ξ (t )] = ∫ xf1 ( x, t )dx = a(t )−∞ ∞物理意义:表示随机过程在某时刻的 摆动中心(平均值)ξ (t )a (t )ξ1 (t ) ξ 2 (t )M ξ n (t )0t3. 方差D(ξ (t )] = E{ξ (t ) − E[ξ (t )]} = σ (t )2 2物理意义:表示随机过程在某时刻的取值 (随机变量)对该时刻的期望的偏离程度ξ (t )σ (t )ξ1 (t ) ξ 2 (t ) ξ n (t )M0t4.协方差函数B(t1 , t 2 ) = E{[ξ (t1 ) − a(t1 )][ξ (t 2 ) − a(t 2 )]}物理意义:表示随机过程在两个时刻间 的线性依从关系5.相关函数R(t1 , t 2 ) = E[ξ (t1 )ξ (t 2 )] = ∫∞ −∞ −∞∫∞x1 x 2 f 2 ( x1 , x 2 ; t1 , t 2 )dx1 dx2物理意义:表示随机过程在两个时刻的 取值的关联程度,ξ(t)变化越平缓, 两个时刻取值的相关性越大,R值越大s(t)3.3 平稳随机过程及其特点定义若随机过程的n维概率分布函数Fn ()和n维概率密 度函数fn ()与时间起点无关,则为平稳随机过程 (严平稳) 统计特性与时间起点无关(广义平稳的定义)特点a (t)Æa; R(t1,t2)ÆR(τ)特点(续)各态历经性:设x (t)是ξ(t)的任一实现,ξ(t)的统 计平均= x (t)的算术平均1 T2 a = a = lim ∫ T x(t )dt − 2 T →∞ T1 T2 R(τ ) = R(τ ) = lim ∫ T x(t ) x(t + τ )dt − 2 T →∞ T意义:随机过程中的任一实现都经历了随机过程的所 有可能状态。
第3章 随机过程

A2 cos c 2 比较统计平均与时间平均,有
a a, R( ) R ( )
14
因此,随机相位余弦波是各态历经的。
3.2.3 平稳过程的自相关函数
实平稳过程的自相关函数: R( ) E[ (t ) (t )] 性质:
R(0) E[ 2 (t )]
f 2 ( x1 , x2 ; t1 , t 2 ) f 2 ( x1 , x2 ; )
广义平稳
均值与时间 t 无关: 相关函数仅与 τ有关:
a(t ) a R(t1 , t1 ) R( )
注意:
必 广义平稳 狭义平稳 未必
3.2.2 各态历经性(遍历性)
通信原理
第3章 随机过程
本章内容:
随机过程的基本概念
第3章 随机过程
平稳、高斯、窄带过程的统计特性 正弦波加窄带高斯过程的统§3.1 随机过程的基本概念
随机过程是一类随时间作随机变化的 过程,它不能用确切的时间函数描述。
① 所有样本函数 ② 随机变量
12
例题:
自相关函数:
E[ A cos( c t1 ) A cos( c t 2 )] A2 E{cos c ( t 2 t1 ) cos[ c ( t 2 t1 ) 2 ]} 2 A2 A 2 2 1 cos c ( t 2 t1 ) cos[ ( t t ) 2 ] d c 2 1 0 2 2 2 2 A cos c ( t 2 t1 ) 0 2
erfc( x) 2 erfc( x)
B(t1 , t2 ) R(t1 , t2 ) a(t1 ) a(t 2 )
第3章随机过程的线性变换

§3.1 变换的基本概念及基本定理
§3.2 随机过程通过线性系统分析 §3.3 限带过程
§3.4 随机序列通过离散线性系统分析 §3.5 最佳线性滤波器 §3.6 线性系统输出端随机过程的概率分布
1
第三章 随机过程的线性变换
学习目标: 1、理解线性变换的定义; 2、理解线性变换的两个基本定理; 3、掌握线性系统分析的冲激响应法和频谱法; 4、理解噪声等效通能带的概念; 5、掌握最佳线性滤波器的原理;
R
X (t )
C
Y (t )
35
解:RC电路的冲激响应为
(1) 冲激响应法
36
37
(2) 频谱法
X(t)的功率谱为
38
求上式的傅里叶反变换
* 2
30
电路
R
C
H ( )
h(t )
1 t / RC e U (t ) RC
1 1 jRC
jRC 1 jRC
C
R
(t )
1 t / RC e U (t ) RC
L
R
R R j L
R Rt / L e U (t ) L
R
L
j L R jL
(t )
24
•自相关函数
RY (t1 , t2 ) E{Y (t1 )Y (t2 )} h(t1 ) RXY (t1 , t2 )
h(t2 ) RYX (t1 , t2 )
h(t1 ) h(t2 ) RX (t1 , t2 )
若X(t)平稳
RY ( ) h( ) RXY ( ) h( ) RYX ( ) h( ) h( ) RX ( )
随机过程新版

2 0
sin(0t
)
1
2
d
0
自有关函数为
R t1, t2 E[ (t1) (t2 )] E[sin0t1 sin0t2 ]
令t1=t,t2=t+τ则
Rt,t E[sin0t sin0t 0 ]
2 0
sin0t
sin0t
0
1
2
d
1 2
cos 0
第3章 随机过程
可见,自有关函数与时间t无关,仅与τ有关。
第3章 随机过程
第3章 随机过程
随机过程 平稳随机过程 高斯随机过程 平稳随机过程经过线性系统 窄带随机过程 高斯白噪声和带限白噪声
第3章 随机过程
§3.1 随机过程旳基本概念
• 随机信号
信号旳某个或某几种参数不能预知或不能完全被预知, 这种具有随机性旳信号称为随机信号。
• 随机噪声
不能预测旳噪声统称为随机噪声。 从统计学旳观点看,随机信号和噪声统称为随机过程。
第3章 随机过程
原则正态分布 a=0,σ=1 其分布函数为φ(x)
f (x)
1
2
exp
x2 2
正态分布函数:
x
F(x)
1
2
exp[
(x a)2
2 2
]dx
(
x
Байду номын сангаас
a)
误差函数:
erf (x) 2 x ez2 dz
0
互补误差函数:erfc(x)=1-erf(x)=
2 ez2 dz
x
当x≤a时,erfc(x)=2-2φ( 2 x)
1
(2 )n / 21 2 n
B 1/2
随机过程第三章

2
定义3.2: 称计数过程{X(t),t≥0}为具有参数λ >0的泊松过程,若它满足下列条件: 1. X(0)=0; 2. X(t)是独立增量过程; 3. 在任一长度为t的区间中,事件A发生的次数服从参数λ>0的泊松分 布,即对任意s,t≥0,有 n t ( t )
P{ X (t s ) X ( s ) n} e n! , n 0,1,
16
复合泊松过程
定义: 设{N(t),t≥0}是强度为λ 的泊松过程,{Yk,k=1,2,…}是一列独立同分布 随机变量,且与{N(t),t≥0}独立,令
N (t )
X (t )
Y ,
k k 1
t0
则称{X(t),t≥0}为复合泊松过程。 N(t) Yk X(t) 在时间段(0,t]内来到商店的顾客数 第k个顾客在商店所花的钱数 该商店在(0,t]时间段内的营业额
P{ X (t h) X (t ) 1} h o(h) P{ X (t h) X (t ) 2} o(h)
例如: •电话交换机在一段时间内接到的呼叫次数; •火车站某段时间内购买车票的旅客数; •机器在一段时间内发生故障的次数;
4
定理 3.1: 定义3.2和定义3.3是等价的。 证明
13
非齐次泊松过程
允许时刻t的来到强度是t的函数 定义: 称计数过程{X(t),t≥0}为具有跳跃强度函数λ (t)的非齐次泊松过程,若 它满足下列条件: 1. X(0)=0; 2. X(t)是独立增量过程; 3. P{ X (t h) X (t ) 1} (t )h o(h)
P{W1 s | X (t ) 1 ? }
分布函数
0, s FW1| X (t ) 1 (s) , t 1,
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第三章 随机过程一. 随机过程的基本概念 1.1 随机过程的定义设(Ω,F ,P )为给定的概率空间,T 为一指标集,对于任意t T ∈,都存在定义在(),,P ΩF 上,取值于E 的随机变量()(),X t ωω∈Ω与它相对应,则称依赖于t 的一族随机变量(){},:X t t T ω∈为随机过程,简记(){}t X ω,{}t X 或(){}X t注:随机过程(){}:,t X t T ωω∈Ω∈是时间参数t 和样本点ω的二元函数,对于给定的时间0t ,是0(,)X t ω是概率空间(),,P ΩF 上的随机变量;对于给定样本点0ω∈Ω,0(,)X t ω是定义在T 上的实函数,此时称它为随机过程对应于0ω的一个样本函数,也成为样本轨道或实现。
E 称为随机过程的相空间,也成为状态空间,通常用“t X x =”表示t X 处于状态x1.2随机过程t X 按照时间和状态是连续还是离散可以分为四类:连续型随机过程、离散型随机过程、连续型随机序列、离散型随机序列1.3 有穷维分布函数设随机过程{}t X ,在任意n 个时刻1,,n t t 的取值1,,n t t X X 构成n 维随机向量()1,,nt t X X ,其n 维联合分布函数为:()()11,,11,,,,nnt t n t t n F x x P X x X x =≤≤其n 维联合密度函数记为()1,,1,,nt t n f x x 。
我们称(){}1,,11,,:1,,,nt t n n F x x n t t T ≥∈ 为随机过程{}t X 的有穷维分布函数。
二.随机过程的数字特征 2.1 数学期望对于任何一个时间t T ∈,随机过程{}t X 的数学期望定义为()()tX t t E X xdF x μ+∞-∞==⎰()t E X 是时间t 的函数2.2 方差与矩随机过程{}t X 的二阶中心矩22()[(())],tX t t t Var X E X E X t T σ==-∈称为随机过程{}t X 的方差随机过程{}t X 的二阶原点矩定义为22()()tt E X x dF x +∞-∞=⎰注:2()X t σ是时间t 的函数,它描述了随机过程()X t 的诸样本对于其数学期望t μ的偏移程度2.3 协方差函数和自相关函数随机过程{}t X 对于任意12,t t T ∈,其协方差函数定义为12112212(,)(,)[(())(())]X t t t t t t c t t Cov X X E X E X X E X ==--当12t t t ==时,协方差函数就是方差随机过程{}t X 的自相关函数(相关函数)定义为121212(,)(),t t R t t E X X t t T =∈当12t t t ==时,自相关函数就是二阶原点矩。
2.4 实二阶矩过程设{},t X t T ∈为实随机过程,若对于任意的t T ∈,其均方函数2()t E X <+∞,则称{},t X t T ∈为实二阶矩过程。
注:由柯西-施瓦兹(Cauchy-Schwarz )不等式:1212222()t t t t EX X E X E X ≤,可知,二阶矩过程1212(,)t t R t t EX X =自相关函数一定存在。
例题1判断随机过程{}cos ,t X X t t T ω=∈在下列两种情况下是否为二阶矩过程。
(1)2~(,)X N μσ,ω为常数; (2)X 具有概率密度21().(1)f x x x =+解:(1)因为22222222()(cos )()cos ()cos t t E X E X t E X tt ωωσμω===+<+∞所以{},t X t T ∈是二阶矩过程。
(2)因为2222cos ()(1)t x tE X dx x x ω+∞-∞==+∞+⎰所以{},t X t T ∈不是二阶矩过程。
三. 离散时间和离散型随机过程当时间参数t T ∈取离散值1,,n t t 时,t X 是一串随机变量1,nt t X X 所构成的序列,即随机序列。
由于随机序列的指标表示时间,所以常称随机序列为时间序列。
例题2设一维随机游动过程n Y ,其中01210,,,,nn i i Y Y X X X ===∑ ...i i d (即独立同分布随机序列,且(1),(1)1i i P X p P X p ===-=-,求(),()n n E Y Var Y解:根据期望、方差的定义和性质,有11()()()n nn i i i i E Y E X E X ====∑∑11()()()n nn i i i i Var Y Var X Var X ====∑∑而且()1(1)(1)21i E X p p p =⨯+--=-2()11(1)1i E X p p =⨯+⨯-= 222()()(())1(21)i i i Var X E X E X p =-=--则2()(21),()[1(21)]n n E Y n p Var Y n p =-=--例题3考察随机点在时间区间(]0,t 内发生的次数. 设在(]00,t t t +内有k 个随机点发生的概率与0t 无关,且服从参数为t λ的Poisson 分布,即0~()t t t t Y Y Y P t λ+-=(Y=00)具体分布为()()()!k tk t t p t P Y k e k λλ-===,其中0,1,2,.k λ>= 若随机点在(]0,t 内发生的次数是偶数(视0为偶数),则令1t X =;若为奇数,且令1t X =-。
求tX μ及12(,)X R t t解:(]02424(0)()()()()()[1]2!4!2tt t t P p t p t p t t t e e e eλλλλλλ---=+++=++++=在,t 内有偶数次随机点发生(]13535(0)()()()()()[]3!5!2tt t t P p t p t p t t t e t e e eλλλλλλλ---=+++=+++-=在,t 内有奇数次随机点发生于是有(1),(1)22t t t ttt t t e e e e P X eP X eλλλλλλ----+-===-=故得t2X ()t t E X e λμ-==通过类似的计算,可以得到对于120t t <<21122()1(1)2t t t t e P X X λ--+==21122()1(1)2t t t t e P X X λ---=-=所以相关函数为21122()12(,)()t t t t R t t E X X e λ--==同理可以计算当210t t <≤时的情况。
综合上面的结论有2121212(,),,0t t R t t et o t λ--=>>因此{,0}t X t ≥的方差为22412()(,)1ttt X t X Var X R t t e λσμ-==-=-四. 正态随机过程4.1如果随机过程{}t X 的任意n 维概率分布都是正态分布,则称它为正态随机过程或高斯随机过程,简称正态过程或高斯过程。
正态随机过程{}t X 的n 维概率密度为11/,,1/21/211(,,)exp ()()(2)(det )2n t t n n f x x x x μμπ-⎧⎫=---⎨⎬⎩⎭∑∑ 其中,μ是n 维向量,∑是n n ⨯阶的矩阵,∑∑-1是的逆矩阵,它的第i 行j 列的元素为(,)[(())(())]i i j j t t t t ijijij X i j t t t t X X X X c c t t E X E X X E X ρσσ==--=其中,t t i jX X ρ为相关系数。
注:由上式可见,正态随机过程的n 维概率分布仅取决于它的一、二阶矩函数,即只取决于它的数学期望、方差和相关系数4.2如果对正态过程{}t X 在n 个不同时刻1,,n t t 采样,所得到的一组随机变量1,nt t X X 两两互不相关,即(,)[(())(())]0,i i j j ij X i j t t t t c c t t E X E X X E X i j ==--=≠则这些随机变量也是相互独立的在0()ij c i j =≠的条件下,n 维正态概率密度等于n 个一维正态概率密度的连乘积。
所以对于一个正态过程来说,不相关与独立是等价的五. Poisson 过程 5.1 独立增量过程设{}t X 是一随机过程,若对任意正整数n 及1,,,n t t T ∈ 12t t << 1n n t t -<<随机变量的增量21321,,,nn t t t t t t X X X X X X ----是相互独立的,则称{}t X 是独立增量过程。
注:设{}tX 是独立增量过程,若对任意的,t t T τ+∈,增量t t X X τ+-的概率分布只依赖于τ而与t 无关,则称随机过程{}t X 为齐次的或时齐的。
若只要时间间隔τ相同,那么增量服从的分布也相同,也称此过程具有平稳性。
具有独立增量和平稳增量的过程{}t X 称为独立平稳增量过程。
常见的独立平稳增量过程有Poisson 过程和Wiener 过程5.2 计数过程如果用{}t N 表示(]0,t 内随机事件发生的总数,则随机过程{}t N 称为一个计数过程。
因此,计数过程满足 1)0t N ≥;2)t N 是非负整数值;3)对于任意两个时刻120t t ≤<,有12t t N N ≤;4)对于任意两个时刻120t t ≤<,2121t t t t N N N -=-等于时间区间(]12,t t 中发生的事件个数。
如果计数过程{}t N 在不相交时间区间中发生的事件个数是独立的,则称计数过程有独立增量5.3 Poisson 过程的等价定义 定义3-6设随机过程{}t N 是一个计数过程,如果满足 1)00N =;2){}t N 是独立增量过程;3)对于任意0s t ≤<,增量,s t t s N N N =-具有参数()t s λ-(0)λ>的Poisson 分布,即{}()[()],0,1,2,!k t s t s t s P N N k e k k λλ----===则称{}t N 为具有参数λ的齐次Poisson 过程。
注:Poisson 过程有平稳增量且t EN t λ=,并称λ为此过程的速率或强度,即单位时间内发生的事件的平均个数。
定义3-7设随机过程{}t N 是一个计数过程,参数为(0)λλ>,如果满足 1)00N =;2)过程有平稳的独立增量;3){1}(),0h P N h o h h λ==+>; 4){2}(),0h P N o h h ≥=>则称{}t N 为具有参数λ的齐次Poisson 过程。