随机过程第二章
随机过程第二章
4、有限维分布族
定义：设
X t ; t T 为一个 S .P. ，其有限
维分布函数的全体（一维分布函数，二维分布函
数，n维分布函数）。
F Ft1 ,t2 ,,tn x1, x2 ,, xn ; xi R，ti T，n N, i 1,2,, n
称之为 S.P. X t 的有限维分布函数。
2、特点：
独立增量过程在零均值且二阶矩存在时，是正交增量过程。 注：独立增量过程在现实环境中大量存在（例2.10）
3、平稳独立增量过程（定义 2.8）
增量 X(t)-X(s) 的分布律仅依赖于区间长度t-s。(第三章) （三）马尔可夫过程（第四、五章） （四）正态过程 1、定义 2.10： X(t)的有限维分布律是n维正态随机向量的分布律. 2、特点： ①二阶矩过程 ②数字特征成为其参数。
状态空间：S .P. X t 的状态所有可能取值的 集合，称之为状态空间。
小结：
X e, t 是状态与参数的二元函数
若 若
e
t
确定 确定
X e, t 是时间函数
X e, t 是随机变量
是一个确定值 是随机过程 S .P.
r.v.
若 e, t 确定 若 e, t 不定
随机过程的分类
一维正态过程分布律：
X (t ) ~ N u(t ),
2 2
2
(t )
二维正态过程分布律：
X (t1 ), X (t2 ) ~ N u(t1 ),u(t2 ),
这里有5个参数。 其中 1
(t1 ), (t2 ), (t1 , t2 )
(t1 , t2 ) 1 为相关系数或归一化协方差函数
随机过程 第二章
F ( x, t ) f ( x, t ) x 相应的一维特征函数为
X ( , t ) E{e
i X
}
f ( x, t )ei x dx
n 维分布律
[定义] 设 XT ={X (t), t T } 是随机过程，对任意 n 1 和
t1, t2, …, tn T ，随机过程 XT 的 n 维分布函数为
证明：B (s, t ) E[( X (s) m (s))( X (t ) m (t ))] X X X
E[ X ( s) X (t )] E[ X ( s)]mX (t ) E[ X (t )]mX ( s ) mX ( s )mX (t )
RX (s, t ) mX (s)mX (t )
度、重量、速度等物理量。随机过程本来通称随机函
数，当参数 T 时间集时称为随机过程，但现在将参数 不是时间集的随机函数也称为随机过程，对参数集 T 不再有时间集的限制。
2.2 随机过程的分布律和数字特征
[定义] 随机过程XT ={X (t), t T }在时刻 t 的一维分布函
数为
F ( x, t ) P{ X (t ) x}
例3
天气预报问题： 在天气预报中， 若以Xt表示某地 区第t次统计所 得到的该天最 高气温，则Xt是 随机变量， {Xt , t =0, 1, … }是随 机过程。
例4
Brown运动：漂浮在液 体表面上的微小粒子 不断进行无规则的运 动，它是大量分子随
机碰撞的结果，若记
（X(t),Y(t))为粒子在平
归一化协方差函数——相关系数：
BX ( s , t ) X ( s, t ) X ( s) X (t )
随机过程-第二章 随机过程
同样地， k 维随机过程的
n 维联合分布函数具有对称性和相容性。
i 1 i
k
例 2.1 设随机变量 X b(n, p) ，求 X 的特征函数
解：当 n 1 时， X 服从 0-1 分布，
P( X k ) p k (1 p)1k , k 0,1
所以
(t ) eitk P( X k ) peit (1 p)
自协方差函数与自相关函数之间的关系：
CX (s, t ) RX (s, t ) X (s) X (t )
注：自相关函数与自协方差函数均具有对称性和非负定性的性质。
2.3.2 二维随机过程
两个随机过程 X (t ), t T 和 Y (t ), t T 的互协方差函数
n
Ft1 ,,tm ,tm1 ,,tn ( x1 ,, xm , ,, ) Ft1 ,,tm ( x1 ,, xm )
对应具有有限分布族的随机过程 X (t ), t T 的特征函数
t ,,t (u1 ,, un ) E (ei (u X (t )u X (t )) ) ei (u X (t )u X (t )) dFt ,,t ( x1 ,, xn )
解：先求 Y
X
的特征函数。因为 Y N (0,1) ，所以
2 2
Y (t ) e
由于 ixe
itx x2 2
itx
x itx 1 x2 1 2 e dx e dx 2 2
x2 2
xe
，且
2
xe
x2 2
dx ห้องสมุดไป่ตู้ ，所以
随机过程讲义（第二章）（PDF）
第二章 随机过程的一般概念2.1 随机过程的基本概念和例子定义2.1.1：设(P ,,F )Ω为概率空间，T 是某参数集，若对每一个，是该概率空间上的随机变量，则称为随机过程(Stochastic Process)。
T t ∈),(w t X ),w t (X 随机过程就是定义在同一概率空间上的一族随机变量。
随机过程可以看成定义在),(w t X Ω×T 上的二元函数，固定Ω∈0w ，即对于一个特定的随机试验，称为样本路径(Sample Path)，或实现(realization)，这是通常所观测到的过程；另一方面，固定，是一个随机变量，按某个概率分布随机取值。
),(0w t X T t ∈0),(0w t X抽象一点：令，即∏∈=Tt T R R T R 中的元素为),(T t x X t t ∈=,为其Borel域(插乘)(T R B σ域)，随机过程实质上是()F ,Ω到())(,T T R R B 上的一个可测映射，在())(,T TR RB 上诱导出一个概率测度：T P ()B X P B P R B T T T ∈=∈∀)(),(B 。
一般代表的是时间。
根据参数集T 的性质，随机过程可以分为两大类： t 1)为可数集，如T {}L ,2,1,0=T 或{}L L ,1,0,1,−=T ，称为离散参数随机过程，也称为随机序列；2)为不可数集，如T {}0≥=t t T 或{}∞<<∞−=t t T ，称为连续参数随机过程。
随机过程的取值称为过程所处的状态(State)，所有状态的全体称为状态空间(State Space)。
通常以表示随机过程的状态空间。
根据状态空间的特征，一般把随机过程分为两大类：T t t X ∈),(S 1) 离散状态，即取一些离散的值； )(t X 2)连续状态，即的取值范围是连续的。
)(t X离散参数离散状态随机过程： Markov 链 连续参数离散状态随机过程： Poisson 过程 离散参数连续状态随机过程： *Markov 序列连续参数连续状态随机过程： Gauss 过程，Brown 运动例2.1.1：一醉汉在路上行走，以的概率向前迈一步，以q 的概率向后迈一步，以p r 的概率在原地不动，1=++r q p ，选定某个初始时刻，若以记它在时刻的位置，则就是直线上的随机游动(Random Walk)。
通信原理第2章 随机过程
aa
则称该平稳随机过程具有各态历经性。 R() R()
“各态历经”的含义：随机过程中的任一实现（样本函数） 都经历了随机过程的所有可能状态。因此， 我们无需（实际中 也不可能）获得大量用来计算统计平均的样本函数，而只需从 任意一个随机过程的样本函数中就可获得它的所有的数字特征， 从而使“统计平均”化为“时间平均”，使实际测量和计算的 问题大为简化。
注意： 具有各态历经性的随机过程必定是平稳随机过程， 但平稳随机过程不一定是各态历经的。在通信系统中所遇到的 随机信号和噪声， 一般均能满足各态历经条件。
第2章 随 机 过 程
三、平稳随机过程自相关函数
对于平稳随机过程而言， 它的自相关函数是特别重要的一 个函数。（其一，平稳随机过程的统计特性，如数字特征等， 可通过自相关函数来描述；其二，自相关函数与平稳随机过程 的谱特性有着内在的联系）。因此，我们有必要了解平稳随机 过程自相关函数的性质。
E[(t1)] x1f1(x1,t1)d1x
第2章 随 机 过 程
注意，这里t1是任取的，所以可以把t1直接写为t, x1改为x, 这时 上式就变为随机过程在任意时刻的数学期望，记作a(t)， 于是
a(t)E[(t)] x1(fx,t)dx
a(t)是时间t的函数，它表示随机过程的（n个样本函数曲线的） 摆动中心。
第2章 随 机 过 程
3. 相关函数
衡量随机过程在任意两个时刻获得的随机变量之间的关联 程度时，常用协方差函数B(t1, t2)和相关函数R(t1, t2)来表示。
（1）（自） 协方差函数：定义为 B(t1,t2)=E｛［ξ(t1)-a(t1)］［ξ(t2)-a(t2)］｝
= [x1a(t1)]x2[a(t2)f]2(x1,x2; t1,t2)dx1dx2
随机过程第二章
例2.8利用掷一枚硬币的试验定义一个随机过程 2.8
cosπt,出现正面 X (t) = 2t, 出现反面
0 ≤ t < +∞
已知出现正面与反面的概率相等. ⑴ 求X(t)的一维分布函数F(1/2; x),F(1; x). F(1/2; ),F(1; ). ⑵ 求X(t) 的二维分布函数F(1/2,1; x1,x2).
A, 例2.5 设 S.P.X (t) = A+ Bt，其中 B 相互独 S 立同服从正态分布 (0,1) ，求.P.X (t) 的一 N 维和二维分布．
例2.6 设 其中
S.P.X (t) = Acos t, t ∈ R ，
A是 r.v. ， 而且具有概率分布
A P 1 1/3 2 1/3 3 1/3
由于初位相的随机性， 由于初位相的随机性，在某时刻t = t0 , X (t0 )是一 个随机变量． 个随机变量． 若要观察任一时刻 描述. 变量 X (t ) 描述
t
的波形， 的波形，则需要用一族随机
为随机过程． 则称 { X (t ), t ∈ [0, +∞)}为随机过程．
例2 .4样本曲线与状态 样本曲线与状态 X(t) = Acos(ωt + Φ)
2.1： 热噪声电压） 例2.1：（热噪声电压）电子元件或器件由于内部微观粒子
（如电子）的随机热骚动所引起的端电压称为热噪声电压， 如电子）的随机热骚动所引起的端电压称为热噪声电压， 时刻的值是随机变量， 它在任一确定 t 时刻的值是随机变量，记为 V (t ) ． 不同时刻对应着不同的随机变量，当时间在某区间， 不同时刻对应着不同的随机变量，当时间在某区间，譬如 [0, +∞)上推移时，热噪声电压表现为一簇随机变量．在无 上推移时，热噪声电压表现为一簇随机变量． 线电通讯技术中，接收机在接收信号时， 线电通讯技术中，接收机在接收信号时，机内的热噪声电 压要对信号产生持续的干扰，为消除这种干扰（假设没有 压要对信号产生持续的干扰，为消除这种干扰（ 其它干扰因素）， ），就必须考虑热噪声电压随时间变化的过 其它干扰因素），就必须考虑热噪声电压随时间变化的过 为此， 程.为此，我们通过某种装置对电阻两端的热噪声电压进
第二章 随机过程的基本概念
第二章随机过程的基本概念说明与解释2.1 随机过程的定义◆{X(t), t∈T}称为随机过程，是定义在样本空间Ω和参数集T上的一个二元函数◆当t=t0固定时，X(t0)为一个随机变量，当样本点ω固定时，X(ω,t)随时间变化，称为样本函数，在平面上为一条曲线，或折线段2.2 随机过程的分布◆对于随机过程{X(t), t∈T}，当参数t取有限n个不同值时，则得到一个n维随机向量(X(t1),X(t2),⋯,X(t n))，它的概率分布即为概率论中多维随机向量的联合概率分布。
◆定理2.2.1的说明（1）对称性随机过程的n维分布函数F(x1,x2⋯,x n;t1,t2⋯,t n)=P[(X(t1)≤x1,X(t2)≤x2,⋯,X(t n)≤x n]上面大括号内是n个事件的积，事件的积运算满足交换律，所以对称性成立。
（2）相容性以二维随机向量(X,Y)为例，有F X(x)=F XY(x,∞)所以，相容性成立。
◆例2.2.1的说明因为U、V相互独立且同分布，都服从标准正态分布，因此它们的线性组合也服从正态分布，只需求出X(t)=U+tV的数学期望和方程即可。
（1）一维密度函数根据期望与方差的性质，有E(X(t))=E(U+tV)E(U)+tE(V)=0D(X(t))=D(U+tV)=D(U)+D(tV)=1+t2D(V)=1+t2而一维正态随机变量的密度函数为f(x)=1√2πσ{−(x−μ)22σ2}（2）n维密度函数可以根据定理1.2.2证明(X(t1),X(t2),⋯,X(t n))服从n维正态分布，所以下面只需求出其数学期望向量μ和协方差矩阵Σ根据（1）的计算结果，μ=E(X(t))为0向量cov(X(t i),X(t j))=cov(U+t i V,U+t j V)=cov(U,V)+t i cov(V,U)+t j cov(U,V)+t i t j cov(V,V)=D(U)+0+0+t i t j D(V)=1+t i t j记σij=1+t i t j,( i,j=1,2,⋯,n),Σ=(σij)n×n,x=(x1,x2,⋯,x n)由定理1.2.1知n维正态变量(X(t1),X(t2),⋯,X(t n))的密度函数为f(x)=1√2πn√|Σ|{−12(x−μ)TΣ−1(x−μ)}◆如果随机过程{X(t),−∞<t<+∞}的任意有限为分布都是正态分布，则称随机过程为正态过程，或高斯过程2.3 随机过程的数字特征◆随机过程的数字特征与概率论中的数字特征完全类似◆均方值函数存在的随机过程称为二阶矩过程◆例设随机过程X(t)=tV,t>0，其中V为离散型随机变量，其分布律为试求X(t)的均值函数、均方值函数、方差函数、均方差函数、自相关函数、协方差函数解根据概率论知识，E(V)=0.2,E(V2)=1，由此可得均值函数μX(t)=E(tV)=tE(V)=0.2t均方值函数ψX2(t)=E((X(t))2)=E((tV)2)=t2E(V2)=t2方差函数σX2(t)=ψX2(t)−(μX(t))2=t2−(0.2t)2=0.96t2均方差函数σX(t)=√σX2(t)=√0.96t自相关函数R X(s,t)=E(X(s)X(t))=E(sVtV)=stE(V2)=st自协方差函数C X(s,t)=R X(s,t)−μX(s)μX(t)=st−0.04st=0.95st◆在随机过程所有的数字特征中，均值函数和自相关函数是最基本的数字特征，其它数字特征都可从它们推出2.4 二维随机过程和复随机过程2.5 几类常用的随机过程◆平稳过程的分布只与参数的起点有关，而与参数的增量无关，即(X(t))与X(t+ℎ)同分布◆定理2.5.1的说明一般来说，利用随机过程的自协方差函数可以直接写出它的方差函数，但定理2.3.1告诉我们，当随机过程在初始时刻的状态为常数时，则已知方差可直接写出自协方差函数，即C X(t,t)=σX2(t)◆独立过程独立抛掷一颗骰子100次，观察每次掷出的点数，记X n为第n次出现的点数，则{X n, n=1,2,3,⋯,100}为独立过程（独立时间序列）◆参数为p的贝努利过程{X n, n≥1}是独立过程◆以贝努利过程{X n, n≥1}说明平稳独立增量过程记N n =∑X i n i=1，则服从二项分布B(n,p). 当m <n 时， N n −N m =N m+1+N m+2+⋯+N n ~B(n −m,p) 对任意正整数k ≥1,N n+k −N m+k =N m+k+1+⋯+N n+k ~B(n −m,p) 所以，{X n , n ≥1}是平稳过程其次，如果n 1<n 2<⋯<n mm ，可证N n 2−N n 1,N n 3−N n 2,⋯,N n m −N n m−1相互独立。
第二章 随机过程基本概念
E = {x : X (t , ω ) = x, t ∈ T , ω ∈Ω}
3.1 随机过程的定义
定义2 是一个实数集。 定义2 设( ,ℱ,P)是一个概率空间，T是一个实数集。 )是一个概率空间， 是一个实数集 X(t,ω)（t ∊T, ω∊Ω)是定义在 和 上的二元函数。若对于 (, ) ∊Ω) , ∊Ω 是定义在T和 上的二元函数。 任意固定的ω∊Ω 总有一个t 的函数X( , ) 任意固定的 ∊Ω ，总有一个 的函数 (t,ω)（t ∊T）与之对 ） 的函数， 应,对于所有的ω∊Ω ，就得到一族确知的 的函数，则称这一 对于所有的 ∊Ω 就得到一族确知的t的函数 则称这一 的函数的集合{ ( , ), ),t , ∊Ω ∊Ω} 族 t 的函数的集合{X(t,ω), ∊T, ω∊Ω}是( ,ℱ,P)上的随机 )上的随机 过程。 过程。 其中，每一个函数称为样本函数， 其中，每一个函数称为样本函数，或该随机过程的一个 函数称为样本函数 实现。 实现。
i 0 1 X2 1 i 0 Xm 1 i 0 1 2 3 4 5 6 7 8 9 10 …… 1 2 3 4 5 6 7 8 9 10 …… 2 3 4 5 6 7 8 9 10 ……
3.1 随机过程的定义
电话问题。 ( ≥0)固定时，电话交换站在[0 ] ≥0)固定时 [0， 例2 电话问题。当t(t≥0)固定时，电话交换站在[0，t] 时间内接到的呼唤次数是个随机变量 它可以取非负整数值0 随机变量， 时间内接到的呼唤次数是个随机变量，它可以取非负整数值0， 变到∞ 1，2，…。如果 从0变到∞， t 时刻前接收到的呼唤次数就 。如果t 需要用一族随机变量表示 是一个随机过程 一族随机变量表示， 随机过程。 需要用一族随机变量表示，是一个随机过程。 做一次试验， 做一次试验，可得到一 条表示t 条表示 时刻前接收到的 呼唤次数的非降阶梯曲 样本函数）。 ）。各次 线（样本函数）。各次 试验所得的曲线是随机 所有这些样本函数 的。所有这些样本函数 组成一随机过程 随机过程。 组成一随机过程。
随机过程第二章
对于任意n=1,2, …事件A相继到达的时间间隔Tn的分布为
⎧1 − e − λ t , t ≥ 0 FTn (t ) = P{Tn ≤ t} = ⎨ t<0 ⎩0,
其概率密度为
fቤተ መጻሕፍቲ ባይዱTn
⎧λ e −λt , (t ) = ⎨ ⎩0,
t ≥ 0 t < 0
等待时间的分布
等待时间Wn是指第n次事件A到达的时间分布
或
n≥0
[ m X (t )] n P{ X (t ) = n} = exp{ − m X (t )}, n!
例题3.8
1 (1 + cos ω t ) 的非齐次泊 设{X(t),t≥0}是具有跳跃强度 λ ( t ) = 2 松过程（ω≠0），求E[X(t)]和D[X(t)]。
例题3.9 设某路公共汽车从早上5时到晚上9时有车发出，乘客流量如下：5时 按平均乘客为200人/时计算；5时至8时乘客平均到达率按线性增 加，8时到达率为1400人/时；8时至18时保持平均到达率不变；18时 到21时从到达率1400人/时按线性下降，到21时为200人/时。假定乘 客数在不相重叠时间间隔内是相互独立的。求12时至14时有2000人 来站乘车的概率，并求这两个小时内来站乘车人数的数学期望。
P{ X (t + h) − X (t ) ≥ 2} = o(h)
非齐次泊松过程的均值函数为
m
X
(t ) =
∫
t 0
λ ( s ) ds
定理： 设{X(t),t≥0}为具有均值函数 m 则有
X
(t ) =
∫
t 0
λ ( s ) ds
非齐次泊松过程，
P{ X (t + s ) − X (t ) = n} [ m X (t + s ) − m X (t )] n = exp{−[ m X (t + s ) − m X (t )]}, n!
第2章 随机过程
第2章
随机过程
随机信号分析
3 随机过程的定义：
定义1：设随机试验E的样本空间 S { } ，若对于 每个元素 S ，总有一个确知的时间函数 X (t , ) 与它对应，这样，对于所有的 S，就可以得 到一簇时间t的函数，称它为随机过程。簇中的 每一个函数称为样本函数。 定义2：若对于每个特定的时间 ti (i 1,2,) X (ti , ) ， 都是随机变量，则称 X (t , ) 为随机过程.X (ti , ) 称为随机过程 X (t ) 在t t i 时刻的状态。
第2章 随机过程
随机信号分析
2 二维概率分布 二维随机变量[X(t1),X(t2)]的分布函数FX(x1,x2;t1,t2)为
FX(x1,x2;t1,t2)=P{ X(t1)≤x1,X(t2)≤x2}
若FX(x1,x2;t1,t2)对x1，x2的二阶混合偏导存在，则
2 FX ( x1 , x2 ; t1 , t 2 ) f X ( x1 , x2 ; t1 , t 2 ) x1x2
为随机过程X(t)的二维概率密度
第2章 随机过程
随机信号分析
3 n维概率分布 随机过程 X (t )在任意n个时刻 t1 , t2 ,, tn 的取值 X (t1 ), X (t2 ),, X (tn ) 构成n维随机变量 [ X (t1 ), X (t2 ),, X (tn )], 定义随机过程X (t ) 的n维分布函数和n维概率密 度函数为
n重
4 f X ( x1 , x2 ,, xn ; t1 , t 2 ,, t n )dx1dx2 dxn 1
5
n－m重
第二章随机过程基本概念.
为称使可积
}: ({ , ( , ( , (, 0 , (1111T t t X t x f dx
t x f t x F t x f x
Î=³ò¥-(2若有的一维概率分布。
为称满足}: ({}{1
, 0} ({T t t X p p
p p x t X P k k k k k
k Î=³==å
¥¥-k k iux X k k iux X p e
u t p x t X P t X dx t x f e u t t x f t X k , ( (( ( 2 , ( , ( , ( (111jj则有分布列若(,则
有密度若(
有时也需要利用常用的一些特征函数来求随机变量的分布函数,由特征函数与分布函数的一一对应性有:
cos(
(Q
+
=t
a
t
X w
的均值函数,方差函数和自相关函数。其中, a , w为常数, Q是在(0, 2p上均匀分布的随机变量。例4试求随机相位余弦波
2随机过程的特征函数
的一维特征函数。
为称为随机变量,记
由于给定( , ( ( ( , ( (, ( (t X u t u e
E u t t X T t X t X t iuX X jjjÙ==Îåò====
为X (t的有限维分布函数族。
为随机过程的n维分布函数。称关于随机过程X (t的所有有限维分布函数的集合
注意:随机过程的n维分布函数描述了随机过程在任意n不同时刻的状态之间的联系。
随机过程X (t的有限维分布函数族的意义何在?随机过程的n维分布函数(或概率密度能够近似地描述随机过程的统计特性,而且, n越大,则n维分布函数越趋完善地描述随机过程的统计特性。
第二章随机过程2
(2) 若 cov(X(s),Y(t))=E[(X(s)-mX(s))(Y(t)-mY(t)) 存在,则称 cov(X(s),Y(t))=CXY(s,t) 为该二维S.P.的互协方差函数
显然有 CXY(s,t)=RXY(s,t)-mX(s)mY(t)
定义 设{X(t), t∈T}, {Y(t), t∈T}是二个 S.P.若 CXY(s,t)=0 或 RX,Y(s,t)= mX(s)mY(t) s,t∈T, 则称S.P.{X(t), t∈T}与S.P.{Y(t), t∈T} 不相关.
E[ X k X l e j ( l k ) ]e j0 ( t s )
k 1 l 1
e
j0 ( t s )
k 1
n
2 k
例：设g (t )满足g (t T ) g (t ), 又随机变量X 在（0，T）上服从均匀分布， 1 T 记Y (t ) g (t - X ), 试证：EY (t )Y (t ) g (t ) g (t )dt T 0
k 1 n
固定正整数, X1, X 2 ,, X n , 1, 2 ,, n 是相互独立
2 的实随机变量,且 EXk 0, DX k k , Φk～U[0,2π],
k=1,2,…,n.
求S.P.{Z(t),t∈R}的均值函数和相关函数.
解 mZ (t ) E[ X k e
cos (t s) s, t
2
四.两维随机过程
在实际问题中,有时需要同时考虑两个或者 两个以上的随机过程.例如: 一个线性系统的输入信号和输入噪声两者可能 同为随机过程.
同时考虑一个线性系统的随机输入和随机输出 的关系等.
定义 设{X(t),t∈T}和{Y(t),t∈T} 是 两个随机过程.则称 {X(t),Y(t), t∈T}是二维随机过程.
第二章 随机过程
程孤 立的时间点上的统计特性。 • 随机过程孤立的时间点上的统计特性不能反
映随机过程的起伏程度, 故采用两时刻或更多 时刻状态的相关性去描述起伏程度。
4.自相关函数
设和
分别是随机过程 在时刻
和的状态，称它们的二阶原点混合矩
统计特性也可分为：
1、幅值域描述: 数学期望、均方值、方差 等； 2、时间域描述: 自相关函数、互相关函数 ； 3.频率域描述: 功率谱密度函数、互功率谱 密度函数；
2.2.1.随机过程的概率分布
随机过程 , 在任意固定时刻 , 都 是随机变量。 随机事件:
发生概率:
1.一维分布函数
与 和 都有直接的关系，是 二元函数，记为：
7、当平稳随机过程含有均值 , 那它的自相 关函数也将会含有一个常数项 。
8、平稳随机过程的自相关函数的傅里叶变换在 整个频率轴上是非负的，即
且对于所有 都成立。 注: 即不含有阶跃函数的因子，如: 平顶、垂
直边或幅度上的任何不连续。
用平稳过程的自相关函数表示数字特征: (1).数学期望
(2) 均方值 (3) 方差 (4).协方差
• 随机过程 具有以下四种含义：
1.若 和 在发生变 一族时间函数，或化一，族则随随机机变过量程，是构成 了随机过程的完整概念； 2.若和 都固定，则随机过程是一个 确定值；
3.若 取固定值，则随机过程是一个确定 的时间函数，即样本函数,对应于某次试 验的结果；
4.若 取固定值，则随机过程是一个随 机变量；
图 随机过程数字特征
例2-14.设随机过程 的自相关函数为
求它的均值、均方值、方差和自协函数方差。 解:
随机过程第二章
X (t)
Y (t)
mX (t)
mY (t)
其中 X (随t)时间变化缓慢，这个过程在两个不同 时刻的状态之间有较强的相关性; 而 Y的(样t) 本函数变化激烈，波动性大，其不同时刻 的状态之间的联系不明显，且时刻间隔越大，联系越
弱.
因此，必须引入描述随机过程在不同时刻 之间相关程度的数字特征。
自相关函数（简称相关函数）就是用来描 述随机过程两个不同时刻，状态之间内在联 系的重要数字特征。
随机过程数字特征之间的关系：
(1)
2 X
(t)
RX
(t,t)
(2)
2 X
(t)
BX
(t,t)
RX
(t,t)
m2 X
(t)
(3)
BX (t1,t2 ) RX (t1,t2 ) mX (t1)mX (t2 )
从这些关系式看出，均值函数
mX (t)
和相关函数 RX (t1,t是2 ) 最基本的两个数字特征，其它
称为样本函数，对应于e的一个样本轨道或实现，
变动e ，则得到一族样本函数， 样本函数的全e为一个数， 即在t时刻系统所
处的某一个状态。
对接收机的输出噪声电压，作一次“长 时间的观察”，测量获得的噪声电压Xt是一 个样本函数
e 1, x1(t) e 2, x2 (t) e 3, x3(t) e k, xk (t)
随机变量， 当t连续变化时， 即得一族随机变量，
所以X t,0 t 是一个连续参数， 连续状态
的随机过程, 称为随机相位正弦波。 例. 某电话交换台在时间段[0,t)内接收到的呼叫
次数X (t)是与t有关的随机变量， 对于固定的t, X (t)是一个取非负整数的随机变量，
第二章随机过程的基本概念
二、有限维分布族： 定义：对于任意的t1 , t 2 , , t n T ,
F ( x1, x2 , , xn ; t1, t2 , , tn ) P X (t1) x1, , X (tn ) xn
称为随机过程X (t) 的n 维分布函数. 定义随机过程X(t) 的 n 维分布密度
而 0 ，若 t 从 0 变到 ，时刻 t 来到的
呼叫次数需用一族随机变量 X (t),t [0,) 表 示，X(t)是一个随机过程.
对电话交换站作一次观察 E 可得到一条表 示 t 以前来到的呼唤曲线 x1(t) ，它为非降的阶
梯曲线，在有呼唤来到的时刻阶跃地增加， （假定在任一呼唤来到的时刻不可能来到多 于一次呼唤）.
程 X (t,) 在时刻t 的状态或截口. 若 固定，它
是 t 的函数，称为随机过程的样本函数或样 本曲线，亦称之为现实（曲线）.
Remark：①上述定义中样本空间通常可理
解为样本函数的全体，而每一条样本曲线作 为一个基本事件；例3：样本曲线 x i (t )
作为i(i 1,2,,n,) 改写为 X(t,i) ；全体样本函数x(t) 构成样本空间 ，即X(t,) 全体构成样本空间 当 i 时，X(t,i) 即为 xi(t),i 1,2
的结果是一个随机过程，可用一族相互独 立 r v X 1 ，X2， 或 Xn,n 1表示.
，
Xn
0
n
n
0
……
n
0
1
2
3
4
5
6
7
8Hale Waihona Puke 910例2．当 t(t 0)固定时，电话交换站在 [ 0 , t ] 时 间内来到的呼叫次数是 r v ，记X (t ) ，X(t) P(t) ， 其中 是单位时间内平均来到的呼叫次数，
随机过程 第2章
随机变量 随机变量族
e → x(e) (e, t) → xt(e)=x(e, t)
x=xt(ei)
x
e1 e2 e3
e
概率空间和随机对象
样本空间
概率空间
随机变量
随机向量
随机过程
2.1 随机过程的基本概念
定义：设(Ω, ö,P)为概率空间，T是参数集。 若对任意 t ∈T ，有随机变量X(t, e)与之 对应，则称随机变量族{X(t, e)， t ∈T } 是(Ω, ö,P)上的随机过程，简记为 {X(t)，t ∈T }或{Xt，t ∈T }。 ★ X(t)的所有可能的取值的集合称为状态空 间或相空间，记为I。
由此可将随机过程分为以下四类：
a. 离散参数离散型随机过程； b. 离散参数连续型随机过程； c. 连续参数离散型随机过程； d. 连续参数连续型随机过程。
2. 以随机过程的统计特征或概率特 征分类：
a. 独立增量过程； b. Markov过程； c. d. e. f. g. 二阶矩过程； 平稳过程； 鞅； 更新过程； Poission过程；
称之为随机过程X(t) 的二维概率密度。
2.3 随机过程的分布律
随机过程的二维分布函数比一维分布函数包含了随 机过程变化规律更多的信息，但它仍不能完整地反 映出随机过程的全部特性及变化规律。用同样的方 法，我们可以引入随机过程 X(t) 的 n 维分布函数和 n 维概率密度。
FX ( x1 , x2 , , xn ; t1 , t2 , tn )
• 又如移动某基站每天的通话次数，X 显然不 能确定，即为随机变量，进一步分析知这 个 X 还和时间 t 有关，即 X(t)，所以 X(t) 也构成一个过程，即随机过程；类似地， 气温、气压、商店每天的顾客流量等都构 成一个随机过程。
第二章随机过程
第⼆章随机过程第 2 章随机过程2.1 引⾔确定性信号是时间的确定函数，随机信号是时间的不确定函数。
?通信中⼲扰是随机信号，通信中的有⽤信号也是随机信号。
描述随机信号的数学⼯具是随机过程，基本的思想是把概率论中的随机变量的概念推⼴到时间函数。
2.2 随机过程的统计特性⼀.随机过程的数学定义：设随机试验E 的可能结果为)(t g ，试验的样本空间S 为{x 1(t), x 2(t)， …, x n (t),…}， x i (t)是第i 次试验的样本函数或实现，每次试验得到⼀个样本函数，所有可能出现的结果的总体就构成⼀随机过程，记作)(t g 。
随机过程举例：⼆.随机过程基本特征其⼀，它是⼀个时间函数；其⼆，在固定的某⼀观察时刻1t ，)(1t g 是随机变量。
随机过程具有随机变量和时间函数的特点。
●随机过程)(t g 在任⼀时刻都是随机变量；●随机过程)(t g 是⼤量样本函数的集合。
三.随机过程的统计描述设)(t g 表⽰随机过程，在任意给定的时刻T t ∈1， )(1t g 是⼀个⼀维随机变量。
1.⼀维分布函数：随机变量)(t g ⼩于或等于某⼀数值x 的概率，即})({);(1x t g P t x P ≤= 2.2.12.⼀维概率密度函数:⼀维概率分布函数对x 的导数.xt x P t x p ??=);(),(11 2.2.2 3.对于任意两个时间1t 和2t ,随机过程的对应的抽样值)(1t g )(2t g 为两个随机变量.他们的联合分布定义为)(t g 的⼆维分布})(;)({),;,(221121212x t g x t g P t t x x P ≤≤= 2.2.34.⼆维分布密度定义为212121221212),;,(),;,(x x t t x x P t t x x p = 2.2.4 四.随机过程的⼀维数字特征设随机过程)(t g 的⼀维概率密度函数为),(1t x p .1.数学期望(Expectation)dx t x xp t g E t g );()]([)(1?∞∞-==µ 2.2.5 2.⽅差(Variance)dx t x p t x t t g E t g Var t g g g ),()]([]))()([()]([)(1222µµσ-=-==?∞∞- 2.2.6五.随机过程的⼆维数字特征1.⾃协⽅差函数(Covariance)21212122211221121),;,())())((())]()())(()([(),(dx dx t t x x p t x t x t t g t t g E t t C g g g g g µµµµ--=--=??∞∞-∞∞- 2.2.72. ⾃相关函数(Autocorrelation)2121212212121),;,()]()([),(dx dx t t x x p x x t g t g E t t R g ∞∞-∞∞-== 2.2.83.⾃相关函数和⾃协⽅差函数的关系)]([)]([),(),(212121t g E t g E t t R t t C g g ?-= 2.2.94.设两个随机过程分别为)(),(t h t g ,在时刻1t 和2t ,对)(),(t h t g 抽样,两个随机过程的互相关函数(Cross-correlation)定义为)]()([),(2121t h t g E t t R gh = 2.2.105.两个随机过程的互协⽅差函数(Cross-covariance)定义为)]()())(()([(),(221121t t h t t g E t t C h g gh µµ--= 2.2.112.3 平稳随机过程⼀.狭义平稳的随机过程(严平稳的随机过程)对于任意的正整数n 和实数τ,若随机过程)(t g 的n 维概率密度函数满⾜ ),,;,,(),,;,,,(21212121n n n n n n t t t x x x p t t t x x x p=+???++???τττ 2.3.1 则称)(t g 为狭义平稳的随机过程.统计特性不随时间的推移⽽变化的随机过程称为平稳随机过程。
随机过程课件-第二章
例题2.8：
设X(t)为信号过程，Y(t)为噪声过程，令W(t)=X(t)+Y(t)，求W(t)的均值
函数和相关函数。
14复Βιβλιοθήκη 机过程定义： 设{Xt, t∈T}，{Yt, t∈T}是取实数值的两个随机过程，若对任意t∈T
Zt X t iYt
其中 i 1 ，则称{Zt, t∈T}为复随机过程。 复随机过程的数字特征函数
Ft1,,tn (x1, x2 ,, xn ) P{X (t1) x1, X (tn ) xn}
这些分布函数的全体
F {Ft1,tn (x1, x2 , xn ),t1, t2 ,, tn T , n 1}
称为XT={Xt,t ∈T}的有限维分布函数。
10
数字特征
设XT={X(t),t∈T}是随机过程，如果对任意t∈T，EX(t)存在，则称函数
def
mx (t) EX (t), t T
为XT的均值函数，反映随机过程在时刻t的平均值。
若对任意t∈T，E(X(t))2存在，则称XT为二阶矩过程，而称
def
BX (s,t) E[{X (s) mX (s)}{X (t) mX (t)}], s,t T
为XT的协方差函数，反映随机过程在时刻t和s时的线性相关程度。
随机过程{X(t,e),t ∈T}可以认为是一个二元函数。 对固定的t，X(t,e)是（Ω,F,P）上的随机变量； 对固定的e， X(t,e)是随机过程{X(t,e),t ∈T}的一个样本函数。
5
X(t)通常表示为在时刻t所处的状态。X(t)的所有可能状态所构成的集合 称为状态空间或相空间。
通常我们可以根据随机变量X(t)在时间和状态上的类型区分随机过程 的类型。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
§2.1 基本概念
一、实际背景
在许多实际问题中,不仅需要对随机现象做特 定时间点上的一次观察,且需要做多次的连续不 断的观察,以观察研究对象随时间推移的演变过 程. Ex.1 对某城市的气温进行n年的连续观察, 记录得 { X ( t ), a t b},
当T=(1,2, … ,n,…),
时间序列
随机过程是n 维随机变量，随机变量序列的
一般化,是随机变量X(t), t T 的集合. 用 E表示随机过程X T X t , t T 的值域,称E为 过程的状态空间. Ex.5 设(Ω,F, P)是对应于抛均匀硬币的概
率空间: Ω ω1 ,ω2 ,
Байду номын сангаас
tn ) P X (t1 ) x1 , X (t2 ) x2 ,
X (t n ) xn ，
称为随机变量 X (t ), t T 的n维分布函数
FX ( x1 , x2 ,
tn ) ti T 称为 X (t ), t T 的n维分布函数族
xn ; t1 , t2 , tn ), n 1, 2, ti T
T ( t ,ω) 是一个 2)当固定ω Ω ,作为 t T 的函数，
定义在T上的普通函数.
X(t1,ω)
X(t2,ω)
X(t,ω1) X(t,ω2) X(t,ω3)
t1
t2
tn
定义 对每一固定ω Ω，称 X t ω是随机过程 { X ( t , ), t T } 的一个样本函数. 也称轨道, 路径,现实.
互相关函数
互协方差函数
如果二维随机过程 X (t ), Y (t ) 对任意的t1 , t2 T , 恒有CXY (t1 , t2 ) 0, 称X (t )和Y (t )是不相关的。
例 X(t)=U+tV,其中U和V相互独立，且都服从标准正态分布， 求X(t)的协方差函数。
练习 例6：设A, B是两个随机变量，试求随机过程:
解：设质点第i 次移动的距离为X i，X i可取 1，也可取 1， P( X i 1) p，P( X i 1) q 1 p。
0
. . . . . . . . . . .
x
设质点在t n 时处于位置Yn，则Yn是随机变量， Yn X i，而Y0 0。
X (t ) At 3B, t T , 的均值函数和自相关函数。 如果A, B相互独立，且A ~ N 1, 4 , B ~ U 0, 2 , 问X (t )的均值函数和自相关函数又是怎样的？
解： X (t ) E X (t ) tE ( A) 3E( B)
{ X t ,ω, t T }
为(ΩF,P)上的一个随机过程.
注
1) 称T是参数集(或参数空间) 当T=(1,2, …，n),
随机向量
{ X t ,ω, t T } ( X 1 , X 2 ,, X n )
{ X t ,ω, t T } ( X 1 , X 2 ,, )
Ft j1 ,...,t jn ( x j1 ,.., x jn ) P{X (t j1 ) x j1 ,..., X (t jn ) x jn }
P{X (t1 ) x1,..., X (tn ) xn } Ft1 ,...,tn ( x1,.., xn )
相容性：对 m n, 有
Ft1 ,...,tm ,tm1,...,tn ( x1,.., xm,,...) Ft1 ,...,tm ( x1,.., xm )
• 定理2.1 （Kolmogorov定理）
有限维分布 {Ft ,...t ( x1,...xn ),t1,...tn T , n 1}, 若满足对称性 和相容性，则必存在一个随机过程 { X (t ),t T }, 使得 {Ft ,...t ( x1,...xn ),t1,...tn T , n 1}, 恰好是 { X (t ), t T } 的有 限维分布族。
C XY (t1 , t2 ) E [ X (t1 ) X (t1 )][Y (t2 ) Y (t2 )] RXY (t1 , t2 ) X (t1 ) Y (t2 ) CYX (t1 , t2 ) RYX (t1 , t2 ) Y (t1 ) X (t2 ) t1 , t2 T t1 , t2 T
一般地， FX ( x1 , x2 ,
称为随机过程 X (t ), t T 的有限维分布函数族 它完全确定了随机过程的统计特性
例 4. 随机游动。设有一质点在x轴上作随机游动，在t 0 例 时位于原点o，在t 1, 2,3,..., 时质点可在x轴上正向或反向 移动一个单位距离，作正向移动一个单位距离的概率为p， 作反向移动一个单位距离的概率为q=1-p。求经过n次移动， 质点处于位置k的概率。
2) 独立过程 对任意整数 n及任意n个不同的 t i T ,随机变量
Tt1 ,, Ttn 相互独立.
3) 独立增量过程 对任一正整数n及任意 t i T , t1 t 2 t n ,随 机变量
X t 2 X t 1 , X t 3 X t 2 , , X t n X t n 1
i 1 n
: :
. . . . . . . . . . .
当 n 1时，质点的位置为Y1 1 或Y1 1， 而P(Y1 1) P( X 1 1) p， P(Y1 1) P( X 1 1) q 1 p
当 n 2时，质点的位置为Y2 2 , 0, 2, 而P(Y2 2) P( X 1 1, X 2 1) P( X 1 1) P( X 2 1) p 2，
相互独立. 重要子类有泊松过程，维纳过程.
过程 增量
4)马尔科夫过程.
the graph of y = cos x
George Pólya 1887 - 1985
§2.2 有限维分布和Kolmogorov定理
(一) 随机过程的分布函数族
设随机过程 X (t ), t T , 对每一固定的t T , FX ( x, t ) P X (t ) x，x R，称为随机过程 X (t ), t T 的一维分布函数
研究该城市气温有无以年为周期的变化规律?
随机过程的 谱分析问题
Ex.2 从杂乱电讯号的一段观察{Y(t),0< t< T}
中,研究是否存在某种随机信号S(t )?
过程检测
Ex.3 监听器上收到某人的话音记录{Z(t),α<t <β} 试问他是否确实是追踪对象？
过程识别
二、随机过程定义 定义 设(Ω,F, P)是概率空间, T R ,若对每个 t T , X t ,ω 是概率空间(ΩF,P)上的随机变量, 则称这族随机变量
FX ( x, t ), t T 称为一维分布函数族
一般地，对任意n(n 2,3, )个不同的时刻，t1 , t2 , n维随机变量 X (t1 ), X (t2 ), FX ( x1 , x2 , xn；t1 , t2 , xn ; t1 , t2 , X (tn ) 的分布函数：xi R, i 1, 2, tn T n
其参数集T ={0,1,2,…}, 状态空间E={0,1}.
随机过程的理解 为集合T 与Ω的积集. 称 T Ω t ,ω : t T ,ω Ω
随机过程 X t ,ω 可看成定义在积集 T Ω 上的二 元函数
Ω
T
1)当固定 t T ,X t ω X (t , ) 是一个随机变量；
三、随机过程的分类
X T X (t ), t T
1. 按状态空间和参数集进行分类 1) T, E 均为可列集; 2) T 是可列集, E 不可列; 3) T 不可列, E 为可列集; 4) T, E 均不可列.
当T为可列集,称为离散参数随机过程, 随机 序列, 时间序列. 当E 为可列(或有限)集,称为离散状态随机过 程. 2. 按概率结构进行分类 1) 二阶矩过程 若过程Tt T (t ), t T 对每一个 t T , T ( t )的 二阶矩都存在.
CXX t1, t2 RXX t1, t2 X t1 X t2
定义 2.3
关于数字特征，除了X (t ), Y (t )各自的均值函数和自相关函数， 还有如下两个数字特征:
RXY (t1 , t2 ) E[ X (t1 )Y (t2 )] t1 , t2 T RYX (t1 , t2 ) E[Y (t1 ) X (t2 )] t1 , t2 T
又设任意t1 , t2 T RXX (t1 , t2 ) E[ X (t1 ) X (t2 )] (自)相关函数, C XX (t1 , t2 ) Cov[ X (t1 ), X (t2 )] E [ X (t1 ) X (t1 )][ X (t2 ) X (t2 )] (自)协方差函数.
依次类推，当移动n 次时，质点的位置为 Yn n, n 2 , n 4,... (n 4), (n 2), n。
若在n 次移动中有m 次质点正向移动，即有m 次X i 1， 则有n m 次质点作反向移动，即有n m 次X i 1 。
此时，Yn X i m(1) (n m)(1) 2m n k ,
P(Y2 0) P( X1 1, X 2 1) P( X1 1, X 2 1) P( X1 1) P( X 2 1) P( X1 1) P( X 2 1) 2 pq，
2
P(Y2 2) P( X1 1, X 2 1) P( X1 1)P( X 2 1) q ，