均值各态历经定理
各态历经过程
各态历经过程
问题的提出
z在随机过程的概率分布未知情况下,如要得到随机过程的数字特征如:E[X(t)]、D[X(t)]、Rx(t1,t2 )…,只有通过做大量重复的观察试验找到“所有样本函数{χ(t)}”,找到各个样本函数χ(t)发生的概率,再对过程的“所有样本函数
{χ(t)}”求统计平均才可能得到。
z这在实际应用中不易实现。
z因此,人们想到:能否从一个样本函数χ(t)中提取到整个过程统计特征的信息?
解决方法
•19世纪俄国的数学家-辛钦,从理论上证明:存在一种平稳过程,在具备了一定的补充条件(略)下,对它的任何一个样本函数χ(t)所做的时间平均,在概率意义上趋近于它的统计平均,对于具有这样特性的随机过程←称之为“各态历经过程”。
•可以理解为:“各态历经过程”的任一个样本函数χ(t)都经历了过程的各种可能状态,从它的一个样本函数χ(t)中可以提取到整个过程统计特征的信息。
•因此,可以用它的一个样本函数χ(t)的“时间平均”来代替它的“统计平均”。
←目地。
均值定理证明
均值定理证明
均值定理(也称中值定理或拉格朗日中值定理)是微积分中的一个重要定理,它是说:如果函数在闭区间[a,b]上连续且在开区间(a,b)内可微,则存在一个数c∈(a,b),使得函数在a和b处的导数的平均值等于函数在[c,a]和[c,b]内的导数,即:
f'(c) = (f(b)-f(a))/(b-a)
下面将给出该定理的证明。
证明:
首先,我们要构造一个辅助函数:
F(x) = f(x) - ((f(b)-f(a))/(b-a))*(x-a)
显然,F(x)在[a,b]上连续,在(a,b)内可微,且F(a)=F(b)=0。
由拉格朗日中值定理可知,存在一个数c∈(a,b),使得:
F'(c) = (F(b)-F(a))/(b-a) = 0
又因为F'(x) = f'(x) - (f(b)-f(a))/(b-a),则有:
f'(c) - (f(b)-f(a))/(b-a) = 0
即:
f'(c) = (f(b)-f(a))/(b-a)
于是均值定理得证。
总结:
均值定理是微积分中一个十分基础和重要的定理,它的证明基于拉格
朗日中值定理,是比较简单和易懂的。
掌握均值定理不仅有助于更深
入地理解微积分的概念和方法,而且还能在一些实际问题中得到应用。
均值各态历经定理
随机过程积分
实际应用中,随机过程的数字特征需通过进行大量重复试验, 获得足够多的样本曲线之后获得:
实际应用的困难:大量重复试验的工作很难实现。 是否可以由一次试验获得随机过程的数字特征? 考察在一次试验中,随机过程在时间维度上相关数字特征与随 机过程的关系。
1 mX » å N 1 RX (t2 - t1 ) ? å N
则称 Y 为 X (t ) 在区间 [a, b] 上的均方积分,仍记为
max D ti ? 0
lim E{[Y -
å
2 X ( t ) D t ] i i }= 0 i= 1
n
Y=
ò
b
a
X (t )dt
庄伯金 bjzhuang@
13
随机过程的积分
定理:二阶矩过程 X (t ) 在 [a, b] 上均方积分存在的充要条件 是自相关函数的二重积分
则
ì 1/ T ï ï f (q) = í ï ï î 0
T
0< q< T others
庄伯金 bjzhuang@
1 1 T E[ X (t )] = E[s(t + Q)] = ò s (t + q) d q = ò s (j )d j 0 T T 0 RX (t, t + t ) = E(s(t + Q)s(t + t + Q)) T 1 1 T = ò s (t + q) s (t + t + q) dq = ò s (j ) s (t + j )dj 0 T T 0
庄伯金 bjzhuang@
8
平稳过程的例
例:设 {X k , k = 1, 2,...} 是互不相关的随机序列,且满足:
随机过程知识点汇总
随机过程知识点汇总随机过程是指一组随机变量{X(t)},其中t属于某个集合T,每个随机变量X(t)都与一个时刻t相关联。
2.随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程是指在离散的时间点上取值的随机过程,例如随机游走。
连续时间随机过程是指在连续的时间区间上取值的随机过程,例如XXX运动。
3.随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。
均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。
自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。
4.平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。
弱平稳随机过程的自相关函数只与时间差有关,而不依赖于具体的时间点。
强平稳随机过程的概率分布在时间上是不变的。
5.高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。
高斯随机过程的均值函数和自相关函数可以唯一确定该过程。
6.马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下,未来状态的条件概率分布只依赖于当前状态,而与过去状态无关的随机过程。
马尔可夫性质可以用转移概率矩阵描述,并且可以用马尔可夫链来建模。
7.泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。
泊松过程的重要性质是独立增量和平稳增量。
8.随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。
例如,布朗运动被广泛应用于金融学中的期权定价,马尔可夫链被应用于自然语言处理中的语言模型。
t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))],其中Zs和Zt是Z在时刻s和t的取值。
复随机过程是由实部和虚部构成的随机过程,其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。
协方差函数和相关函数也可以类似地计算得到。
复随机过程在通信系统中有广泛的应用,例如调制解调、信道编解码等。
概率论与随机过程考点总结
第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()( 2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差两个随机变量Y X ,:EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数两个随机变量Y X ,:DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关;独立⇒不相关⇔0=ρ4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k)( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数:∑∞===0)()(k kk kzp z E z g!)0()(k g p k k =)1()('g X E =2''")]1([)1()1()(g g g X D -+=5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程;简记为{}T t t X ∈),(;含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性;另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的;当t 固定时,),(e t X 是随机变量;当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道;分类:根据参数集T 和状态空间I 是否可列,分四类; 也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等; 2.随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性;随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族;随机过程的有限维分布函数族是随机过程概率特征的完整描述;在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代;1均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值; 2方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度; 3协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =4相关函数)]()([),(t X s X E t s R X = 3和4表示随机过程在时刻s ,t 时的线性相关程度;5互相关函数:{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数;)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数;若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关; 3.复随机过程 t t t jY X Z += 均值函数tt Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =4.常用的随机过程1二阶距过程:实或复随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E 二阶距存在,则称该随机过程为二阶距过程;2正交增量过程:设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程;其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== 3独立增量过程:随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程; 进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程;4马尔可夫过程:如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程;5正态过程:随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,)()(),(21n t X t X t X 是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程; 6维纳过程:是正态过程的一种特殊情形;设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ;②是平稳独立增量过程;③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程;另外:①它是一个Markov 过程;因此该过程的当前值就是做出其未来预测中所需的全部信息;②维纳过程具有独立增量;该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率;③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加; 7平稳过程:严狭义平稳过程:{}T t t X ∈),(,如果对任意常数τ和正整数n 及Tt t t n ∈,,,21 ,Tt t t n ∈+++τττ,,,21 ,)()(),(21n t X t X t X 与)()(),(21τττ+++n t X t X t X 有相同的联合分布,则称{}T t t X ∈),(是严狭义平稳过程;广义平稳过程:随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程;②对任意的T t ∈, 常数==)()(t EX t m X ;③对任意T t s ∈,,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差s t -有关;则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程;第三章 泊松过程一.泊松过程的定义两种定义方法1,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}T t t X ∈),(是具有参数λ的泊松过程;①(0)0X =;②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立;③在任一长度为t 的区间中,事件A发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!ntt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间A发生的平均个数,也称速率或强度;2,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}(),0X t t ≥是具有参数λ的泊松过程;①(0)0X =;②独立、平稳增量过程;③{}{}()()1()()()2()P X t h X t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性; 二.基本性质1,数字特征 ()[()][()]X m t E X t t D X t λ=== (1)(,)(1)X s t s t R s t t s s tλλλλ+<⎧=⎨+≥⎩(,)(,)()()min(,)X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉2,n T 表示第1n -事件A发生到第n 次事件发生的时间间隔,{},1n T n ≥是时间序列,随机变量n T 服从参数为λ的指数分布;概率密度为,0()0,0t e t f t t λλ-⎧≥=⎨<⎩,分布函数1,0()0,0n t T e t F t t λ-⎧-≥=⎨<⎩均值为1n ET λ=证明过程也要很熟悉 到达时间的分布 略 三.非齐次泊松过程 到达强度是t 的函数①(0)0X =;②独立增量过程;③{}{}()()1()()()()2()P X t h X t t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 不具有平稳增量性;均值函数0()[()]()tX m t E X t s ds λ==⎰定理:{}(),0X t t ≥是具有均值为0()()tX m t s ds λ=⎰的非齐次泊松过程,则有 四.复合泊松过程设{}(),0N t t ≥是强度为λ的泊松过程,{},1,2,k Y k =是一列独立同分布的随机变量,且与{}(),0N t t ≥独立,令()1()N t kk X t Y==∑ 则称{}(),0X t t ≥为复合泊松过程;重要结论:{}(),0X t t ≥是独立增量过程;若21()E Y <∞,则1[()]()E X t tE Y λ=,21[()]()D X t tE Y λ=第四章 马尔可夫链泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程;时间和状态都离散的马尔可夫过程称为马尔可夫链;马尔可夫过程的特性:马尔可夫性或无后效性;即:在过程时刻0t 所处的状态为已知的条件下,过程在时刻0t t >所处状态的条件分布与过程在时刻0t 之前所处的状态无关;也就是说,将来只与现在有关,而与过去无关;表示为{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一.马尔可夫链的概念及转移概率1.定义:设随机过程{},∈n X n T ,对任意的整数∈n T 和任意的011,,,n i i i I +∈,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称{},∈n X n T 为马尔可夫链;马尔可夫链的统计特性完全由条件概率{}11n n n n P X i X i ++==所决定;2.转移概率 {}1n n P X j X i +==相当于随机游动的质点在时刻n 处于状态i 的条件下,下一步转移到j 的概率;记为()ij p n ;则()ij p n {}1n n P X j X i +===称为马尔可夫链在时刻n 的一步转移概率;若齐次马尔可夫链,则()ij p n 与n 无关,记为ij p ;[],1,2,ij P p i j II =∈= 称为系统的一步转移矩阵;性质:每个元素0ij p ≥,每行的和为1;3.n 步转移概率()n ij p ={}m n m P X j X i +== ;()()[],1,2,n n ij P p i j II =∈=称为n步转移矩阵;重要性质:①()()()n l n l ij ik kj k Ip p p -∈=∑ 称为C K -方程,证明中用到条件概率的乘法公式、马尔可夫性、齐次性;掌握证明方法:{}{}{}{}{}{}{}{}{}()()()()(),,,,,,,()()m m n n ijm nm m m m l m n k Tm m m l m n m m l k Tm m l m n l l l n l kj ik ik kj k Ik IP X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈==================⋅====+⋅=⋅∑∑∑∑②()n n P P = 说明n 步转移概率矩阵是一步转移概率矩阵的n 次乘方;4.{},∈n X n T 是马尔可夫链,称{}0j p P X j ==为初始概率,即0时刻状态为j 的概率;称{}()j n p n P X j ==为绝对概率,即n 时刻状态为j 的概率;{}12(0),,T P p p =为初始概率向量,{}12()(),(),T P n p n p n =为绝对概率向量;定理:①()()n j i ij i Ip n p p ∈=∑矩阵形式:()()(0)T T n P n P P =②()(1)j i ij i Ip n p n p ∈=-∑定理:{}111122,,,n n n n i iii i i IP X i X i X i p p p -∈====∑ 说明马氏链的有限维分布完全由它的初始概率和一步转移概率所决定; 二.马尔可夫链的状态分类1.周期:自某状态出发,再返回某状态的所有可能步数最大公约数,即{}():0n ii d GC D n p ⋅⋅=>;若1d >,则称该状态是周期的;若1d =,则称该状态是非周期的;2.首中概率:()n ij f 表示由i 出发经n 步首次到达j 的概率; 3.()1n ij ij n f f ∞==∑表示由i 出发经终于迟早要到达j 的概率;4.如果1ii f =,则状态i 是常返态;如果1ii f <,状态i 是非常返滑过态;5.()1n i ii n nf μ∞==∑表示由i 出发再返回到i 的平均返回时间;若i μ<∞,则称i 是正常返态;若i μ=∞,则称i 是零常返态;非周期的正常返态是遍历状态; 6.状态i 是常返充要条件是()0iin n p∞==∞∑;状态i 是非常返充要条件是()11iin n iip f ∞==-∑; 7.称状态i 与j 互通,,i j i j j i ↔→→即且;如果i j ↔,则他们同为常返态或非常返态,;若i ,j 同为常返态,则他们同为正常返态或零常返态,且i ,j 有相同的周期;8.状态i 是遍历状态的充要条件是()1lim 0n iin ip μ→∞=>;一个不可约的、非周期的、有限状态的马尔可夫链是遍历的;9.要求:熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态; 三.状态空间的分解1.设C 是状态空间I 的一个闭集,如果对任意的状态i C ∈,状态j C ∉,都有0ij p =即从i 出发经一步转移不能到达j ,则称C 为闭集;如果C 的状态互通,则称C 是不可约的;如果状态空间不可约,则马尔可夫链{},∈n X n T 不可约;或者说除了C 之外没有其他闭集,则称马尔可夫链{},∈n X n T 不可约;2.C 为闭集的充要条件是:对任意的状态i C ∈,状态j C ∉,都有()0ijn p =;所以闭集的意思是自C 的内部不能到达C 的外部;意味着一旦质点进入闭集C 中,它将永远留在C 中运动;如果1ii p =,则状态i 为吸收的;等价于单点{}i 为闭集;3.马尔可夫链的分解定理:任一马尔可夫链的状态空间I ,必可唯一地分解成有限个互不相交的子集12,,,nD C C C 的和,①每一个n C 都是常返态组成的不可约闭集;②n C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且1ij f =;③D 是由全体非常返态组成; 分解定理说明:状态空间的状态可按常返与非常返分为两类,非常返态组成集合D ,常返态组成一个闭集C ;闭集C 又可按互通关系分为若干个互不相交的基本常返闭集12,,nC C C ; 含义:一个马尔可夫链如果从D 中某个非常返态出发,它或者一直停留在D 中,或某一时刻进入某个基本常返闭集n C ,一旦进入就永不离开;一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集n C ,永远在该闭集n C 中运动;4.有限马尔可夫链:一个马尔可夫链的状态空间是一个有限集合;性质:①所有非常返态组成的集合不是闭集;②没有零常返态;③必有正常返态;④状态空间12n I D C C C =++++,D 是非常返集合,12,,n C C C 是正常返集合;不可约有限马尔可夫链只有正常返态;四.()n ij p 的渐近性质与平稳分布 1.为什么要研究转移概率()n ij p 的遍历性研究()n ij p 当n →∞时的极限性质,即{}0n P X j X i ==的极限分布,包含两个问题:一是()lim n ij n p →∞是否存在;二是如果存在,是否与初始状态有关;这一类问题称作遍历性定理;如果对,i j I ∈,存在不依赖于i 的极限()lim n ijn p →∞0j p =>,则称马尔可夫链具有遍历性; 一个不可约的马尔可夫链,如果它的状态是非周期的正常返态,则它就是一个遍历链; 具有遍历性的马尔可夫链,无论系统从哪个状态出发,当转移步数n 充分大时,转移到状态j 的概率都近似等于j p ,这时可以用j p 作为()n ij p 的近似值;2.研究平稳分布有什么意义判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过讨论()lim n ij n p →∞来解决,但求极限时困难的;所以,我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链;一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布,且平稳分布即极限分布()lim n ij n p →∞=1,jj I μ∈;3.{},0≥n X n 是齐次马尔可夫链,状态空间为I ,一步转移概率为ij p ,概率分布{},j j I π∈称为马尔可夫链的平稳分布,满足1j i iji Ijj Ip πππ∈∈==∑∑4.定理:不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布1,jj I μ∈; 推论:有限状态的不可约非周期马尔可夫链必存在平稳分布;5.在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平衡状态,此时系统各状态的概率分布不随时间而变,也不依赖于初始状态;6.对有限马尔可夫链,如果存在正整数k ,使()0k ij p >,即k 步转移矩阵中没有零元素,则该链是遍历的;第六章 平稳随机过程一.定义第一章严平稳过程:有限维分布函数沿时间轴平移时不发生变化;宽平稳过程:满足三个条件:二阶矩过程2[()]E X t <∞;均值为常数[()]E X t =常数;相关函数只与时间差有关,即(,)()()()X X R t t E X t X t R τττ⎡⎤-=-=⎣⎦;宽平稳过程不一定是严平稳过程,而严平稳过程一定是宽平稳过程; 二.联合平稳过程及相关函数的性质1.定义:设{}(),X t t T ∈和{}(),X t t T ∈是两个平稳过程,若它们的互相关函数()()E X t Y t τ⎡⎤-⎣⎦及()()E Y t X t τ⎡⎤-⎣⎦仅与时间差τ有关,而与起点t 无关,则称()X t 和()Y t 是联合平稳随机过程;即,(,)()()()XY XY R t t E X t Y t R τττ⎡⎤-=-=⎣⎦ (,)()()()YX YX R t t E Y t X t R τττ⎡⎤-=-=⎣⎦当然,当两个平稳过程联合平稳时,其和也是平稳过程;2.相关函数的性质:①(0)0X R ≥;②()()X X R R ττ≥,对于实平稳过程,()X R τ是偶函数;③()(0)X X R R τ≤④非负定;⑤若()X t 是周期的,则相关函数()X R τ也是周期的,且周期相同;⑥如果()X t 是不含周期分量的非周期过程,()X t 与()X t τ+相互独立,则||()lim X X X R m m ττ→∞=;联合平稳过程()X t 和()Y t 的互相关函数,()(0)(0)XY X Y R R R τ≤,()(0)(0)YX X Y R R R τ≤;()()XY YX R R ττ-=;()X t 和()Y t 是实联合平稳过程时,则,()()XY YX R R ττ-=;三.随机分析 略四.平稳过程的各态历经性 1.时间均值1()..()2TTT X t l i mX t dt T-→∞=⎰时间相关函数1()()..()()2TTT X t X t l i mX t X t dt Tττ-→∞-=-⎰2.如果()[()]()X X t E X t m t ==以概率1成立,则称均方连续的平稳过程的均值有各态历经性;如果()()[()()]()X X t X t E X t X t R τττ-=-= 以概率1成立,则称均方连续的平稳过程的相关函数有各态历经性;如果均方连续的平稳过程的均值和相关函数都有各态历经性,则称该平稳过程是各态历经的或遍历的;一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的;另一方面也表明[()]E X t 与[()()]E X t X t τ-必定与t 无关,即各态历经过程必是平稳过程;3.讨论平稳过程的历经性,就是讨论能否在较宽松的条件下,用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征,即用时间平均代替统计平均; 只在一定条件下的平稳过程,才具有各态历经性;4.均值各态历经性定理:均方连续的平稳过程的均值具有各态历经的充要条件是5.相关函数各态历经性定理:均方连续的平稳过程的相关函数具有各态历经的充要条件是第七章 平稳过程的谱分析 一.平稳过程的谱密度 推导过程:随机过程{}(),X t t -∞<<∞为均方连续过程,作截尾处理(),()0,T X t t TX t t T ⎧≤⎪=⎨>⎪⎩,由于()T X t 均方可积,所以存在FT,得(,)()()Tj tj t T TF T X t edt X t e dt ωωω∞---∞-==⎰⎰,利用paserval 定理及IFT 定义得2221()()(,)2TT TX t dt X t dt F T d ωωπ∞∞-∞--∞==⎰⎰⎰该式两边都是随机变量,取平均值,这时不仅要对时间区间[,]T T -取,还要取概率意义下的统计平均,即 定义221()2lim TTT E X t dt Tψ-→∞⎡⎤=⎢⎥⎣⎦⎰为{}(),X t t -∞<<∞平均功率;21()(,)2limX T s E F T T ωω→∞⎡⎤=⎣⎦为{}(),X t t -∞<<∞功率谱密度,简称谱密度; 可以推出当{}(),X t t -∞<<∞是均方连续平稳过程时,有 21()2X s d ψωωπ∞-∞=⎰说明平稳过程的平均功率等于过程的均方值,或等于谱密度在频域上的积分;2.平稳过程的谱密度和相关函数构成FT 对;若平稳随机序列{},0,1,2,n X n =±±,则其谱密度和相关函数构成FT 对二.谱密度的性质1.①()X s ω是()X R τ的FT;()()j X X s R e d ωτωττ∞--∞=⎰如果{}(),X t t -∞<<∞是均方连续的实平稳过程,有()()X X R R ττ=-,()X s ω是也实的非负偶函数,则②()X s ω是ω的有理分式,分母无实根;2.谱密度的物理含义,()X s ω是一个频率函数,从频率域来描绘()X t 统计规律的数字特征,而()X t 是各种频率简谐波的叠加,()X s ω就反映了各种频率成分所具有的能量大小;3.计算 可以按照定义计算,也可以利用常用的变换对()1t δ↔ 12()πδω↔ 2220a ae a a τω-↔>+22τω↔-00()()j X X R e s ωττωω⋅↔- ()()j T X X R T s e ωτω+↔⋅001,sin 0,ωωωτωωπτ⎧<⎪↔⎨≥⎪⎩等 三.窄带过程及白噪声过程的功率谱密度1.窄带随机过程:随机过程的谱密度限制在很窄的一段频率范围内;2.白噪声过程:设{}(),X t t -∞<<∞为实值平稳过程,若它的均值为零,且谱密度在所有的频率范围内为非零的常数,即0()X s N ω=,则称{}(),X t t -∞<<∞为白噪声过程; 是平稳过程;其相关函数为0()()X R N τδτ=;表明在任意两个时刻1t 和2t ,1()X t 和2()X t 不相关,即白噪声随时间的变换起伏极快,而过程的功率谱极宽,对不同输入频率的信号都有可能产生干扰;四.联合平稳过程的互谱密度互谱密度没有明确的物理意义,引入它主要是为了能在频率域上描述两个平稳过程的相关性;1.互谱密度与互相关函数成FT对关系 2.性质()()XY XY s s ωω= ()XY s ω的实部是ω的偶函数,虚部是ω的奇函数,()YX s ω也是; 2()()()XY X Y s s s ωωω≤;若()X t 和()Y t 相互正交,有()0XY R τ=,则()()0XY YX s s ωω== ;五.平稳过程通过线性系统1.系统的频率响应函数()H ω也可以写成()H j ω一般是一个复值函数,是系统单位脉冲响应的FT;2.系统输入()X t 为实平稳随机过程,则输出()Y t 也是实平稳随机过程;即输出过程的均值为常数,相关函数是时间差的函数;且有()()()()()()Y XY X R R h R h h ττττττ=*-=**-说明输出过程的相关函数可以通过两次卷积产生;()()()XY X R R h τττ=*的应用:给系统一个白噪声过程()X t ,可以从实测的互相关资料估计线性系统的未知脉冲响应;因为0()()X R N τδτ=,00()()()()()()XY X R R h N u h u du N h τττδττ∞-∞=*=-=⎰,从而3.输入输出谱密度之间的关系 2()()()Y X s H s ωωω=2()()()H H H ωωω=称为系统的频率增益因子或频率传输函数;有时,采用时域卷积的方法计算输出的相关函数比较烦琐,可以先计算输出过程的谱密度,然后反FT 计算出相关函数;2()()()()()X Y X Y R s H s R τωωωτ→=→另外()()()XY X R R h τττ=*,所以()()()XY X s H s ωωω= ,()()()YX X s H s ωωω= 补充:排队轮平均间隔时间=总时间/到达顾客总数 平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间 平均服务率=顾客总数/服务时间总和一.当顾客到达符合泊松过程时,顾客相继到达的间隔时间T 必服从负指数分布;对于泊松分布,λ表示单位时间平均到达的顾客数,所以1λ表示顾客相继到达的平均间隔时间;服务时间符合负指数分布时,设它的概率密度函数和分布函数分别为()(){}[]1tttt t tf t e F t P T t e dt d e e μμμμμμ----==≤==-=-⎰⎰ 其中μ表示单位时间能够服务完的顾客数,为服务率;而1μ表示一个顾客的平均服务时间; 二.排队模型的求解把系统中的顾客数称为系统的状态;若系统中有n 个顾客,则称系统的状态是n ;瞬态和稳态:考虑在t 时刻系统的状态为n 的概率,它是随时刻t 而变化的,用()n P t 表示,称为系统的瞬态;求瞬态解是很不容易的,求出也很难利用;因此我们常用稳态概率n P ,表示系统中有n 个顾客的概率; 各运行指标:1队长:把系统中的顾客数称为队长,它的期望值记作s L ,也叫平均队长,即系统中的平均顾客数;而把系统中排队等待服务的顾客数称为排队长队列长,它的期望值记作q L ,也叫平均排队长,即系统中的排队的平均顾客数; 显然有 队长=排队长+正被服务的顾客数;2逗留时间:一个顾客从到达排队系统到服务完毕离去的总停留时间称为逗留时间,它的期望值记作s W ;一个顾客在系统中排队等待的时间称为等待时间,它的期望值记作q W ;逗留时间=等待时间+服务时间;3忙期:从顾客到达空闲服务机构起,到服务台再次变为空闲为止; 4顾客损失率:由于服务能力不足而造成顾客损失的比率;5服务强度服务机构利用率:指服务设备工作时间占总时间的比例; 三.几种典型的排队模型1.//1//M M ∞∞:单服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,λρμ=服务强度; 状态转移图 , 稳态概率方程 得 系统中无顾客的01P ρ=- 系统中有n 个顾客的概率0(1)n n n P P ρρρ=-=且必有s q L L uλ=+qq L W λ=1s q W W μ=+2.//1//M M N ∞:单服务台,系统容量为N 说明若到了系统最大容量,顾客将不能进入系统,顾客源无限;λ到达率,μ服务率,λρμ=服务强度;☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆状态转移图 , 稳态概率方程 得 系统中无顾客的0111N P ρρ+-=- 系统中有n 个顾客的概率0n n P P ρ= 3.//1//M M m ∞:单服务台,系统容量无限,顾客源m;λ到达率,μ服务率;状态转移图 , 稳态概率方程 得 系统中无顾☆客的001!()!()mii P m m i λμ==-∑系统中有n 个顾客的概率0!()()!n n m P P m n λμ=-1n m ≤≤0(1)s L m P μλ=--;00()(1)(1)q s P L m L P λμλ+-=-=--01(1)s m W P μλ=--1q s W W μ=-4. ////M M c ∞∞:多服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,c λρμ=服务强度; 状态转移图 , 稳态概率方程 得☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆系统中无顾客的110011!!1k c c k P k c λλμμρ--=⎡⎤⎛⎫⎛⎫=+⎢⎥ ⎪ ⎪-⎝⎭⎝⎭⎢⎥⎣⎦∑系统中有n 个顾客的概率001()!1()!nn n n c P n c n P P n c c cλμλμ-⎧≤⎪⎪=⎨⎪>⎪⎩。
均值定理六个公式的推导
均值定理六个公式的推导
拉普拉斯均值定理(Laplace Mean Value Theorem)是一个非常重要的数学定理,它宣称如果函数f(x)在定义域上是可导函数,那么就会存在一个值c,使得:
f '( c ) = f (b) - f (a) /b - a
,其中[a,b]是函数f的定义域,而f '(c)是这个函数的倒数。
这一定理可以通过六个公式来推导:
1.拉普拉斯定理的第一个公式是:
f ( a )+ f ( b )= f ( c )+ f '( c )( b - a )
2. 拉普拉斯定理的第二个公式是:
f'( c )= [f ( b )- f ( a )]/( b - a )
3. 拉普拉斯定理的第三个公式是:
f ( b )- f ( a )= f '( c )( b- a )
4. 拉普拉斯定理的第四个公式是:
f ( a )+ f ( c )= f ( b )+ f '( c )( a - c )
5. 拉普拉斯定理的第五个公式是:
f'( c )= [f ( a )- f ( c )]/( a - c )
6. 拉普拉斯定理的第六个公式是:
f ( c )- f ( a )= f '( c )( c - a )
综上所述,拉普拉斯均值定理的六个公式可以帮助我们找到函数f的定义域中
满足特定条件的点c。
它能够快速准确地找出函数f关于变量x的极值,以有效地
计算函数的定义域上的取值。
也就是说,拉普拉斯均值定理提供了一种寻找函数f
的最小和最大值的有效方法。
随机过程关于平稳过程中的各态历经性的综述
关于平稳过程中的各态历经性的综述首先要介绍一下什么就是平稳过程,平稳过程就是一类统计特性不随时间推移而变化的过程。
在实际中,有相当多的随机过程,不仅它现在的状态,而且它过去的状态,都对未来状态的发生有着很强的影响。
有这样重要的一类随机过程,即所谓平稳随机过程,它的特点就是:过程的统计特性不随时间的推移而变化。
严格地说,如果对于任意的n(=1,2…),12,,t t t T ∈n …,与任意实数h,当12,,n t h t h t h T +++∈…,时,n 维随机变量(X(1t ),X(2t ),…,X(t n ))与 (X(1t h +),X(2t h +),…,X(n t h +))具有相同的分布函数,则称随机过程{}X ∈(t ),t T 具有平稳性,并同时称此过程为平稳随机过程,或简称平稳过程。
在实际工作中,确定随机过程的均值函数与相关函数就是很重要的。
而要确定随机过程的数字特征一般来说需要知道过程的一﹑二维分布,这在实际问题中往往不易办到,因为这时要求对一个过程进行大量重复的实验,以便得到很多的样本函数。
但就是由于平稳过程的统计特性不随时间的推移而变化,就会提出这样一个问题:能否从一个时间范围内观察到的样本函数或一个样本函数在某些时刻的取值来提取过程的数字特征呢?所谓各态历经,就是指可以从过程的一个样本函数中获得它的各种统计特性;具有这一特性的随机过程称为具有各态历经性的随机过程,只要有一个样本函数就可以表示出它的数字特征。
定义 设X(t)就是均方连续平稳随机过程,如果它沿整个时间上的平均值即时间平均值〈X(t)〉存在,即〈X(t)〉=1lim ()2T TT X t dt T -→∞⎰ 存在,而且〈X(t)〉=E{X(t)}=X μ依概率1相等。
即〈X(t)〉依概率1等于X μ= E {X(t)}, X μ代表随机过程的集平均(或称统计平均),则称该过程的均值具有各态历经性。
定义 设X(t)就是一均方连续平稳随机过程,且对于固定的τ,()Xt X t τ(+)也就是连续平稳随机过程,〈()X t X t τ(+)〉 代表()Xt X t τ(+)沿整个时间轴的平均值,即()X t X t τ(+)=1lim (+)()2TT T X t X t dt T τ-→∞⎰ 若〈()Xt X t τ(+)〉存在,称〈()X t X t τ(+)〉为X(τ)的时间相关函数。
05 时间平均和各态历经性 1005
族样本进行的均值估计。 取集平均的方法需要的工作量大, 处理方法复杂,在实际中不便操作。
2、时间平均的概念
由于我们观测的是随机过程,与时
间有关,于是希望根据对单独一个 样本函数进行较长时间的观测,来 确定平稳随机过程的均值。这就是 所谓的时间平均。
时间平均的数学定义
设x(t)是随机过程X(t)的一个样本函
(2)rX ( ) e
(3) when (3) when
2 | |
e
2
sin sin , rY ( ) 0
0, rY (0) 1, , rY ( ) 0,
第五讲:时间平均和各态历经性
主讲人:张有光 电 话:82314978 办公室:新主楼F806
定理说明
令:Y (t ) X (t ) X (t ) 则:
2 R ( ) E X (t ) X (t ) E Y (t ) mY 2 X 2 2
B( 1 ) E X (t 1 ) X (t 1 ) X (t ) X (t ) E X (t 1 ) X (t 1 ) X (t ) X (t ) E Y (t 1 )Y (t ) RY ( 1 )
加权平均
2 令Rx ( ) mx
1 T
2T
0
(1
2T
) d 1
1 ,则 1 1 2T 1 1 2T 1 (1 ) d ( 0 0 1 ( )T )d T 2T 1 T 1 2 1 1 1 T ln(1 2T ) ln(1 2T ) 0 2 T T 2T
各态历经性
1 T 2 lim a cos(t ) cos[ ( t ) ]dt T 2T T a2 cos . 2
由于
X E[ X ( t )] X ( t ) ,
RX ( ) E[ X ( t ) X ( t )] X ( t )ຫໍສະໝຸດ X ( t ) .T
D[ X (t ) ] E{[ X (t ) X ]2 }
2 1 T 2 lim E X ( t )dt X T T 2 T
1 T T 2 lim E [ X ( t ) X ( t )] d t d t 1 2 1 2 X 2 T 4T T T
1 RX ( 2 ) d 1d 2 2
RX ( 2 )是 2的偶函数, 且与 1无关.
G
o
1
( 2T ,0)
1 RX ( 2 ) d 1d 2 T T RX (t2 t1 )dt1dt2 4 2 G
T T
2 d 2
0
2T
2T
2
得N 个函数值 xk x( tk ) , k 1 , 2 ,, N . 1 T 积分 X ˆ X x ( t )dt 可近似表示为基本区间 T 0 Δt 上的和, 则有无偏估计
1 N 1 N ˆ X x k t x k . T k 1 N k 1
1 T E{ X ( t ) } E lim X ( t ) d t . T 2T T
交换运算顺序, 并且 E[ X ( t )] X ,
得 E { X ( t ) } E { lim
<X(t)>的方差
E[ X ( t )]dt X . T T
随机过程各态历经性的检验1实用资料
随机过程各态历经性的检验1实用资料(可以直接使用,可编辑优秀版资料,欢迎下载)随机过程各态历经性的检验[随机过程作业]随机过程的均值函数和相关函数是很重要的。
确定随机过程X(t)的数字特征,就需要预先确定X(t)一族样本函数或一维、二维分布函数,但这实际上是不易办到的。
所谓各态历经,是指可以从过程的一个样本函数中获得它的各种统计特性;具有这一特性的随机过程称为具有各态历经性的随机过程。
基本概念及原理:设是平稳过程●如果下列均方极限存在:则称<X(t)>为在(-∞,+∞)上的时间平均。
●如果对于固定τ,下列均方极限存在:则称<X(t)X(t+τ)> 为在(-∞,+∞)上的时间相关函数。
◆如果以概率1成立<X(t)> = mx则称的均值具有各态历经性。
◆如果对于任意的实数τ,以概率1成立<X(t)X(t+τ)> = R(τ)x则称的相关函数具有各态历经性。
◆如果的均值和相关函数都具有各态历经性,则称具有各态历经性,或称为各态历经过程。
这里,我们使用类似于处理随机变量的方法,通过统计实验,对一个过程进行大量重复的实验,以便得到很多的样本函数,由所取得的数据,求出这些数字特征的统计平均(集合平均)。
然后随便选一条样本函数,计算出这条样本函数的时间平均。
最后比较统计平均和时间平均来检验平稳随机过程的各态历经性。
检验步骤:1.求统计平均:对平稳随机过程进行n次随机实验,得到n个样本函数x 1(t),x2(t), (x)n(t)。
对固定的t,其均值函数:;对固定的τ,其相关函数:。
为了精确,n需要取相当大。
2.求时间平均:假设平稳随机过程的一个样本函数为,在[0,T]上对它进行采样,当T和N充分大,且T/N充分小时,该过程的时间平均近似等于样本函数x(t)在采样点上的函数值的算术平均值,即。
考虑,其中r固定,r=0,1,2,…,m,当T和N-r充分大,且T/N充分小时,该过程的相关函数可近似表示为。
均值定理解集
均值定理解集(原创实用版)目录1.均值定理的概述2.均值定理的理解3.均值定理的应用正文【均值定理的概述】均值定理是数学中一种重要的定理,主要用于解决数学中的平均值问题。
均值定理指出,对于任意一组数据,其算术平均值一定大于等于几何平均值。
均值定理在实际生活和数学研究中都有着广泛的应用。
【均值定理的理解】均值定理的数学表达式为:对于任意一组非负实数 x1, x2,..., xn,其算术平均值(也就是所有数的和除以数的个数)大于等于几何平均值(也就是所有数的乘积的 n 次方根)。
数学表达式可以写成:(x1 + x2 +...+ xn) / n >= (x1 * x2 *...* xn)^(1/n)。
这个定理的含义是,如果我们有一组数据,那么这组数据的平均值一定大于等于这组数据的几何平均值。
这个定理在实际生活中的应用非常广泛,比如在计算投资回报率时,我们通常会使用几何平均值来计算,这是因为几何平均值能够更好地反映投资的真实情况。
【均值定理的应用】均值定理在实际生活中的应用非常广泛,下面我们通过一个例子来说明均值定理的应用。
假设我们有一组数据:2, 4, 6, 8, 10。
这组数据的算术平均值是(2+4+6+8+10)/ 5 = 6,几何平均值是 (2*4*6*8*10)^(1/5) = 4.89。
可以看出,这组数据的算术平均值大于几何平均值,符合均值定理。
如果我们将这组数据中的每一个数都乘以 2,得到新的数据:4, 8, 12, 16, 20。
这组数据的算术平均值是(4+8+12+16+20)/ 5 = 12,几何平均值是 (4*8*12*16*20)^(1/5) = 9.93。
可以看出,这组数据的算术平均值仍然大于几何平均值,符合均值定理。
通过这个例子,我们可以看出均值定理在实际生活中的应用。
5各态历经性
本节就讨论这种方法的理论依据。
在什么意义下,具有怎样的可靠性?
由于所采用极限(收敛)的标准不同得到的遍历性 定理也不同,关于平稳过程的遍历性主要有两类: (1)对强平稳过程在几乎处处收敛的意义下的遍历性 定理; (2)对弱平稳过程在均方收敛的意义下的遍历性定理;
一、 平稳过程遍历性的定义:
首先引入平稳过程{X(t),-<t<+}沿整个时间轴上 的两种时间平均: 设{X(t)}为均方连续的平稳过程,且对固定的, X(t)X(t+)也是均方连续的平稳过程 时间均值:
其中B( 1 ) E[ X (t ) X (t ) X (t 1 ) X (t 1 )]
令=0,即得均值遍历性定理。 在实际问题中,通常只考虑定义在0≤t<+∞上的 平稳过程,此时上两定理所有时间平均应以0≤t<+∞上 的平均代替,相应的各态历经性如下:
1.{X(t)}关于均值具有遍历性
解:已证此过程为平稳过程。
1 X ( t ) lim T 2T
T
T
a cos( t )dt
a cos sin T lim 0 T T
1 X ( t ) X ( t ) lim T 2T
T
T
a 2 cos( t ) cos[ ( t ) ]dt
2
及其谱表示。 设上极限存在,作一截尾函数
1 lim T 2T
T
T
x 2 ( t )dt
x( t ) | t | T xT | t | T 0
那么xT(t)满足傅里叶变换条件,于是有
Fx ( , T ) xT (t )e
2-2-平稳随机过程和各态历经过程
2.2 平稳随机过程和各态历经过程
A2 2
cosc
14
例题
比较统计平均(例1)与时间平均,得
mX= mX
R(τ)= R( )
因此,随机相位余弦波是各态历经过程。
15
2、应用
一般随机过程的时间平均是随机变量,但各态历经过程 的时间平均为确定量,因此可用任一样本函数不可能无限长, 只要足够长即可。
A
2
[cosct
2
0
cosd
sin ct
2
0
sind ] 0(常数)
8
例题
X(t)的自相关函数为
R(t1, t2 ) E[ X (t1) X (t2 )]
E[ A cos(ct1 ) A cos(ct2 )]
A2 2
E cosc (t2
t1) cos[c (t2
t1) 2 ]
2 X
mX2
此值在[-1,1]之间。rX ( ) 0 表示不相关,rX ( ) 1 表
示完全相关。rX ( ) 0 表示正相关,表明两个不同时刻起
伏值(随机变量与均值之差)之间符号相同可能性大。
27
相关时间
当相关系数中的时间间隔大于某个值,可以认为两个不同 时刻起伏值不相关了,这个时间就称为相关时间。
22
⑵ R(τ) =R(-τ) [R(τ)是偶函数]
证明:
R( ) E[X (t)X (t )],令t ' t ,即t t '
各态历经性与随机实验
随机信号分析第4章各态历经性与随机实验本章讨论:由实际样本数据探测信号的统计特性。
其理论基础是信号的各态历经性理论。
目录4.1 各态历经性ξ2. 均值各态历经的数学模型从数学上,均值各态历经性就是统计平均等于样本函数的时间平均的特性,即[](,)[(,)]E X t A X t ξξ=则必须满足下列条件:(1)统计平均要与t 无关,变为常数。
即随机信号X(t)是均值平稳的;(2) 对于各个样本的样本(时间)平均要与无关,是确定量。
[](,)E X t ξ[(,)]A X t ξξξ任何一个样本函数都无法遍历信号的各种状态。
每条样本函数都经历了随机信号的各种状态,任何一个样本都能充分地代表r.s.的统计特性。
零均值平稳()()n R q τδτ=tt τ+ξ5ξ6ξ1ξ3ξ4ξ2ξ1t 1t τ+2t τ+2t 3t τ+3t从数学上,相关各态历经性就是统计相关函数等于样本时间相关函数的特性,即[)()][)()]E X X t A X X t ττξξ(t+=(t+,,ξ则必须满足下列条件:(1)统计相关函数要与t 无关,仅与有关。
即X(t)的相关函数是平稳的;(2)对于各个样本的样本时间相关函数[]()()E X t X t τ+τ2. 数学模型ξ要与无关,仅与有关。
只有这样,式两边才为常数,并有可能相等。
[](,)(,)A X t X t τξξ+τ☆广义各态历经性定义:若r.s.X(t)同时满足均值各态历经、相关各态历经,且为广义平稳,则X(t)具有广义各态历经性。
性质:广义各态历经过程必为广义平稳,而广义平稳过程不一定为广义各态历经过程。
定义:r.s.X(t)、Y(t)均为各态历经过程,且它们的时间互相关函数等于统计互相关函数,即有:则称它们为联合各态历经过程。
☆联合各态历经性[][]()()()()A X t Y t E X t Y t ττ+=+A1L。
随机过程关于平稳过程中的各态历经性的综述
关于平稳过程中的各态历经性的综述首先要介绍一下什么是平稳过程,平稳过程是一类统计特性不随时间推移而变化的过程。
在实际中,有相当多的随机过程,不仅它现在的状态,而且它过去的状态,都对未来状态的发生有着很强的影响。
有这样重要的一类随机过程,即所谓平稳随机过程,它的特点是:过程的统计特性不随时间的推移而变化。
严格地说,如果对于任意的n (=1,2…),12,,t t t T ∈n …,和任意实数h,当12,,n t h t h t h T+++∈…,时,n 维随机变量(X(1t ),X(2t ),…,X(t n ))和 (X (1t h +),X (2t h +),…,X (n t h +)) 具有相同的分布函数,则称随机过程{}X ∈(t ),t T 具有平稳性,并同时称此过程为平稳随机过程,或简称平稳过程。
在实际工作中,确定随机过程的均值函数和相关函数是很重要的。
而要确定随机过程的数字特征一般来说需要知道过程的一﹑二维分布,这在实际问题中往往不易办到,因为这时要求对一个过程进行大量重复的实验,以便得到很多的样本函数。
但是由于平稳过程的统计特性不随时间的推移而变化,就会提出这样一个问题:能否从一个时间范围内观察到的样本函数或一个样本函数在某些时刻的取值来提取过程的数字特征呢?所谓各态历经,是指可以从过程的一个样本函数中获得它的各种统计特性;具有这一特性的随机过程称为具有各态历经性的随机过程,只要有一个样本函数就可以表示出它的数字特征。
定义 设X (t )是均方连续平稳随机过程,如果它沿整个时间上的平均值即时间平均值〈X (t )〉存在,即〈X (t )〉=1lim()2T TT X t dtT-→∞⎰存在,而且〈X (t )〉=E {X (t )}=X μ依概率1相等。
即〈X (t )〉依概率1等于X μ= E {X (t )}, X μ代表随机过程的集平均(或称统计平均),则称该过程的均值具有各态历经性。
第042_17讲随机过程的各态历经性
T T →∞ 0
T T →∞ 0
∫ ∫ lim 1 T s(t +τ )n(t)dt + lim 1 T n(t +τ )s(t)dt
T T →∞ 0
T T →∞ 0
= Rss (τ ) + Rnn (τ ) + Rsn (τ ) + Rns (τ )
= Rss (τ ) + Rnn (τ )
上式计算中,利用了信号和噪声的各态历经特性,它们的时间相关函数等于统计相 关函数;信号和噪声是统计独立的它们的均值为零因此他们的互相关函数为零。 进一步考虑到,周期性随机信号的相关函数具有周期性,噪声的相关函数不具有周
定义,自相关各态历经性,
设,ξ (t) 是均方连续平稳的随机过程,且对于固定的τ ,ξ (t + τ )ξ (t) 也是均方连续平
稳的随机过程, ξ (t + τ )ξ (t) 代表ξ (t + τ )ξ (t) 沿时间的平均值,即
∫ ξ (t +τ )ξ (t)
= lim
1
T
ξ (t + τ )ξ (t)dt
1 2
Cξ ξ
(v)dudv⎫⎪⎬ ⎪⎭
∫ ( ) =
⎧1 lim ⎨ T →∞ ⎩ 4T
2
2T −2T
2T − v
⎫ Cξξ (v)dv⎬
⎭
∫ =
lim
⎧⎪ ⎨
1
T →∞ ⎪⎩ 2T
2T −2T
⎛ ⎜1− ⎝
v 2T
⎞ ⎟ Cξ ξ ⎠
(v)dv⎫⎪⎬ ⎪⎭
∫ =
lim
⎧⎪ ⎨
1
T →∞ ⎪⎩ 2T
{ } z(t,τ )
12-2各态历经性
且记 ∆t i = t i − t i −1 , t i −1 ≤ τ i ≤ t i , i = 1,2,L, n,
如果有满足
max ∆t i → 0
lim E {[Y − ∑ X (τ i )∆t i ]2 } = 0
i =1
n
存在, 的随机变量 Y 存在 我们就称 Y 为[a,b]上的均方积 上的均方积 分.
1 T ˆ 则有下以无偏估计式: 则有下以无偏估计式 µ X ≈ µ X = ∫0 x ( t )dt T 1 T −τ ˆ RX (τ ) ≈ RX (τ ) = ∫0 x(t ) x(t + τ )dt T −τ
1 = T −τ
∫τ
T
x ( t ) x ( t − τ )dt ,
0 ≤ τ < T.
各态历经性
一、随机过程积分的概念 二、各态历经性的概念 各态历经性的概念 三、各态历经性的条件 各态历经性的条件 四、小结
一、随机过程积分的概念
1. 积分
给定二阶矩过程{ X ( t ), t ∈ T }, 如果它的每一
个样本函数在 [a , b] ⊂ T上的积分都存在 , 我们就
称随机过程 X ( t )在[a , b]上的积分存在 , 记为
二、各态历经性的概念
设X (t )是一平稳过程
(1) 如果 < X ( t ) >= E[ X ( t )] = µ X 以概率1成立,
3.3各态历经
2T
1 2T
[
0
2T
C X (u )(1
u 2T
) du
2T
0
C X (u )(1
u 2T
)du ]
u u
u u
2T
1
2T
2T
(1
u 2T
)C X (u )du
1 2T
2T
1
2T
2T
(1
2T
)C X ( )d
D [ X ( t ) ] lim
又 0 1 2T
2T 2T
(1
2T
) C X ( ) d
现限制:T
1 2T
T1 2
2T 2T
(1
2T
) C X ( ) d
1 2T 1 2T 1 2T
2T 2T
C X ( ) d C X ( ) d 1 2T
, 即2T T1
a T
T
(cos t cos sin t sin ) dt
T
l.i.m
T
cos cos tdt
0
T
lim E
a cos sin T
2
T
0
l.i.m
T
a cos sin T
T
0
由定义 X (t )X (t ) l.i.m
lim 2 T
T
T 0
(1
T
) C X ( ) d 0
3. 设{X(t), -∞<t<+ ∞}是平稳过程,如果
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
庄伯金 bjzhuang@
遍历性
T 1 定理: lim X (t ) X (t + t )dt = E[ X (t ) X (t + t )] = RX (t ) ò T T 0
以概率1成立的充要条件是
t 1 ÷轾 1 T骣 2 ç lim ò ç1- ÷ B ( t ) R dt 1 = 0 1 X (t ) ? 犏 麟 ç T T 0 桫 T
Y=
ò
b
注: Y 也是随机变量。
a
X (t )dt
庄伯金 bjzhuang@
12
随机过程的积分
定义(均方积分):考虑 [a, b]内的一组分点:
a = t0 < t1 < ... < tn- 1 < tn = b
D ti = ti - ti- 1 , ti- 1 < t i < ti , i = 1,..., n 记 若存在随机变量 Y ,满足
则称 Y 为 X (t ) 在区间 [a, b] 上的均方积分,仍记为
max D ti ? 0
lim E{[Y -
å
2 X ( t ) D t ] i i }= 0 i= 1
n
Y=
ò
b
a
X (t )dt
庄伯金 bjzhuang@
13
随机过程的积分
定理:二阶矩过程 X (t ) 在 [a, b] 上均方积分存在的充要条件 是自相关函数的二重积分
B(t 1 ) = E[ X (t ) X (t + t ) X (t + t 1 ) X (t + t 1 + t )]
庄伯金 bjzhuang@
19
遍历性
若随机过程 { X (t ), t Î T } ,参数集 T = [0, ? ) ,则时间平均可 定义为: 1 T
X (t ) = lim
则
ì 1/ T ï ï f (q) = í ï ï î 0
T
0< q< T others
庄伯金 bjzhuang@
1 1 T E[ X (t )] = E[s(t + Q)] = ò s (t + q) d q = ò s (j )d j 0 T T 0 RX (t, t + t ) = E(s(t + Q)s(t + t + Q)) T 1 1 T = ò s (t + q) s (t + t + q) dq = ò s (j ) s (t + j )dj 0 T T 0
概率论与随机过程
第14章 平稳随机过程
庄伯金 bjzhuang@
1
主要内容
平稳随机过程的概念 遍历性 相关函数 平稳随机过程的功率谱密度
庄伯金 bjzhuang@
2
平稳随机过程的概念
定义:设随机过程 { X (t ), t Î T },若对任意 n 和 h ,时刻满足
N k= 1 N
xk (t1 ) xk (t1 ) xk (t2 )
k= 1
庄伯金 bjzhuang@
11
随机过程的积分
定义:给定二阶矩过程 { X (t ), t Î T },若它的每个样本函数在 时间区间 [a, b] Ì T 上的积分都存在。则称此随机过程在时间 区间 [a, b] 的积分存在,并记为
遍历性定义表明若过程具有遍历性,可用一次试验样本曲线的 时间平均计算随机过程的均值和相关性函数。
庄伯金 bjzhuang@
21
遍历性
设一次随机试验记录了 [0, T ] 上的试验结果 x(t ) ,假设平稳过 程满足遍历性条件,试估算平稳过程的均值函数和自相关函数 。 解:由遍历性的定义,可知随机过程的均值函数与自相关函数 的无偏估计为: 1 T )
庄伯金 bjzhuang@
8
平稳过程的例
例:设 {X k , k = 1, 2,...} 是互不相关的随机序列,且满足:
E( X k ) = 0, E( X k2 ) = s 2
证明该随机序列是宽平稳随机序列。 证明:由题
2 ì ï s RX (k , l ) = E( X k El ) = ï í ï ï î 0
T
定理:
1 T X (t ) X (t + t ) = lim ò X (t ) X (t + t )dt T T 0 1 T lim ò X (t )dt = E[ X (t )] = mX T T 0
Tò
0
X (t )dt
以概率1成立的充要条件是
1 T骣 t ÷轾 2 ç lim ò ç1- ÷ R ( t ) m dt = 0 X X 犏 臌 ÷ T 桫 T T 0 ç
蝌
a
b
b a
RX (s, t )dsdt
存在。且可得 X (t ) 均方积分的均值等于过程的均值函数的积 b 分,即有
E(Y ) =
ò
a
E[ X (t )]dt
庄伯金 bjzhuang@
14
随机过程的时间平均
定义:设随机过程 { X (t ), t Î T },记
1 X (t ) = lim T 2T
态历经性。
庄伯金 bjzhuang@
18
遍历性
定理(自相关函数各态历经定理):平稳过程 X (t ) 的自相关
函数 RX (t )具有各态历经性的充要条件是:
其中
t 1 ÷轾 1 2T 骣 2 ç lim ò ç1B ( t ) R ( t ) d t = 0 ÷ 1 X 1 犏 ? T 桫 2T 麟 T 0 ç
庄伯金 bjzhuang@ 7
宽平稳过程
定义:若两个平稳过程 X (t ) 和Y (t ) ,其互相关函数 RXY (t1 , t2 ) 只与时间差 t = t2 - t1 有关,则称 X (t ) 和Y (t ) 是平稳相关的, 或称两个过程是联合(宽)平稳的。 注:泊松过程和维纳过程都是非平稳过程,但增量具有平稳性 。
ò
T
- T
X (t ) dt
为随机过程的时间均值。 记
1 X (t ) X (t + t ) = lim T 2T
ò
T
- T
X (t ) X (t + t )dt
为随机过程的时间相关函数。
庄伯金 bjzhuang@
15
随机过程的时间平均
a cos Q sin wT =0 ò- T a cos(wt + Q)dt = Tlim wT 1 T 2 X (t ) X (t + t ) = lim a cos(wt + Q ) cos(w(t + t ) + Q )dt ò T 2T - T a 2 cos wt = 2 可得 X (t ) = mX , X (t ) X (t + t ) = RX (t )
平稳随机过程的性质
性质3:若平稳过程 X (t ) 的自相关函数 RX (t1 , t2 ) 存在,则自 相关函数只与时间差 t = t2 - t1 有关。 证明:由平稳过程的定义,取 n = 2, h = - t1 则有二维随机向量 ( X (t1 ), X (t2 )) 和 ( X (0), X (t )) 同分布。 所以 RX (t1, t2 ) = E[ X (t1 ) X (t2 )]= E[ X (0) X (t )] 记 R (t ) = R (t , t )
t1 ,..., tn ? T , t1
时, n 维随机变量
h,..., tn + h ? T
( X (t1 ),..., X (tn ))
和
( X (t1 + h),..., X (tn + h))
具有相同的分布函数,则称随机过程 { X (t ), t Î T }具有平稳性 ,称此过程为平稳随机过程,简称平稳过程。 若平稳过程的参数集是离散的,则称过程为平稳随机序列或平 稳时间序列。
k= l k¹ l
即
RX (k , l ) = s 2δ(k - l )
所以随机序列为宽平稳的。
庄伯金 bjzhuang@
9
平稳过程的例
例:(随机相位周期过程)设 s (t ) 是周期为 T 的函数,Q 是 在 (0, T ) 上服从均匀分布的随机变量,则称 X (t ) = s(t + Q) 为随机相位周期过程。证明该过程是平稳过程。 证明:由题可知 Q 的概率密度为
X
性质2:平稳过程 X (t ) 的均方值函数和方差函数为常数。 2 2 记 Y2 = E [ X ( t )] s X X = Var[ X (t )] 平稳过程的所有样本曲线在水平直线 x(t ) = mX 上下波动,平 均偏离度为 s X 。
庄伯金 bjzhuang@ 5
庄伯金 bjzhuang@
3
平稳随机过程的概念
平稳随机过程的统计特性不随时间的推移而变化。 一般的,若随机过程的前后环境和主要条件都不随时间的推移 而变化,则可认为该过程为平稳过程。 恒温条件下的热噪声电压过程; 随机相位正弦波;
庄伯金 bjzhuang@
庄伯金 bjzhuang@
17
遍历性
定理(均值各态历经定理):平稳过程 X (t ) 的均值具有各态 历经性的充要条件是
1 2T 骣 t ÷轾 2 ç lim ò ç1R ( t ) m ÷ X X dt = 0 犏 臌 ÷ ç T T 0 桫 2T