第三讲 随机过程
第3章 随机过程
∂F1 ( xBiblioteka , t1 ) = f1 ( x1 , t1 ) ∂x1
则称f 的一维概率密度。 则称 1 (x1,t1)为ξ (t)的一维概率密度。 为 的一维概率密度
二维分布函数： 随机过程ξ (t) 的二维分布函数： F2 ( x1 , x2 ; t1 , t 2 , ) = P{ ξ (t1 ) ≤ x1 ,ξ (t 2 ) ≤ x2 } 随机过程ξ (t)的二维概率密度函数： 的二维概率密度函数：
【例】n台示波器同时观测并记录这n台接收机 台示波器同时观测并记录这 的输出噪声波形
实现， 样本函数ξi (t)：随机过程的一次实现，是确定的 ) 随机过程的一次实现 时间函数。 时间函数。 随机过程： 随机过程：ξ (t) ={ξ1 (t), ξ2 (t), …, ξn (t)} ) ), ), )} 是全部样本函数的集合。 是全部样本函数的集合。
二、分布函数和概率密度
表示一个随机过程， 设ξ (t)表示一个随机过程，则它在任意时刻 1的取ξ (t1) 表示一个随机过程 则它在任意时刻t 是一个随机变量， 是一个随机变量，其统计特性可以用分布函数或概率 密度函数来描述。 密度函数来描述。 随机变量ξ (t1)个于或等于某一数取 1的概率 ： 个于或等于某一数取x 个于或等于某一数取 F1 ( x1 , t1 ) = P[ξ (t1 ) ≤ x1 ] 的一维分布函数。 叫做随机过程ξ (t)的一维分布函数。 的一维分布函数 如果存在
= E[ξ (t1) ⋅ ξ (t 2) − ξ (t1) ⋅ a (t 2) − a (t1) ⋅ ξ (t 2) + a (t1) ⋅ a (t 2)]
= E[ξ (t1) ⋅ ξ (t 2)] − E[ξ (t1)] ⋅ a (t 2) − E[ξ (t 2)] ⋅ a (t1) + a (t1) ⋅ a (t 2)
随机过程
1953年，J.L.杜布的名著《随机过程论》问世，它系统且严格地叙述了随机过程的基本理论。
人们研究这种过程，是因为它是实际随机过程的数学模型，或者是因为它的内在数学意义以及它在概率论领 域之外的应用。
发展概况
1907年前后，Α.Α.马尔可夫研究过一列有特定相依性的随机变量，后人称之为 马尔可夫链。
1923年N.维纳给出了布朗运动的数学定义，这种过程仍是重要的研究对象。虽然如此，随机过程一般理论的 研究通常认为开始于30年代。
谢谢观看
的统计特征
对于随机过程{X (t); t∈T}，其统计特征有均值函数、方差函数、协方差函数和相关函数。它们的定义如 下：
上述统计特征之间的关系为：
的分类
按照统计特征 分类
按照参数集和 状态空间的特 征分类
以统计特征进行分类，一般可分类以下一些：
参数集T可分为两类：（1）T可列；（2）T不可列。 状态空间S也可分为两类：（1）连续状态空间；（2）离散状态空间。 由此将随机过程分为以下四类:
随机过程 整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。这一学科最早源于对物理学的研究，如吉 布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。
的研究
研究方法
研究内容
研究随机过程的方法多种多样，主要可以分为两大类： 一类是概率方法，其中用到轨道性质、停时和随机微分方程等；另一类是分析的方法，其中用到测度 论、 微分方程、半群理论、函数堆和希尔伯特空间等。 实际研究中常常两种方法并用。另外，组合方法和代数方法在某些特殊随机过程的研究中也有一定作用。
随机过程_课件---第三章
随机过程_课件---第三章第三章随机过程3.1 随机过程的基本概念1、随机过程定义3-1 设(),,F P Ω是给定的概率空间，T 为一指标集，对于任意t T ∈，都存在定义在(),,F P Ω上，取值于E 的随机变量()(),X t ωω∈Ω与它相对应，则称依赖于t 的一族随机变量(){},:X t t T ω∈为随机过程，简记(){}tX ω，{}tX 或(){}X t 。
注：随机过程(){,:,}X t t T ωω∈Ω∈是时间参数t 和样本点ω的二元函数，对于给定的时间是()00,,t T X t ω∈是概率空间(),,F P Ω上的随机变量；对于给定样本点()00,,X t ωω∈Ω是定义在T 上的实函数，此时称它为随机过程对应于0ω的一个样本函数，也成为样本轨道或实现。
E 称为随机过程的相空间，也成为状态空间，通常用""t X x =表示t X 处于状态x 。
2、随机过程分类：随机过程t X 按照时间和状态是连续还是离散可以分为四类：连续型随机过程、离散型随机过程、连续随机序列、离散随机序列。
3、有穷维分布函数定义3-2 设随机过程{}t X ，在任意n 个时刻1,,n t t 的取值1,,nt tX X 构成n 维随机向量()1,,n t t XX ，其n 维联合分布函数为：()()11,,11,,,,nnt t nt t nF x x P X x Xx ≤≤其n 维联合密度函数记为()1,,1,,n t tn f x x 。
我们称(){}1,,11,,:1,,,nt t n n Fx x n t t T ≥∈ 为随机过程{}t X 的有穷维分布函数。
3.2 随机过程的数字特征1、数学期望对于任何一个时间t T ∈，随机过程{}t X 的数学期望定义为()()tX t t E X xdF x μ+∞-∞==?()t E X 是时间t 的函数。
2、方差与矩随机过程{}t X 的二阶中心矩22()[(())],tX t t t Var X E X E X t T σ==-∈称为随机过程{}t X 的方差。
第3章 随机过程
A2 cos c 2 比较统计平均与时间平均，有
a a, R( ) R ( )
14
因此，随机相位余弦波是各态历经的。
3.2.3 平稳过程的自相关函数
实平稳过程的自相关函数： R( ) E[ (t ) (t )] 性质：
R(0) E[ 2 (t )]
f 2 ( x1 , x2 ; t1 , t 2 ) f 2 ( x1 , x2 ; )
广义平稳
均值与时间 t 无关: 相关函数仅与 τ有关:
a(t ) a R(t1 , t1 ) R( )
注意：
必 广义平稳 狭义平稳 未必
3.2.2 各态历经性（遍历性）
通信原理
第3章 随机过程
本章内容:
随机过程的基本概念
第3章 随机过程
平稳、高斯、窄带过程的统计特性 正弦波加窄带高斯过程的统§3.1 随机过程的基本概念
随机过程是一类随时间作随机变化的 过程，它不能用确切的时间函数描述。
① 所有样本函数 ② 随机变量
12
例题：
自相关函数：
E[ A cos( c t1 ) A cos( c t 2 )] A2 E{cos c ( t 2 t1 ) cos[ c ( t 2 t1 ) 2 ]} 2 A2 A 2 2 1 cos c ( t 2 t1 ) cos[ ( t t ) 2 ] d c 2 1 0 2 2 2 2 A cos c ( t 2 t1 ) 0 2
erfc( x) 2 erfc( x)
B(t1 , t2 ) R(t1 , t2 ) a(t1 ) a(t 2 )
随机过程(林元烈)第三讲习题参考答案
(2) 定义
T = min{n : n ≥ 0, X n ∈ {0, N }, X 0 = k} , TN = min{n : n ≥ 0, X n = N , X 0 = k} , VN = P(TN < +∞ X 0 = k ) = P( X T = N ) ,
可知 T和TN 是关于 { X n , n ≥ 0} 的停时, 且 PN (k ) = V N . 因为 {e −2 aX n , n ≥ 0} 是鞅, 且 ①因为两边带有吸收壁的有限状态马氏链的中间状态为瞬时 态, 所以 P(T < ∞) = 1 . ② E e −2 aX T ≤ E e 0 = 1 < ∞ ③ lim n →∞ E e −2 aX T ⋅ I{T > n} ≤ lim n →∞ P (T > n) = 0 满足停时定理的条件, 所以 E (e −2 aX T ) = E (e −2 aX 0 ) = e −2 ak ,
N
∑e
k =0
N
− 2 ak
k k π X n (1 − π X n ) N − k CN
= =
∑∑ P( X
i =2 j = 2 3 3
3
(1 − e ) ∑
−2a N k =0
k − 2 ak 1 − e − 2 aX n CN e N
(
N k
) (e
− 2 aX n N
− e −2a
)
N −k
∵ π(2) = (1 9 2 9 2 3)
∴ E ( X 3 X 2 = 1)＝
∑i ⋅ p
i =1
3
DX n = EX n − (EX n ) = 2409 3844
2 2
《随机过程》教程.ppt
无穷大的分类
0, 1 ,2 ,3,……(自然数集合的无限多 为0， 0集合的所有子集构成的集合的 “无限多（势）”为1 ， 1集合的所有 子集构成的集合的势为2 ， ……)，在数 学上已经严格证明： 0, 1 ,2 ,3,等之 间不能建立双射的关系。
对于无穷大，“整体大于部分”的直觉不再成立
对于自然数集 N 1,2,3,4,5,L ，偶数集合
原像集
像集 单射（不同的原
f
像具有不同的像）
f a1 f a2
满射（每一个像都有原像）
原像集
像集
f
b, a, s.t.
b f a
双射（既是单射，又是满射）
原像集
像集
f
从直觉上承认能建立双射关系的两 个集合，其所含元素的“个数”一样多。
可数和不可数的定义
凡是能和自然数集合或者自然数集合的 一个子集建立双射关系的集合称为可数 集合；否则称为不可数集合。 可数和不可数是人类认识“无穷”所产 生的概念，是对无穷的分类。 已经证明连续的区间，和实数集等都是 不可数集合：[1,2],(0.1,0.01),R,等等
事件和Borel集
事件：样本空间中满足一定条件的全体 元素构成子集，“一定条件”有事件的 意义，因此称样本空间的子集为事件。
（举例说明）
不可能事件 必然事件 基本事件：可数和不可数 Borel集：规定了事件的全体及其相容性
概率空间的定义
阅读讲解p.16定义2.1 理解概率空间
概率空间是对随机现象的基本建模方法 概率空间有三个要素：样本空间、Borel事
《随机过程》教程
第三讲 随机对象（一）
本章要义（阅读引言部分）
本章介绍如何对随机现象建立数学模型。
通信原理第3讲随机过程
脉冲噪声的产生与线路的物理性质、传输信号的特性以及周围环 境的干扰有关。
脉冲噪声影响
脉冲噪声会对信号造成干扰，导致数据传输错误，降低通信系统 的可靠性。
数字通信中的码间干扰
1 2 3
码间干扰定义
在数字通信中，由于信号的传输速率较高，前后 码元之间会产生相互干扰，这种现象称为码间干 扰。
意义
相关函数在通信系统中用于描述信号的时域特性和噪 声特性，对于信号的检测和识别具有重要意义。
功率谱密度和相关函数的关系
关系
功率谱密度和相关函数是描述随机信号特性的重要参数，它 们之间存在一定的关系。一般来说，功率谱密度和相关函数 可以互相推导，它们在描述信号的特性和分析通信系统时具 有互补性。
应用
描述随机过程在不同时刻取值之间的 相关性。
谱密度函数
描述随机过程的频率特性。
互相关函数
描述两个随机过程在不同时刻取值之 间的相关性。
交叉谱密度函数
描述两个随机过程的频率特性之间的 关系。
03
随机过程的平稳性和遍历 性
平稳随机过程
01
02
03
定义
如果一个随机过程的统计 特性不随时间的推移而变 化，则称该随机过程为平 稳随机过程。
多径衰落产生原因
无线信号在传播过程中会遇到多种障碍物，如建筑物、树 木等，这些障碍物会反射、折射和散射信号，导致接收端 接收到的信号包含多个路径的成分。
多径衰落影响
多径衰落会导致信号的幅度和相位发生变化，从而影响通 信质量，产生误码率，降低通信系统的性能。
有线通信中的脉冲噪声
脉冲噪声定义
在有线通信中，由于线路中存在阻抗不匹配、电磁干扰等原因， 会在信号中产生突发的脉冲噪声。
第三讲 随机过程的数字特征和特征函数讲解
R X (t1, t2 ) 0，则称
X (t1)和 X (t 2 ) 是不相关的。
X (t1 )和 X (t 2 ) 是相互正交的。
f X ( x1 , x2 , t1 , t 2 ) f X ( x1 , t1 ) f X ( x2 , t 2 )
一般说来时间相隔越远相关性越弱自相关函数的绝对值也越弱当两个时刻重合时其相关性应是最强的所以r中心化自相关函数?自相关系数正交独立不相关充分条件正态随机过程10?若均值与方差总功率存在存在称为二阶矩过程相关理论自相关函数和方差12t1t2例21一个随机过程由四条样本函数构成每条样本函数等概时刻t1t2上各条样本函数的取值给定求13?互相关函数3两个随机过程的相关特性dydx描述两个随机过程任意两个时刻之间的统计关联性t1t214?互协方差函数
1 2 (t ) R X (t , t ) m (t ) A 2
2 X 2 X
11
6
• • • •
t1
例2.1 一个随机过程由四条样本函数构成，每条样本函 数等概，时刻t1，t2上各条样本函数的取值给定，求RX (t1 , t2 )
5
4 3 2 1
• • • •
t2
x1(t) x2(t)
若：
R X (t1, t2 ) E[ X (t1)] E[ X (t2 )] 不相关
•2、反映不同随机过程的波形变化
7
•自协方差函数
C X (t1, t2 ) E{[ X (t1) m X (t1)][X (t2 ) mx (t2 )]} E{ X (t1) X (t2 )} m x (t1)mx (t2 ) 中心化自相 R(t1, t2 ) m x (t1)mx (t2 )
第三讲随机过程的数字特征和特征函数讲解
第三讲随机过程的数字特征和特征函数讲解在概率论和统计学中，随机过程是指一组随机变量的集合，这些随机变量依赖于一个参数（通常是时间）。
随机过程的数字特征和特征函数是描述随机过程的重要概念。
1.数字特征：随机过程的数字特征是对其统计特性的度量，通常用于描述随机过程的平均值、方差、协方差等。
随机过程的数字特征可以通过计算随机变量的数学期望、方差等得到。
2.特征函数：特征函数是随机过程的一种表示方式，它是对随机过程的全面描述。
特征函数是随机变量的复数值函数，它对于每个时间点都定义了一个复数值，用来表示该时间点的随机变量的概率分布。
特征函数可以通过随机变量的概率密度函数计算得到。
特征函数的性质：-对称性：如果随机过程的数字特征对称，那么它的特征函数也对称。
-唯一性：特征函数能够唯一地表示一个随机过程的概率分布。
-独立性：随机过程的特征函数在不同时间点上是相互独立的。
-连续性：特征函数是连续函数，可以通过连续函数逼近定理来证明。
特征函数的应用：-用于推导随机过程的数字特征：通过特征函数可以推导出随机过程的数字特征，例如平均值、方差。
-用于计算随机过程的概率分布：通过特征函数可以计算随机过程的概率分布，例如计算随机过程在其中一时间点的概率。
-用于分析和处理随机过程的相关问题：通过特征函数可以进行随机过程的变换、滤波等操作，从而实现对随机过程的分析和处理。
总之，随机过程的数字特征和特征函数是描述随机过程的重要工具，它们可以用来分析和处理随机过程相关的问题，推导随机过程的数字特征，并计算随机过程的概率分布。
第3讲 随机过程的基本概念、平稳随机过程
第2章 随机过程
（一）统计平均
1.均值 随机过程在任意时刻 t 的取值所组成随机变量ξ(t)的均值 称为随机过程的均值，也称为统计平均或数学期望。即
E[ (t )]
注：t1→t，x1 →x
xf ( x，t )dx
1
记为 a(t )
(2.2.2)
物理意义：均值代表随机过程的摆动中心。 2.均方值 随机变量ξ(t)的二阶原点矩
通信原理
第2章 随机过程
2.数字特征
引言 ●问题：随机过程的分布函数（或概率密度）族能够完善 地刻画随机过程的统计特性。但实际中：难；不必。 ●措施：用随机过程的数字特征来描绘随机过程的统计特性， 更简单方便。 ●方法：求随机过程数字特征的方法有“统计平均”和“时 间平均”两种。 统计平均: 对随机过程ξ(t)某一特定时刻不同实现的可能 取值ξ(ti)－－随机变量 ，用统计方法得出的种种平均值叫统 计平均。 时间平均:对随机过程ξ(t)的某一特定实现ξi(t) ，用数学分 析方法对时间求平均得出的种种平均值叫时间平均。
通信原理
第2章 随机过程
●一维概率密度函数 若一维分布函数对x1的偏导数存在，则
F x1 , t1 f1 x1 , t1 x1
叫做随机过程ξ(t)的一维概率密度。
（2）二维描述－－随机过程不同时刻取值之间的相互关系 ●二维分布函数
若随机过程ξ(t)在时刻 t1 的取值是随机变量ξ(t1)，而在时 刻t2的取值是随机变量ξ(t2)，则ξ(t2)与ξ(t2)构成一个二元随机 变量[ξ(t1)，ξ(t2)]，称 F2（x1，x2；t1，t2）= P[ξ(t1)≤x1；ξ(t2)≤x2 ] 为随机过程ξ(t)的二维分布函数。
随机过程三
1 2T lim 1 R d 0 T T 0 2T
推论4.1 若 R d ，则均值遍历性成 立。 推论4.2 对平稳序列而言，若 R 0 ， 则均值遍历性成立。 定理4.2 （协方差函数遍历性定理） 设平稳过程，其均值函数为零，则协方差函 数具有遍历性的充分条件是 2T 1 1 2 lim 1 B R 1 X (0) d1 0
若 n 1
f t, x 1 2 t e
x t 2 2 ( t )
2
其中
t E X t , 2 t E [ X t t ]2
1. Einstten 1905年对Brown运动的数学模型 设 W t , t 0, 表示在 0, t 上的位移。
T
T
0Leabharlann 2T 其中 B 1 E X t 1 X t 1 X t X t
定理4.3 设 X n , n 0, 1, 2, 是均值为0的 Gauss平稳过程，如果
1 N 1 2 lim R k 0 N N k 0
§4.2 遍历性定理
定义4.3 设 X X t , t 为一平稳过程（或 序列），若 1 T X lim X t dt m T 2T T 或 N 1 X lim X (k ) m N 2 N 1 k N 则称 X 的均值具有遍历性。
第三讲 随机过程
• • 随机过程简记为 {xt} 或 xt。随机过程也常简称为过程。
随机过程
• 随机过程一般分为两类。一类是离散型的，一类 是连续型的。 • 如果一个随机过程{xt}对任意的tT 都是一个连 续型随机变量，则称此随机过程为连续型随机过 程。 • 如果一个随机过程{xt}对任意的tT 都是一个离 散型随机变量，则称此随机过程为离散型随机过 程。我们只考虑离散型随机过程。
随机过程
• 例如，对河流水位的测量。其中每一时刻 的水位值都是一个随机变量。如果以一年 的水位纪录作为实验结果，便得到一个水 位关于时间的函数xt。这个水位函数是预先 不可确知的。只有通过测量才能得到。而 在每年中同一时刻的水位纪录是不相同的。
随机过程
• 随机过程：由随机变量组成的一个有序序列称为随机过程， 记为{x (s， t) ， sS ， tT }。其中S表示样本空间， T表示序数集。对于每一个 t， tT， x (· t ) 是样本空 ， 间S中的一个随机变量。 • 对于每一个 s， sS ， x (s， · 是随机过程在序数集T ) 中的一次实现。
随机过程
随机过程
• 为什么在研究时间序列之前先要介绍随机 过程？就是要把时间序列的研究提高到理 论高度来认识。时间序列不是无源之水。 它是由相应随机过程产生的。只有从随机 过程的高度认识了它的一般规律。对时间 序列的研究才会有指导意义。对时间序列 的认识才会更深刻。
随机过程
• 自然界中事物变化的过程可以分成两类。一类是 确定型过程，一类是非确定型过程。 • 确定型过程即可以用关于时间t的函数描述的过程。 例如，真空中的自由落体运动过程，电容器通过 电阻的放电过程，行星的运动过程等。 • 非确定型过程即不能用一个（或几个）关于时间t 的确定性函数描述的过程。换句话说，对同一事 物的变化过程独立、重复地进行多次观测而得到 的结果是不相同的。
第03讲_随机过程的基本概念2
平稳随机过程的定义平稳随机过程的定义平稳随机过程的定义平稳随机过程的定义平稳随机过程的定义平稳随机过程自相关函数性质平稳随机过程自相关函数的特性()()=−X X R R ττ相关函数是偶函数证明：()[()()][()()]()=+=+=−X X R E X t X t E X t X t R ττττ根据这个性质，在实际问题中只需计算或测量()R τ平稳随机过程自相关函数的特性平稳随机过程自相关函数性质R τ0=τ(0)()≥X X R R τ相关函数在时有最大值()X 证明：有2{[()()]}0±+≥E X t X t τ即22[()2()()()]0±+++≥E X t X t X t X t ττ22[()]2[()()][()]0±+++≥E X t E X t X t E X t ττ平稳随机过程自相关函数的特性平稳随机过程自相关函数性质若随机过程含有周期分量，则自相关函数也含有周期分量0()cos()()=+Φ+X t A t N t ω2A 例如：其中和为常数，在上均匀分布，是与统计独立的平稳随机过程A 0ωΦ(,)−ππΦ()N t ()cos ()=+R R τωττ平稳随机过程自相关函数的特性平稳随机过程自相关函数性质2)(lim XX m R =∞→ττ若随机过程不含周期分量，则证明：2lim ()lim [()()]lim [()][()]X XR E X t X t E X t E X t m ττττττ→∞→∞→∞=+=+=平稳随机过程自相关函数的特性平稳随机过程自相关函数性质22R +=2R E X =)0(X X X m σ)(τX R 2X σ)0(X R 统计平均功率直流功率()R ∞(0)[()]X t平稳随机过程自相关函数的特性平稳随机过程自相关函数性质相关函数具有非负定性即对任意的个实数和任意实函数，有复数,,...,N t t t 12()()()N N i j X i j i j g t g t R t t ==−≥∑∑11N ()g t 证明：()()()N Ni j X i j g t g t R t t −∑∑i j ==11相关系数和相关时间相关系数和相关时间其它平稳的概念其它平稳的概念其它平稳的概念其它平稳的概念其它平稳的概念其它平稳的概念随机过程的各态历经性随机过程的各态历经性随机过程的各态历经性随机过程的各态历经性随机过程的各态历经性随机过程的各态历经性小结小结作业。
随机过程第3讲
第二章 Markov 过程（03）本章我们先讨论一类特殊的参数离散状态空间离散的随机过程，参数为0},2,1,0{N T == ，状态空间为可列},2,1{ =S 或有限},,2,1{n S =的情况，即讨论的过程为Markov 链。
Markov 链最初由Markov 于1906年引入，至今它在自然科学、工程技术、生命科学及管理科学等诸多领域中都有广泛的应用。
之后我们将讨论另一类参数连续状态空间离散的随机过程，即纯不连续Markov 过程。
1． Markov 链的定义定义：设随机序列}0);({≥n n X 的状态空间为S ，如果对0N n ∈∀，及0})(,,)1(,)0({,,,,,10110>===∈+n n n i n X i X i X P S i i i i ，有：})()1({})(,,)1(,)0()1({1101n n n n i n X i n X P i n X i X i X i n X P ==+======+++ (A)则称}0);({≥n n X 为Markov 链。
注1：随机序列}0);({≥n n X 也可记为}0;{≥n X n 。
注2： 等式（A ）刻画了Markov 链的特性，称此特性为Markov性或无后效性，简称为马氏性。
Markov 链也称为马氏链。
定义：设}0);({≥n n X 为马氏链，状态空间为S ，对于S j i ∈∀,，称)(ˆ})()1({n p i n X j n X P j i ===+为马氏链}0);({≥n n X 在n 时刻的一步转移概率。
若对于S j i ∈∀,，有j i j i p n p i n X j n X P ≡===+)(ˆ})()1({即上面式子的右边与时刻n 无关，则称此马氏链为齐次（或时齐的）马氏链。
对于齐次马氏链，我们记)(j i p P =，称矩阵P 为齐次马氏链的一步转移概率矩阵，简称为转移矩阵。
3. 随机过程
§3 随机过程一、 一般随机过程[随机过程的定义] 对于每个t ∈T (T 是某个固定的实数集),ξ(t )是个随机变量，就把这样的随机变量族{ξ(t )，t ∈T }称为随机过程。
随机过程一次实验的结果是定义在T 上的函数，称为随机过程的一次实现。
当参数t 的变化范围T 是个整数集合，则称ξ(t ), t =0,±1,±2, 为随机序列。
当T 只包含一个或有限个元素，{ξ(t )，t ∈T }就是概率论中研究过的随机变量或随机矢量。
[随机过程的有穷维分布函数族] 设{ξ(t )，t ∈T }是随机过程，对任意的正整数n 及任意的t 1, t 2, ，t n ∈T ,随机变量ξ(t 1) ,ξ(t 2) , ，ξ(t n )的联合分布函数为))(,,)(,)((),,,(22121,,21n n n t t t x t x t x t P x x x F n ≤ξ≤ξ≤ξ= 称{}),,,(21,,,21n t t t x x x F n 为随机过程的有穷维分布函数族。
它不仅刻划了对应于每一个t 的随机变量ξ(t )的统计规律性，而且也刻划了各个随机变量ξ(t )之间的关系，从而完整地描述了随机过程的统计规律性。
[随机过程的统计参数] 设{ξ(t )，t ∈T }是个复值随机过程(指它的实部和虚部都是实的随机过程)。
主要的统计参数有：1°均值函数 对每个t ∈T ,随机变量ξ(t )的数学期望（均值）)(d )()(x F x t E t m t ⎰∞∞-==ξ称为随机过程的均值函数，式中F t (x )是ξ(t )的分布函数。
2°协方差函数与方差函数 对任意的s , t ∈T ,)]()()][()([),(t m t s m s E t s R --=ξξ称为随机过程的协方差函数(或相关函数)，式中m (t )是均值函数。
特别地，当s =t ,则称2)]()([),(t m t E t t R -=ξ 为随机过程的方差函数(或自相关函数)。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
随机过程
• “随机游走”一词首次出现于1905年自然 （Nature）杂志第72卷Pearson K.和 Rayleigh L.的一篇通信中。该信件的题目 是“随机游走问题”。文中讨论寻找一个 被放在野地中央的醉汉的最佳策略是从投 放点开始搜索。
2.2时间序列模型的分类
• (1)自回归过程 • （2）移动平均过程 • （3）自回归移动平均过程 • （4）单整自回归移动平均过程 • （5）Wold分解定理：
随机过程
随机过程
随机过程
随机过程
随机过程
随机过程
• 白噪声是平稳的随机过程，因其均值为零， 方差不变，随机变量之间非相关。显然上 述白噪声是二阶宽平稳随机过程。如果{xt} 同时还服从正态分布，则它就是一个强平 稳的随机过程。 • 白噪声源于物理学与电学，原指音频和电 信号在一定频带中的一种强度不变的干扰 声。
随机过程
• 如果一个随机过程m阶矩以下的矩的取值全部与 时间无关，则称该过程为m阶平稳过程。比如
• 其中 , 2 和 ij2 为常数，不随 t, (tT ); k, ( (tr + k) T, r = i, j ) 变化而变化，则称该随 机过程 {xt} 为二阶平稳过程（协方差平稳过 程）。该过程属于宽平稳过程。
随机过程
• 严平稳意味着随机过程所有存在的矩都不 随时间的变化而变化。严平稳的条件是非 常严格的，而且对于一个随机过程，上述 联合分布函数不便于分析和使用。因此希 望给出不象强平稳那样严格的条件。若放 松条件，则可以只要求分布的主要参数相 同。如只要求从一阶到某阶的矩函数相同。 这就引出了宽平稳概念。
• • 随机过程简记为 {xt} 或为两类。一类是离散型的，一类 是连续型的。 • 如果一个随机过程{xt}对任意的tT 都是一个连 续型随机变量，则称此随机过程为连续型随机过 程。 • 如果一个随机过程{xt}对任意的tT 都是一个离 散型随机变量，则称此随机过程为离散型随机过 程。我们只考虑离散型随机过程。
随机过程
• 例如，对河流水位的测量。其中每一时刻 的水位值都是一个随机变量。如果以一年 的水位纪录作为实验结果，便得到一个水 位关于时间的函数xt。这个水位函数是预先 不可确知的。只有通过测量才能得到。而 在每年中同一时刻的水位纪录是不相同的。
随机过程
• 随机过程：由随机变量组成的一个有序序列称为随机过程， 记为{x (s， t) ， sS ， tT }。其中S表示样本空间， T表示序数集。对于每一个 t， tT， x (· t ) 是样本空 ， 间S中的一个随机变量。 • 对于每一个 s， sS ， x (s， · 是随机过程在序数集T ) 中的一次实现。
(1)自回归过程
（2）移动平均过程
自回归与移动平均过程的关系
（3）自回归移动平均过程
（4）单整自回归移动平均过程
• 现在容易理解，随机游走过程（2.3）就是由白噪 声过程累加一次而得到的。
（5）Wold分解定理：
• 比较（2.27）和（2.29）式，可见结论，任何漂 移项非零的平稳过程都可以通过对序列先退均值， 然后建立ARMA模型研究。所以前面给出的四类 模型不失一般性。
• 如何判别其是自回归过程还是移动平均过 程？如何判别其过程的阶数呢？如何通过 一个时间序列研究其过程的平稳性呢？
4 AR(1)
2
0
-2
-4 20 40 60 80 100 120 140 160 180 200
3 2 1 0 -1 -2 -3 -4 20 40 60 80 MA(1) 100 120 140 160 180 200
随机过程
• 例如，要记录某市日电力消耗量，则每日的电力消耗量就 是一个随机变量，于是得到一个日电力消耗量关于天数t 的函数。而这些以年为单位的函数族构成了一个随机过程 {xt}, t = 1, 2, … 365。因为时间以天为单位，是离散 的，所以这个随机过程是离散型随机过程。而一年的日电 力消耗量的实际观测值序列就是一个时间序列。 • 自然科学领域中的许多时间序列常常是平稳的。如工业生 产中对液面、压力、温度的控制过程，某地的气温变化过 程，某地100年的水文资料，单位时间内路口通过的车辆 数过程等。但经济领域中多数宏观经济时间序列却都是非 平稳的。如一个国家的年GDP序列，年投资序列，年进出 口序列等。
随机过程
• 严（强）平稳过程：一个随机过程中若随机变量 的任意子集的联合分布函数与时间无关，即无论 对T的任何时间子集（t1, t 2, …, tn）以及任何实 数k, (ti + k) T, i = 1, 2, …, n 都有 • F( x(t1) , x(t2), …, x(tn) ) = F(x(t1 + k), x(t2 + k), … , x(tn + k) ) • 成立，其中F(· 表示n个随机变量的联合分布函 ) 数，则称其为严平稳过程或强平稳过程。
随机过程
随机过程
• 为什么在研究时间序列之前先要介绍随机 过程？就是要把时间序列的研究提高到理 论高度来认识。时间序列不是无源之水。 它是由相应随机过程产生的。只有从随机 过程的高度认识了它的一般规律。对时间 序列的研究才会有指导意义。对时间序列 的认识才会更深刻。
随机过程
• 自然界中事物变化的过程可以分成两类。一类是 确定型过程，一类是非确定型过程。 • 确定型过程即可以用关于时间t的函数描述的过程。 例如，真空中的自由落体运动过程，电容器通过 电阻的放电过程，行星的运动过程等。 • 非确定型过程即不能用一个（或几个）关于时间t 的确定性函数描述的过程。换句话说，对同一事 物的变化过程独立、重复地进行多次观测而得到 的结果是不相同的。
随机过程
• 时间序列：随机过程的一次实现称为时间序列，也用{xt } 或xt表示。与随机过程相对应，时间序列分类如下，
• 时间序列中的元素称为观测值。{xt}既表示随机过程，也 表示时间序列。xt既表示随机过程的元素随即变量，也表 示时间序列的元素观测值。在不致引起混淆的情况下，为 方便，xt 也直接表示随机过程和时间序列。
随机过程
• 某河流一年的水位值，{x1, x2, …, xT-1, xT,}，可以看作一个随机过程。
每一年的水位纪录则是一个时间序列，{x11, x21, …, xT-11, xT1}。而
在每年中同一时刻（如t = 2时）的水位纪录是不相同的。{ x21, x22, …, x2n,} 构成了x2取值的样本空间。