随机过程1(1.1) (2)

The moments of X
性质：
X, Y 是独立变量
小结
第一章
随机过程的基本概念
● 随机过程的定义及其有限维分布函数族
● 随机过程的数字特征
● 几类重要的随机过程
重点
随机过程的定义、数字特征、正态过程、
Poisson过程．
要求（1）准确理解随机过程的定义，熟悉研究
随机过程的方法．
(2)熟练求出样本函数、有限维分布、 数字特征、特征函数． 难点 有限维分布和Poisson过程．
n 1 n 1
则称P为E的概率。

概率的性质：
(1) P( ) 0 ; (2) Monotonicity: 若E F, P( E ) P( F ) (3) P(E c ) 1 P(E) P( En ) P( En ) (4) Subadditivity: 布尔不等式： n 1 n 1 n n (5) P( Ei ) P( Ei ) P( Ei E j )
Basic Concepts----Probability
• 随机试验 (Random Experiment)
结果事先不确定 outcome is unknown; 可重复 reproducible
• 样本空间(Sample Space): S
•所有可能结果的全体 the set of all possible outcomes
例：掷一个色子的期望E(X)
练习：试求前面所讲几个典型随机变量的期望

定理：X是一随机变量，F(x)为分布函数， y=g(x)是连续函数，若 g ( x)dF( x) 存在，则
EY E[ g ( X )] g ( x)dF( x)


推论：如果a，b为常数，则
2. 方差 (Variable)

全概率公式
Fi Fj , i j,
P( E ) P( Fi )P( E Fi )
i 1


Bayes公式——P(E F ) 与P(F E) 之间的关系
P( Fi E ) P( Fi ) P( E Fi )
P( F ) P( E F )
j 1 j j

Example:
若对每一 t ∈T,均有定义在(Ω,F,P)上的一个 随机变量X(ω,t),(ω∈Ω)与之对应, 则称X(ω,t)为(Ω,F,P)上的一个随机过程(S.P.) 记{X(ω,t), ω∈Ω,t∈T},
简记{X(t),t∈T},或X(t).
T称为参数集或参数空间, t称为参数,一般表 示时间或空间.
参数集通常有以下形式: ⑴ T={0,1,2,…}或 T= {…-2,-1,0,1,2,…} ⑵ T=[a,b],其中a 可以为－∞, b可以为+∞. 当参数集为形式⑴时,随机过程X(t)也称为 随机序列
为了预报该地区未来的气温,要让t趋于无穷大, 则可得到一族随机变量: Xt , t=0,1,2,…， 称{Ｘt，t＝０，１，2，….，} 是随机过程． 以上4个例子的共同特点是: 对某参数集中的任意一个参数t,就有一个 随机变量X(t)与之对应.
随机过程定义
设(Ω,F,P)为一概率空间,T为一参数集,T R,
n n 1

(7) Continuity for above: 若 En 单调递减，则
lim P( En ) P( En )
n n1
条件概率 乘法公式

P( EF ) P( E F ) P( F )
P(E1E2 En ) P(E1 )P(E2 E1 )P(E3 E1E2 )P(En E1E2 En1 )
i 1 i 1 1i j n 1i j k n n 1 P ( E E E ) ( 1 ) P( E1 E2 En ) i j k
(6) Continuity for below: 若 En 单调递增，则
lim P( En ) P( En )
随机过程基本概念 随机分析 平稳过程 马尔科夫过程（链）
教材
《随机过程》张卓奎 陈慧婵 西安电子科技大学出版社 2003 《随机过程 同步学习指导》 张卓奎 陈慧婵
西安电子科技大学出版社 2004
参考教材
1.《随机过程》毛用才 胡奇英 西安电子科技大学出版社 1998 2.《随机过程理论》 周荫清 电子工业出版社 第二版 2006 3.《 An introduction to stochastic processes 》 Edward P.C. kao Thomson 2003
X(t)
例1的样本曲线与状态
状态X(t0)=4
样本曲线x1(t) x1(t) t 状态X(t0)=5 样本曲线x2(t) x2(t) t
t0 状态空间S={0,1,2,….}, T=[0,+∞)
例2 ) A cos(t )
样本曲线x1(t)
状态X(t0)
说明: 设{X(ω,t), ω∈Ω, t∈T}为一S.P. 1. X(ω ,t),实质上为定义在T×Ω上的二元单值函数. 2.对每一个固定的t, X(t)为一随机变量，称之为 {X(t),t∈T}在t时刻的状态. 该随机变量所有可能取值的集合,称为随机过程的 状态空间.记为S. 3.对每一个确定的ω0∈Ω,X(ω0,t)是定义在T上的普通 函数. 记为 x(ω0,t), 称为为随机过程的一个样本函数. 也称轨道或实现.样本函数的图形称为样本曲线．
P( EF ) P( E ) P( F )

独立与互斥
独立的两个事件不一定互斥，也即两个事件独
立则可能交集不空 互斥的两个事件不一定独立，也即交集为空的 两个事件不一定独立
随机变量(random variable)及其分布

随机变量：样本空间里的实值函数 分布函数（distribution function）：描述随机变
例２. 具有随机初位相的简谐波
X(t) A cos(t )
其中Ａ ω 为常数，φ 服从[0,2π ]上的均匀分布. 由于初位相的随机性，在某时刻t＝t0， Ｘ(t0)是一个随机变量． 若要观察任一时刻t的波形，则需要用一族随机变量 Ｘ(t)描述.
则称｛Ｘ(t)，t∈[0 ，+∞)｝为随机过程．
随机变量
离散型： 概率密度函数 pi P( X xi ) 分布函数 F ( x) pi x x x 连续型 F ( x) f (t )dt
•

i

概率密度函数
扩展到2维X, Y 联合分布函数 F ( x, y) P( X x,Y y) X与Y的分布函数
FX ( x) lim F ( x, y ) P( X x)
t0
状态X(t0)
t 样本曲线x2(t)
状态空间S=[-A,A],参数集T=[-∞,+ ∞]
X(t)
70
60 50 40 30 20 10
例3 的样本曲线与状态
样本曲线x1(t)
状态X(t0)=40 状态X(t0)=25 状态X(t0)=18
样本曲线x2(t) 样本曲线x3(t)
0
24
…
t0
t
状态空间S={0,1,2,….},
§1 随机过程的定义
例1. 考察 [0，t0]时间内某网站收到的访问次数Ｘ(t０), 则Ｘ(t０)是一个随机变量． 如果要长时间内该网站的访问次数, 则需要让t 变化起来,即t趋于无穷大,则 Ｘ(t)是一族随机变量． 此时Ｘ(t) 是与时间有关系的随机变量，称 {Ｘ(t), t∈［0,∞）}是随机过程．
y
FY ( y ) lim F ( x, y ) P(Y y )
x
典型离散型随机变量：

Bernouli Random Variable
fail success

Binomial Random Variable
n个独立事件
Example
已知一台机器制造出来的产品，废品率为 0.1，并且产生废品的事件是独立的。问： 三个产品中最多有一个为废品的概率是多 少？ 解：
量的分布
F ( x) P( X x), x
性质: (1) 非减函数nondecreasing function； (2) (3) 扩展到n-维
x ( x1 , x2 , , xn )
F ( x) F ( x1 , x2 ,, xn ) P( X1 x1 , X 2 x2 ,, X n xn )
随机过程
Stochastic processes
东华大学信息学院自动化系 沈波 教授
Email: bo.shen@
引言 本课程的研究对象
概率论主要是以一个或有限个随机变量为研究 对象的. 随着科学技术的不断发展,人们发现几乎一切可 观察现象都具有随机性. 必须对一些随机现象的变化过程进行研究.即需 要研究无穷多个随机变量
DX E( X EX )2 E( X 2 ) E 2 ( X )
3. 协方差 (Covariance)
Cov( X , Y ) E[( X EX )(Y EY )]
不相关：若Cov(X,Y)=0
独立随机变量是不相关的，其逆不真。
4. 矩母函数 (Moment Generating Function)


在多项选择题考试中，学生要么知道答案，要么 去猜答案。令学生知道答案的概率为p，不知道答 案的概率为1-p，假设猜对答案的概率为1/m，其 中m为选择项数。问：学生答对问题时，他知道 答案的概率为多少？ 解：令C,K分布为学生答对问题和确实知道答案 的事件。

相互独立 (Independent)

离散型随机变量：

Geometric Random Variable

Poisson Random Variable
当二项随机变量中参数n很大，p很小时， 二项随机变量可以近似看作是Poisson随 机变量。
连续型随机变量：
典型连续型随机变量：

Uniform Random Variable
T=[0,24,……)
4.根据参数集与状态空间离散与否,随机过程可分为
●离散参数,离散状态的随机过程 (例3)
● 离散参数,连续状态的随机过程 (例4)
● 连续参数,离散状态的随机过程 (例1)
● 连续参数,连续状态的随机过程 (例2)
参数集为离散的随机过程也称为随机序列， 或时间序列．
§2 随机过程的有限维分布函数族
例３.生物群体的增长问题.以Ｘt表示在时刻t某种 生物群体的个数,则对每一个固定的t,Ｘt是一 个随机变量． 如果从t＝０开始每隔24小时对群体的个数观 察一次，则对每一个t，Ｘt是一族随机变量． 也记为Ｘn，n＝０，１，…. 则称{Ｘt ,t＝０,１, 2 , ….} 是随机过程．
例4. 在天气预报中, 以Xt 表示某地区第t次统计所得 到的最高气温,则Xt 是一个随机变量.

Exponential Random Variable
连续型随机变量：

Gamma Random Variable
Gamma函数
连续型随机变量：

Normal Random Variable
随机变量的数字特征
1. 期望(Expectation) 定义
加权平均
xi pi， 离散型 i EX xdF( x) 连续型 xf ( x ) dx ，
随机过程是概率论的深入和发展. 它是研究客观世界中随机演变过程的规律性的 学科. 随机过程的理论与方法在自动控制、雷达与通信、 生物工程、天文气象、地质能源、社会科学及工 程技术、经济管理等许多领域有着极为广泛的应 用。
课程任务
掌握随机过程的基本概念.
掌握随机过程的基本理论和分析方法. 具备处理随机现象的思想与方法. 具有应用随机过程的理论和方法来分析问题和 解决问题的能力. 基本内容
• 事件(Events): E
•样本空间的某子集 any subset of S

概率 (Probability): P
在样本空间S中，实值函数P满足：
(1) (2) (3)
0 P( E ) 1
;
P( S ) 1 ； 对于任何互斥事件 Ei E j , i j ，有
P( En ) P( En )