随机过程第一章

b

b
a
x dF ( x)
E[g(X1 , X 2 , E[X1X 2
X n )]
n



g ( x1 , x2 ,
xn ) dF ( x1 , x2 ,
xn )
X n ] E[X i ]
i 1
1.5.3 矩与联合矩 假设随机变量X 的概率密度函数为 f ( x)，则定 义 1）绝对原点矩和联合绝对原点矩
(1) (2) (3) (4)
g ( x)dF ( x) g ( x)dF ( x) g ( x)dF ( x) [m g ( x) ng ( x)]dF ( x) m g ( x)dF ( x) n g ( x)dF ( x) g ( x)d[mF ( x) n F (x)] m g ( x)dF ( x) n g( x)dF ( x) F(x)为X 连续随机变量的PDF g ( x) dF ( x)= g ( x)f ( x) dx
E [ XY ] E [ X ]E [ Y ]
2 2 2
2 2
1.6 特征函数和概率母函数
1.6.1 特征函数 随机变量X的特征函数定义为
( ) E[exp(j X )] exp( j x) f ( x)dx , 连续RV , R exp( j X i ) P(X X i ) , 离散RV i
4）事件域（ F ） 样本空间的若干子集构成的集合
事件域性质
（1） F， F
（2） A，B F ，则A B F ，A-B F
（3） A n F ， n 1,2,
（4） A F ，则A F
n 1
n 1
,则
An F
An F
n 1,2, （5） A n F ，
h2 (u , v) h2 (u , v) u v
u
v
1.5 数字特征
1.5.1 黎曼-斯蒂阶积分 g( x) 假设 F( x) 为 (, ) 上的单调不减右连续函数， 为 (, ) 上的单值实函数，且 a b。 b 容易证明，黎曼-斯蒂阶积分 a g ( x)dF ( x) 满足：
毛用才等，随机过程，西安电子科技大学出 版社，2003 5. 帕布里斯等，保铮等译，概率、随机变量与 随机过程，科学出版社，2004
Ch1.
概率论基础
1.1 概率空间
1.1.1 概率 1）随机试验
对随机现象做出的观察和科学试验
2）样本空间（ ）
随机试验的全部可能结果构成的集合
3) 事件（A）
随机试验中感兴趣的结果构成的集合
0 ，其它
其中 h( y) 是单调、处处可导且恒有导数大于零或 小于零的函数g(x)的反函数。
f x [hi ( y )] hi ' ( y ) , 关注区域 （2） f(y )= i 0 ，其它 其中 hi ( y ) 是分段单调且可导函数g(x)的第i段反函
数。 1.4.2 二元函数
,则
域且｛，F ｝可测空间
若满足 0 （1） A F，P（A） =1 （2） P（） （3）可列可加性
5）概率空间 ｛，F ｝可测空间，P是定义在 F 上的实值函数， 设
A n F ， n 1,2,
n 1 i 1
, 且A i A j =,i j
则P{ A n } P{A i }
x1
F(x1 , , xn )dx1
dxn
1.3.2 条件随机变量 随机向量中某随机变量存在条件下，另外随机 变量发生的可能性。对于 X=[X1 ,X 2 ] ，有
F(x1 /x2 )=P{X1 x1 /X 2 =x2 } f(x1 /x2 )=f{x1 , x2 }/f(x2 )
, -)=F(- , xn )是x1 , , xm )=F(x1 ,
, -)=0，F(
, )=1
, xn的单调非减函数 , xm，， )，1 m n
2）联合概率密度函数（jpdf）
f(x1 , x2 ,
( n ) F ( x1 , x2 , xn ) xn )= x1 xn
E[ X ],k 1的整数
k
E[ X Y ],k,r 1的整数
k
r
2）原点矩和联合原点矩
mk E[X k ], k 1的整数
E[X k Y r ],k,r 1的整数
3）中心矩和联合中心矩
uk E[(X E[X]) k ], k 1的整数
E[(X E[X])k (Y E[Y]) r ],k,r 1的整数
Z=g(X,Y）
1）概率分布函数
F(z)=P{g(X,Y） z}=
g (x,y) z
f ( x, y )dxdy
2）概率密度函数 对于一般的二元随机变量函数
U=g1 (X,Y），V=g 2 (X,Y）
联合概率密度函数
f(u, v)=f xy {h1 (u, v), h2 (u, v)} J
其中 h1 (u, v) 和 h2 (u, v)分别是 g1 (x, y) 和 g 2 (x, y ) 的 反函数；J是从坐标系x-y到坐标系u-v的Jacobi行 列式，即 h1 (u , v) h1 (u , v)
J=
X 和Y独立 e.g. Z=X+Y f ( z ) f x ( x) * f y ( y )
n, 则
1i j n
P( Ai ) P( Ai )
i 1 i
n

P( Ai A j )+ An )
1i j k n

P( Ai A j A k )

(1) n 1 P( A1
1.1.2 条件概率及独立性 给定概率空间 与事件A，B，若 P(B)>0,则 ｛，F ，P｝
i
1.2 随机变量及典型分布
1.2.1 随机变量 X( ) 是定义在 上 ｛，F ，P｝是一概率空间， 若 的单值实函数。如果 x R(实数空间)，有{X x} F ， 则称 X( ) 或X为 ｛，F ，P｝上的一个随机变量。 1）概率分布函数（PDF）F ( x) P{ X x}
定理1 （切比雪夫不等式）
0 ，则 假设X是一个有限方差 2 的随机变量，
有 P{ X E[ X ] } 2 / 2 。
随机变量取值绝大部分集中在均值附近！
定理2 （柯西-许瓦兹不等式） 假设X和Y是定义在同一概率空间中的两个随机变量， 且 E[ X ] , E[ Y ] ，则 E[ XY ] 存在，且
1 f ( x) ， x [ a, b] b-a
2）正态分布
1 ( x )2 2 f ( x) exp[ ], 简记 X ～ N ( , ) 2 2 2
3）指数分布
（- x） ，x 0 exp f ( x) 0 ,x 0
1.3 多维随机变量与条件随机变量
工程中，常用矩函数 1）均方值
E[ X 2 ]
2）方差（Variance） 3）相关矩
E[X Y ]
2 E[(X E[X]) 2 ]
E[X 2 ] (E[X]) 2
4）协方差
Cov(X, Y) E[(X E[X])(Y E[Y])] E[XY] E[X]E[Y]
1.3.1 多维随机变量 多维随机变量亦称随机向量。其分布特性以联合 概率分布函数和联合概率密度函数描述。 对于n维随机变量 X=[X1 ,X 2 , X n ] 1）联合概率分布函数（JPDF）
F(x1 , x2 , xn )=P{X1 x1 ,X 2 x2 , X n xn }
F(x1 , F(x1 , F(x1 ,
P(A/B)=P(AB)/P(B)
为在事件B条件下，事件A/B的条件概率，且记为
PB (A)或P(A/B)。
条件概率性质
1）链式法则
P(AB)=P(A/B)P(B)=P(B/A)P(A) P(A1A 2 A n )=P(A1 )P(A 2 /A1 ) P(A n /A1A 2 A n 1 )
2）全概率公式

4） f(x1,x2 / x5 , x6 ) f ( x1 , x2 , x3 , x4 / x5 x6 )dx3dx4
1.3.3 多维随机变量统计独立性 对于n维随机变量 X=[X1 ,X 2 , X n ] 随机变量 X1 ,X 2 , X n 之间统计独立
F(x1 , x2 , xn )= F(xi )
称P为定义在 ｛，F ｝ 上的概率， 为概率空间。 ｛，F ，P｝
概率性质 （1） P（） =0， 0 P（A） 1
（2） P(A)=1-P(A), P(A B)=P(A)+P(B)-P(AB)
（3） P(A-B)=P(A)-P(AB) （4） A i F ， n i 1,2,
F (-) 0，F () 1 右连续非降函数 P{x1 X x2 } F ( x2 ) - F ( x1 )
dF ( x) 2）概率密度函数(pdf) f ( x) dx x F ( x ) f ( x )dx

1.2.2 典型分布 工程中，随机变量的典型分布见书表1.2.1。 1）均匀分布
条件概率密度函数性质 1） f(x1 )= f ( x1 / x2 ) f ( x2 )dx2

-
2） f(x1 /x2 )=


f ( x2 / x1 ) f ( x1 ) f ( x2 / x1 ) f ( x1 )dx1
f ( xn / x1 , xn1 )
-
3） f(x1，x2 , xn ) f ( x1 ) f ( x2 / x1 )
i 1 n
f(x1 , x2 ,
xn )= f(xi )
i 1
n
1.4 随机变量函数
1.4.1 单元函数
Y=g(X)
1）概率分布函数
F(y )=P{g(X) y}=
g ( x ) y

f ( x)dx
2）概率密度函数 ' f [ h ( y )] h ( y ) , 关注区域 （1） f(y )= x
随机过程及应用
60学时
主讲教师：唐 斌 博士 教授 博士生导师
考试方式：平时（作业）
3学分
15%
期末（一页纸开卷） 85%
考查方式：作业 教材：李晓峰 唐斌等，应用随机过程，电子工业出版社，2013
参考书
1. 2. 3. 4.
徐全智等，随机过程，电子科技大学出版社， 2012 周荫清等，随机过程，北京航空大学出版社， 1986 陆大鑫，随机过程及应用，清华大学出版社， 1986.
5）相关系数
xy
Cov( X , Y )
XY
6）相关矩阵和协方差矩阵
R E[XXT ] C XY E[(X E[X])(Y E[Y])T ]
容易证明，两矩阵非负定。
统计独立（联合概率分布等于各自概率分布之积） 正交 （相关矩等于零） 不相关（协方差等于零） 如果X和Y为正态分布，且仅一个均值为零，三者等价！
a a c b b b a 1 2 a 1 a 2 b b b a 1 2 a 1 a 2 b b a a
b
c
b
1.5.2 数学期望/均值/重心 假设随机变量X 的概率分布函数为 F( x)，且 则定义 a xdF ( x) E[X] 为随机变量X的数学期望。
, X 为连续随机变量 xf ( x ) dx E[X] X i P (X X i ) , X 为离散随机变量 i E[aX1 bX 2 ] aE[X1 ] b E[X 2 ]
P(B)= P(BA i )= P(B/A i )P(A i )
i 1 i 1 n n
3）Bayes公式
P( Ak B ) P(A k /B)= P( B )
P( Ak B )
P(B/A )P(A )
i 1 i i
n
事件独立性 =P( A) P( B) 事件A和B独立 1） P（AB） n n 2） P(A1 A n )= P( Ai ) 事件{Ai }i 1独立