随机过程第一章(下)汇总
随机过程（北航著）北京航空航天大学出版社第1章习题课后答案
第一章概论第1题某公共汽车站停放两辆公共汽车A 和B ，从t=1秒开始，每隔1秒有一乘客到达车站。
如果每一乘客以概率21登上A 车，以概率21登上B 车，各乘客登哪一辆车是相互统计独立的，并用j ξ代表t=j 时乘客登上A 车的状态，即乘客登上A 车则j ξ＝1，乘客登上B 车则jξ＝0，则,21}0{,21}1{====j j P P ξξ当t ＝n 时在A 车上的乘客数为n n j j n ηξη,1∑==是一个二项式分布的计算过程。
（1）求n η的概率，即;,...,2,1,0?}{n k k P n ===η（2）当公共汽车A 上到达10个乘客时，A 即开车（例如t ＝21时921=η，且t ＝22时又有一个乘客乘A 车，则t ＝22时A 车出发），求A 车的出发时间n 的概率分布。
解（1）：nn k n k P ⎟⎠⎞⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛==21}{η 解（2）：nn n n P P ⎟⎠⎞⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛−=⎟⎠⎞⎜⎝⎛⎟⎠⎞⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛−==−2191212191A)10n 9A 1-n (}n A {1名乘客登上车时刻第名乘客；在有时刻，车在开车在时刻车第2题设有一采用脉宽调制以传递信息的简单通信系统。
脉冲的重复周期为T ，每一个周期传递一个值；脉冲宽度受到随机信息的调制，使每个脉冲的宽度均匀分布于（0，T ）内，而且不同周期的脉宽是相互统计独立的随机变量；脉冲的幅度为常数A 。
也就是说，这个通信系统传送的信号为随机脉宽等幅度的周期信号，它是以随机过程)(t ξ。
图题1－2画出了它的样本函数。
试求)(t ξ的一维概率密度)(x f t ξ。
解：00(1)()()(){()}{()0}[(1),],(0,){()}{[(1),]}{[(1)]}1(1)(1)1({()0}1{()}t A A n n n Tt n T f x P x A P x P t A P P t P t n T nT n T P t A P t n T nT P t n T d TT t n T T nT t T t n Tt n T T t n P t P t A ξδδξξηξηηηξξ−−=−+====∈−∈==∈−+=>−−=−+−=−==−−−=−−−==−==∫是任意的脉冲宽度01)(1)()()()()(1)()t A T tn T Tf x P x A P x t t n x A n x T T ξδδδδ=−−∴=−+⎛⎞⎛⎞=−−+−−⎜⎟⎜⎟⎝⎠⎝⎠第3题设有一随机过程)(t ξ，它的样本函数为周期性的锯齿波。
(完整版)随机过程知识点汇总
第一章随机过程 的基本概念与基本类型 一．随机变量及其分布X ，分布函数 F (x) P(X x) 1．随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2．n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度３．随机变量 的数字特征 数学期望：离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差：反映随机变量取值 的离散程度协方差（两个随机变量 X ,Y ）：B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数（两个随机变量X,Y ）：0，则称 X ,Y 不相关。
若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx４．特征函数离散 g(t) 重要性质： g(0) 1，g(t) 1 g( t) g(t)，， g (0) i EX kk k５．常见随机变量 的分布列或概率密度、期望、方差 ０－１分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) ６．Ｎ维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a )， x (x , x , ,x )， B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二．随机过程 的基本概念 １．随机过程 的一般定义设 ( , P)是概率空间， T 是给定 的参数集，若对每个 t T ，都有一个随机变量 X 与之对应， X(t,e),t T ( , 是P)上 的随机过程。
随机过程_第一章
则称P为（Ω，F）上的概率，（Ω，F，P）称 为概率空间，P（A）为事件A的概率。
由此定义出发，可推出概率的其它一些性质：
(4) P(F) 0;
(5) 若A, B F , A B, 则P( B A) P( B) P( A), 且P( B) P( A)
FY ( y ) P(Y y ) P( X , Y y ) F (, y )
分别称FX(x)和FY(y)为 F ( x, y ) 关于X和关于Y的 边缘分布函数。
离散型随机变量（X，Y）边缘分布律计算如下
P( X xi ) pi pij
, i 1,2,
设X，Y是两个随机变量，若对任意实数x，y有
P( X x, Y y) P(( X x) (Y y)) P( X x)P(Y y)
则称X，Y为相互独立的随机变量。
若X，Y为相互独立随机变量，则有
F ( x, y ) FX ( x) FY ( y ) f ( x, y ) f X ( x ) f Y ( y )
注：所谓某个事件在 试验中是否出现，当且仅 当该事件所包含的某个样本点是否出现，因此 一个事件实际上对应于的一个确定的子集。 事件的概率论运算 Ω子集的集合论运算。
样本空间 W 也是一个事件， 称 W 为必然事件，
空集 F 称为不可能事件。
注：由于事件是集合，故集合的运算（并、交、 差、上极限、下极限、极限等）都适用于事件。
定义1.5 设（ Ω ，F，P）是概率空间，X=X(e) ＝（X1(e),…,Xn(e)）是定义在Ω上的n维空间Rn中 取值的向量函数。如果对于任意x=(x1,…,xn) ∈Rn， {e:X1(e) ≤x1,…,Xn(e) ≤xn} ∈F，则称X=X(e)为n维 随机变量。称
随机过程讲义 第一章
第一章 随机过程及其分类在概率论中，我们研究了随机变量，n 维随机向量。
在极限定理中我们研究了无穷多个随机变量，但只局限在它们之间相互独立的情形。
将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程。
1． 随机过程的概念定义：设),,(P ∑Ω是一概率空间，对每一个参数T t ∈，),(ωt X 是一定义在概率空间),,(P ∑Ω上的随机变量，则称随机变量族});,({T t t X X T ∈=ω为该概率空间上的一随机过程。
其中R T ⊂是一实数集，称为指标集或参数集。
随机过程的两种描述方法： 用映射表示T X ，R T t X →Ω⨯:),(ω即),(⋅⋅X 是一定义在Ω⨯T 上的二元单值函数，固定T t ∈，),(⋅t X 是一定义在样本空间Ω上的函数，即为一随机变量；对于固定的Ω∈ω，),(ω⋅X 是一个关于参数T t ∈的函数，通常称为样本函数，或称随机过程的一次实现，所有样本函数的集合确定一随机过程。
记号),(ωt X 有时记为)(ωt X 或简记为)(t X 。
参数T 一般表示时间或空间。
常用的参数一般有：（1）},2,1,0{0 ==N T ；（2）},2,1,0{ ±±=T ；（3）],[b a T =，其中a 可以取0或∞-，b 可以取∞+。
当参数取可列集时，一般称随机过程为随机序列。
随机过程});({T t t X ∈可能取值的全体所构成的集合称为此随机过程的状态空间，记作S 。
S 中的元素称为状态。
状态空间可以由复数、实数或更一般的抽象空间构成。
实际应用中，随机过程的状态一般都具有特定的物理意义。
例1：抛掷一枚硬币，样本空间为},{T H =Ω，借此定义：⎩⎨⎧=时当出现，时当出现T 2H ,cos )(t t t X π ),(∞+-∞∈t 其中2/1}{}{==T P H P ，则)},(,)({∞+-∞∈t t X 是一随机过程。
《随机过程》课后习题解答
（ k 0, 2, n ）
1 为一特征函数，并求它所对应的随机变量的分布。 1 t2
n n i
f (t
i 1 k 1
tk )i k
5
=
i 1 k 1
n
n
i k
1 (ti tk )
2
i 1 k 1
n
n
e jti e jti e jti {1 ( jtk )(1 jtk )} n n e jtk e e i k jti = i 1 k 1 e n(1 jtk ) e
1 n n n j ( ti tk ) l ] i k = [e n i 1 k 1 l 1
（2） （3）
其期望和方差； 证明对具有相同的参数的 b 的 分布，关于参数 p 具有可加性。
解 （1）设 X 服从 ( p , b ) 分布，则
f X (t ) e jtx
0
b p p 1 bx x e dx ( p )
bp ( p)
x
0
p 1 ( jt b ) x
i k
1 M 2
0
ti t k } ） （ M 1max{ i , j n
且 f (t ) 连续 f (0) 1 （2） f (t )
f (t ) 为特征函数
1 1 1 1 1 [ ] 2 2 1 t 1 ( jt ) 2 1 jt 1 jt
3
fZ(k)() t (1 )kk! jk (1 jt)(k1)
E (Z k ) 1 (k ) f Z (0) ( 1) k k ! k j
n
随机过程第一章
连续型随机变量
n维随机变量及其概率分布：
定义：
n维联合分布函数F(x1, x2, , xn)的性质:
随机变量的独立性
若{Xt , t T}是一族离散型随机变量，则独立性等价于
若{Xt , t T}是一族连续型随机变量，则独立性等价于
随机变量的数字特征
数学期望与方差
离散型随机变量的数学期望、方差
连续型随机变量的数学期望、方差
定理
定义
数学期望和方差的性质（6个）
特征函数定义：
离散情形与连续情形下的特征函数常见分布的特征函数（4个）
性质（7个）例题1,2
母函数定义
性质（4个）
拉普拉斯变换定义：
逆转公式与唯一性定理（3个）
四个例性
n 维正态分布定义：
n维正态分布具有如下重要性质：（4个）条件数学期望
条件数学期望性质（5个）
全数学期望公式
常用全数学期望公式
若Y是离散型随机变量：
设某段时间内到达商场的顾客人数N服从参数为λ的泊松分布.每位顾客在该商场的消费额X 服从[a, b]上的均匀分布.各位顾客之间消费是相互独立的且与N 独立.求顾客在该商场总的平均消费额.
已知随机变量X服从[0, a]上的均匀分布,随机变量Y 服从[X, a] 上的均匀分布, 试求。
随机过程-第一章__概率预备知识
概率空间
(1) Ω∈F ; (2) 若A∈F ,则A=Ω\A∈F ; (3) 若An∈F ,n=1,2,…,则 n 1 An∈F , 那么F 称为ς-代数(Borel域).(Ω,F )称为可测空间,F中 的元素称为事件. 由定义1.1且有: (4) υ∈F ; (5) 若A,B∈F ,则A\B∈F ; n n (6) 若Ai∈F ,i=1,2,…,则 i 1 Ai, i 1 Ai, i 1 Ai∈F . 定义1.2 设(Ω,F )是可测空间,P(· )是定义在F 上的实值 函数.若 (1) 任意A∈F ,0≤P(A)≤1; (2) P(Ω)=1;
y1
yn
n维随机变量及其概率分布
率密度. 定义1.6 设{Xt,t∈T}是一族随机变量,若对任意的n≥2, t1,t2,…,tn∈T, x1,x2,…,xn∈R, 有 n P( X t≤x1, X t≤x2,…, X t≤xn)= i 1 P( X t xi ) 1 2 n 则称{Xt,t∈T}是独立的. • 若{Xt,t∈T}是一族独立的离散型随机变量, 则上式等 n 价于P( X t1 =x1, X t2 =x2,…, X t n=xn)= i 1 P( X t xi ) ; 若{Xt,t∈T}是一族独立的连续型随机变量, 则上式等 n 价于 f t1 ,t2 ,,tn(x1,x2,…,xn)= i 1 f t ( xi ), 其中 f t1 ,t2 ,,tn 1, (x x2,…,xn)是随机向量(X1,X2,…,Xn)的联合概率密度且 f ti ( xi ) 是随机变量 X t 的概率密度,i=1,2,…,n. • 独立性是概率论中的重要概念,独立性的判断通常是根 据经验或具体情况来决定的.
n维随机变量及其概率分布
是右连续函数; (3)对于Rn中的任意区域(a1,b1;…;an,bn),其中ai≤bi, i=1,2,…,n, 成立 n F(b1,b2,…,bn)- i 1 F(b1,…,bi-1,ai,bi+1,…,bn)
中南大学随机过程第一章
• 随机试验、样本空间、随机事件体、 概率、概率空间、概率的性质
2019/10/29
胡朝明
53－1
本讲主要内容
概率空间
• 条件概率、乘法公式、事件的独立性、全 概率公式与贝叶斯公式
随机变量及其分布程
• 随机变量、分布函数 • 离散型随机变量及其分布律 • 连续型随机变量及其概率密度
0,
x0
则称R.V.X服从参数为（>0）的k阶爱尔朗分布，记为X～Ek，其分布函 数为
F(x)1exki01(ix!)i, x0
0,
x0
2019/10/29
胡朝明
53－24
六、二维随机变量
如果X和Y是定义在同一概率空间(Ω,F,P)上的 两个随机变量，则称(X,Y)为二维随机变量，记 为二维R.V.(X,Y)。
2,…,n，则对任意事件Ai 1，有
1. 全概率公式：
n
P(A) P(Bi)P(A|Bi)； i1
2. 贝叶斯公式：
2019/10/29
P(Bj |A)
P(Bj)P(A|Bj)
n
，
P(Bi)P(A|Bi)
i1
j=1,2,…n。
胡朝明
53－7
§1.2 随机变量及其分布
一、随机变量
设(Ω,F,P)为概率空间，如果定义样本空间Ω上 的一个单值实函数X＝X()，Ω，满足
2) P{X1}1e－ xd x1e－ 1
12
2
2019/10/29
胡朝明
53－15
五、常见的随机变量及其分布
1. <0－1>分布(两点分布)
如果R.V.X的分布律为：
X0 1
随机过程讲义(第一章)
P (Ω ) = 1 ；
对任意两两不交的至多可数集 {An } ⊂ F ， P⎛ ⎜ U An ⎞ ⎟ = P ( An ) ⎝n ⎠ ∑ n
称 P(⋅) 为 F 上的概率测度， (Ω, F , P) 称为概率空间。
1
1.4 随机变量的概念 定义：设 (Ω, F , P ) 为一概率空间， X = X ( w) 为 Ω 上的一个实值函数，若对 任意实数 x ，X −1 ((−∞, x) ) ∈ F ， 则称 X 为 (Ω, F , P ) 上的一个 （实） 随机变量。 称 F ( x) = P( X < x ) = P( X ∈ (−∞, x)) = P X −1 ((−∞, x) ) 为随机变量 X 的 分布 函数。 随 机 变 量 实 质 上 是 (Ω, F ) 到 (R, B ( R ) ) 上 的 一 个 可 测 映 射 ( 函 数 ) 。 记
_______
2
α 1 , α 2 Lα m ， ∑∑ ϕ (t l − t k )α l α k ≥ 0 ；
l =1 k =1
m
m
5) ϕ ( w) 为 R n 上的连续函数。 6) 有限多个独立随机变量和的特征函数等于各自特征函数的乘积； 7) 设 X = (ξ1 , Lξ n ) 为 n 维 随 机 向 量 ， 特 征 函 数 为 ϕ ( w1 ,L wn ) , 则
n→∞
敛到随机变量 X ；
2)
若 E X n 存在， 且 lim E X n − X
n→∞
p
p
则称 X 1 , X 2 , L X n ,L p 阶收敛到 = 0，
随机变量 X ，特别当 p = 2 ，称为均方收敛。
3) 4)
若 P lim X n = X = 1 ，称 X 1 , X 2 , L X n ,L 几乎必然收敛到随机变量 X 。
钱敏平-龚光鲁-随机过程答案(部分)
随机过程课后习题答案第一章第二题：已知一列一维分布{();1}n F x n ≥，试构造一个概率空间及其上的一个相互独立的随机变量序列{(,);1}n n ξ⋅≥使得(,)n ξ⋅的分布函数为()n F x 。
解：有引理：设ξ为[0, 1]上均匀分布的随机变量，F(x)为某一随机变量的分布函数，且F(x)连续，那么1()F x η-=是以F(x)为分布的随机变量。
所以可以假设有相互独立的随机变量12,,...,n θθθ服从u[0, 1]分布，另有分布{()}n F x ， 如果令1(,)()n n n F ξθ-⋅=，则有(,)n ξ⋅为服从分布()n F x 的随机变量。
又由假设条件可知，随机变量{(,),1}n n ξ⋅≥之间相互独立，则其中任意有限个随机变量12(,),(,),...,(,)n i i i ξξξ⋅⋅⋅的联合分布为：11221122{(,),(,),...,(,)}()()()i i n in i i i i in in P i x i x i x F x F x F x ξξξ⋅≤⋅≤⋅≤=⋅⋅⋅⋅再令112{,,...,,...},,{|()[0,1],1,2,...}n i i i i w w w w A A x F x i -Ω=∈=∈=，令F 为Ω所有柱集的σ代数，则由Kolmogorov 定理可知，存在F 上唯一的概率测度P 使得：11221122{(,),(,),...,(,)}()()()i i n in i i i i in in P i w i w i w F w F w F w ξξξ⋅≤⋅≤⋅≤=⋅⋅⋅⋅则所构造的概率空间为(Ω,F , P)。
第八题：令{};1n X n ≥是一列相互独立且服从(0,1)N （正态分布）的随机变量。
又令1n n S X X =++22(1)n S n n ξ+=1(,,)n n F X X σ=试证明：,;1n n F n ξ≥（）是下鞅（参见23题）。
随机过程-第一章
• {X(t， e)，t∈T ，e∈Ω} 为一随机过程。
• 其实际意义就是： 若一物理过程，当时间t（或广义时间）固定，
过程所处的状态是随机的（不确定的），则此
过程就为随机过程。对该过程的一次记录（或
一个观察）就是一个现实，或称作随机过程的
一个样本函数或样本曲线。 • 固定t0，X（t0）是随机变量。 • 固定e0，X（t，e0）是一个现实，是t的函数，记 为 x(t)。
例4：具有随机初位相的简谐波。 X（t）=acos（ω0t+Φ），-∞<t<+∞， 其中a与ω0是正常数， Φ是在[0，2π]上均匀分布的随机变量。 一方面，随机过程X（t）是一族随机变量。 对每个固定t0， X（t0）= acos(ω0t+Φ)是个 随机变量。对（-∞，+∞）上有多少个t， 就对应多少个随机变量。∴对（-∞，+∞） 所有t，X（t）看作一族随机变量。 另一方面，随机过程是一族样本函数（曲线） 对样本空间Ω中每个基本事件e对应一个样本 函数，本例，Φ在Ω=[0，2π] 上任给定一个 相 位φi=e，就对应一个样本曲线，如：书P 4。
例6： 利用抛掷硬币的试验定义一个随机过程。
X（t） { sin π t，出现正面 ，记为记为 ω 0 e ，出现反面, 记 ω 1
t
(t R)
写出X（t）的所有样本函数（现实）
二、随机过程的的分布（有限维分布族） 1、对任意固定的t0∈T，随机过程X(t)的状态 X(t0)是一维随机变量， 其分布函数是P{X(t0)≤x} F(x，t0) 由于t的任意性，称F(x; t) = P{X(t) ≤x } 为随机过程X(t)的一维分布函数。 F(x，t)是与t有关的一维分布函数，在t，x平 面上是X(t)落在区间(X(t) ≤x)上的概率。
随机过程-马尔可夫
实际中常常碰到具有下列性质的运动体系 Σ，如果已知它在 t = n 时 的状态，则关于它在 n 时以前所处的状态的补充知识，对预言 Σ 在 n 时 以后所处的状态不起任何作用。或者说， 在已知“现在”的条件下，“将 来”与“过去”是独立的。这种性质，就是直观意义上的“马尔可夫性” （简称“马氏性”） 或称“无后效性”。具有马氏性的随机过程称为马尔 可夫过程。 马尔可夫过程在理论上和实际应用中都十分重要，在工程、统计、物 理、生物学、数字计算方法、经济管理和市场预测等领域中 都有十分重要 的作用和广泛应用。
(k + l ) (k )
(m) =
证明：
r ∈E
r ∈E (k ) (l ) Pir (m)Prj (m +
Pir (m)Prj (m + k ) k)
(k )
(l )
=
r ∈E
P {X (m + k ) = r|X (m) = i}P {X (m + k + l) = j |X (m + k ) = r}
j1 ,··· ,jk ∈E
即： K -步转移矩阵由 1 步转移矩阵决定。 设P {X (0) = j } = pj , pj ≥ 0,
j ∈I
pj = 1， 称{pj }j ∈E 为 马 氏 链 的 初 始 分 pj n) = 1
(
布。 (n) (n) 称pj = P {X (n) = j }为绝对概率，满足pj ≥ 0,
(n+1) 由pj
j
= P {X (n + 1) = j } =
k
P {X (n + 1) = j |X (0) = k }P {X (0) = k }
随机过程第一章
• 常见随机变量的分布见下页的表:
x
f (t )dt .
表1 几种常见分布的均值与方差
分布 0－1分布
分布率或 密度函数
P( X k ) p k (1 p)1k k 0,1
数学期望 p
np
方差 p(1-p)
np(1-p)
k k 1 k 二项分布b(n,p) P( X k ) Cn p (1 p)
k
bij Cov( X i , X j )
称矩阵
i, j 1,2,, n
b1n b2 n bnn
b11 b21 B b n1 为协方差矩阵.
b12 b22 bn 2
定义3 若n维随机变量 ( X1 ,, X n )的联合概率 密度为
E ( XY ) E ( X ) E (Y )
方差是衡量随机变量取值离散程度的一个量.
2 X 定义 设 是随机变量,若 E[ X E( X )] 存在,则称 2 E[ X E( X )] 为X的方差,记作D(X),即
D( X ) Var(X) E[ X E ( X )]
则称P是(Ω,F )上的概率. (Ω,F ,P)称为概率空 间,P(A)为事件A的概率.
1.2 随机变量及其分布 • 随机变量是概率论的主要研究对象,随机变量的统计规 律用分布函数来描述. 定义1.4 设(Ω,F ,P)是概率空间. X=X(e)是定义在Ω上 的实函数, 若对任意实数x,{e:X(e)≤x}∈F,则称X(e) 是F上的随机变量,简记为X. 称 F(x)=P(e:X(e)≤x), -∞＜x＜+∞ 为随机变量X的分布函数.
n维随机变量及其概率分布
(完整)随机过程总结,推荐文档
第一章随机变量基础1 历史上哪些学者对随机过程学科的基础理论做出了突出贡献？答: 随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。
这一学科最早源于对物理学的研究，如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。
1907 年前后，马尔可夫研究了一系列有特定相依性的随机变量，后人称之为马尔可夫链。
1923 年维纳给出布朗运动的数学定义，直到今日这一过程仍是重要的研究课题。
随机过程一般理论的研究通常认为开始于20 世纪30 年代。
1931 年，柯尔莫哥洛夫发表了《概率论的解析方法》，1934 年A·辛饮发表了《平稳过程的相关理论》，这两篇著作奠定了马尔可夫过程与平稳过程的理论基础。
1953 年，杜布出版了名著《随机过程论》，系统且严格地叙述了随机过程基本理论。
2 全概率公式的含义？答：全概率公式的含义就是各种可能发生的情况的概率之和为1。
3 概率空间有哪几个要素，其概念体现了对随机信号什么样的建模思想？答：样本空间、事件集合、概率函数称为概率空间的三要素。
概率函数建立了随机事件与可描述随机事件可能性大小的实数间的对应关系，因此，概率空间是在观测者观测前对随机事件发生的可能性大小进行了量化，其有效性是通过多次观测体现出来的，也即在多次观测中，某个随机事件发生的频率可直接认为与其发生的概率相等，所以，概率空间的建模思想实际是对大量观测中某随机事件发生频率的稳定性的描述。
4 可用哪些概率函数完全描述一个随机变量？答：概率分布函数（cdf）、概率密度函数（pdf ）、特征函数（cf）、概率生成函数（gf）。
5 可用哪些数字特征部分描述一个随机变量？答：均值、方差、协方差、相关系数和高阶矩。
6 随机变量与通常意义上的变量有何区别与联系？答：随机变量具有通常意义上的变量的所有性质和特征（即变量特性），还增加了变量取每个值的可能性大小的描述（即概率特性）。
随机过程知识点
第一章：预备知识§1.1 概率空间随机试验，样本空间记为Ω。
定义1.1 设Ω是一个集合，F 是Ω的某些子集组成的集合族。
如果 （1）∈ΩF ；（2）∈A 若F ，∈Ω=A A \则F ； （3）若∈n A F ， ，，21=n ，则∞=∈1n nAF ；则称F 为-σ代数(Borel 域)。
(Ω,F )称为可测空间，F 中的元素称为事件。
由定义易知： .216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞=== ，，则，，，）若（；则若（；定义1.2 设(Ω,F )是可测空间，P(·)是定义在F 上的实值函数。
如果()()()()∑∞=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时，当）对两两互不相容事件（；）（；任意则称P 是()F ,Ω上的概率，（P F ，，Ω）称为概率空间，P(A)为事件A 的概率。
定义1.3 设（P F ，，Ω）是概率空间，F G ⊂，如果对任意G A A A n ∈,,,21 ，,2,1=n 有： (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族。
§1.2 随机变量及其分布随机变量X ，分布函数)(x F ，n 维随机变量或n 维随机向量，联合分布函数，{}T t X t ∈,是独立的。
§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ，若⎰∞∞-∞<)(||x dF x ，则称)(X E ＝⎰∞∞-)(x xdF为X 的数学期望或均值。
上式右边的积分称为Lebesgue-Stieltjes 积分。
方差，()()[]EY Y EX X E B XY --=为X 、Y 的协方差，而 DYDX B XYXY =ρ为X 、Y 的相关系数。
随机过程知识点汇总
第一章随机过程的基本概念与基本类型一．随机变量及其分布1．随机变量，分布函数离散型随机变量的概率分布用分布列分布函数连续型随机变量的概率分布用概率密度分布函数2．n 维随机变量其联合分布函数离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量连续型随机变量方差：反映随机变量取值的离散程度协方差（两个随机变量）：相关系数（两个随机变量）：若，则称不相关。
独立不相关4•特征函数离散连续重要性质：，，，5 •常见随机变量的分布列或概率密度、期望、方差0 — 1分布二项分布泊松分布均匀分布略正态分布指数分布6.N维正态随机变量的联合概率密度，，正定协方差阵二.随机过程的基本概念1.随机过程的一般定义设是概率空间，是给定的参数集，若对每个，都有一个随机变量与之对应，则称随机变量族是上的随机过程。
简记为。
含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。
另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。
当固定时，是随机变量。
当固定时，时普通函数，称为随机过程的一个样本函数或轨道。
分类：根据参数集和状态空间是否可列，分四类。
也可以根据之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。
2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。
随机过程的一维分布，二维分布，…，维分布的全体称为有限维分布函数族。
随机过程的有限维分布函数族是随机过程概率特征的完整描述。
在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。
（1）均值函数表示随机过程在时刻的平均值。
（2）方差函数表示随机过程在时刻对均值的偏离程度。
（3）协方差函数且有（4）相关函数（3）和（4）表示随机过程在时刻，时的线性相关程度。
(5)互相关函数：，是两个二阶距过程，则下式称为它们的互协方差函数。
，那么，称为互相关函数。
随机过程总复习
Y (t) 1(t ) 2 (t ) … r (t )
两个相互独立的随机变量之和的特征函数等于它 们的特征函数之积.
练习:设随机变量X的概率密度函数为
p(
x)
1 2
x
0 x2
0 其 它
试求X的矩母函数。
解： (t ) E[etX ] 2 etx 1 xdx
2, 3 1，
t x1 3
t 3
x1
et
x1 et
随机过程的数字特征
1．均值函数 X (t) E[X (t)]
2．方差函数
D[X(t)] E[(X(t) X (t))2]
3．协方差函数
E[X 2(t)] X 2(t)
(t1, t2 ) E[(X (t1 ) X (t1 ))(X (t2 ) X (t2 ))]
注意：分母不等于0
2、条件期望的定义
离散型 连续型
E(X |Y yj ) xi P( X xi |Y y j ) i 1
其中
P(X
xi
|Y
yj
)
P(X xi ,Y P(Y yj )
yj
)
E(X |Y y)
x f ( x | y)dx
其中 f ( x | y) 条件概率密度
3、全数学期望公式
5．互协方差函数 XY (t1, t2 ) E[X(t1 ) X (t1 )][Y (t2 ) Y (t2 )]
6．互相关函数 RXY (t1, t2 ) E[X (t1 )Y (t2 )]
XY (t1, t2 ) = RXY (t1 , t2 ) X (t1 )Y (t2 )
练习 设随机过程 X (t) U cos2t ，其中 U 是随机变量 且 E(U ) 3 ， D(U ) 4
随机过程第一章总结
1
称为随机过程的二维分布函数，若 F x , x , t , t 存在二阶偏导数， 2 1 2 1 2 2 则称 F 2 x 1 , x 2 , t1 , t 2 f 2 x 1 , x 2 , t1 , t 2 2
。
为随机过程 X t 的方差。记作 D X t 2 t 或 Var X t 同时，有公式：D X t E X 2 t m 2 t
第一章小结
【三】自相关函数和协方差函数
【定义三】自相关函数：设随机过程 X t , t T ，t1 , t 2 T 并且相应的 二元联合概率密度函数为 f 2 x 1 , x 2 , t1 , t 2 ，则称它们的二阶原点矩
或
f n , m x 1 , , x n , t1 , , t n ; y 1 , , y m , t1 , , t m
' '
f n x 1 , , x n , t1 , , t n f m y 1 , , y m , t1 , , t m
x1 x 2
为随机过程的二维密度函数
第一章小结
【二】随机过程分布函数定义:
【定义三】随机过程的 n 维分布与密度函数：设随机过程 X t , t T ，当 时间 t 取任意 n 个数值 t1 , t 2 , , t n T 及 x 1 , x 2 , , x n R n 时， T 记 n 维随机向量 X t1 , X t 2 , , X t n 的联合分布函数
随机过程(汪荣鑫版)第一、二、四章习题答案.pdf
第一章随机过程的基本概念1．设随机过程X(t)=X cosω0t,-∞ <t< +∞，其中ω0是正常数，而X是标准正态变量。
试求X（t）的一维概率分布解：∵当cosω0t=0 即ω0 t =(k + 1)π 即t=1(k+1)π时2 ω0 2p{x(t)=0}=1若 c o ωs0t≠ 0 即t ≠1 (k+ 1 )π时2ω0F (x, t)= P{X (x)≤ x}= P{X cosω0t ≤ x} 当 c o ωs0t> 0 时此时若 c o ωs0t同理有⎧ x ⎫ 1 x - ξ 22F (x, t)= P⎨X ≤ ⎬ = cosω0t e dξ⎩ cosω0t ⎭ 2π⎰0∂F (x, t ) 1 - x2 1f (x, t)= = e 2 c o 2sω 0t⋅∂x c o sω0tπ< 0 时⎧ x ⎫ ⎧ x ⎫F (x, t)= P⎨X ≥ ⎬ = 1 -P⎨x< ⎬⎩ cosω0t⎭ ⎩ cosω0t⎭1 x e- ξ 2= 1 - cosω0t 2 dξ⎰0- x21f (x, t)= - 2 c o 2sω t ⋅c o ωs0t综上当：cosω0t≠0 即t ≠1 (k+ 1 )π时ω0 21 1 - x2f (x, t) e 2 cos2 ω0t| cosω0 t |π2．利用投掷一枚硬币的试验，定义随机过程为⎧cos πt , 出现正面X (t ) = ⎨⎩ 2t , 出现反面1假定“出现正面”和“出现反面”的概率各为 1 2 。
试确定 X (t ) 的一维分布函数 F (x , 2)和 F (x ,1) ，以及二维分布函数 F (x 1 , x 2 ;12 ,1)解：（1）先求 F (x , 1 )2⎧ π 出现正面 ⎧0⎛ 1 ⎫ ⎪cos 2 , 出现正面显然 X⎪ = ⎨= ⎨1出现反面 ⎝ 2 ⎭ ⎪2 - , 出现反面 ⎩12⎩⎛ 1 ⎫随机变量 X ⎪ 的可能取值只有 0，1 两种可能，于是⎝ 2 ⎭⎧ ⎛ 1 ⎫ ⎫ 1⎧ ⎛ 1 ⎫⎫ 1 P ⎨X⎪ = 0⎬ =P ⎨X⎪ = 1⎬ =⎩ ⎝ 2 ⎭⎭ 2 ⎩ ⎝ 2 ⎭⎭ 2所以⎧ 0 x < 0⎛1 ⎫ ⎪ 1F x ,⎪ =⎨ 0 ≤ x < 1⎝2 ⎭ 2⎪1 x ≥ 1⎩再求 F （x ,1）⎧cos π 出现正面 ⎧-1 出现正面显然 X (1) = ⎨= ⎨⎩2出现反面 ⎩2出现反面p {X (1) = -1}= p {X (1) = 2}= 12所以⎧0x < -1⎪ 1F (x ,1) = ⎪-1 ≤ x < 2⎨ 2⎪⎪1x ≥ 2⎩1(2) 计算 F (x 1 , x 2 ; 2 ,1)1 0 出现正面-1 出现正面X () = ⎨出现反面, X (1) = ⎨出现反面2⎩1⎩2于是⎛ 1 ⎫⎧ ⎛ 1 ⎫ ⎫ F x x 1 , x 2 ; ,1⎪ =p ⎨X ⎪ ≤ x 1 ; X (1) ≤ x 2 ⎬⎝2 ⎭⎩⎝ 2 ⎭⎭⎧0 x 1 < 0- ∞ < x 2 < +∞⎪或 x 1 ≥ 0, x 2 < -1⎪⎪ 10 ≤ x 1 < 1, 2 ≤ x 2= ⎨2 ⎪ 或 x 1> 1,⎪ -1 ≤ x 2 < 2⎪⎩1x 1 > 1,x 2 ≥ 23．设随机过程 {X (t ),-∞ < t < +∞}共有三条样本曲线X (t,ϖ1 ) = 1, X (t,ϖ 2 ) = sin t , X (t,ϖ 3 ) = cos t且 p(ϖ1 ) = p(ϖ 2 ) = p(ϖ 3 ) = 1 , 试求随机过程 X (t ) 数学期望 EX(t) 和相关函数3 R x (t 1,t 2)。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
随机过程
有限维分布函数族 相容性 对称性
Kolmogorov存在定理（柯尔莫哥洛夫）
设已给参数集T及满足对称性和相容性条件的分布函数 族F，则必存在概率空间（Ω,F,P）及定义在其上的随 机过程{X(t),t∈T}，它的有限维分布函数族是F。
数字特征
设XT={X(t),t∈T}是随机过程，如果对任意t∈T，E[X(t)] 存在，则称函数
对于一个固定的时刻t, Xt是一个随机变量
我们必须对一些随机现象的变化过程进行研 究，必须考虑无穷多个随机变量。针对这个问题，
我们必须用一族随机变量才能刻画这种随机现象 的全部统计规律。我们通常将这族随机变量称为 随机过程。
定义1
设E是随机实验，Ω={ e }是样本空间，T是给 定的参数集，若对每个固定的时刻t∈T，X(t,e) 或者X(t)都是一个随机变量，则称随机变量族 {X(t,e),t ∈T}是一个随机过程。简记为X(t)。
n维概率密度函数为:
有限维分布函数的性质
对称性
对于{t1,t2, …,tn}的任意排列 {ti1 , ti2 ,, tin }
Ft1,,tn ( x1, x2 ,, xn ) Fti1 ,,tin ( xti1 ,, xtin )
相容性
当m<n时，
Ft1,,tm (x1, x2 ,, xm ) Ft1,,tm ,,tn (x1, x2 ,, xm , ,, )
第一章 随机过程的概念与基本类型
随机过程的定义和统计描述 随机过程分布律和数字特征 复随机过程 随机过程基本类型
自然界事物的变化过程分为两大类： （1）具有确定形式的过程，可以用一个时间t的确定 函数来描述。 （2）另外一种过程没有确定的变化形式，不能用一 个时间 t的确定函数来描述。
例如：液面上的质点的运动。用{x(t),y(t)}表示t时 刻该质点在液面上的坐标。
③对于固定的e 和t， X(t,e)是一个标量，它表示 时刻t所处的状态。X(t )所有可能的状态构成的集 合称为状态空间;
④当t和e都是变量时， X(t,e)是一个随机变量族 或者时间函数族(称为随机过程）。
判断以下现象是否是一个随机过程？ （1）示波器产生的余弦波X(t)=acos(wt+B), 其中，a,w为常量，B为初始相位，并为（0， 2π）上均匀分布的随机变量。
在第Wi次试验中测量获得的噪声电压X(t)是一个样 本函数
定义2
设E是随机实验， Ω ={ e }是样本空间，对于每 一个样本e，总可以以某种规则确定一个时间函 数X(t,e) (称为样本函数或者轨道），t ∈T，则 对于所有的e ∈ Ω ，就得到一个函数的集合， 称此集合为随机过程，简记为X(t)
天气预报问题
每天的天气（晴，雨，阴）是随机的，对于 确定的一天（假设t=1，代表第一天），天气 状况是一个离散型的随机变量，记为Zt，所以， 每天的天气状况{Zt ，t=1,2,3…}是一个随机 过程。
对于一个固定的时刻t, Zt是一个随机变量
电阻的噪声电压 对于一个固定的时刻t,电阻的噪声电压X(t)是一 个随机变量， X(t)是随时间变化的， 所以噪声电 压{X(t)， t ∈[0,∞)}是一个随机过程。
Ft1,,tn (x1, x2 ,, xn ) P{X (t1) x1, X (tn ) xn}
称为随机过程X(t)的n维分布函数.
这些分布函数的全体 F {Ft1,tn (x1, x2 , xn ),t1, t2 ,, tn T , n 1} 称为XT={Xt,t ∈T}的有限维分布函数族。
随机变量
在每次随机试验的结果中，以一定的概率取某个事先 未知，但为确定的数值。 在实际应用中，我们经常要涉及到在随机试验过 程中随时间t而改变的随机变量。此时，这种随 机现象是个“过程”。
随机过程也是有规律的，如何描述一个随机过程？
随机过程 电话交换台接入呼叫次数问题
某电话交换台在一定时间段内[ 0，t ]内接到的呼 叫次数是与t有关的随机变量，记为Z(t)；对于固 定的时刻t， Z(t)是一个取非负整数的随机变量， 故 {Z(t), t ∈[0,∞)}是一个随机过程。 对于一个固定的时刻t,Z(t)是一个随机变量。
在时间上离散， 状态上离散
离散型随机序列
有限个随机变量 随机过程
联合分布函数 有限维分布函数族
统计规律 统计规律
随机过程的一维分布函数：
提示:
随机过程的二维分布函数：
1 F (x1, x2 ; 2 ,1)
有限个随机变量
随机过程
联合分布函数 有限维分布函数族
统计规律 统计规律
设XT={X(t),t∈T}是随机过程，对任意n≥1和t1,t2, …,tn ∈T，随机向量(X(t1),X(t2), …,X(tn))的n维联合分布函 数为:
w1 X (t) w2 X (t) w3 X (t)
wk X (t)
wn X (t)
t1
t2
随机过程{X(t,e),t ∈T}可以认为是定义在T× Ω上 的一个二元函数。
①对固定的t，X(t,e)是一个随机变量;
②对固定的e， X(t,e)是随机过程{X(t,e),t ∈T} 的一个样本函数（轨道）。即定义在T上的普通 函数;
为XT的协方差函数(混合中心矩)，反映随机过程在时 刻t和s时的状态起伏值的线性相关程度。
(2) 正弦波X(t)=Vcoswt,其中，V为在(0,1) 分布的随机变量. 并画出X(t)的一个样本函 数.
通常我们可以根据随机变量X(t)在时间和状态上 的类型区分随机过程的类型。
在时间和状态上都
离散型随机过程
在时间上离散， 状态上连续
连续型随机序列
def
mx (t) EX (t), t T
为XT的数学期望，反映随机过程在时刻t的平均值。
均方值和方差
反映随机过程t时刻平均功率
反映随机过程在时刻t对均值的偏离程度
自相关函数
协方差函数
若对任意t∈T，E(X(t))2存在，则称XT为二阶矩过程， 而称
def
BX (s,t) E[{X (s) mX (s)}{X (t) mX (t)}], s,t T