随机过程知识点汇总
随机过程知识点汇总
随机过程知识点汇总随机过程是指一组随机变量{X(t)}，其中t属于某个集合T，每个随机变量X(t)都与一个时刻t相关联。
２．随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程是指在离散的时间点上取值的随机过程，例如随机游走。
连续时间随机过程是指在连续的时间区间上取值的随机过程，例如XXX运动。
３．随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。
均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。
自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。
４．平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。
弱平稳随机过程的自相关函数只与时间差有关，而不依赖于具体的时间点。
强平稳随机过程的概率分布在时间上是不变的。
５．高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。
高斯随机过程的均值函数和自相关函数可以唯一确定该过程。
６．马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下，未来状态的条件概率分布只依赖于当前状态，而与过去状态无关的随机过程。
马尔可夫性质可以用转移概率矩阵描述，并且可以用马尔可夫链来建模。
７．泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。
泊松过程的重要性质是独立增量和平稳增量。
８．随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。
例如，布朗运动被广泛应用于金融学中的期权定价，马尔可夫链被应用于自然语言处理中的语言模型。
t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))]，其中Zs和Zt是Z在时刻s和t的取值。
复随机过程是由实部和虚部构成的随机过程，其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。
协方差函数和相关函数也可以类似地计算得到。
复随机过程在通信系统中有广泛的应用，例如调制解调、信道编解码等。
随机过程知识点汇总3
第一章随机过程的基本概念与基本类型一. 随机变量及其分布1随机变量X，分布函数F(x)二P(X < x)X连续型随机变量X的概率分布用概率密度 f (x) 分布函数F(x)二f (t)dt2. n维随机变量X =(X i,X2，…，X n)其联合分布函数F(x) H F a’X?，…，X n) =P(X1空X-X2乞x2,…，X n乞x n,)离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量X EX =二x k p k连续型随机变量X EX二"xf (x)dx匚方差：DX = E(X -EX)2二EX2-(EX)2反映随机变量取值的离散程度协方差(两个随机变量X,Y )：B XY =E[(X — EX)(Y —EY)] =E(XY) — EX .EY独立=不相关：=:-=0予oO 予离散g(t)二' e iX k P k 连续g(t) e iX f (x)dx'J重要性质：g(0)=1 , g(t) <1 , g(—t)=g(t) , g k(0)=i k EX k5 •常见随机变量的分布列或概率密度、期望、方差0 —1分布P(X =1) =p,P(X =0) =q EX二p DX = p q二项分布k k n -kP(X = k) = C n p q EX=np DX=n pq泊松分布-kP(X =k) =e EXk!DX=扎均匀分布略离散型随机变量X的概率分布用分布列P k 二P(X 二X k)分布函数F(x) = 7 P k相关系数(两个随机变量X,Y )：B XYDX DY若'=0，则称X,Y不相关。
4 .特征函数g(t)二E(e itX)6.N 维正态随机变量 X =(X ,,X 2^ ,X n )的联合概率密度II T A.f(X i ,X 2, ,X n )二 ---------- n-exo{(x-a) B (x-a)} 2 (2 二)2|B|2a =(a .,a 2,…，aj , x =(x i , X 2，…，X n ), B = (b ij )nn 正定协方差阵二•随机过程的基本概念 1•随机过程的一般定义设r 1, P)是概率空间，T 是给定的参数集，若对每个r T ,都有一个随机变量 X 与之对应, 则称随机变量族fx (t,e),t ・T /是 (JP)上的随机过程。
随机过程知识点总结
∈
且
∑ = 1
∈
矩阵表示
= ()
3、 各状态平均返回时间
=
1
第五章 连续时间马尔可夫链
1、 转移概率 (, ) = {( + ) = |() = }
齐次转移概率 (, ) = ()
2、 转移速率
()
() = ∑ , ≥ 0
=1
[()] = [1 ]；[()] =
[12]
第四章 马尔可夫链
4.1 马尔可夫链概念与状态转移概率
1、
2、
马尔可夫过程：未来状态只与当前状态有关，而与过去状态无关。
时间、状态都是离散的，称为马尔可夫链。
马尔可夫链的统计特性完全由条件概率{+1 = +1 | = }确定。
随机矩阵：各元素非负且各行元素之和为 1；
步转移矩阵是随机矩阵；
闭集 C 上所有状态构成的步转移矩阵仍是随机矩阵。
周期为的不可约马氏链，其状态空间可唯一地分解为个互不相交的子集之和，即
−1
= ⋃ , ∩ = ∅, ≠
=0
且使得自 中任一状态出发，经一步转移必进入+1 中( = 0 )。
[ ( + ) − ()] −[ (+)− ()]
!
+
( + ) − () = ∫
()
相较与齐次泊松过程 → ( + ) − ()
5、 复合泊松过程（独立增量过程）
是由对泊松过程的每一点赋予一独立同分布的随机变量而得的随机过程。
=1
′′ (0)(− 2 )
第一讲随机过程的概念
随机过程的基本知识
引例：热噪声电压
一、随机过程的定义
定义1 设E是一随机实验,样本空间S={e}，T为参数集
若对每个eS ,X(e,t)都是实值函数, 则称{X(e,t),t T}
为随机过程，简记为X(t),t T 或X(t),也可记为X(t).
称族中每一个函数称为这个随机过程的样本函数。
样本函数： xi (t ) a cos( t i ) , i (0 , 2 )
状态空间:I=（-a，a）
例3: 掷骰子试验
伯努利过程 （伯努利随机序列）
以上都是随机过程，状态空间都是:I={1，2，3，4，5，6}
二、随机过程的分类
离散型随机过程
1. 依状态离散还是连续分为：
s, t 0, C X ( s, t ) DX [min{s, t }].
④ C X ( s, t ) Cov( X ( s), X (t ))
E[ X ( s) X ( s)][X (t ) X (t )]
为{X(t),tT}的协方差函数.
⑤ Rx(s,t)=E[X(s)X(t)]为{X(t),tT}的自相关函数, 简称相关函数
诸数字特征的关系：
X (t ) f ( x, t )
称 f ( x, t ) 为随机过程的一维密度函数 称{ f ( x, t ), t T } 为一维密度函数族.
X t 0 ，其中 X Y ( t ) te 例4 设随机过程
e( ) ，求
{Y (t ),t 0}的一维密度函数
y P( X ln ) , t 解： F ( y; t ) P[Y (t ) y ] P(te y ) 0 ,
第二章 随机过程汇总
第 2 章 随机过程2.1 引言•确定性信号是时间的确定函数，随机信号是时间的不确定函数。
•通信中干扰是随机信号，通信中的有用信号也是随机信号。
•描述随机信号的数学工具是随机过程，基本的思想是把概率论中的随机变量的概念推广到时间函数。
2.2 随机过程的统计特性一.随机过程的数学定义：•设随机试验E 的可能结果为)(t g ，试验的样本空间S 为{x 1(t), x 2(t)， …, x n (t),…}， x i (t)是第i 次试验的样本函数或实现，每次试验得到一个样本函数，所有可能出现的结果的总体就构成一随机过程，记作)(t g 。
随机过程举例：二.随机过程基本特征其一，它是一个时间函数；其二，在固定的某一观察时刻1t ，)(1t g 是随机变量。
随机过程具有随机变量和时间函数的特点。
● 随机过程)(t g 在任一时刻都是随机变量； ● 随机过程)(t g 是大量样本函数的集合。
三.随机过程的统计描述设)(t g 表示随机过程，在任意给定的时刻T t ∈1， )(1t g 是一个一维随机变量。
1.一维分布函数：随机变量)(t g 小于或等于某一数值x 的概率，即})({);(1x t g P t x P ≤= 2.2.12.一维概率密度函数:一维概率分布函数对x 的导数.xt x P t x p ∂∂=);(),(11 2.2.2 3.对于任意两个时间1t 和2t ,随机过程的对应的抽样值)(1t g )(2t g 为两个随机变量.他们的联合分布定义为)(t g 的二维分布})(;)({),;,(221121212x t g x t g P t t x x P ≤≤= 2.2.34.二维分布密度定义为212121221212),;,(),;,(x x t t x x P t t x x p ∂∂∂=2.2.4四.随机过程的一维数字特征设随机过程)(t g 的一维概率密度函数为),(1t x p .1.数学期望(Expectation)dx t x xp t g E t g );()]([)(1⎰∞∞-==μ 2.2.52.方差(Variance)dx t x p t x t t g E t g Var t g g g ),()]([]))()([()]([)(1222μμσ-=-==⎰∞∞- 2.2.6五.随机过程的二维数字特征1.自协方差函数(Covariance)•21212122211221121),;,())())((())]()())(()([(),(dx dx t t x x p t x t x t t g t t g E t t C g g g g g μμμμ--=--=⎰⎰∞∞-∞∞- 2.2.72. 自相关函数(Autocorrelation)•2121212212121),;,()]()([),(dx dx t t x x p x x t g t g E t t R g ⎰⎰∞∞-∞∞-== 2.2.83.自相关函数和自协方差函数的关系)]([)]([),(),(212121t g E t g E t t R t t C g g •-= 2.2.9 4.设两个随机过程分别为)(),(t h t g ,在时刻1t 和2t ,对)(),(t h t g 抽样,两个随机过程的互相关函数(Cross-correlation)定义为)]()([),(2121t h t g E t t R gh = 2.2.105.两个随机过程的互协方差函数(Cross-covariance)定义为)]()())(()([(),(221121t t h t t g E t t C h g gh μμ--= 2.2.112.3 平稳随机过程一.狭义平稳的随机过程(严平稳的随机过程)对于任意的正整数n 和实数τ,若随机过程)(t g 的n 维概率密度函数满足),,;,,(),,;,,,(21212121n n n n n n t t t x x x p t t t x x x p ⋅⋅⋅⋅⋅⋅=+⋅⋅⋅++⋅⋅⋅τττ 2.3.1则称)(t g 为狭义平稳的随机过程.统计特性不随时间的推移而变化的随机过程称为平稳随机过程。
随机过程知识点总结
知识点总结第1章 概率论基础1.1概论空间随机试验，它是指其结果不能事先确定且在相同条件下可以重复进行的试验。
其中，一个试验所有可能出现的结果的全体称为随机试验的样本空间，记为Ω，试验的一个结果称为样本点，记为ω，即}{ω=Ω. 样本空间的某个子集称为随机事件，简称事件.定义1.1.1 设Ω样本空间，是Ω的某些子集构成的集合，如果：（1）∈Ω （2）若∈A ，则∈A（3）若∈n A ，，， ,21n =则∈∞= 1n nA那么称为一事件域，也称为σ域.显然，如果是一事件域，那么（1）∈φ（2）若∈B A ,，则∈-B A（3）若∈n A ， ∞==1n n 2,1n A ，则，，定义 1.1.2 设Ω是样本空间，是一事件域，定义在上的实值函数)(⋅P 如果满足：（1）∈∀A 0)(,≥A P ，（2）1)(=ΩP ， （3）若∈n A ,,2,1, =n 且,,2,1,,, =≠=j i j i A A j i φ则∞=∞=∑=11)()(n n n n A P A P那么称P 是二元组（,Ω)上的概率，称P (A )为事件A 的概率，称三元组,(Ω),P 为概率空间。
关于事件的概率具有如下性质：（1）;0)(=φP（2）若∈nA ,,,2,1,,,,,,2,1,n j i j i A A n i j i =≠==φ 则ni ni i i A P A P 11)()(==∑=（3）若∈B A ,,,B A ⊂则）A P B P A B P ()()(-=-（4）若∈B A ,)()(,,B P A P B A ≤⊂则； （5）若∈A ;1)(,≤A P 则（6）若∈A );(1)(,A P A P -=则（7）若∈n A ,,2,1, =n 则∞=∞=∑≤11)()(n n n i A P A P（8）若∈i A ,,,2,1,n i =则-===∑ ni ni i i A P A P 11)()(∑∑≤<≤≤<<≤--+-+nj i nk j i n n kj ij i A A A P A A A P A A P 11211)()1()()(一列事件∈n A ,2,1,=n 称为单调递增的事件列，如果;,2,1,1 =⊂+n A A n n 一列事件∈n A ,2,1,=n 称为单调递减的事件列，如果,2,1,1=⊃+n A A n n .定理1.1.1 设 ∈n A ,2,1,=n（1）若 ,2,1,=n A n 是单调递增的事件列，则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P （2）若 ,2,1,=n A n 是单调递减的事件列，则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P 定义1.1.3.设,(Ω),P 为一概率空间，∈B A ,.且,0)(>A P 则称)()()(A P AB P A B P =为在事件A 发生的条件下事件B 发生的条件概率.不难验证，条件概率)|(A P ⋅符合定义1.1.2中的三个条件，即 （1）∈∀B , 0)|(≥A B P ；（2）;1)|(=ΩA P （3）设∈n B ,,2,1,,,,2,1, =≠==j j i B B n j i φ则∞=∞=∑=11)|()|(n n n n A B P A B P定理 1.1.2. 设，Ω( ),P 是一概率空间，有： （1）（乘法公式）若∈i A ，,,,2,1n i =且0)(121>-n A A A P ，则)|()()(12121A A P A P A A A P n =(2)（全概率公式）设∈A ,∈iB ,,2,1,0)(, =>i B P i 且∞=⊃=≠=1,,,2,1,,,,i i j i A B j i j i B B φ则∑∞==1)|()()(i i i B A P B P A P（3）（贝叶斯(Bayes)公式）且∈A ∈>i B A P ,0)(,，,,2,1,0)( =>i B P i且 ∞=⊃==1,,,2,1,,i i j i A B j i B B φ则,2,1,)|()()|()()|(1==∑∞=i B A P B P B A P B P A B P j jji i i定义 1.1.4设,(Ω ),P 为一概率空间，,,,2,1,n i F A i =∈如果对于任意的)1(n k k ≤<及任意的,12n i i i k i ≤<<<≤ 有)()()()(2121k k i i i i i i A P A P A P A A A P =则称n 21,,,A A A 相互独立。
概率统计与随机过程 知识点总结--最终版
《概率统计与随机过程》知识总结第1章 随机事件及其概率一、随机事件与样本空间 1、随机试验我们将具有以下三个特征的试验称为随机试验，简称试验， （1）重复性：试验可以在相同的条件下重复进行；（2）多样性：试验的可能结果不止一个，并且一切可能的结果都已知； （3）随机性：在每次试验前，不能确定哪一个结果会出现。
随机试验一般用大写字母E 表示，随机试验中出现的各种可能结果称为试验的基本结果。
2、样本空间随机试验E 的所有可能结果组成的集合称为试验的样本空间，记为S ，样本空间中的元素，即E 的每个基本结果，称为样本点。
3、随机事件称随机试验E 的样本空间S 的子集为E 的随机事件，简称事件。
随机事件通常利用大写字母A 、B 、C 等来表示。
在一次试验中，当且仅当这一子集（事件）中的某个样本点出现时，称这一事件发生。
特别地，将只含有一个样本点的事件称为基本事件；样本空间S 包含所有的样本点，它在每次试验中都发生，称S 为必然事件；事件∅（S ∅⊂）不包含任何样本点，它在每次试验中都不发生，称∅为不可能事件。
4、随机事件间的关系及运算（1）包含关系：若B A ⊂，则称事件A 包含事件B ，也称事件B 含在事件A 中，它表示：若事件B 发生必导致事件A 发生。
（2）相等关系：若B A ⊂且A B ⊂，则称事件A 与事件B 相等，记为A B =。
（3）事件的和：称事件{|A B x x A ⋃=∈或}x B ∈为事件A 与事件B 的和事件。
事件A B ⋃发生意味着事件A 发生或事件B 发生，即事件A 与事件B 至少有一件发生。
类似地，称1n i i A =⋃为n 个事件12n A A A ⋯、、、的和事件，称1i i A ∞=⋃为可列个事件12 A A ⋯、、的和事件。
（4）事件的积：称事件{|A B x x A ⋂=∈且}x B ∈为事件A 与事件B 的积事件。
事件A B ⋂发生意味着事件A 发生且事件B 发生，即事件A 与事件B 都发生。
概率统计与随机过程 知识点总结--最终版
《概率统计与随机过程》知识总结第1章 随机事件及其概率一、随机事件与样本空间 1、随机试验我们将具有以下三个特征的试验称为随机试验，简称试验， （1）重复性：试验可以在相同的条件下重复进行；（2）多样性：试验的可能结果不止一个，并且一切可能的结果都已知； （3）随机性：在每次试验前，不能确定哪一个结果会出现。
随机试验一般用大写字母E 表示，随机试验中出现的各种可能结果称为试验的基本结果。
2、样本空间随机试验E 的所有可能结果组成的集合称为试验的样本空间，记为S ，样本空间中的元素，即E 的每个基本结果，称为样本点。
3、随机事件称随机试验E 的样本空间S 的子集为E 的随机事件，简称事件。
随机事件通常利用大写字母A 、B 、C 等来表示。
在一次试验中，当且仅当这一子集（事件）中的某个样本点出现时，称这一事件发生。
特别地，将只含有一个样本点的事件称为基本事件；样本空间S 包含所有的样本点，它在每次试验中都发生，称S 为必然事件；事件∅（S ∅⊂）不包含任何样本点，它在每次试验中都不发生，称∅为不可能事件。
4、随机事件间的关系及运算（1）包含关系：若B A ⊂，则称事件A 包含事件B ，也称事件B 含在事件A 中，它表示：若事件B 发生必导致事件A 发生。
（2）相等关系：若B A ⊂且A B ⊂，则称事件A 与事件B 相等，记为A B =。
（3）事件的和：称事件{|A B x x A ⋃=∈或}x B ∈为事件A 与事件B 的和事件。
事件A B ⋃发生意味着事件A 发生或事件B 发生，即事件A 与事件B 至少有一件发生。
类似地，称1n i i A =⋃为n 个事件12n A A A ⋯、、、的和事件，称1i i A ∞=⋃为可列个事件12 A A ⋯、、的和事件。
（4）事件的积：称事件{|A B x x A ⋂=∈且}x B ∈为事件A 与事件B 的积事件。
事件A B ⋂发生意味着事件A 发生且事件B 发生，即事件A 与事件B 都发生。
随机过程知识点汇总52047
第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X ， 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=kpx F )(连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k kp xEX 连续型随机变量X ⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数（两个随机变量Y X ,）：DYDX B XY XY ⋅=ρ 若0=ρ，则称Y X ,不相关。
独立⇒不相关⇔0=ρ４．特征函数)()(itXeE t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0(５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 kn k k n q p C k X P -==)( np EX = npq DX =泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X)}()(21ex p{||)2(1),,,(121221a x B a x B x x x f T nn ---=-π),,,(21n a a a a =，),,,(21n x x x x =，n n ij b B ⨯=)(正定协方差阵二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间，T 是给定的参数集，若对每个T t ∈，都有一个随机变量X 与之对应，则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。
随机过程例题和知识点总结
随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学理论，在通信、金融、物理等众多领域都有广泛的应用。
接下来，我们通过一些例题来深入理解随机过程的相关知识点。
一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量对应于一个特定的时间点。
例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，股票价格就是一个随机变量。
知识点 1：随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程的时间参数是离散的，比如每天的股票收盘价；连续时间随机过程的时间参数是连续的，比如股票价格在任意时刻的取值。
知识点 2：随机过程的概率分布描述随机过程在不同时刻的概率分布是研究随机过程的重要内容。
对于离散随机过程，常用概率质量函数；对于连续随机过程，常用概率密度函数。
例题 1假设一个离散时间随机过程{Xn}，n ＝ 0, 1, 2, ，其中 Xn 取值为 0 或 1，且 P(Xn ＝ 0) ＝ 06，P(Xn ＝ 1) ＝ 04，求 X0 和 X1 的联合概率分布。
解：X0 和 X1 的可能取值组合有(0, 0)、（0, 1)、（1, 0)、（1, 1)。
P(X0 ＝ 0, X1 ＝ 0) ＝ P(X0 ＝ 0) × P(X1 ＝ 0) ＝ 06 × 06 ＝ 036P(X0 ＝ 0, X1 ＝ 1) ＝ P(X0 ＝ 0) × P(X1 ＝ 1) ＝ 06 × 04 ＝ 024P(X0 ＝ 1, X1 ＝ 0) ＝ P(X0 ＝ 1) × P(X1 ＝ 0) ＝ 04 × 06 ＝ 024P(X0 ＝ 1, X1 ＝ 1) ＝ P(X0 ＝ 1) × P(X1 ＝ 1) ＝ 04 × 04 ＝ 016二、随机过程的数字特征数字特征可以帮助我们更简洁地描述随机过程的某些重要性质。
随机过程知识点汇总3
第一章随机过程的基本概念与基本类型一. 随机变量及其分布1随机变量X，分布函数F(x)二P(X < x)X连续型随机变量X的概率分布用概率密度 f (x) 分布函数F(x)二f (t)dt2. n维随机变量X =(X i,X2，…，X n)其联合分布函数F(x) H F a’X?，…，X n) =P(X1空X-X2乞x2,…，X n乞x n,)离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量X EX =二x k p k连续型随机变量X EX二"xf (x)dx匚方差：DX = E(X -EX)2二EX2-(EX)2反映随机变量取值的离散程度协方差(两个随机变量X,Y )：B XY =E[(X — EX)(Y —EY)] =E(XY) — EX .EY独立=不相关：=:-=0予oO 予离散g(t)二' e iX k P k 连续g(t) e iX f (x)dx'J重要性质：g(0)=1 , g(t) <1 , g(—t)=g(t) , g k(0)=i k EX k5 •常见随机变量的分布列或概率密度、期望、方差0 —1分布P(X =1) =p,P(X =0) =q EX二p DX = p q二项分布k k n -kP(X = k) = C n p q EX=np DX=n pq泊松分布-kP(X =k) =e EXk!DX=扎均匀分布略离散型随机变量X的概率分布用分布列P k 二P(X 二X k)分布函数F(x) = 7 P k相关系数(两个随机变量X,Y )：B XYDX DY若'=0，则称X,Y不相关。
4 .特征函数g(t)二E(e itX)6.N 维正态随机变量 X =(X ,,X 2^ ,X n )的联合概率密度II T A.f(X i ,X 2, ,X n )二 ---------- n-exo{(x-a) B (x-a)} 2 (2 二)2|B|2a =(a .,a 2,…，aj , x =(x i , X 2，…，X n ), B = (b ij )nn 正定协方差阵二•随机过程的基本概念 1•随机过程的一般定义设r 1, P)是概率空间，T 是给定的参数集，若对每个r T ,都有一个随机变量 X 与之对应, 则称随机变量族fx (t,e),t ・T /是 (JP)上的随机过程。
第3章 随机过程重点
4、广义平稳随机过程的自相关函数 的性质：
(1) ；(2)R(0)等于总平均功率；(3) ，即R(0)为最大值；(4) ，即 表示直流功率；(5) ，即 为交流功率。
5、高斯随机过程的性质：
高斯过程的概率分布服从正态分布，它的完全统计描述只需要它的数字特征。其一维分布的概率密度函数为 ，其中a为均值，即对称轴，表示分布中心； 为方差，表示集中程度，f(x)随 的减小二变高、变窄； ， ， ；当a=0 时，f(x)为标准的正态分布。
如随机过程的均值为常数且自相关函数平稳随机过程的一些性质平稳随机过程的统计特性不随时间的推移而不同其一维分布与时间t无关二维分布只与时间间隔有关
通信原理各章重点
第三章随机过程
1、随机过程是一类随时间作随机变化的过程，它不能用确切的时间函数描述。
2、随机过程的描述
随机过程的统计特性由其分布函数或概率密度函数描述。若一个随机过程的统计特性与时间起点无关，则称为严平稳随机过程。
数字特征是描述随机过程的一种简洁手段。如随机过程的均值为常数，且自相关函数 ，则称其为严平稳随机过程。
3、平稳随机过程的一些性质
平稳随机过程的统计特性不随时间的推移而不同，其一维分布与时间t无关，二维分布只与时间间隔 有关。
若一个随机过程是严平稳的，则它必是广义平稳的，反之不一定成立。
若一个随机过程的时间平均等于对应的统计平均，则该过程是各态历经性的。
白噪声的自相关函数 ，即白噪声只有在 时才相关，而在其他任意两个不同时刻都是不相关的。
高斯白噪声在任意两个不同时刻上的随机变量之间，不仅是互不相关的，而且是统计独立的。
带通或低通白噪声的平均功率为 ，B为通带宽度。
概率统计与随机过程-知识点总结--最终版
P(Bi ) 0(i 1, 2,L , n), 则恒有全概率公式：
n
P( A) P( A B1 )P(B1 ) P( A B2 )P(B2 ) L P( A Bn )P(Bn ) P Bi P A | Bi i 1
B 发生的概率，用古典概率公式，则
P(B
A)
AB 中基本事件数
，
SA 中基本事件数
P( AB)
AB 中基本事件数
，
S 中比 P( AB) 大。
五、事件的独立性 1、事件的相互独立性
定义：设 A，B 是两事件，如果满足等式 P( AB) P( A) P(B) ，则称事件 A，B 相互独立，
结论：
若事件 A1, A2 , L , An (n 2) 相互独立，则其中任意 k (2 k n) 个事件也是相互独立的。
2、几个重要定理
定理一：设 A, B 是两事件，且 P( A) 0 ，若 A, B 相互独立，则 P(B A) P(B).反之亦
i 1
P
Bi
A
。
3、乘法公式
由条件概率的定义： P( A | B) P( AB) 即得乘法定理： P(B)
若 P(B)>0，则 P(AB)=P(B)P(A|B)； 若 P(A)>0 ，则 P(AB)=P(A)P(B|A). 乘法定理可以推广到多个事件的积事件的情况，
-3-
设 A、B、C 为三个事件，且 P AB 0 ，且 P ABC P C | ABP B | AP A，
一般地，设有 n 个事件 A1,A2 , , An ,n 2 , 并且 P A1 A2 An1 0 ，则由条件概率的
随机过程知识点汇总
第一章随机过程的基本概念与基本类型一．随机变量及其分布1．随机变量，分布函数离散型随机变量的概率分布用分布列分布函数连续型随机变量的概率分布用概率密度分布函数2．n 维随机变量其联合分布函数离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量连续型随机变量方差：反映随机变量取值的离散程度协方差（两个随机变量）：相关系数（两个随机变量）：若，则称不相关。
独立不相关4•特征函数离散连续重要性质：，，，5 •常见随机变量的分布列或概率密度、期望、方差0 — 1分布二项分布泊松分布均匀分布略正态分布指数分布6.N维正态随机变量的联合概率密度，，正定协方差阵二.随机过程的基本概念1.随机过程的一般定义设是概率空间，是给定的参数集，若对每个，都有一个随机变量与之对应，则称随机变量族是上的随机过程。
简记为。
含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。
另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。
当固定时，是随机变量。
当固定时，时普通函数，称为随机过程的一个样本函数或轨道。
分类：根据参数集和状态空间是否可列，分四类。
也可以根据之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。
2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。
随机过程的一维分布，二维分布，…，维分布的全体称为有限维分布函数族。
随机过程的有限维分布函数族是随机过程概率特征的完整描述。
在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。
（1）均值函数表示随机过程在时刻的平均值。
（2）方差函数表示随机过程在时刻对均值的偏离程度。
（3）协方差函数且有（4）相关函数（3）和（4）表示随机过程在时刻，时的线性相关程度。
(5)互相关函数：，是两个二阶距过程，则下式称为它们的互协方差函数。
，那么，称为互相关函数。
随机过程知识点总结
第一章：考试范围1.3,1.41、计算指数分布的矩母函数.2、计算标准正态分布)1,0(~N X 的矩母函数.3、计算标准正态分布)1,0(~N X 的特征函数.第二章：1. 随机过程的均值函数、协方差函数与自相关函数2. 宽平稳过程、均值遍历性的定义及定理3. 独立增量过程、平稳增量过程，独立增量是平稳增量的充要条件1、设随机过程()Z t X Yt =+，t -∞<<∞.若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ⎡⎤⎢⎥⎣⎦，求()Z t 的协方差函数. 2、设有随机过程{(),}X t t T ∈和常数a ，()()()Y t X t a X t =+-，t T ∈，计算()Y t 的自相关函数（用(,)X R s t 表示）.3、设12()cos sin X t Z t Z t λλ=+，其中212,~(0,)Z Z N σ是独立同分布的随机变量，λ为实数，证明()X t 是宽平稳过程.4、设有随机过程()sin cos Z t X t Y t =+，其中X 和Y 是相互独立的随机变量，它们都分别以0.5和0.5的概率取值-1和1，证明()Z t 是宽平稳过程.第三章：1. 泊松过程的定义（定义3.1.2）及相关概率计算2. 与泊松过程相联系的若干分布及其概率计算3. 复合泊松过程和条件泊松过程的定义1、设{(),0}N t t ≥是参数3λ=的Poisson 过程，计算：(1). {(1)3}P N ≤； (2). {(1)1,(3)3}P N N ==； (3). {(1)2(1)1}P N N ≥≥.2、某商场为调查顾客到来的客源情况，考察了男女顾客来商场的人数. 假设男女顾客来商场的人数分别独立地服从每分钟2人与每分钟3人的泊松过程.(1)．试求到某时刻t 时到达商场的总人数的分布；(2). 在已知t 时刻有50人到达的条件下，试求其中恰有30位女性的概率，平均有多少个女性顾客？3、某商店顾客的到来服从强度为4人/小时的Poisson 过程，已知商店9：00开门，试求：(1). 在开门半小时中，无顾客到来的概率；(2). 若已知开门半小时中无顾客到来，那么在未来半小时中，仍无顾客到来的概率。
随机过程复习指南
“随机过程”复习指南一、随机过程的基本概念随机过程的基本概念，有限维分布函数，n 维概率密度函数。
随机过程的数字特征：均值函数，方差函数，协方差函数，相关函数。
几种关系：独立，不相关，正交。
几种重要的随机过程的概念：复随机过程，二阶矩过程，正交增量过程，独立增量过程，马尔可夫过程，平稳过程，正态过程。
泊松过程的有关概念：泊松过程的定义，概率分布（泊松分布），泊松过程的数字特征，时间间隔，等待时间。
马尔可夫链有关概念：定义，无后效性，转移概率，齐次马尔可夫链，初始概率，绝对概率，首中概率；状态的周期性，常返性，平均返回时间，可达，互通，基本常返闭集，平稳分布。
平稳随机过程的有关概念：严平稳和宽平稳的定义，联合平稳，时间均值，统计均值，时间相关函数，统计相关函数，各态历经性，自相关函数，功率谱密度，互相关函数，互谱密度。
二、基本原理与方法关于运算符E 的计算方法，随机过程的几个典型的数字特征（均值函数，方差函数，协方差函数，相关函数）的计算、性质以及之间的相互关系。
泊松过程的有关性质，数字特征的计算，时间间隔与等待时间的概率分布，条件概率的计算方法。
马尔可夫链的描述方式（转移概率矩阵、状态转移图），周期的判断，常返性的判断（常返态、非常返态、正常返态、零常返态、遍历态），状态空间的分解方法，平稳分布的求解。
平稳随机过程的有关概念：平稳（包括联合平稳）的判断，各态历经性的判断，自相关（互相关）函数的性质与计算，功率谱密度（互谱密度）的性质与计算。
平稳过程通过线性时不变系统后，输出过程的数字特征、平均功率、功率谱密度等分析与计算，会在简单的电路系统中求输出过程的均值、自相关、功率谱密度、平均功率等。
三、思考题1. 各章布置的作业题和讲授的例题。
2. 设随机过程∞<<∞-Φ+=t t A t X , )cos()(ω，式中A 和ω是常数，Φ是在（0, 2π）上具有均匀分布的随机变量，求该随机过程的均值、方差和相关函数。
通信原理（第七版）-樊昌信-第三章-随机过程-重要知识点
通信原理（第七版）-樊昌信-第三章-随机过程-重要知识点⼀.⼀些必须知道的：1.均值（数学期望）（详情：）：2.⽅差：3.协⽅差函数和相关函数：3.1协⽅差函数：3.2相关函数：3.3关系：4.性质：⼆、正题：1.严平稳与⼴义平稳：1.1 严平稳：1.2 ⼴义平稳：1.3 关系：严平稳⼀定是⼴义平稳，反之不⼀定成⽴。
2.各态历经性：平稳⼀定具有各态历经性反之不⼀定成⽴；3.⾃相关函数的性质（重点）4.维纳⾟钦定理（重点）：平稳随机过程的⾃相关函数和功率谱密度是⼀对傅⾥叶变换。
（注意：是 R（时域）<---->P（频域））5.⾼斯随机过程：5.1性质：5.2⼀维概率密度函数：5.2.1图像性质5.3误差函数和互补误差函数：5.3.1误差函数：5.3.2互补误差函数：6.平稳随机过程通过线性系统：7.窄带随机过程：7.1 定义：△f << fc7.2 表达式（包络-相位形式）：（同向-正交形式）：8.两个重要结论：9.⽩噪声：9.1 定义：噪声功率谱密度在所有频率为⼀常数（实际中为噪声功率谱密度范围远⼤于⼯作频带时候）9.2 噪声功率谱密度：单边：Pn（f） = n0; 双边：Pn（f） = n0/2;9.3 带限⽩噪声：9.3.1 低通：9.3.2 带通：9.4 功率： N = n0 * B （BPF的带宽）（或者N = n0/2 * 2*B （BPF的带宽））三、⼀些题⽬和不容易理解以及总结：1.不易理解的：2.离散的怎么算：3.总结：3.1 算平均功率：1） R(0)；2）3）3.2 算⽅差：1）E（X²） - E²（X）2）R(0) - R(∞)3）E[ [X-E(X)]² ]。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第一章 随机过程得基本概念与基本类型一.随机变量及其分布1.随机变量, 分布函数离散型随机变量得概率分布用分布列 分布函数连续型随机变量得概率分布用概率密度 分布函数2.n 维随机变量其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤==离散型 联合分布列 连续型 联合概率密度３.随机变量得数字特征数学期望:离散型随机变量 连续型随机变量方差: 反映随机变量取值得离散程度协方差(两个随机变量):相关系数(两个随机变量): 若,则称不相关。
独立不相关４.特征函数 离散 连续重要性质:,,,５.常见随机变量得分布列或概率密度、期望、方差０－１分布二项分布泊松分布 均匀分布略正态分布指数分布６.Ｎ维正态随机变量得联合概率密度)}()(21ex p{||)2(1),,,(121221a x B a x B x x x f T nn ---=-π ,,正定协方差阵二.随机过程得基本概念１.随机过程得一般定义设就是概率空间,就是给定得参数集,若对每个,都有一个随机变量与之对应,则称随机变量族就是上得随机过程。
简记为。
含义:随机过程就是随机现象得变化过程,用一族随机变量才能刻画出这种随机现象得全部统计规律性。
另一方面,它就是某种随机实验得结果,而实验出现得样本函数就是随机得。
当固定时,就是随机变量。
当固定时,时普通函数,称为随机过程得一个样本函数或轨道。
分类:根据参数集与状态空间就是否可列,分四类。
也可以根据之间得概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。
２.随机过程得分布律与数字特征用有限维分布函数族来刻划随机过程得统计规律性。
随机过程得一维分布,二维分布,…,维分布得全体称为有限维分布函数族。
随机过程得有限维分布函数族就是随机过程概率特征得完整描述。
在实际中,要知道随机过程得全部有限维分布函数族就是不可能得,因此用某些统计特征来取代。
(１)均值函数 表示随机过程在时刻得平均值。
(２)方差函数表示随机过程在时刻对均值得偏离程度。
(３)协方差函数 且有(４)相关函数 (3)与(4)表示随机过程在时刻,时得线性相关程度。
(５)互相关函数:,就是两个二阶距过程,则下式称为它们得互协方差函数。
,那么,称为互相关函数。
若,则称两个随机过程不相关。
３.复随机过程均值函数 方差函数协方差函数相关函数４.常用得随机过程(１)二阶距过程:实(或复)随机过程,若对每一个,都有(二阶距存在),则称该随机过程为二阶距过程。
(2)正交增量过程:设就是零均值得二阶距过程,对任意得,有,则称该随机过程为正交增量过程。
其协方差函数(3)独立增量过程:随机过程,若对任意正整数,以及任意得,随机变量就是相互独立得,则称就是独立增量过程。
进一步,如就是独立增量过程,对任意,随机变量得分布仅依赖于,则称就是平稳独立增量过程。
(4)马尔可夫过程:如果随机过程具有马尔可夫性,即对任意正整数及,,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称就是马尔可夫过程。
(5)正态过程:随机过程,若对任意正整数及,就是n 维正态随机变量,其联合分布函数就是n 维正态分布函数,则称就是正态过程或高斯过程。
(6)维纳过程:就是正态过程得一种特殊情形。
设为实随机过程,如果,①;②就是平稳独立增量过程;③对任意增量服从正态分布,即。
则称为维纳过程,或布朗运动过程。
另外:①它就是一个Markov 过程。
因此该过程得当前值就就是做出其未来预测中所需得全部信息。
②维纳过程具有独立增量。
该过程在任一时间区间上变化得概率分布独立于其在任一得其她时间区间上变化得概率。
③它在任何有限时间上得变化服从正态分布,其方差随时间区间得长度呈线性增加。
(7)平稳过程: 严(狭义)平稳过程:,如果对任意常数与正整数及,,与有相同得联合分布,则称就是严(狭义)平稳过程。
广义平稳过程:随机过程,如果①就是二阶距过程;②对任意得, ;③对任意,,或仅与时间差有关。
则满足这三个条件得随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。
第二章 泊松过程一.泊松过程得定义(两种定义方法)１,设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。
①;②独立增量过程,对任意正整数,以及任意得相互独立,即不同时间间隔得计数相互独立;③在任一长度为得区间中,事件Ａ发生得次数服从参数得得泊松分布,即对任意,有,,表示单位时间内时间Ａ发生得平均个数,也称速率或强度。
２,设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。
①;②独立、平稳增量过程;③。
第三个条件说明,在充分小得时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性。
二.基本性质１,数字特征推导过程要非常熟悉２,表示第事件Ａ发生到第次事件发生得时间间隔,就是时间序列,随机变量服从参数为得指数分布。
概率密度为,分布函数均值为证明过程也要很熟悉 到达时间得分布 略三.非齐次泊松过程 到达强度就是得函数①;②独立增量过程;③。
不具有平稳增量性。
均值函数定理:就是具有均值为得非齐次泊松过程,则有{}{}[()()]()()exp [()()]!nX X X X m t s m t P X t s X t n m t s m t n +-+-==-+- 四.复合泊松过程设就是强度为得泊松过程,就是一列独立同分布得随机变量,且与独立,令 则称为复合泊松过程。
重要结论: 就是独立增量过程;若,则,第五章 马尔可夫链泊松过程就是时间连续状态离散得马氏过程,维纳过程就是时间状态都连续得马氏过程。
时间与状态都离散得马尔可夫过程称为马尔可夫链。
马尔可夫过程得特性:马尔可夫性或无后效性。
即:在过程时刻所处得状态为已知得条件下,过程在时刻所处状态得条件分布与过程在时刻之前所处得状态无关。
也就就是说,将来只与现在有关,而与过去无关。
表示为 {}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一.马尔可夫链得概念及转移概率1.定义:设随机过程,对任意得整数与任意得,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称为马尔可夫链。
马尔可夫链得统计特性完全由条件概率所决定。
2.转移概率 相当于随机游动得质点在时刻处于状态得条件下,下一步转移到得概率。
记为。
则称为马尔可夫链在时刻得一步转移概率。
若齐次马尔可夫链,则与无关,记为。
称为系统得一步转移矩阵。
性质:每个元素,每行得与为1。
3.步转移概率= ;称为步转移矩阵。
重要性质:① 称为方程,证明中用到条件概率得乘法公式、马尔可夫性、齐次性。
掌握证明方法:{}{}{}{}{}{}{}{}{} ()()()()(),,,,,,,()()m m nnij m n mmm m l m nk T mm m l m n m m l k T m m l mn l l l n lkj ik ik kjk I k IP X i X jp P X j X iP X iP X i X k X jP X iP X i X k X j P X i X k P X i X k P X i p m l p m p p++++∈+++∈+--∈∈================= =⋅=== =+⋅=⋅∑∑∑∑②说明步转移概率矩阵就是一步转移概率矩阵得次乘方。
4.就是马尔可夫链,称为初始概率,即0时刻状态为得概率;称为绝对概率,即时刻状态为得概率。
为初始概率向量,为绝对概率向量。
定理:①矩阵形式:②定理: 说明马氏链得有限维分布完全由它得初始概率与一步转移概率所决定。
二.马尔可夫链得状态分类1.周期:自某状态出发,再返回某状态得所有可能步数最大公约数,即。
若,则称该状态就是周期得;若,则称该状态就是非周期得。
2.首中概率:表示由出发经步首次到达得概率。
3.表示由出发经终于(迟早要)到达得概率。
4.如果,则状态就是常返态;如果,状态就是非常返(滑过)态。
5.表示由出发再返回到得平均返回时间。
若,则称就是正常返态;若,则称就是零常返态。
非周期得正常返态就是遍历状态。
6.状态就是常返充要条件就是;状态就是非常返充要条件就是。
7.称状态与互通,。
如果,则她们同为常返态或非常返态,;若,同为常返态,则她们同为正常返态或零常返态,且,有相同得周期。
8.状态就是遍历状态得充要条件就是。
一个不可约得、非周期得、有限状态得马尔可夫链就是遍历得。
9.要求:熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态。
三.状态空间得分解1.设就是状态空间得一个闭集,如果对任意得状态,状态,都有(即从出发经一步转移不能到达),则称为闭集。
如果得状态互通,则称就是不可约得。
如果状态空间不可约,则马尔可夫链不可约。
或者说除了之外没有其她闭集,则称马尔可夫链不可约。
2.为闭集得充要条件就是:对任意得状态,状态,都有。
所以闭集得意思就是自得内部不能到达得外部。
意味着一旦质点进入闭集中,它将永远留在中运动。
如果,则状态为吸收得。
等价于单点为闭集。
3.马尔可夫链得分解定理:任一马尔可夫链得状态空间,必可唯一地分解成有限个互不相交得子集得与,①每一个都就是常返态组成得不可约闭集;②中得状态同类,或全就是正常返态,或全就是零常返态,有相同得周期,且。
③就是由全体非常返态组成。
分解定理说明:状态空间得状态可按常返与非常返分为两类,非常返态组成集合,常返态组成一个闭集。
闭集又可按互通关系分为若干个互不相交得基本常返闭集。
含义:一个马尔可夫链如果从中某个非常返态出发,它或者一直停留在中,或某一时刻进入某个基本常返闭集,一旦进入就永不离开。
一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集,永远在该闭集中运动。
4.有限马尔可夫链:一个马尔可夫链得状态空间就是一个有限集合。
性质:①所有非常返态组成得集合不就是闭集;②没有零常返态;③必有正常返态;④状态空间,就是非常返集合,就是正常返集合。
不可约有限马尔可夫链只有正常返态。
四.得渐近性质与平稳分布1.为什么要研究转移概率得遍历性？研究当时得极限性质,即得极限分布,包含两个问题:一就是就是否存在;二就是如果存在,就是否与初始状态有关。
这一类问题称作遍历性定理。
如果对,存在不依赖于得极限,则称马尔可夫链具有遍历性。