概率论与随机过程考点总结
北邮概率论与随机过程笔记
![北邮概率论与随机过程笔记](https://img.taocdn.com/s3/m/17065577a22d7375a417866fb84ae45c3b35c238.png)
北邮概率论与随机过程笔记北邮概率论与随机过程笔记第一章绪论1.1 概率论的起源与发展1.2 概率的基本概念1.3 概率论的应用领域1.4 随机过程的起源与发展1.5 随机过程的基本概念1.6 随机过程的应用领域第二章概率论的基本概念2.1 随机试验与随机事件2.2 频率与概率2.3 古典概型2.4 贝叶斯概型2.5 随机变量2.6 随机变量的函数及其分布2.7 条件概率与条件分布2.8 独立性第三章随机变量及其分布3.1 离散型随机变量及其分布3.2 连续型随机变量及其分布3.3 随机变量的数学期望3.4 随机变量的方差与标准差3.5 随机变量的矩与生成函数3.6 概率母函数与特征函数3.7 大数定律与中心极限定理第四章多维随机变量及其分布4.1 多维随机变量及其分布函数4.2 联合分布函数与边缘分布函数4.3 多维离散型随机变量的分布4.4 多维连续型随机变量的密度4.5 条件分布与独立性4.6 随机变量的矩与协方差矩阵4.7 多维随机变量的生成函数与特征函数第五章数理统计基本概念5.1 数理统计的概念与作用5.2 参数估计与假设检验5.3 点估计与区间估计5.4 最大似然估计5.5 矩估计5.6 假设检验5.7 重要的假设检验第六章随机过程基本概念6.1 随机过程的概念与分类6.2 随机过程的样本函数与轨道6.3 随机过程的数学描述6.4 平稳性与各态平衡性6.5 随机过程的独立增量性与平稳增量性第七章随机过程的数学描述7.1 随机过程的数学描述7.2 随机过程的分布函数、密度函数与生成函数7.3 平稳随机过程的均值序列与相关函数7.4 广义平稳随机过程7.5 随机过程的协方差函数与自相关函数7.6 平稳随机过程的功率谱第八章马尔可夫链8.1 马尔可夫链的概念8.2 马尔可夫链的数学描述8.3 长期行为与不可约性8.4 平稳分布与转移概率矩阵8.5 极限分布与转移概率8.6 马尔可夫链的细致平衡方程第九章扩散过程9.1 扩散过程的概念与分类9.2 布朗运动与维纳过程9.3 平稳扩散过程与布朗桥9.4 非平稳扩散过程9.5 随机微分方程及其应用第十章随机过程的数值计算10.1 随机过程的模拟方法10.2 马尔可夫链模拟10.3 扩散过程的数值模拟第十一章随机过程的应用11.1 队列论与排队模型11.2 信道容量与信息论11.3 金融工程与随机过程11.4 生物与生态系统中的随机过程11.5 电力系统中的随机过程第十二章最优控制问题12.1 动态规划问题与最优控制12.2 马尔可夫控制问题12.3 黑塞矩阵与二次型控制问题第十三章随机过程的其他扩展13.1 小波分析与随机过程13.2 分数阶随机过程13.3 非高斯与非马尔可夫随机过程总结:北邮的概率论与随机过程课程涵盖了概率论和随机过程的基础知识和应用,对于理解随机现象和建立数学模型具有重要的意义。
随机过程知识点汇总
![随机过程知识点汇总](https://img.taocdn.com/s3/m/2e98d617580102020740be1e650e52ea5518cec0.png)
随机过程知识点汇总随机过程是指一组随机变量{X(t)},其中t属于某个集合T,每个随机变量X(t)都与一个时刻t相关联。
2.随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程是指在离散的时间点上取值的随机过程,例如随机游走。
连续时间随机过程是指在连续的时间区间上取值的随机过程,例如XXX运动。
3.随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。
均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。
自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。
4.平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。
弱平稳随机过程的自相关函数只与时间差有关,而不依赖于具体的时间点。
强平稳随机过程的概率分布在时间上是不变的。
5.高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。
高斯随机过程的均值函数和自相关函数可以唯一确定该过程。
6.马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下,未来状态的条件概率分布只依赖于当前状态,而与过去状态无关的随机过程。
马尔可夫性质可以用转移概率矩阵描述,并且可以用马尔可夫链来建模。
7.泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。
泊松过程的重要性质是独立增量和平稳增量。
8.随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。
例如,布朗运动被广泛应用于金融学中的期权定价,马尔可夫链被应用于自然语言处理中的语言模型。
t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))],其中Zs和Zt是Z在时刻s和t的取值。
复随机过程是由实部和虚部构成的随机过程,其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。
协方差函数和相关函数也可以类似地计算得到。
复随机过程在通信系统中有广泛的应用,例如调制解调、信道编解码等。
概率统计和随机过程复习要点
![概率统计和随机过程复习要点](https://img.taocdn.com/s3/m/179943bfdaef5ef7ba0d3c93.png)
概率统计和随机过程复习要点全书11章,都是考试内容,要全面复习。
题型填空题占40%左右,计算题60%左右。
主要内容1.事件与概率,掌握事件的表示方法以及古典概型的计算;熟练掌握全概率公式和贝叶斯公式的应用(会考大题);熟练掌握条件概率公式的计算方法以及两个独立事件乘积概率等于概率乘积。
2随机变量及其分布了解随机变量;会求离散型随机变量的分布律、连续性随机变量的密度函数,分布函数;掌握六种常用的随机变量及其分布,离散的:两点分布、二项分布、泊松分布分布律,连续的:均匀分布,指数分布、正态分布的密度函数(一定要会写出)。
已知X的密度函数f(x),Y=G(X),会求Y的密度函数3.多维随机变量及其分布重点是二维随机变量边缘分布以及概率的求法;独立性判定(一般会考大题)相互独立的随机变量密度函数满足f(x,y)=f X(x)f Y(y),会判定两个随机变量是否独立。
两个随机变量函数的分布:两个随机变量和、最大值的分布密度,注意到正态分布的和、差一定是正态分布。
主要是求出它的均值与方差就可以了。
4.随机变量的数字特征数学期望定义与求法,方差,协方差以及相关系数,会判断两个随机变量是否是相关的。
掌握6种重要的随机变量的均值与方差。
5 极限定理理解切比雪夫不等式的含义,会用切比雪夫不等式估计一个事件的概率6 抽样及抽样分布理解样本、抽样、样本值等概念会求离散型随机抽样的联合分布律、连续型随机抽样的联合分密度函数掌握统计量的定义,掌握样本均值、样本方差。
掌握几种常用的抽样分布,χ2分布的数学期望与方差,χ2分布的、T分布、F分布的分位点的含义及其关系。
F分布的性质F~F(n1,n2),则1/F~F(n2,n1),,T~T(n)则T2~F(1,n).掌握正态总体样本均值、样本方差的分布,掌握定理6.1—6.4(条件,结论)7 参数估计会求一个总体分布中未知参数的矩估计与最大似然估计(估计量与估计值)(会考大题)理解估计量的评选标准,会判断一个统计量是否为未知参数的无偏估计量,掌握正态总体的均值与方差的区间估计(填空题)8假设检验假设检验的一般步骤(6个步骤)(一般会考大题)(1)原假设H0,备择假设H1,(2)检验统计量及其服从的分布;(3)拒绝域(4)计算统计量的值;并与拒绝域的临界点值比较;(5)作出判断,接受或者拒绝原假设;(6)说明意义。
概率论与随机过程考点总结
![概率论与随机过程考点总结](https://img.taocdn.com/s3/m/76d909206bec0975f565e254.png)
概率论与随机过程考点总结Company number:【0089WT-8898YT-W8CCB-BUUT-202108】第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数(两个随机变量Y X ,):DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关。
独立⇒不相关⇔0=ρ4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0(母函数:∑∞===0)()(k kk kz p z E z g !)0()(k g p k k = )1()('g X E =2''")]1([)1()1()(g g g X D -+=5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 kn k k nq p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX 6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。
概率论与随机过程考点总结
![概率论与随机过程考点总结](https://img.taocdn.com/s3/m/6eb1f27b9a6648d7c1c708a1284ac850ad0204d0.png)
第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()( 2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差两个随机变量Y X ,:EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数两个随机变量Y X ,:DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关;独立⇒不相关⇔0=ρ4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k)( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数:∑∞===0)()(k kk kzp z E z g!)0()(k g p k k =)1()('g X E =2''")]1([)1()1()(g g g X D -+=5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程;简记为{}T t t X ∈),(;含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性;另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的;当t 固定时,),(e t X 是随机变量;当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道;分类:根据参数集T 和状态空间I 是否可列,分四类; 也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等; 2.随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性;随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族;随机过程的有限维分布函数族是随机过程概率特征的完整描述;在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代;1均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值; 2方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度; 3协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =4相关函数)]()([),(t X s X E t s R X = 3和4表示随机过程在时刻s ,t 时的线性相关程度;5互相关函数:{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数;)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数;若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关; 3.复随机过程 t t t jY X Z += 均值函数tt Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =4.常用的随机过程1二阶距过程:实或复随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E 二阶距存在,则称该随机过程为二阶距过程;2正交增量过程:设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程;其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== 3独立增量过程:随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程; 进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程;4马尔可夫过程:如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程;5正态过程:随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,)()(),(21n t X t X t X 是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程; 6维纳过程:是正态过程的一种特殊情形;设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ;②是平稳独立增量过程;③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程;另外:①它是一个Markov 过程;因此该过程的当前值就是做出其未来预测中所需的全部信息;②维纳过程具有独立增量;该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率;③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加; 7平稳过程:严狭义平稳过程:{}T t t X ∈),(,如果对任意常数τ和正整数n 及Tt t t n ∈,,,21 ,Tt t t n ∈+++τττ,,,21 ,)()(),(21n t X t X t X 与)()(),(21τττ+++n t X t X t X 有相同的联合分布,则称{}T t t X ∈),(是严狭义平稳过程;广义平稳过程:随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程;②对任意的T t ∈, 常数==)()(t EX t m X ;③对任意T t s ∈,,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差s t -有关;则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程;第三章 泊松过程一.泊松过程的定义两种定义方法1,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}T t t X ∈),(是具有参数λ的泊松过程;①(0)0X =;②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立;③在任一长度为t 的区间中,事件A发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!ntt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间A发生的平均个数,也称速率或强度;2,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}(),0X t t ≥是具有参数λ的泊松过程;①(0)0X =;②独立、平稳增量过程;③{}{}()()1()()()2()P X t h X t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性; 二.基本性质1,数字特征 ()[()][()]X m t E X t t D X t λ=== (1)(,)(1)X s t s t R s t t s s tλλλλ+<⎧=⎨+≥⎩(,)(,)()()min(,)X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉2,n T 表示第1n -事件A发生到第n 次事件发生的时间间隔,{},1n T n ≥是时间序列,随机变量n T 服从参数为λ的指数分布;概率密度为,0()0,0t e t f t t λλ-⎧≥=⎨<⎩,分布函数1,0()0,0n t T e t F t t λ-⎧-≥=⎨<⎩均值为1n ET λ=证明过程也要很熟悉 到达时间的分布 略 三.非齐次泊松过程 到达强度是t 的函数①(0)0X =;②独立增量过程;③{}{}()()1()()()()2()P X t h X t t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 不具有平稳增量性;均值函数0()[()]()tX m t E X t s ds λ==⎰定理:{}(),0X t t ≥是具有均值为0()()tX m t s ds λ=⎰的非齐次泊松过程,则有 四.复合泊松过程设{}(),0N t t ≥是强度为λ的泊松过程,{},1,2,k Y k =是一列独立同分布的随机变量,且与{}(),0N t t ≥独立,令()1()N t kk X t Y==∑ 则称{}(),0X t t ≥为复合泊松过程;重要结论:{}(),0X t t ≥是独立增量过程;若21()E Y <∞,则1[()]()E X t tE Y λ=,21[()]()D X t tE Y λ=第四章 马尔可夫链泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程;时间和状态都离散的马尔可夫过程称为马尔可夫链;马尔可夫过程的特性:马尔可夫性或无后效性;即:在过程时刻0t 所处的状态为已知的条件下,过程在时刻0t t >所处状态的条件分布与过程在时刻0t 之前所处的状态无关;也就是说,将来只与现在有关,而与过去无关;表示为{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一.马尔可夫链的概念及转移概率1.定义:设随机过程{},∈n X n T ,对任意的整数∈n T 和任意的011,,,n i i i I +∈,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称{},∈n X n T 为马尔可夫链;马尔可夫链的统计特性完全由条件概率{}11n n n n P X i X i ++==所决定;2.转移概率 {}1n n P X j X i +==相当于随机游动的质点在时刻n 处于状态i 的条件下,下一步转移到j 的概率;记为()ij p n ;则()ij p n {}1n n P X j X i +===称为马尔可夫链在时刻n 的一步转移概率;若齐次马尔可夫链,则()ij p n 与n 无关,记为ij p ;[],1,2,ij P p i j II =∈= 称为系统的一步转移矩阵;性质:每个元素0ij p ≥,每行的和为1;3.n 步转移概率()n ij p ={}m n m P X j X i +== ;()()[],1,2,n n ij P p i j II =∈=称为n步转移矩阵;重要性质:①()()()n l n l ij ik kj k Ip p p -∈=∑ 称为C K -方程,证明中用到条件概率的乘法公式、马尔可夫性、齐次性;掌握证明方法:{}{}{}{}{}{}{}{}{}()()()()(),,,,,,,()()m m n n ijm nm m m m l m n k Tm m m l m n m m l k Tm m l m n l l l n l kj ik ik kj k Ik IP X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈==================⋅====+⋅=⋅∑∑∑∑②()n n P P = 说明n 步转移概率矩阵是一步转移概率矩阵的n 次乘方;4.{},∈n X n T 是马尔可夫链,称{}0j p P X j ==为初始概率,即0时刻状态为j 的概率;称{}()j n p n P X j ==为绝对概率,即n 时刻状态为j 的概率;{}12(0),,T P p p =为初始概率向量,{}12()(),(),T P n p n p n =为绝对概率向量;定理:①()()n j i ij i Ip n p p ∈=∑矩阵形式:()()(0)T T n P n P P =②()(1)j i ij i Ip n p n p ∈=-∑定理:{}111122,,,n n n n i iii i i IP X i X i X i p p p -∈====∑ 说明马氏链的有限维分布完全由它的初始概率和一步转移概率所决定; 二.马尔可夫链的状态分类1.周期:自某状态出发,再返回某状态的所有可能步数最大公约数,即{}():0n ii d GC D n p ⋅⋅=>;若1d >,则称该状态是周期的;若1d =,则称该状态是非周期的;2.首中概率:()n ij f 表示由i 出发经n 步首次到达j 的概率; 3.()1n ij ij n f f ∞==∑表示由i 出发经终于迟早要到达j 的概率;4.如果1ii f =,则状态i 是常返态;如果1ii f <,状态i 是非常返滑过态;5.()1n i ii n nf μ∞==∑表示由i 出发再返回到i 的平均返回时间;若i μ<∞,则称i 是正常返态;若i μ=∞,则称i 是零常返态;非周期的正常返态是遍历状态; 6.状态i 是常返充要条件是()0iin n p∞==∞∑;状态i 是非常返充要条件是()11iin n iip f ∞==-∑; 7.称状态i 与j 互通,,i j i j j i ↔→→即且;如果i j ↔,则他们同为常返态或非常返态,;若i ,j 同为常返态,则他们同为正常返态或零常返态,且i ,j 有相同的周期;8.状态i 是遍历状态的充要条件是()1lim 0n iin ip μ→∞=>;一个不可约的、非周期的、有限状态的马尔可夫链是遍历的;9.要求:熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态; 三.状态空间的分解1.设C 是状态空间I 的一个闭集,如果对任意的状态i C ∈,状态j C ∉,都有0ij p =即从i 出发经一步转移不能到达j ,则称C 为闭集;如果C 的状态互通,则称C 是不可约的;如果状态空间不可约,则马尔可夫链{},∈n X n T 不可约;或者说除了C 之外没有其他闭集,则称马尔可夫链{},∈n X n T 不可约;2.C 为闭集的充要条件是:对任意的状态i C ∈,状态j C ∉,都有()0ijn p =;所以闭集的意思是自C 的内部不能到达C 的外部;意味着一旦质点进入闭集C 中,它将永远留在C 中运动;如果1ii p =,则状态i 为吸收的;等价于单点{}i 为闭集;3.马尔可夫链的分解定理:任一马尔可夫链的状态空间I ,必可唯一地分解成有限个互不相交的子集12,,,nD C C C 的和,①每一个n C 都是常返态组成的不可约闭集;②n C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且1ij f =;③D 是由全体非常返态组成; 分解定理说明:状态空间的状态可按常返与非常返分为两类,非常返态组成集合D ,常返态组成一个闭集C ;闭集C 又可按互通关系分为若干个互不相交的基本常返闭集12,,nC C C ; 含义:一个马尔可夫链如果从D 中某个非常返态出发,它或者一直停留在D 中,或某一时刻进入某个基本常返闭集n C ,一旦进入就永不离开;一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集n C ,永远在该闭集n C 中运动;4.有限马尔可夫链:一个马尔可夫链的状态空间是一个有限集合;性质:①所有非常返态组成的集合不是闭集;②没有零常返态;③必有正常返态;④状态空间12n I D C C C =++++,D 是非常返集合,12,,n C C C 是正常返集合;不可约有限马尔可夫链只有正常返态;四.()n ij p 的渐近性质与平稳分布 1.为什么要研究转移概率()n ij p 的遍历性研究()n ij p 当n →∞时的极限性质,即{}0n P X j X i ==的极限分布,包含两个问题:一是()lim n ij n p →∞是否存在;二是如果存在,是否与初始状态有关;这一类问题称作遍历性定理;如果对,i j I ∈,存在不依赖于i 的极限()lim n ijn p →∞0j p =>,则称马尔可夫链具有遍历性; 一个不可约的马尔可夫链,如果它的状态是非周期的正常返态,则它就是一个遍历链; 具有遍历性的马尔可夫链,无论系统从哪个状态出发,当转移步数n 充分大时,转移到状态j 的概率都近似等于j p ,这时可以用j p 作为()n ij p 的近似值;2.研究平稳分布有什么意义判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过讨论()lim n ij n p →∞来解决,但求极限时困难的;所以,我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链;一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布,且平稳分布即极限分布()lim n ij n p →∞=1,jj I μ∈;3.{},0≥n X n 是齐次马尔可夫链,状态空间为I ,一步转移概率为ij p ,概率分布{},j j I π∈称为马尔可夫链的平稳分布,满足1j i iji Ijj Ip πππ∈∈==∑∑4.定理:不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布1,jj I μ∈; 推论:有限状态的不可约非周期马尔可夫链必存在平稳分布;5.在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平衡状态,此时系统各状态的概率分布不随时间而变,也不依赖于初始状态;6.对有限马尔可夫链,如果存在正整数k ,使()0k ij p >,即k 步转移矩阵中没有零元素,则该链是遍历的;第六章 平稳随机过程一.定义第一章严平稳过程:有限维分布函数沿时间轴平移时不发生变化;宽平稳过程:满足三个条件:二阶矩过程2[()]E X t <∞;均值为常数[()]E X t =常数;相关函数只与时间差有关,即(,)()()()X X R t t E X t X t R τττ⎡⎤-=-=⎣⎦;宽平稳过程不一定是严平稳过程,而严平稳过程一定是宽平稳过程; 二.联合平稳过程及相关函数的性质1.定义:设{}(),X t t T ∈和{}(),X t t T ∈是两个平稳过程,若它们的互相关函数()()E X t Y t τ⎡⎤-⎣⎦及()()E Y t X t τ⎡⎤-⎣⎦仅与时间差τ有关,而与起点t 无关,则称()X t 和()Y t 是联合平稳随机过程;即,(,)()()()XY XY R t t E X t Y t R τττ⎡⎤-=-=⎣⎦ (,)()()()YX YX R t t E Y t X t R τττ⎡⎤-=-=⎣⎦当然,当两个平稳过程联合平稳时,其和也是平稳过程;2.相关函数的性质:①(0)0X R ≥;②()()X X R R ττ≥,对于实平稳过程,()X R τ是偶函数;③()(0)X X R R τ≤④非负定;⑤若()X t 是周期的,则相关函数()X R τ也是周期的,且周期相同;⑥如果()X t 是不含周期分量的非周期过程,()X t 与()X t τ+相互独立,则||()lim X X X R m m ττ→∞=;联合平稳过程()X t 和()Y t 的互相关函数,()(0)(0)XY X Y R R R τ≤,()(0)(0)YX X Y R R R τ≤;()()XY YX R R ττ-=;()X t 和()Y t 是实联合平稳过程时,则,()()XY YX R R ττ-=;三.随机分析 略四.平稳过程的各态历经性 1.时间均值1()..()2TTT X t l i mX t dt T-→∞=⎰时间相关函数1()()..()()2TTT X t X t l i mX t X t dt Tττ-→∞-=-⎰2.如果()[()]()X X t E X t m t ==以概率1成立,则称均方连续的平稳过程的均值有各态历经性;如果()()[()()]()X X t X t E X t X t R τττ-=-= 以概率1成立,则称均方连续的平稳过程的相关函数有各态历经性;如果均方连续的平稳过程的均值和相关函数都有各态历经性,则称该平稳过程是各态历经的或遍历的;一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的;另一方面也表明[()]E X t 与[()()]E X t X t τ-必定与t 无关,即各态历经过程必是平稳过程;3.讨论平稳过程的历经性,就是讨论能否在较宽松的条件下,用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征,即用时间平均代替统计平均; 只在一定条件下的平稳过程,才具有各态历经性;4.均值各态历经性定理:均方连续的平稳过程的均值具有各态历经的充要条件是5.相关函数各态历经性定理:均方连续的平稳过程的相关函数具有各态历经的充要条件是第七章 平稳过程的谱分析 一.平稳过程的谱密度 推导过程:随机过程{}(),X t t -∞<<∞为均方连续过程,作截尾处理(),()0,T X t t TX t t T ⎧≤⎪=⎨>⎪⎩,由于()T X t 均方可积,所以存在FT,得(,)()()Tj tj t T TF T X t edt X t e dt ωωω∞---∞-==⎰⎰,利用paserval 定理及IFT 定义得2221()()(,)2TT TX t dt X t dt F T d ωωπ∞∞-∞--∞==⎰⎰⎰该式两边都是随机变量,取平均值,这时不仅要对时间区间[,]T T -取,还要取概率意义下的统计平均,即 定义221()2lim TTT E X t dt Tψ-→∞⎡⎤=⎢⎥⎣⎦⎰为{}(),X t t -∞<<∞平均功率;21()(,)2limX T s E F T T ωω→∞⎡⎤=⎣⎦为{}(),X t t -∞<<∞功率谱密度,简称谱密度; 可以推出当{}(),X t t -∞<<∞是均方连续平稳过程时,有 21()2X s d ψωωπ∞-∞=⎰说明平稳过程的平均功率等于过程的均方值,或等于谱密度在频域上的积分;2.平稳过程的谱密度和相关函数构成FT 对;若平稳随机序列{},0,1,2,n X n =±±,则其谱密度和相关函数构成FT 对二.谱密度的性质1.①()X s ω是()X R τ的FT;()()j X X s R e d ωτωττ∞--∞=⎰如果{}(),X t t -∞<<∞是均方连续的实平稳过程,有()()X X R R ττ=-,()X s ω是也实的非负偶函数,则②()X s ω是ω的有理分式,分母无实根;2.谱密度的物理含义,()X s ω是一个频率函数,从频率域来描绘()X t 统计规律的数字特征,而()X t 是各种频率简谐波的叠加,()X s ω就反映了各种频率成分所具有的能量大小;3.计算 可以按照定义计算,也可以利用常用的变换对()1t δ↔ 12()πδω↔ 2220a ae a a τω-↔>+22τω↔-00()()j X X R e s ωττωω⋅↔- ()()j T X X R T s e ωτω+↔⋅001,sin 0,ωωωτωωπτ⎧<⎪↔⎨≥⎪⎩等 三.窄带过程及白噪声过程的功率谱密度1.窄带随机过程:随机过程的谱密度限制在很窄的一段频率范围内;2.白噪声过程:设{}(),X t t -∞<<∞为实值平稳过程,若它的均值为零,且谱密度在所有的频率范围内为非零的常数,即0()X s N ω=,则称{}(),X t t -∞<<∞为白噪声过程; 是平稳过程;其相关函数为0()()X R N τδτ=;表明在任意两个时刻1t 和2t ,1()X t 和2()X t 不相关,即白噪声随时间的变换起伏极快,而过程的功率谱极宽,对不同输入频率的信号都有可能产生干扰;四.联合平稳过程的互谱密度互谱密度没有明确的物理意义,引入它主要是为了能在频率域上描述两个平稳过程的相关性;1.互谱密度与互相关函数成FT对关系 2.性质()()XY XY s s ωω= ()XY s ω的实部是ω的偶函数,虚部是ω的奇函数,()YX s ω也是; 2()()()XY X Y s s s ωωω≤;若()X t 和()Y t 相互正交,有()0XY R τ=,则()()0XY YX s s ωω== ;五.平稳过程通过线性系统1.系统的频率响应函数()H ω也可以写成()H j ω一般是一个复值函数,是系统单位脉冲响应的FT;2.系统输入()X t 为实平稳随机过程,则输出()Y t 也是实平稳随机过程;即输出过程的均值为常数,相关函数是时间差的函数;且有()()()()()()Y XY X R R h R h h ττττττ=*-=**-说明输出过程的相关函数可以通过两次卷积产生;()()()XY X R R h τττ=*的应用:给系统一个白噪声过程()X t ,可以从实测的互相关资料估计线性系统的未知脉冲响应;因为0()()X R N τδτ=,00()()()()()()XY X R R h N u h u du N h τττδττ∞-∞=*=-=⎰,从而3.输入输出谱密度之间的关系 2()()()Y X s H s ωωω=2()()()H H H ωωω=称为系统的频率增益因子或频率传输函数;有时,采用时域卷积的方法计算输出的相关函数比较烦琐,可以先计算输出过程的谱密度,然后反FT 计算出相关函数;2()()()()()X Y X Y R s H s R τωωωτ→=→另外()()()XY X R R h τττ=*,所以()()()XY X s H s ωωω= ,()()()YX X s H s ωωω= 补充:排队轮平均间隔时间=总时间/到达顾客总数 平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间 平均服务率=顾客总数/服务时间总和一.当顾客到达符合泊松过程时,顾客相继到达的间隔时间T 必服从负指数分布;对于泊松分布,λ表示单位时间平均到达的顾客数,所以1λ表示顾客相继到达的平均间隔时间;服务时间符合负指数分布时,设它的概率密度函数和分布函数分别为()(){}[]1tttt t tf t e F t P T t e dt d e e μμμμμμ----==≤==-=-⎰⎰ 其中μ表示单位时间能够服务完的顾客数,为服务率;而1μ表示一个顾客的平均服务时间; 二.排队模型的求解把系统中的顾客数称为系统的状态;若系统中有n 个顾客,则称系统的状态是n ;瞬态和稳态:考虑在t 时刻系统的状态为n 的概率,它是随时刻t 而变化的,用()n P t 表示,称为系统的瞬态;求瞬态解是很不容易的,求出也很难利用;因此我们常用稳态概率n P ,表示系统中有n 个顾客的概率; 各运行指标:1队长:把系统中的顾客数称为队长,它的期望值记作s L ,也叫平均队长,即系统中的平均顾客数;而把系统中排队等待服务的顾客数称为排队长队列长,它的期望值记作q L ,也叫平均排队长,即系统中的排队的平均顾客数; 显然有 队长=排队长+正被服务的顾客数;2逗留时间:一个顾客从到达排队系统到服务完毕离去的总停留时间称为逗留时间,它的期望值记作s W ;一个顾客在系统中排队等待的时间称为等待时间,它的期望值记作q W ;逗留时间=等待时间+服务时间;3忙期:从顾客到达空闲服务机构起,到服务台再次变为空闲为止; 4顾客损失率:由于服务能力不足而造成顾客损失的比率;5服务强度服务机构利用率:指服务设备工作时间占总时间的比例; 三.几种典型的排队模型1.//1//M M ∞∞:单服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,λρμ=服务强度; 状态转移图 , 稳态概率方程 得 系统中无顾客的01P ρ=- 系统中有n 个顾客的概率0(1)n n n P P ρρρ=-=且必有s q L L uλ=+qq L W λ=1s q W W μ=+2.//1//M M N ∞:单服务台,系统容量为N 说明若到了系统最大容量,顾客将不能进入系统,顾客源无限;λ到达率,μ服务率,λρμ=服务强度;☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆状态转移图 , 稳态概率方程 得 系统中无顾客的0111N P ρρ+-=- 系统中有n 个顾客的概率0n n P P ρ= 3.//1//M M m ∞:单服务台,系统容量无限,顾客源m;λ到达率,μ服务率;状态转移图 , 稳态概率方程 得 系统中无顾☆客的001!()!()mii P m m i λμ==-∑系统中有n 个顾客的概率0!()()!n n m P P m n λμ=-1n m ≤≤0(1)s L m P μλ=--;00()(1)(1)q s P L m L P λμλ+-=-=--01(1)s m W P μλ=--1q s W W μ=-4. ////M M c ∞∞:多服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,c λρμ=服务强度; 状态转移图 , 稳态概率方程 得☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆系统中无顾客的110011!!1k c c k P k c λλμμρ--=⎡⎤⎛⎫⎛⎫=+⎢⎥ ⎪ ⎪-⎝⎭⎝⎭⎢⎥⎣⎦∑系统中有n 个顾客的概率001()!1()!nn n n c P n c n P P n c c cλμλμ-⎧≤⎪⎪=⎨⎪>⎪⎩。
随机过程复习提纲汇总
![随机过程复习提纲汇总](https://img.taocdn.com/s3/m/04a3df00a9956bec0975f46527d3240c8447a1cc.png)
随机过程复习提纲汇总随机过程是概率论中研究随机现象的一种数学工具,它描述了随机事件或变量在时间或空间上的演化规律。
随机过程在概率论、统计学以及各个科学领域中都有广泛的应用。
在复习随机过程的过程中,可以按照以下提纲进行系统地总结和复习:一、随机过程的定义和基本概念1.随机过程的定义和基本性质2.随机变量和随机过程的关系3.有限维分布和无限维分布4.随机过程的连续性和可测性二、随机过程的分类1.马尔可夫链和马尔可夫过程2.马尔可夫链的平稳分布和细致平衡条件3.各类随机过程的特性和应用(如泊松过程、布朗运动等)三、随机过程的数学描述1.随机过程的表示方法(如状态空间表示、样本函数表示等)2.随机过程的独立增量性质3.随机过程的平稳性质和相关函数四、随机过程的统计特性1.随机过程的均值和方差2.随机过程的相关函数和自相关函数3.随机过程的功率谱密度和自相关函数之间的关系五、随机过程的极限理论1.强大数定律和中心极限定理在随机过程中的应用2.极限理论在随机过程中的应用(如大数定律、中心极限定理等)六、马尔可夫过程的统计推断1.马尔可夫链的参数估计2.马尔可夫过程的参数估计3.马尔可夫过程的隐马尔可夫模型和参数估计七、随机过程的应用1.随机过程在金融领域的应用2.随机过程在电信领域的应用3.随机过程在信号处理领域的应用以上是一个较为全面的随机过程复习提纲,按照这个提纲进行复习可以帮助系统地回顾和学习随机过程的各个重要概念、定理和应用。
在复习的过程中,可以结合课本、教材以及相关资料进行深入学习和巩固。
同时,通过解答题目、做习题和实际应用案例的分析,可以提高对随机过程的理解和应用能力。
复习随机过程时,要注意理论和实践相结合,注重理论概念的理解和应用技巧的掌握。
(高等数学)概率统计与随机过程
![(高等数学)概率统计与随机过程](https://img.taocdn.com/s3/m/f840ee44804d2b160b4ec081.png)
λk
k!
e −λ
式中 λ = np。
二、
随机变量与分布函数
[随机变量及其概率分布函数]
每次试验的结果可以用一个变量 ξ 的数值来表示,这个变量的
取值随偶然因素而变化,但又遵从一定的概率分布规律,这种变量称为随机变量,用 ξ ,η ,···表示。 它是随机现象的数量比。 给定随机变量 ξ ,它的取值不超过实数 x 的事件的概率 P( ξ ≤ x)是 x 的函数,称为 ξ 的概率分 布函数,简称分布函数,记作 F(x) ,即 F(x)=P( ξ ≤ x ) [分布函数的基本性质] 1° lim F ( x ) = 0 lim F ( x ) = 1
f ( xk ) ≤ x
∑p
k
当 ξ 是连续型随机变量时 ,其分布密度为 p(x),则 G(x)=
∫
f ( y )≤ x
p( y) d y
[随机矢量的联合分布函数与边缘分布函数]
如果 ξ1 , ξ 2 , ···, ξ n 联系于同一组条件下的 n 个随机
变量,则称 ξ (ξ1 , ξ 2 , ···, ξ n )为 n 维随机变量或随机矢量。 若(x1 , x2 ,···,xn)是n维实数空间Rn上的一点,则事件“ ξ1 ≤ x1 , ξ 2 ≤ x2 , ···, ξ n ≤ x n 的概率 F ( x1 , x 2 , L, x n ) = P(ξ 1 ≤ x1 , ξ 2 ≤ x 2 , L , ξ n ≤ x n ) 作为x1 , x2 ,···, xn的函数,称为随机矢量 ξ (ξ1 , ξ 2 , ···, ξ n ) 的联合分布函数。 设 ( ξ i1 , ξ i2 , ···, ξ im ) 是 ( ξ1 , ξ 2 , ···, ξ n ) 中任意取出 m(m ≤ n) 个分量构成的 m 维随机变量,则称 ( ξ i1 , ξ i2 , ···, ξ im ) 的联合分布函数为( ξ1 , ξ 2 , ···, ξ n ) 的 m 维边缘分布函数。 这 时 , 如 果 分 别 记 ( ξ1 , ξ 2 , ···, ξ n ) 与 ( ξ i1 , ξ i2 , ···, ξ im ) 的 分 布 函 数 为 F(x1,x2,···,xn) 与
(完整版)概率论知识点总结
![(完整版)概率论知识点总结](https://img.taocdn.com/s3/m/cce204b2aaea998fcc220ecb.png)
概率论知识点总结第一章 随机事件及其概率第一节 基本概念随机实验:将一切具有下面三个特点:(1)可重复性(2)多结果性(3)不确定性的试验或观察称为随机试验,简称为试验,常用 E 表示。
随机事件:在一次试验中,可能出现也可能不出现的事情(结果)称为随机事件,简称为事件。
不可能事件:在试验中不可能出现的事情,记为Ф。
必然事件:在试验中必然出现的事情,记为Ω。
样本点:随机试验的每个基本结果称为样本点,记作ω.样本空间:所有样本点组成的集合称为样本空间. 样本空间用Ω表示.一个随机事件就是样本空间的一个子集。
基本事件—单点集,复合事件—多点集 一个随机事件发生,当且仅当该事件所包含的一个样本点出现。
事件的关系与运算(就是集合的关系和运算)包含关系:若事件 A 发生必然导致事件B 发生,则称B 包含A ,记为A B ⊇或B A ⊆。
相等关系:若A B ⊇且B A ⊆,则称事件A 与事件B 相等,记为A =B 。
事件的和:“事件A 与事件B 至少有一个发生”是一事件,称此事件为事件A 与事件B 的和事件。
记为 A ∪B 。
事件的积:称事件“事件A 与事件B 都发生”为A 与B 的积事件,记为A∩ B 或AB 。
事件的差:称事件“事件A 发生而事件B 不发生”为事件A 与事件B 的差事件,记为 A -B 。
用交并补可以表示为B A B A =-。
互斥事件:如果A ,B 两事件不能同时发生,即AB =Φ,则称事件A 与事件B 是互不相容事件或互斥事件。
互斥时B A ⋃可记为A +B 。
对立事件:称事件“A 不发生”为事件A 的对立事件(逆事件),记为A 。
对立事件的性质:Ω=⋃Φ=⋂B A B A ,。
事件运算律:设A ,B ,C 为事件,则有 (1)交换律:A ∪B=B ∪A ,AB=BA(2)结合律:A ∪(B ∪C)=(A ∪B)∪C=A ∪B ∪C A(BC)=(AB)C=ABC(3)分配律:A ∪(B∩C)=(A ∪B)∩(A ∪C) A(B ∪C)=(A∩B)∪(A∩C)= AB ∪AC (4)对偶律(摩根律):B A B A ⋂=⋃ B A B A ⋃=⋂第二节 事件的概率 概率的公理化体系: (1)非负性:P(A)≥0; (2)规范性:P(Ω)=1(3)可数可加性: ⋃⋃⋃⋃n A A A 21两两不相容时++++=⋃⋃⋃⋃)()()()(2121n n A P A P A P A A A P概率的性质: (1)P(Φ)=0(2)有限可加性:n A A A ⋃⋃⋃ 21两两不相容时)()()()(2121n n A P A P A P A A A P +++=⋃⋃⋃当AB=Φ时P(A ∪B)=P(A)+P(B) (3))(1)(A P A P -=(4)P(A -B)=P(A)-P(AB)(5)P (A ∪B )=P(A)+P(B)-P(AB)第三节 古典概率模型1、设试验E 是古典概型, 其样本空间Ω由n 个样本点组成,事件A 由k 个样本点组成.则定义事件A 的概率为nk A P =)( 2、几何概率:设事件A 是Ω的某个区域,它的面积为 μ(A),则向区域Ω上随机投掷一点,该点落在区域 A 的概率为)()()(Ω=μμA A P 假如样本空间Ω可用一线段,或空间中某个区域表示,则事件A 的概率仍可用上式确定,只不过把μ理解为长度或体积即可.第四节 条件概率条件概率:在事件B 发生的条件下,事件A 发生的概率称为条件概率,记作 P(A|B).)()()|(B P AB P B A P =乘法公式:P(AB)=P(B)P(A|B)=P(A)P(B|A)全概率公式:设n A A A ,,,21 是一个完备事件组,则P(B)=∑P(i A )P(B|i A ) 贝叶斯公式:设n A A A ,,,21 是一个完备事件组,则∑==)|()()|()()()()|(jj i i i i A B P A P A B P A P B P B A P B A P第五节 事件的独立性两个事件的相互独立:若两事件A 、B 满足P(AB)= P(A) P(B),则称A 、B 独立,或称A 、B 相互独立.三个事件的相互独立:对于三个事件A 、B 、C ,若P(AB)= P(A) P(B),P(AC)= P(A)P(C),P(BC)= P(B) P(C),P(ABC)= P(A) P(B)P(C),则称A 、B 、C 相互独立三个事件的两两独立:对于三个事件A 、B 、C ,若P(AB)= P(A) P(B),P(AC)= P(A)P(C),P(BC)= P(B) P(C),则称A 、B 、C 两两独立独立的性质:若A 与B 相互独立,则A 与B ,A 与B ,A 与B 均相互独立总结:1.条件概率是概率论中的重要概念,其与独立性有密切的关系,在不具有独立性的场合,它将扮演主要的角色。
高等数学中的随机过程相关知识点详解
![高等数学中的随机过程相关知识点详解](https://img.taocdn.com/s3/m/5341f40211661ed9ad51f01dc281e53a580251f2.png)
高等数学中的随机过程相关知识点详解近年来,随机过程被越来越多的人所关注和使用。
作为高等数学的一个分支,随机过程具有广泛的应用领域,包括金融、医学、生物学等等。
在本文中,将详细解析高等数学中的随机过程相关知识点,帮助读者更好地理解和应用这一领域的知识。
一、概率论基础在进行随机过程的学习之前,我们需要了解一些概率论的基础知识。
概率论是确定不确定性的一种科学方法,它研究的是随机事件的发生规律和概率计算方法。
在概率论中,有一些基本概念和公式,包括概率、条件概率、概率分布、随机变量等等。
1.1 概率概率是指一个事件发生的可能性大小。
通常用P来表示,它的取值范围是0到1。
当P=0时,表示这个事件不可能发生;当P=1时,表示这个事件一定会发生。
例如,掷一枚硬币正面朝上的概率为1/2,或者说P=0.5。
1.2 条件概率条件概率是指在已知某些条件下,某个事件发生的概率。
通常用P(A|B)来表示,表示在B发生的情况下,A发生的概率。
例如,从一副牌中摸两张牌,第一张是红桃,第二张是黑桃的概率为P(第二张是黑桃|第一张是红桃)=26/51。
1.3 概率分布概率分布是指所有可能事件发生的概率分布,它是概率论的基础。
在不同的情况下,概率分布也是不同的。
例如,在离散型随机变量中,概率分布通常以概率质量函数的形式给出;而在连续性随机变量中,概率分布通常以概率密度函数的形式给出。
1.4 随机变量随机变量是一种随机事件的数学描述。
它通常用大写字母表示,如X、Y、Z等等。
根据其取值的类型,随机变量可以分为离散型和连续型。
离散型随机变量只能取到有限或可数个值,如掷硬币、扔骰子等等;而连续型随机变量可以取到任意实数值,如身高、体重等等。
二、随机过程的基本概念2.1 随机过程的定义随机过程是一种描述随机事件随时间变化的方法。
它可以看作是有限维随机变量序列的无限集合,其中每个随机变量代表系统在某个时刻的状态。
随机过程的定义包括两个方面:空间(状态集合)和时间(时刻集合)。
考研随机过程知识点浓缩
![考研随机过程知识点浓缩](https://img.taocdn.com/s3/m/5272dc1acdbff121dd36a32d7375a417876fc143.png)
考研随机过程知识点浓缩随机过程是概率论中的重要分支,研究随机事件在时间上的演变规律。
在考研数学中,随机过程是一个重要的知识点,涉及到概率论和数理统计等多个领域。
本文将对考研随机过程的知识点进行浓缩总结,帮助考生更好地掌握重点内容。
1. 随机过程的定义随机过程是一个定义在时间轴上的随机变量族,即一系列随机变量组成的集合。
随机过程可分为连续时间随机过程和离散时间随机过程,根据时间参数的取值范围来进行区分。
2. 随机过程的分类根据随机过程的状态空间,可以将随机过程分为离散状态随机过程和连续状态随机过程。
离散状态随机过程中,状态空间为有限集合或者可列无限集合,如泊松过程;连续状态随机过程中,状态空间为连续集合,如布朗运动。
3. 马尔可夫性质马尔可夫性质是随机过程的重要性质之一,指的是在给定当前状态的条件下,未来的发展只依赖于当前状态,与过去的状态无关。
具有马尔可夫性质的随机过程可以简化计算和分析。
4. 随机过程的平稳性平稳性是随机过程的另一个重要性质,分为弱平稳和严平稳。
弱平稳指的是均值和自协方差不依赖于时间的特性;严平稳则要求联合分布在时间上的平移具有不变性。
平稳性的性质可以简化对随机过程的研究。
5. 随机过程的独立增量性质随机过程的独立增量性质指的是在不相交的时间间隔内,随机变量之间是相互独立的。
具有独立增量性质的随机过程可以通过对各个时间间隔内的随机变量进行独立分析。
6. 随机过程的马尔可夫链马尔可夫链是一种特殊的离散时间随机过程,具有马尔可夫性质。
马尔可夫链的状态空间是离散的,状态转移概率只与当前状态有关,与过去的状态无关。
马尔可夫链通常用状态转移矩阵来描述状态之间的转移规律。
7. 泊松过程泊松过程是一类具有无记忆性的离散状态随机过程,是一种常用的数学模型。
泊松过程描述了在一段时间内随机事件发生的次数,具有独立增量和稳定增量的性质。
8. 布朗运动布朗运动是连续时间的连续状态随机过程,具有平稳增量、独立增量和高斯增量的特性。
概率论与随机过程
![概率论与随机过程](https://img.taocdn.com/s3/m/1166eec5ed3a87c24028915f804d2b160b4e86fd.png)
概率论与随机过程概率论与随机过程是一门研究随机现象的数学学科,它在统计学、物理学、经济学、工程学等领域中具有广泛的应用。
本文将通过介绍概率论与随机过程的基本概念、性质与应用,带领读者深入了解这一学科的重要性和内容。
第一部分:概率论1. 概率论的起源与发展概率论起源于古代赌博中的各种游戏,随着数学的发展逐渐形成独立的学科。
17世纪布莱兹·帕斯卡和皮埃尔·德·费马的通信奠定了概率论的基础,18世纪朱利叶斯·雷蒙·拉普拉斯进一步发展了概率论的理论。
2. 概率论的基本概念事件、样本空间、样本点、概率、事件的运算等是概率论的基本概念。
概率的性质包括非负性、规范性、可加性和完备性。
3. 随机变量与概率分布随机变量是描述随机试验结果的数值特征,概率分布是随机变量各个取值的概率规律。
常见的离散概率分布包括伯努利分布、二项分布和泊松分布,连续概率分布包括均匀分布、正态分布和指数分布等。
4. 大数定律与中心极限定理大数定律指出,随着试验次数的增加,样本均值趋近于总体均值;中心极限定理则是指在一定条件下,独立同分布的随机变量之和的极限分布接近于正态分布。
第二部分:随机过程1. 随机过程的定义与分类随机过程是指随时间变化的一族随机变量的集合,根据时间的离散性和状态的离散性可分为离散时间马尔可夫链、连续时间马尔可夫链和连续时间马尔可夫过程。
2. 马尔可夫性质马尔可夫性质是指随机过程的未来状态只与当前状态有关,与过去状态无关。
马尔可夫过程具有无后效性和马尔可夫性。
3. 随机过程的稳定性与平稳性随机过程的稳定性包括短期稳定性和长期稳定性,平稳性指随机过程的概率分布在任意时刻保持不变。
第三部分:概率论与随机过程的应用1. 统计学中的应用概率论与随机过程是统计学的重要基础,用于建立随机模型、估计参数、检验假设等,广泛应用于调查统计、贝叶斯统计、回归分析等领域。
2. 物理学中的应用量子力学中的波函数和量子力学算符可以用概率论的语言进行描述,随机过程常用于描述粒子的运动、衰变过程等。
随机过程知识点汇总52047
![随机过程知识点汇总52047](https://img.taocdn.com/s3/m/b1111f5da0116c175e0e489e.png)
第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=kpx F )(连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k kp xEX 连续型随机变量X ⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数(两个随机变量Y X ,):DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关。
独立⇒不相关⇔0=ρ4.特征函数)()(itXeE t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0(5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 kn k k n q p C k X P -==)( np EX = npq DX =泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X)}()(21ex p{||)2(1),,,(121221a x B a x B x x x f T nn ---=-π),,,(21n a a a a =,),,,(21n x x x x =,n n ij b B ⨯=)(正定协方差阵二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。
随机过程例题和知识点总结
![随机过程例题和知识点总结](https://img.taocdn.com/s3/m/7f728a68effdc8d376eeaeaad1f34693daef10e4.png)
随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学理论,在通信、金融、物理等众多领域都有广泛的应用。
接下来,我们通过一些例题来深入理解随机过程的相关知识点。
一、随机过程的基本概念随机过程可以看作是一族随机变量的集合,其中每个随机变量对应于一个特定的时间点。
例如,考虑一个在时间段0, T内的股票价格变化过程,对于每个时刻 t∈0, T,股票价格就是一个随机变量。
知识点 1:随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程的时间参数是离散的,比如每天的股票收盘价;连续时间随机过程的时间参数是连续的,比如股票价格在任意时刻的取值。
知识点 2:随机过程的概率分布描述随机过程在不同时刻的概率分布是研究随机过程的重要内容。
对于离散随机过程,常用概率质量函数;对于连续随机过程,常用概率密度函数。
例题 1假设一个离散时间随机过程{Xn},n = 0, 1, 2, ,其中 Xn 取值为 0 或 1,且 P(Xn = 0) = 06,P(Xn = 1) = 04,求 X0 和 X1 的联合概率分布。
解:X0 和 X1 的可能取值组合有(0, 0)、(0, 1)、(1, 0)、(1, 1)。
P(X0 = 0, X1 = 0) = P(X0 = 0) × P(X1 = 0) = 06 × 06 = 036P(X0 = 0, X1 = 1) = P(X0 = 0) × P(X1 = 1) = 06 × 04 = 024P(X0 = 1, X1 = 0) = P(X0 = 1) × P(X1 = 0) = 04 × 06 = 024P(X0 = 1, X1 = 1) = P(X0 = 1) × P(X1 = 1) = 04 × 04 = 016二、随机过程的数字特征数字特征可以帮助我们更简洁地描述随机过程的某些重要性质。
概率统计与随机过程-知识点总结--最终版
![概率统计与随机过程-知识点总结--最终版](https://img.taocdn.com/s3/m/6ce3ec84c77da26925c5b065.png)
P(Bi ) 0(i 1, 2,L , n), 则恒有全概率公式:
n
P( A) P( A B1 )P(B1 ) P( A B2 )P(B2 ) L P( A Bn )P(Bn ) P Bi P A | Bi i 1
B 发生的概率,用古典概率公式,则
P(B
A)
AB 中基本事件数
,
SA 中基本事件数
P( AB)
AB 中基本事件数
,
S 中比 P( AB) 大。
五、事件的独立性 1、事件的相互独立性
定义:设 A,B 是两事件,如果满足等式 P( AB) P( A) P(B) ,则称事件 A,B 相互独立,
结论:
若事件 A1, A2 , L , An (n 2) 相互独立,则其中任意 k (2 k n) 个事件也是相互独立的。
2、几个重要定理
定理一:设 A, B 是两事件,且 P( A) 0 ,若 A, B 相互独立,则 P(B A) P(B).反之亦
i 1
P
Bi
A
。
3、乘法公式
由条件概率的定义: P( A | B) P( AB) 即得乘法定理: P(B)
若 P(B)>0,则 P(AB)=P(B)P(A|B); 若 P(A)>0 ,则 P(AB)=P(A)P(B|A). 乘法定理可以推广到多个事件的积事件的情况,
-3-
设 A、B、C 为三个事件,且 P AB 0 ,且 P ABC P C | ABP B | AP A,
一般地,设有 n 个事件 A1,A2 , , An ,n 2 , 并且 P A1 A2 An1 0 ,则由条件概率的
随机过程知识点
![随机过程知识点](https://img.taocdn.com/s3/m/a1a7f8b54afe04a1b171de41.png)
第一章:预备知识§1.1 概率空间随机试验,样本空间记为Ω。
定义1.1 设Ω是一个集合,F 是Ω的某些子集组成的集合族。
如果 (1)∈ΩF ;(2)∈A 若F ,∈Ω=A A \则F ; (3)若∈n A F , ,,21=n ,则∞=∈1n nAF ;则称F 为-σ代数(Borel 域)。
(Ω,F )称为可测空间,F 中的元素称为事件。
由定义易知: .216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞=== ,,则,,,)若(;则若(;定义1.2 设(Ω,F )是可测空间,P(·)是定义在F 上的实值函数。
如果()()()()∑∞=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时,当)对两两互不相容事件(;)(;任意则称P 是()F ,Ω上的概率,(P F ,,Ω)称为概率空间,P(A)为事件A 的概率。
定义1.3 设(P F ,,Ω)是概率空间,F G ⊂,如果对任意G A A A n ∈,,,21 ,,2,1=n 有: (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族。
§1.2 随机变量及其分布随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函数,{}T t X t ∈,是独立的。
§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ,若⎰∞∞-∞<)(||x dF x ,则称)(X E =⎰∞∞-)(x xdF为X 的数学期望或均值。
上式右边的积分称为Lebesgue-Stieltjes 积分。
方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DYDX B XYXY =ρ为X 、Y 的相关系数。
概率论与随机过程 复习参考
![概率论与随机过程 复习参考](https://img.taocdn.com/s3/m/598cbec7524de518964b7d79.png)
概率论与随机过程 复习参考 ----可参考从中取题做为考试题概率基本概念1.需掌握概念:随机试验,样本空间。
随机事件,基本事件,必然事件,不可能事件,事件间的关系(包含,相等,和,积,差,互斥,互逆),完备事件组(全包含,不重复),运算律(德摩根律),事件的描述及转换。
记数法则(乘法定理、加法定理),古典概型,抽样问题(可否放回、是否有序),分配问题,几何概型概率的性质,条件概率(两种理解方式),全概率公式,贝叶斯公式(先验概率,后验概率)。
事件独立性,两两独立与相互独立 2.公式()1()P A P A =-()()()()P A B P A P B P AB =+-,注意条件不变 ()(|)()P AB P B A P A =条件概率 ()()(|)()(|)P AB P A P B A P B P A B == 乘法定理1()()(|)ni i i P A P B P A B ==∑ 全概率公式1()(|)(|)()(|)i i i niii P B P A B P B A P B P A B ==∑ 贝叶斯公式()()(|)()()P AB P A P B A P A P B ==独立3.习题 3设A,B 是两件事件且P(A)=0.6, P(B)=0.7. 问:(1)在什么条件下P(AB)取得最大值,最大值()()()P A B P A P AB -=-()1()P B A P BA =-是多少?(2)在什么条件下P(AB)取得最小值,最小值是多少? 解:()()()()P AB P A P B P A B =+-,且()()()P A P B P AB <≤A B ∴⊂当时,()P A B 取最小值,P(AB)取最大值,()()0.6P AB P A ==当AB S =时,()P A B =1取最大值,P(AB)取最小值,()0.3P AB =10在11张卡片上分别写上Probability ,从中任意连抽7张,求其排列结果为ability 的概率。
概率统计和随机过程复习要点
![概率统计和随机过程复习要点](https://img.taocdn.com/s3/m/6255e60a2f60ddccda38a02b.png)
全书章,都是考试内容,要全面复习.题型填空题占左右,计算题左右.主要内容.事件与概率,掌握事件地表示方法以及古典概型地计算;熟练掌握全概率公式和贝叶斯公式地应用(会考大题);熟练掌握条件概率公式地计算方法以及两个独立事件乘积概率等于概率乘积.随机变量及其分布了解随机变量;会求离散型随机变量地分布律、连续性随机变量地密度函数,分布函数;掌握六种常用地随机变量及其分布,离散地:两点分布、二项分布、泊松分布分布律,连续地:均匀分布,指数分布、正态分布地密度函数(一定要会写出).已知地密度函数(),(),会求地密度函数.多维随机变量及其分布重点是二维随机变量边缘分布以及概率地求法;独立性判定(一般会考大题)相互独立地随机变量密度函数满足()()(),会判定两个随机变量是否独立.两个随机变量函数地分布:两个随机变量和、最大值地分布密度,注意到正态分布地和、差一定是正态分布.主要是求出它地均值与方差就可以了.文档收集自网络,仅用于个人学习.随机变量地数字特征数学期望定义与求法,方差,协方差以及相关系数,会判断两个随机变量是否是相关地.掌握种重要地随机变量地均值与方差.极限定理理解切比雪夫不等式地含义,会用切比雪夫不等式估计一个事件地概率抽样及抽样分布理解样本、抽样、样本值等概念会求离散型随机抽样地联合分布律、连续型随机抽样地联合分密度函数掌握统计量地定义,掌握样本均值、样本方差.掌握几种常用地抽样分布,分布地数学期望与方差,分布地、分布、分布地分位点地含义及其关系.分布地性质则则掌握正态总体样本均值、样本方差地分布,掌握定理—(条件,结论)参数估计会求一个总体分布中未知参数地矩估计与最大似然估计(估计量与估计值)(会考大题)理解估计量地评选标准,会判断一个统计量是否为未知参数地无偏估计量,掌握正态总体地均值与方差地区间估计(填空题)文档收集自网络,仅用于个人学习假设检验假设检验地一般步骤(个步骤)(一般会考大题)原假设,备择假设,()检验统计量及其服从地分布;()拒绝域()计算统计量地值;并与拒绝域地临界点值比较;()作出判断,接受或者拒绝原假设;()说明意义.关于正态总体地假设检验重点掌握:()关于均值地假设检验(已知时与未知时)地拒绝域()关于方差地假设检验地拒绝域.注意双边检验与单边检验地拒绝域.随机过程()掌握随机过程地数字特征:均值函数、自相关函数(会熟练求出)()掌握泊松过程与维纳过程地定义与其数字特征:均值函数、自相关函数、自协方差函数.会求泊松过程地概率.(一般会考填空题)文档收集自网络,仅用于个人学习()平稳过程地定义与判断(均值函数是常数,自相关函数是时间差地单变量函数.会判断一个平稳过程地均值(自相关函数)是各态历经地会求平稳过程地功率谱密度和平均功率(一般会考大题)马尔可夫过程理解马尔可夫链地含义会求马尔可夫链地一步转移概率矩阵,会求步转移概率矩阵会利用转移概率矩阵求相应地概率,利用转移概率矩阵和初始概率求转移概率及绝对分布.会判断马尔可夫链地遍历地,如果是遍历地会求极限分布.(会考大题)不做要求地内容.二维随机变量分布函数求法,两个随机变量商地分布密度;.协方差矩阵;.正态总体中,两个样本均值差,方差比地区间估计、假设检验不要求掌握.。
随机过程知识点总结
![随机过程知识点总结](https://img.taocdn.com/s3/m/ca182915ff00bed5b9f31dd7.png)
第一章:考试范围1.3,1.41、计算指数分布的矩母函数.2、计算标准正态分布)1,0(~N X 的矩母函数.3、计算标准正态分布)1,0(~N X 的特征函数.第二章:1. 随机过程的均值函数、协方差函数与自相关函数2. 宽平稳过程、均值遍历性的定义及定理3. 独立增量过程、平稳增量过程,独立增量是平稳增量的充要条件1、设随机过程()Z t X Yt =+,t -∞<<∞.若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ⎡⎤⎢⎥⎣⎦,求()Z t 的协方差函数. 2、设有随机过程{(),}X t t T ∈和常数a ,()()()Y t X t a X t =+-,t T ∈,计算()Y t 的自相关函数(用(,)X R s t 表示).3、设12()cos sin X t Z t Z t λλ=+,其中212,~(0,)Z Z N σ是独立同分布的随机变量,λ为实数,证明()X t 是宽平稳过程.4、设有随机过程()sin cos Z t X t Y t =+,其中X 和Y 是相互独立的随机变量,它们都分别以0.5和0.5的概率取值-1和1,证明()Z t 是宽平稳过程.第三章:1. 泊松过程的定义(定义3.1.2)及相关概率计算2. 与泊松过程相联系的若干分布及其概率计算3. 复合泊松过程和条件泊松过程的定义1、设{(),0}N t t ≥是参数3λ=的Poisson 过程,计算:(1). {(1)3}P N ≤; (2). {(1)1,(3)3}P N N ==; (3). {(1)2(1)1}P N N ≥≥.2、某商场为调查顾客到来的客源情况,考察了男女顾客来商场的人数. 假设男女顾客来商场的人数分别独立地服从每分钟2人与每分钟3人的泊松过程.(1).试求到某时刻t 时到达商场的总人数的分布;(2). 在已知t 时刻有50人到达的条件下,试求其中恰有30位女性的概率,平均有多少个女性顾客?3、某商店顾客的到来服从强度为4人/小时的Poisson 过程,已知商店9:00开门,试求:(1). 在开门半小时中,无顾客到来的概率;(2). 若已知开门半小时中无顾客到来,那么在未来半小时中,仍无顾客到来的概率。
数学中的随机过程与概率论
![数学中的随机过程与概率论](https://img.taocdn.com/s3/m/28173865e3bd960590c69ec3d5bbfd0a7856d512.png)
数学中的随机过程与概率论数学中的随机过程与概率论是两个密切相关的领域,它们在各个学科中都扮演着重要的角色。
随机过程是一组随机变量的集合,描述了随机现象在时间上的演化规律;而概率论是研究随机现象的定量分析方法和数学理论。
本文将介绍数学中的随机过程与概率论,并探讨它们在实际问题中的应用。
一、随机过程的基本概念随机过程是一组随机变量的集合,其中每个随机变量表示在不同的时间点上观察到的随机现象。
随机过程可以分为离散随机过程和连续随机过程。
离散随机过程是在离散的时间点上进行观察的,例如抛硬币的结果;而连续随机过程则是在连续的时间区间上进行观察的,例如股票价格的波动。
随机过程可以通过概率分布函数或概率密度函数来描述其随机性质。
常见的随机过程模型包括马尔可夫链、布朗运动等。
马尔可夫链是一类满足马尔可夫性质的随机过程,即未来的状态只依赖于当前的状态,而与过去的状态无关。
布朗运动是一种具有连续性和 Markov性质的随机过程,广泛应用于金融学、物理学等领域。
二、概率论的基本概念概率论是研究随机现象的定量分析方法和数学理论,它提供了一种描述和分析随机现象的工具。
概率论涉及到概率的定义、概率分布、随机变量等概念。
概率的定义是指事件发生的可能性大小,它的取值范围是0到1之间。
对于随机变量,可以通过概率分布函数或概率密度函数来描述其取值的概率分布情况。
概率分布函数描述了随机变量的离散取值情况,而概率密度函数描述了随机变量的连续取值情况。
在概率论中,有许多重要的分布模型,如正态分布、泊松分布、指数分布等。
正态分布是最常见的分布模型之一,它在自然界和社会科学中广泛应用。
泊松分布和指数分布则分别用于描述稀有事件的发生频率和连续事件的等待时间。
三、随机过程与概率论的应用随机过程和概率论在众多领域中都扮演着重要的角色,例如金融学、通信工程、统计学等。
在金融学中,随机过程和概率论被广泛应用于金融市场的建模与分析。
例如,布朗运动被用来描述股票价格的变动情况,通过对股票价格的随机性质进行建模,可以帮助投资者进行风险评估和投资决策。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
概率论与随机过程考点总结This manuscript was revised by the office on December 10, 2020.第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X ⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数(两个随机变量Y X ,):DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关。
独立⇒不相关⇔0=ρ4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0(母函数:∑∞===0)()(k kk kz p z E z g !)0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+=5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 k n k knq p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。
简记为{}T t t X ∈),(。
含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性。
另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。
当t 固定时,),(e t X 是随机变量。
当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道。
分类:根据参数集T 和状态空间I 是否可列,分四类。
也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。
2.随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。
随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族。
随机过程的有限维分布函数族是随机过程概率特征的完整描述。
在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。
(1)均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值。
(2)方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度。
(3)协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =(4)相关函数)]()([),(t X s X E t s R X = (3)和(4)表示随机过程在时刻s ,t 时的线性相关程度。
(5)互相关函数:{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数。
)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数。
若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关。
3.复随机过程 t t t jY X Z +=均值函数t t Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-= 协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =4.常用的随机过程(1)二阶距过程:实(或复)随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E (二阶距存在),则称该随机过程为二阶距过程。
(2)正交增量过程:设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程。
其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== (3)独立增量过程:随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程。
进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程。
(4)马尔可夫过程:如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程。
(5)正态过程:随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,()()(),(21n t X t X t X )是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程。
(6)维纳过程:是正态过程的一种特殊情形。
设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ;②是平稳独立增量过程;③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W 。
则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程。
另外:①它是一个Markov 过程。
因此该过程的当前值就是做出其未来预测中所需的全部信息。
②维纳过程具有独立增量。
该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。
③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。
(7)平稳过程:严(狭义)平稳过程:{}T t t X ∈),(,如果对任意常数τ和正整数n 及T t t t n ∈,,,21 ,T t t t n ∈+++τττ,,,21 ,()()(),(21n t X t X t X )与()()(),(21τττ+++n t X t X t X )有相同的联合分布,则称{}T t t X ∈),(是严(狭义)平稳过程。
广义平稳过程:随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程;②对任意的T t ∈,常数==)()(t EX t m X ;③对任意T t s ∈,,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差st -有关。
则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。
第三章 泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}T t t X ∈),(是具有参数λ的泊松过程。
①(0)0X =;②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立;③在任一长度为t 的区间中,事件A发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!n tt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间A发生的平均个数,也称速率或强度。
2,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}(),0X t t ≥是具有参数λ的泊松过程。