概率论与随机过程复习
概率论与随机过程----第二讲
B
n 1
n
λA
（由BnλA ，则A Bnλ() ，且A Bn
n 1 2017/2/27
A B
n
λA）
北京邮电大学电子工程学院 8
第一节 集合代数和σ -代数
2. λA是包含的λ-系
（λA ，只要证明对任意的B B λA 由B λ ()，Aλ ()
第一节 集合代数和σ -代数
简单回顾上一讲的内容： 1. 集代数、σ -代数、单调类、 ()、μ()的定义 2. 它们之间的关系
σ -代数（可列可加） 集代数（有限可加）
σ -代数 单调类 集代数+单调类 σ -代数 μ()、 () 是存在且唯一的 是集代数，μ() = ()
Ω=Aλ() ）
若B,C λA且B C，有B\C λA
（ 由B,C λA， 有B,Cλ() ，且对任意 取定的Aλ()，有A B,A Cλ() ； 然而A B A C ，必有(A C)\ (A B) λ() 即(A C)\ (A B) =A (C\B) λ()，即C\B λA
第一节 集合代数和σ -代数
定理1.1.10 设，是由Ω的一些子集组成的非空集合类， 且
1. 若为λ -系, 是π -系，则：σ () 2. 若为单调类, 是集代数，则： σ ()
证明1：由于 ，是包含的λ -系
则也包含所生成的最小λ -系λ ()，即λ () 而是π -系，由定理1.1.9：λ ()= σ ()
1. Ω ； 2. 若 A,B ，A-B ；
而A-B=A-(AB) ABA 因此： A-B
概率统计和随机过程复习要点
概率统计和随机过程复习要点全书11章，都是考试内容，要全面复习。
题型填空题占40%左右，计算题60%左右。
主要内容1.事件与概率，掌握事件的表示方法以及古典概型的计算；熟练掌握全概率公式和贝叶斯公式的应用（会考大题）；熟练掌握条件概率公式的计算方法以及两个独立事件乘积概率等于概率乘积。
2随机变量及其分布了解随机变量；会求离散型随机变量的分布律、连续性随机变量的密度函数，分布函数；掌握六种常用的随机变量及其分布，离散的：两点分布、二项分布、泊松分布分布律，连续的：均匀分布，指数分布、正态分布的密度函数（一定要会写出）。
已知X的密度函数f(x)，Y=G(X),会求Y的密度函数3.多维随机变量及其分布重点是二维随机变量边缘分布以及概率的求法；独立性判定（一般会考大题）相互独立的随机变量密度函数满足f(x,y)=f X(x)f Y(y)，会判定两个随机变量是否独立。
两个随机变量函数的分布：两个随机变量和、最大值的分布密度，注意到正态分布的和、差一定是正态分布。
主要是求出它的均值与方差就可以了。
4.随机变量的数字特征数学期望定义与求法，方差，协方差以及相关系数，会判断两个随机变量是否是相关的。
掌握6种重要的随机变量的均值与方差。
5 极限定理理解切比雪夫不等式的含义，会用切比雪夫不等式估计一个事件的概率6 抽样及抽样分布理解样本、抽样、样本值等概念会求离散型随机抽样的联合分布律、连续型随机抽样的联合分密度函数掌握统计量的定义，掌握样本均值、样本方差。
掌握几种常用的抽样分布，χ2分布的数学期望与方差，χ2分布的、T分布、F分布的分位点的含义及其关系。
F分布的性质F~F(n1,n2),则1/F~F(n2,n1),,T~T(n)则T2~F(1,n).掌握正态总体样本均值、样本方差的分布，掌握定理6.1—6.4（条件，结论）7 参数估计会求一个总体分布中未知参数的矩估计与最大似然估计（估计量与估计值）（会考大题）理解估计量的评选标准，会判断一个统计量是否为未知参数的无偏估计量，掌握正态总体的均值与方差的区间估计（填空题）8假设检验假设检验的一般步骤（6个步骤）（一般会考大题）（1）原假设H0，备择假设H1，（2）检验统计量及其服从的分布；（3）拒绝域（4）计算统计量的值；并与拒绝域的临界点值比较；（5）作出判断，接受或者拒绝原假设；（6）说明意义。
概率论与随机过程考点总结
概率论与随机过程考点总结Company number：【0089WT-8898YT-W8CCB-BUUT-202108】第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X ， 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数（两个随机变量Y X ,）：DYDX B XY XY ⋅=ρ 若0=ρ，则称Y X ,不相关。
独立⇒不相关⇔0=ρ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0(母函数：∑∞===0)()(k kk kz p z E z g !)0()(k g p k k = )1()('g X E =2''")]1([)1()1()(g g g X D -+=５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 kn k k nq p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX ６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =，T n x x x x ),,,(21 =，n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间，T 是给定的参数集，若对每个T t ∈，都有一个随机变量X 与之对应，则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。
(完整)随机过程复习试题及答案,推荐文档
2.设{X (t ),t ≥0}是独立增量过程, 且X (0)=0, 证明{X (t ),t ≥0}是一个马尔科夫过程。
证明：当12n 0t t t t <<<<<L 时，1122n n P(X(t)x X(t )=x ,X(t )=x ,X(t )=x )≤L =n n 1122n n P(X(t)-X(t )x-x X(t )-X(0)=x ,X(t )-X(0)=x ,X(t )-X(0)=x )≤L =n n P(X(t)-X(t )x-x )≤，又因为n n P(X(t)x X(t )=x )=≤n n n n P(X(t)-X(t )x-x X(t )=x )≤= n n P(X(t)-X(t )x-x )≤，故1122n n P(X(t)x X(t )=x ,X(t )=x ,X(t )=x )≤L =n n P(X(t)x X(t )=x )≤3.设{}n X ,n 0≥为马尔科夫链，状态空间为I ，则对任意整数n 0,1<n l ≥≤和i,j I ∈，n 步转移概率(n)()(n-)ij ik kjk Ip p pl l ∈=∑ ，称此式为切普曼—科尔莫哥洛夫方程，证明并说明其意义。
证明：{}(n)ij k IP P X(n)=j X(0)=i P X(n)=j,X(l)=k X(0)=i ∈⎧⎫==⎨⎬⎩⎭U ={}k I P X(n)=j,X(l)=k X(0)=i ∈∑ ={}{}k IP X(l)=k X(0)=i P X(n)=j X(l)=k,X(0)=i ∈∑g =(l)(n-l)ik kjPP ∑，其意义为n 步转移概率可以用较低步数的转移概率来表示。
4.设{}N(t),t 0≥是强度为λ的泊松过程，{}k Y ,k=1,2,L 是一列独立同分布随机变量，且与{}N(t),t 0≥独立，令N(t)k k=1X(t)=Y ,t 0≥∑，证明：若21E(Y <)∞，则[]{}1E X(t)tE Y λ=。
概率论与随机过程考点总结
第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()( 2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差两个随机变量Y X ,：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数两个随机变量Y X ,：DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关;独立⇒不相关⇔0=ρ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k)( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数：∑∞===0)()(k kk kzp z E z g!)0()(k g p k k =)1()('g X E =2''")]1([)1()1()(g g g X D -+=５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程;简记为{}T t t X ∈),(;含义：随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性;另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的;当t 固定时,),(e t X 是随机变量;当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道;分类：根据参数集T 和状态空间I 是否可列,分四类; 也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等; ２．随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性;随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族;随机过程的有限维分布函数族是随机过程概率特征的完整描述;在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代;１均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值; ２方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度; ３协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =４相关函数)]()([),(t X s X E t s R X = 3和4表示随机过程在时刻s ,t 时的线性相关程度;５互相关函数：{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数;)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数;若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关; ３．复随机过程 t t t jY X Z += 均值函数tt Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =４．常用的随机过程１二阶距过程：实或复随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E 二阶距存在,则称该随机过程为二阶距过程;2正交增量过程：设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程;其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== 3独立增量过程：随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程; 进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程;4马尔可夫过程：如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程;5正态过程：随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,)()(),(21n t X t X t X 是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程; 6维纳过程：是正态过程的一种特殊情形;设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ；②是平稳独立增量过程；③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程;另外：①它是一个Markov 过程;因此该过程的当前值就是做出其未来预测中所需的全部信息;②维纳过程具有独立增量;该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率;③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加; 7平稳过程：严狭义平稳过程：{}T t t X ∈),(,如果对任意常数τ和正整数n 及Tt t t n ∈,,,21 ,Tt t t n ∈+++τττ,,,21 ,)()(),(21n t X t X t X 与)()(),(21τττ+++n t X t X t X 有相同的联合分布,则称{}T t t X ∈),(是严狭义平稳过程;广义平稳过程：随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程；②对任意的T t ∈, 常数==)()(t EX t m X ；③对任意T t s ∈，,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差s t -有关;则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程;第三章 泊松过程一．泊松过程的定义两种定义方法１,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称：{}T t t X ∈),(是具有参数λ的泊松过程;①(0)0X =；②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立；③在任一长度为t 的区间中,事件Ａ发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!ntt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间Ａ发生的平均个数,也称速率或强度;２,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称：{}(),0X t t ≥是具有参数λ的泊松过程;①(0)0X =；②独立、平稳增量过程；③{}{}()()1()()()2()P X t h X t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性; 二．基本性质１,数字特征 ()[()][()]X m t E X t t D X t λ=== (1)(,)(1)X s t s t R s t t s s tλλλλ+<⎧=⎨+≥⎩(,)(,)()()min(,)X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉２,n T 表示第1n -事件Ａ发生到第n 次事件发生的时间间隔,{},1n T n ≥是时间序列,随机变量n T 服从参数为λ的指数分布;概率密度为,0()0,0t e t f t t λλ-⎧≥=⎨<⎩,分布函数1,0()0,0n t T e t F t t λ-⎧-≥=⎨<⎩均值为1n ET λ=证明过程也要很熟悉 到达时间的分布 略 三．非齐次泊松过程 到达强度是t 的函数①(0)0X =；②独立增量过程；③{}{}()()1()()()()2()P X t h X t t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 不具有平稳增量性;均值函数0()[()]()tX m t E X t s ds λ==⎰定理：{}(),0X t t ≥是具有均值为0()()tX m t s ds λ=⎰的非齐次泊松过程,则有 四．复合泊松过程设{}(),0N t t ≥是强度为λ的泊松过程,{},1,2,k Y k =是一列独立同分布的随机变量,且与{}(),0N t t ≥独立,令()1()N t kk X t Y==∑ 则称{}(),0X t t ≥为复合泊松过程;重要结论：{}(),0X t t ≥是独立增量过程；若21()E Y <∞,则1[()]()E X t tE Y λ=,21[()]()D X t tE Y λ=第四章 马尔可夫链泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程;时间和状态都离散的马尔可夫过程称为马尔可夫链;马尔可夫过程的特性：马尔可夫性或无后效性;即：在过程时刻0t 所处的状态为已知的条件下,过程在时刻0t t >所处状态的条件分布与过程在时刻0t 之前所处的状态无关;也就是说,将来只与现在有关,而与过去无关;表示为{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一．马尔可夫链的概念及转移概率1．定义：设随机过程{},∈n X n T ,对任意的整数∈n T 和任意的011,,,n i i i I +∈,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称{},∈n X n T 为马尔可夫链;马尔可夫链的统计特性完全由条件概率{}11n n n n P X i X i ++==所决定;2．转移概率 {}1n n P X j X i +==相当于随机游动的质点在时刻n 处于状态i 的条件下,下一步转移到j 的概率;记为()ij p n ;则()ij p n {}1n n P X j X i +===称为马尔可夫链在时刻n 的一步转移概率;若齐次马尔可夫链,则()ij p n 与n 无关,记为ij p ;[],1,2,ij P p i j II =∈= 称为系统的一步转移矩阵;性质：每个元素0ij p ≥,每行的和为1;3．n 步转移概率()n ij p ={}m n m P X j X i +== ；()()[],1,2,n n ij P p i j II =∈=称为n步转移矩阵;重要性质：①()()()n l n l ij ik kj k Ip p p -∈=∑ 称为C K -方程,证明中用到条件概率的乘法公式、马尔可夫性、齐次性;掌握证明方法：{}{}{}{}{}{}{}{}{}()()()()(),,,,,,,()()m m n n ijm nm m m m l m n k Tm m m l m n m m l k Tm m l m n l l l n l kj ik ik kj k Ik IP X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈==================⋅====+⋅=⋅∑∑∑∑②()n n P P = 说明n 步转移概率矩阵是一步转移概率矩阵的n 次乘方;4．{},∈n X n T 是马尔可夫链,称{}0j p P X j ==为初始概率,即0时刻状态为j 的概率；称{}()j n p n P X j ==为绝对概率,即n 时刻状态为j 的概率;{}12(0),,T P p p =为初始概率向量,{}12()(),(),T P n p n p n =为绝对概率向量;定理：①()()n j i ij i Ip n p p ∈=∑矩阵形式：()()(0)T T n P n P P =②()(1)j i ij i Ip n p n p ∈=-∑定理：{}111122,,,n n n n i iii i i IP X i X i X i p p p -∈====∑ 说明马氏链的有限维分布完全由它的初始概率和一步转移概率所决定; 二．马尔可夫链的状态分类1．周期：自某状态出发,再返回某状态的所有可能步数最大公约数,即{}():0n ii d GC D n p ⋅⋅=>;若1d >,则称该状态是周期的；若1d =,则称该状态是非周期的;2．首中概率：()n ij f 表示由i 出发经n 步首次到达j 的概率; 3．()1n ij ij n f f ∞==∑表示由i 出发经终于迟早要到达j 的概率;4．如果1ii f =,则状态i 是常返态；如果1ii f <,状态i 是非常返滑过态;5．()1n i ii n nf μ∞==∑表示由i 出发再返回到i 的平均返回时间;若i μ<∞,则称i 是正常返态；若i μ=∞,则称i 是零常返态;非周期的正常返态是遍历状态; 6．状态i 是常返充要条件是()0iin n p∞==∞∑；状态i 是非常返充要条件是()11iin n iip f ∞==-∑; 7．称状态i 与j 互通,,i j i j j i ↔→→即且;如果i j ↔,则他们同为常返态或非常返态,；若i ,j 同为常返态,则他们同为正常返态或零常返态,且i ,j 有相同的周期;8．状态i 是遍历状态的充要条件是()1lim 0n iin ip μ→∞=>;一个不可约的、非周期的、有限状态的马尔可夫链是遍历的;9．要求：熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态; 三．状态空间的分解1．设C 是状态空间I 的一个闭集,如果对任意的状态i C ∈,状态j C ∉,都有0ij p =即从i 出发经一步转移不能到达j ,则称C 为闭集;如果C 的状态互通,则称C 是不可约的;如果状态空间不可约,则马尔可夫链{},∈n X n T 不可约;或者说除了C 之外没有其他闭集,则称马尔可夫链{},∈n X n T 不可约;2．C 为闭集的充要条件是：对任意的状态i C ∈,状态j C ∉,都有()0ijn p =;所以闭集的意思是自C 的内部不能到达C 的外部;意味着一旦质点进入闭集C 中,它将永远留在C 中运动;如果1ii p =,则状态i 为吸收的;等价于单点{}i 为闭集;3．马尔可夫链的分解定理：任一马尔可夫链的状态空间I ,必可唯一地分解成有限个互不相交的子集12,,,nD C C C 的和,①每一个n C 都是常返态组成的不可约闭集；②n C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且1ij f =;③D 是由全体非常返态组成; 分解定理说明：状态空间的状态可按常返与非常返分为两类,非常返态组成集合D ,常返态组成一个闭集C ;闭集C 又可按互通关系分为若干个互不相交的基本常返闭集12,,nC C C ; 含义：一个马尔可夫链如果从D 中某个非常返态出发,它或者一直停留在D 中,或某一时刻进入某个基本常返闭集n C ,一旦进入就永不离开;一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集n C ,永远在该闭集n C 中运动;4．有限马尔可夫链：一个马尔可夫链的状态空间是一个有限集合;性质：①所有非常返态组成的集合不是闭集；②没有零常返态；③必有正常返态；④状态空间12n I D C C C =++++,D 是非常返集合,12,,n C C C 是正常返集合;不可约有限马尔可夫链只有正常返态;四．()n ij p 的渐近性质与平稳分布 1．为什么要研究转移概率()n ij p 的遍历性研究()n ij p 当n →∞时的极限性质,即{}0n P X j X i ==的极限分布,包含两个问题：一是()lim n ij n p →∞是否存在；二是如果存在,是否与初始状态有关;这一类问题称作遍历性定理;如果对,i j I ∈,存在不依赖于i 的极限()lim n ijn p →∞0j p =>,则称马尔可夫链具有遍历性; 一个不可约的马尔可夫链,如果它的状态是非周期的正常返态,则它就是一个遍历链; 具有遍历性的马尔可夫链,无论系统从哪个状态出发,当转移步数n 充分大时,转移到状态j 的概率都近似等于j p ,这时可以用j p 作为()n ij p 的近似值;2．研究平稳分布有什么意义判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过讨论()lim n ij n p →∞来解决,但求极限时困难的;所以,我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链;一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布,且平稳分布即极限分布()lim n ij n p →∞=1,jj I μ∈;3．{},0≥n X n 是齐次马尔可夫链,状态空间为I ,一步转移概率为ij p ,概率分布{},j j I π∈称为马尔可夫链的平稳分布,满足1j i iji Ijj Ip πππ∈∈==∑∑4．定理：不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布1,jj I μ∈; 推论：有限状态的不可约非周期马尔可夫链必存在平稳分布;5．在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平衡状态,此时系统各状态的概率分布不随时间而变,也不依赖于初始状态;6．对有限马尔可夫链,如果存在正整数k ,使()0k ij p >,即k 步转移矩阵中没有零元素,则该链是遍历的;第六章 平稳随机过程一．定义第一章严平稳过程：有限维分布函数沿时间轴平移时不发生变化;宽平稳过程：满足三个条件：二阶矩过程2[()]E X t <∞；均值为常数[()]E X t =常数；相关函数只与时间差有关,即(,)()()()X X R t t E X t X t R τττ⎡⎤-=-=⎣⎦;宽平稳过程不一定是严平稳过程,而严平稳过程一定是宽平稳过程; 二．联合平稳过程及相关函数的性质1．定义：设{}(),X t t T ∈和{}(),X t t T ∈是两个平稳过程,若它们的互相关函数()()E X t Y t τ⎡⎤-⎣⎦及()()E Y t X t τ⎡⎤-⎣⎦仅与时间差τ有关,而与起点t 无关,则称()X t 和()Y t 是联合平稳随机过程;即,(,)()()()XY XY R t t E X t Y t R τττ⎡⎤-=-=⎣⎦ (,)()()()YX YX R t t E Y t X t R τττ⎡⎤-=-=⎣⎦当然,当两个平稳过程联合平稳时,其和也是平稳过程;２．相关函数的性质：①(0)0X R ≥；②()()X X R R ττ≥,对于实平稳过程,()X R τ是偶函数;③()(0)X X R R τ≤④非负定;⑤若()X t 是周期的,则相关函数()X R τ也是周期的,且周期相同;⑥如果()X t 是不含周期分量的非周期过程,()X t 与()X t τ+相互独立,则||()lim X X X R m m ττ→∞=;联合平稳过程()X t 和()Y t 的互相关函数,()(0)(0)XY X Y R R R τ≤,()(0)(0)YX X Y R R R τ≤；()()XY YX R R ττ-=;()X t 和()Y t 是实联合平稳过程时,则,()()XY YX R R ττ-=;三．随机分析 略四．平稳过程的各态历经性 １．时间均值1()..()2TTT X t l i mX t dt T-→∞=⎰时间相关函数1()()..()()2TTT X t X t l i mX t X t dt Tττ-→∞-=-⎰２．如果()[()]()X X t E X t m t ==以概率１成立,则称均方连续的平稳过程的均值有各态历经性;如果()()[()()]()X X t X t E X t X t R τττ-=-= 以概率１成立,则称均方连续的平稳过程的相关函数有各态历经性;如果均方连续的平稳过程的均值和相关函数都有各态历经性,则称该平稳过程是各态历经的或遍历的;一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的；另一方面也表明[()]E X t 与[()()]E X t X t τ-必定与t 无关,即各态历经过程必是平稳过程;３．讨论平稳过程的历经性,就是讨论能否在较宽松的条件下,用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征,即用时间平均代替统计平均; 只在一定条件下的平稳过程,才具有各态历经性;４．均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条件是５．相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的充要条件是第七章 平稳过程的谱分析 一．平稳过程的谱密度 推导过程：随机过程{}(),X t t -∞<<∞为均方连续过程,作截尾处理(),()0,T X t t TX t t T ⎧≤⎪=⎨>⎪⎩,由于()T X t 均方可积,所以存在FT,得(,)()()Tj tj t T TF T X t edt X t e dt ωωω∞---∞-==⎰⎰,利用paserval 定理及IFT 定义得2221()()(,)2TT TX t dt X t dt F T d ωωπ∞∞-∞--∞==⎰⎰⎰该式两边都是随机变量,取平均值,这时不仅要对时间区间[,]T T -取,还要取概率意义下的统计平均,即 定义221()2lim TTT E X t dt Tψ-→∞⎡⎤=⎢⎥⎣⎦⎰为{}(),X t t -∞<<∞平均功率;21()(,)2limX T s E F T T ωω→∞⎡⎤=⎣⎦为{}(),X t t -∞<<∞功率谱密度,简称谱密度; 可以推出当{}(),X t t -∞<<∞是均方连续平稳过程时,有 21()2X s d ψωωπ∞-∞=⎰说明平稳过程的平均功率等于过程的均方值,或等于谱密度在频域上的积分;２．平稳过程的谱密度和相关函数构成FT 对;若平稳随机序列{},0,1,2,n X n =±±,则其谱密度和相关函数构成FT 对二．谱密度的性质１．①()X s ω是()X R τ的FT;()()j X X s R e d ωτωττ∞--∞=⎰如果{}(),X t t -∞<<∞是均方连续的实平稳过程,有()()X X R R ττ=-,()X s ω是也实的非负偶函数,则②()X s ω是ω的有理分式,分母无实根;２．谱密度的物理含义,()X s ω是一个频率函数,从频率域来描绘()X t 统计规律的数字特征,而()X t 是各种频率简谐波的叠加,()X s ω就反映了各种频率成分所具有的能量大小;３．计算 可以按照定义计算,也可以利用常用的变换对()1t δ↔ 12()πδω↔ 2220a ae a a τω-↔>+22τω↔-00()()j X X R e s ωττωω⋅↔- ()()j T X X R T s e ωτω+↔⋅001,sin 0,ωωωτωωπτ⎧<⎪↔⎨≥⎪⎩等 三．窄带过程及白噪声过程的功率谱密度１．窄带随机过程：随机过程的谱密度限制在很窄的一段频率范围内;２．白噪声过程：设{}(),X t t -∞<<∞为实值平稳过程,若它的均值为零,且谱密度在所有的频率范围内为非零的常数,即0()X s N ω=,则称{}(),X t t -∞<<∞为白噪声过程; 是平稳过程;其相关函数为0()()X R N τδτ=;表明在任意两个时刻1t 和2t ,1()X t 和2()X t 不相关,即白噪声随时间的变换起伏极快,而过程的功率谱极宽,对不同输入频率的信号都有可能产生干扰;四．联合平稳过程的互谱密度互谱密度没有明确的物理意义,引入它主要是为了能在频率域上描述两个平稳过程的相关性;１．互谱密度与互相关函数成ＦＴ对关系 ２．性质()()XY XY s s ωω= ()XY s ω的实部是ω的偶函数,虚部是ω的奇函数,()YX s ω也是; 2()()()XY X Y s s s ωωω≤；若()X t 和()Y t 相互正交,有()0XY R τ=,则()()0XY YX s s ωω== ;五．平稳过程通过线性系统１．系统的频率响应函数()H ω也可以写成()H j ω一般是一个复值函数,是系统单位脉冲响应的FT;２．系统输入()X t 为实平稳随机过程,则输出()Y t 也是实平稳随机过程;即输出过程的均值为常数,相关函数是时间差的函数;且有()()()()()()Y XY X R R h R h h ττττττ=*-=**-说明输出过程的相关函数可以通过两次卷积产生;()()()XY X R R h τττ=*的应用：给系统一个白噪声过程()X t ,可以从实测的互相关资料估计线性系统的未知脉冲响应;因为0()()X R N τδτ=,00()()()()()()XY X R R h N u h u du N h τττδττ∞-∞=*=-=⎰,从而３．输入输出谱密度之间的关系 2()()()Y X s H s ωωω=2()()()H H H ωωω=称为系统的频率增益因子或频率传输函数;有时,采用时域卷积的方法计算输出的相关函数比较烦琐,可以先计算输出过程的谱密度,然后反FT 计算出相关函数;2()()()()()X Y X Y R s H s R τωωωτ→=→另外()()()XY X R R h τττ=*,所以()()()XY X s H s ωωω= ,()()()YX X s H s ωωω= 补充：排队轮平均间隔时间=总时间/到达顾客总数 平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间 平均服务率=顾客总数/服务时间总和一．当顾客到达符合泊松过程时,顾客相继到达的间隔时间T 必服从负指数分布;对于泊松分布,λ表示单位时间平均到达的顾客数,所以1λ表示顾客相继到达的平均间隔时间;服务时间符合负指数分布时,设它的概率密度函数和分布函数分别为()(){}[]1tttt t tf t e F t P T t e dt d e e μμμμμμ----==≤==-=-⎰⎰ 其中μ表示单位时间能够服务完的顾客数,为服务率；而1μ表示一个顾客的平均服务时间; 二．排队模型的求解把系统中的顾客数称为系统的状态;若系统中有n 个顾客,则称系统的状态是n ;瞬态和稳态：考虑在t 时刻系统的状态为n 的概率,它是随时刻t 而变化的,用()n P t 表示,称为系统的瞬态;求瞬态解是很不容易的,求出也很难利用;因此我们常用稳态概率n P ,表示系统中有n 个顾客的概率; 各运行指标：1队长：把系统中的顾客数称为队长,它的期望值记作s L ,也叫平均队长,即系统中的平均顾客数;而把系统中排队等待服务的顾客数称为排队长队列长,它的期望值记作q L ,也叫平均排队长,即系统中的排队的平均顾客数; 显然有 队长＝排队长＋正被服务的顾客数;2逗留时间：一个顾客从到达排队系统到服务完毕离去的总停留时间称为逗留时间,它的期望值记作s W ;一个顾客在系统中排队等待的时间称为等待时间,它的期望值记作q W ;逗留时间＝等待时间＋服务时间;3忙期：从顾客到达空闲服务机构起,到服务台再次变为空闲为止; 4顾客损失率：由于服务能力不足而造成顾客损失的比率;5服务强度服务机构利用率：指服务设备工作时间占总时间的比例; 三．几种典型的排队模型1．//1//M M ∞∞：单服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,λρμ=服务强度; 状态转移图 , 稳态概率方程 得 系统中无顾客的01P ρ=- 系统中有n 个顾客的概率0(1)n n n P P ρρρ=-=且必有s q L L uλ=+qq L W λ=1s q W W μ=+2．//1//M M N ∞：单服务台,系统容量为N 说明若到了系统最大容量,顾客将不能进入系统,顾客源无限;λ到达率,μ服务率,λρμ=服务强度;☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆状态转移图 , 稳态概率方程 得 系统中无顾客的0111N P ρρ+-=- 系统中有n 个顾客的概率0n n P P ρ= 3．//1//M M m ∞：单服务台,系统容量无限,顾客源m;λ到达率,μ服务率;状态转移图 , 稳态概率方程 得 系统中无顾☆客的001!()!()mii P m m i λμ==-∑系统中有n 个顾客的概率0!()()!n n m P P m n λμ=-1n m ≤≤0(1)s L m P μλ=--；00()(1)(1)q s P L m L P λμλ+-=-=--01(1)s m W P μλ=--1q s W W μ=-4. ////M M c ∞∞：多服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,c λρμ=服务强度; 状态转移图 , 稳态概率方程 得☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆系统中无顾客的110011!!1k c c k P k c λλμμρ--=⎡⎤⎛⎫⎛⎫=+⎢⎥ ⎪ ⎪-⎝⎭⎝⎭⎢⎥⎣⎦∑系统中有n 个顾客的概率001()!1()!nn n n c P n c n P P n c c cλμλμ-⎧≤⎪⎪=⎨⎪>⎪⎩。
随机过程复习提纲汇总
随机过程复习提纲汇总随机过程是概率论中研究随机现象的一种数学工具，它描述了随机事件或变量在时间或空间上的演化规律。
随机过程在概率论、统计学以及各个科学领域中都有广泛的应用。
在复习随机过程的过程中，可以按照以下提纲进行系统地总结和复习：一、随机过程的定义和基本概念1.随机过程的定义和基本性质2.随机变量和随机过程的关系3.有限维分布和无限维分布4.随机过程的连续性和可测性二、随机过程的分类1.马尔可夫链和马尔可夫过程2.马尔可夫链的平稳分布和细致平衡条件3.各类随机过程的特性和应用（如泊松过程、布朗运动等）三、随机过程的数学描述1.随机过程的表示方法（如状态空间表示、样本函数表示等）2.随机过程的独立增量性质3.随机过程的平稳性质和相关函数四、随机过程的统计特性1.随机过程的均值和方差2.随机过程的相关函数和自相关函数3.随机过程的功率谱密度和自相关函数之间的关系五、随机过程的极限理论1.强大数定律和中心极限定理在随机过程中的应用2.极限理论在随机过程中的应用（如大数定律、中心极限定理等）六、马尔可夫过程的统计推断1.马尔可夫链的参数估计2.马尔可夫过程的参数估计3.马尔可夫过程的隐马尔可夫模型和参数估计七、随机过程的应用1.随机过程在金融领域的应用2.随机过程在电信领域的应用3.随机过程在信号处理领域的应用以上是一个较为全面的随机过程复习提纲，按照这个提纲进行复习可以帮助系统地回顾和学习随机过程的各个重要概念、定理和应用。
在复习的过程中，可以结合课本、教材以及相关资料进行深入学习和巩固。
同时，通过解答题目、做习题和实际应用案例的分析，可以提高对随机过程的理解和应用能力。
复习随机过程时，要注意理论和实践相结合，注重理论概念的理解和应用技巧的掌握。
随机过程复习题2的答案
随机过程复习题2的答案1. 定义：随机过程是定义在概率空间上的随机变量序列，这些随机变量随时间或空间的变化而变化。
2. 分类：- 离散时间随机过程：随机变量序列的索引是离散的，例如整数序列。
- 连续时间随机过程：随机变量序列的索引是连续的，例如时间序列。
3. 基本特征：- 概率分布：描述随机过程在任意时刻的状态分布。
- 联合分布：描述随机过程在多个时刻的状态分布。
4. 重要随机过程：- 泊松过程：描述在固定时间或空间内随机事件发生的次数。
- 布朗运动（Wiener过程）：连续时间随机过程，具有独立增量和正态分布的增量。
5. 随机过程的数学描述：- 随机变量函数：每个时刻的随机变量可以看作是时间的函数。
- 样本路径：随机过程在特定样本空间中的实现。
6. 随机过程的性质：- 平稳性：如果随机过程的统计特性不随时间变化，则称其为平稳的。
- 遍历性：如果随机过程在足够长的时间后，其统计特性与初始状态无关，则称其具有遍历性。
7. 随机过程的应用：- 信号处理：分析和处理信号中的随机成分。
- 金融数学：模拟股票价格的变动。
8. 随机过程的数学工具：- 期望：随机过程在某一时刻的期望值。
- 方差：随机过程在某一时刻的方差，衡量其波动大小。
- 协方差和相关系数：描述不同时刻随机变量之间的关系。
9. 随机过程的极限定理：- 大数定律：随着时间的增长，随机过程的样本均值趋于其期望值。
- 中心极限定理：在一定条件下，随机过程的和趋于正态分布。
10. 随机过程的模拟：- 使用计算机模拟随机过程，例如通过生成随机数来模拟泊松过程或布朗运动。
结束语：随机过程是理解现实世界中不确定性现象的重要工具。
通过对随机过程的学习，我们能够更好地分析和预测各种随机现象，为科学研究和工程实践提供理论支持。
概率论与随机过程----第八讲
E / B PB
i i i 1
n 则： E Bi E Bi E B E / B PB i 1 i 1
n
附注：（ 1 ）E / B 的实际意义为 在B上的平均值； E B B ＝ PB PB
R 1
R 1
B dP P
B
定理3.3.（随机变量函数的数学 3 期望问题）设是（Ω,F, P）上的随 机变量，其分布函数为 F x ，g是R 1上的有限实可测函数， 则 g 的数学期望存在 g x 在R 1关于PF （或F x ）的积分存在，且： E E g
n 即E E E / Bi Bi i 1
— —全数学期望公式
i i
当 A，P A
PA / B PB — —全概率公式
i 1
n
2、随机变量 关于随机变量 x的条件数学期望 前面给出了在 x条件下的条件分布函数为 F / y / x ，由F / y / x 可以构造 B 1 上的L S测度，记为 P B / x ，B B 1 。我们将F / y / x 简记为 F y / x ，考虑积分
13
i 1, , n，且Bi i 1, , n 是B的一个划分，则： PB E / B E / Bi PBi
i 1 n
定理3.5.2 ( 全数学期望公式) 设Bi F，PBi 0，
特别地，当 Bi ，有：
i 1 n
2017/2/27
g xdFx
北京邮电大学电子工程学院 7
随机过程1-概率论复习
几种重要的离散型随机变量的分布律：
(一) 0-1分布 设随机变量X只可能取0和1两个数值，其分
布为 P(X=1)=p, P(X=0)=1-p. 其中0<p<1,
则称X服从(0-1)分布。
设A是随机事件，P(A)=p(0<p<1),记
1 X
0
A发生 , 则X服从(0-1)分布. A发生
(二) 二项分布
P(C) 1 2
P(AB) 4 1 P(A) P(B) 16 4
P(AC) 4 1 P( A)P(C) 16 4
P(BC) 4 1 P(B)P(C) 16 4
P故(AABC、) B 0、C三P事(A件)P不(B)相P(互C) 独 81立但两两独立 。
第三章 随机变量及其分布
§3.1 随机变量的概念 §3.2 随机变量的分布函数 §3.3 离散型随机变量的概率分布 §3.4 连续型随机变量的概率密度
i 1
则称B1, B2 , Bn为样 本空间的一个划分 .
例 学生在回答多项选择题时，或者知道答案或 猜测答案。假定他知道答案的概率是p，而猜的 概率是1-p。假设他猜对的概率为1/m，其中m 是选项数。
问已知学生答题正确时，他确实知道答案的概率 是多少？
A--学生答题正确
B--他确实知道答案
E2:将一枚硬币抛三次,观察正反面出现的情况. 2={HHH, THH，
HTH, HHT,HTT,THT,TTH,TTT }
E3:掷一颗骰子,观察点数.则 3={1,2,3,4,5,6} 1=1 2=2 6=6
E4:电话交换台一分钟内接到的呼唤次数. 4={0，1，2， }
1=0, 2=1, 3=2
序言
随机过程论：研究随机现象演变的统计规律性. 是近代数学的重要组成部分, 特点:
概率论与随机过程 复习参考
概率论与随机过程复习参考----可参考从中取题做为考试题概率基本概念1．需掌握概念：随机试验，样本空间。
随机事件，基本事件，必然事件，不可能事件，事件间的关系（包含，相等，和，积，差，互斥，互逆），完备事件组（全包含，不重复），运算律（德摩根律），事件的描述及转换。
记数法则（乘法定理、加法定理），古典概型，抽样问题（可否放回、是否有序），分配问题，几何概型概率的性质，条件概率（两种理解方式），全概率公式，贝叶斯公式（先验概率，后验概率）。
事件独立性，两两独立与相互独立2．公式()1()P A P A =-()()()()P A B P A P B P AB =+-，注意条件不变 ()(|)()P AB P B A P A =条件概率 ()()(|)()(|)P AB P A P B A P B P A B ==乘法定理1()()(|)ni i i P A P B P A B ==∑全概率公式1()(|)(|)()(|)i i i n i ii P B P A B P B A P B P A B ==∑贝叶斯公式()()(|)()()P AB P A P B A P A P B ==独立3．习题3设A,B 是两件事件且P(A)=0.6, P(B)=0.7. 问：（1）在什么条件下P(AB)取得最大值，最大值()()()P A B P A P AB -=-()1()P B A P B A =-是多少？（2）在什么条件下Ｐ(AB)取得最小值，最小值是多少？解： ()()()()P AB P A P B P A B =+- ，且()()()P A P B P A B <≤A B ∴⊂当时，()P A B 取最小值，P(AB)取最大值，()()0.6P AB P A ==当A B S = 时，()P A B =1取最大值，P(AB)取最小值，()0.3P AB =10在11张卡片上分别写上Probability ，从中任意连抽7张，求其排列结果为ability 的概率。
随机过程复习要点教案
随机过程复习要点第一章 概率论知识补充1.随机事件体有样本空间的全体子集总共2n个组成。
1.特征函数：随机变量X 的分布函数为F(x),称()()(),itX itxg t E e e dF x t ∞-∞==-∞<<∞⎰为X 的特征函数。
()()ln X X t g t ψ=，此为第二特征函数。
离散型：()1kitx k k g t ep ∞==∑；连续型：()()itx g t e f x dx ∞-∞=⎰2特征函数的性质：注：特征函数为虚函数。
()()()()()()()()()()()()()()()()()()()()()()()()()()2'"'12n 12n 12101,1,.2-30=-0.-0;00.4....5n k k kk k k n g g t g t g t g t X g t n k n g i EX EX i g EX i g DX g g X g t g t g t g t =≤-=∞∞≤===-+==第二项为取模，第三项为取共轭。
在，一致连续；若随机变量X 的n 阶矩EX 存在，则的特征函数阶可导，且当时，有；若X X ...X 相互独立，则X +X +...+X 的特征函数为随机变量的分布函数由其特征函数唯一确定。
两者是一一对应的。
3随机变量的分布函数()F x 与特征函数g(t)是一一对应的且相互唯一确定。
如果X为连续型且特征函数g(t)j绝对可积则有：()()()()()()()()1;2.itx X itx X X X f x e g t dt g t e f x dx g t f x f x g t π∞--∞∞-∞==⎰⎰是的相差一个负号的傅氏变换；是的相差一个负号的傅氏逆变换。
4n 维正态分布：()()()1212,,..,...n n i ijij n nn XN a B X X X a a a a a B b b ⨯==维正态分布：其中 X=为均值，为正定矩阵，为协方差。
概率统计和随机过程课件总复习
5 理解并掌握条件概率的定义，掌握乘法公式，
全概率公式与贝叶斯公式
7 理解并会运用事件独立性的概念
5
重点：
概率的概念，古典概率，加法公式，乘
法公式，全概率公式，Bayes 公式
6
第二章 随机变量及其分布
• 随机变量
• 随机变量的分布函数
• 离散性随机变量及其概率分布
• 两点分布，二项分布，泊松分布
复 习 提 纲
1
期末不考内容
第四章 第三节 中 Z=max(X,Y),或min(X,Y) 其中(X,Y)连续型随机变量，求Z的分布， X,Y不独立时，不要求。独立时要求 掌握 . 第五章 第五节 第七章
2
分布，F分布，t 分布密度不要求
第八章 第五节，(二元正态均值差，方差比的 区间估计)
第九章 第三、四节，(二元正态均值差，
y (c, d ) 其它
二维随机变量函数z=g(x,y)的密度
计算 f Z (z) 的方法: 先构造一个新的二维随机变量(Z ,U ), 它们是 ( X , Y ) 的函数，而Z = g(X,Y) 比如 Z=aX +bY + c 等 求( Z , U ) 的联合密度函数 f ( z, u ) 求边缘密度 f Z (z)
34
重
点
• 随机过程的概念； • 随机过程的均值、方差、均方值、自相关 函数、自协方差函数。
35
第十二章
• • • • 严平稳过程； 广义平稳过程； 正态平稳过程； 遍历过程；
平稳过程
36
基本要求
• 了解严平稳过程的概念及其数字特征的特 点； • 掌握广义平稳过程的定义，并会判别； • 了解正态平稳过程； • 有所了解两个平稳过程平稳相关的概念； • 了解随机过程的时间均值、时间相关函数 的概念； • 了解遍历过程及其数字特征。
概率统计与随机过程-知识点总结--最终版
P(Bi ) 0(i 1, 2,L , n), 则恒有全概率公式：
n
P( A) P( A B1 )P(B1 ) P( A B2 )P(B2 ) L P( A Bn )P(Bn ) P Bi P A | Bi i 1
B 发生的概率，用古典概率公式，则
P(B
A)
AB 中基本事件数
，
SA 中基本事件数
P( AB)
AB 中基本事件数
，
S 中比 P( AB) 大。
五、事件的独立性 1、事件的相互独立性
定义：设 A，B 是两事件，如果满足等式 P( AB) P( A) P(B) ，则称事件 A，B 相互独立，
结论：
若事件 A1, A2 , L , An (n 2) 相互独立，则其中任意 k (2 k n) 个事件也是相互独立的。
2、几个重要定理
定理一：设 A, B 是两事件，且 P( A) 0 ，若 A, B 相互独立，则 P(B A) P(B).反之亦
i 1
P
Bi
A
。
3、乘法公式
由条件概率的定义： P( A | B) P( AB) 即得乘法定理： P(B)
若 P(B)>0，则 P(AB)=P(B)P(A|B)； 若 P(A)>0 ，则 P(AB)=P(A)P(B|A). 乘法定理可以推广到多个事件的积事件的情况，
-3-
设 A、B、C 为三个事件，且 P AB 0 ，且 P ABC P C | ABP B | AP A，
一般地，设有 n 个事件 A1,A2 , , An ,n 2 , 并且 P A1 A2 An1 0 ，则由条件概率的
概率统计和随机过程复习要点
全书章，都是考试内容，要全面复习.题型填空题占左右，计算题左右.主要内容.事件与概率，掌握事件地表示方法以及古典概型地计算；熟练掌握全概率公式和贝叶斯公式地应用（会考大题）；熟练掌握条件概率公式地计算方法以及两个独立事件乘积概率等于概率乘积.随机变量及其分布了解随机变量；会求离散型随机变量地分布律、连续性随机变量地密度函数，分布函数；掌握六种常用地随机变量及其分布，离散地：两点分布、二项分布、泊松分布分布律，连续地：均匀分布，指数分布、正态分布地密度函数（一定要会写出）.已知地密度函数()，(),会求地密度函数.多维随机变量及其分布重点是二维随机变量边缘分布以及概率地求法；独立性判定（一般会考大题）相互独立地随机变量密度函数满足()()()，会判定两个随机变量是否独立.两个随机变量函数地分布：两个随机变量和、最大值地分布密度，注意到正态分布地和、差一定是正态分布.主要是求出它地均值与方差就可以了.文档收集自网络，仅用于个人学习.随机变量地数字特征数学期望定义与求法，方差，协方差以及相关系数，会判断两个随机变量是否是相关地.掌握种重要地随机变量地均值与方差.极限定理理解切比雪夫不等式地含义，会用切比雪夫不等式估计一个事件地概率抽样及抽样分布理解样本、抽样、样本值等概念会求离散型随机抽样地联合分布律、连续型随机抽样地联合分密度函数掌握统计量地定义，掌握样本均值、样本方差.掌握几种常用地抽样分布，分布地数学期望与方差，分布地、分布、分布地分位点地含义及其关系.分布地性质则则掌握正态总体样本均值、样本方差地分布，掌握定理—（条件，结论）参数估计会求一个总体分布中未知参数地矩估计与最大似然估计（估计量与估计值）（会考大题）理解估计量地评选标准，会判断一个统计量是否为未知参数地无偏估计量，掌握正态总体地均值与方差地区间估计（填空题）文档收集自网络，仅用于个人学习假设检验假设检验地一般步骤（个步骤）（一般会考大题）原假设，备择假设，（）检验统计量及其服从地分布；（）拒绝域（）计算统计量地值；并与拒绝域地临界点值比较；（）作出判断，接受或者拒绝原假设；（）说明意义.关于正态总体地假设检验重点掌握：（）关于均值地假设检验（已知时与未知时）地拒绝域（）关于方差地假设检验地拒绝域.注意双边检验与单边检验地拒绝域.随机过程（）掌握随机过程地数字特征：均值函数、自相关函数（会熟练求出）（）掌握泊松过程与维纳过程地定义与其数字特征：均值函数、自相关函数、自协方差函数.会求泊松过程地概率.（一般会考填空题）文档收集自网络，仅用于个人学习（）平稳过程地定义与判断（均值函数是常数，自相关函数是时间差地单变量函数.会判断一个平稳过程地均值（自相关函数）是各态历经地会求平稳过程地功率谱密度和平均功率（一般会考大题）马尔可夫过程理解马尔可夫链地含义会求马尔可夫链地一步转移概率矩阵，会求步转移概率矩阵会利用转移概率矩阵求相应地概率，利用转移概率矩阵和初始概率求转移概率及绝对分布.会判断马尔可夫链地遍历地，如果是遍历地会求极限分布.（会考大题）不做要求地内容.二维随机变量分布函数求法，两个随机变量商地分布密度；.协方差矩阵；.正态总体中，两个样本均值差，方差比地区间估计、假设检验不要求掌握.。
随机过程总复习
Y (t) 1(t ) 2 (t ) … r (t )
两个相互独立的随机变量之和的特征函数等于它 们的特征函数之积.
练习:设随机变量X的概率密度函数为
p(
x)
1 2
x
0 x2
0 其 它
试求X的矩母函数。
解： (t ) E[etX ] 2 etx 1 xdx
2, 3 1，
t x1 3
t 3
x1
et
x1 et
随机过程的数字特征
1．均值函数 X (t) E[X (t)]
2．方差函数
D[X(t)] E[(X(t) X (t))2]
3．协方差函数
E[X 2(t)] X 2(t)
(t1, t2 ) E[(X (t1 ) X (t1 ))(X (t2 ) X (t2 ))]
注意：分母不等于0
2、条件期望的定义
离散型 连续型
E(X |Y yj ) xi P( X xi |Y y j ) i 1
其中
P(X
xi
|Y
yj
)
P(X xi ,Y P(Y yj )
yj
)
E(X |Y y)
x f ( x | y)dx
其中 f ( x | y) 条件概率密度
3、全数学期望公式
5．互协方差函数 XY (t1, t2 ) E[X(t1 ) X (t1 )][Y (t2 ) Y (t2 )]
6．互相关函数 RXY (t1, t2 ) E[X (t1 )Y (t2 )]
XY (t1, t2 ) = RXY (t1 , t2 ) X (t1 )Y (t2 )
练习 设随机过程 X (t) U cos2t ，其中 U 是随机变量 且 E(U ) 3 ， D(U ) 4
随机过程复习指南
“随机过程”复习指南一、随机过程的基本概念随机过程的基本概念，有限维分布函数，n 维概率密度函数。
随机过程的数字特征：均值函数，方差函数，协方差函数，相关函数。
几种关系：独立，不相关，正交。
几种重要的随机过程的概念：复随机过程，二阶矩过程，正交增量过程，独立增量过程，马尔可夫过程，平稳过程，正态过程。
泊松过程的有关概念：泊松过程的定义，概率分布（泊松分布），泊松过程的数字特征，时间间隔，等待时间。
马尔可夫链有关概念：定义，无后效性，转移概率，齐次马尔可夫链，初始概率，绝对概率，首中概率；状态的周期性，常返性，平均返回时间，可达，互通，基本常返闭集，平稳分布。
平稳随机过程的有关概念：严平稳和宽平稳的定义，联合平稳，时间均值，统计均值，时间相关函数，统计相关函数，各态历经性，自相关函数，功率谱密度，互相关函数，互谱密度。
二、基本原理与方法关于运算符E 的计算方法，随机过程的几个典型的数字特征（均值函数，方差函数，协方差函数，相关函数）的计算、性质以及之间的相互关系。
泊松过程的有关性质，数字特征的计算，时间间隔与等待时间的概率分布，条件概率的计算方法。
马尔可夫链的描述方式（转移概率矩阵、状态转移图），周期的判断，常返性的判断（常返态、非常返态、正常返态、零常返态、遍历态），状态空间的分解方法，平稳分布的求解。
平稳随机过程的有关概念：平稳（包括联合平稳）的判断，各态历经性的判断，自相关（互相关）函数的性质与计算，功率谱密度（互谱密度）的性质与计算。
平稳过程通过线性时不变系统后，输出过程的数字特征、平均功率、功率谱密度等分析与计算，会在简单的电路系统中求输出过程的均值、自相关、功率谱密度、平均功率等。
三、思考题1. 各章布置的作业题和讲授的例题。
2. 设随机过程∞<<∞-Φ+=t t A t X , )cos()(ω，式中A 和ω是常数，Φ是在（0, 2π）上具有均匀分布的随机变量，求该随机过程的均值、方差和相关函数。
南京大学 电子科学与工程学院 概率论与随机过程 期中复习课件
• 知识点：古典概型的概率计算公式
ቤተ መጻሕፍቲ ባይዱ
• 2、将A,B,C三个字母一一输入信道，输出为 ，而输出为其他字母的概率 原字母的概率为 1 都是 2。将字母串AAA, BBB,CCC之一输入 信道，输入AAA,BBB, CCC的概率分别 为 p , p , p ( p p p 1) ，已知输出为ABC，输入的 是AAA的概率是多少？（设信道传输每个字母 的工作是相互独立的）
1 2 3 1 2 3
• 解答
• 知识点：贝叶斯公式、全概率公式、条件概率计 算公式
• 3、甲、乙两个投篮，投中的概率分别为0.6， 0.7，今各投3次，求（1）两人投中次数相等 的概率；（2）甲比乙投中次数多的概率。
• 知识点：列表穷举
• 解答
• 知识点：随机变量的函数分布（离散型、连续型）
解答：B 知识点：正态分布的数字特征（随机变量的数 字特征）
• 解答：
• 知识点：数字特征，随机变量的简单运算的数 字特征，随机变量和的方差由三项组成
• 解答：
• 解答：
• 解答
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
3)设随机变量X 的概率密度函数 0 Ax, x 1 f ( x ) 2 x, 1 x 2 0, 其它 求(1)常数A, (2)X 的分布函数F(x ) 4)设X 的密度函数 Ax 2 , 0 x 1 f ( x) 0, 其它 １ 试求：(1)常数A, (2)P{ X 1}, ２ (3)X 的分布函数F(x )。
2
4)设离散型r.v.X 的分布律为 k P{X k} 2 ( k 1, 2,), 则为( ) (A) ０的任意实数； (B) ３； １ (C) ； (D) １. ３
25
５ ) (1)一射手向同一目标独立射击4次，每次的命 中率为p，X ＝{击中目标的次数}已知至少命中一次 , 80 的概率为 ,则X的分布律为 。 81 (２)设X ~ N (1, 2), Y ~ N (1,3),且X 与Y 相互独立， 则X+2Y～ 。 (３)设随机变量X 服从参数为n、p的二项分布， 且E ( X ) 8, D ( X ) 1.6，则参数n 、 。 p
18
１、设随机变量(X , Y )的联合分布律用下列表格给出：
(1,-1) (1,0) (1,1) (1,-1) (2,0) (2,0)
(X,Y) p
１ 6
１ 9
１ 18
１ ３
且X和Y独立，则 = ， = 。 ２、设随机变量X 和Y 相互独立，其概率分布为 2 2 1 1 X ~ Y ~ 1/ 3 2 / 3 1/ 3 2 / 3 则下列命题正确的是( ) (A)P{X=Y}=1/3; (C)P{X=Y}=1; (B)P{X=Y}=2/3; (D)P{X=Y}=5/9.
11
5) (1)一批产品共有10个正品和2件次品,随意抽取两次, 每次取一个,取后不放回,则第二次取到次品的概率为 (2)设某地区成年居民中肥胖者占10%，不胖不瘦者占 82%，瘦者占8%，又知肥胖者患高血压的概率为20%,不胖不 1)该地区居民患高血压病的概率； 2)若知某人患高血压，则他属于肥胖者的概率有多大？
9
3) (1)设一系统由三个相互独立工作的元件组成, 元件的可靠度均为p (0 p 1), 试求系统的可靠度 (即系统正常运行的概率).
2
1
3
10
4)(1)三人独立地去破译密码，已知各人能译出 的概率分别为0.4,0.5,0.7,试求： (1)三人都能将此密码译出的概率； (2)三人中至少有一人能将此密码译出的概率。 (2)设有两台机床加工同样的零件，第一台机 床出废品的概率为0.03，第二台机床出废品的概 率为0.02，加工出来的零件混在一起,并且已知第 一台机床加工的零件比第二台机床多一倍。 (1)求任取一个零件是合格品的概率； (2)若任取一个零件经检验后发现是废品，则 它是第二台机床加工的概率。
23
6、有关常用分布的性质与概率计算
1)设X ~ N (3, 4), 求： (1)P{ X 3}, (2)P (| X | 2)。 2) (1)设X ~ N (0,1), Y ~ N (1,1), 且X 与Y 独立，则( ) 1 1 (A)P{ X Y 1} , (B)P{ X Y 0} 2 2 1 1 (C)P{ X Y 0} , (D)P{ X Y 1} . 2 2 3 1 2 (2)设X i ~ N ( , ), i 1, 2,3, 且独立，Z X i 3 i 1 则E ( Z ), D ( Z ) ( ) (A)( ,3 2 ) (B)(3 , 2 ) (C)(3 ,3 2 ) (D)( ,
2
3
)
24
3)设X 与Y 独立,且X ~ N ( , ), ２３ Y ~ N (1, 42 ), 则() 1 1 (A)P{ X Y 3} , (B)P{ X Y 3} 2 2 (C)P{ X Y 1} 0, (D)P{ X Y 1} 0
概率论与随机过程
期末考试复习辅导
2013年12月29日
1
二 题型
• • • • • • 填空题 单项选择题 计算题 证明题 综合题 应用题
三、重要知识考点
1、事件的关系及其运算,概率计算的加法公式,乘法公式,全概率 公式和Bayes公式。 2、古典概型,Bernoulli概型,条件概率,事件的独立性。 3、随机变量的分布函数,随机变量函数的分布。 4、常用的两点分布、二项分布、泊松分布、指数分布、均匀分 布 和正态分布。 5、多维随机变量的分布,边沿分布、条件分布、随机变量独立性。 6、二维随机变量的和、差、积等常见函数的分布。 7、随机变量的数字特征计算：期望、方差、协方差与相关系数。 8、随机过程的均值函数和自相关函数
8
2) (1)甲、乙、丙三人射击同一目标,各发一枪， 1 1 1 三人的命中概率依次为 , , ,求： 2 3 4 (1)目标至少中一枪的概率； (2)目标只中一枪的概率。 (2)一批产品共有10个正品和2件次品,任意抽 取两次,每次从中任取一个,且取后不放回,试求下 列事件的概率： (1)前两次均取到正品； (2)第二次取到次品。
14
5) (1)下列函数中，为某随机变量X 的概率密度的是( ) 3 3 sin x, x cos x, x (A)f1 ( x) (B)f 2 ( x) 2 2 0, 其它 0, 其它 3 3 sin x, x 1 cos x, x (C)f 3 ( x) 2 (D)f 4 ( x) 2 0, 其它 0, 其它 (2)已知随机变量X 的概率密度为 Ae 2 x , x 0 f ( x) 0, x 0 求：1)常数A的值； 2)X 的分布函数；
19
3、设连续型随机变量(X , Y )的概率密度为 ８ 0 xy, x 1, 0 y x f ( x, y ) 0, 其它 求：(1)求概率P{X＋Y 1}; (2)求X、Y的边缘概率密度f X(x),f Y(y ); (3)判别X与Y的独立性.
21
ቤተ መጻሕፍቲ ባይዱ
3) (1)设X ～U (1,1), 求： 1)E(X ), D ( X ); 2)Y X 2的概率密度。 (２)设X ～b(6, 0.25), 求Y 4 X 3的期望和方差。 ４)设D(X ) 4, D (Y ) 1, D ( X Y ) 4, 则XY ( ) 1 (A)- ; 4 1 (C) ; 2 1 (B) ; 4 (C)1.
15 3)概率P{-1<x<1}; 4)随机变量Y e x的概率密度。
4、多维随机变量及其函数的分布函数
1)设(X , Y )是连续型随机变量，联合密度函数 x y, 0 x 1, 0 y 1 f ( x,y ) 0, 其它 (1)求关于X 、Y的边缘概率密度。 (2)判别X 与Y 是否独立(请说明理由)。 (3)计算概率P{Y X } 2)设(X , Y )是连续型随机变量，联合密度函数 x y, 0 x 1, 0 y 1 f ( x,y ) 0, 其它 求(1)关于X 、Y的边缘密度函数f X ( x)、fY ( y )。 (2)P{Y X }
。
瘦者患高血压的概率为10%,瘦者患高血压的概率为5%,试求：
12
3、分布函数及其性质
1)设随机变量X 的概率密度函数 Ae 2 x , x 0 f ( x) 0, x 0 求(1)常数A,(2)分布函数F(x ),(3)P{1 X 4} ２设随机变量X的概率密度函数 ) Ae 3 x , x 0 f X ( x) 0, x 0 (1)确定常数A (2)求X 的分布函数F(x ) (3)计算E(Y )和D(-3Y -1)
6
5) (1)设事件A与B互不相容,则有( (A)P(AB)=P(A)P(B), ) (B)P(AB)=P(B),
(C)P(AB)=P(B)-P(A), (D)P(AB)=P(A)-P(B).
7
1)
2、古典概率的计算
(1)有三个形状相同的袋子，第一个里有1个 白球3个黑球，第二个里有3个白球1个黑球，第三 个里有2个白球2个黑球。某人随机取一袋，再从袋 中任取一球，求该球是白球的概率。 (2)甲、乙、丙三人各射一次靶，他们各自中 靶与否相互独立，且已知他们各自中靶的概率分 别为0.5,0.6,0.8,求下列事件的概率： (1)恰有一人中靶； (2)至少有一人中靶。
3
四、复习题
1、事件的关系及概率运算
1)已知P(A)=0.4,P(B)=0.25,P(A-B)=0.25, 求P(AB),P(A B),P(B-A),P(AB).
2)设A、B为随机事件,已知 P(A)=0.7,P(A-B)=0.3,求P(AB),P(AB).
4
3) (1)设A、B为两个事件,则P(A-B)=( ) (A)P(A)-P(B), (C)P(A)-P(AB), 则P(B)=( ) (A)0.7, (B)0.6, (C)0.5, (D)0.4 (B)P(A)-P(B)+P(AB), (D)P(A)+P(B)-P(AB)
22
５)对任意两个随机变量X 和Y，若 E ( XY ) E ( X ) E (Y ), 则( ) (A)D( XY ) D ( X ) D (Y ); (B)D ( X Y ) D ( X ) D (Y ); (C)X 与Y 相互独立; (C)X 与Y 不独立.
20
5、随机变量数字特征的计算
1(1)设X ～U (0,1), 求： ) (1)X 的概率密度函数f ( x)。 (2)Y 2 X 的数学期望。 (2)设盒中有5个球，2个白球，3个黑球，从中 随意抽取3个球，计X为抽取到的白球数。求D( X ). 2)设随机变量X 服从二项分布b(3, 0.4)， 求随机变量Y 2 X 1的数学期望和方差。