北邮概率论与随机过程笔记
概率论与随机过程----第二讲
B
n 1
n
λA
（由BnλA ，则A Bnλ() ，且A Bn
n 1 2017/2/27
A B
n
λA）
北京邮电大学电子工程学院 8
第一节 集合代数和σ -代数
2. λA是包含的λ-系
（λA ，只要证明对任意的B B λA 由B λ ()，Aλ ()
第一节 集合代数和σ -代数
简单回顾上一讲的内容： 1. 集代数、σ -代数、单调类、 ()、μ()的定义 2. 它们之间的关系
σ -代数（可列可加） 集代数（有限可加）
σ -代数 单调类 集代数+单调类 σ -代数 μ()、 () 是存在且唯一的 是集代数，μ() = ()
Ω=Aλ() ）
若B,C λA且B C，有B\C λA
（ 由B,C λA， 有B,Cλ() ，且对任意 取定的Aλ()，有A B,A Cλ() ； 然而A B A C ，必有(A C)\ (A B) λ() 即(A C)\ (A B) =A (C\B) λ()，即C\B λA
第一节 集合代数和σ -代数
定理1.1.10 设，是由Ω的一些子集组成的非空集合类， 且
1. 若为λ -系, 是π -系，则：σ () 2. 若为单调类, 是集代数，则： σ ()
证明1：由于 ，是包含的λ -系
则也包含所生成的最小λ -系λ ()，即λ () 而是π -系，由定理1.1.9：λ ()= σ ()
1. Ω ； 2. 若 A,B ，A-B ；
而A-B=A-(AB) ABA 因此： A-B
《概率论与随机过程》课程自学内容小结
大学2015～2016学年秋季学期本科生课程自学报告课程名称：《概率论与随机过程》课程编号：07275061报告题目：大数定律和中心极限定理在彩票选号的应用学生：学号：任课教师：成绩：评阅日期：随机序列在通信加密的应用2015年10月10日摘 要：大数定律与中心极限定理是概率论中很重要的定理，较多文献给出了不同条件下存在的大数定律和中心极限订婚礼，并利用大数定律与中心极限定理得到较多模型的收敛性。
但对于他们的适用围以及在实际生活中的应用涉及较少。
本文通过介绍大数定律与中心极限定理，给出了其在彩票选号方面的应用，使得数学理论与实际相结合，能够让读者对大数定律与中心极限定理在实际生活中的应用价值有更深刻的理解。
1. 引言在大数定律与中心极限定理是概率论中很重要的定理，起源于十七世纪，发展到现在，已经深入到了社会和科学的许多领域。
从十七世纪到现在，很多国家对这两个公式有了多方面的研究。
长期以来，在大批概率论统计工作者的不懈努力下，概率统计的理论更加完善，应用更加广泛，如其在金融保险业的应用，在现代数学中占有重要的地位。
本文主要通过对大数定律与中心极限定理的分析理解，研究探讨了其在彩票选号中的应用，并给出了案例分析，目的旨在给出大数定律与中心极限定理应用对实际生活的影响，也对大数定律与中心极限定理产生更深刻的理解。
2. 自学容小结与分析2.1 随机变量的特征函数在对随机变量的分析过程中，单单由数字特征无法确定其分布函数，所以引入特征函数。
特征函数反映随机变量的本质特征，可唯一的确定随机变量的分布函数、随机变量X 的特征函数定义为：定义1 ][)()(juX jux e E dx e x p ju C ==⎰+∞∞-(1)性质1 两两相互独立的随机变量之和的特征函数等于各个随机变量的特征函数之积。
性质1意味着在傅立叶变换之后，时域的卷积变成频域的相乘，这是求卷积的简便方法。
类比可知求独立随机变量之和的分布的卷积，可化为乘法运算，这样就简便了计算，提高了运算效率。
概率论与随机过程考点总结
概率论与随机过程考点总结Company number：【0089WT-8898YT-W8CCB-BUUT-202108】第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X ， 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数（两个随机变量Y X ,）：DYDX B XY XY ⋅=ρ 若0=ρ，则称Y X ,不相关。
独立⇒不相关⇔0=ρ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0(母函数：∑∞===0)()(k kk kz p z E z g !)0()(k g p k k = )1()('g X E =2''")]1([)1()1()(g g g X D -+=５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 kn k k nq p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX ６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =，T n x x x x ),,,(21 =，n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间，T 是给定的参数集，若对每个T t ∈，都有一个随机变量X 与之对应，则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。
随机过程例题和知识点总结
随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学学科，在通信、金融、物理等众多领域都有广泛应用。
下面我们通过一些例题来深入理解随机过程的相关知识点。
一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量都对应着某个特定的时刻。
例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，都有一个对应的随机变量 X(t)表示股票的价格。
二、常见的随机过程类型1、泊松过程泊松过程常用于描述在一定时间内随机事件发生的次数。
例如，某电话交换台在单位时间内接到的呼叫次数就可以用泊松过程来建模。
例题：假设某电话交换台在上午 9 点到 10 点之间接到的呼叫次数是一个泊松过程，平均每分钟接到 2 次呼叫。
求在 9 点 10 分到 9 点 20 分这 10 分钟内接到至少 5 次呼叫的概率。
解：设 X(t) 表示在时间段 0, t 内接到的呼叫次数，且 X(t) 是一个强度为λ ＝ 2 的泊松过程。
10 分钟内接到的呼叫次数 X(10) 服从参数为λt ＝ 2×10 ＝ 20 的泊松分布。
P(X(10) ≥ 5) ＝ 1 P(X(10) ＜ 5) ＝ 1 P(X(10) ＝ 0) ＋ P(X(10) ＝ 1) ＋ P(X(10) ＝ 2) ＋ P(X(10) ＝ 3) ＋ P(X(10) ＝ 4)通过泊松分布的概率质量函数可以计算出每个概率值，进而求得最终结果。
2、马尔可夫过程马尔可夫过程具有“无记忆性”，即未来的状态只与当前状态有关，而与过去的状态无关。
例题：一个状态空间为｛0, 1, 2} 的马尔可夫链，其一步转移概率矩阵为 P ＝ 05 03 02; 02 06 02; 01 03 06 ，初始状态为 0，求经过 3 步转移后处于状态 2 的概率。
解：通过计算 P³得到 3 步转移概率矩阵，然后取出第 0 行第 2 列的元素即为所求概率。
概率论与随机过程考点总结
第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()( 2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差两个随机变量Y X ,：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数两个随机变量Y X ,：DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关;独立⇒不相关⇔0=ρ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k)( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数：∑∞===0)()(k kk kzp z E z g!)0()(k g p k k =)1()('g X E =2''")]1([)1()1()(g g g X D -+=５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程;简记为{}T t t X ∈),(;含义：随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性;另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的;当t 固定时,),(e t X 是随机变量;当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道;分类：根据参数集T 和状态空间I 是否可列,分四类; 也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等; ２．随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性;随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族;随机过程的有限维分布函数族是随机过程概率特征的完整描述;在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代;１均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值; ２方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度; ３协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =４相关函数)]()([),(t X s X E t s R X = 3和4表示随机过程在时刻s ,t 时的线性相关程度;５互相关函数：{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数;)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数;若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关; ３．复随机过程 t t t jY X Z += 均值函数tt Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =４．常用的随机过程１二阶距过程：实或复随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E 二阶距存在,则称该随机过程为二阶距过程;2正交增量过程：设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程;其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== 3独立增量过程：随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程; 进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程;4马尔可夫过程：如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程;5正态过程：随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,)()(),(21n t X t X t X 是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程; 6维纳过程：是正态过程的一种特殊情形;设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ；②是平稳独立增量过程；③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程;另外：①它是一个Markov 过程;因此该过程的当前值就是做出其未来预测中所需的全部信息;②维纳过程具有独立增量;该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率;③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加; 7平稳过程：严狭义平稳过程：{}T t t X ∈),(,如果对任意常数τ和正整数n 及Tt t t n ∈,,,21 ,Tt t t n ∈+++τττ,,,21 ,)()(),(21n t X t X t X 与)()(),(21τττ+++n t X t X t X 有相同的联合分布,则称{}T t t X ∈),(是严狭义平稳过程;广义平稳过程：随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程；②对任意的T t ∈, 常数==)()(t EX t m X ；③对任意T t s ∈，,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差s t -有关;则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程;第三章 泊松过程一．泊松过程的定义两种定义方法１,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称：{}T t t X ∈),(是具有参数λ的泊松过程;①(0)0X =；②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立；③在任一长度为t 的区间中,事件Ａ发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!ntt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间Ａ发生的平均个数,也称速率或强度;２,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称：{}(),0X t t ≥是具有参数λ的泊松过程;①(0)0X =；②独立、平稳增量过程；③{}{}()()1()()()2()P X t h X t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性; 二．基本性质１,数字特征 ()[()][()]X m t E X t t D X t λ=== (1)(,)(1)X s t s t R s t t s s tλλλλ+<⎧=⎨+≥⎩(,)(,)()()min(,)X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉２,n T 表示第1n -事件Ａ发生到第n 次事件发生的时间间隔,{},1n T n ≥是时间序列,随机变量n T 服从参数为λ的指数分布;概率密度为,0()0,0t e t f t t λλ-⎧≥=⎨<⎩,分布函数1,0()0,0n t T e t F t t λ-⎧-≥=⎨<⎩均值为1n ET λ=证明过程也要很熟悉 到达时间的分布 略 三．非齐次泊松过程 到达强度是t 的函数①(0)0X =；②独立增量过程；③{}{}()()1()()()()2()P X t h X t t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 不具有平稳增量性;均值函数0()[()]()tX m t E X t s ds λ==⎰定理：{}(),0X t t ≥是具有均值为0()()tX m t s ds λ=⎰的非齐次泊松过程,则有 四．复合泊松过程设{}(),0N t t ≥是强度为λ的泊松过程,{},1,2,k Y k =是一列独立同分布的随机变量,且与{}(),0N t t ≥独立,令()1()N t kk X t Y==∑ 则称{}(),0X t t ≥为复合泊松过程;重要结论：{}(),0X t t ≥是独立增量过程；若21()E Y <∞,则1[()]()E X t tE Y λ=,21[()]()D X t tE Y λ=第四章 马尔可夫链泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程;时间和状态都离散的马尔可夫过程称为马尔可夫链;马尔可夫过程的特性：马尔可夫性或无后效性;即：在过程时刻0t 所处的状态为已知的条件下,过程在时刻0t t >所处状态的条件分布与过程在时刻0t 之前所处的状态无关;也就是说,将来只与现在有关,而与过去无关;表示为{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一．马尔可夫链的概念及转移概率1．定义：设随机过程{},∈n X n T ,对任意的整数∈n T 和任意的011,,,n i i i I +∈,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称{},∈n X n T 为马尔可夫链;马尔可夫链的统计特性完全由条件概率{}11n n n n P X i X i ++==所决定;2．转移概率 {}1n n P X j X i +==相当于随机游动的质点在时刻n 处于状态i 的条件下,下一步转移到j 的概率;记为()ij p n ;则()ij p n {}1n n P X j X i +===称为马尔可夫链在时刻n 的一步转移概率;若齐次马尔可夫链,则()ij p n 与n 无关,记为ij p ;[],1,2,ij P p i j II =∈= 称为系统的一步转移矩阵;性质：每个元素0ij p ≥,每行的和为1;3．n 步转移概率()n ij p ={}m n m P X j X i +== ；()()[],1,2,n n ij P p i j II =∈=称为n步转移矩阵;重要性质：①()()()n l n l ij ik kj k Ip p p -∈=∑ 称为C K -方程,证明中用到条件概率的乘法公式、马尔可夫性、齐次性;掌握证明方法：{}{}{}{}{}{}{}{}{}()()()()(),,,,,,,()()m m n n ijm nm m m m l m n k Tm m m l m n m m l k Tm m l m n l l l n l kj ik ik kj k Ik IP X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈==================⋅====+⋅=⋅∑∑∑∑②()n n P P = 说明n 步转移概率矩阵是一步转移概率矩阵的n 次乘方;4．{},∈n X n T 是马尔可夫链,称{}0j p P X j ==为初始概率,即0时刻状态为j 的概率；称{}()j n p n P X j ==为绝对概率,即n 时刻状态为j 的概率;{}12(0),,T P p p =为初始概率向量,{}12()(),(),T P n p n p n =为绝对概率向量;定理：①()()n j i ij i Ip n p p ∈=∑矩阵形式：()()(0)T T n P n P P =②()(1)j i ij i Ip n p n p ∈=-∑定理：{}111122,,,n n n n i iii i i IP X i X i X i p p p -∈====∑ 说明马氏链的有限维分布完全由它的初始概率和一步转移概率所决定; 二．马尔可夫链的状态分类1．周期：自某状态出发,再返回某状态的所有可能步数最大公约数,即{}():0n ii d GC D n p ⋅⋅=>;若1d >,则称该状态是周期的；若1d =,则称该状态是非周期的;2．首中概率：()n ij f 表示由i 出发经n 步首次到达j 的概率; 3．()1n ij ij n f f ∞==∑表示由i 出发经终于迟早要到达j 的概率;4．如果1ii f =,则状态i 是常返态；如果1ii f <,状态i 是非常返滑过态;5．()1n i ii n nf μ∞==∑表示由i 出发再返回到i 的平均返回时间;若i μ<∞,则称i 是正常返态；若i μ=∞,则称i 是零常返态;非周期的正常返态是遍历状态; 6．状态i 是常返充要条件是()0iin n p∞==∞∑；状态i 是非常返充要条件是()11iin n iip f ∞==-∑; 7．称状态i 与j 互通,,i j i j j i ↔→→即且;如果i j ↔,则他们同为常返态或非常返态,；若i ,j 同为常返态,则他们同为正常返态或零常返态,且i ,j 有相同的周期;8．状态i 是遍历状态的充要条件是()1lim 0n iin ip μ→∞=>;一个不可约的、非周期的、有限状态的马尔可夫链是遍历的;9．要求：熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态; 三．状态空间的分解1．设C 是状态空间I 的一个闭集,如果对任意的状态i C ∈,状态j C ∉,都有0ij p =即从i 出发经一步转移不能到达j ,则称C 为闭集;如果C 的状态互通,则称C 是不可约的;如果状态空间不可约,则马尔可夫链{},∈n X n T 不可约;或者说除了C 之外没有其他闭集,则称马尔可夫链{},∈n X n T 不可约;2．C 为闭集的充要条件是：对任意的状态i C ∈,状态j C ∉,都有()0ijn p =;所以闭集的意思是自C 的内部不能到达C 的外部;意味着一旦质点进入闭集C 中,它将永远留在C 中运动;如果1ii p =,则状态i 为吸收的;等价于单点{}i 为闭集;3．马尔可夫链的分解定理：任一马尔可夫链的状态空间I ,必可唯一地分解成有限个互不相交的子集12,,,nD C C C 的和,①每一个n C 都是常返态组成的不可约闭集；②n C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且1ij f =;③D 是由全体非常返态组成; 分解定理说明：状态空间的状态可按常返与非常返分为两类,非常返态组成集合D ,常返态组成一个闭集C ;闭集C 又可按互通关系分为若干个互不相交的基本常返闭集12,,nC C C ; 含义：一个马尔可夫链如果从D 中某个非常返态出发,它或者一直停留在D 中,或某一时刻进入某个基本常返闭集n C ,一旦进入就永不离开;一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集n C ,永远在该闭集n C 中运动;4．有限马尔可夫链：一个马尔可夫链的状态空间是一个有限集合;性质：①所有非常返态组成的集合不是闭集；②没有零常返态；③必有正常返态；④状态空间12n I D C C C =++++,D 是非常返集合,12,,n C C C 是正常返集合;不可约有限马尔可夫链只有正常返态;四．()n ij p 的渐近性质与平稳分布 1．为什么要研究转移概率()n ij p 的遍历性研究()n ij p 当n →∞时的极限性质,即{}0n P X j X i ==的极限分布,包含两个问题：一是()lim n ij n p →∞是否存在；二是如果存在,是否与初始状态有关;这一类问题称作遍历性定理;如果对,i j I ∈,存在不依赖于i 的极限()lim n ijn p →∞0j p =>,则称马尔可夫链具有遍历性; 一个不可约的马尔可夫链,如果它的状态是非周期的正常返态,则它就是一个遍历链; 具有遍历性的马尔可夫链,无论系统从哪个状态出发,当转移步数n 充分大时,转移到状态j 的概率都近似等于j p ,这时可以用j p 作为()n ij p 的近似值;2．研究平稳分布有什么意义判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过讨论()lim n ij n p →∞来解决,但求极限时困难的;所以,我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链;一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布,且平稳分布即极限分布()lim n ij n p →∞=1,jj I μ∈;3．{},0≥n X n 是齐次马尔可夫链,状态空间为I ,一步转移概率为ij p ,概率分布{},j j I π∈称为马尔可夫链的平稳分布,满足1j i iji Ijj Ip πππ∈∈==∑∑4．定理：不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布1,jj I μ∈; 推论：有限状态的不可约非周期马尔可夫链必存在平稳分布;5．在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平衡状态,此时系统各状态的概率分布不随时间而变,也不依赖于初始状态;6．对有限马尔可夫链,如果存在正整数k ,使()0k ij p >,即k 步转移矩阵中没有零元素,则该链是遍历的;第六章 平稳随机过程一．定义第一章严平稳过程：有限维分布函数沿时间轴平移时不发生变化;宽平稳过程：满足三个条件：二阶矩过程2[()]E X t <∞；均值为常数[()]E X t =常数；相关函数只与时间差有关,即(,)()()()X X R t t E X t X t R τττ⎡⎤-=-=⎣⎦;宽平稳过程不一定是严平稳过程,而严平稳过程一定是宽平稳过程; 二．联合平稳过程及相关函数的性质1．定义：设{}(),X t t T ∈和{}(),X t t T ∈是两个平稳过程,若它们的互相关函数()()E X t Y t τ⎡⎤-⎣⎦及()()E Y t X t τ⎡⎤-⎣⎦仅与时间差τ有关,而与起点t 无关,则称()X t 和()Y t 是联合平稳随机过程;即,(,)()()()XY XY R t t E X t Y t R τττ⎡⎤-=-=⎣⎦ (,)()()()YX YX R t t E Y t X t R τττ⎡⎤-=-=⎣⎦当然,当两个平稳过程联合平稳时,其和也是平稳过程;２．相关函数的性质：①(0)0X R ≥；②()()X X R R ττ≥,对于实平稳过程,()X R τ是偶函数;③()(0)X X R R τ≤④非负定;⑤若()X t 是周期的,则相关函数()X R τ也是周期的,且周期相同;⑥如果()X t 是不含周期分量的非周期过程,()X t 与()X t τ+相互独立,则||()lim X X X R m m ττ→∞=;联合平稳过程()X t 和()Y t 的互相关函数,()(0)(0)XY X Y R R R τ≤,()(0)(0)YX X Y R R R τ≤；()()XY YX R R ττ-=;()X t 和()Y t 是实联合平稳过程时,则,()()XY YX R R ττ-=;三．随机分析 略四．平稳过程的各态历经性 １．时间均值1()..()2TTT X t l i mX t dt T-→∞=⎰时间相关函数1()()..()()2TTT X t X t l i mX t X t dt Tττ-→∞-=-⎰２．如果()[()]()X X t E X t m t ==以概率１成立,则称均方连续的平稳过程的均值有各态历经性;如果()()[()()]()X X t X t E X t X t R τττ-=-= 以概率１成立,则称均方连续的平稳过程的相关函数有各态历经性;如果均方连续的平稳过程的均值和相关函数都有各态历经性,则称该平稳过程是各态历经的或遍历的;一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的；另一方面也表明[()]E X t 与[()()]E X t X t τ-必定与t 无关,即各态历经过程必是平稳过程;３．讨论平稳过程的历经性,就是讨论能否在较宽松的条件下,用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征,即用时间平均代替统计平均; 只在一定条件下的平稳过程,才具有各态历经性;４．均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条件是５．相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的充要条件是第七章 平稳过程的谱分析 一．平稳过程的谱密度 推导过程：随机过程{}(),X t t -∞<<∞为均方连续过程,作截尾处理(),()0,T X t t TX t t T ⎧≤⎪=⎨>⎪⎩,由于()T X t 均方可积,所以存在FT,得(,)()()Tj tj t T TF T X t edt X t e dt ωωω∞---∞-==⎰⎰,利用paserval 定理及IFT 定义得2221()()(,)2TT TX t dt X t dt F T d ωωπ∞∞-∞--∞==⎰⎰⎰该式两边都是随机变量,取平均值,这时不仅要对时间区间[,]T T -取,还要取概率意义下的统计平均,即 定义221()2lim TTT E X t dt Tψ-→∞⎡⎤=⎢⎥⎣⎦⎰为{}(),X t t -∞<<∞平均功率;21()(,)2limX T s E F T T ωω→∞⎡⎤=⎣⎦为{}(),X t t -∞<<∞功率谱密度,简称谱密度; 可以推出当{}(),X t t -∞<<∞是均方连续平稳过程时,有 21()2X s d ψωωπ∞-∞=⎰说明平稳过程的平均功率等于过程的均方值,或等于谱密度在频域上的积分;２．平稳过程的谱密度和相关函数构成FT 对;若平稳随机序列{},0,1,2,n X n =±±,则其谱密度和相关函数构成FT 对二．谱密度的性质１．①()X s ω是()X R τ的FT;()()j X X s R e d ωτωττ∞--∞=⎰如果{}(),X t t -∞<<∞是均方连续的实平稳过程,有()()X X R R ττ=-,()X s ω是也实的非负偶函数,则②()X s ω是ω的有理分式,分母无实根;２．谱密度的物理含义,()X s ω是一个频率函数,从频率域来描绘()X t 统计规律的数字特征,而()X t 是各种频率简谐波的叠加,()X s ω就反映了各种频率成分所具有的能量大小;３．计算 可以按照定义计算,也可以利用常用的变换对()1t δ↔ 12()πδω↔ 2220a ae a a τω-↔>+22τω↔-00()()j X X R e s ωττωω⋅↔- ()()j T X X R T s e ωτω+↔⋅001,sin 0,ωωωτωωπτ⎧<⎪↔⎨≥⎪⎩等 三．窄带过程及白噪声过程的功率谱密度１．窄带随机过程：随机过程的谱密度限制在很窄的一段频率范围内;２．白噪声过程：设{}(),X t t -∞<<∞为实值平稳过程,若它的均值为零,且谱密度在所有的频率范围内为非零的常数,即0()X s N ω=,则称{}(),X t t -∞<<∞为白噪声过程; 是平稳过程;其相关函数为0()()X R N τδτ=;表明在任意两个时刻1t 和2t ,1()X t 和2()X t 不相关,即白噪声随时间的变换起伏极快,而过程的功率谱极宽,对不同输入频率的信号都有可能产生干扰;四．联合平稳过程的互谱密度互谱密度没有明确的物理意义,引入它主要是为了能在频率域上描述两个平稳过程的相关性;１．互谱密度与互相关函数成ＦＴ对关系 ２．性质()()XY XY s s ωω= ()XY s ω的实部是ω的偶函数,虚部是ω的奇函数,()YX s ω也是; 2()()()XY X Y s s s ωωω≤；若()X t 和()Y t 相互正交,有()0XY R τ=,则()()0XY YX s s ωω== ;五．平稳过程通过线性系统１．系统的频率响应函数()H ω也可以写成()H j ω一般是一个复值函数,是系统单位脉冲响应的FT;２．系统输入()X t 为实平稳随机过程,则输出()Y t 也是实平稳随机过程;即输出过程的均值为常数,相关函数是时间差的函数;且有()()()()()()Y XY X R R h R h h ττττττ=*-=**-说明输出过程的相关函数可以通过两次卷积产生;()()()XY X R R h τττ=*的应用：给系统一个白噪声过程()X t ,可以从实测的互相关资料估计线性系统的未知脉冲响应;因为0()()X R N τδτ=,00()()()()()()XY X R R h N u h u du N h τττδττ∞-∞=*=-=⎰,从而３．输入输出谱密度之间的关系 2()()()Y X s H s ωωω=2()()()H H H ωωω=称为系统的频率增益因子或频率传输函数;有时,采用时域卷积的方法计算输出的相关函数比较烦琐,可以先计算输出过程的谱密度,然后反FT 计算出相关函数;2()()()()()X Y X Y R s H s R τωωωτ→=→另外()()()XY X R R h τττ=*,所以()()()XY X s H s ωωω= ,()()()YX X s H s ωωω= 补充：排队轮平均间隔时间=总时间/到达顾客总数 平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间 平均服务率=顾客总数/服务时间总和一．当顾客到达符合泊松过程时,顾客相继到达的间隔时间T 必服从负指数分布;对于泊松分布,λ表示单位时间平均到达的顾客数,所以1λ表示顾客相继到达的平均间隔时间;服务时间符合负指数分布时,设它的概率密度函数和分布函数分别为()(){}[]1tttt t tf t e F t P T t e dt d e e μμμμμμ----==≤==-=-⎰⎰ 其中μ表示单位时间能够服务完的顾客数,为服务率；而1μ表示一个顾客的平均服务时间; 二．排队模型的求解把系统中的顾客数称为系统的状态;若系统中有n 个顾客,则称系统的状态是n ;瞬态和稳态：考虑在t 时刻系统的状态为n 的概率,它是随时刻t 而变化的,用()n P t 表示,称为系统的瞬态;求瞬态解是很不容易的,求出也很难利用;因此我们常用稳态概率n P ,表示系统中有n 个顾客的概率; 各运行指标：1队长：把系统中的顾客数称为队长,它的期望值记作s L ,也叫平均队长,即系统中的平均顾客数;而把系统中排队等待服务的顾客数称为排队长队列长,它的期望值记作q L ,也叫平均排队长,即系统中的排队的平均顾客数; 显然有 队长＝排队长＋正被服务的顾客数;2逗留时间：一个顾客从到达排队系统到服务完毕离去的总停留时间称为逗留时间,它的期望值记作s W ;一个顾客在系统中排队等待的时间称为等待时间,它的期望值记作q W ;逗留时间＝等待时间＋服务时间;3忙期：从顾客到达空闲服务机构起,到服务台再次变为空闲为止; 4顾客损失率：由于服务能力不足而造成顾客损失的比率;5服务强度服务机构利用率：指服务设备工作时间占总时间的比例; 三．几种典型的排队模型1．//1//M M ∞∞：单服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,λρμ=服务强度; 状态转移图 , 稳态概率方程 得 系统中无顾客的01P ρ=- 系统中有n 个顾客的概率0(1)n n n P P ρρρ=-=且必有s q L L uλ=+qq L W λ=1s q W W μ=+2．//1//M M N ∞：单服务台,系统容量为N 说明若到了系统最大容量,顾客将不能进入系统,顾客源无限;λ到达率,μ服务率,λρμ=服务强度;☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆状态转移图 , 稳态概率方程 得 系统中无顾客的0111N P ρρ+-=- 系统中有n 个顾客的概率0n n P P ρ= 3．//1//M M m ∞：单服务台,系统容量无限,顾客源m;λ到达率,μ服务率;状态转移图 , 稳态概率方程 得 系统中无顾☆客的001!()!()mii P m m i λμ==-∑系统中有n 个顾客的概率0!()()!n n m P P m n λμ=-1n m ≤≤0(1)s L m P μλ=--；00()(1)(1)q s P L m L P λμλ+-=-=--01(1)s m W P μλ=--1q s W W μ=-4. ////M M c ∞∞：多服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,c λρμ=服务强度; 状态转移图 , 稳态概率方程 得☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆系统中无顾客的110011!!1k c c k P k c λλμμρ--=⎡⎤⎛⎫⎛⎫=+⎢⎥ ⎪ ⎪-⎝⎭⎝⎭⎢⎥⎣⎦∑系统中有n 个顾客的概率001()!1()!nn n n c P n c n P P n c c cλμλμ-⎧≤⎪⎪=⎨⎪>⎪⎩。
北京邮电大学工程数学概率部分复习
1 5 5 P{恰好出现两次 6 点}= C 6 6 72
2 3
所以选 D． 例：设 A、B 为两个互不相容事件，且 P ( B ) 0 ，则 P ( A B ) _________． 解：因为 A、B 为两个互不相容，即 AB ，所以
P( A B)
） ．
解： P ( A B ) P ( AB ) P ( A) P ( B ) [1 P ( A)][1 P( B)]
0.4 0.3 0.12
所以选 D．
二、随机变量及其分布
1．随机变量及其分布函数：了解随机变量及其分布函数的概念、性质；掌握分布函数与随 机变量取值概率的关系． 2．离散型随机变量：掌握离散型随机变量分布律的性质；掌握分布律的求法；掌握离散型 随机变量分布函数的求法． 3．连续型随机变量：掌握连续型随机变量概率密度的性质；掌握概率密度与分布函数的关 系． 4．几个重要分布：掌握以下常用随机变量的分布．
Y X -1 0 1 1 0 1/3 0 2 1/2 0 1/6
（4） P X Y 1 P X 1, Y 2 P X 0, Y 1 例：设随机变量 X 的分布列为： X P -1 1/2 0 1/4
2
1 1 5 2 3 6
1 1/4
求（1）X 的分布函数 F ( x) ； （2）Y X 的分布列； （3）二维随机变量（X，Y）的分布列； （4） P X Y 0 ． 解： （1）当 x 1 时， F ( x) P{ X x} P( ) 0 当 1 x 0 时， F ( x) P{ X x} P{x 1}
（3） P X xi , Y y j PX xi P Y y j X xi
北邮概率论与数理统计样本空间及随机事件1.1
§1.1 随机事件及其运算1.随机现象自然界和社会上发生的现象多种多样.有些现象,我们可以准确预言他们在一定条件会出现何种结果,例如“在标准大气压下,纯水加热到C ︒100时必定沸腾”等等,这类现象我们称为确定性现象.然而自然界和社会上还有许多现象,他们在一定条件下，并不总是出现相同结果,而且事先我们无法准确预言会出现何种结果, 这类现象我们称为随机现象.随机现象随处可见。
如抛一枚硬币，其结果可能是正面朝上,也可能反面朝上,而且在出现结果之前无法准确预言会出现何种结果.再比如用一仪器在相同条件下测量一物体的质量,各次测量结果会有差异,等等。
有的随机现象可以在相同条件下重复,也有很多随机现象是不能重复的，比如经济现象（如失业，经济增长速度等）大多不能重复. 对在相同条件下可以重复的随机现象的观察、记录、实验称为随机试验.对于这类随机现象，我们常常通过多次重复的随机试验，观察其出现的结果，以期发现随机现象的规律性。
长期的实践经验表明，在大量重复试验下,随机现象的结果的出现往往呈现出某种规律性.例如大量重复抛一枚硬币,正面出现的次数与反面出面出现的次数大致相当,等等.这种在大量重复试验中所呈现的规律性就是我们以后常说的统计规律性.概率论与数理统计的研究对象是随机现象,研究和揭示随机现象的统计规律性. 概率论与数理统计主要研究能重复的随机现象，但也十分注意研究不能重复的随机现象.2.样本空间数学理论的建立总是需要首先给出一些原始的无定义的概念（例如，“点”和“直线”是欧氏几何的公理化处理中无定义的概念）。
在概率论中，第一个“无定义”的原始概念是“样本点”，这一原始概念又联系着另一原始概念“随机试验”.概率论中所说的随机试具有下述特点:(1)可以在相同条件下重复地进行;(2)每次试验的可能结果不止一个,并且事先能明确试验的所有可能的结果;(3)进行一次试验之前不能确定哪个结果会发生.随机试验的可能结果称为样本点，用ω表示样本点；而随机试验的一切样本点组成的集合称为样本空间，记为}{ω=Ω.在具体问题中,认清“样本空间是哪些样本点构成的”是十分重要的. 有些随机试验凭“经验”可确定样本点和样本空间,有些随机试验需要“数学的理想化”去确定样本点和样本空间.样本点和样本空间的确定也与研究目的有关,或者说与观察或记录的是什么有关.看下面一些例子.例 1 考虑试验:掷一骰子,观察出现的点数.根据“实际经验”,该试验的基本结果有6个:1,2,3,4,5,6,从而其样本空间为}6,5,4,3,2,1{=Ω.如果我们只是观察出现奇数点还是偶数点,那么样本空间可以确定为{=Ω出现奇数点,出现偶数点}.例 2 考虑试验:观察一天内进入某商场的人数. 一天内进入某商场的人数是非负整数,但由于不知道最多的人数和最少的人数,我们把该试验的样本空间“理想化”地定为},3,2,1,0{⋅⋅⋅=Ω,即样本空间确定为全体非负整数构成的集合.例3考虑试验:考察一个元件的寿命.为了数学上处理方便, 我们把该试验的样本空间“理想化”地确定为),0[+∞=Ω.例 4 对于试验:将一硬币抛3次.若我们记录3次正反面出现的情况,则样本空间为},,,,,,,{TTT TTH THT HTT THH HTH HHT HHH =Ω;若我们记录正面出现的次数,则样本空间为}3,2,1,0{=Ω.若样本空间中的元素个数是有限个,我们称此样本空间为有限样本空间. 若样本空间中的元素个数是有限个或可列个,我们称此样本空间为离散样本空间.3.随机事件有了样本空间后,我们可以给出随机事件的概念.直观上, 随机事件是随机现象或随机试验中可能发生也可能不发生的事件.例如,在掷骰子试验中,“出现偶数点”是可能发生也可能不发生的,因此它是随机事件,而且当试验出现的结果是2或4或6时该事件就发生了,否则该事件就不发生.一个事件是否发生应当能由试验出现的结果判定,因此一个事件可以由使其发生的那些样本点组成，换言之, 随机事件可以由一个或多个样本点组成的集合来表示.因此有下面概念.设随机试验E 的样本空间为}{ω=Ω,我们称样本空间为}{ω=Ω的子集为随机事件,简称为事件,常用大写字母A,B,C,…表示.若一事件是由单个样本点组成,则称该事件为基本事件;由2个或2个以上样本点组成的事件称为复合事件.由全体样本点组成的事件称为必然事件,必然事件就是样本空间Ω本身.空集Φ作为样本空间Ω的子集也是事件,称此事件为不可能事件. 显然, 必然事件在每次试验中是必定发生的,不可能事件在任一次试验中都不会发生.这两种情况已无随机性可言,但我们把它们视为随机事件的特例.以后在理论上讨论概率论问题时，我们总是假定样本空间已经给定，随机事件就是该样本空间的子集。
(完整word版)随机过程笔记
随机过程笔记2015-05-10 许铁混沌巡洋第一部分：为什么要研究随机过程？人类认识世界的历史，就是一认识和描绘各种运动的历史，从宏观的天体运动到分子的运动，到人心理的运动-我们通称为变化，就是一个东西随时间的改变。
人们最成功的描绘运动的模型是牛顿的天体运动，确定性是牛顿体系最大的特征。
给定位置和速度，运动轨迹即确定。
但是20实际后的科学却失去了牛顿美丽的确定性光环。
因为当人们试图描绘一些真实世界，充满复杂而未知因素的运动时候，人们发现不确定的因素（通常称之为噪音）对事物的变化至关重要，而牛顿的方法几乎难以应用。
而我们所能够给出的最好的对事物变化的东西，是一套叫概率论的东西。
而与之相应的产生的一个全新的研究运动的方法-随机过程, 对不确定性下的运动进行精细的数学描述。
我们周边充满了各种各样的数据，所谓大数据时代，这些数据最基本的特点就是含有巨量的噪音，而随机过程就是从这些噪音里提取信息的武器。
* 其实我们生活中也处处充满“噪音”。
比如说我们每天发邮件，经常有一些人时回时不回。
那些不回的人到底是忘了还是真的不想回，我们却不知道。
一个书呆子统计学家会告诉你，你无法从一次的行为评判他，而要看他一贯的表现。
第一个随机过程方法的伟大胜利是爱因斯坦的布朗运动。
一些小花粉在水里，受到水分子不停碰撞，而呈现随机的运动（花粉颗粒由于很小比较容易受到水分子热扰动的影响）。
研究这些花粉的微小运动似乎有点天然呆，我们却从中找到了分子世界重要的信息。
而花粉那无序与多变的轨道，也为我们提供了随机运动的范式（随机游走）。
计算机生成的十个粒子的布朗运动轨迹如果给随机过程打个比方，它就像是一个充满交叉小径的花园。
你站在现在的点上，看未来的变化，未来有千万种变化的方式，每一种可能又不断分叉变化出其它可能。
第二部分：描述随机过程的武器随机过程怎么研究？几样神器是不可缺少的。
1. 概率空间：面对不可确定的未来，无非有两件事需要关心，一个是有哪些可以实现的可能，一个是每种可能的大小，前者定义一个事件空间（态空间），后者定义一个数-概率。
概率论与随机过程----第七讲资料
四是三的推广，因此要注意理解协方差矩阵的定义、性 质以及其物理意义。
五、复随机变量的数字特征（自学）
注意区别复随机变量的数学期望与实随机变量的数学期 望的定义；同意注意区别两个复随机变量的协方差与两 个实随机变量的协方差的定义。
2020/11/9
北京邮电大学电子工程学院
R1
R1
定理3.3.（3 随机变量函数的数学期望问题）设是（Ω,F, P）上的随
机变量，其分布函数为Fx，g是R1上的有限实可测函数，则
g 的数学期望存在 gx在R1关于PF（或Fx）的积分存在，且：
E Eg gxdFx
2020/11/9
北京邮电大学电子工程学院
20
证明：在（3.3.1）式中取R R1，f ，则：
（1）若c为常数，则Dc c2D ；
（2）若1,n是概率空间（Ω, F, P）上的随机变量，有有限的
数学期望，且两两独立，则：
D1 n D1 Dn
若1,n的方差有限，则1 n的方差也有限
（3）D 0 E（ a.e.）
证明略，同学们可自证。
2020/11/9
北京邮电大学电子工程学院
2020/11/9
北京邮电大学电子工程学院
17
若g为一般的实可测函数，则：
g fdP gdPf g fdP gdPf
R
R
根据复合函数的性质，有g f g f
则：
gdPf gdPf gdPf
R
R
R
g fdP g fdP g fdP
1
n
j 2n
n
Bk Bn2n
k 2n
n
k 1 2n
,
北邮研究生概率论第一讲解读
使概率论成为数学一个分支的真正奠基人是 瑞士数学家雅各布·伯努利（1654~1705），他的 重要贡献是建立了概率论中的第一个极限定理， 即伯努利大数定律，发表在1713出版的遗著《猜 度术》中。美国概率史专家海金（Hacking）称 此书标志着“概率漫长的形成过程的终结与数学 概率论的开端”。
概率论与随机过程
黎淑兰
学时数：54 教材：王玉孝，《概率论与随机过程》，北邮出版社 参考书： 1. 陆大琻，《随机过程及其应用》，清华大学出版社 2. 严士健等，《测度与概率》，北京师范大学出版社 3. 张朝金著，《概率论中的反例》 4. 王玉孝，《概率论与随机过程习题解答》，北邮教材
中心
2020/11/14
北京邮电大学电子工程学院
1
教学安排
先修课程：高等数学，概率论 考试：闭卷，期末70%，平时30% 电子邮件：lishulan@ 手机 15210631976
2020/11/14
北京邮电大学电子工程学院
2
一、概率论与随机过程的历史及应用
1. 概率论的诞生及发展
17、18世纪，数学获得了巨大的进步。数学家 们冲破了古希腊的演绎框架，向自然界和社会生活 的多方面汲取灵感，数学领域出现了众多崭新的生 长点，而后都发展成完整的数学分支。除了分析学 这一大系统之外，概率论就是这一时期"使欧几里 得几何相形见绌"的若干重大成就之一。
1651年,一个名叫梅累的骑士和朋友保罗各出30枚金 币作为赌金，两人事先选好一个点数，梅累选择了 “5”，保罗选择了“3”，游戏规则是：如果谁先掷 出了3次自己所选的点数，谁就赢得全部60个金币。游 戏进行到梅累掷出2次“5”点，保罗掷出1次“3”点 时，由于发生一个紧急事情，梅累必须马上离开，游 戏因此中断，两人为赌本的分配问题争执不下，恰逢 帕斯卡经过梅累他们所在的小镇，于是梅累就“分赌 金问题”求教于帕斯卡。
概率论与随机过程第五讲
14
⎧⎨(−1)n ⎩
n
n +
⎫ 1⎭⎬
,
⎧⎨sin ⎩
nπ
4
⎫⎬ , ⎭
⎧ ⎨ ⎩
2n n +1
sin
nπ
4
⎫ ⎬ ⎭
则lim(−1)n n = 1; lim(−1)n n = −1
n→∞
n +1 n→∞
n +1
则lim sin nπ = 1; lim sin nπ = −1
n→∞
4
n→∞
4
则lim 2n sin nπ = ？lim 2n sin nπ = ？
n→∞ n +1 4 n→∞ n +1 4
2011-9-26
北京邮电大学电子工程学院
15
定理2.2.4 设 fn 是定义在（Ω, F）上的实可测函数列，
( ) 则：sup fn，inf
n
n
fn，lim n→∞
f n，nli→m∞
f
均是
n
Ω，F
上的实可测函数。
~ (1)
证明：由于对任意的 x ∈ R ，有：
（4）非负可测函数是非负不减简单（或初等）函数列的 极限（或一致极限）。
证明：若f 非负可测，则（2.2.2）和（2.2.3）变成:
( ) ∑ ( ) ( ) fn ω
+ n2n −1
= 2k χ ω k=0
n
⎧ ⎨ ⎩
k 2n
≤
f
(ω
)<
k +1 2n
⎫ ⎬ ⎭
+ nχ{ f (ω )≥n} ω
( ) ∑ ( ) ( ) gn ω
2011-9-26
概率论手写笔记
概率论手写笔记一、概率论基础概念。
1. 随机试验与样本空间。
- 随机试验：具有以下三个特点的试验称为随机试验，记为E。
- 可以在相同的条件下重复地进行。
- 每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果。
- 进行一次试验之前不能确定哪一个结果会出现。
- 样本空间：随机试验E的所有可能结果组成的集合称为E的样本空间，记为S。
样本空间的元素，即E的每个结果，称为样本点。
2. 随机事件。
- 定义：试验E的样本空间S的子集称为E的随机事件，简称事件。
在每次试验中，当且仅当这一子集中的一个样本点出现时，称这一事件发生。
- 特殊事件：- 必然事件：样本空间S包含所有的样本点，它是自身的子集，在每次试验中它总是发生的，称为必然事件。
- 不可能事件：空集varnothing不包含任何样本点，它也是样本空间S的子集，在每次试验中都不发生，称为不可能事件。
3. 事件间的关系与运算。
- 包含关系：若事件A发生必然导致事件B发生，则称事件B包含事件A，记作A⊆ B。
- 相等关系：若A⊆ B且B⊆ A，则称事件A与事件B相等，记作A = B。
- 事件的和（并）：事件A与事件B至少有一个发生的事件，称为事件A与B的和（并）事件，记作A∪ B。
- 事件的积（交）：事件A与事件B同时发生的事件，称为事件A与B的积（交）事件，记作A∩ B或AB。
- 事件的差：事件A发生而事件B不发生的事件，称为事件A与B的差事件，记作A - B。
- 互斥事件（互不相容事件）：若A∩ B=varnothing，则称事件A与B是互斥事件，即事件A与B不能同时发生。
- 对立事件：若A∪ B = S且A∩ B=varnothing，则称事件A与B互为对立事件，记B=¯A，即A不发生的事件就是A的对立事件。
4. 频率与概率。
- 频率：在相同的条件下，进行了n次试验，在这n次试验中，事件A发生的次数n_A称为事件A发生的频数。
比值f_n(A)=(n_A)/(n)称为事件A发生的频率。
北邮1.概率论与随机过程_预备知识
集合的基本概念
空集：不含任何元素的集合叫做空集，记作。
定理：空集是任意集合的子集。
幂集：设A为集合，把A的全体子集构成的集合叫做A 的幂集，记作P(A)。
若A中有n个元素，则P(A)有2n个元素。
全集：在一个具体问题中，如果所涉及的集合都是某 个集合的子集，则称这个集合为全集，记作E。
庄伯金 bjzhuang@
18
| A1 A2 ... An || S | | Ai |
i 1 1i j k n
n
1i j n
| Ai A j |
| Ai A j Ak | ... (1) n | A1 ... An |
庄伯金 bjzhuang@
A∪=A A∩E=A A∪E=E A∩= A∪(B∩C)=(A∪B)∩(A∪C) A∩(B∪C)= (A∩B)∪(A∩C)
9
零律
分配律
庄伯金 bjzhuang@
集合的运算律
吸收律
A∩(A∪B)=A A∪(A∩B)=A (B)=B
双重否定律
乘法原理与加法原理
乘法原理：做一件事需要通过n个步骤依次完成，其中完成每 个步骤分别有ti种方法，则完成这件事总共有t1 ×t2 ×…×tn 种方法。
加法原理：做一件事分别有n类方法完成，其中每类方法分别 有ti种方法，则完成这件事总共有t1 +t2 +…+tn种方法。
庄伯金 bjzhuang@
A = E-A = {x|x∈E∧xA} = {x|xA}。
北航随机过程总复习
假设X(t)为平稳过程，则
稳过程的自相关函数也是可积的， RYY则输出一定也是平稳的！h(u ) h(v)dudv (t1 , t2 ) RXX (t1 u, t2 v)
输入平稳 RXX ( u v)h(u ) h(v)dudv, 注意：积分存在的条件，只有均值与
2
df 这里 2 f
五、冲击响应法
N0 RY ( ) 2
h(u ) h ( u ) du
2 Y
N0 RY (0) 2
h (u )du
2
五、噪声等效通频带
FY ( )
FY 0 e FY d
0
FY (0 )
e
2
N0 RY ( ) 2
+
0
| H ( j ) | cos d
2
输出自相关不再是理想脉冲！
五、频谱法－方差
因为白噪声为零均值，故
N0 CY (0) RY (0) 2
2 Y
0
H j d
2
或 N 0 H jf
2 Y 0
第二章 知识要点－1
随机过程：
– 时间为参量的一族随机变量 – 也可以看成是一族样本信号
四种分类：
– 连续型随机过程 – 离散型随机过程 – 连续随机序列 – 离散随机序列
第二章 知识要点
研究工具1
– 有限维分布函数簇、概率密度函数 【注意】矢量随机过程 – 概念上有用
研究工具2
– 数字特征：均值函数、自相关函数、 相关系数、功率谱密度函数 – 工程应用更多
随机过程读书笔记
第一章随机过程及其分类第一节随机过程的概念1、随机过程的定义⑴、定义：随机过程：设（Ω，F，P）是概率空间，如果对于∀t∈T，X（t，ω）是一个随机变量，则称随机变量族X T={ X（t，ω）；t∈T}是一个随机过程，⑵、符号：X（t，ω）简写为X（t），从而随机过程简写为{ X（t）；t∈T}2、随机过程的剖析X（t，ω）是一个T×Ω→R的映射⑴、如果固定t∈T，则X（t，ω）为随机变量⑵、如果固定ω∈Ω，则X（t，ω）为样本函数3、基本概念⑴、定义：随机序列【当参数T取可列集时，随机过程称为随机序列】⑵、定义：状态空间【{ X（t，ω）；t∈T}能够取到的所有值，记为S】4、习题解析⑴、判断是否随机过程【关键：首先固定t，然后判断X（t，ω）是不是一个随机变量】⑵、求解样本函数【关键：ω每取一个值，就得到一个样本函数】⑶、求解状态空间【在分析所有样本函数的基础上，再进行判断；简单情况可直接判断】第二节随机过程的分类1、以参数集的性质和状态空间的特征分类⑴、以参数集的性质分类【T可列，T不可列】⑵、以状态空间的特征分类【S离散，S连续】2、分类结果⑴、离散型参数离散型随机过程【一维随机游动】⑵、连续性参数离散型随机过程【服务台模型：N（t）表示[0，t]时刻到达的顾客数】⑶、连续性参数连续型随机过程【正弦随机过程X (t) = Acosωt，ω是常数，A ~U[0, 1]】⑷、离散型参数连续型随机过程【随机序列】3、以随机过程的统计特征或概率特征分类⑴、独立增量过程【增量X（t1），X（t2）－X（t1），…，X（tn）－X（tn-1）相互独立】⑵、马尔科夫过程【无后效性】⑶、二阶矩过程【对于∀t∈T，D[X（t）]存在】第三节随机过程的分布函数1、定义：随机过程的一维分布函数设{ X（t）；t∈T}为随机过程，对于∀t∈T，X（t）为随机变量，则随机过程的一维分布函数：F（t，x）=P[X（t）≤x]，其中t∈T ，x∈R2、定义：随机过程的一维概率密度函数如果对于∀t∈T，X（t）为连续型随机变量，并且存在非负可积函数f（t，x），使得F（t，x）=∫[－∞，x]f（t，x）dx3、定义：随机过程的二维分布函数设{ X（t）；t∈T}为随机过程，对于∀s，t∈T，（X（s），X（t））为二维随机变量，则随机过程的联合分布函数：F（s，t；x，y）=P[X（s）≤x ，X（t）≤y]4、定义：随机过程的二维概率密度函数如果对于∀s，t∈T，（X（s），X（t））为二维连续型随机变量，并且存在非负可积函数f（s，t；x，y），使得F（s，t；x，y）=∫∫[－∞，y] [－∞，x]f（s，t；x，y）dxdy5、定义：随机过程的n维特征函数θ（t1，t2，…，tn ；u1，u2，…，un）=E{exp[j（u1X（t1）＋u2X（t2）+…＋unX（tn））]}6、习题剖析⑴、锯齿波【关键定理：随机变量函数的分布★★】定理：已知X的分布函数为F X（x），则Y=g（X）的分布函数为F Y（x）=P（Y<x）=P（g（X）<x）=P（X<g-1（x））= F X（g-1（x））⑵、投掷硬币试验【以P48的分析为模板，仔细给出一维和二维分布函数】第四节随机过程的数字特征一、基本概念1、均值函数⑴、定义：μX（t）=E[X（t）]= ∫[－∞，＋∞]xdF（t，x）⑵、离散型：μX（t）=∑[1，＋∞]xkPk（t）⑶、连续型：μX（t）=∫[－∞，＋∞]xf（t，x）dx2、方差函数⑴、定义：D X（t）= E{X（t）－E[X（t）]}2=∫[x－μX（t）]2dF（t，x）⑵、性质：D X（t）= E[X（t）] 2－{E[X（t）]}23、协方差函数与自相关函数⑴、定义：自协方差函数【C X（s，t）=E{X（s）－E[X（s）]} { X（t）－E[X（t）]}】⑵、定义：自相关函数【R X（s，t）=E[X（s）X（t）]】二、基础知识复习1、随机变量函数的联合分布⑴、定理：随机变量函数的联合分布Yi=gi（X1，…，Xn），其中（X1，…，Xn）为n维随机变量，i=1，…，k则F Y1，Y2，...，Yk（y1，y2，...，yk）=∫[D]f（x1，x2，...，xn）dx1dx2 (x)⑵、推论：Z=X+Y的概率密度函数【=∫f X（z-y）f Y（y）dy】【注意证明】2、特征函数的定义和性质⑴、定义：特征函数【θX（u）=E（e iuX）=∫[－∞，＋∞]e iux dF（x）】⑵、性质：如果X和Y相互独立，则θX+Y（u）=θX（u）θY（u）⑶、定理：唯一性定理【关键：利用特征函数求解分布函数】三、正态分布随机过程1、正态分布的基本性质⑴、性质：如果X和Y相互独立，则E（XY）=E（X）E（Y）⑵、性质：正态分布的方差和期望【X~N（μ，ζ2），则E（X）=μ，D（X）=ζ】⑶、性质：正态分布的特征函数【X~N（μ，ζ2），则θX（u）=exp（iμu－u2ζ2/2）】2、正态分布的重要定理⑴、定理：设X~N（μ1，ζ12），Y~N（μ2，ζ22），且X和Y相互独立，则X+Y~N（μ1+μ2，ζ12+ζ22）⑵、证明：利用唯一性定理，求解X+Y的分布函数3、二维正态分布【待深入内容】⑴、定义：二维随机变量（X，Y）符合二维正态分布【电子科大教材，P14】⑵、定理：二维正态分布的概率密度函数【矩阵形式，P25】四、正弦随机过程1、基本性质⑴、性质：均匀分布的概率密度函数【如果X~U（a，b），则f（x）=1/（b－a）】⑵、性质：随机变量函数的期望【E（Y）= E（g（x））=∫[－∞，＋∞]g（x）dF（x）】2、相关函数的求解⑴、基本公式：R X（s，t）=E[X（s）X（t）]⑵、求解步骤：将X（s）和X（t）分别代入上式计算【关键：从定义出发】第五节两个随机过程1、一个随机过程的概念⑴、定义：一个随机过程【所讨论的随机变量，来自于同一个随机过程】⑵、技巧：D X（t）= C X（t，t）【即方差是协方差的一种特殊情况】2、两个随机过程的数学特征⑴、互协方差函数：【C XY（s，t）=E{X（s）－E[X（s）]} { Y（t）－E[Y（t）]}】⑵、互相关函数：【R XY（s，t）=E[X（s）Y（t）]】3、随机过程的有限维分布函数族⑴、定义：有限维分布函数族【关键：属于单个随机过程的概念】F X（x1，…，xn ；t1，…，tn）=P[X（t1）≤x1，…，X（tn）≤xn]其中：∀n∈N；∀ti∈T（i= 1，2，…，n）【关键：取任意有限多个随机变量】⑵、性质：对称性（可以任意交换位置）；相容性（其中某些随机变量可取边缘分布）⑶、定理：柯尔莫哥洛夫定理如果随机函数分布族满足对称性和相容性，则存在唯一的随机过程与之对应4、两个随机过程的独立性⑴、定义：随机过程{ X（t）；t∈T}和{ Y（t）；t∈T}的n+m维联合分布F XY（x1，…，xn ；t1，…，tn；y1，…，ym ；t1’，…，tm’）⑵、定义：两个随机过程相互独立【如果∀n，m∈N；∀ti，ti’∈T，都成立】⑶、分析：只有在某些特殊情况下，才有可能分析独立性第六节条件概率分布一、条件数学期望1、单位脉冲函数δ（x）⑴、定义：单位脉冲函数δ（x）【两个条件：分布函数，并且积分为1】⑵、性质：筛选性质【∫[－∞，＋∞]δ（x－x0）f（x）dx=f（x0）】⑶、性质：概率密度函数的函数形式【f（x）=∑[1，＋∞]pkδ（x-xk）】⑷、作用：统一形式【将连续型和离散型随机变量的概率密度函数，用统一形式表达】2、条件分布和条件密度的核心定义【重要：条件分布公式的推导】⑴、定义：条件分布【F X|Y（x|y）=P（X≤x|Y=y）=∫[－∞，x]f（u，y）du/ f Y（y）】⑵、定义：条件密度【f X|Y（x|y）dy= f（x，y）/f Y（y）】【求导，并将上下限代入】★★3、条件数学期望的概念【定义是一切分析的基础】⑴、离散情形：E（X|Y=yj）=∑xi*P（X=xi|Y=yj）⑵、连续情形：E（X|Y=y）=∫[－∞，＋∞]x* f（x，y）/f Y（y）dx4、随机变量E（X|Y）的分布列⑴、核心公式：E（X|Y=yj）=∑xi*P（X=xi|Y=yj）【直接从定义出发，更加不容易出错】⑵、核心公式：计算Pi.和P.j【将联合分布率分别按行，按列求和】⑶、计算公式：E（X）=∑xi*Pi.⑷、计算公式：E[E（X|Y）]= E（X）【可以利用上述表格证明，证明见下】=∑E（X|Y=yj）P（Y=yj）=∑∑xi*P（X=xi|Y=yj））P（Y=yj）==∑xi*Pi.= E（X）⑸、典例分析：离散型的条件数学期望【参见：中科院孙应飞讲稿P9分析】二、条件数学期望的性质1、随机变量函数的条件数学期望⑴、定理：E[g（X）|Y=y]=∫[－∞，＋∞]g（x）* f（x，y）/f Y（y）dx【无需证明】⑵、性质：E（aX+bY|Z）= aE（X|Z）+bE（Y|Z）★★2、全期望公式【关键：与全概率公式的本质一致】⑴、定理：E[g（X）]= E{ E[g（X）|Y] }⑵、证明：E{ E[g（X）|Y] }= ∫[－∞，＋∞] E[g（X）|Y=y]*f Y（y）dy⑶、推论：E[X]= E[ E（X|Y）]3、两个随机变量的条件数学期望⑴、性质：E[g（X）h（Y）|Y]= h（Y）E[g（X）|Y]⑵、定理：E[g（X）h（Y）]=E{E[g（X）h（Y）|Y]}⑶、证明、E{ h（Y）E[g（X）|Y]}= ∫E[g（X）|Y=y]*h（y）*f Y（y）dx★★4、全概率公式⑴、离散：P（A）=∑P（A|Bi）P（Bi），其中Bi为Ω的一个划分⑵、连续：P（A）=∫[－∞，＋∞]P[A|Y=y]*f Y（y）dy⑶、推论：P（X≤x）=∫[－∞，＋∞]P[X≤x |Y=y]*f Y（y）dy5、小结【要把握住实质，才能灵活应用并且不出错】⑴、期望：E[g（X）]=∫g（x）* f（x）dx【取值乘以概率密度函数】⑵、条件期望：E[g（X）|Y=y]=∫g（x）* f（x，y）/f Y（y）dx【乘以联合处于边缘】第七节习题剖析1、例1：正弦波随机过程X（t）=Acos（ωt+θ），θ~U（-π，π）求t时刻X（t）的概率密度函数⑴、关键：一维概率密度函数【首先从定义出发，求分布函数，然后对其求导】⑵、关键：反三角函数【关键：首先分析正常取值，然后再分析其它如何取值】2、例2：正弦波随机过程X（t）=Acos（Ωt+θ），A，Ω，θ是相互独立的随机变量求随机过程X（t）的一维概率密度⑴、关键：首先固定A和Ω，即令Y（t）=acos（ωt+θ），求解Y（t）的概率密度⑵、关键：全概率公式：P（X（t）≤x）=∫∫P[X≤x |A=a，Ω=ω]*f（a，ω）dadω3、例3：一维随机游动：向右移动的概率=p，向左=qP（Xn=k），即经过n步以后，质点位于位置k的概率⑴、关键：假设移动到位置k时，向右移动了m步，向左移动了n-m步，则k=2m-n⑵、关键：最后求解P（Xn=k）【类似伯努利分布】4、例4：脉冲周期：脉宽为T0，脉冲幅度X（t）为随机变量，等概率取值{-2，-1,1,2}脉冲起始时间u~U（0，T0），求[X（t1），X（t2）]的二维联合概率密度⑴、关键：假设事件C：t1，t2不在相同的脉冲周期；事件C C：t1，t2在相同的脉冲周期⑵、关键：当|t2－t1|＞0时，P（C）=1；当|t2－t1|≤0时，P（C C）=1－|t2－t1|/T0；P（C）=|t2－t1|/T0⑶、关键：离散情形的连续表示：f X（t）（x）=∑（i=-2，-1,1,2）1/4*δ（x－i）⑷、关键：全概率公式：f（x1，x2）= f（x1，x2|C）P（C）+f（x1，x2| C C）P（C C）5、例5：X（t）在t0+nT0时刻具有宽度为b的脉冲，幅度A为等值取±a的随机变量，t0~U（0，T0），求X（t）的相关函数和方差⑴、关键：E[X（t）]=a*p+0*（1-2p）+（-a）*p=0⑵、关键：假设事件C：t1，t2不在相同的脉冲周期；事件C C：t1，t2在相同的脉冲周期⑶、关键：当|t2－t1|＞0时，P（C）=1；当|t2－t1|≤0时，P（C C）=（b－|t2－t1|）/T0⑷、关键：R X（t1，t2）=E[[X（t1）[X（t2）]；D X（t）= R X（t1，t2）6、例6：随机电报信号：X（t）等概率取0,1，T时间内波形变化的次数μ服从Possion分布，即P（μ=k）=（λT）k e-λT /k!，求X（t）的均值函数和自相关函数⑴、关键：E[X（t）]=0 *1/2+1*1/2=1/2⑵、关键：R X（t1，t2）=E[[X（t1）[X（t2）]【按照离散情形将其展开】= P[X（t1）=1，X（t2）=1]= P[X（t1）=1，μ为偶数]【翻转偶数次】= P[X（t1）=1]*P[μ为偶数]= P[μ为偶数]/2⑶、关键：P[μ为偶数]= ∑（k=偶数）（λT）k e-λT /k!=∑（－∞，＋∞）（λT）k e-λT /k! +∑（－∞，＋∞）（－λT）k e-λT /k!⑷、关键：C X（t1，t2）=R X（t1，t2）－μX（t1）μX（t2）第二章Markov过程（上）第一节Markov链1、Markov链⑴、定义：Markov链参数集和状态空间均为可列的随机过程{X（n）；n≥0}，如果对于∀n∈N，以及i0，i1，…，in，in+1∈S，并且P[X（0）=i0，X（1）=i1，…，X（n）=in]＞0，都有P[X（n+1）=in+1|X（0）=i0，…，X（n）=in]=P [X（n+1）=in+1|X（n）=in]，则称随机过程{X（n）；n≥0}为Markov链⑵、解释：第一个公式保证条件概率有意义⑶、解释：第二个公式表示Markov性【随机过程的未来状态只与现在有关，与过去无关】2、一步转移概率⑴、定义：一步转移概率：pij（n）= P [X（n+1）=j|X（n）=i]称为Markov链在n时刻的一步转移概率⑵、定义：齐次Markov链【如果pij（n）=pij，与时刻n无关】⑶、定义：转移矩阵P=（pij）【仅对齐次Markov链才有意义】3、性质⑴、性质：Markov链的前n+1维联合分布，可以由一步转移概率＋初始分布得到⑵、性质：∑（j∈S）pij（n）=1【各行之和等于1】第二节C-K方程1、m步转移概率⑴、定义：m步转移概率：pij（m）（n）=P [X（n+1）=j|X（n）=i]称为Markov链在n时刻的m步转移概率⑵、定义：齐次Markov链的m步转移矩阵【P（m）=（pij（m））】⑶、规定：pij（m）（0）=δij（i＝j时，δij =1；i≠j时，δij =0）2、C-K定理【本文给出了非常严格的证明】⑴、定理：pij（m+r）（n）=∑（k∈S）pik（m）（n）pkj（r）（n+m）⑵、步骤1：pij（m+r）（n）= P [X（n+m+r）=j|X（n）=i]【m步转移概率的定义】= P [X（n+m+r）=j，X（n）=i]/ P [X（n）=i]⑶、步骤2：A=A∩Ω=A∩[∪（k∈S）X（n+m）=k]= ∪（k∈S）[A∩X（n+m）=k]⇒P（A）=P{ ∪（k∈S）[A∩X（n+m）=k]}= ∑（k∈S）[A∩X（n+m）=k]【事件之间相互独立】⑷、步骤3：令A= X（n+m+r）=j∩X（n）=i，代入上式得：P（A）=∑（k∈S）P [X（n+m+r）=j∩X（n）=i∩X（n+m）=k]，⇒再代入步骤1，得到pij（m+r）（n）=∑（k∈S）P[X（n+m+r）=j，X（n）=i，X（n+m）=k] / P [X（n）=i]=∑（k∈S）P[X（n+m+r）=j，X（n+m）=k |X（n）=i]⑸、步骤4：利用性质：P（AB|C）=P（A|BC）P（B|C）⇒∑（k∈S）P[X（n+m+r）=j|X（n+m）=k] P[X（n+m）=k|X（n）=i]=∑（k∈S）pik（m）（n）pkj（r）（n+m）3、C-K定理的推论⑴、性质：对于齐次Markov链，有P（m+r）= P（m）P（r）【矩阵形式】⑵、性质：对于齐次Markov链，有P（m）= P m⑶、性质：齐次Markov链的所有有限维联合分布，可以由转移矩阵＋初始分布得到证明：A=A∩Ω=A∩[∪（j∈S）X（0）=j]= ∪（j∈S）[A∩X（0）=j]可证注意：与上面性质的区别，一个是普通的Markov链，一个是齐次Markov链第三节、Markov链的典例1、无限制的随机游动⑴、定义：{X（n）；n≥0}，S={0，±1，±2，…}⑵、分析：一步转移概率pij和转移矩阵【特点：上对角线为p，下对角线为q】⑶、分析：n步转移概率pij（n）【关键：假设向右m1步向左m2步，然后求解m1m2】2、有限制的随机游动⑴、带一个吸收壁的随机游动【吸收壁：p00=1，poj=0（j≠0）】⑵、带两个吸收壁的随机游动⑶、带一个反射壁的随机游动【反射壁：p00=p，p01=q，poj=0（j≠0,1）】⑷、带两个反射壁的随机游动3、离散排队系统⑴、定义：X（n+1）=[X（n）-1]＋＋ζn其中：X（n）：第n个周期开始时的顾客数；ζn：第n个周期到达的顾客数，P（ζn=k）=ak⑵、求解：pij={当前周期有i顾客，下一周期有j顾客的概率}p0j=p1j=aj；pij=aj+1-i（j≥i-1）⑶、小结：转移矩阵P=（pij）【第一行第二行一样，从第三行开始每行右移一个单位】4、小结：转移矩阵的求解⑴、公式：pij= P [X（n+1）=j | X（n）=i]⑵、关键：从公式推导出pij的物理意义，从而准确并且快速的求解出pij5、补充内容：母函数⑴、作用：特征函数描述连续型随机变量，母函数描述离散型随机变量⑵、定义：随机变量ζ的母函数F（s）=∑[0，＋∞] P（ζ=k）s k⑶、性质：母函数与分布律一一对应，且P（ζ=k）= F（n）（0）/k！⑷、性质：ζ=ζ1＋ζ2＋…＋ζn的母函数为F1（s）*F2（s）*…*Fn（s）6、细胞分裂模型⑴、定义：X（n+1）=ζ1＋ζ2＋…＋ζX(n)【随机个随机变量】其中：X（n）：第n代细胞的个数ζi：第i个细胞分裂的细胞数⑵、求解：pij=P[X（n+1）=j | X（n）=i]=P[ζ1＋ζ2＋…＋ζx(n)=j | X（n）=i]=P[ζ1＋ζ2＋…＋ζi=j]=d n[F（0）]j/[j！*d j s]7、Polya模型⑴、定义：盒子中有b个黑球，r个红球，从盒子中随机摸出一球，观测颜色以后放入同颜色的C球Rk=1，若第k次摸出红颜色的球，否则0⑵、证明：P（Rk=1）=r/（b+r），P（Rk=0）=b/（b+r）关键：数学归纳法＋全概率公式证明⑶、证明：Rk同分布，但不是相互独立的关键：P（R1=1，R2=1）≠P（R1=1）P（R2=1）【关键：乘法公式】⑷、证明：{Rk}不是Markov链【关键：反证法】8、通信系统模型⑴、定义：采用5种信号的概率分别为0.2，0.4，0.1，0.1，0.2ζn：前n次信号转换中，采用第二种信号的次数⑵、证明：{ζn；n≥0}为齐次Markov链⑶、求解：转移矩阵P=（pij）【关键：pij：当前有i次，下一次有j次的概率】第四节Markov链的状态分类一、到达与相通1、可到达⑴、定义：可到达i→j【对于i，j∈S，如果存在n≥1，使得pij（n）＞0】⑵、解释：从状态i可到达状态j⑶、性质：pij（n）=P{X（n）=j | X（0）=i}＞0⇒则P{ X（0）=i}＞0⑷、性质：i→j⇒存在一条从i到j的路径，该路径上的所有一步转移概率大于02、不可到达⑴、定义：i↛j【对于∀n≥1，都有pij（n）=0】【即找不到一个n≥1，使得pij（n）＞0】⑵、解释：从状态i不可到达状态j3、相通⑴、定义：如果i→j并且j→i，则i↔j【称为：状态i和状态j相通】⑵、定理：可到达和相通都具有传递性【证明：利用定义+CK公式】二、首达时间和首达概率1、首达时间⑴、定义：首达时间Tij【Tij（ω）=min{n：X（0）=i，X（n）=j，n≥1}】⑵、解释：在一次实验中，从状态i出发，首次到达状态j的时间⑶、解释：Tij是一个随机变量【不同的实验结果，其首达时间不一样】⑷、解释：首达时间可为＋∞2、首达概率⑴、定义：★★首达概率fij（n）【fij（n）=P {Tij=n | X（0）=i}】⑵、解释：从状态i出发，经过n步转移首次到达状态j的概率3、首达概率的核心公式【首达概率的本质】⑴、核心公式：fij（n）=P { X（n）=j，X（k）≠j，1≤j＜n | X（0）=i}⑵、推论：fij（1）=P { X（1）=j | X（0）=i}=pij4、迟早到达概率⑴、定义：迟早到达概率fij=∑[1≤n＜+∞] fij（n）【抽走无穷大情形】⑵、解释：从状态i出发，经过有限步转移迟早到达状态j的概率⑶、定义：P（Tij=+∞）=1－fij【从状态i出发，经过有限步转移不能到达状态j的概率】三、首达概率的基本性质1、性质：0≤fij（n）＜fij≤1★★2、转移概率与首达概率的关系⑴、定理：对于任意的i，j∈S，以及1≤n＜∞，有pij（n）=∑[1≤l≤n] fij（l）pij（n-l）⑵、证明：{ X（0）=i，X（n）=j }= {X（0）=i，X（n）=j}∩{∪[1，∞][Tij=l]}3、利用迟早到达概率判断可到达【注意：原定义是使用转移概率】⑴、定理：对于任意的i，j∈S，fij＞0⇔i→j⑵、证明：充分性和必要性的证明，都要利用性质将转移概率与首达概率联系起来⑶、约定：pii（0）=14、迟早到达与相通的关系⑴、定理：对于任意的i，j∈S，fij＞0 and fji＞0⇔i↔j⑵、证明：上述定理的推论四、状态的分类1、特别定义⑴、定义：首返概率fii（n）【从状态i出发，经过n步转移首次返回状态i的概率】⑵、定义：返回概率fii【从状态i出发，经过有限步转移迟早返回状态i的概率】2、常返态和非常返态⑴、定义：常返态【如果fii=1】【必然返回】⑵、定义：非常返态【如果fii＜1】【可能返回】3、Tij的条件数学期望⑴、定义：★★μij=E[Tij | X（0）=i]= ∑[1，∞]n fij（n）解释：从状态i出发，首次到达状态j的平均转移步数⑵、定义：平均返回时间μi=μii解释：从状态i出发，首次返回状态i的平均转移步数4、正常返态和零常返态⑴、思路：利用数学期望，对常返态进一步分类⑵、定义：正常返态【常返态＋μi＜∞】⑶、定义：零常返态【常返态＋μi=∞】5、归纳⑴、利用返回概率fii区分常返态和非常返态【常返态fii=1，非常返态fii＜1】⑵、利用平均返回时间μii区分正常返态和零常返态【正常返μi＜∞，零常返μi=∞】五、状态的判别1、核心定理：Pij（s）=δij＋Fij（s）Pjj（s）★★⑴、定义：Pij（s）=∑[0，∞] pij（n）s n【序列{pij（n）；n≥0}的母函数】⑵、定义：Fij（s）=∑[1，∞] fij（n）s n【序列{fij（n）；n≥1}的母函数】⑶、证明：利用核心定理pij（n）=∑[1≤l≤n] fij（l）pij（n-l）＋注意交换求和顺序2、利用转移概率∑[0，∞] pii（n）判断常返态和非常返态⑴、定理：i为常返态⇔∑[0，∞] pii（n）＝∞⑵、定理：i为非常返态⇔∑[0，∞] pii（n）＜∞⑶、证明：令i=j，由核心定理⇒Pii（s）=1＋Fii（s）Pii（s）⇒Pii（s）=1/（1-Fii（s））令s=1⇒∑[0，∞] pii（n）=1/（1-fii）3、非常返态的更强结论⑴、定理：如果j为非常返态，则对∀i∈S，有∑[0，∞] pij（n）＜∞⑵、证明：令s=1，由核心定理⇒Pij（1）=δij＋＋Fij（1）Pij（1）4、相通的等价性⑴、定理：如果i↔j，则i和j的状态一致【或都是正常返，或都是零常返，或都是非常返】⑵、证明：利用i↔j的定义+CK定理【仅部分证明】5、零常返的性质群【详细证明参见林元烈教材，P80】⑴、性质：如果i为常返态，则i是零常返⇔lim[n→∞]pii（n）=0⑵、性质：如果j为零常返，则对∀i∈S，有lim[n→∞]pij（n）=06、非常返态的性质群⑴、性质：任何一个非常返态，过程访问它的次数有限⑵、性质：任何一个有限状态的过程，不可能所有状态都是非常返态⑶、证明：关键：令随机变量Y（n）＝{1，如果X（n）＝i；0，如果X（n）≠i}则∑[0，∞] Y（n）表示过程处于状态i的次数⇒E{∑[0，∞] Y（n）|X（0）=i}={∑[0，∞]pii（n）＜∞六、习题剖析1、赌徒输光问题⑴、定义：甲有a元，乙有b元，每局甲获胜的概率为p，求甲输光的概率⑵、抽象：Markov链，其中S={0，1，2，…，a＋b}并且状态0和a＋b为吸收态假设ui=甲从状态i出发，首次到达状态0的概率⇒将问题转化为求ua⑶、性质：全概率公式⇒ui＝pui+1＋qui-1⇒ui+1－ui＝（q/p）i*（u1－u0）⑷、求解：∑[k，a+b-1] （ui+1－ui）=∑[k，a+b-1] （q/p）i*（u1－u0）⇒ua+b－uk=∑[k，a+b-1] （q/p）i*（u1－u0）⇒令k=0，求出（u1－u0）的值⇒代入上式，再令k=a，即可求出ua2、仪器测量⑴、定义：脉冲幅度={1，2，…，n}并且出现概率相同⑵、抽象：X（n）=前n次测量的最大幅度⑶、证明：{X（n）；n≥1}为齐次Markov链设ζi=第i次测量的幅度，显然ζi相互独立并且同分布P[X（m+k）=j |X（m）=i，X（m-1）=im-1，…，X（1）=i1]= P[max[m+1≤r≤m+k]（ζr，i）=j]= P[max[2≤r≤k+1]（ζr，i）=j]Pij（n）（m）= P[X（m+k）=j |X（m）=i]= P[max[m+1≤r≤m+k]ζr=j | P[max[1≤r≤m]ζr=i]= P[max[m+1≤r≤m+k]（ζr，i）=j]= P[max[2≤r≤k+1]（ζr，i）=j]⑷、求解：一步转移概率矩阵Pij【分j<i，j=i，j>i三种情况讨论】⑸、求解：测量到最大值的期望时间设Yn=首次测量到最大值n的时间=初态n的首次返回时间【关键技巧】⇒P（Yn=k）=1 /n*（n-1）k-1/n k-1⇒E（Yn）3、随机游动⑴、问题：{X（n）；n≥1}，其中S={0，±1，±2，…}并且各个状态相通⇒只需要分析S中的任何一个状态即可⑵、证明：判断i是常返态还是非常返态⇒分析∑[0，∞] pii（n）⇒利用母函数求解Pii（s）=∑[0，∞] pii（n）s n =∑[0，∞] [pii（2n）s2n＋pii（2n+1）s2n+1]=∑[0，∞]C[n，2n]p n q n s2n【注意求解：pii（2n）和pii（2n+1）】=（1-4pqs2）-1/2【利用泰勒展开式展开1/（1-x）1/2】⇒∑[0，∞] pii（n）＝lim（s→1）Pii（s）⇒即可分析i⑶、关键：★★母函数的求导【一阶导数得到数学期望，二阶导数得到方差】这也是求解级数的最为重要的手段典例：Fii（s）=∑[1，∞] fii（n）s n⇒F’ii（s）=∑[1，∞] nfii（n）s n-1⑷、证明：判断i是正常返还是零常返⇒分析μii=∑[1，∞]n fii（n）⇒利用母函数求解Fii（s）=∑[1，∞] fii（n）s n⇒Pii（s）=1+Fii（s）Pii（s）⇒Fii（s）=1-（1-s2）1/2⇒μii= lim（s→1）F’ii（s）⇒零常返七、闭集1、闭集的定义⑴、定义：C是闭集⇔对于∀i∈C，∀j∉C，i↛j含义：从C的任何状态出发，不可能到达C以外的状态【不会跑出去】⑵、定义：吸收态【如果闭集C只含单个状态】【闭集的特殊情况】2、不可约的定义⑴、定义：C是不可约的⇔C是闭集，并且不存在非空闭集C*⊂C关键：不可约的三个条件【非空，闭集，真子集】⑵、定义：Markov链不可约【不存在非空闭集C*⊂S】【不可约定义的特殊情况】3、闭集的基本性质⑴、性质：C是闭集⇔对于∀i∈C，∀j∉C，pij（n）＝0【反证法】⑵、性质：C是闭集⇔对于∀i∈C，∑（j∈C）pij（n）＝1证明：【关键：对于∀i∈C，∑（∀j∈C）pij（n）＋∑（∀j∉C）pij（n）＝1】⑶、性质：i为吸收态⇔pii=1【上面性质的推论】4、不可约的核心定理⑴、定理：闭集C是不可约的⇔闭集C的所有状态相通★★【林元烈教材，P86】⑵、证明：⇒反证法：则存在两个状态i和j，使得i↛j；令C={状态i可以到达的状态}，C*={状态i不能到达的状态}；由于不存在i*∈C，j*∈C*，并且i*→j*；【否则根据传递性，i→j*】所以C是闭集；又C是S的非空真子集【i∈C，j∉C】，于是S可约⇐反证法：S可约，则存在非空闭集C⊂S；对于∀i∈C，∀j∉C，有i↛j⑶、推论：Markov链是不可约的⇔Markov链的所有状态相通⑷、推论：Markov链是不可约的，则所有状态的类型一致5、常返态的核心定理⑴、定理：如果i为常返态，并且i→j，那么j也是常返态，并且fji=1★★含义：从常返态出发，只能到达常返态，不可能到达非常返态⑵、推论：如果i为常返态，并且i→j，那么i和j相通含义：从常返态i出发，只能在与i相通的常返态闭集中转圈⑶、推论：如果i为常返态，则{j：i→j}构成一个闭集【含义同上】⑷、归纳：利用图形分析【一个非常返态集D＋若干常返态相通闭集Ci】定理指出：从Ci不能到达D；而推论指出：从Ci不能到达Cj（i≠j）6、常返态与闭集⑴、定理：所有常返态构成一个闭集证明：设C={所有常返态}，C*={所有非常返态}⇒不可能存在i∈C，j∈C*，i→j【否则根据常返态核心定理，j也是常返态】⑵、推论：不可约的Markov链，或者没有常返态，或者没有非常返态证明：假设既存在常返态，又存在非常返态⇒常返态构成一个闭集，且非空真子集⇒与不可约矛盾八、状态周期1、周期⑴、定义：状态i的周期：如果正整数集{n：pii（n）＞0；n≥1}非空，则其最大公约数称为状态i的周期，记为di⑵、定义：非周期状态【或称状态i无周期】【如果di=1】⑶、定义：遍历态【非周期＋正常返】⑷、性质：不可约的，非周期的，有限状态的Markov链一定是遍历的证明：有限状态⇒至少存在一个正常返＋非周期⇒遍历态+不可约Markov链⇒所有状态都是遍历态2、状态的分类⑴、分类小结：状态={常返态＋非常返态}，常返态={正常返态+零常返态}正常返态={有周期正常返态＋非周期正常返态（遍历态）}⑵、核心定理：如果i↛j，则i和j的状态一致；或者都是非常返态，或者都是零常返态，或者都是非周期正常返态，或者都是周期相同的有周期正常返态3、周期状态判别⑴、性质：取一个状态，求解{j：i↔j}，然后从集合中取一个代表，并分析其周期性⑵、性质：如果存在正整数n，使得pii（n）＞0 ，pii（n+1）＞0，则状态i无周期⑶、性质：如果存在正整数n，使得n步转移概率矩阵P n的第j列全部不为0，则状态j无周期证明：由转移概率矩阵P m可知p jj（n）＞0⇒再分析P n+1＝P*P n可知p jj（n+1）＞0九、分解定理1、齐次Markov链分解定理★★⑴、步骤：首先将S分解为两大类{非常返态集合＋常返态集合}，再分解常返态集合然后任取一个常返态i1，求解不可约集C1={j：i↔j}，…⑵、结果：齐次Markov链的状态空间S，可唯一分解为可列个互不相交的集合：S=D∪C1∪C2∪…，其中D={非常返态集合}，Ci为常返态的相通不可约集⑶、证明：常返态+相通⇒闭集+相通⇒不可约⑷、归纳：利用图形分析【=非常返态集D＋若干常返态相通不可约集Ci】定理指出：从Ci不能到达D；而推论指出：从Ci不能到达Cj（i≠j）2、周期为d的不可约Markov链分解定理⑴、证明：一个周期为d的不可约Markov链⇒具有有周期正常返态，不具有非常返态⑵、结果：一个周期为d的不可约Markov链，其状态空间S可分解为d个互不相交的集J1，J2，…，Jd，即S=∪[r=1，d]Jr，并且对于i∈Jr，∑（j∈Jr+1）pij=13、转移矩阵的标准形式⑴、变换方法：交换行列，使得同一等级类的状态集中在一起【D放在开始】⑵、矩阵形式：参见孙应飞教材P48十、有限Markov链的性质1、非常返态和闭集⑴、性质：所有非常返态组成的集合不可能是闭集⑵、证明：反证法：如果非常返态组成的集合是闭集，则一旦到达该集合中的状态，过程就要无限次在该集合中周转，而不能跳出该集合【否则不是闭集】但是过程对每个非常返态的访问次数有限+有限Markov链⇒结论2、有限Markov链的状态类型⑴、性质：有限Markov链没有零常返⑵、证明：反证法：假设具有零常返态i，令Ci={j：i↔j}⇒Ci为状态相通的不可约集⇒∑（∀j∈Ci）pij（n）=1⇒j为零常返（与i相通）⇒对∀i∈Ci，有lim[n→∞]pij（n）=0⇒有限相加也必为0，矛盾⑶、性质：有限Markov链至少一个正常返⑷、证明：有限Markov链⇒至少一个常返态，而又不可能为零常返⇒至少一个正常返3、不可约有限Markov链的状态类型⑴、性质：不可约有限Markov链只有正常返⑵、证明：不可约Markov链⇒所有状态相通+至少一个正常返⇒所有都是正常返4、有限Markov链状态空间的分解⑴、结果：状态空间S可以分解为S=D∪C1∪C2∪…∪Ck，其中Ci为正常返相通不可约集⑵、分析：Markov链⇒整个S是一个闭集+有限⇒分解为若干个小的不可约有限Markov链+上面性质⇒结论十一、典例分析1、给出转移概率矩阵，通过性质研究其状态关系⑴、步骤1：画出状态转移图⑵、步骤2：以相通性为工具，将状态空间S的所有状态分解为若干个子集C1∪C2∪…∪Ck∪C*其中：Ci为状态相通的闭集【特征：里面的状态跑不出来】C*为非闭集【特征：C*将跑到Ci，但Ci不会跑到C*】⑶、结论：Ci一定是正常返相通不可约集，而C*为非常返态集2、给出转移概率矩阵，通过计算研究其状态关系⑴、步骤1：集合的分解步骤与前面一致，下面将通过计算来判断其状态⑵、步骤2：fii的计算：fii=∑[1≤n＜+∞] fii（n），其中：fii（n）= P {Tij=n | X（0）=i}= P { X（n）=j，X（k）≠j，1≤j＜n | X（0）=i}由此可见，首达概率是指首次到达，而在这之前从没有到达过⑶、典例：fii计算的典例【P48例2】吸收态的计算：f33（1）=1，f33（k）=0（k≥2）非常返的计算：f22（1）=1/4，f33（k）=0（k≥2）常返态的计算：f00（1）=1/2，f00（1）=1/4，f00（2）=1/8，…⑷、步骤3：μi的计算：μi=∑[1，∞]n fii（n）平均返回时间⑸、典例：μi=∑[1，∞]n（1/2）n的计算首先计算∑[1，∞]x n=1/（1-x）⇒求解其导数∑[1，∞]nx n=1/（1-x）23、周期的求解⑴、注意：每个状态都有其周期【包括非常返态，并非只有在常返态才有其周期】⑵、性质：如果存在正整数n，使得pii（n）＞0 ，pii（n+1）＞0，则状态i无周期⑶、性质：带环状态的周期为1【即非周期】【根据定义可以证明】⑷、性质：相通状态的周期相同★★【将有周期正常返态和遍历态，统一起来】4、典例⑴、性质：有限状态的相通闭集可以判断为正常返相通不可约集【没有零常返】但是无限状态，只能判断为常返态相通不可约集【可能有零常返】⑵、解释：无限状态还需要具体计算μi，来判断是零常返还是正常返⑶、典例：课本P49例4：还需要具体计算μi选取状态1来计算，然后根据相通性⇒其它状态的类型一致5、闭集分解与周期分解【典例：P49例5】⑴、性质：如果状态空间可分解为d个互不相交的子集，即S= J1∪J2∪…∪Jd，并且对于i∈Jr，∑（j∈Jr+1）pij=1【即Jr的状态，只能跑到Jr+1里面】则该Markov链是周期为d的周期链⑵、注意：这种分解不是闭集分解，而是周期分解6、Tij的分布律⑴、关键：fij（n）的计算【fij（n）=各种可能首达概率为n的和】⑵、典例：P50例6：在计算fij（n）的过程中，注意找出其首达规律⑶、注意：等比数列的求解方法7、其它问题⑴、关键：首先利用状态转移图来描述问题⇒对其进行各种分析⑵、典例：P51例78、附录：转移矩阵估计问题【高等数理统计的遗留问题】⑴、问题：如何利用现有数据来估计转移矩阵P？⑵、关键：利用极大似然法第五节Markov链的极限性态与平稳分布一、P n的极限性态1、Markov定理⑴、定理：对于有限状态的Markov链，如果存在正整数m≥1，使得对于∀i，j∈S，都有pij（m）＞0【m阶转移矩阵的所有元素都大于0】则lim[n→∞]P n＝π，其中π是随机矩阵，并且它的各行都相同⑵、解释：Markov链是遍历链【非周期正常返+相通+不可约集】⑶、解释：各行相同的随机矩阵【所有元素都介于0和1，并且各行之和等于1】⑷、证明：设mj（n）=min[i∈S]pij（n）【n步转移矩阵第j列的最小元素】设Mj（n）=max[i∈S]pij（n）【n步转移矩阵第j列的最大元素】由CK方程证明mj（n）单调上升，Mj（n）单调下降【单调有界则必有极限】⑸、证明：mj（n）≥εMj（n-1）＋（1-ε）mj（n-1）【同样分析Mj（n）】⇒0≤Mj（n）－mj（n）≤（1-2ε）（n-1）⇒两个极限存在并相等2、Markov定理的结论⑴、结论：lim[n→∞] pij（n）=πj【每一个元素的极限值，仅与它所在的列有关，与行无关】⑵、结论：分析极限矩阵π的特点【如何由单个元素πj⇒整个矩阵π】⑶、结论：Pπ=π【证明：P的各行之和为1，并且π的每列元素都相同】3、推论：P n的极限矩阵π是唯一的，而且满足【给出了求解矩阵π的方法】⑴、结论：πP=π【证明：πP= lim[n→∞]P n*P= lim[n→∞]P n+1＝π】⑵、结论：∑[j∈S]πj=1【证明：有限元素之和为1⇒若极限存在，则极限之和也为1】⑶、结论：唯一性【证明：假设矩阵V满足上述两个条件⇒V=π】4、推论：lim[n→∞]P{X（n）=j}＝lim[n→∞] pij（n）=πj⑴、含义：lim[n→∞]P{X（n）=j}与初始状态无关⑵、证明：由{X（n）=j}={X（n）=j}∩{∪[i∈S] X（0）=i }⇒求概率，再取极限即可。
北京邮电大学通信原理考研必记
（2—10）
2.2 平稳随机过程 2.2.1 狭义平稳随机过程 狭义平稳随机过程，又称严平稳妥过程。其 n 维分布函数和 n 维概率密度与时间起点无关。 平隐随机过程的统计特性将不随时间的推移而不同。例如，其一维概率密度与时间无关
f1 ( x, t ) = f1 ( x)
而二维概率密度函数只与时间间隔有关
B(t1 , t 2 ) = E{[ X (t1 ) − a(t1 )][ X (t 2 ) − a(t 2 )]} R (t1 , t 2 ) = E[ X (t1 ) X (t 2 )]
X（t）与 Y(t)的互相关函数定义为：
（2—8） （2—9）
RXY (t1 , t 2 ) = E[ X (t1 )Y (t 2 )]
Fn ( x1 , x 2 ,..., x n ; t1 , t 2 ..., t n )
= P[ X (t1 ) ≤ x1 , X (t 2 ) ≤ x 2 ,...., X (t n ) ≤ x n ]
（2—3） 如果存在
∂" Fn ( x1 , x 2 ,..., x n ; t1 , t 2 ..., t n ) = f n ( x1 , x 2 ,..., x n ; t1 , t 2 ..., t n ) ∂x1∂x 2 ...∂x n
∞
E[ X (t )] =
−∞
∫ xf ( x, t )dx
1
（2—5）
并记为 E[X（t）]=a(t)。均值表示随机过程的摆动中心。 （2）方差：
D[ X (t )] = E{[ X (t ) − a(t )] 2 } = E[ X (t )]2 − [a(t )]2
∞
=dx − [a(t )]2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
北邮概率论与随机过程笔记北邮概率论与随机过程笔记
第一章绪论
1.1 概率论的起源与发展
1.2 概率的基本概念
1.3 概率论的应用领域
1.4 随机过程的起源与发展
1.5 随机过程的基本概念
1.6 随机过程的应用领域
第二章概率论的基本概念
2.1 随机试验与随机事件
2.2 频率与概率
2.3 古典概型
2.4 贝叶斯概型
2.5 随机变量
2.6 随机变量的函数及其分布
2.7 条件概率与条件分布
2.8 独立性
第三章随机变量及其分布
3.1 离散型随机变量及其分布
3.2 连续型随机变量及其分布
3.3 随机变量的数学期望
3.4 随机变量的方差与标准差
3.5 随机变量的矩与生成函数
3.6 概率母函数与特征函数
3.7 大数定律与中心极限定理
第四章多维随机变量及其分布
4.1 多维随机变量及其分布函数
4.2 联合分布函数与边缘分布函数
4.3 多维离散型随机变量的分布
4.4 多维连续型随机变量的密度
4.5 条件分布与独立性
4.6 随机变量的矩与协方差矩阵
4.7 多维随机变量的生成函数与特征函数第五章数理统计基本概念
5.1 数理统计的概念与作用
5.2 参数估计与假设检验
5.3 点估计与区间估计
5.4 最大似然估计
5.5 矩估计
5.6 假设检验
5.7 重要的假设检验
第六章随机过程基本概念
6.1 随机过程的概念与分类
6.2 随机过程的样本函数与轨道
6.3 随机过程的数学描述
6.4 平稳性与各态平衡性
6.5 随机过程的独立增量性与平稳增量性
第七章随机过程的数学描述
7.1 随机过程的数学描述
7.2 随机过程的分布函数、密度函数与生成函数7.3 平稳随机过程的均值序列与相关函数
7.4 广义平稳随机过程
7.5 随机过程的协方差函数与自相关函数
7.6 平稳随机过程的功率谱
第八章马尔可夫链
8.1 马尔可夫链的概念
8.2 马尔可夫链的数学描述
8.3 长期行为与不可约性
8.4 平稳分布与转移概率矩阵
8.5 极限分布与转移概率
8.6 马尔可夫链的细致平衡方程
第九章扩散过程
9.1 扩散过程的概念与分类
9.2 布朗运动与维纳过程
9.3 平稳扩散过程与布朗桥
9.4 非平稳扩散过程
9.5 随机微分方程及其应用
第十章随机过程的数值计算
10.1 随机过程的模拟方法
10.2 马尔可夫链模拟
10.3 扩散过程的数值模拟
第十一章随机过程的应用
11.1 队列论与排队模型
11.2 信道容量与信息论
11.3 金融工程与随机过程
11.4 生物与生态系统中的随机过程11.5 电力系统中的随机过程
第十二章最优控制问题
12.1 动态规划问题与最优控制12.2 马尔可夫控制问题
12.3 黑塞矩阵与二次型控制问题
第十三章随机过程的其他扩展
13.1 小波分析与随机过程
13.2 分数阶随机过程
13.3 非高斯与非马尔可夫随机过程
总结：北邮的概率论与随机过程课程涵盖了概率论和随机过程的基础知识和应用，对于理解随机现象和建立数学模型具有重要的意义。
通过学习这门课程，可以提高对概率和随机过程的理解与分析能力，并掌握相关领域的应用技巧。