随机过程知识点
通信原理 第三章 随机过程 学习要点及习题解答
第三章 随机过程学习目标通过对本章的学习，应该掌握以下要点： 随机过程的基本概念随机过程的数字特征（均值、方差、相关函数）；平稳过程的定义、各态历经性、相关函数和功率谱密度；高斯过程的定义和性质、一维概率密度函数；随机过程通过线性系统、输出和输入的关系；窄带随机过程的表达式和统计特性；正弦波加窄带高斯过程的统计特性；高斯白噪声及其通过理想低通信道和理想带通滤波器。
3.1 内容概要3.1.1 随机过程的基本概念随机过程是一类随时间作随机变化的过程，具有不可预知性，不能用确切的时间函数来描述。
1.定义角度一：随机过程ξ(t )是随机试验的全体样本函数{ξ1 (t ), ξ2 (t ), …, ξn (t )}的集合。
角度二：随机过程ξ(t )是在时间进程中处于不同时刻的随机变量的集合。
这说明，在任一观察时刻t 1，ξ(t 1)是一个不含t 变化的随机变量。
可见，随机过程具有随机变量和时间函数的特点。
研究随机过程正是利用了它的这两个特点。
2.分布函数和概率密度函数 一维分布函数：ξ(t )在11111(,)[()]F x t P t x ξ=≤含义：随机过程ξ(t )在t 1时刻的取值ξ(t 1)小于或等于某一数值x 1的概率。
如果存在1111111),(),(x t x F t x f ∂∂=则称111(,)f x t 为ξ(t )的一维概率密度函数。
同理，任意给定12n t t t T ∈ ，，，，则ξ(t )的n 维分布函数为{}12121122(,,,;,,)(),(),,()n n n n n F x x x t t t P t x t x t x ξξξ=≤≤≤如果此能在n21n 21n 21n n n 21n 21n x )t x ()t x (∂∂∂∂= x x t t x x F t t x x f ，，，；，，，，，，；，，，则称其为ξ(t )的n 维概率密度函数。
显然，n 越大，对随机过程统计特性的描述就越充分。
随机过程知识点总结
知识点总结第1章 概率论基础1.1概论空间随机试验，它是指其结果不能事先确定且在相同条件下可以重复进行的试验。
其中，一个试验所有可能出现的结果的全体称为随机试验的样本空间，记为Ω，试验的一个结果称为样本点，记为ω，即}{ω=Ω. 样本空间的某个子集称为随机事件，简称事件.定义1.1.1 设Ω样本空间，是Ω的某些子集构成的集合，如果：（1）∈Ω （2）若∈A ，则∈A（3）若∈n A ，，， ,21n =则∈∞= 1n nA那么称为一事件域，也称为σ域.显然，如果是一事件域，那么（1）∈φ（2）若∈B A ,，则∈-B A（3）若∈n A ， ∞==1n n 2,1n A ，则，，定义 1.1.2 设Ω是样本空间，是一事件域，定义在上的实值函数)(⋅P 如果满足：（1）∈∀A 0)(,≥A P ，（2）1)(=ΩP ， （3）若∈n A ,,2,1, =n 且,,2,1,,, =≠=j i j i A A j i φ则∞=∞=∑=11)()(n n n n A P A P那么称P 是二元组（,Ω)上的概率，称P (A )为事件A 的概率，称三元组,(Ω),P 为概率空间。
关于事件的概率具有如下性质：（1）;0)(=φP（2）若∈nA ,,,2,1,,,,,,2,1,n j i j i A A n i j i =≠==φ 则ni ni i i A P A P 11)()(==∑=（3）若∈B A ,,,B A ⊂则）A P B P A B P ()()(-=-（4）若∈B A ,)()(,,B P A P B A ≤⊂则； （5）若∈A ;1)(,≤A P 则（6）若∈A );(1)(,A P A P -=则（7）若∈n A ,,2,1, =n 则∞=∞=∑≤11)()(n n n i A P A P（8）若∈i A ,,,2,1,n i =则-===∑ ni ni i i A P A P 11)()(∑∑≤<≤≤<<≤--+-+nj i nk j i n n kj ij i A A A P A A A P A A P 11211)()1()()(一列事件∈n A ,2,1,=n 称为单调递增的事件列，如果;,2,1,1 =⊂+n A A n n 一列事件∈n A ,2,1,=n 称为单调递减的事件列，如果,2,1,1=⊃+n A A n n .定理1.1.1 设 ∈n A ,2,1,=n（1）若 ,2,1,=n A n 是单调递增的事件列，则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P （2）若 ,2,1,=n A n 是单调递减的事件列，则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P 定义1.1.3.设,(Ω),P 为一概率空间，∈B A ,.且,0)(>A P 则称)()()(A P AB P A B P =为在事件A 发生的条件下事件B 发生的条件概率.不难验证，条件概率)|(A P ⋅符合定义1.1.2中的三个条件，即 （1）∈∀B , 0)|(≥A B P ；（2）;1)|(=ΩA P （3）设∈n B ,,2,1,,,,2,1, =≠==j j i B B n j i φ则∞=∞=∑=11)|()|(n n n n A B P A B P定理 1.1.2. 设，Ω( ),P 是一概率空间，有： （1）（乘法公式）若∈i A ，,,,2,1n i =且0)(121>-n A A A P ，则)|()()(12121A A P A P A A A P n =(2)（全概率公式）设∈A ,∈iB ,,2,1,0)(, =>i B P i 且∞=⊃=≠=1,,,2,1,,,,i i j i A B j i j i B B φ则∑∞==1)|()()(i i i B A P B P A P（3）（贝叶斯(Bayes)公式）且∈A ∈>i B A P ,0)(,，,,2,1,0)( =>i B P i且 ∞=⊃==1,,,2,1,,i i j i A B j i B B φ则,2,1,)|()()|()()|(1==∑∞=i B A P B P B A P B P A B P j jji i i定义 1.1.4设,(Ω ),P 为一概率空间，,,,2,1,n i F A i =∈如果对于任意的)1(n k k ≤<及任意的,12n i i i k i ≤<<<≤ 有)()()()(2121k k i i i i i i A P A P A P A A A P =则称n 21,,,A A A 相互独立。
第二章 随机过程总结
图2-2-3 随机过程的均方值、方差
方差、均方值和均值有数学关系式：
(2.2.18) • 方差描述在该时刻对其数学期望的偏离程度。
• 数学期望、均方值和均方差只能描述随机过程孤 立的时间点上的统计特性。
• 随机过程孤立的时间点上的统计特性不能反映随 机过程的起伏程度。
图2-2-4 随机过程的起伏程度
注：一维概率分布描述了随机过程在各个孤 立时刻的统计特性。 3、二维分布函数
与 ， ， 和 都有直接的关系， 是 ，， 和 的四元函数，记为： (2.2.4) 被称为随机过程的二维分布函数。
4、二维概率密度函数
如果存在四元函数
ቤተ መጻሕፍቲ ባይዱ
，使
(2.2.5)
成立,则称 为随机过程的二维概率密 度函数，是 ，，和 的四元函数，且满足 (2.2.6)
§2.3
平稳随机过程
• 平稳随机过程的定义
• 严平稳随机过程及其性质 • 宽平稳随机过程及其性质
图2-3-1 初相角随机的正弦信号
图2-3-2 幅度随机的正弦信号
图2-3-3 频率随机的正弦信号
图2-3-4 频率、相位和幅度随机的正弦信号
图2-3-5 云层背景下的飞机
2.3.1 随机信号 的统计特性(如概率密度函 数、相关函数)，部分或全部在观察点或观察 点组的位置变化时，保持不变或变化。在随机 信号理论中就称该随机信号的相应统计特性具 有平稳或非平稳性。 2.3.2 随机信号统计平稳性有多种情况： (1)对整个观察点位置 变化的平稳性； (2)对观察点中时间位置 变化的时间平稳性； (3)对观察点空间位置 变化的平稳性； (4)对观察点中空间位置的部分坐标变化的平 稳性。
例2.8 设有随机过程 ，式中A是高斯 随机变量， 为确定的时间函数。试判断 是否为严平稳过程。 解：已知A的概率密度函数
随机过程知识点汇总
随机过程知识点汇总随机过程是指一组随机变量{X(t)}，其中t属于某个集合T，每个随机变量X(t)都与一个时刻t相关联。
２．随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程是指在离散的时间点上取值的随机过程，例如随机游走。
连续时间随机过程是指在连续的时间区间上取值的随机过程，例如XXX运动。
３．随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。
均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。
自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。
４．平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。
弱平稳随机过程的自相关函数只与时间差有关，而不依赖于具体的时间点。
强平稳随机过程的概率分布在时间上是不变的。
５．高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。
高斯随机过程的均值函数和自相关函数可以唯一确定该过程。
６．马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下，未来状态的条件概率分布只依赖于当前状态，而与过去状态无关的随机过程。
马尔可夫性质可以用转移概率矩阵描述，并且可以用马尔可夫链来建模。
７．泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。
泊松过程的重要性质是独立增量和平稳增量。
８．随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。
例如，布朗运动被广泛应用于金融学中的期权定价，马尔可夫链被应用于自然语言处理中的语言模型。
t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))]，其中Zs和Zt是Z在时刻s和t的取值。
复随机过程是由实部和虚部构成的随机过程，其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。
协方差函数和相关函数也可以类似地计算得到。
复随机过程在通信系统中有广泛的应用，例如调制解调、信道编解码等。
随机过程例题和知识点总结
随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学学科，在通信、金融、物理等众多领域都有广泛应用。
下面我们通过一些例题来深入理解随机过程的相关知识点。
一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量都对应着某个特定的时刻。
例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，都有一个对应的随机变量 X(t)表示股票的价格。
二、常见的随机过程类型1、泊松过程泊松过程常用于描述在一定时间内随机事件发生的次数。
例如，某电话交换台在单位时间内接到的呼叫次数就可以用泊松过程来建模。
例题：假设某电话交换台在上午 9 点到 10 点之间接到的呼叫次数是一个泊松过程，平均每分钟接到 2 次呼叫。
求在 9 点 10 分到 9 点 20 分这 10 分钟内接到至少 5 次呼叫的概率。
解：设 X(t) 表示在时间段 0, t 内接到的呼叫次数，且 X(t) 是一个强度为λ ＝ 2 的泊松过程。
10 分钟内接到的呼叫次数 X(10) 服从参数为λt ＝ 2×10 ＝ 20 的泊松分布。
P(X(10) ≥ 5) ＝ 1 P(X(10) ＜ 5) ＝ 1 P(X(10) ＝ 0) ＋ P(X(10) ＝ 1) ＋ P(X(10) ＝ 2) ＋ P(X(10) ＝ 3) ＋ P(X(10) ＝ 4)通过泊松分布的概率质量函数可以计算出每个概率值，进而求得最终结果。
2、马尔可夫过程马尔可夫过程具有“无记忆性”，即未来的状态只与当前状态有关，而与过去的状态无关。
例题：一个状态空间为｛0, 1, 2} 的马尔可夫链，其一步转移概率矩阵为 P ＝ 05 03 02; 02 06 02; 01 03 06 ，初始状态为 0，求经过 3 步转移后处于状态 2 的概率。
解：通过计算 P³得到 3 步转移概率矩阵，然后取出第 0 行第 2 列的元素即为所求概率。
随机过程知识点总结
∈
且
∑ = 1
∈
矩阵表示
= ()
3、 各状态平均返回时间
=
1
第五章 连续时间马尔可夫链
1、 转移概率 (, ) = {( + ) = |() = }
齐次转移概率 (, ) = ()
2、 转移速率
()
() = ∑ , ≥ 0
=1
[()] = [1 ]；[()] =
[12]
第四章 马尔可夫链
4.1 马尔可夫链概念与状态转移概率
1、
2、
马尔可夫过程：未来状态只与当前状态有关，而与过去状态无关。
时间、状态都是离散的，称为马尔可夫链。
马尔可夫链的统计特性完全由条件概率{+1 = +1 | = }确定。
随机矩阵：各元素非负且各行元素之和为 1；
步转移矩阵是随机矩阵；
闭集 C 上所有状态构成的步转移矩阵仍是随机矩阵。
周期为的不可约马氏链，其状态空间可唯一地分解为个互不相交的子集之和，即
−1
= ⋃ , ∩ = ∅, ≠
=0
且使得自 中任一状态出发，经一步转移必进入+1 中( = 0 )。
[ ( + ) − ()] −[ (+)− ()]
!
+
( + ) − () = ∫
()
相较与齐次泊松过程 → ( + ) − ()
5、 复合泊松过程（独立增量过程）
是由对泊松过程的每一点赋予一独立同分布的随机变量而得的随机过程。
=1
′′ (0)(− 2 )
随机过程知识点
第一章：预备知识§1.1 概率空间随机试验;样本空间记为Ω..定义1.1 设Ω是一个集合;F 是Ω的某些子集组成的集合族..如果 1∈ΩF ；2∈A 若F ;∈Ω=A A \则F ； 3若∈n A F ; ，，21=n ;则∞=∈1n nAF ；则称F 为-σ代数Borel 域..Ω;F 称为可测空间;F 中的元素称为事件.. 由定义易知：定义1.2 设Ω;F 是可测空间;P ·是定义在F 上的实值函数..如果 则称P 是()F ,Ω上的概率;P F ，，Ω称为概率空间;PA 为事件A 的概率..定义1.3 设P F ，，Ω是概率空间;F G ⊂;如果对任意G A A A n ∈,,,21 ; ,2,1=n 有： (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族..§1.2 随机变量及其分布随机变量X ;分布函数)(x F ;n 维随机变量或n 维随机向量;联合分布函数;{}T t X t ∈,是独立的..§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ;若⎰∞∞-∞<)(||x dF x ;则称)(X E ＝⎰∞∞-)(x xdF为X 的数学期望或均值..上式右边的积分称为Lebesgue-Stieltjes 积分..方差;()()[]EY Y EX X E B XY --=为X 、Y 的协方差;而 为X 、Y 的相关系数..若,0=XY ρ则称X 、Y 不相关..Schwarz 不等式若,,22∞<∞<EY EX则§ 1.4 特征函数、母函数和拉氏变换定义1. 10 设随机变量的分布函数为Fx;称为X 的特征函数随机变量的特征函数具有下列性质： 1(0)1,()1,()()g g t g t g t =≤-= 1 2 g t 在()∞∞-, 上一致连续..3()(0)()k k k g i E X =4若12,,,n X X X 是相互独立的随机变量;则12n X X X X =+++的特征函数12()()()()n g t g t g t g t =;其中()i g t 是随机变量X i 的特征函数;1,2,,i n =.定义1 . 11 设 12(,,,)n X X X X =是n 维随机变量;t = 12,,,n t t t ,R ∈ 则称121()(,,,)()[exp()]nitX n k k k g t g t t t E eE i t X '====∑;为X 的特征函数..定义1.12 设X 是非负整数值随机变量;分布列 则称)()(Xdef s E s P =＝k k k s P ∑∞=0为X 的母函数..§ 1.5 n 维正态分布定义1.13 若n 维随机变量),,,(21n X X X X =的联合概率密度为 式中;),,,(21n a a a a =是常向量;n n ij b B ⨯=)(是正定矩阵;则称X 为n 维正态随机变量或服从n 维正态分布;记作),(~B a N X ..可以证明;若),(~B a N X ;则X 的特征函数为为了应用的方便;下面;我们不加证明地给出常用的几个结论..性质1 若),(~B a N X 则n l b B a X E kl X X k k l k ,,2,1,,)( ===..性质2 设),(~B a N X ;XA Y =;若BA A '正定;则),(~BA A aA N Y '..即正态随机变量的线性变换仍为正态随机变量..性质3 设),,,(4321X X X X X =是四维正态随机变量;4,3,2,1,0)(==k X E k ;则§ 1.6 条件期望给定Y=y 时;X 的条件期望定义为由此可见除了概率是关于事件｛Y=y ｝的条件概率以外;现在的定义与无条件的情况完全一样..EX|Y=y 是y 的函数;y 是Y 的一个可能值..若在已知Y 的条件下;全面地考虑X 的均值;需要以Y 代替y;EX|Y 是随机变量Y 的函数;也是随机变量;称为 X 在 Y 下的条件期望.. 条件期望在概率论、数理统计和随机过程中是一个十分重要的概念;下面我们介绍一个极其有用的性质..性质 若随机变量X 与Y 的期望存在;则⎰===)()|()]|([)(y dF y Y X E Y X E E X E Y --------1如果Y 是离散型随机变量;则上式为如果Y 是连续型;具有概率密度fx;则1式为第二章 随机过程的概念与基本类型§2.1 随机过程的基本概念定义2.1 设P F ，，Ω是概率空间;T 是给定的参数集;若对每个t ∈T ;有一个随机变量Xt ;e 与之对应;则称随机变量族}),,({T t e t X ∈是P F ，，Ω的随机过程;简记为随机过程}),({T t t X ∈..T 称为参数集;通常表示时间..通常将随机过程}),,({T t e t X ∈解释为一个物理系统..Xt 表示在时刻t 所处的状态..Xt 的所有可能状态所构成的集合称为状态空间或相空间;记为I ..从数学的观点来说;随机过程}),,({T t e t X ∈是定义在T ×Ω上的二元函数..对固定的t;Xt ;e 是定义在T 上的普通函数;称为随机过程}),,({T t e t X ∈的一个样本函数或轨道;样本函数的全体称为样本函数的空间..§ 2.2 随机过程的函数特征t X ={Xt ;t ∈T }的有限维分布函数族..有限维特征函数族： 其中：定义2.3 设t X ={Xt ;t ∈T }的均值函数def t m X )()]([t X E ;T t ∈.. 二阶矩过程;协方差函数：T ,)]()([),()(2∈-=t t m t X E def t t B t D X X X相关函数： =),(t s R X )]()([t X s X E定义2.4 设{Xt ;t ∈T };{Yt ;t ∈T }是两个二阶矩过程;互协方差函数;互相关函数..§ 2.3 复随机过程定义 2.5 设},{T t X t ∈;},{T t Y t ∈是取实数值的两个随机过程;若对任意T t ∈ t t t iY X Z +=; 其中 1-=i ;则称},{T t Z t ∈为复随机过程．定理 2.2 复随机过程},{T t X t ∈的协方差函数 ),(t s B 具有性质 1对称性：),(),(s t B t s B =；2非负定性§2.4 几种重要的随机过程一、正交增量过程定义2.6 设(){}T ∈X t t ,是零均值的二阶矩过程;若对任意的,4321T ∈<≤<t t t t 有公式()()[]()()[]03412=X -X X -X E t t t t ;则称()t X 正交增量过程..二、独立增量过程定义2.7 设(){}T ∈X t t ,是随机过程;若对任意的正整数n 和,21T ∈<<<n t t t 随机变量()()()()()()12312,,,-X -X X -X X -X n n t t t t t t 是互相独立的;则称(){}T ∈X t t ,是独立增量过程;又称可加过程..定义 2.8 设(){}T ∈X t t ,是平稳独立增量过程;若对任意,t s <随机变量()()s t X -X 的分布仅依赖于s t -;则称(){}T ∈X t t ,是平稳独立增量过程..三、马尔可夫过程定义2.9设(){}T t t X ∈,为随机过程;若对任意正整数n 及n t t t << ,21;()()0,,)(1111>==--n n x t X x t X P ;且其条件分布()(){}1111,,|)(--===n n n n x t X x t X x t X P =(){}11|)(--==n n n n x t X x t X P ;2.6则称(){}T t t X ∈,为马尔可夫过程..四、正态过程和维纳过程定义 2.10设(){}T t t X ∈,是随机过程;若对任意正整数n 和T t t t ∈∈ ,,21;()() ,,21t X t X ;()n t X 是n 维正态随机变量;则称(){}T t t X ∈,是正态过程或高斯过程..定义 2.11设{}∞<<-∞t t W ),(为随机过程;如果 10)0(=W ；2它是独立、平稳增量过程； 3对t s ,∀;增量()0,||,0~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程;也称布朗运动过程..定理 2.3 设{}∞<<-∞t t W ),(是参数为2σ的维纳过程;则 （1） 任意t ),(∞-∞∈;()||,0~)(2t N t W σ； （2） 对任意∞<<<∞-t s a ,;[]),m in())()())(()((2a t a s a W t W a W s W E --=--σ;特别： ()()t s t s Rw ,m in ,2σ=..五、平稳过程定义 2.12 设(){}T t t X ∈,是随机过程;如果对任意常数τ和正整数,n 当T ∈++T ∈ττn n t t t t ,,,,,11 时;()()()()n t t t X X X ,,21与()()()()τττ+X +X +X n t t t ,,,21 有相同的联合分布;则称(){}T t t X ∈,为严平稳过程;也称狭义平稳过程..定义 2.13 设(){}T t t X ∈,是随机过程;如果 1(){}T t t X ∈,是二阶矩过程；2对于任意()()[]=X E =T ∈X t t m t ,常数；3对任意的()()s t R t s R t s -=T ∈X X ,,,;则称(){}T t t X ∈,为广义平稳过程;简称为平稳过程..若T 为离散集;则称平稳过程(){}T t t X ∈,为平稳序列..第三章 泊松过程§３.1 泊松过程的定义和例子定义3.1 计数过程定义3.2 称计数过程}0),({≥t t X 为具有参数λ＞0的泊松过程;若它满足下列条件 1 X0= 0；2 Xt 是独立增量过程；3 在任一长度为t 的区间中;事件A 发生的次数服从参数λt ＞0的泊松分布;即对任意s;t ＞0;有注意;从条件3知泊松过程是平稳增量过程且t t X E λ=)]([..由于;tt X E )]([=λ表示单位时间内事件A 发生的平均个数;故称λ为此过程的速率或强度..定义3.3 称计数过程}0),({≥t t X 为具有参数λ＞0的泊松过程;若它满足下列条件 1 X0= 0；2 Xt 是独立、平稳增量过程；3 Xt 满足下列两式：)(}2)()({),(}1)()({h o t X h t X P h o h t X h t X P =≥-++==-+λ 3.2定理3.1 定义3.2与定义3.3是等价的..3.2 泊松过程的基本性质一、数字特征设}0),({≥t t X 是泊松过程;一般泊松过程的有),m in(),(t s t s B X λ=..有特征函数定义;可得泊松过程的特征函数为二、时间间隔与等待时间的分布n W 为第n 次事件A 出现的时刻或第n 次事件A 的等待时间;n T 是第n 个时间间隔;它们都是随机变量..定理3.2 设}0),({≥t t X 是具有参数λ的泊松分布;)1(≥n T n 是对应的时间间隔序列;则随机变量),2,1( =n T n 是独立同分布的均值为λ/1的指数分布..定理3.3 设}1,{≥n W n 是与泊松过程}0),({≥t t X 对应的一个等待时间序列;则n W 服从参数为n 与λ的Γ分布;其概率密度为三、到达时间的条件分布定理3.4 设}0),({≥t t X 是泊松过程;已知在0;t 内事件A 发生n 次;则这n 次到达时间n W W W <<< 21与相应于n 个0;t 上均匀分布的独立随机变量的顺序统计量有相同的分布..§3.3 非齐次泊松过程定义 3.4 称计数过程{(),0}X t t ≥为具有跳跃强度函数()t λ的非齐次泊松过程;若它满足下列条件：1 (0)0X =；2 ()X t 是独立增量过程；3{()()1}()(){()()2}()P X t h X t t h o h P X t h X t o h λ+-==++-≥=非齐次泊松过程的均值函数为：定理 3.5 设{(),0}X t t ≥是具有均值函数0()()tX m t s ds λ=⎰的非齐次泊松过程;则有 或上式表明{()()}P X t s X t n +-=不仅是t 的函数;也是s 的函数..3.4 复合泊松过程定义3.5 设}0),({≥t t N 是强度为λ的泊松过程;,...}2,1{,=k Y k 是一列独立同分布随机变量;且与}0),({≥t t N 独立;令 则称}0),({≥t t X 为复合泊松过程..定理3.6 设,0)()(1≥∑==t k t x Y t N k 是复合泊松过程;则1..}0),({≥t t X 是独立增量过程；2Xt 的特征函数]}1)([ex p{)()(-=u g t u g Y t X λ;其中)(u g Y 是随机变量1Y 的特征函数；λ是事件的到达率..3若,)(21∞<Y E 则].[)]([],[)]([211Y tE t X D Y tE t X E λλ==第4章 马尔可夫链§4.1 马尔可夫链的概念及转移概率一、马尔可夫键的定义定义1 设有随机过程},{T n X n ∈;若对于任意的整数T n ∈和任意的I i i i n ∈+110,,, ;条件概率满足则称},{T n X n ∈为马尔可夫链;简称马氏链..二、转移概率定义2 称条件概率为马尔可夫链},{T n X n ∈在时刻n 的一步转移概率;其中I j i ∈,;简称为转移概率..定义 3 若对任意的I j i ∈,;马尔可夫链},{T n X n ∈的转移概率)(n p ij 与n 无关;则称马尔可夫链是齐次的;并记)(n p ij 为ij p ..定义4 称条件概率为马尔可夫链},{T n X n ∈的n 步转移概率;定理 1 设},{T n X n ∈为马尔可夫链;则对任意整数n l n <≤≥0,0和I j i ∈,;n 步转移概率)(n ij p 具有下列性质：定义5 设},{T n X n ∈为马尔可夫链;称为},{T n X n ∈的初始概率和绝对概率;并分别称},{I j p j ∈和}),({I j n p j ∈为},{T n X n ∈的初始分布和绝对分布;简记为}{j p 和)}({n p j ..定理2 设},{T n X n ∈为马尔可夫链;则对任意I j ∈和1≥n ;绝对概率)(n p j 具有下列性质：定理3 设},{T n X n ∈为马尔可夫链;则对任意I i i i n ∈,,,21 和1≥n ;有§4.2 马尔可夫链的状态分类一、状态分类假设{,0}n X n ≥是齐次马尔可夫链;其状态空间{0,1,2,}I =;转移概率是,,ij p i j I ∈; 初始分布为{,,}j p i j I ∈ ..定义 4.6 如集合(){:1,0}n ii n n p ≥>非空;则称该集合的最大公约数()()..{:0}n ii d d i G C D n p ==>为状态i 的周期..如1>d 就称i 为周期的;如1=d 就称i 为非周期的..若对每一个不可被d 整除的n ;有()n ii p =0;且d 是具有此性质的最大正整数;则称d为状态i 的周期..引理4.1 如i 的周期为d;则存在正整数M;对一切M n ≥;有()0nd ii p >..定义 对,,S j i ∈记()0{,,1,2,,1|},2n ij n k f P X j X j k n X i n ==≠=-=≥ 4.15称()n ij f 是系统在0时从i 出发经过n 步转移后首次到达状态j 的概率;而()ij f ∞则是在0时从i出发;系统在有限步转移内不可能到达状态j 的概率..我们将()n ij f 和ij f 统称为首达概率又称首中概率..引理1 ()0n ij ij f f ≤≤ n j i ,,∀（2） 首达概率可以用一步转移概率来表示：定义4.7 若ii f =1;则称状态i 为常返的；若ii f <1;则称状态i 为非常返的.. 定义4.8 如∞<i μ;则称常返态i 为正常返的；如∞=i μ;则称常返态i 为零常返的;非周期的正常返态称为遍历状态..从状态是否常返;如常返的话是否正常返;如正常返的话是否非周期等三层次上将状态区分为以下的类型：)(n ij f 与)(n ijp 有如下关系： 定理4.4 对任意状态,i j ;及∞<≤n 1;有()()()()()1.nnn k n k n k k ijijjjij jj k k pfpf p --====∑∑ 4.16引理4.2 }.0,1:{..}0,1:{..)()(>≥=>≥n ii n iif n n D C G p n n D C G二、常返态的性质及其性质定理4.5 状态i 常返的充要条件为∞=∑∞=0n iip4.18如i 非常返;则定理4.7 设i 常返且有周期d;则ind iin d p μ=∞→)(lim . 4.26其中i μ为i 的平均返回时间..当∞=i μ时;0=idμ.推论 设i 常返;则(1) i 零常返0lim )(=⇔∞→n iin p ；2i 遍历()1lim 0n ii n ip μ←∞⇔=>..定理4.8 可达关系与互通关系都具有传递性;即如果j i →;k j →;则k i →； 如果i k ↔;k j ↔;则k i ↔..定理4.9 如i j ↔;则（1） i 与j 同为常返或非常返;若为常返;则它们同为正常返或零常返； （2） i 与j 有相同的周期..§4.3 状态空间的分解定义4.9 状态空间I 的子集C 称为随机闭集;如对任意i C ∈及k C ∉都有0ik p =..闭集C 称为不可约的;如C 的状态互通..马氏链{}n X 称为不可约的;如其状态空间不可约..引理4.4 C 是闭集的充要条件为对任意i C ∈及k ∉C 都有()n ik p =0;n ≥1.. 称状态i 为吸收的;如ii p =1..显然状态i 吸收等价于单点集{}i 为闭集.. 定理4.10 任一马氏链的状态空间I;可唯一地分解成有限个或可列个互不相交的子集12,,,D C C 之和;使得① 每一n C 是常返态组成的不可约闭集..② n C 中的状态同类;或全是正常返;或全是零常返..它们有相同的周期且1jk f =; ,n i k C ∈..③ D 由全体非常返状态组成..自n C 中的状态不能到达D 中的状态.. 定义4.10 称矩阵ij a 为随机矩阵;如其元素非负且每i 有∑jij a ＝1..显然k 步转移矩阵)(k P ＝)(k ij p 为随机矩阵..引理4.5 设C 为闭集;又G ＝)(k ij p ; i ;j ∈C;是C 上所得的即与C 相应的k 步转移子矩阵;则G 仍是随机矩阵..定理4.11 周期为d 的不可约马氏链;其状态空间C 可唯一地分解为d 个互不相交地子集之和;即1,,,d r r S r C G G G r s φ-===≠ 4.31且使得自r G 中任一状态出发;经一步转移必进入1+r G 中其中0G G d =..定理4.12 设{,0}n X n ≥是周期为d 的不可约马氏链;则在定理4.11的结论下有1如只在时刻0,,2,d d 上考虑{}n X ;即得一新马氏链;其转移阵()()()d d ij P p =;对此新链;每一r G 是不可约闭集;且r G 中的状态是非周期的..2如原马氏链 {}n X 常返;{}nd X 也常返..§4.4 )(n ij p 的渐近性质与平稳分布一、)(n ij p 的渐近性质定理4.13 如j 非常返或零常返;则)(lim n ij n p ∞→＝0;I i ∈∀ 4.33推论1 有限状态的马氏链;不可能全是非常返状态;也不可能含有零常返状态;从而不可约的有限马氏链必为正常返的..推论2 如马氏链有一个零常返状态;则必有无限多个零常返状态..定理4.14 如j 正常返;周期为d;则对任意i 及10-≤≤d r 有()lim ()nd r ijij n jd p f r μ+→∞= 4.37 推论 设不可约、正常返、周期d 的马氏链;其状态空间为C;则对一切C j i ∈,;有,(),lim 0,s nd j ijn di j G p μ→∞⎧⎪=⎨⎪⎩如与同属于子集否则， 4.38 其中s d s G C 1－==U 为定理4.11中所给出..特别;如d=1;则对一切,i j 有.1lim )(jn ijn p μ=→∞4.39定理 4.15 对任意状态,,j i 有推论 如{}n X 不可约;常返;则对任意,i j ;有()111lim n k ij n k j p n μ→∞==∑ j μ＝∞时;理解j1μ＝0 定义4.11 称概率分布{,}j j I π∈为马尔可夫链的平稳分布;若它满足⎪⎪⎩⎪⎪⎨⎧≥==∑∑∈∈.0,1,j I j i ij I i i j p ππππ 4.41值得注意的是;对平稳分布{,}j j I π∈;有()n j i ij i Ip ππ∈=∑ 4.42定理 4.16 不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布;且此平稳分布就是极限分布1{,}j j I u ∈..推论1 有限状态的不可约非周期马尔可夫链必存在平稳分布..推论 2 若不可约马尔可夫链的所有状态是非常返或零常返的;则不存在平稳分布.推论3 若{,}j j I π∈是马尔可夫链的平稳分布;则第五章 连续时间的马尔可夫链§5.1连续时间的马尔可夫链定义 5.1 设随机过程{X t;t ≥0};状态空间{,0}n I i n =≥;若对于任意1210n t t t +≤<<<及121,,,n i i i I +∈有= 11{()|()}n n n n P X t i X t i ++== 5.1 则称{X t;t ≥0}为连续时间的马尔可夫链..记5.1式条件概率的一般形式为(,){()|()}ij p s t P X s t j X s i =+== 5.2定义 5.2 若5.2式的转移概率与s 无关;则称连续时间马尔可夫链具有平稳的或齐次的转移概率;此时转移概率简记为(,)()ij ij p s t p t = 5.3其转移概率矩阵简记为()(()),(,,0)ij P t p t i j I t =∈≥..以下的讨论均假定我们所考虑的连续时间马尔柯夫链都具有齐次转移概率..为方便起见;简称为齐次马尔可夫过程..定理5.1.1 齐次马尔可夫过程的转移概率具有以下性质：其中3式为马尔可夫过程的Chapman-Kolmogorov 简称C-K 方程..1;2由概率定义及()ij p t 的定义易知;下面只证明3..定义5.1.3对于任一t ≥0;记分别称{(),}j p t j I ∈和{,}j p j I ∈为齐次马尔可夫过程的绝对概率分布和初始概率分布..性质5.1.1 齐次马尔可夫过程的绝对概率及有限维概率分布具有以下性质：§5.2 柯尔莫哥洛夫微分方程引理 5.2.1 设齐次马尔可夫过程满足正则性条件;则对于任意固定的)(,,t p I j i ij ∈是t 的一致连续函数..定理5.3 设)(t p ij 是齐次马尔可夫过程的转移概率;则下列极限存在我们称ij q 为齐次马尔可夫过程从状态i 到状态j 的转移速率或跳跃强度.. 推论 对有限齐次马尔可夫过程;有定理5.4 柯尔莫哥洛夫向后方程假设ik ii k iq q ≠=∑;则对一切,i j 及t 0;有()()()ijik kj ii ij k ip t q p t q p t ≠'=-∑ 5.2.4 定理5.2.3 柯尔莫哥洛夫向前方程在适当的正则条件下定理5.2.4 齐次马尔可夫链过程在t 时刻处于状态j ∈I 的绝对概率()j p t 满足如下方程：定理5.2.5 设马尔可夫过程是不可约的;则有下列性质：1若它是正常返的;则极限lim ()ij t p t →∞存在且等于0,j j I π>∈;这里j π是方程组的唯一非负解;此时称{,j j I π∈}是该过程的平稳分布;并且有2若它是零常返的或非常返的;则§5.3 生灭过程定义 设齐次马尔可夫过程{(),0}X t t ≥的状态空间为{0,1,2,}I =;转移概率为()ij p t ;如果则称{(),0}X t t ≥为生灭过程..其中;i λ称为出生率;i μ称为死亡率..1若,i i i i λλμμ==λ;μ为正常数;则称{(),0}X t t ≥为线性生灭过程；2若0i μ≡;则称{(),0}X t t ≥为纯生过程； 3若0i λ≡;则称{(),0}X t t ≥为纯灭过程..第六章 平稳随机过程§6.1 平稳过程的概念与例子一、平稳过程的定义1.平稳过程定义§6.2 联合平稳过程及相关函数的性质一、联合平稳过程定义 设{(),}X t t T ∈和{(),}Y t t T ∈是两个平稳过程;若它们的互相关函数[()()]E X t Y t τ-及[()()]E Y t X t τ-仅与τ有关;而与t 无关;则称()X t 和()Y t 是联合平稳随机过程..定理6.1 设{(),}X t t T ∈为平稳过程;则其相关函数具下列性质:1 ;0)0(≥X R2 );()(ττ-=X X R R3 );0()(X X R R ≤τ4 )(τX R 是非负定的;即对任意实数12,,,n t t t 及复数12,,,n a a a ;有5 若()X t 是周期为T 的周期函数;即()()X t X t T =+;则)()(t R R X X +=ττ；6 若()X t 是不含周期分量的非周期过程;当∞→τ时;()X t 与()X t τ+相互独立;则 1 );0()0()(),0()0()(22Y X XY Y X XY R R R R R R ≤≤ττ 2 ()()XY YX R R ττ-=§ 6.3 随机分析一、收敛性概念1、处处收敛对于概率空间(,,)P Ω℘上的随机序列{}n X ;每个试验结果e 都对应一序列..12(),(),,(),n X e X e X e 6.2故随机序列{}n X 实际上代表一族6.2式的序列;故不能用普通极限形式来定义随机序列的收敛性..若6.2式对每个e 都收敛;则称随机序列{}n X 处处收敛;即满足 其中X 为随机变量..2、以概率1收敛若使随机序列{()}n X e 满足的e 的集合的概率为1;即我们称二阶矩随机序列{()}n X e 以概率1收敛于二阶矩随机变量Xe;或称{()}n X e 几乎处处收敛于Xe;记作XX ea n −→−...3、依概率收敛若对于任给的ε>0; 若有0}|)()({|lim =≥-∞→εe X e X P n n ;则称二阶矩随机序列{()}n X e 依概率收敛于二阶矩随机变量Xe;记作X X Pn −→−.. 4、均方收敛设有二阶矩随机序列{}n X 和二阶矩随机变量X;若有0]|[|lim 2=-∞→X X E n n 6.3成立;则称{}n X 均方收敛;记作X X sm n −−→−... 注：6.3式一般记为l.i.m n x X X →∞=或..n l i mX X =.. 5、依分布收敛设有二阶矩随机序列{}n X 和二阶矩随机变量X;若{}n X 相应的分布函数列{()}n F x ;在X 的分布函数Fx 的每一个连续点处;有则称二阶矩随机序列{}n X 依分布收敛于二阶矩随机变量X;记作X X dn −→−对于以上四种收敛定义进行比较;有下列关系：1 若X X s m n −−→−.;则X X Pn −→− 2 若XX ea n −→−.;则X X Pn −→−3 若X X Pn −→−;则X X dn −→− 定理2 二阶矩随机序列{}n X 收敛于二阶矩随机变量X 的充要条件为定理3 设{},{},{}n n n X Y Z 都是二阶矩随机序列;U 为二阶矩随机变量;{n c }为常数序列;a;b;c 为常数..令X mX i l n =..;Y mY i l n =..;Z mZ i l n =..;c mc i l n =....则1 c c mc i l n n n ==∞→lim ..；2 U mU i l =..；3 cU U c m i l n =)(..；4 bY aX bY aX m i l n n +=+)(..；5 ]..[][][lim n n n mX i l E X E X E ==∞→；6 )]..)(..[(][][lim ,m n m n m n Y m i l mX i l E Y X E Y X E ==∞→；特别有]|..[|]|[|]|[|lim 222n n n mX i l E X E X E ==∞→..定理4 设{}n X 为二阶矩随机序列;则{}n X 均方收敛的充要条件为下列极限存在][lim ,m n m n X X E ∞→..二、均方连续定义 设有二阶矩过程}),({T t t X ∈;若对0t T ∈;有2000lim [|()()|]0h E X t h X t →+-=;则称()X t 在0t 点均方连续;记作000..()()h l i m X t h X t →+=..若对T 中一切点都均方连续;则称()X t 在T 上均方连续..定理均方连续准则二阶矩过程}),({T t t X ∈在t 点均方连续的充要条件为相关函数处连续在点),(),(21t t t t R X ..推论 若相关函数),(21t t R X 在}),,{(T t t t ∈上连续;则它在T ×T 上连续三、均方导数定义7 设}),({T t t X ∈是二阶矩过程;若存在一个随机过程)(t X ';满足类似的有22)(dtXd t X 或'' 称为),(21t t R X 在12(,)t t 的广义二阶导数;记为定理6 均方可微准则 二阶矩过程}),({T t t X ∈在t 点均方可微的充要条件为相关函数),(),(21t t t t R X 在点的广义二阶导数存在..推论1 二阶矩过程}),({T t t X ∈在T 上均方可微的充要条件为相关函数),(21t t R X 在}),,{(T t t t ∈上每一点广义二阶可微..推论2 若),(21t t R X 在}),,{(T t t t ∈上每一点广义二阶可微;则()X dm t dt在T 上以及在T T ⨯上存在;且有四、均方积分定义8 如果0n ∆→时;n S 均方收敛于S ;即2lim ||0n n E S S ∆→-=;则称()()f t X t 在[,]a b 上均方可积;并记为定理7 均方可积准则()()f t X t 在区间[,]a b 上均方可积的充要条件为存在..特别的;二阶矩过程()X t 在[,]a b 上均方可积的充要条件为12(,)X R t t 在[,][,]a b a b ⨯上可积..定理8 设()()f t X t 在区间[,]a b 上均方可积;则有 1 [()()]()[()]bbaaE f t X t dt f t E X t dt =⎰⎰特别有 [()][()]bbaaE X t dt E X t dt =⎰⎰2 111222121212[()()()()]()()(,)bb bbX aaaaE f t X t dt f t X t dt f t f t R t t dt dt =⎰⎰⎰⎰特别的有 21212|()|(,)bbbX aaaE X t dt R t t dt dt =⎰⎰⎰..定理9 设二阶矩过程}),({T t t X ∈在[,]a b 上均方连续;则在均方意义下存在;且随机过程}),({T t t X ∈在[,]a b 上均方可微;且有()()Y t X t '=.. 推论 设()X t 均方可微;且()X t '均方连续;则 特别有§4 平稳过程的各态历经性定义9 设{(),}X t t -∞<<∞为均方连续的平稳过程;则分别称为该过程的时间均值和时间相关函数..定义10 设{(),}X t t -∞<<∞是均方连续的平稳过程;若()Pr.1(())X t E X t <>;即 以概率1成立;则称该平稳过程的均值具有各态历经性..若()()Pr.1(()())X t X t E X t X t ττ<->-;即以概率1成立;则称该平稳过程的相关函数具有各态历经性..定义11 如果均方连续的平稳过程{(),}X t t T ∈的均值和相关函数都具有各态历经性;则称该平稳过程为具有各态历经性或遍历性..定理 10 设{(),}X t t -∞<<∞是均方连续的平稳过程;则它的均值具有各态历经性的充要条件为2221lim 1[()]022T X X T T R m d T T τττ-→∞⎛⎫--= ⎪⎝⎭⎰ 6.9 定理6.11 设{(),}X t t -∞<<∞为均方连续的平稳过程;则其相关函数具有各态历经性的充要条件为2211121lim1()()022TX T T B R d T T ττττ-→∞⎛⎫⎡⎤--= ⎪⎣⎦⎝⎭⎰ 6.15 其中111()()()()()B E X t X t X t X t τττττ⎡⎤=----⎢⎥⎣⎦6.16 定理6.12 对于均方连续平稳过程{(),0}X t t ≤<∞;等式以概率1成立的充要条件为若()X t 为实平稳过程;则上式变为定理 6.13 对于均方连续平稳过程{(),0}X t t ≤<∞;等式 以概率1成立的充要条件为 其中1()B τ与6.16式相同..若()X t 为实平稳过程;则上式变为第七章 平稳过程的谱分析§7.1 平稳过程的谱密度设)(t X 是均方连续随机过程;作截尾随机过程因为()t X T 均方可积;故存在傅式变换(,)()()i ti t x T T T F T X t e dt X t e dt Tωωω--∞==-∞-⎰⎰…………..7.4利用帕塞伐公式及傅式反变换;可得定义7.1 设 {}∞<<-∞t t X ),( 为均方连续随机过程;称 为 )(t X 的平均功率;称为 )(t X 的功率谱密度;简称谱密度..当 )(t X 是平稳均方连续函数时;由于[])(2t X E 是与t 无关的常数;利用均方积分的性质可以将7.5式简化得()221()()02limx T T E X t dt E X t R T T →∞⎡⎤⎡⎤===⎣⎦⎣⎦-⎰ ……….. 7.8 由7.8式和7.5式看出;平稳过程的平均功率等于该过程的均方值;或等于它的谱密度在频域上的积分;即()212X S d ψωωπ∞=-∞⎰ ………………. 7.9定义7.2 设{,0,1,2,}n X n =±±是平稳随机序列;若相关函数满足()X n R n ∞=-∞<∞∑则称为{,0,1,2,}n X n =±±的谱密度..§7.2谱密度的分析设 {}∞<<-∞t t X ),( 为均方连续平稳过程;)(τX R 为它的相关函数;()ωX S 为它的频率谱密度;()ωX S 具有下列性质： （1） 若()∞<∞-∞⎰ττd R X ;则()ωX S 是)(τX R 的傅式变换;即()()i t X X S R e d ωωττ-∞=-∞⎰ ………. 7.122 ()ωX S 是ω的实的;非负的偶函数..3 当 ()ωX S 是ω有理函数时;其形式必为其中22,(0,2,,2;2,4,,2)n i m j a b i n j m --==为常数;且20n a >;m n >;分母无实根..§7.3 窄带过程及白噪声过程的功率谱密度定义 1 设 (){},X t t -∞<<∞为实值平稳过程;若它的均值为零;且谱密度在所有频率范围内为非零的常数;即()()0X s N ωω=-∞<<∞则称()X t 为白噪声过程..具有下列性质的函数称为δ函数：δ函数有一个非常重要的运算性质;即抽样性质..对任何连续函数()f x ;有()()()0,f x x dx f δ∞-∞=⎰7.15或()()().f x x T dx f T δ∞-∞-=⎰§7.4 联合平稳过程的互谱密度定义7.4 设()X t 和()Y t 是两个平稳过程;且它们是联合平稳的平稳相关的;若它们的互相关函数()XY R τ满足()XY R d ττ∞-∞<∞⎰;则称()XY R τ的傅氏变换 ()()i XY XY s R ed ωτωττ∞--∞=⎰ ………………….7.21 是()X t 与()Y t 的互功率谱密度;简称互谱密度.. 因此互谱密度()YX s ω与互相关函数()YX R τ的关系如下：()()i YXYXs R e d ωτωττ∞--∞=⎰; 互谱密度具有下列性质：⑴ ()()XY YX s s ωω=;即()XY s ω与()YX s ω互为共轭；⑵ ()Re XY s ω⎡⎤⎣⎦和()Re YX s ω⎡⎤⎣⎦是ω的偶函数;而()Im XY s ω⎡⎤⎣⎦和()Im YX s ω⎡⎤⎣⎦是ω的奇函数；⑶ ()XY s ω与()X s ω和()Y s ω满足下列关系式： ⑷若()X t 和()Y t 相互正交;则()()0XY YX s s ωω==。
高等数学中的随机过程相关知识点详解
高等数学中的随机过程相关知识点详解近年来，随机过程被越来越多的人所关注和使用。
作为高等数学的一个分支，随机过程具有广泛的应用领域，包括金融、医学、生物学等等。
在本文中，将详细解析高等数学中的随机过程相关知识点，帮助读者更好地理解和应用这一领域的知识。
一、概率论基础在进行随机过程的学习之前，我们需要了解一些概率论的基础知识。
概率论是确定不确定性的一种科学方法，它研究的是随机事件的发生规律和概率计算方法。
在概率论中，有一些基本概念和公式，包括概率、条件概率、概率分布、随机变量等等。
1.1 概率概率是指一个事件发生的可能性大小。
通常用P来表示，它的取值范围是0到1。
当P=0时，表示这个事件不可能发生；当P=1时，表示这个事件一定会发生。
例如，掷一枚硬币正面朝上的概率为1/2，或者说P=0.5。
1.2 条件概率条件概率是指在已知某些条件下，某个事件发生的概率。
通常用P(A|B)来表示，表示在B发生的情况下，A发生的概率。
例如，从一副牌中摸两张牌，第一张是红桃，第二张是黑桃的概率为P(第二张是黑桃|第一张是红桃)=26/51。
1.3 概率分布概率分布是指所有可能事件发生的概率分布，它是概率论的基础。
在不同的情况下，概率分布也是不同的。
例如，在离散型随机变量中，概率分布通常以概率质量函数的形式给出；而在连续性随机变量中，概率分布通常以概率密度函数的形式给出。
1.4 随机变量随机变量是一种随机事件的数学描述。
它通常用大写字母表示，如X、Y、Z等等。
根据其取值的类型，随机变量可以分为离散型和连续型。
离散型随机变量只能取到有限或可数个值，如掷硬币、扔骰子等等；而连续型随机变量可以取到任意实数值，如身高、体重等等。
二、随机过程的基本概念2.1 随机过程的定义随机过程是一种描述随机事件随时间变化的方法。
它可以看作是有限维随机变量序列的无限集合，其中每个随机变量代表系统在某个时刻的状态。
随机过程的定义包括两个方面：空间（状态集合）和时间（时刻集合）。
随机过程的基本概念及类型
第七章 随机过程的基本概念及类型
第一章 概率论基础
目录 Contents
7.1
随机过程的基本概念
7.2
随机过程的分布率和数字特征
7.3
复随机过程
7.4
几种重要的随机过程
7.1 随机过程的基本概念
通俗地讲, 用于研究随机现象变化过程的随机变量 族称为随机过程.
7.1.1 随机过程的实例
当 t1 t2 t 时,
DX (t )
2 X
(t)
BX
(t,t)
RX
(t,t
)
m
2 X
(t)
最主要的数字特征
mX (t) E[X (t)]
均值函数
RX(t1, t2 ) E[X (t1 )X (t2 )] 自相关函数
7.2 随机过程的分布律和数字特征
例7.2 设随机过程 X (t ) Y cos( t) Z sin( t), t 0, 其中 Y , Z 是相互独立的随机变量, 且 EY EZ 0, DY DZ 2 , 求 {X (t ) t 0}的均值函数 mX (t) 和 协方差函数 BX (s, t).
RW (s, t) E[W (s)W (t)] E[( X (s) Y (s))( X (t ) Y (t ))]
E[ X (s)X (t) X (s)Y (t) Y (s)X (t ) Y (s)Y (t)]
7.2 随机过程的分布律和数字特征
E[ X (s)X (t)] E[ X (s)Y (t)] E[Y (s)X (t)] E[Y (s)Y (t)]
◎ 显然有关系式 BX (s, t) RX (s, t) mX (s)mX (t) , s, t T .
随机过程 通俗易懂
随机过程通俗易懂随机过程是现代数学的一个重要分支，它的研究对象是一些具有随机性质的变量序列。
在实际生活中，我们经常遇到许多随机现象，如天气变化、股票价格波动、彩票开奖等等，这些都可以看做是随机过程的例子。
本文将从随机过程的定义、分类和应用方面进行简单介绍。
一、随机过程的定义随机过程是一个含有随机变量的序列，它可以用数学公式表示为X(t)，其中t表示时间，X(t)表示在时间t时随机变量的取值。
随机过程可以用概率统计的方法进行研究，其中最重要的是随机过程的平均值和方差。
一般来说，随机过程可以分为离散时间随机过程和连续时间随机过程两种。
二、随机过程的分类1. 离散时间随机过程在离散时间随机过程中，时间是按照一定时间步长间隔离散化的。
典型的离散时间随机过程包括二项分布、泊松分布和马尔可夫链等。
其中，马尔可夫链是最具有代表性的离散时间随机过程，它具有“无记忆性”和“马尔可夫性质”，在概率论的研究、金融市场分析等方面有广泛的应用。
2. 连续时间随机过程在连续时间随机过程中，时间是连续的，可以看成是一个时间轴上的曲线。
典型的连续时间随机过程有布朗运动、随机游走等。
其中，布朗运动是最具有代表性的连续时间随机过程之一，它是自然界中许多现象的基础模型，如气体分子的运动、股票价格的波动等。
在金融市场、信号处理等领域也有广泛的应用。
三、随机过程的应用随机过程在各个领域中都有重要的应用，其中最典型的应用领域包括金融市场、信号处理和通信系统等。
1. 金融市场金融市场中充斥着大量的随机性，如股票价格、汇率等都具有随机行为。
通过研究随机过程，可以为投资者提供更精准的预测和决策依据。
同时，也可以设计更好的金融衍生品，如期权、期货等，来降低市场风险。
2. 信号处理信号处理中的信号通常具有多变的随机性质，如噪声、失真等。
随机过程可以用来建立信号模型，在信号处理中具有广泛的应用，如图像处理、语音识别等。
3. 通信系统通信系统中的信息传输受到了许多随机因素的干扰，如噪声、多径效应等。
应用随机过程学习总结（小编整理）
应用随机过程学习总结（小编整理）第一篇：应用随机过程学习总结应用随机过程学习总结一、预备知识：概率论随机过程属于概率论的动态部分，即随机变量随时间不断发展变化的过程，它以概率论作为主要的基础知识。
1、概率空间方面，主要掌握sigma代数和可测空间，在随机过程中由总体样本空间所构成的集合族。
符号解释：sup表示上确界，inf 表示下确界。
本帖隐藏的内容2、数字特征、矩母函数与特征函数：随机变量完全由其概率分布来描述。
其中由于概率分布较难确定，因此通常计算随机变量的数字特征来估算分布总体，而矩母函数和特征函数便用于随机变量的N阶矩计算，同时唯一的决定概率分布。
3、独立性和条件期望：独立随机变量和的分布通常由卷积来表示，对于同为分布函数的两个函数，卷积可以交换顺序，同时满足结合律和分配率。
条件期望中，最重要的是理解并记忆E(X)= E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。
二、随机过程基本概念和类型随机过程是概率空间上的一族随机变量。
因为研究随机过程主要是研究其统计规律性，由Kolmogorov定理可知，随机过程的有限维分布族是随机过程概率特征的完整描述。
同样，随机过程的有限维分布也通过某些数值特征来描述。
1、平稳过程，通常研究宽平稳过程：如果X(t1)和X(t2)的自协方差函数r(t1,t2)=r(0,t-s)均成立，即随机过程X(t)的协方差函数r(t,s)只与时间差t-s有关，r(t)= r(-t)记为宽平稳随机过程。
因为一条随机序列仅仅是随机过程的一次观察，那么遍历性问题便是希望将随即过程的均值和自协方差从这一条样本路径中估计出来，因此宽平稳序列只需满足其均值遍历性原理和协方差遍历性原理即可。
2、独立增量过程：若X[Tn]–X[T(n-1)]对任意n均相互独立，则称X(t)是独立增量过程。
若独立增量过程的特征函数具有可乘性，则其必为平稳增量过程。
兼有独立增量和平稳增量的过程称为平稳独立增量过程，其均值函数一定是时间t的线性函数。
什么是随机过程(一)
什么是随机过程（一）引言概述:随机过程是概率论和数学统计学中的重要概念，用于描述随机事件在时间和空间上的演化规律。
它在实际问题建模和分析中具有广泛的应用，涵盖了大量的领域，如通信系统、金融市场、生物学等。
本文将介绍随机过程的基本概念和特征，并探讨其在实际中的应用。
正文:1. 随机过程的定义1.1 随机过程的基本概念1.2 随机变量与随机过程的关系1.3 不同类型的随机过程（如离散随机过程、连续随机过程等）2. 随机过程的特征2.1 随机过程的时间域特征2.2 随机过程的统计特征2.3 随机过程的独立性和相关性2.4 随机过程的平稳性2.5 随机过程的马尔可夫性质3. 随机过程的应用3.1 通信系统中的随机过程3.2 金融市场中的随机过程3.3 生物学中的随机过程3.4 物理学中的随机过程3.5 工程控制中的随机过程4. 随机过程的建模和分析方法4.1 马尔可夫链模型4.2 随机演化方程模型4.3 随机微分方程模型4.4 随机过程的仿真方法4.5 随机过程的参数估计方法5. 随机过程的未来发展5.1 随机过程在人工智能中的应用5.2 随机过程在时空数据分析中的应用5.3 随机过程在大数据分析中的应用5.4 新兴领域中的随机过程研究5.5 随机过程理论与实际应用的结合总结:本文介绍了随机过程的定义、特征和应用，并讨论了随机过程的建模和分析方法。
随机过程作为概率论和数学统计学的重要分支，具有广泛的应用前景。
随着人工智能和大数据分析的发展，随机过程在各个领域中的应用将进一步扩展。
值得期待的是，未来随机过程理论和实际应用的结合将推动该领域的进一步发展。
随机过程第一章 预备知识及补充
n
PAn,i.o. P(A) 0
命题 1.3（波莱尔－坎泰利（Borel-Cantelli）第二引理）：如果An , n 1 为独立的事件
序列，使得 P( An ) ，则 n1
PAn,i.o. 1
第一引理证明：
根据定义 1.4 对事件序列An , n 1 上极限的定义可知，因为样本点 在无穷多个事件
n1
n1
假定一些事件组成了一个可数的集合，那么这集合中的至少一个事件发生的概率不大于每个事件
发生的概率的和。）；
当 An , n 1, 2,两两互不相容时，则 P( An ) P( An ) ；
n1
n1
概率函数 P 的一个重要性质是连续性，为了更精确地阐明这一性质，需要引进极限事
件的概念。定义如下：
An , n 1发生，则在 An ,k 1也同样发生，从而在
An 亦发生；另一方面，如果
nk
k 1 nk
样本点 在
An ，则对于 k 1， 在 An 发生，从而对于 k 1至少有一个 n k ，
k 1 nk
nk
即 n k ，使得 在 An 发生，因此有 在无穷多个 An 发生。
若 An An1, n 1，称事件序列An , n 1 为递增的；
当 An An1, n 1，则事件序列An , n 1 为递减的。
如果
An
,
n
1
是一递增的事件序列，那么我们定义一个新的事件，记为
lim
n
An
：
lim
n
An
Ai ；
i 1
如果
An
,
n
1
是一递减的事件序列，那么我们定义一个新的事件，记为
随机过程知识点
随机过程知识点随机过程是现代概率论的重要分支之一，它描述的是一个或多个随机变量随时间的变化规律。
在实际应用中，随机过程经常被用来建立模型，进行仿真以及预测未来的变化趋势等。
随机过程知识点众多，本文将从概念、分类、建模等方面进行探讨。
一、概念随机过程指的是一个定义在时间集合T上的随机变量的集合{Xt:t∈T}。
其中，T表示时间的取值范围，Xt是一个随机变量。
每个时刻t对应一个随机变量Xt，称为随机过程在时刻t的取值。
二、分类根据随机变量的值域，随机过程可以分为离散随机过程和连续随机过程两类。
1. 离散随机过程离散随机过程的取值集合为有限或可数集合。
在离散随机过程中，随时间变化的变量通常被称为时间序列。
离散随机过程可以进一步分为如下几类：（1）马尔可夫链马尔可夫链是最简单的离散随机过程模型，假设当前时刻状态只与前一时刻状态有关。
马尔可夫链的基本性质是：状态转移概率只与当前状态有关，而与历史状态无关。
（2）泊松过程泊松过程是一种间断性随机过程，它描述了单位时间或者单位面积内，某事件发生次数的概率分布。
泊松过程的关键特征是时间和事件之间的指数分布关系，即事件之间的时间间隔是独立且指数分布的。
2. 连续随机过程连续随机过程是取值集合为实数（或实数集合的子集）的随机过程。
在连续随机过程中，随时间变化的变量通常被称为随机过程信号。
连续随机过程可以进一步分为如下几类：（1）布朗运动布朗运动是最基本的连续随机过程，描述了物体在连续介质中的随机运动。
其轨迹连续但不光滑，呈现出瞬时变化的特点。
（2）随机游走随机游走是一种简单的随机过程模型，它描述了物体在一组不断变化的环境下进行的随机运动。
其主要特征是不规则的移动和不可预测性。
三、建模在实际应用中，随机过程的建模是非常重要的。
通过从数学模型中提取重要的特征和参数，可以更好地理解随机过程的行为，从而更好地预测未来的变化。
1. 马尔可夫模型马尔可夫模型是一种广泛使用的随机过程模型，其基本假设是状态的未来只与当前状态有关。
概率统计与随机过程-知识点总结--最终版
P(Bi ) 0(i 1, 2,L , n), 则恒有全概率公式：
n
P( A) P( A B1 )P(B1 ) P( A B2 )P(B2 ) L P( A Bn )P(Bn ) P Bi P A | Bi i 1
B 发生的概率，用古典概率公式，则
P(B
A)
AB 中基本事件数
，
SA 中基本事件数
P( AB)
AB 中基本事件数
，
S 中比 P( AB) 大。
五、事件的独立性 1、事件的相互独立性
定义：设 A，B 是两事件，如果满足等式 P( AB) P( A) P(B) ，则称事件 A，B 相互独立，
结论：
若事件 A1, A2 , L , An (n 2) 相互独立，则其中任意 k (2 k n) 个事件也是相互独立的。
2、几个重要定理
定理一：设 A, B 是两事件，且 P( A) 0 ，若 A, B 相互独立，则 P(B A) P(B).反之亦
i 1
P
Bi
A
。
3、乘法公式
由条件概率的定义： P( A | B) P( AB) 即得乘法定理： P(B)
若 P(B)>0，则 P(AB)=P(B)P(A|B)； 若 P(A)>0 ，则 P(AB)=P(A)P(B|A). 乘法定理可以推广到多个事件的积事件的情况，
-3-
设 A、B、C 为三个事件，且 P AB 0 ，且 P ABC P C | ABP B | AP A，
一般地，设有 n 个事件 A1,A2 , , An ,n 2 , 并且 P A1 A2 An1 0 ，则由条件概率的
(完整)随机过程总结,推荐文档
第一章随机变量基础1 历史上哪些学者对随机过程学科的基础理论做出了突出贡献？答: 随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。
这一学科最早源于对物理学的研究，如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。
1907 年前后，马尔可夫研究了一系列有特定相依性的随机变量，后人称之为马尔可夫链。
1923 年维纳给出布朗运动的数学定义，直到今日这一过程仍是重要的研究课题。
随机过程一般理论的研究通常认为开始于20 世纪30 年代。
1931 年，柯尔莫哥洛夫发表了《概率论的解析方法》，1934 年A·辛饮发表了《平稳过程的相关理论》，这两篇著作奠定了马尔可夫过程与平稳过程的理论基础。
1953 年，杜布出版了名著《随机过程论》，系统且严格地叙述了随机过程基本理论。
2 全概率公式的含义？答：全概率公式的含义就是各种可能发生的情况的概率之和为1。
3 概率空间有哪几个要素，其概念体现了对随机信号什么样的建模思想？答：样本空间、事件集合、概率函数称为概率空间的三要素。
概率函数建立了随机事件与可描述随机事件可能性大小的实数间的对应关系，因此，概率空间是在观测者观测前对随机事件发生的可能性大小进行了量化，其有效性是通过多次观测体现出来的，也即在多次观测中，某个随机事件发生的频率可直接认为与其发生的概率相等，所以，概率空间的建模思想实际是对大量观测中某随机事件发生频率的稳定性的描述。
4 可用哪些概率函数完全描述一个随机变量？答：概率分布函数（cdf）、概率密度函数（pdf ）、特征函数（cf）、概率生成函数（gf）。
5 可用哪些数字特征部分描述一个随机变量？答：均值、方差、协方差、相关系数和高阶矩。
6 随机变量与通常意义上的变量有何区别与联系？答：随机变量具有通常意义上的变量的所有性质和特征（即变量特性），还增加了变量取每个值的可能性大小的描述（即概率特性）。
随机过程知识点汇总
第一章随机过程的基本概念与基本类型一．随机变量及其分布1．随机变量，分布函数离散型随机变量的概率分布用分布列分布函数连续型随机变量的概率分布用概率密度分布函数2．n 维随机变量其联合分布函数离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量连续型随机变量方差：反映随机变量取值的离散程度协方差（两个随机变量）：相关系数（两个随机变量）：若，则称不相关。
独立不相关4•特征函数离散连续重要性质：，，，5 •常见随机变量的分布列或概率密度、期望、方差0 — 1分布二项分布泊松分布均匀分布略正态分布指数分布6.N维正态随机变量的联合概率密度，，正定协方差阵二.随机过程的基本概念1.随机过程的一般定义设是概率空间，是给定的参数集，若对每个，都有一个随机变量与之对应，则称随机变量族是上的随机过程。
简记为。
含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。
另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。
当固定时，是随机变量。
当固定时，时普通函数，称为随机过程的一个样本函数或轨道。
分类：根据参数集和状态空间是否可列，分四类。
也可以根据之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。
2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。
随机过程的一维分布，二维分布，…，维分布的全体称为有限维分布函数族。
随机过程的有限维分布函数族是随机过程概率特征的完整描述。
在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。
（1）均值函数表示随机过程在时刻的平均值。
（2）方差函数表示随机过程在时刻对均值的偏离程度。
（3）协方差函数且有（4）相关函数（3）和（4）表示随机过程在时刻，时的线性相关程度。
(5)互相关函数：，是两个二阶距过程，则下式称为它们的互协方差函数。
，那么，称为互相关函数。
随机过程知识点总结
第一章：考试范围1.3,1.41、计算指数分布的矩母函数.2、计算标准正态分布)1,0(~N X 的矩母函数.3、计算标准正态分布)1,0(~N X 的特征函数.第二章：1. 随机过程的均值函数、协方差函数与自相关函数2. 宽平稳过程、均值遍历性的定义及定理3. 独立增量过程、平稳增量过程，独立增量是平稳增量的充要条件1、设随机过程()Z t X Yt =+，t -∞<<∞.若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ⎡⎤⎢⎥⎣⎦，求()Z t 的协方差函数. 2、设有随机过程{(),}X t t T ∈和常数a ，()()()Y t X t a X t =+-，t T ∈，计算()Y t 的自相关函数（用(,)X R s t 表示）.3、设12()cos sin X t Z t Z t λλ=+，其中212,~(0,)Z Z N σ是独立同分布的随机变量，λ为实数，证明()X t 是宽平稳过程.4、设有随机过程()sin cos Z t X t Y t =+，其中X 和Y 是相互独立的随机变量，它们都分别以0.5和0.5的概率取值-1和1，证明()Z t 是宽平稳过程.第三章：1. 泊松过程的定义（定义3.1.2）及相关概率计算2. 与泊松过程相联系的若干分布及其概率计算3. 复合泊松过程和条件泊松过程的定义1、设{(),0}N t t ≥是参数3λ=的Poisson 过程，计算：(1). {(1)3}P N ≤； (2). {(1)1,(3)3}P N N ==； (3). {(1)2(1)1}P N N ≥≥.2、某商场为调查顾客到来的客源情况，考察了男女顾客来商场的人数. 假设男女顾客来商场的人数分别独立地服从每分钟2人与每分钟3人的泊松过程.(1)．试求到某时刻t 时到达商场的总人数的分布；(2). 在已知t 时刻有50人到达的条件下，试求其中恰有30位女性的概率，平均有多少个女性顾客？3、某商店顾客的到来服从强度为4人/小时的Poisson 过程，已知商店9：00开门，试求：(1). 在开门半小时中，无顾客到来的概率；(2). 若已知开门半小时中无顾客到来，那么在未来半小时中，仍无顾客到来的概率。
随机过程理论的基础知识和应用场景
随机过程理论的基础知识和应用场景随机过程是指随机事件在时间或空间维度上的演变过程，广泛应用于信号处理、经济学、物理学等领域。
而随机过程理论是研究随机过程的数学工具，主要包括随机变量、概率论、统计学、测度论等基础知识。
在本文中，将介绍随机过程理论的基础知识和应用场景，并通过实例分析展示其实际应用。
一、随机过程理论基础知识1.随机变量与概率论随机变量是指随机现象的数学表示，用来描述事件结果的不确定性。
常见的随机变量包括离散型随机变量和连续型随机变量。
概率论则是研究随机现象的分布规律和概率问题的一门数学分支，主要包括概率分布、期望、方差等内容。
在随机过程理论中，随机变量和概率论是非常基础而重要的概念。
2.统计学原理统计学是研究数据收集、分析和解释的一门学科，主要包括描述统计学和推断统计学两个部分。
前者主要是对数据进行整理、分类、图表展示等描述性统计分析，后者则是利用样本数据推断总体的参数。
在随机过程理论中，统计学原理可以用来对随机过程进行统计分析，从而更好地了解其规律和特性。
3.测度论测度论是研究度量和测量问题的一门数学学科，主要包括测度的概念、性质、测度空间等内容。
在随机过程理论中，测度论可用来定义随机过程的测度空间、概率空间等基础概念。
二、随机过程应用场景1.信号处理随机过程在信号处理中广泛应用，例如在噪声抑制、信号分析、同步定时等方面发挥着重要作用。
例如，在噪声抑制领域，随机过程可以用于描述噪声和信号的关系，进而采用滤波等方式降低噪声干扰，提高信号的质量和可靠性。
2.经济学随机过程在经济学领域中也起到了关键作用。
例如，在金融市场中，随机过程可以用于建立股票、期货、期权等金融工具的价格模型，对投资决策和风险管理具有重要意义。
另外，在经济预测、宏观调控等方面，随机过程也具有广泛的应用。
3.物理学随机过程在物理学中的应用也非常广泛。
例如，在分子动力学、核物理、天体物理等领域，随机过程可以用于描述微观粒子的运动规律和宏观物体的演化过程。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第一章：预备知识§1.1 概率空间随机试验，样本空间记为Ω。
定义1.1 设Ω是一个集合，F 是Ω的某些子集组成的集合族。
如果 （1）∈ΩF ；（2）∈A 若F ，∈Ω=A A \则F ； （3）若∈n A F ， ，，21=n ，则∞=∈1n nAF ；则称F 为-σ代数(Borel 域)。
(Ω,F )称为可测空间，F 中的元素称为事件。
由定义易知： .216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞=== ，，则，，，）若（；则若（；定义1.2 设(Ω,F )是可测空间，P(·)是定义在F 上的实值函数。
如果()()()()∑∞=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时，当）对两两互不相容事件（；）（；任意则称P 是()F ,Ω上的概率，（P F ，，Ω）称为概率空间，P(A)为事件A 的概率。
定义1.3 设（P F ，，Ω）是概率空间，F G ⊂，如果对任意G A A A n ∈,,,21 ，,2,1=n 有： (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族。
§1.2 随机变量及其分布随机变量X ，分布函数)(x F ，n 维随机变量或n 维随机向量，联合分布函数，{}T t X t ∈,是独立的。
§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ，若⎰∞∞-∞<)(||x dF x ，则称)(X E ＝⎰∞∞-)(x xdF为X 的数学期望或均值。
上式右边的积分称为Lebesgue-Stieltjes 积分。
方差，()()[]EY Y EX X E B XY --=为X 、Y 的协方差，而 DYDX B XYXY =ρ为X 、Y 的相关系数。
若,0=XYρ则称X 、Y 不相关。
（Schwarz 不等式）若,,22∞<∞<EY EX则().222EY EX EXY ≤§ 1.4 特征函数、母函数和拉氏变换定义1. 10 设随机变量的分布函数为F （x ），称 ()()(),jtX jtx g t E e e dF x t ∞-∞=-∞<<∞⎰为X 的特征函数随机变量的特征函数具有下列性质： (1)(0)1,()1,()()g g t g t g t =≤-= 1 ( 2 ) g (t )在()∞∞-, 上一致连续。
（3）()(0)()k k k g i E X =(4)若12,,,n X X X 是相互独立的随机变量，则12n X X X X =+++的特征函数12()()()()n g t g t g t g t =，其中()i g t 是随机变量X i 的特征函数，1,2,,i n =.定义1 . 11 设 12(,,,)n X X X X =是n 维随机变量，t = (12,,,n t t t ) ,R ∈ 则称121()(,,,)()[exp()]nitX n k k k g t g t t t E eE i t X '====∑,为X 的特征函数。
定义1.12 设X 是非负整数值随机变量，分布列() ,2,1,===k x X P p k k则称)()(Xdef s E s P =＝k k k s P ∑∞=0为X 的母函数。
§ 1.5 n 维正态分布定义1.13 若n 维随机变量),,,(21n X X X X =的联合概率密度为})()(21exp{)2(1),,,()(12/2/21Tn n n a x B a x Bx x x f x f ---==-π 式中，),,,(21n a a a a =是常向量，n n ij b B ⨯=)(是正定矩阵，则称X 为n 维正态随机变量或服从n 维正态分布，记作),(~B a N X 。
可以证明，若),(~B a N X ，则X 的特征函数为}21exp{),,,()(21t iB t ia t t t g t g n '-'==为了应用的方便，下面，我们不加证明地给出常用的几个结论。
性质1 若),(~B a N X 则n l b B a X E kl X X k k l k ,,2,1,,)( ===。
性质2 设),(~B a N X ，XA Y =，若BA A '正定，则),(~BA A aA N Y '。
即正态随机变量的线性变换仍为正态随机变量。
性质3 设),,,(4321X X X X X =是四维正态随机变量，4,3,2,1,0)(==k X E k ，则)()()()()()()(3241423143214321X X E X X E X X E X X E X X E X X E X X X X E ++=§ 1.6 条件期望给定Y=y 时，X 的条件期望定义为⎰⎰===dx y x xf y x xdF y Y X E )|()|()|(由此可见除了概率是关于事件｛Y=y ｝的条件概率以外，现在的定义与无条件的情况完全一样。
E(X|Y=y)是y 的函数，y 是Y 的一个可能值。
若在已知Y 的条件下，全面地考虑X 的均值，需要以Y 代替y ，E(X|Y)是随机变量Y 的函数，也是随机变量，称为 X 在 Y 下的条件期望。
条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。
性质 若随机变量X 与Y 的期望存在，则⎰===)()|()]|([)(y dF y Y X E Y X E E X E Y --------(1)如果Y 是离散型随机变量，则上式为∑===yy Y P y Y X E X E }{)|()(如果Y 是连续型，具有概率密度f(x)，则（1）式为⎰+∞∞-==dy y f y Y X E X E )()|()(第二章 随机过程的概念与基本类型§2.1 随机过程的基本概念定义2.1 设（P F ，，Ω）是概率空间,T 是给定的参数集,若对每个t ∈T ，有一个随机变量X (t ,e )与之对应，则称随机变量族}),,({T t e t X ∈是（P F ，，Ω）的随机过程,简记为随机过程}),({T t t X ∈。
T 称为参数集，通常表示时间。
通常将随机过程}),,({T t e t X ∈解释为一个物理系统。
X(t)表示在时刻t 所处的状态。
X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I 。
从数学的观点来说，随机过程}),,({T t e t X ∈是定义在T ×Ω上的二元函数。
对固定的t ，X (t ,e )是定义在T 上的普通函数，称为随机过程}),,({T t e t X ∈的一个样本函数或轨道，样本函数的全体称为样本函数的空间。
§ 2.2 随机过程的函数特征t X ={X (t ),t ∈T }的有限维分布函数族。
有限维特征函数族：}1,,,,:),,,({2121,,1≥∈=Φn T t t t g n n t t n θθθ其中：)})((ex p{),,,(121,,1k nk k n t t t x i E g n ∑==θθθθ定义2.3 设t X ={X (t ),t ∈T }的均值函数def t m X )()]([t X E ，T t ∈。
二阶矩过程，协方差函数：T ,)]()([),()(2∈-=t t m t X E def t t B t D X X X相关函数： =),(t s R X )]()([t X s X E定义2.4 设{X (t ),t ∈T }，{Y (t ),t ∈T }是两个二阶矩过程，互协方差函数，互相关函数。
§ 2.3 复随机过程定义 2.5 设},{T t X t ∈，},{T t Y t ∈是取实数值的两个随机过程，若对任意T t ∈ t t t iY X Z +=，其中 1-=i ，则称},{T t Z t ∈为复随机过程．定理 2.2 复随机过程},{T t X t ∈的协方差函数 ),(t s B 具有性质 （1）对称性：),(),(s t B t s B =；（2）非负定性§2.4 几种重要的随机过程一、正交增量过程定义2.6 设(){}T ∈X t t ,是零均值的二阶矩过程，若对任意的,4321T ∈<≤<t t t t 有公式()()[]()()[]03412=X -X X -X E t t t t ，则称()t X 正交增量过程。
()()()()t s t s R t s ,min ,,2X X X ==B σ二、独立增量过程定义2.7 设(){}T ∈X t t ,是随机过程，若对任意的正整数n 和,21T ∈<<<n t t t 随机变量()()()()()()12312,,,-X -X X -X X -X n n t t t t t t 是互相独立的，则称(){}T ∈X t t ,是独立增量过程，又称可加过程。
定义 2.8 设(){}T ∈X t t ,是平稳独立增量过程，若对任意,t s <随机变量()()s t X -X 的分布仅依赖于s t -，则称(){}T ∈X t t ,是平稳独立增量过程。
三、马尔可夫过程定义2.9设(){}T t t X ∈,为随机过程，若对任意正整数n 及n t t t << ,21,()()0,,)(1111>==--n n x t X x t X P ，且其条件分布()(){}1111,,|)(--===n n n n x t X x t X x t X P =(){}11|)(--==n n n n x t X x t X P ，(2.6)则称(){}T t t X ∈,为马尔可夫过程。
四、正态过程和维纳过程定义 2.10设(){}T t t X ∈,是随机过程，若对任意正整数n 和T t t t ∈∈ ,,21,(()() ,,21t X t X ,()n t X )是n 维正态随机变量，则称(){}T t t X ∈,是正态过程或高斯过程。
定义 2.11设{}∞<<-∞t t W ),(为随机过程，如果 （1）0)0(=W ；（2）它是独立、平稳增量过程； （3）对t s ,∀，增量()0,||,0~)()(22>--σσs t N s W t W ，则称{}∞<<-∞t t W ),(为维纳过程，也称布朗运动过程。