随机分析课题解答

全概率公式
B1 AB1 A AB2 B2
n n
UB
i =1
n
i
=Ω
Βιβλιοθήκη Baidu
Bn ABn
Bi B j = Φ
（i = 1,L , n）
A = U ABi
i =1 n
Bi是样本空间的划分
Ω
i =1
( ABi )( AB j ) = Φ
P( A) = ∑ P( ABi ) = ∑ P( Bi )P( A | Bi )
课程要求
• 授课时间：共17周 • 授课内容： 随机过程（约11周）+时间序列分析（约5 周） • 遵守上课纪律，不迟到，不旷课； • 考试形式：开卷考试
课程教材
随机过程（第2版） 国防工业出版社 李裕奇编
课程辅导教材
随机过程习题解答 国防工业出版社 李裕奇编
概率论的不足： 1、一般只考虑静态有限个随机现象，对动 态现象考察不足； 2、常考虑变量相互独立，但实际中大量随 机变量相互关联。 考虑到上述问题产生了随机过程这门学科 它被誉为概率论的“动力学”部分 概率论研究对象：随机现象 随机过程研究对象：时间演变的随机现象
x →∞
(4) lim+ F ( x ) = F ( x 0 ), ( −∞ < x 0 < ∞ ).
x → x0
即任一分布函数处处右连续. 如果一个函数具有上述性质，则一定是某个r.v X 的分布函数. 也就是说，性质(1)--(4)是鉴别一个函 数是否是某r.v的分布函数的充分必要条件.
离散型随机变量的分布律
概率的定义
设E是随机试验, Ω是它的样本空间. 对于E的 每一事件A赋予一个实数, 记为P( A), 称为事件 A的概率. 如果集合函数P(⋅)满足下列条件 :
(1) 有界性 : 对于每一个事件 A, 有 0 ≤ P(A) ≤1;
(2) 规范性 : 对于必然事件 Ω, 有 P(Ω) =1;
事件 ,即对于 i ≠ j , Ai A j = ∅ , i , j = 1, 2,L , 则有 P( A1 U A2 UL) = P( A1 ) + P( A2 ) + L
一维随机变量
密 度 函 数 连 续 型 随机变量 均 匀 分 布 指 数 分 布 正 态 分 布 分 布 函 数 分 布 律 离 散 型 随机变量 两 点 分 布 二 项 分 布 泊 松 分 布
随 机 变 量
随机变量 的函数的 分 布
定 义
随机变量及其分布函数
随机变量 ( random variable ) 定义 设 是试验E的样本空间, 若
i =1
随机事件体F的任意元素A称为随机事件； 仅含一个样本点的事件称为基本事件； 样本空间Ω和F的二元体(Ω,F)称为可测空间。
概率的公理化定义与性质
1933年 , 苏联数学家柯尔莫哥洛夫提出了概率论 的公理化结构 ,给出了概率的严格定义 ,使概率论有了 迅速的发展. 历史上概率的三次定义 ① 古典定义 ② 统计定义 ③ 公理化定义 概率的最初定义 基于频率的定义 1930年后由前 苏联数学家柯尔莫哥洛夫给出
《随机过程》的内容
预备知识
基本概念 马尔可夫过程
泊松过程 均方微积分
随机 过程
时间序列分析 平稳过程
第一章 概率论
概率的数学理论是本课程的主要 基础，不清楚的同学请找一本这方面 的书自学，下面仅介绍本课程所必需 的概率论的基本定义和结果。
§1.1 概率空间(Ω,F,P)
随机试验
如果一个试验E满足下列条件： 1. 在相同的条件下可以重复进行； 2. 每次试验的结果不止一个，并且能事先明 确知道试验的所有结果； 3. 一次试验结束之前，不能确定哪一个结果 会出现 则称此试验为随机试验。
按一定法则
∀ω ∈ Ω
简记 r.v. X .
∃ 实数 X (ω )
则称 X ( ω) 为 上的 随机变量
r.v.一般用大写字母 X, Y , Z ,
或小写希腊字母 , , 表示.
设 X 是一个 r.v，称 分布函数的定义 ( −∞ < x < +∞ ) F ( x) = P ( X ≤ x) 为 X 的分布函数. 记作 X ～ F(x) 或 FX(x).
设 A, B , C 为事件 , 且 P ( AB ) > 0, 则有
P ( ABC ) = P ( A) P ( B A) P (C AB ).
推广 设 A1 , A2 ,L, An 为 n 个事件 , n ≥ 2,
且 P ( A1 A2 L An−1 ) > 0, 则有
P(A1A2 LAn ) = P(A1 )P(A2 A1 )P(A3 A1A2 ) L P(An A1A2 LAn−1 )
i =1
全概率公式
贝叶斯公式
定义 设Ω为试验E的样本空间, B为E的事件, P ( Ai ) > 0(i = 1, 2,L , n), 则 P ( Ai | B ) = P ( B | Ai ) P ( Ai )
n
A1 , A2 ,L , An为Ω的一个划分, 且P ( B ) > 0, , i = 1, 2,L , n.
x2 L xn L p2 L pn L
( 2) ∑ pk = 1.
k =1
∞
X
pk
x1 p1
x2 L xn L p2 L
pn L
两点分布
设随机变量 X 只可能取0与1两个值 , 它的分布律为
X pk
0 1− p
1 p
则称 X 服从 (0-1) 分布或两点分布.记为X~b(1,p)
分布律：P( X = k ) = p (1− p) , k = 0,1
样本空间、随机事件
随机试验E的每一个最简单的试验结果，称 为样本点，记为ω。全体样本点构成的集合， 称为样本空间，记为Ω。
样本空间Ω的子集组成的集类F，如果满足： 1. Ω∈F； 2. 若A∈F，则 A ∈F; ∞ 3. 若Ai∈F(i=1,2,…,)，则 U A i ∈ F ； 那么称F为随机事件体(域)或σ－代数。
如果将X看作数轴上随机点的坐标,则分布函数 F(x)的值就表示X落在区间[-∞, x]的概率.
———] |——>
X ≤x
x
F(x) 是r.v X取值不大于 x 的概率.
P{ x1<X ≤ x2 } = P{ X ≤ x2 } - P{ X ≤ x1 } = F(x2)-F(x1)
分布函数的性质
(1) 0 ≤ F ( x ) ≤ 1, x ∈ ( −∞ , ∞ ); ( 2) F ( x1 ) ≤ F ( x2 ), ( x1 < x2 ); (单调不减性) ( 3) F ( −∞ ) = lim F ( x ) = 0, F (∞ ) = lim F ( x ) = 1; x → −∞
定义
设 A, B 是两事件 , 如果满足等式 P ( AB ) = P ( A ) P ( B )
则称事件 A, B 相互独立 , 简称 A, B 独立 . 注. 1º 若 P ( A) > 0, 则
P ( B A) = P ( B)
说明
⇔ P( AB) = P ( A) P ( B)
事件 A 与 B 相互独立,是指事件 A 的 发生与事件 B 发生的概率无关.
称此为贝叶斯公式.
∑ P( B | A ) P( A )
j =1 j j
P( BAi ) P( B | Ai ) P( Ai ) 证明：P ( Ai B) = = P( B) P( B)
= P( Ai ) P( B | Ai )
∑ P( A ) P( B | A )
j =1 j j
n
i = 1,2,L , n .
随机过程整个学科的理论奠定人：柯尔莫哥洛夫
1903年4月25日－1987年10月20日，20世纪苏联最杰出的数学家，也 是20世纪世界上为数极少的几个最有影响的数学家之一。他的研究几 乎遍及数学的所有领域，做出许多开创性的贡献。 在随机数学方面 1924年他念大学四年级时就和当时的苏联数学家辛钦一起建立了关于 独立随机变量的三级数定理。 1928年他得到了随机变量序列服从大数定理的充要条件。 1931年发表了《概率论的解析方法》一文，奠定了马尔可夫过程论的 基础，马尔可夫过程在物理、化学、生物、工程技术和经济管理等学 科中有十分广泛的应用，仍然是当今世界数学研究的热点和重点之 一。 1932年得到了含二阶矩的随机变量具有无穷可分分布律的充要条件。 1934年出版了《概率论基本概念》一书，在世界上首次以测度论和积 分论为基础建立了概率论公理结论，这是一部具有划时代意义的巨 著，在科学史上写下原苏联数学最光辉的一页。 1935年提出了可逆对称马尔可夫过程概念及其特征所服从的充要条 件，这种过程成为统计物理、排队网络、模拟退火、人工神经网络、 蛋白质结构的重要模型。1936—1937年给出了可数状态马尔可夫链状 态分布。 1939年定义并得到了经验分布与理论分布最大偏差的统计量及其分布 函数。上世纪30～40年代他和辛钦一起发展了马尔可夫过程和平稳随 机过程论，并应用于大炮自动控制和工农业生产中，在卫国战争中立 了功。 1941年他得到了平稳随机过程的预测和内插公式。
国内外发展状况
• 在此基础上Box-Jenkins提出了更完善的时间序 列模型建立的理论和方法，使得时间序列在金融 领域应用得到了进一步的发展 • 在我国，时间序列分析从70年代末到80年代中后 期才得以深入研究和应用。近年来，金融领域中 特别是股票市场一直是时间序列分析预测方法应 用的热门领域， 系统地阐述了对求自回归移动 平均模型的识别、估计、检验及预测的原理和方 法。这些知识现在被称为经典时间学列分析方 法，是时域分析方法的核心内容。 •
概率的可列可加性
(3) 可列可加性 : 设 A1 , A2 ,L是两两互不相容的
古典概型
古典概型定义
如果一个随机试验E具有以下特征 1、试验的样本空间中仅含有有限个样本点； 2、每个样本点出现的可能性相同。 则称该随机试验为古典概型。
m A中样本点的个数 P(A) = = . n Ω中样本点总数
条件概率
• 起源： • 随机过程论是随机数学的一个重要分支，产生于20世纪初期， 其中研究对象虽然与概率论一样是随机现象，它主要研究是随 “时间”变化的“动态”的、“整体”的随机现象的统计规律性。 • 随机过程应用： • 天气预报、统计物理、天体物理、运筹决策、经济数学、安全 科学、人口理论、可靠性及计算机科学等很多领域都要经常用 到随机过程的理论来建立数学模型。 • 随机过程整个学科的理论奠定人：柯尔莫哥洛夫和杜布。 • 这一学科最早源于对物理学的研究，如吉布斯、玻尔兹曼、庞 加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等 人对布朗运动的开创性工作。
随机过程方面重要发展状况
• 1907年前后，马尔可夫研究了一系列有特定相依性的随机 变量，后人称之为马尔可夫链。 • 1923年维纳给出布朗运动的数学定义，直到今日这一过程 仍是重要的研究课题。 • 随机过程一般理论的研究通常认为开始于20世纪30年代。 • 1931年，柯尔莫哥洛夫发表了《概率论的解析方法》。 • 1934年A·辛饮发表了《平稳过程的相关理论》，这两篇著 作奠定了马尔可夫过程与平稳过程的理论基础。 • 1953年，杜布出版了名著《随机过程论》，系统且严格地 叙述了随机过程基本理论。 • 1970年，美国统计学家G.E.P.Box（博克斯）法和英国统 计学家G.M.Jenkins（詹尼斯）联合出版了《时间序列分 析：预测和控制》，对平稳时间序列数据，提出了自回归 滑动平均模型，以及一整套的建模、估计、检验和控制方 法。使时间序列分析广泛地运用成为可能。
定义 设离散型随机变量 X 所有可能取的值为 { X = xk } 的概率, 为 xk ( k = 1,2,L), X 取各个可能值的概率 , 即事件 P{ X = xk } = pk , k = 1,2,L. 称此式为离散型随机变 量 X 的分布律 . 说明 x1 X ~ p1
(1) pk ≥ 0, k = 1,2,L;
设 A, B 是两个事件 , 且 P ( B ) > 0, 称 P ( AB ) P( A | B) = P( B) 为在事件 B 发生的条件下事件 A 发生的 条件概率 .
A AB
B Ω
利用条件概率求积事件的概率即乘法公式 P( AB) = P( A)P( B A) (P( A) > 0)
P(AB) = P(B)P( A B) (P(B) > 0)