高等概率论

高等概率论作业一，高等概率论的发展历程现代概率论的研究方向和研究方法已经获得了极大发展，特别是近几十年，概率论和其他学科逐渐交叉结合，形成了一些新的学科分支和增长点，并且在科学研究和实际应用中都取得了突出成果。

这些成果的取得，都源于概率论公理化体系的建立。

概率论的发展历史一般分为四个时期：（1）萌芽时期（1653年之前），以统计数据为主要手段，分析贸易、保险、赌博、占卜等人类实际生活领域中的一些问题。

（2）古典概率论时期（1654-1811年），用代数及组合方法为研究手段，以研究离散型随机变量为主。

（3）分析概率论时期（1812-1932），用微分方程、特征函数等分析方法为研究手段，以研究连续型随机变量为主。

（4）现代概率论时期（1933年至今），以集合论、测度论的思想方法为主要理论基础，研究方向呈现多元化。

20世纪30年代以来，因为概率论公理化体系的建立以及科学研究中的一些实际问题的推动，概率论得到了快速的发展，不断取得理论上的新突破。

目前主要研究方向有极限理论、独立增量过程、马尔科夫过程、平稳过程和时间序列、鞅和随机微分方程、点过程等。

（1）极限理论极限理论主要研究与随机变量序列或随机过程序列的收敛性相关的问题。

20世纪30年代以后，随机变量序列的极限理论（主要是中心极限定理）的研究，是将独立序列情形的结果推广到鞅差序列等情形，以及研究收敛速度问题。

近年来，由于统计物理学的需要，人们开始研究强相依随机变量序列的非中心极限定理。

自1951年唐斯克提出不变原理（随机过程的极限定理）后，有关随机过程序列的弱收敛的研究成了极限理论的中心课题，普罗霍洛夫及斯科罗霍德在这方面做出了最主要的贡献。

1964年斯特拉森的工作出现后，引起了有关随机过程序列的强收敛的研究，这就是强不变原理。

近年来，鞅论方法已渗透到这一领域，使许多经典结果的证明得到简化和统一处理，并且还导致了一些新的结果。

（2）独立增量过程人们最早知道的独立增量过程是在物理现象中观察到的布朗运动和泊松运动，一般的独立增量过程的研究，归功于莱维，它在20世纪40年代已臻成熟。

在这些研究中，包含了许多重要的方法和概念，概率论的许多近代研究课题都直接或间接地受其启发与影响。

（3）马尔科夫过程在实际中遇到的很多随机现象有如下的共同特性：它的未来的演变，在已知它目前状态的条件下与以往的状况无关。

描述这种随时间推进的随机现象的演变模型就是马尔科夫过程。

20世纪50年代以前，研究马尔科夫过程的主要工具是微分方程和半群理论（即分析方法）。

1936年前后就凯斯探讨马尔科夫过程的轨道性质，直到把微分方程和半群理论的分析方法同研究轨道性质的概率方法结合运用，才使这方面的研究工作进一步深化，并形成了对轨道分析必不可少的强马尔科夫性概念。

1942年，伊藤用他创立的随机积分和随机微分方程理论来研究一类特殊而重要的马尔科夫过程——扩散过程，开辟了研究马尔科夫过程的又一重要途径。

近年来，鞅论方法也已渗透到马尔科夫过程的研究中，它与随机微分方法结合在一起，已成为目前除了多维扩散过程的工具。

此外，马尔科夫过程与分析学中的位势论有密切的联系。

对马尔科夫过程的研究，推动了位势理论的发展，并为研究偏微分方程提供了概率论的方法。

近十多年发展起来的吉布斯机场和无穷粒子随机系统，是由于统计物理学的需要而提出的。

（4）平稳过程和时间序列许多自然的和生产过程中的随机现象表现出某种平稳性。

一种平稳性是过程在任意一些时刻上的联合概率分布随时间推移不变，这种平稳性称为严平稳。

严平稳过程的研究与遍历理论有密切的联系。

如果上述对概率分布的要求放宽为仅对二阶相关矩的要求，即过程在任意两时刻上的协方差随时间推移不变，则称这种平稳性为宽平稳。

关于宽平稳过程的研究，辛钦、柯尔莫哥洛夫和维纳等人运用傅里叶分析和泛函分析的工具，在40年代已经找出了过程的相关函数及过程本身的谱分解式，并且较完美地解决了有应用意义的预测问题。

许多应用问题还要去根据观测数据去建立这些数据所来自的随机过程的模型。

为此产生了时间序列分析这一课题，提出了宽平稳序列的自回归滑动平均模型以及一些非线性模型。

（5）鞅和随机微分方程鞅是另一类重要的随机过程。

从20世纪30年代起，莱维等人就开始研究鞅序列，把它作为独立随机变量序列的部分和的推广。

40年代到50年代初，杜布对鞅进行了系统的研究，得到有名的鞅不等式、停止定理和收敛定理等重要结果。

1962年。

P.A.迈耶解决了杜布提出的连续时间的上鞅分解为鞅及增长之差的问题。

在解决这个问题的过程中，出现了很多新鲜而深刻的概念，式鞅和随机过程一般理论的内容大大丰富起来。

鞅的研究丰富了概率论的内容，并引起人们用它所提供的新方法新概念对概率论中许多经典的内容重新审议，把以往认为是复杂的东西纳入鞅论的框架而更加简化。

此外，利用上鞅的分解定理，可以把伊藤清的对布朗运动的随机积分方程的研究也随之发展。

随机微分方程理论不仅可以用来研究马尔科夫过程，它还是解决滤波问题的必要工具。

最近出现的流形上的随机微分方程又和微分几何及分析力学的研究发生了密切的联系。

鞅论还对本学科以外的位势理论、调和分析及复变函数论等提供了有用单位工具。

（6）点过程点过程是从所谓计数过程发展出来的，它们的特点是，可用落在不相重叠的集合的随机点数的联合概率分布来刻画整个过程的概率规律。

最基本的计数过程是泊松过程，1943年，C.帕尔姆将它作为最简单的输入流应用于研究电话业务问题；1955年，辛钦又以严密的数学观点作了整理和发展。

在60年代以前，点过程的研究主要限于泊松过程及其推广的过程。

以后，由于大量实际问题的需要以及随机测度论和现代鞅论的推动，进一步把实轴上的点过程（即计数过程）推广到一般的可分完备度量空间上，在内容和方法上都有根本性的进展。

许多服务系统，如电话通信，船舶装卸，病人候诊，红绿灯交换，存货控制，水库调度，购货排队等，都可用点过程来描述。

下面介绍一下高级概率论的一些相关知识点：二，高等概率论的相关知识点一、集族与测度：(Ω,Φ,μ)---------测度空间①Ω---------------非空集合-------------研究对象全体②Φ----------------σ代数（域）-------由Ω的一些子集组成σ代数对集合的一切有限次或可数次运算封闭Φ{,}φ=Ω-------------平凡的σ代数③μ：Φ+→R （[0,1]）集函数（是Ω的元素的一种测度或度量） 例：Ω=[0,1].（a,b]⊂Ω,((,])a b b a μ- ,I 是Ω的子集，I 为区间，()I μ=I 的长度，Φ=B （[0,1]）=()σε--------包含ε的最小σ代数，[0,1]ε=中的一切开集测度的唯一扩张定理,{:()}n x x ωξω∀∈≤∈R Φ 称ξ是可测函数({})a b μξξ<≤---的分布①..()lim ()n x a e μξωμ→∞⎧⎪⎨⎪⎩几乎处处收敛依测度收敛依分布收敛（弱收敛） ②ξ是一维可测函数，积分ξωμωΩ⎰（）d ()-------数学期望积分的收敛性---------Lebesgue 控制收敛定理lim ()?lim ()n n x x d d ξωμξωμ→∞→∞ΩΩ=⎰⎰ Fatou 引理，Levy 引理记号、述语：大写英文字母表示Ω的子集（事件）花写英文字母表示Ω的子集组成的集合类（集类，集族）AαBβXχ∆δEεΦφΓγHηIιϑϕKκΛλMμNνOο∏πΘθPρ∑σTτYυςϖΩωΞξψψZζ某集类对某种运算封闭：如A 对可数并封闭指：对∀A1，A2，…A n ∈A ，则1i ∞= A i ∈A二、集族与测度1. 集合序列的极限设1,2,...,,...,A A An ⊂Ω111lim sup {:}{,,...,}x K k k K k n k An n An X A A Anωω→∞∞+=∞∞==∈Ω∃∈== 可数个不同的，使至少一个发生111lim inf {:}{,,...,}x k k k k n k An n An A A Anωω→∞∞+=∞∞==∈Ω∈== 除有限个以外，都发生关系：lim inf lim sup n n An An →∞→∞⊂ 如果lim inf lim sup n n An An →∞→∞=，称{}An 的极限存在，记为lim x An →∞特例：单调上升集合列：121,lim n n A A An An ∞→∞=⊂=单调下降集合列：121,lim n n A A An An →∞=⊃= 例：A,B 是Ω的两个子集，221,,1,2,n n A A A B n -=== ，则lim sup ,lim inf n n An A B An A B →∞→∞== 11((1),1(1))nn An n n =-+-，则lim sup [0,1],lim inf (0,1)n n An An →∞→∞== 11(,1)(0,1)2211(,1)(0,1)22n n n n An Bn =-↑=-+↓ 2几种常用集类的定义：①A 称为一个π类：如果A 对有限交封闭②∆称为一个λ类：如果：(a).ω∈ ∆;(b). ∆对真差封闭：若,A B ∈∆,且A B ⊂,则B A -∈∆（c ）∆对单调上升（下降）集合列的极限封闭③环A ：如果A 对有限并、差运算封闭（交：()A B A A B =-- ） ④代数Φ：如果Φ是环，且Ω∈Φ0（代数对一切有限次运算封闭） ⑤σ环A ：如果A 对可数并、差运算封闭（⇒可数交封闭，极限运算封闭）⑥σ代数（域）Φ：如果Φ是σ环，且Ω∈Φ（σ代数对一切可数次集合运算封闭）⑦单调族M ：如果M 对单调上升（下降）列的极限封闭，即：如果An ∈M ，且An ↑，则1n An ∞=∈ M如果An ∈M ，且An ↓，则1n An =∈ M代数、且又是单调族σ⇒代数π类、且又是λ类σ⇒代数A 是任意集类，分别称λ（）A ，σ（）A ，M （A ）是由A 生成的最小λ类，最小σ代数，最小单调类。

如：σ（）A 是A 生成的最小σ代数指： ①σ（）A 是σ代数，且σ⊃（）A A②如果Φ是σ∀代数，且Φ⊃A ，且σ⊂（）A F ⇒σσ⊃= 是代数（）F A F A F单调类定理的两种形式和证明方法：λπ-类方法：设C 是一个π类，D 是λ类，且⊂C D ，则：σ⊃（）D C 单调族方法：设0F 是一个代数，M 是一个单调族，且0⊃M F ，则σ⊃0（）M F推论：πλλσ==是类，（），则（）（）C D C C C0000σ==是代数，（），则（）（）F M M F M F F证明：λσ⊂（）（）C C ，显然（σλ （）是包含的类C C ） 只要证λσ⊃（）（）C C ，令λ=（）D C 如果D 对有限交封闭，则D 是一个σ代数C 11111.2.A \A A 3.A ,,B ,B B ,B ,lim B n n C C n k n k k k n n n k n k A A A ==∞→∞=Ω∈⎛⎫ ⎪∈Ω=∈ ⎪⎪∈==∈ ⎪ ⎪⎪ ⎪∴∈↑=∈ ⎪⎝⎭，D D D D D D D()σ∴⊃D C①A {B A B }A ∀∈=⊂Ω∈ 固定，令；C H D验证：A A A B,C B C C-B A C A-B A λ⊃∈⊂∈ 是类，且，，则（）=H H CH DA ∴⊃H D ,即对AB ,A B ∀∈∈∈ ，CD D②B B ={E :E B }∀∈⊂Ω∈ 固定，令D H D验证：B B B λλ⊃∴⊃=，且是类（）H C H H D C ，即B ,E B E ∀∈∀∈∈ ，D D D# 方法：实际中，要证明σ代数()σC 中集合（元素）具有某种性质（*），先证C 中元素具有性质（*），然后将定义类{:*}A A =∈Ω具有性质（）D 。