《现代概率论》
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
空间: Ω 元素: ω 集合: A,B,C,
具体, Ω = {ωi,i=1,, 2 ...} , A=
2 , j } , B= {ω ,h=1,, 2 ,h } {ω ,j=1,,
j n
h n
1. 关系
1) contain or imply A ⊂ B ( B ⊃ A ) ⇔ if ∀ω ∈ A then 是的元素.注: ∅ ⊂ A ⊂ Ω . 2) equality A = B ⇔ A ⊂ B and B ⊂ A .
四、Integration and Expectation
五、随机变量及其收敛性
测空间上的测度 第三章 Independence Random Variables Series 在用测度论术语规定概率空间的基础上,本章以独立性为前提展开各种问题
第 1 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
本讲义的符号标识
随机事件: A B C 或 随机变量: X 或 X i 不可能事件: φ
Ai Bi Ci 或 A 或 Ac
指标集: I 实数集: R
概率: P ( A)
P( Ai )
广义实数集: R
可测空间: (Ω, F ) 或 (Ωi , Fi )
概率测度空间: (Ω, F , P) 或 (Ωi , Fi , P i) 样本空间: Ω 样本点: ω 或
n →∞
n →∞ n →∞
n →∞ n →∞
Borel 集是所有开集、闭集的集合. 区间 (a, b) , [a, b] , (a, b] , [a, b) 的所有运算构成一个 Borel 集(Borel set)
第一章
可测空间 Measurable Space
一、集与集类(系) set and set class
ωi 事件域: σ − 代数
测度: μ
ν p f
M N O P
集类或集合类: P (Ω) A
B C D E F G H I
J
K L
Q R S T U V W X Y
Z
第 2 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
附:上确界与下确界(Supremum and Infimum)不同情形的定义
n →∞ j =1 k = j
∞
∞
= {ω | ω属于无穷多个X n } = {ω | ∀j ∈ N , ∃k ≥ j , s.t. ω ∈ X k }
⎞ = lim sup X n = inf ⎛ ⎜ sup X m ⎟ n n →∞ ⎝ m≥ n ⎠
上极限是上确界的下确界
= { An i.o.} 若 An 随机事件:上极限发生当且仅当有无穷多个事件发生
第 3 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
《概率论》 《测度论》与《现代概率论》 单调 R.V.序列 { X n , n ≥ 1}
① ② If X 1 < X 2 < If X 1 > X 2 >
< Xn < > Xn >
< ∞ then lim X n = sup{ X n }
《数学分析》 上确界 supremum
设 E 是非空数集,若 ∃β ∈ R ,且 1) ∀x ∈ E ,有 x ≤ β ; 2) ∀ε > 0 , ∃x0 ∈ E ,有 β − ε ≤ x0 ; 则称 β 是 E 的上确界. 记为 β = sup E 注:① ②
β 是 E 的上界;
小于 β 的任意数 β − ε 都不是 E 的上界,即上确界 β 是数集 E 最小的上界.
n →∞ n m≥n
(
)
下极限是下确界的上确界
第 4 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
若 An 为随机事件:下极限发生当且仅当从某个事件之后的所有事件发生 注: lim X n < ∞ or ∃ ⇔ lim X n < ∞ or ∃ and lim X n < ∞ or ∃ and lim X n = lim X n
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
现代概率论(Modern Probability Theory)
教 材
汪嘉冈编著 现代概率论基础(第二版) 上海 复旦大学出版社 2006.6 Bing-Yi JING. Advanced Probability Theory. July,2012
参考书 [1] Richard Durrett Duxbury Press
[3] 夏道行等.实变函数论与泛函分析(上) 2rd 高教出版社 2011
[4] 严加安著 测度论讲义(第二版) 北京 科学出版社 2008.8 [5] 严士健等著 概率论基础(第二版) 北京 科学出版社 2009.8 [6] 胡尧 《测度论》笔记(2004 年北大学习) 授课老师 李志阐教授 [7] 胡尧 《高等概率论》笔记(2004 年北大学习) 授课老师 刘勇教授
②If X 1 ⊃ X 2 ⊃
then lim X n =
n →∞
∩X
n =1
n
= inf{ X n } 包含所有 X n 的最大集合
n
一般随机变量序列(Random Variable series)或集合类序列(Set Class Sequence) 上极限
lim X n = ∩∪ X k = {ω | ω ∈ X n , 对无穷多个n成立}
Examples 1
⎧ n ⎫ sup ⎨ |n ∈ N ⎬ = 1 ⎩ n +1 ⎭
sup {1, 2,3, 4} = 4
⎧ n ⎫ 1 inf ⎨ |n ∈ N ⎬ = ⎩ n +1 ⎭ 2
inf {1, 2,3, 4} = 1
2 3
sup(−∞, b) = b
inf(a, +∞) = a
确界定理: 非空数集 E 上有上(下)界,则数集 E 上存在唯一的上(下)确界.
四、Stopping Time and Wald's Equation 第四章 Conditional Expectation and Martingales Conditional Expectation and Martingales 成为随机过程与数理统计中不可缺 少的概念,是随机过程和数理统计研究中的重要工具. 其内容主要包括 一、广义测度 定理及应用 第五章 Central Limit Theorems 研究一类 R.V.的分布规律, 它由许多独立 R.V.的和组成, 组成这个和的每一 个 R.V.都非常地“小”. 更确切地说,研究由项数越来越多的独立 R.V.的和组成 的序列的极限分布律,即 CLT 问题. 其主要讨论 一、Characteristic Function 四、CLT 一般结果简介 二、问题的提出 三、CLT-具有有界方差情形 二、条件期望 三、鞅的定义与基本不等式 四、鞅的收敛
i∈I
⇒
Ai A j =φ
∪A
i∈I
i
A ∪ B = A+B 不交并
ω ∈ ∪ Ai
i∈I
⇒
∪ Ai ==== ∑ Ai (测度空间具有可加性)
i∈I i∈I
⇔ ∃i 0 ∈ I,s.t.ω ∈ A i0
即
∪ A 由 {A ,i ∈ I} 中各 A 的元素全体构成.
i
i
i
i∈I
3)difference
主讲内容 第一章 Measurable Space
本章可以说是没有概率的概率论, 主要介绍可测空间中不依赖于概率的各种 性质. 主要内容包括 一、集与集类 二、Monotone Class Theorem 三、可测空间与乘积可测空间
四、可测映射与 R.V. 第二章 Measures and Integration 在可测空间引进测度后介绍概率论的各种基本概念. 主要内容有 一、测度与测度空间 度 二、外测度与测度的扩张 三、Lebesgue-Stieltjes 测 六、乘积可
⇒
4. 集序列与极限
集序列 {A n,n ≥ 1} 上极限:
lim A n = lim sup A n = {ω|ω ∈ A n,对无穷多个n成立}
n →∞ n →∞
(定性描述)
= ω|∀m,∃n (ω ) >m,ω ∈ A n (ω ) = ∩∪ A k
A\B (差) 特别 Ω \B=Bc =B (余集 complement)
A ∩ A c =φ
A+A c =Ω
A-B=ABc
AΔB= ( A\B ) ∪ ( B\A )
Symmetric difference
约定:if 指标集 I= {i} =φ 即空集,then
∩ A =φ
i i∈I
and
∪ A =φ
∪ A =∑ (A \ ∪ A )
j i j j=1 i=1 j=1
n
n
i-1
5) De Morgan 法则
C n ⎫ ⎛ n ⎞ C ⎜ ∪ A i ⎟ =∩ A i ⎪ ⎝ i=1 ⎠ i=1 ⎪ ⎬ C n ⎛ n ⎞ C⎪ ⎜ ∩ A i ⎟ =∪ A i ⎪ ⎝ i=1 ⎠ i=1 ⎭ C ⎧∞ ⎛ ∞ C⎞ ⎪∩ A n = ⎜ ∪ A n ⎟ ⎪ n=1 ⎝ n=1 ⎠ ⎨ C ⎛ ∞ C⎞ ⎪∞ A = A ⎪∪ n ⎜ ∩ n ⎟ ⎝ n=1 ⎠ ⎩ n=1
iΒιβλιοθήκη Baiduo. :infinitely often
下极限
lim X n = ∪∩ X k = {ω | ω ∉ X n , 只对有限个n成立}
n →∞ j =1 k = j
∞
∞
= {ω | ω至多不属于有限多个X n } = {ω | ∃j0 ∈ N , ∀k ≥ j0 , s.t. ω ∈ X k }
= lim inf X n = sup inf X m
i i∈I
第 5 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
3.性质
1) 交换 2) 结合 3) 分配
A ∪ B=B ∪ A A ∩ B=B ∩ A
( A ∪ B ) ∪ C=A ∪ ( B ∪ C ) ( A ∪ B ) ∩ C= ( A ∩ C ) ∪ ( B ∩ C ) ( A ∩ B ) ∪ C= ( A ∪ C ) ∩ ( B ∪ C ) ( A\B ) C= ( AC ) \ ( BC )
[2]
Probability: Theory and Examples (Second Edition) 1996/2012
Kai Lai Chung. A Course in Probability Theory, (Third Edition) China Machine
Press. 2010.
贵州大学 胡尧
的讨论. 独立性是概率论中最早引入的概念之一. 独立随机变量序列的性质是讨 论最早、结果最多的一个方面. 虽然以后的讨论并不局限于独立随机变量序列, 但对一般随机变量序列的讨论, 从方法到结果都可以从独立随机变量序列的讨论 中得到不少启发和借鉴. 本章主要包括 一、Independence and 0-1 Law 二、独立项级数 三、Laws of Large Numbers
n →∞ n
> −∞ then lim X n = inf{ X n }
n →∞ n
若为单调类 { X n , n ≥ 1} 为集合
①If X 1 ⊂ X 2 ⊂
⊂ Xn ⊂ ⊃ Xn ⊃
then lim X n =
n →∞
∪X
n =1 ∞
∞
n
= sup{ X n } 包含所有 X n 的最小集合
n
4)
并化为不交并
A ∪ B=A+ ( B\A ) =A+ ( B\AB ) =A+A C B
B=AB+A C B
∪A
n=1
∞
n
=A1 +A 2 \A1 +A 3 \ ( A1 ∪ A 2 ) +
C C =A1 +A 2 A1 +A 3A C 2 A1 +
汪 P3 首次进入分解:给定 { Ai ,1 ≤ i ≤ n} ,则
ω ∈ B —— A 中元素都 B
A 与 B 由相同的元素构成
2. 运算
1)intersection (and combination ) A ∩ B = AB (交) , AB = φ
( A与B不交 )
==⇒
2)union (or combination) A ∪ B
AB=φ
推广
ω ∈ ∩ Ai ⇔ ∀i ∈ I s.t. ω ∈ A i
下确界 infimum
设 E 是非空数集,若 ∃α ∈ R ,且 1) ∀x ∈ E ,有 α ≤ x ; 2) ∀ε > 0 , ∃x0 ∈ E ,有 x0 < α + ε ; 则称 α 是 E 的下确界. 记为 α = inf E 注:① α 是 E 的下界; ② 大于 α 的任意数 α + ε 都不是 E 的下界,即下确界 α 是数集 E 最大的下界.
具体, Ω = {ωi,i=1,, 2 ...} , A=
2 , j } , B= {ω ,h=1,, 2 ,h } {ω ,j=1,,
j n
h n
1. 关系
1) contain or imply A ⊂ B ( B ⊃ A ) ⇔ if ∀ω ∈ A then 是的元素.注: ∅ ⊂ A ⊂ Ω . 2) equality A = B ⇔ A ⊂ B and B ⊂ A .
四、Integration and Expectation
五、随机变量及其收敛性
测空间上的测度 第三章 Independence Random Variables Series 在用测度论术语规定概率空间的基础上,本章以独立性为前提展开各种问题
第 1 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
本讲义的符号标识
随机事件: A B C 或 随机变量: X 或 X i 不可能事件: φ
Ai Bi Ci 或 A 或 Ac
指标集: I 实数集: R
概率: P ( A)
P( Ai )
广义实数集: R
可测空间: (Ω, F ) 或 (Ωi , Fi )
概率测度空间: (Ω, F , P) 或 (Ωi , Fi , P i) 样本空间: Ω 样本点: ω 或
n →∞
n →∞ n →∞
n →∞ n →∞
Borel 集是所有开集、闭集的集合. 区间 (a, b) , [a, b] , (a, b] , [a, b) 的所有运算构成一个 Borel 集(Borel set)
第一章
可测空间 Measurable Space
一、集与集类(系) set and set class
ωi 事件域: σ − 代数
测度: μ
ν p f
M N O P
集类或集合类: P (Ω) A
B C D E F G H I
J
K L
Q R S T U V W X Y
Z
第 2 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
附:上确界与下确界(Supremum and Infimum)不同情形的定义
n →∞ j =1 k = j
∞
∞
= {ω | ω属于无穷多个X n } = {ω | ∀j ∈ N , ∃k ≥ j , s.t. ω ∈ X k }
⎞ = lim sup X n = inf ⎛ ⎜ sup X m ⎟ n n →∞ ⎝ m≥ n ⎠
上极限是上确界的下确界
= { An i.o.} 若 An 随机事件:上极限发生当且仅当有无穷多个事件发生
第 3 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
《概率论》 《测度论》与《现代概率论》 单调 R.V.序列 { X n , n ≥ 1}
① ② If X 1 < X 2 < If X 1 > X 2 >
< Xn < > Xn >
< ∞ then lim X n = sup{ X n }
《数学分析》 上确界 supremum
设 E 是非空数集,若 ∃β ∈ R ,且 1) ∀x ∈ E ,有 x ≤ β ; 2) ∀ε > 0 , ∃x0 ∈ E ,有 β − ε ≤ x0 ; 则称 β 是 E 的上确界. 记为 β = sup E 注:① ②
β 是 E 的上界;
小于 β 的任意数 β − ε 都不是 E 的上界,即上确界 β 是数集 E 最小的上界.
n →∞ n m≥n
(
)
下极限是下确界的上确界
第 4 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
若 An 为随机事件:下极限发生当且仅当从某个事件之后的所有事件发生 注: lim X n < ∞ or ∃ ⇔ lim X n < ∞ or ∃ and lim X n < ∞ or ∃ and lim X n = lim X n
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
现代概率论(Modern Probability Theory)
教 材
汪嘉冈编著 现代概率论基础(第二版) 上海 复旦大学出版社 2006.6 Bing-Yi JING. Advanced Probability Theory. July,2012
参考书 [1] Richard Durrett Duxbury Press
[3] 夏道行等.实变函数论与泛函分析(上) 2rd 高教出版社 2011
[4] 严加安著 测度论讲义(第二版) 北京 科学出版社 2008.8 [5] 严士健等著 概率论基础(第二版) 北京 科学出版社 2009.8 [6] 胡尧 《测度论》笔记(2004 年北大学习) 授课老师 李志阐教授 [7] 胡尧 《高等概率论》笔记(2004 年北大学习) 授课老师 刘勇教授
②If X 1 ⊃ X 2 ⊃
then lim X n =
n →∞
∩X
n =1
n
= inf{ X n } 包含所有 X n 的最大集合
n
一般随机变量序列(Random Variable series)或集合类序列(Set Class Sequence) 上极限
lim X n = ∩∪ X k = {ω | ω ∈ X n , 对无穷多个n成立}
Examples 1
⎧ n ⎫ sup ⎨ |n ∈ N ⎬ = 1 ⎩ n +1 ⎭
sup {1, 2,3, 4} = 4
⎧ n ⎫ 1 inf ⎨ |n ∈ N ⎬ = ⎩ n +1 ⎭ 2
inf {1, 2,3, 4} = 1
2 3
sup(−∞, b) = b
inf(a, +∞) = a
确界定理: 非空数集 E 上有上(下)界,则数集 E 上存在唯一的上(下)确界.
四、Stopping Time and Wald's Equation 第四章 Conditional Expectation and Martingales Conditional Expectation and Martingales 成为随机过程与数理统计中不可缺 少的概念,是随机过程和数理统计研究中的重要工具. 其内容主要包括 一、广义测度 定理及应用 第五章 Central Limit Theorems 研究一类 R.V.的分布规律, 它由许多独立 R.V.的和组成, 组成这个和的每一 个 R.V.都非常地“小”. 更确切地说,研究由项数越来越多的独立 R.V.的和组成 的序列的极限分布律,即 CLT 问题. 其主要讨论 一、Characteristic Function 四、CLT 一般结果简介 二、问题的提出 三、CLT-具有有界方差情形 二、条件期望 三、鞅的定义与基本不等式 四、鞅的收敛
i∈I
⇒
Ai A j =φ
∪A
i∈I
i
A ∪ B = A+B 不交并
ω ∈ ∪ Ai
i∈I
⇒
∪ Ai ==== ∑ Ai (测度空间具有可加性)
i∈I i∈I
⇔ ∃i 0 ∈ I,s.t.ω ∈ A i0
即
∪ A 由 {A ,i ∈ I} 中各 A 的元素全体构成.
i
i
i
i∈I
3)difference
主讲内容 第一章 Measurable Space
本章可以说是没有概率的概率论, 主要介绍可测空间中不依赖于概率的各种 性质. 主要内容包括 一、集与集类 二、Monotone Class Theorem 三、可测空间与乘积可测空间
四、可测映射与 R.V. 第二章 Measures and Integration 在可测空间引进测度后介绍概率论的各种基本概念. 主要内容有 一、测度与测度空间 度 二、外测度与测度的扩张 三、Lebesgue-Stieltjes 测 六、乘积可
⇒
4. 集序列与极限
集序列 {A n,n ≥ 1} 上极限:
lim A n = lim sup A n = {ω|ω ∈ A n,对无穷多个n成立}
n →∞ n →∞
(定性描述)
= ω|∀m,∃n (ω ) >m,ω ∈ A n (ω ) = ∩∪ A k
A\B (差) 特别 Ω \B=Bc =B (余集 complement)
A ∩ A c =φ
A+A c =Ω
A-B=ABc
AΔB= ( A\B ) ∪ ( B\A )
Symmetric difference
约定:if 指标集 I= {i} =φ 即空集,then
∩ A =φ
i i∈I
and
∪ A =φ
∪ A =∑ (A \ ∪ A )
j i j j=1 i=1 j=1
n
n
i-1
5) De Morgan 法则
C n ⎫ ⎛ n ⎞ C ⎜ ∪ A i ⎟ =∩ A i ⎪ ⎝ i=1 ⎠ i=1 ⎪ ⎬ C n ⎛ n ⎞ C⎪ ⎜ ∩ A i ⎟ =∪ A i ⎪ ⎝ i=1 ⎠ i=1 ⎭ C ⎧∞ ⎛ ∞ C⎞ ⎪∩ A n = ⎜ ∪ A n ⎟ ⎪ n=1 ⎝ n=1 ⎠ ⎨ C ⎛ ∞ C⎞ ⎪∞ A = A ⎪∪ n ⎜ ∩ n ⎟ ⎝ n=1 ⎠ ⎩ n=1
iΒιβλιοθήκη Baiduo. :infinitely often
下极限
lim X n = ∪∩ X k = {ω | ω ∉ X n , 只对有限个n成立}
n →∞ j =1 k = j
∞
∞
= {ω | ω至多不属于有限多个X n } = {ω | ∃j0 ∈ N , ∀k ≥ j0 , s.t. ω ∈ X k }
= lim inf X n = sup inf X m
i i∈I
第 5 页 共 30 页
《现代概率论》讲义稿
第一章 可测空间
贵州大学 胡尧
3.性质
1) 交换 2) 结合 3) 分配
A ∪ B=B ∪ A A ∩ B=B ∩ A
( A ∪ B ) ∪ C=A ∪ ( B ∪ C ) ( A ∪ B ) ∩ C= ( A ∩ C ) ∪ ( B ∩ C ) ( A ∩ B ) ∪ C= ( A ∪ C ) ∩ ( B ∪ C ) ( A\B ) C= ( AC ) \ ( BC )
[2]
Probability: Theory and Examples (Second Edition) 1996/2012
Kai Lai Chung. A Course in Probability Theory, (Third Edition) China Machine
Press. 2010.
贵州大学 胡尧
的讨论. 独立性是概率论中最早引入的概念之一. 独立随机变量序列的性质是讨 论最早、结果最多的一个方面. 虽然以后的讨论并不局限于独立随机变量序列, 但对一般随机变量序列的讨论, 从方法到结果都可以从独立随机变量序列的讨论 中得到不少启发和借鉴. 本章主要包括 一、Independence and 0-1 Law 二、独立项级数 三、Laws of Large Numbers
n →∞ n
> −∞ then lim X n = inf{ X n }
n →∞ n
若为单调类 { X n , n ≥ 1} 为集合
①If X 1 ⊂ X 2 ⊂
⊂ Xn ⊂ ⊃ Xn ⊃
then lim X n =
n →∞
∪X
n =1 ∞
∞
n
= sup{ X n } 包含所有 X n 的最小集合
n
4)
并化为不交并
A ∪ B=A+ ( B\A ) =A+ ( B\AB ) =A+A C B
B=AB+A C B
∪A
n=1
∞
n
=A1 +A 2 \A1 +A 3 \ ( A1 ∪ A 2 ) +
C C =A1 +A 2 A1 +A 3A C 2 A1 +
汪 P3 首次进入分解:给定 { Ai ,1 ≤ i ≤ n} ,则
ω ∈ B —— A 中元素都 B
A 与 B 由相同的元素构成
2. 运算
1)intersection (and combination ) A ∩ B = AB (交) , AB = φ
( A与B不交 )
==⇒
2)union (or combination) A ∪ B
AB=φ
推广
ω ∈ ∩ Ai ⇔ ∀i ∈ I s.t. ω ∈ A i
下确界 infimum
设 E 是非空数集,若 ∃α ∈ R ,且 1) ∀x ∈ E ,有 α ≤ x ; 2) ∀ε > 0 , ∃x0 ∈ E ,有 x0 < α + ε ; 则称 α 是 E 的下确界. 记为 α = inf E 注:① α 是 E 的下界; ② 大于 α 的任意数 α + ε 都不是 E 的下界,即下确界 α 是数集 E 最大的下界.