简单概率空间
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
简单概率空间
抛掷三次硬币，所有可能结果的集合为 样本空间
HHH, HHT, HTH, HTT,THH,THT,TTH,TTT
样本空间中的子集称为 事件 ，
" the first toss is a head" ;1 H HHH, HHT , HTH, HTT
事件的概率由事件中各元素的概率相加得到，
非负性 A 0
正则性 1
可加性（互不相容事件）
Ai Ai, if Ai Aj ,i j
事件、信息、 代数与概率空间
事件
在掷硬币实验中，共有多少个事件？
空集
样本空间
一个可能的结果 HHH,HHT,...
两个可能的结果 HHH, HHT,...
加总起来，总共有 C80 C81 ... C88 28 个事件。 信息
记为 ，其中的集合称为波雷尔集。
概率空间与测度空间
设 为非空集合， 为 子集的一个 代数。一个概率测度 是这样一个函数，它
对于每个集合 A 都指定了0,1上的某一个数，我们称之为 的概率，写为 A 。如
果
（正则性） 1
（可数可加性）对于 中的一列互不相容的集合 A1 A2 ，有
An An
ATT , AHc H , AHc T , ATcH , ATH , AHT ATT
ATcT
,
掷完第三次硬币之后，我们的信息拓展为 个集合的集族。
掷完第一次硬币之后， A AH ,THT 是否在我们的信息集中？
掷 完 第 一 次 硬 币 之 后 ， 我 们 有 A if 1 H ， 但 我 们 并 不 确 定
n1
n1
则 , , 称为三位一体的概率空间。
注意这里 通常就是我们的信息，由于信息是已知的，因此我们通常称 的元素为可
测集，而称 , 为可测空间。
如果在可测空间 , 上，存在一个从 到 0, 的映射 ，其满足以下两个条件： （正则性） 1
（可数可加性）对于 中的一列互不相容的集合 A1 A2 ，有
An An
n1
n1
则 , , 称为三位一体的测度空间。
随机变量、分布和矩
随机变量（
）
, ,
定义在 上；
实值函数；
对于 的任何波雷尔子集 ，都有X B ; X B 。
S0 4,
S1
82,,如如果果11
H T
16,如果1 2 H
S2 4,如果1 2
1,如果1 2 T
Aor A if 1 T 。因此 不在我们的信息集中。
信息 是指基于当前已知状况，事件会不会发生已经是确定的。如果我们不知道当时的
情况，而是被告知，在这一信息集下，真实的 是否属于该集合，我们就能知道当时的情
形，但不能知道得更多。
代数
设 为非空集合， 为 的子集族。称 是一个 代数（也称 域），如果 ；
A ,,AH ,TTH,AH,TTHC
是一个 代数，但显然在我们掷三次硬币的实验中，它不是信息。
从时间上来看，信息是逐渐到达的。信息流可以理解为 代数的逐渐分割（
），
后面的信息集比前面的信息集分割更精细。前者生成的 代数包含后者生成的 代数，这
意味着新的信息不断到来。
由 上全体闭区间（或开区间）出发而生成的 代数称为波雷尔（Borel） 代数，
在开始掷硬币之前，我们拥有的信息是 0 ,；
掷完第一次硬币之后，我们的信息拓展为
1 ,, AH , AL AH | ,1 H, AL | ,1 L
掷完第二次硬币之后，我们的信息拓展为
2
, , AHH
AH , AL, AHH , AHT , ATH , ATH , AHH ATT , AHT
只要 A ，则 AC ；
只要wenku.baidu.com列集合 A1 A2 属于
，则其并集
n1
An
也属于
。
代数本质上就是一个对可数可加个交、并、补封闭的集族。对某个 代数中的集合 进行的任何运算，仍在该 代数中。例如，空集和全集都在 代数中；一列集合的交集也 在该 代数中，因为
n1
An
n1
AnC
C
信息集是 代数，但针对特定情形， 代数不一定是信息。例如
fX x 0,x R
fX
x
1或
f
x dx
1
x
f x
1
x2
e 2 2
2
累积联合分布函数：
FX ,Y x, y X x,Y y, x, y 2
概率密度函数 概率质量函数
FX ,Y x, y
y
x
f X ,Y
s,t dsdt, x,
y
2
fX ,Y x, y X x,Y y, x, y 2
....
Sn1
2Sn ,如果n1 H
1 2
Sn
, 如果n 1
T
, ,
n
分布（
）
, ,
PX
,
PX B PX B ; X B
容易证明 PX 是一个概率测度（满足三条概率论公理）。
PX 是在 ，而不是 的子集上的测度。
不同的随机变量可以有相同的分布；同一个随机变量（在不同的概率测度下）可以 有不同的分布。
X n 是独立的，如果它们生成的 代数 X1 X 2 X n 是独立的。
我们称整列 代数 1 2 3 是独立的，如果对每个正整数 ， 个 代数 1
the first toss is a head p3 p2q p2q pq2 p
概率空间包含样本空间 和概率测度 。其中样本空间 是一个非空集合，概率测度
可以视为一个函数（映射），该函数将 中的每个元素映射到0,1 上的某一个数，使得
一个事件是 的一个子集，事件
1
的概率为
A A
条件概率分布
P A 0
PB
|
A
P AB P A
n
P B P Ai P B | Ai
i1
P
A
|
B
P
A P B PB
|
A
独立性
, ,
12 3
12
n
A1 A2 ... An ＝ A1 A2 An ，A1 1，A2 2,..., An n
设 X1 X 2 X 3 是, , 上的一列随机变量。我们称 个随机变量 X1 X 2
累积分布函数：
F x X x, x
概率密度函数（ 概率质量函数（
，）
PX a,b
a
X
b
b
a
fX
y dy
F x
x
fX
y dy,
x
，）
fX x X x,x
PX B X xi, B i;xiB
函数 f X x 为随机变量 的概率密度（质量）函数的充要条件为：
抛掷三次硬币，所有可能结果的集合为 样本空间
HHH, HHT, HTH, HTT,THH,THT,TTH,TTT
样本空间中的子集称为 事件 ，
" the first toss is a head" ;1 H HHH, HHT , HTH, HTT
事件的概率由事件中各元素的概率相加得到，
非负性 A 0
正则性 1
可加性（互不相容事件）
Ai Ai, if Ai Aj ,i j
事件、信息、 代数与概率空间
事件
在掷硬币实验中，共有多少个事件？
空集
样本空间
一个可能的结果 HHH,HHT,...
两个可能的结果 HHH, HHT,...
加总起来，总共有 C80 C81 ... C88 28 个事件。 信息
记为 ，其中的集合称为波雷尔集。
概率空间与测度空间
设 为非空集合， 为 子集的一个 代数。一个概率测度 是这样一个函数，它
对于每个集合 A 都指定了0,1上的某一个数，我们称之为 的概率，写为 A 。如
果
（正则性） 1
（可数可加性）对于 中的一列互不相容的集合 A1 A2 ，有
An An
ATT , AHc H , AHc T , ATcH , ATH , AHT ATT
ATcT
,
掷完第三次硬币之后，我们的信息拓展为 个集合的集族。
掷完第一次硬币之后， A AH ,THT 是否在我们的信息集中？
掷 完 第 一 次 硬 币 之 后 ， 我 们 有 A if 1 H ， 但 我 们 并 不 确 定
n1
n1
则 , , 称为三位一体的概率空间。
注意这里 通常就是我们的信息，由于信息是已知的，因此我们通常称 的元素为可
测集，而称 , 为可测空间。
如果在可测空间 , 上，存在一个从 到 0, 的映射 ，其满足以下两个条件： （正则性） 1
（可数可加性）对于 中的一列互不相容的集合 A1 A2 ，有
An An
n1
n1
则 , , 称为三位一体的测度空间。
随机变量、分布和矩
随机变量（
）
, ,
定义在 上；
实值函数；
对于 的任何波雷尔子集 ，都有X B ; X B 。
S0 4,
S1
82,,如如果果11
H T
16,如果1 2 H
S2 4,如果1 2
1,如果1 2 T
Aor A if 1 T 。因此 不在我们的信息集中。
信息 是指基于当前已知状况，事件会不会发生已经是确定的。如果我们不知道当时的
情况，而是被告知，在这一信息集下，真实的 是否属于该集合，我们就能知道当时的情
形，但不能知道得更多。
代数
设 为非空集合， 为 的子集族。称 是一个 代数（也称 域），如果 ；
A ,,AH ,TTH,AH,TTHC
是一个 代数，但显然在我们掷三次硬币的实验中，它不是信息。
从时间上来看，信息是逐渐到达的。信息流可以理解为 代数的逐渐分割（
），
后面的信息集比前面的信息集分割更精细。前者生成的 代数包含后者生成的 代数，这
意味着新的信息不断到来。
由 上全体闭区间（或开区间）出发而生成的 代数称为波雷尔（Borel） 代数，
在开始掷硬币之前，我们拥有的信息是 0 ,；
掷完第一次硬币之后，我们的信息拓展为
1 ,, AH , AL AH | ,1 H, AL | ,1 L
掷完第二次硬币之后，我们的信息拓展为
2
, , AHH
AH , AL, AHH , AHT , ATH , ATH , AHH ATT , AHT
只要 A ，则 AC ；
只要wenku.baidu.com列集合 A1 A2 属于
，则其并集
n1
An
也属于
。
代数本质上就是一个对可数可加个交、并、补封闭的集族。对某个 代数中的集合 进行的任何运算，仍在该 代数中。例如，空集和全集都在 代数中；一列集合的交集也 在该 代数中，因为
n1
An
n1
AnC
C
信息集是 代数，但针对特定情形， 代数不一定是信息。例如
fX x 0,x R
fX
x
1或
f
x dx
1
x
f x
1
x2
e 2 2
2
累积联合分布函数：
FX ,Y x, y X x,Y y, x, y 2
概率密度函数 概率质量函数
FX ,Y x, y
y
x
f X ,Y
s,t dsdt, x,
y
2
fX ,Y x, y X x,Y y, x, y 2
....
Sn1
2Sn ,如果n1 H
1 2
Sn
, 如果n 1
T
, ,
n
分布（
）
, ,
PX
,
PX B PX B ; X B
容易证明 PX 是一个概率测度（满足三条概率论公理）。
PX 是在 ，而不是 的子集上的测度。
不同的随机变量可以有相同的分布；同一个随机变量（在不同的概率测度下）可以 有不同的分布。
X n 是独立的，如果它们生成的 代数 X1 X 2 X n 是独立的。
我们称整列 代数 1 2 3 是独立的，如果对每个正整数 ， 个 代数 1
the first toss is a head p3 p2q p2q pq2 p
概率空间包含样本空间 和概率测度 。其中样本空间 是一个非空集合，概率测度
可以视为一个函数（映射），该函数将 中的每个元素映射到0,1 上的某一个数，使得
一个事件是 的一个子集，事件
1
的概率为
A A
条件概率分布
P A 0
PB
|
A
P AB P A
n
P B P Ai P B | Ai
i1
P
A
|
B
P
A P B PB
|
A
独立性
, ,
12 3
12
n
A1 A2 ... An ＝ A1 A2 An ，A1 1，A2 2,..., An n
设 X1 X 2 X 3 是, , 上的一列随机变量。我们称 个随机变量 X1 X 2
累积分布函数：
F x X x, x
概率密度函数（ 概率质量函数（
，）
PX a,b
a
X
b
b
a
fX
y dy
F x
x
fX
y dy,
x
，）
fX x X x,x
PX B X xi, B i;xiB
函数 f X x 为随机变量 的概率密度（质量）函数的充要条件为：