数理统计第一章

m m[a1 , b1 ] [a2 , b2 ] m([a1 , b1 ])m([a2 , b2 ])
?
Prop1.3（乘积测度定理）设i , Fi , vi , i 1,, k , k 2 是正整数 ， 为σ有限测度空间，则在乘积σ-域 F1 Fk上存在唯一的 σ有限测度满足
Mathematical Statistics
曹司琪
Chapter 1 Probability Theory
• 数学上，测度（Measure）是一个函数，它 对一个给定集合的某些子集指定一个数， 这个数可以比作大小、体积、概率等等。 传统的积分是在区间上进行的，后来人们 希望把积分推广到任意的集合上，就发展 出测度的概念，它在数学分析和概率论有 重要的地位。
特殊情况：联合c.d.f.F由k个边际分布决定
F x1,, xk F1 x1 Fk xk ,
x1,, xk k
在这种情况下，F对应的概率测度P是乘积测度 P1 Pk ，其中 Pi 是 Fi 对应的概率测度。 eg: , B , Pi , i 1,2, 是概率空间，则
Prop 设f是 (, F )上的一个非负Borel函数，则存在一简单函 n f 数序列{n } 满足0 1 2 f 且 lim 。 n
Def 设 (, F , v) 是一可测空间，f是一从(, F ) 到 , G 的可测 函数，则由f导出的测度（诱导测度）v f 1 ，是G上的一个 测度，定义如下： v f 1 ( B) v( f B) v( f 1 ( B)), B G 由于可测空间 , G 一般比可测空间 (, F )简单，因此通常 1 1 v f v f 情况下，运用 比运用v更容易。此外， 计算的测度， 只与 ( f ) （关心的子集的集合）中元素有关。 如果 v P 是一个概率测度，X是一个随机变量或随机向量， 则 ( X ) 只包含与X有关的随机事件，P在 ( X )上的限制是只 1 与X有关的概率规律，即 P X 表示的是X的值的分布概率规 1 PX P X 1 。 律，因此称 P X 为X的概率分布测度，记作： PX 的c.d.f.(or 联合c.d.f.)也称为X的c.d.f.(or 联合c.d.f.)，记 作 FX 。而对任意c.d.f.(or 联合c.d.f.)F，通常至少存在一个 （一般情况下有许多）定义在概率空间上的随机变量或随 机向量满足 FX F ，举例如下。
Ai F ，使得 Ai andv( Ai ) 对 （3）如果存在{A1 , A2 ,} ， 一切i成立，则称ν 为（Ω ，F ）上的σ 有限测度， （Ω ,F ,ν ）为σ 有限测度空间。
显然，有限测度（eg:概率测度）一定σ 有限测度。
概率与统计中的两个重要测度
由eg1.2可以看出，单点集的Lebesgue测度为零。
P
Def 1.2. 设（Ω ，F ）是一个可测空间，定义在F 上的集合函 数ν称为测度，当且仅当ν满足一下性质。 0 ( A) , A F ； （1）
( ) 0; （2） （3）（可数可加性）如果Ai F （i=1,2,…），且 Ai 互不相 交，则
σ 有限测度
（1）eg1.1中计数测度为σ 有限测度当且仅当Ω 可 数； （2）eg1.2中Lebesgue测度是σ 有限测度，由 于 A ，其中 An (n, n), n 1,2, （3）式（1.2）定义的测度不是σ 有限测度。
n
测度性质
单调性，次可加性，连续性
P
• (R,B)上所有概率测度的集合与R上的函数集 合一一对应。设P为一概率测度，则P的累 积分布函数(c.d.f.)定义为：
1 k
在eg1.2中， [a, b] R ，m(a,b)=b-a（即区间长度等于 2 Lebesgue测度）;现考虑矩形 [a1, b1 ] [a2 , b2 ] R ，则矩形 [a1, b1 ][a2 , b2 ] 的面积为 (b1 a1 )(b2 a2 ) m([a1 , b1 ])m([a2 , b2 ]) ， 也就是说，矩形的面积等于Lebesgue测度的乘积；那么， 在乘积空间 2 上的乘积σ -域B 2 中，
Def（生成σ -域）设C是集合Ω 中一些子集所构成的集合族， 记包含C的最小σ -域 (C ) 为由C生成的σ -域。 由定义可知， ({A}) ({A，Ac }) ({A,}) ({A, })； （1） （2）如果C本身是一个σ -域，则 (C) C 。 n R Def(Borel σ -域) 由 中一切开集构成的开集族所生成的 σ -域称为Borelσ -域，记为 B d ， B d中元素称为Borel集。 对于一维情形，B= ({(, a] : a R}) 。 显然， R n 中的闭集、开集都是Borel集（开集的补集是并 集）。
f 1 (G) F A G, f 1 ( A) F


测度函数举例
eg1 如果F是Ω的幂集，则任意f函数皆可测；
eg2 设 A ，则A的示性函数定义如下：
对任意B ，
( I A ) { , A, Ac , } ( A) ，且 I A 是一 如果 A F ，则 I A 可测， 个Borel函数。
Def(简单可测函数类) 简单可测函数类为可测集示性函数的 k 线性组合。
( w) ai I A ( w)
i 1
i
A1 ,, Ak 为Ω 上可测集， a1 ,, ak 为实数。 其中， 则函数 是一个Borel函数。 设 A1 ,, Ak 是Ω 的一个划分，即 Ai 不相交，且 A1 Ak ， 则上式给出的包含不同 a i 的简单函数 给出了这个划分的一 个确切的刻画，且 ( ) ({A1,, Ak }) 。
测度论和概率论对应关系 • 测度 -- 概率 • 点集 -- 事件集 • 测度空间，可测空间，全直线，可测函数 -- 概率 空间，随机变量 • 积分（积分收敛定理） -- 期望 • 不定积分，符号测度，Lebesgue分解定理， Radon-Nikodym定理 -- 条件期望，条件概率分布 • 乘积空间，乘积测度，多维Lebesgue-Stieltjes测 度 -- 无穷乘积概率空间，多维随机变量 • Borel可测函数族 -- 联合分布，独立随机变量序列
v1 vk ( A1 Ak ) v1 A1 vk Ak
设P是k , Bk 上的概率测度，则P的c.d.f.(or 联合c.d.f.)定义为 且满足一下性质
其第i个边际c.d.f.为
ห้องสมุดไป่ตู้
显然，边际分布由联合c.d.f.决定，但c.d.f.通常不由边际分布 决定。
可测函数在概率中的意义
由于σ -域F含有太多子集（eg:幂集），而通常情况下 我们只对其中的一部分感兴趣，因此在概率中，我们定义随 ( X ) 在两个平凡 机变量X，这样 ( X )只包含与X有关的事件， σ -域{Ф ,Ω }和F之间。
由Prop1.4.可以看出，存在很多的Borel函数，事实上很难找 到非Borel函数。
1.1 概率空间和随即元素
1.1.1 σ-域和测度 （1）Ω：在概率与统计中Ω通常指随机试验 中所有可能得到的结果的集合，统计理论 中通常称之为样本空间； （2）测度（measure）：对于一个给定的样 本空间Ω，测度是定义在Ω的给定子集上的 集合函数。 而这些子集必须满足一定的性质，因此我 们给出下述定义。
k k
i 1 k
, Bk
上的概率测
度P满足
对任意正整数l , Bi Bk , i 1,, l.
1.1.2 可测函数与分布
由于Ω非常抽象，因此考虑从Ω到简单空间Λ（通 常 k ）的函数映射f. Def 设 B ，则B对f的逆象为 且B对f的逆象满足以下性质
Def
Def1.3. 设 (, F ) 和 (, G) 是可测空间，函数 f : . 函数f称为从 (, F )到 (, G) 的可测函数，当且仅当 注：如果 , G B (Borelσ -域)，则f称为Borel可测或 (, F ) (or关于F)上的Borel函数。 在概率论中，可测函数称为随机元，记为X,Y,Z,…如果X 从 (, F )到 (, B) 的可测函数，则称其为随机变量；如果X是 从 (, F )到 (k , Bk )的可测函数，则称其为k维随机向量。 Def 如果f是从(, F ) 到 (, G) 的可测函数，则 f 1 G 为F的子 σ -域，称其为由f生成的σ -域，记为 f 。
Ai ( Ai )
i 1
i 1
Def （Ω ,F ,ν）称为测度空间。 （1）如果 v() ,则称ν 为有限测度，（Ω ,F ,ν）为 有限测度空间； （2）如果 v() 1 ,则称ν 为概率测度，（Ω ,F ,ν）为 概率空间，通常记作（Ω ,F ,P）。
Def 1.1. 设F是样本空间Ω中的一些子集所构 成的集合族，称F为σ -域（σ -代数），当 且仅当F满足以下性质。 （1）空集 F ； c （2）如果 A F ，那么 A F ； （3）如果 Ai F ，那么 Ai F 。 Def(可测空间)如果F 是集合Ω 的某些子集形 成的σ -域，则称（Ω ，F ）为可测空间， 称F 中的元素为可测集。
对所有 Ai Fi , i 1,, k. iI i , (iI Fi )， iI vi , i 1, k. 称 v1 vk为乘积测度， 为 i , Fi , vi , i 1,, k , k 2 的乘积测度空间。 由Prop1.3可得乘积测度m m是 2 , B2 上的Lebesgue测度。
F ( x) P((, x]), x R.
Def(笛卡儿积) 设 i ， i ={1,…，k}(or {1,2,…})是k 个集合（or集合集），则集合 iI i 1 k {(a1,, ak ) : ai i , i I} 称为 ,, 的笛卡儿积。 Def 设 (i , Fi ),i I 是可测空间，则称 (iI Fi )为乘积 空间 iI i 上的乘积σ -域； iI i , (iI Fi ) 记作 iI i , Fi 。 eg:i , Fi , B, i 1,, k. 则其乘积空间为 k ，乘积 σ -域为 B k ，即 k 上的Borelσ -域。
由Def 1.1可知以下事实： （1） F ； （2）如果 Ai F （i=1,2,…），则 Ai F ； （3）如果 A, B F ，则 A | B F ； （4）如果 Ai F （i=1,2,…），则 limAn F ， lim An F 。 n n
P
σ -域举例
eg1 对任意给定的Ω有两个平凡σ -域。 （1）{Φ ,Ω }，Ω 上最小σ -域； （2）Ω 的幂集，Ω 上最大σ -域。 Ω 的幂集：集合Ω 的所有子集的集合，如果Ω 中 有a个元素，则Ω 的幂集中有 2 a 个元素。 eg2 Ω的非平凡σ -域举例。 c A 令A为Ω 的非空真子集，则{Φ ,A, ,Ω }是σ -域。 它是Ω 上包含A的最小的σ -域。