依分布收敛及中心极限定理

第四章 第四章 极限定理

§1 依分布收敛与中心极限定理

一、 一、分布函数弱收敛

概率论早期发展的目的在于揭示由于大量随机因素产生影响而呈现的规律性. 贝努里首先认识到研究无穷随机试验序列的重要性，并建立了概率论的第一个极限定理——大数定律，清楚地刻画了事件的概率与它发生的频率之间的关系. 棣莫佛和拉普拉斯提出将观察的误差看作大量独立微小误差的累加，证明了观察误差的分布一定渐近正态——中心极限定理. 随后，出现了许多各种意义下的极限定理. 这些结果和研究方法对概率论与数理统计及其应用的许多领域有着重大影响. 本章着重介绍上述大数定律和中心极限定理等有关内容.

§1 依分布收敛与中心极限定理

我们知道，如果ξ是概率空间 (Ω, F , P)上的随机变量，那么它的分布函数F(x)=P(ξ≤x )刻画了它的全部概率性质. 因此，对随机变量序列的研究就必须首先对相应的分布函数序列作深入研究.

一、分布函数弱收敛

定义1 设F 是一分布函数，{F n }是一列分布函数，如果对F 的每个连续点x ∈R ，都有F n (x)

→F(x) (n →∞)，则称F n 弱收敛(weak convergence)于F ，记作F n W

−

→− F. 设ξ是一随机变量，{ξn }是一列随机变量，如果ξn 的分布函数列弱收敛于ξ的分布函数，

则称ξn 依分布收敛(convergence in distribution)于ξ，记作ξn d

−

→−ξ. 注1 注1 分布函数逐点收敛的极限函数未必是分布函数.

例如, F n (x)=⎩⎨⎧,1,0.,

n x n x ≥<

该分布函数列处处收敛于0, 但G(x)≡0不是分布函数. 因此对一般的分布函数列，要它们逐点收敛于分布函数，要求是过高了，不得不如定义1加上限制.

注2 定义1中的限制条件“对F 的每个连续点x ，F n (x) →F(x)”是足够宽的，例如,

F n (x)=⎩⎨

⎧,1,0./1,/1n x n x ≥< F(x)= ⎩⎨

⎧,1,0 .0,0≥

而0点刚好是F(x) 的唯一不连续点，因此按定义1，F n W

−

→− F. *注3 由于分布函数F 的不连续点最多有可数个，F n W

−

→− F 意味着F n 在R 的一个稠密子集上处处收敛于F （D 在R 上稠密，是指对任意x o ∈R, 在x o 的任意小邻域内，一定有x ∈D ）.

下面给出海莱(Helly)定理，它们对分布函数列弱收敛性的研究起着重要作用.

定理1（海莱第一定理） 设{F n }是一列分布函数，那么存在一个单调不减右连续的函数F (不一定是分布函数)，0≤≤F x ()1, x ∈R, 和一子列{

k

n F }，使得对F 的每个连续点x ，

k

n F (x)→F(x) (k →+∞).

证 令r r 12,, 表示全体有理数. 0

1)(≤≤x F n 意味着{)(1r F n }是有界数列，

因此可以找到

一个收敛子列{

)(11r F n }, 记+∞→=n r G lim )(1)(11r F n .

接着考虑有界数列{

)(21r F n }，存在它的一个收敛子列{)(22r F n }，记

+∞

→=n r G lim )(2)(22r F n . 如此继续，得到 {kn F }⊂{n k F ,1-},

+∞→=n k r G lim )()(k kn r F , k ≥2. 现在考虑对角线序列{nn F }. 显然，+∞→n lim )(k nn r F =)(k r G 对所有正整数k 都成立. 另外，

由于F n 单调不减，如果r r i j <，有

)

()(j i r G r G ≤. 因此G(r)是定义在有理数上的有界不减函数.

定义

)

(inf )(j x

r r G x F j ≥= x ∈R. (1)

这个函数在有理数上与G(x)相等，它显然也是有界不减的. 下面证明，对F 的每个连续点x,

+∞

→n lim )

(x F nn =F(x). (2)

任意给定ε>0和F 的连续点x ，选取h >0，使得

F(x+h)--F(x--h) <ε/2.

根据有理数的稠密性，存在有理数

r r i j

,满足

x-h <

j

i r x r <<< x+h,

从而

F(x-h)

)

()()()(h x F r F x F r F j i +≤≤≤≤ . (3)

另外，存在N (ε) 使得当n ≥N()ε时,

2/|)()(|ε<-i i nn r F r F , 2/|)()(|ε<-j j nn r F r F .

(4)

进而由F n 和F 的单调性，当n ≥N()ε时，

ε

εε+≤++≤+≤≤)(2/)(2/)()()(x F h x F r F r F x F j j nn nn ,

εεε-≥--≥-≥≥)(2/)(2/)()()(x F h x F r F r F x F i i nn nn .

综合得到

|

ε<-|)()(x F x F nn .

(5)

(2)式得证. 由F 的定义(1)，在它的不连续点上是右连续的. 定理1证毕.

定理2 （海莱第二定理） 设F 是一分布函数，{F n }是一列分布函数，F n −→−

W

F. 如果g(x)是R 上的有界连续函数，则

⎰

⎰∞

∞

-∞

∞

-→)

()()()(x dF x g x dF x g n . (6)

证 因为g 是有界函数，必存在c >0使得 |g (x) | < c, x ∈R. 因为F 的所有连续点构成R 上的稠密集，又由F(∞-)=0, F(∞)=1，故对于任意给定的ε>0, 可以选取a>0使得±a 是F 的连续点，并且

F(-a)<ε/12c,

1-F(a)<ε/12c.

(7)

由于F n W

−

→−F ，存在N 1()ε, 使得当n ≥N 1()ε时, |F n (-a)-F(-a)|<ε/12c, |1-F n (a)-(1-F(a))|<ε/12c,

(8)

这样我们有

|

⎰

⎰⎰⎰-∞

--∞

-∞∞

-+-a

a a

a

n n x dF x g x dF x g x dF x g x dF x g |

)()()()()()()()(

≤c ))(1)(1)()((a F a F a F a F n n -+-+-+-

≤c [ |n F (-a)-F(-a)|+2F(-a)+|1-n F (a)-(1-F(a))|+2(1-F(a))]<ε/2. (9)

下面考虑

⎰⎰---a a

a

a

n x dF x g x dF x g )

()()()(||. 由于g(x)在闭区间[-a, a]上一致连续，可以选

取a x x x a m =<<<=- 10, 使得所有x i 是F 的连续点，且i i x x x ≤<-1max |g(x)--g(i x )|<ε/8. 于是

⎰⎰

---a

a a

a

n x dF x g x dF x g )()()()(||=

∑⎰∑⎰==---m

i x x m

i x x n i

i i

i x dF x g x dF x g 1

1

11)

()()()(||