依概率收敛与弱大数定律汇总

§2 依概率收敛与弱大数定律

一、依概率收敛 二、弱大数定律

一、依概率收敛

尽管分布函数完全反映了随机变量取值的分布规律, 但是两个不同的随机变量可以有相同的分布函数. 例如, 向区间[0,1]上随机等可能投点,ω表示落点的位置，定义

ξω(),,=⎧⎨⎩10 ωω∈∈[,.](.,]005051

ηω(),,

=⎧⎨⎩01 ωω∈∈[,.](.,]005051. (1) 则ξ和η具有相同的分布函数

F(x)=⎪⎩⎪

⎨⎧,1,2/1,0 .1,10,0≥<≤

(2)

如果定义ξξn =, n ≥1, 则

ξηn d

−→−, 但||ξηn -≡1. 这表明分布函数收敛性并不能反映随机变量序列取值之间的接近程度. 为此需要引入另外的收敛性.

定义1 设ξ和ξn 是定义在同一概率空间 (Ω,F, P)上的随机变量序列. 如果对任意ε>0,

lim (||)

n n P →∞

-≥ξξε=0, (3)

或

lim (||)

n n P →∞

-<ξξε=1,

')3(

则称ξn 依概率收敛(convergence in probability)于ξ，记作ξn P

−

→−ξ. 注 定义1要求所有ξ和ξn 的定义域相同.

ξn P

−→−ξ可直观地理解为：除去极小的可能性，只要n 充分大，ξn 与ξ的取值就可以任意接近.

从上面例子可以看出, 由ξn d −

→−ξ并不能导出ξn P

−→−ξ. 关于这两种收敛性之间的关系，我们有下面的定理.

定理1 设ξ和ξn 是定义在概率空间 (Ω,F, P)上的随机变量序列.

1. 如果ξn P −

→−ξ, 则 ξn d

−→−ξ. 2. 如果ξn d

c −

→−, c 为常数，则ξn P

c −→−. 证 1. 设F 和F n 分别是ξ和ξn 的分布函数，x 表示F 的连续点. 任意给定ε>0,

(ξεξεξξεξ≤-=≤-≤≤->x x x x x n n )(,)(,)

⊆≤-≥()()ξξξεn n x ,

因此

F(x -≤+-≥εξξε)()()F x P n n .

令n →∞, 由于

ξn P

−→−ξ, 故P P n n ()(||)ξξεξξε-≥≤-≥→0, 从而 F(x

-≤→∞

ε)lim ()

n n F x . (4)

类似地

()(,)(,)ξξξεξξεn n n x x x x x ≤=≤≤+≤>+

⊆≤+-≥()()ξεξξεx n ,

从而

F x F x P n n ()()()≤++-≥εξξε.

令n →∞, 得

lim ()()

n n F x F x →∞

≤+ε. (5)

连接(4) (5)两式，对任意ε>0, 有

F(x

-≤→∞

ε)lim ()

n n F x ≤

lim ()()

n n F x F x →∞

≤+ε.

由于F 在x 点连续，令ε→0, 就得

lim ()()

n n F x F x →∞

=, 即

ξn d

−→−ξ. 2. 如果ξn d

c −

→−，则 lim (),,n n F x →∞=⎧⎨⎩01 x c

x c <≥.

因此对任意ε>0,有

)

()(1)()()|(|εξεξεξεξεξ-≤++<-=-≤++≥=≥-c P c P c P c P c P n n n n n

=1-+-+-→F c F c n n ()(),εε00 (n →∞).

定理证毕.

例1 设{ξn }独立同分布，都为[0, a]上的均匀分布, ηξξξn n =max{,,,}12 .求证

ηn P

a −→−.

证 由定理1, 只须证明ηn 的分布函数G x D x a n W

()()−

→−-, 其中D(x-a)是在a 点的退化分布函数.

从第二章知道：若ξk 的分布函数为F(x), 则ηn 的分布函数为G x F x n n ()[()]=. 现在ξk 的

分布函数为

F(x)=

⎪⎩

⎪

⎨⎧,

1,/,0a x .,0,

0a x a x x ≥<≤<

故

G x x a n n (),

(/),,=⎧⎨⎪⎩⎪01 x x a x a <≤<≥00 → D(x-a)=01,,⎧⎨⎩

x a

x a <≥

(n →∞).

证毕.

依概率收敛有许多性质类似于微积分中数列极限的性质, 下面仅举两个例子说明这类问题的证题方法. 大部分性质放在习题中留给读者自己证明.

例2 设ξ和ξn 是定义在概率空间 (Ω,F, P)上的随机变量序列. 求证：

1. 若ξn P −→−ξ，

ξn P

−→−η, 则P(ξ=η)=1. 2. 若ξn P −

→−ξ, f 是 (-∞, ∞) 上的连续函数，则f (ξn )P

f −→−()ξ. 证 1. 任意给定ε>0，我们有

(|ξηεξξεξηε-≥⊆-≥-≥|)(||/)(||/)n n 22 ,

从而

P(|ξηεξξεξηε-≥≤-≥+-≥|)(||/)(||/)P P n n 22.

由ξn P −→−ξ,

ξn P

−→−η, 并注意到上式左方与n 无关, 得P(|ξηε-≥|)=0. 进一步, P(|

ξηξηξη->=-≥≤-≥=∞

=∞

∑|)((||/))(||/)

0111

1

P n P n n n =0,

即P(ξ=η)=1.

2. 任意给定εε,'>0，存在M>0, 使得

P(|ξ|≥≤M)P(|ξ|≥<'M /)/24ε.

(6)

由于ξn P

−

→−ξ, 故存在N 11≥, 当n ≥N 1时, P (||/)/ξξεn M -≥<'24, 因此