(完整版)大数定律及中心极限定理

第五章大数定律及中心极限定理

【基本要求】1、了解切比雪夫不等式；

2、了解切比雪夫大数定律，Bernoulli大数定律和辛钦大数定律成立的条件及结论；

3、了解独立同分布的中心极限定理（列维—林德伯格定理）和德莫佛—拉普拉斯

中心极限定理（二项分布以正态分布为极限分布）的应用条件和结论，并会用

相关定理近似计算有关随机事件的概率。

【本章重点】切比雪夫不等式，切比雪夫大数定理及Bernoulli大数定理。

【本章难点】对切比雪夫大数定理及独立同分布的中心极限定理的理解。

【学时分配】2学时

【授课内容】

§5.1 大数定律

0.前言

在第一章我们提到过事件发生的频率具有稳定性，即随着试验次数的增加，事件发生的频率逐渐稳定于某个常数，这一事实显示了可以用一个数来表征事件发生的可能性大小，这使人们认识到概率是客观存在的，进而由频率的三条性质的启发和抽象给出了概率的定义，而频率的稳定性是概率定义的客观基础。在实践中人们还认识到大量测量值的算术平均值也具有稳定性，而这种稳定性就是本节所要讨论的大数定律的客观背景，而这些理论正是概率论的理论基础。

下面介绍三个定理，它们分别反映了算术平均值及频率的稳定性。

一、切比雪夫大数定律

1

2

事件的频率稳定于概率，能否有p n

lim

n

n =μ∞→，答案是否定的。而是用)(0}{

∞→→ε≥-μn p n

P n [依概率收敛]来刻划

（弱）。或者用{}1n n P p n →∞

μ−−−→=[a.e.收敛] 来刻划（强）。

1.定义：设 ,,,,21n X X X 是一个随机变量序列，a 是一个常数，若对于任意正数ε，有

()1lim =<-∞

→εa X P n n ，

则称序列 ,,,,21n X X X 依概率收敛于a .记为a X P

n −→−

. 2．切比雪夫不等式

设随机变量ξ具有有限的期望与方差，则对0>∀ε，有

2

)

())((ε

ξεξξD E P ≤

≥-或2

)

(1))((ε

ξεξξD E P -

≥<-

证明：我们就连续性随机变量的情况来证明。设~()p x ξ，则有

2

2

()()(())(())()()x E x E x E P E p x dx p x dx ξ

ε

ξ

ε

ξξξεε

-≥-≥--≥=

≤

⎰⎰

22

2

1

()

(())()D x E p x dx ξξεε+∞

-∞

≤

-=

⎰

该不等式表明：当)(ξD 很小时，))((εξξ≥-E P 也很小，即ξ的取值偏离)(ξE 的可能性很小。这再次说明方差是描述ξ取值分散程度的一个量。

切比雪夫不等式常用来求在随机变量分布未知，只知其期望和方差的情况下，事件

{}E ξξε-≥概率的下限估计；同时，在理论上切比雪夫不等式常作为其它定理证明的工具。

3．定理1（切比雪夫大数定律）

设}{n ξ是相互独立的随机变量序列，每一随机变量都有有限的方差，且一致有界，即存在

常数C ，使 ,2,1)(=≤i C D i ξ，则对任意的0>ε，有01111

=ε≥ξ-ξ∑∑==∞→})(E n n {P lim n i n

i i i n [即

3

11

11()()n n p

i i i i E n n n ξξ==−−

→→∞∑∑] 证明：由切比雪夫不等式知：,0>∀ε有：

)(0)1(1})(11{022********∞→→=≤=≤≥-≤∑∑∑∑====n n C

n nC n D n D E n n P n

i i

n

i i n i n i i i ε

εεξ

ξεεξξ

该定理表明：当n 很大时，随机变量n ξξ,,1 的算术平均值1

1n

i i n ξ=∑接近于其数学期望

1

1()n

i i E n ξ=∑，这种接近是在概率意义下的接近。通俗的说，在定理的条件下，n 个相互独立的随机变量算术平均值，在n 无限增加时将几乎变成一个常数。

推论：设n ξξ,,1 是相互独立的随机变量，由相同的数学期望和方差

,2,1)(,

)(2

===i D E i i σξμξ，则,0>∀ε有

0}1{lim 1

=≥-∑=∞→εμξn

i i n n P （即∑=n i i n 11ξ以概率收敛于μ）

这个结论有很实际的意义：人们在进行精密测量时，为了减少随机误差，往往重复测量多次，

测得若干实测值n ξξ,,1 ，然后用其平均值∑=n

i i n 1

1ξ来代替μ。

切比雪夫大数定律是最基本的大数定理，作为切比雪夫大数定律的特殊情形有Bernoulli 大数定理和辛钦大数定律。 二、Bernoulli 大数定律

定理2：设n μ是n 重Bernoulli 试验中事件A 出现的次数，而)10(<

∀ε，

0lim =⎭⎬⎫

⎩⎨⎧≥-∞

→εμp n P n n 证明：令⎩⎨

⎧=不出现

次试验中第出现

次试验中第A i A i i 0

1

ξ，n i ,1,2, ＝