第五章 基本极限定理

第五章 基本极限定理

【授课对象】理工类本科二年级 【授课时数】2学时

【授课方法】课堂讲授与提问相结合

【基本要求】1、理解切比雪夫(车贝晓夫)不等式；

2、了解车贝晓夫大数定理及Bernoulli 大数定理；

3、知道独立同分布的中心极限定理，了解德莫佛—拉普拉斯中心极限 定理。

【本章重点】车贝晓夫不等式，车贝晓夫大数定理及Bernoulli 大数定理。 【本章难点】对车贝晓夫大数定理及独立同分布的中心极限定理的理解。 【授课内容及学时分配】

§5.0 前 言

在第一章中我们曾提出，大量重复试验中事件发生的频率具有稳定性，随着试验次数n 的无限增大，事件A 在n 次试验中出现的次数n μ与试验次数之比n

n μ(即频

率)稳定在某个确定的常数附近（频率的稳定性），以此常数来近似作为事件A 在一次试验中发生的概率，并在实际中，当n 充分大时，用频率值作为概率值的近似估计。对于这些，我们需要给出理论上的说明，而这些理论正是概率论的理论基础。

§5.1 切比雪夫不等式及大数定律

一、切比雪夫不等式

定理1 设随机变量ξ具有有限的期望与方差，则对0>∀ε，有

2

)

())((εξεξξD E P ≤

≥-

或2

)

(1))((ε

ξεξξD E P -

≥<-

证明：仅对连续的情形给予证明，设ξ的分布函数为)(x F ，则

⎰⎰≥-≥

--≤=

≥-ε

ξ

ε

ξε

ξεξξ)(2

2

)()())(()())((E x E x x dF E x x dF E P

2

22

)

()())((1

εξξεD x dF E x =

-≤⎰

∞

+∞

-

该不等式表明：当)(ξD 很小时，))((εξξ≥-E P 也很小，即ξ的取值偏离)(ξE 的可能性很小。这再次说明方差是描述ξ取值分散程度的一个量。 在理论上切比雪夫不等式常作为其它定理证明的工具。

二、大数定律(——包括强大数定律和弱大数定律，本书主要讲弱大数定律) 定义：设{}n ξ是随机变量序列，它们都具有有限的数学期望 ),(),(21ξξE E ，若对

0>∀ξ，011lim 11=⎪⎭

⎪

⎬⎫⎪⎩⎪⎨⎧≥⎪⎭⎫ ⎝⎛-∑∑==∞→εξξn i i n i i n n E n P ，则称{}n ξ服从弱大数定律。

定理2（车贝晓夫大数定律）设相互独立的随机变量n ξξ,,1 分别具有数学期望

)(,),(1n E E ξξ 及方差)(,),(1n D D ξξ ，若存在常数C 使 ,2,1)(=≤i C D i ξ（方差一致有界），则}{n ξ服从大数定律。

既对任意的0>ε，有0})(11{lim 11=≥-∑∑==∞→εεεn i n

i i i n E n n P

证明：由车贝晓夫不等式知：,0>∀ε有：

)(0)1(1})(11{022********∞→→=≤=≤≥-≤∑∑∑∑====n n C

n nC n D n D E n n P n

i i

n

i i n i n i i i ε

εεξ

ξεεξξ

注：切比雪夫大数定律是最基本的大数定理，作为切比雪夫大数定律的特殊情形有Bernoulli 大数定理和Poisson 大数定律。

定理3（Bernoulli 大数定理）设n μ是n 重Bernoulli 试验中事件A 出现的次数，已知在每次试验中A 出现的概率为)10(<

∀ε，

0lim =⎭

⎬⎫

⎩⎨⎧≥-∞

→εμp n P n n

证明：令⎩⎨

⎧=不出现

次试验中第出现次试验中第A i A i i 0

1

ξ，n i ,1,2, ＝

则n n μ＝∑=n

i i n 11ξ，P E i =)(ξ，41)1()(≤-=P P D i ξ，n i ,1,2, ＝

于是由切比雪夫不等式，对0>∀ε，有

()⎭⎬⎫⎩⎨⎧≥-=⎪⎭

⎪

⎬⎫⎪⎩⎪⎨⎧≥⎪⎭⎫ ⎝⎛-=⎭⎬⎫⎩⎨⎧≥-∑∑∑===εξξεξξεμn i i n i i n i i n E n P n E n P P n P 111)(111

()0)

(1)(11

2

11

2212→=

=⎪⎭⎫

⎝⎛-≤∑∑==ε

ξξεξξεn D n E n D n

i i n i i )(∞→n 即

P n

n

→μ )(∞→n 。故{i ξ}服从大数定律。

可见，只要把)2,1( =i i ξ看作服从（0-1）分布的随机变量即可。Bernoulli 大数定律在理论上说明了在大量重复独立实验中，事件出现频率的稳定性，正是因为这种稳定性，概率才有客观意义。

而Poisson 大数定律则为切比雪夫大数定律的另一特例

定理4（Poisson 大数定律）设n μ是n 次独立试验中事件A 出现的次数，已知在第i 次试验中A 出现的概率为i p （10<∀ε

∞→n lim {|n n μ—n 1∑=n

i Pi

1

≥ε}=0

证：（略）

显然，Poisson 大数定律是作为Bernoulli 大数定律的推广，它表明随着n ∞→，n 次独立试验中事件A 出现的概率稳定于各次试验中事件A 出现的概率的算术平均值。

推论：设n ξξ,,1 是相互独立的随机变量，且服从相同的分布，

,2,1)(,)(2

===i D E i i σξμξ，则,0>∀ε有：

0}1{lim 1=≥-∑=∞→εμξn i i n n P ⇒1}1{lim 1

=≤-∑=∞→εμξn

i i n n P 即∑=n i i n 11ξ以概率1收敛