第五章：随机变量的收敛性
第五章 大数定律和中心极限定理
第三节 中心极限定理
所谓中心极限定理，就是关于大量微小的随机变量之和的极限分布在什么条件下是正态分布的定理. 定义 1 设 { X n } 为一随机变量序列， DX n ， n 1,2, ，若
2
83
n a n lim P(a X i b) P n i 1 n
X
i 1
n
i
n
n
b n b n a n ) ( ). ( n n n
例 1 一加法器同时收到 50 个噪声电压 Vi (i 1,2, ,50 ) ， 设 V i (单位： 微伏)相互独立且均在 [0,10] 上 服从均匀分布，求该加法器上总电压 V
i 1
n
1 n2
c n 0(n ) ，
i 1
n
c
推论 2 (贝努里大数定律) 设 S n 为 n 重贝努里试验中事件 A 出现的次数， p 为 A 在每次 n
证 明 ：令 Xi
1 在第i 次试验中A出现 ， 则 X i ~ B(1, p ) ， i 1,2,, n 且 相 互 独 立 ， 0 在第 i 次试验中 A 不出现
c 0 ，使得 DX n c ， n 1,2, ，则
P 1 n ( X i EX i ) 0 . n i 1
证明：只须验证马尔可夫条件成立即可.由于 { X n } 两两互不相关，故
0
因此马尔可夫条件成立.
n 1 1 D ( Xi) 2 2 n n i 1
DX i
随机变量序列的两种收敛性
§4.2随机变量序列的两种收敛性在上一节中，我们从频率的稳定性出发，引入了n η=∑=n i i n 11ξ−→−p a （n ∞→） 即随机变量序列{}n η依概率收敛于常数a 这么一个概念。
我们自然可以把所讨论的问题推广到a 不是一个常数，而是一个随机变量这样的情形，于是需要引入下面的定义。
定义4.2 设有一列随机变量1η，2η，3η，…，n η，如果对任意的ε>0,都有 lim ∞→n P ()εηη<-n （4.6）则称随机变量序列{}n η依概率收敛于η，并记作lim ∞→n r η−→−p η 或n η−→−p η （n ∞→） 由此可知，前一节中讨论过的大数定律只是上述依概率收敛的一种特殊情况。
我们已经知道分布函数全面地描述了随机变量的统计规律，如果已知n η−→−p η（n ∞→），那么它们相应的分布函数n F （x ）与F （x ）之间的关系会有什么样的关系呢?一个猜测是,对所有的x ，都有n F （x ）→ F （x ）（n ∞→）成立，这个猜测对不对呢?让我们看一个很简单的例子。
例4.2 设η，n η都是服从退化分布的随机变量，且P （η=0）=1,P （n η=-n 1）=1，n=1,2,… 于是对任给的ε>0，当n>ε1时有 P （ηη-n ≥ε）=P （n η≥ε）=0所以n η−→−p η （n ∞→） 成立。
又设η，n η的分布函数分别为F （x ），n F （x ），则F （x ）=⎩⎨⎧≤>0,20,1x xF （x ）=⎪⎩⎪⎨⎧-≤->n x n x 1,21,1 显然,当x ≠0时，lim ∞→n n F （x ）= F （x ）成立，当x=0时，lim ∞→n n F （0）=lim ∞→n 1=1≠0= F （0） 这个简单的例子表明，一个随机变量序列依概率收敛于某一个随机变量，相应的分布函数列不一定是在每一点上都收敛于这个随机变量的分布函数的。
李贤平-概率论基础-Chap5
1 1 1/ 2 1/ 2
(2)
若对一切 n ,令 n ( ) ( ),显然 n ( )的分布列也是 (2) L ( ) 。 ，因此 n ( )
但是, 对任意的 0 2 ，因
P{| n ( ) ( ) | } P() 1
当然，当F(x) 是一个分布函数时,分布函数的左连续 性保证了 F 在不连续点上的值完全由它在连续点集 CF 上的值唯一确定，因此此时分布函数列的弱收敛极限是 唯一的.
以下我们研究一个分布函数序列弱收敛到一个分布 函数的充要条件，为此先建立一些重要的分析结果。
引理. 设{ Fn ( x )}是实变量x 的非降函数序列，D是R上的 稠密集. 若对于D中的所有点, 序列 { Fn ( x )}收敛于F(x),
所以，我们有
F ( x) Fn ( x) P{n x, x}
因为 { n } 依概率收敛于 ，则
P{n x, x} P{| n | x x} 0
因而有
F ( x) lim Fn ( x)
n
同理，对 x x,
i 1 i , 1, ki ( ) k k , i 1, 2, 0, otherwise
取 P 为勒贝格测度，则
, k.
1 0, P (| ki ( ) | ) , i 1, 2, k
, k . (*)
将 ki 依次记为 n , 如图:
n
则称 {n ( )}依概率收敛于 ( ) ，并记为
n ( ) ( )
P
定义3 (r阶矩收敛) 设对随机变量 n 及 有E | n |r , E | |r ， 其中 r 0 为常数，如果
随机变量的几种收敛及其相互关系
论文摘要概率是对大量随机现象的考察中显现出来的，而对于大量的随机现象的描述就要采用极限的方法。
概率统计中的极限定理研究的是随机变量序列的某种收敛性，对随机变量收敛性不同定义将导致不同的极限定理，而随机变量的收敛性的确可以有各种不同的定义。
主要讨论了依概率收敛与依分布收敛，r阶收敛与几乎处处收敛，几乎处处收敛与依概率收敛之间的关系。
给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件，从而比较完全地说明了随机变量序列的各种收敛性之间的关系。
本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下：一、随机变量的几种收敛的概念理论；二、随机变量的几种收敛之间的关系；从以上几个方面对随机变量的几种收敛理论简明扼要地分析，说明随机变量序列收敛理论在实际问题中的应用范围之广，在实际生活中的重要性。
关键词：r阶收敛；几乎处处收敛；依概率收敛；依分布收敛。
AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is asequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship. This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows: 1. Convergence of random variables the concept of theory; 2. the convergence of several random variables between; From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言： 41 几种收敛性定义 42 依概率收敛与依分布收敛的关系 53 r阶收敛与几乎处处收敛的关系 114 依概率收敛与r阶收敛的关系 135 几乎处处收敛与依概率收敛和依分布收敛的关系 17总结 19四种收敛性 19四种收敛蕴涵关系 19致谢 21参考文献 22引言：概率论最早产生于17世纪，本来是保险事业的发展而产生的，但是来自于赌博者的请求，却是数学家们思考概率论中问题的源泉。
第5章中心极限定理
第一节
一,随机变量的收敛性 1. 依概率收敛
大数定律
定义1 若对任意给定的ε 定义1 若对任意给定的ε>0, 有:
lim P{| X n X |< ε } = 1,
n→∞
( lim P{| X n X |≥ ε } = 0 )
n→∞
则称{X 依概率收敛于X, 记作: 则称{Xn}依概率收敛于X, 记作:
σ2 P{| X |< ε } ≥ 1 2 ε
σ2 8 P{| X |< 3σ } ≥ 1 2 = 9σ 9
8 ∴ P { 3σ < X < + 3σ } ≥ 9
将一枚硬币抛掷1000 1000次 [例2] 将一枚硬币抛掷1000次,试利用车贝晓夫不等 式估计: 1000次中,出现正面H的次数在400至600次 式估计:在1000次中,出现正面H的次数在400至600次 次中 400 之间的概率. 之间的概率. 解: 设1000次抛掷中出现正面的次数为 则 次抛掷中出现正面的次数为X, 次抛掷中出现正面的次数为
n
D (∑ X i )
i =1
D(∑ X i )
i =1
n
n a n 1 b n = P{ < ( ∑ X i n ) ≤ } n σ n σ i =1 n σ
b n a n ≈ Φ( ) Φ( ) n σ n σ
2. 德莫佛---拉普拉斯定理
定理2 设随机变量X n ~ B( n, p ), (n = 1, 2), 则对 任意x ∈ R, 有
第一节 大数定律 第二节 中心极限定理
基本要求: 基本要求 理解实际推断原理; 1. 理解实际推断原理; 掌握车贝晓夫不等式; 2. 掌握车贝晓夫不等式; 熟悉几个常用的大数定律; 3. 熟悉几个常用的大数定律; 4. 熟练掌握并能运用几个常见的中心极限定理. 熟练掌握并能运用几个常见的中心极限定理. 重点: 重点 1.车贝晓夫不等式的运用; 1.车贝晓夫不等式的运用; 车贝晓夫不等式的运用 2.中心极限定理的应用. 2.中心极限定理的应用. 中心极限定理的应用 学时数 3-4
随机变量序列的收敛特性
概率空间•几乎必然收敛(almost sure convergence)–随机变量序列收敛到，同时}{n X X {li – a.s. 1}{lim ==∞→X X P n n X X =lim XX −→−.s .a 表示为或者n n ∞→n →)}()(lim :{ςςςX X n n =∞→•依概率收敛(convergence in probability)–随机变量序列以及满足对任意}{n X X li ε–p. 0}||{lim=>-∞→εX X P n n X X =lim XX −→−.p 表示为p 或者n n ∞→n →也有可能的数值极大|X X n -|•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者n n ∞→n →•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者则n n ∞→n →m s •若，则X X n −→−m.s.∞<}{2X E 几乎必然收敛或依概率收敛都不能确保均方收敛•以概率分布收敛(convergence in distribution)–随机变量序列以及满足在任意连续的x}{n X X li )()(limx F x F X X n n =∞→–表示为 d. 或者X X n n =∞→lim XX n −→−d.•依据特征函数判断收敛–XX n −→−d.––)}({)}({X f E X f E n →)t ()t (XX nΦ→Φ.s .a ⇒XX −→−.p(Cauthy criteria)在不知道极限的情况下，判定随机变量序列收敛随机变量序列的收敛特性。
§4.3随机变量序列的两种收敛性
n
再令x ' x F ( x 0) lim Fn ( x )
n
8
同理可证： 当 x " x时，F ( x ") limFn ( x ),
n
再令x " x， F ( x 0) limFn ( x ) .
n
即有 F ( x 0) lim Fn ( x ) lim Fn ( x ) F ( x 0) . n
0, x c; 有 Fn (c / 2) F (c / 2) 1， F ( x ) 1 , x c . Fn (c ) F (c ) = 0 .
从而 P ( X n c ) （n ) 0
且 Fn ( x ) F ( x ) ， 所以当 n 时，
n
若x是F ( x )的连续点，
则 Fn ( x ) F ( x ), 即X n X .
W L
TH2表明：依概率收敛是弱收敛的充分不必要条件，
由弱收敛不能得出依概率收敛。见下面的例子。
9
例2 设X
X P
1 1 2
1 1 2
令 Xn X ,
L
当然有 X n X . 则 X n 与X 同分布，
P P P X n a ,Yn b X n Yn a b； P P X n Yn a b , X n Yn a b(b 0). 证明： ( X n Yn ) (a b ) X n a Yn b ( X n Yn ) (a b ) X n a Yn b 2 2
0 P X Y
第五章 大数定律与中心极限定理
【解】 设 X i 表示“该射手第 i 次射击的得分”，则 Y = X i 表示射手所得总分，
i=1
Xi (i =1, 2, , 200) 独立同分布，分布表如下：
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ；
试验中发生的概率，这个定律以严格的数学形式刻画了频率的稳定性，在实际应用中，当试 验次数很大时，便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
，Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,（
i
=
1,
2,
） ,则对任意给定的正数 ε ，有
) ,则对任意实数 x ，有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ，当 n 充分大时，近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式； ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律（独立同分布随机变量的大
《概率论与数理统计》5-1 中心极限定理
例5. 为了测定一台机床的质量, 将其分解成若干个部件 来称量. 假定每个部件的称量误差（单位: kg ）服从区 间 1,1 上的均匀分布, 且每个部件的称量是独立的, 试 问至多分成多少个部件才能以不低于99%的概率保证 机床的称量总误差的绝对值不超过10.
1.55 1.55
2 1.55 1 0.8788.
例3. 有一批钢材, 其中80%的长度不小于3m, 现从钢材 中随机取出100根, 试利用中心极限定理求小于3m的钢 不超过30根的概率. 解 以Yn 为100根钢材中小于3m的钢材根数, 由题意知:
1 E X p, D X p 1 p n
定理5.3 独立同分布情形下大数定律
设
X1 , X 2 ,
是一个独立同分布的随机变量序列. 且
P E X , D X 2 . 则 X
证明关键步骤:
1 2 E X , D X n
Yn
B 200,0.15 .
Y np N 30 0.95, P Yn N P n np 1 p 25.5 N 30 查表得: 1.645, 即: N 38.3068, 所以可取
25.5
N 39方能以95%的把握保证在该时刻分机可以使用外
在§1.3中, 我们曾经提到频率的稳定性. 设随机事件A的概率P(A)=p, 在n重贝努利试验中事件A 发生的频率为 f n A .当n很大时, 将与p非常接近. 由 于 f n A 本质上是一个随机变量，它随着不同的n次试 验可能取不同的值, 因而需要对随机变量序列引进新 的收敛性定义.
五章随机变量的收敛
例2：依分布收敛
考虑随机序列 X1,X2...,Xn ，其中 Xn~N0,1n
直观：X n 集中在0处，X n 收敛到0
但
Xn0
Xn 2
（Chebyshev不等式）
1n 0
2
4
两种收敛的定义
5.1 定义：令 X1,X2...,Xn为随机变量序列，X为另 一随机变量，用Fn表示Xn的CDF，用F表示X的 CDF
Quadratic mean (L2)
Point-mass distribution
probability
distribution
L1
反过来不成立！
almost surely
9
例：伯努利大数定律
设在一次观测中事件A发生的概率为 p A ，如果观
测了n次，事件A发生了n A 次，则当n充分大时，A在次观
np<5）或
n不1大 ，p则可用Poisson分布来近似计算
nP o isso n,n p
Cnkpk
1pnk
x
e
x!
21
中心极限定理的应用之一 —二项概率的近似计算（续）
当p不太接近于0或1时，可根据CLT，用正态分布来近似
计算
X i~ B ne r n o u l l ip ,X n n 1 i n 1 X i, X n p , X n p 1 p n
n Xn
Zn
Z
其中Z为标准正态分布或 ln i m Z nz z z
也记为 XnN,2 n
1ex22dx
2
无论随机变量X为何种类型的分布，只要满足定理条件， 其样本均值就近似服从正态分布。正态分布很重要
但近似的程度与原分布有关
概率统计简明教程 第五章 大数定律与中心极限定理
168第五章 大数定律与中心极限定理我们知道，随机事件在某次试验中可能发生也可能不发生，但在大量的重复试验中随机事件的发生却呈现出明显的规律性，例如人们通过大量的试验认识到随机事件的频率具有稳定性这一客观规律.实际上，大量随机现象的一般平均结果也具有稳定性，大数定律以严格的数学形式阐述了这种稳定性，揭示了随机现象的偶然性与必然性之间的内在联系.客观世界中的许多随机现象都是由大量相互独立的随机因素综合作用的结果，而其中每个随机因素在总的综合影响中所起作用相对微小.可以证明，这样的随机现象可以用正态分布近似描述，中心极限定理阐述了这一原理.§1 大 数 定 律首先我们介绍证明大数定律的重要工具—切比雪夫（Chebyshev ）不等式.1.1 切比雪夫不等式定理 1.1 设随机变量X 数学期望()E X 和方差()D X 都存在，则对任意给定的正数ε，成立{}2()()D X P X E X εε-≥≤. （1.1）证明 只对X 是连续型随机变量情形给予证明. 设X 的密度函数为()f x ，则有{}()P X E X ε-≥()()d x E X f x x ε-≥=⎰22()[()]()d x E X x E X f x x εε-≥-≤⎰221[()]()d x E X f x x ε+∞-∞≤-⎰1692()D X ε=.称（1.1）为切比雪夫不等式，它的等价形式为 {}2()|()|1.D X P X E X εε-<≥-（1.2）切比雪夫不等式直观的概率意义在于：随机变量X 与它的均值()E X 的距离大于等于e 的概率不超过21D X （）e.在随机变量X 分布未知的情况下，利用切比雪夫不等式可以给出随机事件{()}X E X ε-<的概率的一种估计.例如当ε={8|()|0.8889.9P X E X -<=≥也就是说，随机变量X 落在以()E X为中心，以为半径的邻域内的概率很大，而落在该邻域之外的概率很小.随机变量X 的取值集中在()E X 附近，而这正是方差这个数字特征的意义所在.例1.1 已知随机变量X 和Y 的数学期望、方差以及相关系数分别为()()2E X E Y ==,()1D X =,()4D Y =,,0.5X Y ρ=,用切比雪夫不等式估计概率{6}P X Y -≥.解 由于()()()0E X Y E X E Y -=-=,,(,)1X YCov X Y ρ==,()()()2(,)523D X Y D X D Y cov X Y -=+-=-=,170由切比雪夫不等式，有2(){6}{()()6}6D X Y P X Y P X YE X Y --≥=---≥≤310.08333612===.例 1.2 假设某电站供电网有10000盏电灯,夜晚每一盏灯开灯的概率都是0.7,并且每一盏灯开、关时间彼此独立,试用切比雪夫不等式估计夜晚同时开灯的盏数在6800至7200之间的概率.解 令X 表示夜晚同时开灯的盏数,则~(,)X B n p ，10000n =，0.7p =，所以()7000E X np ==, ()(1)2100.D X np p =-=由切比雪夫不等式，有{}{}68007200|7000|200X P X P <<=-<221001200≥-0.9475=.在例1.2中，如果用二项分布直接计算，这个概率近似为0.99999.可见切比雪夫不等式的估计精确度不高. 切比雪夫不等式的意义在于它的理论价值，它是证明大数定律的重要工具.1.2 依概率收敛在微积分中，收敛性及极限是一个基本而重要的概念，数列{}n a 收敛到a 是指对任意0e >，总存在正整数,N 对任意的n N >时，恒有||.n a a e -<在概率论中，我们研究的对象是随机变量，要考虑随机变量序列的收敛性.如果我们以定义数列的极限完全相同的方式来定义随机变量序列的收敛性，那么，随机变量序列{}1n X n （）³收敛到一个随机变量X 是指对任意0e >，总存在正整数,N 对任意的n N >时，恒有||n X X e -<.但171由于,n X X 均为随机变量，于是||n X X -也是随机变量，要求一个随机变量取值小于给定足够小的e 未免太苛刻了，而且对概率论中问题的进一步研究意义并不大.为此，我们需要对上述定义进行修正，以适合随机变量本身的特性.我们并不要求n N >时， ||n X X e -<恒成立，只要求n 足够大时，出现||n X X e ->的概率可以任意小.于是有下列的定义定义 1.1 设12,,,,n X X X 是一个随机变量序列，X 是一个随机变量，如果对于任意给定的正数ε，恒有{}lim 0,n n P X X ε→∞->= （1.3）则称随机变量序列12,,,,n X X X 依概率收敛于X ，记作nPX X −−→.1.3 大数定律在第一章，我们曾指出，如果一个事件A 的概率为p ，那么大量重复试验中事件A 发生的频率将逐渐稳定到p ，这只是一种直观的说法.下面的定理给出这一说法的严格数学表述.定理1.2 伯努利大数定律 设A n 是n 重伯努利试验中事件A 发生的次数， p (01)p <<是事件A 在一次试验中发生的概率，则对任意给定的正数ε，有{}lim 1.n A n Pp nε→∞-<= （1.4）证明 由于A n 是n 重伯努利试验中事件A 发生的次数，所以~(,)A n B n p ，进而172()A E n np =，()(1)A D n np p =-. ()()A A n E n E p n n==， 2()(1)()A A n D n p p D n nn-==.根据切比雪夫不等式，对任意给定的0ε>，有2(){()}1A A A n D n n nP E nnεε-<≥-，即2(1)1{}1A n p p P p n nεε--≤-<≤.令n →∞，则有 lim {}1A n n P p nε→∞-<=.由伯努利大数定律可以看出，当试验次数n 充分大时，事件A 发生的频率A n n与其概率p 能任意接近的可能性很大（概率趋近于1），这为实际应用中用频率近似代替概率提供了理论依据.定理1.3 切比雪夫大数定律 设,,,,12X X X n 是相互独立的随机变量序列,其数学期望与方差都存在，且方差一致有界,即存在正数M ,对任意k （1,2,k = ），有()k D X M ≤则对任意给定的正数ε,恒有1111lim () 1.nnk k n k k P X E X nnε→∞==-<=⎧⎫⎨⎬⎩⎭∑∑ （1.5）证明 因为()1111()nnkkk k EXE Xnn===∑∑,()21111()nnkkk k DXD Xnn===∑∑,173由切比雪夫不等式,有{}12211()11()1nknnk k kk k D XPX E Xnnn εε===-<≥-∑∑∑.由于方差一致有界,因此1(),nkk D XnM =≤∑从而得{}211111()1nnkkk k M PXE Xn nnεε==-≤-<≤∑∑.令n →∞,则有{}1111lim ()1nnkkn k k PXE Xnnε→∞==-<=∑∑.推论1.1 设随机变量12,,,n X X X ，相互独立且服从相同的分布，具有数学期望()(1,2,)k E X k μ== 和方差2()k D X σ=（1,2,k = ），则对任意给定的正数ε，有{}11lim 1.nn k k PX nμε→∞=-<=∑ （1.6）切比雪夫大数定律是1866年俄国数学家切比雪夫提出并证明的,它是大数定律的一个相当普遍的结果，而伯努利大数定律可以看成是它的推论.事实上，在伯努利大数定律中，令1,k X ⎧=⎨⎩在第k 次试验中事件A 发生,在第k 次试验中事件A 不发生.0， (1,2,)k =，则(1,)(1,2,),k X B p k = 1nk k A X n ==∑,11nAkk n X nn ==∑，11()nkk E Xp n==∑，并且12,,,,n X X X 满足切比雪夫大数定律的条件， 于是由切比雪夫大数定律可证明伯努利大数定律.174以上两个大数定律都是以切比雪夫不等式为基础来证明的,所以要求随机变量的方差存在.但是进一步的研究表明,方差存在这个条件并不是必要的.下面介绍的辛钦大数定律就表明了这一点.定理 1.4 辛钦(Khintchine)大数定律 设随机变量序列12,,,n X X X ，相互独立且服从相同的分布,具有数学期望()k E X μ=,1,2,k = ,则对任意给定的正数ε，有{}11lim 1nn k k PX nμε→∞=-<=∑ （1.7）证明略.使用依概率收敛的概念，伯努利大数定律表明：n 重伯努利试验中事件A 发生的频率依概率收敛于事件A 发生的概率，它以严格的数学形式阐述了频率具有稳定性的这一客观规律.辛钦大数定律表明：n 个独立同分布的随机变量的算术平均值依概率收敛于随机变量的数学期望，这为实际问题中算术平均值的应用提供了理论依据.例 1.3 已知12,,,,n X X X 相互独立且都服从参数为2的指数分布，求当n →∞时，211nn k k Y X n==∑依概率收敛的极限.解 显然 1()2k E X =，1()4k D X =，所以22111()()()442k k k E X E X D X =+=+= ，1,2,k = ，由辛钦大数定律，有 22111()2nP n k k k Y X E X n==−−→=∑.最后需要指出的是：不同的大数定律应满足的条件是不同的，切比雪夫大数定律中虽然只要求12,,,,n X X X 相互独立而不要求具有相同的分布，但对于方差的要求是一致有界的；伯努利大数定律则要求12,,,,n X X X 不仅独立同分布，而且要求同服从同参数的01-分布；175辛钦大数定律并不要求k X 的方差存在，但要求12,,,,n X X X 独立同分布.各大数定律都要求k X 的数学期望存在，如服从柯西（Cauchy ）分布,密度函数均为21()(1)f x x p =+的相互独立随机变量序列，由于数学期望不存在，因而不满足大数定律.§2 中心极限定理上节大数定律实际上告诉我们：当n 趋向于无穷时，独立同分布的随机变量序列的算术平均值11nk k X n=å依概率收敛于k X 的数学期望m ，即对任意给定的0e >，有11{||}0nk k P X nm e=-钞å.那么，对固定的0e >，n 充分大时，事件11{||}nk k X nm e =- å的概率究竟有多大，大数定律并没有给出答案，本节的中心极限定理将给出更加“精细”的结论.定理2.1 列维-林德伯格(Levy-Lindberg)定理(独立同分布的中心极限定理) 设随机变量12,,,,n X X X 相互独立且服从相同的分布,具有数学期望()k E X μ=和方差2()0k D X σ=> (1,2,)k = ,则对任意实数x ，有221lim Φd ().nk n tx X n P x t x e→∞--∞-μ≤==⎧⎫⎪⎪⎬⎪⎩⎭∑⎰ （2.1）证明略.独立同分布的中心极限定理表明：只要相互独立的随机变量序列17612,,,,n X X X 服从相同的分布，数学期望和方差（非零）存在，则当n →∞时，随机变量nkn Xn Y -=∑μ总以标准正态分布为极限分布，或者说，随机变量1nk k X =∑以()2,N n n μσ为其极限分布.在实际应用中，只要n 足够大，便可以近似地把n 个独立同分布的随机变量之和当做正态随机变量来处理，即21(,)nk k X N n n =∑μσ 近似或.(0,1)nin Xn Y N μ-=∑近似（2.2）下面的定理是独立同分布的中心极限定理的一种特殊情况. 定理2.2 棣莫弗—拉普拉斯（De Moivre-Laplace ）定理设随机变量n Y 服从参数为,(01)n p p <<的二项分布，则对任意实数x ，恒有22lim Φ()1d n tx Y x x et npP →∞--∞≤==⎧⎫-⎬⎭⎰（2.3）证明 设随机变量12,,...,n X X X 相互独立，且都服从(1,)B p （01p <<），则由二项分布的可加性，知1nn k k Y X ==∑.由于()k E X p =，()(1)k D X p p =-，1,2,k = ，根据独立同分布的中心极限定理可知，对任意实数x，恒有22limΦ(),1dnkntxX npx xe tP→∞--∞-≤==⎧⎫⎪⎪⎬⎪⎭∑⎰亦即22limΦ().1dntxYxx e tnpP→∞--∞≤==⎧⎫-⎬⎭⎰当n充分大时，可以利用该定理近似计算二项分布的概率.例2.1某射击运动员在一次射击中所得的环数X具有如下的概率分布求在100次独立射击中所得环数不超过930的概率.解设iX表示第(1,2,,100)i i= 次射击的得分数，则12100,,,X X X相互独立并且都与X的分布相同，计算可知()9.15iE X=，() 1.2275,iD X=1,2,,100i= ，于是由独立同分布的中心极限定理，所求概率为{}1001930iiXp P=≤=∑1001009.159301009.15iXP⨯-⨯-=≤⎧⎫⎪⎪⎩⎭∑177178(1.35)0.9115Φ≈=.例 2.2 某车间有150台同类型的机器，每台出现故障的概率都是0.02，假设各台机器的工作状态相互独立，求机器出现故障的台数不少于2的概率.解 以X 表示机器出现故障的台数，依题意，(150,0.02)X B ，且()3E X =，() 2.94D X =，1.715=，由德莫弗—拉普拉斯中心极限定理，有{}{}211P X P X ≥=-≤ {}3131 1.7151.715X P--=-≤1Φ(0.5832)≈--0.879=.例 2.3 一生产线生产的产品成箱包装，每箱的重量是一个随机变量，平均每箱重50千克，标准差5千克.若用最大载重量为5吨的卡车承运，利用中心极限定理说明每辆车最多可装多少箱，才能保证不超载的概率大于0.977？解 设每辆车最多可装n 箱，记(1,2,,)i X i n = 为装运的第i 箱的重量（千克），则12,,,n X X X 相互独立且分布相同，且()50i E X =，()25,i D X = 1,2,,i n = ， 于是n 箱的总重量为12n n T X X X =+++ ，由独立同分布的中心极限定理，有50{5000}nin XnP T P -≤=≤∑Φ≈.由题意，令179Φ0.977Φ(2).>=有2>， 解得98.02n <，即每辆车最多可装98箱.第二章的泊松定理告诉我们： 在实际应用中，当n 较大p 相对较小而np 比较适中（10,100≤≥np n ）时，二项分布),(p n B 就可以用泊松分布()P λ（np =λ）来近似代替；而德莫弗—拉普拉斯中心极限定理告诉我们：只要n 充分大，二项分布),(p n B 就可以用正态分布近似计算，一般的计算方法是： （1）对0,1,,,k n =ΦΦ⎛⎫⎛⎫≈-⎝（2.4） （2）对非负整数1212;,0k k k k n ≤<≤ 12{}X k P k <≤≈ΦΦ⎛⎫⎛⎫- （2.5）*李雅普诺夫（Liapunov ）定理设12,,,,n X X X 相互独立，且具有数学期望()k k E X μ=和方差2()0k k D X σ=≠（1,2,k = ），记221nn kk B σ==∑，若存在正数δ，使得n →∞时，{}{0.50.5}P X k P k k k ==-<≤+1802211(||)0nkk k nE XB δδμ++=-→∑，则随机变量11()nnnnkkkkk k n nXE XXZ Bμ==--==∑∑∑∑的分布函数()n F x 对于任意实数x ，恒有11lim ()lim n nk kk k nn n nX F x P x Bμ==→∞→∞-=≤⎧⎫⎪⎪⎨⎬⎪⎪⎩⎭∑∑221Φ()txedt x --∞==⎰.证明略.在李雅普诺夫定理的条件下，当n 充分大时，随机变量11nnk kk k n nX Z B μ==-=∑∑近似服从标准正态分布(0,1)N .因此，当n 充分大时,随机变量11nnkn n kk k XB Z μ===+∑∑近似服从正态分布21(,)nkn k N B μ=∑.这就是说,无论随机变量(1,2,)k X k = 服从什么分布,只要满足李雅普诺夫定理的条件,181当n 充分大时,这些随机变量的和1nk k X =∑就近似服从正态分布.在许多实际问题中,所考察的随机变量往往可以表示成很多个独立的随机变量的和.例如,一个试验中的测量误差是由许多观察不到的、可加的微小误差合成的；一个城市的用水量是大量用户用水量的总和，等等，它们都近似服从正态分布．习 题 五1.已知()1E X =，()4D X =，利用切比雪夫不等式估计概率{}1 2.5P X -<.2. 设随机变量X 的数学期望()E X μ=，方差2()D X σ=，利用切比雪夫不等式估计{}||3P X μσ-≥.3. 随机地掷6颗骰子，利用切比雪夫不等式估计6颗骰子出现点数之和在1527 之间的概率.4. 对敌阵地进行1000次炮击，每次炮击中.炮弹的命中颗数的期望为0.4，方差为3.6，求在1000次炮击中，有380颗到420颗炮弹击中目标的概率.5. 一盒同型号螺丝钉共有100个，已知该型号的螺丝钉的重量是一个随机变量，期望值是100g ，标准差是10g .求一盒螺丝钉的重量超过10.2kg 的概率.6. 用电子计算机做加法时，对每个加数依四舍五入原则取整，设所有取整的舍入误差是相互独立的，且均服从[]0.5,0.5-上的均匀分布.182（1）若有1200个数相加，则其误差总和的绝对值超过15的概率是多少？（2）最多可有多少个数相加，使得误差总和的绝对值小于10的概率达到90%以上.7. 在人寿保险公司是有3000个同一年龄的人参加人寿保险，在1年中，每人的的死亡率为0.1%，参加保险的人在1年第1天交付保险费10元，死亡时家属可以从保险公司领取2000元，求保险公司在一年的这项保险中亏本的概率.8. 假设12,,...,n X X X 是独立同分布的随机变量，已知()ki k E X α=(1,2,3,4;1,2,,)k i n == .证明：当n 充分大时，随机变量211nn ii Z Xn==∑近似服从正态分布.9. 某保险公司多年的统计资料表明：在索赔户中被盗索赔户占20%，以X 表示在随机抽查的100个索赔户中因被盗向保险公司索赔的户数.（1）写出X 的概率分布；（2）利用德莫弗-位普拉斯中心极限定理，求：被盗索赔户不少于14户，且不多于30户的概率.10 . 某厂生产的产品次品率为0.1p =，为了确保销售，该厂向顾客承诺每盒中有100只以上正品的概率达到95%，问：该厂需要在一盒中装多少只产品？11. 某电站供应一万户用电，设用电高峰时，每户用电的概率为0.9，利用中心极限定理：（1）计算同时用电户数在9030户以上的概率？（2）若每户用电200瓦，问：电站至少应具有多大发电量，才能以0.95的概率保证供电？【提供者：路磊】183。
第二节收敛性
l n i m F n ( ) F ( ) ,l n i m F n ( ) F ( ) ,
因 而 J 1 ,J 3 可 以 任 意 小 ,再 结 合 定 理 5 .2 .2 ,只 要 n 充 分 大 , 也 可 以 使 得 J 2 任 意 小 ,由 此 可 以 得 到 定 理 成 立 .
| f( x k ) [ F ( x k 1 ) F n ( x k 1 ) ] f( x k ) [ F (x k ) F n (x k ) ]
k 0
k 0
N(M
M
)2
M N M N
综上所述
b
b
|
a
f(x)dF(x) a
f(x)dFn(x)|
而
b
b
|af(x )d F (x )af(x )d F n (x )|
N 1
N 1
| f(x k ) [ F (x k 1 ) F (x k ) ]f(x k ) [ F n (x k 1 ) F n (x k ) ]
k 0
k 0
N 1
N 1
lni m Fn,n(r2)G(r2)
一 般 地 ,对 任 何 固 定 的 k,皆 有 lni m Fn,n(rk)G(rk).
因 此 对 一 切 有 理 数 r lni m Fn,n(r)G(r)
这 里 的 G (r)是 定 义 在 有 理 数 上 的 函 数 ,它 也 是 有 界 和 非 降 的 .
引 理 5.2.1 设 {Fn(x)}是 实 数 变 量 x的 非 降 函 数 列 ， D 是 R1上 的 稠 密 集 .若 对 于 D 中 所 有 点 ， 序 列 {Fn(x)} 收 敛 于 F(x)， 则 对 F(x)的 一 切 连 续 点 x有
随机变量序列的几种收敛性和关系毕业论文
由上面四种收敛性间的关系可得：
几乎处处收敛 依概率收敛 依分布收敛.
阶收敛 依概率收敛 依分布收敛.
3.
因为随机变量取值的统计规律可由它的分布函数完全确定，所以自然会考虑利用分布函数的收敛性来定义随机变量的收敛性，又分布函数和特征函数一一对应，而判断一个分布函数的序列的收敛是否弱收敛有时是很麻烦的，但判断相应的特征函数序列的收敛性却往往比较容易，下面给出弱收敛的充要条件，首先做一些准备：
后来我们引入了伯努利概型来刻画独立重复试验.将一成功（即A发生）概率为p的试验独立重复n次，其中成功 次，则 是二项分布随机变量.
因此成功的频率 也是随机变量.其期望为p与n无关，且方差 当 时趋于0.熟知，方差为0的随机变量恒等于它的期望，所以当 时频率 应以概率p为极限.另一方面，可以写 ，其中 相互独立，具有一样的伯努利分布，至此，问题转化为研究 时 的平均值序列 的极限行为.鉴于已在上面讨论过随机变量列的各种收敛性，因此我们可以给出大数定律的严格定义.
注：由于 连续，如 广义均匀收敛到 ，则 必定是连续函数.
系1设分布函数列 对应的特征函数列为 ，则下列四条件等价：
（1） 弱收敛于某分布函数 ，
（2） 收敛到某函数 ， 在点0连续，
（3） 收敛到某连续函数 ，
（4） 广义均匀收敛到某函数 .
当任一条件满足时， 是 的特征函数.
下面说明系1中等价条件（2）中“ 在 的连续性”是不可缺少的条件.
则对任意的 ，有 成立.
证明：因为 有一样分布，所以也有一样的特征函数，记这个特征函数为 ，又因为 存在，从而特征函数 有展开式：
=
再由独立性知 的特征函数为
对任意取定的t,有
而 是退化分布的特征函数，相应的分布函数为
概率论5
lim P Yn Y 0,
特别地，当Y c为一常数时，称{Yn , n 1} 依概率收敛于常数c.
c c c
P P 性质： X n a, Yn b,当n 时. 若
函数（x,y）在点(a,b)连续，则 g g ( X n , Yn） g (a, b)，当n 时.
例4 设随机变量X 1 , , X n , , 相互独立同分布， X 1 ~ U (1, 1). 则 1 n 1 n 1 n 2 （） X k，（2） X k ，（3） X k 1 n k 1 n k 1 n k 1 分别依概率收敛吗？ 如果依概率收敛，分别收敛于什么？
1 n P 因为，E( X1 ) 0, 故， X k 0， n k 1 1 1 1 1 n P 1 同理，E ( X 1 ) x dx , X k ， 1 2 2 n k 1 2 1 1 1 n 2 P 1 2 2 1 E ( X 1 ) x dx , X k . 1 2 3 n k 1 3
1 100 5 /100 P{| X i | 0.5} 1 0.52 0.8; 100 i 1
(2)同样利用切比雪夫不等式，要使得
1 n 5/ n P{| X i | 0.5} 1 2 0.95， n需满足n 400. n i 1 0.5
例2 在n重贝努里试验中，若已知每次试验 事件A出现的概率为0.75，试利用切比雪夫不 等式, (1)若n=7500,估计A出现的频率在0.74至0.76 之间的概率至少有多大； （2）估计n,使A出现的频率在0.74至0.76之 间的概率不小于0.90。
n
n
即，条件(5.1.8)满足,由定理5.1.3知结论成立.
第五章随机变量的数字特征与极限定理
2021/2/19
20
❖ 5.1.3 随机变量函数的数学期望
❖ 关于一维随机变量函数的数学期望，有下面的定理 ❖ 定理5.1 设Y=g(X)，g(x)是连续函数. ❖ (ⅰ)若X是离散型随机变量，分布列为P(X=xk)=pk，
k=1,2,…，且
k 1
❖ 绝对收敛，即
| xk | pk
k1
❖ 则称该级数为离散型随机变量X的数学期望或均值， 记为EX或E(X)，即
EX xk pk k1
2021/2/19
3
❖当
| xk | pk
k 1
❖ 发散时，则称X的数学期望不存在.
❖ 定义中的绝对收敛条件是为了保证式
xk pk
k 1
❖ 不受求和的次序的改变而影响其和的值.
❖ 这个结果是可以预料的，因为X在[a,b]上服从均匀 分布，它取值的平均值当然应该是[a,b]的中点.
2021/2/19
14
❖ 例5 (指数分布) 设连续型随机变量X的概率密度为
ex,
f(x) 0,
❖ 其中λ是正常数，求EX.
x0, x0.
2021/2/19
15
❖ 解 EX
xf ( x ) dx
2021/2/19
12
❖ 常用的连续型随机变量的数学期望 ❖ 例4 (均匀分布)设连续型随机变量X的概率密度为
f
(x)
1 ba
,
a x b,
0,
其 他.
(a b)
❖ 求EX.
2021/2/19
13
❖ 解
EX xf ( x ) dx
bx
何书元概率引论答案
何书元概率引论答案何书元概率引论答案【篇一：课程名称：概率论计划学时45】=txt>上课时间：周二3-4节；周四(单周) 1-2节地点：文史201 任课教师：任艳霞（教授）办公室：理科1号楼1381email:基本目的：1、对随机现象有充分的感性认识和比较准确的理解。
2、联系实际问题，初步掌握处理不确定性事件的理论和方法。
教材: 何书元，《概率论》, 北京大学出版社2006年参考书1、汪仁官，《概率论引论》，北京大学出版社19942、李贤平，《概率论基础》（第二版），高等教育出版社，19973、钱敏平、叶俊，《随机数学》，高等教育出版社，20044、sheldon ross, a first course in probability (7thedition)教学安排：第一章古典概型与概率空间(10学时)1) 随机事件及古典概型（1.1-1.2节）(2学时)2) 几何概型、概率空间与概率的性质（1.3-1.5节）(2学时)3) 条件概率和乘法公式（1.6节）(2学时)4) 独立性、全概率公式、bayes公式（1.7-1.8节）(3学时)5) 概率模型举例与概率空间续（1.8-1.9节）(1学时)第二章随机变量与概率分布(9学时)1) 一维随机变量定义、离散型随机变量（2.1-2.2节）(2学时)2) 连续型随机变量（2..3节）(2学时)3) 概率分布函数（2.4节）(2学时)4) 随机变量函数的分布（2.5节）(2学时)5) p分位点（2.5节）(1学时)第三章随机向量及其分布(8学时)1) 随机向量及其分布、离散型随机向量及其分布（3.1-3.2节）(2学时)2) 连续型随机向量及其联合密度（3.3节）(2学时)3) 随机向量函数的分布（3.4、3.6节）(2学时)4) 条件分布和条件密度（3.5节）(2学时)第四章数学期望与方差(8学时)1) 数学期望(4.1-4..2节) (3学时)2) 方差（4.3节）(1学时)3) 协方差与相关系数（4.4节）（2学时）4）条件数学期望（2学时）第五章概率极限理论(10学时)1) 概率母函数与特征函数（5.1-5.2节）(2学时)2) 多元正态分布（5.3节）(2学时)3) 大数律(5.4节) (2学时)4）中心极限定理(5.5节)（2学时）5）随机变量收敛性介绍（2学时）【篇二：2011f_master】目）招生简章北京大学数学科学学院金融数学系成立于1997年，目前已形成从本科到硕士和博士的应用数学专业金融数学与精算学方向的较为系统和有品质的培养体系。
概率论与数理统计4-2 随机变量序列的收敛性
则P(
2 n
)
=P{( n n )（k M）} +P{( n n )（k M）}
P( 2 >M-1)+P( n 1)<2
P( n
（由例4.3给出例证，请大家看书！）
定理4.5 随机变量序列n P P c, (c为常数）
的充分必要条件是
Fn (x) W F (x)
这里的F
(x)是
c的分布函数，即
F(x)=
1,x>c 0,x
c
证明：下证充分性. 0,有
Pn c P(n c ). P(n c )
则对x x x, 有
F( x)
lim
n
Fn
(x)
lnimFn
(x)
F
(
x)
令x x, x x,得
F(
x-0)
lim
n
Fn
(
x)
lnimFn
(
x)
F
(
x+0)
若x是F(x)的连续点,则lim n
Fn
(x)
F
(x)
注：这个定理的逆命题不成立。
1 Fn (c ) Fn (c 0)
11 0 0, n
斯鲁茨定理：设{1n },{ 2n },...{ kn }是k个
随机变量序列，且in P ai , (i 1, 2...)
又R(x ,x 1
2
...xk
)是k元变量的有理函数，
如果F(x)的每一x,有
极限定理
概 率 论
柯尔莫哥洛夫定理 对相互独立同分布随机变量序列 n ，若满足条件 E| n |<, 则 1 n 1 n P lim i E ( i ) 0 1. n i 1 n n i 1
返 回
前一页
后一页
概 率 论
故而当 n 很大时, 事件发生的频率与概率 有较大偏差的可能性很小. 在实际应用中, 当试 验次数很大时, 便可以用事件发生的频率来代 替事件的概率.
返 回
前一页
后一页
概 率 论
3、泊松大数定律(定理5.1.2)
设随机变量 X 1 , X 2 , , X n , 为相互独立的随机变量序列,
P { X n 1} pn , P { X n 0} q n .
1 n 1 n lim P {| X i EX i | } 1 n n i 1 n i 1
或
1 n 1 n lim P {| X i EX i | } 0 n n i 1 n i 1
即{ X n } 服从 大数定律.
µ
1 n lim P {| X | } lim P X k 1. n n n k 1
返 回 前一页 后一页
1 n lim P {| X | } lim P X k 1. n n n k 1 n n
概 率 论
证明
1 1 E X k E( X k ) n k 1 n k 1
根据上述方法，例1不收敛。
定义
| X n X | :| X n ( ) X () |
lim P{| X n X | } 1
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
如果观测了n次，事件A发生了nA 次，则当n充分大时，A在次观测中
发生的频率 fn A nA n逐渐稳定到概率p 。
那么lim n
fn
A
p?
不对，若
则对于
lim
n
0
fn A
，总存在
p
N
0
,当
n
N 时，有
fn
A
p 成立
但若取 p , 由于
nA n
p
V
nA n
2
p 1 p
n 2
0
n 。
10
例：5.3
令 Xn ~ N 0,1 n
直观：X n 集中在0处， X n收敛到0
依概率收敛：
P
Xn
0
VXn
2
（Chebyshev不等式）
1
n
2
lim P
Cnk pk
1 p
nk x e
x!
21
中心极限定理的应用之一 —二项概率的近似计算（续）
当p不太接近于0或1时，可根据CLT，用正态分布来近似
计算
Xi
~
Bernoulli
n
p,
X
n
1 n
n i 1
或
lim P
n
: Xn X
0
随机变量序列 X1, X2..., Xn ，当对任意 0，
或
P
lim
n
Xn X
0
P
:
lim
n
Xn
X
0
则称随机变量序列 X1, X2..., Xn,...几乎处处依概率收敛到X （converge almost surely to X） ，记为：Xn a.s. X
次抛掷的输出（0或1）。因此 p P Xi 1 E Xi
若共抛掷n次，正面向上的比率为 X n。根据大数定律，
X n P p
但这并不意味着 X n 在数值上等于p
而是表示当n很大时，X n 的分布紧围绕p
令 p 1 2 ，若要求 P 0.4 Xn 0.6 0.7 ，则n至少为多少？
则Xn依概率收敛于X ，记为 Xn 揪P? X 。 2、如果对所有F的连续点t，有
lim
n
Fn
(t)
=
F (t)
则Xn依分布收敛于X ，记为 Xn » X 。
同教材上
5
两种收敛的定义
当极限分布为点分布时，表示为
依概率收敛：
P X c 1, and Xn P X , then Xn Pc
2
=
n
1 -
1骣珑珑珑桫i=n1
X
2 i
-
n
X
2 n
鼢鼢鼢=
n 骣1 n- 1桫n
n i= 1
X
2 i
-
n2 Xn
n- 1
å ( ) 根据大数定律， 1 n
n i= 1
X
2 i
揪P?
E
X
2 i
又 n 1, as n n- 1
å ( ) 所以 n n-
1骣ççç桫1n
n i= 1
X
2 i
÷÷÷揪P?
E
证明：根据Cheyshev不等式
P
Xn
V Xn
2
2
0, as
n 2
在定理条件下，当样本数目n无限增加时，随机样本均值 将几乎变成一个常量
对样本方差呢？依概率收敛于方差 2 14
邋( ) ? Sn2 =
1n n - 1 i=1
Xi -
Xn
设在一次观测中事件A发生的概率为 p P A ，如果观
测了n次，事件A发生了nA 次，则当n充分大时，A在次观
测中发生的频率 fn A nA n 逐渐稳定到概率p 。
即对于 0，
lim P
n
nA n
p
0
表示当n充分大时，事件发生的频率
每个计算机程序的错误的数目为X，X ~ Poisson, 5
现有125个程序，用 X1, X2..., X125 表示各个程序中的错误
的数目，求 P X n 5.5 的近似值
解： E X1 5, 2 V X1 5
P X n 5.5 P
n Xn
n
5.5
125 5.5 5
P Z
5
P Z 2.5 0.9938
20
中心极限定理的应用之一 —二项概率的近似计算
设 n是n重贝努里试验中事件A发生的次数，则
for t 0,
Fn t P Xn t P n Xn nt P Z nt 1, as n
Fn t F t, for all t 0 Xn 0
for
t 0,
Fn
0
1 2
F
0
1
但是 t 0 不是F的连续点
P fn A 0 1 pn 0
即无论N多大,在N以后,总可能存在n ,使 fn A 0
所以 fn A 不可能在通常意义下收敛于p。
3
例2：依分布收敛
考虑随机序列 X1, X2..., Xn ，其中 Xn ~ N 0,1 n
直观：X n 集中在0处，X n 收敛到0
几乎处处收敛：比依概率收敛更强
8
各种收敛之间的关系
点分布，c为实数 P X c 1
Quadratic mean (L2)
Point-mass distribution
probability
distribution
L1
反过来不成立！
almost surely
9
例：伯努利大数定律
nA
与其概率p存在较
大偏差的可能性小。
n
证明： nA ~ Binomial (n, p), E (nA )= np, V(nA )= np(1- p)，
所以
E 骣 珑 珑 珑 桫nnA 鼢 鼢 鼢=
p,
V
骣nA 桫n
=
p (1-
n
p) ，
对 0 ，根据 Chebyshev 不等式，有
P
当极限分布为点分布时，记为 X n qm c
对应还有：L1收敛（converge to X in L1 ）l来自m EnXn X
0
if E Xn X 0, as , then Xn L1 X
7
其他收敛
依概率收敛
lim P
n
Xn X
0
依分布收敛：
P X c 1, and Xn X , then Xn c
6
其他收敛
还有一种收敛：均方收敛（L2收敛， converge to X in quadratic mean）
对证明概率收敛很有用
lim
n
E
Xn
X
2
0
if E X n X 2 0, as , then X n qm X
X
2 i
（如果 X n 揪P X ,Yn P井 Y ，则 X nYn 揪P? XY ）
同样，根据大数定律， X n 揪P? m ，由于 g ( y) = y2 为连续函数，
所以
X
2 n
揪P?
m2 ，
n
X
2 n
揪P?
m2
n- 1
( ) 所以 Sn2 =
揪P?
E
X
2 i
m2 = s 2
样本方差依概率收 敛于分布的方差
n ~ Binomial n, p，对任意 a b ，有
P a n b Cnk pk 1 p nk
ak b
当n很大时，直接计算很困难。这时 np如果不大（即p<0.1，
np<5）或
n不1大 ，p则可用Poisson分布来近似计算
n Poisson , np
13
弱大数定律（WLLN）
独立同分布（IID）的随机变量序列
敛方于差期V望 Xi ， 即2对任，意则 样 本0 均值
X1, X Xn
21...,nX n X
n i1
，E Xi
依概率收
i
lim P X n 0
n
称 X n 为 的一致估计（一致性）
n
Xn 0
0
11
例：续
依分布收敛：令F表示0处的点分布函数，Z表示标准正态 分布的随机变量
F
t
0 1
t0 t0
Xn ~ N 0,1 n n Xn ~ N 0,1
for t 0,
Fn t P Xn t P n Xn nt P Z nt 0, as n
12
收敛的性质
5.5 定理：设X n , X ,Yn ,Y是随机变量，g是连续函数