第四章极限定理
合集下载
大数定理与中心极限定理
n
的随机变量，使得X Xi . 易知 i 1
E( X ) np D( X ) npq
由Lindeberg-Levy中心极限定理知
lim
P
X
np
x
1
x t2
e 2 dt
n npq
2
n
理解：在定理条件下，总有 X ~ N(np, npq).
三、中心极限定理的应用
➢ Lindeberg-Levy中心极限定理应用
其概率分布一定是正态分布。
定理4(De Moivre-Laplace中心极限定理) 设随机变量X ~ B(n, p)，则对于任意的实数x，有
lim
P
X
np
x
1
x t2
e 2 dt
n npq
2
证明：因为X ~ B(n, p)，由Bernoulli大数定理证明有
X1, X 2 , , X n为独立同分布于参数为p的两点分布
P
1 n
n i1
1 Xi n
n
E( Xi )
i1
1
D(1 n n i1
2
Xi)
1
M
n 2
所以
lim P n
1 n
n i1
Xi
1 n
n i1
E( Xi )
1
推论：设X1, X 2 , , X n , 是独立同分布
随机变量序列，且数学期望为，方
差 2，则对于任意的正实数有
lim
n
当观测次数n充分大时，“观测值得算术平均值接近 期望值”是一个大概率事件，即下式以大概率成立：
1
n
n i 1
Xi
n充分大
E(X )
的随机变量，使得X Xi . 易知 i 1
E( X ) np D( X ) npq
由Lindeberg-Levy中心极限定理知
lim
P
X
np
x
1
x t2
e 2 dt
n npq
2
n
理解：在定理条件下，总有 X ~ N(np, npq).
三、中心极限定理的应用
➢ Lindeberg-Levy中心极限定理应用
其概率分布一定是正态分布。
定理4(De Moivre-Laplace中心极限定理) 设随机变量X ~ B(n, p)，则对于任意的实数x，有
lim
P
X
np
x
1
x t2
e 2 dt
n npq
2
证明：因为X ~ B(n, p)，由Bernoulli大数定理证明有
X1, X 2 , , X n为独立同分布于参数为p的两点分布
P
1 n
n i1
1 Xi n
n
E( Xi )
i1
1
D(1 n n i1
2
Xi)
1
M
n 2
所以
lim P n
1 n
n i1
Xi
1 n
n i1
E( Xi )
1
推论：设X1, X 2 , , X n , 是独立同分布
随机变量序列，且数学期望为，方
差 2，则对于任意的正实数有
lim
n
当观测次数n充分大时，“观测值得算术平均值接近 期望值”是一个大概率事件，即下式以大概率成立：
1
n
n i 1
Xi
n充分大
E(X )
第四章极限定理
)
1
0(
2.887
)
0.002
例：一袋盐的重量(千克)是一随机变量,期望为1,方差为0.01,一箱 装有100袋.求一箱中每袋平均重量在0.98至1.02千克之间的概率.
解：第i袋盐的重量为Xi(千克),（i=1.,2,…,100). Xi独立同分布
EXi=1， DXi=0.01
100
100
E( Xi ) 100, D( Xi ) 100 0.01 1
例如： 在n重独立试验中，事件A发生的频率为mn / n, 当n充分大时，A 发生的频率mn / n在概率P附近摆动， 而且n越大，偏离的可能性就越小
lim P( mn p ) 1
n
n
p- p
p+
以极限的方式建立概率接近于0（或1）的规律
大数定律：当试验次数很大时呈现出的规律。
4.1.1 切贝晓夫（Chebyshev）不等式:
n i 1
Xi
p
1 n
n i 1
EX i
lim
n
P
1 n
n i 1
1 Xi n
n
EX i
i 1
1
EXn EXn EXn
X n P E X n
(3)当n充分大时,“n个独立随机变量的算术平均数”的离散程度是
很小的。这意味着：只要n充分大，尽管n个随机变量可以各有分布，
但期其望算n1 术in1 E平X均i 附以近后，得不到再的为随个机别变随量机n1变i量n1 X所i左将右较。密-集-地-大聚数集在定它律的
100
100
E( Xi ) 915, D( Xi ) 1001.05 105
i 1
i 1
第四章中心极限定理与参数估计
k 1
当 n 很大时,近似地服从正态分布.
第四章 中心极限定理与参数估计
例 1、对敌人的防御工事进行 80 次轰炸，每次轰炸命中目标炸弹 数目的数学期望为 2，方差为 0.8，且各次轰炸相互独立，求在 80 次轰炸中有 150 颗～170 颗炸弹命中目标的概率。 解：第 i 次轰炸命中目标炸弹的数目 X i (i 1,2,,80) 都是离散型随机
根据随机变量数学期望的性质，计算数学期望
80
80
80
E( X ) E( X i ) E( X i ) 2 160
i 1
i 1
i 1
第四章 中心极限定理与参数估计
由于离散型随机变量变量 X 1 , X 2 ,, X 80 相互独立，根据随机
变量方差的性质，计算方差
80
80
80
D( X ) D( X i ) D( X i ) 0.8 64 82
分大时，离散型随机变量 X 近似服从参数为 np, npq ( p q 1)
的正态分布，即近似有离散型随机变量 X ～ N(np, npq) 定理4.22表明:
正态分布是二项分布的极限分布, 当n充分大时, 可 以利用该定理来计算二项分布的概率.
随机变量 X 的取值在数学期望 E(X ) 附近的密集程度越低。
第四章 中心极限定理与参数估计
（3）在使用切贝谢夫不等式时，要求随机变量 X 的数学期望 E( X ) 与方差 D( X ) 一定存在，这时无论随机变量 X 的概率分布已知或未
知，都可以对事件 X E(X ) 发生的概率进行估计。 2、切贝谢夫不等式的应用举例 例1、 已知电站供电网有电灯 10000 盏，夜间每一盏灯开灯的概率 皆为 0.8，且它们开关与否相互独立，试利用切贝谢夫不等式估计夜 晚同时开灯的灯数在 7800 盏～8200 盏之间的概率。
当 n 很大时,近似地服从正态分布.
第四章 中心极限定理与参数估计
例 1、对敌人的防御工事进行 80 次轰炸，每次轰炸命中目标炸弹 数目的数学期望为 2，方差为 0.8，且各次轰炸相互独立，求在 80 次轰炸中有 150 颗～170 颗炸弹命中目标的概率。 解：第 i 次轰炸命中目标炸弹的数目 X i (i 1,2,,80) 都是离散型随机
根据随机变量数学期望的性质，计算数学期望
80
80
80
E( X ) E( X i ) E( X i ) 2 160
i 1
i 1
i 1
第四章 中心极限定理与参数估计
由于离散型随机变量变量 X 1 , X 2 ,, X 80 相互独立，根据随机
变量方差的性质，计算方差
80
80
80
D( X ) D( X i ) D( X i ) 0.8 64 82
分大时，离散型随机变量 X 近似服从参数为 np, npq ( p q 1)
的正态分布，即近似有离散型随机变量 X ～ N(np, npq) 定理4.22表明:
正态分布是二项分布的极限分布, 当n充分大时, 可 以利用该定理来计算二项分布的概率.
随机变量 X 的取值在数学期望 E(X ) 附近的密集程度越低。
第四章 中心极限定理与参数估计
（3）在使用切贝谢夫不等式时，要求随机变量 X 的数学期望 E( X ) 与方差 D( X ) 一定存在，这时无论随机变量 X 的概率分布已知或未
知，都可以对事件 X E(X ) 发生的概率进行估计。 2、切贝谢夫不等式的应用举例 例1、 已知电站供电网有电灯 10000 盏，夜间每一盏灯开灯的概率 皆为 0.8，且它们开关与否相互独立，试利用切贝谢夫不等式估计夜 晚同时开灯的灯数在 7800 盏～8200 盏之间的概率。
第四章 大数定律与中心极限定理
n→∞
则称{X 依概率收敛 依概率收敛于 则称 n}依概率收敛于X. 可记为
X n →X.
P
或
lim P{| X n − X |≥ ε} = 0
n→∞
二.几个常用的大数定律 几个常用的大数定律
1. 契贝晓夫大数定律 契贝晓夫大数定律 设{Xk,k=1,2,...}为两两不相关的随机变量序 为两两不相关的随机变量序 且它们的方差有界 即存在常数C>0，使 方差有界， 列，且它们的方差有界，即存在常数 ，
lim P{|
n→∞
µn
n
− p |< ε} = 1
即：µn
n
=
∑X
i= 1
i
n
→p
P
3. 辛钦大数定律
为独立同分布随机变量序列, 若{Xi,i=1.2,...}为独立同分布随机变量序列 为独立同分布随机变量序列 EXi=a <∞, i=1, 2, … 则对任意的 ε > 0，有 ∞
1 n 1 n P lim P{| ∑Xi − a |< ε} = 1，即 Yn = ∑Xi →a n→∞ n i=1 n ii=1 =1
2.德莫佛 拉普拉斯中心极限定理 德莫佛-拉普拉斯中心极限定理 德莫佛 拉普拉斯中心极限定理(De Moivre-Laplace) 设随机变量η 服从参数为n, 设随机变量ηn(n=1, 2, ...)服从参数为 p(0<p<1) 服从参数为 的二项分布， 的二项分布，则有 ηn − np L→ξ ~ N(0, 1).
§4.3. 中心极限定理 一.依分布收敛 依分布收敛
为随机变量序列， 为随机变量 为随机变量， 设{Xn}为随机变量序列，X为随机变量，其 为随机变量序列 若在F(x)的 对应的分布函数分别为F 的 对应的分布函数分别为 n(x), F(x). 若在 连续点，有 连续点， limF (x) = F(x),
则称{X 依概率收敛 依概率收敛于 则称 n}依概率收敛于X. 可记为
X n →X.
P
或
lim P{| X n − X |≥ ε} = 0
n→∞
二.几个常用的大数定律 几个常用的大数定律
1. 契贝晓夫大数定律 契贝晓夫大数定律 设{Xk,k=1,2,...}为两两不相关的随机变量序 为两两不相关的随机变量序 且它们的方差有界 即存在常数C>0，使 方差有界， 列，且它们的方差有界，即存在常数 ，
lim P{|
n→∞
µn
n
− p |< ε} = 1
即：µn
n
=
∑X
i= 1
i
n
→p
P
3. 辛钦大数定律
为独立同分布随机变量序列, 若{Xi,i=1.2,...}为独立同分布随机变量序列 为独立同分布随机变量序列 EXi=a <∞, i=1, 2, … 则对任意的 ε > 0，有 ∞
1 n 1 n P lim P{| ∑Xi − a |< ε} = 1，即 Yn = ∑Xi →a n→∞ n i=1 n ii=1 =1
2.德莫佛 拉普拉斯中心极限定理 德莫佛-拉普拉斯中心极限定理 德莫佛 拉普拉斯中心极限定理(De Moivre-Laplace) 设随机变量η 服从参数为n, 设随机变量ηn(n=1, 2, ...)服从参数为 p(0<p<1) 服从参数为 的二项分布， 的二项分布，则有 ηn − np L→ξ ~ N(0, 1).
§4.3. 中心极限定理 一.依分布收敛 依分布收敛
为随机变量序列， 为随机变量 为随机变量， 设{Xn}为随机变量序列，X为随机变量，其 为随机变量序列 若在F(x)的 对应的分布函数分别为F 的 对应的分布函数分别为 n(x), F(x). 若在 连续点，有 连续点， limF (x) = F(x),
第四章 大数定律及中心极限定理
数字 1
2
3
4
5
6
7
8
9
频率 0.301 0.176 0.125 0.097 0.079 0.067 0.058 0.051 0.046
数学家们发现，账本上的数据的开头数字出现的频率符合本福特定律， 如果做假账的人更改了真实数据，就会让账本开头数字出现的频率发生变 化，偏离本福特定律中的频率。
非常有趣的是，数学家们发现，在哪些假账中，数字5和6居然是最常 见的打头数字，而不是符合定律的数字1，如果审核账本的人把握了本福 特定律，伪造者就很难制造出虚假的数据了。2001年，美国最大的能源 交易商安然公司宣布破产，当时传出该公司的高层治理人员涉嫌做假账丑 闻。事后人们发现，安然公司在2001年到2002年所宣布的每股盈利数字就 不符合本福特定律，这说明了安然的高层领导确实改动过这些数据。
广州市一些车主或出租车公司已意识到交通事故伤残、死亡赔偿大 幅度提高这一问题，而他们过去购买的第三者人身意外险保额5万元， 显然杯水车薪，保障严重不足。他们决定加保（投保20万元以上），然 而让他们感到诧异的是多家保险公司不约而同拒绝了这一要求。中国人 寿、平安保险公司、太平洋保险公司和金盛人寿保险公司内部有规定： 私家车最高只能投保20万元的保额。已在保监会备案。而金盛人寿保险 公司一位罗小姐说：“公司要保持一定利润，加保太多会影响公司利益”。
按照广东上一年度城镇居民人均可支配收入（元/年）标准：深圳 23905.92、珠海16757.4、汕头10001.64、广州及一般地区为12380.4， 全省农村居民人均纯收入（元/年）4054.58，也就是说一位司机如果疏 忽驾驶，在深圳或其他地方造成一名深圳居民死亡的话，可能会赔偿对 方家属47万元，而在广州发生有死亡交通事故可能赔付24.7万元。
第四章 大数定律与中心极限定理
第四章大数定律与中心极限定理第一节大数定律一、历史简介概率论历史上第一个极限定理属于贝努里,后人称之为“大数定律”.1733年,德莫佛——拉普拉斯在分布的极限定理方面走出了根本性的一步,证明了时二项分布的极限分布是正态分布.拉普拉斯改进了他的证明并把二项分布推广为更一般的分布.1900年,李雅普诺夫进一步推广了他们的结论,并创立了特征函数法.这类分布极限问题是当时概率论研究的中心问题,卜里耶为之命名“中心极限定理”.20世纪初,主要探讨使中心极限定理成立的最广泛的条件,二三十年代的林德贝尔格条件和费勒条件是独立随机变量序列情形下的显著进展.在第一章已经指出,随机事件在大量重复试验中呈现明显的统计规律性,即一个事件在大量重复试验中出现的频率具有稳定性.这种稳定性的提法应该说是什么形式? 贝努里是第一个研究这一问题的数学家.他于是1713年首先提出后人称之为“大数定律”的极限定理.二、大数定律定理1(贝努里大数定律) 设是重贝努里试验中事件出现的次数,是事件在每次试验中出现的概率,则对任意的,有证明:令表示在第次试验中出现的次数.若第次试验中出现,则令;若若第次试验中不出现,则令.由贝努里试验定义,是个相互独立的随机变量,且而于是由契比晓夫不等式有又由独立性知道有从而有这就证明了定理1.若是随机变量序列,如果存在常数列,使得对任意的,有成立,则称随机变量序列服从大数定律.定理2(契比晓夫大数定律) 设是一列两两不相关的随机变量,又设它们的方差有界,即存在常数,使有则对于任意的,有证明:利用契比晓夫不等式,有因为是一列两两不相关的随机变量,它们的方差有界,即可得到从而有从而定理2得证.[例1] 设为独立同分布的随机变量,均服从参数为的普哇松分布.由以往的讨论知道,,因而满足定理2的要求,则由定理2 的结论可知定理3(马尔科夫大数定律) 对于随机变量序列,若有则有证明:利用契比晓夫不等式,有由假设知,右端趋于1,于是于是定理3得证.一般称条件为马尔科夫条件.定理4(辛钦大数定律) 设是独立同分布的随机变量序列,且有有限的数学期望,则对于任意的,有上式也可表示为或,并且称依概率收敛于.三、大数定律的应用[例2] 抛掷一枚均匀的骰子,为了至少有0.95的把握使出现六点的概率与之差不超过0.01,问需要抛掷多少次?解:由契比晓夫不等式,有令,其中,则.即至少需要抛掷27778次才能至少有0.95的把握使出现六点的概率与之差不超过0.01[例3] (蒙特卡洛方法求积分) 计算.解:任取一列相互独立的都具有上均匀分布的随机变量,则也是一列相互独立且具有相同分布的随机变量,而因此,.为求,自然想到大数定律:这样一来,只要能生成随机变量序列,就能计算积分.现在借助计算机,产生上的随机数,然后通过大数定律,算出,最后由算出.这就是一种新的计算方法:概率计算方法,也称蒙特卡洛方法.[例4] 设随机变量序列的方差一致有界,即,且当时, 与的相关系数,证明服从大数定律.证明:因为由题设知,任给,存在当时,.这表明,在共有个中,绝对值超过的元素不多于个,其余的个元素的绝对值不超过,故有由于可任意小,故马尔科夫条件成立,所以服从大数定律.[例5] 设相互独立且,.证明服从大数定律.证明:因为,故故马尔科夫条件成立,所以服从大数定律.[例6] 设相互独立且分别具有以下分布,试确定是否满足马尔科夫条件.(1)(2)(3)解:(1)易知.由于故不满足马尔科夫条件.(2) 易知.由于故不满足马尔科夫条件.(3) 易知.由于注意到,故满足马尔科夫条件. [例7] 设相互独立且分别具有以下分布:(1)的分布函数为(2)(3) 的密度函数为(4)问是否满足大数定律.解:(1)因为,这是柯西分布,它的数学期望不存在,因此,不满足大数定律.(2)因为,由辛钦大数定律,知满足大数定律.(3)因为是奇函数,故.由辛钦大数定律,知满足大数定律.(4)而,故级数收敛,满足大数定律.作业:P221 EX 19,24,25,26。
第四章正态分布与中心极限定理资料.
(Gauss)分布. 记为 X N (, 2 ).
3
f (x)
正态分布 —密度函数图
性质(1)曲线关于x=对称.
(2)当x=时取到最大值.
(3)固定,改变，曲线沿 Ox轴平移；固定,改变,曲 线变得越尖，因而X落在附
近的概率越大.
o
x
4
正态分布 —分布函数
分布函数 F(x)
F(x)
1
x
(t )2
1 P200 X 500 200
1
P
200 60
X
500 60
200
60
1
200 60
200 60
1
2
200 60
1
2
1
10 3
21 0.9996 0.0008.
15
(3)要求 PX x 0.1, 即要求 1 PX x 0.1,
即需
1
x
500 60
设X N 0,1, 则E X 0, D X 1.
因为
E Z t t dt 1
tet2 2dt
1
et2 2
0,
2
2
D Z E Z 2 t2 t dt 1 t2et2 2dt
2
1
tet2 2
1
et2 2dt 1.
2
2
8
正态分布 —期望与方差
0.4 0.3 0.2
/2 0.1
-z-2 -1
/2
/2 z1 /22
11
标准正态分布—上α分位点的性质
（1） z 1.
(2) z1 z ,
事实上，
z 2 z1 2.
z1 PX z1 1 PX z1 ,
第四章 大数定律和中心极限定理
设需N台车床工作， 现在的问题是：
求满足
P(X≤N)≥0.999
的最小的N.
（由于每台车床在开工时需电力1千瓦，N台 工作所需电力即N千瓦.）
由德莫佛-拉普拉斯极限定理
X np 近似N(0,1), np(1 p)
于是 P(X≤N)= P(0≤X≤N)
这里 np=120, np(1-p)=48
第四章
大数定律和中心极限定理
§1 大数定率
一. 切比雪夫不等式 若r.v.X的期望和方差存在，则对任意0，
有
D( X ) P{| X E( X ) | } ; 2
这就是著名的切比雪夫(Chebyshev)不等式。 它有以下等价的形式：
P{| X E( X ) | } 1 D( X ) . 2
P{Y 60000 0.9 }
P{Y>60000}=P{1000012-aX>60000}
=P{X60000/a}0.9; 由中心极限定理,上式等价于
60000 10000 0.006 ( a ) 0.9 10000 0.006 0.994
a 3017
例3 根据以往经验，某种电器元件的寿命服从均值为 100小时的指数分布. 现随机地取16只，设它们的寿 命是相互独立的. 求这16只元件的寿命的总和大于 1920小时的概率. 解: 设第i只元件的寿命为Xi , i=1,2, …,16
7 500 100 100 2 P{ X i 500} 1 35 1 (8.78) 0 i 1 10 12
2.德莫佛-拉普拉斯中心极限定理(De MoivreLaplace)
设随机变量n(n=1, 2, ...)服从参数为n, p(0<p<1) 的二项分布，则
概率论与数理统计第4章 随机变量的数字特征与极限定理
4.2.1 随机变量方差的概念 数学期望是随机变量重要的数字特征．但是，在 刻画随机变量的性质时，仅有数学期望是不够的．例如， 有两批钢筋，每批各10根，它们的抗拉强度指数如下：
25
定义4.3 设X是随机变量，若E［X－E（X）］2存 在，则称它为X的方差，记为D（X），即
由定义4.2，随机变量X的方差反映了X的可能取值 与其数学期望的平均偏离程度．若D（X）较小，则X的 取值比较集中，否则，X的取值比较分散．因此，方差 D（X）是刻画X取值离散程度的一个量．
3
定义4.1 设离散型随机变量X的分布律为
4
5
6
7
8
9
4.1.2 几个常用分布的数学期望 1.0—1分布 设随机变量X服从以p为参数的（0—1）分布，则X 的数学期望为
２.二项分布 设随机变量X～B（n,p），则X的数学期望为
10
3.泊松分布 设随机变量X～P（λ）分布，则X的数学期望为
41
Hale Waihona Puke 424.３ 协方差、相关系数及矩
4.3.1 协方差 对于二维随机变量（X，Y），除了分量X，Y的数 字特征外，还需要找出能体现各分量之间的联系的数字 特征．
43
44
4.3.2 相关系数 定义4.5 设（X,Y）为二维随机变量，cov （X,Y）,D（X）,D（X）均存在，且D（X）>0,D（X） >0，称
15
16
17
定理4.2 设（X,Y）是二维随机变量，z=g（x,y） 是一个连续函数． （1）如果（X,Y）为离散型随机变量，其联合分布 律为
18
19
20
4.1.4 数学期望的性质 数学期望有如下常用性质（以下的讨论中，假设所 遇到的数学期望均存在）：
25
定义4.3 设X是随机变量，若E［X－E（X）］2存 在，则称它为X的方差，记为D（X），即
由定义4.2，随机变量X的方差反映了X的可能取值 与其数学期望的平均偏离程度．若D（X）较小，则X的 取值比较集中，否则，X的取值比较分散．因此，方差 D（X）是刻画X取值离散程度的一个量．
3
定义4.1 设离散型随机变量X的分布律为
4
5
6
7
8
9
4.1.2 几个常用分布的数学期望 1.0—1分布 设随机变量X服从以p为参数的（0—1）分布，则X 的数学期望为
２.二项分布 设随机变量X～B（n,p），则X的数学期望为
10
3.泊松分布 设随机变量X～P（λ）分布，则X的数学期望为
41
Hale Waihona Puke 424.３ 协方差、相关系数及矩
4.3.1 协方差 对于二维随机变量（X，Y），除了分量X，Y的数 字特征外，还需要找出能体现各分量之间的联系的数字 特征．
43
44
4.3.2 相关系数 定义4.5 设（X,Y）为二维随机变量，cov （X,Y）,D（X）,D（X）均存在，且D（X）>0,D（X） >0，称
15
16
17
定理4.2 设（X,Y）是二维随机变量，z=g（x,y） 是一个连续函数． （1）如果（X,Y）为离散型随机变量，其联合分布 律为
18
19
20
4.1.4 数学期望的性质 数学期望有如下常用性质（以下的讨论中，假设所 遇到的数学期望均存在）：
第四章 大数定律与中心极限定理
若随机变量序列{Xn}满足： 则称{Xn} 服从大数定律.
1 n 1 n lim P ∑Xi − ∑E( Xi ) n→ +∞ n i=1 n i=1 <ε =1
2、切比雪夫大数定律 {Xn}两两不相关，且Xn方差存在，有共同的 上界，则 {Xn}服从大数定律.定理4.2.2 证明用到切比雪夫不等式.
由于 ( ( X n + Yn ) − ( a + b ) ≥ ε ) ⊂ [( X n − a ≥
0 ≤ P ( ( X n + Yn ) − ( a + b ) ≥ ε ) ≤ P( X n − a ≥
4 December 2010
ε
2
) ∪ ( Yn − b ≥
ε
2
)]
ε
2
) + P ( Yn − b ≥
A
y 1
y=f(x)
=∫ f (x)dx = J
0
1
即J=P，而概率P可以用频率取 代，生成n个随机数(xk,yk)，满足 yk < f(xk) 的有m个，则J≈m/n EXCEL综合实验
4 December 2010
A 0 1 x
宁波工程学院
理学院
第四章 大数定律与中心极限定理
第8页
4.2.2 常用的几个大数定律 1、大数定律一般形式：
解：用 Xi=1表示第i台机床正常工作, 反之记为Xi=0.
又记Y=X1+X2+…+X200，则 E(Y)=140，Var(Y)=42. 设供电量为y, 则从
y /15 + 0.5 −140 P{15Y ≤ y} ≈ Φ ≥ 0.95 42 中解得 y ≥ 2252.
1 n 1 n lim P ∑Xi − ∑E( Xi ) n→ +∞ n i=1 n i=1 <ε =1
2、切比雪夫大数定律 {Xn}两两不相关，且Xn方差存在，有共同的 上界，则 {Xn}服从大数定律.定理4.2.2 证明用到切比雪夫不等式.
由于 ( ( X n + Yn ) − ( a + b ) ≥ ε ) ⊂ [( X n − a ≥
0 ≤ P ( ( X n + Yn ) − ( a + b ) ≥ ε ) ≤ P( X n − a ≥
4 December 2010
ε
2
) ∪ ( Yn − b ≥
ε
2
)]
ε
2
) + P ( Yn − b ≥
A
y 1
y=f(x)
=∫ f (x)dx = J
0
1
即J=P，而概率P可以用频率取 代，生成n个随机数(xk,yk)，满足 yk < f(xk) 的有m个，则J≈m/n EXCEL综合实验
4 December 2010
A 0 1 x
宁波工程学院
理学院
第四章 大数定律与中心极限定理
第8页
4.2.2 常用的几个大数定律 1、大数定律一般形式：
解：用 Xi=1表示第i台机床正常工作, 反之记为Xi=0.
又记Y=X1+X2+…+X200，则 E(Y)=140，Var(Y)=42. 设供电量为y, 则从
y /15 + 0.5 −140 P{15Y ≤ y} ≈ Φ ≥ 0.95 42 中解得 y ≥ 2252.
正态分布大数定律与中心极限定理
0
1 e 2
x2 2
2 dx 2
0
1 e 2
x2 2
dx 1
第四章 正态分布、大数定律与中心极限定理பைடு நூலகம்
0
1 （ 2 ）(0) ； 由（ 1 ）容易得到（ 2 ）。 2 （3） x 1 x
1 e 2
x2 2
dx
P ( X x ) F ( x )且F ( x )
x
f ( x )dx ，或f ( x ) F ( x )
x2 x1
P ( x1 X x 2 ) F ( x 2 ) F ( x1 ) f ( x )dx
第四章 正态分布、大数定律与中心极限定理
1.正态变量的密度函数 设连续型随机变量 X 的概率密度为 ( x ) 1 f ( x) e 2 , x 2
2 2
和标准正态密度
1 ( x) e 首先都具有一般密度函 数的非负规范性，另外 ， 2 标准正态密度由于是偶 函数，还具有对称区间 积分的特殊性
f ( x )dx ( x )dx 1且 ( x )是偶函数
1 e 2
x2 2
2 dx 2
( x )2 2 2
dx
t x
k k t e dt 2
t2 2
则： k 0
z
t2 2
k 1, 3, 5,
k
2 k
k 2
2
k
2
0 t e dt
k
2
4大数定律及中心极限定理
说明：这个公式给出了n 较大时二项分布的概率 计算方法。
返回主目录
例.将一颗骰子连掷100次，则点数之和不少于 将一颗骰子连掷100次 100 500的概率是多少 的概率是多少？ 500的概率是多少？ 解:设Xk为第 次掷出的点数 设 为第k 次掷出的点数,k=1,2,…,100,则 则 X1,…,X100独立同分布. 独立同分布 7 1 6 2 49 35 E ( X 1 ) = , D( X 1 ) = ∑ k − = 2 6 i =1 4 12
n−>∞
则称 { X n } 服从大数定律。
返回主目录
第四章 大数定律及中心极限定理
§1 大数定律
定理 4.1（切比雪夫大数定理） 设随机变量 X 1 ,L, X n ,L 相互独立， 且具有相同的数学期
1 n 望及方差， EX k = µ，DX k = σ ，k = 1,2,L， 令 Yn = ∑ X k ， n k =1
n
≤ x} =
1 2π
−∞
∫e
x
t2 − 2
dt
返回主目录
常见的中心极限定理
定理3（德莫佛-拉普拉斯定理）(De Moivre--Laplace) 设随机变量 η n (n = 1,2,L) 服从参数为n,p(0<p<1)的二 项分布 ，即 η n ~ B ( n, p ).
则对于任意 x ，恒有：
n =10, p = 0.2, np = 2, npq ≈1.265. (1) 直接计算: P(ξ ≤ 3) = C ×0.2 ×0.8 ≈ 0.2013
3 10 3 7
(2)用局部极限定理近似计算: P(ξ ≤ 3) =
例 产品为废品的概率为p=0.005, 求10000件产 品中废品数不大于70的概率.
返回主目录
例.将一颗骰子连掷100次，则点数之和不少于 将一颗骰子连掷100次 100 500的概率是多少 的概率是多少？ 500的概率是多少？ 解:设Xk为第 次掷出的点数 设 为第k 次掷出的点数,k=1,2,…,100,则 则 X1,…,X100独立同分布. 独立同分布 7 1 6 2 49 35 E ( X 1 ) = , D( X 1 ) = ∑ k − = 2 6 i =1 4 12
n−>∞
则称 { X n } 服从大数定律。
返回主目录
第四章 大数定律及中心极限定理
§1 大数定律
定理 4.1（切比雪夫大数定理） 设随机变量 X 1 ,L, X n ,L 相互独立， 且具有相同的数学期
1 n 望及方差， EX k = µ，DX k = σ ，k = 1,2,L， 令 Yn = ∑ X k ， n k =1
n
≤ x} =
1 2π
−∞
∫e
x
t2 − 2
dt
返回主目录
常见的中心极限定理
定理3（德莫佛-拉普拉斯定理）(De Moivre--Laplace) 设随机变量 η n (n = 1,2,L) 服从参数为n,p(0<p<1)的二 项分布 ，即 η n ~ B ( n, p ).
则对于任意 x ，恒有：
n =10, p = 0.2, np = 2, npq ≈1.265. (1) 直接计算: P(ξ ≤ 3) = C ×0.2 ×0.8 ≈ 0.2013
3 10 3 7
(2)用局部极限定理近似计算: P(ξ ≤ 3) =
例 产品为废品的概率为p=0.005, 求10000件产 品中废品数不大于70的概率.
第四章 大数定律与中心极限定理
第四章 大数定律与中心极限定理教学目得与教学要求:了解特征函数得定义与常用分布得特征函数;理解并能应用大数定律;掌握依概率收敛与按分布收敛得概念;掌握并能应用独立同分布下得中心极限定理。
教学重点:大数定律、依概率收敛与按分布收敛得概念、中心极限定理。
教学难点:大数定律与中心极限定理得应用。
教学措施:理论部分得教学多采用讲授法,注意思想方法得训练,计算类问题采用习题与讨论得方法进行教学。
教学时数:12学时教学过程:§4、1 特征函数特征函数就是处理概率论问题得有力工具,其作用在于:(1) 可将求独立随机变量与得分布得卷积运算化成乘法运算;(2) 可将求各阶矩得积分运算化成微分运算;(3) 可将求随机变量序列得极限分布化成一般得函数极限问题等。
§4、1、1 特征函数得定义定义4、1、1 设就是一个随机变量,称其中为虚数单位,为得特征函数。
注:因为,所以总就是存在得,即任一随机变量得特征函数总就是存在得。
特征函数得求法:(1) 当离散随机变量得分布列为则得特征函数为;(2) 当连续随机变量得密度函数为,则得特征函数为。
特征函数得计算中用到复变函数,为此注意:(1) 欧拉公式:;(2) 复数得共轭:;(3) 复数得模:。
例4、1、1 常用分布得特征函数(1) 单点分布:,其特征函数为;(2) 分布:,其特征函数为;(3) 泊松分布:,其特征函数为;(4) 均匀分布:因为密度函数为,所以其特征函数为;(5) 标准正态分布:因为密度函数为,所以其特征函数为;(6) 指数分布:因为密度函数为,所以其特征函数为000()(cos()sin())itx x x x t e e dx tx e dx i tx e dx λλλϕλλ+∞+∞+∞---==+⎰⎰⎰ 。
§4、1、2 特征函数得性质性质4、1、1。
性质4、1、2 ,其中就是得共轭。
性质4、1、3若,其中、就是常数,则。
第4章(随机变量的数字特征与极限定理)4.4-4.5
e =E{[Y-(a+bX)]2 } =E(Y2)+b2E(X2)+a2- 2bE(XY)+2abE(X) - 2aE(Y) 这样求出的最佳逼近为
∂e = 2a + 2bE( X) − 2E(Y) = 0L(X)=a0+b0X ∂a ∂e = 2bE( X2 ) − 2E( XY) + 2aE( X) = 0 ∂b
的概率分布为: Y 的概率分布为 P{Y = −1} = 0.55, P{Y = 0} = 0.25, P{Y = 2} = 0.2,
例1 已知离散型随机向量 ( X,Y ) 的概率分布如右表, 的概率分布如右表, 求 cov( X,Y ). 解 于是有
Y X 0 1 2
−1 0.1 0.3 0.15
Cov( X ,Y ) ρ= =0 D( X )D(Y )
并不一定能推出X和 独立. 但由 ρ = 0 并不一定能推出 和Y 独立
服从(-1/2, 1/2)内的均匀分布 而 内的均匀分布,而 例1 设X服从 服从 内的均匀分布 Y=cos X, 不难求得， 不难求得， Cov(X,Y)=0， ， 和 不相关 因而 ρ =0，即X和Y不相关 . ， 但Y与X有严格的函数关系， X和Y不独立 . 有严格的函数关系， 与 有严格的函数关系 即 和 不独立
−∞ 0
x f X ( x)dx = ∫ x2 ⋅ 4x(1 − x2 )dx ∫−∞
2 0+∞1 Nhomakorabea于是
E(X)= 8/ 15, E(Y )= 4/ 5, E(XY ) = 4/ 9,
从而 cov( X,Y ) = E( XY ) − E( X)E(Y ) = 4/ 225, 又 E( X 2 ) = 1/ 3,
第四章 正态分布与中心极限定理
z 2 z1 2 .
同理可证：z 2 z1 2 .
12
正态分布 —有关概率的计算问题
若X N , 2 , 则 X x x (1) F x P X x P .
可见，服从正态分布的随机变量虽然取值在
(-∞，+∞),但其值落在(-3，+3)内几乎是 可以肯定的.这就是“3 ”法则.
19
正态随机变量的线性组合—再生性
2 定理2 设(1)X 1 N 1 , 12 , X 2 N 2 , 2 ,
则
X 1 X 2 N 1 2 ,
(2) z1 z ,
事实上， z1 P X z1 1 P X z1 , 又因为， z 1 z 1 P X z P X z . 由 x 的单调性知：z1 z .
7
标准正态分布 —期望与方差
设X N 0,1 , 则E X 0, D X 1. 因为 E Z t t dt
1 2
2
te
t 2 2
1 t 2 2 dt e 2
0,
DZ E Z
2
22
则有X i N 6, 0.3 , i 1, 2,3, X 1 , X 2 , X 3相
2
解 (1) 3只电阻器的电阻分别记为X 1 , X 2 , X 3 , 互独立,且E X 1 X 2 X 3 3E X 1 18, D X 1 X 2 X 3 3D X 1 0.27.
第四章 大数定理与中心极限定理(理)
+ ∞ +T
1 JT = 2π
e − itx1 − e − itx2 itx ∫∞−∫T it e dt f ( x)dx − + ∞ +T 1 sin t ( x − x1 ) sin t ( x − x2 ) = − dt f ( x)dx ∫∞ ∫ 2π − 0 t t 1
ϕ X +Y (t ) = E (eit ( X +Y ) )
= E (eitX eitY ) = E (eitX ) E (eitY ) = ϕ X (t )ϕY (t )
4.因为E ( X l )存在，从而 ∫ xl f ( x)dx < +∞
-∞
+∞
由数学分析含参变量积分的可导性知 itx ϕ (t ) = ∫ e f ( x)dx −∞
概率论
第四章 大数定理与中心极限定理
• 特征函数及其性质 • 两个常用大数定理 • 两个常用的中心极限定理 • 大数定理与中心极限定理的应用
随机变量的特征函数
一、随机变量特征函数的定义与计算 Def 设 X 是一个随机变量，则称
ϕ (t ) = E (eitX )
− ∞ < t < +∞
为随机变量 X 的特征函数，其中i为虚单位。 特征函数的计算 设离散型随机变量的概率分布为
αi it −α −1 从而 ϕ ′ (t ) = (1 − ) X λ λ α (α + 1)i 2 it −α − 2 ′′ (t ) = ϕX (1 − ) λ λ ϕ ′ (0) α 所以 E ( X ) = X = i λ α 2 D( X ) = −ϕ ′′ (0) + (ϕ ′ (0)) = 2 X X λ
1 JT = 2π
e − itx1 − e − itx2 itx ∫∞−∫T it e dt f ( x)dx − + ∞ +T 1 sin t ( x − x1 ) sin t ( x − x2 ) = − dt f ( x)dx ∫∞ ∫ 2π − 0 t t 1
ϕ X +Y (t ) = E (eit ( X +Y ) )
= E (eitX eitY ) = E (eitX ) E (eitY ) = ϕ X (t )ϕY (t )
4.因为E ( X l )存在，从而 ∫ xl f ( x)dx < +∞
-∞
+∞
由数学分析含参变量积分的可导性知 itx ϕ (t ) = ∫ e f ( x)dx −∞
概率论
第四章 大数定理与中心极限定理
• 特征函数及其性质 • 两个常用大数定理 • 两个常用的中心极限定理 • 大数定理与中心极限定理的应用
随机变量的特征函数
一、随机变量特征函数的定义与计算 Def 设 X 是一个随机变量，则称
ϕ (t ) = E (eitX )
− ∞ < t < +∞
为随机变量 X 的特征函数，其中i为虚单位。 特征函数的计算 设离散型随机变量的概率分布为
αi it −α −1 从而 ϕ ′ (t ) = (1 − ) X λ λ α (α + 1)i 2 it −α − 2 ′′ (t ) = ϕX (1 − ) λ λ ϕ ′ (0) α 所以 E ( X ) = X = i λ α 2 D( X ) = −ϕ ′′ (0) + (ϕ ′ (0)) = 2 X X λ
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
的方法．
➢辛钦大数定律是数理统计部分中点估计理论的重要依据
§4.1 大 数 定 律
【例5-3】设随机变量X1，X2，…，Xn独立同分布，且
E (X ik)k(i1 ,2, ,n )存在，
令
Ak(n)n 1i n1Xik, (k1,2,)
则 A k P k,(n )
➢证：因为X1，X2，…，Xn独立同分布，所以X1k,X2k,...X, nk 独立同分布。
➢且ln有 i m EP(P X{ in 1)X =ii n1p X ，1 i} D (Xp , i)P ={ X pi (1 1–0 } p )，1 i =p , 1i ， 21 , ，2 ,…. n ，. n ., ➢由定理5.2得到 ln i m Pn 1i n1Xi p1
§4.1 大 数 定 律
5.2.1 独立同分布的中心极限定理
➢推论1：当n充分大时,
n
Xi n近似
Yn i1 n ~ N(0,1) 或
解:设需做n次试验,其中成功的次数为X,则X～B(n，p)， E(X) = np，D(X) = np(1 – p)。
➢P因{X |为E(PX {0).| 74} X n1 0D .7(X 26})P{|X n0.75|0.01}
➢根据契比谢夫不等式应有
X P{0.74X n0.76}1D 0.(0n12)
是一常数，若对任意正数，有
ln i m P{X | na|}1
则称序列X1，X2，…，Xn，…依概率收敛于a，记为
P
Xna(n)
➢注：若 Xn P a(n),当n充分大时， Xn 以很大的可能
性接近于a，这种接近是“概率意义下的接近”，与微积
分中数列收敛中的“接近”不同
§4.1 大 数 定 律
【定理5.2】（契比谢夫大数定律）设X1, X2, …, Xn… 是相互独立，服从同一分布的随机变量序列，且具有数
Yn = X1 + X2 +…+ Xn 这里n是很大的，那么我们关心的是，当时n时，Yn的 分布是什么？
§4.2 中心极限定理
➢由于这些因素很多，每个因素对加工精度的影响都是很 微小的，而且每个因素的出现又都是人们无法控制的、 随机的、时有时无、时正时负的．
Yn = X1 + X2 +…+ Xn 这里n是很大的，那么我们关心的是，当时n时，Yn的 分布是什么？
§4.1 大 数 定 律
【定理5.1】 设随机变量X的数学期望E(X)及方差D(X)
都存在，则对于任意正数，有不等式
P{X | E(X)|}D (X 2 )
即
(5.1)
P{X | E(X)|}1D (X 2)
(5.2)
. 成立．称上述不等式为契比谢夫(Chebyshev)不等式．
➢此定理进一步说明方差是一个反映随机变量在其分布中 心E(X)附近集中程度的数量指标
➢根据契比谢夫不等式应有 X
P{0.74X n0.76}1D 0.(0n12)
1
1 n2
np(1 0.012
p)
➢令
1 np(1 p)
1 n2 0.012
0.90
➢解得
p(1 p) 0.750.25
n 0.10.012
18750
0.10.012
§4.1 大 数 定 律
【定义5.1】 设X1，X2，…，Xn…是一随机变量序列，a
§4.2 中心极限定理
➢由于这些因素很多，每个因素对加工精度的影响都是很 微小的，而且每个因素的出现又都是人们无法控制的、 随机的、时有时无、时正时负的．
➢这些因素的综合影响最终使每个机械轴的直径产生误差， 若将这个误差记为Yn，那么Yn是随机变量，且可以将Yn看 作很多微小的随机波动X1，X2，…，Xn之和，即
1
1 n2
np(1 0.012
p)
§4.1 大 数 定 律
【例5-2】已知n重伯努利试验中参数p = 0.75，问至少应 做多少次试验，才能使试验成功的频率在0.74和0.76之 间的概率不低于0.90？
解:设需做n次试验,其中成功的次数为X,则X～B(n，p)， E(X) = np，D(X) = np(1 – p)。
§4.1 大 数 定 律
【定理5.4】（辛钦大数定律）设X1，X2，…，Xn，…是 相互独立，服从同一的分布的随机变量序列，且具有数
学期望E(Xi) = ，即
(i = 1，2，…)，则 1 n
n i1
X
依概率收敛于
i
1 n
ni1
p
Xi (n)
(5.5)
➢辛钦大数定律提供了求随机变量数学期望E(X)的近似值
第四章大数定律和中心极限定理
主要内容
§4.1 大 数 定 律 §4.2 中心极限定理
第四章：总结
§4.1 大 数 定 律
➢对某个随机变量X进行大量的重复观测，所得到的大批 观测数据的算术平均值也具有稳定性. ➢由于这类稳定性都是在对随机变量进行大量重复试验的 条件下呈现出来的，历史上把这种试验次数很大时出现 的规律统称为大数定律． ➢首先来引进证明大数定律所需要的预备知识——契比谢 夫（Chebyshev）不等式．
序列，且E(Xi) = ，D(Xi) = 2 0（i = 1，2，…），则
对于任意x，有
n
lim Pi1
n
Xni nx
x
1
t2
e 2dtΦ(x)
2
(5.6)
n
Xi n
记 Yn i1 n , 记FYn ( x)为Yn的分布函数，则
ln im FYn(x)Φ(x)
§4.2 中心极限定理
大数定律和中心极限定理无论在应用上还是理论上都 具有极其重要的作用．
第四章大数定律和中心极限定理
【吸烟率调查问题】
➢某卫生组织为确定某城市成年男子的吸烟率p，将被调 查的成年男子中吸烟的频率作为p的估计，现在要保证有 90%以上的把握，使得调查对象吸烟者的频率与该城市成 年男子的吸烟率p之间的差异不大于5%，问至少要调查多 少对象？
➢ 利用契比谢夫不等式，我们可以在随机变量X的分布未 知的情况下估算概率值的界限
§4.1 大 数 定 律
P{X | E(X)|}1D (X 2)
【例5-1】若某班某次考试的平均分为80分，标准差为10，
试估计及格率至少为多少？
解：用随机变量X表示学生成绩，则数学期望E(X) = 80， 方差D(X) = 100，所以
§4.1 大 数 定 律
【定理5.3】（伯努利大数定律）设nA是n重伯努利试验 中事件A发生的次数，p是事件A在每次试验中发生的概
率，则对于任意正数，有
ln im PnnA
p
1
即
nA Pp(n)
(5.4)
n
证：引入随机变量Xi（i = 1，2，…）：
1, 第i次试验 A发中生 Xi 0, 第i次试验 A不中发生
ln i m Pn 1i n1Xi 1
即 n 1i n1Xi P(n) P{X | E(X)|}1D (X 2()5.3)
➢证：对
1 n
n i1
X
i
运用Chebyshev不等式
1
1n P{|
ni1
Xi
|}
1
2
/
2
n
.
1
E( n
n i1
X i)
,
D ( 1
n
n i1
X i)
2 n
【定理5.3】（伯努利大数定律）设nA是n重伯努利试验 中事件A发生的次数，p是事件A在每次试验中发生的概
率，则对于任意正数，有
ln im PnnA
p
1
即
nA Pp(n)
n
证： n A X 1 X 2 X n ~ B ( n ,p )
➢由定理5.2得 ln i m Pn 1i n1Xi p1
➢当然，我们可以考虑用卷积公式去计算Yn的分布，但这 样的计算是相当复杂的、不现实的，而且也是不易实现 的．有时即使能写出Yn的分布，但由于其形式复杂而无 法使用．
§4.2 中心极限定理
5.2.1 独立同分布的中心极限定理
【 定 理 5.5】 （ 独 立 同 分 布 的 中 心 极 限 定 理 ） 设 X1 ， X2，…，Xn，…为相互独立、服从同一分布的随机变量
第四章大数定律和中心极限定理
人们在长期的实践中发现，事件发生的频率具有稳定 性，也就是说随着试验次数的增多，事件发生的频率将稳 定在一个确定的常数，即概率值附近．
频率的稳定性是概率定义的客观基础，在第一章中我 们从直观上描述了这一事实。本章将用大数定律对频率的 稳定性作出理论上的说明．
在前面，我们还看到相互独立的正态随机变量的和仍 是正态随机变量。本章将要介绍的中心极限定理将给出概 率论中的另一个重要结果:在相当一般的条件下，充分多 个相互独立的非正态随机变量（不管它们的分布如何）的 和近似服从正态分布．这一事实更说明了正态分布的重要 性．
➢即
ln im PnnA
p1
(5.4)
§ln5 i.m 1P大数nnA定律p
1
➢伯努利大数定律表明事件A发生的频率nA/n依概率收敛
于事件A发生的概率p．
➢这也正是在大量重复独立试验中，频率nA/n接近于概率 p的真正含义，也就是我们所说的频率稳定性的真正含
义．
➢所以当试验次数很大时，就可以利用事件发生的频率来 近似地代替事件发生的概率．
➢则 n A X 1 X 2 X n ~ B ( n ,p )
§4.1 大 数 定 律
【定理5.3】（伯努利大数定律）设nA是n重伯努利试验 中事件A发生的次数，p是事件A在每次试验中发生的概