第5章 极限定理
合集下载
李贤平-概率论基础-Chap5
布列为
1 1 1/ 2 1/ 2
(2)
若对一切 n ,令 n ( ) ( ),显然 n ( )的分布列也是 (2) L ( ) 。 ，因此 n ( )
但是, 对任意的 0 2 ，因
P{| n ( ) ( ) | } P() 1
当然，当F(x) 是一个分布函数时,分布函数的左连续 性保证了 F 在不连续点上的值完全由它在连续点集 CF 上的值唯一确定，因此此时分布函数列的弱收敛极限是 唯一的.
以下我们研究一个分布函数序列弱收敛到一个分布 函数的充要条件，为此先建立一些重要的分析结果。
引理. 设{ Fn ( x )}是实变量x 的非降函数序列，D是R上的 稠密集. 若对于D中的所有点, 序列 { Fn ( x )}收敛于F(x),
所以，我们有
F ( x) Fn ( x) P{n x, x}
因为 { n } 依概率收敛于 ，则
P{n x, x} P{| n | x x} 0
因而有
F ( x) lim Fn ( x)
n
同理，对 x x,
i 1 i , 1, ki ( ) k k , i 1, 2, 0, otherwise
取 P 为勒贝格测度，则
, k.
1 0, P (| ki ( ) | ) , i 1, 2, k
, k . (*)
将 ki 依次记为 n , 如图:
n
则称 {n ( )}依概率收敛于 ( ) ，并记为
n ( ) ( )
P
定义3 (r阶矩收敛) 设对随机变量 n 及 有E | n |r , E | |r ， 其中 r 0 为常数，如果
1 1 1/ 2 1/ 2
(2)
若对一切 n ,令 n ( ) ( ),显然 n ( )的分布列也是 (2) L ( ) 。 ，因此 n ( )
但是, 对任意的 0 2 ，因
P{| n ( ) ( ) | } P() 1
当然，当F(x) 是一个分布函数时,分布函数的左连续 性保证了 F 在不连续点上的值完全由它在连续点集 CF 上的值唯一确定，因此此时分布函数列的弱收敛极限是 唯一的.
以下我们研究一个分布函数序列弱收敛到一个分布 函数的充要条件，为此先建立一些重要的分析结果。
引理. 设{ Fn ( x )}是实变量x 的非降函数序列，D是R上的 稠密集. 若对于D中的所有点, 序列 { Fn ( x )}收敛于F(x),
所以，我们有
F ( x) Fn ( x) P{n x, x}
因为 { n } 依概率收敛于 ，则
P{n x, x} P{| n | x x} 0
因而有
F ( x) lim Fn ( x)
n
同理，对 x x,
i 1 i , 1, ki ( ) k k , i 1, 2, 0, otherwise
取 P 为勒贝格测度，则
, k.
1 0, P (| ki ( ) | ) , i 1, 2, k
, k . (*)
将 ki 依次记为 n , 如图:
n
则称 {n ( )}依概率收敛于 ( ) ，并记为
n ( ) ( )
P
定义3 (r阶矩收敛) 设对随机变量 n 及 有E | n |r , E | |r ， 其中 r 0 为常数，如果
概率论极限定理讲解
其中EXk=k, DXk≤C<+∞,（k=1,2,…,n,…）
则对 0, 都有
lim
n
P
Xn
1 n
n k 1
k
0.
P Xn
1
n
n k 1
k
3
2.辛钦大数定律
{Xn}独立同分布，EXn (n 1, 2,
则lim P n
1.已知n, p,，计算频率与概率之间的误差
P
Xn n
p
( 2
n pq
1)
2.已知p,
,
和P
Xn n
p
，求n
（即抽样方案的设计，确定样本容量）
3.已知n,
p和P
Xn n
p
，求
（事后评估，精度的估计） 15
例3. 已知某厂生产一大批无线电产品中合格品占1/6。某商店
从该厂任意选购6000个元件，试问这6000个元件中，合格品的 比例与1/6之间误差小于1%的概率是多少？
16
三个极限定理之间的关系
林德伯格(Lindeberg)定理（独立） 列维－林德伯格中心极限定理（独立同分布） 棣莫弗--拉普拉斯定理（独立同分布于0-1分布）
即n很大时，Xn以很大的可能性靠近X，其中ε 为误差。 （随机性消失）
1
定义2：设{X n}是一随机变量序列，
n
P
EXn (n 1, 2,
)存在，记X
n
=
1 n
则对 0, 都有
lim
n
P
Xn
1 n
n k 1
k
0.
P Xn
1
n
n k 1
k
3
2.辛钦大数定律
{Xn}独立同分布，EXn (n 1, 2,
则lim P n
1.已知n, p,，计算频率与概率之间的误差
P
Xn n
p
( 2
n pq
1)
2.已知p,
,
和P
Xn n
p
，求n
（即抽样方案的设计，确定样本容量）
3.已知n,
p和P
Xn n
p
，求
（事后评估，精度的估计） 15
例3. 已知某厂生产一大批无线电产品中合格品占1/6。某商店
从该厂任意选购6000个元件，试问这6000个元件中，合格品的 比例与1/6之间误差小于1%的概率是多少？
16
三个极限定理之间的关系
林德伯格(Lindeberg)定理（独立） 列维－林德伯格中心极限定理（独立同分布） 棣莫弗--拉普拉斯定理（独立同分布于0-1分布）
即n很大时，Xn以很大的可能性靠近X，其中ε 为误差。 （随机性消失）
1
定义2：设{X n}是一随机变量序列，
n
P
EXn (n 1, 2,
)存在，记X
n
=
1 n
大数定律及中心极限定理教学
解
1
以Xk (k=1,2,…,400)记第k个学生来参加会议
2
的家长数,其分布律为
3
pk
4
05
5
8
6
15
7
Xk
8
Xk 相互独立地服从同一分布
9
随机变量
近似服从标准正态分布
添加标题
以Y表示有一名家长来参加会议的学生, 则
添加标题
Y~b(400, 0.8)
三 小结
独立同分布的中心极限定理
01
李雅普诺夫定理
单击此处添加标题
解
单击此处添加标题
切比雪夫(Chebyshev)定理证明
定义
由此得到定理1的另一种叙述：
Th1′
PART 1
说明
Th2：(伯努利大数定理)
定理表明事件发生的频率依概率收敛于 事件的概率。由实际推断原理,在实际应用中, 当试验次数很大时,可以用事件发生的频率来代替事件的概率。
观察表明，如果一个量是由大量相互独立的随机因素的影响所造成，而每一个别因素在总影响中所起的作用不大. 则这种量一般都服从或近似服从正态分布.
自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见.
的分布函数的极限.
由于无穷个随机变量之和可能趋于∞，故不研究n个随机变量之和本身而考虑它的标准化的随机变量 在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做中心极限定理.
X~b(90000,1/3),
思考题
分布律为
所求概率为
采用棣莫佛－拉普拉斯定理
计算太麻烦！！！
3.棣莫佛－拉普拉斯定理
说明
例题
解
例1 掷一颗骰子1620次，求“六点”出现的次数X 在250～290之间的概率？
第5章中心极限定理
第一节
一,随机变量的收敛性 1. 依概率收敛
大数定律
定义1 若对任意给定的ε 定义1 若对任意给定的ε>0, 有:
lim P{| X n X |< ε } = 1,
n→∞
( lim P{| X n X |≥ ε } = 0 )
n→∞
则称{X 依概率收敛于X, 记作: 则称{Xn}依概率收敛于X, 记作:
σ2 P{| X |< ε } ≥ 1 2 ε
σ2 8 P{| X |< 3σ } ≥ 1 2 = 9σ 9
8 ∴ P { 3σ < X < + 3σ } ≥ 9
将一枚硬币抛掷1000 1000次 [例2] 将一枚硬币抛掷1000次,试利用车贝晓夫不等 式估计: 1000次中,出现正面H的次数在400至600次 式估计:在1000次中,出现正面H的次数在400至600次 次中 400 之间的概率. 之间的概率. 解: 设1000次抛掷中出现正面的次数为 则 次抛掷中出现正面的次数为X, 次抛掷中出现正面的次数为
n
D (∑ X i )
i =1
D(∑ X i )
i =1
n
n a n 1 b n = P{ < ( ∑ X i n ) ≤ } n σ n σ i =1 n σ
b n a n ≈ Φ( ) Φ( ) n σ n σ
2. 德莫佛---拉普拉斯定理
定理2 设随机变量X n ~ B( n, p ), (n = 1, 2), 则对 任意x ∈ R, 有
第一节 大数定律 第二节 中心极限定理
基本要求: 基本要求 理解实际推断原理; 1. 理解实际推断原理; 掌握车贝晓夫不等式; 2. 掌握车贝晓夫不等式; 熟悉几个常用的大数定律; 3. 熟悉几个常用的大数定律; 4. 熟练掌握并能运用几个常见的中心极限定理. 熟练掌握并能运用几个常见的中心极限定理. 重点: 重点 1.车贝晓夫不等式的运用; 1.车贝晓夫不等式的运用; 车贝晓夫不等式的运用 2.中心极限定理的应用. 2.中心极限定理的应用. 中心极限定理的应用 学时数 3-4
第五章大数律及中心极限定理
定义这个随机变量序列的算术平均序列： Yn = X—1—+ …n——+ —Xn
则对于任意的正数 ＞ 0 都满足关系： lim n→∞ P ( | Yn – | ≤ ) = 1。
即，相同期望与方差的独立随机变量序列
算术平均的极限是它们共同的数学期望
证明. 定理的证明根据数学期望、方差的性质 以及切比雪夫不等式完成。
p = P(X ≥10) = P( —X9.–—181—725.2—1/52 ≥ – 0.74)
≈ 1 – (–0.74) = (0.74) = 0.7703
□
如何理解大数律与中心极限定理
① 大数律与中心极限定理讨论的都是随机 变量序列部分和的极限问题
② 大数律说明，在一定的条件下部分和 Sn 的 算术平均的极限是一个常数 ( 共同的期望 )。 中心极限定理说明，在一定的条件下部分和 Sn 的极限分布是正态分布(标准化部分和的 极限分布是标准正态分布)。
P{ Sn n x} x
1
u2
e 2 du ( x)
n
2
思考3 如何近似计算概率P ( Sn ≤ y )、P ( | Sn | ≤ y ) ？
定理 5.1.4 (德莫佛—拉普拉斯中心极限定理)
假设随机变量序列 X1，X2，… 服从参数 n、p 的二项分布，即 Xn ~ B(n,p) 。 则对于任意的实数 x ，有
106 +1 项开始，都有 ① 数列 an 全都落在区间 ( 0 – 10－6 , 0 + 10－6 ) 中， ② Yn 落在 ( 0 – 10－6 , 0 + 10－6 ) 外的概率小于10－6 。
定理 5.1.1 (切比雪夫大数定理)
假设 X1，…，Xn，…是一个独立随机变量
则对于任意的正数 ＞ 0 都满足关系： lim n→∞ P ( | Yn – | ≤ ) = 1。
即，相同期望与方差的独立随机变量序列
算术平均的极限是它们共同的数学期望
证明. 定理的证明根据数学期望、方差的性质 以及切比雪夫不等式完成。
p = P(X ≥10) = P( —X9.–—181—725.2—1/52 ≥ – 0.74)
≈ 1 – (–0.74) = (0.74) = 0.7703
□
如何理解大数律与中心极限定理
① 大数律与中心极限定理讨论的都是随机 变量序列部分和的极限问题
② 大数律说明，在一定的条件下部分和 Sn 的 算术平均的极限是一个常数 ( 共同的期望 )。 中心极限定理说明，在一定的条件下部分和 Sn 的极限分布是正态分布(标准化部分和的 极限分布是标准正态分布)。
P{ Sn n x} x
1
u2
e 2 du ( x)
n
2
思考3 如何近似计算概率P ( Sn ≤ y )、P ( | Sn | ≤ y ) ？
定理 5.1.4 (德莫佛—拉普拉斯中心极限定理)
假设随机变量序列 X1，X2，… 服从参数 n、p 的二项分布，即 Xn ~ B(n,p) 。 则对于任意的实数 x ，有
106 +1 项开始，都有 ① 数列 an 全都落在区间 ( 0 – 10－6 , 0 + 10－6 ) 中， ② Yn 落在 ( 0 – 10－6 , 0 + 10－6 ) 外的概率小于10－6 。
定理 5.1.1 (切比雪夫大数定理)
假设 X1，…，Xn，…是一个独立随机变量
第五章-正态分布、常用统计分布和极限定理
解：首先将录取率200/1600 0.125作为正态分布上端
的面积， 然后根据1 0.125 0.875查附表4， 对应
Z 1.15,那么录取分数线
x X Z X 74 1.1511 86.65(分)
表5-2
例11：
0Z 图5-11
(1)求Z 1分数以上的概率是多少 ？
解：Z 1时， (Z) 0.34134, Z以上的概率为
（Z） Z
1
t2
e 2 dt
2
(Z 2 ) 图5-8 Z 2
(Z2 Z1)
图5-9Z1 Z 2
例4：已知服从标准正态分布 N(0，1)， 求P( 1.3) ? 解：因为() 1,() P( 1.3) P( 1.3) 所以( 1.3) 1 P( 1.3) 1 (1.3) 1 - 0.9032 0.0968
2
如果把u 0， 1代入(x)
1
e
(
xu)2
2 2
2
(x)
1
x2
e2
2
标准正态分布其实是一般正态分布的一个特 例，记作N(0，1)，一般正态分布记作N(μ，σ2)。
一般正态分布之所以能变成唯一的标准正态 分布，就是把原来坐标中的零点沿着X轴迁到μ点， 并且以σ为单位记分。
σ=1
0
图5-5
13.6%
13.6%
2.16% 0.11%
3 2 1 图05-6 1
2.16% 0.11%
23
三、标准分的实际意义
例1：甲、乙、丙3个同学《社会统计学》分数 都是80分，甲同学所在班平均成绩μ甲=80分， μ 乙=75分， μ丙=70分，标准差都是10，比较甲、乙、 丙3个同学在班上的成绩。
的面积， 然后根据1 0.125 0.875查附表4， 对应
Z 1.15,那么录取分数线
x X Z X 74 1.1511 86.65(分)
表5-2
例11：
0Z 图5-11
(1)求Z 1分数以上的概率是多少 ？
解：Z 1时， (Z) 0.34134, Z以上的概率为
（Z） Z
1
t2
e 2 dt
2
(Z 2 ) 图5-8 Z 2
(Z2 Z1)
图5-9Z1 Z 2
例4：已知服从标准正态分布 N(0，1)， 求P( 1.3) ? 解：因为() 1,() P( 1.3) P( 1.3) 所以( 1.3) 1 P( 1.3) 1 (1.3) 1 - 0.9032 0.0968
2
如果把u 0， 1代入(x)
1
e
(
xu)2
2 2
2
(x)
1
x2
e2
2
标准正态分布其实是一般正态分布的一个特 例，记作N(0，1)，一般正态分布记作N(μ，σ2)。
一般正态分布之所以能变成唯一的标准正态 分布，就是把原来坐标中的零点沿着X轴迁到μ点， 并且以σ为单位记分。
σ=1
0
图5-5
13.6%
13.6%
2.16% 0.11%
3 2 1 图05-6 1
2.16% 0.11%
23
三、标准分的实际意义
例1：甲、乙、丙3个同学《社会统计学》分数 都是80分，甲同学所在班平均成绩μ甲=80分， μ 乙=75分， μ丙=70分，标准差都是10，比较甲、乙、 丙3个同学在班上的成绩。
第五章 极限定理初步
■独立同分布中心极限定理(林德伯格 列维中心极限定理) 独立同分布中心极限定理 林德伯格-列维 是独立同分布的随机序列， 设X1,X2, …是独立同分布的随机序列，且 是独立同分布的随机序列 E(Xi)= µ，D(Xi)= σ 2，i=1,2,…，令 ，
Yn =
∑X −nµ
i=1 i
n
σ n
则Yn的分布函数收敛到标准正态分布函数，即 的分布函数收敛到标准正态分布函数，
棣莫弗
1667-1754
定理表明，当n很大，0<p<1是一个定值 定理表明， 很大， 是一个定值 很大 服从二项分布 时,服从二项分布的变量 近似服从正态分布 服从二项分布的变量X近似服从正态分布 N(np,np(1-p)).
某互联网站有10000个相互独立的用户， 个相互独立的用户， 例2. 某互联网站有 个相互独立的用户 已知每个用户在平时任一时刻访问网站的概率 为0.2。求在任一时刻 。求在任一时刻1900~2100个用户访问该 个用户访问该 网站的概率。 网站的概率。
例1：作加法时，对每个加数四舍五入取整， ：作加法时，对每个加数四舍五入取整， 各个加数的取整误差可以认为是相互独立 都服从( 上均匀分布。 的，都服从 -0.5 , 0.5 )上均匀分布。现在有 上均匀分布 1200个数相加，问取整误差总和的绝对值 个数相加， 个数相加 超过10的概率是多少 的概率是多少？ 超过 的概率是多少？
1 lim P(| ∑Xi − µ |< ε) =1 n→ ∞ n i=1
n
1821—1894
切比雪夫大数定律表明： 无限增大时,n 切比雪夫大数定律表明：当n无限增大时 表明 无限增大时 个独立同分布的随机变量的算术平均值
1 X = (X1 + X2 +L+ Xn) 几乎等于常数 n 因此可用算术平均值作为µ的估计 因此可用算术平均值作为 的估计
第五章 大数定律与中心极限定理
∑200
【解】 设 X i 表示“该射手第 i 次射击的得分”，则 Y = X i 表示射手所得总分，
i=1
Xi (i =1, 2, , 200) 独立同分布，分布表如下：
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ；
试验中发生的概率，这个定律以严格的数学形式刻画了频率的稳定性，在实际应用中，当试 验次数很大时，便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
，Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,（
i
=
1,
2,
） ,则对任意给定的正数 ε ，有
) ,则对任意实数 x ，有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ，当 n 充分大时，近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式； ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律（独立同分布随机变量的大
【解】 设 X i 表示“该射手第 i 次射击的得分”，则 Y = X i 表示射手所得总分，
i=1
Xi (i =1, 2, , 200) 独立同分布，分布表如下：
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ；
试验中发生的概率，这个定律以严格的数学形式刻画了频率的稳定性，在实际应用中，当试 验次数很大时，便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
，Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,（
i
=
1,
2,
） ,则对任意给定的正数 ε ，有
) ,则对任意实数 x ，有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ，当 n 充分大时，近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式； ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律（独立同分布随机变量的大
第五章 极限定理
x
f ( x)dx
x
x
2
2
f ( x)dx
2 2 2 x f ( x)dx 2
P{ X } 2 P{ X } 1 2 上式说明，X 的方差越小，事件{ X }
n
lim P Yn 1 无论 多小，当n充分大时， 事件 Yn 发生的概率可任意接近于1． 若 lim P Yn 1成立，我们称随机变量序列
n P Y1 , Y2 , , Yn 依概率收敛于，记为Yn ． n n
100 1 100 P{0.01 X i 0.01 } P{1 X i 1} 100 i 1 i 1
1 100 0 P 100 1 12
X i 100 0 1 100 0 i 1 1 1 100 100 12 12
lim P Yn 1 随着n的增大，独立随机变量
X 1 , X 2 , , X n的均值Yn依概率收敛于它们共同的期望． 这就也说明期望的真实含义是平均值．
推论，设n次独立重复试验中事件 A发生的次数为n A , nA 有 lim P p 1. n n 1, 第i次试验中事件A发生 令, X i ，i 1,2, , 0，第i次试验中事件A不发生 则，X 1，X 2， , X n， 是独立随机变量序列， 且E ( X i ) p, Var ( X i ) p (1 p ), i 1,2,． nA nA 1 n i 1 X i Yn lim P p n n n n lim PYn p 1
第5章 大数定律及中心极限定理
第五章 大数定律与中心极限定理● 随机现象的规律只有在大量随机现象的考察中才能显现出来。
● 研究大量的随机现象，常常采用极限形式。
● 极限定理的内容很广泛，其中最重要的有二种：大数定律与中心极限定理。
1 大数定律● 事件发生的频率具有稳定性；●大量测量值的算术平均值也具有稳定性。
大数定律就是从这种稳定性的研究中得出的。
定理一（契比雪夫大数定律）设随机变量序列,,,,21nXX X …相互独立，且具有相同的数学期望和方差：()()().,2,1,2 ===kX D X E k kσμ前n 个随机变量的算术平均：∑==nk k XnX 11对于任意正数ε，有{}εμ<-∞→||lim X P n =.1|1|1lim=⎭⎬⎫⎩⎨⎧<-∑=∞→εμnk kn XnP则称{X n }服从大数定律。
证：由于(),11111μμ=⋅==⎥⎦⎤⎢⎣⎡∑∑==n nX E nX nE nk knk k(),111222121nn nX D nX n D nk kn k k σσ=⋅==⎥⎦⎤⎢⎣⎡∑∑==由契比雪夫不等式可得：./1|1|221εσεμn XnP nk k-≥⎭⎬⎫⎩⎨⎧<-∑=在上式中令,∞→n 并注意到概率不能大于1，即得：.1|1|lim 1=⎭⎬⎫⎩⎨⎧<-∑=∞→εμnk k n X nP● 定理一给出了关于平均值稳定性的科学的描述。
● 上式的意义：⎭⎬⎫⎩⎨⎧<-∑=εμ|1|1nk k X n是一个随机事件，等式表明，当∞→n 时，这个事件的概率趋于1。
即对于任意正数ε，当n 充分大时，不等式εμ<-∑=|1|1nk kX n成立的概率很大。
● 还表明，当n 很大时，随机变量nX X X ,,,21 的算术平均∑==nk kXnX 11接近于数学期望()()()μ====k X E X E X E 21.这种接近是在概率意义下的接近。
● 说明平均结果∑==nk kXnX 11渐趋稳定性。
第5章 极限定理
(2) 设需要 K 千瓦的电才能以 99% 概率保证该厂生产用电,则所求问题为
P{2 X ≤ K } = P{ X ≤
反查正态分布表,得
K X − 700 K − 140 K − 140 } = P{ ≤ } ≈ Φ( ) = 0.99 , 2 2 21 21 2 21
K − 140 2 21
= 2.31 ,从而解得 K = 161.1715 ,取 K = 162 ,即供应该厂 162
2
D( X i ) ≤ C 成立,则对于任意给定的 ε > 0 ,有
lim P{ |
n →∞
( i = 1,2, ), 并 且 存 在 常 数 C > 0 , 使 得 对 于 所 有 的 i = 1,2, , 均 有
1 n 1 n X i − ∑ E ( X i ) | < ε } = 1. ∑ n i =1 n i =1
1 n 1 n lim 0 , 只要 P X i − E ( X1 ) ≥ ε = 以概率收敛于 , 即对任何 , E ( X ) ε > 0 X ∑ ∑ 1 i n →∞ n i =1 n i =1 ). { X n : n = 1,2,} (
A. 有相同的数学期望 C. 服从同一泊松分布 B. 服从同一离散型分布 D. 服从同一连续型分布
Xi
P
从而
1 0.3
1.2 0.2
1.5 0.5
E ( X i ) = 1.29 ,
(1) 记 X =
D( X i ) = 0.0489 ,
i = 1,2, ,300 .
∑X
i =1
300
i
,由独立同分布中心极限定理知
X − 300 × 1.29 400 − 300 × 1.29 < P{ X ≥ 400} = 1 − P{ X < 400} = 1 − P 300 0.0489 300 0.0489 ≈ 1 − Φ (3.39)] = 1 − 0.9997 = 0.0003 .
P{2 X ≤ K } = P{ X ≤
反查正态分布表,得
K X − 700 K − 140 K − 140 } = P{ ≤ } ≈ Φ( ) = 0.99 , 2 2 21 21 2 21
K − 140 2 21
= 2.31 ,从而解得 K = 161.1715 ,取 K = 162 ,即供应该厂 162
2
D( X i ) ≤ C 成立,则对于任意给定的 ε > 0 ,有
lim P{ |
n →∞
( i = 1,2, ), 并 且 存 在 常 数 C > 0 , 使 得 对 于 所 有 的 i = 1,2, , 均 有
1 n 1 n X i − ∑ E ( X i ) | < ε } = 1. ∑ n i =1 n i =1
1 n 1 n lim 0 , 只要 P X i − E ( X1 ) ≥ ε = 以概率收敛于 , 即对任何 , E ( X ) ε > 0 X ∑ ∑ 1 i n →∞ n i =1 n i =1 ). { X n : n = 1,2,} (
A. 有相同的数学期望 C. 服从同一泊松分布 B. 服从同一离散型分布 D. 服从同一连续型分布
Xi
P
从而
1 0.3
1.2 0.2
1.5 0.5
E ( X i ) = 1.29 ,
(1) 记 X =
D( X i ) = 0.0489 ,
i = 1,2, ,300 .
∑X
i =1
300
i
,由独立同分布中心极限定理知
X − 300 × 1.29 400 − 300 × 1.29 < P{ X ≥ 400} = 1 − P{ X < 400} = 1 − P 300 0.0489 300 0.0489 ≈ 1 − Φ (3.39)] = 1 − 0.9997 = 0.0003 .
第五章 极限定理_极限定理1
7
例4 某大型商场每天接待顾客10000人，设某位顾客 的消费额(元)服从[100,1000]上的均匀分布，且顾客 的消费额是独立的，试求该商场的销售额在平均销 售额上、下浮动不超过20000元的概率。 解：第i位顾客消费额位ξi，商场销售额为ξ
ξ＝ ∑ ξi
i＝1
10000
Eξi = 550
1 9002 Dξi = (1000 − 100) 2 = 12 12
∴ k ≥ 14
至少要装14条外线
10
例1 一个螺丝钉重量是一个随机变量，期望值是1两， 标准差是0.1两。求一盒(100个)同型号螺丝钉的重量 超过10.2斤的概率。
解：设第i个螺丝钉重量为ξi，一盒重量为ξ＝∑ ξi
ξ1,...,ξ100相互独立，Eξi = 0.1, Dξi＝0.12
i＝1 100
Eξ = ∑ Eξi = 100(两)
5
例3 设ξ1，，ξ 48相互独立，都是 [ 0，上均匀分布。 ... 1] 1 48 记ξ＝ ∑ ξi , 求P(ξ<0.4) 48 i＝1 1 1 解法一：Eξi = , Dξi = 2 12
记ξ＝∑ ξi ,Eξ = 24, Dξ = 4 ξ
i＝1
48
N(24, 22 )
1 因为ξ＝ ξ 48 1 P(ξ < 0.4) = P ξ < 0.4 = P(ξ < 19.2) 48 ξ − 24 19.2 − 24 = P < = Φ 0 (−2.4) 2 2 = 1 − Φ 0 (2.4) =0.008158
1 对任给ε>0,n充分大时，必有n+1>ε且 < ε n 1 = lim P ξ = lim P(| ξn − 0 |< ε) n →∞ n →∞ n 1 = lim 1 − =1 n →∞ n 即{ξn }依概率收敛于0
例4 某大型商场每天接待顾客10000人，设某位顾客 的消费额(元)服从[100,1000]上的均匀分布，且顾客 的消费额是独立的，试求该商场的销售额在平均销 售额上、下浮动不超过20000元的概率。 解：第i位顾客消费额位ξi，商场销售额为ξ
ξ＝ ∑ ξi
i＝1
10000
Eξi = 550
1 9002 Dξi = (1000 − 100) 2 = 12 12
∴ k ≥ 14
至少要装14条外线
10
例1 一个螺丝钉重量是一个随机变量，期望值是1两， 标准差是0.1两。求一盒(100个)同型号螺丝钉的重量 超过10.2斤的概率。
解：设第i个螺丝钉重量为ξi，一盒重量为ξ＝∑ ξi
ξ1,...,ξ100相互独立，Eξi = 0.1, Dξi＝0.12
i＝1 100
Eξ = ∑ Eξi = 100(两)
5
例3 设ξ1，，ξ 48相互独立，都是 [ 0，上均匀分布。 ... 1] 1 48 记ξ＝ ∑ ξi , 求P(ξ<0.4) 48 i＝1 1 1 解法一：Eξi = , Dξi = 2 12
记ξ＝∑ ξi ,Eξ = 24, Dξ = 4 ξ
i＝1
48
N(24, 22 )
1 因为ξ＝ ξ 48 1 P(ξ < 0.4) = P ξ < 0.4 = P(ξ < 19.2) 48 ξ − 24 19.2 − 24 = P < = Φ 0 (−2.4) 2 2 = 1 − Φ 0 (2.4) =0.008158
1 对任给ε>0,n充分大时，必有n+1>ε且 < ε n 1 = lim P ξ = lim P(| ξn − 0 |< ε) n →∞ n →∞ n 1 = lim 1 − =1 n →∞ n 即{ξn }依概率收敛于0
第五章随机变量的数字特征与极限定理
❖ 5.1 随机变量的数学期望 ❖ 5.1.3 随机变量函数的数学期望
2021/2/19
20
❖ 5.1.3 随机变量函数的数学期望
❖ 关于一维随机变量函数的数学期望，有下面的定理 ❖ 定理5.1 设Y=g(X)，g(x)是连续函数. ❖ (ⅰ)若X是离散型随机变量，分布列为P(X=xk)=pk，
k=1,2,…，且
k 1
❖ 绝对收敛，即
| xk | pk
k1
❖ 则称该级数为离散型随机变量X的数学期望或均值， 记为EX或E(X)，即
EX xk pk k1
2021/2/19
3
❖当
| xk | pk
k 1
❖ 发散时，则称X的数学期望不存在.
❖ 定义中的绝对收敛条件是为了保证式
xk pk
k 1
❖ 不受求和的次序的改变而影响其和的值.
❖ 这个结果是可以预料的，因为X在[a,b]上服从均匀 分布，它取值的平均值当然应该是[a,b]的中点.
2021/2/19
14
❖ 例5 (指数分布) 设连续型随机变量X的概率密度为
ex,
f(x) 0,
❖ 其中λ是正常数，求EX.
x0, x0.
2021/2/19
15
❖ 解 EX
xf ( x ) dx
2021/2/19
12
❖ 常用的连续型随机变量的数学期望 ❖ 例4 (均匀分布)设连续型随机变量X的概率密度为
f
(x)
1 ba
,
a x b,
0,
其 他.
(a b)
❖ 求EX.
2021/2/19
13
❖ 解
EX xf ( x ) dx
bx
2021/2/19
20
❖ 5.1.3 随机变量函数的数学期望
❖ 关于一维随机变量函数的数学期望，有下面的定理 ❖ 定理5.1 设Y=g(X)，g(x)是连续函数. ❖ (ⅰ)若X是离散型随机变量，分布列为P(X=xk)=pk，
k=1,2,…，且
k 1
❖ 绝对收敛，即
| xk | pk
k1
❖ 则称该级数为离散型随机变量X的数学期望或均值， 记为EX或E(X)，即
EX xk pk k1
2021/2/19
3
❖当
| xk | pk
k 1
❖ 发散时，则称X的数学期望不存在.
❖ 定义中的绝对收敛条件是为了保证式
xk pk
k 1
❖ 不受求和的次序的改变而影响其和的值.
❖ 这个结果是可以预料的，因为X在[a,b]上服从均匀 分布，它取值的平均值当然应该是[a,b]的中点.
2021/2/19
14
❖ 例5 (指数分布) 设连续型随机变量X的概率密度为
ex,
f(x) 0,
❖ 其中λ是正常数，求EX.
x0, x0.
2021/2/19
15
❖ 解 EX
xf ( x ) dx
2021/2/19
12
❖ 常用的连续型随机变量的数学期望 ❖ 例4 (均匀分布)设连续型随机变量X的概率密度为
f
(x)
1 ba
,
a x b,
0,
其 他.
(a b)
❖ 求EX.
2021/2/19
13
❖ 解
EX xf ( x ) dx
bx
第5章 大数定律及中心极限定理
定理2（辛钦大数定律） 设随机变量序列X1,X2, … 相互独立， 服从同一分布，具有数学期E(Xi)=μ, i=1,2,…， 则对于任意正数ε ，有
辛钦
1 n lim P{| X i | } 1 n n i 1
注
1、辛钦大数定律为寻找随机变量的期望值 提供了一条实际可行的途径.
2、切比雪夫大数定律是辛钦定理的特殊情况. 3、辛钦定理具有广泛的适用性.
例1 在一个罐子中,装有10个编号为0-9的同样 的球,从罐中有放回地抽取若干次, 每次抽一个, 并记下号码. 1 第k次取到号码 0 设 Xk = ，k=1,2, … 0 否则 问对序列{Xk}能否应用辛钦大数定律？
即有
n X k
k 1
n
其中X k ( k 1,2,, n)的分布律为 PX k i p i (1 p)1 i , i 0,1
由于E ( X k ) p, D( X k ) p(1 p) k 1,2,, n)，
由定理 4得 n X k np n np lim P{ x } lim P{ k 1 x} n n np(1 p) np(1 p )
V 20 5 105 20 5 PV 105 p 100 12 20 100 12 20
V 20 5 p 0.387 100 12 20
V 20 5 1 p 0.387 100 12 20
n 1 P Xk 1 2 n k 1 上式中令 n 得 1 n lim P{| X i | } 1 n n i 1
n 2
说明
1 n 1、定理中{| X i | }是指一个随机事件， n i 1 当n 时，这个事件的概率趋于1.
辛钦
1 n lim P{| X i | } 1 n n i 1
注
1、辛钦大数定律为寻找随机变量的期望值 提供了一条实际可行的途径.
2、切比雪夫大数定律是辛钦定理的特殊情况. 3、辛钦定理具有广泛的适用性.
例1 在一个罐子中,装有10个编号为0-9的同样 的球,从罐中有放回地抽取若干次, 每次抽一个, 并记下号码. 1 第k次取到号码 0 设 Xk = ，k=1,2, … 0 否则 问对序列{Xk}能否应用辛钦大数定律？
即有
n X k
k 1
n
其中X k ( k 1,2,, n)的分布律为 PX k i p i (1 p)1 i , i 0,1
由于E ( X k ) p, D( X k ) p(1 p) k 1,2,, n)，
由定理 4得 n X k np n np lim P{ x } lim P{ k 1 x} n n np(1 p) np(1 p )
V 20 5 105 20 5 PV 105 p 100 12 20 100 12 20
V 20 5 p 0.387 100 12 20
V 20 5 1 p 0.387 100 12 20
n 1 P Xk 1 2 n k 1 上式中令 n 得 1 n lim P{| X i | } 1 n n i 1
n 2
说明
1 n 1、定理中{| X i | }是指一个随机事件， n i 1 当n 时，这个事件的概率趋于1.
极限定理
返 回 前一页 后一页
概 率 论
柯尔莫哥洛夫定理 对相互独立同分布随机变量序列 n ，若满足条件 E| n |<, 则 1 n 1 n P lim i E ( i ) 0 1. n i 1 n n i 1
返 回
前一页
后一页
概 率 论
故而当 n 很大时, 事件发生的频率与概率 有较大偏差的可能性很小. 在实际应用中, 当试 验次数很大时, 便可以用事件发生的频率来代 替事件的概率.
返 回
前一页
后一页
概 率 论
3、泊松大数定律(定理5.1.2)
设随机变量 X 1 , X 2 , , X n , 为相互独立的随机变量序列,
P { X n 1} pn , P { X n 0} q n .
1 n 1 n lim P {| X i EX i | } 1 n n i 1 n i 1
或
1 n 1 n lim P {| X i EX i | } 0 n n i 1 n i 1
即{ X n } 服从 大数定律.
µ
1 n lim P {| X | } lim P X k 1. n n n k 1
返 回 前一页 后一页
1 n lim P {| X | } lim P X k 1. n n n k 1 n n
概 率 论
证明
1 1 E X k E( X k ) n k 1 n k 1
根据上述方法，例1不收敛。
定义
| X n X | :| X n ( ) X () |
lim P{| X n X | } 1
概 率 论
柯尔莫哥洛夫定理 对相互独立同分布随机变量序列 n ，若满足条件 E| n |<, 则 1 n 1 n P lim i E ( i ) 0 1. n i 1 n n i 1
返 回
前一页
后一页
概 率 论
故而当 n 很大时, 事件发生的频率与概率 有较大偏差的可能性很小. 在实际应用中, 当试 验次数很大时, 便可以用事件发生的频率来代 替事件的概率.
返 回
前一页
后一页
概 率 论
3、泊松大数定律(定理5.1.2)
设随机变量 X 1 , X 2 , , X n , 为相互独立的随机变量序列,
P { X n 1} pn , P { X n 0} q n .
1 n 1 n lim P {| X i EX i | } 1 n n i 1 n i 1
或
1 n 1 n lim P {| X i EX i | } 0 n n i 1 n i 1
即{ X n } 服从 大数定律.
µ
1 n lim P {| X | } lim P X k 1. n n n k 1
返 回 前一页 后一页
1 n lim P {| X | } lim P X k 1. n n n k 1 n n
概 率 论
证明
1 1 E X k E( X k ) n k 1 n k 1
根据上述方法，例1不收敛。
定义
| X n X | :| X n ( ) X () |
lim P{| X n X | } 1
极限定理
解：第i次轰炸命中目标的次数为i
100次轰炸命中目标的次数＝ i
i＝1 100
E Ei＝200
i＝1
100
D Di＝ 169
i＝1
100
D 13
N(200,132 ) | 200 | 20 P(180 220) P 13 13 ＝20 (1.54) 1 ＝0.87644
5
定义1 若存在常数a，使对于任何>0，有 lim P(|n a|<)=1 称随机变量序列n 依概率收敛于a
p 记作：n a n
6
例3 设n为两点分布 1 1 1 P 1 P( n 1) n n n 1 对任给>0,n充分大时，必有n+1>且 n 1 lim P(| n 0 | ) lim P n n n 1 lim 1 =1 n n 即n 依概率收敛于0
13
例1 一个螺丝钉重量是一个随机变量，期望值是1两， 标准差是0.1两。求一盒(100个)同型号螺丝钉的重量 超过10.2斤的概率。
解：设第i个螺丝钉重量为i，一盒重量为＝ i
100
1,...,100相互独立，Ei 0.1,Di＝0.12
E Ei 100(两)
第五章 极限定理 5.1大数定律
§5.1.1 切贝谢夫不等式
研究随机变量的离差与方差的关系。
设随机变量有期望值E与方差D。 对任给>0,有 D P(| E | ) 2 D P(| E | ) 1 2 称为切贝谢夫(Chebyshev)不等式 证：若是离散型随机变量。
4
5.1.2 大数定律
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
, Xn,
是一
列相互独立同分布的随机变量，且数学期望存在，
1 n lim P X i 1 n n i 1
1 n p 即： X i n i 1
注：算术平均值可作为期望的近似值.
§5.3
中心极限定理
一、中心极限定理的一般概念
引例：测量时受很多因素的影响，如仪器的精度、人的视觉、空气 的温度、湿度…等，各个因素独立的，对误差X的影响都是微小的， 甚至是感觉不到的，但它们的总和使得测量产生误差X服从某种分 布。 凡是用来阐明大量的独立的随机变量和的分布以正态分布 为极限的一系列定理，统称为中心极限定理.
0.005 0.995
k
10000 k
EX np 10000 0.005 50
P{ X 70} (70)
DX npq 49.75
由定理4.3.2 知：X 近似服从N(50, 49.75).
70 50 0 ( ) 49.75
0.9977
例5.3.1：一食品店有三种蛋糕出售，由于售出哪一种蛋糕是随机 的，因而售出一只蛋糕的价格是一个随机变量，它取1（元），1.2 （元），1.5（元）各个值的概率分别为0.3，0.2，0.5，若售出300 只蛋糕，求 (1) 收入至少为400元的概率； 解（1）第i只蛋糕的价格为Xi(元),（i=1.,2,…,100). Xi独立同分布 EXi=1.29， DXi=0.0489
EY 60
由中心极限定理得：
D(Y ) 48
X 近似服从N (60,48)
Y
B(300,0.2)
60 60 ) P(Y 60） 1 (60) 1 0 ( 48
1 0 (0)
0.5
例 设某电站供电网有10000盏电灯，夜晚每盏 开灯的概率为0.7，而假定开关时间彼此独立，估计 夜晚同时开的灯的盏数在6800与7200之间的概率。 解 X 表示夜晚同时开着的灯的盏数， 则 X B(10000,0.7),
注 小概率事件：概率接近于0的事件 大概率事件：概率接近于1的事件 小概率原理：小概率事件在一次试验中被认为是不可能发生的 大概率事件在一次试验中被认为是一定会发生的
X P 即 p. n
定理5.2.2 （切比雪夫大数定律）设X 1 , X 2 ,
, Xn,
是相互独立的随机变量，各有数学期望EX i和DX i , 并且对所有的i 1, 2, 有DX i C，其中C是与i无关 的常数，则对任意 0有 1 n 1 n lim P | X i EX i | 1. n n i 1 n i 1
20 (4.36) 1 0.99999
于是EX 7000, DX 2100
由中心极限定理知X N (7000, 2100)
6800 7000
则 P 6800 X 7200 (7200)-(6800)
2100 2100 200 200 0 ( ) 0 ( ) 2100 2100 0 ( 7200 7000 ) 0 ( )
二、独立同分布中心极限定理 定理5.3.1 (列维中心极限定理）
设X1 , X 2 , , X n ,为独立同分布的随机变 量序列，且
EX i ，DX i
2
0,(i 1,2, )
则对任意实数 x 恒有： n 1 lim P{ ( X i n ) x} 0 ( x) n n i1
1 0.99965 0.0035
例5.3.1：一食品店有三种蛋糕出售，由于售出哪一种蛋糕是随机 的，因而售出一只蛋糕的价格是一个随机变量，它取1（元），1.2 （元），1.5(元）个各个值的概率分别为0.3，0.2，0.5，若售出300 只蛋糕，求 (1) 收入至少为400元的概率； (2) 售出价格为 1.2 元的蛋糕多余60只的概率。 解（2）设Y 表示售出的300只蛋糕中1.2元蛋糕的蛋糕数，则
1 n 1 n lim P X i EX i 0 n n i1 n i1
n 1 n 1 p X i EX i , n i 1 n i 1
X n EX n
P
定理5.2.3 （辛钦大数定律） 设X 1 , X 2 , 记EX i ，则有
P(6800 X 7200) P( X 7000 200) 1 2100 0.9475 2 200
§5.2 大数定律
定义5.2.1（ 依概率收敛）设{Xn}为随机变量序列，a为常数，若
或
lim P(| X n a | ) 1
n
lim P (| X n a | ) 0
例 某一年中某类保险者里面每个人死亡的概率为0.005，现在 10000个这类人参加人寿保险，试求未来一年中的这些保险者里面， 死亡人数不超过70的概率。 解：令X 为参保者中未来一年中死亡的人数, 则X ~ B(10000, 0.005).
P( X 70) C
k 0
70
k 10000
X np lim P{ x} 0 ( x) n np(1 p)
近似地
X np ~ N (0,1) np(1 p)
X ~ N (np, np(1 p))
注: 二项分布的极限分布是正态分布. ቤተ መጻሕፍቲ ባይዱX~B(n,p), n充分大时, X近似服从N(np,np(1-p)) 可用正态分布近似计算二项分布.
第五章 大数定律和中心极限定理
大数定律 中心极限定理
§5.1 切比雪夫不等式
定理5.1.1设随机变量X 的期望EX及方差DX存在，则对任意 的 >0, 有
P ( X EX )
DX
2
P ( X EX ) 1
DX
2
EX-
EX
EX+
例1 某电网有10000盏灯，夜晚每盏灯打开的概率为0.7,假定 各灯的开、关彼此独立. 用切贝雪夫不等式估计夜晚同时开着 的灯的数量在6800与7200之间的概率. 解：设X表示夜晚同时开的灯数， 则X~B（10000，0.7）. EX=7000，DX=2100 由切贝雪夫不等式得:
2 X N ( n , n ) i
n
近似
中心极限定理
设X1 , X 2 , , X n ,为独立同分布的随机变 量序列，且
EX i ，DX i 0,(i 1,2, )
2
当n比较大时，
X
i 1
n
近似 i
N (n , n )
2
例 设某商店每天接待顾客100人,设每位顾客的消费额服从[0, 60]上 的均匀分布,且顾客的消费是相互独立的.求商店的日销售额超过 3500的概率. 解：第i个顾客的消费额为Xi (元),（i=1,2,…,100). Xi 独立同分布 则商店的销售额为
令 Yn
注
X i n
i
n
n
n i 1 i
n
X 的标准化R.V.
2 又 E ( X ) n ， D ( X ) n N(0, 1) i i i 1 i 1
= P(Yn≤x) = FYn(x)
n n
(1)当n充分大时，Yn近似服从N(0,1). (2) 定理对离散型、连续型R.V.都适用. i1 (3)对独立同分布的R.V.序列,只要期望和方差存在,不论Xi服从何分 布，和的极限分布都是正态分布.
300 i 1
设总收入为X，则
300 i 1
X Xi
i 1
300
EX E ( X i ) 1.29 300 387, D( X i ) 0.0489 300 14.67
2 由中心极限定理得： X 近似服从N (387,14.67) N (387,3.83 ) 400 387 ) 1 0 (3.39) P(X 400） 1 (400) 1 0 ( 3.83
n
则称随机变量{Xn}依概率收敛于a. 记作
X n a
P
注: 1.序列 X n 依概率收敛到a与序列 X n a 依概率收敛
到0是等价的.
2.这里序列 X n a 依概率收敛到0,并不同于为 微积分中常说的收敛于0.
定理5.2.1（贝努利大数定律）设X 是n重贝努利 试验中事件A发生的次数，已知在每次试验中A 发生的概率为p(0 p 1), 则对任意 0, 有 X lim P | p | 1. n n
P( X i 3500) 1 P( X i 3500) 1 (3500)
i 1
100
3500 3000 1 0 ( ) 1 0 (2.887) 0.002 30000
i 1
三、棣莫弗尔—拉普拉斯中心极限定理 定理5.3.2 （棣莫弗尔-拉普拉斯定理） 设X 服从参数为 n，p 的二项分布,则对任意实数 x 有
100 i 1
X i , Xi 服从[0，60]的均匀分布
i 1
100
EXi =30 DXi =300
E ( X i ) 3000,
D( X i ) 300 100 30000
i 1
100
由中心极限定理得：
100
X 近似服从N (3000,30000)
i 1 i
100