第5章大数定律及中心极限定理

n
n i=1
n i=1
i
偏差很小的概率接近于1. 偏差很小的概率接近于 特别当
E ( X k ) = µ , D( X k ) = σ 2 , k = 1, 2,...
时,X1,X2,…,Xn的算术平均值 偏差很小的概率接近于1. 偏差很小的概率接近于
X =
1 n ∑Xi n i=1
与其数学期望 µ
nA = X P p → n
伯努利大数定律表明，当重复试验次数n充分大时，事件 伯努利大数定律表明，当重复试验次数 充分大时， 充分大时 A发生的频率 A/n与事件 的概率 有较大偏差的概率很小 发生的频率n 与事件 的概率p有较大偏差的概率很小 与事件A的概率 有较大偏差的概率很小. 发生的频率 伯努利大数定律提供了通过试验来确定事件概率的方法. 伯努利大数定律提供了通过试验来确定事件概率的方法
| x − |≥
或
σ2 P{| X − µ |< ε } ≥ 1 − 2 ε
∫ fε ( x)dx µ
| x − |≥
∫ε µ
∞
( x − µ )2
ε
2
f ( x)dx
σ2 ≤ 2 ∫ ( x − µ ) f ( x) dx = 2 ε −∞ ε
1
2
µ −ε
µ
µ +ε
5.2 大数定律 定理5.2.1（契比雪夫大数定律） （契比雪夫大数定律） 定理
是相互独立的随机变量， 设 X1,X2, …是相互独立的随机变量，它们都有有 是相互独立的随机变量 限的方差，并且方差有共同的上界，即 D(Xk) ≤C， 限的方差，并且方差有共同的上界， ， k=1,2, …， ， 则对任意的ε>0， ， 契比雪夫 契比雪夫
1 n 1 n limP{| ∑Xi − ∑EXi |< ε } = 1 n→∞ n i =1 n i =1
很大时， 近似服从N(0,1)，或 即n很大时，Yn近似服从 很大时 ， 近似 近似 1 n σ σ2 σ2 ∑Xi = Yn + µ ~ N ( µ , ) 即 X ~ N ( µ , ) n i=1
n n
n
5.3 中心极限定理 续2) 中心极限定理(续
定理5.3.2(棣莫佛－拉普拉斯定理） (棣莫佛－拉普拉斯定理） 定理 服从二项分布B(n, ，n=1,2,…, 二项分布B( 设随机变量 Yn服从二项分布B( p)，n=1,2, ,则对任意 x，有 ，
Y − np
这里 np=100, np(1-p)=90
解得 N>115.65 即总机应备有116条外线才能以 即总机应备有 条外线才能以95%以上的把握保 条外线才能以 以上的把握保 证各个分机在使用外线时不等候。 证各个分机在使用外线时不等候。
5.3 中心极限定理 续5) 中心极限定理(续
例2.设电路供电网中有10000盏灯，夜晚每一盏灯开着 2.设电路供电网中有10000盏灯， 设电路供电网中有10000盏灯 的概率都是0.7 假定各灯开、关时间彼此无关， 0.7， 的概率都是0.7，假定各灯开、关时间彼此无关，计算 同时开着的灯数在6800 7200之间的概率 6800与 之间的概率。 同时开着的灯数在6800与7200之间的概率。 解：记同时开着的灯数为X，X ~B(10000,0.7) 记同时开着的灯数为 ， np=10000×0.7=7000 ×
5.3 中心极限定理 续3) 中心极限定理(续
例1.某单位内部有1000部电话分机，每部电话分机有 1.某单位内部有1000部电话分机， 某单位内部有1000部电话分机 10%的时间要用外线通话 的时间要用外线通话， 10%的时间要用外线通话，假定各个电话用不用外线是 相互独立的，问总部要备有多少条外线才能以95% 95%的把 相互独立的，问总部要备有多少条外线才能以95%的把 握保证各个分机在用外线时不必等候。 握保证各个分机在用外线时不必等候。 解：对每部话机的观察作为一次试验， 对每部话机的观察作为一次试验， 每次试验观察该话机在某时刻是否使用外线， 使用外 每次试验观察该话机在某时刻是否使用外线， 线的概率为0.1，共进行1000次试验 次试验. 线的概率为 ，共进行 次试验 表示在某时刻使用外线的话机数， 用Y表示在某时刻使用外线的话机数， 表示在某时刻使用外线的话机数 依题意， 依题意， Y~B(1000,0.1), 设总部备有N条外线 现在的问题是： 设总部备有 条外线， 现在的问题是： 求满足 P(Y≤N)≥0.95 的最小的N. 的最小的
5.2 大数定律 (续3) 续 下面给出的独立同分布下的大数定律， 下面给出的独立同分布下的大数定律，不要求随 机变量的方差存在. 机变量的方差存在 定理5.2.3（辛钦大数定律） （辛钦大数定律） 定理
辛钦
设随机变量序列X 独立同分布， 设随机变量序列 1,X2, …独立同分布，具有有限的数学期望 独立同分布 E(Xi)=µ, i=1,2,…， 则对任给 >0 ， ， 则对任给ε
第5章 大数定律与中心极限定理 章 事件的频率在大样本下具有稳定性， 事件的频率在大样本下具有稳定性，即随着试验次数的 增加，事件的频率逐渐稳定于某个常数. 增加，事件的频率逐渐稳定于某个常数 大量测量值的平均值 也具有这种稳定性，这种稳定性就是大数定律的客观背景. 也具有这种稳定性，这种稳定性就是大数定律的客观背景 大数定律的客观背景
Yn =
∑X
k =1
n
k
− E (∑ X k )
k =1 n
n
=
∑X
k =1
n
k
− nµ
D (∑ X k )
k =1
nσ
的分布函数F 的分布函数 n(x)=P{Yn≤x}，对∨ x，满足： ， ，满足：
lim Fn ( x) = ∫
n →∞ x −∞
1 −t 2 / 2 e dt = Φ ( x) 2π
特别， 特别，当
E ( X k ) = µ , D ( X k ) = σ 2 , k = 1, 2,...
则对任意的ε>0， ， 则对任意的
lim P{| X − µ |< ε } = 1
n →∞
1 n (X = ∑ Xk ) n k =1
证：由契比雪夫不等式， 由契比雪夫不等式， 即
P{| X − E ( X ) |< ε } ≥ 1 −
5.3 中心极限定理 续4) 中心极限定理(续
由德莫佛-拉普拉斯极限定理 由德莫佛 拉普拉斯极限定理 近似服从N(0,1), np( 1− p) 近似服从 N − 100 ) ≥ 0.95 于是 P(Y≤N) ≈ Φ( 90 查表知 故
Φ( 1.65 ) ≈ 0.95
N − 100 90 > 1.65
大量抛掷硬币 正面出现频率
生产过程中的 废品率
某字母使用 频率
5.1 Chebyshev不等式 不等式
设EX=µ ,DX=σ2 , 则对任意正数 ε，成立不等式 ，
σ2 P{| X − µ |≥ ε } ≤ 2 ε
证：（就连续型证） ：（就连续型证） 就连续型证
P{| X − µ |≥ ε } = ≤
1 n lim P{| ∑Xi −µ |< ε} = 1 n→∞ n i=1
辛钦大数定律为寻找随机变量的期望值提供了一条实 际可行的途径. 际可行的途径
5.3 中心极限定理 在客观实际中有许多随机变量，它们是由 大量的相互独立的随机因素的综合影响所形成 的。而其中每一个别因素在总的影响中所起的 作用都是微小的。这种随机变量往往近似地服 从正态分布。 这种现象就是中心极限定理 的客观背景。
5.3 中心极限定理（续1） 中心极限定理（ ）
定理5.3.1（独立同分布的中心极限定理 ）设随机变量 （ 定理 X1,X2,…,Xn,...相互独立，服从同一分布，且 相互独立，服从同一分布，
则
X k ) = µ , D( X k ) = σ 2 > 0
i
k=1,2,…
的标准化变量
np( 1 − p ) = 10000 × 0.7 × 0.3 = 45.83
P{ 6800 < X < 7200 } 7200 − 7000 6800 − 7000 = Φ − Φ 45.83 45.83 = Φ ( 4.36 ) − Φ ( −4.36 ) = 2Φ ( 4.36 ) − 1 = 0.99999
1 n 即当n充分大时 n 充分大时， 差不多不再是随机的了， 即当 充分大时， ∑Xi 差不多不再是随机的了， i=1
取值接近于其数学期望的概率接近于1. 取值接近于其数学期望的概率接近于 契比雪夫大数定律给出了 平均值稳定性的科学描述
5.2 大数定律 (续2) 续 定理5.2.2（伯努利大数定律） （伯努利大数定律） 定理 重伯努利试验中事件A发生的 设nA是n重伯努利试验中事件 发生的 重伯努利试验中事件 次数， 是事件 在每次试验中发生的概率， 是事件A在每次试验中发生的概率 次数，p是事件 在每次试验中发生的概率， 则对任给的ε> ， 则对任给的 0， 伯努利 nA nA limP{| − p|≥ ε } = 0 limP{| − p|< ε } = 1 或 n→∞ n→∞ n n 1, 第i次A发生； …+X Xi = 因为n 证：因为 A~B(n,p),可记 nA=X1+X2+ 可记 n . 0, 第i次A不发生 X1,X2,…,Xn相互独立，E(Xi)=p,i=1,2,...,n. 相互独立， ∴
limP{ Yn − np np( 1− p) ≤ x} = ∫
x
n→∞
−∞
1 e 2π
−
t2 2
dt = Φ ( x)
定理表明， 很大(一般 定理表明，当n很大 一般 很大 一般n≥50)，0<p<1是一个定值时 ， 是一个定值时 也不太小时）， （或者说，np(1-p)也不太小时），则 Yn 的标准化变量 或者说， 也不太小时），则 分布近似标准正态分布， 的分布近似标准正态分布，或 Yn近似服从 N(np,np(1-p)).