大数定律与中心极限定理

0
2
σ P{| Yn |< ε } ≥ 1 2 . nε
∴ lim P{| Yn |< ε } = 1
n →∞
江苏大学数学系 17
2010-9-1
定理5.1(切贝夫定理)设ξ1,ξ2…是相互独立的 随机变量序列,各有数学期望Eξ1,Eξ2…及方 差 Dξ1,Dξ2… 并且对于所有k=1,2,…都有Dξk< ,其中 是 与k无关的常数,则任给ε>0,有
lim P{| Yn |< ε } = 1
n →∞
1 n Yn = ∑ ξ k n k =1
这里
P{| Yn E (Yn ) |< ε } ≥ 1
D(Yn )
ε
2
.
故
1 n E (Yn ) = ∑ E (ξ k ) = n k =1 2 n 1 σ D(Yn ) = 2 ∑ D(ξ k ) = n k =1 n
第五章
大数定律与中心极限定理
§5.1大数定律的概念 §5.2切贝谢夫不等式 §5.3切贝谢夫定理 §5.4中心极限定理
§5.1大数定律的概念
例1 掷一颗均匀的正六面体的骰子,出现么点的概率 是1/6,在掷的次数比较少时,出现么点的频率可能与 1/6相差得很大.但是在掷的次数很多时,出现么点的频 率接近1/6几乎是必然的. 例2 测量一个长度a,一次测量的结果不见得就等于a,量 了若干次,其算术平均值仍不见得等于a,但当测量的 次数很多时,算术平均值接近于a几乎是必然的.
P{6800 p ξ p 7200} =
7199
∑
k C10000 × 0.7 k × 0.310000 k
如果用切贝谢夫不等式估计: Eξ=np=10000×0.7=7000
k=6801
Dξ=npq=2100
2100 P{6800 p ξ p 7200} =P{ ξ -7000 p 200} ≥ 12 ≈ 0.95 200
令 0.01 ≤ 0.1 2 a
0.01 P{| ξ 1|≥ a} ≤ 2 ; a
a ≥ 0.1
2
a ≥ 0.32
§5.3大数定律
§5.3大数定律
一、依概率收敛 定义5.1 若存在常数a,使对于任何
ε > 0, 有 lim P( ξ n a < ε ) = 1
n →∞
则称随机变量序列{ξn}依概率收敛于a
(a ε , a + ε ) 内的概率越来越大 n0 , n > n0 内的概率越来越大.
ξn
a ε
而 a
lim P{ ξ n -a ≤ ε }=1
n →∞
a +ε
当 ξ n → a 意思是 ε > 0, n0 ,当 n > n0 意思是:
| ξ n a |< ε
lim ξ n =a
n →∞
1.切比雪夫大数定律的特殊情况 1.切比雪夫大数定律的特殊情况 设{ξk, k=1,2,...}为相互独立的随机变量序列，且具 有相同的数学期望，及方差σ2>0，则
可见,虽然有10000盏灯,但是只要有供应7200 盏灯的电力就能够以相当大的概率保证够用. 事实上,切贝谢夫不等式的估计只说明概率大 于0.95,后面将具体求出这个概率约为0.99999, 切贝谢夫不等式在理论上具有重大意义,但估 计的精确度不高.
2010-9-1
江苏大学数学系
11
已知某种股票每股价格ξ的平均值为1 已知某种股票每股价格ξ的平均值为1元 标准差为0.1 0.1元 a,使股价超过 使股价超过1+a ，标准差为0.1元，求a,使股价超过1+a 元或低于1 元的概率小于10% 10%。 元或低于1-a元的概率小于10%。 由切比雪夫不等式 解:由切比雪夫不等式 由切比
大数定律以确切的数学形式表达了这种规律 性,并论证了它成立的条件,即从理论上阐述了 这种大量的、在一定条件下的、重复的随机现 象呈现的规律性即稳定性.由于大数定律的作用, 大量随机因素的总体作用必然导致某种不依赖 于个别随机事件的结果.
§5.2 切贝谢夫不等式
§5.2 切贝谢夫不等式
一个随机变量离差平方的数学期望就是它的方 差,而方差又是用来描述随时机变量取值的分散程 度的.下面研究随机变量的离差与方差之间的关系 式.
2010-9-1 江苏大学数学系
P{| ξ E (ξ ) |≥ ε } ≤
D(ξ )
9 2
ε
;
例3 设电站供电网有10000盏电灯,夜晚每一盏电灯 开灯的概率都是0.7,而假定开关时间彼此独立,估计 夜晚同时开着的灯数在6800与7200之间的概率. 解:令ξ表示在夜晚同时开着的灯的数目,它服从参数 n=10000,p=0.7的二项分布.若要准确计算,应该用贝 努里公式:
P{| ξ E (ξ ) |< ε } ≥ 1
D(ξ )
ε
2
.
切贝谢夫不等式的证明:
设随机变量ξ 有期望值Eξ 及方差Dξ ,则任给ε >0,有
P( ξ Eξ ≥ ε ) ≤ Dξ
ε2
P ( ξ Eξ < ε ) ≥ 1
Dξ
把概率转化 为求和 把求和因 子放大
Dξ
ε
2
证:如果ξ是离散型的随机变量,那么
2010-9-1
江苏大学数学系
13
设{ξn}为随机变量序列，ξ为随机变量，若任给 ε>0, 使得
lim P{| ξ n ξ |< ε } = 1
n →∞
则称{ξn}依概率收敛于ξ. 可记为 依概率收敛于 依概率收敛
切 比 雪 夫 不 等 式
ξ n ξ . →
P
如
ξ n a →
p
意思是:当 意思是 当 n → ∞ 时,ξn落在
ι
ι
1 n 1 n lim P ∑ ξ k ∑ Eξ k p ε =1 (5.2) n →∞ n k=1 n k=1
随机变量的 算术平均值 2010-9-1
江苏大学数学系
随机变量期望 的算术平均值18
切贝谢夫定理说明:在定理的条件下,当n充分大时,n 个独立随机变量的平均数这个随机变量的离散程度 是很小的.这意味,经过算术平均后得到的随机变量
p
如果事件A的概率很小,则正如贝努里定理指出的, 事件A的频率也是很小的,即事件A很少发生.例如 P(A)=0.001,则在1000次试验中只能希望事件A发 生一次. 在实际中概率很小的随机事件在个别试验中几乎是 不可能发生的.因此,人们常常忽略了那些概率很小 的事件发生的可能性.这个原理叫作小概率事件的 实际不可能性原理(简称小概率原理). 它在国家经济建设事业中有着广泛的应用.至于” 小概率”小到什么程度才能看作实际上不可能发生, 则要视具体问题的要求和性质而定.从小概率事件 的实际不可能性原理容易得到下面的重要结论:如 果随机事件的概率很接近1,则可以认为在个别试验 中这事件几乎一定发生
P( ξ Eξ ≥ ε ) =
≤来自百度文库
xk E ≥
∑ ε P(ξ = x ) ξ
k
xk E ≥
∑ε ξ
( xk Eξ ) 2
ε
2
Pk ≤ ∑
k
( xk Eξ ) 2
ε
2
pk =
ε 2 把求和范 围放大
例1设随机变量ξ的数学期望Eξ=μ，方差Dξ=σ2 则由切贝谢夫不等式有
P{ ξ - ≥ 3σ } ≤
这两个例子说明：
在大量随机现象中,不仅看到了随机事 件的频率具有稳定性,而且还看到大量测量值 的平均结果也具有稳定性。这种稳定性就是 本章所要讨论的大数定律的客观背景。即无 论个别随机现象的结果如何,或者它们在进行 过程中的个别特征如何,大量随机现象的平均 结果实际上与每一个别随机现象的特征无关, 并且几乎不再是随机的了。
解：根据切贝谢夫不等式
2010-9-1
ε Dξ σ2 1 P{ ξ - ≥ 3σ } ≤ = 2= 2 (3σ ) 9σ 9 1 ∴ P{ ξ - ≥ 3σ } ≤ 9 江苏大学数学系
2
P{| ξ E (ξ ) |≥ ε } ≤
D(ξ )
;
8
例2 设ξ是掷一颗骰子所出现的点数,若给定
ε = 1,2, 实际计算P( ξ -Eξ ≥ ε )
2010-9-1 江苏大学数学系 22
定理5.3 （辛钦大数定律 如果ξ1,ξ2… 是相互独立 辛钦大数定律） 辛钦大数定律 并且具有相同分布的随机变量.有E ξk=μ (k=1,2, …), 有 n
1 lim P ∑ ξ k p ε =1 n →∞ n k=1
(5.4)
1 n P Yn = ∑ ξ k → n k =1
并验证切贝谢夫不等式成立. 解:因为ξ的概率函数是 P(ξ = k ) = 1/ 6(k = 1, 2,L 6)
所以
Eξ=7/2 Dξ=35/12 P(│ξ-7/2│≥1)=2/3 P(│ξ-7/2│≥2)=P(ξ=1)+P(ξ=6)=1/3
ε=1: Dξ/ε2=35/12>2/3 ε=2: Dξ/ε2=1/4×35/12=35/48>1/3 可见,ξ满足切贝谢夫不等式.
1 n ∑ ξk n k=1
→
p
1 n ∑ Eξk n k=1
将比较密地聚集在它的数学期望的附近.它与数学期 望之差,当时n→∞,依概率收敛到0.这就是大数定律. 切贝谢夫定理为这一定律作出了精确的数学公式.它 也称为切贝谢夫大数定律. 切贝谢夫定理的一个推论通常称为贝努里大数定律.
2010-9-1 江苏大学数学系 19
推论:若 为独立同分布随机变量序列, 推论 若{ξi,i=1.2,...}为独立同分布随机变量序列 为独立同分布随机变量序列 E(ξ1k)= <∞, 则 ∞
2010-9-1
1 n k P k → ∑ ξi E (ξ1 ) n i =1
江苏大学数学系
23
这一定理使算术平均值的法则有了理论依据.假使 要测量某一个物理量,在不变的条件下重复测量n 次,得到的观测值 x ,x ,L ,x
1 n P Yn = ∑ ξ k → n k =1
即若任给ε>0, 使得
lim P{| Yn |< ε } = 1
n →∞
这说明： 这说明：在定理成立的条件下，n个随机变量的算术 平均值，当n无限增加时，将几乎变成一个常数。
2010-9-1 江苏大学数学系 16
证明:由切比雪夫不等式 证明 由切比雪夫不等式 由切
∑x n
k =1
k
1 n P Yn = ∑ ξ k → n k =1
2010-9-1 江苏大学数学系 24
大数定律告诉我们两个结论: 大数定律告诉我们两个结论 随机变量序列依概率收敛
ξ n a →
p
1 n lim P ∑ ξ k p ε =1 n →∞ n k=1
1 n P 1. 随机变量的算术平均值 Y = ξ k → ∑ n n k =1
f n p →
n→∞
证明:设 证明 设 则
次试验事件A发生 次试验事件 1 第i次试验事件 发生 ξi = 次试验事件A不发生 次试验事件 0 第i次试验事件 不发生
E (ξi ) = p, D(ξi ) = p (1 p )
fn =
由切比雪夫大数定理 由切比雪夫大数定理
∑ξ
i =1
n
i
n
p →
1 2 n
是不完全相同的.这些结果可以看作是服从同一分 布并且期望值为μ的n个相互独立的随机变量ξ1,ξ2… ξn 的试验数值。由定理3可知,当n充分大时,取 1 n
作为的近似值,可以认为所发生的误差是很小的,即 对于同一个随机变量ξ进行n次独立观察,则所有观察结 果的算术平均数依概率收敛于随机变量的期望值.
定理5.2(贝努里大数定律)在独立试验序列中,当 试验次数n无限增加时,事件A的频率ξ/n(ξ是n次试 验中事件A发生的次数),依概率收敛于它的概率 P(A).即对于任意给定的ε>0,有
ξ lim P p p ε =1 n →∞ n
(5.3)
2010-9-1
江苏大学数学系
20
即：
设进行n次独立重复试验，每次试验中事件 设进行 次独立重复试验，每次试验中事件A 次独立重复试验 发生的概率为p，记fn为n次试验中事件 发生的频 发生的概率为 ， 次试验中事件A发生的频 次试验中事件 率，则 p
2010-9-1
江苏大学数学系
5
切比雪夫不等式 (P104) 若随机变量 随机变量ξ的期望和方差存在，则对任意 随机变量 ε>0，有
P{| ξ E (ξ ) |≥ ε } ≤
D(ξ )
ε
2
(5.1)
这就是著名的切比雪夫 切比雪夫(Chebyshev)不等式。 不等式。 切比雪夫 不等式 它有以下等价的形式：
1 n 1 n lim P ∑ ξ k ∑ Eξ k p ε =1 n →∞ n k=1 n k=1
2. 随机事件的频率
ξ lim P p p ε =1 n →∞ n
p f n p →