第八讲 大数定律与中心极限定理实验

2
四、实验实例 例 1．利用大数计算
π 的近似值。
； ⎧0 ≤ x ≤ 1 的面积为 1，四分之一圆： ⎨ ； ⎩0 ≤ y ≤ 1
分析：如下图所示，矩形：
⎧ x2 + y 2 ≤ 1 ； ⎨ ⎩ x，y ≥ 0.
的面积为
π / 4。
设 X 、Y 是独立同分布的随机变量，且服从[0，1]区间上的均匀分布，令
2
3) Liapunov 定理 设随机变量序列 { X n } 相互独立，且数学期望和方差存在：
2 E ( X n ) = µn，D( X n ) = σ n ，n = 1， 2， 3， 2 Bn = ∑ D( X k ) = ∑ σ k2 k =1 k =1 n n
记
若存在正数 δ > 0 ，使得 lim n →∞
，则随机变量序列 { X n } 服从中心极限定理，
E ( X n ) = µ，D( X n ) = σ 2，n = 1， 2， 3，
即对任意的 x，有：
n n
lim Fn ( x) = lim P{
n →∞ n →∞
∑ X −∑µ
k =1 k k =1 2 k
k
∑σ
k =1
n
≤ x} = ∫
x
−∞
Xn → X .
3) 依分布收敛 设 { X n } 是一列随机变量， X 是一随机变量，记
P
X n、X
的分布函数分别记为
Fn ( x)和F ( x) ，若对
F ( x) 的任一连续点 x ，有
lim Fn ( x) = F ( x)
n →∞
则称随机变量列 { X n } 依分布收敛到 X ，记为
Xn → X .
第八讲 大数定律与中心极限定理实验
一、实验目的及意义 (1) 学习依概率收敛和依分布收敛的统计思想和基本原理； (2) 掌握随机模拟和随机逼近的基本方法； (3) 熟悉 Mathematica 软件进行随机模拟的实现方法； (4) 通过范例学习，熟悉随机模拟的基本思想和常用方法。 二、实验内容 (1) 对一些实际问题进行随机模拟建模与分析： (提出假设→确定随机模型→数值模拟计算→结果验证)； (2) 对一些简单的数学问题进行随机模拟计算； (3) 使用 mathematica 软件包进行随机模拟，分析相应的模拟结果。 在通讯、计算机网络等一些工程应用问题中，通常需要进行大量的仿真模拟，目前采用最多 的随机模拟方法是 Monte Carlo 方法，初等概率统计中的大数定律就是该方法的数学原理之 一。 在概率中，一般采用随机变量 X 来描述和分析随机现象，随机变量 X 从本质上来说是一函 数，但随机变量 X 这个函数和我们在高等数学中学过的函数稍有所不同： 定义域不同： 等数学中的函数 f(x)，其定义域和值域都是实数 R； 而随机变量 X 的定义域是一非常抽象的集合――样本空间 Ω 研究方法不同： 实数域 R 具有非常好的性质，如它是个全序集，具有拓扑结构和线性结构等等，所以对 其上的函数 f(x)我们可研究其是否连续和可导等函数本身的性质； 而样本空间 Ω 通常仅仅是一个非空集合而已，没有任何其他可用的数学性质，这样就 无法采用普通函数 f(x)的一些研究方法来研究随机变量 X，而是通过研究随机变量 X 的 分布函数 F(x)或其数字特征来研究其统计规律。 但在实际应用中，通常很难得到随机变量 X 的分布函数 F(x)和其数字特征，能收集到的只 是关于该随机变量的一些实验观察数据(称为样本)，那么如何通过这些样本来得到该随机变 量 X 的分布函数 F(x)或其数字特征，这就成了我们需要解决的关键问题之一。而大数定律 和中心极限定理就为解决上问题提供了一种数学途径。 三、大数定律与中心极限定理的基本内容 大数定律和中心极限定理主要研究的是大数量随机实验的一种极限性质， 在初等概率论中涉 及到的随机变量的极限主要有以下三种收敛： 1) 几乎处处收敛 设 { X n } 是一列随机变量， X 是一随机变量，若有：
1.92457
即
S = ∫ sin( x ) dx 的估计值为 1.92457。
0
π
如输入的模拟次数为 n = 100000，得到的模拟结果为：S = 1.98734。 注：利用大数定律可计算任意函数 f(x)在任意区间[a，b]上的积分，也可计算多重积分，且 其误差不随函数的维数增加而增大。 推而广之， 根据大数定律可计算任一遥感图片上某一地 形的面积。 例 3．伯努利大数定理的模拟演示 产生 n 个服从两点分布 b(1，p)( p = 0.5)的随机数，统计 n 个随机数中 1 的个数，表示 事件 A 发生的频数 nA ，计算
4 n π ≈ 4 Z = ∑ Z k …………(1.2) n k =1
从上运行结果可以，随着样本点的增加，逼近的精度越来越高。 例 2．利用大数定理计算连续函数 f(x)在区间[a，b]上的积分：
S = ∫ f ( x)dx
a
b
分析：假设函数 f(x)的图形如下图所示，则上积分就是下图中的阴影面积：
k =1
n
∑ σ k2
k =1
n
≤ x} = ∫
x
−∞
1 − t2 e dt 2π
2
则称随机变量序列 { X n } 服从中心极限定理。 常用的中心极限定理： 1) 独立同分布的中心极限定理 设随机变量序列
{X n} 相 互 独 立 ， 服 从 同 一 分 布 ， 且 数 学 期 望 和 方 差 存 在 ：
2， ，n. ，相当于做了 n 次独立重复试验，记 在矩形 abef 内随机地取 n 对数 ( xi，yi )，i = 1，
n 对数 ( xi，yi )，i = 1， 2， ，n. 中落在曲边梯形 abcd 内的个数为 k， Байду номын сангаас由伯努利大数定理有：
nA =
k P S → p = P( A) = (b − a)e n k S ≈ p = P( A) = (b − a)e n
2 ，n = 1， 2， 3， E ( X n ) = µn， D ( X n ) = σ n
，记
n
Yn
∑ X k − E (∑ X k )
k =1 k =1
n
n
D (∑ X k )
k =1
n
=
∑ X k − ∑ µk
k =1 k =1 2 k
n
∑σ
k =1
n
则随机变量序列
{Yn }
是一标准化随机变量序列，即
需的定积分值。随着样本点的增加，其逼近效果见下模拟图示。 （加入模拟动画演示，随着样本点数的增加，下图形中点越来越多，且积分值也动态变化） 相应 Mathematica 程序的运行结果见下 输入模拟次数 n = 1000，得到如下输出结果：
3 2.5 2 1.5 1 0.5
0.5
1
1.5
2
2.5
3
S=
E (Yn ) = 0，D(Yn ) = 1，n = 1， 2， 3，
设其分布函数为：Fn ( x ) =
P{Yn ≤ x} ， 若随机变量序列 {Yn } 依
n
分布收敛到标准正态分布 N(0，1)，即对任意的 x，有：
lim Fn ( x) = lim P{ k =1
n →∞ n →∞
∑ X k − ∑ µk
2， ，n. ，其中 xi，i = 1， 2， ，n 服从区间[a，b]上 首先随机选取 n 个数对 ( xi，yi )，i = 1，
的均匀分布， yi，i = 1， 2， ，n 服从区间[0，e]上的均匀分布。即二维随机变量 ( X ，Y ) 的 联合概率密度为：
⎧ 1 ， a < x < b， 0 < y < e； ⎪ f ( x，y ) = ⎨ (b − a )e ⎪ 0， 其他. ⎩
则称随机变量序列 { X n } 服从大数定律。 大数定律为估计随机变量的数字特征如数学期望提供了一种途径： 即用大量随机实验的观察 值的平均值来近似其数学期望。
大数定律首要解决的问题是；当随机变量序列 { X n } 满足什么条件时，{ X n } 才服从大数定 律？ 常用的大数定律有： 1) 契比雪夫大数定理的特殊情形 设随机变量序列 { X n } 是相互独立，且有相同的数学期望和方差：
ε > 0，
⎧1 n ⎫ lim P ⎨ ∑ X k − µ > ε ⎬ = 0. n →∞ ⎩ n k =1 ⎭
中心极限定理 中心极限定理主要研究大数量独立随机变量和的分布函数的极限， 揭示了大量独立随机因素 综合影响的一种统计规律。 中心极限定理的定义： 设 { X n } 是一列相互独立的随机变量序列， 其数学期望和方差均存在：
P{lim X n = X } = 1
n →∞
则称随机变量列 { X n } 几乎处处收敛到 X ，记为
X n → X a.e.
2) 依概率收敛 设 { X n } 是一列随机变量， X 是一随机变量，若对 任意的 ε
> 0 ，有：
lim P{ X n − X > ε } = 0
n →∞
则称随机变量列 { X n } 依概率收敛到 X ，记为
⎧1 ； ，X 2 +Y 2 ≤ 1 …………(1.1) Z =⎨ 2 2 X +Y > 1. ⎩0，
则有 P{Z
= 1} = π / 4 ，且 E{Z } = π / 4 。
k
产生 n 组独立的随机变量 ( X n 个观察值： 则由大数定律有：
，Yk )，k = 1 ， 2， ，n ，由(1.1)式，得到随机变量 Z 的
1 B
2 +δ k =1 n
∑ E (| X
n
n
k
− µk |2+δ ) = 0
则随机变量序列 { X n } 服从中心极限定理，即对任意的 x，有：
lim Fn ( x) = lim P{
n →∞ n →∞
∑ X k − ∑ µk
k =1 k =1
n
Bn
≤ x} = ∫
x
−∞
1 − t2 e dt = Φ ( x) 2π
k (b − a)e n (1.3)
所以当 n 充分大时，k/n 可近似地看成事件 A 发生的概率，即
nA =
b
⇒ S = ∫ f ( x)dx ≈
a
例如求定积分：在区间
S = ∫ sin( x ) dx
0
π
， 2， ，n. ，然后通过(1.3)式得到所 根据上面分析知，只要产生 n 个随机数对 ( xi，yi )，i = 1
Z k，k = 1 ， 2， ，n.
P 1 n Z = ∑ Z k → E ( Z1 ) = π / 4， (n → ∞) n k =1
即当 n 充分大时，有
由此可得到
π 的近似值。运行 Mathematica 程序后的结果见下： 产生的随机数个数 n π 的近似值
1000 2000 3000 10000 3.2 3.154 3.16267 3.1416
记 A 表示事件： “随机变量 ( X ，Y ) 落在曲边梯形 abcd 内” ，则有
P ( A) = =
a < x <b 0< y < f ( x )
∫∫
b ⎛ f ( x) ⎞ 1 f ( x，y )dxdy = ∫ ⎜ ∫ dy ⎟ dx a 0 (b − a )e ⎠ ⎝
b 1 S f ( x)dx = ∫ a (b − a )e (b − a )e
E ( X n ) = µ，D( X n ) = σ 2，n = 1， 2， 3，
则随机变量序列 { X n } 服从大数定律，即对任意的
ε > 0 ，有：
⎧1 n ⎫ lim P ⎨ ∑ X k − µ > ε ⎬ = 0. n →∞ ⎩ n k =1 ⎭
2) 伯努利大数定理 设 nA 是 n 次独立重复试验中事件 A 发生的次数，p 是事件 A 在每次试验中发生的概率，即 P(A)=p，则对任意的
ε > 0 ，有：
⎧n ⎫ lim P ⎨ A − p > ε ⎬ = 0. n →∞ ⎩ n ⎭
3) 辛钦大数定理 设随机变量序列
{X n}
是相互独立，服从同一分布，且其数学期望存在： ，则随机变量序列 { X n } 服从大数定律，即对任意的
E ( X n ) = µ，n = 1， 2， 3，
有：
大数定律 大数定律主要描述了大数量随机实验平均结果的稳定性，揭示了随机现象的一种统计规律。 大数定律的定义：设 { X n } 是一列相互独立的随机变量序列，数学期望均存在，若有：
F
Xn
即对任意的 ε
P 1 n X → ∑ k E{ X n }. n k =1
> 0 ，有：
⎧1 n ⎫ 1 n lim P ⎨ ∑ X k − E{ ∑ X k } > ε ⎬ = 0. n →∞ n k =1 ⎩ n k =1 ⎭
1 − t2 e dt = Φ ( x) 2π
2
2) De Moivre--Laplace 定理
， 2， 设随机变量 η n (n = 1
lim P{
n →∞
) 服从参数为 n，p(0<p<1)的二项分布，则对于任意的 x，有
ηn − np
np (1 − p )
≤ x} = ∫
x
−∞
1 − t2 e dt = Φ ( x) 2π