华中科技大学概率论 (3)

1 n 1 n lim P X k E ( X k ) 1 n n k 1 n k 1
则称 Xk (k = 1, 2, …) 服从大数定律．
返回
三个常用的大数定律
定理1（切比雪夫大数定律）：设随机变量 X1, X2, …, Xk, … 相互独立，且有相同的数学期望和方差： E(Xk) = ， D(Xk) = 2 (k = 1,2,…) 则
即
1 n 1 n 其中 E X k E ( X k ) n k 1 n k 1
三个常用的大数定律
定理3（辛钦大数定律）：设随机变量 X1, X2, …, Xk, …相互 独立，服从同一分布，且具有相同的数学期望： E(Xk) = (k = 1,2,…) 则
n
Yn X k
k 1
近似地
N (0, n)
引言

客观实际中有许多随机变量，它们是由大量的相互独立的 随机因素的综合影响所形成的． 这些随机因素在总的影响中所起的作用都是微小的． 这种随机变量往往近似地服从正态分布． 中心极限定理就是讨论在什么条件下，独立随机变量的和 近似服从正态分布．

n n Xk E Xk Yn np k 1 k 1 y lim P y n n np(1 p ) D Xk k 1
例1：一加法器同时收到20个噪声电压Vk (k = 1,2,…, 20)，设 它们是相互独立的随机变量，且都在区间(0, 10)上服从均匀 分布．记V = V1 + V2 + … + V20，求P{V 105}的近似值． 解： E(Vk) =5， D(Vk) =100/12， k = 1,2,…, 20， 根据独立同分布的中心极限定理，有 V E (V ) D(V ) 其中 V 100 10 5 3 近似地
越来越大，无限接近于1． Yn
a－
a
a +
返回
大数定律
定义：设随机变量 X1, X2, …, Xk, …都存在数学期望，即 E ( X k ) , k 1, 2, 若
n 1 n 1 P X E( X k ) k n k 1 n k 1
这是 常数！
即对于任意正数 ， 有
1 n 1 n P Yn X k E( Xk ) n k 1 n k 1
n
即对于任意正数 ， 有 lim P Yn 1 ．
§2 中心极限定理
高尔顿钉板试验

每一个黑点表示钉在板上的 一颗钉子，它们彼此距离均 相等，上一层的每一颗的水 平位置恰好位于下一层的两 颗正中间． 从入口处放入一个直径略小 于两颗钉子之间距离的小球. 在下落过程中，小球碰到钉 子时从左边落下与从右边落 下的机会均等． 当小球个数足够多时，可以 看到小球在钉板底端堆成的 曲线近似于正态分布．
an a
a－
a
a +
依概率收敛
定义：对随机变量序列 Yn (n = 1, 2, …) ，若存在常数 a，使得 对于任意正数 ，有 lim P Yn a 1
n
P a ． 则称Yn (n = 1, 2, …) 依概率收敛于a ，记为Yn P Yn a 是指：当 n 时，Yn 落在 (a － , a + )内的概率
n
n
X
k 1
k
n
近似地
N (0,1)
n
几个常用的中心极限定理
定理1 续（独立同分布的中心极限定理）： 设随机变量X1, X2, …, Xk, …相互独立，服从同一分布，且有 数学期望和方差：E(Xk) = ， D(Xk) = 2 0 (k = 1,2,…)， 对于任意的实数 x， n 个随机变量的和的标准化变量的分布 函数Fn(x) 收敛于(x)，即
1 n 1 n P Yn X k E( X k ) n k 1 n k 1
n
即对于任意正数 ， 有 lim P Yn 1 ． 1 n 1 n 其中 E X k E ( X k ) ． n k 1 n k 1
证明：设 X1, X2, …, Xn 相互独立， Xk ~ b(1, p) ，k = 1, 2, …, n 则E(Xk) = p， D(Xk) = p(1－p) ，k = 1, 2, …, n
n
又 Yn X k ，
k 1
根据独立同分布的中心极限定理，有
lim P n ( y )



高尔顿钉板试验
令 Xk (k = 1, 2, …, n)表示小球第 k 次碰到钉子后向右（左）落下：
1, 向右落下 Xk 1, 向左落下
则 E(Xk ) =0， D(Xk ) =1， 且 Xk (k = 1, 2, …, n) 相互独立． 令 Yn (n = 1, 2, …)表示小球经过n 次碰钉后的落点位置，试验表明
n X k n k 1 lim Fn ( x ) lim P x ( x ) n n n
几个常用的中心极限定理
定理1 续（独立同分布的中心极限定理）： 设随机变量X1, X2, …, Xk, …相互独立，服从同一分布，且有 数学期望和方差：E(Xk) = ， D(Xk) = 2 0 (k = 1,2,…)，则
•
对于任意正数 ，根据大数定律，有
1 n 1 n lim P X k E X k 1 n n k 1 n k 1
•
根据中心极限定理，有
中心极限定理 给出了收敛速度 的估计
1 n 1 n P Xk E Xk n k 1 n k 1 n 1 n 1 n 1 P Xk E Xk 1 2 n k 1 / n / n n k 1
证明：根据切比雪夫不等式可知：对于任意正数 ，都有
D(Yn ) P Yn E (Yn ) 1 2
这里 1 n 1 n E (Yn ) E X k E ( X k ) n k 1 n k 1 1 n 1 n 2 D(Yn ) D X k 2 D( X k ) n n k 1 n k 1 于是
n
结论
三个常用的大数定律
定理1（切比雪夫大数定律）：设随机变量 X1, X2, …, Xk, … 相互独立，且有相同的数学期望和方差： E(Xk) = ， D(Xk) = 2 (k = 1,2,…) 则
1 n 1 n P X k E( X k ) n k 1 n k 1 1 n P X k n k 1
第五章 大数定律及中心极限定理
§1 大数定律
引言

概率论与数理统计的研究对象是统计规律性（在大量重复 试验或观察中所呈现出的固有规律性）． 频率具有稳定性（当试验的次数无限增大时，频率稳定在 一个数的附近）． 大量测量值的算术平均值在一定条件下也具有稳定性（n 个随机变量的算术平均，当n 无限增加时，在某种收敛的 意义下逼近某一常数）． 大数定律就是讨论在什么条件下n 个随机变量的算术平均 是稳定的．
nA 1 n 1 n 又 n A X k ， f n ( A) X k ， E( X k ) p n n k 1 n k 1 k 1 n 1 n 1 n P A P X 根据切比雪夫大数定律，有 f n ( A) p E( X k ) k n k 1 n k 1 n nA p 1 即对于任意正数 ，有 lim P n n
几个常用的中心极限定理
定理2（棣莫佛—拉普拉斯定理）： 设随机变量Yn (n = 1, 2, …) 服从二项分布b(n, p)，则 Yn np np(1 p ) 近似地
N (0,1)
即对于任意的实数 y，有 Yn np lim P y ( y ) n np(1 p)
返回
三个常用的大数定律
定理2（伯努利大数定律）：设 nA 是 n 次独立重复试验中事 件 A 发生的次数．p 是事件 A 在每次试验中发生的概率，则
nA P f n ( A) p n
即对于任意正数 ，有 或
nA lim P p 1 n n nA lim P p 0 n k 次试验中事件 A 不发生 证明：设 X k ，k = 1, 2, …, n 1, 第 k 次试验中事件 A 发生
则 X1, X2, …, Xn 相互独立，且 Xk ~ b(1, p)，于是 E(Xk) = p， D(Xk) = p(1－p) ，k = 1, 2, …, n
1 n X k n Xk n k 1 k 1 n n
1 n Xk n k 1
n
近似地
N (0,1)
近似地
2 N , n
大数定律与中心极限定理的关系
当随机变量序列Xk (k = 1, 2, …) 独立同分布，且E(Xk) = ， D(Xk) = 2 >0 (k = 1,2,…)时，两个定理都成立，可以作比较.
n
几个常用的中心极限定理
定理1（独立同分布的中心极限定理）： 设随机变量X1, X2, …, Xk, …相互独立，服从同一分布，且有 相同的期望和方差：E(Xk) = ， D(Xk) = 2 0 (k = 1,2,…)， 则
n Xk E Xk k 1 k 1 n D Xk k 1
中心极限定理
定义：设 Xk (k = 1, 2, …) 为相互独立的随机变量序列， 存在数学期望和方差（不一定相等）： E(Xk) = k， D(Xk) = k 2 0 (k = 1,2,…) 若当 n 充分大时，