概率论与数理统计总结之第五章

定理五（李雅普诺夫定理）
设随机变量 … …相互独立，它们具有数学期望和方差：
…，
记 ,
若存在正数δ，使得当 时，
则随机变量之和 的标准化变量：
的分布函数 对于任意x，满足
对其的解释为：
随机变量 ，
当n很大时，近似服从正态分布N(0,1)，因此，当n很大时， 近似服从正态分布
这就是说，无论各个随机变量 服从什么分布，只要满足定理的条件，那么它们的和 当n很大时，就近似服从正态分布
或
证明：
因为 ～ ，有
…
其中， … …相互独立，且都服从以p为参数的（0-1）分布，因而 … ，由定理一得
…
即
这个定理表明事件发生的频率的稳定性
定理三（辛钦定理）
设随机变量 … …相互独立，服从同一分布，且具有数学期望 … ，则对于任意正数ε，有
显然，伯努利大数定理是辛钦定理的特殊情况
中心极限定理
定理四（独立同分布的中心极限定理）
设随机变量 … …相互独立，服从同一分布，且具有数学期望和方差： … ，则随机变量之和 的标准化变量：
的分布函数 对于任意x满足
对其的解释：
均值为μ，方差为 >0的独立同分布的随机变量之和 的标准化变量，当n充分大时，有 ～
将上式左端改写成 这样上述结果可写成：
当n充分大时，
～ 或 ～
这也就是说，均值为μ，方差为 的独立同分布的随机变量 … 的算术平均 ，当n充分大时近似地服从均值为μ，方差为 的正态分布
定理六（棣莫弗-拉普拉斯定理）
设随机变量 服从参数为n,p（0<p<1)的二项分布，则对于任意x，有
证明：
将 分解成为n个相互独立、服从同一（0-1）分布的诸随机变量 … 之和，即有
= ，
其中 的分布律为
由于 由定理四得
这个定理表明，正态分布是二项分布的极限分布，当n充分大时，我们可以利用定理六中的式子来计算二项分布的概率
第五章
大数定律
定理一（契比雪夫定理的特殊情况）
设随机变量 … …相互独立（是指对于任意n>1， … …是相互独立），且具有相同的数学期望和方差： … 。作前n个随机变量的算术平均
则对于任意正数ε，有
证明：
由于
，
由契比雪夫不等式可得
在上式中令 并注意到概率不能大于1，即得
设 … …是一个随机变量序列，a是一个常数。若对于任意正数ε，有
则称序列 … …依概率收敛与a，记为
设 ，又设g(x,y)在点（a,b)连续，则
上述定理一又可叙述为：
定理一
设随机变量 … …，相互独立，且具有相同的数学期望和方差： … ，则序列 依概率收敛于μ，即
定理二（伯Байду номын сангаас利大数定理）
设 是n次独立重复试验中事件A发生的次数。p是事件A在每次试验中发生的概率，则对于任意正数ε>0,有