概率论知识点

第一章随机事件及其概率
§ 1.1 随机事件及其运算
随机现象：概率论的基本概念之一。

是人们通常说的偶然现象。

其特点是，在相同的条件下
重复观察时，可能出现这样的结果，也可能出现那样的结果，预先不能断言将出现哪种结果•例如,投掷一枚五分硬币，可能国徽”向上,也可能伍分”向上；从含有5件次品的一批产品中任意取出3件，取到次品的件数可能是0,1,2或3.
随机试验：概率论的基本概念之一•指在科学研究或工程技术中，对随机现象在相同条件下的观察。

对随机现象的一次观察（包括试验、实验、测量和观测等）,事先不能精确地断定其结果，而且在相同条件下可以重复进行，这种试验就称为随机试验。

样本空间：概率论术语。

我们将随机试验E的一切可能结果组成的集合称为E的样本
空间，记为1。

样本空间的元素，即E的每一个结果，称为样本点。

随机事件：实际中，在进行随机试验时，人们常常关心满足某种条件的那些样本点所组成的集合.称试验E的样本空间I ■■的子集为E的随机事件，简称事件•在每次试验中，当且仅当这一子集中的一个样本点出现时，称这一事件发生.特别，由一个样本点组成的单点集，称为基本事件.样本空间门包含所有的样本点，它是门自身的子集，在每次试验中它总是发生的，称为必然事件.空集？不包含任何样本点，它也作为样本空间的子集，它在每次试验中都不发生称为不可能事件.
互斥事件（互不相容事件）：若事件A与事件B不可能同时发生，亦即A B =①，则称
事件A与事件B是互斥（或互不相容）事件。

互逆事件：事件A与事件B满足条件A B =①，A B =1 ,则称A与B是互逆事件，
也称A与B是对立事件，记作B （或A = B ）。

互不相容完备事件组：若事件组A,A2,…A满足条件A i A j二①，（i,i=t n ）,
n
A-、_:，则称事件组A, A2,…A n为互不相容完备事件组（或称A, A2,…A n为样本空
i=1
间门的一个划分）。

§ 1.2 随机事件的概率
概率：随机事件出现的可能性的量度。

概率论最基本的概念之一。

人们常说某人有百分之多少的把握能通过这次考试，某件事发生的可能性是多少，这都是概率的实例。

统计概率：在一定条件下，重复做n次试验，n A为n次试验中事件A发生的次数,
如果随着n逐渐增大，频率n A.. n逐渐稳定在某一数值p附近，则数值p称为事件A
在该条件下发生的概率，记做P(A)=p。

这个定义成为概率的统计定义。

古典概型：若随机现象有下列两个特征⑴ 试验的可能结果(基本事件)只有有限个；
(2)试验中每个可能结果 (基本事件)出现的可能性相等•则称这类现象的数学模型为古典概型.
古典概率：在古典概型中，如果基本事件的总数为n事件A所包含的基本事件个数为r (»•二八)，则定义事件A的概率
可亦.尸.虫中包含的基本事件个数
[}=匚=—基本事件总数—
把可以作古典概型计算的概率称为古典概率。

古典概率可直接按公式计算，而不必进行大量的重复试验。

§ 1.3 概率的基本运算法则
加法公式：设A, B为任意两个事件，则P(A B)二P(A) • P(B)-P(AB).当代B满足
A B二①时，加法公式为P(A BH P(A) P(B)。

条件概率：在事件B发生的条件下，事件A发生的概率称为事件A在事件B已发生条件下的条件概率，记作P(A|B)。

当P(B)〉O时，规定P(A|B) = P(A C B)；当p(B)=o时,
P(A)
规定P(AB) = 0。

乘法公式：设A, B为任意两个事件，若P(B) 0,则P(A B)二P(B)PAB)。

同理，
若P(A) 0 , P(A B)=P(A)P(BA),
事件的独立性：如果事件A与B满足P(A)=P(AB)，则称事件A关于事件B是独立的。

独立性是相互的性质，即A关于B独立，B 一定关于A独立，或称A与B相互独立。

§ 1.4 全概率公式和贝叶斯公式
全概率公式：设事件组B,,B2/ B n是样本空间门的一个划分，且P(B i) 0 ,
i =1,2/ ,n，则对任意的事件A ' 1，有
n
P(A)二為P(B i)P(A/B i)
i ¥
此公式称为全概率公式。

贝叶斯公式：设事件组B1,B2/ B n是样本空间门的一个划分，P(B i) 0, i=1,2，…,n ,
对任意的事件A，且P(A) 0 ,则
P(B j / A)=
j -1,2^ , n.
P(B i)P(A/B i)
i 4
此公式称为贝叶斯公式。

第二章随机变量及其分布
§ 2.1 随机变量
随机变量：设E是一随机试验，它的样本空间为{e}，如果对于门内的每一个e,变量
X都有一个确定的实数值X(e)与之对应，则变量X是样本点e的实函数，记作X = X(e)。

这样的变量称为随机变量。

随机变量的分布：要全面了解一个随机变量，不但要知道它取哪些值，而且要知道它取这些值的统计规律，随机变量取值的统计规律就称为它的概率分布，简称分布。

分布函数：设X是一随机变量，x是任意实数，由F(x)二P{X乞x}确定的函数称为随
机变量X的分布函数。

如果将X看成是数轴上的随机点的坐标，那么，分布函数F(x)在x 处的函数值就表示X 落在区间上的概率。

对于任意实数X"i ：：：x2,
P{& ：：： X乞X2} =P{X乞X2} - P{X乞X i} =F(X2)- F(xJ ,因此分布函数完整地描述了随机变量的统计规律性。

离散型随机变量：如果随机变量X的可能取值只有限个或可列个，则称它为离散型随机变
量。

若X的可能取值为人(i = 1,2/ ),相应的概率P{X二N}二P i称为离散型随机变量X 的概率函数或分布律。

Bernoulli 试验：只有两个可能结果的随机试验称Bernoulli 试验。

试验的独立性：若是试验E1的可能结果与E2的可能结果的发生与否是独立的，则称试验E1与已是相互独立的。

n重Bernoulli 试验：把Bernoulli 试验重复独立进行n次，称为n重Bernoulli 试验。

n重Bernoulli试验是一种非常重要的的概率模型，它是“在相同条件下进行重复试验或观察”的一种数学模型.
项分布：若将Bernoulli试验中的一个可能结果记为A且P(A)二P (0 :：：P 1) ,n重
Bernoulli 试验中A 出现的次数记为 X ,则随机变量 X 的概率函数为
P{X 二k}二需卩％ 一 p)n -k , k=0,1,2, ,n
X 的分布称为服从参数为
n, p 的二项分布，记作X 〜B(n, p).当n =1时，X 的概率函数
为P{X =1} = p ， P{ X =0} =1 - p , (0 ：：: p ：：:1),则称X 服从参数为p 的两点分布(或 0-1分布).
泊松分布：若随机变量X 的概率函数为
则称X 服从参数为■的Poisson 分布，记作X ~ P()。

连续型随机变量：
设随机变量X 所有可能取值充满一个区间，如果相应于它的分布函数
F(x)存在非负函数f(x)，对于任意的实数 x 都有
x
F (x) = f (x)dx
则称X 为连续型随机变量，
f (x)称为X 的概率密度函数.f (x)有如下性质：
(1)
_f (x)dx =1，
(2) P(x 1 :: X 辽 x 2) =
：2 f (x)dx
x
1
均匀分布：如果随机变量X 的概率密度函数为
1
f (X )Tb -a
0,
则称X 在区间［a,b ］上服从均匀分布，记为X ~U (a, b).
指数分布
： 如果随机变量X 的概率密度函数为
“ 、y.e~
fx
,x>0,
f
(x)=」
其中几>0为常数
则称X 服从参数为■的指数分布，记为X ~ E().
正态分布：如果随机变量 X 的概率密度函数为
P{X
e" k!
('0)
k 二 0,1,2,
a _ x _ b, 其它，
, (X』)2
1 _~~2~
f (x) °e ''，—二::X ：：:::， t 2二匚
其中丄;「(二0)为常数，则称X服从参数为」,；「2的正态分布，记为X〜N(.L,；「2).当
」=0, ；「=1时,称X服从标准正态分布,记为X ~ N (0,1).
随机向量：如果X1,X2是是联系于同一样本空间门中的两个随机变量，则称(X1,X2)为
二维随机变量或二维随机向量。

对任意两个实数x1,x2，二元函数
F(x1,x2^P(X^x1,X^ix2)称为(X,,X2)的联合分布函数。

F x’(：：,X2)= P(X1 :：：：,X2 —X2)或F X2(X1, ■■) = P(X1 —X1,X2 ：：::)称为X1 或X2的边缘分布函数。

常用的随机变量函数的分布：(1) 2-分布设独立随机变量X1,X2/ X n均服从标准正
n
2 2
态分布N (0,1)，则随机变量I =z X i的分布称为服从是自由度为
i 4
n的2分布，记作
Z2〜72(n)，其分布密度函数为f(x) = <22『(n)
2 .0, n x
1 1 ■—
n ------ x2 e 2,x 0
x^O
(2)t-分布设X ~ N(0,1)，丫〜2(n)，且X与Y相互独立,则随机变量
t 所服从的分布称为自由度为n的t分布，记作t~t(n)，、Y/n
n 1 其分布密度函数为
x
2 a
f (x) = ------- 2——(1 ) 2，一二：：x :：二。

n
(3) F -分布设X ~ (nJ，Y ~ (门2),且X与Y相互独立，则随机变量
F 所服从的分布称为自由度为(q,n2)的F分布，记作F〜F(n1,n?)，其分布
Y/n2 1 2
第三章随机变量的数字特征
数学期望：随机变量按概率的加权平均，表征其概率分布的中心位置，它反映随机变量平 均取值的大小，它是简单算术平均的一种推广。

是随机变量最基本的数学特征之一 ，又
称期望或均值。

离散型随机变量的数学期望 ：设X 为一离散型堕机变量，其分布列为
P(X = X j ) = P i ,
od
(i =1,2，…)，若级数X j
绝对收敛，则称这级数为
X 的数学期望，记为EX ，即
cd
EX
X j P i ,否则，称X 的数学期望不存在.
i 4
连续型随机变量的数学期望 ：设X 为一连续型随机变量，其密度函数是 f (X)，若
-bo
-bo
xf(x)dx 收敛，则称 EX 二.xf(x)dx 为X 的数学期望，否则称 X 的数学期望不存在.
方差、标准差：设X 为一随机变量，若 E(X - EX)2存在，则称E(X - EX)2为X 的方 差，记为V(X)，即V(X) = E(X -EX)2
； .V(X)二SD 称为X 的标准差。

方差描述 了随机变量的 可能取 值关于均值的分 散程度。

若离散型随机 变量X 的概率函数为
O0
P(X =X i ) =P i (i =1,2,…)，则 V(X) =
[X i-E(X)]2p i ；若连续型随机变量 X 的概
\=1
-bo
率密度函数为 f (X)，则V(x)二[x-E(x)]2f(x)dx 。

变异系数：设X 为任一随机变量，若 V(X)存在，且E(X)=0，则' ()
二CV(X)称
E(X)
为X 的变异系数。

协方差、相关系数：设
(X 1,X 2)为二维随机向量，若 E(X 1 - EXJ(X 2 - EX 2)存在，则
E(X 1
- EX 1
)(X 2
- EX 2
)称为 X 1
与 X 2
协方差，记作 Cov(X 2
,X 2
)；
Eg 「EX 1)(X ^EX 2)称为X 1与x 2相关系数，记作 P
X X。

协方差、相关系数都是
MXJVg)
密度函数为 口n 1 + 门
2)
(
2
1
2
陀)《) 0
n i A
2
n i n 2
,x 0
o
,X E 0
矩：设X 为随机变量，若 E
(x k )存在，则称 J 二E(X k )为X 的k 阶原点矩；若
E[X -E(X)]k 存在，则称 J 二 E[(X -E(X))k ]为 X 的 k 阶中心矩.k = 1,2,….；X 的
数学期望是X 的一阶原点矩，即EX 二； X 的方差是X 的二阶中心矩，即V (X)
2。

大数定律：概率论中讨论随机变量序列的算术平均值向常数收敛的定律。

概率论与数理统计 学的
基本定律之一。

大数定律有若干表现形式。

贝努里大数定律： 设叫是' 重贝努里试验中事件园出现的次数是事件虚在每次试验中
中心极限定理：是概率论中最著名的结果之一。

它指出，大量的独立随机变量之和具有近似
于正态的分布。

因此，它不仅提供了计算独立随机变量之和的近似概率的简单方法， 而且有
助于解释为什么有很多自然群体的经验频率呈现出钟形
(即正态)曲线这一事实，因此中心极
限定理这个结论使正态分布在数理统计中具有很重要的地位，也使正态分布有了广泛的应 用。

中心极限定理也有若干个表现形式。

事件A 在每次试验中发生的概率，则当n 无限大时，频率」趋于服从参数为
n
极限定理的特例。

在抽样调查中，不论总体服从什么分布，只要 服从正态分布。

第四章随机抽样及抽样分布
总体、个体：统计学中，把研究对象的全体称为总体，其中的每个成员称为个体。

统计方法 就是通过对部分个体的观察来推断总体的规律性。

描述两个随机变量之间线性关联程度的数字特征。

当
Pg =°时，称X!与X2不相关。

D
人 P 丿—'
- p < & ，n
率收敛于事件的概率。

定理以严格的数学形式表达了频率的稳定性。

件发生的频
率于概率有较大偏差的可能性很小
出现的概率，则对任意的 £〉0
n — =1。

定理表明事件发生的频率依概
就是说当n 很大时，事
德莫佛 拉普拉斯中心极限疋理：
设‘n 是〕重贝努里试验中事件 』出现的次数，p 是
P （1 一 P ）
的正态分布。

即:
对任意的 x ，有lim p （ 叫-
np
_兰x ）=
Y 0p （1 - p ）
£
2
dt 。

该定理是中心
n 充分大，那么频率就近似
P
，
抽样、样本：为了推断总体分布及其各种特征，就必须从总体中，按一定的法则抽取若干个体进行观测或试验，以获得有关总体的信息。

这一抽取过程称为抽样，所抽取的部分个体称
为样本。

简单随机抽样及简单随机样本： 如果一种抽样方法满足下面两点： （1）代表性•总体中每
一个体都有同等机会被抽入样本，这意味着样本中每个个体与所考察的总体具有相同的分 布，因此，任一样本中的个体都具有代表性。

（2）独立性•样本中每个个体取什么值并不影
响其它个体取什么值。

这意味着，样本中各个体
X 1
,X 2
^ X
n
是相互独立的随机变量；则
称它为简单随机抽样。

由简单随机抽样所得的样本称为简单随机样本。

统计量：设X i ,X 2,…X n 为来自总体X 的一个样本，g （X i ,X 2,…X n ）为一个连续函数，果g 中 g （X i ,X 2,…X n ）为一个统计量。

统计量是一随机变量，它的分布称
为抽样分布。

样本均数、样本方差： 统计量 x = 1 7 X i 和S 2
1
7 (X j -X)2称为样本均数与 n i 生
n -1 y
样本方差。

（3）
X
二〜讯n —1）
S/U n
两个正态总体的抽样分布：设X 4, X 2,…X n 和丫4, Y 2,…\,2分别为来自正态总体
X 〜NC ；）和丫〜N （」2,二；）的样本，则有
第五章抽样估计
参数估计：参数估计就是要从样本出发去构造一个统计量作为总体中某未知参数的一个估计 量；包括点估计和区间估计两种 。

点估计：设X 1,X ^ x n 为总体X 的样本，v 为总体X 的一个未知参数，构造统计量
^5（X 1
,X 2
^ X n
）,对于样本观测值X !,X 2,…X n ,将统计量：？的的观测值？（X !，X 2,…X n ） 作为参数二的
不包含未知参数，则称
单个正态总体的抽样分布： 设X 1, X 2,…X n 为来自正态总体 X
〜NC 2）的一个样本，则
(1)
X 」X i 〜N(J n i 生
(2)
(n -1)S 2
2
(n-1)
(1),
（X -丫）-（ M 」2）
~t(n 1
n 2
-2),其中
S 2
(n 1 -1)S X (吐-1)S Y
n-i n 2
- 2
(2)
〜F (门1 -1, n ? _ 1)。

2 ◎
—)
n
估计，则称？（X1,X2,…X n）为二的估计值，称统计量？（X i,X2,…X n）为二的估计量；二的估计量和估计值统称为二的估计，记作2,这种对未知参数作进行定值估计，称为参数的点估计.
矩估计：当样本容量n较大时，可以用样本各阶矩去估计总体的各阶矩。

按这种统计思想获
得未知参数的估计量的方法称为矩估计。

极大似然估计：概率较大的事件在一次试验中出现的可能性较大。

如果随机抽样（随机试验）
的结果得到样本观察值％,x2，…X n，则我们应当这样选取 "，二2,…的值，使这组样本值出现的可能性最大。

也就是使似然函数…^k）达到最大值，从而求出参数的估计值，
此方法得到的参数估计称为极大似然估计。

区间估计：要求由样本构造一个以较大的概率包含真实参数的一个范围或区间，这种带有概
率的区间称为置信区间，通过构造一个置信区间对未知参数进行估计的方法称为区间估计。

置信区间、置信度：设X i,X2…X n为总体X的样本，二为总体X的一个未知参数，对于预
先给定的a （O vav l）值，构造统计量况=g（X i,X2，…X n）和竄=%（X i,X2，…X n）（日1二2），使之满足PC? £日€包）=1—G，则称随机区间&购）为日的1 一。

或
100（1 -□）%置信区间；其中硏和g分别称为置信下限和置信上限， 1 -a称为置信度.
单侧置信区间：由P{^（X1，X2，…，X n）=1 或P{"：£（X1,X2「，X n）}=17
确定的区间（$,畑）或（-00,碍）称为总体未知参数日的置信度为1 -«的单侧置信区间；电， %分别称为单侧置信下限和单侧置信上限。

第六章假设检验
假设检验：是统计学中根据一定假设条件由样本推断总体的一种方法。

具体作法是: 首先根据问题的需要对所研究的总体作某种假设
H 0
，接着建立推断统计假设
H 0
的方
法，以判断所作假设是否正确。

在统计学上，称判断假设 H 0
正确与否的方法为统计假设检
验，简称假设检验。

统计假设：把任何一个关于总体分布的假设，
称为统计假设。

仅涉及到总体分布中所包含的
几个未知参数的统计假设称为参数假设；否则称为非参数假设。

小概率原理：在概率论中我们把概率很接近于 0 (即在大量 重复试验中出现的频率非常低) 的事件称为小概率事件• 一般多采用0.01，0.05两个值即事件发生的概率在
0. 01以下或
0.05以下的事件称为小概率事件，这两个值称为小概率标准，小概率事件可以认为在一次 试验中一般不会发生。

实际问题中，如果小概率事件发生了，我们认为这是不合理的现象。

检验统计量：
建立推断统计假设 H 0的方法时所用到的统计量称为检验统计量。

两类错误：任何一个假设检验都有可能犯两类错误中的一类， I 类错误是弃真错误，即否定
了未知的真实情况，把真当成了假； II 类错误是纳伪错误，即接受了未知的不真实状态，
把假的当作真的接受了。

I 类错误和II 类错误是一对矛盾。

降低了 I 类错误的概率时，犯
II 类错误的概率就会提高。

要同时达到减少犯两类错误的可能性，唯有通过扩大样本容量 来实现。

参数检验：统计假设仅为参数假设的统计检验方法称为参数检验。

分布性质的。

非参数检验：是对总体分布不作任何限制性假设统计检验方法。

何限制性假设特点，因此也称之为自由分布检验或无分布检验。

数检验方法具有容易理解，计算相对简单的特点
第七章方差分析
方差分析：比较多个相互独立、具有方差齐性的正态总体的均数是否相等的一种统计检验
法。

因素：是指在试验中或在抽样时发生变化的条件。

通常用 A 、B C ,表示。

方差分析的目
的就是分析因素对试验或抽样的结果有无显著影响。

如果在试验中变化的因素只有一个， 试
验称为单因素试验； 在试验中变化的因素不只一个时， 就称多因素试验。

双因素试验是多因
素试验的最简单情形。

水平：因素在试验中的不同状态称作水平。

如果因素A 有r 个不同状态，就称它有r 个水平， 可用A k (k
=1,2/ ,r)表示。

我们针对因素的不同水平或水平的组合，进行试验或抽取样 本，以便了解因素对试验结果的影响。

单因素方差分析：
针对单因素试验的方差分析称为单因素方差分析。

显著性水平:
只控制犯第I 类错误概率:的检验称为显著性检验,
:称为显著性水平, 参数检验法是依赖于总体
由于它无须对总体分布作任 与参数检验方法比较，非参
双因素方差分析：针对双因素试验的方差分析称为双因素方差分析。

第八章正交试验设计与分析
试验设计：是统计学的一个重要分支，它的主要内容是讨论如何合理地安排试验、有效获得数据资料的方法以及试验后的数据怎样作统计分析。

试验设计的周密而完善，就能以较少的的人力、物力和时间，获得丰富而可靠的资料，从而通过统计分析，得出较为可靠的结论。

试验设计与数据分析是互相匹配的，在设计试验时就应明确日后如何分析结果；任何数据分
析方法均要求特定的数据结构和特定的试验模式。

正交试验设计：是利用规格化的表格一正交表安排多因素试验、分析试验结果的一种科学设
计方法。

它从多因素的全部水平组合中挑选部分有代表性的水平组合进行试验，通过对这部
分试验结果的分析了解全面试验的情况，找出因素最佳水平组合。

正交表：正交表是一种特殊的表格，其中常用的一类记作L a(b c)，其中L表示正交表；
下标a表示正交表的行数，也是试验次数；c表示正交表的列数；b表示各因素的水平数。

交互作用：在多因素试验中，不仅存在各个因素的单独作用，也可能存在因素之间的联合作
用，既有相互促进或相互制约的情况。

两个或多个因素之间联合所起的作用，称为因素之间
的交互作用。

第九章相关与回归分析
相关关系：一种非确定性的关系，例如，以X和Y分别记一个人的身高和体重，或分
别记每公顷施肥量与每公顷小麦产量，则X与Y显然有关系，而又没有确切到可由
其中的一个去精确地决定另一个的程度，这就是相关关系。

即变量X与Y之间有一定
的联系，但不能完全用函数来表达，就称X与Y是相关关系。

散点图：将变量X与Y的观察值(X i,y」(i =1,2/ ,n)在平面直角坐标系中标出，得到n个点，这种图称为散点图。

散点图可以帮助我们了解变量之间是否相关及相关程度。

相关分析：是研究现象之间是否存在某种依存关系，并对具体有依存关系的现象探讨
其相关方向以及相关程度，是研究随机变量之间的相关关系的一种统计方法。

n
工(X i — X)(y i — y)/(n—1)
样本相关系数：统计量r . 心 ------------------------------------- 称为随机变量X与
、(X -x)2/(n-1)^ (y^y)2/(n-1)
-i =1- izi
Y的样本相关系数，r的大小能够反映变量X与Y之间线性关系的密切程度。

回归分析：回归分析)是确定两个或两个以上变量间相互依赖的定量关系的一种统计
分析方法。

运用十分广泛，回归分析按照涉及的自变量的多少，可分为一元回归分析 和多元回归分析；按照自变量和因变量之间的关系类型，可分为线性回归分析和非线 _
性回归分析。

如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可 用一条直线近似表示，这种回归分析称为一元线性回归分析。

即模型为
丫二a • bX 。

最小二乘法：根据变量的一系列观测数据，按误差平方和最小的原则来建立变量之间的最优 数学关系的方法。

它是统计中常用的参数估计方法之一。

指在确定一个己知类型函数的曲线
时,使所有观察值与该曲线上的对应点之偏差的平方和为最小。

一元线性回归模型中未知参数的最小二乘估计：
根据变量X 与Y —组样本值(x i ,y i )，
n
2
(i -1,2/ ,n)。

记 Q(a,b)»»⑶-a-bxj 。

用使Q(a,b)达到最小(最小二乘法)
i 4
n
•二.
(x
- x)( y i - y)
的一对数值 0=7
和 召二y-bx 称为b 和a 的估计最小二乘估计。

' x -x)2
i 4
相关分析与回归分析区别： 在回归分析中，所关心的是一个随机变量 Y 对另一个(或
一组)随机变量
X 的依赖关系的函数形式。

而在相关分析中
，所讨论的变量的地位 一样，分析侧重于随机变量之间的种种相关特征。

例如，以 X 、Y 分别记小学生的数 学与语文成绩，感兴趣的是二者的关系如何，而不在于由
X 去预测Y 。