概率论与数理统计——1.4全概率公式与贝叶斯公式

26
14
2. 贝叶斯公式
贝叶斯公式是全概率公式的逆问题：
若已知“结果”B已经发生了，要求引起B发生 的某一种“原因”Ak发生的概率．
定理1.4.2 设 A1 , A2 ,, An 构成一个完备事件组，则 对于任一事件B，且 P( B) 0, 有
P( Ak | B)
P( Ak ) P( B | Ak )
校正．一射手用校正过的枪射击时，中靶的概率为0.8
，用未校正的枪射击时，中靶的概率为0.3. 今从8支枪 中任取一支进行射击，结果中靶．求所用的这支枪是 经过校正过的概率． 解 设A1={枪经过试射校正}， B={中靶} A2={枪没有经过试射校正} 则A1，A2构成完备事件组． 5 3 由题意知 P( A1 ) P( A2 ) 8 8
B B B Ai BAi
i 1 i 1
于是根据加法公式和乘法公式，即得
P( B) P( BAi ) P( BAi )
i 1 i 1
n
n
P( Ai ) P( B | Ai )
i 1
6
n
注
（1）全概率公式中的事件组 A1 , A2 ,, An 叫完备事 件组； （2）在定理中的条件 结论亦然成立。
P(B|A1)=0.02，P(B|A2)=0.02，P(B|A3)=0.04
由全概率公式得:
P( B) P( Ai ) P( B | Ai )
i 1
13
3
(2)若从市场上的商品中随机抽取一 件，发现是
次品，求它是甲厂生产的概率?
分析:所求为条件概率P(A1|B)=P(A1B)/P(B). 这也 就是下面的Bayes公式.
3
故第一人和第二人抽到的概率相等。 同理，可算出第三人，第四人…直到最后一人抽
到的概率都相同。
上述分析的实质是将一个复杂事件分解为较简单
的几个事件，然后将概率的加法公式和乘法公式
结合起来，这就产生了所谓的全概率公式。
4
定理1.4.1 设事件
A1 , A2 ,, An 两两互不相容，
n i 1
C 3 P( A|B2 ) C 15
于是按全概率公式所求的概率
P( A) P( Bi ) P( A|Bi )
i 1
3
2 1 3 3 5 6 0.273 10 15 10 10 10 15
9
例: 某工厂生产的产品以 100 个为一批，进行抽样 检查时，只从每批中抽取 10 个来检查，如果发现 其中有次品， 则认为这批产品是不合格的假定每一 批产品中的次品最多不超过 4 个，并且其中恰有 i(i=0，1，2，3，4)个次品的概率如下表, 求各批产 品通过检查的概率.
3
i 1,
2， 3
i 1， 2， 3
P( B) P( Ai ) P( B | Ai )
i 1
显然，A1，A2，A3构成一个完备事件组
24
P A1 PC1C2C3 PC1C2C3 PC1C2C3
PC1 PC2 PC3 PC1 PC2 PC3 PC1 PC2 PC3 0.3 0.4 0.2 0.7 0.6 0.2 0.7 0.4 0.8 0.332
A1={收到信号“.”}，A2={收到信号“-”}.
由于B1B2=，B1∪B2= Ω，A2=A2B1 ∪ A2B2
于是
P( A2 B1 ) P( B1 ) P( A2 | B1 ) P( B1 | A2 ) P( A2 ) P( B1 ) P( A2 | B1 ) P( B2 ) P( A2 | B2 ) 0.6 0.02 0.029 0.6 0.02 0.4 0.99
解 设事件A表示取出的2个球都是白球，事件Bi表 示所选袋子中装球的情况属于第i种（i=1,2,3）
8
易知
Байду номын сангаас
2 P( B1 ) 10
2 2 2 6
3 P( B2 ) 10
2 3 2 6
5 P( B3 ) 10
C 6 P( A|B3 ) C 15
2 4 2 6
C 1 P( A|B1 ) C 15
20
例: 无线电通讯中发报台分别以概率0.6和0.4发出信 号“.”和“-”. 由于干扰发出信号“.”时，收报台 以概率0.98收到信号“.”；发出信号“-”时，收报 台以概率0.99收到信号“-”. 求在收报台收到信号 “-”的条件下，发报台发出信号“.”的概率. 解:设B1={发出信号“.”}，B2={发出信号“-”}，
P( B | A1 ) 0.8 P( B | A2 ) 0.3
19
由逆概公式得
P( A1 ) P( B | A1 ) P( A1 ) P( B | A1 ) P( A1 | B) 2 P( B) P( Ai ) P( B | Ai )
i 1
5 0.8 0.5 8 0.82 5 3 0.6 0.8 0.3 8 5
12
例 市场上某种商品由三个厂家同时供货，其供应量 为：甲厂家是乙厂家的2倍，乙、丙两个厂家相等， 且各厂产品的次品率为2%,2%,4%. (1)求市场上该种商品的次品率. 解：设Ai表示取到第i 个工厂产品，i=1,2,3，B表示取 到次品，由题意得:P(A1)=0.5，P(A2)=P(A3)=0.25，
的概率分别为0.3，0.6，0.8．若有一门火炮击中目
标，目标被摧毁的概率为0.2；若两门火炮击中目
标，目标被摧毁的概率为0.6；若三门火炮击中目
标，目标被摧毁的概率为0.9．试求目标被摧毁的 概率．
23
解
设事件 B={目标被摧毁 }
Ai 有 i门火炮击中目标 ,
Ci 第i门火炮击中目标 ,
一批产品中有次品数 概 率 0 0.1 1 0.2 2 0.4 3 0.2 4 0.1
10
解 设事件Bi是一批产品中有i个次品（i=0,1,2,3， 4），设事件A是这批产品通过检查，即抽样检查 的10个产品都是合格品 则有 P A | B0 1
C10 99 P(A | B1 ) 10 0.900 C100 C P(A | B3 ) C
21
例: 根据以往的临床记录，某种诊断癌症的的试验具 有如下的效果: 若记A={试验反应为阳性}，C={被诊 断者患有癌症} . 则有P(A|C)=0.95， P( A | C ) =0.95. 现 在对自然人群进行普查，设被试验的人患有癌症的概 率P(C)=0.005，试求P(C|A). 解:由贝叶斯公式得
P A3 PC1C2C3 0.3 0.6 0.8 0.144
25
依题意知
P( B | A1 ) 0.2，P（B | A2） 0.6，P（B | A3） 0.9
应用全概率公式，得
P( B) P( Ai ) P( B | Ai )
i 1
3
0.332 0.2 0.477 0.6 0.144 0.9 0.482
P A2 PC1C2C3 PC1C2C3 PC1C2C3
PC1 PC2 PC3 PC1 PC2 PC3 PC1 PC2 PC3 0.3 0.6 0.2 0.3 0.4 0.8 0.7 0.6 0.8 0.477
§1.4 全概率公式与贝叶斯公式
1. 全概率公式 2. 贝叶斯公式
1
1. 全概公式
抽签问题： 假设有10张票，其中有7张足球票，10人轮流 抽签，问先抽和后抽得到足球票的概率是否相同？ 看法一：10人轮流抽签，机会相等。 看法二：因为抽签有先后，显然先抽的人抽到的概 率大，后抽的人抽到的概率小。
2
10 97 10 100
C P(A | B2 ) C
10 98 10 100
0.809
0.727
C10 96 P(A | B4 ) 10 0.652 C100
所求的概率为
P(A) P(Bi )P(A | Bi ) 0.8142
i 1
11
4
例:有三个形状相同的箱子，在第一个箱中有两个 正品一个次品；在第二个箱中有三个正品一个次 品；在第三个箱中有两个正品两个次品. 现从任 何一个箱子中任取一件产品，求取得的是正品的 概率. 解:设Bi={从第i个箱子中取到产品}(i=1,2,3)，
P( AC ) P(C | A) P( A) P(C ) P( A | C ) P(C ) P( A | C ) P(C ) P( A | C ) 0.005 0.95 0.005 0.95 (1 0.005) (1 0.95) 0.087
22
例 三门火炮向同一目标射击，设三门火炮击中目标
17

这一公式最早发表于1763年，当时贝叶斯已经去
世，其结果没有受到应有的重视.。后来，人们才
逐渐认识到了这个著名概率公式的重要性。

现在，贝叶斯公式以及根据它发展起来的贝叶斯
统计已成为工程技术、机器学习、人工智能、经
济分析、投资决策、药理的临床检验及疾病的计 量诊断等领域的重要工具。
18
例 设8支枪中有3支没有经过试射校正，5支经过试射
A Ω 可减弱为 A B
i 1 i i 1 i
n
n
（3）该公式一般用于：所求事件的概率可能有某些 原因引发，而这些原因又构成完备事件组； （4）在应用该公式时，必须先找出引发该事件的完 备事件组。
7
例: 有十个袋子，各袋中装球的情况如下： （1）两个袋子中各装有 2 个白球与 4 个黑球； （2）三个袋子中各装有 3 个白球与 3 个黑球； （3）五个袋子中各装有 4 个白球与 2 个黑球. 任选一个袋子，并从其中任取 2 个球，求取出的 2 个球都是白球的概率.
P( Ai ) 0, i 1,2,, n ， 并且 Ai Ω
则对于任一事件B，有
n
P( B) P( Ai ) P( B | Ai )
i 1
上式称为全概率公式
5
证明 由事件 A1 , A2 ,, An 两两互不相容，所以
BA1 , BA2 ,, BAn 也两两互不相容，且 n n
分析
设A={第一人抽到球票}，B={第二人抽到球票}
则
B AB AB
又二者是互不相容的，故
P( B) P( AB AB) P( AB) P( AB) P( A) P( B | A) P( A) P( B | A) 7 6 3 7 7 P( A) 10 9 10 9 10
i 1
(k 1,2,, n)
16
注
1. A1,A2,...,An可以看作是导致事件B发生的原因； 2. P(Aj|B)是在事件B发生的条件下，某个原因Aj发 生的概率，称为 “后验概率”。 3. 贝叶斯公式给出了“结果”事件B已发生的条件 下，“原因”事件Aj的条件概率。因此Bayes公式 又称为“后验概率公式” ； 4. P(Aj)对应可以称为“先验概率”。
A={取得正品}. 由题意知Ω=B1+B2+B3且B1,B2,B3是两两互不 相容的事件. 则 P(B1)=P(B2)=P(B3)=1/3 P(A|B1)=2/3，P(A|B2)=3/4，P(A|B3)=2/4=1/2 由全概率公式得 P(A)=P(B1)P(A|B1)+P(B2)P(A|B2)+P(B3)P(A|B3) =0.64
P( A ) P( B | A )
i 1 i i
n
,
(k 1,2,, n)
此公式称为贝叶斯(Bayes)公式（或逆概率公式）．
15
证明 由条件概率的定义及乘法公式和全概率公式有
P( BAk ) P( Ak | B) P( B) P( Ak ) P( B | Ak ) P( B) P( Ak ) P( B | Ak ) n , P( Ai ) P( B | Ai )