概率论基础

类型 A牌 非A牌 总计
颜色
红
黑
总计
2/52 2/52 4/52
24/52 24/52 48/52
26/52 26/52 52/52
P(A牌)
P(红牌)
P(红A)
11
复合概率、加法法则 Addition Rule
1. 学会求出事件的并的复合概率 2. P(A 或 B) = P(A B)
= P(A) + P(B) - P(A B) 3. 对于互斥事件:
称为联合事件
2. P(A 且 B) = P(A B) = P(A)P(B|A) = P(B)P(A|B)
3. 对于独立事件: P(A 且 B) = P(A B) = P(A)P(B)
19
乘法法则示例 Multiplication Rule Example
条件事件: 抽一张牌. 注意种类、颜色
类型 A牌 非A牌 总计
事件
Bi B1 B2
先前 条件 概率 概率
联合 概率
P(Bi) P(A|Bi) P(Bi A)
修正后 概率
P(Bi |A)
.5 X .4 = .20 .20/.25 = .8
.5
.1
.05 .05/.25 = .2
1.0
P(A) = 0.25 1.0
偿还
拖欠
P(大学) 25
思考题 Thinking Challenge
2 / 52 26 / 52
2 26
16
树形图表示条件概率
条件事件: 有14支蓝笔和6支红笔，从这20 支选出两支钢笔，不可替换.
红 P(红|红) = 5/19 P(红) = 6/20 红
蓝 P(蓝|红) = 14/19
不独立!
红 P(红|蓝) = 6/19 蓝
P(蓝) = 14/20
蓝 P(蓝|蓝) = 13/19 17
1
事件的特征 Event Properties
1. 互斥
不能在同一时间发生的两个结果 一个人不能同时既是男的又 是女的
2. 完备
样本空间中的一个结果必然发生 男的或者女的
?1984-1994 T/Maker Co.
2
特殊事件 Special Events
1. 空事件Null Event
1张牌既是梅花Q又是方块Q
= (1/3)(1) + (1/3)(0) + (1/3)(0) = 1/3 P(改变）＝P(选1)P(改变/选1)
+P(选2)P(改变/选2) + P(选3)P(改变/选3) = (1/3)(0) + (1/3)(1) + (1/3)(1) = 2/3
28
颜色
红色 黑色
2
2
24 24
26 26
总计 4 48 52
P(A牌 且 黑色) = P(A牌) P(黑色| A牌) = (4/52) (2/4) = 2/52 = 1/26
20
贝叶斯定理 Bayes’ Theorem
1. 可以根据新的信 息 修正旧的概率
2. 条件概率的应用 3. 互斥事件
先前的概率
3.所有事件之和为 1
0
不可能
8
简单事件的概率 Probability of Simple Event
P(事件) =
X T
X = 使某结果发 生的事件数量
检查了100个 零件，两个 有缺陷!
T = 可能事件的 总数
9
用列联表确定联合事件 Using Contingency Table
事件
A1 A2 总计
?1984-1994 T/Maker Co.
22
贝叶斯定理的示例: 列联表题解
场景: 假定偿还贷款的可能性是50%。 大学毕业生 的情况记录如下:
新的信息
教育程度 大学
非大学
总计
贷款状态 偿还 未偿还 总计 40 10 50 60 90 150 100 100 200
原来的概率
修正后 的概率
P(偿还 | 大学)
A牌
S
事件 (A牌 且 黑色)
黑色 (S)
15
用列联表表示条件概率
条件事件: 抽一张牌. 注意种类, 颜色
类型 A牌 非A牌 总计
颜色
红色 黑色
2
2
24 24
26 26
总计 4 48 52
修正后 的样本 空间
P(Ac牌e |
B黑la色ck)
=
PP(A(Ace牌AN且D黑Bla色ck)) P(B黑la色ck)
4 26 2 28 52 52 52 52
13
条件概率 Conditional Probability
1. 一个事件发生的条件下，另一个事件发 生的概率。
2. 修正原始样本空间来记录新的信息
– 排除某些结果
3. P(A | B) = P(A 且 B) P(B)
14
用维恩图表示条件概率
黑色
假定出现黑色，排 除所有其他结果
事件可能性Event Possibilities
<20 女
20
Biblioteka Baidu
<20 男
S = {F,<20; F, 20;
20
M,<20; M, 20} 7
概率是什么？ What is Probability?
1. 事件发生的可能性的 数字度量
1
必然
简单事件
联合事件
复合事件
.5
2.取值在 0 和 1 之间
P(偿还 大学)
=
P(大学)
40 200 4
=
= = 80%
50 200 5
23
贝叶斯定理示例: 树形图题解
背景: 偿还贷款的概率是 50%. 还款的人中大学毕业 生占40%, 欠款的人中大学毕业生占10%.
P(学|还) = .4
P(还) = .5 还
欠
P(欠) = .5
P(非|还) = .6 P(学|欠) = .1
P(非 |欠) = .9
学 P(还 学) = P(学|还)*P(还) = (.4)(.5) = .20
P(学) = P(学|还)P(还) +
非
P(学|欠)P(欠)
学
= (.4)(.5) + (.1)(.5) = .25
P(还|学) = P(还 学)
P(学)
非
= .2/.25 = 80%
24
贝叶斯定理示例: 表格题解
事件和样本空间 Events and Sample Spaces
1.简单事件 Simple Event
结果只具有一个特征
2.联合事件 Joint Event
两个事件同时发生
3. 复合事件 Compound Event
一件事发生或者另一件事发生
4. 样本空间: Sample Space
全体事件结果的集合
P(A 或 B) = P(A B) = P(A) + P(B)
12
加法法则示例 Addition Rule Example
复合事件: 抽一张牌. 注意种类, 颜色
类型 A牌 非A牌 总计
颜色
红
黑
2
2
24 24
26 26
总计 4 48 52
P(A牌 或者 黑色) = P(A牌) + P(黑色) - P(A牌 黑色)
事件
B1
B2
总计
P(A1 B1) P(A1 B2) P(A1)
P(A2 B1) P(A2 B2) P(A2)
P(B1)
P(B2)
1
联合事件 Joint Probability
边际 (简单) 概率
Marginal (Simple)
Probability
10
列联表联合事件的例子
联合事件: 抽一张牌. 注意种类、颜色
空事件
2. 事件的补Complement of Event
例如对事件 A , 所有不在 A 中的事件是 A 的补
3
样本空间图表表示 Visualizing Sample Space
1. 列表
S = {字面，国徽面}
2. 维恩图 3. 列联表 4. 树形图
4
维恩图 Venn Diagram
事件：女性
P =1/3 选2号库
改变 不变
P(改变/选2)=1 P(不变/选2)= 0
P =1/3
选3号库
改变 不变
P(改变/选3)=1 P(不变/选3)= 0
注：令P(选中) = p, 假定: 车在1号库, 其他情况可类推
27
概率计算
P(不变）＝P(选1)P(不变/选1) +P(选2)P(不变/选2) + P(选3)P(不变/选3)
统计独立性 Statistical Independence
1. 事件的发生 不会影响到另一事件发生的概率
掷一个硬币两次
2. 不蕴含因果关系 3. 测试条件
P(A | B) = P(A) P(A 且 B) = P(A) P(B)
18
乘法法则 Multiplication Rule
1. 学会求出事件的交的联合概率
新的信息
应用 贝叶斯定理
修正后概率
21
贝叶斯定理公式 Bayes’ Theorem Formula
P(Bi | A)
=
P(A | Bi) P(Bi) P(A | B1) P(B1) + ... + P(A | Bk )P(Bk )
相同事件
P(Bi A) P(A)
所有的 Bi 都代 表同一个事件 ( 例如, B2)!
结果
男性 女性
S
S = {男, 女}
5
列联表 Contingency Table
联合事件: 女性, 不到20岁
简单事件
女性 男性
年龄
<20
20
47
16
45
22
总计
92 38
S = {F,<20; F, 20; M,<20; M, 20}
总计 63 67 130
样本空间6
树形图 Tree Diagram
情景：
3间车库，其中有一间有车。门关着，但 主持人知道哪一间车库有车。
1、主持人请你挑选一间有车的车库。 2、当你选定后，主持人打开一间空车库。
然后，问你是否要改变你的选择。
3、此时改变你的选择是否会增大选中有车 的车库的机率？
26
选1号库 p =1/3
改变 不变
P(改变/选1)= 0 P(不变/选1)=1