第4章 不确定性推理2014
合集下载
第4章_不确定性推理方法(2)ppt课件
产生式规则表示:
I F E T H E N H (( C F H , E ) )
CF (H ,E )：可信度因子（certainty factor），反映
前提条件与结论的联系强度 。
IF 头痛 AND
流涕
THEN
感冒 （0.7）
4.4.2 C－F模型
1. 知识不确定性的表示
CF（H，E）的取值范围: [-1,1]。
(H) 求：CF
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r4 :
0 . 7 max{ 0 , CF [ E ( E E )] CF (E 4 AND 5 OR 6 1)
0 . 7 m 0 , m ax{ CF ( E in{ ), CF ( E E )} 4 5 OR 6
目前，在证据理论的基础上已经发展了多种不确 定性推理模型。
4.5 证据理论
4.5.1 概率分配函数 4.5.2 信任函数 4.5.3 似然函数 4.5.4 信任函数与似然函数的关系 4.5.5 概率分配函数的正交和（证据的组合）
4.5.1 概率分配函数
设 D 是变量 x 所有可能取值的集合，且 D 中的元素是 互斥的，在任一时刻 x 都取且只能取 D 中的某一个元素 为值，则称 D 为 x 的样本空间。 在证据理论中，D 的任何一个子集 A 都对应于一个关于 x 的命题，称该命题为“x 的值是在 A 中”。 设 x ：所看到的颜色，D={红，黄，蓝}， 则 A={红}：“x 是红色”；
A={红，蓝}：“x 或者是红色，或者是蓝色”。
4.5.1 概率分配函数
设D为样本空间，领域内的命题都用D的子集表示 ，则概率分配函数（basic probability assignment function）定义如下：
I F E T H E N H (( C F H , E ) )
CF (H ,E )：可信度因子（certainty factor），反映
前提条件与结论的联系强度 。
IF 头痛 AND
流涕
THEN
感冒 （0.7）
4.4.2 C－F模型
1. 知识不确定性的表示
CF（H，E）的取值范围: [-1,1]。
(H) 求：CF
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r4 :
0 . 7 max{ 0 , CF [ E ( E E )] CF (E 4 AND 5 OR 6 1)
0 . 7 m 0 , m ax{ CF ( E in{ ), CF ( E E )} 4 5 OR 6
目前，在证据理论的基础上已经发展了多种不确 定性推理模型。
4.5 证据理论
4.5.1 概率分配函数 4.5.2 信任函数 4.5.3 似然函数 4.5.4 信任函数与似然函数的关系 4.5.5 概率分配函数的正交和（证据的组合）
4.5.1 概率分配函数
设 D 是变量 x 所有可能取值的集合，且 D 中的元素是 互斥的，在任一时刻 x 都取且只能取 D 中的某一个元素 为值，则称 D 为 x 的样本空间。 在证据理论中，D 的任何一个子集 A 都对应于一个关于 x 的命题，称该命题为“x 的值是在 A 中”。 设 x ：所看到的颜色，D={红，黄，蓝}， 则 A={红}：“x 是红色”；
A={红，蓝}：“x 或者是红色，或者是蓝色”。
4.5.1 概率分配函数
设D为样本空间，领域内的命题都用D的子集表示 ，则概率分配函数（basic probability assignment function）定义如下：
不确定性推理知识要点
不确定性推理知识要点不确定性推理1/4/2004● 对每个模型需要把握的重点：（1）知识不确定性的表示方法（2）证据不确定性的表示方法（3）组合证据不确定性的计算方法（4）不确定性的传递算法，亦即如何由证据的不确定性以及知识的不确定性求出结论的不确定性（5）结论不确定性的合成算法，即如果有多条知识推出相同的结论，应该怎样计算出最终的结论不确定性● 学过的模型：一．概率方法二．主观Bayes 方法◆ 实质：根据证据E 的概率P(E)以及LS ，LN 的值，将H 的先验概率P(H)更新为后验概率P(H/E)。
其中，LS ，LN ，P(H)都由领域专家给出，P(E)则是由用户的具体观察得到的。
◆ 模型：（1）知识不确定性的表示：使用充分性量度LS 和必要性量度LN ，并且这两者都是由领域专家给出的（P163）（2）证据不确定的表示：用概率P(E/S)来表示，其中S 表示一次观察，E 为证据。
一般的该值是根据用户给出的可信度C(E/S)计算出来的，具体计算方法参见课本P163-164（3）组合证据不确定性的计算：极大极小法（P164）（4）不确定性的传递算法：引入几率函数来辅助推理过程。
几率函数定义为： ()()1()P x x P x Θ=- 根据知识对应的证据的确定性不同分成三种情况，即1）证据肯定存在的情况：(/)()H E LS H Θ=?Θ或()()(/)(1)()11()LS P H LS H P H E LS P H LS H ??Θ==-?++?Θ 2）证据肯定不存在的情况：(/)()H E LN H Θ?=?Θ或()()(/)(1)()11()LN P H LN H P H E LN P H LN H ??Θ?==-?++?Θ 3）证据不确定的情况：注意：前两种情况是两种极端情况，证据和具体的观察没有关系，实际上证据大多是不确定的，每一次的观察可能会得到不一样概率（或几率）。
此时的推理一般基于如下的公式： (/)(/)(/)(/)(/)P H S P H E P E S P H E P E S =?+其中，S 表示一次具体的观察。
第4章_不确定性推理方法(2)
目前，在证据理论的基础上已经发展了多种不确 定性推理模型。
4.5 证据理论
4.5.1 概率分配函数 4.5.2 信任函数 4.5.3 似然函数 4.5.4 信任函数与似然函数的关系 4.5.5 概率分配函数的正交和（证据的组合）
4.5.1 概率分配函数
设 D 是变量 x 所有可能取值的集合，且 D 中的元素是 互斥的，在任一时刻 x 都取且只能取 D 中的某一个元素 为值，则称 D 为 x 的样本空间。 在证据理论中，D 的任何一个子集 A 都对应于一个关于 x 的命题，称该命题为“x 的值是在 A 中”。 设 x ：所看到的颜色，D={红，黄，蓝}， 则 A={红}：“x 是红色”；
n
A ⊂D， M（{黄，蓝}）=0.1，M（{红，黄，蓝}）=0.1，M（Φ）=0 A ≠ 时，M（A）：对相应命题A的精确信任度 D 。 但：M（{红}）+ M（{黄}）+ M（{蓝}）=0.4
（3）概率分配函数与概率不同。
例如，设 A={红}， M（A）=0.3：命题“x是红色”的信任度是0.3。
4. 不确定性的传递算法
C－F模型中的不确定性推理：从不确定的初始证据 出发，通过运用相关的不确定性知识，最终推出结论 并求出结论的可信度值。结论 H 的可信度由下式计 算： CF ( H ) =CF ( H , E ) ×max{ , CF ( E )} 0
当CF ( E) 0时，则CF ( H ) 0 当CF (E)＝时，则CF (H ) CF (H , E) 1
r3 :
CF3 (H ) 0.5 max{ , CF (E3 )} 0 0.5 max{ ,0.54} 0 0.27
4.4.2 C－F模型
人工智能与知识工程 第4章 不确定性推理方法概述
2
第4章 不确定性推理方法
✓4.1 不确定性推理中的基本问题
4.2 概率方法 4.3 主观Bayes方法 4.4 可信度方法 4.5 证据理论 4.6 模糊推理方法
3
4.1 不确定性推理中的基本问题
推理：从已知事实（证据）出发，通过运用相关 知识逐步推出结论或者证明某个假设成立或不成 立的思维过程。
2. 单个证据的情况
▪ 产生式规则：
IF E THEN Hi
i =1,2,, n
∑ ▪ Bayes公式：P(Hi
E)
P(E
n
Hi )P(Hi )
P(E H j )P(H j )
i =1,2,, n
j 1
结论 H i 成立时前提条件 E 所对应的证据出现的条件
结论 Hi 的先验概率
概率
13
4.2.2 逆概率方法
11
4.2.2 逆概率方法
1. 逆概率方法的基本思想：
▪ Bayes定理：
逆概率 P(E Hi )
原概率 P(Hi E)
▪ 例如：
E ：咳嗽， H i ：支气管炎，
条件概率 P(Hi E)：统计咳嗽的人中有多少是患支气管炎的。 逆概率 P(E Hi )：统计患支气管炎的人中有多少人是咳嗽的。
12
4.2.2 逆概率方法
▪ 多个单一证据的析取：
E E1 OR E2 OR OR En
则组合证据的概率：
P(E︱S) maxP(E1︱S), P(E2︱S),, P(En︱ S)
▪ 非运算： P(E / S)＝1- P(E / S)
24
4.3.4 不确定性的传递算法
P(H)：专家对结论 H 给出的先验概率，在没有考虑 任何证据的情况下根据经验给出的。
第4章 不确定性推理方法
✓4.1 不确定性推理中的基本问题
4.2 概率方法 4.3 主观Bayes方法 4.4 可信度方法 4.5 证据理论 4.6 模糊推理方法
3
4.1 不确定性推理中的基本问题
推理：从已知事实（证据）出发，通过运用相关 知识逐步推出结论或者证明某个假设成立或不成 立的思维过程。
2. 单个证据的情况
▪ 产生式规则：
IF E THEN Hi
i =1,2,, n
∑ ▪ Bayes公式：P(Hi
E)
P(E
n
Hi )P(Hi )
P(E H j )P(H j )
i =1,2,, n
j 1
结论 H i 成立时前提条件 E 所对应的证据出现的条件
结论 Hi 的先验概率
概率
13
4.2.2 逆概率方法
11
4.2.2 逆概率方法
1. 逆概率方法的基本思想：
▪ Bayes定理：
逆概率 P(E Hi )
原概率 P(Hi E)
▪ 例如：
E ：咳嗽， H i ：支气管炎，
条件概率 P(Hi E)：统计咳嗽的人中有多少是患支气管炎的。 逆概率 P(E Hi )：统计患支气管炎的人中有多少人是咳嗽的。
12
4.2.2 逆概率方法
▪ 多个单一证据的析取：
E E1 OR E2 OR OR En
则组合证据的概率：
P(E︱S) maxP(E1︱S), P(E2︱S),, P(En︱ S)
▪ 非运算： P(E / S)＝1- P(E / S)
24
4.3.4 不确定性的传递算法
P(H)：专家对结论 H 给出的先验概率，在没有考虑 任何证据的情况下根据经验给出的。
人工智能导论 第2版 第4章 不确定性推理
✓当P(E|S)=0时，证据肯定不存在。
✓当P(E|S)=P(E)时，证据E与观察S无关。由全概率公式得：
P(H|S)=P(H|E)×P(E)+P(H|¬E)×P(¬E)＝P(H)
✓当P(E|S)为其它值时，通过
计算P(H|S)
P(H/S) P(H/E)
P(H)
P(H/¬E)
0
P(E)
1 P(E/S)
23
逆概率法的特点
逆概率法在实际中有很多应用。
✓ 比如：把Hi (i=1,2,…,n)当作可能发生的疾病；把Ej ( j=1,2,…,n)当 作相应的症状；P(Hi)是从大量实践中得到的疾病Hi的先验概率； P(Ej|Hi)是疾病Hi发生时观察到症状Ej的条件概率。
➢逆概率法有较强的理论背景和良好的数学特性，当证据及 结论都彼此独立时计算的复杂度比较低。
1 2 n (H) (H)
(H )
36
主观Bayes方法推理示例(1)
☆例. 设有如下知识：
已知：Θ(H1)＝0.1， Θ(H2)＝0.01， C(E1|S1)=2, C(E2|S2)=1 求： Θ(H2|S1S2)=?
P(H1)=Θ(H1)/(1+Θ(H1))=0.09 P(H1|E1)=Θ(H1|E1)/(1+Θ(H1|E1))= LS1×Θ(H1)/(1+LS1×Θ(H1))=0.17 ∵C(E1|S1)=2>0 ∴P(H1|S1)=P(H1)+[P(H1|E1)-P(H1)]×1/5×C(E1|S1)
6
2. 不确定性推理的基本问题
• 设计一个不确定性匹配算法； • 指定一个匹配阈值。 • 在匹配时，一个简单条件对应于一个单一的证据，
第四章 不确定性推理的方法
4.3.3 组合证据不确定性的算法
4.3.4 不确定性的传递算法
22
4.3.1 知识不确定性的表示
知识： IF E THEN (LS，LN)
H (P(H))
E ：前提条件（简单条件或复合条件）
H ：结论
( LS , LN ) ：规则强度 P（E H） LS ——规则成立的充分性度量 P（E H）
E=Ei AND E2 AND
…
AND
Em
P(Hi E1, E2 ,, Em ) ：在证据 E1 , E2 ,, Em 出现时结论的确定 程度。
12
4.2.2 逆概率方法
1. 逆概率方法的基本思想：
Bayes定理：
逆概率 P( E Hi )
例如：
原概率 P(Hi E)
E ：咳嗽，
H i ：支气管炎，
④ 度量的确定应当是直观的，同时应有相应的理论依据。
7
4.1 不确定性推理中的基本问题
2. 不确定性匹配算法及阈值的选择
不确定性匹配算法：用来计算匹配双方相似程度的算 法。 阈值：用来指出相似的“限度”。
3. 组合证据不确定性的算法：
最大最小方法、Hamacher方法、概率方法、 有界方法、Einstein方法等。
PE , LS , LN P( H ) P( H / E )或（ P H / E）
？
先验概率
后验概率
26
4.3.4 不确定性的传递算法
1. 证据肯定存在的情况
证据肯定存在时, P( E) P( E S ) 1 结论H成立的概率：P（H / E） P（E / H） P（H） / P（E） 结论H不成立的概率：P（H / E） P（E / H） P（H） / P（E）
4.3.4 不确定性的传递算法
22
4.3.1 知识不确定性的表示
知识： IF E THEN (LS，LN)
H (P(H))
E ：前提条件（简单条件或复合条件）
H ：结论
( LS , LN ) ：规则强度 P（E H） LS ——规则成立的充分性度量 P（E H）
E=Ei AND E2 AND
…
AND
Em
P(Hi E1, E2 ,, Em ) ：在证据 E1 , E2 ,, Em 出现时结论的确定 程度。
12
4.2.2 逆概率方法
1. 逆概率方法的基本思想：
Bayes定理：
逆概率 P( E Hi )
例如：
原概率 P(Hi E)
E ：咳嗽，
H i ：支气管炎，
④ 度量的确定应当是直观的，同时应有相应的理论依据。
7
4.1 不确定性推理中的基本问题
2. 不确定性匹配算法及阈值的选择
不确定性匹配算法：用来计算匹配双方相似程度的算 法。 阈值：用来指出相似的“限度”。
3. 组合证据不确定性的算法：
最大最小方法、Hamacher方法、概率方法、 有界方法、Einstein方法等。
PE , LS , LN P( H ) P( H / E )或（ P H / E）
？
先验概率
后验概率
26
4.3.4 不确定性的传递算法
1. 证据肯定存在的情况
证据肯定存在时, P( E) P( E S ) 1 结论H成立的概率：P（H / E） P（E / H） P（H） / P（E） 结论H不成立的概率：P（H / E） P（E / H） P（H） / P（E）
不确定性推理
在专家系统中的“不确定性” 分为： 知识的不确定性(E→H，f(H，E)) 它表示相应知识的不确定性程度，称为知识或规则强度。
证据的不确定性(E，C(E)) 它表示证据E为真的程度。它有两种来源：初始证据 (由用 户给出)；前面推出的结论作为当前证据 (通过计算得到)。
5
2 计算问题
计算问题主要指不确定性的传播与更新，即获得 新信息的过程。
补充知识：贝叶斯网络 ▪ 独立：如果X与Y相互独立，则 P(X,Y) = P(X)P(Y) P(X|Y) = P(X) ▪ 条件独立：如果在给定Z的条件下，X与Y相互独立，则 P(X|Y, Z) = P(X|Z) 实际中，条件独立比完全独立更重要
20
▪ 联合概率：P(X1, X2, …, XN)
它是在领域专家给出的规则强度和用户给出的原 始证据的不确定性的基础上，定义一组函数，求 出结论的不确定性度量。
它主要包括如下三个方面： (1)不确定性的传递算法
已知规则的前提E的不确定性C(E)和规则强度 f(H,E),求假设H的不确定性C(H),即定义函数f1， 使得：
C(H)=f1(C(E),f(H，E))
9
补充知识：随机事件
▪ 随机实验：随机实验是一个可观察结果的人工或自然的过程 ，其产生的结果可能不止一个，且不能事先确定会产生什么 结果。
▪ ▪ 样本空间：样本空间是一个随机实验的全部可能出现的结果
的集合，通常记作Ω，Ω中的点（即一个可能出现的实验结 果）成为样本点，通常记作ω。
▪ 随机事件：随机事件是一个随机实验的一些可能结果的集合 ，是样本空间的一个子集。常用大写字母A,B,C,…表示。
7
3 语义问题
语义问题指上述表示和计算的含义是什么。如C(H,E)可理 解为当前提E为真时，对结论H为真的一种影响程度，C(E) 可理解为E为真的程度。
证据的不确定性(E，C(E)) 它表示证据E为真的程度。它有两种来源：初始证据 (由用 户给出)；前面推出的结论作为当前证据 (通过计算得到)。
5
2 计算问题
计算问题主要指不确定性的传播与更新，即获得 新信息的过程。
补充知识：贝叶斯网络 ▪ 独立：如果X与Y相互独立，则 P(X,Y) = P(X)P(Y) P(X|Y) = P(X) ▪ 条件独立：如果在给定Z的条件下，X与Y相互独立，则 P(X|Y, Z) = P(X|Z) 实际中，条件独立比完全独立更重要
20
▪ 联合概率：P(X1, X2, …, XN)
它是在领域专家给出的规则强度和用户给出的原 始证据的不确定性的基础上，定义一组函数，求 出结论的不确定性度量。
它主要包括如下三个方面： (1)不确定性的传递算法
已知规则的前提E的不确定性C(E)和规则强度 f(H,E),求假设H的不确定性C(H),即定义函数f1， 使得：
C(H)=f1(C(E),f(H，E))
9
补充知识：随机事件
▪ 随机实验：随机实验是一个可观察结果的人工或自然的过程 ，其产生的结果可能不止一个，且不能事先确定会产生什么 结果。
▪ ▪ 样本空间：样本空间是一个随机实验的全部可能出现的结果
的集合，通常记作Ω，Ω中的点（即一个可能出现的实验结 果）成为样本点，通常记作ω。
▪ 随机事件：随机事件是一个随机实验的一些可能结果的集合 ，是样本空间的一个子集。常用大写字母A,B,C,…表示。
7
3 语义问题
语义问题指上述表示和计算的含义是什么。如C(H,E)可理 解为当前提E为真时，对结论H为真的一种影响程度，C(E) 可理解为E为真的程度。
第4章不确定与非单调推理-Read
(2) 对R3： CF(B1∧A3) = min{0.9, 1} = 0.9 CF(B2) = 0.8 × max{0, CF(B1∧A3) } = 0.72
p 132-133 例4.2
l 带有阈值限度的不确定性推理 Ø 知识不确定性的表达 IF A THEN B (CF(B, A)，λ) （1）CF(B, A)∈(0, 1] 为规则的可信度因子 （2） λ ∈(0, 1]规定规则可应用的条件，只有 CF(A)≥ λ时，才能使用这条规则。 Ø 证据不确定性的表示 证据A的不确定性用可信度因子CF(A)表示， 其取值范围为[0，1]。
Ø 组合证据不确定性的算法 CF(A1∧A2) = min{CF(A1), CF(A2)} CF(A1∨A2) = max{CF(A1), CF(A2)} CF(~A) = - CF(A)
Ø 推理计算 (1) 已知CF(A)， A→B，CF(B，A)，求CF(B) CF(B) = CF(B, A) × max{0, CF(A)} (2) 由规则A1→B求得CF(B)，又使用规则A2→B 时，如何更新CF(B)。 即已知CF(A1)，CF(A2)，及CF(B, A1)， CF(B, A2)来寻求CF(B)。
Ø 逆概率方法 症状A，可能的疾病B1，B2，…，Bn IF A THEN Bi，i = 1,2,…n
要求Bi之间相互独立， i = 1,2,…n 。 计算可能是比较困难的。
l可信度方法（确定性方法）
以确定性因子或称可信度作为不确定性的度量。 Ø 可信度的概念 根据经验对一个事物或现象为真的相信程度， 称为可信度。 Ø C-F模型 ü 知识不确定性的表示 IF A THEN B (CF(B, A)) 可信度CF描述规则的不确定性。
Ø 证据的不确定性表示 也是用可信度因子表示的。 证据A，可信度因子 -1<=CF(A)<=1 A肯定为真时，CF(A) = 1 A肯定为假时，CF(A) = -1 对A一无所知时，CF(A) = 0 CF(A) > 0 表示A以CF(A)程度为真 CF(A) < 0表示A以-CF(A)程度为假 实际应用中，初始证据的CF值由专家主观给 定，其它证据的CF在推理中算出。
第4章 非精确性推理gy
121 第4章 不确定与非单调推理在现实世界中，能够进行精确描述的问题只占较少一部分，而大多数问题是非精确、非完备的。
对于这些问题，若采用上一章所讨论的精确性推理方法显然是不行的。
为此，人工智能需要研究不确定性的推理方法，以满足客观问题的需求。
4.1.1 C-F 模型C-F 模型是消特里菲等人在确定性理论的基础上，结合概率论和模糊集合论等方法提出的一种基本的不确定性推理方法。
下面讨论其知识表示和推理问题。
1. 知识不确定性的表示在C-F 模型中，知识是用产生式规则表示的，其一般形式为：IF E THEN H (CF(H, E))其中，E 是知识的前提条件；H 是知识的结论；CF(H, E)是知识的可信度。
对它们的简单说明如下：前提条件可以是一个简单条件，也可以是由合取和析取构成的的复合条件。
例如E=( E1 OR E2) AND E3 AND E4就是一个复合条件。
结论可以是一个单一的结论，也可以是多个结论。
可信度CF (Certainty Factor 简记为CF)又称为可信度因子或规则强度，它实际上是知识的静态强度。
CF(H, E)的取值范围是[-1，1]，其值表示当前提条件E 所对应的证据为真时，该前提条件对结论H 为真的支持程度。
CF(H, E)的值越大，对结论H 为真的支持程度就越大。
例如IF 发烧 AND 流鼻涕 THEN 感冒 (0.8)表示当某人确实有“发烧”及“流鼻涕”症状时，则有80%的把握是患了感冒。
可见，CF(H, E)反映的是前提条件与结论之间的联系强度，即相应知识的知识强度。
2. 可信度的定义在C-F 模型中，把CF(H, E)定义为CF(H, E)=MB(H, E)-MD(H, E)其中，MB (Measure Belief 简记为MB)称为信任增长度，它表示因与前提条件E 匹配的证据的出现，使结论H 为真的信任增长度。
MD (Measure Disbelief 简记为MD)称为不信任增长度，它表示因与前提条件E 匹配的证据的出现，对结论H 的不信任增长度。
人工智能导论 第4章 不确定性推理方法(导论)42-76
0.5 0.3
64
4.4.4 模糊关系与模糊关系的合成
2. 模糊关系的合成
▪ 解：
0.5 0.6 0.3
S
Qo
R
0.7 0
1
0.4 0.8 0.2
1 0
o
0.2 0.8
0.9 0.5
1 0.4 0.3
(0.50.2)(0.6 0.8)(0.30.5)
(0.70.2)(0.4 0.8) (10.5)
AB
ABLeabharlann AB584.4.3 模糊集合的运算
▪ 例4.5 设论域U x1, x2 , x3 , x4 , x5 ，A 及 B 是论域上 的两个模糊集合，已知：
A 0.2 x1 0.4 x 2 0.9 x 3 0.5 x5 B 0.1 x1 0.7 x 3 1.0 x 4 0.3 x5
66
4.4.5 模糊推理
2. 对 IF A THEN B 类型的模糊规则的推理
▪若已知输入为 A，则输出为 B ；若现在已知输入为 A'，
则输出 B ' 用合成规则求取 B ' A 'oR
其中模糊关系R: R ( x, y) min[ A ( x), B ( y)]
▪ 控制规则库的N 条规则有N 个模糊关系： R1 , R 2 ,
B B (b1), B (b2
61
4.4.4 模糊关系与模糊关系的合成
1. 模糊关系
▪ 例4.7 已知输入的模糊集合A和输出的模糊集合B：
A 1.0 / a1 0.8 / a2 0.5 / a3 0.2 / a4 0.0 / a5
B 0.7 / b1 1.0 / b2 0.6 / b3 0.0 /b4 ▪ 求A到B的模糊关系R。
64
4.4.4 模糊关系与模糊关系的合成
2. 模糊关系的合成
▪ 解：
0.5 0.6 0.3
S
Qo
R
0.7 0
1
0.4 0.8 0.2
1 0
o
0.2 0.8
0.9 0.5
1 0.4 0.3
(0.50.2)(0.6 0.8)(0.30.5)
(0.70.2)(0.4 0.8) (10.5)
AB
ABLeabharlann AB584.4.3 模糊集合的运算
▪ 例4.5 设论域U x1, x2 , x3 , x4 , x5 ，A 及 B 是论域上 的两个模糊集合，已知：
A 0.2 x1 0.4 x 2 0.9 x 3 0.5 x5 B 0.1 x1 0.7 x 3 1.0 x 4 0.3 x5
66
4.4.5 模糊推理
2. 对 IF A THEN B 类型的模糊规则的推理
▪若已知输入为 A，则输出为 B ；若现在已知输入为 A'，
则输出 B ' 用合成规则求取 B ' A 'oR
其中模糊关系R: R ( x, y) min[ A ( x), B ( y)]
▪ 控制规则库的N 条规则有N 个模糊关系： R1 , R 2 ,
B B (b1), B (b2
61
4.4.4 模糊关系与模糊关系的合成
1. 模糊关系
▪ 例4.7 已知输入的模糊集合A和输出的模糊集合B：
A 1.0 / a1 0.8 / a2 0.5 / a3 0.2 / a4 0.0 / a5
B 0.7 / b1 1.0 / b2 0.6 / b3 0.0 /b4 ▪ 求A到B的模糊关系R。
第四章 非确定性推理(1)
第四章不确定性推理第一节经典推理和非经典推理●非经典推理人们把这些新的逻辑学派称为非经典逻辑，其相应的推理方法则叫做非经典推理。
因此相应地把传统的逻辑学派及其推理方法称为经典逻辑和经典推理。
规约推理、消解演绎推理和规则演绎推理等都是确定性推理。
它们建立在经典逻辑基础上，运用确定性知识进行精确推理。
现实世界客观存在许多不确定性，需要在不完全和不确定的情况下运用不确定的知识进行推理，即进行不确定性推理。
●非经典逻辑与经典逻辑的区别表现：推理方法上。
经典采用演绎逻辑推理，非经典采用归纳逻辑推理。
辖域取值。
经典逻辑都是二值逻辑(True|False)，非经典是多值逻辑。
运算法则。
经典逻辑中的许多法则在非经典逻辑中不成立。
逻辑算符。
非经典逻辑具有更多的逻辑算符。
是否单调。
经典逻辑单调，而非经典逻辑是非单调逻辑第二节不确定性推理●不确定性推理不确定性推理是一种建立在非经典逻辑基础上的基于不确定性知识的推理，从不确定性的初始证据出发，通过运用不确定性知识，推出具有一定程度的不确定性的和合理的或近乎合理的结论。
它是研究复杂系统不完全性和不确定性的有力工具。
不确定性推理中必须解决推理方向、推理方法、控制策略等基本问题，同时还需要解决不确定性的表示与度量、不确定性匹配、不确定性的传递算法以及不确定性的合成等问题。
通过几个例子认识不确定性：➢今天有可能下雨➢如果乌云密布并且电闪雷鸣，则很可能要下暴雨。
➢小王是高个子➢“秃子悖论”秃子悖论认为：如果一个有X根头发的人被称为秃子，那么，有X + 1根头发的人也是秃子。
所以，(X + 1) + 1根头发的还是秃子。
以此类推，无论你有几根头发都是秃子。
●不确定性的表示和度量不确定性的表示不确定性推理中通常存在三种不确定性，即知识的不确定性、证据的不确定性和结论的不确定性，它们都具有相应的表示方法和量度标准。
在选择不确定性的表示方法时，有两个直接相关的因素需要考虑：①能根据领域问题特征，将其不确定性较准确地描述出来，以满足问题求解需要。
第四章不确定性推理
– 在推理一级上扩展确定性推理。其特点是把不确定的 证据和不确定的知识分别与某种度量标准对应起来， 并且给出更新结论不确定的算法。这类方法与控制策 略一般无关，即无论用何种控制策略，推理的结果都 是唯一的。模型方法分为：
– 数值方法 • 按其所依据的理论又可分为：基于概率的方 法和基于模糊理论的模糊推理。 – 非数值方法
19
若A1,A2,…,An是彼此独立的事件， P( Ai ) P( B | Ai ) P( Ai | B) n , i 1, 2,..., n P( Aj ) P( B | Aj )
j 1
其中，P(Ai)是事件Ai的先验概率；P(B|Ai)是在事件Ai发生条 件下事件B的条件概率。 如果用产生式规则 IF E THEN Hi 中的前提条件E代替Bayes公式中的B，用Hi代替公式中的Ai ， 就可得到 P( H i ) P( E | H i ) P( H i | E ) n , i 1, 2,..., n 20 P( H j ) P( E | H j )
• P(¬ A)=1-P(A) • P(A∪B)=P(A)+P(B)-P(AB) • 如果 A B ，则P(A-B)=P(A)-P(B)
13
• 如果在事件B发生的条件下考虑事件A发生的概率， 就称它为事件A的条件概率，记为P(A|B)。 • 定义4.3 设A，B是两个事件，P(B)>0,则称
P( A | B) P( A B) P( B)
j 1
P ( H i | E1 E2 Em ) P ( H i ) P ( E1 | H i ) P ( E2 | H i ) P ( Em | H i )
P( H
j 1
n
– 数值方法 • 按其所依据的理论又可分为：基于概率的方 法和基于模糊理论的模糊推理。 – 非数值方法
19
若A1,A2,…,An是彼此独立的事件， P( Ai ) P( B | Ai ) P( Ai | B) n , i 1, 2,..., n P( Aj ) P( B | Aj )
j 1
其中，P(Ai)是事件Ai的先验概率；P(B|Ai)是在事件Ai发生条 件下事件B的条件概率。 如果用产生式规则 IF E THEN Hi 中的前提条件E代替Bayes公式中的B，用Hi代替公式中的Ai ， 就可得到 P( H i ) P( E | H i ) P( H i | E ) n , i 1, 2,..., n 20 P( H j ) P( E | H j )
• P(¬ A)=1-P(A) • P(A∪B)=P(A)+P(B)-P(AB) • 如果 A B ，则P(A-B)=P(A)-P(B)
13
• 如果在事件B发生的条件下考虑事件A发生的概率， 就称它为事件A的条件概率，记为P(A|B)。 • 定义4.3 设A，B是两个事件，P(B)>0,则称
P( A | B) P( A B) P( B)
j 1
P ( H i | E1 E2 Em ) P ( H i ) P ( E1 | H i ) P ( E2 | H i ) P ( Em | H i )
P( H
j 1
n
第四章 不确定推理讲解
知识不确定性的表示
其中要注意的有：
E是知识的前提条件或者称为证据，它既可以是一 个简单的条件，也可以是用AND及OR把多个简单 条件连接起来所构成的符合条件；
H是结论，它可以是一个单一的结论，也可以是多 个结论；
CF(H,E)是该条知识的可信度，有的时候也成为可 信因子或者是规则强度。
不确定性推理的概念
产生原因
很多原因导致同一结果 推理所需的信息不完备 背景知识不足 信息描述模糊 信息中含有噪声 规划是模糊的 推理能力不足 解题方案不唯一 不精确思维并非专家的习惯或爱好所至，而是客观现实的要
求
不确定性推理方法的分类
模型方法
定义：把不确定性的证据和不确定性的知识 分别与某种度量标准对应起来，并给出更新 结论不确定性的合适算法，从而构成相应的 不确定性推理模型
第四章 不确定性推理
王醒策 信息科学与技术学院
不确定推理方法
概述 可信度方法 主观Bayes方法 证据理论
概述
不确定性推理的概念 不确定性推理的方法 不确定性推理中的基本问题
不确定性推理的概念
一个人工智能系统，由于知识本身的不精确和 不完全，采用标准逻辑意义下的推理方法难以 达到解决问题的目的。对于一个智能系统来说， 知识库是其核心。在这个知识库中，往往大量 包含模糊性、随机性、不可靠性或不知道等不 确定性因素的知识。为了解决这种条件下的推 理计算问题，不确定性推理方法应运而生。
示前提条件E匹配的证据出现，使结论H为真的不 信任增长度
知识不确定性的表示
这里P(H/E)表示前提E所对应的证据出现情 况下，结论H的条件概率
P(H)表示H得先验条件概率
知识不确定性的表示
第四章 不确定推理方法
1976年，杜达（R.O.Duda）、哈特（P.E.Hart）等人提出主
观Bayes方法，建立了不确定性推理模型，并在地矿勘探专家 系统PROSPECTOR中得到了成功的应用。
主观Bayes方法：根据证据E的概率，利用知识强度，把结论
H的先验概率P(H)更新为后验概率P(H/E).
先验概率：在获得与期望结果相关的任何信息之前已经被算出的概 率 ，无条件概率。 及证据 Ej的条件概率 P( Ej | Hi)：此事件被加上一些新信息后的概率 。
第4章 不确定性推理方法 不确定性推理方法的分类
路线 1 （在推理一级上扩展确定性推理）：把不确定的 证据和知识与某种度量标准对应起来，并且不断更新结 论不确定性的算法，从而构成相应不确定推理的模型。
路线 2 （在控制策略一级上处理不确定性）：通过识别 领域中引起不确定性的特征和相应的控制策略来限制或 减少不确定性对系统的影响
4.3 主观Bayes方法
4.4 可信度方法
4.5 证据理论
4.6 模糊推理方法
4.1 不确定性推理中的基本问题
已知事实 推理： 某种策略 结 论
（证据）
知识
不确定推理：
不确定证据 不确定知识
某种策略
不确定结 论 （不确定程度）
4.1 不确定性推理中的基本问题 不确定性的表示与量度
概率方法
4.3 主观Bayes方法
4.4 可信度方法 4.5 证据理论 4.6 模糊推理方法
4.2 概率方法
例：特定的目标身份融合问题，
目标身份的可能种类的集合称为假设空间，可以抽象地表 示为一个有限集合，该集合中的每个元素的先验概率P(H) 是已知的。
有若干信息源（如传感器），分别能够从某一角度对所关
观Bayes方法，建立了不确定性推理模型，并在地矿勘探专家 系统PROSPECTOR中得到了成功的应用。
主观Bayes方法：根据证据E的概率，利用知识强度，把结论
H的先验概率P(H)更新为后验概率P(H/E).
先验概率：在获得与期望结果相关的任何信息之前已经被算出的概 率 ，无条件概率。 及证据 Ej的条件概率 P( Ej | Hi)：此事件被加上一些新信息后的概率 。
第4章 不确定性推理方法 不确定性推理方法的分类
路线 1 （在推理一级上扩展确定性推理）：把不确定的 证据和知识与某种度量标准对应起来，并且不断更新结 论不确定性的算法，从而构成相应不确定推理的模型。
路线 2 （在控制策略一级上处理不确定性）：通过识别 领域中引起不确定性的特征和相应的控制策略来限制或 减少不确定性对系统的影响
4.3 主观Bayes方法
4.4 可信度方法
4.5 证据理论
4.6 模糊推理方法
4.1 不确定性推理中的基本问题
已知事实 推理： 某种策略 结 论
（证据）
知识
不确定推理：
不确定证据 不确定知识
某种策略
不确定结 论 （不确定程度）
4.1 不确定性推理中的基本问题 不确定性的表示与量度
概率方法
4.3 主观Bayes方法
4.4 可信度方法 4.5 证据理论 4.6 模糊推理方法
4.2 概率方法
例：特定的目标身份融合问题，
目标身份的可能种类的集合称为假设空间，可以抽象地表 示为一个有限集合，该集合中的每个元素的先验概率P(H) 是已知的。
有若干信息源（如传感器），分别能够从某一角度对所关
人工智能导论 第4章 不确定性推理方法(导论) 1-41
④ 度量的确定应当是直观的，同时应有相应的理论依据。
7
4.1 不确定性推理中的基本问题
2. 不确定性匹配算法及阈值的选择
不确定性匹配算法：用来计算匹配双方相似程度的算 法。
阈值：用来指出相似的“限度”。
3. 组合证据不确定性的算法：
最大最小方法、Hamacher方法、概率方法、 有界方法、Einstein方法等。
则 CF (E)＝min{CF (E1),CF (E2 ),...,CF (En )} 组合证据：多个单一证据的析取
E=E1 OR E2 OR … OR En 则 CF (＝max{CF (E1),CF (E2 ),,CF (En )}
17
4.2 可信度方法
4. 不确定性的传递算法
C－F模型中的不确定性推理：从不确定的初始证据出发， 通过运用相关的不确定性知识，最终推出结论并求出结 论的可信度值。结论 H 的可信度由下式计算： CF (H ) =CF (H , E)× max{0,CF (E)}
5
4.1 不确定性推理中的基本问题
不确定性的表示与量度 不确定性匹配算法及阈值的选择 组合证据不确定性的算法 不确定性的传递算法 结论不确定性的合成
6
4.1 不确定性推理中的基本问题
1. 不确定性的表示与量度
（1）知识不确定性的表示 （2）证据不确定性的表示在—专—家证系据统的中动知态识的强不度确定性一般
是由领域专家给出的，通常是一个
（3）不确定性的量度 数值用—户—在知求识解的问静题态时强提度供的初始
证据。 在推理中用前面推出的结论作 ① 能充分表达相应知识及证据不确定性的程度。 为当前推理的证据。 ② 度量范围的指定便于领域专家及用户对不确定性的估计。
7
4.1 不确定性推理中的基本问题
2. 不确定性匹配算法及阈值的选择
不确定性匹配算法：用来计算匹配双方相似程度的算 法。
阈值：用来指出相似的“限度”。
3. 组合证据不确定性的算法：
最大最小方法、Hamacher方法、概率方法、 有界方法、Einstein方法等。
则 CF (E)＝min{CF (E1),CF (E2 ),...,CF (En )} 组合证据：多个单一证据的析取
E=E1 OR E2 OR … OR En 则 CF (＝max{CF (E1),CF (E2 ),,CF (En )}
17
4.2 可信度方法
4. 不确定性的传递算法
C－F模型中的不确定性推理：从不确定的初始证据出发， 通过运用相关的不确定性知识，最终推出结论并求出结 论的可信度值。结论 H 的可信度由下式计算： CF (H ) =CF (H , E)× max{0,CF (E)}
5
4.1 不确定性推理中的基本问题
不确定性的表示与量度 不确定性匹配算法及阈值的选择 组合证据不确定性的算法 不确定性的传递算法 结论不确定性的合成
6
4.1 不确定性推理中的基本问题
1. 不确定性的表示与量度
（1）知识不确定性的表示 （2）证据不确定性的表示在—专—家证系据统的中动知态识的强不度确定性一般
是由领域专家给出的，通常是一个
（3）不确定性的量度 数值用—户—在知求识解的问静题态时强提度供的初始
证据。 在推理中用前面推出的结论作 ① 能充分表达相应知识及证据不确定性的程度。 为当前推理的证据。 ② 度量范围的指定便于领域专家及用户对不确定性的估计。
人工智能第四章不确定性推理
– 如制导回溯、启发式搜索等等
2016-1-22
史忠植 人工智能：不确定性推理
5
内容提要
4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结
2016-1-22
史忠植 人工智能：不确定性推理
6
知识的不确定性表示
• 产生式规则：
If E Then H (CF(H, E))
MB(H,E)= m-a--x-{-P--(-H--1-|-E-P-)-(,-H-P-)-(-H--)-}--–---P--(-H--)--- 否则
• MD的定义：
1
若P（H）=0
MD(H,E)= m-i-n---{-P--(-H---P|-E-(-)H-,-)P--(-H--)-}--–---P--(-H--)--- 否则
信度CF(H)
2016-1-22
史忠植 人工智能：不确定性推理
15
结论不确定性合成算法
• r1: if E1 then H (CF(H,E1))
r2: if E2 then H (CF(H,E2)) 求合成的CF(H)
(ห้องสมุดไป่ตู้)首先对每条知识求出CF(H)，即：
CF1(H)=CF(H,E1) max{0, CF(E1)} CF2(H)=CF(H,E2) max{0, CF(E2)}
• 已知C(A), AB f(B,A),如何计算C(B)
• 已知C1(A),又得到C2(A),如何确定C(A)
• 如何由C(A1),C(A2)计算C(A1A2), C(A1A2)
–语义问题: 指的是上述表示和计算的含义是
什么,如何进行解释.
2016-1-22
第四章不确定知识表示和推理
14
确定性理论——CF模型
证据的不确定性 – 在MYCIN系统中，证据的不确定性是用证据的确定性因子CF(E)表 示的。原始证据的确定性因子由用户主观地给出，非原始证据的确 定性因子由不确定性推理获得。 – 值域 当证据E以某种程度为真时，有0＜CF(E)≤l。 当证据E以某种程度为假时，有-1≤CF(E)＜0。 当证据E一无所知时，有CF(E)＝0。 – 典型值 当证据E肯定为真时，有CF(E)＝l。 当证据E肯定为假时，有CF(E)＝-1。 当证据E一无所知时，有CF(E)＝0。
18
确定性理论——CF模型
然后用公式 CF1(H)十CF2(H)-CF1(H)·CF2(H)；若CFl(H)≥0且CF2(H)≥0
CF12(H)＝ CF1(H)十CF2(H)十CF1(H)·CF2(H)； 若CF1(H)＜0且CF2(H)＜0
(CF1(H)十CF2(H))/(1-min{|CF1(H)|,|CF2(H)|})； 其他
13
4.2 确定性理论——CF模型
知识的不确定性
– 在MYCIN中的知识表示： IF El AND E2 AND．．．．．．AND En
பைடு நூலகம்THEN H(x) 其中Ei(i＝1，2，... ，n)是证据，H可以是一个或多个结论。具有 此规则形式的解释为当证据E1、E2、…、En都存在时，结论H具 有x大小的确定性因子CF(Certainty Factor)。即 x=CF(H, E1 AND E2 AND......AND En) x的具体值由领域专家主观地给出，x的取值范围为[-1，1]内。x＞ 0表示证据存在，增加结论为真的确定性程度，x越大结论越真，x ＝1表示证据存在结论为真。相反，x＜0表示证据存在，增加结论 为假的确定性程度，x越小结论越假，x＝-1表示证据存在结论为 假。x＝0时，则表示证据与结论无关。
确定性理论——CF模型
证据的不确定性 – 在MYCIN系统中，证据的不确定性是用证据的确定性因子CF(E)表 示的。原始证据的确定性因子由用户主观地给出，非原始证据的确 定性因子由不确定性推理获得。 – 值域 当证据E以某种程度为真时，有0＜CF(E)≤l。 当证据E以某种程度为假时，有-1≤CF(E)＜0。 当证据E一无所知时，有CF(E)＝0。 – 典型值 当证据E肯定为真时，有CF(E)＝l。 当证据E肯定为假时，有CF(E)＝-1。 当证据E一无所知时，有CF(E)＝0。
18
确定性理论——CF模型
然后用公式 CF1(H)十CF2(H)-CF1(H)·CF2(H)；若CFl(H)≥0且CF2(H)≥0
CF12(H)＝ CF1(H)十CF2(H)十CF1(H)·CF2(H)； 若CF1(H)＜0且CF2(H)＜0
(CF1(H)十CF2(H))/(1-min{|CF1(H)|,|CF2(H)|})； 其他
13
4.2 确定性理论——CF模型
知识的不确定性
– 在MYCIN中的知识表示： IF El AND E2 AND．．．．．．AND En
பைடு நூலகம்THEN H(x) 其中Ei(i＝1，2，... ，n)是证据，H可以是一个或多个结论。具有 此规则形式的解释为当证据E1、E2、…、En都存在时，结论H具 有x大小的确定性因子CF(Certainty Factor)。即 x=CF(H, E1 AND E2 AND......AND En) x的具体值由领域专家主观地给出，x的取值范围为[-1，1]内。x＞ 0表示证据存在，增加结论为真的确定性程度，x越大结论越真，x ＝1表示证据存在结论为真。相反，x＜0表示证据存在，增加结论 为假的确定性程度，x越小结论越假，x＝-1表示证据存在结论为 假。x＝0时，则表示证据与结论无关。
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
相关性制 导回溯
机缘控制
启发式 搜索
4.3 概率方法
概率论基础（条件概率 ） • 定义：设A，B为事件且P(A)>0，称
P(B | A) P( AB) 为事件A已发生的条件下，事P件( AB)的条件概率，P(A)在
概率推理中称为边缘概率。 简称P(B|A)为给定A时B发生的概率。 P(AB)称为A与B的联合概率。有联合概率公式：
• 在上例中，如果 –P(咳嗽)=0.0001 | P(咳嗽|肺炎)=0.9999 | P(肺炎)不变 –则P(肺炎|咳嗽)=0.9999，远远超过原来的万分之九
P(H | E) [ P(E | H )]P(H ) P(E)
4.3 概率方法
2．多个证据的情况
对于有多个证据 E1, E2, , Em 和多个结论 H1, H2, , Hn 并且每个证据都以一定程度支持结论的情况，上面的 式子可进一步扩充为
假设P(肺炎)=1|1P(咳0嗽00|P肺(0咳炎，嗽))P而(肺炎P)( 咳0.90嗽0.1.000)1= 01.0|0019 0，90%的肺炎患 者都咳嗽， P(咳嗽|肺炎)=0.9, 则 P(肺炎|咳嗽)=
4.3 概率方法
修正因子(1)
• 可以将前面的逆概率公式写成 P(H | E) [ P(E | H )]P(H )
域专家根据以往的实践及经验给出。
（3）（LS，LN）为规则强度。其值由领域专家给出。LS，LN相 当于知识的静态强度。LS=P(E|H)|P(E|﹁H)
LN=P(﹁E|H)|P(﹁E|﹁H)
4.4 主观Bayes方法
4.4.1 知识不确定性的表示
• 引入概率的相对量度
[定义]几率函数：
O(H ) P(H ) P(H )
第四章 不确定性推理
本章内容
1 不确定性推理中的基本问题
2
不确定性推理方法分类
3
概率方法
4
主观Bayes方法
5
贝叶斯网
6 可信度方法、证据理论
4.1 不确定性推理中的基本问题
要实现对不确定性知识的处理，必须要解决不确
定知识的表示问题，不确定信息的计算问题，以及 不确定性表示和计算的语义解释问题。
它 是 MYCIN 专 家 系 统中使用的不确定 推理模型，它以确 定性理论为基础， 方法简单、易用。
它通过定义信任 函数、似然函数， 把知道和不知道 区别开来。
4.2 不确定性推理方法分类
2、控制方法 特点:通过识别领域中引起不确定性的某些特征及
相应的控制策略来限制或减少不确定性对系统产生的 影响，这类方法没有处理不确定性的统一模型，其效 果极大地依赖于控制策略。
2、模糊推理
4.2 不确定性推理方法分类
纯概率方法虽然有严密的理论依据，但它通常要求给出事件的先验 概率和条件概率，而这些数据又不易获得，因此其应用受到了限制。为 了解决这这个问题，人们在概率理论的基础上发展起来了一些新的方法 及理论:
1、主观Bayes方法 2、可信度方法
3、证据理论
它是PROSPECTOR专 家系统中使用的不 确定推理模型，是 对Bayes公式修正 后形成的一种不确 定推理方法。
后验概率，而要用杜达等人1976年证明了的公式 P(H / S) P(H / E) P(E / S) P(H / E) P(E / S) (4.4.5)
来计算。
4.4 主观Bayes方法
下面分四种情况讨论这个公式(4.4.5)： （1）当P(E|S)=1时，，此时式(4.4.5)变成
4.4 主观Bayes方法
4.4.3 不确定性的传递算法
• 主观Bayes推理过程是：根据证据E的概率P(E)， 利用规则的LS和LN，把结论的先验概率P(H)更新 为后验概率P(H|E)或P(¬H|E) ，因而也称为概率 传播。
4.4 主观Bayes方法
4.4.2 证据不确定性的表示
若以O(A) 或P(A)表示证据A的不确定性，则转换公式
是：
0
当A为假时
O(
A)
P( A) 1 P(A)
0,
当A为真时
当A介于真假之间时
4.4 主观Bayes方法
4.4.3 不确定性的传递算法
1．证据肯定存在的情况
在证据E 肯定存在时，把先验几率O(H)更新为后验 几率O(H|E)的计算公式为
O(H / E) LS O(H )
则该天为晴天的可能性是非晴天可能性的4.2倍 • 由几率定义、条件几率定义和条件概率公式可以推得后
验几率和先验几率的关系：
O(H | E) P(E | H ) O(H ) P(E | H )
则可得下述关系： O(H|E)=LS*O(H) O(H|﹁E)=LN*O(H)
4.4 主观Bayes方法
j 1
i＝1,2, ,n (4.3.2)
这就是说，当已知结论Hi 的先验概率，并且已知结论Hi(i=1,2,…）
成立时前提条件E 所对应的证据出现的条件概率P(E|Hi)，就可以用上
式求出相应证据出现时结论Hi 的条件概率P(Hi|E)。
4.3 概率方法
例子:
求P(肺炎|咳嗽)可能比较困难，但统计P(咳嗽|肺炎)可能 比较容易(因为要上医院)
数值方法 数值方法是对不确定性的一种定量表示和
处理方法。
非数值 方法
非数值方法是指出数值方法外的其他各种处 理不确定性的方法 ,它采用集合来描述和处 理不确定性，而且满足概率推理的性质。
4.2 不确定性推理方法分类
对于数值方法，按其依据的理论不同又可分为 以下两类：
分类
数值方法
1、基于概 率的方法
对于复合条件
E = E1 AND E2 AND … AND En
可以用条件概率P(H|E1,E2,…En)作为在证据出现时结论 的确定程度。
4.3 概率方法
4.3.2 Bayes定理
设 A, B1, B2, Bn 为一些事件，P(A) 0, B1, B2,
相交，P(Bi)>0，i=1,2,…,n，且 P (Bi 1)
P(E2 | H1) 0.7, P(E2 | H2 ) 0.9, P(E2 | H3) 0.1
求：P(H1|E1E2）， P(H2|E1E2）， P(H3|E1E2） 解：
P(H1 | E1E2 )
P(E1 | H1)P(E2 | H1)P(H1)
P(E1 | H1)P(E2 | H1)P(H1) P(E1 | H2 )P(E2 | H2 )P(H2 ) P(E1 | H3)P(E2 | H3)P(H3)
4.3 概率方法
4.3.3 逆概率方法的基本思想
1．单个证据的情况
如果用产生式规则
IF E THEN Hi
Байду номын сангаас
i ＝1, 2, , n
其中前提条件E 代替Bayes公式中B，用Hi 代替公式中的Ai 就可得到
P(Hi | E)
P(E | Hi )P(Hi )
n
P(E | H j )P(H j )
4.4.1 知识不确定性的表示 充分性因子
必要性因子
=1 >1 LS <1 =0 =1 LN >1 <1 =0
O(H|E)=LS*O(H), O(H|﹁E)=LN*O(H) 证据E的出现，对H没有影响 证据E支持H，E的存在对H为真是充分的 证据E不支持H 证据E的存在，使H为假 证据E的出现，对H没有影响 证据 E支持H， E的存在导致H为真 证据 E不支持H，E不存在，使H为真的可能性下降 证据 E的存在，使H为假
1．表示问题
1、知识不确定性的表示 2、证据的不确定性表示
2. 计算问题 3. 语义问题
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法
1、知识的不确定性度量 2、证据的不确定性度量
4.2 不确定性推理方法分类
1、模型方法 特点:把不确定的证据和不确定的知识分别与某
种度量标准对应起来，并且给出更新结论不确定性的 算法，从而构成了相应的不确定性推理的模型。
P(H ) 1 P(H )
称为H的几率函数或先验几率，取值范围[0,)
由此反过来有
P(H ) O(H ) 1 O(H )
[定义]条件几率：
O(H | E) P(H | E) P(H | E)
4.4 主观Bayes方法
4.4.1 知识不确定性的表示
• 后验几率和先验几率的关系： • 例子：O(晴天|冬天早晨有雾)=4.2，如果冬天早晨有雾，
0.45
同理可得： P(H2|E1E2）=0.52， P(H3|E1E2）=0.03
4.3 概率方法
4.3.4 逆概率方法的优缺点
逆概率公式的优点是它有较强的理论背景和良好 的数学特征，当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 Hi 的先验概率P(Hi) 及 证据 E j 的条件概率 P(Ej / Hi ) ，尽管有些时候 P(Ej / Hi ) 比 P(Hi / Ej )相对容易得到，但总的来说，要想得到这 些数据仍然是一件相当困难的工作。另外，Bayes公式 的应用条件是很严格的，它要求各事件互相独立等， 如若证据间存在依赖关系，就不能直接使用这个方法。
如果将上式换成概率，就可得到
(4.4.1)
P(H / E) LS P(H ) (LS 1) P(H ) 1
(4.4.2)
这是把先验概率P(H)更新为后验概率P(H|E)的计算公式。
4.4 主观Bayes方法
2．证据肯定不存在的情况
在证据E肯定不存在时，把先验几率O(H)更新为后验 几率O(H|﹁E)的计算公式为