第四章不确定性推理教程以及答案
合集下载
不确定性推理
理不确定性，而且满足概率推理的性质。
2021/5/15
14
不确定性推理方法分类
对于数值方法，按其依据的理论不同又可分为以下两类： 1、基于概率的方法：是基于概率论的有关理论发展起来的 方法，如可信度方法、主观Bayes方法、证据理论等； 2、模糊推理：是基于模糊逻辑理论发展起来的可能性理论 方法
2021/5/15
24
可信度方法---CF模型
CF是由称为信任增长度MB和不信任增长度MD 相减而来的。即
CF(H，E)＝MB(H，E)-MD(H，E)
1 MB(H,E) max(P(H E),P(H))P(H)
1P(H)
当P(H)=1 否则
1 MD(H,E) min(P(H E),P(H))P(H)
P(H)
2021/5/15
当P(H)=0 否则
25
可信度方法---CF模型
当MB(H，E)>0，表示由于证据E的出现增加了 对H的信任程度。当MD(H，E)>0，表示由于证 据E的出现增加了对H的不信任程度。由于对同 一个证据E，它不可能既增加对H的信任程度又 增 加 对 H 的 不 信 任 程 度 ， 因 此 ， MB(H,E) 与 MD(H,E)是互斥的，即
H 表示规则的结论部分，即假设 C F( H, E ) 表示规则的精确程度或可信度。 任何一个不确定性推理模型必须解决三个问题：
前提(证据，事实)的不确定性描述 规则(知识)的不确定性描述 不确定性的更新算法
2021/5/15
17
不确定性推理模型基本结构
证据的不确定性 C F( E ) ,表示证据E为真的程度。需 定义其在三种典型情况下的取值： E 为真 E 为假 对 E 一无所知 ( 该情况下的取值称为证据的单位元 e(E) )
2021/5/15
14
不确定性推理方法分类
对于数值方法，按其依据的理论不同又可分为以下两类： 1、基于概率的方法：是基于概率论的有关理论发展起来的 方法，如可信度方法、主观Bayes方法、证据理论等； 2、模糊推理：是基于模糊逻辑理论发展起来的可能性理论 方法
2021/5/15
24
可信度方法---CF模型
CF是由称为信任增长度MB和不信任增长度MD 相减而来的。即
CF(H，E)＝MB(H，E)-MD(H，E)
1 MB(H,E) max(P(H E),P(H))P(H)
1P(H)
当P(H)=1 否则
1 MD(H,E) min(P(H E),P(H))P(H)
P(H)
2021/5/15
当P(H)=0 否则
25
可信度方法---CF模型
当MB(H，E)>0，表示由于证据E的出现增加了 对H的信任程度。当MD(H，E)>0，表示由于证 据E的出现增加了对H的不信任程度。由于对同 一个证据E，它不可能既增加对H的信任程度又 增 加 对 H 的 不 信 任 程 度 ， 因 此 ， MB(H,E) 与 MD(H,E)是互斥的，即
H 表示规则的结论部分，即假设 C F( H, E ) 表示规则的精确程度或可信度。 任何一个不确定性推理模型必须解决三个问题：
前提(证据，事实)的不确定性描述 规则(知识)的不确定性描述 不确定性的更新算法
2021/5/15
17
不确定性推理模型基本结构
证据的不确定性 C F( E ) ,表示证据E为真的程度。需 定义其在三种典型情况下的取值： E 为真 E 为假 对 E 一无所知 ( 该情况下的取值称为证据的单位元 e(E) )
不确定性知识的表示与推理技术
由r1可得： CF1（H）=0.4×0.8=0.32
由r2可得： CF2（H）=0.8×0.9=0.72
从而 CF1,2（H）=0.32+0.72-0.32×0.72=0.8096
这就是最终求得的H的可信度。
2024/10/13
25
4.3主观贝叶斯方法（1）
简介 主观贝叶斯方法是R.O.Duda等人1976年提出的一种
表示因与前提条件E匹配的证据的出现，使结论H为真的不 信任增长度。MD定义为：
1
当P(H )＝0
MD(H ,
E)
min{P( H
| E), P(H P(H )
)}
P(H
)
否则
2024/10/13
15
4.2.1知识的不确定性表示（4）
由MB、MD得到CF(H,E)的计算公式：
1
当P(H )＝1
• LS 称为充分性量度，用于指出 E 对 H 的支持程度，取值范围 为 [ 0， ∞ ），其定义为： LS = P(E/H) P(E/H)
LS 的值由领域专家给出，具体情况在下面论述。
• LN 称为必要性量度，用于指出 E 对 H 的支持程度，取值范 围为 [ 0， ∞ ），其定义为：
P( E/H)
若由于相应证据的出现增加结论 H 为真的可信度，则使 CF(H,E)>0，证据的出现越是支持 H 为真，就使CF(H,E)的值越 大；
反之，使CF(H,E)<0，证据的出现越是支持 H 为假，就使CF(H,E) 的值越小；
若证据的出现与否与 H 无关，则使 CF(H,E)=0。
2024/10/13
若 CF1(H) 与 CF2(H) 异号
2024/10/13
由r2可得： CF2（H）=0.8×0.9=0.72
从而 CF1,2（H）=0.32+0.72-0.32×0.72=0.8096
这就是最终求得的H的可信度。
2024/10/13
25
4.3主观贝叶斯方法（1）
简介 主观贝叶斯方法是R.O.Duda等人1976年提出的一种
表示因与前提条件E匹配的证据的出现，使结论H为真的不 信任增长度。MD定义为：
1
当P(H )＝0
MD(H ,
E)
min{P( H
| E), P(H P(H )
)}
P(H
)
否则
2024/10/13
15
4.2.1知识的不确定性表示（4）
由MB、MD得到CF(H,E)的计算公式：
1
当P(H )＝1
• LS 称为充分性量度，用于指出 E 对 H 的支持程度，取值范围 为 [ 0， ∞ ），其定义为： LS = P(E/H) P(E/H)
LS 的值由领域专家给出，具体情况在下面论述。
• LN 称为必要性量度，用于指出 E 对 H 的支持程度，取值范 围为 [ 0， ∞ ），其定义为：
P( E/H)
若由于相应证据的出现增加结论 H 为真的可信度，则使 CF(H,E)>0，证据的出现越是支持 H 为真，就使CF(H,E)的值越 大；
反之，使CF(H,E)<0，证据的出现越是支持 H 为假，就使CF(H,E) 的值越小；
若证据的出现与否与 H 无关，则使 CF(H,E)=0。
2024/10/13
若 CF1(H) 与 CF2(H) 异号
2024/10/13
人工智能教程习题及答案第4章习题参考解答
第四章不确定性推理习题参考解答4.1 练习题4.1什么是不确定性推理？有哪几类不确定性推理方法？不确定性推理中需要解决的基本问题有哪些？4.2什么是可信度？由可信度因子CF(H，E)的定义说明它的含义。
4.3什么是信任增长度？什么是不信任增长度？根据定义说明它们的含义。
4.4当有多条证据支持一个结论时，什么情况下使用合成法求取结论的可信度？什么情况下使用更新法求取结论可信度？试说明这两种方法实际是一致的。
4.5设有如下一组推理规则：r1：IF E1THEN E2(0.6)r2：IF E2AND E3THEN E4 (0.8)r3：IF E4THEN H (0.7)r4：IF E5THEN H (0.9)且已知CF(E1)=0.5，CF(E3)=0.6，CF(E5)=0.4，结论H的初始可信度一无所知。
求CF(H)=？4.6已知：规则可信度为r1：IF E1THEN H1(0.7)r2：IF E2THEN H1(0.6)r3：IF E3THEN H1(0.4)r4：IF (H1 AND E4) THEN H2(0.2)证据可信度为CF(E1)=CF(E2)=CF(E3)=CF(E4)=CF(E5)=0.5H1的初始可信度一无所知，H2的初始可信度CF0(H2)=0.3计算结论H2的可信度CF(H2)。
4.7设有三个独立的结论H1，H2，H3及两个独立的证据E1与E2，它们的先验概率和条件概率分别为P(H1)=0.4，P(H2)=0.3，P(H3)=0.3P(E1/H1)=0.5，P(E1/H2)=0.6，P(E1/H3)=0.3P(E2/H1)=0.7，P(E2/H2)=0.9，P(E2/H3)=0.1利用基本Bayes方法分别求出：（1）当只有证据E1出现时，P(H1/E1)，P(H2/E1)，P(H3/E1)的值各为多少？这说明了什么？（2）当E1和E2同时出现时，P(H1/E1E2)，P(H2/E1E2)，P(H3/E1E2)的值各是多少？这说明了什么？4.8在主观Bayes方法中，请说明LS与LN的意义。
人工智能导论 第2版 第4章 不确定性推理
✓当P(E|S)=0时，证据肯定不存在。
✓当P(E|S)=P(E)时，证据E与观察S无关。由全概率公式得：
P(H|S)=P(H|E)×P(E)+P(H|¬E)×P(¬E)＝P(H)
✓当P(E|S)为其它值时，通过
计算P(H|S)
P(H/S) P(H/E)
P(H)
P(H/¬E)
0
P(E)
1 P(E/S)
23
逆概率法的特点
逆概率法在实际中有很多应用。
✓ 比如：把Hi (i=1,2,…,n)当作可能发生的疾病；把Ej ( j=1,2,…,n)当 作相应的症状；P(Hi)是从大量实践中得到的疾病Hi的先验概率； P(Ej|Hi)是疾病Hi发生时观察到症状Ej的条件概率。
➢逆概率法有较强的理论背景和良好的数学特性，当证据及 结论都彼此独立时计算的复杂度比较低。
1 2 n (H) (H)
(H )
36
主观Bayes方法推理示例(1)
☆例. 设有如下知识：
已知：Θ(H1)＝0.1， Θ(H2)＝0.01， C(E1|S1)=2, C(E2|S2)=1 求： Θ(H2|S1S2)=?
P(H1)=Θ(H1)/(1+Θ(H1))=0.09 P(H1|E1)=Θ(H1|E1)/(1+Θ(H1|E1))= LS1×Θ(H1)/(1+LS1×Θ(H1))=0.17 ∵C(E1|S1)=2>0 ∴P(H1|S1)=P(H1)+[P(H1|E1)-P(H1)]×1/5×C(E1|S1)
6
2. 不确定性推理的基本问题
• 设计一个不确定性匹配算法； • 指定一个匹配阈值。 • 在匹配时，一个简单条件对应于一个单一的证据，
人工智能第4章(不确定性推理方法)
28
例：容器里的球
现分别有 A，B 两个容器，在容器 A 里分别有 7 个红球和 3 个白球，在容器 B 里有 1 个红球和 9 个白球。
现已知从这两个容器里任意抽出了一个球，且是红球， 问：这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B，从容器 A 里抽出球为事件 A， 则有：P(B) = 8 / 20 P(A) = 1 / 2 P(B | A) = 7 / 10，
证据（前提）的不确定性表示 规则的不确定性表示 推理计算---结论的不确定性表示
11
证据的不确定性度量
单个证据的不确定性获取方法：两种 初始证据：由提供证据的用户直接指定，用可信度因子对 证据的不确定性进行表示。如证据 E 的可信度表示为 CF(E)。 如对它的所有观测都能肯定为真，则使CF(E)=1；如能肯定 为假，则使 CF(E)=-1 ；若它以某种程度为真，则使其取小 于1的正值，即0< CF(E)<1;若它以某种程度为假，则使其 取大于 -1 的负值，即-1< CF(E)<0; 若观测不能确定其真假， 此时可令CF(E)=0。
P (H | E) - P (H) , 当 P (H | E) P (H) 1 P (H) CF(H, E) P (H | E) - P (H) , 当P (H | E) P (H) P (H)
15
确定性方法
规则
规则的不确定性表示 证据（前提）的不确定性表示 推理计算—结论的不确定性表示
24
规则
(推理计算 4）
CF(E) < =0，
规则E H不可使用，即此计算不必进行。
0 < CF(E) <= 1，
例：容器里的球
现分别有 A，B 两个容器，在容器 A 里分别有 7 个红球和 3 个白球，在容器 B 里有 1 个红球和 9 个白球。
现已知从这两个容器里任意抽出了一个球，且是红球， 问：这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B，从容器 A 里抽出球为事件 A， 则有：P(B) = 8 / 20 P(A) = 1 / 2 P(B | A) = 7 / 10，
证据（前提）的不确定性表示 规则的不确定性表示 推理计算---结论的不确定性表示
11
证据的不确定性度量
单个证据的不确定性获取方法：两种 初始证据：由提供证据的用户直接指定，用可信度因子对 证据的不确定性进行表示。如证据 E 的可信度表示为 CF(E)。 如对它的所有观测都能肯定为真，则使CF(E)=1；如能肯定 为假，则使 CF(E)=-1 ；若它以某种程度为真，则使其取小 于1的正值，即0< CF(E)<1;若它以某种程度为假，则使其 取大于 -1 的负值，即-1< CF(E)<0; 若观测不能确定其真假， 此时可令CF(E)=0。
P (H | E) - P (H) , 当 P (H | E) P (H) 1 P (H) CF(H, E) P (H | E) - P (H) , 当P (H | E) P (H) P (H)
15
确定性方法
规则
规则的不确定性表示 证据（前提）的不确定性表示 推理计算—结论的不确定性表示
24
规则
(推理计算 4）
CF(E) < =0，
规则E H不可使用，即此计算不必进行。
0 < CF(E) <= 1，
第4章 不确定性推理方法(导论)
2643证据理论431概率分配函数432信任函数433似然函数434概率分配函数的正交和证据的组合435基于证据理论的不确定性推理27431概率分配函数是变量x所有可能取值的集合且d中的元素是互斥的在任一时刻x都取且只能取d中的某一个在证据理论中d的任何一个子集a都对应于一个关于x的命题称该命题为x或者是红色或者是蓝色
条件与结论的联系强度 。
IF 头痛 AND 流涕 THEN 感冒 （0.7）
13
4.2 可信度方法
1. 知识不确定性的表示
▪ CF（H，E）的取值范围: [-1,1]。 ▪ 若由于相应证据的出现增加结论 H 为真的可信度， 则 CF（H，E）> 0，证据的出现越是支持 H 为真， 就使CF（H，E) 的值越大。 ▪ 反之，CF（H，E）< 0，证据的出现越是支持 H 为 假，CF（H，E）的值就越小。 ▪ 若证据的出现与否与 H 无关，则 CF（H，E）= 0。
0.28 0.48 0.280.48 0.63
CF1,2,3
(H
)
1
CF1,2 (H ) min{| CF1,2 (
CF3 (H ) H ) |,| CF3 (H
)
|}
0.63 0.27 1 min{0.63,0.27}
Байду номын сангаас
0.36 0.73
0.49
综合可信度：CF(H) 0.49
求：CF(H )
21
4.2 可信度方法
解：
第一步：对每一条规则求出CF（H）。
r: 4
CF (E1 ) 0.7 max{ 0, CF[E4 AND (E5 OR
E6 )]}
0.7 max{ 0, min{ CF (E4 ), CF (E5 OR E6 )}} 0.7 max{ 0, min{CF (E4 ), max{ CF (E5 ), CF (E6 )}}}
条件与结论的联系强度 。
IF 头痛 AND 流涕 THEN 感冒 （0.7）
13
4.2 可信度方法
1. 知识不确定性的表示
▪ CF（H，E）的取值范围: [-1,1]。 ▪ 若由于相应证据的出现增加结论 H 为真的可信度， 则 CF（H，E）> 0，证据的出现越是支持 H 为真， 就使CF（H，E) 的值越大。 ▪ 反之，CF（H，E）< 0，证据的出现越是支持 H 为 假，CF（H，E）的值就越小。 ▪ 若证据的出现与否与 H 无关，则 CF（H，E）= 0。
0.28 0.48 0.280.48 0.63
CF1,2,3
(H
)
1
CF1,2 (H ) min{| CF1,2 (
CF3 (H ) H ) |,| CF3 (H
)
|}
0.63 0.27 1 min{0.63,0.27}
Байду номын сангаас
0.36 0.73
0.49
综合可信度：CF(H) 0.49
求：CF(H )
21
4.2 可信度方法
解：
第一步：对每一条规则求出CF（H）。
r: 4
CF (E1 ) 0.7 max{ 0, CF[E4 AND (E5 OR
E6 )]}
0.7 max{ 0, min{ CF (E4 ), CF (E5 OR E6 )}} 0.7 max{ 0, min{CF (E4 ), max{ CF (E5 ), CF (E6 )}}}
第4章不确定与非单调推理-Read
(2) 对R3： CF(B1∧A3) = min{0.9, 1} = 0.9 CF(B2) = 0.8 × max{0, CF(B1∧A3) } = 0.72
p 132-133 例4.2
l 带有阈值限度的不确定性推理 Ø 知识不确定性的表达 IF A THEN B (CF(B, A)，λ) （1）CF(B, A)∈(0, 1] 为规则的可信度因子 （2） λ ∈(0, 1]规定规则可应用的条件，只有 CF(A)≥ λ时，才能使用这条规则。 Ø 证据不确定性的表示 证据A的不确定性用可信度因子CF(A)表示， 其取值范围为[0，1]。
Ø 组合证据不确定性的算法 CF(A1∧A2) = min{CF(A1), CF(A2)} CF(A1∨A2) = max{CF(A1), CF(A2)} CF(~A) = - CF(A)
Ø 推理计算 (1) 已知CF(A)， A→B，CF(B，A)，求CF(B) CF(B) = CF(B, A) × max{0, CF(A)} (2) 由规则A1→B求得CF(B)，又使用规则A2→B 时，如何更新CF(B)。 即已知CF(A1)，CF(A2)，及CF(B, A1)， CF(B, A2)来寻求CF(B)。
Ø 逆概率方法 症状A，可能的疾病B1，B2，…，Bn IF A THEN Bi，i = 1,2,…n
要求Bi之间相互独立， i = 1,2,…n 。 计算可能是比较困难的。
l可信度方法（确定性方法）
以确定性因子或称可信度作为不确定性的度量。 Ø 可信度的概念 根据经验对一个事物或现象为真的相信程度， 称为可信度。 Ø C-F模型 ü 知识不确定性的表示 IF A THEN B (CF(B, A)) 可信度CF描述规则的不确定性。
Ø 证据的不确定性表示 也是用可信度因子表示的。 证据A，可信度因子 -1<=CF(A)<=1 A肯定为真时，CF(A) = 1 A肯定为假时，CF(A) = -1 对A一无所知时，CF(A) = 0 CF(A) > 0 表示A以CF(A)程度为真 CF(A) < 0表示A以-CF(A)程度为假 实际应用中，初始证据的CF值由专家主观给 定，其它证据的CF在推理中算出。
人工智能4不确定性推理
模糊集上的运算主要有：包含、交、并、补等等。
1. 包含运算
定义4.5 设A，B∈F(U)，若对任意u∈U，都有
μB(u)≤μA(u) 成立，则称A包含B，记为B A。 2. 交、并、补运算
定义4.6 设A，B∈F(U)，以下为扎德算子
A
B : A
B (u)
max{ uU
A
(u
),
B
(u)}
A (u) B (u)
3
模糊集的表示方法（1）
若论域离散且有限，则模糊集A可表示为：
也可写为：
A={μA(u1),μA(u2),…,μA(un)}
或者：
A=μA(u1)/u1+μA(u2)/u2+…+μA(un)/un
n
n
A (u ) / u , 或者A (u ) / u
Ai
i
Ai
i
i 1
i 1
A={μA(u1)/u1,μA(u2)/u2,…,μA(un)/un} A={(μA(u1),u1),(μA(u2),u2),…,(μA(un),un)} 隶属度为0的元素可以不写。
(A, B) 1 [1 (1 0.2)] 0.9 2
即A和B两个模糊集之间的匹配度为0.9。
21
语义距离
如果论域U上两个模糊集A和B的语义距离为d(A,B)，则其匹配度为 1-d(A,B)。
曼哈顿距离（Manhattan Distance）或者海明距离（Hamming
Distance）
d (A, B)
A
•
B
{
U
A
(ui
)
B
(ui
)}
A⊙
B
{
人工智能原理及应用第4章 不确定性推理方法
4.2 概率推理
4.2.1 概率的基本性质和计算公式
4.2.1.2 事件间的关系 两个事件A与B可能有以下几种特殊关系： 并事件：对两个事件A与B，如果事件表达的是“事件A与事件B至 少有一个发生”，则称该事件为A与B的并事件，记为AUB。可见， 并事件是由A与B的所有样本点共同构成的事件。 交事件：如果事件表达的是“事件A与事件B同时发生”，则称该 事件为A与B的交事件，记为A∩B。可见，交事件是由既属于A又属 于B的所有样本点构成的事件。 互斥关系：若A与 B不能同时发生，则称A与B互斥，记作AB= Ø 对立关系：若A与B互斥，且必有一个发生，则称A与B对立，又称 A为B的余事件，或B为A的余事件。
并：记C=“A与B中至少有一个发生”，称为事件A与B的并，记
作 C { ห้องสมุดไป่ตู้ A 或 B} 。
差：记C=“A发生而B不发生”，称为事件A与B的差。
求余： ~ A \ A
4.2 概率推理
4.2.1 概率的基本性质和计算公式
4.1.2.3 事件的概率 定义4.5 设Ω为一个随机实验的样本空间，对Ω上的任意事件A，规定 一个实数与之对应且满足以下三条基本性质，记为P(A)，称为事件A 发生的概率：
知识
图4-1 不确定性推理
4.1 不确定推理概述
4.1.1 不确定推理的概念
采用不确定性推理是客观问题的需求，其原因包括以下几个方面： （1）所需知识不完备，不精确 （2）所需知识描述模糊 （3）多种原因导致同一结论 （4）解决方案不唯一
4.1 不确定推理概述
4.1.2不确定性推理的基本问题和方法分类
机缘控制
启发式搜索
图4-2 不确定性推理分类
概率方法 主观Bayes方法 可信度方法 证据理论
04不确定性推理
3
第四章 不确定性推理方法
4.1 概述
在人类的知识和思维行为中，精确性只是相对的，不精确性 才是绝对的。知识工程需要各种适应不同类的不精确性特点的不 精确性知识描述方法和推理方法。
由于以上某种或多种原因，人工智能系统常采用非标准意义 下的不确定性推理方法。
不确定性推理是指建立在不确定性知识和证据的基础上的推 理。它实际上是一种从不确定的初始证据出发，通过运用不确定 性知识，最终推出既保持一定程度的不确定性，又是合理和基本 合理的结论的推理过程。
6
第四章 不确定性推理方法
4.2 确定性方法
4.2.1 规则的不确定性度量
CF(B, A)的特殊值：
CF(B, A) = 1， 前提真，结论必真
CF(B, A) = -1， 前提真，结论必假
CF(B, A) = 0 ， 前提真假与结论无关
实际应用中CF(B, A)的值由专家确定，并不是由P(B|A), P(B)
1．知识不确定性的表示 2．证据不确定性的表示 3．组合证据不确定性的算法 4．不确定性的传递算法 5．结论不确定性的合成算法
第四章 不确定性推理方法
4.2 确定性方法
4.2.1 规则的不确定性度量 规则以A→B表示，其中前提A可以是一些命题的合取或析取。
MYCIN系统引入可信度CF作为规则不确定性度量。 在不确定推理过程中，通常要考 虑的是A为真时对B为真的支持 程度，甚至还考 虑A为假(不发生)时对B为真的支持程度。
2
第四章 不确定性推理方法
4.1 概述
由于知识本身的不精确和不完全，采用标准逻辑意义下的推 理方法难以达到解决问题的目的。对于一个智能系统来说，知识 库是其核心。在这个知识库中，往往大量包含模糊性、随机性、 不可靠性或不知道等不确定性因素的知识。为了解决这种条件下 的推理计算问题，不确定性推理方法应运而生。
第四章 不确定性推理方法
4.1 概述
在人类的知识和思维行为中，精确性只是相对的，不精确性 才是绝对的。知识工程需要各种适应不同类的不精确性特点的不 精确性知识描述方法和推理方法。
由于以上某种或多种原因，人工智能系统常采用非标准意义 下的不确定性推理方法。
不确定性推理是指建立在不确定性知识和证据的基础上的推 理。它实际上是一种从不确定的初始证据出发，通过运用不确定 性知识，最终推出既保持一定程度的不确定性，又是合理和基本 合理的结论的推理过程。
6
第四章 不确定性推理方法
4.2 确定性方法
4.2.1 规则的不确定性度量
CF(B, A)的特殊值：
CF(B, A) = 1， 前提真，结论必真
CF(B, A) = -1， 前提真，结论必假
CF(B, A) = 0 ， 前提真假与结论无关
实际应用中CF(B, A)的值由专家确定，并不是由P(B|A), P(B)
1．知识不确定性的表示 2．证据不确定性的表示 3．组合证据不确定性的算法 4．不确定性的传递算法 5．结论不确定性的合成算法
第四章 不确定性推理方法
4.2 确定性方法
4.2.1 规则的不确定性度量 规则以A→B表示，其中前提A可以是一些命题的合取或析取。
MYCIN系统引入可信度CF作为规则不确定性度量。 在不确定推理过程中，通常要考 虑的是A为真时对B为真的支持 程度，甚至还考 虑A为假(不发生)时对B为真的支持程度。
2
第四章 不确定性推理方法
4.1 概述
由于知识本身的不精确和不完全，采用标准逻辑意义下的推 理方法难以达到解决问题的目的。对于一个智能系统来说，知识 库是其核心。在这个知识库中，往往大量包含模糊性、随机性、 不可靠性或不知道等不确定性因素的知识。为了解决这种条件下 的推理计算问题，不确定性推理方法应运而生。
不确定推理方法(四)
P(H)表示 H 的先验概率；P(H/E)表示在前提条件 E 所对应的证据出 现的情况下，结论 H 的条件概率。
10
分析 1： 由 MB 与 MD 的定义可以看出，当 MB(H, E)>0 时，有 P(H/E)>P(H)，这说 明由于 E 所对应的证据出现增加了对 H 的信任程度。另外，当 MD(H, E)>0 时，有 P(H/E)<P(H)，这说明由于 E 所对应的证据出现增加了对 H 的不信 任程度。显然，一个证据不可能既增加对 H 的信任程度，又同时增加对 H 的不信任程度，因此 MB(H, E)与 MD(H, E)是互斥的。即 当 MB(H, E)>0 时，MD(H, E)=0。 当 MD(H, E)>0 时，MB(H, E)=0。 MB 和 MD 的值域为[0, 1]。 根据 CF(H, E)的定义及 MB(H, E)与 MD(H, E)的互斥性，可得到 CF(H,E) 的计算公式为：
按它所依据的理论不同分为： 基于概率的方法：所依据的理论是概率论； 模糊推理方法：所依据的理论是模糊理论。 （2）非数值的方法： （指除数值方法外的其它方法，如逻辑法）
说明：(1)纯概率方法有严密的理论体系；要求给出事件的先验概
率和条件概率（应用受到限制） (2)在概率论的基础上， 发展了一些新的处理不确定性方法： 可信度方法、主观 Bayes 方法、证据理论方法。
于观察本身的不确定性，由此所得的初始证据具有不确定性）（2）在推理过程中利用前面 ； 推理出的结论作为新的推理证据（由于在前面推理中，所使用的初始证据的不确定性，以及 在推理过程中所利用知识的不确定性，都导致了所推结果的不确定性） 。 证据不确定性的表示通常为一个数值； 初始证据的值一般由用户或专家给出； 用前面推 理出的结论作为新的推理证据，其值由推理中的不确定性传递算法计算得到。
人工智能-第四章-非经典推理
4.2 概率推理
第三章 搜索推理技术
4.2.1 概率论基础 1.样本空间与随机事件
（1）样本空间 在概率论中，把试验中每一个可能出现的结果称为试
验的一个样本点，由全体样本点构成的集合称为样本空 间。用D表示样本空间，d表示样本点。
如： D={d1，d2} （2）随机事件
在概率论中，把由样本点构成的集合称为随机事件。 对两个事件A与B，如果事件表达的是“事件A与事件B 至少有一个发生”，称该事件为A与B的并事件，记： AUB 如果事件表达的是“事件A与事件B同时发生”，称该 事件为A与B的交事件，记：A∩ B 如果事件A与B之间满足“A∩ B= Φ， AUB=D”，则称A
(2)条件概率 设A与B是某个随机试验中的两个事件，如果在事件
B发生的条件下考虑事件A发生的概率，就称它为事件 A的条件概率，记为P(A/B)。
定义：设A、B是两个事件，P(B)>0，称
P(A| B)P(AB) P(B)
为事件B已发生条件下，事件A发生的条件概率
3.全概率公式与Bayes公式
第三章 搜索推理技术
1P(H)
否则
MD(H,E)：不信任增长度，表示证据E的出现，对结论H
的不信任增长度。
M(H D,E) miP n(H {|E)1,P ,(H)} P(H)若P（H）=0
P(H)
否则
P（H）为H的先验概率，P（H|E）为H的条件概率
第三章 搜索推理技术
MB（H，E）>0表示因证据E的出现增加对结论H为真的信
➢必然事件D的概率P(D)=1，不可能事件Φ的概率
P(Φ)=0
➢对任一事件A，有
P( A)=1- P(A)
第三章 搜索推理技术
人工智能4 不确定性推理 人工智能课程 中国海洋大学
对于初始证据，其值由用户给出； 对推理所得证据，其值由推理中不确定性的传递算法通过计算得到。
3
• 不确定性的量度 对于不同的知识和不同的证据，其不确定性的程度一般是不相同的，需 要用不同的数据表示其不确定性的程度，同时还要事先规定它的取值范围。 例如，在专家系统 MYCIN 中，用可信度表示知识与证据的不确定性，取值 范围为 [-1， 1]。 在确定一种量度及其范围时，应注意以下几点： 1) 量度能充分表达相应知识及证据不确定性的程度。
1. 为什么要研究不确定性推理问题
• 现实世界的问题求解大部分是不良结构；
• 对不良结构的知识描述具有不确定性： 1) 问题证据的不确定性； 2) 专门知识的不确定性。
2. 什么是不确定性推理
不确定性推理是建立在非经典逻辑基础上的一种推理，它是对 不确定性知识的运用和处理。 不确定性推理就是从不确定性的初始证据出发，通过运用不确
定性的知识，最终推出具有一定程度的不确定性但却合理或者近 乎合理的结论的思维过程。
1
3. 不确定性推理中的基本问题
在不确定性推理中，知识和证据都具有某种程度的不确定性，
这就为推理机的设计与实现增加了复杂性和难度。它除了必须解
决推理方向、推理方法、控制策略等基本问题外，一般还需要解 决不确定性的表示和量度、不确定性匹配、不确定性的传递算法 以及不确定性的合成等重要问题。
16
(3) 有多个证据时
对于有多个证据E1, E2, …, Em和多个结论H1, …, H2, Hn，并且每个证据都以 一定的程度支持结论的情况，上面的式子可进一步扩充为： P(Hi/E1 E2…Em)=
P(E1/Hi ) P(E2 /Hi ) ...P(Em /Hi ) P(Hi )
第四章不确定性推理教程以及答案
P( H / S ) P( H / E ) LN P( H ) ( LN 1) P( H ) 1
这就是证据肯定不存在的情况。
4.4 主观Bayes方法
（3）当P(E/S)=P(E)时，表示E与S无关，利用全概率公式 将公式(4.4.5)变为
P( H / S）＝P( H / E ) P( E ) P( H / E ) P(E ) P( H )
1．表示问题
1、知识不确定性的表示 2、证据的不确定性表示
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法 1、知识的不确定性度量 2、证据的不确定性度量
2. 计算问题
3. 语义问题
4.2 不确定性推理方法分类
1、模型方法 特点:把不确定的证据和不确定的知识分别与某 种度量标准对应起来，并且给出更新结论不确定性的 算法，从而构成了相应的不确定性推理的模型。 数值方法
L/O/ቤተ መጻሕፍቲ ባይዱ/O
第四章
不确定性推理
本章内容
1 2 3 4 5 不确定性推理中的基本问题 不确定性推理方法分类 概率方法 主观Bayes方法
可信度方法
证据理论
6
4.1 不确定性推理中的基本问题
要实现对不确定性知识的处理，必须要解决不 确定知识的表示问题，不确定信息的计算问题，以 及不确定性表示和计算的语义解释问题。
（4）当P(E/S)为其它值时，通过分段线性插值就可得计 算P(H/S)的公式
P( H ) P( H / E ) P( H / E ) P( E / S ) P( E ) 当0 P( E / S ) P( E ) P( H / S ) P( H ) P( H / E ) P( H ) [ P( E / S ) P( E )] 当P( E ) P( E / S ) 1 1 P( E )
这就是证据肯定不存在的情况。
4.4 主观Bayes方法
（3）当P(E/S)=P(E)时，表示E与S无关，利用全概率公式 将公式(4.4.5)变为
P( H / S）＝P( H / E ) P( E ) P( H / E ) P(E ) P( H )
1．表示问题
1、知识不确定性的表示 2、证据的不确定性表示
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法 1、知识的不确定性度量 2、证据的不确定性度量
2. 计算问题
3. 语义问题
4.2 不确定性推理方法分类
1、模型方法 特点:把不确定的证据和不确定的知识分别与某 种度量标准对应起来，并且给出更新结论不确定性的 算法，从而构成了相应的不确定性推理的模型。 数值方法
L/O/ቤተ መጻሕፍቲ ባይዱ/O
第四章
不确定性推理
本章内容
1 2 3 4 5 不确定性推理中的基本问题 不确定性推理方法分类 概率方法 主观Bayes方法
可信度方法
证据理论
6
4.1 不确定性推理中的基本问题
要实现对不确定性知识的处理，必须要解决不 确定知识的表示问题，不确定信息的计算问题，以 及不确定性表示和计算的语义解释问题。
（4）当P(E/S)为其它值时，通过分段线性插值就可得计 算P(H/S)的公式
P( H ) P( H / E ) P( H / E ) P( E / S ) P( E ) 当0 P( E / S ) P( E ) P( H / S ) P( H ) P( H / E ) P( H ) [ P( E / S ) P( E )] 当P( E ) P( E / S ) 1 1 P( E )
第四章不确定性推理
– 在推理一级上扩展确定性推理。其特点是把不确定的 证据和不确定的知识分别与某种度量标准对应起来， 并且给出更新结论不确定的算法。这类方法与控制策 略一般无关，即无论用何种控制策略，推理的结果都 是唯一的。模型方法分为：
– 数值方法 • 按其所依据的理论又可分为：基于概率的方 法和基于模糊理论的模糊推理。 – 非数值方法
19
若A1,A2,…,An是彼此独立的事件， P( Ai ) P( B | Ai ) P( Ai | B) n , i 1, 2,..., n P( Aj ) P( B | Aj )
j 1
其中，P(Ai)是事件Ai的先验概率；P(B|Ai)是在事件Ai发生条 件下事件B的条件概率。 如果用产生式规则 IF E THEN Hi 中的前提条件E代替Bayes公式中的B，用Hi代替公式中的Ai ， 就可得到 P( H i ) P( E | H i ) P( H i | E ) n , i 1, 2,..., n 20 P( H j ) P( E | H j )
• P(¬ A)=1-P(A) • P(A∪B)=P(A)+P(B)-P(AB) • 如果 A B ，则P(A-B)=P(A)-P(B)
13
• 如果在事件B发生的条件下考虑事件A发生的概率， 就称它为事件A的条件概率，记为P(A|B)。 • 定义4.3 设A，B是两个事件，P(B)>0,则称
P( A | B) P( A B) P( B)
j 1
P ( H i | E1 E2 Em ) P ( H i ) P ( E1 | H i ) P ( E2 | H i ) P ( Em | H i )
P( H
j 1
n
– 数值方法 • 按其所依据的理论又可分为：基于概率的方 法和基于模糊理论的模糊推理。 – 非数值方法
19
若A1,A2,…,An是彼此独立的事件， P( Ai ) P( B | Ai ) P( Ai | B) n , i 1, 2,..., n P( Aj ) P( B | Aj )
j 1
其中，P(Ai)是事件Ai的先验概率；P(B|Ai)是在事件Ai发生条 件下事件B的条件概率。 如果用产生式规则 IF E THEN Hi 中的前提条件E代替Bayes公式中的B，用Hi代替公式中的Ai ， 就可得到 P( H i ) P( E | H i ) P( H i | E ) n , i 1, 2,..., n 20 P( H j ) P( E | H j )
• P(¬ A)=1-P(A) • P(A∪B)=P(A)+P(B)-P(AB) • 如果 A B ，则P(A-B)=P(A)-P(B)
13
• 如果在事件B发生的条件下考虑事件A发生的概率， 就称它为事件A的条件概率，记为P(A|B)。 • 定义4.3 设A，B是两个事件，P(B)>0,则称
P( A | B) P( A B) P( B)
j 1
P ( H i | E1 E2 Em ) P ( H i ) P ( E1 | H i ) P ( E2 | H i ) P ( Em | H i )
P( H
j 1
n
人工智能第四章不确定性推理
– 如制导回溯、启发式搜索等等
2016-1-22
史忠植 人工智能：不确定性推理
5
内容提要
4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结
2016-1-22
史忠植 人工智能：不确定性推理
6
知识的不确定性表示
• 产生式规则：
If E Then H (CF(H, E))
MB(H,E)= m-a--x-{-P--(-H--1-|-E-P-)-(,-H-P-)-(-H--)-}--–---P--(-H--)--- 否则
• MD的定义：
1
若P（H）=0
MD(H,E)= m-i-n---{-P--(-H---P|-E-(-)H-,-)P--(-H--)-}--–---P--(-H--)--- 否则
信度CF(H)
2016-1-22
史忠植 人工智能：不确定性推理
15
结论不确定性合成算法
• r1: if E1 then H (CF(H,E1))
r2: if E2 then H (CF(H,E2)) 求合成的CF(H)
(ห้องสมุดไป่ตู้)首先对每条知识求出CF(H)，即：
CF1(H)=CF(H,E1) max{0, CF(E1)} CF2(H)=CF(H,E2) max{0, CF(E2)}
• 已知C(A), AB f(B,A),如何计算C(B)
• 已知C1(A),又得到C2(A),如何确定C(A)
• 如何由C(A1),C(A2)计算C(A1A2), C(A1A2)
–语义问题: 指的是上述表示和计算的含义是
什么,如何进行解释.
2016-1-22
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
4.1 不确定性推理中的基本问题
要实现对不确定性知识的处理，必须要解决不 确定知识的表示问题，不确定信息的计算问题，以 及不确定性表示和计算的语义解释问题。
1．表示问题
1、知识不确定性的表示 2、证据的不确定性表示
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法 1、知识的不确定性度量 2、证据的不确定性度量
i
Si
O( H / S1 , S2 , Sn )
O( H / S n ) O( H / S1 ) O( H / S2 ) O( H ) O( H ) O( H ) O( H ) O( H / S1 , S2 , Sn ) P( H / S1 , S2, Sn ) 1 O( H / S1, S2 , , Sn )
4.4 主观Bayes方法
4.4.2 证据不确定性的表示
若以O(A) 或P(A)表示证据A的不确定性，则转换公式 是：
当A为假时 0 P( A) O( A) 当A为真时 1 P( A) 0, 当A介于真假之间时
4.4 主观Bayes方法
4.4.3 不确定性的遗传算法
（4）当P(E/S)为其它值时，通过分段线性插值就可得计 算P(H/S)的公式
P( H ) P( H / E ) P ( H / E ) P( E / S ) P( E ) 当0 P( E / S ) P( E ) P( H / S ) P( H ) P( H / E ) P( H ) [ P( E / S ) P( E )] 当P( E ) P( E / S ) 1 1 P( E )
这是把先验概率P(H)更新为后验概率P(H/﹁E)的计算公式。
4.4 主观Bayes方法
3．证据不确定的情况 在证据不确定的情况下，不能再用上面的公式计算 后验概率，而要用杜达等人1976年证明了的公式
P( H / S ) P( H / E) P( E / S ) P( H / E) P(E / S )
4.2 不确定性推理方法分类
2、控制方法 特点:通过识别领域中引起不确定性的某些特征及 相应的控制策略来限制或减少不确定性对系统产生的 影响，这类方法没有处理不确定性的统一模型，其效 果极大地依赖于控制策略。
相关性制 导回溯
机缘控制
启发式 搜索
4.3 概率方法
4.3.1 经典概率方法
设有如下产生式规则： IF E THEN H 其中，E为前提条件，H为结论，具有随机性。 根据概率论中条件概率的含义，我们可以用条件概率 表示上述产生式规则的不确定性程度，即表示为在证据 出现的条件下，结论H成立的确定性程度。 对于复合条件 E = E1 AND E2 AND … AND En 可以用条件概率作为在证据出现时结论的确定程度。
P( H i | E )
P( E | H i ) P( H i )
P( E | H
j 1
n
i＝1,2, ,n
(4.3.2)
j
) P( H j )
这就是说，当已知结论Hi 的先验概率，并且已知结论Hi(i=1,2,…） 成立时前提条件 E 所对应的证据出现的条件概率 P(E|Hi) ，就可以用上
4.3 概率方法
4.3.2 Bayes定理 设 A, B1 , B2 , Bn 为一些事件， P ( A) 0, B1 , B2 , Bn 互不 相交，P(Bi)>0，i=1,2,…,n，且 P ( Bi 1) 则对于
k 1, 2, n, 有，
i
P( Bk ) P( A | Bk ) P( Bk | A) P( Bi ) P( A | Bi )
1．证据肯定存在的情况 在证据E 肯定存在时，把先验几率O(H)更新为后验 几率O(H/E)的计算公式为
O( H / E ) LS O( H )
如果将上式换成概率，就可得到
LS P( H ) P( H / E ) ( LS 1) P( H ) 1
(4.4.1)
(4.4.2)
4.2 不确定性推理方法分类
对于数值方法，按其依据的理论不同又可分为 以下两类： 分类
数值方法
1、基于概 率的方法
2、模糊推理
4.2 不确定性推理方法分类
纯概率方法虽然有严密的理论依据，但它通常要求给出事件的先验 概率和条件概率，而这些数据又不易获得，因此其应用受到了限制。为 了解决这这个问题，人们在概率理论的基础上发展起来了一些新的方法 及理论:
这是把先验概率P(H)更新为后验概率P(H/E)的计算公式。
4.4 主观Bayes方法
2．证据肯定不存在的情况 在证据E肯定不存在时，把先验几率O(H)更新为后验 几率O(H/﹁E)的计算公式为
O( H / E ) LN O( H )
如果将上式换成概率，就可得到
(4.4.3)
LN P( H ) (4.4.4) P( H / E ) ( LN 1) P( H ) 1
时，有
P( B2 ) 0.01
由于 P(B1 / A) 0.03,1 ，所以在此区间插值。
P( B2 / A0.3822 0.03) 0.305105 1 0.03
4.4 主观Bayes方法
4.4.6 主观Bayes方法的主要优缺点
该公式称为EH公式或UED公式。
4.4 主观Bayes方法
4．组合证据的情况 （1）当组合证据是多个单一证据的合取时，即 E = E1 and E2 and … and En 时，如果已知 P(E1 / S ), P(E2 / S ),, P(En / S ), 则 P(E/S)=min{ P(E1 / S ), P(E2 / S ),, P(En / S ) } （2）当组合证据E是多个单一证据的析取时，即 E = E1 or E2 or … or En 时，如果已知 P(E1 / S ), P(E2 / S ),, P(En / S ) 则， P(E/S)=max{ P(E1 / S ), P(E2 / S ),, P(En / S ) } “非”运算用下式计算 P(E / S ) 1 P( E / S )
式求出相应证据出现时结论Hi
的条件概率P(Hi|E)。
4.3 概率方法
2．多个证据的情况 对于有多个证据 E1 , E2 ,, Em 和多个结论 H , H , , H 并且每个证据都以一定程度支持结论的情况，上面的 式子可进一步扩充为
1 2 n
P( H i / E1E2 Em )
P( E1 / H i ) P( E2 / H i ) P( Em / H i ) P( H i )
4.4 主观Bayes方法
4.4.4 结论不确定性的合成算法
若有n条知识都支持相同的结论，而且每条知识的 前提条件所对应的证据 E (i 1, 2,, n) 都有相应的观察 S i 与之对应，此时只要先对每条知识分别求出 O ( H / Si ) 然后就可运用下述公式求出 O( H / S1, S2 , Sn )
(4.4.5)
来计算。
4.4 主观Bayes方法
下面分四种情况讨论这个公式(4.4.5)： （1）当P(E/S)=1时，，此时式(4.4.5)变成
P( H / S ) P( H / E ) LS P( H ) ( LS 1) P( H ) 1
这就是证据肯定存在的情况。 （2）当P(E/S)=0时，，此时式(4.4.5)变成
主观Bayes方法的主要优点如下： （1）主观Bayes方法中的计算公式大多是在概率论的基 础上推导出来的，具有较坚实的理论基础。 （2）知识的静态强度LS及LN是由领域专家根据实验经验 给出的，这就避免了大量的数据统计工作。另外，它 既用LS指出了证据E对结论H的支持程度，又用LN指出 了E对H的必要性程度，这就比较全面地反映了证据与 结论间因果关系，符合现实世界中某些领域的实际情 况，使推出的结论有较准确的确定性。
i j
4.4 主观Bayes方法
4.4.1 知识不确定性的表示
在主观Bayes方法中，知识是用产生式规则表示的，具体 形式为
IF E THEN (LS，LN) H
(P(H))
其中 （ 1 ） E 是该知识的前提条件。它既可以是一个简单条件，也可 以是复合条件。 （2）H 是结论。P(H)是 H 的先验概率，它指出在没有任何证据 情况下的结论 H 为真的概率，即 H 的一般可能性。其值由领 域专家根据以往的实践及经验给出。 （ 3）（ LS，LN） 为规则强度。其值由领域专家给出。 LS， LN相 当于知识的静态强度。
P( E / H ) P( E
j 1 1 j
n
2
/ H j ) P ( Em / H j ) P ( H j )
(4.3.3)
4.3 概率方法
4.3.4 逆概率方法的优缺点 逆概率公式的优点是它有较强的理论背景和良好 的数学特征，当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 H i 的先验概率P ( H i ) 及 证据 E j 的条件概率 P( E j / H i ) ，尽管有些时候 P( E j / H i ) 比 P( H / E ) 相对容易得到，但总的来说，要想得到这 些数据仍然是一件相当困难的工作。另外，Bayes公式 的应用条件是很严格的，它要求各事件互相独立等， 如若证据间存在依赖关系，就不能直接使用这个方法。
i
(4.3.1)
Bayes公式容易由条件概率的定义、乘法公式和全 概率公式得到。在Bayes公式中，称为先验概率，而称 为后验概率，也就是条件概率。
4.3 概率方法
4.3.3 逆概率方法的基本思想 1．单个证据的情况
如果用产生式规则 IF E THEN Hi i ＝1, 2, , n 其中前提条件E 代替Bayes公式中B，用Hi 代替公式中的Ai 就可得到
要实现对不确定性知识的处理，必须要解决不 确定知识的表示问题，不确定信息的计算问题，以 及不确定性表示和计算的语义解释问题。
1．表示问题
1、知识不确定性的表示 2、证据的不确定性表示
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法 1、知识的不确定性度量 2、证据的不确定性度量
i
Si
O( H / S1 , S2 , Sn )
O( H / S n ) O( H / S1 ) O( H / S2 ) O( H ) O( H ) O( H ) O( H ) O( H / S1 , S2 , Sn ) P( H / S1 , S2, Sn ) 1 O( H / S1, S2 , , Sn )
4.4 主观Bayes方法
4.4.2 证据不确定性的表示
若以O(A) 或P(A)表示证据A的不确定性，则转换公式 是：
当A为假时 0 P( A) O( A) 当A为真时 1 P( A) 0, 当A介于真假之间时
4.4 主观Bayes方法
4.4.3 不确定性的遗传算法
（4）当P(E/S)为其它值时，通过分段线性插值就可得计 算P(H/S)的公式
P( H ) P( H / E ) P ( H / E ) P( E / S ) P( E ) 当0 P( E / S ) P( E ) P( H / S ) P( H ) P( H / E ) P( H ) [ P( E / S ) P( E )] 当P( E ) P( E / S ) 1 1 P( E )
这是把先验概率P(H)更新为后验概率P(H/﹁E)的计算公式。
4.4 主观Bayes方法
3．证据不确定的情况 在证据不确定的情况下，不能再用上面的公式计算 后验概率，而要用杜达等人1976年证明了的公式
P( H / S ) P( H / E) P( E / S ) P( H / E) P(E / S )
4.2 不确定性推理方法分类
2、控制方法 特点:通过识别领域中引起不确定性的某些特征及 相应的控制策略来限制或减少不确定性对系统产生的 影响，这类方法没有处理不确定性的统一模型，其效 果极大地依赖于控制策略。
相关性制 导回溯
机缘控制
启发式 搜索
4.3 概率方法
4.3.1 经典概率方法
设有如下产生式规则： IF E THEN H 其中，E为前提条件，H为结论，具有随机性。 根据概率论中条件概率的含义，我们可以用条件概率 表示上述产生式规则的不确定性程度，即表示为在证据 出现的条件下，结论H成立的确定性程度。 对于复合条件 E = E1 AND E2 AND … AND En 可以用条件概率作为在证据出现时结论的确定程度。
P( H i | E )
P( E | H i ) P( H i )
P( E | H
j 1
n
i＝1,2, ,n
(4.3.2)
j
) P( H j )
这就是说，当已知结论Hi 的先验概率，并且已知结论Hi(i=1,2,…） 成立时前提条件 E 所对应的证据出现的条件概率 P(E|Hi) ，就可以用上
4.3 概率方法
4.3.2 Bayes定理 设 A, B1 , B2 , Bn 为一些事件， P ( A) 0, B1 , B2 , Bn 互不 相交，P(Bi)>0，i=1,2,…,n，且 P ( Bi 1) 则对于
k 1, 2, n, 有，
i
P( Bk ) P( A | Bk ) P( Bk | A) P( Bi ) P( A | Bi )
1．证据肯定存在的情况 在证据E 肯定存在时，把先验几率O(H)更新为后验 几率O(H/E)的计算公式为
O( H / E ) LS O( H )
如果将上式换成概率，就可得到
LS P( H ) P( H / E ) ( LS 1) P( H ) 1
(4.4.1)
(4.4.2)
4.2 不确定性推理方法分类
对于数值方法，按其依据的理论不同又可分为 以下两类： 分类
数值方法
1、基于概 率的方法
2、模糊推理
4.2 不确定性推理方法分类
纯概率方法虽然有严密的理论依据，但它通常要求给出事件的先验 概率和条件概率，而这些数据又不易获得，因此其应用受到了限制。为 了解决这这个问题，人们在概率理论的基础上发展起来了一些新的方法 及理论:
这是把先验概率P(H)更新为后验概率P(H/E)的计算公式。
4.4 主观Bayes方法
2．证据肯定不存在的情况 在证据E肯定不存在时，把先验几率O(H)更新为后验 几率O(H/﹁E)的计算公式为
O( H / E ) LN O( H )
如果将上式换成概率，就可得到
(4.4.3)
LN P( H ) (4.4.4) P( H / E ) ( LN 1) P( H ) 1
时，有
P( B2 ) 0.01
由于 P(B1 / A) 0.03,1 ，所以在此区间插值。
P( B2 / A0.3822 0.03) 0.305105 1 0.03
4.4 主观Bayes方法
4.4.6 主观Bayes方法的主要优缺点
该公式称为EH公式或UED公式。
4.4 主观Bayes方法
4．组合证据的情况 （1）当组合证据是多个单一证据的合取时，即 E = E1 and E2 and … and En 时，如果已知 P(E1 / S ), P(E2 / S ),, P(En / S ), 则 P(E/S)=min{ P(E1 / S ), P(E2 / S ),, P(En / S ) } （2）当组合证据E是多个单一证据的析取时，即 E = E1 or E2 or … or En 时，如果已知 P(E1 / S ), P(E2 / S ),, P(En / S ) 则， P(E/S)=max{ P(E1 / S ), P(E2 / S ),, P(En / S ) } “非”运算用下式计算 P(E / S ) 1 P( E / S )
式求出相应证据出现时结论Hi
的条件概率P(Hi|E)。
4.3 概率方法
2．多个证据的情况 对于有多个证据 E1 , E2 ,, Em 和多个结论 H , H , , H 并且每个证据都以一定程度支持结论的情况，上面的 式子可进一步扩充为
1 2 n
P( H i / E1E2 Em )
P( E1 / H i ) P( E2 / H i ) P( Em / H i ) P( H i )
4.4 主观Bayes方法
4.4.4 结论不确定性的合成算法
若有n条知识都支持相同的结论，而且每条知识的 前提条件所对应的证据 E (i 1, 2,, n) 都有相应的观察 S i 与之对应，此时只要先对每条知识分别求出 O ( H / Si ) 然后就可运用下述公式求出 O( H / S1, S2 , Sn )
(4.4.5)
来计算。
4.4 主观Bayes方法
下面分四种情况讨论这个公式(4.4.5)： （1）当P(E/S)=1时，，此时式(4.4.5)变成
P( H / S ) P( H / E ) LS P( H ) ( LS 1) P( H ) 1
这就是证据肯定存在的情况。 （2）当P(E/S)=0时，，此时式(4.4.5)变成
主观Bayes方法的主要优点如下： （1）主观Bayes方法中的计算公式大多是在概率论的基 础上推导出来的，具有较坚实的理论基础。 （2）知识的静态强度LS及LN是由领域专家根据实验经验 给出的，这就避免了大量的数据统计工作。另外，它 既用LS指出了证据E对结论H的支持程度，又用LN指出 了E对H的必要性程度，这就比较全面地反映了证据与 结论间因果关系，符合现实世界中某些领域的实际情 况，使推出的结论有较准确的确定性。
i j
4.4 主观Bayes方法
4.4.1 知识不确定性的表示
在主观Bayes方法中，知识是用产生式规则表示的，具体 形式为
IF E THEN (LS，LN) H
(P(H))
其中 （ 1 ） E 是该知识的前提条件。它既可以是一个简单条件，也可 以是复合条件。 （2）H 是结论。P(H)是 H 的先验概率，它指出在没有任何证据 情况下的结论 H 为真的概率，即 H 的一般可能性。其值由领 域专家根据以往的实践及经验给出。 （ 3）（ LS，LN） 为规则强度。其值由领域专家给出。 LS， LN相 当于知识的静态强度。
P( E / H ) P( E
j 1 1 j
n
2
/ H j ) P ( Em / H j ) P ( H j )
(4.3.3)
4.3 概率方法
4.3.4 逆概率方法的优缺点 逆概率公式的优点是它有较强的理论背景和良好 的数学特征，当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 H i 的先验概率P ( H i ) 及 证据 E j 的条件概率 P( E j / H i ) ，尽管有些时候 P( E j / H i ) 比 P( H / E ) 相对容易得到，但总的来说，要想得到这 些数据仍然是一件相当困难的工作。另外，Bayes公式 的应用条件是很严格的，它要求各事件互相独立等， 如若证据间存在依赖关系，就不能直接使用这个方法。
i
(4.3.1)
Bayes公式容易由条件概率的定义、乘法公式和全 概率公式得到。在Bayes公式中，称为先验概率，而称 为后验概率，也就是条件概率。
4.3 概率方法
4.3.3 逆概率方法的基本思想 1．单个证据的情况
如果用产生式规则 IF E THEN Hi i ＝1, 2, , n 其中前提条件E 代替Bayes公式中B，用Hi 代替公式中的Ai 就可得到