第4章 不确定性知识的表示与推理技术

假设P(肺炎)=1|10000，而P(咳嗽)=1|10，90%的肺炎患
者都咳嗽， P(咳嗽|肺炎)=0.9, 则
P(肺炎|咳嗽)=
P(咳嗽
| 肺炎) P(肺炎) P(咳嗽)
0.9 0.0001 0.1
0.0009
4.2 概率方法
修正因子(1) • 可以将前面的逆概率公式写成 P(H | E) [ P(E | H )]P(H )
简称P(B|A)为给定A时B发生的概率。 P(AB)称为A与B的联合概率。有联合概率公式：
P(AB) P(B | A)P(A)
4.2 概率方法
4.2.1 经典概率方法
设有如下产生式规则：
IF E THEN H 其中，E为前提条件，H为结论，具有随机性。
根据概率论中条件概率的含义，我们可以用条件概 率P(H|E) 表示上述产生式规则的不确定性程度，即表
P(H|E) =
P(E|H)
P(H)
P(H|E) P(E| H) P(H)
③
2020/8/25
27
4.3.1 知识的不确定性表示(4)
使用几率函数，③ 式可以表示为: O(H|E)=LS×O(H)
对于上式，证据E肯定存在时，即P(E) = P(E|S) = 1，考虑P(H|E)。 由③ 式 及 “非”运算 ：P( H|E) = 1 – P(H|E) 、 P( H) = 1 –
H1, H2 , , Hn
并且每个证据都以一定程度支持结论的情况，上面的
式子可进一步扩充为
P(Hi / E1E2
Em )
P(E1 / Hi )P(E2 / Hi )
n
P(Em / H i )P(Hi )
P(E1 / H j )P(E2 / H(4j ).3.P3()Em / H j )P(H j )
2020/8/25
7
4.1.1 不确定性及其类型(3)
3.不完全性
对某事物了解得不完全或认识不够完整、不充分。 如，刑侦过程的某些阶段往往要针对不完全的证据进行推理。
4.不一致性
随着时间或空间的推移，得到了前后不相容或不一致的结论。 如，人们对太空的认识等。
2020/8/25
8
4.1.2 不确定性推理（1）
示为在证据E出现的条件下，结论H 成立的确定性程度。
对于复合条件
E = E1 AND E2 AND … AND En
可以用条件概率P(H|E1,E2,…En)作为在证据出现时结论 的确定程度。
4.2 概率方法
4.2.2 Bayes定理
设 A, B1, B2, Bn 为一些事件，P(A) 0, B1, B2,
4.2 概率方法
4.2.4 逆概率方法的优缺点
逆概率公式的优点是它有较强的理论背景和良好 的数学特征，当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 Hi 的先验概率P(Hi) 及 证据 E j 的条件概率 P(Ej / Hi ) ，尽管有些时候 P(Ej / Hi ) 比 P(Hi / Ej )相对容易得到，但总的来说，要想得到这 些数据仍然是一件相当困难的工作。另外，Bayes公式 的应用条件是很严格的，它要求各事件互相独立等， 如若证据间存在依赖关系，就不能直接使用这个方法。
或：
if E then (LS, LN) H ( P(H) )
其中 • E 是该条知识的前提条件，它既可以是一个简单条 件， 也可以是用and 、or 把多个条件连接起来的 复条件。
• H 是结论，P(H) 是 H 的先验概率，它指出在没有任
何专门证据的情况下，结论为真的概率，其值由领
域专家根据以往的实践及经验给出。
1.不确定性推理方法的分类
通过识别领域内引起不确定性的某些特征 及相应的控制策略来限制或减少不确 定性对系统产生的影响。
控制方法
非数值方法
模型方法
数值方法
对确定性推理从推理一级上扩展，建立关 于不确定性的表示、度量、计算、传 播、合成的标准与方法，构成相应的 不确定性推理模型。
模糊推理 基于概率
纯概率 贝叶斯网络 可信度方法 证据理论 主观Bayes
P( E|H)
1 P(E|H)
LN = P( E|H) = 1 P(E|H)
LN 的值也由领域专家给出，具体情况在下面论述。 • LS, LN 相当于知识的静态强度。
2020/8/25
25
在贝叶斯方法中，引入几率函数o(x) ，它与概率的关系 为:
P(x) O(x) = 1－P(x)
几率函数与概率函数有相同的单调性，但取值为[0，]
例如：
“这场球赛甲队可能取胜” “如果头疼发烧，则大概是患了感冒。”
2.模糊不确定性
模糊不确定性就是一个命题中所出现的某些言词其涵义不够确切， 从概念角度讲，就是其代表的概念的内涵没有硬性的标准或条件，其 外延没有硬性的边界。
例如：
“小王是高个子。” “张三和李四是好朋友。”
把涵义不确切的言词所代表的概念称为软概念。
j 1
例
已知： P(H1) 0.4, P(H2 ) 0.3, P(H3) 0.3 P(E1 | H1) 0.5, P(E1 | H2 ) 0.6, P(E1 | H3) 0.3 P(E2 | H1) 0.7, P(E2 | H2 ) 0.9, P(E2 | H3) 0.1
求：P(H1|E1E2）， P(H2|E1E2）， P(H3|E1E2） 解：
n
P(E | H j )P(H j )
j 1
这就是说，当已知结论Hi 的先验概率，并且已知结论Hi(i=1,2,…）
成立时前提条件E 所对应的证据出现的条件概率P(E|Hi)，就可以用上
式求出相应证据出现时结论Hi 的条件概率P(Hi|E)。
4.2 概率方法
例子:
求P(肺炎|咳嗽)可能比较困难，但统计P(咳嗽|肺炎)可能 比较容易(因为要上医院)
把结论 H 的先验概率更新为后验概率 P(H|E)；
2020/8/25
22
4.3主观贝叶斯方法（2）
4.3.1 知识的不确定性表示 4.3.2 证据的不确定性表示 4.3.3 不确定性的传播与计算 4.3.4 主观贝叶斯方法的特点
2020/8/25
23
4.3.1 知识的不确定性表示（1）
知识是用规则表示的，具体形式为：
1. 随机不确定性 2. 模糊不确定性 3. 不完全性 4. 不一致性
2020/8/25
6
4.1.1 不确定性及其类型(2)
1.随机不确定性
随机不确定性是基于概率的一种衡量，即已知一个事件发生有多 个可能的结果。虽然在该事件发生之前，无法确定哪个结果会出现， 但是，可以预先知道每个结果发生的可能性。
2020/8/25
4
4.1不确定性知识表示与推理概述
4.1.1 不确定性及其类型 4.1.2 不确定性推理概述
2020/8/25
5
4.1.1 不确定性及其类型(1)
不确定性： 知识和信息中含有的不肯定、不可靠、不准确、不精
确、不严格、不严密、不完全甚至不一致的成分。 按性质、产生的原因及表现形式分类：
而P(Bi|A)称为后验概率，也就是条件概率。
4.3 概率方法
4.2.3 逆概率方法的基本思想
1．单个证据的情况
如果用产生式规则
IF E THEN Hi
i ＝1, 2, , n
其中前提条件E 代替Bayes公式中B，用Hi 代替公式中的Ai 就可得到
P(Hi | E)
P(E i|＝H1i ),2P,(H,ni ) (4.3.2)
P(H1 | E1E2 )
P(E1 | H1)P(E2 | H1)P(H1)
P(E1 | H1)P(E2 | H1)P(H1) P(E1 | H2 )P(E2 | H2 )P(H2 ) P(E1 | H3)P(E2 | H3)P(H3)
0.45
同理可得： P(H2|E1E2）=0.52， P(H3|E1E2）=0.03
下面讨论LS、LN定义的由来
2020/8/25
26
4.3.1 知识的不确定性表示(3)
1) 对于LS:
由 Bayes 公式得：
P(H|E) = [P(E|H) P(H)] / P(E)
①
同理有：
P(H|E) =[ P(E| H) P(H)] / P(E)
②
①除以②，得：
O(H|E)
LS
O(H)
2020/8/25
24
4.3.1 知识的不确定性表示(2)
• LS 称为充分性量度，用于指出 E 对 H 的支持程度，取值范围 为 [ 0， ∞ ），其定义为： LS = P(E|H) P(E|H)
LS 的值由领域专家给出，具体情况在下面论述。
• LN 称为必要性量度，用于指出 E 对 H 的支持程度，取值范 围为 [ 0， ∞ ），其定义为：
• 在上例中，如果 – P(咳嗽)=0.0001 | P(咳嗽|肺炎)=0.9999 | P(肺 炎)不变 – 则P(肺炎|咳嗽)=0.9999，远远超过原来的万分之九
P(H | E) [ P(E | H )]P(H ) P(E)
4.2 概率方法
2．多个证据的情况
对于有多个证据 E1, E2和, 多, E个m 结论
2020/8/25
9
4.1.2 不确定性推理概述（2）
对比一下不确定性推理与通常的确定性推理的差别： (1) 不确定性推理中规则的前件能否与证据事实匹配成功，不但要求
两者的符号模式能够匹配（合一），而且要求证据事实所含的信 度必须达“标”，即必须达到一定的限度。这个限度一般称为 “阈值”。 (2) 不确定性推理中一个规则的触发，不仅要求其前提能匹配成功， 而且前提条件的总信度还必须至少达到阈值。 (3) 不确定性推理中所推得的结论是否有效，也取决于其信度是否达 到阈值。 (4) 不确定性推理还要求有一套关于信度的计算方法，包括“与”关 系的信度计算、 “或”关系的信度计算、“非”关系的信度计 算和推理结果信度的计算等等。
2020/8/25
10
4.1.2 不确定性推理概述（2）
2.不确定性推理需要解决的问题
1）不确定性的表示与度量 证据的不确定性 规则（知识）的不确定性 结论的不确定性
2）不确定性的匹配算法
3）不确定性的计算与传播
组合证据的不确定性计算
最大最小方法
概率方法
有界方法
证据和知识的不确定性的传递
第4章 不确/25
1
内容
4.1 不确定性知识表示与推理概述 4.2 确定性理论 4.3 主观贝叶斯方法 4.4 证据理论 4.5 基于贝叶斯网络的推理 4.6 模糊推理 4.7 不确定性推理的应用
2020/8/25
2
4.1不确定性知识表示与推理概述
一般的（确定性）推理过程： 运用已有的知识由已知事实推出结论. 如已知:
P(E)
• 这说明先验概率P(H)可以通过方括号部分(作为修正因 子)修正为后验概率P(H|E) (证据E为真时H的后验概率)
• 在上面的例子中，医生认为一个人得肺炎的可能性为 万分之一，一旦发现患者咳嗽，就将调整为万分之九
4.2 概率方法
修正因子(2)
• 将E看作证据，先验概率P(E)越小，且H为真时E的条件 概率P(E|H)越大，则修正因子所起作用越大
事实 A，B 知识 ABC 可以推出结论C。 此时，只要求事实与知识的前件进行匹配。
问题：如果A可能为真，B比较真，知识ABC只在一定 程度上为真，结论如何？
2020/8/25
3
4.1不确定性知识表示与推理概述
通过几个例子认识不确定性：
今天有可能下雨 如果乌云密布并且电闪雷鸣，则很可能要下暴雨。 张三是个秃子 “秃子悖论”
不同证据支持同一结论时其不确定性的合成
因此，不确定性推理的一般模式也可以简单地表示为：
不确定性推理=符号推演+不确定性计算
2020/8/25
11
4.2 概率方法
概率论基础（条件概率 ） 定义：设A，B为事件且P(A)>0，称
P(B | A) P( AB) P( A)
为事件A已发生的条件下，事件B的条件概率，P(A) 在概率推理中称为边缘概率。
4.3主观贝叶斯方法（1）
简介 主观贝叶斯方法是R.O.Duda等人1976年提出的一种
不确定性推理模型，并成功地应用于地质勘探专家系统 PROSPECTOR。
其核心思想是：
根据：Ⅰ.证据的不确定性（概率）P(E); Ⅱ.规则的不确定性（LS，LN）； LS：E 的出现对 H 的支持程度， LN：E 的出现对 H 的不支持程度。
相交，P(Bi)>0，i=1,2,…,n，且 P (Bi 1)
k 1,2, n, 有，
i
Bn 互不 则对于
P(Bk | A)
P(Bk )P( A | Bk ) P(Bi )P( A | Bi )
i
(4.3.1)
Bayes公式容易由条件概率的定义、乘法公式和全
概率公式得到。在Bayes公式中， P(Bi)称为先验概率，