第4章 不确定性知识的表示与推理技术

问题：如果A可能为真，B比较真，知识ABC只在一定 程度上为真，结论如何？
2014-12-16
3
4.1不确定性知识表示与推理概述

通过几个例子认识不确定性：

今天有可能下雨 如果乌云密布并且电闪雷鸣，则很可能要下暴雨。 张三是个秃子 “秃子悖论”
2014-12-16
4
4.1不确定性知识表示与推理概述
控制方法 非数值方法 模型方法 数值方法 基于概率 模糊推理 纯概率 可信度方法 证据理论 主观Bayes 贝叶斯网络
对确定性推理从推理一级上扩展，建立关 于不确定性的表示、度量、计算、传 播、合成的标准与方法，构成相应的 不确定性推理模型。
2014-12-16
9
4.1.2 不确定性推理概述（2）
第4章 不确定性知识的表示与推理技术
2014-12-16
1
内容
4.1 不确定性知识表示与推理概述 4.2 确定性理论 4.3 主观贝叶斯方法 4.4 证据理论 4.5 基于贝叶斯网络的推理 4.6 模糊推理 4.7 不确定性推理的应用
2014-12-16
2
4.1不确定性知识表示与推理概述
一般的（确定性）推理过程： 运用已有的知识由已知事实推出结论. 如已知: 事实 A，B 知识 ABC 可以推出结论C。 此时，只要求事实与知识的前件进行匹配。
2014-12-16
25

在贝叶斯方法中，引入几率函数o(x) ，它与概率的关系 为:
O(x) =
P(x) 1－P(x)

几率函数与概率函数有相同的单调性，但取值为[0，]
2014-12-16
6
4.1.1 不确定性及其类型(2)
1.随机不确定性
随机不确定性是基于概率的一种衡量，即已知一个事件发生有多 个可能的结果。虽然在该事件发生之前，无法确定哪个结果会出现， 但是，可以预先知道每个结果发生的可能性。 例如：
“这场球赛甲队可能取胜” “如果头疼发烧，则大概是患了感冒。”
k 1, 2, n, 有，
i
P( Bk ) P( A | Bk ) P( Bk | A) P( Bi ) P( A | Bi )
i
(4.3.1)
Bayes公式容易由条件概率的定义、乘法公式和全 概率公式得到。在Bayes公式中， P(Bi)称为先验概率， 而P(Bi|A)称为后验概率，也就是条件概率。
假设P(肺炎)=1|10000，而P(咳嗽)=1|10，90%的肺炎患 者都咳嗽， P(咳嗽|肺炎)=0.9, 则 P(肺炎|咳嗽)= P(咳嗽 | 肺炎) P(肺炎) 0.9 0.0001 0.0009
P(咳嗽) 0.1
4.2 概率方法
修正因子(1)
•
可以将前面的逆概率公式写成
P( E | H ) P( H | E ) [ ]P ( H ) P( E )
对比一下不确定性推理与通常的确定性推理的差别： (1) 不确定性推理中规则的前件能否与证据事实匹配成功，不但要求 两者的符号模式能够匹配（合一），而且要求证据事实所含的信 度必须达“标”，即必须达到一定的限度。这个限度一般称为 “阈值”。
(2) 不确定性推理中一个规则的触发，不仅要求其前提能匹配成功， 而且前提条件的总信度还必须至少达到阈值。
(3) 不确定性推理中所推得的结论是否有效，也取决于其信度是否达 到阈值。
(4) 不确定性推理还要求有一套关于信度的计算方法，包括“与”关 系的信度计算、 “或”关系的信度计算、“非”关系的信度计 算和推理结果信度的计算等等。
2014-12-16
10
4.1.2 不确定性推理概述（2）
2.不确定性推理需要解决的问题 1）不确定性的表示与度量 证据的不确定性 规则（知识）的不确定性 结论的不确定性 2）不确定性的匹配算法 3）不确定性的计算与传播 组合证据的不确定性计算 最大最小方法 概率方法 有界方法 证据和知识的不确定性的传递 不同证据支持同一结论时其不确定性的合成 因此，不确定性推理的一般模式也可以简单地表示为： 不确定性推理=符号推演+不确定性计算
2.模糊不确定性
模糊不确定性就是一个命题中所出现的某些言词其涵义不够确切， 从概念角度讲，就是其代表的概念的内涵没有硬性的标准或条件，其 外延没有硬性的边界。 例如：
“小王是高个子。” “张三和李四是好朋友。”
把涵义不确切的言词所代表的概念称为软概念。
2014-12-16 7
4.1.1 不确定性及其类型(3)
i j
4.3主观贝叶斯方法（1）

简介 主观贝叶斯方法是R.O.Duda等人1976年提出的一种 不确定性推理模型，并成功地应用于地质勘探专家系统 PROSPECTOR。
其核心思想是： 根据：Ⅰ.证据的不确定性（概率）P(E); Ⅱ.规则的不确定性（LS，LN）； LS：E 的出现对 H 的支持程度， LN：E 的出现对 H 的不支持程度。 把结论 H 的先验概率更新为后验概率 P(H|E)；
4.1.1 不确定性及其类型 4.1.2 不确定性推理概述
2014-12-16
5
4.1.1 不确定性及其类型(1)
不确定性： 知识和信息中含有的不肯定、不可靠、不准确、不精 确、不严格、不严密、不完全甚至不一致的成分。 按性质、产生的原因及表现形式分类： 1. 随机不确定性 2. 模糊不确定性 3. 不完全性 4. 不一致性
Em )
P( E1 / H i ) P( E2 / H i )
P ( Em / H i ) P ( H i ) P ( Em / H j ) P ( H j )
(4.3.3)
P( E / H ) P( E
j 1 1 j
n
2
/ H j)
例

已知： P( H1 ) 0.4, P( H 2 ) 0.3, P( H 3 ) 0.3 P( E1 | H1 ) 0.5, P( E1 | H 2 ) 0.6, P( E1 | H 3 ) 0.3
3.不完全性
对某事物了解得不完全或认识不够完整、不充分。 如，刑侦过程的某些阶段往往要针对不完全的证据进行推理。
4.不一致性
随着时间或空间的推移，得到了前后不相容或不一致的结论。 如，人们对太空的认识等。
2014-12-16
8
4.1.2 不确定性推理（1）
1.不确定性推理方法的分类
通过识别领域内引起不确定性的某些特征 及相应的控制策略来限制或减少不确 定性对系统产生的影响。
2014-12-16
11
4.2 概率方法
概率论基础（条件概率 ） 定义：设A，B为事件且P(A)>0，称 P( AB) P( B | A) P( A) 为事件A已发生的条件下，事件B的条件概率，P(A) 在概率推理中称为边缘概率。 简称P(B|A)为给定A时B发生的概率。 P(AB)称为A与B的联合概率。有联合概率公式：
0.45
同理可得： P(H2|E1E2）=0.52， P(H3|E1E2）=0.03
4.2 概率方法
4.2.4 逆概率方法的优缺点 逆概率公式的优点是它有较强的理论背景和良好 的数学特征，当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 H i 的先验概率P ( H i ) 及 证据 E j 的条件概率 P( E j / H i ) ，尽管有些时候 P( E j / H i ) 比 P( H / E ) 相对容易得到，但总的来说，要想得到这 些数据仍然是一件相当困难的工作。另外，Bayes公式 的应用条件是很严格的，它要求各事件互相独立等， 如若证据间存在依赖关系，就不能直接使用这个方法。
•
•
这说明先验概率P(H)可以通过方括号部分 (作为修正因 子)修正为后验概率 P(H|E) (证据E为真时H的后验概率) 在上面的例子中，医生认为一个人得肺炎的可能性为 万分之一，一旦发现患者咳嗽，就将调整为万分之九
4.2 概率方法
修正因子(2)
•
•
将E看作证据，先验概率P(E)越小，且H为真时E的条件 概率P(E|H)越大，则修正因子所起作用越大 在上例中，如果 – P(咳嗽)=0.0001 | P(咳嗽|肺炎)=0.9999 | P(肺 炎)不变 – 则P(肺炎|咳嗽)=0.9999，远远超过原来的万分之九
j 1
n
i＝1,2, ,n
(4.3.2)
j
) P( H j )
这就是说，当已知结论Hi 的先验概率，并且已知结论Hi(i=1,2,…） 成立时前提条件 E 所对应的证据出现的条件概率 P(E|Hi) ，就可以用上
式求出相应证据出现时结论Hi
的条件概率P(Hi|E)。
4.2 概率方法
例子: 求P(肺炎|咳嗽)可能比较困难，但统计P(咳嗽|肺炎)可能 比较容易(因为要上医院)
P( E | H ) P( H | E ) [ ]P ( H ) P( E )
4.2 概率方法
2．多个证据的情况 对于有多个证据 E1 , E2 , , Em 和多个结论 H , H , , H 并且每个证据都以一定程度支持结论的情况，上面的 式子可进一步扩充为
1 2 n
P( H i / E1E2
E = E1 AND E2 AND … AND En
可以用条件概率 P(H|E1,E2,…En)作为在证据出现时结论 的确定程度。
4.2 概率方法
4.2.2 Bayes定理 设 A, B1 , B2 , Bn 为一些事件， P ( A) 0, B1 , B2 , Bn 互不 相交，P(Bi)>0，i=1,2,…,n，且 P ( Bi 1) 则对于
2014-12-16
22
4.3主观贝叶斯方法（2）
4.3.1 4.3.2 4.3.3 4.3.4 知识的不确定性表示 证据的不确定性表示 不确定性的传播与计算 主观贝叶斯方法的特点
2014-12-16
23
4.3.1 知识的不确定性表示（1）
知识是用规则表示的，具体形式为：
if 或： 其中 • E 是该条知识的前提条件，它既可以是一个简单条 件， 也可以是用and 、or 把多个条件连接起来的 复条件。 • H 是结论，P(H) 是 H 的先验概率，它指出在没有任 何专门证据的情况下，结论为真的概率，其值由领 域专家根据以往的实践及经验给出。
4.3 概率方法
4.2.3 逆概率方法的基本思想 1．单个证据的情况
如果用产生式规则 IF E THEN Hi i ＝1, 2, , n 其中前提条件E 代替Bayes公式中B，用Hi 代替公式中的Ai 就可得到
P( H i | E )
P( E | H i ) P( H i )
P( E | H
P( AB) P( B | A) P( A)
4.2 概率方法
4.2.1 经典概率方法
设有如下产生式规则： IF
E
THEN
H
其中，E为前提条件，H为结论，具有随机性。
根据概率论中条件概率的含义，我们可以用条件概 率 P(H|E) 表示上述产生式规则的不确定性程度，即表 示为在证据 E 出现的条件下，结论 H 成立的确定性程度。 对于复合条件
2014-12-16 24
E
wk.baidu.com
then
(LS, LN)
H
( P(H) )
4.3.1 知识的不确定性表示(2)
• LS 称为充分性量度，用于指出 E 对 H 的支持程度，取值范围 为 [ 0， ∞ ），其定义为：
LS = P(E|H) P(E|H)
LS 的值由领域专家给出，具体情况在下面论述。 • LN 称为必要性量度，用于指出 E 对 H 的支持程度，取值范 围为 [ 0， ∞ ），其定义为： P( E|H) 1 P(E|H) LN = P( E|H) = 1 P(E|H) LN 的值也由领域专家给出，具体情况在下面论述。 • LS, LN 相当于知识的静态强度。
P( E2 | H1 ) 0.7, P( E2 | H 2 ) 0.9, P( E2 | H 3 ) 0.1
求：P(H1|E1E2）， P(H2|E1E2）， P(H3|E1E2） 解：
P( H1 | E1E2 ) P( E1 | H1 ) P( E2 | H1 ) P( H1 ) P( E1 | H1 ) P( E2 | H1 ) P( H1 ) P( E1 | H 2 ) P( E2 | H 2 ) P( H 2 ) P( E1 | H 3 ) P( E2 | H 3 ) P( H 3 )