第四章 不确定推理

知识不确定性的表示
由上面的两个公式就可以总结出CF(H,E) 的公式：
证据的不确定性的表示
单个证据的不确定性表示
➢证据如果为初始证据，其可信度的值一般由 提供证据的用户直接指定，指定的方法也是 用可信度因子对证据的不确定性表示
➢用先前推出的结论作为当前推理的证据，对 于这种情况的证据，其可信度的值在退出该 结论是通过不确定性传递算法得到。
知识不确定性的表示
➢ 在专家系统MYCIN中，CF(H,E)被定义为： CF(H,E)=MB(H,E)-MD(H,E) ➢ 其中： ➢ MB(Measure Belif):称为信任增长度，它表示前提条
件E匹配的证据出现，使H为真的信任增长度 ➢ MD(Measure Disbelif):称为不信任度增长度，它表
结论的不确定性合成
若有n条知识都支持相同的结论，并且每 条知识的前提条件所对应的证据Ei都有 相应的观察Si，这时需要按照下面的式 子求得P(H/S1,…,Sn)
举例说明
为了进一步地熟悉主观Bayes方法，下 面给出一些例子说明
来自百度文库
证据理论
概述 数学基础 基于特定概率分配函数的不确定性推理
➢MB(H,E)与MD(H,E)是互斥的 ➢解释
当MD(H,E)>0时，应该有P(H/E)< P(H),那么有 MB(H,E)=0
当MB(H,E)>0时，则为P(H/E)> P(H),那么有 MD(H,E)=0
如果P(H/E)= P(H),则MD(H,E)= MD(H,E)=0表 示，E与H无关
证据的不确定性的表示
组合证据的不确定性获取方法
➢当多个证据以合取得方式构成一个组合证据 的时候，组合证据的可信度为这些单一证据 的可信度最小值；
➢当多个证据以析取得方式构成一个组合证据 的时候，组合证据的可信度为这些单一证据 的可信度最大值；
不确定性的推理计算
单条知识支持结论时，结论可信度的计 算方法
➢分类：数值方法、非数值方法
控制方法
不确定性推理中的基本问题
不确定性的表示
➢ 证据的不确定性表示
通过观察而得到的所要求解问题的初始证据不确定 推理过程中，利用前面推理出来的结论作为当前新
的推理证据
➢ 知识的不确定性表示
将领域问题的特征比较准确地描述出来，满足问题 求解的需要
便于在推理过程中对不确定性的推算
可信度概念
可信度：
➢人们在实际生活中根据自己的经验或者观察 后，对某一事件或者现象为真的相信程度。
➢可信度具有较大的主观性和经验性，相对来 讲准确性难以把握。
知识不确定性的表示
在基于可信度的不确定性推理模型中， 知识是以产生式规则来表示的，而只是 的不确定性则是以可信度CF(H,E)来表示 的，其一般的形式为：
第四章 不确定性推理
王醒策 信息科学与技术学院
不确定推理方法
概述 可信度方法 主观Bayes方法 证据理论
概述
不确定性推理的概念 不确定性推理的方法 不确定性推理中的基本问题
不确定性推理的概念
一个人工智能系统，由于知识本身的不精确和 不完全，采用标准逻辑意义下的推理方法难以 达到解决问题的目的。对于一个智能系统来说， 知识库是其核心。在这个知识库中，往往大量 包含模糊性、随机性、不可靠性或不知道等不 确定性因素的知识。为了解决这种条件下的推 理计算问题，不确定性推理方法应运而生。
不确定性推理中的基本问题
计算问题
➢不确定性的传递问题 ➢证据不确定性的合成问题 ➢结论不确定性的合成问题
不确定性推理中的基本问题
不确定性的量度
➢定义： 用一定的数值来表示知识、证据和结论的不 确定性程度时，这种数值的取值方法、意义 和相应的取值范围
不确定性推理中的基本问题
➢确定量度注意事项
在http://www.quiver.freeserve.co.uk/Dse.htm上 有免费的利用证据理论实现的程序Dempster Shafer Engine下载。有兴趣的同学可以安装这 一软件，看看运行效果。
主观Bayes方法及其推理网络
➢主观Bayes方法是由杜达（Duda）在1976年 提出的一种不确定推理模型，并在地矿探测 专家系统PROSEPCTOR中得到了成功的应 用
➢推理网络：为了进行不确定性推理，把所有 的知识规则连接成为一个有向图，图中的各 节点代表假设结论，弧则代表规则，并引入 两个数值（LS,LN）与每一条弧相连，用来 度量规则成立的充分性和必要性。
不确定性推理的概念
产生原因
➢ 很多原因导致同一结果 ➢ 推理所需的信息不完备 ➢ 背景知识不足 ➢ 信息描述模糊 ➢ 信息中含有噪声 ➢ 规划是模糊的 ➢ 推理能力不足 ➢ 解题方案不唯一 ➢ 不精确思维并非专家的习惯或爱好所至，而是客观现实的要
求
不确定性推理方法的分类
模型方法
➢定义：把不确定性的证据和不确定性的知识 分别与某种度量标准对应起来，并给出更新 结论不确定性的合适算法，从而构成相应的 不确定性推理模型
不确定性的推理计算
确定证据
➢预备知识 ➢证据肯定出现 ➢证据肯定不出现 ➢LS和LN的意义讨论
预备知识
为了解释方便，我们引入几率函数O(x)， 它与概率之间的关系为：
很显然，P(x)与O(x)具有相同的单调性， 只是相应的值域不同。
预备知识
➢由Bayes公式可得
➢同理有
预备知识
➢两个式子相除得 ➢由LS的定义和概率和几率的关系可得
证据肯定出现
➢当证据肯定出现的时候P(E)=P(E/S)=1 ➢肯定出现的时候，用下面的式子既可以把先
验几率O(H)更换为后验几率O(H/E)
➢如果我们把几率用概率替换即可得
预备知识
➢由Bayes公式可得
➢两式相除得
预备知识
➢根据LN的定义，以及概率与几率之间的关 系可得：
证据肯定不出现
➢在证据肯定不出现时P(E)=P(E/S)=0, P(~E)=1.
主观Bayes方法及其推理网络
➢推理网络把一些证据和重要的假设结论连接 起来。
➢图中的端节点或者是“叶子”节点是向用户 提问所获得的证据，其它的节点就是假设的 结论。
➢推理网络中的连接实际上就是测定一个结论 的概率变化是如何地影响了其他结论。
➢在推理网络中证据和结论是相对的。
知识的不确定性表示
在主观Bayes方法中，知识（规则）就是 推理网络中的一条弧，它的不确定性是 以一个数值对（LS,LN）来进行描述的。 若以产生是规则来表示则为：
量度要能充分表达相应知识及证据的不确定性 程度；
量度范围的指定应便于领域专家及用户对不确 定性的估计；
量度要便于不确定性的推理计算，而且所得到 的结论的不确定值应该落在不确定量度所规定 的范围之内；
量度的确定应当是直观的，同时应当有相应的 理论依据
可信度方法
可信度的概念 知识不确定性的表示 证据不确定性的表示 不确定性的推理计算 例题
➢利用单条知识支持结论共识，计算每一条知 识的结论可信度CF(H)
不确定性的推理计算
➢根据下面的公式，求出E1与E2对H的综合 影响形成的可信度CF(H)
可信度方法总结
可信度方法的宗旨不是理论上的严谨性， 而是处理实际问题的可用性。
不可以一成不变的应用与任何领域中的， 甚至也不能适用于所有的科学领域，推 广到一个新的领域时，必须根据要求加 以修正。
模型 证据理论例题
概述
证据理论由Dempster首先提出，并由他 的学生Shafer发展起来，也称D-S理论。
证据理论中引入了信任函数，它满足概 率论弱公理。
当概率值已知时，证据理论就成了概率 论。因此，概率论是证据理论的一个特 例，有时也称证据沦为广义概率论。
概述
http://yoda.cis.temple.edu:8080/UGAIWWW/lect ures/dempster.html上有关于Dempster－Shafer理 论的英文介绍。
➢那么用下式计算当E肯定不出现的情况下， 把先验几率O(H)更新为O(H/~E)
➢根据概率和几率的换算关系可得
对LS和LN的讨论
充分性度量LS的讨论
➢当LS>1时，可得O(H/E)>O(H) ➢当LS=1时，可得O(H/E)=O(H) ➢当LS<1时，可得O(H/E)<O(H) ➢当LS=0时，可得O(H/E)=0
示前提条件E匹配的证据出现，使结论H为真的不 信任增长度
知识不确定性的表示
➢这里P(H/E)表示前提E所对应的证据出现情 况下，结论H的条件概率
➢P(H)表示H得先验条件概率
知识不确定性的表示
➢这里P(H/E)表示前提E所对应的证据出现情 况下，结论H的条件概率
➢P(H)表示H得先验条件概率
知识不确定性的表示
➢如果支持结论的知识只有一条，且已知证据 E的可信度CF(E)和规则 IF E THEN H的可 信度为CF(H,E),则结论H的可信度计算公式 为：
不确定性的推理计算
多条知识支持同一结论时，结论不确定 性的合成计算方法
➢先考虑两条知识的情况，多条知识的时候可 以应用两两合成的方法实现
不确定性的推理计算
不确定性的推理计算
➢主观Bayes方法推理计算的任务就是根据证 据E的概率P(E)及影响知识的规则强度 (LS,LN)，把H的先验概率P(H)更新为后验 概率P(H/E)或者是P(H/~E)。
➢在推理网络中，一条知识对结论的影响是依 赖于证据的，证据出现的情况时不同时，推 理计算结论H信任程度的变化方法就不同。
知识不确定性的表示
其中要注意的有：
➢ E是知识的前提条件或者称为证据，它既可以是一 个简单的条件，也可以是用AND及OR把多个简单 条件连接起来所构成的符合条件；
➢ H是结论，它可以是一个单一的结论，也可以是多 个结论；
➢ CF(H,E)是该条知识的可信度，有的时候也成为可 信因子或者是规则强度。
不确定性证据
用概率表示证据的不确定性
➢上述针对确定性证据的后验概率将不再适用 而要使用下面的公式。
不确定性证据
➢ P(E/S)=1; P(H/S)=P(H/E)
➢ P(E/S)=0; P(H/S)=P(H/~E)
➢ P(E/S)=P(E); P(H/S)=P(H)
不确定性证据
利用这三个特殊点，使用分段插值公式 可得P(E/S)与P(H/S)的解析表达式
引入了可信度C(E/S)的概念。
证据的不确定性表示
➢给定了可信度C(E/S)，就等价于告知了 P(E/S)，二者有简单的保持大小次序对应的 关系
证据的不确定性表示
证据的不确定性表示
组合证据的不确定性表示
➢当证据E是由多个单一证据合取组合而成 ➢当证据E是由多个单一证据析取组合而成 ➢对于非运算
主观Bayes方法
基本的Bayes公式 主观 Bayes方法及其推理网络 知识的不确定性表示 证据的不确定性表示 不确定性的推理计算 结论的不确定性的合成 主观Bayes方法应用举例
基本的Bayes公式
P(Bi)是事件Bi的先验概率 P(A/Bi)是事件Bi发生的条件下事件A发生的条件概率 P(Bi/A)是事件A发生的条件下事件Bi发生的条件概率
可信度方法
MYCIN系统研制过程中采用的不确定性推理方法，第 一个采用了不确定性的推理逻辑，在70年代很有名。
提出方法时遵循的原则
➢ 不采用严格的统计理论，采用一种接近统计理论的近似 方法
➢ 用专家的经验估计代替统计数据 ➢ 尽量减少需要专家提供的经验数据，尽量使少量数据包
含更多信息 ➢ 新方法适用于证据为增量式增加的情况 ➢ 专家数据的轻微扰动不影响最终的推理结论。
对LS和LN的讨论
必要性度量LN的讨论
➢当LN>1时，可得O(H/~E)>O(H) ➢当LN=1时，可得O(H/ ~ E)=O(H) ➢当LN<1时，可得O(H/ ~ E)<O(H) ➢当LN=0时，可得O(H/ ~ E)=0
对LS和LN的讨论
为LS和LN赋值时的考虑
➢LS>1且LN<1 ➢LS=LN=1 ➢LS<1且LN>1
知识的不确定性表示
解释：
➢（LS,LN）是为度量产生式规则的不确定性 而引入的一组数值。
➢E是该条知识的前提条件。 ➢H是结论。P(H)是H的先验概率，由领域专
家的经验给出。
证据的不确定性表示
单个证据的不确定表示方法
➢在主观Bayes方法中，证据的不确定是用概 率来表示的。
➢E是证据，S是对证据的观察 ➢由于后验概率P(E/S)的给出比较困难，因此