不确定性推理

2018/4/30
24
华北电力大学
概率论基础（事件间的关系与运算 ）
两个事件A与B可能有以下几种特殊关系：
包含：若事件B发生则事件A也发生，称“A包含B”，或“B包 含于A”，记作A B或B A 等价：若A B且B A，即A与B同时发生或同时不发生，则 称A与B等价，记作A=B 互斥：若A与B不能同时发生，则称A与B互斥，记作AB=φ 对立：若 A 与 B 互斥，且必有一个发生，则称 A 与 B 对立，记 作A=～B或B=～A，又称A为B的余事件，或B为A的余事件
分配律： ( A B)C ( AC) ( BC) 摩根率：
~ ( Ai ) ~ Ai
i 1 i 1 n n
~ ( Ai ) ~ Ai
i 1 i 1
n
n
事件计算的优先顺序为：求余，交，差和并
2018/4/30 27 华北电力大学
概率论基础（概率定义 ）
2018/4/30
26
华北电力大学
概率论基础（运算的性质 ） 事件的运算有以下几种性质：
交换率： A B B A 结合律：
( AB)C A( BC) ( AB) C ( A C )(B C )
AB BA
( A B) C A ( B C )
2018/4/30
3
华北电力大学
第五章 不确定性推理方法
概述
概率论基础 确定性方法 主观Bayes方法
2018/4/30
ຫໍສະໝຸດ Baidu
4
华北电力大学
概述
不确定性推理的研究发展：
概率论是解决不确定性问题的主要理论基础之 一 贝叶斯网络方法受到多方面关注 DURA等人与1976年在PROSPECTOR基础上 给出了同属概率推理的主观贝叶斯方法 Shortliffe等人与1975年结合MYCIN系统建立了 确定性理论 Dempster Shaferter同年也提出了证据理论 Zadeh提出可能性理论，1983年提出了模糊逻 辑
2018/4/30
20
华北电力大学
第五章 不确定性推理方法
概述 概率论基础 确定性方法 主观Bayes方法
2018/4/30
21
华北电力大学
第五章 不确定性推理方法
概述
概率论基础
确定性方法
主观Bayes方法
2018/4/30
22
华北电力大学
概率论基础
概率论——研究随机现象中数量规律的科学 随机现象——在相同的条件下重复进行某种实验 时，所得实验结果不一定完全相同且不可预知的 现象。——掷硬币的实验 人工智能所讨论的不确定性现象，虽然不完全是 随机的过程，但是实践证明，采用概率论的思想 方法考虑能够得到较好的结果 概率论的基本概念和贝叶斯定……
2018/4/30
17
华北电力大学
概述-不确定性推理的基本问题
对证据的可信度度量 P(A) 关心的也是一些特 殊状态下的意义：
1）A为TRUE，P(A)＝？ 2）A为FALSE, P(A)＝？
T：True，F：False
2018/4/30
18
华北电力大学
概述-分类（1）
不确定性推理方法可分为形式化方法和非形式化方法 形式化方法有
2018/4/30
12
华北电力大学
概述-不确定性推理的基本问题
表示问题：
指用什么方法描述不确定性，是解决不确定 推理的关键一步 通常的方法有：
• 数值表示方法，如CH(A) • 非数值表示的语义表示方法，如“很可能”
2018/4/30
13
华北电力大学
概述-不确定性推理的基本问题
计算问题：
不确定性推理方法
华北电力大学 计算机系
主要内容


什么是不确定性推理？为什么要采取不确定 性推理？ 不确定性推理的理论依据是什么？不确定性 推理有哪几种主要方法？ CF方法的推理 主观Bayes方法的推理
2018/4/30
2
华北电力大学
第五章 不确定性推理方法
概述
概率论基础 确定性方法 主观Bayes方法
定义：设 Ω 为一个随机实验的样本空间，对 Ω 上的任意事件A，规定一个实数与之对应， 记为 P(A) ，满足以下三条基本性质，称为事 件A发生的概率： 1. 0 P( A) 1 2. P() 1 P( ) 0
3. 若二事件AB互斥，即AB=φ ，则 P( A B) P( A) P( B)
不确定性的表示与度量问题 不确定性的匹配问题 不确定性的传递算法问题 不确定性的合成问题
将不确定性问题用确定的数学公式表示出来， 是不确定性推理研究的基础
华北电力大学
2018/4/30
11
概述-不确定性推理的基本问题
3方面问题
表示问题：如何描述不确定性 计算问题：不确定性的传播和更新 语义问题：如何解释表示和计算的含义
2018/4/30
5
华北电力大学
概述
不确定性推理实际上是一种从不确定的初始证 据出发，通过运用不确定性知识，最终推出即 保持一定不确定性，又合理或基本合理的结论 的推理过程
2018/4/30
6
华北电力大学
概述——不确定性 不确定性的主要性质
随机性指由于不确定性推理所处理的事件的真实性是 不完全肯定的，含有一定的可能性，只能给出一个估 计值 模糊性主要指命题中出现的表达形式是不明确的 不完全性产生于信息的不充分、不全面 由于种种的不确定因素，及其在推理过程中的累计， 导致了一些结论的不一致性
2018/4/30 15 华北电力大学
推理树结果图
最下层的是初始证据经过一些“与”和“或”的组合，形成推理中的临时证据， 由这些临时证据推导出最终的结论 Ri所表示的是推理弧上所使用的规则，fi表示证据或规则的不确定度量值
2018/4/30 16 华北电力大学
概述-不确定性推理的基本问题
语义问题：将各个公式解释清楚 。如何解释表示和计 算的含义，目前多用概率方法。如： P(B，A)可理解为当前提A为真时结论B为真的一种 影响程度 P(A)可理解为A为真的程度 对于规则，特别关心P(B，A)的特殊值的意义： 1）A(T) →B(T), P(B，A)=? 2）A(T) →B(F), P(B，A)=? 3）B 独立于A，P(B，A)=?
不确定性的传播和更新。也是获取新信息的过程 如： 1. 已知证据A的不确定性度量P(A),规则A→B,规则的可信 度度量P(B，A)，如何计算结论的可信度度量P(B) 2. 从一个规则得到A的可信度度量P1(A)，又从另一个规 则得到A的另一个可信度度量 P2(A)，如何从两个规则 合成最终的可信度度量P(A) 3. 如何由P(A1)、 P(A2)来计算P(A1∧A2),P(A1∨A2)
非形式化方法是指启发性方法，对不确定性没有给出明确 的概念
2018/4/30
19
华北电力大学
概述-分类（2）
另外一种观点，把不确定推理方法分为工程方法、 控制方法和并行确定性法
工程法是将问题简化为忽略哪些不确定性因素 控制法是利用控制策略来消除不确定性的影响，如启发 式的搜索方法 并行确定性法是把不确定性的推理分解为两个相对独立 的过程：一个过程不计不确定性采用标准逻辑进行推理； 另一过程是对第一个过程的结论加以不确定性的度量。 前一过程决定信任什么，后一过程决定对它的信任程度
2018/4/30
29
华北电力大学
概率论基础（概率性质 ）
完备事件族与基本事件族有如下的性质： 定理：
若{An, n=1, 2, …}为一完备事件族，则 P( An ) 1 ，且对于一事件B有 P(B) P( An B)
2018/4/30
7
华北电力大学
概述——不确定性
在不确定性推理中，规则前件、后件以及规则本身在 某种程度上都是不确定的
证据的不确定性
• 歧义性：证据中含有多种意义明显不同的解释，如果离开具体 的上下文和环境，往往难以判断其明确含义 • 不完全性：对于某事物来说，对于它的知识还不全面、不完整、 不充分 • 不精确性：证据的观测值与真实值存在一定的差别 • 模糊性：命题中的词语从概念上讲不明确，无明确的内涵和外 延 • 可信性：专家主观上对证据可靠性不能完全确定 • 随机性：命题的事实的真假性不能完全肯定，而只能对其真伪 给出一个估计 • 不一致性：在推理过程中发生了前后不相容的结论，或者随着 时间的推移或范围的扩大，原来成立的命题变得不成立了
任意两个事件不一定会是上述几种关系中的一种
2018/4/30
25
华北电力大学
概率论基础（事件间的关系与运算 ）
设A，B，A1，A2，…An为一些事件，它们有下述的运算： 交：记 C=“A 与 B 同时发生”，称为事件 A 与 B 的交， C={ω|ω∈A且ω∈B}，记作C=A∩B或C=AB 并：记C=“A与B中至少有一个发生”，称为事件A与B 的并，C={ω|ω∈A或ω∈B}，记作C=A∪B 差：记C=“A发生而B不发生”，称为事件A与B的差， C={ω|ω∈A但ω∉ B}，记作或C=A\B或 C=A-B 求余：~A= Ω \A
2018/4/30
9
华北电力大学
概述——不确定性
推理的不确定性
由于知识不确定性的动态累计和传播过程所造成的 寻找尽可能符合客观世界的计算，最终得到结论的 不确定性度量
2018/4/30
10
华北电力大学
概述-不确定性推理的基本问题
在不确定性推理中，除了解决在确定性推理过 程中所提到的推理方向、推理方法、控制策略 等基本问题外，一般还需要解决
2018/4/30 8 华北电力大学
概述——不确定性
规则一般是经验知识，存在着不确定性因素
证据的组合的不确定性：一些规则有若干证据作为前提条件， 或几个证据都可以激活某一规则。此时，组合起来的证据到底 有多大程度符合前提条件，其中包含某些不确定的主观度量 规则自身的不确定性：有时领域专家对规则持有某种信任程度， 即专家有时也没有十足把握某种前提下得到结果必为真的结论， 只能给出一个发生可能性及可能性的度量 规则结论的不确定性：包含各种不确定性的前提条件，运用不 确定的规则，引出的结论或动作不可避免的含有不确定性因素 从系统高层看，规则的不确定性还源于各个规则之间的冲突， 来源于单个规则、规则间的冲突消解和规则后件的不相容
2018/4/30
14
华北电力大学
不确定性推理例子
初始命题的不确定性度量的获得也是非常重 要的，一般由领域内的专家从经验得出 推理过程可以用推理树直观的表示出来。例 如，对于如下的推理过程：
R1：A1∧A2→B1 R2：A2∨A3→B2 R3：B1→B R4：B2→B
用推理树可以表示如下：
2018/4/30
23
华北电力大学
概率论基础（基本定义）
随机实验：随机实验是一个可观察结果的人工或自 然的过程，其产生的结果可能不止一个，且不能事 先确定会产生什么结果 样本空间：样本空间是一个随机实验的全部可能出 现的结果的集合，通常记作Ω ，Ω 中的点（即一个 可能出现的实验结果）称为样本点，通常记作ω 随机事件：随机事件是一个随机实验的一些可能结 果的集合，是样本空间的一个子集。常用大写字母 A,B,C,…表示

以上三条基本规定是符合常识的
2018/4/30
28
华北电力大学
概率论基础（概率性质 ） 定义：
设{An, n=1, 2, …}为一组有限或可列无穷多 个事件，两两不相交，且 An ，则称事件 n 族{An, n=1, 2, …}为样本空间Ω的一个完备 事件族 又若对任意事件B有BAn=An或φ, n=1, 2, …， 则称{An, n=1, 2, …}为基本事件族
逻辑法：逻辑法是非数值方法，采用多值逻辑和非单调逻辑来处 理不确定性。传统的有基于概率理论的贝叶斯网络等 新计算法：新计算法认为概率法不足以描述不确定性，从而出现 了证据理论（也叫 Dempster －Shafter ， D-S 方法），确定性方 法（CF法）以及模糊逻辑方法 新概率法：试图在传统的概率论框架内，采用新的计算方法以适 应不确定性描述