人工智能不确定推理方法.ppt
合集下载
人工智能第4章(不确定性推理方法)
28
例：容器里的球
现分别有 A，B 两个容器，在容器 A 里分别有 7 个红球和 3 个白球，在容器 B 里有 1 个红球和 9 个白球。
现已知从这两个容器里任意抽出了一个球，且是红球， 问：这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B，从容器 A 里抽出球为事件 A， 则有：P(B) = 8 / 20 P(A) = 1 / 2 P(B | A) = 7 / 10，
证据（前提）的不确定性表示 规则的不确定性表示 推理计算---结论的不确定性表示
11
证据的不确定性度量
单个证据的不确定性获取方法：两种 初始证据：由提供证据的用户直接指定，用可信度因子对 证据的不确定性进行表示。如证据 E 的可信度表示为 CF(E)。 如对它的所有观测都能肯定为真，则使CF(E)=1；如能肯定 为假，则使 CF(E)=-1 ；若它以某种程度为真，则使其取小 于1的正值，即0< CF(E)<1;若它以某种程度为假，则使其 取大于 -1 的负值，即-1< CF(E)<0; 若观测不能确定其真假， 此时可令CF(E)=0。
P (H | E) - P (H) , 当 P (H | E) P (H) 1 P (H) CF(H, E) P (H | E) - P (H) , 当P (H | E) P (H) P (H)
15
确定性方法
规则
规则的不确定性表示 证据（前提）的不确定性表示 推理计算—结论的不确定性表示
24
规则
(推理计算 4）
CF(E) < =0，
规则E H不可使用，即此计算不必进行。
0 < CF(E) <= 1，
例：容器里的球
现分别有 A，B 两个容器，在容器 A 里分别有 7 个红球和 3 个白球，在容器 B 里有 1 个红球和 9 个白球。
现已知从这两个容器里任意抽出了一个球，且是红球， 问：这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B，从容器 A 里抽出球为事件 A， 则有：P(B) = 8 / 20 P(A) = 1 / 2 P(B | A) = 7 / 10，
证据（前提）的不确定性表示 规则的不确定性表示 推理计算---结论的不确定性表示
11
证据的不确定性度量
单个证据的不确定性获取方法：两种 初始证据：由提供证据的用户直接指定，用可信度因子对 证据的不确定性进行表示。如证据 E 的可信度表示为 CF(E)。 如对它的所有观测都能肯定为真，则使CF(E)=1；如能肯定 为假，则使 CF(E)=-1 ；若它以某种程度为真，则使其取小 于1的正值，即0< CF(E)<1;若它以某种程度为假，则使其 取大于 -1 的负值，即-1< CF(E)<0; 若观测不能确定其真假， 此时可令CF(E)=0。
P (H | E) - P (H) , 当 P (H | E) P (H) 1 P (H) CF(H, E) P (H | E) - P (H) , 当P (H | E) P (H) P (H)
15
确定性方法
规则
规则的不确定性表示 证据（前提）的不确定性表示 推理计算—结论的不确定性表示
24
规则
(推理计算 4）
CF(E) < =0，
规则E H不可使用，即此计算不必进行。
0 < CF(E) <= 1，
人工智能原理及应用第4章 不确定性推理方法
4.2 概率推理
4.2.1 概率的基本性质和计算公式
4.2.1.2 事件间的关系 两个事件A与B可能有以下几种特殊关系： 并事件：对两个事件A与B，如果事件表达的是“事件A与事件B至 少有一个发生”，则称该事件为A与B的并事件，记为AUB。可见， 并事件是由A与B的所有样本点共同构成的事件。 交事件：如果事件表达的是“事件A与事件B同时发生”，则称该 事件为A与B的交事件，记为A∩B。可见，交事件是由既属于A又属 于B的所有样本点构成的事件。 互斥关系：若A与 B不能同时发生，则称A与B互斥，记作AB= Ø 对立关系：若A与B互斥，且必有一个发生，则称A与B对立，又称 A为B的余事件，或B为A的余事件。
并：记C=“A与B中至少有一个发生”，称为事件A与B的并，记
作 C { ห้องสมุดไป่ตู้ A 或 B} 。
差：记C=“A发生而B不发生”，称为事件A与B的差。
求余： ~ A \ A
4.2 概率推理
4.2.1 概率的基本性质和计算公式
4.1.2.3 事件的概率 定义4.5 设Ω为一个随机实验的样本空间，对Ω上的任意事件A，规定 一个实数与之对应且满足以下三条基本性质，记为P(A)，称为事件A 发生的概率：
知识
图4-1 不确定性推理
4.1 不确定推理概述
4.1.1 不确定推理的概念
采用不确定性推理是客观问题的需求，其原因包括以下几个方面： （1）所需知识不完备，不精确 （2）所需知识描述模糊 （3）多种原因导致同一结论 （4）解决方案不唯一
4.1 不确定推理概述
4.1.2不确定性推理的基本问题和方法分类
机缘控制
启发式搜索
图4-2 不确定性推理分类
概率方法 主观Bayes方法 可信度方法 证据理论
人工智能及其应用-不确定性推理方法-证据理论
Bel({红,黄}) M ({红}) M ({黄}) M ({红,黄})
0.3 0.2 0.5
Pl({蓝}) 1 Bel({蓝}) 1 Bel({红，黄})＝系
因为
Bel( A) +Bel(¬A) =∑M (B) +∑M (C)
则： K 1 M1(x)M 2 ( y) x y 1 [M1({黑})M 2 ({白}) M1({白})M 2 ({黑})]
1 [0.3 0.3 0.5 0.6] 0.61
M ({黑}) K 1 M1(x)M 2 ( y)
0.161x[My{1黑({}黑})M 2 ({黑}) M1 ({黑})M 2 ({黑,白})
Pl(A) ：对A为非假的信任程度。
8 A(Bel(A), Pl(A)) ：对A信任程度的下限与上限。
8
概率分配函数的正交和（证据的组合）
定义4.4 设 M1和 M 2 是两个概率分配函数；则其正交 和 M =M1⊕M2 ： M (Φ) 0
M ( A) K 1
M1(x)M2( y)
x yA
B⊆A
C⊆¬A
≤∑M (E) =1
B⊆D
所以 Pl( A) Bel( A) 1 Bel(A) Bel( A)
1 (Bel(A) Bel( A)) 0
∴所以 Pl( A) ≥Bel( A)
A(0,0);A(0,1)
Bel(A) ：对A为真的信任程度。
A(1,1);A(0.25,1) A(0,0.85);A(0.25,0.85)
1981年巴纳特（J. A. Barnett）把该理论引入专家系 统中，同年卡威（J. Garvey）等人用它实现了不确定 性推理。
第五章不确定性推理方法(简s2)
S
E
C
• E与L在S条件下独立，P(E|S,C,L) ＝ P(E|S,C), • L与C在S, E条件下独立，P(L|S,C)= P(L|S) • C与S在E条件下独立，P(C|S)=P(C) • 以上三条等式可从Bayes网的条件独立性和后面的D分离定 义中得到。 • 简化后的联合概率密度为， P( S , C, L, E ) = P( E | S , C ) * P( L | S ) * P(C ) * P( S ) 若原Bayes网中条件独立语义较多，计算量减少更明显。 • 如何判定个节点之间的条件独立性？ • D分离！！
《人工智能原理》第五章 不确定性推理
贝叶斯网络（事件的独立性）
• 独立：如果X与Y相互独立，则 P(X,Y) = P(X)P(Y) P(X|Y) = P(X) • 条件独立：如果在给定Z的条件下，X与Y相互 独立，则 P(X|Y, Z) = P(X|Z) 实际中，条件独立比完全独立更重要
《人工智能原理》第五章 不确定性推理
《人工智能原理》第五章 不确定性推理
贝叶斯网络（计算）
• 有向无环图是各个节点变量关系传递的 合理表达形式。 • 条件独立的引入使得计算较之全连接网 络有了大大的简化。 • CPT表相对比较容易得到。
《人工智能原理》第五章 不确定性推理
贝叶斯网络（计算续）
• 简单的联合概率可以直接从网络关系上得到
贝叶斯网络（ D分离(例3)）
Y X X—草湿 Y—洒水 Z—彩虹 W—长虫 P(X,Y) = P(X)P(Y) P(X|Y,Z) = P(X|Z)
Z
W X X—草湿 Y—洒水 Z—彩虹 W—长虫
Y
P(X,Y) ≠ P(X)P(Y) P(X|Y,Z) ≠ P(X|Z)
《不确定性推理》PPT课件
2020/11/2
5
不确定性推理中的基本问题
• 要实现对不确定性知识的处理，必须要解决不确定知识的表示问题，不确定信息的计 算问题，以及不确定性表示和计算的语义解释问题。
1．表示问题 2. 计算问题
表达要清楚。表示方法规则不仅 仅是数，还要有语义描述。
不确定性的传播和更新。也是获取
新信息的过程。
3. 语义问题
个事件发生）的可能性程度是0.9。
• 在实际应用2020中/11，/2 知识的不确定性是由领域专家给出的。 8
知识的不确定性表示
（2）不确切性知识的表示
•
对于不确切性，一般采用程度或集合来刻划。所谓
程度就是一个命题中所描述的事物的属性、状态和关系等的
强度。
• 例如，我们用三元组（张三，体型，(胖，0.9）)表示命题 “张三比较胖”，其中的0.9就代替“比较”而刻划了张三 “胖”的程度。
不确定性推理
• 现实世界中的大多数问题是不精确、非完备的。对于这些问题，若采用精确性推理方 法显然是无法解决的。为此，人工智能需要研究不精确性的推理方法，以满足客观问 题的需求。
2020/11/2
1
本章内容
1.不确定性推理概论
不确定性及其类型 不确定性推理概念
2.不确定性推理中的基本问题
表示问题 计算问题
• 概率方法： P(A1∧A2)＝ P(A1)×P (A2)
P(A1∨A2)＝ P(A1)+ P(A2)- P(A1)×P (A2)
• 有界方法：20P20(/A111/∧2 A2)＝max(0，P(A1)+P (A2)-1)
11
P(A1∨A2)＝min(1，P(A1)+P (A2))
人工智能及其应用-不确定性推理方法-可信度方法
7
7
C－F模型
2. 证据不确定性的表示
静态强度CF（H，E）：知识的强度，即当 E 所对应
的证据为真时对 H 的影响程度。 动态强度 CF（E）：证据 E 当前的不确定性程度。
8
8
C－F模型
3. 组合证据不确定性的算法
组合证据：多个单一证据的合取
E=E1 AND E2 AND … AND En 则 CF (E)＝min{CF (E1), CF (E2 ),..., CF (En )} 组合证据：多个单一证据的析取
0.28
15
CF (H , E)：可信度因子（certainty factor），反映前提
条件与结论的联系强度 。
IF 头痛 AND 流涕 THEN 感冒 （0.7）
5 5
C－F模型
1. 知识不确定性的表示
CF（H，E）的取值范围: [-1,1]。 若由于相应证据的出现增加结论 H 为真的可信度， 则 CF（H，E）> 0，证据的出现越是支持 H 为真， 就使CF（H，E) 的值越大。 反之，CF（H，E）< 0，证据的出现越是支持 H 为 假，CF（H，E）的值就越小。 若证据的出现与否与 H 无关，则 CF（H，E）= 0。
不确定性推理方法
• 不确定性推理的基本概念 • 概率方法
可信度方法
• 证据理论 • 主观Bayes方法
1
1
可信度方法
• 1975年肖特里菲（E. H. Shortliffe）等人在 确定性理论（theory of confirmation）的基 础上，结合概率论等提出的一种不确定性 推理方法。
• 优点：直观、简单，且效果好。
H H
人工智能 课件 第十二讲 不确定性推理-可信度方法
基本概念
－－ 一些基本问题
b.
证据的不确定性的表示 证据来源于用户在求解问题时提供的初始 证据或者在推理中用前面推出的结论作为 当前推理的证据。证据的不确定性称为动 态强度。 不管怎么表示，通常证据的不确定性表示 方法与知识的不确定性表示方法保持一致， 以便于推理过程中对不确定性进行统一的 处理。
可信度方法
－－带有阈值限度的不确定性推理
2.
3.
证据不确定性的表示 证据可信度的取值范围也作了改变： 0≤CF(E)≤1 CF(E)=0时，表示该证据可信度无法得 知。 组合证据不确定性的算法 与C-F模型一样。
可信度方法
－－带有阈值限度的不确定性推理
4.
不确定性的传递算法 当CF(E)≥λ时，结论H的可信度CF(H)由下式计 算得到： CF(H)=CF(H,E)×CF(E) 注：由于CF(E)≥0,所以用CF(E)与CF(H,E)“相 乘”，而不是max{0,CF(E)}；并且这里的“×” 既可为“相乘”运算，也可为“取极小”或其 他运算，要按实际情况定。（后面出现的“×” 号均表示这个意思，不再赘述）
可信度方法
－－带有阈值限度的不确定性推理
加权求和法： CF(H,Ei)被看作权值 III. 有限和法： 各结论H的可信度和不能大于1，否则CF(H)取1
II.
可信度方法
－－带有阈值限度的不确定性推理
上式是加权求和法 下式是有限和法
可信度方法
－－带有阈值限度的不确定性推理
IV.
递推计算法： 从CF1(H)开始，按知识被应用的顺序逐步进行 递推。可用以下两条公式表示： 令 C1 = CF(H,E1)×CF(E1) 对任意的k>1,
不确定推理方法课件
不确定推理方法
知识规则强度（LN,LS）意义的讨论
充分性度量LS的讨论 （1）LS>1时，O(H/E)>O(H)，再由P(x)与
O(x)具有相同单调性特性，可得 P(H/E)>P(E)。当LS>1时，由于证据E的出现，
将增大结论H为真的概率，而且LS越大， P(H/E)就越大，即E对H为真的支持越强。
A必出现时（即P（A）＝1）: O(B|A) = LS·O(B) O(B|~A) = LN·O(B)
不确定推理方法
当A不确定时即P（A）≠1时 A‘代表与A有关的所有观察， P(B|A‘) = P(B|A)P(A| A’)+P(B|～A)P(～A| A‘)
当P(A| A’) = 1时，证据A必然出现
L S ,P ( H / E ) 1 , 证 据 E 出 现 ， H 为 真
不确定推理方法
(2)LS=1时 O(H/E)=O(H)表明E与H无关。 (3)LS<1时 O(H/E)<O(H)表明由于证据E出现，将使H为真
的可能性下降。 (4)LS=0时 O(H/E)=0这表明由于证据E出现，将使H为假。 领域专家在为LS赋值时，可参考上面的讨论，
(1) N(x) GZ(x)
( 2 ) N ( u ) I( u )
(3) I(y) E (y) O (y)
(4 ) E ( z ) I (S ( z ))
(5 ) N (t)
(6 ) O (t)
(7 ) I (S (t))
(8) I(t) E(t)
(3)(6) ={t/y}
(9) E(t)
不确定性知识的表示：可信度方法、主观 Bayes方法和证据理论方法。
不确定推理方法
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
4.1 不确定推理概述
3．不确定性的量度
在确定一种量度方法及其范围时，应注意以下几点： （1）量度要能充分表达相应知识及证据的不确定性程度。 （2）量度范围的指定应便于领域专家及用户对证据或知识不确定性的估计。 （3）量度要便于不确定性的推理计算，而且所得到的结论之不确定值应落 在不确定性量度所规定的范围之内。 （4）量度的确定应当是直观的，同时应当有相应的理论依据。
4.1 不确定题
1．不确定性的表示
不确定性主要包括两个方面，一是证据的不确定性，一是知识的不 确定性。因而，不确定性的表示问题就包括证据表示和知识表示。 证据不确定性的表示 对于由观察所得到的初始证据，其值一般由用户或专家给出；而 对于用前面推理所得结论作为当前推理的证据，其值则是由推理中的 不确定性传递算法计算得到。 知识不确定性的表示 在表示具有不确定性的知识时，要考虑两个方面的因素：一是要 将领域问题的特征比较准确的描述出来，满足问题求解的需要；另一 个是要便于推理过程中对不确定性的推算。只要把这两方面因素考虑 到，则相应的表示方法才能实用。
4.2 可信度方法
4.2.1 可信度的概念
所谓可信度就是人们在实际生活中根据自己的经验或观察对某一 事件或现象为真的相信程度。
4.2 可信度方法
4.2.2 知识不确定性的表示
在基于可信度的不确定性推理模型中，知识是以产生式规则的形式表示的， 知识的不确定性则是以可信度CF(H，E)表示的。其一般形式为 IF E THEN H (CF(H,E)) （1） E是知识的前提条件，或称为证据。可以是简单条件，也可是复合条件。 （2）H是结论，它可以是一个单一的结论，也可以是多个结论。 （3）CF(H，E)是该条知识的可信度，称为可信度因子（Certainty Factor）。 在专家系统MYCIN中，CF(H,E)被定义为 CF(H,E)=MB(H,E)-MD(H,E) （4.2.1）
（4.2.3）
4.2 可信度方法
4.2.3 证据不确定性的表示
单个证据的不确定性获取方法
如果支持结论的证据只有一条，则证据可信度值的确定分两种情况： 第一种情况是，证据为初始证据，其可信度的值一般由提供证据的用户 直接指定，指定的方法也是用可信度因子对证据不确定性进行表示，例 如CF(E)=0.8表示证据E的可信度为0.8。第二种情况就是用先前推出的结 论作为当前推理的证据，对于这种情况的证据，其可信度的值在推出该 结论时通过不确定性传递算法计算得到（传递算法将在下面讨论）。证 据E的可信度CF(E)也是在[-1，1]上取值。
第四章 不确定推理方法
在日常生活中，人们通常所遇到的情况是信息不够 完善、不够精确，即所掌握的知识具有不确定性。人们 就是运用这种不确定性的知识进行思维、推理，进而求 解问题，所以，为了解决实际问题，必须对不确定知识 的表示、推理过程等进行研究，这就是本章将要讨论的 不确定推理方法。有关不确定性知识的表示及推理方法 目前有很多种，但比较重要且比较著名的方法主要有可 信度方法、主观Bayes方法和证据理论方法。本章将在概 述不确定推理方法及其概念的基础上，着重对这三种方 法进行较详细的讨论。
4.1 不确定推理概述
2．推理计算
不确定推理过程主要包括不确定性的传递计算算法、组合证据不确 定性算法和结论不确定性的更新或合成算法。假设以CF(E)表示证据E 的不确定性程度，而以CF(H,E)表示知识（规则）E→H的不确定性程度， 则我们要解决的问题即是： (1)不确定性传递问题。 (2)证据不确定性的合成问题。 (3)结论不确定性的合成问题。
4.1 不确定推理概述
4.1.2 不确定推理方法的分类 目前，不确定推理方法可以分为两大类，一类称为模型方法，另一 类称为控制方法。 模型方法的特点是把不确定的证据和不确定的知识分别与某种度量 标准对应起来，并给出更新结论不确定性的合适的算法，从而构成 相应的不确定性推理模型。不同的结论不确定性更换算法就对应不 同的模型。下面介绍的几种不确定推理方法都属于模型法。 控制方法的特点是通过识别领域中引起不确定性的某些特征及相应 的控制策略来限制或减少不确定性系统产生的影响，这类方法没有 处理不确定性的统一模型，其效果极大地依赖于控制策略，控制策 略的选择和研究是这类不确定性推理方法的关键。启发式搜索、相 关性制导回溯等是目前常见的几种控制方法。
4.1 不确定推理概述
由于概率论有着完善的理论，同时还为不确定性的合成与 传递提供了现成的公式，因而被用来表示和处理知识的不确定 性，成为度量不确定性的重要手段。这种纯粹依靠概率模型来 表示和处理不确定性的方法称为纯概率方法或概率方法。纯概 率方法虽然有严密的理论依据，但它却要求给出事件的先验概 率和条件概率，而这些数据又不易获得，因而使其应用受到限 制。为此，人们经过多年的研究，在概率论的基础上，发展了 一些新的处理不确定性的方法，这些方法包括：可信度方法、 主观Bayes方法和证据理论方法。本章的重点即是介绍这三种 不确定推理方法。
4.1 不确定推理概述
4.1.1 不确定推理的概念 所谓推理就是从已知事实出发，运用相关的知识（或规则）逐 步推出结论或者证明某个假设成立或不成立的思维过程。其中，已 知事实和知识（规则）是构成推理的两个基本要素。已知事实是推 理过程的出发点及推理中使用的知识，我们把它称为证据，而知识 （或规则）则是推理得以向前推进，并逐步达到最终目标的根据。 一个人工智能系统由总数据库、知识库和推理机构成。其中， 总数据库就是已知事实的集合，而知识库即是规则库，是一些人们 总结的规则的集合，推理机则是由一些推理算法构成，这些算法将 依据知识库中的规则和总数据库中的事实进行推理计算。其中，知 识库是人工智能系统的核心。
4.2 可信度方法
1 若P (H) 1 max{P (H/E) , P (H)}- P (H) MB( H , E ) 否则 1 P (H)
（4.2.2）
1 若P (H) 0 min{P (H/E) , P (H)}- P (H) MD( H , E ) 否则 - P (H)