第四章不确定性推理教程以及答案
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
时,有
P( B2 ) 0.01
由于 P(B1 / A) 0.03,1 ,所以在此区间插值。
P( B2 / A) 0.01
0.75188 0.01 (0.3822 0.03) 0.305105 1 0.03
4.4 主观Bayes方法
4.4.6 主观Bayes方法的主要优缺点
4.4 主观Bayes方法
4.4.4 结论不确定性的合成算法
若有n条知识都支持相同的结论,而且每条知识的 前提条件所对应的证据 E (i 1, 2,, n) 都有相应的观察 S i 与之对应,此时只要先对每条知识分别求出 O ( H / Si ) 然后就可运用下述公式求出 O( H / S1, S2 , Sn )
P( E / H ) P( E
j 1 1 j
n
2
/ H j ) P ( Em / H j ) P ( H j )
(4.3.3)
4.3 概率方法
4.3.4 逆概率方法的优缺点 逆概率公式的优点是它有较强的理论背景和良好 的数学特征,当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 H i 的先验概率P ( H i ) 及 证据 E j 的条件概率 P( E j / H i ) ,尽管有些时候 P( E j / H i ) 比 P( H / E ) 相对容易得到,但总的来说,要想得到这 些数据仍然是一件相当困难的工作。另外,Bayes公式 的应用条件是很严格的,它要求各事件互相独立等, 如若证据间存在依赖关系,就不能直接使用这个方法。
4.1 不确定性推理中的基本问题
要实现对不确定性知识的处理,必须要解决不 确定知识的表示问题,不确定信息的计算问题,以 及不确定性表示和计算的语义解释问题。
1.表示问题
1、知识不确定性的表示 2、证据的不确定性表示
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法 1、知识的不确定性度量 2、证据的不确定性度量
这是把先验概率P(H)更新为后验概率P(H/E)的计算公式。
4.4 主观Bayes方法
2.证据肯定不存在的情况 在证据E肯定不存在时,把先验几率O(H)更新为后验 几率O(H/﹁E)的计算公式为
O( H / E ) LN O( H )
如果将上式换成概率,就可得到
(4.4.3)
LN P( H ) (4.4.4) P( H / E ) ( LN 1) P( H ) 1
这是把先验概率P(H)更新为后验概率P(H/﹁E)的计算公式。
4.4 主观Bayes方法
3.证据不确定的情况 在证据不确定的情况下,不能再用上面的公式计算 后验概率,而要用杜达等人1976年证明了的公式
P( H / S ) P( H / E) P( E / S ) P( H / E) P(E / S )
(4.4.5)
来计算。
4.4 主观Bayes方法
下面分四种情况讨论这个公式(4.4.5): (1)当P(E/S)=1时,,此时式(4.4.5)变成
P( H / S ) P( H / E ) LS P( H ) ( LS 1) P( H ) 1
这就是证据肯定存在的情况。 (2)当P(E/S)=0时,,此时式(4.4.5)变成
式求出相应证据出现时结论Hi
的条件概率P(Hi|E)。
4.3 概率方法
2.多个证据的情况 对于有多个证据 E1 , E2 ,, Em 和多个结论 H , H , , H 并且每个证据都以一定程度支持结论的情况,上面的 式子可进一步扩充为
1 2 n
P( H i / E1E2 Em )
P( E1 / H i ) P( E2 / H i ) P( Em / H i ) P( H i )
4.wenku.baidu.com 不确定性推理方法分类
2、控制方法 特点:通过识别领域中引起不确定性的某些特征及 相应的控制策略来限制或减少不确定性对系统产生的 影响,这类方法没有处理不确定性的统一模型,其效 果极大地依赖于控制策略。
相关性制 导回溯
机缘控制
启发式 搜索
4.3 概率方法
4.3.1 经典概率方法
设有如下产生式规则: IF E THEN H 其中,E为前提条件,H为结论,具有随机性。 根据概率论中条件概率的含义,我们可以用条件概率 表示上述产生式规则的不确定性程度,即表示为在证据 出现的条件下,结论H成立的确定性程度。 对于复合条件 E = E1 AND E2 AND … AND En 可以用条件概率作为在证据出现时结论的确定程度。
i
Si
O( H / S1 , S2 , Sn )
O( H / S n ) O( H / S1 ) O( H / S2 ) O( H ) O( H ) O( H ) O( H ) O( H / S1 , S2 , Sn ) P( H / S1 , S2, Sn ) 1 O( H / S1, S2 , , Sn )
1、主观Bayes方法
它是PROSPECTOR专 家系统中使用的不 确定推理模型,是 对Bayes公式修正 后形成的一种不确 定推理方法。
2、可信度方法
它 是 MYCIN 专 家 系 统中使用的不确定 推理模型,它以确 定性理论为基础, 方法简单、易用。
3、证据理论
它通过定义信任 函数、似然函数, 把知道和不知道 区别开来。
4.2 不确定性推理方法分类
对于数值方法,按其依据的理论不同又可分为 以下两类: 分类
数值方法
1、基于概 率的方法
2、模糊推理
4.2 不确定性推理方法分类
纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验 概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为 了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法 及理论:
i j
4.4 主观Bayes方法
4.4.1 知识不确定性的表示
在主观Bayes方法中,知识是用产生式规则表示的,具体 形式为
IF E THEN (LS,LN) H
(P(H))
其中 ( 1 ) E 是该知识的前提条件。它既可以是一个简单条件,也可 以是复合条件。 (2)H 是结论。P(H)是 H 的先验概率,它指出在没有任何证据 情况下的结论 H 为真的概率,即 H 的一般可能性。其值由领 域专家根据以往的实践及经验给出。 ( 3)( LS,LN) 为规则强度。其值由领域专家给出。 LS, LN相 当于知识的静态强度。
2. 计算问题
3. 语义问题
4.2 不确定性推理方法分类
1、模型方法 特点 : 把不确定的证据和不确定的知识分别与某 种度量标准对应起来,并且给出更新结论不确定性的 算法,从而构成了相应的不确定性推理的模型。 数值方法
数值方法是对不确定性的一种定量表示和 处理方法。
非数值 方法
非数值方法是指出数值方法外的其他各种处 理不确定性的方法 ,它采用集合来描述和处 理不确定性,而且满足概率推理的性质。
该公式称为EH公式或UED公式。
4.4 主观Bayes方法
4.组合证据的情况 (1)当组合证据是多个单一证据的合取时,即 E = E1 and E2 and … and En 时,如果已知 P(E1 / S ), P(E2 / S ),, P(En / S ), 则 P(E/S)=min{ P(E1 / S ), P(E2 / S ),, P(En / S ) } (2)当组合证据E是多个单一证据的析取时,即 E = E1 or E2 or … or En 时,如果已知 P(E1 / S ), P(E2 / S ),, P(En / S ) 则, P(E/S)=max{ P(E1 / S ), P(E2 / S ),, P(En / S ) } “非”运算用下式计算 P(E / S ) 1 P( E / S )
(2)由于B1不是必发生的,所以需作插值处理。
设 P(B1 / A) 1 P(B2 / B1)
LS P(B2 ) 300 0.01 0.75188 ( LS 1) P( B2 ) 1 (300 1) 0.03 1
4.4 主观Bayes方法
当
P( B1 / A) P( B1 ) 0.03
P( H i | E )
P( E | H i ) P( H i )
P( E | H
j 1
n
i=1,2, ,n
(4.3.2)
j
) P( H j )
这就是说,当已知结论Hi 的先验概率,并且已知结论Hi(i=1,2,…) 成立时前提条件 E 所对应的证据出现的条件概率 P(E|Hi) ,就可以用上
(4)当P(E/S)为其它值时,通过分段线性插值就可得计 算P(H/S)的公式
P( H ) P( H / E ) P ( H / E ) P( E / S ) P( E ) 当0 P( E / S ) P( E ) P( H / S ) P( H ) P( H / E ) P( H ) [ P( E / S ) P( E )] 当P( E ) P( E / S ) 1 1 P( E )
主观Bayes方法的主要优点如下: (1)主观Bayes方法中的计算公式大多是在概率论的基 础上推导出来的,具有较坚实的理论基础。 (2)知识的静态强度LS及LN是由领域专家根据实验经验 给出的,这就避免了大量的数据统计工作。另外,它 既用LS指出了证据E对结论H的支持程度,又用LN指出 了E对H的必要性程度,这就比较全面地反映了证据与 结论间因果关系,符合现实世界中某些领域的实际情 况,使推出的结论有较准确的确定性。
1.证据肯定存在的情况 在证据E 肯定存在时,把先验几率O(H)更新为后验 几率O(H/E)的计算公式为
O( H / E ) LS O( H )
如果将上式换成概率,就可得到
LS P( H ) P( H / E ) ( LS 1) P( H ) 1
(4.4.1)
(4.4.2)
4.4 主观Bayes方法
4.4.5 例子
例2 设有如下知识 R1:IF A THEN (20,1) B1(0.03) R2:IF B1 THEN (300,0.0001) B2(0.01) 求:当证据A不存在时,P(B2 /A)的值是多少?
解:(1)由于A必发生,由R1得
P( B1 / A) LS P( B1 ) 20 0.03 0.3822 ( LS 1) P( B1 ) 1 (20 1) 0.03 1
4.3 概率方法
4.3.2 Bayes定理 设 A, B1 , B2 , Bn 为一些事件, P ( A) 0, B1 , B2 , Bn 互不 相交,P(Bi)>0,i=1,2,…,n,且 P ( Bi 1) 则对于
k 1, 2, n, 有,
i
P( Bk ) P( A | Bk ) P( Bk | A) P( Bi ) P( A | Bi )
P( H / S ) P( H / E ) LN P( H ) ( LN 1) P( H ) 1
这就是证据肯定不存在的情况。
4.4 主观Bayes方法
(3)当P(E/S)=P(E)时,表示E与S无关,利用全概率公式 将公式(4.4.5)变为
P( H / S)=P( H / E ) P( E ) P( H / E ) P(E ) P( H )
4.4 主观Bayes方法
4.4.2 证据不确定性的表示
若以O(A) 或P(A)表示证据A的不确定性,则转换公式 是:
当A为假时 0 P( A) O( A) 当A为真时 1 P( A) 0, 当A介于真假之间时
4.4 主观Bayes方法
4.4.3 不确定性的遗传算法
i
(4.3.1)
Bayes公式容易由条件概率的定义、乘法公式和全 概率公式得到。在Bayes公式中,称为先验概率,而称 为后验概率,也就是条件概率。
4.3 概率方法
4.3.3 逆概率方法的基本思想 1.单个证据的情况
如果用产生式规则 IF E THEN Hi i =1, 2, , n 其中前提条件E 代替Bayes公式中B,用Hi 代替公式中的Ai 就可得到