第4章_不确定性推理方法(2)ppt课件
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
产生式规则表示:
I F E T H E N H (( C F H , E ) )
CF (H ,E )：可信度因子（certainty factor），反映
前提条件与结论的联系强度 。
IF 头痛 AND
流涕
THEN
感冒 （0.7）
4.4.2 C－F模型
1. 知识不确定性的表示
CF（H，E）的取值范围: [-1,1]。
(H) 求：CF
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r4 :
0 . 7 max{ 0 , CF [ E ( E E )] CF (E 4 AND 5 OR 6 1)
0 . 7 m 0 , m ax{ CF ( E in{ ), CF ( E E )} 4 5 OR 6
目前，在证据理论的基础上已经发展了多种不确 定性推理模型。
4.5 证据理论
4.5.1 概率分配函数 4.5.2 信任函数 4.5.3 似然函数 4.5.4 信任函数与似然函数的关系 4.5.5 概率分配函数的正交和（证据的组合）
4.5.1 概率分配函数
设 D 是变量 x 所有可能取值的集合，且 D 中的元素是 互斥的，在任一时刻 x 都取且只能取 D 中的某一个元素 为值，则称 D 为 x 的样本空间。 在证据理论中，D 的任何一个子集 A 都对应于一个关于 x 的命题，称该命题为“x 的值是在 A 中”。 设 x ：所看到的颜色，D={红，黄，蓝}， 则 A={红}：“x 是红色”；
A={红，蓝}：“x 或者是红色，或者是蓝色”。
4.5.1 概率分配函数
设D为样本空间，领域内的命题都用D的子集表示 ，则概率分配函数（basic probability assignment function）定义如下：
D 2 [0 ,1 ], 定义4.1 设函数 M： → （对任何一个属于 D的子集A，
CF ( H ) 0 . 8 m 0 , ax{ CF ( E )} 1 1 0 . 8 max{ 0 , 0 . 35 }
r1 :
0 .28
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r2 :
CF ( H ) 0 . 6 m 0 , ax{ CF ( E )} 2 2
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r5 :
CF ( E ) 0 . 9 max{ 0 , CF ( E E )} 3 7 AND 8 0 . 9 max{ 0 , min{ CF ( E ), CF ( E )}} 7 8 0 . 9 max{ 0 , min{ 0 . 6 , 0 . 9 }} 0 . 9 max{ 0 , 0 . 6 } 0 .54
0 . 7 max{ 0 , min{ CF ( E ), max{ CF ( E ), CF ( E )} 4 5 6
0 . 7 max{ 0 , min 0 . 5 , max{ 0 { . 6 , 0 . 7 }}}
0 . 7 max{ 0 , 0 . 5 }
0 .35
0 . 6 max{ 0 , 0 . 8 } 0 .48
r3 :
CF ( H ) 0 . 5 max{ 0 , CF ( E )} 3 3 0 . 5 max{ 0 , 0 . 54 } 0 .27
4.4.2 C－F模型
第二步：根据结论不确定性的合成算法得到：
0 . 63 0 . 27 0 . 36 .49 1 min{ 0 . 63 , 0 . 27 } 0 . 73 0
CF ( H ) CF ( H ) 1 , 2 3
综合可信度：C FH ( ) 0 . 4 9
第4 章
不确定性推理方法
4.1 不确定性推理的基本概念
4.2 概率方法
当 C F ( E )0 时 ， 则 C F ()0 H
当 C F ( E ) ＝ 1 时 ， 则 C F ( H ) C F ( H , E )
4.4.2 C－F模型
5. 结论不确定性ቤተ መጻሕፍቲ ባይዱ合成算法
设知识：
IF
E ( CF ( H , E )) THEN H 1 1
( CF ( H , E )) THEN H IF E 2 2
（1）分别对每一条知识求出CF（H）：
CF ( H ) = CF ( H , E ) × max{ 0 , CF ( E )} 1 1 1
CF ( H ) = CF ( H , E ) × max{ 0 , CF ( E )} 2 2 2
4.4.2 C－F模型
5. 结论不确定性的合成算法
（2）求出E 1与E 2 对H的综合影响所形成的可信度 ： CF 1,2(H)
r : IF E AND E E ( 0 . 9 ) 5 7 8 THEN 3
F ( E ) 0 . 5 , F ( E ) 0 . 7 , F ( E ) 0 . 8 ,C C F ( E ) 0 . 6 ,C 已知： C 4 6 2 5
FE (8 ) 0 . 9 . C F ( E ) 0 . 6 ,C 7
4.3 主观Bayes方法
4.4 可信度方法
4.5 证据理论
4.6 模糊推理方法
4.5 证据理论
证据理论(theory of evidence)：又称D－S理论，是 德普斯特（A. P. Dempster）首先提出，沙佛（G. Shafer）进一步发展起来的一种处理不确定性的 理论。 1981年巴纳特（J. A. Barnett）把该理论引入专家 系统中，同年卡威（J. Garvey）等人用它实现了 不确定性推理。
若由于相应证据的出现增加结论 H 为真的可信度，则 CF（ H，E）> 0，证据的出现越是支持 H 为真，就使CF（H，E) 的值越大。
反之，CF（H，E）< 0，证据的出现越是支持 H 为假，CF （H，E）的值就越小。 若证据的出现与否与 H 无关，则 CF（H，E）= 0。
4.4.2 C－F模型
B ⊆ A
∀ A ⊆ D
Bel(A) ：对命题A为真的总的信任程度。
设 D ={红，黄，蓝}
M（{红}）=0.3， M（{黄}）=0，M（{红，黄}）=0.2， 由信任函数及概率分配函数的定义推出：
0.5 0 . 3 0 . 2 Bel ( D ) M ( B ) 1
4.4.2 C－F模型
2. 证据不确定性的表示
静态强度CF（H，E）：知识的强度，即当 E 所对应
的证据为真时对 H 的影响程度。
动态强度 CF（E）：证据 E 当前的不确定性程度。
4.4.2 C－F模型
3. 组合证据不确定性的算法
组合证据：多个单一证据的合取 …
E=E1 AND
则
E2
B D
Bel ({ 红 , 黄 }) M ({ 红 }) M ({ 黄 }) M ({ 红 , 黄 }) Bel ( ) M ( ) 0
命它对应一个数M [0，1]） 且满足
M ( )0
M(A ) 1 ∑
A ⊆ D
则 M: 2 D 上的基本概率分配函数，M（A）: A的基本 概率数。
4.5.1 概率分配函数
几点说明：
2 个 （1）设样本空间D有n个元素，则D中子集的个数为
设 D={红，黄，蓝} 的所有子集。 2 D： D
4.4.2 C－F模型
例4 设有如下一组知识：
r : IF E THEN H ( 0 . 8 ) 1 1
r : IF E THEN H ( 0 . 6 ) 2 2
r : IF E THEN H ( 0 . 5 ) 3 3
r : IF E ( E E ) THE E 0 . 7 ) 4 4 AND 5 OR 6 1 (
第4章_不确定性推理方法(2)
第4章 不确定性推理方法
4.1 4.2 4.3 4.4 4.5 不确定性推理中的基本问题 概率方法 主观Bayes方法 可信度方法 证据理论
4.6
模糊推理方法
4.4
可信度方法
1975年肖特里菲（E. H. Shortliffe）等人在确定性 理论（theory of confirmation）的基础上，结合概 率论等提出的一种不确定性推理方法。 优点：直观、简单，且效果好。
CF ( H ) CF ( H ) CF ( H ) CF ( H ) CF ( H ) 1 , 2 1 2 1 2
0 . 28 0 . 48 0 . 28 0 . 48 0 .63
CF ( H ) 1 , 2 , 3 1 min{| CF ( H ) |, | CF ( H ) |} 1 , 2 3
CF ( H ) CF ( H ) CF ( H ) CF ( H )若 CF ( H ) ≥ 0 , CF ( H ) ≥ 0 1 2 1 2 1 2 CF ( H ) CF ( H ) CF ( H ) CF ( H ) CF ( H )若 CF ( H ) 0 , CF ( H ) 0 1 , 2 1 2 1 2 1 2 CF ( H ) CF ( H ) 1 2 若 CF ( H ) 与 CF ( H ) 异号 1 2 1 min{| CF ( H ) |, |CF ( H ) |} 1 2
则其子集个数 23＝8，具体为： 设 D={红，黄，蓝 } （2）概率分配函数：把 D 的任意一个子集 A都映射为 [0， A={ 红 } ， A ={ 黄 } ， A ={ 蓝 } ， A ={ 红，黄 } ， M（{红}）=0.3， M（{黄}）=0， M（{蓝}）=0.1， 1]上的一个数 M} （ A ）。 A ={ }， A ={ 黄，蓝 ， A ={红，黄，蓝 M红，蓝 （{红，黄 ） =0.2 ，M} （ {红，蓝 }）=0.2，}， A ={ } M （ {黄，蓝 }） =0.1 ，M（{红，黄，蓝 ）=0.1，M（Φ）=0 ， 时，M （ A）：对相应命题 A} 的精确信任度 A ⊂ D A ≠ D
AND
AND
En
CF ( E ) ＝ min{ CF ( E ), CF ( E ),..., CF ( E )} 1 2 n
组合证据：多个单一证据的析取
E=E1 OR E2 OR … OR En ( E ) ＝ max{ CF ( E ), CF ( E ), , CF ( E )} 则 CF 1 2 n
n
。
但：M（{红}）+ M（{黄}）+ M（{蓝}）=0.4
（3）概率分配函数与概率不同。
例如，设 A={红}， M（A）=0.3：命题“x是红色”的信任度是0.3。
4.5.2 信任函数
定义4.2 命题的信任函数（belief function）Bel ：
D 2 → [0 , 1 ]且
Bel (A )= M ( B ) ∑
4.4 可信度方法 4.4.1 可信度的概念
4.4.2 C－F模型
4.4.1 可信度的概念
可信度：根据经验对一个事物或现象为真的相信 程度。 可信度带有较大的主观性和经验性，其准确性难 以把握。 C－F模型：基于可信度表示的不确定性推理的基 本方法。
4.4.2 C－F模型
1. 知识不确定性的表示
2. 证据不确定性的表示
CF(E)＝0.6： E的可信度为0.6 证据E的可信度取值范围：[-1，1] 。 对于初始证据，若所有观察S能肯定它为真，则CF(E)= 1。 若肯定它为假，则 CF(E) = –1。 若以某种程度为真，则 0 < CF(E) < 1。 若以某种程度为假，则 －1 < CF(E) < 0 。 若未获得任何相关的观察，则 CF(E) = 0。
4.4.2 C－F模型
4. 不确定性的传递算法
C － F 模型中的不确定性推理：从不确定的初始证据 出发，通过运用相关的不确定性知识，最终推出结论 并求出结论的可信度值。结论 H 的可信度由下式计 算： CF ( H ) = CF ( H , E ) × m 0 , ax{ CF ( E )}
I F E T H E N H (( C F H , E ) )
CF (H ,E )：可信度因子（certainty factor），反映
前提条件与结论的联系强度 。
IF 头痛 AND
流涕
THEN
感冒 （0.7）
4.4.2 C－F模型
1. 知识不确定性的表示
CF（H，E）的取值范围: [-1,1]。
(H) 求：CF
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r4 :
0 . 7 max{ 0 , CF [ E ( E E )] CF (E 4 AND 5 OR 6 1)
0 . 7 m 0 , m ax{ CF ( E in{ ), CF ( E E )} 4 5 OR 6
目前，在证据理论的基础上已经发展了多种不确 定性推理模型。
4.5 证据理论
4.5.1 概率分配函数 4.5.2 信任函数 4.5.3 似然函数 4.5.4 信任函数与似然函数的关系 4.5.5 概率分配函数的正交和（证据的组合）
4.5.1 概率分配函数
设 D 是变量 x 所有可能取值的集合，且 D 中的元素是 互斥的，在任一时刻 x 都取且只能取 D 中的某一个元素 为值，则称 D 为 x 的样本空间。 在证据理论中，D 的任何一个子集 A 都对应于一个关于 x 的命题，称该命题为“x 的值是在 A 中”。 设 x ：所看到的颜色，D={红，黄，蓝}， 则 A={红}：“x 是红色”；
A={红，蓝}：“x 或者是红色，或者是蓝色”。
4.5.1 概率分配函数
设D为样本空间，领域内的命题都用D的子集表示 ，则概率分配函数（basic probability assignment function）定义如下：
D 2 [0 ,1 ], 定义4.1 设函数 M： → （对任何一个属于 D的子集A，
CF ( H ) 0 . 8 m 0 , ax{ CF ( E )} 1 1 0 . 8 max{ 0 , 0 . 35 }
r1 :
0 .28
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r2 :
CF ( H ) 0 . 6 m 0 , ax{ CF ( E )} 2 2
4.4.2 C－F模型
解：
第一步：对每一条规则求出CF（H）。
r5 :
CF ( E ) 0 . 9 max{ 0 , CF ( E E )} 3 7 AND 8 0 . 9 max{ 0 , min{ CF ( E ), CF ( E )}} 7 8 0 . 9 max{ 0 , min{ 0 . 6 , 0 . 9 }} 0 . 9 max{ 0 , 0 . 6 } 0 .54
0 . 7 max{ 0 , min{ CF ( E ), max{ CF ( E ), CF ( E )} 4 5 6
0 . 7 max{ 0 , min 0 . 5 , max{ 0 { . 6 , 0 . 7 }}}
0 . 7 max{ 0 , 0 . 5 }
0 .35
0 . 6 max{ 0 , 0 . 8 } 0 .48
r3 :
CF ( H ) 0 . 5 max{ 0 , CF ( E )} 3 3 0 . 5 max{ 0 , 0 . 54 } 0 .27
4.4.2 C－F模型
第二步：根据结论不确定性的合成算法得到：
0 . 63 0 . 27 0 . 36 .49 1 min{ 0 . 63 , 0 . 27 } 0 . 73 0
CF ( H ) CF ( H ) 1 , 2 3
综合可信度：C FH ( ) 0 . 4 9
第4 章
不确定性推理方法
4.1 不确定性推理的基本概念
4.2 概率方法
当 C F ( E )0 时 ， 则 C F ()0 H
当 C F ( E ) ＝ 1 时 ， 则 C F ( H ) C F ( H , E )
4.4.2 C－F模型
5. 结论不确定性ቤተ መጻሕፍቲ ባይዱ合成算法
设知识：
IF
E ( CF ( H , E )) THEN H 1 1
( CF ( H , E )) THEN H IF E 2 2
（1）分别对每一条知识求出CF（H）：
CF ( H ) = CF ( H , E ) × max{ 0 , CF ( E )} 1 1 1
CF ( H ) = CF ( H , E ) × max{ 0 , CF ( E )} 2 2 2
4.4.2 C－F模型
5. 结论不确定性的合成算法
（2）求出E 1与E 2 对H的综合影响所形成的可信度 ： CF 1,2(H)
r : IF E AND E E ( 0 . 9 ) 5 7 8 THEN 3
F ( E ) 0 . 5 , F ( E ) 0 . 7 , F ( E ) 0 . 8 ,C C F ( E ) 0 . 6 ,C 已知： C 4 6 2 5
FE (8 ) 0 . 9 . C F ( E ) 0 . 6 ,C 7
4.3 主观Bayes方法
4.4 可信度方法
4.5 证据理论
4.6 模糊推理方法
4.5 证据理论
证据理论(theory of evidence)：又称D－S理论，是 德普斯特（A. P. Dempster）首先提出，沙佛（G. Shafer）进一步发展起来的一种处理不确定性的 理论。 1981年巴纳特（J. A. Barnett）把该理论引入专家 系统中，同年卡威（J. Garvey）等人用它实现了 不确定性推理。
若由于相应证据的出现增加结论 H 为真的可信度，则 CF（ H，E）> 0，证据的出现越是支持 H 为真，就使CF（H，E) 的值越大。
反之，CF（H，E）< 0，证据的出现越是支持 H 为假，CF （H，E）的值就越小。 若证据的出现与否与 H 无关，则 CF（H，E）= 0。
4.4.2 C－F模型
B ⊆ A
∀ A ⊆ D
Bel(A) ：对命题A为真的总的信任程度。
设 D ={红，黄，蓝}
M（{红}）=0.3， M（{黄}）=0，M（{红，黄}）=0.2， 由信任函数及概率分配函数的定义推出：
0.5 0 . 3 0 . 2 Bel ( D ) M ( B ) 1
4.4.2 C－F模型
2. 证据不确定性的表示
静态强度CF（H，E）：知识的强度，即当 E 所对应
的证据为真时对 H 的影响程度。
动态强度 CF（E）：证据 E 当前的不确定性程度。
4.4.2 C－F模型
3. 组合证据不确定性的算法
组合证据：多个单一证据的合取 …
E=E1 AND
则
E2
B D
Bel ({ 红 , 黄 }) M ({ 红 }) M ({ 黄 }) M ({ 红 , 黄 }) Bel ( ) M ( ) 0
命它对应一个数M [0，1]） 且满足
M ( )0
M(A ) 1 ∑
A ⊆ D
则 M: 2 D 上的基本概率分配函数，M（A）: A的基本 概率数。
4.5.1 概率分配函数
几点说明：
2 个 （1）设样本空间D有n个元素，则D中子集的个数为
设 D={红，黄，蓝} 的所有子集。 2 D： D
4.4.2 C－F模型
例4 设有如下一组知识：
r : IF E THEN H ( 0 . 8 ) 1 1
r : IF E THEN H ( 0 . 6 ) 2 2
r : IF E THEN H ( 0 . 5 ) 3 3
r : IF E ( E E ) THE E 0 . 7 ) 4 4 AND 5 OR 6 1 (
第4章_不确定性推理方法(2)
第4章 不确定性推理方法
4.1 4.2 4.3 4.4 4.5 不确定性推理中的基本问题 概率方法 主观Bayes方法 可信度方法 证据理论
4.6
模糊推理方法
4.4
可信度方法
1975年肖特里菲（E. H. Shortliffe）等人在确定性 理论（theory of confirmation）的基础上，结合概 率论等提出的一种不确定性推理方法。 优点：直观、简单，且效果好。
CF ( H ) CF ( H ) CF ( H ) CF ( H ) CF ( H ) 1 , 2 1 2 1 2
0 . 28 0 . 48 0 . 28 0 . 48 0 .63
CF ( H ) 1 , 2 , 3 1 min{| CF ( H ) |, | CF ( H ) |} 1 , 2 3
CF ( H ) CF ( H ) CF ( H ) CF ( H )若 CF ( H ) ≥ 0 , CF ( H ) ≥ 0 1 2 1 2 1 2 CF ( H ) CF ( H ) CF ( H ) CF ( H ) CF ( H )若 CF ( H ) 0 , CF ( H ) 0 1 , 2 1 2 1 2 1 2 CF ( H ) CF ( H ) 1 2 若 CF ( H ) 与 CF ( H ) 异号 1 2 1 min{| CF ( H ) |, |CF ( H ) |} 1 2
则其子集个数 23＝8，具体为： 设 D={红，黄，蓝 } （2）概率分配函数：把 D 的任意一个子集 A都映射为 [0， A={ 红 } ， A ={ 黄 } ， A ={ 蓝 } ， A ={ 红，黄 } ， M（{红}）=0.3， M（{黄}）=0， M（{蓝}）=0.1， 1]上的一个数 M} （ A ）。 A ={ }， A ={ 黄，蓝 ， A ={红，黄，蓝 M红，蓝 （{红，黄 ） =0.2 ，M} （ {红，蓝 }）=0.2，}， A ={ } M （ {黄，蓝 }） =0.1 ，M（{红，黄，蓝 ）=0.1，M（Φ）=0 ， 时，M （ A）：对相应命题 A} 的精确信任度 A ⊂ D A ≠ D
AND
AND
En
CF ( E ) ＝ min{ CF ( E ), CF ( E ),..., CF ( E )} 1 2 n
组合证据：多个单一证据的析取
E=E1 OR E2 OR … OR En ( E ) ＝ max{ CF ( E ), CF ( E ), , CF ( E )} 则 CF 1 2 n
n
。
但：M（{红}）+ M（{黄}）+ M（{蓝}）=0.4
（3）概率分配函数与概率不同。
例如，设 A={红}， M（A）=0.3：命题“x是红色”的信任度是0.3。
4.5.2 信任函数
定义4.2 命题的信任函数（belief function）Bel ：
D 2 → [0 , 1 ]且
Bel (A )= M ( B ) ∑
4.4 可信度方法 4.4.1 可信度的概念
4.4.2 C－F模型
4.4.1 可信度的概念
可信度：根据经验对一个事物或现象为真的相信 程度。 可信度带有较大的主观性和经验性，其准确性难 以把握。 C－F模型：基于可信度表示的不确定性推理的基 本方法。
4.4.2 C－F模型
1. 知识不确定性的表示
2. 证据不确定性的表示
CF(E)＝0.6： E的可信度为0.6 证据E的可信度取值范围：[-1，1] 。 对于初始证据，若所有观察S能肯定它为真，则CF(E)= 1。 若肯定它为假，则 CF(E) = –1。 若以某种程度为真，则 0 < CF(E) < 1。 若以某种程度为假，则 －1 < CF(E) < 0 。 若未获得任何相关的观察，则 CF(E) = 0。
4.4.2 C－F模型
4. 不确定性的传递算法
C － F 模型中的不确定性推理：从不确定的初始证据 出发，通过运用相关的不确定性知识，最终推出结论 并求出结论的可信度值。结论 H 的可信度由下式计 算： CF ( H ) = CF ( H , E ) × m 0 , ax{ CF ( E )}