人工智能导论 第4章 不确定性推理方法(导论) 1-41
合集下载
人工智能导论 第四章不确定性推理

由Bayes公式得:
P(H|E)=P(E|H)×P(H)/P(E)
(1)
P(¬H|E)=P(E|¬H)×P(¬H)/P(E)
(2)
(1)式除以(2)式得:
P(H|E)/P(¬H|E)=P(E|H)/P(E|¬H)×P(H)/P(¬H)
由LS和几率函数的定义得: Θ(H|E)=LS×Θ(H)
即
29
P(H|E)=LS×P(H)/[(LS-1)×P(H)+1]
对于事件A,m=2,所以P(A) = m/n = 2/7 对于事件B,m=3,所以P(B) = m/n = 3/7
11
• 统计概率
当试验次数足够多时,一个事件(A)发生的次数m 与试验的总次数n之比:
fn(A)=m/n 在一个常数p(0≤p≤1)附近摆动,并稳定于p。
• 定义4.2 在同一组条件下所作的大量重复试验中,
n
P(Em | Hi )
P(H j ) P(E1 | H j ) P(E2 | H j ) P(Em | H j )
j 1
, i 1, 2,..., n
21
例. 设H1,H2,H3分别是三个结论,E是支持这些结论的证据。 已知:
P(H1)=0.3,
P(H2)=0.4,
P(H3)=0.5
递给最终结论。 (5) 结论不确定性的合成
用不同知识进行推理得到了相同结论,但不确 定性的程度却不同。此时,需要用合适的算法 对它们进行合成。
7
• 关于不确定性推理方法的研究沿着两条不同的路 线发展。
• 一、模型法:
– 在推理一级上扩展确定性推理。其特点是把不确定的 证据和不确定的知识分别与某种度量标准对应起来, 并且给出更新结论不确定的算法。这类方法与控制策 略一般无关,即无论用何种控制策略,推理的结果都 是唯一的。模型方法分为:
不确定性推理方法(导论)

4. 不确定性的传递算法
(1)在每一步推理中,如何把证据及知识的不确定性 传递给结论。
(2)在多步推理中,如何把初始证据的不确定性传递 给最终结论。
5. 结论不确定性的合成
9
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
10
则 CF (E)=min{CF (E1), CF (E2 ),..., CF (En )} ▪ 组合证据:多个单一证据的析取
E=E1 OR E2 OR … OR En 则 CF (E)=max{ CF (E1), CF (E2 ), ,CF (En )}
17
4.2 可信度方法
4. 不确定性的传递算法
下面首先讨论不确定性推理中的基本问题,然后着 重介绍基于概率论的有关理论发展起来的不确定性 推理方法,主要介绍可信度方法、证据理论,最后 介绍目前在专家系统、信息处理、自动控制等领域 广泛应用的依据模糊理论发展起来的模糊推理方法。
2
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
Introduction of Artificial Intelligence
第 4 章 不确定性推理方法
教材:
王万良《人工智能导论》(第4版) 高等教育出版社,2017. 7
第4章 不确定性推理方法
现实世界中由于客观上存在的随机性、模糊性,反 映到知识以及由观察所得到的证据上来,就分别形 成了不确定性的知识及不确定性的证据。因而还必 须对不确定性知识的表示及推理进行研究。这就是 本章将要讨论的不确定性推理。
7
4.1 不确定性推理中的基本问题
(1)在每一步推理中,如何把证据及知识的不确定性 传递给结论。
(2)在多步推理中,如何把初始证据的不确定性传递 给最终结论。
5. 结论不确定性的合成
9
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
10
则 CF (E)=min{CF (E1), CF (E2 ),..., CF (En )} ▪ 组合证据:多个单一证据的析取
E=E1 OR E2 OR … OR En 则 CF (E)=max{ CF (E1), CF (E2 ), ,CF (En )}
17
4.2 可信度方法
4. 不确定性的传递算法
下面首先讨论不确定性推理中的基本问题,然后着 重介绍基于概率论的有关理论发展起来的不确定性 推理方法,主要介绍可信度方法、证据理论,最后 介绍目前在专家系统、信息处理、自动控制等领域 广泛应用的依据模糊理论发展起来的模糊推理方法。
2
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
Introduction of Artificial Intelligence
第 4 章 不确定性推理方法
教材:
王万良《人工智能导论》(第4版) 高等教育出版社,2017. 7
第4章 不确定性推理方法
现实世界中由于客观上存在的随机性、模糊性,反 映到知识以及由观察所得到的证据上来,就分别形 成了不确定性的知识及不确定性的证据。因而还必 须对不确定性知识的表示及推理进行研究。这就是 本章将要讨论的不确定性推理。
7
4.1 不确定性推理中的基本问题
不确定性推理方法

且每个证据都以一定程度支持结论。
P( H i
︳ E
1
E2 Em ) =
P ( E1 ︳ H i ) P( E 2 ︳ H i ) P( E m ︳ H i ) P( H i )
∑ P( E1 ︳H j ) P( E 2 ︳H j ) P( Em ︳H j ) P( H j )
1 j=
n
i 1,2,, n
普通关系:两个集合中的元素之间是否有关联,
4.4.4 模糊关系与模糊关系的合成
1.模糊关系
模糊关系的定义 : A、B:模糊集合,模糊关系用叉积表示:
R : A B 0,1
叉积常用最小算子运算:
AB (a, b) min A (a), B (b)
A、B:离散模糊集,其隶属函数分别为:
身高与体重的模糊关系表
从X到Y的一个模糊关系R, 用模糊矩阵表示:
1 0.8 R 0.2 0.1 0 0.8 1 0.8 0.2 0.1 0.2 0.8 1 0.8 0.2 0.1 0 0.2 0.1 0.8 0.2 1 0.8 0.8 1
22
25
4.4.4 模糊关系与模糊关系的合成
2.模糊关系的合成
例8 设模糊集合 X {x1, x2 x3 , x4}, Y { y1 , y2 , y3}, Z {z1, z2}
Q X Y , R Y Z , S X Z , 求S。
0.5 0.7 Q 0 1 0.6 0.3 0.4 1 0.8 0 0.2 0.9
7
教学内容设计
可信度方法
1975 年肖特里菲等人在确定性理论的基础上, 结合概率论等提出的一种不确定性推理方法。 优点:直观、简单,且效果好。
P( H i
︳ E
1
E2 Em ) =
P ( E1 ︳ H i ) P( E 2 ︳ H i ) P( E m ︳ H i ) P( H i )
∑ P( E1 ︳H j ) P( E 2 ︳H j ) P( Em ︳H j ) P( H j )
1 j=
n
i 1,2,, n
普通关系:两个集合中的元素之间是否有关联,
4.4.4 模糊关系与模糊关系的合成
1.模糊关系
模糊关系的定义 : A、B:模糊集合,模糊关系用叉积表示:
R : A B 0,1
叉积常用最小算子运算:
AB (a, b) min A (a), B (b)
A、B:离散模糊集,其隶属函数分别为:
身高与体重的模糊关系表
从X到Y的一个模糊关系R, 用模糊矩阵表示:
1 0.8 R 0.2 0.1 0 0.8 1 0.8 0.2 0.1 0.2 0.8 1 0.8 0.2 0.1 0 0.2 0.1 0.8 0.2 1 0.8 0.8 1
22
25
4.4.4 模糊关系与模糊关系的合成
2.模糊关系的合成
例8 设模糊集合 X {x1, x2 x3 , x4}, Y { y1 , y2 , y3}, Z {z1, z2}
Q X Y , R Y Z , S X Z , 求S。
0.5 0.7 Q 0 1 0.6 0.3 0.4 1 0.8 0 0.2 0.9
7
教学内容设计
可信度方法
1975 年肖特里菲等人在确定性理论的基础上, 结合概率论等提出的一种不确定性推理方法。 优点:直观、简单,且效果好。
人工智能第4章(不确定性推理方法)

28
例:容器里的球
现分别有 A,B 两个容器,在容器 A 里分别有 7 个红球和 3 个白球,在容器 B 里有 1 个红球和 9 个白球。
现已知从这两个容器里任意抽出了一个球,且是红球, 问:这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B,从容器 A 里抽出球为事件 A, 则有:P(B) = 8 / 20 P(A) = 1 / 2 P(B | A) = 7 / 10,
证据(前提)的不确定性表示 规则的不确定性表示 推理计算---结论的不确定性表示
11
证据的不确定性度量
单个证据的不确定性获取方法:两种 初始证据:由提供证据的用户直接指定,用可信度因子对 证据的不确定性进行表示。如证据 E 的可信度表示为 CF(E)。 如对它的所有观测都能肯定为真,则使CF(E)=1;如能肯定 为假,则使 CF(E)=-1 ;若它以某种程度为真,则使其取小 于1的正值,即0< CF(E)<1;若它以某种程度为假,则使其 取大于 -1 的负值,即-1< CF(E)<0; 若观测不能确定其真假, 此时可令CF(E)=0。
P (H | E) - P (H) , 当 P (H | E) P (H) 1 P (H) CF(H, E) P (H | E) - P (H) , 当P (H | E) P (H) P (H)
15
确定性方法
规则
规则的不确定性表示 证据(前提)的不确定性表示 推理计算—结论的不确定性表示
24
规则
(推理计算 4)
CF(E) < =0,
规则E H不可使用,即此计算不必进行。
0 < CF(E) <= 1,
例:容器里的球
现分别有 A,B 两个容器,在容器 A 里分别有 7 个红球和 3 个白球,在容器 B 里有 1 个红球和 9 个白球。
现已知从这两个容器里任意抽出了一个球,且是红球, 问:这个红球是来自容器 A 的概率是多少?
假设已经抽出红球为事件 B,从容器 A 里抽出球为事件 A, 则有:P(B) = 8 / 20 P(A) = 1 / 2 P(B | A) = 7 / 10,
证据(前提)的不确定性表示 规则的不确定性表示 推理计算---结论的不确定性表示
11
证据的不确定性度量
单个证据的不确定性获取方法:两种 初始证据:由提供证据的用户直接指定,用可信度因子对 证据的不确定性进行表示。如证据 E 的可信度表示为 CF(E)。 如对它的所有观测都能肯定为真,则使CF(E)=1;如能肯定 为假,则使 CF(E)=-1 ;若它以某种程度为真,则使其取小 于1的正值,即0< CF(E)<1;若它以某种程度为假,则使其 取大于 -1 的负值,即-1< CF(E)<0; 若观测不能确定其真假, 此时可令CF(E)=0。
P (H | E) - P (H) , 当 P (H | E) P (H) 1 P (H) CF(H, E) P (H | E) - P (H) , 当P (H | E) P (H) P (H)
15
确定性方法
规则
规则的不确定性表示 证据(前提)的不确定性表示 推理计算—结论的不确定性表示
24
规则
(推理计算 4)
CF(E) < =0,
规则E H不可使用,即此计算不必进行。
0 < CF(E) <= 1,
人工智能不确定推理方法-PPT精品

4.1 不确定推理概述
由于概率论有着完善的理论,同时还为不确定性的合成与 传递提供了现成的公式,因而被用来表示和处理知识的不确定 性,成为度量不确定性的重要手段。这种纯粹依靠概率模型来 表示和处理不确定性的方法称为纯概率方法或概率方法。纯概 率方法虽然有严密的理论依据,但它却要求给出事件的先验概 率和条件概率,而这些数据又不易获得,因而使其应用受到限 制。为此,人们经过多年的研究,在概率论的基础上,发展了 一些新的处理不确定性的方法,这些方法包括:可信度方法、 主观Bayes方法和证据理论方法。本章的重点即是介绍这三种 不确定推理方法。
4.2 可信度方法
4.2.1 可信度的概念
所谓可信度就是人们在实际生活中根据自己的经验或观察对某一 事件或现象为真的相信程度。
4.2 可信度方法
4.2.2 知识不确定性的表示
在基于可信度的不确定性推理模型中,知识是以产生式规则的形式表示的,
知识的不确定性则是以可信度CF(H,E)表示的。其一般形式为
4.1 不确定推理概述
4.1.3 不确定推理中的基本问题
1.不确定性的表示
不确定性主要包括两个方面,一是证据的不确定性,一是知识的不 确定性。因而,不确定性的表示问题就包括证据表示和知识表示。 证据不确定性的表示
对于由观察所得到的初始证据,其值一般由用户或专家给出;而 对于用前面推理所得结论作为当前推理的证据,其值则是由推理中的 不确定性传递算法计算得到。 知识不确定性的表示
IF E THEN知识的前提条件,或称为证据。可以是简单条件,也可是复合条件。
(2)H是结论,它可以是一个单一的结论,也可以是多个结论。
(3)CF(H,E)是该条知识的可信度,称为可信度因子(Certainty Factor)。
人工智能导论 第4章 不确定性推理方法(导论) 1-41

(1)分别对每一条知识求出CF(H):
CF1(H ) =CF(H , E1)× max{0,CF(E1)} CF2(H ) =CF (H , E2 )× max{0,CF (E2 )}
19
4.2 可信度方法
5. 结论不确定性的合成算法
(2)求出E1与E2对H的综合影响所形成的可信度 CF1,2(H ):
教材:
王万良《人工智能导论》(第4版) 高等教育出版社,2017. 7
第4章 不确定性推理方法
现实世界中由于客观上存在的随机性、模糊性,反 映到知识以及由观察所得到的证据上来,就分别 形 成了不确定性的知识及不确定性的证据。因而 还必 须对不确定性知识的表示及推理进行研究。 这就是 本章将要讨论的不确定性推理。
3
第4章 不确定性推理方法
✓4.1 不确定性推理中的基本问题
4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
4
4.1 不确定性推理中的基本问题
推理:从已知事实(证据)出发,通过运用相 关 知识逐步推出结论或者证明某个假设成立或 不成 立的思维过程。
不确定性推理:从不确定性的初始证据出发, 通 过运用不确定性的知识,最终推出具有一定 程度 的不确定性但却是合理或者近乎合理的结 论的思 维过程。
r1 : CF1(H ) 0.8 max{0,CF(E1 )}
0.8 max{0,0.35} 0.28
23
4.2 可信度方法
解: 第一步:对每一条规则求出CF(H)。
r2 : CF2 (H ) 0.6 max{0,CF(E2 )}
0.6 max{0,0.8} 0.48
r3 : CF3(H ) 0.5 max{0,CF(E3 )}
4. 不确定性的传递算法
CF1(H ) =CF(H , E1)× max{0,CF(E1)} CF2(H ) =CF (H , E2 )× max{0,CF (E2 )}
19
4.2 可信度方法
5. 结论不确定性的合成算法
(2)求出E1与E2对H的综合影响所形成的可信度 CF1,2(H ):
教材:
王万良《人工智能导论》(第4版) 高等教育出版社,2017. 7
第4章 不确定性推理方法
现实世界中由于客观上存在的随机性、模糊性,反 映到知识以及由观察所得到的证据上来,就分别 形 成了不确定性的知识及不确定性的证据。因而 还必 须对不确定性知识的表示及推理进行研究。 这就是 本章将要讨论的不确定性推理。
3
第4章 不确定性推理方法
✓4.1 不确定性推理中的基本问题
4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
4
4.1 不确定性推理中的基本问题
推理:从已知事实(证据)出发,通过运用相 关 知识逐步推出结论或者证明某个假设成立或 不成 立的思维过程。
不确定性推理:从不确定性的初始证据出发, 通 过运用不确定性的知识,最终推出具有一定 程度 的不确定性但却是合理或者近乎合理的结 论的思 维过程。
r1 : CF1(H ) 0.8 max{0,CF(E1 )}
0.8 max{0,0.35} 0.28
23
4.2 可信度方法
解: 第一步:对每一条规则求出CF(H)。
r2 : CF2 (H ) 0.6 max{0,CF(E2 )}
0.6 max{0,0.8} 0.48
r3 : CF3(H ) 0.5 max{0,CF(E3 )}
4. 不确定性的传递算法
人工智能4不确定性推理

模糊集上的运算主要有:包含、交、并、补等等。
1. 包含运算
定义4.5 设A,B∈F(U),若对任意u∈U,都有
μB(u)≤μA(u) 成立,则称A包含B,记为B A。 2. 交、并、补运算
定义4.6 设A,B∈F(U),以下为扎德算子
A
B : A
B (u)
max{ uU
A
(u
),
B
(u)}
A (u) B (u)
3
模糊集的表示方法(1)
若论域离散且有限,则模糊集A可表示为:
也可写为:
A={μA(u1),μA(u2),…,μA(un)}
或者:
A=μA(u1)/u1+μA(u2)/u2+…+μA(un)/un
n
n
A (u ) / u , 或者A (u ) / u
Ai
i
Ai
i
i 1
i 1
A={μA(u1)/u1,μA(u2)/u2,…,μA(un)/un} A={(μA(u1),u1),(μA(u2),u2),…,(μA(un),un)} 隶属度为0的元素可以不写。
(A, B) 1 [1 (1 0.2)] 0.9 2
即A和B两个模糊集之间的匹配度为0.9。
21
语义距离
如果论域U上两个模糊集A和B的语义距离为d(A,B),则其匹配度为 1-d(A,B)。
曼哈顿距离(Manhattan Distance)或者海明距离(Hamming
Distance)
d (A, B)
A
•
B
{
U
A
(ui
)
B
(ui
)}
A⊙
B
{
人工智能原理及应用第4章 不确定性推理方法

4.2 概率推理
4.2.1 概率的基本性质和计算公式
4.2.1.2 事件间的关系 两个事件A与B可能有以下几种特殊关系: 并事件:对两个事件A与B,如果事件表达的是“事件A与事件B至 少有一个发生”,则称该事件为A与B的并事件,记为AUB。可见, 并事件是由A与B的所有样本点共同构成的事件。 交事件:如果事件表达的是“事件A与事件B同时发生”,则称该 事件为A与B的交事件,记为A∩B。可见,交事件是由既属于A又属 于B的所有样本点构成的事件。 互斥关系:若A与 B不能同时发生,则称A与B互斥,记作AB= Ø 对立关系:若A与B互斥,且必有一个发生,则称A与B对立,又称 A为B的余事件,或B为A的余事件。
并:记C=“A与B中至少有一个发生”,称为事件A与B的并,记
作 C { ห้องสมุดไป่ตู้ A 或 B} 。
差:记C=“A发生而B不发生”,称为事件A与B的差。
求余: ~ A \ A
4.2 概率推理
4.2.1 概率的基本性质和计算公式
4.1.2.3 事件的概率 定义4.5 设Ω为一个随机实验的样本空间,对Ω上的任意事件A,规定 一个实数与之对应且满足以下三条基本性质,记为P(A),称为事件A 发生的概率:
知识
图4-1 不确定性推理
4.1 不确定推理概述
4.1.1 不确定推理的概念
采用不确定性推理是客观问题的需求,其原因包括以下几个方面: (1)所需知识不完备,不精确 (2)所需知识描述模糊 (3)多种原因导致同一结论 (4)解决方案不唯一
4.1 不确定推理概述
4.1.2不确定性推理的基本问题和方法分类
机缘控制
启发式搜索
图4-2 不确定性推理分类
概率方法 主观Bayes方法 可信度方法 证据理论
人工智能4 不确定性推理 人工智能课程 中国海洋大学

对于初始证据,其值由用户给出; 对推理所得证据,其值由推理中不确定性的传递算法通过计算得到。
3
• 不确定性的量度 对于不同的知识和不同的证据,其不确定性的程度一般是不相同的,需 要用不同的数据表示其不确定性的程度,同时还要事先规定它的取值范围。 例如,在专家系统 MYCIN 中,用可信度表示知识与证据的不确定性,取值 范围为 [-1, 1]。 在确定一种量度及其范围时,应注意以下几点: 1) 量度能充分表达相应知识及证据不确定性的程度。
1. 为什么要研究不确定性推理问题
• 现实世界的问题求解大部分是不良结构;
• 对不良结构的知识描述具有不确定性: 1) 问题证据的不确定性; 2) 专门知识的不确定性。
2. 什么是不确定性推理
不确定性推理是建立在非经典逻辑基础上的一种推理,它是对 不确定性知识的运用和处理。 不确定性推理就是从不确定性的初始证据出发,通过运用不确
定性的知识,最终推出具有一定程度的不确定性但却合理或者近 乎合理的结论的思维过程。
1
3. 不确定性推理中的基本问题
在不确定性推理中,知识和证据都具有某种程度的不确定性,
这就为推理机的设计与实现增加了复杂性和难度。它除了必须解
决推理方向、推理方法、控制策略等基本问题外,一般还需要解 决不确定性的表示和量度、不确定性匹配、不确定性的传递算法 以及不确定性的合成等重要问题。
16
(3) 有多个证据时
对于有多个证据E1, E2, …, Em和多个结论H1, …, H2, Hn,并且每个证据都以 一定的程度支持结论的情况,上面的式子可进一步扩充为: P(Hi/E1 E2…Em)=
P(E1/Hi ) P(E2 /Hi ) ...P(Em /Hi ) P(Hi )
第四章 不确定推理方法

1976年,杜达(R.O.Duda)、哈特(P.E.Hart)等人提出主
观Bayes方法,建立了不确定性推理模型,并在地矿勘探专家 系统PROSPECTOR中得到了成功的应用。
主观Bayes方法:根据证据E的概率,利用知识强度,把结论
H的先验概率P(H)更新为后验概率P(H/E).
先验概率:在获得与期望结果相关的任何信息之前已经被算出的概 率 ,无条件概率。 及证据 Ej的条件概率 P( Ej | Hi):此事件被加上一些新信息后的概率 。
第4章 不确定性推理方法 不确定性推理方法的分类
路线 1 (在推理一级上扩展确定性推理):把不确定的 证据和知识与某种度量标准对应起来,并且不断更新结 论不确定性的算法,从而构成相应不确定推理的模型。
路线 2 (在控制策略一级上处理不确定性):通过识别 领域中引起不确定性的特征和相应的控制策略来限制或 减少不确定性对系统的影响
4.3 主观Bayes方法
4.4 可信度方法
4.5 证据理论
4.6 模糊推理方法
4.1 不确定性推理中的基本问题
已知事实 推理: 某种策略 结 论
(证据)
知识
不确定推理:
不确定证据 不确定知识
某种策略
不确定结 论 (不确定程度)
4.1 不确定性推理中的基本问题 不确定性的表示与量度
概率方法
4.3 主观Bayes方法
4.4 可信度方法 4.5 证据理论 4.6 模糊推理方法
4.2 概率方法
例:特定的目标身份融合问题,
目标身份的可能种类的集合称为假设空间,可以抽象地表 示为一个有限集合,该集合中的每个元素的先验概率P(H) 是已知的。
有若干信息源(如传感器),分别能够从某一角度对所关
观Bayes方法,建立了不确定性推理模型,并在地矿勘探专家 系统PROSPECTOR中得到了成功的应用。
主观Bayes方法:根据证据E的概率,利用知识强度,把结论
H的先验概率P(H)更新为后验概率P(H/E).
先验概率:在获得与期望结果相关的任何信息之前已经被算出的概 率 ,无条件概率。 及证据 Ej的条件概率 P( Ej | Hi):此事件被加上一些新信息后的概率 。
第4章 不确定性推理方法 不确定性推理方法的分类
路线 1 (在推理一级上扩展确定性推理):把不确定的 证据和知识与某种度量标准对应起来,并且不断更新结 论不确定性的算法,从而构成相应不确定推理的模型。
路线 2 (在控制策略一级上处理不确定性):通过识别 领域中引起不确定性的特征和相应的控制策略来限制或 减少不确定性对系统的影响
4.3 主观Bayes方法
4.4 可信度方法
4.5 证据理论
4.6 模糊推理方法
4.1 不确定性推理中的基本问题
已知事实 推理: 某种策略 结 论
(证据)
知识
不确定推理:
不确定证据 不确定知识
某种策略
不确定结 论 (不确定程度)
4.1 不确定性推理中的基本问题 不确定性的表示与量度
概率方法
4.3 主观Bayes方法
4.4 可信度方法 4.5 证据理论 4.6 模糊推理方法
4.2 概率方法
例:特定的目标身份融合问题,
目标身份的可能种类的集合称为假设空间,可以抽象地表 示为一个有限集合,该集合中的每个元素的先验概率P(H) 是已知的。
有若干信息源(如传感器),分别能够从某一角度对所关
人工智能第四章不确定性推理

– 如制导回溯、启发式搜索等等
2016-1-22
史忠植 人工智能:不确定性推理
5
内容提要
4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结
2016-1-22
史忠植 人工智能:不确定性推理
6
知识的不确定性表示
• 产生式规则:
If E Then H (CF(H, E))
MB(H,E)= m-a--x-{-P--(-H--1-|-E-P-)-(,-H-P-)-(-H--)-}--–---P--(-H--)--- 否则
• MD的定义:
1
若P(H)=0
MD(H,E)= m-i-n---{-P--(-H---P|-E-(-)H-,-)P--(-H--)-}--–---P--(-H--)--- 否则
信度CF(H)
2016-1-22
史忠植 人工智能:不确定性推理
15
结论不确定性合成算法
• r1: if E1 then H (CF(H,E1))
r2: if E2 then H (CF(H,E2)) 求合成的CF(H)
(ห้องสมุดไป่ตู้)首先对每条知识求出CF(H),即:
CF1(H)=CF(H,E1) max{0, CF(E1)} CF2(H)=CF(H,E2) max{0, CF(E2)}
• 已知C(A), AB f(B,A),如何计算C(B)
• 已知C1(A),又得到C2(A),如何确定C(A)
• 如何由C(A1),C(A2)计算C(A1A2), C(A1A2)
–语义问题: 指的是上述表示和计算的含义是
什么,如何进行解释.
2016-1-22
人工智能第四章 不确定性推理ppt课件

• CF1(H)= 0.8 × max{0,CF(E4)}
• =0.8 × max{0, 0.21)}=0.168
• (4) 再由r4求CF2(H)
• CF2(H)= 0.9 ×max{0,CF(E5)}
• =0.9 ×max{0, 0.7)}=0.63
• (5) 最后对CF1(H )和CF2(H)进行合成,求出 CF(H)
• R3:IF E6(0.5) AND H1(0.3) AND H2(0.2) THEN H(0.7)
• 且已知 F(E1)=0.9,CF(E2)=0.8,CF(E3)=0.7,CF(E4)=0.7,CF(E5)= 0.8,CF(E6)=0.9。请用带加权因子的可信度推理方 法求CF(H)
4.5 模糊推理
复习
感谢亲观看此幻灯片,此课件部分内容来源于网络, 如有侵权请及时联系我们删除,谢谢配合!
A={(μA(u1),u1),(μA(u2),u2),…,(μA(un),un)} 隶属度为0的元素可以不写。
例如,在论域U={0,1,2,3,4,5,6,7,8,9}上,以下形式都可以用 来表示模糊集“大”:
大={0, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1} 大=0/0+0.2/1+0.3/2+0.4/3+0.5/4+0.6/5+0.7/6+0.8/7+0.9/8+1/9 大={0/0, 0.2/1, 0.3/2, 0.4/3, 0.5/4, 0.6/5, 0.7/6, 0.8/7, 0.9/8, 1/9} 大={0.2/1, 0.3/2, 0.4/3, 0.5/4, 0.6/5, 0.7/6, 0.8/7, 0.9/8, 1/9}
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
3
第4章 不确定性推理方法
✓4.1 不确定性推理中的基本问题
4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
4
4.1 不确定性推理中的基本问题
推理:从已知事实(证据)出发,通过运用相 关 知识逐步推出结论或者证明某个假设成立或 不成 立的思维过程。
不确定性推理:从不确定性的初始证据出发, 通 过运用不确定性的知识,最终推出具有一定 程度 的不确定性但却是合理或者近乎合理的结 论的思 维过程。
C-F模型:基于可信度表示的不确定性推理 的 基本方法。
12
4.2 可信度方法
1. 知识不确定性的表示
▪ 产生式规则表示:
IF
E
THEN H (CF(H,E))
CF ( H , E ) :可信度因子(certainty factor),反映前 提 条件与结论的联系强度。
IF 头痛 AND 流涕 THEN 感冒 (0.7)
则 CF (E)=min{CF (E1),CF (E2 ),...,CF (En )}
▪ 组合证据:多个单一证据的析取 E=E1 OR E2 OR … OR En
则 CF (E)=max{CF (E1),CF (E2 ), , CF (En )}
17
4.2 可信度方法
4. 不确定性的传递算法
▪ C-F模型中的不确定性推理:从不确定的初始证据出发, 通过运用相关的不确定性知识,最终推出结论并求出结 论的可信度值。结论 H 的可信度由下式计算: CF (H ) =CF (H , E)× max{0,CF (E)}
28
4.3.1 概率分配函数
设 D 是变量 x 所有可能取值的集合,且 D 中的元素是 互斥的,在任一时刻 x 都取且只能取 D 中的某一个元素为 值,则称 D 为 x 的样本空间。 在证据理论中,D 的任何一个子集 A 都对应于一个关于 x 的命题,称该命题为“ x 的值是在 A 中”。 设 x :所看到的颜色,D={红,黄,蓝}, 则 A={红}:“ x 是红色”;
CF2(H)异号
20
4.2 可信度方法
例4.1 设有如下一组知识:
r1 : IF
E1 THEN
H
(0.8)
r2 : IF E2 THEN H (0.6)
r3 : IF
E3
THEN
H
(0.5)
r4: IF E4 AND (E5 OR E6) THEN E1 (0.7)
r5 : IF
E7
AND E8 THEN
E3
(0.9)
已知:CF (E2 ) 0.8, CF(E4 ) 0.5,CF(E5 ) 0.6, CF (E6 ) 0.7,
CF (E7 ) 0.6, CF (E8 ) 0.9.
求:CF(H )
21
4.2 可信度方法
解: 第一步:对每一条规则求出CF(H)。
r4 :
CF ( E1 ) 0.7 max{ 0, CF [E 4 AND (E5 OR E6 )]} 0.7 max{ 0, min{ CF ( E 4 ), CF ( E 5 OR E 6 )}} 0.7 max{ 0, min{ CF ( E 4 ), max{ CF ( E 5 ), CF ( E 6 )}}}
1975年肖特里菲(E. H. Shortliffe)等人在确 定性理论(theory of confirmation)的基础上, 结合概率论等提出的一种不确定性推理方法。
优点:直观、简单,且效果好。
1
4.2 可信度方法
可信度:根据经验对一个事物或现象为真的 相 信程度。
可信度带有较大的主观性和经验性,其准确 性 难以把握。
当 CF ( E ) 0时 , 则 CF ( H ) 0 当 CF ( E )=1时 , 则 CF ( H ) CF ( H , E )
18
4.2 可信度方法
5. 结论不确定性的合成算法
▪ 设知识: IF E1 THEN H (CF(H , E1)) IF E2 THEN H (CF (H , E2 ))
5
4.1 不确定性推理中的基本问题
不确定性的表示与量度 不确定性匹配算法及阈值的选择 组合证据不确定性的算法 不确定性的传递算法 结论不确定性的合成
6
4.1 不确定性推理中的基本问题
1. 不确定性的表示与量度
1 知识不确定性的表示
2 证据不确定性的表示在—专—家证系据统的中动知态识的强不度确定性一般 是由领域专家给出的,通常是一
H)
|}
0.63 0.27 1 min{0.63,0.27}
0.36 0.49 0.73
综合可信度:CF(H) 0.49
25
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法
✓4.3 证据理论
4.4 模糊推理方法
26
4.3 证据理论
证据理论(theory of evidence):又称D-S理论,是 德普斯特(A. P. Dempster)首先提出,沙佛(G. Shafer)进一步发展起来的一种处理不确定性的理论。
14
4.2 可信度方法
2.证据不确定性的表示
CF(E)=0.6: E的可信度为0.6
▪ 证据E的可信度取值范围:[-1,1] 。 ▪ 对于初始证据,若所有观察S能肯定它为真,则CF(E)= 1。 ▪ 若肯定它为假,则 CF(E) = –1。 ▪ 若以某种程度为真,则 0 < CF(E) < 1。 ▪ 若以某种程度为假,则 -1 < CF(E) < 0 。 ▪ 若未获得任何相关的观察,则 CF(E) = 0。
1981年巴纳特(J. A. Barnett)把该理论引入专家 系统中,同年卡威(J. Garvey)等人用它实现了不确 定性推理。
目前,在证据理论的基础上已经发展了多种不确 定 性推理模型。
27
4.3 证据理论
1. 概率分配函数 2. 信任函数 3. 似然函数 4. 概率分配函数的正交和(证据的组合) 5. 基于证据理论的不确定性推理
4. 不确定性的传递算法
1 在每一步推理中,如何把证据及知识的不确定性 传递给结论。
2 在多步推理中,如何把初始证据的不确定性传递 给最终结论。
5. 结论不确定性的合成
9
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
10
4.2 可信度方法
Introduction of Artificial Intelligence
第 4 章 不确定性推理方法
教材:
王万良《人工智能导论》(第4版) 高等教育出版社,2017. 7
第4章 不确定性推理方法
现实世界中由于客观上存在的随机性、模糊性,反 映到知识以及由观察所得到的证据上来,就分别 形 成了不确定性的知识及不确定性的证据。因而 还必 须对不确定性知识的表示及推理进行研究。 这就是 本章将要讨论的不确定性推理。
0.7 max{0, min{0.5, max{0.6,0.7}}} 0.7 max{0,0.5}
0.35
22
4.2 可信度方法
解:
第一步:对每一条规则求出CF(H)。
r5 : CF (E3 ) 0.9 max{0,CF (E7 AND E8 )}
0.9 max{0, min{CF (E7 ),CF (E8 )}} 0.9 max{0, min{0.6,0.9}} 0.9 max{0,0.6} 0.54
CF (H) CF (H)□CF (H)CF (H)
CF
1,2
(H)
CF11(H)
2
CF (H)
2
1
ቤተ መጻሕፍቲ ባይዱ
2
CF (H)CF (H)
1
2
CF1(H) CF2(H)
1-min{|CF1(H) |,| CF2(H) |}
若CF1(H)□0, 若CF1(H) 0,
若CF1(H)与
CF2(H)□0 CF2(H) 0
13
4.2 可信度方法
1. 知识不确定性的表示
▪ CF(H,E)的取值范围: [-1,1]。 ▪若由于相应证据的出现增加结论 H 为真的可信度, 则 CF(H,E)> 0,证据的出现越是支持 H 为真, 就使CF(H,E) 的值越大。 ▪反之,CF(H,E)< 0,证据的出现越是支持 H 为 假,CF(H,E)的值就越小。 ▪ 若证据的出现与否与 H 无关,则 CF(H,E)= 0。
r1 : CF1(H ) 0.8 max{0,CF(E1 )}
0.8 max{0,0.35} 0.28
23
4.2 可信度方法
解: 第一步:对每一条规则求出CF(H)。
r2 : CF2 (H ) 0.6 max{0,CF(E2 )}
0.6 max{0,0.8} 0.48
r3 : CF3(H ) 0.5 max{0,CF(E3 )}
下面首先讨论不确定性推理中的基本问题,然后着 重介绍基于概率论的有关理论发展起来的不确定性 推理方法,主要介绍可信度方法、证据理论,最后 介绍目前在专家系统、信息处理、自动控制等领域 广泛应用的依据模糊理论发展起来的模糊推理方法。
2
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
7
4.1 不确定性推理中的基本问题
2. 不确定性匹配算法及阈值的选择
▪ 不确定性匹配算法:用来计算匹配双方相似程度的算 法。
▪ 阈值:用来指出相似的“限度”。
3. 组合证据不确定性的算法:
▪ 最大最小方法、Hamacher方法、概率方法、 有界方法、Einstein方法等。
第4章 不确定性推理方法
✓4.1 不确定性推理中的基本问题
4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
4
4.1 不确定性推理中的基本问题
推理:从已知事实(证据)出发,通过运用相 关 知识逐步推出结论或者证明某个假设成立或 不成 立的思维过程。
不确定性推理:从不确定性的初始证据出发, 通 过运用不确定性的知识,最终推出具有一定 程度 的不确定性但却是合理或者近乎合理的结 论的思 维过程。
C-F模型:基于可信度表示的不确定性推理 的 基本方法。
12
4.2 可信度方法
1. 知识不确定性的表示
▪ 产生式规则表示:
IF
E
THEN H (CF(H,E))
CF ( H , E ) :可信度因子(certainty factor),反映前 提 条件与结论的联系强度。
IF 头痛 AND 流涕 THEN 感冒 (0.7)
则 CF (E)=min{CF (E1),CF (E2 ),...,CF (En )}
▪ 组合证据:多个单一证据的析取 E=E1 OR E2 OR … OR En
则 CF (E)=max{CF (E1),CF (E2 ), , CF (En )}
17
4.2 可信度方法
4. 不确定性的传递算法
▪ C-F模型中的不确定性推理:从不确定的初始证据出发, 通过运用相关的不确定性知识,最终推出结论并求出结 论的可信度值。结论 H 的可信度由下式计算: CF (H ) =CF (H , E)× max{0,CF (E)}
28
4.3.1 概率分配函数
设 D 是变量 x 所有可能取值的集合,且 D 中的元素是 互斥的,在任一时刻 x 都取且只能取 D 中的某一个元素为 值,则称 D 为 x 的样本空间。 在证据理论中,D 的任何一个子集 A 都对应于一个关于 x 的命题,称该命题为“ x 的值是在 A 中”。 设 x :所看到的颜色,D={红,黄,蓝}, 则 A={红}:“ x 是红色”;
CF2(H)异号
20
4.2 可信度方法
例4.1 设有如下一组知识:
r1 : IF
E1 THEN
H
(0.8)
r2 : IF E2 THEN H (0.6)
r3 : IF
E3
THEN
H
(0.5)
r4: IF E4 AND (E5 OR E6) THEN E1 (0.7)
r5 : IF
E7
AND E8 THEN
E3
(0.9)
已知:CF (E2 ) 0.8, CF(E4 ) 0.5,CF(E5 ) 0.6, CF (E6 ) 0.7,
CF (E7 ) 0.6, CF (E8 ) 0.9.
求:CF(H )
21
4.2 可信度方法
解: 第一步:对每一条规则求出CF(H)。
r4 :
CF ( E1 ) 0.7 max{ 0, CF [E 4 AND (E5 OR E6 )]} 0.7 max{ 0, min{ CF ( E 4 ), CF ( E 5 OR E 6 )}} 0.7 max{ 0, min{ CF ( E 4 ), max{ CF ( E 5 ), CF ( E 6 )}}}
1975年肖特里菲(E. H. Shortliffe)等人在确 定性理论(theory of confirmation)的基础上, 结合概率论等提出的一种不确定性推理方法。
优点:直观、简单,且效果好。
1
4.2 可信度方法
可信度:根据经验对一个事物或现象为真的 相 信程度。
可信度带有较大的主观性和经验性,其准确 性 难以把握。
当 CF ( E ) 0时 , 则 CF ( H ) 0 当 CF ( E )=1时 , 则 CF ( H ) CF ( H , E )
18
4.2 可信度方法
5. 结论不确定性的合成算法
▪ 设知识: IF E1 THEN H (CF(H , E1)) IF E2 THEN H (CF (H , E2 ))
5
4.1 不确定性推理中的基本问题
不确定性的表示与量度 不确定性匹配算法及阈值的选择 组合证据不确定性的算法 不确定性的传递算法 结论不确定性的合成
6
4.1 不确定性推理中的基本问题
1. 不确定性的表示与量度
1 知识不确定性的表示
2 证据不确定性的表示在—专—家证系据统的中动知态识的强不度确定性一般 是由领域专家给出的,通常是一
H)
|}
0.63 0.27 1 min{0.63,0.27}
0.36 0.49 0.73
综合可信度:CF(H) 0.49
25
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法
✓4.3 证据理论
4.4 模糊推理方法
26
4.3 证据理论
证据理论(theory of evidence):又称D-S理论,是 德普斯特(A. P. Dempster)首先提出,沙佛(G. Shafer)进一步发展起来的一种处理不确定性的理论。
14
4.2 可信度方法
2.证据不确定性的表示
CF(E)=0.6: E的可信度为0.6
▪ 证据E的可信度取值范围:[-1,1] 。 ▪ 对于初始证据,若所有观察S能肯定它为真,则CF(E)= 1。 ▪ 若肯定它为假,则 CF(E) = –1。 ▪ 若以某种程度为真,则 0 < CF(E) < 1。 ▪ 若以某种程度为假,则 -1 < CF(E) < 0 。 ▪ 若未获得任何相关的观察,则 CF(E) = 0。
1981年巴纳特(J. A. Barnett)把该理论引入专家 系统中,同年卡威(J. Garvey)等人用它实现了不确 定性推理。
目前,在证据理论的基础上已经发展了多种不确 定 性推理模型。
27
4.3 证据理论
1. 概率分配函数 2. 信任函数 3. 似然函数 4. 概率分配函数的正交和(证据的组合) 5. 基于证据理论的不确定性推理
4. 不确定性的传递算法
1 在每一步推理中,如何把证据及知识的不确定性 传递给结论。
2 在多步推理中,如何把初始证据的不确定性传递 给最终结论。
5. 结论不确定性的合成
9
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
10
4.2 可信度方法
Introduction of Artificial Intelligence
第 4 章 不确定性推理方法
教材:
王万良《人工智能导论》(第4版) 高等教育出版社,2017. 7
第4章 不确定性推理方法
现实世界中由于客观上存在的随机性、模糊性,反 映到知识以及由观察所得到的证据上来,就分别 形 成了不确定性的知识及不确定性的证据。因而 还必 须对不确定性知识的表示及推理进行研究。 这就是 本章将要讨论的不确定性推理。
0.7 max{0, min{0.5, max{0.6,0.7}}} 0.7 max{0,0.5}
0.35
22
4.2 可信度方法
解:
第一步:对每一条规则求出CF(H)。
r5 : CF (E3 ) 0.9 max{0,CF (E7 AND E8 )}
0.9 max{0, min{CF (E7 ),CF (E8 )}} 0.9 max{0, min{0.6,0.9}} 0.9 max{0,0.6} 0.54
CF (H) CF (H)□CF (H)CF (H)
CF
1,2
(H)
CF11(H)
2
CF (H)
2
1
ቤተ መጻሕፍቲ ባይዱ
2
CF (H)CF (H)
1
2
CF1(H) CF2(H)
1-min{|CF1(H) |,| CF2(H) |}
若CF1(H)□0, 若CF1(H) 0,
若CF1(H)与
CF2(H)□0 CF2(H) 0
13
4.2 可信度方法
1. 知识不确定性的表示
▪ CF(H,E)的取值范围: [-1,1]。 ▪若由于相应证据的出现增加结论 H 为真的可信度, 则 CF(H,E)> 0,证据的出现越是支持 H 为真, 就使CF(H,E) 的值越大。 ▪反之,CF(H,E)< 0,证据的出现越是支持 H 为 假,CF(H,E)的值就越小。 ▪ 若证据的出现与否与 H 无关,则 CF(H,E)= 0。
r1 : CF1(H ) 0.8 max{0,CF(E1 )}
0.8 max{0,0.35} 0.28
23
4.2 可信度方法
解: 第一步:对每一条规则求出CF(H)。
r2 : CF2 (H ) 0.6 max{0,CF(E2 )}
0.6 max{0,0.8} 0.48
r3 : CF3(H ) 0.5 max{0,CF(E3 )}
下面首先讨论不确定性推理中的基本问题,然后着 重介绍基于概率论的有关理论发展起来的不确定性 推理方法,主要介绍可信度方法、证据理论,最后 介绍目前在专家系统、信息处理、自动控制等领域 广泛应用的依据模糊理论发展起来的模糊推理方法。
2
第4章 不确定性推理方法
4.1 不确定性推理的基本概念 4.2 可信度方法 4.3 证据理论 4.4 模糊推理方法
7
4.1 不确定性推理中的基本问题
2. 不确定性匹配算法及阈值的选择
▪ 不确定性匹配算法:用来计算匹配双方相似程度的算 法。
▪ 阈值:用来指出相似的“限度”。
3. 组合证据不确定性的算法:
▪ 最大最小方法、Hamacher方法、概率方法、 有界方法、Einstein方法等。