第四章不确定性推理教程以及答案.
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
L/O/G/O
第四章
不确定性推理
本章内容
1 2 3 4 5 不确定性推理中的基本问题 不确定性推理方法分类 概率方法 主观Bayes方法
可信度方法
证据理论
6
4.1 不确定性推理中的基本问题
要实现对不确定性知识的处理,必须要解决不 确定知识的表示问题,不确定信息的计算问题,以 及不确定性表示和计算的语义解释问题。
1.表示问题
1、知识不确定性的表示 2、证据的不确定性表示
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法 1、知识的不确定性度量 2、证据的不确定性度量
2. 计算问题
3. 语义问题
4.2 不确定性推理方法分类
1、模型方法 特点 : 把不确定的证据和不确定的知识分别与某 种度量标准对应起来,并且给出更新结论不确定性的 算法,从而构成了相应的不确定性推理的模型。 数值方法
P( H i | E )
P( E | H i ) P( H i )
P( E | H
j 1
n
i=1,2, ,n
(4.3.2)
j
ຫໍສະໝຸດ Baidu
) P( H j )
这就是说,当已知结论Hi 的先验概率,并且已知结论Hi(i=1,2,…) 成立时前提条件 E 所对应的证据出现的条件概率 P(E|Hi) ,就可以用上
数值方法是对不确定性的一种定量表示和 处理方法。
非数值 方法
非数值方法是指出数值方法外的其他各种处 理不确定性的方法 ,它采用集合来描述和处 理不确定性,而且满足概率推理的性质。
4.2 不确定性推理方法分类
对于数值方法,按其依据的理论不同又可分为 以下两类: 分类
数值方法
1、基于概 率的方法
2、模糊推理
P ( Em / H i ) P ( H i ) P ( Em / H j ) P ( H j )
(4.3.3)
P( E / H ) P( E
j 1 1 j
n
2
/ H j)
4.3 概率方法
4.3.4 逆概率方法的优缺点 逆概率公式的优点是它有较强的理论背景和良好 的数学特征,当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 H i 的先验概率P ( H i ) 及 证据 E j 的条件概率 P( E j / H i ) ,尽管有些时候 P( E j / H i ) 比 P( H / E ) 相对容易得到,但总的来说,要想得到这 些数据仍然是一件相当困难的工作。另外,Bayes公式 的应用条件是很严格的,它要求各事件互相独立等, 如若证据间存在依赖关系,就不能直接使用这个方法。
4.3 概率方法
4.3.2 Bayes定理 设 A, B1 , B2 , Bn 为一些事件, P ( A) 0, B1 , B2 , Bn 互不 相交,P(Bi)>0,i=1,2,…,n,且 P ( Bi 1) 则对于
k 1, 2, n, 有,
i
P( Bk ) P( A | Bk ) P( Bk | A) P( Bi ) P( A | Bi )
4.2 不确定性推理方法分类
纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验 概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为 了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法 及理论:
1、主观Bayes方法
它是PROSPECTOR专 家系统中使用的不 确定推理模型,是 对Bayes公式修正 后形成的一种不确 定推理方法。
式求出相应证据出现时结论Hi
的条件概率P(Hi|E)。
4.3 概率方法
2.多个证据的情况 对于有多个证据 E1 , E2 , , Em 和多个结论 H , H , , H 并且每个证据都以一定程度支持结论的情况,上面的 式子可进一步扩充为
1 2 n
P( H i / E1E2
Em )
P( E1 / H i ) P( E2 / H i )
相关性制 导回溯
机缘控制
启发式 搜索
4.3 概率方法
4.3.1 经典概率方法
设有如下产生式规则: IF E THEN H 其中,E为前提条件,H为结论,具有随机性。 根据概率论中条件概率的含义,我们可以用条件概率 表示上述产生式规则的不确定性程度,即表示为在证据 出现的条件下,结论H成立的确定性程度。 对于复合条件 E = E1 AND E2 AND … AND En 可以用条件概率作为在证据出现时结论的确定程度。
i j
4.4 主观Bayes方法
4.4.1 知识不确定性的表示
在主观Bayes方法中,知识是用产生式规则表示的,具体 形式为
IF E THEN (LS,LN) H
(P(H))
其中 ( 1 ) E 是该知识的前提条件。它既可以是一个简单条件,也可 以是复合条件。 (2)H 是结论。P(H)是 H 的先验概率,它指出在没有任何证据 情况下的结论 H 为真的概率,即 H 的一般可能性。其值由领 域专家根据以往的实践及经验给出。 ( 3)( LS,LN) 为规则强度。其值由领域专家给出。 LS, LN相 当于知识的静态强度。
2、可信度方法
它 是 MYCIN 专 家 系 统中使用的不确定 推理模型,它以确 定性理论为基础, 方法简单、易用。
3、证据理论
它通过定义信任 函数、似然函数, 把知道和不知道 区别开来。
4.2 不确定性推理方法分类
2、控制方法 特点:通过识别领域中引起不确定性的某些特征及 相应的控制策略来限制或减少不确定性对系统产生的 影响,这类方法没有处理不确定性的统一模型,其效 果极大地依赖于控制策略。
i
(4.3.1)
Bayes公式容易由条件概率的定义、乘法公式和全 概率公式得到。在Bayes公式中,称为先验概率,而称 为后验概率,也就是条件概率。
4.3 概率方法
4.3.3 逆概率方法的基本思想 1.单个证据的情况
如果用产生式规则 IF E THEN Hi i =1, 2, , n 其中前提条件E 代替Bayes公式中B,用Hi 代替公式中的Ai 就可得到
4.4 主观Bayes方法
4.4.2 证据不确定性的表示
若以O(A) 或P(A)表示证据A的不确定性,则转换公式 是:
当A为假时 0 P( A) O( A) 当A为真时 1 P( A) 0, 当A介于真假之间时
第四章
不确定性推理
本章内容
1 2 3 4 5 不确定性推理中的基本问题 不确定性推理方法分类 概率方法 主观Bayes方法
可信度方法
证据理论
6
4.1 不确定性推理中的基本问题
要实现对不确定性知识的处理,必须要解决不 确定知识的表示问题,不确定信息的计算问题,以 及不确定性表示和计算的语义解释问题。
1.表示问题
1、知识不确定性的表示 2、证据的不确定性表示
1、不确定性的传递算法 2、结论不确定性的合成 3、组合证据的不确定性算法 1、知识的不确定性度量 2、证据的不确定性度量
2. 计算问题
3. 语义问题
4.2 不确定性推理方法分类
1、模型方法 特点 : 把不确定的证据和不确定的知识分别与某 种度量标准对应起来,并且给出更新结论不确定性的 算法,从而构成了相应的不确定性推理的模型。 数值方法
P( H i | E )
P( E | H i ) P( H i )
P( E | H
j 1
n
i=1,2, ,n
(4.3.2)
j
ຫໍສະໝຸດ Baidu
) P( H j )
这就是说,当已知结论Hi 的先验概率,并且已知结论Hi(i=1,2,…) 成立时前提条件 E 所对应的证据出现的条件概率 P(E|Hi) ,就可以用上
数值方法是对不确定性的一种定量表示和 处理方法。
非数值 方法
非数值方法是指出数值方法外的其他各种处 理不确定性的方法 ,它采用集合来描述和处 理不确定性,而且满足概率推理的性质。
4.2 不确定性推理方法分类
对于数值方法,按其依据的理论不同又可分为 以下两类: 分类
数值方法
1、基于概 率的方法
2、模糊推理
P ( Em / H i ) P ( H i ) P ( Em / H j ) P ( H j )
(4.3.3)
P( E / H ) P( E
j 1 1 j
n
2
/ H j)
4.3 概率方法
4.3.4 逆概率方法的优缺点 逆概率公式的优点是它有较强的理论背景和良好 的数学特征,当证据及结论彼此独立时计算的复杂度 比较低。其缺点是要求给出结论 H i 的先验概率P ( H i ) 及 证据 E j 的条件概率 P( E j / H i ) ,尽管有些时候 P( E j / H i ) 比 P( H / E ) 相对容易得到,但总的来说,要想得到这 些数据仍然是一件相当困难的工作。另外,Bayes公式 的应用条件是很严格的,它要求各事件互相独立等, 如若证据间存在依赖关系,就不能直接使用这个方法。
4.3 概率方法
4.3.2 Bayes定理 设 A, B1 , B2 , Bn 为一些事件, P ( A) 0, B1 , B2 , Bn 互不 相交,P(Bi)>0,i=1,2,…,n,且 P ( Bi 1) 则对于
k 1, 2, n, 有,
i
P( Bk ) P( A | Bk ) P( Bk | A) P( Bi ) P( A | Bi )
4.2 不确定性推理方法分类
纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验 概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为 了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法 及理论:
1、主观Bayes方法
它是PROSPECTOR专 家系统中使用的不 确定推理模型,是 对Bayes公式修正 后形成的一种不确 定推理方法。
式求出相应证据出现时结论Hi
的条件概率P(Hi|E)。
4.3 概率方法
2.多个证据的情况 对于有多个证据 E1 , E2 , , Em 和多个结论 H , H , , H 并且每个证据都以一定程度支持结论的情况,上面的 式子可进一步扩充为
1 2 n
P( H i / E1E2
Em )
P( E1 / H i ) P( E2 / H i )
相关性制 导回溯
机缘控制
启发式 搜索
4.3 概率方法
4.3.1 经典概率方法
设有如下产生式规则: IF E THEN H 其中,E为前提条件,H为结论,具有随机性。 根据概率论中条件概率的含义,我们可以用条件概率 表示上述产生式规则的不确定性程度,即表示为在证据 出现的条件下,结论H成立的确定性程度。 对于复合条件 E = E1 AND E2 AND … AND En 可以用条件概率作为在证据出现时结论的确定程度。
i j
4.4 主观Bayes方法
4.4.1 知识不确定性的表示
在主观Bayes方法中,知识是用产生式规则表示的,具体 形式为
IF E THEN (LS,LN) H
(P(H))
其中 ( 1 ) E 是该知识的前提条件。它既可以是一个简单条件,也可 以是复合条件。 (2)H 是结论。P(H)是 H 的先验概率,它指出在没有任何证据 情况下的结论 H 为真的概率,即 H 的一般可能性。其值由领 域专家根据以往的实践及经验给出。 ( 3)( LS,LN) 为规则强度。其值由领域专家给出。 LS, LN相 当于知识的静态强度。
2、可信度方法
它 是 MYCIN 专 家 系 统中使用的不确定 推理模型,它以确 定性理论为基础, 方法简单、易用。
3、证据理论
它通过定义信任 函数、似然函数, 把知道和不知道 区别开来。
4.2 不确定性推理方法分类
2、控制方法 特点:通过识别领域中引起不确定性的某些特征及 相应的控制策略来限制或减少不确定性对系统产生的 影响,这类方法没有处理不确定性的统一模型,其效 果极大地依赖于控制策略。
i
(4.3.1)
Bayes公式容易由条件概率的定义、乘法公式和全 概率公式得到。在Bayes公式中,称为先验概率,而称 为后验概率,也就是条件概率。
4.3 概率方法
4.3.3 逆概率方法的基本思想 1.单个证据的情况
如果用产生式规则 IF E THEN Hi i =1, 2, , n 其中前提条件E 代替Bayes公式中B,用Hi 代替公式中的Ai 就可得到
4.4 主观Bayes方法
4.4.2 证据不确定性的表示
若以O(A) 或P(A)表示证据A的不确定性,则转换公式 是:
当A为假时 0 P( A) O( A) 当A为真时 1 P( A) 0, 当A介于真假之间时