贝叶斯网络PPT课件
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
这两个例子都是从原因推理结果的。还有许多从结果反推原因的例子 。例如，如果父母早晨闻到他们的女儿呼出的气体中有酒精味，那么她 昨晚参加晚会的概率有多大?等等。
为了系统地解决上面的各类问题，需要先掌握一定的概率基础知识。
4
2019/8/21
7．2贝叶斯概率基础
贝叶斯概率是贝叶斯网络运行的理论基础。就贝叶斯概率而 言，其原理和应用都比较简单。但贝叶斯概率理论经历了长时间 的波折才被逐渐认可，直到20世纪60年代，贝叶斯概率理论才被 广泛接受并大量应用。下面将从基本的条件概率公式和全概率公 式入手介绍贝叶斯概率。
7．2．1 先验概率、后验概率和条件概率
下面介绍贝叶斯概率中用到的有关概率论的基本概念。
(1)先验概率。先验概率是指根据历史的资料或主观判断所确 定的各种事件发生的概率，该概率没有经过实验证实，属于检验 前的概率。
(2)后验概率。后验概率一般是指通过贝叶斯公式，结合调查 等方式获取了新的附加信息，对先验概率修正后得到的更符合实 际的概率。
第7章 贝叶斯网络
2019/8/21
1
贝 叶 斯 网 络 是 20 世 纪 80 年 代 发 展 起 来 的 ， 最 早 由 Judea Pearl于1986年提出，多用于专家系统，成为表示 不确定性知识和推理问题的流行方法。
贝叶斯网络最早起源于贝叶斯统计分析，它是概率理 论和图论相结合的产物。
本章通过引例讨论贝叶斯网络需要解决的问题；介绍 贝叶斯概率基础；对贝叶斯网络进行概述；讲解贝叶斯 网络的预测、诊断和训练算法。
2
2019/8/21
7.l 引例
先看一个关于概率推理的例子。图7．1中有6个结点：参加晚 会(party，PT)、 宿醉(hangover，HO)、患脑瘤(brain tumor， BT)、头疼(headache，HA)、有酒精味(smell alcohol，SA)和X射 线检查呈阳性(posxray，PX)。可以把图7．1想象成为这样一个场 景：一个中学生回家后，其父母猜测她参加了晚会，并且喝了酒； 第二天这个学生感到头疼，她的父母带她到医院做头部的X光检查 ……
【解】令A表示事件“最后从2号箱中取出的是红球”；令B表示从1号箱 中取出的是红球。则
由式(7—5) ：
6
2019/8/21
上例采用的方法是概率论中常用的方法，为了求复杂事件的概 率，往往可以把它分解成若干个互不相容的简单事件，然后利用条 件概率和乘法公式，求出这些简单事件的概率，最后利用概率可加 性，得到最终结果，这一方法的一般化就是所谓的全概率公式。
设Ω为试验E的样本空间，A为E的事件，B1，B2，…，Bn为E 的一组事件，若满足以下两个条件：
则称B1，B2，…，Bn为样本空间Ω的一个分割。 若B1，B2，…，Bn为样本空间的一个分割，那么，对每一次试 验，事件B1，B2，…，Bn必有一个且仅有一个发生。
7
2019/8/21
例如，设实验E为“掷一颗骰子观察其点数”。它的样本空间Ω={1，
且P(Bi)>0，i=1，2，…，n,则19/8/21
【例】甲、乙、丙三人向同一飞机射击。设甲、乙、丙射中的概率分别为 0．4，0．5和0．7。又设若只有一人射中，飞机坠落的概率为0．2；若有两人射 中，飞机坠落的概率为0．6；若有三人射中，飞机必坠落。求飞机坠落的概率。
针对图7．1所示的网络，有许多问题需要解决。例如:
1)如果父母已知他们的女儿参加了晚会，那么第二天一早，她呼出 的 气 体 中 有 酒 精 味 的 概 率 有 多 大 ? 也 就 是 说 ， 当 party 发 生 时 ， smell alcohol发生的概率有多大?
2)如果他们的女儿头疼，那么她患脑瘤的概率有多大?这时，如果他 们又知道昨晚她参加了晚会，那么综合这些情况，她患脑瘤的可能性有 多大?
9
2019/8/21
7．2．4贝叶斯公式
设实验E为样本空间，A为E的事件，B1，B2，…，Bn为Ω的一 个分割，且P(Bi)>0，i=1，2，…，n，则
式(7～7)被称为贝叶斯公式。 例如，某电子设备厂所用的元件是由三家元件厂提供的，根据以
(3)条件概率。当条件确定时，某事件发生的条件概率就是该 事件的条件概率。
5
2019/8/21
7．2．3全概率公式
设A，B是两个事件，那么A可以表示为:
显然，
如果P(B)，P(B)>0，则:
例如，1号箱中有2个白球和4个红球，2号箱中有5个白球和3个红球，现随机 地从1号箱中取出一球放人2号箱，然后从2号箱随机取出一球，问从2号箱取出红 球的概率是多少?
【解】记A={飞机坠落)，Bi={共i个人射中飞机)，i=1，2，3。Bi分别为： B1=(甲射中，乙丙未射中)+(乙射中，甲丙未射中)+(丙射中，甲乙未射中) B2=(甲未射中，乙丙射中)+(乙未射中，甲丙射中)+(丙未射中，甲乙射中) B3=(甲乙丙均射中) 可以计算i个人射中飞机的概率 P(B1)=0．4×0．5×0．3+0．6×0．5×0．3+0．6×0．5×0．7=0．36 P(B2)=0．6×0．5×0．7+0．4×0．5×0．7+0．4×0．5×0．3=0．41 P(B3)=0．4×0．5×0．7=0．14 再由题设，P(A|B1)=0．2，P(A|B2)=O．6，P(A|B3)=1。利用全概率公式
2，3，4，5，6)。 Ω的一组事件B1={l，2}，B2={3，4)，B3={5，6}是 样本空间Ω的一个分割。而事件组B1={1，2，3)，B2={3，4)，B3={5，6)
不是样本空间Ω的一个分割，因为B1B2={3}≠Ø。 设实验E为样本空间，A为E的事件，B1，B2，…，Bn为Ω的一个分割，
图7．1 基于结点间概率关系的推理
3
2019/8/21
通过长期的观察，或者从别人那里了解，这个中学生的父母知道他 们的女儿参加晚会的概率。通过长时间的数据积累，他们也知道他们的 女儿参加晚会后宿醉的概率。因此，结点party和结点hangover之间有 一条连线。同样，有明显的因果关系或相关关系的结点之间都有一条连 线，并且连线从原因结点出发，指向结果结点。
为了系统地解决上面的各类问题，需要先掌握一定的概率基础知识。
4
2019/8/21
7．2贝叶斯概率基础
贝叶斯概率是贝叶斯网络运行的理论基础。就贝叶斯概率而 言，其原理和应用都比较简单。但贝叶斯概率理论经历了长时间 的波折才被逐渐认可，直到20世纪60年代，贝叶斯概率理论才被 广泛接受并大量应用。下面将从基本的条件概率公式和全概率公 式入手介绍贝叶斯概率。
7．2．1 先验概率、后验概率和条件概率
下面介绍贝叶斯概率中用到的有关概率论的基本概念。
(1)先验概率。先验概率是指根据历史的资料或主观判断所确 定的各种事件发生的概率，该概率没有经过实验证实，属于检验 前的概率。
(2)后验概率。后验概率一般是指通过贝叶斯公式，结合调查 等方式获取了新的附加信息，对先验概率修正后得到的更符合实 际的概率。
第7章 贝叶斯网络
2019/8/21
1
贝 叶 斯 网 络 是 20 世 纪 80 年 代 发 展 起 来 的 ， 最 早 由 Judea Pearl于1986年提出，多用于专家系统，成为表示 不确定性知识和推理问题的流行方法。
贝叶斯网络最早起源于贝叶斯统计分析，它是概率理 论和图论相结合的产物。
本章通过引例讨论贝叶斯网络需要解决的问题；介绍 贝叶斯概率基础；对贝叶斯网络进行概述；讲解贝叶斯 网络的预测、诊断和训练算法。
2
2019/8/21
7.l 引例
先看一个关于概率推理的例子。图7．1中有6个结点：参加晚 会(party，PT)、 宿醉(hangover，HO)、患脑瘤(brain tumor， BT)、头疼(headache，HA)、有酒精味(smell alcohol，SA)和X射 线检查呈阳性(posxray，PX)。可以把图7．1想象成为这样一个场 景：一个中学生回家后，其父母猜测她参加了晚会，并且喝了酒； 第二天这个学生感到头疼，她的父母带她到医院做头部的X光检查 ……
【解】令A表示事件“最后从2号箱中取出的是红球”；令B表示从1号箱 中取出的是红球。则
由式(7—5) ：
6
2019/8/21
上例采用的方法是概率论中常用的方法，为了求复杂事件的概 率，往往可以把它分解成若干个互不相容的简单事件，然后利用条 件概率和乘法公式，求出这些简单事件的概率，最后利用概率可加 性，得到最终结果，这一方法的一般化就是所谓的全概率公式。
设Ω为试验E的样本空间，A为E的事件，B1，B2，…，Bn为E 的一组事件，若满足以下两个条件：
则称B1，B2，…，Bn为样本空间Ω的一个分割。 若B1，B2，…，Bn为样本空间的一个分割，那么，对每一次试 验，事件B1，B2，…，Bn必有一个且仅有一个发生。
7
2019/8/21
例如，设实验E为“掷一颗骰子观察其点数”。它的样本空间Ω={1，
且P(Bi)>0，i=1，2，…，n,则19/8/21
【例】甲、乙、丙三人向同一飞机射击。设甲、乙、丙射中的概率分别为 0．4，0．5和0．7。又设若只有一人射中，飞机坠落的概率为0．2；若有两人射 中，飞机坠落的概率为0．6；若有三人射中，飞机必坠落。求飞机坠落的概率。
针对图7．1所示的网络，有许多问题需要解决。例如:
1)如果父母已知他们的女儿参加了晚会，那么第二天一早，她呼出 的 气 体 中 有 酒 精 味 的 概 率 有 多 大 ? 也 就 是 说 ， 当 party 发 生 时 ， smell alcohol发生的概率有多大?
2)如果他们的女儿头疼，那么她患脑瘤的概率有多大?这时，如果他 们又知道昨晚她参加了晚会，那么综合这些情况，她患脑瘤的可能性有 多大?
9
2019/8/21
7．2．4贝叶斯公式
设实验E为样本空间，A为E的事件，B1，B2，…，Bn为Ω的一 个分割，且P(Bi)>0，i=1，2，…，n，则
式(7～7)被称为贝叶斯公式。 例如，某电子设备厂所用的元件是由三家元件厂提供的，根据以
(3)条件概率。当条件确定时，某事件发生的条件概率就是该 事件的条件概率。
5
2019/8/21
7．2．3全概率公式
设A，B是两个事件，那么A可以表示为:
显然，
如果P(B)，P(B)>0，则:
例如，1号箱中有2个白球和4个红球，2号箱中有5个白球和3个红球，现随机 地从1号箱中取出一球放人2号箱，然后从2号箱随机取出一球，问从2号箱取出红 球的概率是多少?
【解】记A={飞机坠落)，Bi={共i个人射中飞机)，i=1，2，3。Bi分别为： B1=(甲射中，乙丙未射中)+(乙射中，甲丙未射中)+(丙射中，甲乙未射中) B2=(甲未射中，乙丙射中)+(乙未射中，甲丙射中)+(丙未射中，甲乙射中) B3=(甲乙丙均射中) 可以计算i个人射中飞机的概率 P(B1)=0．4×0．5×0．3+0．6×0．5×0．3+0．6×0．5×0．7=0．36 P(B2)=0．6×0．5×0．7+0．4×0．5×0．7+0．4×0．5×0．3=0．41 P(B3)=0．4×0．5×0．7=0．14 再由题设，P(A|B1)=0．2，P(A|B2)=O．6，P(A|B3)=1。利用全概率公式
2，3，4，5，6)。 Ω的一组事件B1={l，2}，B2={3，4)，B3={5，6}是 样本空间Ω的一个分割。而事件组B1={1，2，3)，B2={3，4)，B3={5，6)
不是样本空间Ω的一个分割，因为B1B2={3}≠Ø。 设实验E为样本空间，A为E的事件，B1，B2，…，Bn为Ω的一个分割，
图7．1 基于结点间概率关系的推理
3
2019/8/21
通过长期的观察，或者从别人那里了解，这个中学生的父母知道他 们的女儿参加晚会的概率。通过长时间的数据积累，他们也知道他们的 女儿参加晚会后宿醉的概率。因此，结点party和结点hangover之间有 一条连线。同样，有明显的因果关系或相关关系的结点之间都有一条连 线，并且连线从原因结点出发，指向结果结点。