贝叶斯网络

我们来算一算：假设学校里面人的总数是 U 个。 60% 的男生都穿长裤，于是我们得到了 U * P(Boy) * P(Pants|Boy) 个穿长裤的（男生）（其中 P(Boy) 是男生 的概率 = 60%，这里可以简单的理解为男生的比例； P(Pants|Boy) 是条件概率，即在 Boy 这个条件下穿长裤 的概率是多大，这里是 100% ，因为所有男生都穿长裤）。 40% 的女生里面又有一半（50%）是穿长裤的，于是我 们又得到了 U * P(Girl) * P(Pants|Girl) 个穿长裤的（女 生）。加起来一共是 U * P(Boy) * P(Pants|Boy) + U * P(Girl) * P(Pants|Girl) 个穿长裤的，其中有 U * P(Girl) * P(Pants|Girl) 个女生。两者一比就是你要求的答案。 下面我们把这个答案形式化一下：我们要求的是 P(Girl|Pants) （穿长裤的人里面有多少女生），我们计算 的结果是 U * P(Girl) * P(Pants|Girl) / [U * P(Boy) * P(Pants|Boy) + U * P(Girl) * P(Pants|Girl)] 。容易发现这 里校园内人的总数是无关的，可以消去。于是得到 P(Girl|Pants) = P(Girl) * P(Pants|Girl) / [P(Boy) * P(Pants|Boy) + P(Girl) * P(Pants|Girl)]
在日常生活中，人们往往进行常识推理，而这种推理 通常是不准确的。例如，你看见一个头发潮湿的人走进来， 你可能会认为外面下雨了，那你也许错了；如果你在公园 里看到一男一女带着一个小孩，你可能会认为他们是一家 人，你可能也犯了错误。在工程中，我们也同样需要进行 科学合理的推理。但是，工程实际中的问题一般都比较复 杂，而且存在着许多不确定性因素。这就给准确推理带来 了很大的困难。很早以前，不确定性推理就是人工智能的 一个重要研究领域。尽管许多人工智能领域的研究人员引 入其它非概率原理，但是他们也认为在常识推理的基础上 构建和使用概率方法也是可能的。为了提高推理的准确性， 人们引入了概率理论。最早由Judea Pearl于1988年提出 的贝叶斯网络(Bayesian Network)实质上就是一种基于概 率的不确定性推理网络。它是用来表示变量集合连接概率 的图形模型，提供了一种表示因果信息的方法。当时主要 用于处理人工智能中的不确定性信息。随后它逐步成为了 处理不确定性信息技术的主流，并且在计算机智能科学、 工业控制、医疗诊断等领域的许多智能化系统中得到了重 要的应用。
贝叶斯网络具有如下特性：
1。贝叶斯网络本身是一种不定性因果关联模型。 贝叶斯网络与其他决策模型不同，它本身是将多 元知识图解可视化的一种概率知识表达与推理模 型，更为贴切地蕴含了网络节点变量之间的因果 关系及条件相关关系。 2。贝叶斯网络具有强大的不确定性问题处理能力。 贝叶斯网络用条件概率表达各个信息要素之间的 相关关系，能在有限的，不完整的，不确定的信 息条件下进行学习和推理。
• 贝叶斯网络的实例
• 图中表达了贝叶斯网的两个要素：其一为贝叶斯网的结构， 也就是各节点的继承关系，其二就是条件概率 条件概率表CPT。若 条件概率 一个贝叶斯网可计算，则这两个条件缺一不可。 贝叶斯网由一个有向无环图（DAG）及描述顶点之间 的概率表组成。其中每个顶点对应一个随机变量。这个图 表达了分布的一系列有条件独立属性：在给定了父亲节点 的状态后，每个变量与它在图中的非继承节点在概率上是 独立的。该图抓住了概率分布的定性结构，并被开发来做 高效推理和决策。 贝叶斯网络能表示任意概率分布的同时，它们为这些 能用简单结构表示的分布提供了可计算优势。 假设对于顶点xi，其双亲节点集为Pai，每个变量xi的 条件概率P(xi|Pai)。 则顶点集合X={x1,x2,…,xn}的联合概 条件概率 率分布可如下计算： 。
贝叶斯网络建造
贝叶斯网络的建造是一个复杂的任务，需要知识工程 师和领域专家的参与。在实际中可能是反复交叉进行而不 断完善的。面向设备故障诊断应用的贝叶斯网络的建造所 需要的信息来自多种渠道，如设备手册，生产过程，测试 过程，维修资料以及专家经验等。首先将设备故障分为各 个相互独立且完全包含的类别（各故障类别至少应该具有 可以区分的界限），然后对各个故障类别分别建造贝叶斯 网络模型，需要注意的是诊断模型只在发生故障时启动， 因此无需对设备正常状态建模。通常设备故障由一个或几 个原因造成的，这些原因又可能由一个或几个更低层次的 原因造成。建立起网络的节点关系后，还需要进行概率估 计。具体方法是假设在某故障原因出现的情况下，估计该 故障原因的各个节点的条件概率，这种局部化概率估计的 方法可以大大提高效率。
贝叶斯网络是一系列变量的联合概率分布的图 形表示。 一般包含两个部分，一个就是贝叶斯网络结构 图，这是一个有向无环图（DAG），其中图中的 每个节点代表相应的变量，节点之间的连接关系 代表了贝叶斯网络的条件独立语义。另一部分， 就是节点和节点之间的条件概率 条件概率表（CPT），也 条件概率 就是一系列的概率值。如果一个贝叶斯网络提供 了足够的条件概率 条件概率值，足以计算任何给定的联合 条件概率 概率，我们就称，它是可计算的，即可推理的。
贝叶斯网络又称信度网络，是Bayes方法的 扩展，目前不确定知识表达和推理领域最有效的 理论模型之一。从1988年由Pearl提出后，已经成 为近几年来研究的热点.。一个贝叶斯网络是一个 有向无环图(Directed Acyclic Graph,DAG),由代表 变量节点及连接这些节点有向边构成。节点代表 随机变量，节点间的有向边代表了节点间的互相 关系(由父节点指向其子节点)，用条件概率进行 表达关系强度，没有父节点的用先验概率进行信 息表达。节点变量可以是任何问题的抽象，如： 测试值，观测现象，意见征询等。适用于表达和 分析不确定性和概率性的事件，应用于有条件地 依赖多种控制因素的决策，可以从不完全、不精 确或不确定的知识或信息中做出推理。
贝叶斯网络是一种概率网络，它是基于概 率推理的图形化网络，而贝叶斯公式则是 这个概率网络的基础。贝叶斯网络是基于 概率推理的数学模型,所谓概率推理就是通 过一些变量的信息来获取其他的概率信息 的过程，基于概率推理的贝叶斯网络 (Bayesian network)是为了解决不定性和不 完整性问题而提出的，它对于解决复杂设 备不确定性和关联性引起的故障有很的优 势，在多个领域中获得广泛应用。
贝叶斯网络
回总目录
贝叶斯公式
贝叶斯公式是怎么来的？ 我们使用 一个例子： 一所学校里面有 60% 的男生，40% 的女生。男生总 是穿长裤，女生则一半穿长裤一半穿裙子。有了这些信息 之后我们可以容易地计算“随机选取一个学生，他（她） 穿长裤的概率和穿裙子的概率是多大”，这个就是“正向 概率”的计算。然而，假设你走在校园中，迎面走来一个 穿长裤的学生（很不幸的是你高度近似，你只看得见他 （她）穿的是否长裤，而无法确定他（她）的性别），你 能够推断出他（她）是男生的概率是多大吗？ 我们不妨把问题重新叙述成：你在校园里面随机游走， 遇到了 N 个穿长裤的人（仍然假设你无法直接观察到他们 的性别），问这 N 个人里面有多少个女生多少个男生。你 说，这还不简单：算出学校里面有多少穿长裤的，然后在 这些人里面再算出有多少女生，不就行了？
P(+|N)代表不吸毒者阳性检出率，也就是出错检测的概率，该值为 0.01，因为对于不吸毒者，其检测为阴性的概率为99%, 因此，其被 误检测成阳性的概率为1-99%。 P(+)代表不考虑其他因素的影响的阳性检出率。该值为0.0149 或者 1.49%。我们可以通过全概率公式计算得到：此概率 = 吸毒者阳性检 出率（0.5% x 99% = 0.495%)+ 不吸毒者阳性检出率(99.5% x 1% = 0.995%)。P(+)=0.0149 是检测呈阳性的先验概率。用数学公式描述 为：
a.)如果该实例节点信度网络是简单的有向图 结构，它的节点数目少的情况下，采用贝 叶斯网络的精确推理，它包含多树传播算 法，团树传播算法，图约减算法，针对实 例事件进行选择恰当的算法； b.)如果是该实例所画出节点图形结构复杂且 节点数目多，我们可采用近似推理算法去 研究，具体实施起来最好能把复杂庞大的 网络进行化简，然后在与精确推理相结合 来考虑。
3。贝叶斯网络能有效地进行多源信息表达与融合。 贝叶斯网络可将故障诊断与维修决策相关的各种 信息纳入网络结构中，按节点的方式统一进行处 理，能有效地按信息的相关关系进行融合。 目前对于贝叶斯网络推理研究中提出了多种近 似推理算法，主要分为两大类：基于仿真方法和 基于搜索的方法。在故障诊断领域里就我们水电 仿真而言，往往故障概率很小，所以一般采用搜 索推理算法较适合。就一个实例而言，首先要分 析使用那种算法模型：
• 联合概率 联合概率：设A，B是两个随机事件， A和B同时发生的概率称为联合概率， 记为：P(A, B)； • 条件概率 条件概率：在B事件发生的条件下，A 事件发生的概率称为条件概率，记为： P(A|B)； • 乘法定理：P(A|B) = P(A, B) / P(B)。 乘法定理
吸毒者检测的例子 贝叶斯定理在检测吸毒者时很有用。假设一个常规的 检测结果的敏感度与可靠度均为99%，也就是说，当被检 者吸毒时，每次检测呈阳性（+）的概率为99%。而被检 者不吸毒时，每次检测呈阴性（-）的概率为99%。从检 测结果的概率来看，检测结果是比较准确的，但是贝叶斯 定理确可以揭示一个潜在的问题。假设某公司将对其全体 雇员进行一次鸦片吸食情况的检测，已知0.5%的雇员吸 毒。我们想知道，每位医学检测呈阳性的雇员吸毒的概率 有多高？令“D”为雇员吸毒事件，“N”为雇员不吸毒事件， “+”为检测呈阳性事件。可得 P(D)代表雇员吸毒的概率，不考虑其他情况，该值为 0.005。因为公司的预先统计表明该公司的雇员中有0.5% 的人吸食毒品，所以这个值就是D的先验概率。 P(N)代表雇员不吸毒的概率，显然，该值为0.995，也就 是 1-P(D)。 P(+|D)代表吸毒者阳性检出率，这是一个条件概率，由于 阳性检测准确性是99%，因此该值为0.99。
贝叶斯定理
贝叶斯定理是关于随机事件A和B的条件概率的一则定理。
其中P(A|B)是在B发生的情况下A发生的可能性。 在贝叶斯定理中，每个名词都有约定俗成的名称： P(A)是A的先验概率。之所以称为"先验"是因为它不考虑 任何B方面的因素。 P(A|B)是已知B发生后A的条件概率，也由于得自B的取值 而被称作A的后验概率。 P(B|A)是已知A发生后B的条件概率，也由于得自A的取值 而被称作B的后验概率。 P(B)是B的先验概率.
根据上述描述，我们可以计算某人检测呈阳性时确实吸毒的条件概率 P(D|+)：
尽管我们的检测结果可靠性很高，但是只能得出如下结论： 如果某人检测呈阳性，那么此人是吸毒的概率只有大约 33%，也就是说此人不吸毒的可能性比较大。我们测试的 条件（本例中指D，雇员吸毒）越难发生，误判的可能性 越大。
贝叶斯网络
•
贝叶斯网络基础 首先从一个具体的实例（医疗诊断的例子）来说明贝 叶斯网络的构造。 假设： 命题S(moker)：该患者是一个吸烟者 命题C(oal Miner)：该患者是一个煤矿矿井工人 命题L(ung Cancer)：他患了肺癌 命题E(mphysema)：他患了肺气肿 E(mphysema) 命题S对命题L和命题E有因果影响，而C对E也有因 果影响。 命题之间的关系可以描绘成如右图所示的因果关系网。 因此，贝叶斯网有时也叫因果网，因为可以将连接结 点的弧认为是表达了直接的因果关系。
注意，如果把上式收缩起来，分母其实就是 P(Pants) ， 分子其实就是 P(Pants, Girl) 。而这个比例很自然地就读作： 在穿长裤的人（ P(Pants) ）里面有多少（穿长裤）的女孩 （ P(Pants, Girl) ）。 上式中的 Pants 和 Boy/Girl 可以指A|B) * P(B) / [P(A|B) * P(B) + P(A|~B) * P(~B) ] 收缩起来就是： P(B|A) = P(AB) / P(A) 其实这个就等于： P(B|A) * P(A) = P(AB) 这个就是贝叶斯公式。