概率逻辑

概率逻辑——在自然语言处理中的应用
概率上下文无关文法，又叫做随机上下文无关语法。这种语 法是由Booth(1969)年最早提出来的。上下文无关文法可以 定义为四元组{}
概率逻辑——在自然语言处理中的应用
如果分析的句子是有歧义的，概率上下文无关语法可给句 子的每一个树形图一个概率。一个树形图T的概率应该等于 从每一个非终极符号的结点n扩充的规则r的概率的乘积：
概率逻辑——概率逻辑在博弈论中的应用
博弈论是在平等的对局中各自利用对方的策略变换自己的对 抗策略，达到取胜的目的。 在许多博弈中 ,局中人可能对博弈结构或其他局中人的偏好效 用的了解并不确切 ,这类博弈称为不完 全 信 息 博 弈 或 贝 叶斯博弈。 在 海 萨 尼 等人建立的贝叶斯博弈模型中 , 引入了“ 自然状 态” 集合Ω 和Ω 上的信息函数 Ti ,通过自然状态上的概率测 度表示局中人的认知不确定状况 。 给定Ω 上的概率测度 , 每 个人关于自然状态的初始信念 , 可以用先验概率表示 ; 局中人 i 收到信号 t i C = Ti ,则他可以推断状态在集合 Ti- 1( ω ) 中 , 但不能确定具体的状态 。此时要求局中人用贝叶斯 (Ba ye s) 推断通过条件概率把握其他人的策略选择 ,并且根据期望效用 最大化准则选择自己的行动 。 利用概率测度和贝叶斯准则 , 海萨尼在纳什均衡基础上定义了纳什 - 贝叶斯均衡作为不完 全信息博弈的 “ 解” 。
概率逻辑——概率逻辑在博弈论中的应用
博弈论是在平等的对局中各自利用对方的策略变换自己的对 抗策略，达到取胜的目的。 在许多博弈中 ,局中人可能对博弈结构或其他局中人的偏好效 用的了解并不确切 ,这类博弈称为不完 全 信 息 博 弈 或 贝 叶斯博弈。 在 海 萨 尼 等人建立的贝叶斯博弈模型中 , 引入了“ 自然状 态” 集合Ω 和Ω 上的信息函数 Ti ,通过自然状态上的概率测 度表示局中人的认知不确定状况 。 给定Ω 上的概率测度 , 每 个人关于自然状态的初始信念 , 可以用先验概率表示 ; 局中人 i 收到信号 t i C = Ti ,则他可以推断状态在集合 Ti- 1( ω ) 中 , 但不能确定具体的状态 。此时要求局中人用贝叶斯 (Ba ye s) 推断通过条件概率把握其他人的策略选择 ,并且根据期望效用 最大化准则选择自己的行动 。 利用概率测度和贝叶斯准则 , 海萨尼在纳什均衡基础上定义了纳什 - 贝叶斯均衡作为不完 全信息博弈的 “ 解” 。
2.概率逻辑语义：可能世界的判定方法
树中的每条路径对应一个惟一的对于Φ语句的真值指 派。当发展二叉树时，要检查真值指派的一致性，并且关 闭那些对应于不一致真值的路径。而所谓的不一致性，指 的是该分支不能由其上的分支逻辑推出。图2所示就是上 例中的语义二叉树。关闭路径用‘X’来表示;一致的真值 集在它们的对应路径末尾标明出来。
概率逻辑——在人工智能中的应用
以贝叶斯公式为基础的贝叶斯理论，在人工智能中一直是处 理不确定性的重要工具．贝叶斯网用图形模式 表示随机变量间的依赖关系，提供一种框架结构来表示因果 信息．贝叶斯网可以表达各个节点间的条件独立关系。 人们可以直观地从贝叶斯网中得出属性间的条件独立以及依 赖关系.另外,贝叶斯网还给出了事件的联合概率分布,根据网 络结构以及条件概率表可以得到每个基本事件的概率.贝叶 斯理论利用先验知识和样本数据来获得对未知样本的估计, 而概率是先验信息和样本数据信息在贝叶斯理论中的表现形 式. 这样,贝叶斯理论使得不确定知识表示和推理在逻辑上非常 清晰并且易于理解．
2014-12-20
3..概率逻辑的语构：公理与定义
四条公理：
3..概率逻辑的语构：公理与定义
3..概率逻辑的语构：公理与定义
概率逻辑——在人工智能中的应用
概率逻辑通过可能世界把逻辑表示与概率论比较完美地 结合起来,使得此不确定性推理方法解决了证据间的独立 性问题。 概率逻辑在人工智能科学中的应用主要就是用于进行不 确定性推理。而不确定性推理是人工智能中的一个核心 课题,在专家系统、机器学习、智能决策等 方面都有十分重要的意义,因此概率逻辑在这些方面已经 或将会得到广泛的应用
1.概率逻辑的历史背景
2.概率逻辑定义——定义
2.概率逻辑定义——定义
2.概率逻辑语义——概率与逻辑的关系
2.概率逻辑语义——概率逻辑与模糊逻辑的关系
2.概率逻辑的语义：可能世界
在概率逻辑中，一个语句的真值，就是在命题逻辑中的 那个语句的概率。通过一个可能世界的分析来理解一个语句 概率的确切概念。 一个语句S可以是真或者假。如果只考虑一个语句S， 则可以把它想象成两个可能世界，在一个可能世界中，称之 为W1，该语句S为真;而在另一个可能世界W中，该语句为 假。但是实际世界必须是两个可能世界之一，但不知道究竟 是哪一个。
概率逻辑——在自然语言处理中的应用
树形图T2，加了概率之后变成图5
概率逻辑——在自然语言处理中的应用
树形图T2，加了概率之后变成图5
概率逻辑——在自然语言处理中的应用
根据树形图的概率，我们可以判定：swat flies like ants这个句子的意思是：“像 猛击蚂蚁一样地猛击苍蝇”，这个结论与我们的直觉是一致的。
Hale Waihona Puke 2.概率逻辑的语义：可能世界
由此，假设一个可能世界W1赋予概率P1，另一个可能 世界W2的概率为P2=1一P1，这样可以对真实世界的不确 定性建模。而在概率逻辑中一个模型就是概率在所有可能世 界中的一个分布，在给定的模型中，一个语句的概率是这个 语句在所有可能世界中为真的可能世界概率之和。在此意义 下，认为语句S为真的概率为P1。
其中n表示非终极符号的结点，r表示由非终极符号扩充 的规则，小写字母p表示规则r的概率，T表示树形图，大 写字母P表示整个树形图的概率。这样一来就可以比较不 同树形图的概率，从而进行歧义的消解了。
概率逻辑——在自然语言处理中的应用
概率逻辑——在自然语言处理中的应用
概率逻辑——在自然语言处理中的应用
2.概率逻辑的语义：真值分布
一般地，假设有m个语句的语句集Φ, n个可能世界，可以把 一致的可能世界集合记为矩阵的形式V,即由n个可能世界列向量 v1,v2,……,vn,所组成的mXn的可能世界矩阵，称其为语句集Φ 的相容真值矩阵，其中，用1代表T，用0代表F。例如上例中可 记为:
2.概率逻辑的语义：真值分布
2014-12-20
1.概率逻辑的历史背景
从概率定义的角度来看。第一个给概率下定义的是数学 家、天文学家拉普拉斯(Laplace )，这一定义可以用摸球 模型作形象化的解释，因而也可以被称为古典概型。从此 定义出发，许多概率的计算相当困难却又富有技巧。对于 这个严重的缺陷，冯•米塞斯第一个提出用频率极限来定 义概率，但此概率定义也不是完美的，其缺点是在统计定 义的基础上无法对单个事件赋予一个概率。于是第三个概 率定义开始登上科学历史的舞台，那就是逻辑概率。
概率逻辑——概率逻辑在博弈论中的应用
在把概率逻辑运用于贝叶斯博弈时 ,可以看到概率逻辑和博弈 论之间的关系是双向互动的 。 正如博弈论的先驱之一波雷尔 ( Bo r el ) 在 1924 写的 关于凯恩斯 ( K ey ne s) 《论概率》 的书评中说 : “对于某 种博弈的深入研究可能会导致概率论的新篇章 ,起源于博弈的 这种理论又返回去研究最简单的机遇博弈 。 这将是一门新的 科学 。 ” 博弈论在接受概率的主观信念度解释的同时也提供了不同 主体的信念度如何协调的客观机制 ,使主观主义概率逻辑发展 为主体交互概率逻辑 。 在许多博弈活动中 ,概率不是被看做 私人信念度 ,而是一个群体的一致信念度 。 例如 ,在多人博弈中结成联盟的一个局中人群体的信念度 会因为其利益相关 ,在追求群体利益最大化的博弈过程中从信 念度不一致趋向一致 。
2.概率逻辑的语义：可能世界
如果有更多的语句(如m个语句)构成一个语句集Φ则就有 更多的可能世界集合。当然，所有语句的真假值组合不免会 产生一些逻辑上不一致，这些组合不包含在一致的可能世界 中。下面拿一个经典的例子来说明一下，设一个语句集Φ为 {M, M N, N}，则它们的一致的组合如表1所示。
则一致的可能世界的个数n<= ，而现实世界对该语句 集的真 实真值指派需且只需是这n个一致真值指派中的一个。其中 的不 确定性便是无法确定应该是哪个指派。为这样的每个可能 世界分配一个概率 ，则 是样本空间Ω 上的一个模型，也即一个概率分布，其性质 是 而语句集中的一个语句S的概率兀(又称为语句S的概率 逻辑真值)，是语句S为真的所有一致的可能世界的概率之 和。则称II一(O)为语句集中上的概率逻辑真值分布。
概率逻辑
制作人：陈虹 徐徐霜降 祝贺
目录
1.概率逻辑的历史、背景 2.概率逻辑的语义
3.概率逻辑的语构 4.概率逻辑的应用
1.概率逻辑的历史背景
逻辑在知识表不和模拟人类推理中一直占有重要的地 位。经典逻辑是精确的、严格的，通常被认为是“绝对 正确的推理”。它描述对立充分的二值世界，在这个世 界中，一个命题要么为真，要么为假，二者必居其一;一 个元素要么属于这个集合，要么不属于这个集合，非此 即彼。这种绝对化的观点不允许亦此亦彼的中间过渡状 态存在。因此，随着人工智能研究的不断深入，人们发 现经典逻辑在模拟人类的思维推理过程中存在着不足。 因此，各种各样的非经典逻辑应运而生，如直觉主义逻 辑、多值逻辑、模态逻辑、时态逻辑、概率逻辑等。
1.概率逻辑的历史背景
而在多值逻辑中，也出现了许多不同的分支，例如，J. Lukasiewicz于1920年在“论三值逻辑”一文中拓展了二 值逻辑的真值域{0, 1 }，提出了不分明状态u的 Lukasiewicz三值逻辑，以后又出现了包含不可知状态的 K leene强三值逻辑和计算三值逻辑。语言值模糊逻辑则 把命题的真值域定义在{真，极真，非常真，很真，相当 真，比较真，有点真，不真不假，有点假，比较假，相当 假，很假，非常假，极假，假}上，是15值逻辑。而在连 续域{ 0, l }上有人提出概率逻辑。
概率逻辑是由数学家莱布尼兹（Leibniz）首创的，而系统 地提出逻辑概率并为此建立起一个逻辑概率体系的，则首推凯 恩斯((Keynes )。他把概率看作两组命题之间的逻辑关系的确定 形式，如果预先知道观察实验材料或任何其它前提，则对于另 一组假说归纳概括或任何似真的结论，可以赋予一定程度的概 率。他的理论体系是比较粗糙的，但山于他的首创性，为逻辑 概率树起了历史的丰碑。与凯恩斯持有同样观点的杰夫里斯 (Jeffrey s)则旗帜鲜明地推行逻辑概率，他直截了当地指出:概率 所谈的不是频率而是逻辑关系。他相信在大多数情况下，特别 是在数理统计可以运用的场合，对概率是可以指定数值的。而 卡尔纳普（Karnap）则继承了这两个人的思想，他认为，逻辑 概率是一种逻辑关系，是有点类似于逻辑蕴涵的那种逻辑关系。 卡尔纳普的观点一直广为流传，它揭不了概率与语义学之间的 关系，表现出概率逻辑的实质。Nilsson于1986年提出了这个不 确定推理的概率模型—概率逻辑。这里只介绍命题逻辑的语义 6 概括，其语句的真值可以在0到1之间变化。
由此，得到了语句集Φ的一致的可能世界，构成了概率 逻辑的样本空间Ω 。
2.概率逻辑语义：可能世界的判定方法
为了确定一致的真值集，即确定一个一致的可能世界， 可以根据一个语义二叉树或一些相容性判定算法，下面对 第一种方法作以说明。给定一个语句集Φ,则一致真值集合 是基于这个语义二叉树的发展。在每个节点处，根据指派 给中中的一个语句的真假值，将其向左或向右分支。就在 根节点的下面，根据中中的一个语句的真值来分支，接着 是Φ中的另一个语句，等等。