主观贝叶斯方法

第2章主观贝叶斯方法/~wjluo/aai/中国科大计算机学院内容•规则的不确定性•证据的不确定性•推理计算主观贝叶斯方法•R. O. Duda等人于1976年提出的一种不确定性推理模型。

–在这个模型中，他们称推理方法为主观Bayes方法。

–成功地应用于地矿勘探系统PROSPECTOR中。

•在这种方法中，引入了两个数值（LS，LN）。

•IF A THEN (LS, LN) B–LS体现规则成立的充分性,–LN体现规则成立的必要性。

–这种表示既考虑了事件A的出现对其结果B的支持，又考虑了A的不出现对B的影响。

内容•规则的不确定性•证据的不确定性•推理计算几率函数•几率函数O(X)：)(1)()(X P X P X O −=•O(X)表示证据X 的出现概率和不出现的概率之比。

•显然O(X)是P(X)的增函数。

∞====)(,1)(1500)(0)(X O X P ， O(X)＝.P(X)＝X O X P ，•几率函数实际上表示了证据X 的不确定性。

规则的不确定性•对规则A →B 的不确定性度量f(B, A)以因子（LS ，LN ）来描述。

•充分性因子LS ：表示A 真时对B 的影响，即规则成立的充分性。

•必要性因子LN ：表示A 假时对B 的影响，即规则成立的必要性。

•实际应用中，概率值不可能求出，所以采用的都是专家给定的LS, LN 值，而不是依LS ，LN 的定义来计算的。

)|~()|(B A P B A P LS =)|~(~)|(~B A P B A P LN =•因此，LS 表征的是A 的发生对B 发生的影响程度。

•若LS 为无穷大，则P(~B|A)=0，即P(B|A)=1，说明证据A 对于得出B 为真的逻辑是充分的。

•LS 也称为充分似然性因子。

得由)(~)()|(~)|~(,)()()|()|(B P A P A B P B A P B P A P A B P B A P ==)()|()(~)()|(~)|()|~()|(B O A B O B P B P A B P A B P B A P B A P LS ===•因此，LN 表征的是A 不发生对B 发生的影响程度。

•若LN 为0，则P(B|～A)=0，说明证据A 不存在时，B 必为假，即A 对B 是必然的。

得由)(~)(~)|~(~)|~(~,)()(~)|~()|(~B P A P A B P B A P B P A P A B P B A P ==)()|~()(~)()|~(~)|~()|~(~)|(~B O A B O B P B P A B P A B P B A P B A P LN ===⎪⎩⎪⎨⎧<<>>==B A )()|(1 B A )()|(1B A )()|(1不支持支持没影响对B O A B O B O A B O B O A B O LS ⎪⎩⎪⎨⎧<<>>== B A )()|(1 B A )()|(1B A )()|(1不支持～～支持～～没影响对～～B O A B O B O A B O B O A B O LN )()|()()|(B O LS A B O B O A B O LS ⋅=⇒=)()|~()()|~(B O LN A B O B O A B O LN ⋅=⇒=•注意：–LS 、LN ≥0，且LS 、LN 是不独立的。

–LS, LN 可以同时＝1。

–LS, LN 不能同时＞1或＜1。

•如果LS>1，则P(A|B)>P(A|~B)，两边同时减1，可得1－P(A|B) < 1－P(A|~B)由于P(~A|B)=1－P(A|B)，且P(~A|~B)=1－P(A|~B)，所以1)|~(1)|(1)|~(~)|(~LN <−−==B A P B A P B A P B A P几率函数与LS, LN的关系•理论上，LS、LN的取值可以是如下几个范围：①LS>1，且LN<1②LS<1，且LN>1③LS=LN=1LS 、LN 与证据的关系A 为假时（观察不到A 时），对B 是逻辑充分的∞A 为假时，对B 是有利的1<<LNA 为假时，对B 是无影响1A 为假时，对B 是不利的0<LN<<1A 为假时，B 为假，或者说A 对B 是必然的0LN A 为真时，对B 的逻辑是充分的，或者说A 为真时（观察到A 时），必有B 为真∞A 为真时，对B 是有利的1<<LSA 为真时，对B 是无影响1A 为真时，对B 是不利的0<LS<<1A 为真时，B 为假，或者说～A 对B 是必然的0LS 影响取值例题•例1、PROSPECTOR专家系统中的一条规则：如果有石英硫矿带，那么，必有钾矿。

对于这条规则来说，有LS=300，LN ＝0.2。

•相关解释：–LS=300>>1，观察到石英硫矿带非常有用，而若不能观察到石英硫矿带则没有什么意义。

–LN<<1，那么，缺乏硫矿带将强烈表明假设是错误的。

•例2、如果有玻璃褐铁矿，那么有最佳的矿产结构。

–其中LS＝1000000，LN=0.01内容•规则的不确定性•证据的不确定性•推理计算•证据的不确定性度量用几率函数来描述：•虽然几率函数与概率函数有着不同的形式，但是变化趋势是相同的。

9当A 为真的程度越大（P(A)越大）时，几率函数的值也越大。

⎪⎩⎪⎨⎧∞∞=−=一般情况真当假当),0(A A 0)(1)()(A P A P A O•几率函数是用概率函数定义的。

•在推理过程中，经常需要通过几率函数值计算概率函数值时。

)(1)()(A O A O A P +=)(1)()(A P A P A O −=内容•规则的不确定性•证据的不确定性•推理计算推理计算•主观贝叶斯方法的不精确推理过程就是根据前提A 的概率P(A)，利用规则的LS和LN，把结论B的先验概率P(B)更新为后验概率P(B|A)的过程。

•由于是不确定性推理，所以必须讨论证据发生的各种可能性。

①A必出现②A不确定③证据的合成④证据组合A必出现•A必出现时，即P(A)＝1，此时可以直接使用如下公式计算：O(B|A) = LS·O(B)O(B|~A) = LN·O(B)从而求得使用规则AÆB后，O(B)的更新值O(B|A)和O(B|~A)。

•如果需要概率表示，可再由公式P(A)=O(A)/(1+O(A))计算出P(B|A)和P(B|~A)。

A不确定•A不确定，即P(A)≠1时，设A'代表与A有关的所有证据（A'是系统中所有对A能够产生影响的观察）。

•对于规则AÆB，杜达(Duda)给出了公式(1976年) P(B|A') = P(B|A)P(A| A')+P(B|～A)P(～A| A')•三种特殊情况：①当P(A| A') = 1时，证据A必然出现②当P(A| A') = 0时，证据A必然不出现③当P(A| A') = P(A)时，观察A'对A没有影响①当P(A| A') = 1时，证据A 必然出现，此时有1)()1()()|()'|(+×−×==B P LS B P LS A B P A B P 1)(1)|~()|()()|~()|(1)()1()(+⎟⎟⎠⎞⎜⎜⎝⎛−=+×−×B P B A P B A P B P B A P B A P B P LS B P LS 说明：)|~()()|~()()(B A P B P B A P AB P AB P +−=)()|(~)()|()()|()~()()(A P A B P A P A B P A P A B P B A P AB P AB P +=+=)|()|(~)|()|(A B P A B P A B P A B P =+=②当P(A| A') = 0时，证据A 必然不出现，此时有1)()1()()|~()'|(+×−×==B P LN B P LN A B P A B P ③当P(A| A ') = P(A)时，观察A '对A 没有影响，对B 也没有影响，则)()'|(B P A B P =P(B|A') = P(B|A)P(A| A')+P(B|～A)P(～A| A')= P(B|A)P(A)+P(B|～A)P(～A)= P(A|B)P(B)+P(~A|B)P(B)= P(B)说明：•由此，可以得到以上3种特殊情况时，A'对B 的不同影响，即可以根据A 与A'的关系计算P(B|A')值。

⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧==+×−×=+×−×=)()'|()(0)'|(1)()1()(1)'|(1)()1()()'|(A P A A P B P A A P B P LN B P LN A A P B P LS B P LS A B P•这样可得P(A|A')为0，P(A)，1时相应的P(B|A')的值，根据这三点可以得到线性插值图。

•对于P(A| A')的其它取值，P(B|A')可根据此图通过线性插值法得到。

•线性插值公式⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧≤−×−−+<≤×−+=)'|()()]()'|([)(1)()|()()()'|(0)'|()()|~()()|~()'|(A A P A P A P A A P A P B P A B P B P A P A A P A A P A P A B P B P A B P A B P•当证据不确定时，证据理论推理的基本原理是：①从该证据A往前看，即寻找A的出处。

②如果A是由A'导出的，即A' →A →B, 则当A不清楚的时候，采用A'的相关信息进行计算。

③如果还不行，就再往前推。

④是一个递归推导的过程。

•A'是指从A向前看的各个相关证据，所以有时可能存在多个相关证据。

证据的合成•当出现两个证据，即在证据A ′之下，有证据A 1和A 2存在时，设证据A 1和A 2单独受影响的概率分别为P(A 1|A ′)和P(A 2|A ′)，那么)}'|(),'|(max{)'|()}'|(),'|(min{)'|(21212121A A P A A P A A A P A A P A A P A A A P =∨=∧)}'|(,),'|(),'|(max{)'|()}'|(,),'|(),'|(min{)'|(21212121A A P A A P A A P A A A A P A A P A A P A A P A A A A P n n n n L L L L =∨∨=∧∧•当有2个以上的证据存在时，有•简单情况：一个原因，一个结果。