贝叶斯分析(doc 18页)

贝叶斯分析(doc 18页)

第四章贝叶斯分析

Bayesean Analysis

§4.0引言

一、决策问题的表格表示——损失矩阵

对无观察(No-data)问题a=δ

可用表格(损失矩阵)替代决策树来描述决策问题的后果(损失):

或

损失矩阵直观、运算方便

二、决策原则

通常，要根据某种原则来选择决策规则δ，使结果最优(或满意)，这种原则就叫决策原则，贝叶斯分析的决策原则是使期望效用极大。本章在介绍贝叶斯分析以前先介绍芙他决策原则。

三、决策问题的分类：

1.不确定型(非确定型)

自然状态不确定,且各种状态的概率无法估计.

2.风险型

自然状态不确定,但各种状态的概率可以估计.

四、按状态优于：

l ij ≤l

ik

∀I, 且至少对某个i严格不等式成立, 则称行动a

j

按状态优于a

k

§4.1 不确定型决策问题

一、极小化极大(wald)原则(法则、准则) a

1a

2

a

4

min

j max

i

l (θ

i

, a

j

) 或max

j

min

i

u

ij

例:

a 1a

2

a

3

a

4

θ

1

10 8 7 9

θ

2

4 1 9 2

θ

3

13 16 12 14

θ

4

6 9 8 10

各行动最大损失: 13 16 12 14

用

i

∑l ij来评价行动a j的优劣

选min

j

i

∑l ij

上例：

i

∑l ij: 33 34 36 35 其中行动a1的损失最小五、后梅值极小化极大准则(svage-Niehans)

定义后梅值s

ij =l

ij

-min

k

l

ik

其中min

k l

ik

为自然状态为θ

i

时采取不同行动时的最小损失.

构成后梅值(机会成本)矩阵S={s

ij }

m n

⨯

,使后梅值极小化极大,即:

min max j i s ij

例:损失矩阵同上, 后梅值矩阵为:

3 1 0 2

3 0 8 1

1 4 0 2

0 3 2 4

各种行动的最大后梅值为: 3 4 8 4

其中行动a1 的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1.

六、Krelle准则：

使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则.

七、莫尔诺(Molnor)对理想决策准则的要求(1954)

1.能把方案或行动排居完全序；

2.优劣次序与行动及状态的编号无关；

3.若行动a

k 按状态优于a

j

，则应有a

k

优于a

j

；

4.无关方案独立性：已经考虑过的若干行动的优劣不因增加新的行动而改变；

5.在损失矩阵的任一行中各元素加同一常数时，各行动间的优劣次序不变；

6.在损失矩阵中添加一行，这一行与原矩阵中的某行相同，则各行动的优劣次序不变。

§4.2 风险型决策问题的决策原则

一、最大可能值准则

令π(θ

k )=maxπ(θ

i

)

选a

r 使l(θ

k

,a

r

)=min

j

l(θ

k

,a

j

)

例：

π(θ

i

) a1a2a3

θ

1

0.2 7 6.5 6

θ

2

0.5 3 4 5

θ

3

0.3 4 1 0

π(θ

2

) 概率最大, 各行动损失为3 4 5

∴应选行动a

1

二、贝叶斯原则

使期望损失极小：

min

j {

i

∑l(θi, a j) π(θi) }

上例中,各行动的期望损失分别为 4.1 3.6 3.7, 对应于a

2

的期望损失3.6最小

∴应选a

2

.

三、贝努利原则

损失函数取后果效用的负值,再用Bayes原则求最优行动.

四、E—V(均值—方差)准则

若Eπl

ij ≤Eπl

ik

且σσ

j k

≤则a j优于a k

通常不存在这样的a

j 上例中:

a 1a

2

a

3

E 4.1 3.6 3.7

V(σ2) 2.29 3.79 5.967

不存在符合E—V准则的行动, 这时可采用f(μ,σ)的值来判断(μ为效益型后果的期望)

⎧μ-ασ

f( μ，σ)=⎨μ-ασ2

⎩μ-α(μ2+σ2)

f越大越优.

五、不完全信息情况下的决策原则(Hodges-Lehmann原则)

状态概率分布不可靠时, 可采用:

φ(a

j )=λu

ij

i

i

∑⋅π+ min

i

u

ij

i=1,2,…,m j=1,2,…,n

φ越大越优.

§4.3贝叶斯定理

一、条件概率

1.A、B为随机试验E中的两个事件

P(A｜B)=P(AB)/P(B)

由全概率公式: A

j

j=1,2,…,n 是样本空间的一个划分, P(B)=

j

∑P(B|A j)P(A j)