第七章：贝叶斯分析

若X为离散随机变量，则
由于决策认事先不知道真实状态，他只能对随机状态的先验密 度()作出主观估计。所以进行决策分析时，还需要将损失函数 R(, (x) )对取期望值，即
如为连续随机变量，则 如为离散随机变量，则
• r(, )称为决策规则相对于的贝叶斯风险。
对于固定的决策规则(x)，其贝叶斯风险为一常数，它反映 出利用这一决策规则决策的平均损失。
行行动也有2个，故决策规则共有22 = 4个：
1(x)=a1
2(x)= aa12
当x 0时 当x 1时
3(x)= aa12
当x 0时 当x 1时
4(x)=a2 如果样本容量为2，那么抽样结果有3种可能，可行行动海时2个 ，因此决策规则共有23=8个。 一般地，对于有S个可行行动的决策问题，若补充信息值有n个， 则决策规则共有Sn个。
• 三种标准的“损失函数”：
（1）平方损失：
更一般的平方损失是加权平方损失，其形式是
• 线性损失 • “0-1”损失
例. 有两类盒子：甲类盒子只有一个，其中装有80个红球，20 个白球；乙类盒子共有三个，每个盒子均装有20个红球，80个白 球。四个盒子外表一样，内容不知。今从中任取一盒，请你猜它 是哪类的。如果猜中，付你1元钱；如果未猜中，不付你钱。那 么你怎样猜法？
当1时 当2时
其贝叶斯风险：
r(, 1) = R(1, 1)P(1)+ R(2, 1)P(2) = 0.75
对于决策规则2(x)， l(1, 2(0)) = l(1, a1) = 0 l(1, 1(1)) = l(1, a2) = 1 于是
R(1, 2(x)) = R(1, 2(0))P(x=0/1)+ R(1, 2(1))P(x=1/1) = 10.8+00.2=0.8 同样地，
1
1/4
0.04
0.32
P(x=2/) 0.64
2
3/4
0.64
0.32
0.04
表5.5 N=2时猜盒问题的后验分布矩阵
X
P(x)
0
0.49
P(1/x) 1/49
1
0.32
1/4
2
0.19
16/19
P(2/x) 48/49 3/4 3/19
本例中，如果样本容量为1，由于所有可能的抽样结果有2个，可
• E-V准则 • 优势原则与随机性决策准则 （1）当概率不能确定时采用； （2）优势原则：见课本75页例题 （3）随机策略：删除最劣方案
损失函数、风险函数和 贝叶斯风险
损失函数、风险函数和贝叶斯风险
损失函数记作l(, a)，它表示一决策问题当状态为，决策人 的行动为a时，所产生的后果使决策人遭受的损失。由于损失 函数可能为负值，因此它也能反映决策人获得的收益。后果的 效用越大，损失越小。故用效用函数去定义损失函数的一种简 单办法，是令
如果从这个盒子中任意抽取N个球（回置地），让你观察，你 如何根据这N个球的性质来选择自己的行动？
当容量为1或2的抽样时，求各决策规则的风险函数和贝叶斯风 险，并分别指出最佳决策规则。
解：令表示所取出的这个盒子中红球所占的比例。显然， 只能取两个值：若这个盒子是甲类的， = 1= 0.8；若这个盒子 是乙类的， = 1= 0.2。用a1、a2分别表示猜这个盒子是甲类的和 猜它是乙类的这两个行动方案。显然收益矩阵如表5. 1所示。
l(, a) = - u(, a) 为了使损失函数非负，可以定义为
由于损失函数经过任何正线性变换仍然是同一优先关系的效用函 数，因此以上两种形式的损失函数都会得到同样的分析结果。
百度文库
给定的，观察的结果（信息）X是一随机变量，用F(x)记X的条 件分布函数，用f(x)记X的条件密度函数，用 记随机变量的 样本空间。
对于决策法则1(x)，无论是x=0或x=1，都有 l(1, 1(x)) = l(1, a1) = 0 l(2, 1(x)) = l(2, a1) =1 于是
R(1,
1(x))
=E
x 1
l(1, 1(x)) = 0
R(2,
1(x))
=
E
x 2
l(1,
1(x))
=1
即1(x)的风险函数为
R(,1)10
P(1/x=1)=0.2/0.35=4/7 P(2/x=1)=0.15/0.35=3/7
表5. 3 N=1时猜盒问题的后验分布矩阵
X
P(x)
P(1/x)
0
0.65
1/13
P(2/x) 12/13
1
0.35
4/7
3/7
样本容量N=2时， 表5. 4 N=2时猜盒问题的抽样分布矩阵
P() P(x=0/) P(x=1/)
第七章 贝叶斯分析
一. 风险型决策问题的决策准则 二. 损失函数、风险函数和贝叶斯风险 三. 贝叶斯定理 四. 贝叶斯分析
风险型决策问题的决策准则
• 最大可能值准则 先看发生概率最大，再看损失值最小；效 用则反之。 如P73例1 • 贝叶斯准则 后果的期望效用最大；或损失的期望效用 最小。
风险型决策问题的决策准则
l(2, 2(0)) = l(2, a1) = 1 l(2, 2(1)) = l(2, a2) = 0 R(2, 2(x)) = R(2, 2(0))P(x=0/2)+ R(2, 2(1))P(x=1/2) = 10.8+00.2=0.8 因此，2(x)的风险函数为R(, 2) =0.8 其贝叶斯风险为r(, 2)=0.8 类似地，可以求出3和 4的贝叶斯风险分别为r(, 3)=0.2，r(, 4)=0.25 最佳决策规则为3
• 决策规则 就是由所有可能信息值的集合到所有可能行动的集合的一个映射。换
句话说，决策规则是这样一个规则，按照这个规则，对于每一个信息值 X均有唯一确定的可行行动a=(x)与之对应。
设给定一个决策规则(x)，在任一状态下，当信息值X确定后，它所 对应的行动(x)也就确定了，从而(x)的损失值为l(, (x) )，它也是一随机 变量。当给定，l(, (x) )对X的期望值称为风险函数，并记为R(, )， R(, ) = Ex l(, (x) )
0.2
P(x=0/)表示从甲类盒子中抽取1球是白球的概率，显然它等于 0.2 。对另外三个概率可作类似理解。
利用先验分布和抽样分布计算后验分布：
P(x=0)=0.21/4+0.83/4=0.65
P(1/x=0)=0.05/0.65=1/13 P(2/x=0)=0.60/0.65=12/13 P(x=1)=0.81/4+0.23/4=0.35
表5. 1 猜盒问题的收益矩阵
1
1/4
a1
1
a2
0
2
3/4
0
1
假设N=1，即从你猜的那个盒子中取出1个球来观察。规定：对于 红球，x=1；对于白球，x=0，其抽样分布如表5.2 所示：
表5. 2 N=1时猜盒问题的抽样分布矩阵
P()
1
1/4
P(x=0/) 0.2
P(x=1/) 0.8
2
3/4
0.8