第五章贝叶斯决策PPT资料44页
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
绝。
(4)在 上定义了一个损失函数 L(,a)
则说一个贝叶斯决策问题给定了。
5.2 后验风险准则
一.后验风险 把损失函数对后验分布的期望称为后验风险,记为 R(a x),即
R(ax)ExL(,a) i LL((,ia,)a)xi, x,为 为连 离续 散的 的
例5.3 某工厂的产品每100件装成一箱运交顾客,
厂产品的不合格品率没有超过0.12的记录,取U(0,0.12)为 的先验分布,应该如何决策?若该厂先在每箱中抽取两件
进行检查,然后再做决策,应该如何决策?
二. 决策函数
定义5.1 在给定的贝叶斯决策问题中,从样本空间
x x 1 ,x 2 , ,x n 到行动集 上的一个映射 x称为该
一.平方损失函数下的贝叶斯估计
定理5.1 在平方损失函数L (,x) ( )下2 ,的贝叶 斯估计为后验均值,即 BxE(x)
定理5.2在加权平方损失函数 L ( ,x ) ( )2下,
的贝叶斯估计为
Bx
Ex Ex
定理5.3 在参数向量 (1,2,,k) 的场合下,对
多元二次损失函数 L(,)()Q()Q ,为正定矩
在向顾客交货前有如下两个行动的选择: a1 : 一箱中逐一检查 a2 :一箱中一件也不检查
若工厂选择行动 a 1 ,则可保证交货时每件产品都是合格品,
但因每件产品的检查费为0.8元,为此工厂要支付检查费80 元,但顾客发现不合格品时,按合同不仅允许更换,而且每
件要支付12.5元的赔偿费。若工厂从产品检查部门发现,该
为决策函数x的后验风险。若在决策函数类D中存在这
样的决策函R (数x ) x m ,它R i在(n Dx 中x 具)有最小的后验风险,即
则称
x
D
为后验风险准则下的最优决策函数,或称贝叶斯
决策函数或贝叶斯解。
例5.5 设x x 1 ,x 2 , ,x n是来自正态分布 N(,1) 的一
例5.1 某工厂的产品每100件装成一箱运交顾客,
在向顾客交货前有如下两个行动的选择: a1 : 一箱中逐一检查 a2 :一箱中一件也不检查
若工厂选择行动 a 1 ,则可保证交货时每件产品都是合格品,
但因每件产品的检查费为0.8元,为此工厂要支付检查费80 元,但顾客发现不合格品时,按合同不仅允许更换,而且每
服从正态分布N(,100),其中 为这个孩子的智商。 若从过去的资料知, 的先验分布为 N(100,225),
从而后验分布为N ((4009x)13,8.322)。若这个孩子的 测验结果为115分,在估计这个孩子的智商时,认 为低估比高估的损失高两倍,则其损失函数为
一个样本, 的先验分布函数和密度函数分别
为
F( )
1
0
,
0
() 0 1 , 0
其 中 0 1 ,0 0 为 已 知 , 该 分 布 记 为 P a (,0 ), 数 学 期 望 E () 0 ( 1 )
试在平方损失函数下寻求 的贝叶斯估计
例5.10 某产品的寿命T服从指数分布 E ( ) 。对指定的时间 后该产品才失效的概率为R (t0)P (Tt0)et0 ,称其为该产
的止痛剂,试在后验风险准则下对 作出贝叶斯估
计。
例5.7 设样本x只能来自密度函数 p0 (x)或 p1(x)
中的一个,为了研究该样本到底来自哪个分布,
我们来考虑如下简单假设的检验问题:
H 0:x来 p 0(自 x), H 1:x来 p 1(自 x)
损失函数用矩阵表示如下:
L
0 1
1 0
5.3 常用损失函数下的贝叶斯估计
个样本,参数 的先验分布为共轭先验分
布 N(0, 2),其中 2 已知,损失函数为
L(,x)10,,
求参数 的贝叶斯估计
例5.6 在新的止痛剂的市场占有率 的估计问题中
已给出损失函数 L(,x) 2( ,) 0, 1
药厂厂长对市场占有率 无任何先验信息。在市场
调查中,在n个购买止痛剂的顾客中有x个人买了新
件要支付12.5元的赔偿费。若工厂从产品检查部门发现,该
厂产品的不合格品率没有超过0.12的记录,取U(0,0.12)为 的先验分布,应该如何决策?若该厂先在每箱中抽取两件
进行检查,然后再做决策,应该如何决策?
一般来说,抽样信息在决策中是很重要的信息,获得此种信
息的花费也较大,应予以重视和利用。
个样本,其中 已知。
试在平方损失函数下寻求 1 的贝叶斯估计。
二. 线性损失函数下的贝叶斯估计
定理5.4 在绝对值损失函数 L(,) 下,
的贝叶斯估计为后验分布的中位数。
定理5.5 在线性损失函数
L(,)kk10,,
下, 的贝叶斯估计为后验分布的 k0 (k0 k1)分位
数。
例5.13 考虑对一个孩子做智商测验。设测验结果x
品在时刻的可靠度,现要设法估计可靠度R ( t 0 ) 。 设对n个该产品进行寿命试验,n个产品失效需要很长时间,
一般达到事先规定的失效数r试验就停止了,这样的寿命试
验称为截尾寿命试验,所得的r个失效时间为
t1 t2 Ltr
称为次序样本或结尾样本。
例5.11 设 x x 1 ,x 2 , ,x n来自伽马分布 Ga( , )的一
我们约定,若已知
(1)有一个可观察的随机变量X,其密度函数 p(x )依赖于未知
参数 ,且 。
(2)在参数空间 上有一个先验分布
(3)有一个行动集 {a}。
在对 做点估计时,一般取;在对 做区间估计
时,行动a就是一个区间,的一切可能的区间构成行动 集 ;在对 作假设检验时,只有两个行动:接受和拒
的贝叶斯估计为后验均值向量:
Bx
E
x
E1
x
Ek x
例5.8 设x x 1 ,x 2 , ,x n是来自泊松分布P ( ) 的
一个样本,若 的先验分布用其共轭先验分
布Ga(,) 。试在平方损失函数下寻找 的贝
叶斯估计
例5.9 设 x x 1 ,x 2 , ,x n是来自均匀分布U (0, ) 的
决策问Βιβλιοθήκη Baidu的一个决策函数。所有从 到 上的决
策函数组成的类称为决策函数类,用 Dx
表示。
注:在贝叶斯决策问题中,我们面临的是决策函数
类D,要在D中选取决策函数 x,使其后验风险最小。
三.后验风险准则
定义 在给定的贝叶斯决策问题中,Dx是其决策函数类,
则称
R ( x ) E x L ( ,x ) ,x ,
(4)在 上定义了一个损失函数 L(,a)
则说一个贝叶斯决策问题给定了。
5.2 后验风险准则
一.后验风险 把损失函数对后验分布的期望称为后验风险,记为 R(a x),即
R(ax)ExL(,a) i LL((,ia,)a)xi, x,为 为连 离续 散的 的
例5.3 某工厂的产品每100件装成一箱运交顾客,
厂产品的不合格品率没有超过0.12的记录,取U(0,0.12)为 的先验分布,应该如何决策?若该厂先在每箱中抽取两件
进行检查,然后再做决策,应该如何决策?
二. 决策函数
定义5.1 在给定的贝叶斯决策问题中,从样本空间
x x 1 ,x 2 , ,x n 到行动集 上的一个映射 x称为该
一.平方损失函数下的贝叶斯估计
定理5.1 在平方损失函数L (,x) ( )下2 ,的贝叶 斯估计为后验均值,即 BxE(x)
定理5.2在加权平方损失函数 L ( ,x ) ( )2下,
的贝叶斯估计为
Bx
Ex Ex
定理5.3 在参数向量 (1,2,,k) 的场合下,对
多元二次损失函数 L(,)()Q()Q ,为正定矩
在向顾客交货前有如下两个行动的选择: a1 : 一箱中逐一检查 a2 :一箱中一件也不检查
若工厂选择行动 a 1 ,则可保证交货时每件产品都是合格品,
但因每件产品的检查费为0.8元,为此工厂要支付检查费80 元,但顾客发现不合格品时,按合同不仅允许更换,而且每
件要支付12.5元的赔偿费。若工厂从产品检查部门发现,该
为决策函数x的后验风险。若在决策函数类D中存在这
样的决策函R (数x ) x m ,它R i在(n Dx 中x 具)有最小的后验风险,即
则称
x
D
为后验风险准则下的最优决策函数,或称贝叶斯
决策函数或贝叶斯解。
例5.5 设x x 1 ,x 2 , ,x n是来自正态分布 N(,1) 的一
例5.1 某工厂的产品每100件装成一箱运交顾客,
在向顾客交货前有如下两个行动的选择: a1 : 一箱中逐一检查 a2 :一箱中一件也不检查
若工厂选择行动 a 1 ,则可保证交货时每件产品都是合格品,
但因每件产品的检查费为0.8元,为此工厂要支付检查费80 元,但顾客发现不合格品时,按合同不仅允许更换,而且每
服从正态分布N(,100),其中 为这个孩子的智商。 若从过去的资料知, 的先验分布为 N(100,225),
从而后验分布为N ((4009x)13,8.322)。若这个孩子的 测验结果为115分,在估计这个孩子的智商时,认 为低估比高估的损失高两倍,则其损失函数为
一个样本, 的先验分布函数和密度函数分别
为
F( )
1
0
,
0
() 0 1 , 0
其 中 0 1 ,0 0 为 已 知 , 该 分 布 记 为 P a (,0 ), 数 学 期 望 E () 0 ( 1 )
试在平方损失函数下寻求 的贝叶斯估计
例5.10 某产品的寿命T服从指数分布 E ( ) 。对指定的时间 后该产品才失效的概率为R (t0)P (Tt0)et0 ,称其为该产
的止痛剂,试在后验风险准则下对 作出贝叶斯估
计。
例5.7 设样本x只能来自密度函数 p0 (x)或 p1(x)
中的一个,为了研究该样本到底来自哪个分布,
我们来考虑如下简单假设的检验问题:
H 0:x来 p 0(自 x), H 1:x来 p 1(自 x)
损失函数用矩阵表示如下:
L
0 1
1 0
5.3 常用损失函数下的贝叶斯估计
个样本,参数 的先验分布为共轭先验分
布 N(0, 2),其中 2 已知,损失函数为
L(,x)10,,
求参数 的贝叶斯估计
例5.6 在新的止痛剂的市场占有率 的估计问题中
已给出损失函数 L(,x) 2( ,) 0, 1
药厂厂长对市场占有率 无任何先验信息。在市场
调查中,在n个购买止痛剂的顾客中有x个人买了新
件要支付12.5元的赔偿费。若工厂从产品检查部门发现,该
厂产品的不合格品率没有超过0.12的记录,取U(0,0.12)为 的先验分布,应该如何决策?若该厂先在每箱中抽取两件
进行检查,然后再做决策,应该如何决策?
一般来说,抽样信息在决策中是很重要的信息,获得此种信
息的花费也较大,应予以重视和利用。
个样本,其中 已知。
试在平方损失函数下寻求 1 的贝叶斯估计。
二. 线性损失函数下的贝叶斯估计
定理5.4 在绝对值损失函数 L(,) 下,
的贝叶斯估计为后验分布的中位数。
定理5.5 在线性损失函数
L(,)kk10,,
下, 的贝叶斯估计为后验分布的 k0 (k0 k1)分位
数。
例5.13 考虑对一个孩子做智商测验。设测验结果x
品在时刻的可靠度,现要设法估计可靠度R ( t 0 ) 。 设对n个该产品进行寿命试验,n个产品失效需要很长时间,
一般达到事先规定的失效数r试验就停止了,这样的寿命试
验称为截尾寿命试验,所得的r个失效时间为
t1 t2 Ltr
称为次序样本或结尾样本。
例5.11 设 x x 1 ,x 2 , ,x n来自伽马分布 Ga( , )的一
我们约定,若已知
(1)有一个可观察的随机变量X,其密度函数 p(x )依赖于未知
参数 ,且 。
(2)在参数空间 上有一个先验分布
(3)有一个行动集 {a}。
在对 做点估计时,一般取;在对 做区间估计
时,行动a就是一个区间,的一切可能的区间构成行动 集 ;在对 作假设检验时,只有两个行动:接受和拒
的贝叶斯估计为后验均值向量:
Bx
E
x
E1
x
Ek x
例5.8 设x x 1 ,x 2 , ,x n是来自泊松分布P ( ) 的
一个样本,若 的先验分布用其共轭先验分
布Ga(,) 。试在平方损失函数下寻找 的贝
叶斯估计
例5.9 设 x x 1 ,x 2 , ,x n是来自均匀分布U (0, ) 的
决策问Βιβλιοθήκη Baidu的一个决策函数。所有从 到 上的决
策函数组成的类称为决策函数类,用 Dx
表示。
注:在贝叶斯决策问题中,我们面临的是决策函数
类D,要在D中选取决策函数 x,使其后验风险最小。
三.后验风险准则
定义 在给定的贝叶斯决策问题中,Dx是其决策函数类,
则称
R ( x ) E x L ( ,x ) ,x ,