第三章统计决策与贝叶斯估计23页

1. 统计决策函数
给 定 统 计 决 策 问 题 的 三 要 素 后 ， 在 损 失 小 的 前 提 下 ， 选 择 一 个 好 决 策 函 数 就 成 为 核 心 问 题 .
定义3.1 定 义 在 样 本 空 间 上 ， 取 值 于 决 策 空 间 内 的 函 数 d(x)， 称 为 统 计 决 策 函 数 ， 简 称 为 决 策 函 数 .
(4) 多元二次损失函数
当 参 数 以 及 决 策 的 d 为 多 维 向 量 时 ， 二 次 损 失 为
L (,d ) (d )T A (d )
其 中 (1 ,2,L, p)T ,d (d 1 ,d 2,L,d p)T ,A 为 p p
阶 正 定 矩 阵 ， p 为 大 于 1 的 自 然 数 .当 A 为 对 角 矩 阵 时 ，
例3(p80例3.3)设 总 体 X 服 从 正 态 分 布 N (, 1 ) ,为 未 知
参 数 ， 参 数 空 间 为 ( , ) ， 决 策 空 间 可 以 设
为 = ( , ) , 此 决 策 问 题 的 损 失 函 数 可 以 为 ：
(1 ) 设 d 为 的 点 估 计 值 ， 损 失 函 数 可 以 设 为 L (,d)(d)2
一、统计决策问题的三个要素
在前几章讲的统计问题，都可以归结为一个统 计决策问题，也就是建立所谓的统计决策函数.统 计决策问题由三个因素组成，首先来看第一个因素：
1、样本空间和分布族
样本空间 设 样 本 ( X 1 ,X 2 ,L ,X n ) T 来 自 总 体 F ( x ,) ,
未 知 ， ,则 样 本 所 有 可 能 值 组 成 的 集 合 称 为
2、决策空间(或称判决空间)
决策 对每个统计问题的具体回答，就称为一个决策.
例如，参数的点估计，每一个估计值就是一个决策. 决策空间 一个统计问题中，可能选取得全部决策
组成的集合为决策空间，记为 R.
例如，设 总 体 分 布 服 从 N (,2 ) , 对 未 知 参 数 进 行
估 计 ， 由 于 在 ( , )中 取 值 ， 因 而 其 决 策 空
解 由于是两点分布，因而样本的取值只有0,1,则 样本空间为
{ ( x 1 ,x 2 , L ,x n ) : x i 0 , 1 , i 1 ,2 , L ,n }
分布族为 F * {p in 1 x （ i 1 p )n i n 1 x i,x i 1 ,0 ,i 1 ,2 ,L ,n ,0 p 1 }
注 决策函数其实就是决策问题的一个“行动方案. 对于统计问题而言，决策函数为统计量.
例4(p82) 设 总 体 X 服 从 正 态 分 布 N (,2 ) ,2 为 已 知 ,
(X 1 ,X 2 ,L ,X n ) T 取 自 X 的 样 本 ， 试 求 参 数 点 估 计
和 区 间 估 计 的 决 策 函 数 .
X2,L,Xn)T的 概 率 分 布 族 ， 简 称 分 布 族 .
例1(p79例3.1) 设总体X服从两点分布B(1,p),p为
未 知 参 数 ， 0 p 1 , ( X 1 ,X 2 , L ,X n ) T 是 取 自 总 体 X 的 样 本 ， 试 求 其 样 本 空 间 以 及 分 布 族 .
L(,d) （ ） |d-|
此 损 失 函 数 为 绝 对 损 失 函 数 .
(2) 平方损失函数
L (,d ) ( d )2
(3) 凸损失函数
L (,d ) ()W (| d |) 其 中 () 0 是 的 已 知 函 数 ， 且 有 限 ， W (t)是 t 0
上 的 单 调 非 降 函 数 且 W (0 ) 0 .
间 为 ( , ).
例2(p80例3.2) 某厂打算根据各年度市场的销售来 决定下一年度应该扩大生产还是缩减生产，或者维 持原状，这样其决策空间为
{ 扩 大 生 产 ， 缩 减 生 产 ， 维 持 原 状 }
3、损失函数
通常情况下，做任何决策以后，总会有某种后果， 由此可以带来某种收益和损失.为了以数量化的方式描 述这种收益和损失，为此需要引入损失函数.
解 根 据 上 一 章 的 结 论 ， 参 数 点 估 计 的 决 策 函 数 为
1 n
d(x) x n i1 xi
参 数 区 间 估 计 的 决 策 函 数 为
d(x)[xu
2
n,xu2
] n
前言
20世纪40年代，Wald提出了把统计推断问题看 成是人与自然的一种博弈过程，由此建立了统计决 策理论.
贝叶斯估计是贝叶斯统计的主要部分，它是 利用决策理论研究参数估计问题.
本章将主要讨论贝叶斯方法在参数估计中 的应用问题.
第3.1节 统计决策的基本概念
一、统计决策问题的三个要素 二、统计决策函数及其风险函数
(2) 设[d1,d2]为的区间估计值，损失函数可以
设为
L(,d) (d2 d1)
也可以设为
0,
L(,d) 1 I[d1d2]() 1,
[d1 d2] Hale Waihona Puke Baidud1 d2]
常见的损失函数
(1) 线性损失函数
L(,d) k k1 0((d d)),,
d, d,
其 中 k 0 ,k 1 为 常 数 ， 它 们 可 以 反 映 大 于 或 小 于 参 数 时 带 来 不 同 的 损 失 . 当 k 0 k 1 时
即 A d i a g (1 ,2 , L ,p ) , 则 p 元 损 失 函 数 为
p
L(,d) i(i di)2 i1
注 由于在统计问题中，进行的统计推断总是有误差，
因而损失一定存在，因而一般都会假设损失函数为非 负的. 二次损失为参数点估计常用的损失函数.
二、统计决策函数及其风险函数
样 本 空 间 ， 记 为 .
分布族 设 样 本 ( X 1 ,X 2 ,L ,X n ) T 来 自 总 体 F ( x ,) ,
未 知 ， , 其 联 合 分 布 为
n
F(x1,x2,L,xn,) F(xi,) i1 n
若 记 F*{ F(xi,),},则 称 F*为 样 本 (X1, i1