贝叶斯统计原理及方法优秀

伽玛函数的性质 : (1) ? (1) ? 1; ? (1) ? ?
2
(2) ? (? ? 1) ? ? ? (? ) 当? 为自然数 n时，有 ? (n ? 1) ? n? (n) ? n !
5
伽玛分布
如果随机变量 X 具有概率密度函数
p( x)
?
? ??
? ?
?
(?
)
x?
?1e? ?x ,
??0,
? 人们希望通过对样本的加工和处理对总体的某些 特征做出较为精确的统计推断。
? 例：有了样本观察值，我们可根据它大概知道总 体的一些特征数（均值、方差等）在一个什么范 围内。
E(X2) ?
? (? ? 1) ?2
Var ( X ) ?
E ( X 2 ) ? [ E ( X )]2
?
? ?2
7
贝塔函数
函数
? B(a, b) ? 1 xa?1(1 ? x)b?1dx 0
称为贝塔函数，其中参数 a>0,b>0.
贝塔函数的性质 : (1) B(a, b) ? B(b, a)
(2) B(a,b) ? ? (a )? (b) ? (a ? b)
? 贝叶斯推断的基本方法是将关于未知参数的先 验信息与样本信息综合，再根据贝叶斯定理，得 出后验信息，然后根据后验信息去推断未知参数 (茆诗松和王静龙等 ,1998年)。 “贝叶斯提出了一种归纳推理的理论 (贝叶斯定 理)，以后被一些统计学者发展为一种系统的统计 推断方法，称为贝叶斯方法 .”──摘自《中国大百 科全书》（数学卷）
Bayesian Statistics
贝叶斯统计
1
贝叶斯统计
预修要求：已修过概率论与数理统计
基本教材： 茆诗松编，贝叶斯统计
中国统计出版社， 2005年.
2
[1] 贝叶斯统计与决策． Berger J O ．中国统计出版 社． 1998 [2] 现代贝叶斯统计． Kotz S, 吴喜之．中国统计出版 社． 1999 [3] 贝叶斯统计推断．张尧庭、陈汉峰．科学出版 社． 1991
?贝叶斯学派 的观点：除了上述两种信息以外， 统计推断还应该使用第三种信息： 先验信息。
21
§1.1 三种信息
? 一、总体信息 ，即总体分布或总体所属分布给我 们的信息。
? 例如：”总体是正态分布“
? 说明：总体信息是很重要的信息，为了获取此种 信息往往耗资巨大。
? 二、样本信息， 即从总体抽取的样本给我们的信 息。（愈多愈好）
16
序言
英国学者 T.贝叶斯 1763 年在《论有关机遇问 题的求解》中提出一种归纳推理的理论，后被一 些统计学者发展为一种系统的统计推断方法，称 为贝叶斯方法。采用这种方法作统计推断所得的 全部结果，构成贝叶斯统计的内容。认为贝叶斯 方法是唯一合理的统计推断方法的统计学者，组 成数理统计学 中的贝叶斯学派，其形成可追溯到 20世纪 30 年代。到50～60年代，已发展为一个 有影响的学派。时至今日，其影响日益扩大。
3
课程考核：闭卷考试
成绩评定 平时(20分)
=作业+考勤+课堂表现
期末(80分)
=卷面(100分) ×
80%
总评(100分)
=平时+期末
比例
20%
80%
100%
学分数
2
课堂上讲过的习题、练习题和作业的题目要会 .
4
伽玛函数
函数
? ? (? ) ? ?? x? ?1e? xdx 0
称为伽玛函数，其中α>0.
1)
Var ( X ) ?
ቤተ መጻሕፍቲ ባይዱ
(a
?
ab b)2(a ?
b?
1)
14
（Bayes ，Thomas ）(1702─1761)
贝叶斯是英国数学家.1702年生于伦敦；1761年4月17日 卒于坦布里奇韦尔斯.
贝叶斯是一位自学成才的数学家 .曾助理宗教事务，后来 长期担任坦布里奇韦尔斯地方教堂的牧师 .1742年，贝叶斯被 选为英国皇家学会会员.
10
贝塔分布
如果随机变量 X 具有概率密度函数
p( x)
?
? ? ?
? (a ? b) ? (a)? (b)
xa ?1 (1?
x) b?1 ,
0 ? x?1
??
0,
其它
那么称 X 服从贝塔分布 ,记作 X~Be(a,b),其中参
数 a> 0,b> 0.
特别，如果 a=b=1，那么 X 服从 [0,1上] 的均
x? 0 x? 0
则称 X 服从伽玛分布, 记作 X~Ga(α,λ).
其中α>0 为形状参数,λ>0 为尺度参数.
6
? ? E (X) ? ? ? ?? x? e? ? xdx ? 1 ?1 ??
? (? ) 0
? (? ) ? 0
? ? (? ? 1) 1 ? ? ? (? ) ? ?
(? x)? e? ? xd(? x)
匀分布 .
13
贝塔分布的数学期望和方差
若X ~ Be(a , b)
? E(X) ? ? (a ? b) 1 xa (1? x)b?1dx
? (a)? (b) 0
? ? (a ? b) ?? (a ? 1)? (b) ? (a )? (b) ? (a ? b ? 1)
?
a a?b
E(X2)
?
(a
?
a (a ? 1) b)(a ? b ?
如今在概率、数理统计学中以贝叶斯姓氏命名的有贝叶 斯公式、贝叶斯风险、贝叶斯决策函数、贝叶斯决策规则、贝 叶斯估计量、贝叶斯方法、贝叶斯统计等等 .
15
贝叶斯方法(Bayesian approach )
? 贝叶斯方法是基于贝叶斯定理而发展起来用于系 统地阐述和解决统计问题的方法 (Samuel Kotz 和 吴喜之 ,2000) 。
17
本书共六章，可分二部分。前三章围绕先验分 布介绍贝叶斯推断方法。后三章围绕损失函数介绍 贝叶斯决策方法。阅读这些内容仅需要概率统计基 本知识就够了。
Byaes 统计学派与经典统计学派虽然有很大区别， 但是它们各有优缺点，各有其适用的范围，作为研 究者一定要博采众长，以获得一种更适合解决实际 问题的方法。而且，在不少情况下，二者得出的结 论在形式上是相同的。
18
目录
第一章先验分布与后验分布 第二章 贝叶斯推断 第三章 先验分布的确定 第四章 决策中的收益、损失与效用 第五章 贝叶斯决策 第六章 统计决策理论
19
第一章先验分布与后验分布
统计学中有两个主要学派：频率学派与贝叶斯 学派。下面从统计推断的三种信息来说明他们之 间的区别与联系。
20
? 经典学派 的观点：统计推断是根据样本信息 对总体分布或总体的特征数进行推断，这里 用到两种信息： 总体信息和样本信息；