主观概率和先验分布
先验分布的确定
3、定分度法与变分度法
基本概念: (1)定分度法:把参数可能取值的区间逐次分为长
度相等的小区间,每次在每个小区间上请专家 给出主观概率. (2)变分度法:该法是把参数可能取值的区间逐次 分为机会相等的两个小区间,这里的分点由专 家确定.
16
三、 利用边缘分布m(x)确定先验密度
1、边缘分布m(x) 2、混合分布 3、先验选择的ML-II方法 4、先验选择的矩方法
n
则 被称为mⅡ(x型| 极ˆ) 大 s似up然i先1 m验(x，i |或)简称为ML-
Ⅱ先ˆ 验。 说明：这里将m(x)看成似然函数
24
25
26
4、先验选择的矩方法
在选择π∈Г时，可用矩方法代替极大似然方法。 矩方法应用于当Г有“已知函数形式”。即可利用先验 矩与边缘分布矩之间的关系寻求超参数的估计。这种方 法称为先验选择的矩方法。该方法的具体步骤是：
c c
c
若令π(1)=1，则π(σ)=1/σ，σ>0 它还是一个非正常先验。
例3.19(p101)
45
46
3、用Fisher信息阵确定无信息先验
1.确定无信息先验的更一般方法(Jeffreys(1961)): 设x=(x1,x2,…,xn)是来自密度函数p(x|θ)的一个样本，θ 为p维参数向量，则可用Fisher信息阵的平方根作为θ的无信 息
(
|
x)
exp ( x)2
exp (
/ 2 2 I (0,) ( x)2 / 2 2 d
)
若取后验均值作为0θ的估计，则:
42
ˆE
E( | x)
( | x)d
0
exp
(
x)2
/ 2 2
第3篇先验分布的确定
3.假如有历史数据，要尽量利用，帮助形成初步概念， 然后再做一些对比修正，再形成个人信念.
注意：1.利用先验信息确定主观概率没有固定模式； 2.主观概率必须满足概率的3条公理.
总结 1.理解主观概率的定义 2.了解主观概率确定的常用方法
§3.2 利用先验信息确定先验分布 在贝叶斯统计方法中关键的一步是确定先验分布。1.
要进一步分析先验信息.先验信息很分散；柯西分布
先验信息较为集中：正态分布
3.两个先验分布都满足给定的先验信息。
（1）如果两个先验分布差别不大，对后验分布的影响 也不大，那可任选一个。
（2）假如面临两个差异较大的先验分布可供选择时， 应慎重选择。因不同的选择对后验分布的影响也会很大.
三、定分度法与变分度法 两种方法的共同点：通过咨询专家获得各种主观概 率，然后经过整理加工可得到累积概率分布曲线.
例3.12 设总体X～N(, σ2) 其中σ2已知。
取另一正态分布N(μπ,τπ2)作为正态均值的先验分布
则可以算得X的边缘分布为N(μπ,τπ2+σ2)
设X 在给定时条件分布为N ( ,
2 ),
(
)
~
N (
,
2
),
则边缘分布m( x
)
~
N (
,
2
2)
n
由 m( X ) m(xi )
i 1
第三章 先验分布的确定
§3.1 主观概率 §3.2 利用先验信息确定先验分布 §3.3 利用边缘分布m(x)确定先验密度 §3.4 无信息先验分布 §3.5 多层先验
概率的公理化定义
定义:设Ω 为一个样本空间， F为Ω的某些子集组成 的一个事件域，如果对任一事件A∈F，定义在F上 一个实值函数P(A)满足下列条件：
1-1 决策的基本概念
常用方法
严格不确定问题的决策方法 不确定性决策的各类方法 贝叶斯决策 随机优势分析 层次分析法 TOPSIS法 ELECTRE法 PROMETHEE法
1 决策的基本概念
1.1 1.2 1.3 1.4 1.5 1.6
决策的定义 决策问题的分类 决策分析的步骤 决策论的发展简史 决策与对策、运筹问题的区别 决策科学与经济学
教学计划
周 1 2 3 4 5 6 7 8 9 10 周二(1-2节) 第1-1章：决策的基本概念 第1-2章：决策建模（决策树、决策表） 第2章：主观概率和先验分布 第1次习题课+第1次课堂测验 第4章： 随机性决策问题的决策准则（贝叶 斯分析2） 第5章：随机优势2 第7章： 多目标决策的基本概念 第9-2章：多属性决策（AHP法） 第3次习题课+第3次课堂测验 总复习1：课程总结+3次课堂测验解答 周四(3-4节) 第1-1章：决策的基本概念 第1-2章：严格不确定决策问题（5大准则） 第3章：效用函数 第4章： 随机性决策问题的决策准则（贝叶 斯分析1） 第5章：随机优势1 第2次习题课+第2次课堂测验 第9-1章：多属性决策（数据预处理+一般加 权和法） 第9-2章：多属性决策（TOTSIS法） 第10章：多目标决策 总复习2：期末试卷分析+模拟试题
战略决策 决策权 信息 问题结构 风险 组织 程序 目标
1.2 决策问题的分类
3) 个人事务决策与公务决策
--强调决策人的价值观：对决策人的判断、 意见、感觉进行量化，由此进行合乎逻辑的 分析、推理→作决策 --我国的行政部门、企业领导的决策是公务 决策，应强调价值判断的客观性和理性化。
先验分布的确定
先验分布的确定幻灯⽚67 其步骤如下：（1）写出样本的对数似然函数∑∏====ni i n i i x p x p x l 11)|(ln )|(ln )|(θθθ（2）求样本的信息阵pj i l E I j i x ,...,2,1,,)(2|=-=θθθθ2|2(),x l I Eθθθ=-??在单参数(p=1)场合,(3)Θ的⽆信息先验密度为2/1)]([det )(θθπI =1/2()[()]I πθθ=在单参数(p=1)场合,幻灯⽚682122(,,...,)(,),(,).n X x x x N Jeffreys µσθµσ==设是来⾃正态分布的⼀组样本试求的先验2211:()ln[]2i x ni l x e µσθπσ--==∑写出样本的对数似然函数22111(,)ln(2)ln ().22ni i l n x µσπσµσ=?=---∑22222222()()0:(,);20()()ll nE E Fisher I n ll E E µµσσµσσµσσ-- ??==?? -- ??其信息阵42),(det -=?σσµn I22,(,):(,)2.Jeffreys n µσπµσσσ--=∝所以的先验为幻灯⽚6911:,(),:()1;,()2,();,(,);nI I n σµπµσµσσπσσµσπµσσ---=∝=∝∝注当已知当已知当和独⽴幻灯⽚70 例3.22关于成功概率的⽆信息先验分布⾄今已有4种π1(θ)=1 ——正常π2(θ)=θ-1(1-θ)-1 ——不正常π3(θ)=θ-1/2(1-θ)-1/2 ——正则化后可成为正常π4(θ)=θθ(1-θ)(1-θ) ——正则化后可成为正常注意：1.⼀般说来，⽆信息先验不是唯⼀的.但它们对贝叶斯统计推断的影响都很⼩，很少对结果产⽣较⼤的影响2.任何⽆信息先验都可以采⽤。
贝叶斯统计3.4,3.5教材
27
例3.22
关于成功概率的无信息先验分布至今已有4种 π1(θ)=1 π2(θ)=θ-1(1-θ)-1 π3(θ)=θ-1/2(1-θ)-1/2 ——正常 ——不正常 ——正则化后可成为正常
π4(θ)=θθ(1-θ)(1-θ) ——正则化后可成为正常
注意：1.一般说来，无信息先验不是唯一的.
但它们对贝叶斯统计推断的影响都很小，很少对结 果产生较大的影响
2.任何无信息先验都可以采用。
28
总结
1. 掌握贝叶斯假设
2.掌握位置参数和尺度参数的无信息先验分布
3.会用Fisher信息阵确定无信息先验
29
§3.5 多层先验
一、多层先验 二、多层模型
30
一、多层先验
1.定义
当所给先验分布中超参数难于确定时，可以对超参数 再给出一个先验，第二个先验称为超先验。由先验和 超先验决定的一个新先验称为多层先验。
试求分布参数 与的无信息先验.
取为位置参数, 为尺度参数, 令 1, ln( ), w ln( x), 则有
p( w; , )
1
w
d * 由随机变量函数知, ( ) ( ) 1 , 2 ( ) 1 , d
浙江财经学院本科教学课程经济数学三概率统计精品文档贝叶斯统计34352第三章先验分布的确定31主观概率32利用先验信息确定先验分布33利用边缘分布mx确定先验密度34无信息先验分布35多层先验334无信息先验分布一贝叶斯假设二位置尺度参数族的无信息先验三用fisher信息阵确定无信息先验4所谓参数??的无信息先验分布是指除参数??的取值范围和??在总体分布中的地位之外再也不包含??的任何信息的先验分布
例3.23 设对某产品的不合格品率了解甚少，只知道 它比较小。现需要确定θ的先验分布。决策人经过 反复思考，最后把他引导到多层先验上去，他的思 路是这样的： (1)开始他用(0,1)上的均匀分布U(0,1)作为θ的先 验分布。
决策分析方法和技术
3、数据透视表/图
• 所谓透视表，实际上就是一个三维数据表 格(Multi-dimension table)，让数据沿三个 不同的坐标轴排列，当试图研究不同数据 之间的关系时，透视表使用起来非常方便， 通过它可以从不同角度对数据进行分析， 从而为决策者提供浓缩信息作为参考。
• 熟练运用Excel的都知道它的透视表功能， 通过该功能，可以完成对数据的筛选、排 序和分类汇总等工作。
• 这时一般采用多目标决策方法。例如: ➢化多为少的方法 ➢分层序列法AHP ➢直接找所有非劣解的方法等。
⑤多人决策情况（群体决策）
• 在同一个方案内有多个决策者，他们的利 益不同，对方案结局的评价也不同。
• 这时采用对策论、冲突分析、群决策等方 法。
• 除上述各种方法外，还有对结局评价等有 模糊性时采用的模糊决策方法和决策分析 阶段序贯进行时所采用的序贯决策方法等。
• 贝叶斯推断与其他统计学推断方法截然不同。它建立在主 观判断的基础上，也就是说，你可以不需要客观证据，先 估计一个值，然后根据推断结果不断修正。正是因为它的 主观性太强，曾经遭到许多统计学家的诟病。
• 贝叶斯推断需要大量的计算，因此历史上很长一段时间， 无法得到广泛应用。只有等到计算机诞生以后，它才获得 真正的重视。人们发现，许多统计量是无法事先进行客观 判断的，而互联网时代出现的大型数据集，再加上高速运 算能力，为验证这些统计量提供了方便，也为应用贝叶斯 推断创造了条件，它的威力正在日益显现。
图2.8 Excel透视图
• § 2-0 简单的决策分析技术 • § 2-1 决策分析方法概述 • § 2-2 主观概率和先验分布 • § 2-3 效用、损失和风险 • § 2-4 确定型决策技术 • § 2-5不确定型的决策分析技术
贝叶斯讲义先验分布的确定解析
13
14
15
说明：如果有两个甚至多个先验分布都满足给定的先 验信息，则要看情况选择：假如这两个先验分布差异 不大，对后验分布影响也不大，则可任选一个；如果 我们面临着两个差异极大的先验分布可供选择时，一 16 定要根据实际情况慎重选择。
三、定分度法与变分度法
基本概念: (1)定分度法:把参数可能取值的区间逐次分 为长度相等的小区间,每次在每个小区间上 请专家给出主观概率. (2)变分度法:该法是把参数可能取值的区间 逐次分为机会相等的两个小区间,这里的分 点由专家确定. 例3.9(自学)
17
§3.3 利用边缘分布m(x)确定先验密度
一、边缘分布m(x)
二、混合分布 三、先验选择的ML-II方法
四、先验选择的矩方法
18
一、边缘分布m(x) 设总体X的密度函数为p(x|θ ),它含有未 知参数θ ，若θ 的先验分布选用形式已知的 密度函数π (θ ),则可算得X的边缘分布（即 无条件分布）： 当为连续时 p( x | ) ( )d , m( x) p ( x | ) ( ) ， 当 为离散时
P( Ai ) P( Ai )
i 1 i 1
（2）如果发现所确定的主观概率与上述三个公理 及其推出的性质相悖，必须立即修正。直到两者一 致为止。（例3.5）
9
10
§3.2 利用先验信息确定先验分布
一、直方图法 二、选定先验密度函数形式再估计其超参数 三、定分度法与变分度法
11
一、直方图法
23
24
三、先验选择的ML-Ⅱ方法
定义：设 { ( | ), } 为所考虑的先 验类，且x=(x1,x2,…,xn)是来自Г 中某一 ˆ ) 满足（对 ˆ ( 分布的样本，若存在 n 观测数据x）： ˆ ) sup m(x | m( xi | )
《贝叶斯统计》课程教学大纲
《贝叶斯统计》课程教学大纲（2004年制定，2006年修订）课程编号：060046英文名：Bayesian Statistics课程类别：统计学专业选修课前置课：微积分、概率论与数理统计后置课：学分：3学分课时：54课时主讲教师：陈耀辉等选定教材：茆诗松，贝叶斯统计，北京：中国统计出版社，1999课程概述：贝叶斯学派是数理统计中一个重要的学派，它有鲜明的特点和独到的处理方法，在国际上贝叶斯学派与非贝叶斯学派的争论是很多的。
本课程重点介绍贝叶斯统计推断的理论、方法及其基本观点，同时对贝叶斯方法和经典方法在历史上的重大分歧也适当地予以介绍。
通过本课程的学习能系统地掌握贝叶斯统计的基本理论、方法和应用，特别是贝叶斯统计中所具特色的一些处理方法及相应的理论。
主要内容有：先验分布与后验分布的基本概念、后验分布的计算方法、估计及假设检验、贝叶斯统计决策方法等。
教学目的：通过该门课程的学习，使学生能了解贝叶斯学派的基本观点和基本思想，了解贝叶斯学派和频率学派联系和区别，了解贝叶斯统计的最新研究进展，能够系统地掌握贝叶斯统计的基本理论、基本方法，更重要的是掌握贝叶斯统计具有特色的一些处理方法以及相应的理论，用以分析问题、解决问题。
教学方法：根据该门课程的特点，在利用传统的教学方法讲授理论的同时，注重案例教学，特别是要适当地运用研讨性教学方法，而且要适时运用创新教学方法，即教师应依据教材对教学内容作合理的安排，讲透重点难点，注意本学科研究的最新成果和前沿知识，既要教学生学习知识，又要培养学生的能力，特别是要培养学生的创新意识和创新能力，争取开展一些第二课堂活动。
各章教学要求及教学要点第一章引论课时分配：2课时教学要求：通过本章的学习，要求学生掌握贝叶斯统计理论的基本观点，了解贝叶斯统计学派和经典统计学派之间的重大分歧，了解现代贝叶斯统计理论的研究现状及贝叶斯统计理论的应用，重点掌握贝叶斯统计的基本思想，深刻理解“概率”、“统计”的不同的哲学解释，学习他们各自的优点来分析问题、解决问题。
【决策管理】《决策理论和方法》习题
【决策管理】《决策理论和⽅法》习题<决策理论和⽅法>习题1998年第⼀章概论⼀、什么是决策? 什么是决策分析? 决策问题的特点是什么? 决策问题有哪些要素?⼆、⽤决策树表⽰下列问题:1. ⽕灾保险2. 易腐品进货问题3. 油井钻探问题: 某公司拥有⼀块可能有油的⼟地, 该公司可以⾃⼰钻井,也可以出租给其它公司开采; 若出租⼟地,租约有两种形式,①⽆条件出租,租⾦45万元②有条件出租,租⾦依产量⽽定: 产量在20万桶或以上时,每桶提成5元; 产量不⾜20万桶时不收租⾦.设钻井费⽤为75万元,有油时需另加采油设备费25万元,油价为15元/桶.(为了简化,可以将油井产量离散化,分为4种状态: ⽆油,产油5万桶, 产油20万桶, 产油50万桶)三、* 设油井钻探问题如下: 每次钻井费⽤10万元,有油时售油收⼊100万元,有油的概率为0.2, ⽆油的概率为0.8.问⽆油时该继续钻井否? 若该, 钻⼏次仍⽆油时停⽌钻井?第⼆章主观概率和先验分布(Subjective Probability & Prior Distribution)⼀、为什么要引⼊主观概率? 试⽐较主、客观概率的异同.如何设定先验分布?⼆、1. 阅读<决策分析> §6.3.42. 两⼈⼀组,⼀⼈充当决策⼈, ⼀⼈充当决策分析⼈, 就来年国民经济增长率的先验分布进⾏对话,并画出对话所得的图形曲线. 互换⾓⾊, 就就来年通涨率的先验分布进⾏对话.三、设某个决策⼈认为产品售出400件的可能性是售出800件的可能性的1/3,是售出1200件的可能性的1/2, 与售出1600件的可能性相同, 售出800件的可能性售出1200件的可能性的两倍, 是售出1600件的可能性的3倍; 售出1200件的可能性⽐售出1600件的可能性的⼤2倍. 求该决策⼈关于产品销售量的主观概率分布.第三章效⽤、损失和风险(Utility 、Loss & Risk)⼀、什么是效⽤? 基数效⽤与序数效⽤有何区别? 采⽤效⽤进⾏决策分析有何利弊?⼆、某⼈请3个朋友吃饭, 他不知道究竟能来⼏⼈. 设各种状态的主观概率如下表所⽰. 设此⼈的效⽤函数u=x-2y-z2.其中x是为朋友预订的客饭有⼈吃的份数, y是来了吃不到饭的客⼈数, z是预订了客饭没有⼈吃的份数, 求他该为朋友订⼏份客饭? (设每⼈吃⼀份, 不得分⽽⾷之)三、某⼈有资产1000⽤于购买股票,A 种股票有70%的机会增值⼀倍30%的可能连本丢掉; B 种股票有60%的机会增值⼀倍40%的可能连本丢掉. 设此⼈的效⽤U 与收益X 的函数关系是U(x)=ln(x+3000).决策⼈⽤m 购A 种股票,1000- m 购B 种股票.求m.四、某⼚考虑两种⽣产⽅案产品A 可以0.3的概率获利5万元, 以0.2的概率获利8万元, 以0.5的概率获利9万元; 产品B 肯定可以获利8万元. 决策⼈甲的效⽤函数为线性,即U 1(x)= x; 决策⼈⼄的效⽤函数 U 2(x)= x 2/5 当 0≤x ≤5 4x -10- x 2/5 当5≤x ≤10 1.画出两个决策⼈的效⽤曲线. 2.甲⼄两个决策⼈分别作何选择?3.若⽣产AB 两种产品均需另加5万元的固定成本, 甲⼄两个决策⼈⼜该作何选择?五、画出你的关于货币的效⽤曲线并作简要说明.六、把⼀副扑克牌的四张A 取出,牌⾯向下洗匀后排在桌⾯上.你可以从下列两种玩法中任选⼀种:⑴先任意翻开⼀张再决定: a)付出35元,叫停; 或者 b)继续翻第⼆张,若第⼆张为红你可收⼊100元, 第⼆张为⿊则付出100元; ⑵任意翻开⼀张, 若此牌为红你可收⼊100元,为⿊则付出100元; 1. 画出此问题的决策树2. 设某决策⼈的效⽤函数u=ln()1200 x ,他该选何种玩法?七、(Peterberg Paradox)⼀个⼈付出C 元即可参加如下的赌博:抛⼀枚硬币,若第N 次开始出现正⾯, 则由庄家付给2N 元. 在这种赌博中, 参加者的期望收益为21N N N p =∞∑ =2121NN ∞∑ = ∞ 但是, 很少有⼈愿意出较⼤的C. 试⽤效⽤理论对此加以证明.第四章贝叶斯分析 (Bayesean Analysis )⼀、 1. 风险型和不确定型决策问题的区别何在? 各有哪些求解⽅法?2. 什么是贝叶斯分析? 贝叶斯分析的正规型与扩展型有何区别?⼆、⽤Molnor 的六项条件逐⼀衡量下列原则: ①Minmax ②Minmin ③Hurwitz ④Savage-Hiehans ⑤Laplace三、不确定型决策问题的损失矩阵如下表. ⽤上题所列五种原则分别求解.(在⽤四、某决策问题的收益矩阵如下表. 试⽤①最⼤可能值原则②Bayes 原则③E-V原则④贝努⾥原则(U=0.1C 2)分别求解五、油井钻探问题(续第⼆章⼆之3)1. 设各种状态的主观概率分布如下表且决策⼈风险中⽴,决策⼈该选择什么⾏动?2. 若可以通过地震勘探(试验费12万元)获得该地区的地质构造类型x j(j=1,2,3,4)的信息.设已知P(x |θ)如下表③进⾏贝叶斯分析,求贝叶斯规则; ④讨论正规型贝叶斯分析的求解步骤;⑤求完全信息期望值EVPI 和采样信息期望值EVSI.六、 1. 医⽣根据某病⼈的症状初步诊断病⼈可能患A 、B 、C 三种病之⼀, 得这三种病的概率分别是0.4、0.3、0.3. 为了取得进⼀步的信息,要求病⼈验⾎,结果⾎相偏⾼. 得A 、B 、C 三种病⾎相偏⾼的可能性分别是0.8、0.6、0.2. 验⾎后医⽣判断患者得A 、B 、C 三种病的概率各是多少? 2.(续1)若得A 、B 、C 三种病的⽩⾎球计数的先验分布分别是在[8000, 1000] 、[7000, 9000] 、[6000, 8500]区间上的均匀分布,化验结果是8350-8450.求此时病⼈患三种病的可能性各是多少?七、某公司拟改变产品的包装, 改变包装后产品的销路不能确定,公司经理的估为了对销路的估计更有把握, 公司先在某个地区试销改变了包装的产品.根据以:1. 2. 确定与各种试销结果相应的贝叶斯⾏动;3. 分析试销费⽤与是否试销的关系.第五章随机优势(Stochastic Dominance)⼀、⽤随机优势原则求解决策问题有何利弊?⼆、决策⼈⾯临两种选择:①在[-1, 1]上均匀分布;②在[-A, B]上均匀分布其中⑴A=B=2; ⑵A=0.5, B=1.5; ⑶A=2, B=3. 试⽤FSD和SSD判别在上述三种情况)下①与②何者占优势.(设决策⼈的效⽤函数u∈U2三、已知收益如下表, ⽤优势原则筛选⽅案. (设决策⼈的效⽤函数u∈U)2.试分析他对下表所⽰的决策问题应作何选择. 四、决策⼈的效⽤函数u∈Ud第⼆篇多准则决策分析(MCDM)第⼋章多属性效⽤函数（Multi-attribution utility function）⼀、某企业拟在若⼲种产品中选⼀种投产，每种产品的⽣产周期均为两年. 现仅考虑两种属性: 第⼀年的现⾦收益X和第⼆年的现⾦收益Y. 设现⾦收益可以精确预计; 企业的偏好是①X、Y是互相偏好独⽴的;②x x x’?x≥x’ ;③y y y’?y≥y’④(100,400)~(200,300), (0,600) ~(100,200). 设有下列产品对:(1). (0,100) (100,100) (2).(0,400) (200,200)(3). (100,500) (200,300) (4). (0,500) (150,200)每对产品只能⽣产其中之⼀. 企业应该作何选择,为什么?⼆、表⼀、表⼆分别给出了两个不同的⼆属性序数价值函数. 分别判断X是否偏好独⽴于Y, Y是否偏好独⽴于X.表⼀表⼆三、某⼈拟从甲地到⼄地.他考虑两个因素,⼀是费⽤C,⼀是旅途花费的时间t,设①他对c、t这两个属性是互相效⽤独⽴的,②费⽤及时间的边际效⽤都是线性的, 且边际效⽤随费⽤和时间的增加⽽减少,③他认为(20,4) ~(10,5), (20,5) ~(10,618);1.求此⼈的效⽤函数2.若此⼈⾯临3种选择:a,乘⽕车,3⼩时到达,30元钱; b,⾃⼰开车,有3/4的机会4⼩时到达化汽油费10元,1/4的机会6⼩时到达化汽油费12元; c, 先化2元乘公共汽车到某地搭便车,1/4的机会5⼩时到达,1/2的机会6⼩时到达,1/4的机会8⼩时到达. 求他应作何种选择.第⼗章多属性决策问题(Multi-attribution Decision-making Problem)即:有限⽅案的多⽬标决策问题(MCDP with finite alternatives)⼀、现拟在6所学校中扩建⼀所. 通过调研和分析, 得到两个⽬标的属性值表如下:(1. .2. 设w1=2w2, ⽤TOPSIS法求解.⼆、(续上题)若在⽬标中增加⼀项,教学质量⾼的学校应优先考虑. 但是各学校教学质量的⾼低难以定量给出, 只能给出各校教学质量的优先关系矩阵如下表. 设三、某⼈拟在六种牌号的洗⾐机中选购⼀种. 各种洗⾐机的性能指标如下表所(表中所列为洗5kg⾐物时的消耗).设各⽬标的重要性相同, 试⽤适当的⽅法求解四、六⽅案四⽬标决策问题的决策矩阵如下表. 各⽬标的属性值越⼤越好.W=(0.3, 0.2, 0.4, 0.1)T , α=0.7 , d1=15 , d3=2.0×106.⽤ELECTRE第⼗⼀章多⽬标决策问题(Multi-objective Decision-making Problem)设决策⼈认为属性x 最重要, 属性y 次之, 试⽤字典序法求解并讨论解的合理性.⼆、<决策分析>P219之例11.1, 若决策⼈的⽬的改为MinP y P y P y y 1123322--+-+++() 试求解并作图. 三、试画出逐步进⾏法(STEM)的计算机求解的程序框图.四、举⼀随机性多⽬标决策问题的实例. 五、多⽬标规划问题 max f 1= 2x 1+ x 2f 1=-4x 1+ x 2 -2x 1+ x 2≤1 - x 1+2x 2≤8 x 1+ x 2≤10 2x 1- x 2≤8 4x 1+3x 2≥8 x 1, x 2≥01. 画出可⾏域X 和X 在⽬标空间的映象Y 的图形.2. 求出所有⾮劣解;3. 在⽬标空间标出理想点;4. 设ω1=ω2求x ω1, x ω2, x ω∞及最佳调和解.六、MADP 和MODP 各有什么特点? 哪些⽅法可以同时适⽤于求解这两类问题?第⼗⼆章群决策(Group Decision )⼀、1.Arrow 不可能定理有什么现实意义?2.什么是投票悖论?3.什么是策略⾏为?⼆、群由30⼈组成, 现要从a、b、c、d四个候选⼈中选出⼀⼈担任某职务.已知群中成员的偏好是:其中8位成员认为 a b c d其中4位成员认为 b c d a其中6位成员认为 b d a c其中5位成员认为 c d a b其中5位成员认为 d a c b其中2位成员认为 d c b a1. ⽤你所知道的各种⽅法分别确定由谁⼊选.2. 你认为选谁合适?为什么?三、某个委员会原有编号为1、2、3的三个成员, 备选⽅案集为{a, b, c}.三个成员的偏好序分别是:c 1b 1ab 2a 2ca 3c 3b1. 求群体序.2. 若委员会新增两个成员(编号为4, 5), 原来成员的偏好序不变, 新增的两个成员应如何表达偏好?3. 原来成员的偏好序不变时,成员4,5联合能否控制委员会的排序结果?为什么?四、谈判问题的可⾏域和现况点如图所⽰.。
第四章：先验信息与主观概率
离散型随机变量先验分布的设定
• 对各事件加以比较确定相对似然率
例1. 考博士生 E：考取 F：考不取 若P(E)=2P(F) 则P(E)=2/3 P(F)=1/3 例 2.某地气候状况：正常年景θ1 ，旱 θ2 ，涝 θ3 正 常与灾年之比：3∶2 则P（θ1)=0.6 水旱灾之比1∶1 P(θ2)=P(θ3)=0.2 该法适用于状态数较少的场合
（4）重要的是，必须把主观概率建立在客观 的现实基础上。主观概率虽然强调决策者或者 专家的主观作用，但是他们在确定主观概率时， 必须对他们所掌握的信息，对类似情况的经验 作出综合判断，而不是主观臆测。承认主观概 率在决策分析中的作用，是相信决策者或者专 家的综合判断能力。 （5）主观概率论是进行决策分析的依据。主观 概率论者要能比较正确地设定主观概率，有赖 于对事件作周密的观察，去获得先验信息，而 且，先验信息愈丰富，设置的主观概率愈准确。
（6）对主观概率的理论研究表明，如果在状态集合上 所定义的偏好二元关系具有完备性和传递性，则所定 义的主观概率同客观概率一样，都可以使用并服从概 率论中一整套推理及计算方法。 客观概率的确定 如果对环境状态已经掌握了大量的历史资料，并 且假定影响这些环境状态的因素没有变化，那么可以 近似地求得状态出现的概率分布函数（根据大数定理， 经验分布函数可近似地作为状态的真正的概率分布函 数）。
构成n+1阶非齐次线性方程组。这n各方程组的解即位所 求的主观概率分布。
主观设定先验分布的其他方法
设定先验分布时的几点假设
• 连通性(Connectivity)，又称可比性 即事件A和B发生的似然性likelihood是可以比 较的： A›B或 AB或B›A 必有一种也仅有一种成立. A›B读作A发生的似然性大于B发生的似然性, AB 读作A发生的似然性与B发生的似然性相当。
贝叶斯讲义 先验分布的确定
p(x | ) ( )d , p(x | ) ( )，
当为连续时 当为离散时
当先验分布含有未知参数，譬如π(θ)= π(θ|λ)，那 么边缘分布m(x)依赖于λ，可记为m(x|λ)，这种边缘分 布在寻求后验分布时常遇到。
19
20
21
二、混合分布
(1)混合分布的概念：设随机变量X以概率π在总体F1 中取值，以概率1-π在总体F2中取值。若F(x|θ1)和 F(x|θ2)分别是这两个总体的分布函数，则X的分布 函数为：F(x)= πF(x |θ1)+(1-π)F(x|θ2) 或用密度函数（或概率密度）表示：
则约有nπ(θ1)个来自F(x |θ1)，约有nπ(θ2)个来自F(x |θ2)。 (3)实例分析:
23
24
三、先验选择的ML-Ⅱ方法
定义：设 { ( | ), }为所考虑的先
验类，且x=(x1,x2,…,xn)是来自Г中某一 分布的样本，若存在 ˆ (ˆ ) 满足（对
观测数据x）：
40
(一)位置参数的无信息先验
定理：位置参数族的先验分布可用贝叶斯假设作为无
信息先验分布。
证明：设总体X的密度具有形式p(x-θ)，其样本空间
与参数空间均为实数集。对X作一个平移Y=X+c，则
Y的密度具有形式：p(y-c-θ)，这相当于对参数θ作
一个平移η=θ+c，即Y的密度形式为p(y-η)，它仍
MMaaddeebbyyccyyhh
第三章 先验分布的确定
经济学院统计系:陈耀辉
11
第三章 先验分布的确定
§3.1 主观概率 §3.2 利用先验信息确定先验分布 §3.3 利用边缘分布m(x)确定先验密度 §3.4 无信息先验分布 §3.5 多层先验
主观概率和先验分布
第二章主观概率和先验分布Subjective Probability and Prior Distribution 本章主要参考文献：60，52，上帝怎样掷骰子§2-1 基本概念一、概率（probability）1. 频率f n(A)==N a/NP (A)==limf n(A)…古典概率的定义n2. Laplace在《概率的理论分析》(1812)中的定义P(A)==k/N式中，k为A所含基本事件数，N为基本事件总数适用条件 1.基本事件有限2.每个基本事件等可能3.公理化定义E是随机试验,S是E的样本空间,对E的每一事件A,对应有确定实数P(A),若满足:①非负性：0≤P(A)≤1②规范性： P(S)=1③可列可加性：对两两不相容事件A k (k=1,2…) (A i∩A j=φ)P(∪A k)=∑P(A k)则称P(A)为事件A发生的概率二、主观概率(subjective probability, likelihood)1. 为什么引入主观概率。
有的自然状态无法重复试验如：明天是否下雨新产品销路如何明年国民经济增长率如何能否考上博士生。
试验费用过于昂贵、代价过大例：洲导弹命中率战争中对敌方下一步行动的估计2.主观概率定义：合理的信念的测度某人对特定事件会发生的可能的度量。
即他相信(认为)事件将会发生的可能性大小的程度。
这种相信的程度是一种信念，是主观的，但又是根据经验、各方而后知识，对客观情况的了解进行分析、推理、综合判断而设定(Assignment)的，与主观臆测不同。
例：考博士生、掷硬币、抛图钉三、概率的数学定义对非空集Ω，元素ω，即Ω=｛ω｝，F是Ω的子集A所构成的σ-域(即Ω∈F；若A∈F则A∈F；若A i∈F i=1,2,…则∪A i∈F)若P(A)是定在F上的实值集函数，它满足①非负性 P(A)≥0②规范性 P(Ω)=1③可列可加性则称P(A)为直的(主以或客观)概率测度，简称概率ω为基本事件A为事件三元总体(Ω，F，P)称为概率空间注意：主观概率和客观概率（objective probability）有相同的定义四、主客观概率的比较(一) 基本属性：O：系统的固有的客观性质，在相同条件下重复试验时频经的极限 S：概率是观察者而非系统的性质，是观察者对对系统处于某状态的信任程度(二)抛硬币：正面向上概率为１／２O：只要硬币均匀，抛法类似，次数足够多，正面向上的概率就是１／２，这是简单的定义。
先验分布的确定
m(x)
p(x | ) ( )d
p(x | ) ( )
(3.1)
当先验分布含有未知参数时，譬如π(θ)=π(θ|λ)，那么边缘分布 m(x)依赖于λ，可记为 m(x|λ). 幻灯片 91 （一）、先验选择的 ML—Ⅱ方法
m(x)
p(x | ) ( )d
p(x | ) ( )
(3.1)
§3.1 主观概率 §3.2 利用先验信息确定先验分布 §3.3 利用边缘分布 m(x)确定先验密度 §3.4 无信息先验分布 §3.5 多层先验
幻灯片 82 总结
1.理解主观概率的定义,了解主观概率确定的常用方法. 2.了解直方图法 3.掌握选定先验密度函数形式再估计其超参数 4.理解定分度法与变分度法
称H ( ( ))为的熵.
如果部分验前信息由下式给出:
m
E [gk ( )] gk (i ) (i ) k , k 1,2,...,m i1
则在上述约束下使熵取 最大值时的 ( )作为的验前密度 ,表示为 :
m
exp[ k gk ( )]
( ) n
k 1 m
exp[k gk ( )]
5. 掌握利用边缘分布 m(x)确定先验密度的先验选择的 ML—Ⅱ方法和先验选择的矩方法 6. 掌握贝叶斯假设 7.掌握位置参数和尺度参数的无信息先验分布 8.会用 Fisher 信息阵确定无信息先验 9.理解多层先验
幻灯片 83 一、主观概率 1.定义：一个事件的概率是人们根据经验对该事件发生的可能性大小所给出的个人信念， 这样给出的概率称为主观概率 幻灯片 84 说明：1.主观概率不是随意决定的，而是要求当事人对所考察的事件有较透彻的了解和丰 富的经验，甚至是这方面的专家。并能对周围信息和历史信息进行仔细分析，在这个基础 上确定的主观概率就能符合实际。所以应把主观概率与主观臆造，瞎说一通区别开来。 2.主观概率要受到实践检验，要符合概率的三条公理，通过实践检验和公理验证，人们会 接受其精华，去其糟粕。 3.主观概率是频率方法和经典方法的一种补充，有了主观概率至少使人们在频率观点不适 用时也能谈论概率，使用概率和统计方法。 4.主观概率并不反对用频率方法确定概率，但也要看到它的局限性。 幻灯片 85 二、确定主观概率的方法 1.用对立事件的比较来确定主观概率（最简单的方法） 2.用专家意见来确定主观概率的方法（最常用的）. 注意：（1）.向专家提的问题要设计好，既要使专家易懂又要使专家回答不是模棱两可。 （2）.要对专家本人比较了解，以便做出修正，形成决策者自己的主观概率. （3）.通过向多位专家咨询后，经修正和综合获得主观概率，关键在于把问题设计好，便 于往后综合，即在提出问题时，就要想到如何综合。 3.假如有历史数据，要尽量利用，帮助形成初步概念，然后再做一些对比修正，再形成个 人信念. 幻灯片 86 二、 利用先验信息确定先验分布
决策分析方法和技术
33
确定性决策的特点
• 一般都能用数学表达式描述 • 目标函数确定，可求出最优解 • 常用方法为运筹学的各种方法： • 线性规划 • 动态规划 • 盈亏平衡分析法等
34
②随机性情况（重点）：
• 也称风险性情况，即由一个方案可能引起 几个结局中的一个，但各种结局以一定的 概率发生。
• 主要应用于产品开发、技术改造、风险投 资等决策问题。
1
学习本章要求掌握以下内容：
• 会画出一个实际问题的决策树 • 掌握最优期望益损值决策准则和最大期望效用值
决策准则 • 了解完全情报及其价值的概念 • 会使用Bayes公式 • 了解效用曲线的含义 • 掌握非确定决策的若干方法 • 了解多目标决策、多属性效用、多属性决策 • 了解群决策、冲突分析
2
20
3、数据透视表/图
• 所谓透视表，实际上就是一个三维数据表 格(Multi-dimension table)，让数据沿三个 不同的坐标轴排列，当试图研究不同数据 之间的关系时，透视表使用起来非常方便， 通过它可以从不同角度对数据进行分析， 从而为决策者提供浓缩信息作为参考。
21
• 熟练运用Excel的都知道它的透视表功能， 通过该功能，可以完成对数据的筛选、排 序和分类汇总等工作。
圆图、箭型图等。 • 如图2.2所示。
10
图2.2 条型图表
11
• 区域图表（Area） • 用于表示不同数据系列之间的对比关系，
强调随时间变化的幅度，同时也显示各数 据系列与整体的比例关系。 • 如图2.3所示。
12
图2.3 区域图表
13
• 饼型图表（Pie） • 用于表示各个数据之间的比例分配关系。 • 饼型图表还可以制作成分离型饼图，它可
统计决策与贝叶斯分析第三章先验分布的确定
使用直方图法时应注意
在实际绘制直方图时，需要考虑区间如何划分才比较恰当，而关于 分多少个区间以及每个区间的大小没有统一的标准。如果划分太细，会 增加估计概率的困难程度;如果划分太粗，则绘制的密度函数将会很粗 糙。因此，要根据问题的实际情况来确定如何划分。另外，借助直方图
得到的密度函数曲线 ( ) 是由各区间上的光滑曲线连接而成，因而并
不好处理。再者，它只适用于有限区间的情形，所以得到的只是截尾的 密度函数，尾部的小概率并未能得到估计。
2.累计概率曲线估计（定分度法和变分度法）
累计概率曲线估计法主要借助咨询专家意见以及决策者的主观 判断确定一些特殊点的概率，然后画出相应的概率曲线，最后利用这 条曲线近似估计其它点的概率。通常分为定分度法和变分度法。
（二）参数 为连续时
当参数 为连续时，我们可以借助已有的信息，根据以下几种方法获 得参数 的先验密度（或先验分布）。
1.直方图法 当参数 的取值空间 为实数轴的一个有限区间时，最简单的方法 是把 分成一些小区间，在每个区间上给出主观概率，然后绘制直方图（如
图 3.1.1），由直方图可以画出光滑的密度 ( ) 的草图。
观似然性，最后由此相对似然性描绘出先验密度。这种方法获得的先 验密度图形的精确度会随着点的增多而提高。
4.设定先验密度，估计未知参数
这种方法思路是：先选定一个先验密度（其中含有未知参数， 即超参数），然后根据已有信息计算先验密度中的未知参数，最后得 到参数的先验密度。
【例 3.1.4 】 假设对某种商品的需求量 选取先验分布为
合已有经验，通过对事件的比较，决定它们的相对似然性。
【例 3.1.1】 想要计算事件的概率，只要将 E 与例如 Ec 做比较， 如 果 决 策 者 根 据 经 验 认 为 E 的 发 生 机 会 是 Ec 的 三 倍 ， 亦 即
分配概率的三个方法
分配概率的三个方法分配概率是概率论中的一个重要概念，指的是将一定数量的可能性分配给不同的事件发生的可能性大小。
在实际生活中，我们经常需要对某些事情进行预测和判断，而分配概率就是一种有效的工具来帮助我们做出正确的决策。
下面将介绍三种常用的分配概率方法。
一、主观概率法主观概率法是一种基于个人经验和主观判断的方法，它将事件发生的可能性分配给不同结果。
这种方法适用于那些没有明确规律或数据支持的情况下，例如天气预报、股票市场等。
在使用主观概率法时，需要考虑以下几个方面：1. 个人经验：个人经验是主观概率法最重要的依据之一。
通过自己过去所获得的知识和经验来判断某件事情发生的可能性大小。
2. 相关信息：除了个人经验之外，还需要考虑与该事件相关联的其他信息，例如历史数据、市场趋势等。
3. 主观感受：在进行主观概率评估时，还需要考虑自己对该事件所持有的态度和看法。
二、频率概率法频率概率法是一种基于历史数据和实验结果的方法，它将事件发生的可能性分配给不同结果。
这种方法适用于那些已经有了大量数据支持的情况下，例如赌场、彩票等。
在使用频率概率法时，需要考虑以下几个方面：1. 历史数据：通过对过去的数据进行分析和统计，来确定某个事件发生的可能性大小。
2. 实验结果：通过实验来验证某个事件发生的可能性大小。
3. 稳定性：在使用频率概率法时，需要考虑到数据稳定性问题。
如果样本数量太少或者数据不够稳定，就不能准确地预测未来的结果。
三、主客观概率法主客观概率法是一种综合了主观和客观因素的方法，它将事件发生的可能性分配给不同结果。
这种方法适用于那些既有历史数据支持，又需要考虑个人经验和看法的情况下，例如体育比赛、选举等。
在使用主客观概率法时，需要考虑以下几个方面：1. 历史数据：通过对过去的数据进行分析和统计，来确定某个事件发生的可能性大小。
2. 个人经验：通过自己过去所获得的知识和经验来判断某件事情发生的可能性大小。
3. 相关信息：除了个人经验之外，还需要考虑与该事件相关联的其他信息，例如历史数据、市场趋势等。
第03讲随机决策理论与方法-1
若展望空间上的实值函数u对于展望空间的任意两个 展望P1、P2，有P1≥P2 iff u(P1)≥u(P2)，则称u为效用 函数。
决策理论与方法-随机决策理论与方法
效用函数—效用的定义
❖ 效用存在性公理（理性行为公理）
连通性：任意两个展望的优劣都是可比的 传递性：展望的优劣满足传递性 复合保序性：展望的优劣关系是可以复合的，且复合
❖ 效用的公理化定义：在上述公理系统中，若展望 空间上存在实值函数u，有：
对展望空间中的任意展望P1、P2，P1>P2 iff u(P1)>u(P2)
u(P1+(1-)P2)= u(P1)+(1-)u(P2) (复合展望的效 用等于展望效用的复合)
对满足上述条件的u1, u2, 必有u1(Pi)=bu2(Pi)+c, 其中b, c∈R1，b>0。（任意两个决策人的效用是线性相关的）
决策理论与方法-随机决策理论与方法
效用函数—效用的定义
❖ 效用就是偏好的量化值。决策的目标就是使期望 效用极大化。
❖ 基本概念及符号
严格序>：a>b表示a优于b。满足传递性和非对称性。
无差异~：a~b表示a与b无差异。满足自反性、对称性 和传递性。
弱序≥：a≥b表示a不劣于b。满足自反性、传递性和反 对称性。
展望(prospect)（事态体）：各种后果(r种)及后果出
现的概率的组合，记为：
P
j=
<
p
1(j),
c
1;
p
(j 2
)
,
c
2
;
…
;
p
r
(
j),
c
r>
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第二章主观概率和先验分布
Subjective Probability and Prior Distribution 本章要紧参考文献：60，52，上帝如何样掷骰子
§2-1 差不多概念
一、概率（probability）
1. 频率
fn(A)==Na/N
fn(A) …古典概率的定义 P (A)==lim
n
2. Laplace在《概率的理论分析》(1812)中的定义
P(A)==k/N
式中，k为A所含差不多事件数，
N为差不多事件总数
适用条件 1.差不多事件有限
2.每个差不多事件等可能
3.公理化定义
E是随机试验,S是E的样本空间,对E的每一事件A,对应有确定实数P(A),若满足:
①非负性：0≤P(A)≤1
②规范性： P(S)=1
③可列可加性：对两两不相容事件Ak (k=1,2…) (Ai∩ Aj=φ)
P(∪Ak)=∑P(Ak)
则称P(A)为事件A发生的概率
二、主观概率(subjective probability, likelihood)
1. 什么缘故引入主观概率。
有的自然状态无法重复试验
如：改日是否下雨
新产品销路如何
明年国民经济增长率如何
能否考上博士生。
试验费用过于昂贵、代价过大
例：洲导弹命中率
战争中对敌方下一步行动的可能
2.主观概率定义：合理的信念的测度
某人对特定事件会发生的可能的度量。
即他相信(认为)事件将会发生的可能性大小的程度。
这种相信的程度是一种信念，是主观的，但又是依照经验、各方而后知识，对
客观情况的了解进行分析、推理、综合推断而设定(Assignment)的，与主观臆测不同。
例：考博士生、掷硬币、抛图钉
三、概率的数学定义
对非空集Ω，元素ω，即Ω=｛ω｝，F是Ω的子集A所构成的σ-域(即Ω∈F；
若A∈F则A∈F；
若Ai∈F i=1,2,…则∪Ai∈F)
若P(A)是定在F上的实值集函数，它满足
①非负性 P(A)≥0
②规范性 P(Ω)=1
③可列可加性
则称P(A)为直的(主以或客观)概率测度，简称概率
ω为差不多事件
A为事件
三元总体(Ω，F，P)称为概率空间
注意：主观概率和客观概率（objective probability）有相同的定义
四、主客观概率的比较
(一) 差不多属性：
O：系统的固有的客观性质，在相同条件下重复试验时频经的极限
S：概率是观看者而非系统的性质，是观看者对对系统处于某状态的信任程度
(二)抛硬币：正面向上概率为１／２
O：只要硬币均匀，抛法类似，次数足够多，正面向上的概率确实是１／２，这是简单的
定义。
S：这确是定义，DMer认为硬币是均匀的，正、反面出现的可能性(似然率)相同，１
／２是个主观的量。
(三)下次抛硬币出现正面的概率是１／２
O：这种讲法不对，不重复试验就谈不上概率
S：对DMer来讲，下次出现正、反是等可能的。
然而他不是讲硬币本身是公正的，它可能会有偏差，就他现有知识而言，没有理由预言一面出现的可能会大于另一面，但多次抛掷的观看结果能够改变他的信念。
O、S：下次抛硬币出现正面依旧反面不能确定，但明白：要么是正面，要么是反面。
§2-2 先验分布(Prior distribution)及其设定
在决策分析中，尚未通过试验收集状态信息时所具有的信息叫先验信息，由先验信息所确定的概率分布叫先验分布。
设定先验分布是Bayesean分析的需要.
一、设定先验分布时的几点假设
1.连通性(Connectivity)，又称可比性
即事件A和B发生的似然性likelihood是能够比较的：
A＞L B或A L B或B＞L A 必有一种也仅有一种
成立.
** A＞L B读作 A 发生的似然性大于B 发生的似然性,
A L
B 读作 A 发生的似然性与B 发生的似然性相当。
2.传递性(Transitivity)
若对事件A，B，C , A ＞L B， B ＞L C 则A ＞L C
3. 部分小于全体：若A B则B L A
例：设定明年国民经济增长率时：
①A：8～11% B：12～15% C：15～20%
若 A ＞L B， B ＞L C ，则 A ＞L C
② A：8～11% D：8～10% 必有D ＞L A
二、离散型随机变量先验分布的设定
1.对各事件加以比较确定相对似然率
例1. 考博士生 E：考取 E：考不取
若P(E)=2P(E) 则P(E)=2/3 P(E)=1/3
例2。
某地气候状况：正常年景θ1，旱θ2，涝θ3
正常与灾年之比：3∶2 则P（θ1)=0.6
水旱灾之比1∶1 P(θ2)=P(θ3)=0.2
该法适用于状态数较少的场合
2.打赌法
设事件E发生时收入P，（0 ＜P ＜1）且 E＼c＝(1—P)
调整P，使决策人感到两者无差异为止, 则：P(E)=P
三、连续型RV的先验分布的设定
1.直方图法
·该法适用于θ取值是实轴的的某个区间的情况
·步骤：①,将区间划分子区间θi…离散化
②设定每个子区间的似然率π(θi)…赋值。