bayes判别分析案例及结果

合集下载

bayes法计算遗传例子(一)

bayes法计算遗传例子(一)Bayes法计算遗传Bayes法是一种常用的概率统计方法，用于计算遗传学中的各种概率问题。

下面列举了一些应用Bayes法计算遗传的例子，并详细讲解每个例子的计算步骤。

例子1: 遗传病携带者概率假设某种遗传病是由一对隐性基因引起的，该基因阻碍了患者体内产生特定的酶。

现在有一对夫妇，二者都没有表现出遗传病的症状，但知道自己的父母中有人患有该病。

他们打算要一个孩子，现在想知道他们的孩子患有该病的概率。

计算步骤： 1. 假设该夫妇都是基因携带者的概率为P(A) = 1/4，其中A代表该夫妇都是基因携带者。

2. 由于该病是由隐性基因引起的，在一对隐性基因携带者夫妇的子女中，每个子女的患病概率为1/4。

3. 因此，该夫妇的孩子患有该病的概率为P(B|A) = 1/4。

例子2: 遗传病与基因检测某种遗传病的表现型只有基因型为Aa或AA的个体才会患病。

现有一家三口，父亲和母亲的基因型均为Aa，他们的孩子患病的概率是多少？计算步骤： 1. 父亲和母亲的基因型为Aa，即每个人都有一个A基因和一个a基因。

2. 孩子患病的概率可以通过计算父亲和母亲之间产生不同基因型子代的概率来得到。

在这种情况下，父亲和母亲之间共有以下四种基因组合：AA、Aa、aA、aa，每种组合的概率均为1/4。

3. 只有基因型为Aa或AA的个体才会患病，因此只有前三种基因组合的孩子有可能患病。

这三种组合中，有两种携带基因A的组合(AA和Aa)，因此孩子患病的概率为P(B) = 2/4 = 1/2。

例子3: 利用先验概率计算遗传性状某种遗传性状受一个隐性基因和一个显性基因共同决定。

现有一对夫妇，其中丈夫是显性基因型，妻子是隐性基因型。

他们的孩子有多大概率是显性基因型？计算步骤： 1. 根据题目所给的信息，丈夫的基因型是显性，即AA或Aa；妻子的基因型是隐性，即aa。

2. 在这种情况下，通过计算丈夫和妻子之间产生不同基因型子代的概率，来确定孩子是显性基因型的概率。

4.3-贝叶斯判别分析

p20=1-chi2cdf(Q20, p*(p+1)/2) %卡方分布概率p20 p20 P{Q2 Q20}
输出结果：Q10=2.5784，Q20=0.7418均<7.8147=λ， p10=0.4613,p20=0.8633,均>0.05, 认为两个总体协方差矩阵相等
（2）估计两个总体的先验概率
1 2
(x
μ
j
)T
Σ
1
(x
μ
j
)}
广义平方距离：
d
2 j
(x)
(x μ j )T
Σ1(x μ j ) 2ln
pj
ln
|
Σ|
d
2 2
(x)
-
d12
(x)
（2 w1
(x)
w2
(x)）
wj (x)
(μ j )T
Σ1x
1 2
(μ
j
)T
Σ1μ j ) ln
pj
后验概率准则：x G1,
x G2,
d12 (x) d22 (x)
若两类蠓虫协方差矩阵相等，假设总体Apf和Af均服从正态分布，用Bayes判别法判别三个蠓虫属于哪一类？ (1.24,1.8)，(1.28,1.84)，（1.4，2.04）
12
(1)检验两个总体协方差矩阵相等
假设： H0 : Σ1 Σ2 Σ H1 : Σ1 Σ2 检验统计量：Qi (ni 1)[ln | S | ln | Si | p tr(S 1Si )]
例4.3.2 对破产企业收集它们在破产前两年年度财务数据，对财务良好的企业也收集同一时间数据. 数据涉及4个变量:X1--现金流量/总债务,X2--净收益/总资产,X3-- 流动资产/流动债务,X4--流动资产/净销售额,数据如表4.2 所示.

贝叶斯判别、费希尔判别法的计算机操作及结果分析

贝叶斯判别、费希尔判别法的计算机操作及结果分析一、实验内容、目标及要求（一）实验内容选取140家上市公司作为样本，其中70家为由于“财务状况异常”而被交易所对其股票实行特别处理（Special Treatment，简称ST）的公司，另外70家为财务正常的公司。

为了研究上市公司发生财务困境的可能性，以“是否被ST”为分组变量，选择资产负债率、总资产周转率和总资产利润率几个财务指标作为判别分析变量，这三个指标分别从上市公司的偿债能力、资产管理能力和获利能力三个不同的角度反映了企业的财务状况。

（二）实验目标贝叶斯判别、费希尔判别法的计算机操作及结果分析。

（三）实验要求要求学生能熟练应用计算机软件进行判别分析并对结果进行分析，培养实际应用能力。

二、实验准备（一）运行环境说明电脑操作系统为Windows XP及以上版本，所需软件为SPSS 16.0。

（二）基础数据设置说明将数据正确导入SPSS，设置相应的变量值。

三、实验基本操作流程及说明（一）系统界面及说明同实验一。

（二）操作步骤1. 选择菜单项Analyze→Classify→Discriminate，打开Discriminate Analysis对话框，如图4-1。

将分组变量st移入Grouping V ariable列表框中，将自变量x1－x3选入Independents 列表框中。

选择Enter independents together单选按钮，即使用所有自变量进行判别分析。

若选择了Use stepwise method单选按钮，则可以根据不同自变量对判别贡献的大小进行变量筛选，此时，对话框下方的Method按钮被激活，可以通过点击该按钮设置变量筛选的方法及变量筛选的标准。

图4-1 Discriminate Analysis对话框2. 单击Define Range按钮，在打开的Define Range子对话框中定义分组变量的取值范围。

本例中分类变量的取值范围为0到1，所以在Minimum和Maximum输入框中分别输入0和1。

正态分布中的Bayes决策

贝叶斯定理的公式为：P(A|B) = (P(B|A) * P(A)) / P(B)，其中P(A|B)是在B发生的条件下P(A)是A发生的概率，P(B)是B发生的概率。
贝叶斯决策的优势
01
贝叶斯决策方法能够考虑不确定性和主观性，使得决策更加科学和合理。
先验概率
在Bayes决策中，先验概率是指在做出决策之前，对各个可能结果发生概率的估计。在正态分布中，先验概率可以通过已知的数据和概率密度函数计算得出。
计算方法
根据正态分布的性质，先验概率可以通过以下公式计算：P(μ) = 1 / (σ√(2π))，其中μ是正态分布的均值，σ是标准差，π是圆周率。
理论依据坚实
Bayes决策理论基于贝叶斯定理和最大期望效用原则，通过计算后验概率和期望效用来做出最优决策。在正态分布中，这一理论能够为决策者提供坚实的理论依据，帮助其做出更加科学和准确的决策。
灵活性强
Bayes决策理论可以根据不同的先验信息和数据分布，灵活地调整模型参数和决策规则，从而更好地适应各种复杂情况。在正态分布中，这一优点能够使得Bayes决策更加灵活和实用。
利用正态分布计算最优决策
最优决策
在Bayes决策中，最优决策是指根据先验概率和后验概率做出的最优选择。在正态分布中，最优决策可以通过最大化后验概率或最小化损失函数得出。
计算方法
根据最大后验概率准则，最优决策可以通过以下步骤得出：首先计算各个可能结果的损失函数值，然后选择损失函数值最小的那个结果作为最优决策。如果需要更严谨的决策准则，可以考虑最小化期望损失函数或最大化期望效用函数。
在贝叶斯决策中，决策者通常会根据历史数据和经验对事件发生的概率进行先验估计，并在获得新的信息后，利用贝叶斯定理更新这些估计。

判别分析贝叶斯判别演示文稿

去掉与i无关的项，等价的判别函数为：
zi (x)
ln
qi
1 2
ln
|
i
|
1 2
(
x
(i
)
)
1 i
(
x
(i
)
)
问题转化为若
Zl
(
x)
max[
1ik
Z
i
(
x)]，则判
x Gl 。
当协方差阵相等时
即1 k
判别函数退化为
第十九页，共28页。
zi (x) ln qi
1 (x μ(i) )Σ1(x μ(i) ) 2
如果W（y） 0，则G1 G2，y G1,相反则y G2
因此有
y y
G1 ， G2 ，
如W（y）如W（y）
0， 0。
第七页，共28页。
2、当总体的协方差已知，但不相等
y G1，如d 2 y，G1 d 2 y，G2 ，
y
G2
，
如d 2 y，G2 d 2 y，G1
d 2 (y,G2 ) d 2 (y,G1)
设有总体 Gi (i 1,2,，, k具) 有概G率i 密度函数。并且fi (根x)据以往的统计分析，知道出现的概Gi率为。即当样qi 本发生时，x0 求属于某类x0 的概率。由贝叶斯公式计算后验概率，有：
P(Gi
|
x0 )
qi q
fi (x0 ) j f j (x0 )
判别规则
0.9，坏人做好事的概率为0.2，一天，小王做了一件好事，小王是好人的概率有多大，你现在把小王判为何种人。
第十四页，共28页。
P(好人 / 做好事）

贝叶斯Bayes例题

我们来看一个简单的例子：例：高射炮向敌机发射三发炮弹，每弹击中与否相互独立且每发炮弹击中的概率均为0.3，又知敌机若中一弹，坠毁的概率为0.2，若中两弹，坠毁的概率为0.6，若中三弹，敌机必坠毁。

求敌机坠毁的概率。

解：设事件B=“敌机坠毁”；Ai=“敌机中弹”；i=0,1,2,3 实际上我们从题目知道应该是A0,A1,A2,A3构成完备事件组，但是敌机坠毁只和A1,A2,A3有关，即则我们可用如下公式则贝叶斯准则例题P(B|A) 在A的情况下B发生的概率P（A|B）在B的情况下A发生的概率贝叶斯公式：贝叶斯定理公式：P(A|B)=P(B|A)*P(A)/P(B)如上公式也可变形为：P(B|A)=P(A|B)*P(B)/P(A)1、例如：一座别墅在过去的 20 年里一共发生过 2 次被盗，别墅的主人有一条狗，狗平均每周晚上叫 3 次，在盗贼入侵时狗叫的概率被估计为0.9，问题是：在狗叫的时候发生入侵的概率是多少？我们假设 A 事件为狗在晚上叫，B 为盗贼入侵，则 P(A) = 3 / 7，P(B)=2/(20·365)=2/7300，P(A | B) = 0.9（窃贼入室盗窃狗叫概率），按照公式很容易得出结果：P(B|A)=0.9*(2/7300)*(7/3)=0.000582、另一个例子，现分别有 A，B 两个容器，在容器 A 里分别有 7 个红球和 3 个白球，在容器 B 里有 1 个红球和 9 个白球，现已知从这两个容器里任意抽出了一个球，且是红球，问这个红球是来自容器 A 的概率是多少?假设已经抽出红球为事件 B，从容器 A 里抽出球为事件 A，则有：P(B) = 8 / 20，P(A) = 1 / 2，P(B | A) = 7 / 10（容器A中抽到红球的概率），按照公式，则有：P(A|B)=(7 / 10)*(1 / 2)*(20/8)=7/8。

实验报告Bayes判别

实验十一Bayes判别实验目的和要求掌握Bayes判别分析的理论与方法、模型的建立与误差率估计；掌握利用判别分析的SAS过程解决有关实际问题.实验要求:编写程序，结果分析．实验内容：5.4 5.5 选一题data examp5_4。

input group $ x1-x7 @@。

cards。

G1 6.6 39 1.0 6.0 6 0.12 20G1 6.6 39 1.0 6.0 12 0.12 20G1 6.1 47 1.0 6.0 6 0.08 12G1 6.1 47 1.0 6.0 12 0.08 12G1 8.4 32 2.0 7.5 19 0.35 75G1 7.2 6 1.0 7.0 28 0.30 30G1 8.4 113 3.5 6.0 18 0.15 75G1 7.5 52 1.0 6.0 12 0.16 40G1 7.5 52 3.5 7.5 6 0.16 40G1 8.3 113 0.0 7.5 35 0.12 180G1 7.8 172 1.0 3.5 14 0.21 45G1 7.8 172 1.5 3.0 15 0.21 45G2 8.4 32 2.0 9.0 10 0.35 75 G2 8.4 32 2.5 4.0 10 0.35 75 G2 6.3 11 4.5 7.5 3 0.20 15 G2 7.0 8 4.5 4.5 9 0.25 30 G2 7.0 8 6.0 7.5 4 0.25 30 G2 7.0 8 1.5 6.0 1 0.25 30 G2 8.3 161 1.5 4.0 4 0.08 70 G2 8.3 161 0.5 2.5 1 0.08 70 G2 7.2 6 3.5 4.0 12 0.30 30 G2 7.2 6 1.0 3.0 3 0.30 30 G2 7.2 6 1.0 6.0 5 0.30 30 G2 5.5 6 2.5 3.0 7 0.18 18 G2 8.4 113 3.5 4.5 6 0.15 75 G2 8.4 113 3.5 4.5 8 0.15 75 G2 7.5 52 1.0 6.0 6 0.16 40 G2 7.5 52 1.0 7.5 8 0.16 40 G2 8.3 97 0.0 6.0 5 0.15 180 G2 8.3 97 2.5 6.0 5 0.15 180 G2 8.3 89 0.0 6.0 10 0.16 180 G2 8.3 56 1.5 6.0 13 0.25 180 G2 7.8 172 1.0 3.5 6 0.21 45run。

判别分析实例讲解

例：人文与发展指数是联合国开发计划署于1990年5月发表的第一份《人类发展报告》中公布的。

该报告建议，目前对人文发展的衡量指标应当以人生的三大要素为重点。

衡量人生的三大要素的指标分别为：实际人均GDP指数、出生时的预期寿命指数、受教育程度指数（由成人识字率指数和综合总人学率指数按2/3、1/3的权重加权而得），将一生三个指数合成为一个指数就是人文发展指数。

今从2007年世界各国人文发展指数（2005年）的排序中，选取高发展水平、中等发展水平和低发展水平国家各6个作为三组样品，另选四个国家作为待判样品，资料如下表所示。

试用判别分析过程对以下数据资料进行判别分析，并据此对待data develop;input type gdp life rate zhrate@@;cards;1 41890 77.9 99.5 93.31 29461 79.1 99.2 881 23381 78.9 96 991 29663 79.4 92.5 87.31 28529 80.3 98.4 90.61 22029 77.9 99 962 6000 77.7 99.8 87.62 9060 71.9 97.3 76.82 8402 71.7 88.6 87.52 8677 69.6 92.6 71.22 5137 71 92.6 81.12 8407 71.4 87.4 68.73 1550 62.6 48.6 58.13 1128 46.5 69.1 56.23 2299 49.8 67.9 62.33 2370 64.6 49.9 403 3071 73.7 90.3 63.93 3843 69.7 90.4 68.2. 31267 82.3 99 85.9. 3452 63.7 61 63.8. 6757 72.5 90.9 69.1. 11110 50.8 82.4 77;proc discrim simple wcov distance list;/*simple:要求技术各类样品的简单描述统计量；选项WCOV要求计算类内协方差阵；选项DISTANCE要求计算马氏距离；选项LIST要求输出重复替换归类结果。

模式识别实验报告实验一 BAYES分类器设计

P (i X )
P ( X i ) P (i )
P( X ) P( )
j 1 i i
c
j=1,…，x
(2)利用计算出的后验概率及决策表，按下面的公式计算出采取 ai ,i=1,…，a 的条件风险
R (a i X ) (a i , j ) P ( j X ) ,i=1,2,…,a
1.2 1 0.8 0.6 0.4 0.2 0 -0.2 -5 正常细胞异常细胞后验概率分布曲线
后验概率
-4
-3
-2
-1 0 1 细胞的观察值
2
3
4
5
图 1 基于最小错误率的贝叶斯判决

最小风险贝叶斯决策风险判决曲线如图 2 所示，其中带*的绿色曲线代表异常细胞的条件风险曲线；另一条
光滑的蓝色曲线为判为正常细胞的条件风险曲线。根据贝叶斯最小风险判决准则，判决结果见曲线下方，其中“上三角”代表判决为正常细胞， “圆圈“代表异常细胞。各细胞分类结果： 1 0 0 0 0 0 0 0 0 0 0 0 1 1 0 1 1 1 0 0 0 1 0 1 其中，0 为判成正常细胞，1 为判成异常细胞
实验一 Bayes 分类器设计
【实验目的】
对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。
【实验原理】
最小风险贝叶斯决策可按下列步骤进行： (1)在已知 P (i ) ， P ( X i ) ，i=1,…，c 及给出待识别的 X 的情况下，根据贝叶斯公式计算出后验概率：
4 0
请重新设计程序，完成基于最小风险的贝叶斯分类器，画出相应的条件风险的分布曲线和分类结果,并比较两个结果。

判别分析案例

逐步判别法
• 逐步判别法就是在前面的方法中加入变量选择功能。有时，一些变量对于判别没有什么作用，为了得到对判别最合适的变量，可以使用逐步判别。 • 逐步判别的思想是先用少数变量进行判别，然后一边判别，一边引进判别能力最强的变量，同时淘汰判别能力不强的的变量。 • 主要利用一些检验来判断变量的判别能力。
公司
徽标
多元统计分析——判别分析
统计
研一
苏旸
2007100196
判别分析——把对象归到已知类中
• 人们常说： ——“像诸葛亮那么神机妙算” ——“像泰山那么稳固” ——“像钻石那么坚硬” • 一些判别标准都是有原型的，虽然这些判别的标准并不那么精确或严格，但大都是根据一些现有的模型得到的。
判别分析的方法
SPSS实现——选择变量的方法
两种变量选择方法
自变量同时进入方程
逐步判别法
SPSS实现——变量选择
group 选入分组变量 is-cs 选入自变量
选择自变量同时进入方程的方法
SPSS实现——Statistics模块
Descriptives：描述性统计量。
Means：均数估计。 Univariate ANOVAs：单变量方差分析。 Box’s M：组间协方差齐性检验。
选择以样本量百分比为先验概率显示每个单位判别分析后所属类别显示判别符合率表类别显示在同一散点图中
以剔出某观察单位所建立的判别函数判别该观察单位所属类别
SPSS实现——Save模块
Save：存为新变量。
Predicted group membership：预测观察单位所属类别。 Discriminant scores：判别分。 Probabilities of group membership：观察单位属于某一类的概率。

贝叶斯__Bayes判别分析理论在安全评价中的应用

研究与探讨贝叶斯(B ayes)判别分析理论在安全评价中的应用雷兢　沈斐敏(福州大学环境与资源学院　福州350002) 摘　要　论述了多元统计分析方法中的贝叶斯判别分析方法在安全评价中的应用。

通过对原始数据的分析建立起反映被评价对象安全状况的综合指标函数模型,从而简化后续同类评价目标工作量。

关键词　贝叶斯判别分析　安全评价　模型Application of B ayes Discriminant Analysis in S afety Evalu ationLei Jing Shen Feim in(Institute o f Environment and Resources ,Fuzhou Univer sity Fuzhou 350002)Abstract The paper expounds the application of Bayes discrim inant analysis in safety evaluation.Based on analysis of the original datum ,a m odel of evaluation function that reflects safety condition of evaluated object is constructed s o as to sim plify the process of the same evaluat 2ed target.K eyw ords bayes discrim inant analysis safety evaluation m odel 安全是人类生存和发展的最基本的需要之一,它伴随着人类的诞生而产生,存在于人类的所有活动中,随着科学技术的迅猛发展,人民生活水平及安全意识的提高和中国加入WT O ,人们对安全越来越重视,安全在国家的政治、经济、文化生活中已成为必不可少的角色。

第六章 bayes判别分析+ 举例

学习目的
本章只介绍判别分析的几种最基本的方法：贝叶斯判别、距离判别及费歇判别．学习本章，要密切联系实际，着重理解判别分析的基本思想方法及具体实现步骤，了解几种不同判别分析方法的优、缺点及应用背景．
第六章
判别分析
贝贝叶叶斯斯判判别别
距离判别费歇判别费歇判别
i =1
给定 R 的一个划分 R = ( R1 , R2 ,
Ri ∩ R j = φ (i ≠ j , i, j = 1,2,
, Rk ) ，即 ∪ Ri =R m ，
i =1
k
, k) ，由 R 规定的判别准
空间 R m 的一个分划（有时也称为判别）。即
R m = {R1 , R2 | R1 ∪ R2 = R m , R1 ∩ R2 = φ }
由 R 规定的判别准则如下：如果 x 落在 R1 内，则判其来自总体 π 1 ；如果 x 落在 R2 内，则判其来自总体 π 2 。给定分划的损失函数及平均损失设 C (1 | 2) 为样品 x 来自总体 π 2 而误判为总体这其 π 1 的损失，一误判的概率记为 P (1 | 2 , R ) ，中 R = ( R1 , R2 ) ； (2 | 1) 为样品 x 来自总体 π 1 而误判 C 于是有为总体 π 2 的损失，误判的概率记为 P(2 | 1, R) 。
R m 的任一划分，即
（6-4）
* * 证明：设 R = ( R1 , R2 ) 由（6-4）给出， R * = ( R1 , R2 ) 为
* * * * R1 ∪ R2 = R m ， R1 ∩ R2 = φ 。
g(R1 , R2 ) = q1C(2 | 1) P(2 | 1, R) + q2 C(1 | 2) P(1 | 2, R)

判别分析(3)贝叶斯判别

的值,即qi=ni/n(i=1,…,k),其中ni是第i类总体的样品
个数，而n=n1+ n2 + … + nk .这时要求训练样本是通过随机抽样得到的,各类的样品被抽到的机会大小就
是验前概率.
(c) 2021/2/4 假定q1=q2=…=qk=11/k.
6
§4.3.1 贝叶斯准则
2021/2/4
2021/2/4
1
8
§4.3.1 贝叶斯准则
问题：待判样品X属于哪一类？？ P (t|X )mP a (k|x X )mg a qkfx k(X ) (k1 ,2 , ,g)
q ifi(X )
i 1
对于诸总体，显然分母（全概率）都是相同的，因此只要比较式分子的大小，即可判断条件概率的大小，进而对待判样品作出归类。
1
14
§4.3.1 判别函数
式中，
m
Cjk Sl1 jxkj l1
(j1,2, ,m )
C o k 1 2 X k T S 1 X k 1 2 jm 1 lm 1 S j1 l x k lx k j 1 2 jm 1 C kx k jj
这里
S
1 jl
为矩阵
S
1中的元素。于是最终得化简后
2021/2/4
1
24
气体
氯
1
0.056
2
0.040
3
0.050
4
0.045
5
0.038
6
0.030
7
0.034
8
0.030
9
0.084
10
0.085
11
0.064
12
0.054

实验十一 Bayes判别

实验十一 Bayes 判别实验目的和要求掌握Bayes 判别分析的理论与方法、模型的建立与误差率估计；掌握利用判别分析的SAS 过程解决有关实际问题.实验要求:编写程序，结果分析．实验内容：1、2题必做，第2-4题可选一题1. 写出两总体Bayes 判别的划分、准则,误判率估计;两总体的Bayes 判别准则为⎩⎨⎧<=∈∈≥=∈∈)}()2|1()()1|2(:{,)}()2|1()()1|2(:{,221122221111x x x x x x x x x x f p c f p c R G f p c f p c R G 如如误判概率的频率估计---回代法和交叉确认法*p ),2|1(),1|2(21R R P p P p +=212112221212112211*ˆn n n n n n n n n n n n n n p++=⋅++⋅+=≈ 回代法估计 21*21*12*ˆn n n n pp c++=≈* 交叉确认法估计2.写出两总体正态分布的Bayes 判别准则，给出样品；两个正态总体的Bayes 判别212221212||)2()},(21exp{)}()(21exp{||)2(1)(j p j j j T j j p j G d f Σx μx Σμx Σx ππ-=---=- )}()(21||ln )2ln(2)(ln 1j j j j j p f μx Σμx Σx -----=-π =)(2x j d )()(1j j T j μx Σμx ---)|(ln 2-ln 2-||ln j i c p j j Σ+---广义平方距离2,1,)(2exp()(2exp()(21exp()|(22212=-+--=j d d d G P j j x x x x ----后验概率最优划分 ⎩⎨⎧>=≤=)}()(:{)}()(:{2221222211x x x x x x d d R d d R两正态总体一般判别准则⎩⎨⎧><∈≤≥∈)()()|()|(,)()()|()|(,22212122221211x x x x x x x x x x d d G P G P G d d G P G P G 或当或当3.书上5.4、5.5选一题 5.4 (1) 结果如下：data examp5_4;input group $ x1-x7 @@; cards ;G1 6.6 39 1.0 6.0 6 0.12 20 G1 6.6 39 1.0 6.0 12 0.12 20 G1 6.1 47 1.0 6.0 6 0.08 12 G1 6.1 47 1.0 6.0 12 0.08 12 G1 8.4 32 2.0 7.5 19 0.35 75 G1 7.2 6 1.0 7.0 28 0.30 30 G1 8.4 113 3.5 6.0 18 0.15 75 G1 7.5 52 1.0 6.0 12 0.16 40 G1 7.5 52 3.5 7.5 6 0.16 40 G1 8.3 113 0.0 7.5 35 0.12 180 G1 7.8 172 1.0 3.5 14 0.21 45 G1 7.8 172 1.5 3.0 15 0.21 45 G2 8.4 32 1.0 5.0 4 0.35 75 G2 8.4 32 2.0 9.0 10 0.35 75 G2 8.4 32 2.5 4.0 10 0.35 75 G2 6.3 11 4.5 7.5 3 0.20 15 G2 7.0 8 4.5 4.5 9 0.25 30 G2 7.0 8 6.0 7.5 4 0.25 30 G2 7.0 8 1.5 6.0 1 0.25 30 G2 8.3 161 1.5 4.0 4 0.08 70 G2 8.3 161 0.5 2.5 1 0.08 70 G2 7.2 6 3.5 4.0 12 0.30 30 G2 7.2 6 1.0 3.0 3 0.30 30 G2 7.2 6 1.0 6.0 5 0.30 30 G2 5.5 6 2.5 3.0 7 0.18 18 G2 8.4 113 3.5 4.5 6 0.15 75 G2 8.4 113 3.5 4.5 8 0.15 75 G2 7.5 52 1.0 6.0 6 0.16 40 G2 7.5 52 1.0 7.5 8 0.16 40G2 8.3 97 0.0 6.0 5 0.15 180G2 8.3 97 2.5 6.0 5 0.15 180G2 8.3 89 0.0 6.0 10 0.16 180G2 8.3 56 1.5 6.0 13 0.25 180G2 7.8 172 1.0 3.5 6 0.21 45G2 7.8 233 1.0 4.5 6 0.18 45;run;proc discrim data=examp5_4 wcov outstat=aa method=normal pool=no list crosslist;class group;priors proportional; /* 总体的先验概率与各总体的训练样本容量成比例 */ run;proc print data=aa; /* 数据集aa中有各总体的均值向量、标准差、相关系数等*/ run;结果如下：计算广义平方距离函数和后验概率2,1,))(ˆ5.0exp(/))(ˆ5.0exp()|(ˆ2122=--=∑=j d d G P k kj j x x x由此可见，误判率的回代估计为0ˆ* r p ．误判率的交叉确认法估计交叉确认法的广义平方距离函数及后验概率计算公式2,1,ln 2||ln (()(~)()()1()()(2=-+--=-j p d j x j x x j x j jj S )x x )S x x x2,1,))(ˆ5.0exp(/))(ˆ5.0exp()|(ˆ2122=--=∑=j d d G P k kj j x x x交叉确认法分类小结4.针对波士顿房价问题(1) 利用Bayes 判别对住房状况做判别分析，并给出5、100、400号样品判别结果。

Bayes 判别分析及应用 201009014119

Bayes 判别分析及应用班级：计算B101姓名：孔维文学号201009014119指导老师：谭立云教授【摘要】判别分析是根据所研究个体的某些指标的观测值来推断该个体所属类型的一种统计方法，在社会生产和科学研究上应用十分广泛。

在判别分析之前，我们往往已对各总体有一定了解，样品的先验概率也对其预测起到一定作用，因此进行判别时应考虑到各个总体出现的先验概率；由于在实际问题中，样品错判后会造成一定损失，故判别时还要考虑到预报的先验概率及错判造成的损失，Bayes 判别就具有这些优点；然而当样品容量大时计算较复杂，故而常借助统计软件来实现。

本文着重于Bayes 判别分析的应用以及SPSS 的实现。

【关键词】判别分析 Bayes 判别 Spss 实现判别函数判别准则Class: calculation B101 name: KongWeiWen registration number 201009014119Teacher: TanLiYun professor.【Abstract 】Discriminant analysis is based on the study of certain indicators of individual observations to infer that the individual belongs as a type of statistical methods in social production and scientific research is widely used. In discriminant analysis, we often have a certain understanding of the overall sample of the a priori probability of its prediction play a role, it should be taken into account to determine the overall emergence of various prior probability; because of practical problems, samples will result in some loss of miscarriage of justice, so identification must be considered when the prior probability and wrongly predicted loss, Bayes discriminant to have these advantages; However, when the sample is large computing capacity of more complex, often using statistical software Guer to achieve. This article focuses on the application of Bayes discriminant analysis, and implementation of SPSS.【Key words 】 Discriminant analysis; Bayes discriminant; Spss achieve; Discriminantfunction; Criteria;1.1.1 判别分析的概念在科学研究中，经常会遇到这样的问题：某研究对象以某种方式（如先前的结果或经验）已划分成若干类型，而每一种类型都是用一些指标T p X X X X ),,(21 来表征的，即不同类型的X 的观测值在某种意义上有一定的差异。

Bayes判别

第三节Bayes判别本节内容贝叶斯公式最大后验概率准则最小平均误判代价准则Bayes判别的基本方法案例分析距离判别法的缺点第一，把总体等同看待，没有考虑到总体会以1不同的概率出现，认为判别方法与总体各自出现的概率的大小无关。

2第二，判别方法与错判之后所造成的损失无关，没有考虑误判之后所造成的损失差异。

贝叶斯（Bayes）公式贝叶斯统计的基本思想：假定对研究的对象已有一定的认识，常用先验概率分布来描述这种认识，然后我们取得一个样本，用样本来修正已有的认识（先验概率分布），得到后验概率分布，各种统计推断都通过后验概率分布进行，将贝叶斯思想用于判别分析，就得到贝叶斯判别。

某公司新入职雇员小王，小王是好员工还是坏员工大家都在猜测。

按人们先验的主观猜测，新人是好员工或坏员工的概率均为0.5。

坏员工总是无法按时完成工作，偶尔也可以顺利完成；好员工一般都能按时完成任务，但偶尔也会出现工作失误：一般好员工按时完成工作的概率为0.9，坏员工按时完成工作的概率为0.2。

近日，小王按时完成了一项工作任务，请问小王此时是好员工的概率有多大?“先验概率”是一种权重（比例），所谓“先验”，是指我们在抽样以前，就已经知道的；贝叶斯判别需要研究的“后验概率”，就是当样本X 已知时，它属于G i 的概率。

()i P G ()i P G X 由此，使用“最大后验概率准则”得到的贝叶斯判别规则为：1,()max ()≤≤∈=l l i i kX G P G X P G X 如果最大后验概率准则没有涉及误判的代价，因此，在各种误判代价明显不同的场合，该准则就失效了。

设有k 个总体，其各自的分布密度函数互不相同，假设k 个总体各自出现的概率分别为（先验概率），，。

假设若将本来属于G i 总体的样品错判到总体G j 时造成的损失为，。

在这样的情形下，对于新的样品X 判断其来自哪个总体。

问题12,,,k G G G ⋅⋅⋅()()()12,,,k f X f X f X ⋅⋅⋅12,,,k q q q ⋅⋅⋅0≥i q 11ki i q ==∑(|)C j i , 1.2,,=⋅⋅⋅i j k显然、，对于任意的成立。

第五章Bayes判别

x G1 , x G2 ,
ˆ (G1 | x) P ˆ (G2ቤተ መጻሕፍቲ ባይዱ| x) 若P ˆ (G | x) P ˆ (G | x) 若P
1 2
二、两个正态总体的Bayes判别
3、误判率的计算 (1 2 )
1 W ( x) a ( x ), 其中a (1 2 ), (1 2 ) 2
T
1
W ( x) ( 1 2 ) ( x )服从正态分布
W( x) ~ N ( , ) 2
W( x ) ~ N ( , ) 2
T
1

( x来自G1 )
( x来自G2 )

二、两个正态总体的Bayes判别
3、误判率的计算平均误判率：
p* p1P(2 | 1) p2 P(1 | 2) p1 ( d
1 2 exp( d• j ( x)) 2 P(G j | x) k , j 1,2,, k . 1 2 exp( 2 di ( x)) i 1
R j {x : W j ( x) maxWi ( x)}
1i k
{x : P(G j | x) max P(G j | x)}, j 1,2,k.
Bayes判别最优划分为：
R1 {x : C (2 | 1) p1 f1 ( x) C (1 | 2) p2 f 2 ( x)} R2 {x : C (2 | 1) p1 f1 ( x) C (1 | 2) p2 f 2 ( x)}
R1 {x : C (2 | 1) P(G1 | x) C (1 | 2) P(G2 | x)} R2 {x : C (2 | 1) P(G1 | x) C (1 | 2) P(G2 | x)}