判别分析法 - 360文档中心

关于判别分析的理解

关于判别分析的理解判别分析⼜称“分辨法”，是在分类确定的条件下，根据某⼀研究对象的各种特征值判别其类型归属问题的⼀种多变量统计分析⽅法。

其基本原理是按照⼀定的判别准则，建⽴⼀个或多个判别函数，⽤研究对象的⼤量资料确定判别函数中的待定系数，并计算判别指标。

据此即可确定某⼀样本属于何类。

当得到⼀个新的样品数据，要确定该样品属于已知类型中哪⼀类，这类问题属于判别分析问题。

判别分析，是⼀种统计判别和分组技术，就⼀定数量样本的⼀个分组变量和相应的其他多元变量的已知信息，确定分组与其他多元变量信息所属的样本进⾏判别分组。

要解决的问题：已知某种事物有⼏种类型，现在从各种类型中各取⼀个样本，由这些样本设计出⼀套标准，使得从这种事物中任取⼀个样本，可以按这套标准判别它的类型。

分类：根据判别中的组数，可以分为两组判别分析和多组判别分析；根据判别函数的形式，可以分为线性判别和⾮线性判别；根据判别式处理变量的⽅法不同，可以分为逐步判别、序贯判别等；根据判别标准不同，可以分为距离判别、Fisher判别、Bayes判别法等。

判别分析通常都要设法建⽴⼀个判别函数，然后利⽤此函数来进⾏批判，判别函数主要有两种，即线性判别函数（Linear Discriminant Function）和典则判别函数（Canonical Discriminate Function）。

线性判别函数是指对于总体，如果各组样品互相对⽴，且服从多元正态分布，就可建⽴线性判别函数。

典则判别函数是原始⾃变量的线性组合，通过建⽴少量的典则变量可以⽐较⽅便地描述各类之间的关系，例如可以⽤画散点图和平⾯区域图直观地表⽰各类之间的相对关系等。

建⽴判别函数的⽅法⼀般由四种：全模型法、向前选择法、向后选择法和逐步选择法。

1）全模型法是指将⽤户指定的全部变量作为判别函数的⾃变量，⽽不管该变量是否对研究对象显著或对判别函数的贡献⼤⼩。

此⽅法适⽤于对研究对象的各变量有全⾯认识的情况。

判别分析方法与SPSS分析

F 0.67 x 0.266 x 0.672 x 0.115x
* 1 * 2 * 3
* 4
典型判别函rix Function 1 短期支付能力（流动资产 /流动负债）总负债率（现金收益 /总负债）收益性指标（纯收入 /总财产）生产效率性指标（流动资产 /纯销售额） .846 .751 .255 .031
关于逐步判别的选项。
下面来观察输出结果
一、首先做全模型要求：所有本来均进入；先验概率相等；输出判别函数；做交叉核实；画分类散点地图；保存后验概率，判类结果和判别函数得分。
标准化的典型变量的函数
Standardized Canonical Discriminant Function Coefficients Function 1 总负债率（现金收益 /总负债）收益性指标（纯收入 /总财产）短期支付能力（流动资产 /流动负债）生产效率性指标（流动资产 /纯销售额） .670 -.266 .672 -.115
关于协方差矩阵的要求。
第五步：选择判类的一些前提条件和输出。
Prior—对先验概率的要求，上一个选项是先验概率相等，后一个是以样本的频率为先验概率； Display－对输出数据的要求。Casewise result——所有个案的结果； Summary table——判别结果的表格； Leave-out-classification——交叉核实。 Use Covariance—利用什么矩阵计算判别函数。组内的协方差矩阵，还是分组协方差矩阵； Plot—对典型变量进行分组，画直方图。分类区域散点图。

判别分析(第1、2节_绪论、距离判别法)

按这种距离最近的判别准则：
x * , X G1 , * x , X G2 .
第二节距离判别法
因为是单指标的问题，这时判别函数设为：Y Y ( x) x 此例中 * 79, 因 x0 78 * ，故判 X 0 G2 。
，在
下面给出对于 m元总体的这种相对距离 —即所谓的马氏距离定义
2 更一般地，设总体G1的分布为 N (1 , 1 ) ，设总体G2的分布为
N (2 , 22 ) ，则利用统计距离，可以找出分界点 * ，且不妨设
1 2 ，所以若令 ( x 1 )2 ( x 2 )2 解出 1 2 2 1 * x ， 12 22 1 2
d (X, Y) 2 ( X1 Y1 )2
( X p Yp )2 .
但在解决实际问题时，特别是针对多元数据的分析问题，欧氏距离就显示出了它的一些缺陷。譬如，设有两个正态总体， X ~ N ( 1 , ) 和
2
Y ~ N ( 2 ,4 2 ) ，现有一个样品位于如图 5.1 所示的 A 点，距总体 X 的中心的距离为 2 远，距总体 Y 的中心的距离为 3 远，那么， A 点处的样品到底离哪一个总体近呢？
第一节引言
判别分析内容很丰富，方法很多。①判断分析方法按判别的
总体个数来区分，有两个总体判别分析和多总体判别分析；②按
区分不同总体所用的数学模型来分，有线性判别和非线性判别； ③按判别时所处理的变量方法不同，有逐步判别和序贯判别等。
④判别分析可以从不同角度提出问题，因此有不同的判别准则，
如马氏距离最小准则、Fisher准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则等等，按判别准则的不同

《应用多元统计分析》第04章-判别分析

量。通过反复迭代，最终构建最优的判别函数。
04
判别分析的实例与演示
数据来源与预处理
数据来源
判别分析所使用的数据通常来源于实际研究或调查，这些数据可能涉及到多个变量和观测样本。
数据预处理
在应用判别分析之前，需要对数据进行预处理，包括数据清洗、缺失值处理、异常值检测与处理、数据标准化等步骤，以确保数据的质量和可靠性。
2. 建立判别模型
选择合适的变量，并进行数据清理和预处理，包括缺失值处理、异常值检测与处理等。
选择合适的判别分析方法，如线性判别分析（LDA）或二次判别分析（QDA），并利用已知分类的数据来估计判别函数。
3. 模型评估
4. 应用模型
使用诸如混淆矩阵、准确率、召回率等指标来评估模型的性能，并可能进行交叉验证。
目的
通过建立判别函数，使得不同类别之间的差异尽可能大，而同一类别内的差异尽可能小。
判别分析与聚类分析的区别
01
判别分析基于已知分类数据，目标是建立预测分类的规则；而聚类分析则是将未知分类的数据进行归类。
02
判别分析要求对各变量之间的相关性进行建模，而聚类分析则更注重数据之间的距离或相似性。
总结词
两总体判别分析是一种基本的判别分析方法，用于根据已知分类的数据集构建判别函数，从而对新数据进行分类。
详细描述
两总体判别分析通常用于解决二分类问题，其基本思想是通过选择一组特征变量，使得不同类别的样本在这组变量上的均值差异最大，同时使同类样本之间的离散度最小。判别函数通常采用线性或非线性形式，通过最小化分类错误率来构建。
对特征选择敏感
判别分析的特征选择可能对结果影响较大，如果选择不合适的特征，可能会导致分类效果不佳。

判别分析方法

判别分析距离判别分析距离判别的最直观的想法是计算样品到第i类总体的平均数的距离，哪个跖离最小就将它判归哪个总体，所以，我们首先考虑的是是否能够构造一个恰当的距离函数，通过样本与某类别之间距离的大小，判别其所属类别。

设X=（s……以n）'和Y = O1，……,%）'是从期望为|1=（血,……川Q '和方差阵Y= （Ou）>0的总体G抽得的两个观测值，则称X与Y之间的马氏距离为:y mxmd2 =（X-Y）样本X与G,之间的马氏距离定义为X与类重心间的距离，即：9护=（乂一地）丫7（乂一&）i = 1,2・・.・・.,k附注：1、马氏距离与欧式距离的关联：为=1,马氏距离转换为欧式距离；2、马氏距离与欧式距离的差异：马氏距离不受计暈单位的影响，马氏距离是标准化的欧式距离两总体距离判别先考虑两个总体的情况，设有两个协差阵E相同的p维正态总体，对给定的样本Y,判别一个样本Y到底是来自哪一个总体，一个最直观的想法是计算Y到两个总体的距离。

故我们用马氏距离来给定判别规则，有:如/(y, J2(y, G2),<yeGp 如〃2(y, G2)<d2(y9 Gj待判，如=〃2(y,G2)沪(y,Gj=(y 2)' "(y 2)(y J' L(y J=y- 2y为一1角 + “；賞“2 -(y^1y-2y^1 + 冲?如) =2y 0一1 (" - 角)-("i + “2)尸(“i - “2)= 2[y —丫》-“2）2令"=1虽« = Z_1(//1-//2) = (a1,a2,-.-,a p yW(y) = (y - p)U = a f(y一p.)= a1(y1-/z1) + --- + a p(y p-/7p)= a'y _a'ji则前面的判别法则表示为y w Gp 如W (y) > 0,y e G2,如FT (y ) < 0o待判，如W(Y) = 0当忙“2和刀已知时, "1 2)是一个已知的P维向量,W (y)是y的线性函数，称为线性判别函数。

统计学中常用的数据分析方法7判别分析与主成分分析

统计学中常用的数据分析方法判别分析1、判别分析：根据已掌握的一批分类明确的样品建立判别函数，使产生错判的事例最少，进而对给定的一个新样品，判断它来自哪个总体2、与聚类分析区别1）聚类分析可以对样本逬行分类，也可以对指标进行分类；而判别分析只能对样本2）聚类分析事先不知道事物的类别，也不知道分几类；而判别分析必须事先知道事物的类别，也知道分几类3）聚类分析不需要分类的历史资料，而直接对样本进行分类；而判别分析需要分类历史资料去建立判别函数，然后才能对样本进行分类3、进行分类：1）Fisher判别分析法：以距离为判别准则来分类，即样本与哪个类的距离最短就分到哪一类，适用于两类判别；以概率为判别准则来分类，即样本属于哪一类的概率最大就分到哪一类，适用于适用于多类判别。

2）BAYES判别分析法：BAYES判别分析法比FISHER判别分析法更加完善和先进，它不仅能解决多类判别分析，而且分析时考虑了数据的分布状态，所以一般较多使用；主成分分析介绍：主成分分析（Principal Component Analysis，PCA），是一种统计方法。

通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。

在实际课题中，为了全面分析问题，往往提出很多与此有关的变量（或因素），因为每个变量都在不同程度上反映这个课题的某些信息。

主成分分析首先是由K.皮尔森（Karl Pearson）对非随机变量引入的，尔后H.霍特林将此方法推广到随机向量的情形。

信息的大小通常用离差平方和或方差来衡量。

将彼此梠关的一组指标变适转化为彼此独立的一组新的指标变量，并用其中较少的几个新指标变量就能综合反应原多个指标变量中所包含的主要信息。

原理：在用统计分析方法研究多变量的课题时，变量个数太多就会增加课题的复杂性。

人们自然希望变量个数较少而得到的信息较多。

在很多情形，变量之间是有一定的相关关系的，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。

判别分析方法与SPSS

判别分析方法与SPSS判别分析（Discriminant Analysis）是一种常用的统计方法，用于分析两个或多个已知样本分类的特征，确定如何将新样本分配到已知分类中的方法。

该方法通常用于判别样本的所属类别或进行预测分类，并且可以应用于多个学科领域，如市场研究、医学、生物学等。

SPSS（Statistical Package for the Social Sciences）是一种常用的统计软件，广泛应用于社会科学领域的数据分析。

SPSS提供了丰富的统计方法和数据分析工具，包括描述统计、相关分析、回归分析等，同时也提供了判别分析方法。

在SPSS中，进行判别分析需要先导入数据集并选择“分类”方法。

在分类方法中，可以选择“线性鉴别法”或者“二次鉴别法”，通常选择线性鉴别法。

选择线性鉴别法后，可以选择“反向排序”和“选择必备输入变量”。

反向排序是指将判别函数的变量排序方式从最大向最小递减排序的方式转变为最小向最大递增排序。

选择必备输入变量是指程序会自动选择在判别分析中具有最大判别力的变量。

在SPSS中执行判别分析后，可以得到一些结果，其中最重要的是判别函数。

判别函数用于预测未知样本的类别，可以提供样本的判别得分，判别得分越高表示属于该类别的可能性越大。

判别分析的结果也包括统计指标，如Wilks' Lambda、标准化判别函数系数等。

Wilks' Lambda是判别分析的一个重要统计量，用于衡量所有判别函数的总效应，其值介于0和1之间，越接近0表示判别函数越有效。

标准化判别函数系数用于表示各个变量对判别函数的贡献，系数绝对值越大表示对判别函数的影响越大。

总之，判别分析是一种常用的统计方法，可用于分类和预测。

SPSS 是一种常用的统计软件，提供了判别分析方法和相关的数据分析工具，可以方便地进行判别分析并解释结果。

06.判别分析

从全部控矿地质因素和找矿标志中选择7个变量参加判别分析：x1为接触带长度；x2为单元中心距断喷带距离；x4为闪长玢岩出露面积比；x5为围岩蚀变组合相对熵；x9为磁异常特征值；x10为重力异常形态特征值；x12为岩层组合相对熵。建立的判别函数为：
为了进一步对比煤层，考虑选取只与煤层成因有关的地质变量如煤的灰分、硫分、灰分成分等12 个指标建立各煤层的判别式，从而将各煤层用数学表达式定量地确定下来。
各判别式经过显著性检验都是特别显著的，即运用以上判别式分辨煤层有效。以里兰、河里、马鞍煤矿四煤样品为未知样品进行判别，四个未知样品均以100%的后验概率落入第三类，即属于四煤（上）层（表6-5）
因此，可以认为，里兰、河里一线以南的四煤，只相当于煤产地北部的四煤（上）层。
上述是判别分析用于解决煤层对比的实际例子。此外，在我国运用判别分析进行矿床定量预测方面，也取得了教好的成果。
在矿床统计预测时，首先将研究区划分为若干个单元；再从这些单元中选择一些研究程度较高的有矿或无矿单元作为已知单元，然后选择与矿化密切的地质因素作为地质变量并将其数值化。根据这些变量对已知含矿或无矿两个母体建立判别函数，最后对未知单元进行判别，以便定量地给出含矿单元，作为矿床预测区。
诸如此类的问题，在传统地质学中，多是只管的定性判断，往往随地质人员实践经验Байду номын сангаас 同，得出不同的结论。因此，具有较大的主观性和片面性。运用判别分析方法，对比较复杂、地质变量多、地质属性比较近似的问题，能够给出定量的合理判别。
判别分析的基本思想，是将研究对象（某一个体）的各种地质特征，同它可能归属的各个类型的地质特征进行对比，以决定其应该归入哪一类。为此，判别分析主要解决两个问题： 1、根据什么指标来判别（分辨）已知的类型，即建立判别函数； 2、对于可能来自已知类型的某些未知样品，如何判定它们归属已知类型中的哪一类。

4.判别分析

判别分析判别分析（discriminant analysis）是一种分类技术。

它通过一个已知类别的“训练样本”来建立判别准则，并通过预测变量来为未知类别的数据进行分类。

判别分析的方法大体上有三类，即Fisher判别（线性判别）、Bayes判别和距离判别。

Fisher判别思想是投影降维，使多维问题简化为一维问题来处理。

选择一个适当的投影轴，使所有的样品点都投影到这个轴上得到一个投影值。

对这个投影轴的方向的要求是：使每一组内的投影值所形成的组内离差尽可能小，而不同组间的投影值所形成的类间离差尽可能大。

Bayes判别思想是根据先验概率求出后验概率，并依据后验概率分布作出统计推断。

距离判别思想是根据已知分类的数据计算各类别的重心，对未知分类的数据，计算它与各类重心的距离，与某个重心距离最近则归于该类。

接下来将通过例题展示不同的判别方法。

例1：在某市场抽取20种牌子的电视机中，5种畅销，8种平销，另外7种滞销。

按电视质量评分、功能评分和销售价格三项指标衡量，销售状态：1为畅销，2为平销，3为滞销。

数据集：d6.3> X=read.table("clipboard",header=T) #读取数据存入X中> plot(X$Q, X$C); #做横坐标为Q，纵坐标为C的散点图> text(X$Q, X$C, X$G,adj=-0.8,cex=0.75) #在上一句的散点图中为每个点加文本；Q,C,G表示依据Q和C加上G的文本名字；adj为调整文字与点距离的选项，+为向左，-为向右；cex为调整文字的大小；>plot(X$Q, X$P);text(X$Q, X$P, X$G,adj=-0.8,cex=0.75) #同上> plot(X$C, X$P);text(X$C, X$P, X$G,adj=-0.8,cex=0.75) #同上1.线性判别（等方差）R中线性判别和贝叶斯判别的函数为lda()。

[原创]判别分析三种方法

作业一：为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为两种类型。

试建立判别函数，判定广东、西藏分别属于哪个收入类型。

判别指标及原始数据见表9-4。

1991年30个省、市、自治区城镇居民月平均收人数据表单位：元／人x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体)x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体)x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入x4：人均集体所有制工资收入 x9：个体劳动者收入x5：人均集体所有制职工标准工资一、距离判别法解：变量个数p＝9，两类总体各有11个样品，即n1＝n2＝11 ，有2个待判样品，假定两总体协差阵相等。

由spss可计算出：协方差和平均值知道了均值和协方差可利用matlab计算线性判别函数W（x）的判别系数a和判别常数。

程序如下：v=[1.000,0.217,0.299,0.045,-0.054,0.688,0.212,0.121,-0.245;.217,1,.102,-.234,-.211,. 136,-.052,.116,.154;.299,.102,1,-.296,-.062,.091,-.017,-.607,-.034;.045,-.234,-.296,1,. 762,-.172,-.297,.103,-.554;-.054,-.211,-.062,.762,1,-.156,-.342,.022,-.654;.688,.136,.0 91,-.172,-.156,1,.235,.384,-.098;.212,-.052,-.017,-.297,-.342,.235,1,-.040,.424;.121,.1 16,-.607,.103,.022,.384,-.040,1,-.071;-.245,.154,-.034,-.554,-.654,-.098,.424,-.071,1];>>m1=[139.2664;93.0918;53.9882;11.2073;6.7645;17.9345;17,8327;11.0018;1.6736];m 2=[107.3099;67.8873;47.7536;9.0827;5.3673;11.2775;13.6102;6.5773;1.3845];>> m=(m1+m2)/2;>> arfa=inv(v)*(m1-m2);二、Fisher判别方法1、操作步骤：1）录入数据，选择菜单项Analyze→Classify→Discriminate，打开Discriminate Analysis对话框，如图2-1。

判别分析-四种方法

第六章判别分析§6.1 什么是判别分析判别分析是判别样品所属类型的一种统计方法，其应用之广可与回归分析媲美。

在生产、科研和日常生活中经常需要根据观测到的数据资料,对所研究的对象进行分类。

例如在经济学中，根据人均国民收入、人均工农业产值、人均消费水平等多种指标来判定一个国家的经济发展程度所属类型；在市场预测中，根据以往调查所得的种种指标，判别下季度产品是畅销、平常或滞销；在地质勘探中，根据岩石标本的多种特性来判别地层的地质年代，由采样分析出的多种成份来判别此地是有矿或无矿，是铜矿或铁矿等；在油田开发中，根据钻井的电测或化验数据，判别是否遇到油层、水层、干层或油水混合层；在农林害虫预报中，根据以往的虫情、多种气象因子来判别一个月后的虫情是大发生、中发生或正常；在体育运动中,判别某游泳运动员的“苗子”是适合练蛙泳、仰泳、还是自由泳等；在医疗诊断中，根据某人多种体验指标（如体温、血压、白血球等)来判别此人是有病还是无病。

总之，在实际问题中需要判别的问题几乎到处可见。

判别分析与聚类分析不同。

判别分析是在已知研究对象分成若干类型（或组别）并已取得各种类型的一批已知样品的观测数据,在此基础上根据某些准则建立判别式,然后对未知类型的样品进行判别分类.对于聚类分析来说，一批给定样品要划分的类型事先并不知道，正需要通过聚类分析来给以确定类型的。

正因为如此,判别分析和聚类分析往往联合起来使用,例如判别分析是要求先知道各类总体情况才能判断新样品的归类，当总体分类不清楚时，可先用聚类分析对原来的一批样品进行分类，然后再用判别分析建立判别式以对新样品进行判别。

判别分析内容很丰富，方法很多。

判别分析按判别的组数来区分，有两组判别分析和多组判别分析；按区分不同总体的所用的数学模型来分，有线性判别和非线性判别；按判别时所处理的变量方法不同，有逐步判别和序贯判别等。

判别分析可以从不同角度提出的问题,因此有不同的判别准则，如马氏距离最小准则、Fisher准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则等等,按判别准则的不同又提出多种判别方法。

判别分析报告

判别分析报告1. 简介判别分析（Discriminant Analysis）是一种常用的统计分析方法，用于判别或分类数据。

它通过将样本分到已知类别中，寻找最佳的判别函数或线性组合，以区分不同类别的样本。

判别分析在许多领域都有广泛的应用，例如医学诊断、市场分析、客户分类等。

本篇报告将介绍判别分析的基本原理、应用场景以及实施步骤，帮助读者了解和运用该方法。

2. 基本原理判别分析的基本原理是通过计算样本的特征，将其划分到事先设定好的不同类别中。

具体来说，判别分析假设每个类别都服从多元正态分布，然后利用已知的类别信息，通过构建判别函数或线性组合，使得同一类别的样本尽可能接近，不同类别的样本尽可能远离。

判别分析有两种常见的方法：线性判别分析（Linear Discriminant Analysis，简称LDA）和二次判别分析（Quadratic Discriminant Analysis，简称QDA）。

其中，LDA假设各类别的协方差矩阵相等，而QDA不做此假设，每个类别的协方差矩阵可以各不相同。

3. 应用场景判别分析可以应用于多种场景，下面列举几个常见的应用场景：3.1 医学诊断在医学领域，判别分析广泛应用于疾病的诊断。

通过分析患者的一系列指标（如血压、血糖、尿液检查结果等），可以建立判别函数，将患者分为正常人群和患病人群。

这有助于医生更准确地判断患者的病情，并采取相应的治疗措施。

3.2 市场分析在市场营销中，判别分析可以帮助企业分析客户群体，以便更好地制定销售策略。

通过分析客户的性别、年龄、购买记录等信息，可以将客户分为不同的类别，从而有针对性地推荐产品、制定优惠政策等。

3.3 信用评估在银行和金融机构中，判别分析可用于评估客户的信用风险。

通过分析客户的个人资料、财务状况等信息，可以将客户划分为低风险和高风险群体。

这有助于银行更准确地决策是否给予贷款或信用额度，并制定相应的利率和还款策略。

4. 实施步骤进行判别分析的一般步骤如下：1.数据准备：收集样本数据，确定类别信息，对数据进行预处理（如去除缺失值、处理异常值等）。

判别分析方法

判别分析距离判别分析距离判别的最直观的想法是计算样品到第i 类总体的平均数的距离，哪个距离最小就将它判归哪个总体，所以，我们首先考虑的是是否能够构造一个恰当的距离函数，通过样本与某类别之间距离的大小，判别其所属类别。

设X =(x 1,……,x n )′和Y =(y 1,……,y m )′是从期望为μ＝（μ1，……,μm ）′和方差阵∑＝（σij ）m×m >0的总体G 抽得的两个观测值，则称X 与Y 之间的马氏距离为：d 2=(X −Y )′∑−1(X −Y)样本X 与G i 之间的马氏距离定义为X 与G i 类重心间的距离，即： d 2=(X −μi )′∑−1(X −μi ) i =1,2……,k附注：1、马氏距离与欧式距离的关联：∑＝I ，马氏距离转换为欧式距离；2、马氏距离与欧式距离的差异：马氏距离不受计量单位的影响，马氏距离是标准化的欧式距离两总体距离判别先考虑两个总体的情况，设有两个协差阵∑相同的p 维正态总体，对给定的样本Y ，判别一个样本Y 到底是来自哪一个总体，一个最直观的想法是计算Y 到两个总体的距离。

故我们用马氏距离来给定判别规则，有：()()()()ïîïíì=<Î<Î),(),(22121222222121G y d G y d G d G d G G d G d G 如待判，，，如，，，，如，y y y y y y )()()()(),(),(1112121222m m m m -¢---¢-=---y y y y y y SSG d G d 22211y y y μμμ12---'+'-'=∑∑∑--∑'=-)(221μμ1y )()(212μμμμ-∑'+-11)(])([221121y μμμμ-∑'+-=-)2(1111μμμ---∑'+∑'-∑'-11y y y当 μ1、μ2 和∑已知时，是一个已知的p 维向量，W （y ）是y 的线性函数，称为线性判别函数。

SAS学习系列36.判别分析

36. 判别分析（一）基本原理判别分析，是用以判别个体所属类的一种统计方法。

其原理是根据已掌握的一批分类明确的样品，建立一个较好的判别函数，使得用该判别函数进行判别时错判事例最少，进而能用此判别函数对给定的一个新样品判别它来自哪个总体。

判别分析方法通常要给出一个判别指标（判别函数），同时还要指定一种判别规则。

一、距离判别法未知总体的样品x离哪个总体的距离最近，就判断它属于哪个总体。

1. 对于两个正态总体G1, G2距离选用马氏（Mahalanobis）距离：d2(x, G1) = (x-μ1)T∑1-1(x-μ1)d2(x, G2) = (x-μ2)T∑2-1(x-μ2)其中，μ1, μ2, ∑1, ∑2分别为总体G1, G22的均值和协差矩阵。

令W(x) = d2(x, G1) - d2(x, G2)称为判别函数，若∑1=∑2时，W(x)是线性函数，此时称为线性判别；若∑1≠∑2，W(x)是二次函数。

2. 多总体情况设有m个总体：G1, …, G m，其均值、协差阵分别为μi, ∑i. 对给定的样品x，按距离最近的准则对x进行判别归类：首先计算样品x到m个总体的马氏距离d i2(x), 然后进行比较，把x判归距离最小的那个总体，即若d h2(x) = min{ d i2(x) | i = 1,…,m}，则x∈G h.二、Fisher线性函数判别法为了方便使用，需要寻找尽量简单的判别函数，其中在Fisher 准则下的线性判别函数就是只利用总体的一、二阶矩就可求得的判别函数。

图1 Fisher线性判别分析示意图下面以两个总体为例来说明Fisher判别的思想。

设有两个总体G1、G2，其均值分别为μ1和μ2，协方差阵分别∑1和∑2，并假定∑1 = ∑2 = ∑，考虑线性组合：y = L T x。

通过寻求合适的L向量，使得来自两个总体的数据间的距离较大，而来自同一个总体数据间的差异较小。

为此，可以证明，当选L=c∑–1(μ1–μ2)，其中c ≠ 0时，所得的投影即满足要求。