多元统计分析简介讲解学习

2 判别分析
逐步判别法的步骤：
1.计算各总体中各变量的均值和总均值以及似然统 计量，规定引入变量和剔除变量的临界值F进、F出。
2.逐步计算，计算全部变量的判别能力，在已入选 变量中考虑剔除可能存在的最不显著变量。在未选 入变量中选出最大判别能力的变量，对变量作F检验 通过检验则接受，否则剔除变量。直到能剔除又不 能增加新变量，逐步计算结束。
判别分析是一种在一些已知研究对象用某种方法 已经分成若干类的情况下，确定新的样品的观测数据 属于哪一类的统计分析方法。
2 判别分析
为了能识别待判断的对象x = (x1, x2,…, xm)T是属 于已知类A1, A2,…, Ar中的哪一类？
事先必须要有一个一般规则, 一旦知道了x的值, 便能根据这个规则立即作出判断, 称这样的一个规则 为判别规则(用于衡量待判对象与各已知类别接近程 度的方法准则)。
判别规则往往通过的某个函数来表达, 我们把它 称为判别函数, 记作W(i; x).
常用的方法有：距离判别法、Fisher判别法、 贝叶斯判别法、逐步判别法。
2 判别分析
Bayes判别法
Bayes判别法的基本思想：总是假设对所研 究的对象已有一定的认识，计算新给样品属于 各总体的条件概率P (G ix 0 )(,i 1 ,.k ) .比.,较这个 概率的大小，然后将新样品判归为来自概率最 大的总体。
1. 聚类分析
进行聚类分析时，由于对类与类之间的距离的 定义和理解不同，并类的过程中又会产生不同的聚 类方法。常用的系统聚类方法有8种：
最短距离法； 最长距离法； 中间距离法；重心法； 类平均法；可变类平均法； 可变法；离差平方和法。
2 判别分析
判别分析方法最初应用于考古学, 例如要根据挖 掘出来的人头盖骨的各种指标来判别其性别年龄等. 近年来, 在生物学分类, 医疗诊断, 地质找矿, 石油钻 探, 天气预报等许多领域, 判别分析方法已经成为一种 有效的统计推断方法。
2 判别分析
Bayes判别法的一般步骤 ： 1.计算各类中变量的均值 x j 及均值向量 xh(h 1,2,..k) , 各变量的总均值 x j( j 1,2..p)及均值向量 x；
2.计算类内协方差矩阵S及其逆矩阵S-1 ； 3.计算Bayes判别函数中，各个变量的系数及常数项并
写出判别函数； 4.计算类内协方差矩阵W及总各协方差矩阵T作多个变
3.建立判别式，使用第2步中选入的变量，用Bayes 判别法建立判别式。
4.对待判样本进行判别分类。
3 主成分分析
假定你是一个公司的财务经理，掌握了公司的 所有数据，比如固定资产、流动资金、每一笔借贷 的数额和期限、各种税费、工资支出、原料消耗、 产值、利润、折旧、职工人数、职工的分工和教育 程度等等。
4)计算距离矩阵或相似性系数矩阵D。
1. 聚类分析
聚类分析的一般步骤(Q-型分类)
1) 每个样本独自成类，G i { X i}i 1 ,2 ,n .. 2) 由距离矩阵或相似性系数矩阵D，找到当前 最小的Dij, 并将类Gi、Gj合为一类得到一个新类 Gr={Gi、Gj} 3) 从新计算类间的距离，得到新的矩阵D。 4) 重复第2步直到全部合为一类。
2 判别分析
逐步判别法其基本思路类似于逐步回归分析，按 照变量是否重要逐步引入变量，每引入一个“最重要” 的变量进入判别式，同时要考虑较早引入的变量是否 由于其后的新变量的引入使之丧失了重要性变得不再 显著了（例如其作用被后引入地某几个变量的组合所 代替），应及时从判别式中把它剔除，直到判别式中 没有不重要的变量需要剔除，剩下来的变量也没有重 要的变量可引入判别式时，逐步筛选结束。也就是说 每步引入或剔除变量，都作相应的统计检验，使最后 的判别函数仅保留“重要”的变量。
聚类分析可以分为：Q型（样品分类）分类、 R型（指标分类）分类。这里介绍的是Q型（样 品分类）分类。
1. 聚类分析
3) 研究样品之间的关系。通常有两种方法： 相似系数。性质相近的相似系数的绝对值越接近 于1，彼此不相关的相似系数的绝对值越接近于0。 常用相似系数有：夹角余弦；相关系数；指数相 似系数；非参数方法灯 计算距离。将样品看作P维空间的一点，通过计算 不同样品的距离，距离越接近的点归为一类，距离 远的点归为不同类。 常用距离有：明科夫斯基距离；欧氏距离；绝对值 距离；切比雪夫距离；兰氏距离；马氏距离。
量的全体判别效果的检验； 5.各个变量的判别能力的检验； 6.判别新样本应属于的类别。
2 判别分析
逐步判别法
在判别问题中，当判别变量个数较多时，如果 不加选择地一概采用来建立判别函数，不仅计算量 大，还由于变量之间的相关性，可能使求解逆矩阵 的计算精度下降，建立的判别函数不稳定。因此适 当地筛选变量的问题就成为一个很重要的事情。凡 具有筛选变量能力的判别分析方法就统称为逐步判 别法。
2 判别分析
设有总体 G i(i 1 ,2 , ,k )，G i 具有概率密度函 数 fi(x)。并且根据以往的统计分析，知道 G i 出现 的概率为 q i 。即当样本 x 0 发生时，求他属于某类的 概率。由贝叶斯公式计算后验概率，有：
P(Gi |x0)qqijffi(j(xx00)) 判别规则 P ( G h |x 0 ) m 1 i k P ( G a i|x 0 x ) 则 x 0 判给G h。
多元统计分析简介
1.聚类分析 2.判别分析 3.主成分分析 4.典型相关分析
1. 聚类分析
聚类分析又称群分析，它是研究分类问题的一 种多元统计方法。所谓类，通俗地说，就是指相似 元素的集合。那么要将相似元素聚为一类，通常选 取元素的许多共同指标，然后通过分析元素的指标 值来分辨元素间的差距，从而达到分类的目的。
如果让你向上面介绍公司状况，你能够把这些 指标和数字都原封不动地摆出ቤተ መጻሕፍቲ ባይዱ吗？
当然不能。 你必须要把各个方面作出高度概括，用一两个 指标简单明了地把情况说清楚。
3 主成分分析
每个人都会遇到有很多变量的数据。 比如全国或各个地区的带有许多经济和社会变 量的数据；各个学校的研究、教学等各种变量的数 据等等。 这些数据的共同特点是变量很多，在如此多的 变量之中，有很多是相关的。人们希望能够找出它 们的少数“代表”来对它们进行描述。 在引进主成分分析之前，先看下面的例子。