多元分析

多元分析研究多个自变量与因变量相互关系的一组统计理论和方法。

又称多变量分析。

多元分析是单变量统计方法的发展和推广。

人的心理和行为具有复杂的内在结构,受到多种因素的制约。

仅采用单变量分析难以揭示其内在结构以及各种影响因素的主次作用和交互影响。

首先涉足多元分析方法是F.高尔顿，他于1889年把双变量的正态分布方法运用于传统的统计学，创立了相关系数和线性回归。

其后的几十年中，C.E.斯皮尔曼提出因素分析法（见因素分析），R.A.费希尔提出方差分析和判别分析，S.S.威尔克斯发展了多元方差分析，H.霍特林确定了主成分分析和典型相关。

到20世纪前半叶，多元分析理论大多已经确立。

60年代以后，随着计算机科学的发展，多元分析方法在心理学以及其他许多学科的研究中得到了越来越广泛的应用。

常用的多元分析方法包括3类:①多元方差分析、多元回归分析和协方差分析，称为线性模型方法，用以研究确定的自变量与因变量之间的关系；②判别函数分析和聚类分析,用以研究对事物的分类；③主成分分析、典型相关和因素分析，研究如何用较少的综合因素代替为数较多的原始变量。

多元方差分析是把总变异按照其来源（或实验设计）分为多个部分，从而检验各个因素对因变量的影响以及各因素间交互作用的统计方法。

例如，在分析2×2析因设计资料时，总变异可分为分属两个因素的两个组间变异、两因素间的交互作用及误差（即组内变异）等四部分,然后对组间变异和交互作用的显著性进行F检验。

多元方差分析的优点是可以在一次研究中同时检验具有多个水平的多个因素各自对因变量的影响以及各因素间的交互作用。

其应用的限制条件是，各个因素每一水平的样本必须是独立的随机样本，其重复观测的数据服从正态分布，且各总体方差相等。

多元回归分析用以评估和分析一个因变量与多个自变量之间线性函数关系的统计方法。

一个因变量y与自变量x1、x2、…xm有线性回归关系是指：其中α、β1…βm是待估参数，ε是表示误差的随机变量。

通过实验可获得x1、x 2…xm的若干组数据以及对应的y值，利用这些数据和最小二乘法就能对方程中的参数作出估计，记为╋、勮…叧，它们称为偏回归系数。

多元回归分析的优点是可以定量地描述某一现象和某些因素间的线性函数关系。

将各变量的已知值代入回归方程便可求得因变量的估计值（预测值），从而可以有效地预测某种现象的发生和发展。

它既可以用于连续变量，也可用于二分变量（0，1回归）。

多元回归的应用有严格的限制。

首先要用方差分析法检验自变量y与m个自变量之间的线性回归关系有无显著性，其次，如果y与m个自变量总的来说有线性关系，也并不意味着所有自变量都与因变量有线性关系，还需对每个自变量的偏回归系数进行t检验,以剔除在方程中不起作用的自变量。

也可以用逐步回归的方法建立回归方程，逐步选取自变量，从而保证引入方程的自变量都是重要的。

协方差分析把线性回归与方差分析结合起来检验多个修正均数间有无差别的统计方法。

例如，一个实验包含两个多元自变量，一个是离散变量(具有多个水平)，一个是连续变量，实验目的是分析离散变量的各个水平的优劣，此变量是方差变量；而连续变量是由于无法加以控制而进入实验的，称为协变量。

在运用协方差分析时，可先求出该连续变量与因变量的线性回归函数，然后根据这个函数扣除该变量的影响，即求出该连续变量取等值情况时因变量的修正均数，最后用方差分析检验各修正均数间的差异显著性，即检验离散变量对因变量的影响。

协方差分析兼具方差分析和回归分析的优点，可以在考虑连续变量影响的条件下检验离散变量对因变量的影响，有助于排除非实验因素的干扰作用。

其限制条件是，理论上要求各组资料（样本）都来自方差相同的正态总体,各组的总体直线回归系数相等且都不为0。

因此应用协方差分析前应先进行方差齐性检验和回归系数的假设检验，若符合或经变换后符合上述条件，方可作协方差分析。

判别函数分析判定个体所属类别的统计方法。

其基本原理是：根据两个或多个已知类别的样本观测资料确定一个或几个线性判别函数和判别指标，然后用该判别函数依据判别指标来判定另一个个体属于哪一类。

判别分析不仅用于连续变量，而且借助于数量化理论亦可用于定性资料。

它有助于客观地确定归类标准。

然而，判别分析仅可用于类别已确定的情况。

当类别本身未定时，预用聚类分析先分出类别，然后再进行判别分析。

聚类分析解决分类问题的一种统计方法。

若给定n个观测对象，每个观察对象有p个特征（变量），如何将它们聚成若干可定义的类?若对观测对象进行聚类,称为Q型分析;若对变量进行聚类,称为R型分析。

聚类的基本原则是,使同类的内部差别较小,而类别间的差别较大。

最常用的聚类方案有两种。

一种是系统聚类方法。

例如，要将n个对象分为k类,先将n个对象各自分成一类,共n类。

然后计算两两之间的某种“距离”，找出距离最近的两个类、合并为一个新类。

然后逐步重复这一过程，直到并为k类为止。

另一种为逐步聚类或称动态聚类方法。

当样本数很大时，先将n个样本大致分为k类，然后按照某种最优原则逐步修改，直到分类比较合理为止。

聚类分析是依据个体或变量的数量关系来分类，客观性较强，但各种聚类方法都只能在某种条件下达到局部最优,聚类的最终结果是否成立,尚需专家的鉴定。

必要时可以比较几种不同的方法，选择一种比较符合专业要求的分类结果。

主成分分析把原来多个指标化为少数几个互不相关的综合指标的一种统计方法。

例如,用p个指标观测样本,如何从这p个指标的数据出发分析样本或总体的主要性质呢？如果p个指标互不相关，则可把问题化为p个单指标来处理。

但大多时候p 个指标之间存在着相关。

此时可运用主成分分析寻求这些指标的互不相关的线性函数，使原有的多个指标的变化能由这些线性函数的变化来解释。

这些线性函数称为原有指标的主成分，或称主分量。

主成分分析有助于分辨出影响因变量的主要因素，也可应用于其他多元分析方法，例如在分辨出主成分之后再对这些主成分进行回归分析、判别分析和典型相关分析。

主成分分析还可以作为因素分析的第一步，向前推进就是因素分析。

其缺点是只涉及一组变量之间的相互依赖关系，若要讨论两组变量之间的相互关系则须运用典型相关。

典型相关分析先将较多变量转化为少数几个典型变量，再通过其间的典型相关系数来综合描述两组多元随机变量之间关系的统计方法。

设x是p元随机变量,y是q 元随机变量，如何描述它们之间的相关程度?当然可逐一计算x的p个分量和y的q 个分量之间的相关系数(p×q个)，但这样既繁琐又不能反映事物的本质。

如果运用典型相关分析，其基本程序是，从两组变量各自的线性函数中各抽取一个组成一对，它们应是相关系数达到最大值的一对，称为第1对典型变量,类似地还可以求出第2对、第3对、……,这些成对变量之间互不相关,各对典型变量的相关系数称为典型相关系数。

所得到的典型相关系数的数目不超过原两组变量中任何一组变量的数目。

典型相关分析有助于综合地描述两组变量之间的典型的相关关系。

其条件是,两组变量都是连续变量,其资料都必须服从多元正态分布。

以上几种多元分析方法各有优点和局限性。

每一种方法都有它特定的假设、条件和数据要求，例如正态性、线性和同方差等。

因此在应用多元分析方法时，应在研究计划阶段确定理论框架，以决定收集何种数据、怎样收集和如何分析数据资料。

多变量分析多变量分析为统计方法的一种，包含了许多的方法，最基本的为单变量，再延伸出来的多变量分析。

多变量统计分析（multivariate statistical analysis）统计资料中有多个变量（或称因素、指标）同时存在时的统计分析，是统计学的重要分支，是单变量统计的发展。

例如对630名炊事员高血压病进行调查,检查项目中除血压外，尚有年龄、性别、体重、体胖等15个项目（变量）。

如果用单变量统计分析法考察超重与血压的关系，一般是把数据做成表1的形式。

从表1可见，超重组与不超重组相比，高血压患病率高出一倍以上。

但如果把资料按体胖者与不体胖者划分成两组，再考察每组内的超重与高血压患病率的关系，就未能发现超重与高血压患病率有任何明显的联系。

也就是说，单变量统计分析忽视了另外因素（如此例中的体胖及年龄等）的影响。

对于有多个变量客观存在而又相互影响的资料，采用简单的单变量统计分析是不合理的。

多变量统计分析就能把变量间的内在联系和相互影响考虑在内。

统计学中的多变量统计分析起源于医学和心理学。

1930年代它在理论上发展很快，但由于计算复杂，实际应用很少。

1970年代以来由于计算机的蓬勃发展和普及，多变量统计分析已渗入到几乎所有的学科。

到80年代后期，计算机软件包已很普遍，使用也方便，因此多变量分析方法也更为普及。

多变量统计的理论基础和工具是数学中的概率论和矩阵。

但对于实际应用者而言，只要有合适的计算机和软件包以及掌握一些初步的多变量统计知识就可以使用它来解决实际问题。

多变量统计的内容很多，但从实际应用角度看，主要包括回归分析、判别分析、因子分析、主成分分析、聚类分析、生存分析等六个大的分支。

回归分析当多个变量x1，x2,…，xm（称为回归变量或自变量、独立变量）同时影响某个指标y（称为因变量或依赖变量）时，可进行回归分析，回归分析的第一个任务就是求回归变量对指标y的影响的统计规律性（也称回归关系）；第二个任务是寻找众多的回归变量中哪一些能对指标y产生影响（常称为因素分析或变量的筛选）；第三个任务(也称相关分析)是在固定（或称消除）其他变量的影响后，考察每一个回归变量对指标y的相关程度（称为偏相关系数）。

上述三个任务常是相互联系，可以同时完成。

回归变量x1，x2，…，xm与因变量y之间最常见的统计关系有两大类型：线性模型和非线性模型。

线性模型中假定y 的主要部分（记为），可由x1，x2，xm线性表示为其中b0,b1，b2，…，bm是未知常数，需用样本去估计，ε 是用取代y后的误差。

这是最常用的模型，称为多重线性回归或多元线性回归。

用样本估计线性回归模型中未知常数的方法也很多，经典的方法为最小二乘法，它的理论较为完善，此法较适用于回归变量之间的相关性不很大时。

其他求未知常数b0,b1，b2，…，bm的方法还有岭回归、特征根回归、主成分回归等，它们常用于回归变量之间相关性很大时。

非线性回归模型中y的主要部分与x1,x2，…，xm的关系为非线性函数：其中┃的形式已知，未知常数α1，α2；…用样本去估计。

医学中最常见的非线性回归是logistic回归，它常用于疾病对照研究以及生长发育问题中。

在前述的炊事员高血压病调查中，使用线性模型和最小二乘法求出未知常数，再用逐步回归选取变量，可求得15个变量中有7个变量对炊事员舒张压有显著的影响，它们按偏相关系数大小排列为：年龄(0.297)，体胖程度(0.253)，肾炎史(0.162)，性别(0.117)，工作类别(0.081),高血压家族史(0.061)，嗜咸程度(0.052)。