多项分类Logistic回归研究分析的功能与意义-()
多分类Logistic回归教程与结果解读
Logistic回归分析（logit回归）一般可分为3类，分别是二元Logistic回归分析、多分类Logistic回归分析和有序Logistic回归分析。
logistic回归分析类型如下所示。
Logistic回归分析用于研究X对Y的影响，并且对X的数据类型没有要求，X可以为定类数据，也可以为定量数据，但要求Y必须为定类数据，并且根据Y的选项数，使用相应的数据分析方法。
如果Y有两个选项，如愿意和不愿意、是和否，那么应该使用二元Logistic回归分析(SPSSAU【进阶方法->二元logit】)；如果Y有多个选项，并且各个选项之间可以对比大小，例如，1代表“不愿意”，2代表“无所谓”，3代表“愿意”，这3个选项具有对比意义，数值越高，代表样本的愿意程度越高，那么应该使用多元有序Logistic回归分析(SPSSAU【进阶方法->有序logit】)；如果Y有多个选项，并且各个选项之间不具有对比意义，例如，1代表“淘宝”，2代表“天猫”，3代表“京东”，4代表“亚马逊中国”，数值仅代表不同类别，数值大小不具有对比意义，那么应该使用多元无序Logistic回归分析(SPSSAU 【进阶方法->多分类logit】)。
1、多分类logistic回归分析基本说明只要是logistic回归，都是研究X对于Y的影响，区别在于因变量Y上，logistic回归时，因变量Y是看成定类数据的，如果为二元（即选项只有2个），那么就是二元logistic回归； 如果Y是多个类别且类别之间无法进行对比程度或者大小，则为多分类logistic 回归；如果Y是多个类别且类别之间可以对比程度大小（也称为定量数据，或者有序定类数据），此时则使用有序logistic回归。
多分类logistic回归的难点在于：因变量为类别数据，研究X对Y的影响时，如果为类别数据，那么不能说越如何越如何，比如不能说越满意越愿意购买；而只能说相对小米手机来说，对于手机外观越满意越愿意购买苹果手机。
多分类有序反应变量Logistic回归及其应用
3、社会心理因素：老年人的心理状态、生活环境、生活习惯等也会对其睡 眠质量产生影响。例如，孤独、抑郁、生活压力等心理问题可能导致睡眠障碍。
有序多分类Logistic回归分析
为了探讨上述因素对老年人睡眠质量的影响，我们采用有序多分类Logistic 回归分析方法进行建模和分析。有序多分类Logistic回归是一种统计方法，它能 够根据有序类别变量的取值来估计多个类别的影响因素，并计算各因素的影响方 向和作用大小。
还应注意其他潜在影响因素的作用，以便更好地预防和改善公务员的亚健康 状况。
谢谢观看
பைடு நூலகம்
（2）数据拟合：将数据带入Logistic回归模型，用最大似然估计法对模型 参数进行估计。
（3）模型评估：通过交叉验证、准确率、AUC值等指标对模型进行评估，判 断其预测性能。
（4）模型优化：根据模型评估结果，对模型进行优化调整，包括特征选择、 参数调整等。
3、结果解读
多分类有序反应变量Logistic回归的结果解读包括以下几个方面：
影响因素
老年人睡眠质量受到多种因素的影响，包括身体健康状况、药物使用、社会 心理因素等。
1、身体健康状况：老年人往往存在各种健康问题，如慢性疾病、疼痛、呼 吸困难等，这些疾病会直接或间接影响睡眠质量。
2、药物使用：部分老年人在日常生活中需要使用药物来控制血压、治疗疼 痛等。然而，某些药物可能导致不良反应，从而影响睡眠质量。
1、因变量的处理：将亚健康状况分为5个等级（非常健康、健康、轻微不健 康、不健康、非常不健康），并将其作为有序分类变量进行统计处理。
2、自变量的选择：选择工作压力、生活方式、心理状况等作为自变量，并 将其进行标准化处理，以便进行比较和分析。
3、模型的建立：采用有序多分类logistic回归分析方法，建立模型并拟合 数据。通过模型的结果，可以观察各个自变量对因变量的影响程度及比较各个自 变量之间的相对重要性。
数据分析知识：数据分析中的Logistic回归分析
数据分析知识：数据分析中的Logistic回归分析Logistic回归分析是数据分析中非常重要的一种统计分析方法，它主要用于研究变量之间的关系，并且可以预测某个变量的取值概率。
在实际应用中，Logistic回归分析广泛应用于医学疾病、市场营销、社会科学等领域。
一、Logistic回归分析的原理1、概念Logistic回归分析是一种分类分析方法，可以将一个或多个自变量与一个二分类的因变量进行分析，主要用于分析变量之间的关系，并确定自变量对因变量的影响。
Logistic回归分析使用的是逻辑回归模型，该模型是将自变量与因变量的概率映射到一个范围为0-1之间的变量上，即把一个从负无穷到正无穷的数映射到0-1的范围内。
这样，我们可以用这个数值来表示某个事件发生的概率。
当这个数值大于0.5时，我们就可以判定事件发生的概率比较高，而当这个数值小于0.5时，我们就可以判定事件发生的概率比较小。
2、方法Logistic回归分析的方法有两种：一是全局最优化方法，二是局部最优化方法。
其中全局最优化方法是使用最大似然估计方法，而局部最优化方法则是使用牛顿法或梯度下降算法。
在进行Logistic回归分析之前，我们首先要对数据进行预处理，将数据进行清洗、变量选择和变量转换等操作，以便进行回归分析。
在进行回归分析时，我们需要先建立逻辑回归模型，然后进行参数估计和模型拟合，最后进行模型评估和预测。
在进行参数估计时，我们通常使用最大似然估计方法，即在估计参数时，选择最能解释样本观测数据的参数值。
在进行模型拟合时，我们需要选取一个合适的评价指标，如准确率、召回率、F1得分等。
3、评价指标在Logistic回归分析中，评价指标包括拟合度、准确性、鲁棒性、可解释性等。
其中最常用的指标是拟合度，即模型对已知数据的拟合程度，通常使用准确率、召回率、F1得分等指标进行评价。
此外，还可以使用ROC曲线、AUC值等指标评估模型的性能。
二、Logistic回归分析的应用1、医学疾病预测在医学疾病预测中，Logistic回归分析可以用来预测患某种疾病的概率，如心脏病、肺癌等。
二分类与多分类Logistic回归模型
二分类Logistic 回归模型在对资料进行统计分析时常遇到反应变量为分类变量的资料，那么，能否用类似于线性回归的模型来对这种资料进行分析呢？答案是肯定的。
本章将向大家介绍对二分类因变量进行回归建模的Logistic 回归模型。
第一节 模型简介一、模型入门在很多场合下都能碰到反应变量为二分类的资料，如考察公司中总裁级的领导层中是否有女性职员、某一天是否下雨、某病患者结局是否痊愈、调查对象是否为某商品的潜在消费者等。
对于分类资料的分析，相信大家并不陌生，当要考察的影响因素较少，且也为分类变量时，分析者常用列联表(contingency Table)的形式对这种资料进行整理，并使用2χ检验来进行分析，汉存在分类的混杂因素时，还可应用Mantel-Haenszel 2χ检验进行统计学检验，这种方法可以很好地控制混杂因素的影响。
但是这种经典分析方法也存在局限性，首先，它虽然可以控制若干个因素的作用，但无法描述其作用大小及方向，更不能考察各因素间是否存在交互任用；其次，该方法对样本含量的要求较大，当控制的分层因素较多时，单元格被划分的越来越细，列联表的格子中频数可能很小甚至为0，将导致检验结果的不可靠。
最后，2χ检验无法对连续性自变量的影响进行分析，而这将大大限制其应用范围，无疑是其致使的缺陷。
那么，能否建立类似于线性回归的模型，对这种数据加以分析？以最简单的二分类因变量为例来加以探讨，为了讨论方便，常定义出现阳性结果时反应变量取值为1，反之则取值为0 。
例如当领导层有女性职员、下雨、痊愈时反应变量1y =，而没有女性职员、未下雨、未痊愈时反应变量0y =。
记出现阳性结果的频率为反应变量(1)P y =。
首先，回顾一下标准的线性回归模型：11m m Y x x αββ=+++如果对分类变量直接拟合，则实质上拟合的是发生概率，参照前面线性回归方程 ，很自然地会想到是否可以建立下面形式的回归模型：11m m P x x αββ=+++显然，该模型可以描述当各自变量变化时，因变量的发生概率会怎样变化，可以满足分析的基本要求。
logistic回归
概念
logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相同 之处。它们的模型形式基本上相同，都具有 w‘x+b，其中w和b是待求参数，其区别在于他们的因变量不同，多 重线性回归直接将w‘x+b作为因变量，即y =w‘x+b，而logistic回归则通过函数L将w‘x+b对应一个隐状态p， p =L(w‘x+b),然后根据p与1-p的大小决定因变量的值。如果L是logistic函数，就是logistic回归，如果L是 多项式函数就是多项式回归。
感谢观看
logistic回归
一种广义的线性回归分析模型
01 概念
目录
02 主要用途
logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断， 经济预测等领域。例如，探讨引发疾病的危险因素，并根据危险因素预测疾病发生的概率等。以胃癌病情分析为 例，选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群必定具有不同的体征与生活方式等。因此因变量 就为是否胃癌，值为“是”或“否”，自变量就可以包括很多了，如年龄、性别、饮食习惯、幽门螺杆菌感染等。 自变量既可以是连续的，也可以是分类的。然后通过logistic回归分析，可以得到自变量的权重，从而可以大致 了解到底哪些因素是胃癌的危险因素。同时根据该权值可以根据危险因素预测一个人患癌症的可能性。
实际上跟预测有些类似，也是根据logistic模型，判断某人属于某病或属于某种情况的概率有多大，也就是 看一下这个人有多大的可能性是属于某病。
这是logistic回归最常用的三个用途，实际中的logistic回归用途是极为广泛的，logistic回归几乎已经 成了流行病学和医学中最常用的分析方法，因为它与多重线性回归相比有很多的优势，以后会对该方法进行详细 的阐述。实际上有很多其他分类方法，只不过Logistic回归是最成功也是应用最广的。
多元线性回归logistic回归
X12
…
X1p
Y1
2
X21
X22
…
X2p
Y2
┆
┆
┆
…
┆
┆
n
Xn1
Xn2
…
Xnp
Yn
Y为定量变量——Linear Regression Y为二项分类变量——Binary Logistic Regression Y为多项分类变量——Multinomial Logistic Regression Y为有序分类变量——Ordinal Logistic Regression Y为生存时间与生存结局——Cox Regression
1
(Constant) 6.500 2.396
2.713 .012
甘 油 三 脂 x2 .402
.154
.354 2.612 .016
糖 化 血 红 蛋 白 .x6463
.230
.413 2.880 .008
胰 岛 素 x3
-.287
.112
-.360 -2.570 .017
a.Dep end ent Variable: 血 糖 y
将总胆固醇(X1) 剔除。 注意：通常每次只剔除关系最弱的一个因素。
对于同一资料，不同自变量的t值可以相互比较，t的绝对
值越大，或P越小，说明该自变量对Y所起的作用越大。
多元线性回归logistic回归
14
重新建立不包含提出因素的回归方程
C oe ffi ci e na ts
Un s tan dardiz eSdtan da rdi z e d C oe ffici e n ts C oe ffici e n ts
由上表得到如下多元线性回归方程：
多项logistic回归算法
多项logistic回归算法多项logistic回归算法是一种常用的分类算法，广泛应用于机器学习和数据分析领域。
本文将介绍多项logistic回归算法的原理、应用和优缺点。
一、多项logistic回归算法原理多项logistic回归算法是一种广义线性回归模型的扩展，用于解决多类别分类问题。
与二项logistic回归算法类似，多项logistic回归算法也基于logistic函数，将输入特征和类别之间的关系建模为一个多类别的logistic回归模型。
多项logistic回归模型假设样本的特征与类别之间服从多项分布，通过最大似然估计的方法，求解模型参数，从而实现多类别分类。
二、多项logistic回归算法应用多项logistic回归算法在实际应用中具有广泛的应用场景。
以下是一些常见的应用领域：1. 电子商务：多项logistic回归算法可以用于商品推荐系统中的商品分类，根据用户的历史购买记录和其他特征，将商品分为不同的类别，从而为用户提供个性化的推荐。
2. 医学领域：多项logistic回归算法可以用于疾病诊断，根据患者的临床特征，将患者分为不同的疾病类别，从而帮助医生进行准确的诊断和治疗。
3. 金融领域：多项logistic回归算法可以用于信用评分，根据客户的个人信息和信用历史，将客户分为不同的信用等级，从而评估客户的信用风险。
4. 自然语言处理：多项logistic回归算法可以用于文本分类，根据文本的特征，将文本分为不同的类别，从而实现文本的自动分类和标注。
三、多项logistic回归算法优缺点多项logistic回归算法具有以下优点：1. 算法简单易实现：多项logistic回归算法基于最大似然估计的方法，参数估计简单，计算效率高。
2. 可解释性强：多项logistic回归算法可以得到每个特征对于各类别的影响程度，从而提供了对分类结果的解释。
3. 适用于多类别分类：多项logistic回归算法可以处理多个类别的分类问题，具有较好的分类性能。
logistic回归分析
队列研究(cohort study)：也称前瞻性研究、随访研究等。是一种由因及果的研
究，在研究开始时，根据以往有无暴露经历，将研究人群分为暴露人群和非暴 露人群，在一定时期内，随访观察和比较两组人群的发病率或死亡率。如果两 组人群发病率或死亡率差别有统计学意义，则认为暴露和疾病间存在联系。队 列研究验证的暴露因素在研究开始前已存在，研究者知道每个研究对象的暴露 情况。
调查方向：追踪收集资料 暴露 疾病 +
人数
比较
aபைடு நூலகம்
b c
+
研究人群
a/(a+b)
+ -
-
c/(c+d)
d
队列研究原理示意图
暴露组 非暴露组
病例 a c
非病例 b d
合计 n1=a+b n0=c+d
发病率 a/ n1 c/ n0
相对危险度（relative risk， RR）也称危险比（risk ratio） 或率比（rate ratio） RR I e a / n1 、 I e a / n1 、 I 0 c / n2 。
研究，先按疾病状态确定调查对象，分为病例(case)和对照 (control)两组，然后利用已有的记录、或采用询问、填写调查表 等方式，了解其发病前的暴露情况，并进行比较，推测疾病与 暴露间的关系。
调查方向：收集回顾性资料
比较 a/(a+b)
人数 a b c
暴露 +
疾病 病例
+ 对照 -
c/(c+d) d
二、 logistic回归模型的参数估计
logistic 回归模型的参数估计常采用最大似然估计。 其基本思想是先建立似然函数与对数似然函数， 求使对数似然函数最大时的参数值，其估计值即 为最大似然估计值。 建立样本似然函数：
logistic回归分析及其应用
11
Logistic回归分析的一般步骤
变量的编码 哑变量的设置和引入 各个自变量的单因素分析 变量的筛选 交互作用的引入 建立多个模型 选择较优的模型 模型应用条件的评价 输出结果的解释
2019/4/9 12
1.变量的编码
变量的编码要易于识别 注意编码的等级关系 改变分类变量的编码，其分析的意 义并不改变。 牢记编码
一元直线回归 多元直线回归
2019/4/9
2
一元直线回归模型 y=a+bx+e 多元直线回归模型 y = a + b1x1 + b2x2 + … + bkxk + e
2019/4/9
3
F(y) ：因变量的logit值
1.00
0.75
0.50
0.25
如果一定要进 行直线回归也 可以做出结果， 但此时效果不 佳。当自变量 取一定值时， 因变量的预测 值可能为负数。
删除变量
合并变量及变量的分类
2019/4/9
39
其他问题
logistic回归的局限性
理论上的不足：自变量对疾病的影响是
独立的，但实际情况及推导结果不同。 模型有不合理性：“乘法模型”与一般 希望的“相加模型”相矛盾。 最大似然法估计参数的局限 样本含量不宜太少：例数大于200例时 才可不考虑参数估计的偏性。
表达式：
eb1x1+b2x2+… +bkxk P= 1 - eb1x1+b2x2+… +bkxk 常用于分析配比的资料
2019/4/9
10
概述小结
logistic回归对因变量的比数的对数值 （ logit值）建立模型 因变量的logit值的改变与多个自变量的 加权和呈线性关系 因变量呈二项分布
12 logistic回归分析
Logistic回归分析（Logistic Regression）施红英主讲温州医科大学预防医学系肺癌心理遗传慢支smokeLogistic回归分析解决的问题医学研究中，有关生存与死亡，发病与未发病，阴性与阳性等结果的产生，可能与病人的年龄、性别、生活习惯、体质、遗传、心理等许多因素有关。
如何找出其中哪些因素对结果有影响？以及影响有多大？Logistic回归：概率型回归用于分析某类事件发生的概率与自变量之间的关系。
适用于因变量是分类变量的资料，尤其是二分类的情形。
线性回归：应变量是连续型变量分类二分类logistic回归模型◆非条件logistic回归模型－成组资料◆条件logistic回归模型－配对资料 多分类logistic回归模型内容提要♦非条件logistic回归☻数据库格式☻Logistic回归模型的基本结构☻参数估计☻假设检验☻变量筛选☻模型拟合效果的判断♦条件logistic回归♦应用及其注意事项案例1为了探讨冠心病发生的有关影响因素，对26例冠心病病人和28例对照者进行病例-对照研究，试用logistic回归分析筛选冠心病发生的有关因素。
（data：gxb.sav）冠心病8个可能的危险因素与赋值因素变量名赋值说明<45=1，45～=2，55～=3，65～=4年龄(岁)X1无=0，有=1高血压史X2无=0，有=1高血压家族史X3吸烟X不吸=0，吸=14无=0，有=1高血脂史X5低=0，高=1动物脂肪摄入X6<24=1，24～=2，26～=3体重指数(BMI)X7否=0，是=1A型性格X8冠心病Y对照=0，病例=11、数据库格式2、Logistic 回归模型的基本结构011011exp()1exp()p p p p X X P X X ββββββ+++=++++L L 设X 1,X 2,……,X p 是一组自变量，Y 是应变量（阳性记为y ＝1，阴性记为y ＝0），用P 表示发生阳性结果的概率。
spssau 多分类logistic回归
Logistic回归之多分类logistic回归分析目录1多分类logistic回归分析基本说明 (2)2 如何使用SPSSAU进行多分类logistic回归操作 (5)3 多分类logistic相关问题？ (8)第1点：出现奇异矩阵或质量异常 (9)第2点：提示“Y的选项过少或过多”? (9)第3点：OR值的意义 (9)第4点：wald值或z值 (10)第5点：McFadden R 方、Cox & Snell R 方和Nagelkerke R 方相关问题？ (10)Logistic回归分析（logit回归）一般可分为3类：分别是二元Logistic回归分析、多分类Logistic回归分析和有序Logistic回归分析。
logistic回归分析类型如下所示。
Logistic回归选择Logistic回归分析用于研究X对Y的影响，并且对X的数据类型没有要求，X可以为定类数据，也可以为定量数据，但要求Y必须为定类数据，并且根据Y的选项数，使用相应的数据分析方法。
如果Y有两个选项，如愿意和不愿意、是和否，那么应该使用二元Logistic回归分析(SPSSAU进阶方法->二元logit);●如果Y有多个选项，并且各个选项之间可以对比大小，例如，1代表“不愿意”，2代表“无所谓”，3代表“愿意”，这3个选项具有对比意义，数值越高，代表样本的愿意程度越高，那么应该使用多元有序Logistic回归分析(SPSSAU进阶方法->有序logit)；●如果Y有多个选项，并且各个选项之间不具有对比意义，例如，1代表“淘宝”，2代表“天猫”，3代表“京东”，4代表“亚马逊中国”，数值仅代表不同类别，数值大小不具有对比意义，那么应该使用多元无序Logistic回归分析(SPSSAU进阶方法->多分类logit)。
1多分类logistic回归分析基本说明只要是logistic回归，都是研究X对于Y的影响，区别在于因变量Y上，logistic回归时，因变量Y是看成定类数据的，如果为二元（即选项只有2个），那么就是二元logistic回归；如果Y 是多个类别且类别之间无法进行对比程度或者大小，则为多分类logistic回归；如果Y是多个类别且类别之间可以对比程度大小（也称为定量数据，或者有序定类数据），此时则使用有序logistic回归。
LOGISTIC回归
一、回归分析的分类logistic回归（logistic regression）是研究因变量为二分类或多分类观察结果与影响因素（自变量）之间关系的一种多变量分析方法，属概率型非线性回归。
根据1个因变量与多个因变量之分，有以下区分：①一个因变量y：I连续形因变量（y）——线性回归分析II分类型因变量（y）——Logistic 回归分析III 生存时间因变量（y）——生存风险回归分析IV时间序列因变量（y）——时间序列分析②多个因变量（y1,y2,……yn）：I 路径分析II 结构方程模型分析在流行病学研究中，常需要分析疾病与各种危险因素间的定量关系，同时为了能真实反映暴露因素与观察结果间的关系，需要控制混杂因素的影响。
（1）Mantel-Haenszel分层分析：适用于样本量大、分析因素较少的情况。
当分层较多时，由于要求各格子中例数不能太少，所需样本较大，往往难以做到；当混杂因素较多时，分层数也呈几何倍数增长，这将导致部分层中某个格子的频数为零，无法利用其信息。
（2）线性回归分析：由于因变量是分类变量，不能满足其正态性要求；有些自变量对因变量的影响并非线性。
（3）logistic回归:不仅适用于病因学分析，也可用于其他方面的研究，研究某个二分类（或无序及有序多分类）目标变量与有关因素的关系。
二、logistic回归分析（一）logistic回归的分类（1）二分类资料logistic回归：因变量为两分类变量的资料，可用非条件logistic回归和条件logistic回归进行分析。
非条件logistic回归多用于非配比病例-对照研究或队列研究资料，条件logistic回归多用于配对或配比资料。
（2）多分类资料logistic回归：因变量为多项分类的资料，可用多项分类logistic回归模型或有序分类logistic回归模型进行分析。
队列研究(cohort study)：也称前瞻性研究、随访研究等。
是一种由因及果的研究，在研究开始时，根据以往有无暴露经历，将研究人群分为暴露人群和非暴露人群，在一定时期内，随访观察和比较两组人群的发病率或死亡率。
(卫生统计学)第十九章 Logistic回归分析
结果解释
3个βi的估计值都是正数，表明这三个因素都是危险因素且都有统计学意 义。从优势比OR上可以看出，在因素x2和x3固定不变时，因素x1每增加一个 等级所引起的优势比为增加前的3.034倍；在因素X1和X3固定不变时，因素x2 每增加一个等级所引起的优势比为增加前的2.019倍 。在因素x1和x2固定不变 时，因素x3每增加一个等级所引起的优势比为增加前的2.651倍。同时在考察 因素相对贡献大小时，从标准系数看， β'1> β' 3 > β'2 ，故x1的相对贡献比x2和 x3大。
OR
P1 P0
/1 /1
P1 P0
e i
亦称比数比
反映某一个危险因素 xi在不同暴露水平下发病 与不发病的比。
当阳性率 P 1时， OR RR
二、参数估计
由于Logistic回归是一种概率模型，通常采用最大似然估计法（maximum likelihood estimate）求解模型中的参数βj的估计值 bj (j=0,1,2,….k)。
1. 相对危险度 RR（ Re lative Risk ） RR P1 P0
反映某一个危险因素 xi两个不同暴露水平 1与 0的发病率的比
2. 优势 Odds
Odds P1 P1 1 P1 q1
亦称比数
反映某一个危险因素 xi在暴露水平 1下发病率与不发病率的 比
3. 优势比 OR （ Odds Ratio ）
个例预测
设某AMI患者在症状5小时内送到医院（x3=0），未发生休克（x1=0）， 已有心衰（x2=1），求抢救成功的概率。
logistic回归分析
表13-7 例13-2的logistic回归模型自变量筛选结果
模型
因素 X
第1步 常数项
回归系数 标准误
b
Sb
-2.528 0.238
Wald χ2 P值 112.433 <0.001
OR值
OR值95%可信区间 下限 上限
0.080
治疗11周
2.149 0.289 55.267 <0.001 8.578 4.867 15.117
因素 X 常数项
回归系数 标准误
Waldχ2 P值 OR值
b
Sb
-0.910 0.136 44.870 0.000 0.403
OR值95%可信区间
下限
上限
吸烟
0.886 0.150 34.862 0.000 2.424 1.807
3.253
饮酒
0.526 0.157 11.207 0.001 1.692 1.244
logistic回归分析
Logistic regression analysis
• 医学研究中应变量有时是二分类结果，如发病与不 发病、死亡与生存、有效与无效、复发与未复发等， 当需要研究二分类应变量的影响因素时，适合采用 logistic回归分析。
logistic回归属于概率型非线性回归，它是研究二 分类（可以扩展到多分类）反应变量与多个影响 因素之间关系的一种多变量分析方法。logistic回 归模型参数具有明确的实际意义。
OR值的可信区间：
exp(bj - zα/2 Sbj ) ORj exp(bj zα/2 Sb j )
• 例13-1 研究吸烟（X1）、饮酒（X2）与食道癌 （Y）关系的病例－对照资料，试作logistic回归 分析。
多元logistic回归分析2017
则四个格子所对应的概率分别是：
p1
p( y
1|
x
1)
exp( ) 1 exp( )
；
p2
p( y
1|
x
0)
exp( ) 1 exp( )
1
p1
p( y
0|
x
1)
1
1
exp(
)
；1
p2
p( y
0|
x
0)
1
1
exp( )
则似然函数为：
L [ exp( ) ]a[ exp( ) ]b[
15
例、口服避孕药（OC）与心肌梗死（MI）关系的病例对照研究结果
病例（MI） 对照
合计
服用 OC
39
24
63
未服 OC
114
154
268
合计
153
178
331
Logistic 回归分 析结果
16
表 15-1 为吸烟、饮酒与食管癌关系的病例-对照研究调查 资料，试进行 logistic 回归分析。
logistic回归模型的参数估计常采用最大似然估计。其基本 思想是先建立似然函数与对数似然函数，求使对数似然函 数最大时的参数值，其估计值即为最大似然估计值。
在病例-对照研究中，假设变量 y 取值 1 和 0 分别表示对象患
病和不患病；变量 x 取值 1 和 0 表示具有和不具有某种危险因 素；具体调查数据见下表：
其中， 0 为常数项， 1, 2 ,, m 为偏回归系数。
（15.1）
4
设 Z 0 1 X1 2 X 2 m X m ，则 Z 与 P 之间关系的
logistic 曲线如下图所示 。
多项分类Logistic回归分析的功能与意义 (1)
多项分类Logistic回归分析的功能与意义我们经常会遇到因变量有多个取值而且无大小顺序的情况，比如职业、婚姻情况等等，这时一般的线性回归分析无法准确地刻画变量之间的因果关系，需要用其它回归分析方法来进行拟合模型。
SPSS的多项分类Logistic回归便是一种简便的处理该类因变量问题的分析方法。
例子：下表给出了对山东省某中学20名视力低下学生视力监测的结果数据。
试用多项分类Logistic回归分析方法分析视力低下程度（由轻到重共3级）与年龄、性别（1代表男性，2代表女性）之间的关系。
并单击向右的箭头按钮使之进入“因变量”列表框，选择“性别”使之进入“因子”列表框，选择“年龄”使之进入“协变量”列表框。
还是以教程“blankloan.sav"数据为例，研究银行客户贷款是否违约（拖欠）的问题，数据如下所示：上面的数据是大约700个申请贷款的客户，我们需要进行随机抽样，来进行二元Logistic回归分析，上图中的“0”表示没有拖欠贷款，“1”表示拖欠贷款，接下来，步骤如下：1：设置随机抽样的随机种子，如下图所示：选择“设置起点”选择“固定值”即可，本人感觉200万的容量已经足够了，就采用的默认值，点击确定，返回原界面、2：进行“转换”—计算变量“生成一个变量（validate)，进入如下界面：在数字表达式中，输入公式：rv.bernoulli（0.7），这个表达式的意思为：返回概率为0.7的bernoulli分布随机值如果在0.7的概率下能够成功，那么就为1，失败的话，就为"0"为了保持数据分析的有效性，对于样本中“违约”变量取缺失值的部分，validate变量也取缺失值，所以，需要设置一个“选择条件”点击“如果”按钮，进入如下界面：如果“违约”变量中，确实存在缺失值，那么当使用"missing”函数的时候，它的返回值应该为“1”或者为“true"，为了剔除”缺失值“所以，结果必须等于“0“也就是不存在缺失值的现象点击”继续“按钮，返回原界面，如下所示：将是“是否曾经违约”作为“因变量”拖入因变量选框，分别将其他8个变量拖入“协变量”选框内，在方法中，选择：forward.LR方法将生成的新变量“validate" 拖入"选择变量“框内，并点击”规则“设置相应的规则内容，如下所示：设置validate 值为1，此处我们只将取值为1的记录纳入模型建立过程，其它值（例如：0）将用来做结论的验证或者预测分析，当然你可以反推，采用0作为取值记录点击继续，返回，再点击“分类”按钮，进入如下页面在所有的8个自变量中，只有“教育水平”这个变量能够作为“分类协变量” 因为其它变量都没有做分类，本例中，教育水平分为：初中，高中，大专，本科，研究生等等, 参考类别选择：“最后一个”在对比中选择“指示符”点击继续按钮，返回再点击—“保存”按钮，进入界面：在“预测值"中选择”概率，在“影响”中选择“Cook距离” 在“残差”中选择“学生化”点击继续，返回，再点击“选项”按钮，进入如下界面：分析结果如下：1：在“案例处理汇总”中可以看出：选定的案例489个，未选定的案例361个，这个结果是根据设定的validate = 1得到的，在“因变量编码”中可以看出“违约”的两种结果“是”或者“否” 分别用值“1“和“0”代替，在“分类变量编码”中教育水平分为5类，如果选中“为完成高中，高中，大专，大学等，其中的任何一个，那么就取值为1，未选中的为0，如果四个都未被选中，那么就是”研究生“ 频率分别代表了处在某个教育水平的个数，总和应该为489个1：在“分类表”中可以看出：预测有360个是“否”（未违约）有129个是“是”（违约）2：在“方程中的变量”表中可以看出：最初是对“常数项”记性赋值，B为-1.026，标准误差为：0.103那么wald =( B/S.E)²=(-1.026/0.103)² = 99.2248, 跟表中的“100.029几乎接近，是因为我对数据进行的向下舍入的关系，所以数据会稍微偏小，B和Exp(B) 是对数关系，将B进行对数抓换后，可以得到：Exp(B) = e^-1.026 = 0.358, 其中自由度为1，sig为0.000，非常显著1：从“不在方程中的变量”可以看出，最初模型，只有“常数项”被纳入了模型，其它变量都不在最初模型内表中分别给出了，得分，df , Sig三个值, 而其中得分（Score)计算公式如下：（公式中（Xi- X¯) 少了一个平方）下面来举例说明这个计算过程：(“年龄”自变量的得分为例）从“分类表”中可以看出：有129人违约，违约记为“1”则违约总和为129，选定案例总和为489那么：y¯ = 129/489 = 0.2638036809816x¯ = 16951 / 489 = 34.664621676892所以：∑(Xi-x¯)² = 30074.9979y¯（1-y¯）=0.2638036809816 *（1-0.2638036809816 ）=0.19421129888216 则：y¯（1-y¯）* ∑(Xi-x¯)² =0.19421129888216 * 30074.9979 = 5 840.9044060372 则：[∑Xi(yi - y¯）]^2 = 43570.8所以：=43570.8 / 5 840.9044060372 =7.4595982010876 = 7.46 （四舍五入）计算过程采用的是在EXCEL 里面计算出来的，截图如下所示：从“不在方程的变量中”可以看出，年龄的“得分”为7.46，刚好跟计算结果吻合！！答案得到验证~1:从“块1” 中可以看出：采用的是：向前步进的方法，在“模型系数的综合检验”表中可以看出：所有的SIG 几乎都为“0”而且随着模型的逐渐步进，卡方值越来越大，说明模型越来越显著，在第4步后，终止，根据设定的显著性值和自由度，可以算出卡方临界值，公式为：=CHIINV(显著性值,自由度) ，放入excel就可以得到结果2：在“模型汇总“中可以看出：Cox&SnellR方和Nagelkerke R方拟合效果都不太理想，最终理想模型也才：0.305 和0.446，最大似然平方的对数值都比较大，明显是显著的似然数对数计算公式为：计算过程太费时间了，我就不举例说明计算过程了Cox&SnellR方的计算值是根据：1：先拟合不包含待检验因素的Logistic模型，求对数似然函数值INL0 （指只包含“常数项”的检验）2：再拟合包含待检验因素的Logistic模型，求新的对数似然函数值InLB （包含自变量的检验）再根据公式：即可算出：Cox&SnellR方的值！提示：将Hosmer 和Lemeshow 检验和“随机性表” 结合一起来分析1：从 Hosmer 和Lemeshow 检验表中，可以看出：经过4次迭代后，最终的卡方统计量为：11.919，而临界值为：CHINV(0.05,8) = 15.507卡方统计量< 临界值，从SIG 角度来看：0.155 > 0.05 , 说明模型能够很好的拟合整体，不存在显著的差异。
Logistic回归分析简介
Logistic回归分析简介Logistic回归分析简介Logistic回归：实际上属于判别分析，因拥有很差的判别效率而不常用。
1．应用范围：①适用于流行病学资料的危险因素分析②实验室中药物的剂量-反应关系③临床试验评价④疾病的预后因素分析2．Logistic回归的分类：①按因变量的资料类型分：二分类多分类其中二分较为常用②按研究方法分：条件Logistic回归非条件Logistic回归两者针对的资料类型不一样，后者针对成组研究，前者针对配对或配伍研究。
3．Logistic回归的应用条件是：①独立性。
各观测对象间是相互独立的；②LogitP与自变量是线性关系；③样本量。
经验值是病例对照各50例以上或为自变量的5-10倍（以10倍为宜），不过随着统计技术和软件的发展，样本量较小或不能进行似然估计的情况下可采用精确logistic回归分析，此时要求分析变量不能太多，且变量分类不能太多；④当队列资料进行logistic回归分析时，观察时间应该相同，否则需考虑观察时间的影响（建议用Poisson回归）。
4．拟和logistic回归方程的步骤：①对每一个变量进行量化，并进行单因素分析；②数据的离散化，对于连续性变量在分析过程中常常需要进行离散变成等级资料。
可采用的方法有依据经验进行离散，或是按照四分、五分位数法来确定等级，也可采用聚类方法将计量资料聚为二类或多类，变为离散变量。
点；高杠杆点是指距离其他样品较远的点；强影响点是指对模型有较大影响的点，模型中包含该点与不包含该点会使求得的回归系数相差很大。
单独的特异点或高杠杆点不一定会影响回归系数的估计，但如果既是特异点又是高杠杆点则很可能是一个影响回归方程的“有害”点。
对特异点、高杠杆点、强影响点诊断的指标有Pearson残差、Deviance残差、杠杆度统计量H（hat matrix diagnosis）、Cook 距离、DFBETA、Score检验统计量等。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
多项分类Logistic回归分析的功能与意义-()————————————————————————————————作者：————————————————————————————————日期：多项分类Logistic回归分析的功能与意义我们经常会遇到因变量有多个取值而且无大小顺序的情况，比如职业、婚姻情况等等，这时一般的线性回归分析无法准确地刻画变量之间的因果关系，需要用其它回归分析方法来进行拟合模型。
SPSS的多项分类Logistic回归便是一种简便的处理该类因变量问题的分析方法。
例子：下表给出了对山东省某中学20名视力低下学生视力监测的结果数据。
试用多项分类Logistic回归分析方法分析视力低下程度（由轻到重共3级）与年龄、性别（1代表男性，2代表女性）之间的关系。
山东省某中学20名学生视力监测结果数据编号视力低下程度性别年龄111152111532114422165321663217722178211891114103218111117121217131115142118151215161215173217181115191115202216分析步骤：1、进入SPSS，打开“分析”|“回归”|“多项Logistic” 命令。
2、选择进行Logistic 回归的变量。
如下图所示对话框左侧的列表中，选中“视力低下程度”并单击向右的箭头按钮使之进入“因变量”列表框，选择“性别”使之进入“因子”列表框，选择“年龄”使之进入“协变量”列表框。
6.jpg(38.14 KB, 下载次数: 47)下载附件2012-8-13 23:20 上传3、其它设置使用系统默认设置即可。
4、设置完毕，单击“确定”按钮，等待输出结果。
模型拟合信息模型模型拟合标准似然比检验-2 倍对数似然值卡方df显著水平仅截距32.633最终18.80413.8284.008伪R 方Cox 和Snell.499Nagelkerke.572McFadden.336似然比检验效应模型拟合标准似然比检验简化后的模型的 -2倍对数似然值卡方df显著水平截距18.804.0000.年龄25.442 6.6382.036性别25.306 6.5022.039参数估计听力低下程度a B标准误Wald df 显著水平Exp(B)Exp(B) 的置信区间 95%下限上限1截距34.33819.553 3.0841.079年龄-2.112 1.181 3.1971.074.121.012 1.225[性别=1]21.272 1.183323.0951.000 1.731E+09 1.702E+08 1.761E+10 [性别=2]0..0....2截距20.97419.066 1.2101.271年龄-1.277 1.141 1.2511.263.279.030 2.613[性别=1]20.540.000.1.8.321E+088.321E+088.321E+08 [性别=2]0..0....还是以教程“blankloan.sav"数据为例，研究银行客户贷款是否违约（拖欠）的问题，数据如下所示：上面的数据是大约700个申请贷款的客户，我们需要进行随机抽样，来进行二元Logistic 回归分析，上图中的“0”表示没有拖欠贷款，“1”表示拖欠贷款，接下来，步骤如下：1：设置随机抽样的随机种子，如下图所示：选择“设置起点”选择“固定值”即可，本人感觉200万的容量已经足够了，就采用的默认值，点击确定，返回原界面、2：进行“转换”—计算变量“生成一个变量（validate)，进入如下界面：在数字表达式中，输入公式：rv.bernoulli（0.7），这个表达式的意思为：返回概率为0.7的bernoulli分布随机值如果在0.7的概率下能够成功，那么就为1，失败的话，就为"0"为了保持数据分析的有效性，对于样本中“违约”变量取缺失值的部分，validate变量也取缺失值，所以，需要设置一个“选择条件”点击“如果”按钮，进入如下界面：如果“违约”变量中，确实存在缺失值，那么当使用"missing”函数的时候，它的返回值应该为“1”或者为“true"，为了剔除”缺失值“所以，结果必须等于“0“也就是不存在缺失值的现象点击”继续“按钮，返回原界面，如下所示：将是“是否曾经违约”作为“因变量”拖入因变量选框，分别将其他8个变量拖入“协变量”选框内，在方法中，选择：forward.LR方法将生成的新变量“validate" 拖入"选择变量“框内，并点击”规则“设置相应的规则内容，如下所示：设置validate 值为1，此处我们只将取值为1的记录纳入模型建立过程，其它值（例如：0）将用来做结论的验证或者预测分析，当然你可以反推，采用0作为取值记录点击继续，返回，再点击“分类”按钮，进入如下页面在所有的8个自变量中，只有“教育水平”这个变量能够作为“分类协变量” 因为其它变量都没有做分类，本例中，教育水平分为：初中，高中，大专，本科，研究生等等, 参考类别选择：“最后一个”在对比中选择“指示符”点击继续按钮，返回再点击—“保存”按钮，进入界面：在“预测值"中选择”概率，在“影响”中选择“Cook距离” 在“残差”中选择“学生化”点击继续，返回，再点击“选项”按钮，进入如下界面：分析结果如下：1：在“案例处理汇总”中可以看出：选定的案例489个，未选定的案例361个，这个结果是根据设定的validate = 1得到的，在“因变量编码”中可以看出“违约”的两种结果“是”或者“否” 分别用值“1“和“0”代替，在“分类变量编码”中教育水平分为5类，如果选中“为完成高中，高中，大专，大学等，其中的任何一个，那么就取值为1，未选中的为0，如果四个都未被选中，那么就是”研究生“ 频率分别代表了处在某个教育水平的个数，总和应该为489个1：在“分类表”中可以看出：预测有360个是“否”（未违约）有129个是“是”（违约）2：在“方程中的变量”表中可以看出：最初是对“常数项”记性赋值，B为-1.026，标准误差为：0.103那么wald =( B/S.E)²=(-1.026/0.103)² = 99.2248, 跟表中的“100.029几乎接近，是因为我对数据进行的向下舍入的关系，所以数据会稍微偏小，B和Exp(B) 是对数关系，将B进行对数抓换后，可以得到：Exp(B) = e^-1.026 = 0.358, 其中自由度为1，sig为0.000，非常显著1：从“不在方程中的变量”可以看出，最初模型，只有“常数项”被纳入了模型，其它变量都不在最初模型内表中分别给出了，得分，df , Sig三个值, 而其中得分（Score)计算公式如下：（公式中（Xi- X¯) 少了一个平方）下面来举例说明这个计算过程：(“年龄”自变量的得分为例）从“分类表”中可以看出：有129人违约，违约记为“1”则违约总和为129，选定案例总和为489那么：y¯ = 129/489 = 0.2638036809816x¯ = 16951 / 489 = 34.664621676892所以：∑(Xi-x¯)² = 30074.9979y¯（1-y¯）=0.2638036809816 *（1-0.2638036809816 ）=0.19421129888216 则：y¯（1-y¯）* ∑(Xi-x¯)² =0.19421129888216 * 30074.9979 = 5 840.9044060372 则：[∑Xi(yi - y¯）]^2 = 43570.8所以：=43570.8 / 5 840.9044060372 =7.4595982010876 = 7.46 （四舍五入）计算过程采用的是在EXCEL 里面计算出来的，截图如下所示：从“不在方程的变量中”可以看出，年龄的“得分”为7.46，刚好跟计算结果吻合！！答案得到验证~！！！！1:从“块1” 中可以看出：采用的是：向前步进的方法，在“模型系数的综合检验”表中可以看出：所有的SIG 几乎都为“0”而且随着模型的逐渐步进，卡方值越来越大，说明模型越来越显著，在第4步后，终止，根据设定的显著性值和自由度，可以算出卡方临界值，公式为：=CHIINV(显著性值,自由度) ，放入excel就可以得到结果2：在“模型汇总“中可以看出：Cox&SnellR方和Nagelkerke R方拟合效果都不太理想，最终理想模型也才：0.305 和0.446，最大似然平方的对数值都比较大，明显是显著的似然数对数计算公式为：计算过程太费时间了，我就不举例说明计算过程了Cox&SnellR方的计算值是根据：1：先拟合不包含待检验因素的Logistic模型，求对数似然函数值INL0 （指只包含“常数项”的检验）2：再拟合包含待检验因素的Logistic模型，求新的对数似然函数值InLB （包含自变量的检验）再根据公式：即可算出：Cox&SnellR方的值！提示：将Hosmer 和Lemeshow 检验和“随机性表” 结合一起来分析1：从 Hosmer 和Lemeshow 检验表中，可以看出：经过4次迭代后，最终的卡方统计量为：11.919，而临界值为：CHINV(0.05,8) = 15.507卡方统计量< 临界值，从SIG 角度来看：0.155 > 0.05 , 说明模型能够很好的拟合整体，不存在显著的差异。
2：从Hosmer 和Lemeshow 检验随即表中可以看出：”观测值“和”期望值“几乎是接近的，不存在很大差异，说明模型拟合效果比较理想，印证了“Hosmer 和Lemeshow 检验”中的结果而“Hosmer 和Lemeshow 检验”表中的“卡方”统计量，是通过“Hosmer 和Lemeshow 检验随即表”中的数据得到的（即通过“观测值和”预测值“）得到的，计算公式如下所示：x²（卡方统计量）= ∑（观测值频率- 预测值频率）^2 / 预测值的频率举例说明一下计算过程：以计算"步骤1的卡方统计量为例"1：将“Hosmer 和Lemeshow 检验随即表”中“步骤1 ”的数据，复制到excel 中，得到如下所示结果：从“Hosmer 和Lemeshow 检验”表中可以看出，步骤1 的卡方统计量为：7.567，在上图中，通过excel计算得到，结果为7.566569 ~~7.567 （四舍五入），结果是一致的，答案得到验证！！1：从“分类表”—“步骤1” 中可以看出：选定的案例中，“是否曾今违约”总计：489个，其中没有违约的360个，并且对360个“没有违约”的客户进行了预测，有340个预测成功，20个预测失败，预测成功率为：340 / 360 =94.4%其中“违约”的有189个，也对189个“违约”的客户进行了预测，有95个预测失败，34个预测成功，预测成功率：34 / 129 = 26.4%总计预测成功率：（340 + 34）/ 489 = 76.5%步骤1 的总体预测成功率为：76.5%，在步骤4终止后，总体预测成功率为：83.4，预测准确率逐渐提升76.5%—79.8%—81.4%—83.4。