分类变量的分析-logistic_分析
医学统计学Logistic回归分析简介(四)
1
1 exp(0 1 X1 p X p )
2019年7月7日星期日
重庆交通大学管理学院
21:05:13
模型简介－适用条件
反应变量为二分类变量或某事件的发生率； 自变量与logit（P）之间为线性关系； 残差合计为0，且服从二项分布； 各观测间相互独立。
logistic回归模型应该使用最大似然法来解决方程的 估计和检验问题，不应当使用以前的最小二乘法进行参数 估计。
-1.062
S.E. .317 .175 .318 .616
.184
Wal d 6.391
30.370 6.683 4.270
33.224
df 1 1 1 1
1
Sctep lwt
3
ptl
-.015
.007
5.584
1
.728
.327
4.961
1
ht
1.789
.694
6.639
1
Constant
.893
.038
race(2)
.329
.534
.380
1
.537
sm oke
.927
.399
5552
.345
2.562
1
.109
ht
1.763
.689
6.541
1
.011
ui
.649
.468
1.925
1
.165
ftv
.032
.171
.035
1
.851
Constant
1.143
1.087
2019年7月7日星期日
重庆交通大学管理学院
分类分析--逻辑回归（二分类）
分类分析--逻辑回归（⼆分类）分类分析--逻辑回归逻辑回归（logistic regression）是⼴义线性模型的⼀种，可根据⼀组数值变量预测⼆元输出，即逻辑回归只适⽤于⼆分类，R中的基本函数glm()可⽤于拟合逻辑回归模型。
glm()函数⾃动将预测变量中的分类变量编码为相应的虚拟变量。
威斯康星乳腺癌数据中的全部预测变量都是数值变量，因此不必要对其编码。
（1）使⽤glm()进⾏逻辑回归#拟合逻辑回归，基于df.train数据框中的数据构造逻辑回归模型fit.logit <- glm(class~., data=df.train, family=binomial())summary(fit.logit) #检查模型结果分析：模型中有三个预测变量（sizeUniformity、shapeUniformity和singleEpithelialCellSize）的系数未通过显著性检验（即p值⼤于0.1）。
从预测的⾓度来说，我们⼀般不会将这些变量纳⼊最终模型。
当这类不包含相关信息的变量特别多时，可以直接将其认定为模型中的噪声。
#对训练集外样本单元进⾏分类，采⽤基于df.train建⽴的模型来对df.validate数据集中的样本单元分类。
predict()函数默认输出肿瘤为恶性的对数概率，指定参数type="response"即可得到预测肿瘤为恶性的概率。
样本单元中，概率⼤于0.5的被分为恶性肿瘤类，概率⼩于等于0.5的被分为良性肿瘤类。
prob <- predict(fit.logit, df.validate, type="response")logit.pred <- factor(prob > .5, levels=c(FALSE, TRUE),labels=c("benign", "malignant"))#评估预测准确性，给出预测与实际情况对⽐的交叉表（即混淆矩阵，confusion matrix）logit.perf <- table(df.validate$class, logit.pred,dnn=c("Actual", "Predicted"))logit.perf结果分析：模型正确判别了129个类别为良性的患者和69个类别为恶性的患者。
分类变量的分析
分类变量的分析一．分类变量分类变量有有序变量、无序变量和二分类，其中有序和无序都是多分类举例说明，有序变量：高血压1期、II期、III期属于有序变量同时也属于等级资料，无序变量：汉族、回族、哈组；工人、农民、教师这样得属于无序变量，男性、女性；死亡、存活属于二分类变量。
在分析方法中差别性检验中，二分类变量和无序变量都能用卡方检验，只不过一个是四格表卡方一个是RXC列联卡方，而有序变量也就是等级资料就得用秩和检验。
在多元回归时，有序变量和二分类变量都是赋值1、2、3或0、1求得一个OR或RR值，而无序资料就必须要设置哑变量（虚拟变量），例如职业工人、农民、教师。
你计算得时候赋值为工人＝1、农民=2、教师=3，如果你当成连续得变量去计算那么得到一个OR或RR值，解释为每增加一个等级发生某病得危险性增加多少倍。
那么在无序变量就意味着工人增加一个等级，这是不可能的。
因为这样得变量各等级之间不存在1、2、3得数学关系。
在有序变量中，我们可以多元回归来检验假设，运用的原理时最小二乘法。
在无序变量中，我们必须引用哑变量（虚拟变量）来实现logistic回归。
在运用logistics回归分析之前我们必须先要理解虚拟变量。
二．下面的重点就是关于虚拟变量的讲解。
1．虚拟变量的含义虚拟变量是用以反映质的属性的一个人工变量，取值为0 或1，通常记为D（Dummy Variable）,又可称之为属性变量、双值变量、类型变量、定性变量、或二元型变量。
（注意：虚拟变量D只能取0或1两个值，即属性之间不能运算！对基础类型或否定类型设D=0对比较类型或肯定类型设D=1）如1 男性D =0 女性但是，虚拟变量主要是用来代表质的因素，但有些情况下也可以用来代表数量因素。
例如：在建立储蓄函数时，“年龄”是一个重要的解释变量。
虽然“年龄”是一个数量因素，但为了方便也可以用虚拟变量表示。
例如：可以把居民分为两个年龄组：第一组：20~35岁的居民，第二组：35~60岁的居民，用“1”表示第一年龄组；“0”表示第二年龄组，就可以估计年龄对储蓄的影响。
logistic回归模型的统计诊断与实例分析
logistic回归模型的统计诊断与实例分析Logistic回归模型是统计学和机器学习领域中主要的分类方法之一。
它可以用于分析两类和多类的定性数据，从而提取出有用的结论和决策。
在这篇文章中，我将介绍Logistic回归模型的统计诊断，并举例说明如何运用Logistic回归模型进行实例分析。
一、Logistic回归模型统计诊断Logistic回归模型作为一种二项分类模型，其输出结果可以用图形化地展示。
Logistic回归分析结果采用曲线图来表示：其中X 轴为样本属性变量，Y轴为回归系数。
当离散变量的值变化时，曲线图变化情况可以反映出输出结果关于输入变量的敏感性。
因此，通过观察曲线图，可以进行相应的模型验证和诊断。
此外，还可以根据Logistic回归的统计诊断，检验模型的拟合度和效果，如用R Square和AIC等度量指标，亦可以用传统的Chi-square计检验来诊断模型结果是否显著。
二、Logistic回归模型实例分析下面以一个关于是否给学生提供免费早餐的实例说明，如何使用Logistic回归模型分析：首先，针对学生的社会经济地位、学习成绩、性别、年龄等变量，采集建立实例，并将实例作为输入数据进行Logistic回归分析；其次，根据Logistic回归模型的统计诊断，使用R Square和AIC等统计指标来评估模型的拟合度和效果，并利用Chi-square统计检验检验模型系数的显著性；最后，根据分析结果，为学校制定有效的政策方案，进行有效的学生早餐服务。
总之，Logistic回归模型可以有效地进行分类分析，并能够根据输入变量提取出可以给出显著有用结论和决策的模型。
本文介绍了Logistic回归模型的统计诊断，并举例说明如何运用Logistic回归模型进行实例分析。
数据分析知识：数据分析中的Logistic回归分析
数据分析知识：数据分析中的Logistic回归分析Logistic回归分析是数据分析中非常重要的一种统计分析方法，它主要用于研究变量之间的关系，并且可以预测某个变量的取值概率。
在实际应用中，Logistic回归分析广泛应用于医学疾病、市场营销、社会科学等领域。
一、Logistic回归分析的原理1、概念Logistic回归分析是一种分类分析方法，可以将一个或多个自变量与一个二分类的因变量进行分析，主要用于分析变量之间的关系，并确定自变量对因变量的影响。
Logistic回归分析使用的是逻辑回归模型，该模型是将自变量与因变量的概率映射到一个范围为0-1之间的变量上，即把一个从负无穷到正无穷的数映射到0-1的范围内。
这样，我们可以用这个数值来表示某个事件发生的概率。
当这个数值大于0.5时，我们就可以判定事件发生的概率比较高，而当这个数值小于0.5时，我们就可以判定事件发生的概率比较小。
2、方法Logistic回归分析的方法有两种：一是全局最优化方法，二是局部最优化方法。
其中全局最优化方法是使用最大似然估计方法，而局部最优化方法则是使用牛顿法或梯度下降算法。
在进行Logistic回归分析之前，我们首先要对数据进行预处理，将数据进行清洗、变量选择和变量转换等操作，以便进行回归分析。
在进行回归分析时，我们需要先建立逻辑回归模型，然后进行参数估计和模型拟合，最后进行模型评估和预测。
在进行参数估计时，我们通常使用最大似然估计方法，即在估计参数时，选择最能解释样本观测数据的参数值。
在进行模型拟合时，我们需要选取一个合适的评价指标，如准确率、召回率、F1得分等。
3、评价指标在Logistic回归分析中，评价指标包括拟合度、准确性、鲁棒性、可解释性等。
其中最常用的指标是拟合度，即模型对已知数据的拟合程度，通常使用准确率、召回率、F1得分等指标进行评价。
此外，还可以使用ROC曲线、AUC值等指标评估模型的性能。
二、Logistic回归分析的应用1、医学疾病预测在医学疾病预测中，Logistic回归分析可以用来预测患某种疾病的概率，如心脏病、肺癌等。
logistic回归模型结果解读
logistic回归模型结果解读
x
一、 logistic回归模型结果解读
Logistic回归模型是一种分类数据模型，主要用于对不同类别的输出结果进行预测，因此，其结果解读也要以分类的形式来解释。
1、系数与因变量之间的关系
Logistic回归模型通过对因变量的分析，来推断被解释变量的概率。
结果中的系数提供了因变量与被解释变量之间的关系，比如我们可以分析不同系数值大小，从而获得因变量对被解释变量的影响程度，正相关的影响是系数的正值，反之是负值。
2、P值
P值是从回归结果中获取的，它可以反映特定因变量对被解释变量的重要性，P值越小，表明相对于其它因变量，该因变量对被解释变量影响越明显，则说明该因变量是重要因素。
3、R-Square和平均绝对值
R-Square是可决系数，它反映回归结果的好坏，R-Square的值越大，表明模型的预测效果越好，也就是越能够准确的来预测被解释变量的值。
平均绝对值也是可以用来判断模型好坏的指标，它比较每个样本的预测值和实际值之间的误差，值越小则表示模型的预测精度越高。
4、改进模型
可以通过以上结果，来判断模型的预测效果好坏，从而思考如何改进模型：比如可以进行特征选择，去掉系数值较小或者P值较大的因变量；也可以使用其它模型，如决策树或神经网络模型来进行比较，看哪一个模型对被解释变量的预测效果更好。
分类变量的分析-logistic 分析
I
1 2 3 4 5 6 7 8 9 10 11 12
x1
59 36 61 58 55 61 38 42 50 58 68 25
x2
2 1 2 3 3 1 1 1 1 3 3 2
x3
43.4 57.2 190.0 128.0 80.0 94.4 76.0 240.0 74.0 68.6 132.8 94.6
input x1 x2 x3 x4 x5 y @@; cards; 59 2 43.4 2 1 0 36 1 57.2 1 1 0 61 2 190.0 2 1 0
58 3 128.0 4 3 1 55 3 80.0 3 4 1 61 1 94.4 2 1 0
38 1 76.0 1 1 0 42 1 240.0 3 2 0 50 1 74.0 1 1 0 58 3 68.6 2 2 0 68 3 132.8 4 2 0 25 2 94.6 4 3 1 52 1 56.0 1 1 0 31 1 47.8 2 1 0 36 3 31.6 3 1 1
Байду номын сангаас
x4
2 1 2 4 3 2 1 3 1 2 4 4
X5
1 1 1 3 4 1 1 2 1 2 2 3
y
0 0 0 1 1 0 0 0 0 0 0 1
sasuser.g
表中有关符号的意义如下：
i：标本序号；
x1：确诊时患者的年龄（岁）； x2：肾细胞癌血管内皮生长因子，其阳性表达由低到高3个等级 x3：肾细胞癌组织内微血管数； x4：肾癌细胞组织学分级，由低到高4级；
多元Logistic_回归分析解析
Ordered Value 1 2
Response Profile
Total
Y Count
Weight
1
2
20.00000
0
2 275.00000
Model Fitting Information and Testing Global Null Hercept
• 按因变量取值个数：
– 二值logistic回归分析
– 多值logistic回归分析
• 按自变量个数：
o 一元logistic回归分析
o 多元logistic回归分析
第二节 Logistic 回归分析的数学模型
(1) 二值一元logistic回归模型： p
令y是1,0变量，x是任 意变量，p=p(y=1|x) ，那么，二值变量y关于 变量x的一元logistic 回归 模型是：
1
p = p (x )
0.5
0 -α /β
x
变 量 p与 x的 关 系
其中，α和β是未知参数或待估计的回归系数。该模型描述 了y取某个值（这里y=1)的概率p与自变量x之间的关系。
(2) 二值多元logistic回归模型： 令y是1,0变量，x1,x2,…,xk是任意k个变量； p=p(y=1|x1,x2,…,xk)，那么，变量y关于变量x1,x2,…,xk 的k元logistic回归模型是：
• 二分类变量： – 生存与死亡 – 有病与无病 – 有效与无效 – 感染与未感染
• 多分类有序变量： – 疾病程度（轻度、中度、重度） – 治愈效果（治愈、显效、好转、无效）
• 多分类无序变量： o 手术方法（A、B、C） o 就诊医院（甲、乙、丙、丁）
医学研究者经常关心的问题
医学统计学logistic回归分析
It is applicable to work report, lecture and teaching
问题提出
多重线性回归分析的前提条件 线性；独立；正态；等方差（ Y：正态随机变量）
Y为分类变量，多重线性回归不适用 研究二分类因变量（如患病与未患病、阳性与阴性 等）或多分类因变量与一组自变量（X1， X2，．Xm，）的关系，线性回归分析方法就无 能为力。
问题提出
Logistic 回归分析可解决应变量为:
– 二分类; – 无序多分类; – 有序多分类;
本次教学主要介绍应变量为二分类的 Logistic 回归分析
分类
按设计， Logistic 回归分析分为： 成组：非条件Logistic 回归分析 配对：条件Logistic 回归分析
Logistic回归模型
女 性 乳 腺 癌 危 险 因 素 1 :1 配 对 病 例 -对 照 研 究 资料整理表
配
病例
对照
对
X 11 X 12 X 13 X 14 X 15 X 16 X 17
X 01 X 02 X 03 X 04 X 05 X 06 X 07
号
1
0000010
0000001
2
0100101
0000001
公式左端为条件概率 ，相应的Logistic回 归称为条件回归，前述非匹配资料的 Logistic回归则称为非条件回归 ；
条件Logistic模型中，不含常数项 β0 。
应用
Logistic回归分析广泛用于流行病学 中前瞻性的队列研究、回顾性的病例对照研究以及现况研究。
Logistic回归的应用
校正混杂因素 筛选危险因素 预测与判别
logistic回归模型的分类及主要问题
Logistic回归模型的分类及主要问题一、引言逻辑回归是一种广泛应用于分类问题的统计方法，用于预测某个实例属于特定类别的概率。
尽管其简单易懂并具有很好的可解释性，但在应用过程中仍然会遇到一些问题。
本文将详细讨论逻辑回归模型的分类及其主要问题。
二、逻辑回归模型的分类1. 二元逻辑回归：这是最简单也是最常见的逻辑回归形式，用于解决二分类问题（例如，电子邮件是否为垃圾邮件）。
在这种模型中，我们尝试找到一条线或一个超平面，以最大化正类和负类之间的分离度。
2. 多项式逻辑回归：当与线性回归模型相比，数据的特性更复杂时，可以使用多项式逻辑回归。
在这种情况下，我们使用非线性函数来映射自变量和因变量之间的关系。
3. 次序逻辑回归：当输出变量是有序的（例如，评级为1到5）时，可以使用次序逻辑回归。
这种模型可以估计有序概率比（OR），即成功的概率与失败的概率之比。
三、逻辑回归模型的主要问题1. 多重共线性：逻辑回归模型假设自变量之间不存在线性关系。
然而，在现实世界的数据集中，这种假设往往不成立，导致多重共线性问题。
多重共线性会导致模型系数的不稳定，影响模型的解释性和预测准确性。
2. 类别不平衡：在处理类别不平衡的数据时，逻辑回归模型可能会遇到问题。
例如，在垃圾邮件检测中，垃圾邮件的数量通常远少于非垃圾邮件。
这种情况下，模型可能会过于倾向于预测为非垃圾邮件，导致预测性能下降。
3. 忽略交互效应：逻辑回归模型默认自变量之间没有交互效应。
然而，在现实中，自变量之间可能存在复杂的交互关系。
忽略这些交互效应可能会导致模型的预测性能下降。
4. 精度-复杂性权衡：逻辑回归模型的一个关键问题是找到精度和复杂性之间的最佳平衡。
一方面，我们希望模型尽可能精确；另一方面，我们也希望模型尽可能简单，以便解释和应用。
然而，过度复杂的模型可能会导致过拟合，而过于简单的模型则可能无法捕捉到数据的真实结构。
四、总结逻辑回归是一种强大的分类工具，但在使用过程中需要注意以上提到的问题。
logistic回归分析
队列研究(cohort study)：也称前瞻性研究、随访研究等。是一种由因及果的研
究，在研究开始时，根据以往有无暴露经历，将研究人群分为暴露人群和非暴 露人群，在一定时期内，随访观察和比较两组人群的发病率或死亡率。如果两 组人群发病率或死亡率差别有统计学意义，则认为暴露和疾病间存在联系。队 列研究验证的暴露因素在研究开始前已存在，研究者知道每个研究对象的暴露 情况。
调查方向：追踪收集资料 暴露 疾病 +
人数
比较
aபைடு நூலகம்
b c
+
研究人群
a/(a+b)
+ -
-
c/(c+d)
d
队列研究原理示意图
暴露组 非暴露组
病例 a c
非病例 b d
合计 n1=a+b n0=c+d
发病率 a/ n1 c/ n0
相对危险度（relative risk， RR）也称危险比（risk ratio） 或率比（rate ratio） RR I e a / n1 、 I e a / n1 、 I 0 c / n2 。
研究，先按疾病状态确定调查对象，分为病例(case)和对照 (control)两组，然后利用已有的记录、或采用询问、填写调查表 等方式，了解其发病前的暴露情况，并进行比较，推测疾病与 暴露间的关系。
调查方向：收集回顾性资料
比较 a/(a+b)
人数 a b c
暴露 +
疾病 病例
+ 对照 -
c/(c+d) d
二、 logistic回归模型的参数估计
logistic 回归模型的参数估计常采用最大似然估计。 其基本思想是先建立似然函数与对数似然函数， 求使对数似然函数最大时的参数值，其估计值即 为最大似然估计值。 建立样本似然函数：
logistic回归分析(2)
8
非条件logistic回归
logit 因变量 自变量,[选择项]
sw logit 因变量 自变量,[选择项]
选择项： or 指定结果中给出OR值，缺失时输出回归系数 pr(#)是剔除变量的P值 pe(#)是选入变量的P值
9
例1(成组病例对照研究) 某单位研究胸膜间皮瘤与接触石 棉的关系，资料见下表。试对其进行分析。
begin with full model
p = 0.7439 >= 0.1100 removing ht
p = 0.1314 >= 0.1100 removing drug
Conditional (fixed-effects) logistic regression Number of obs = 315
4
参数估计与假设检验
参数的估计：极大似然（MLE） 假设检验：
似然比检验: G=-2lnL-(-2lnL’)
Wald检验: z 检验
2 i
(
ˆi SE(ˆi
)
)
2
5
回归系数的解释
回归系数 表示当其它自变量固定不变时， X每改变一个单位，优势对数的改变量（优 势比的对数）。
6
回归系数的解释
7
回归系数的解释
多分类变量：哑变量(dummy variable)
x＝1时： x1＝1， x2＝0， x3＝0， x4＝0 表示A型血 x＝2时： x1＝0， x2＝1， x3＝0， x4＝0 表示B型血 x＝3时： x1＝0， x2＝0， x3＝1， x4＝0 表示AB型血 x＝4时： x1＝0， x2＝0， x3＝0， x4＝1 表示O型血
➢ 回归系数β：表示病例与对照变量值之差与患病 优势的关系，即exp(β)表示病例与对照暴露水平 相差一个单位时患病的优势比。
9 logistic回归分析
z 检验
回归系数的解释
表示当其它自变量固定不变时， 回归系数 β 表示当其它自变量固定不变时， X每改变一个单位，优势对数的改变量（优 每改变一个单位， 每改变一个单位 优势对数的改变量（ 势比的对数）。 势比的对数）。
回归系数的解释
回归系数的解释 二分类变量： OR=exp(β)表示暴露组发病的危险是 非暴露组的几倍。 等级变量：一般以最小等级或最大等级作为参考组， 并按等级顺序依次取为0，1，2，…。此时， OR=exp(β)表示X增加一个等级时，发病危险变为原 来的几倍。 连续性变量：表示增加1(个计量单位)时，发病危险 变为原来的几倍。
表1 胸膜间皮瘤与接触石棉的关系 以往接触过石棉 未接触过石棉 40 36 9 67 49 103
组别 间皮瘤病例 对照 合计
合计 76 76 152
方法1： 方法 ：卡方检验 方法2：拟合logistic回归模型，即 回归模型， 方法 ：拟合 回归模型
log it ( p) = α + β exp osure
产生哑变量: tab x,gen(x)
非条件logistic回归
logit 因变量 自变量,[选择项] sw logit 因变量 自变量,[选择项]
选择项： or 指定结果中给出OR值，缺失时输出回归系数 pr(#)是剔除变量的P值 pe(#)是选入变量的P值
成组病例对照研究) 例1(成组病例对照研究 某单位研究胸膜间皮瘤与接触 成组病例对照研究 石棉的关系，资料见下表。试对其进行分析。 石棉的关系，资料见下表。试对其进行分析。
二分类资料的分析
非条件logistic模型：成组病例对照研究资料
条件logistic模型：配比病例对照研究资料
Logistic回归分析(共53张PPT)
• 优势比
• 常把出现某种结果的概率与不出现的概率 之比称为比值（odds),即odds=p/1-p。两个
比值之比称为比值比（Odds Ratio),简称 OR。
• Logistic回归中的常数项（b0）表示，在不
接触任何潜在危险／保护因素条件下，效 应指标发生与不发生事件的概率之比的对 数值。
Forward: LR （ 向前逐步法：似然比 法 likelihood ratio，LR）→ 再击下 方的 Save 钮，将 Predicted values 、 Influence 与 Residuls 窗口中的 预选项全勾选 → Continue → 再击 下方的 Options 钮，将 Statistics and Plot 小窗口中的选项全勾选 → Continue → OK 。
三、参数检验
• 似然比检验（likehood ratio test）
通过比较包含与不包含某一个或几 个待检验观察因素的两个模型的对数似 然函数变化来进行，其统计量为G （又 称Deviance）。
G=-2(ln Lp-ln Lk) 样本量较大时， G近似服从自由度
为待检验因素个数的２分布。
• 比分检验（score test）
， Logistic回归系数的解释变得更为复杂 ，应特别小心。
根据Wald检验，可知Logistic回归系
数bi服从u分布。因此其可信区间为
病例与对照匹配---条件logistic回归 其中， 为常数项， 为偏回归系数。 应变量水平数大于2，且水平之间不存在等级递减或递增的关系时，对这种多分类变量通过拟合一种广义Logit模型方法。
u= bi s bi
u服从正态分布，即为标准正态离差。
二元logistic回归分类变量结果解读
在二元Logistic回归分析中，结果解读主要涉及到模型的拟合优度以及各个自变量的影响程度。
首先，模型的拟合优度可以通过一些统计检验来进行评估，例如Hosmer-Lemeshow检验。
如果检验结果的P值大于0.05（例如，sig=0.533>0.05），则可以认为模型的拟合优度较高，模型能够较好地拟合实际数据。
其次，对于自变量（也称为解释变量或预测因子）的解读，主要关注其回归系数（B值）、标准误、P值、以及Odds Ratio（OR值）。
以肿瘤家族史为例，如果有统计学意义（即P<0.05），则表明肿瘤家族史对于二元Logistic回归模型的因变量（也称为响应变量或结果变量）有显著影响。
回归系数（B值）表示了自变量每增加一个单位，因变量发生比的对数变化量。
标准误用于衡量回归系数的稳定性和可靠性。
P值用于判断自变量是否对因变量有显著影响。
通常，如果P<0.05，则认为自变量对因变量的影响是显著的。
Odds Ratio（OR值）是二元Logistic回归分析中一个非常重要的指标，它表示了自变量每增加一个单位，因变量发生的概率与不发生的概率的比值（即发生比）的变化情况。
以肿瘤家族史为例，OR=7.563意味着有肿瘤家族史的人患鼻咽癌的概率是无肿瘤家族史的7.563倍。
需要注意的是，对于分类变量的解读要特别注意其参照类别。
在二元Logistic回归分析中，通常会将某一类别作为参照类别，其他类别与之进行比较。
因此，在解读结果时，要明确各个类别与参照类别的比较情况。
应用SPSS软件进行多分类Logistic回归分析
应用SPSS软件进行多分类Logistic回归分析应用SPSS软件进行多分类Logistic回归分析一、简介Logistic回归是一种常用的统计分析方法，在很多领域中都有广泛的应用。
它主要用于预测一个分类变量的可能性或概率，例如判断一个疾病的患病风险、判断学生成绩的优劣、预测金融市场的涨跌等。
本文将介绍如何使用SPSS软件进行多分类Logistic回归分析，并以一个具体案例来说明其应用。
二、SPSS软件介绍SPSS软件是统计分析的常用工具之一，它具有友好的用户界面和丰富的分析功能。
在进行Logistic回归分析时，SPSS可以帮助我们进行数据处理、模型建立、模型拟合、模型评估等步骤，并输出详细的分析结果。
三、案例描述我们假设有一份数据集，包含了500个样本和5个自变量，要根据这些自变量对样本进行多分类。
自变量包括性别、年龄、教育水平、收入和职业。
而多分类的目标变量是购买冰淇淋的偏好，包括三个分类：喜欢巧克力口味、喜欢草莓口味和喜欢香草口味。
四、数据处理首先，我们需要对数据进行处理。
SPSS可以读取各种文件格式，如Excel、CSV等。
我们将数据导入SPSS后，可以进行缺失值处理、异常值处理等预处理步骤。
这些步骤是为了保证后续的分析结果的准确性和可靠性。
五、模型建立在SPSS中，我们可以使用多分类Logistic回归模型进行建模。
它采用最大似然估计方法来估计模型参数，以便进行分类预测。
我们需要将自变量和目标变量进行指定，SPSS会自动计算出各个自变量对目标变量的系数和统计学意义。
六、模型拟合在模型拟合阶段，SPSS会对模型进行拟合优度的检验，包括卡方拟合优度检验、Hosmer-Lemeshow检验等。
这些检验可以帮助我们评估模型的拟合程度和可靠性。
如果模型的拟合程度不好，我们可以对模型进行进一步调整和改进。
七、模型评估在模型评估阶段，SPSS提供了一系列的统计指标和图表，用于评估多分类Logistic回归模型的性能。
(整理)多项分类Logistic回归分析的功能与意义1.
多项分类Logistic回归分析的功能与意义我们经常会遇到因变量有多个取值而且无大小顺序的情况，比如职业、婚姻情况等等，这时一般的线性回归分析无法准确地刻画变量之间的因果关系，需要用其它回归分析方法来进行拟合模型。
SPSS的多项分类Logistic回归便是一种简便的处理该类因变量问题的分析方法。
例子：下表给出了对山东省某中学20名视力低下学生视力监测的结果数据。
试用多项分类Logistic回归分析方法分析视力低下程度（由轻到重共3级）与年龄、性别（1代表男性，2代表女性）之间的关系。
并单击向右的箭头按钮使之进入“因变量”列表框，选择“性别”使之进入“因子”列表框，选择“年龄”使之进入“协变量”列表框。
还是以教程“blankloan.sav"数据为例，研究银行客户贷款是否违约（拖欠）的问题，数据如下所示：上面的数据是大约700个申请贷款的客户，我们需要进行随机抽样，来进行二元Logistic 回归分析，上图中的“0”表示没有拖欠贷款，“1”表示拖欠贷款，接下来，步骤如下：1：设置随机抽样的随机种子，如下图所示：选择“设置起点”选择“固定值”即可，本人感觉200万的容量已经足够了，就采用的默认值，点击确定，返回原界面、2：进行“转换”—计算变量“生成一个变量（validate)，进入如下界面：在数字表达式中，输入公式：rv.bernoulli（0.7），这个表达式的意思为：返回概率为0.7的bernoulli分布随机值如果在0.7的概率下能够成功，那么就为1，失败的话，就为"0"为了保持数据分析的有效性，对于样本中“违约”变量取缺失值的部分，validate变量也取缺失值，所以，需要设置一个“选择条件”点击“如果”按钮，进入如下界面：如果“违约”变量中，确实存在缺失值，那么当使用"missing”函数的时候，它的返回值应该为“1”或者为“true"，为了剔除”缺失值“所以，结果必须等于“0“也就是不存在缺失值的现象点击”继续“按钮，返回原界面，如下所示：将是“是否曾经违约”作为“因变量”拖入因变量选框，分别将其他8个变量拖入“协变量”选框内，在方法中，选择：forward.LR方法将生成的新变量“validate" 拖入"选择变量“框内，并点击”规则“设置相应的规则内容，如下所示：设置validate 值为1，此处我们只将取值为1的记录纳入模型建立过程，其它值（例如：0）将用来做结论的验证或者预测分析，当然你可以反推，采用0作为取值记录点击继续，返回，再点击“分类”按钮，进入如下页面在所有的8个自变量中，只有“教育水平”这个变量能够作为“分类协变量” 因为其它变量都没有做分类，本例中，教育水平分为：初中，高中，大专，本科，研究生等等, 参考类别选择：“最后一个”在对比中选择“指示符”点击继续按钮，返回再点击—“保存”按钮，进入界面：在“预测值"中选择”概率，在“影响”中选择“Cook距离” 在“残差”中选择“学生化”点击继续，返回，再点击“选项”按钮，进入如下界面：分析结果如下：1：在“案例处理汇总”中可以看出：选定的案例489个，未选定的案例361个，这个结果是根据设定的validate = 1得到的，在“因变量编码”中可以看出“违约”的两种结果“是”或者“否” 分别用值“1“和“0”代替，在“分类变量编码”中教育水平分为5类，如果选中“为完成高中，高中，大专，大学等，其中的任何一个，那么就取值为1，未选中的为0，如果四个都未被选中，那么就是”研究生“ 频率分别代表了处在某个教育水平的个数，总和应该为489个1：在“分类表”中可以看出：预测有360个是“否”（未违约）有129个是“是”（违约）2：在“方程中的变量”表中可以看出：最初是对“常数项”记性赋值，B为-1.026，标准误差为：0.103那么wald =( B/S.E)²=(-1.026/0.103)² = 99.2248, 跟表中的“100.029几乎接近，是因为我对数据进行的向下舍入的关系，所以数据会稍微偏小，B和Exp(B) 是对数关系，将B进行对数抓换后，可以得到：Exp(B) = e^-1.026 = 0.358, 其中自由度为1，sig为0.000，非常显著1：从“不在方程中的变量”可以看出，最初模型，只有“常数项”被纳入了模型，其它变量都不在最初模型内表中分别给出了，得分，df , Sig三个值, 而其中得分（Score)计算公式如下：（公式中（Xi- X¯) 少了一个平方）下面来举例说明这个计算过程：(“年龄”自变量的得分为例）从“分类表”中可以看出：有129人违约，违约记为“1”则违约总和为129，选定案例总和为489那么：y¯ = 129/489 = 0.2638036809816x¯ = 16951 / 489 = 34.664621676892所以：∑(Xi-x¯)² = 30074.9979y¯（1-y¯）=0.2638036809816 *（1-0.2638036809816 ）=0.19421129888216 则：y¯（1-y¯）* ∑(Xi-x¯)² =0.19421129888216 * 30074.9979 = 5 840.9044060372 则：[∑Xi(yi - y¯）]^2 = 43570.8所以：=43570.8 / 5 840.9044060372 =7.4595982010876 = 7.46 （四舍五入）计算过程采用的是在EXCEL 里面计算出来的，截图如下所示：从“不在方程的变量中”可以看出，年龄的“得分”为7.46，刚好跟计算结果吻合！！答案得到验证~1:从“块1” 中可以看出：采用的是：向前步进的方法，在“模型系数的综合检验”表中可以看出：所有的SIG 几乎都为“0”而且随着模型的逐渐步进，卡方值越来越大，说明模型越来越显著，在第4步后，终止，根据设定的显著性值和自由度，可以算出卡方临界值，公式为：=CHIINV(显著性值,自由度) ，放入excel就可以得到结果2：在“模型汇总“中可以看出：Cox&SnellR方和Nagelkerke R方拟合效果都不太理想，最终理想模型也才：0.305 和0.446，最大似然平方的对数值都比较大，明显是显著的似然数对数计算公式为：计算过程太费时间了，我就不举例说明计算过程了Cox&SnellR方的计算值是根据：1：先拟合不包含待检验因素的Logistic模型，求对数似然函数值INL0 （指只包含“常数项”的检验）2：再拟合包含待检验因素的Logistic模型，求新的对数似然函数值InLB （包含自变量的检验）再根据公式：即可算出：Cox&SnellR方的值！提示：将Hosmer 和Lemeshow 检验和“随机性表” 结合一起来分析1：从 Hosmer 和Lemeshow 检验表中，可以看出：经过4次迭代后，最终的卡方统计量为：11.919，而临界值为：CHINV(0.05,8) = 15.507卡方统计量< 临界值，从SIG 角度来看：0.155 > 0.05 , 说明模型能够很好的拟合整体，不存在显著的差异。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
treatb 0 1 0
有序因变量的logistic回归 （六） 有序因变量的 回归
性别和治疗方法对某病疗效的影响研究
疗效 性别 女 疗法 新药疗法 传统疗法 男 新药疗法 传统疗法 显效 16 6 5 4 有效 5 7 2 0 无效 6 7 2 0 合计 27 20 9 1
（三）用途
筛选影响因素 控制混杂 预测疾病或事件发生的概率
二项分类应变量的非条件Logisitic回归 （四） 二项分类应变量的非条件 回归 例：某研究人员在探讨肾细胞癌转移的有关临床病理因素研究 收集了一批行根治性肾切除术患者的肾癌标本资料， 中，收集了一批行根治性肾切除术患者的肾癌标本资料，现从 中抽取26例资料（见表）作为示例进行 回归。 中抽取 例资料（见表）作为示例进行Logistic回归。 例资料 回归
共线性处理方法 综合变量 主成分logistic回归分析 主成分 回归分析
Logistic回归适用于因变量为分类变量的回归分 回归适用于因变量为分类变量的回归分 析，可用来分析某类事件发生的概率与自变量 之间的关系。 之间的关系。
（二） 类型
Logistic回归按应变量的类型可分为： 回归按应变量的类型可分为： 回归按应变量的类型可分为 回归； （1）二分类应变量的 ）二分类应变量的Logistc回归； 回归 回归； （2）多分类有序应变量的 ）多分类有序应变量的Logistic回归； 回归 （3）多项无序应变量的 回归。 ）多项无序应变量的Logistic回归。 回归 Logistic回归按研究设计可分为： 回归按研究设计可分为： 回归按研究设计可分为 回归， （1）非条件 ）非条件Logistic回归，即研究对象未匹配； 回归 即研究对象未匹配； （2）1∶1的条件 ） ∶ 的条件Logistic回归，即研究对象按1∶1进行匹配； 回归，即研究对象按 ∶ 进行匹配； 的条件 回归 进行匹配 的条件Logistic回归，即研究对象按 ∶m或 回归， （3）1∶m或m∶n的条件 ） ∶ 或 ∶ 的条件 回归 即研究对象按1∶ 或 m∶n进行匹配。 ∶ 进行匹配。 进行匹配
x4
2 1 2 4 3 2 1 3 1 2 4 4
X5
1 1 1 3 4 1 1 2 1 2 2 3
y
0 0 0 1 1 0 0 0 0 0 0 1
sasuser.g
表中有关符号的意义如下： 表中有关符号的意义如下： i：标本序号； ：标本序号； x1：确诊时患者的年龄（岁）； ：确诊时患者的年龄（ x2：肾细胞癌血管内皮生长因子，其阳性表达由低到高 个等级 ：肾细胞癌血管内皮生长因子，其阳性表达由低到高3个等级 x3：肾细胞癌组织内微血管数； ：肾细胞癌组织内微血管数； x4：肾癌细胞组织学分级，由低到高 级； ：肾癌细胞组织学分级，由低到高4级 x5：肾细胞分期，由低到高共 期； ：肾细胞分期，由低到高共4期 y：肾细胞癌转移情况（有转移y＝1；无转移 ＝0）。 ：肾细胞癌转移情况（有转移 ＝ ；无转移y＝ ）。
每次只分析两个二分变量时
将数据整理成2× 表 将数据整理成 ×2表， 并根据设计的类型和数据的特征采用： 并根据设计的类型和数据的特征采用： 四格表χ 检验、 四格表 2检验、 四格表校正χ 检验、 四格表校正 2检验、 Fisher的确切概率检验、 的确切概率检验、 的确切概率检验 配对资料χ 检验。 配对资料 2检验。
p=
e
β0＋β1 x1 +β2 x 2＋L＋βp x p β0＋β x1 +β2 x 2＋L＋βp x p 1
1+ e
Q=
1 1+ e
β ＋β x1 +β x2＋L＋βp x p 0 1 2
p log it ( p) = In 1 1 − p =β0＋β x1 +β2 x2＋L＋βp x p
未婚=1， 已婚/同居=2， 离婚/丧偶/分居=3
赋值
人均年收入（元） 数值变量 否=0，是=1 否=0，是=1 轻度=1，中度=2，重度=3 无=0，有=1 <18.5=1，18.5~=2，24~=3，28~=4 男<90、女<80=0，男≥90、女≥80=1 <140=0，≥140=1 <90=0，≥90=1 <5.6=0，≥5.6=1
每次分析的变量≥3个时： 每次分析的变量 个时： 个时 常用的统计分析方法： 常用的统计分析方法： 分层χ 检验、 分层 2检验、 Logistic回归。 回归。 回归
Logistic回归 回归
（一）概述 发病、无病；生存、死亡；感染、未感染； 发病、无病；生存、死亡；感染、未感染； 疾病程度（ 治疗效果（ 疾病程度（轻、中、重）；治疗效果（治愈、显效、好转、 ）；治疗效果 治愈、显效、好转、 无效） 无效） 哪些因素影响？ 哪些因素影响？ 实际是回归问题 y＝f（x） ＝（ ） p＝f（x） ＝（ ）
对子数 1 2 3 4 5 6 7 8 9 10
病例 X11 1 1 1 0 0 1 1 0 1 1 X21 1 0 1 1 0 0 1 0 1 0 X12 0 0 1 1 0 1 1 0 0 0
对照 X22 0 1 0 0 0 1 0 0 1 0
data a; input x11 x21 x12 x22 @@; ybl=0; x1=x11-x12; x2=x21-x22; cards; 1 1 0 0 0 1 1 0 1 1 1 0 1 0 0 0 ; proc logistic; model ybl=x1 x2/noint selection=stepwise sle=0.6 sls=0.5; run; 1 0 0 1 1 0 0 0 0 0 0 0 0 1 1 0 1 0 1 1 1 1 0 1
①进入回归方程的变量；②偏回归系数；③标准误；④卡方值；⑤P值； ⑥标准回归系数；⑦比值比；⑧模型的常数项。 根据结果，本例的Logistic模型如下：
p log it ( p ) = In 1 − p = −12.3285＋2.4134 x2 + 2.0963x4
data work.g; input x1 x2 x3 x4 x5 y @@; cards; 59 2 43.4 2 1 0 36 1 57.2 1 1 0 61 2 190.0 2 1 0 58 3 128.0 4 3 1 55 3 80.0 3 4 1 61 1 94.4 2 1 0 38 1 76.0 1 1 0 42 1 240.0 3 2 0 50 1 74.0 1 1 0 58 3 68.6 2 2 0 68 3 132.8 4 2 0 25 2 94.6 4 3 1 52 1 56.0 1 1 0 31 1 47.8 2 1 0 36 3 31.6 3 1 1 42 1 66.2 2 1 0 14 3 138.6 3 3 1 32 1 114.0 2 3 0 35 1 40.2 2 1 0 70 3 177.2 4 3 1 65 2 51.6 4 4 1 45 2 124.0 2 4 0 68 3 127.2 3 3 1 31 2 124.8 2 3 0 58 1 128.0 4 3 0 60 3 149.8 4 3 1 ; proc logistic data=work.g DESCEND; model Y = X1 X2 X3 X4 X5 / selection=forward sle=0.05; run;
（八）注意问题
个体间的独立性 足够的样本量 变量的赋值
血脂异常主要影响因素的赋值 代码 X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 X12 X13 年龄 文化程度 婚姻状况 吸烟 饮酒 体力活动 高脂血症家族史 体质指数（kg/m2) 腰围（cm） 收缩压（mmHg） 舒张压（mmHg） 血糖（mmol/l） 变量 数值变量 小学及以下=0，初中及以上=1
匹配的条件Logistic回归 （七） 1∶1匹配的条件 ∶ 匹配的条件 回归
配对的病例对照研究。 例：为研究肺癌的危险因素，进行了1：1配对的病例对照研究。 为研究肺癌的危险因素，进行了 ： 配对的病例对照研究 这里选用其中10对观察值和两个因素，即吸烟（ 不吸 不吸、 这里选用其中 对观察值和两个因素，即吸烟（0不吸、1 对观察值和两个因素 不饮、 不饮 进行条件logisitic回归分析， 不饮） 回归分析， 吸）、饮酒（0不饮、1不饮）进行条件 ）、饮酒（ 不饮 饮酒 回归分析 x11、x12分别表示病例和对照的吸烟变量，x21、x22分别 、 分别表示病例和对照的吸烟变量， 、 分别 分别表示病例和对照的吸烟变量 表示病例和对照的饮酒病例。资料见下表。 表示病例和对照的饮酒病例。资料见下表。
（五） 自变量中多项无序变量的处理
性别 （sex） 男 （sex＝1） 治疗方法 （treat） A B C 女 （sex＝0） A B C 有效 （response＝1） 78 101 68 40 54 34 无效 合计 （response＝0） 28 11 46 5 5 5 106 112 114 54 59 40
Analysis of Maximum Likelihood Estimates ② ③ ④ ⑤ ⑥ ⑦
① Parameter Standard Wald Pr > Standardized Odds Variable DF Estimate Error Chi-Square Chi-Square Estimate Ratio ⑧ INTERCPT 1 X2 X4 1 1 -12.3285 2.4134 2.0963 5.4305 1.1960 1.0879 5.1540 4.0719 3.7131 0.0232 0.0436 0.0540 . 1.185510 1.230697 . 11.172 8.136
分类资料的分析
公共卫生学院 王重建 E-mail:tjwcj2008@