logistic回归讲义
合集下载
第8章：Logistic回归分析
3、Logistic 回归模型的参数估计 对 Logistic 回归模型的参数估计可以采用极大似然法或者迭 代法。 极大似然法的基本思想是先建立似然函数，然后求使得似然 函数达到最大的参数估计值。 对于已有样本，可建立样本的似然函数为：
L piyi (1 pi )1 yi
i 1 n
样本的对数似然函数为：
ln L [ yi ln pi (1 yi ) ln(1 pi )]
n
将 pi 代入得：
i 1
ln L [ yi ( 0 1 xi1 2 xi 2 k xik )
i 1
n
ln(1 exp(0 1xi1 2 xi 2 k xik ))]
根据极大似然原理，对 lnL 求一阶导数并令其为0，再用 Newton-Raphson 迭代方法求解，得到参数估计值及其标准误。
4、 Logistic 回归的评价及统计检验 ⑴对于整体模型的检验 logistic回归方程求解参数是采用极大似然估计方法，因此 其回归方程的整体检验通过似然函数值( Likelihood )。 所谓似然函数值表达的是一种概率，即在假设拟合模型为真 实情况时能够观察到这一特定样本数据的概率，因此这个函数 值处于[0,1]之间。
e pi 1 e 0 1x1 2 x2 k xk e 0 1x1 2 x2 k xk 1 pi 1 1 e 0 1x1 2 x2 k xk
其中：pi 表示第 i 个观测中事件发生的概率，1-pi 表示第 i 个观 测中事件不发生的概率。
Logistic 回归分析根据因变量取值类别不同，又可以分为二 元 Logistic 回归分析和多元 Logistic 回归分析。
《多元Logistic回归》课件
交叉验证是一种评估模型泛化能力的手段，通过将数据集 分成训练集和验证集，反复训练和验证模型，以获得更可 靠的评估结果。常用的交叉验证方法有k-fold交叉验证、 留出交叉验证等。
03
多元Logistic回归的实现步 骤
数据预处理：特征选择、缺失值处理等
特征选择
选择与目标变量相关的特征，去除无关 或冗余特征，提高模型的预测性能。
多元Logistic回归与一元Logistic回归的区别
一元Logistic回归只涉及一个自变量，而多元 Logistic回归涉及多个自变量。
多元Logistic回归能够同时处理多个特征，更准确 地描述数据的复杂关系，提高预测精度。
多元Logistic回归需要更多的数据和计算资源，因 为需要迭代计算每个特征与因变量言 • 多元Logistic回归的原理 • 多元Logistic回归的实现步骤 • 多元Logistic回归的优缺点 • 多元Logistic回归的案例分析 • 总结与展望
01
引言
多元Logistic回归的定义
多元Logistic回归是一种用于处理分 类问题的统计方法，它通过将多个自 变量与因变量之间的关系转换为概率 形式，从而对因变量进行预测。
结果。
它能够提供每个类别的预测概率 ，这在某些情况下非常有用，例 如在医学诊断中确定疾病的风险
。
多元Logistic回归在处理分类问 题时具有较高的预测精度和稳定
性。
缺点
多元Logistic回归对数据的分布 假设较为严格，通常要求数据 呈正态分布或近似正态分布。
它还假设自变量与因变量之间 存在线性关系，这在某些情况 下可能不成立，导致模型的预
案例三：用户点击率预测
总结词
用户点击率预测是多元Logistic回归在互联 网广告领域的典型应用，通过分析用户行为 和广告特征，预测用户是否会点击广告。
图文举例详细讲解Logistic曲线的回归分析
Logistic 曲线的回归分析例 某一品种玉米高度与时间（生长周期，每个生长周期为2-3天，与气温有关）的数据如表1.所示。
用转化为线性方程的方法估计其logistic 曲线预测模型。
设最大值k 为300（cm ）。
表1. 玉米高度与时间（生长周期）的关系时间（生长周期） 高度/cm 时间（生长周期） 高度/cm 时间（生长周期） 高度/cm12 3 4 5 6 7 8 9 10 11 0.67 0.85 1.28 1.75 2.27 2.75 3.69 4.71 6.36 7.73 9.9112 13 14 15 16 17 18 19 20 21 12.75 16.55 20.1 27.35 32.55 37.55 44.75 53.38 71.61 83.89 22 23 24 25 26 27 28 29 30 31 97.46 112.7 135.1 153.6 160.3 167.1 174.9 177.9 180.2 180.83.1 基本绘图操作在Excel 中输入时间x 与高度y 的数据。
选择插入->图表图87点击图表，选择“标准类型”中的xy 散点图，并点击子图表类型的第一个。
图88 点击下一步，得到如图89。
图 89点击下一步。
图90分别点击标题、网格线、图例进行修改，然后点击下一步。
图91点击完成。
图92右击绘图区，修改绘图区格式，双击做表格，修改坐标轴刻度，最后的散点图。
图93观察散点图，其呈S 型曲线，符合logistic 曲线。
采用转化为线性方程的方法求解模型。
3.2 Logistic 曲线方程及线性化Logistic 曲线方程为：1atk y me-=+ (12)(1) 将数据线性化及成图转化为线性方程为：01'y a a t =+ (13)其中，'ln(/1)y k y =-，0ln a m =，1a a =-具体操作为：向excel 表格中输入y ’数据。
logistic回归分析(共86张)
方程=表0达.52：61，
ln( p ) 0.9099 0.8856x1 0.5261x2 1 p
控制饮酒因素后， 吸烟与不吸烟相比 患食管癌的优势比 为2.4倍
第18页，共86页。
OR的可信区间(qū 估计 jiān)
吸烟与不吸烟患食管癌OR的95%可信区间：
exp(b1 u /2Sb1 ) exp(0.8856 1.960.15) (1.81,3.25)
模型为条件Logistic回归。
成组（未配对）设计的病例对照研究资料，计算的
Logistic回归模型为非条件Logistic回归。 例：见265页
区别：
条件Logistic回归的参数估计无常数项（β0），主要 用于危险因素的分析。
第28页，共86页。
一、logistic回归的应用
1.疾病（某结果）的危险因素分析和筛选 用回归模型中的回归系数（βi）和OR说明
第3页，共86页。
Logistic回归(huíguī)方法
该法研究是 当 y 取某值（如y=1）发生的概率（p）与
某暴露因素（x）的关系。
No P（概率I）m的a取g值e波动0～1范围。
基本原理：用一组观察数据拟合Logistic模型， 揭示若干个x与一个因变量取值的关系，反映y 对x的依存关系。
1
Z值 23
图16-1 Logistic回归函数的几何图形
第7页，共86页。
几个(jǐ ɡè)logistic回归模型方程
第8页，共86页。
logistic回归模型(móxíng)方程的线性表达
对logistic回归模型的概率（p）做logit变 换，
方程如下：
线形关 系
Y～（-∞至+∞）
ln( p ) 0.9099 0.8856x1 0.5261x2 1 p
控制饮酒因素后， 吸烟与不吸烟相比 患食管癌的优势比 为2.4倍
第18页，共86页。
OR的可信区间(qū 估计 jiān)
吸烟与不吸烟患食管癌OR的95%可信区间：
exp(b1 u /2Sb1 ) exp(0.8856 1.960.15) (1.81,3.25)
模型为条件Logistic回归。
成组（未配对）设计的病例对照研究资料，计算的
Logistic回归模型为非条件Logistic回归。 例：见265页
区别：
条件Logistic回归的参数估计无常数项（β0），主要 用于危险因素的分析。
第28页，共86页。
一、logistic回归的应用
1.疾病（某结果）的危险因素分析和筛选 用回归模型中的回归系数（βi）和OR说明
第3页，共86页。
Logistic回归(huíguī)方法
该法研究是 当 y 取某值（如y=1）发生的概率（p）与
某暴露因素（x）的关系。
No P（概率I）m的a取g值e波动0～1范围。
基本原理：用一组观察数据拟合Logistic模型， 揭示若干个x与一个因变量取值的关系，反映y 对x的依存关系。
1
Z值 23
图16-1 Logistic回归函数的几何图形
第7页，共86页。
几个(jǐ ɡè)logistic回归模型方程
第8页，共86页。
logistic回归模型(móxíng)方程的线性表达
对logistic回归模型的概率（p）做logit变 换，
方程如下：
线形关 系
Y～（-∞至+∞）
第十二章Logistic回归分析
第十二章Logistic 回归分析一、Logistic 回归概述：Logistic 回归主要用于筛选疾病的危险因素、预后因素或评价治疗措施； 通常以疾病的死亡、痊愈等结果发生的概率为因变量，以影响疾病发生和预后的 因素为自变量建立模型。
、Logistic 回归的分类及资料类型：第一节非条件Logistic 回归分析、Logistic 回归模型：Logistic 回归模型：exp （ • ：i X i ——亠」p X p ）p 二1 +exp （ B o + B i X i i + Pp X p ） 1二、回归系数的估计(参数估计)：回归模型的参数估计：Logistic 计法。
二、假设检验： 1. Logistic 回归方程的检验：•检验模型中所有自变量整体来看是否与所研究事件的对数优势比存在线性 关系，也即方程是否成立。
检验的方法有似然比检验、比分检验(score test )和Wald 检验(wald test )。
上述三种方法中，似然比检验最可靠。
•似然比检验(likehood ratio test ):通过比较包含与不包含某一个或几 个待检验观察因素的两个模型的对数似然函数变化来进行，其统计量为 G=-2l n(L)(又称Devia nee )。
无效假设H O ： B =0。
当H 0成立时，检验统计量 G 近似服从自由度为N-P-1的X 2分布。
当G 大于临界值时，接受H,拒绝无效假设， 认为从整体上看适合作Logistic 回归分析，回归方程成立。
2. Logistic 回归系数的检验：•为了确定哪些自变量能进入方程，还需要对每个自变量的回归系数进行假 设检验，判断其对模型是否有贡献。
•检验方法常用 WaldX 检验，无效假设H0 B =0。
当X 2大于临界值时，拒 绝无效假设，自变量能进入方程。
1亠elogit （P ）= ln （±）=B o +B * 1 x 1 + , + B n x n回归模型的参数估计通常利用最大似然估3．Logistic 回归模型的拟合优度检验：•Logistic 回归模型的拟合优度检验是通过比较模型预测的与实际观测的事件发生与不发生的频数有无差别来进行检验。
Logistic回归分析及应用讲课文档
第二十九页，共76页。
第三十页，共76页。
第三十一页，共76页。
第三十二页，共76页。
第三十三页，共76页。
第三十四页，共76页。
第三十五页，共76页。
第三十六页，共76页。
3、逐步Logistic回归分析
（1）向前法(forward selection)
开始方程中没有变量，自变量由 少到多一个一个引入回归方程。按自 变量对因变量的贡献（P值的大小）由 小到大依次挑选，变量入选的条件是 其P值小于规定进入方程的P界值Enter, 缺省值 P(0.05)。
除变量量纲的影响，为此计算标准化回归系数
bi' bi *Si / Sy,其中 Si为Xi的标准差 Sy为y的标准差。
第十五页，共76页。
5.假设检验
• （1）回归方程的假设检验
• H0：所有 i0,i0,1,2,,p H1：某个 i 0
• 计算统计量为：G=-2lnL，服从自由度等于n-p
• 的 2 分布
• 对子号
病例
对照
•
x1 x2 x3 x1 x2 x3
•1
13 0
101
•2
03 1
130
•3
01 2
020
•…
… … … ………
• 10
22 2
000
• 注：X1蛋白质摄入量，取值：0，1，2，3
•
X2不良饮食习惯，取值：0，1，2，3
•
X3精神状况 ，取值：0，1，2
•
第十页，共76页。
Logistic回归
Logit(P)=-9.7544+2.5152X1+3.9849X2+0.1884X31.3037X4.
第三十页，共76页。
第三十一页，共76页。
第三十二页，共76页。
第三十三页，共76页。
第三十四页，共76页。
第三十五页，共76页。
第三十六页，共76页。
3、逐步Logistic回归分析
（1）向前法(forward selection)
开始方程中没有变量，自变量由 少到多一个一个引入回归方程。按自 变量对因变量的贡献（P值的大小）由 小到大依次挑选，变量入选的条件是 其P值小于规定进入方程的P界值Enter, 缺省值 P(0.05)。
除变量量纲的影响，为此计算标准化回归系数
bi' bi *Si / Sy,其中 Si为Xi的标准差 Sy为y的标准差。
第十五页，共76页。
5.假设检验
• （1）回归方程的假设检验
• H0：所有 i0,i0,1,2,,p H1：某个 i 0
• 计算统计量为：G=-2lnL，服从自由度等于n-p
• 的 2 分布
• 对子号
病例
对照
•
x1 x2 x3 x1 x2 x3
•1
13 0
101
•2
03 1
130
•3
01 2
020
•…
… … … ………
• 10
22 2
000
• 注：X1蛋白质摄入量，取值：0，1，2，3
•
X2不良饮食习惯，取值：0，1，2，3
•
X3精神状况 ，取值：0，1，2
•
第十页，共76页。
Logistic回归
Logit(P)=-9.7544+2.5152X1+3.9849X2+0.1884X31.3037X4.
logistic回归分析PPT精品课程课件讲义
问题的提出（续）
• 但在医学研究中常碰到因变量的取值仅有两个, 如是否发病、死亡或痊愈等；
• 分析“母亲怀孕期间体重增加”对“新生儿出 生低体重”的影响
二、概念的引入
• 如按线性回归思想建立模型： P=α +βX • P的意义是发生出生低体重的概率
• 在线性回归模型中,X的取值是任意的,P值可能大 于1或小于0,无法从医学意义进行解释, 显然不适 宜用线性回归建立预测模型。
表明ECG异常者CHD发病是正常者的2.056倍。 (3) 比较各变量对方程贡献的大小: 根据标化的值大小，确定各因素对CHD发病影响的 大小。在此项研究中，危险因素中吸烟对方程贡献最大 ，其他依次为相对体重、年龄、 胆固醇、ECG和BP。
4) 用于预测发病率: 可根据该公式预测某人在不同因素暴露条件下 CHD的发病率。如某受试者A暴露于因素xi的情况 为： X＝(45, 210, 130, 100, 120, 0, 0) 利用该模型计算该受试者A在暴露上述各种研究因 素的条件下，12年间CHD的发病率为： PA1 = 1/{1+exp[-(-13.2573 + 0.1216 x 45 + 0.0070 x 210 + +0.7206 x 0)]} = 1/[1+exp(-2.9813)] = 0.048
小 结
• (1)logistic回归分析要求因变量是二分变量，或任何取值
为0或1的属性数据。
• (2)logistic回归分析中对自变量的正态性、方差齐性不作
要求，对自变量类型也不作要求;
• (3)自变量与因变量(y)之间是非线性关系,但是与logit y之
间应符合线性关系。
1. 定群研究资料分析…弗明汉心脏研究 742 名居住在弗明汉年龄为 40-49 岁的男性，在各自暴露不 同水平的影响因素(详见下表中的7种因素)，经 12年追踪观察 CHD发病情况。根据此742名受试者每人暴露各项因素的水平 和 CHD 发病与否的资料，采用多因素 LOGISTIC 回归模型进
应用Sata做logistic回归ppt课件
4
பைடு நூலகம்
1.Logistic 回归
命令： logit 因变量 [自变量] [,选择项]
在进行logistic 回归时要注意资料的形式。通常， 用于logistic 回归的资料有三种形式： (1) 分水平频数资料，一般自变量较少，且均为分类 变量，常以各变量(包括因变量、自变量)各水平的组 合的频数表形式出现。如例1。拟合时仍用上述命令， 只是命令中增加[fw=频数变量]选择项。
test [1]x1=[2]x1
test [1]x2=[2]x2
精选编辑ppt
31
有序结果的累积比数 logistic回归
用于有序结果的logistic 回归的命令是 ologit。
ologit [因变量 [自变量]] [,table level(#)]
其中选择项table用于指定打印出各类 的概率；level用于指定显著性水平
精选编辑ppt
5
(2) 分组频数资料，一般自变量较少，且均为 分类变量，常以各自变量(不包括因变量)各 水平的组合的频数表形式出现，因变量常表 达为分子与分母。如例2。用下列命令：
blogit 阳性数变量 总观察数变量 [，logit 命 令选择项]
或 glogit 阳性数变量 总观察数变量 [， level(#) or]
35
小结
Logit、 blogit 、 glogit 、 blogit 、 clogit 、 mlogit 、 ologit
精选编辑ppt
36
此课件下载可自行编辑修改，供参考！ 感谢您的支持，我们努力做得更好！
精选编辑ppt
37
其中group()是必选项，它是用来区分各配比组 的。level(#)及or 的意义同logit。
logistic回归分析
表13-7 例13-2的logistic回归模型自变量筛选结果
模型
因素 X
第1步 常数项
回归系数 标准误
b
Sb
-2.528 0.238
Wald χ2 P值 112.433 <0.001
OR值
OR值95%可信区间 下限 上限
0.080
治疗11周
2.149 0.289 55.267 <0.001 8.578 4.867 15.117
因素 X 常数项
回归系数 标准误
Waldχ2 P值 OR值
b
Sb
-0.910 0.136 44.870 0.000 0.403
OR值95%可信区间
下限
上限
吸烟
0.886 0.150 34.862 0.000 2.424 1.807
3.253
饮酒
0.526 0.157 11.207 0.001 1.692 1.244
logistic回归分析
Logistic regression analysis
• 医学研究中应变量有时是二分类结果，如发病与不 发病、死亡与生存、有效与无效、复发与未复发等， 当需要研究二分类应变量的影响因素时，适合采用 logistic回归分析。
logistic回归属于概率型非线性回归，它是研究二 分类（可以扩展到多分类）反应变量与多个影响 因素之间关系的一种多变量分析方法。logistic回 归模型参数具有明确的实际意义。
OR值的可信区间：
exp(bj - zα/2 Sbj ) ORj exp(bj zα/2 Sb j )
• 例13-1 研究吸烟（X1）、饮酒（X2）与食道癌 （Y）关系的病例－对照资料，试作logistic回归 分析。
论文经典方法Logistic回归分析及其应用课堂PPT课件PPT40页
概述
1967年Truelt J，Connifield J和Kannel W在《Journal of Chronic Disease》上发表了冠心病危险因素的研究，较早将Logistic回归用于医学研究。一般概念一元直线回归多元直线回归
.
第2页，共40页。
一元直线回归模型 y = a + b x + e多元直线回归模型 y = a + b1x1 + b2x2 + … + bkxk + e
.
第39页，共40页。
其他问题
logistic回归的局限性理论上的不足：自变量对疾病的影响是独立的，但实际情况及推导结果不同。模型有不合理性：“乘法模型”与一般希望的“相加模型”相矛盾。最大似然法估计参数的局限样本含量不宜太少：例数大于200例时才可不考虑参数估计的偏性。
.
第40页，共40页。
.
第30页，共40页。
非条件logistic回归
研究对象之间是否发生某事件是独立的。适用于：成组的病例-对照研究无分层的队列研究或横断面调查诊断性试验
.
第31页，共40页。
条件logistic回归
研究中有N个配比组，每组中n个病例配m个对照者。这时，各个研究对象发生某事件的概率即为条件概率。适用于配比设计的病例-对照研究精细分层设计的队列研究
value labelssex 1 '男' 2 '女'/hisc 1 '是' 0 '否' 9 '无法判断'/nsex 1 '正常' 0 '异常' 9 '未检'/demdx 1 '有' 0 '无'/addx 0 '无' 1 '危险性' 2 '可能' 3 '很可能'/edu 0 ‘文盲’ 1 ‘小学程度’ 2 ‘初中及以上'
1967年Truelt J，Connifield J和Kannel W在《Journal of Chronic Disease》上发表了冠心病危险因素的研究，较早将Logistic回归用于医学研究。一般概念一元直线回归多元直线回归
.
第2页，共40页。
一元直线回归模型 y = a + b x + e多元直线回归模型 y = a + b1x1 + b2x2 + … + bkxk + e
.
第39页，共40页。
其他问题
logistic回归的局限性理论上的不足：自变量对疾病的影响是独立的，但实际情况及推导结果不同。模型有不合理性：“乘法模型”与一般希望的“相加模型”相矛盾。最大似然法估计参数的局限样本含量不宜太少：例数大于200例时才可不考虑参数估计的偏性。
.
第40页，共40页。
.
第30页，共40页。
非条件logistic回归
研究对象之间是否发生某事件是独立的。适用于：成组的病例-对照研究无分层的队列研究或横断面调查诊断性试验
.
第31页，共40页。
条件logistic回归
研究中有N个配比组，每组中n个病例配m个对照者。这时，各个研究对象发生某事件的概率即为条件概率。适用于配比设计的病例-对照研究精细分层设计的队列研究
value labelssex 1 '男' 2 '女'/hisc 1 '是' 0 '否' 9 '无法判断'/nsex 1 '正常' 0 '异常' 9 '未检'/demdx 1 '有' 0 '无'/addx 0 '无' 1 '危险性' 2 '可能' 3 '很可能'/edu 0 ‘文盲’ 1 ‘小学程度’ 2 ‘初中及以上'
《logistic回归分析》PPT课件
3
第一节 非条件logistic回归
一、logistic 回归模型:
设因变量 Y 是一个二分类变量，其取值为 Y =1 和Y =0。 影响 Y 取值的 m 个自变量分别为 X1, X 2 ,, X m 。在 m 个自变量（即暴露因素）作用下阳性结果发生的条件
概率为 P P(Y 1 X1, X 2 ,, X m ) ，则 logistic 回归模
表 1 调查数据
y
x
1
0
1
a
b
0
c
d
合计 a+c b+d
表 2 对应概率
y
x
1
0
1 0 合计
p1 1- p1
1
p2 1- p2
1
9
表 1 调查数据
y
x
1
0
1
a
b
0
c
d
合计 a+c b+d
表 2 对应概率
y
x
1
0
1 0 合计
p1 1- p1
1
p2 1- p2
1
Logistic
模型为：
p1
p( y
1|
（2）多分类资料Logistic回归： 因变量为多项分类的资料，可 用多项分类Logistic回归模型或有序分类Logistic回归模型进 行分析。
2
非条件Logistic回归分析 条件Logistic回归分析 无序分类反应变量Logistic回归分析 有序多分类反应变量Logistic回归分析 Logistic回归分析应用及注意事项
21
对所拟合模型的假设检验：
概率p值均小 于0.05，说明 方程有意义。
第一节 非条件logistic回归
一、logistic 回归模型:
设因变量 Y 是一个二分类变量，其取值为 Y =1 和Y =0。 影响 Y 取值的 m 个自变量分别为 X1, X 2 ,, X m 。在 m 个自变量（即暴露因素）作用下阳性结果发生的条件
概率为 P P(Y 1 X1, X 2 ,, X m ) ，则 logistic 回归模
表 1 调查数据
y
x
1
0
1
a
b
0
c
d
合计 a+c b+d
表 2 对应概率
y
x
1
0
1 0 合计
p1 1- p1
1
p2 1- p2
1
9
表 1 调查数据
y
x
1
0
1
a
b
0
c
d
合计 a+c b+d
表 2 对应概率
y
x
1
0
1 0 合计
p1 1- p1
1
p2 1- p2
1
Logistic
模型为：
p1
p( y
1|
（2）多分类资料Logistic回归： 因变量为多项分类的资料，可 用多项分类Logistic回归模型或有序分类Logistic回归模型进 行分析。
2
非条件Logistic回归分析 条件Logistic回归分析 无序分类反应变量Logistic回归分析 有序多分类反应变量Logistic回归分析 Logistic回归分析应用及注意事项
21
对所拟合模型的假设检验：
概率p值均小 于0.05，说明 方程有意义。
《Logistic回归》PPT课件
常量 -20.207 4.652 18.866
1 .000
.000
a. 在步骤 1 中输入的变量: 性别, 年龄, 学历, 体重指数, 家族史, 吸烟, 血压, 总胆 固醇, 甘油三脂, 高密度脂蛋白, 低密度脂蛋白.
七、变量筛选
从所用的方法看，有强迫法、前进法、后退 法和逐步法。在这些方法中，筛选变量的过 程与线性回归过程的完全一样。但其中所用 的统计量不再是线性回归分析中的F统计量， 而是以上介绍的参数检验方法中的三种统计 量之一。
八、logistic 回归模型拟合优度检验和预 测准确度检验
（一）拟合优度检验：
Logistic回归模型的拟合优度检验是通过比较模型 预测的与实际观测的事件发生与不发生的频数有无差 别来进行检验。如果预测的值与实际观测的值越接近， 说明模型的拟合效果越好。
·模型的拟合优度检验方法有偏差检验（Deviance）、 皮尔逊（pearson）检验、统计量(Homser-Lemeshow), 分别计算统计量X2D、X2 P、X2HL值。统计量值越小， 对应的概率越大。无效假设H0：模型的拟合效果好。
第九章 Logistic回归
（非条件Logistic回归）
第一节 Logistic回归概述
一、Logistic回归目的： Logistic回归通常以离散 型的分类变量（疾病的死亡、痊愈等）发生结果的 概率为因变量，以影响疾病发生和预后的因素为自 变量建立模型。研究分类变量（因变量）与影响因 素（自变量）之间关系的研究方法。属于概率型非 线性回归方法。
本例模型的似然比检验结果：
X2=-2(ln Lp-ln Lk)=95.497
模 型 系数 的 综 合检 验
步骤 1
步骤 块 模型
logistic回归模型讲稿
logistic回归模型讲稿Logitic回归分析模型2022-10-241各位老师，同学们大家上午好：非常感谢大家抽出宝贵的时间来参加沙龙，感谢我的导师对沙龙内容及PPT制作过程中的悉心指导，今天和大家一起分享的是在课题中用到的一种统计学分析方法，Logitic回归分析。
2这是CNKI学术搜索给出的近年来Logitic回归分析方法的学术关注度，由此可见，Logitic回归分析方法在当前学术研究中应用比较广泛、流行，关注度比较高，是进行科研数据分析不可缺少的利器。
3下面我将分以下几个部分对回归模型做详细的介绍：1.Logitic回归的基本概念与原理；2.Logitic回归的应用范畴；3.Logitic回归的类型及实例分析；这是本次沙龙的重点部分。
4.应用Logitic回归的注意事项；5.小结与答疑。
4首先来了解一下Logitic回归模型的基本概念与原理：Logitic回归又称「Logitic回归分析」，是一种「概率型非线性回归」，主要用于危险因素分析以及预后评估等方面，是目前流行病学和医学中最常用的分析方法之一。
近年来已逐渐成为发表高质量SCI论文必不可少的重要统计学分析利器。
Logitic回归本质上是一种用于研究二分类（或多分类）结局（y，因变量）与有关影响因素（某，自变量）之间关系的多因素分析方法。
5用比较通俗的话来解释它的基本原理，也就是说：用一组观察数据拟合Logitic模型，然后揭示若干个自变量某与一个因变量y之间的关系，结果反应了y对某的依存关系。
统计学的东西比较抽象，下面通过两张图再来重复解说一下。
6（1）与某一事件或某一疾病的结局有关的，存在很多可疑的影响因素，在这些可疑因素中包括促使结局发生的有关的一些危险因素、也包括抑制结局发生的有关的一些保护因素。
那么这些因素到底哪些是危险因素，哪些是保护因素呢？它们的危险及保护的程度大概有多少呢？7通过Logitic回归分析我们就可以看到详细的结果。
logistic回归(2)分析
• SIMPLE：指令系统输出每一个自变量的基本统计量。 • MODEL：给出模型的因变量和自变量。 • LINK：指定因变量概率函数的形式 • NOINT：指令模型不含常数项。 • RSQ：指定输出确定系数。
非条件Logistic回归的SAS程序
• CL：指定输出参数估计值的可信区间。 • RL：指定输出相对危险度（或比数比）的可信区间。 • SELECTION、SLE和SLS：和REG过程步的对应选项一样，用于逐步回归分析。 • FREQ：是否使用，取决于数据的输入方法。当x和y变量的观察值被直接输入到SAS数
条件Logistic回归的SAS程序
• SLE：指定协变量进入模型的显著水平，缺省值是0.05。 • SLS：指定协变量停留在模型中的显著水平，缺省值是0.05。 • DETAILS：指令输出逐步回归过程中每一步的详细分析结果。 • STRATA：指定用于分组计算的分组变量。如果分组变量的数值不符
非条件Logistic回归模型的建立
非条件Logistic回归模型的建立
•(1)AIC检验法：用于比较同一数据下的不同模型。AIC值越小，模型越 合适。AIC值的计算公式如下：
AIC=-2log(L)+2(g+k) •(2)SC检验法：用于比较同一数据下的不同模型。SC值越小，模型越合 适。SC值的计算公式如下：
据集时，不需要使用FREQ语句。但是，当x是分类型变量，且x和y变量的观察值不是 直接输入到SAS数据集时，而是将x和y变量的频数输入到SAS数据集中时，需要使用 FREQ语句。 • OUTPUT语句：用来保存指定的分析结果。Out选择项用来给出输出数据集的名字。 Pred选择项用来给出一个预测概率的变量名。
• Logistic回归模型有条件与非条件之分，前者适用于配对病例对照资料的分析，后者 适用于队列研究或非配对的病例-对照研究成组资料的分析。
非条件Logistic回归的SAS程序
• CL：指定输出参数估计值的可信区间。 • RL：指定输出相对危险度（或比数比）的可信区间。 • SELECTION、SLE和SLS：和REG过程步的对应选项一样，用于逐步回归分析。 • FREQ：是否使用，取决于数据的输入方法。当x和y变量的观察值被直接输入到SAS数
条件Logistic回归的SAS程序
• SLE：指定协变量进入模型的显著水平，缺省值是0.05。 • SLS：指定协变量停留在模型中的显著水平，缺省值是0.05。 • DETAILS：指令输出逐步回归过程中每一步的详细分析结果。 • STRATA：指定用于分组计算的分组变量。如果分组变量的数值不符
非条件Logistic回归模型的建立
非条件Logistic回归模型的建立
•(1)AIC检验法：用于比较同一数据下的不同模型。AIC值越小，模型越 合适。AIC值的计算公式如下：
AIC=-2log(L)+2(g+k) •(2)SC检验法：用于比较同一数据下的不同模型。SC值越小，模型越合 适。SC值的计算公式如下：
据集时，不需要使用FREQ语句。但是，当x是分类型变量，且x和y变量的观察值不是 直接输入到SAS数据集时，而是将x和y变量的频数输入到SAS数据集中时，需要使用 FREQ语句。 • OUTPUT语句：用来保存指定的分析结果。Out选择项用来给出输出数据集的名字。 Pred选择项用来给出一个预测概率的变量名。
• Logistic回归模型有条件与非条件之分，前者适用于配对病例对照资料的分析，后者 适用于队列研究或非配对的病例-对照研究成组资料的分析。
卫生统计学—Logistic回归分析
Logit 变换），
学习文档
变形: Ln (Odds)
ln(odds) ln( P ) Y 1 P
p
1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
-5 -4 -3 -2 -1 0 1 2 学习文3 档 4 5 y
一、基本概念
应变量Y
1 0
发生 ， 未发生
自变量X1, X2,
exepx(pb(2ebx2 p1(.1b9.269S61bS2.b)92 6) Sebx2ep)x(p0(e.05x.25p62(106.1512.619学1.69习6文10档..9016.5175207).21)57(12(.1)2.42,4(21,.2.32.034)0, 2).30)
三、logistic回归模型的假设检验
1. 似然比检验 基本思想是比较2种不同假设条件下的对数似 然函数值差别的大小。在大样本时，若两个模 型有嵌套关系，即对于其中一个模型中的某个 自变量，而在另一个模型中包含所有其他所有 自变量而无此自变量，那么这两个模型就构成 了嵌套关系，则两个模型间的对数似然值乘以 （-2）的结果之差近似服从卡方分布，即似然 比（L.R.）
学习文档
H 0 : 两个模型在拟合优度上相同
H 1 :两个模型在拟合优度上不相同
G 2ln L (2ln L) 2ln L L
Model 1: 2 ln L , with k1 variables（变量数较少） Model 2: 2ln L , with k2 variables, k1 k2 .
ln
1
P P
=0
1
X1
2
X
2
m X m log itP
取值范围 概率P：0～1，logitP：－∞～∞。
学习文档
变形: Ln (Odds)
ln(odds) ln( P ) Y 1 P
p
1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
-5 -4 -3 -2 -1 0 1 2 学习文3 档 4 5 y
一、基本概念
应变量Y
1 0
发生 ， 未发生
自变量X1, X2,
exepx(pb(2ebx2 p1(.1b9.269S61bS2.b)92 6) Sebx2ep)x(p0(e.05x.25p62(106.1512.619学1.69习6文10档..9016.5175207).21)57(12(.1)2.42,4(21,.2.32.034)0, 2).30)
三、logistic回归模型的假设检验
1. 似然比检验 基本思想是比较2种不同假设条件下的对数似 然函数值差别的大小。在大样本时，若两个模 型有嵌套关系，即对于其中一个模型中的某个 自变量，而在另一个模型中包含所有其他所有 自变量而无此自变量，那么这两个模型就构成 了嵌套关系，则两个模型间的对数似然值乘以 （-2）的结果之差近似服从卡方分布，即似然 比（L.R.）
学习文档
H 0 : 两个模型在拟合优度上相同
H 1 :两个模型在拟合优度上不相同
G 2ln L (2ln L) 2ln L L
Model 1: 2 ln L , with k1 variables（变量数较少） Model 2: 2ln L , with k2 variables, k1 k2 .
ln
1
P P
=0
1
X1
2
X
2
m X m log itP
取值范围 概率P：0～1，logitP：－∞～∞。
《logistic回归分析》课件
信用卡欺诈检测
应用逻辑回归模型检测信用 卡交易中的欺诈行为，保护 用户利益和减少风险。
电影推荐
利用逻辑回归模型根据用户 的历史行为和偏好进行电影 推荐，提供个性化的影片推 荐。
总结与展望
Logistic回归分析的优点和不足
总结逻辑回归分析的优点和限制，讨论其适用范围和局限性。
发展前景
展望逻辑回归分析在未来的发展趋势和应用领域。
探讨Logistic回归分析在实际问题中的广泛应用。
Logistic回归与线性回归的区别
比较Logistic回归和线性回归之间的差异和适用情况。
逻辑回归模型及其基本假设
1 Sigmoid函数
2 逻辑回归的数学模
型
介绍Sigmoid函数及其在
3 基本假设
描述逻辑回归模型中的
逻辑回归中的作用。
解释逻辑回归的数学模
《logistic回归分析》PPT 课件
介绍logistic回归分析的PPT课件，涵盖课程内容、逻辑回归模型、参数估计与 模型拟合、分类结果与型诊断、实战案例、总结与展望以及参考文献。
课程介绍
什么是Logistic回归分析
介绍Logistic回归分析的基本概念和原理。
Logistic回归分析的应用
• [3]C. Bishop (2006) Pattern recognition and machine learning. Springer.
讨论如何评估逻辑回归模型的分类结果，确定 哪些样本属于正类和负类。
ROC曲线
解释ROC曲线在逻辑回归模型中的作用，用于评 估模型的分类性能。
混淆矩阵
介绍混淆矩阵，用于评估逻辑回归模型的分类 准确性和误判情况。
模型的诊断
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
7 0 26 1 41 0 41 4 74 0 55 7
8 0 28 1 42 0 42 4 75 1 55 7
9 0 28 1 43 0 42 4 76 1 55 7
10 0 29 1 44 0 42 4 77 1 56 7
11 0 30 2 45 1 42 4 78 1 56 7
12 0 30 2 46 0 43 4 79 1 56 7
age | Odds Ratio chi2(1)
P>chi2 [95% Conf. Interval]
------+--------------------------------------------------------
1 | 7.225806
6.78
0.0092
1.263340 41.32877
e -5.363111+0.1121age P 1 e-5.363111+0.1121age
16 南京医科大学流行病与卫生统计学系
2 传统方法与logistic回归 四格表资料(病例对照)与logistic的关系 分层四格表资料与logistic的关系
17 南京医科大学流行病与卫生统计学系
1 P 1 e( 1x1 2 x2 L m xm )
5 南京医科大学流行病与卫生统计学系
logistic函数
z 1 x1
1 P 1 ez
2 x2
L
m xm
6 南京医科大学流行病与卫生统计学系
7 南京医科大学流行病与卫生统计学系
logistic回归模型
P(y=1|X)，简记为P，表示暴露因素为X时个体
2 | 8.863636
28.64
0.0000
3.369128 23.31881
3 | 1.538462来自0.580.4450
0.504952 4.687303
4 | 3.712821
6.58
0.0103
1.266587 10.88361
5 | 3.883871
5.53
0.0187
1.147490 13.14561
14 南京医科大学流行病与卫生统计学系
年龄与冠心病(CHD)的logistic回归
.logit chd age
Logit estimates
Number of obs =
100
LR chi2(1)
= 29.76
Prob > chi2
= 0.0000
Log likelihood = -53.453542
1 0 20 1 35 0 38 3 68 0 51 6
2 0 23 1 36 0 39 3 69 0 52 6
3 0 24 1 37 1 39 3 70 1 52 6
4 0 25 1 38 0 40 4 71 1 53 6
5 1 25 1 39 1 40 4 72 1 53 6
6 0 26 1 40 0 41 4 73 1 54 6
---------------------------------------------------------------
Mantel-Haenszel estimate controlling for age
----------------------------------------------------------------
10 0.8000
12 南京医科大学流行病与卫生统计学系
P
8个年龄组与冠心病患病率的散点图
1 .8 .6 .4 .2 0
12345678 Age group
13 南京医科大学流行病与卫生统计学系
P
8个年龄组与冠心病患病率的logit回归
1 .8 .6 .4 .2 0
12345678 Age group
logit P = -5.363111+0.1121×age
15 南京医科大学流行病与卫生统计学系
年龄与冠心病(CHD)的logistic回归
logit P = -5.363111+0.1121×age P/(1-P)=exp(-5.363111+0.1121×age)
1 P 1 e5.363111-0.1121age
Logit estimates Log likelihood = -643.06749
Number of obs =
LR chi2(5)
=
Prob > chi2
=
Pseudo R2
=
1976 151.47 0.0000 0.1054
----------------------------------------------------------------
第4讲 logistic回归
logistic的主要内容
logistic回归 条件logistic回归 多类结果的logistic回归 有序结果的累计比数logistic回归 logistic回归的正确应用
2 南京医科大学流行病与卫生统计学系
logistic回归
模型简介 传统方法与logistic回归的关系 回归系数的解释 模型的估计与假设检验 建模策略
8个年龄组与冠心病患病率
Age group 1 (20~) 2 (30~) 3 (35~) 4 (40~) 5 (45~) 6 (50~) 7 (55~) 8 (60~)
n
p
10 0.1000
15 0.1333
12 0.2500
15 0.3333
13 0.4615
8 0.6250
17 0.7647
_Iage_3 | 1.934401 .4583881 4.22 0.000 1.035977 2.832825
_Iage_4 | 2.648059 .4497735 5.89 0.000 1.766519 3.529599
_Iage_5 | 3.194293 .4475326 7.14 0.000 2.317145 4.07144
y | Coef. Std. Err.
z P>|z|
95% CI
--------+-------------------------------------------------------
x | 1.385176 .2505323 5.53 0.000 .8941417 1.87621
_Iage_2 | 1.138362 .4769719 2.39 0.017 .2035146 2.07321
390
3: 35~39
4
26
33
330
4: 40~44
6
9
65
362
5: 45~49
6
5
93
301
21 南京医科大学流行病与卫生统计学系
Mantel-Haenszel法结果
. mhodds y x [fw=f] , by(age)
Comparing x==1 vs. x==0
by age
---------------------------------------------------------------
1 P 1 e( 1x1 2 x2 L m xm )
e 1 x1 2 x2 L m xm P 1 e 1 x1 2 x2 L m xm
9 南京医科大学流行病与卫生统计学系
100个个体的年龄和冠心病(CHD)状况
ID CHD AGE AGRP ID CHD AGE AGRP ID CHD AGE AGRP
Odds Ratio chi2(1)
P>chi2
[95% Conf. Interval]
----------------------------------------------------------------
3.969895
34.72
0.0000
2.418041 6.517702
----------------------------------------------------------------
13 0 30 2 47 0 43 4 80 0 57 7
14 0 30 2 48 1 43 4 81 0 57 7
15 0 30 2 49 0 44 4 82 1 57 7
16 0 30 2 50 0 44 4 83 1 57 7
17 1 32 2 51 1 44 4 84 1 57 7
18 0 32 2 52 1 44 4 85 1 57 7
Test of homogeneity of ORs (approx): chi2(4) = 6.27 Pr>chi2 = 0.1797
22 南京医科大学流行病与卫生统计学系
logistic回归结果
. xi : logit y x i.age [fw=f]
i.age
_Iage_1-5
(naturally coded; _Iage_1 omitted)
1 128
1 19
1 164
2.0964 ~
6.5616
18 南京医科大学流行病与卫生统计学系
四格表资料的logistic回归
X=1 表示使用过雌激素 X=0 表示未使用过雌激素
logit P = - 0.2478+1.3107x
ln
1
P -P
=
-
0.2478
+
1.3107x
19 南京医科大学流行病与卫生统计学系
19 0 33 2 53 0 45 5 86 0 58 7
20
0
33
2
54