多元logistics回归分析

j x) exp( ,当1 j g 1 p j p( y j x) 1 exp( j x) 1,当j g
第一个模型表示了y 取第一个值的概率p1与x的关系；第二个模型表示了y 取前两个值的累积概率p2与x的关系。这两个模型的常数项不同，回归系 数完全相同的。 y 取第一个值的概率p(1)=p1 ，y 取第二个值的概率 p(2)=p2 -p1，y 取第三个值的概率p(3)=1- p2 。它们的截距不同，斜率相 同，所以是g-1条平行直线族。多值因变量logistic回归模型要求进行数据的 平行性检验。
e x exp x p p ( y 1 x) x 1 e 1 exp( x)
p 1 p=p(x) 0.5
0
-α /β 图7-1 变量 p 与 x 的关系
x
多元 logistic回归模型
exp 1 x1 2 x2 k xx p p ( y 1 x) 1 exp( 1 x1 2 x2 k xk )
logistic回归模型的个数 取决于因变量的取值个数。因为 logistic回归模型描述的是因变量取每 个值的概率与自变量的关系，因此因变量的每一个值都对应一个模型。 但是由于概率之和为1，所以当因变量是g值变量时，只需要估计g-1 个模型
二值因变量的 logistic回归模型 假设因变量 y是一个取值为1和0的二值变量(binary variable)，x 是一个影响y 的危险因子(risk factor)。令在x 条件下y=1的概率是 p=p(y=1| x)，那么，表达式 ：
从数学角度看，很难找到一个函数y=f (x)，当x变化时，它对应的函数 值y仅取两个或几个有限值。 研究者将所要研究的问题转换了一个角度，不是直接分析y与x的关系， 而是分析y取某个值的概率p与x的关系。
分析因变量y取某个值的概率p与自变量x的关系，等价于寻找一个连续 函数p=p(x)，使得当x变化时，它对应的函数值p不超出[0,1]范围。数学上这 样的函数是存在且不唯一的，logistic回归模型就是满足这种要求的函数之一。 从数学角度看，logistic回归模型非常巧妙地避开了分类型变量的分布 问题，补充完善了线性回归模型和广义线性回归分析的缺陷。
多值变量的 logistic回归模型
pj log it ( p j ) ln 1 p j
j 1 x1 2 x2 k xk
p j = p( y≤ j | x )，它表示了 y 取前 j 个值的累积概率(cumulative probability)。 累积概率函数
根据数据的类型，logistic回归分析分为两种：
一种是条件logistic回归(conditional logistic regression)，用 于分析配对病例对照研究数据。
另一种是非条件logistic回归(unconditional logistic regression)，用于分析成组数据或非配对的病例对照研究。
内容
• 基本原理 • 数学模型 • 方法步骤
参数估计 检验参数 模型检验 平行性检验
• 系数解释 • 条件Logistics分析 • 应用
参数估计 在logistic回归分析模型中，回归系数的估计方法通常是最大似然 法(Maximum Likelihood method)。最大似然法就是选取使得总体 真参数落在样本观察值领域里的概率达到最大的参数值作为真参 数的估计值。 为了得到一个非偏估计(non-biased estimate)，需采用重复递推 的方法，将最大似然估计值不断修正。软件系统使用的是重复加 权最小二乘递推法(iteratively reweighted least squares algorithm) 来估计回归系数。 和线性回归分析一样，logistic回归模型的回归系数是自变量对应 变量作用大小的一种度量。因为自变量的单位不同，不能用回归 系数的估计值来判断哪一个自变量对因变量的影响作用最大。为 了要进行比较，需要计算出标准回归系数。计算原理和线性回归 分析一样。在标准回归系数估计值中，绝对值最大的标准回归系 数对应的 x 变量对 y 变量的影响最大。
如果对模型的概率 p 进行logit 变换
百度文库
p logit ( p) ln 1 p
logistic回归模型的另一种形式，它给出的是变量z=logit(p)关于x 的线性函数
p logit ( p) ln 1 p 1 x1 2 x2 k xk
非条件logistic回归分析也简称为logistic回归分析。
内容
• • • • • •
基本原理 数学模型 方法步骤 系数解释 条件Logistics分析 应用
logistic回归模型对变量的要求
Logistic回归分析要求因变量是分类变量，包括顺序变量和名义变量。
不论是哪种变量都要用数字来表示它的取值。自变量可以是数值型连续 变量，也可以是顺序型分类变量，如果是名义变量，则需要转换成哑变 量来处理。
多元Logistics回归分析
内容
• • • • • •
基本原理 数学模型 方法步骤 系数解释 条件Logistics分析 应用
内容
• • • • • •
基本原理 数学模型 方法步骤 系数解释 条件Logistics分析 应用
因变量y 是分类型变量，自变量x是与之有关的一些因素。但是，这样 的问题却不能直接用线性回归分析方法来解决，其根本原因就在于因变量是 分类型变量，严重违背了线性回归分析对数据的假设条件。
检验参数
统计假设常用的方法是Ward卡方检验。当大于样本对应的Ward 卡方值的概率小于0.05时，在统计意义上可以拒绝上述零假设。 即，可以认为第 j个 x 变量对y=1的概率p有显著性影响，其犯第 一类错误的可能性不超过5% 。和线性回归分析一样，当自变量 个数较多时，可采用逐步回归分析方法来筛选危险因子。