CDC课件-多元线性回归--王丽敏

医用多元统计分析方法
多变量线性回归(multivariate linear regression) 多个结果变量(Y1, Y2,…,Yk)和多个自变量 (X1, X2,…,Xm) 间的线性回归称为多变量(元)线 性回归(multivariate linear regression)。 一个结果变量Y和多个自变量(X1,X2,…,Xm) 间的线性回归称为多重线性回归(multiple linear regression)； 常将多变量线性回归化为多个多重线性回 归处理，故有书也习惯把多重线性回归称为多 变量(元)线性回归，而没有严格地区分两者。
R ≥ max ryx1 , ryx2 , Λ , ryxm
{
}
医用多元统计分析方法
s y ⋅ x1 x 2 Λ x m
剩余标准差
ˆ ( yi − yi )2 ∑
i =1 n
s y •12Λ m =
n− m −1
=
Q n− m −1
医用多元统计分析方法
反映回归方程的估计精度 可用于偏回归系数的假设检验 y的容许区间估计 y的可信区间估计 自变量的选择等
例2结果:
t1 = 0.00501684 = 0.4744,ν = 29 − 2 − 1 = 26, P = 0.6392 0.313655722 0.00113681
t2 =
0.05406059 = 3.3822,ν = 29 − 2 − 1 = 26, P = 0.0023 0.313655722 0.00259686
Multivariate Liner Regression
慢病中心 王丽敏
回归分析：是研究事物或现象之间
的数量依存关系。 直线回归分析：是研究两个连续型变 量x和y之间线性数量依存关系的统计 分析方法。
医用多元统计分析方法
如在一定年龄阶段，体重与身高之间可以表 达为： y（体重） = a + bx（身高） a: 截距 b: 斜率
医用多元统计分析方法
多变量(元/因素)统计分析：是研究客 观事物中多种因素间相互依赖和作用统 计规律性的一个数理统计学分支。它广 泛地应用在病因和危险因素的筛选，诊 断试验、药物疗效、防治效果、疾病预 后、环境卫生、妇幼卫生、计划生育等 方面的评估。 如糖尿病患者空腹血糖与总胆 固醇和甘油三脂之间的关系。
医用多元统计分析方法
体重(kg)， x2 32.0 46.2 37.1 41.5 33.0 49.5 41.0 47.2 40.5 44.7 31.5 40.4 37.5 34.7 32.0 :
肺活量(L)， y 1.75 2.75 2.75 2.75 2.50 3.00 2.75 2.25 2.00 2.75 1.75 2.75 2.00 2.25 1.75 :
15.632
0.000
医用多元统计分析方法
决定系数(determination coefficient)
U Q R = = 1− l yy l yy
2
它表示 y 的总变异中可由方程中自变量组合所解 释变异所占的比重。
医用多元统计分析方法
H0：ρ2=0； H1：ρ2≠0。
检验统计量为：
R2 ⎛ n − m − 1 ⎞ F= ⎟ ~ F( m ,n− m −1) 2 ⎜ 1− R ⎝ m ⎠
e 0.2204 0.5197 -0.1381 -0.3612 0.0596 -0.3537 -0.1768 -0.1818 -0.3153 -0.2668 0.2335 0.1867 -0.3830 0.1547
医用多元统计分析方法
∑( y
i =1
n
i
ˆ − yi ) = ∑ ei = 0
i =1
医用多元统计分析方法
方差可以分解为两个主要部分： i) 回归可以解释的部分 ii) 回归不能解释的部分 比较这两部分的差异是否存在显著差异。
假设检验为：
H 0 ：各总体偏回归系数均βi为0； H ：各总体偏回归系数βi不全为0。
1
医用多元统计分析方法
变异来源 总 回归 剩余
SS lyy U Q
自由度 n-1 m n-m-1
MS
F
U/m Q/(n-m-1)
U （n − m − 1） m Q
剩余自由度 = 总自由度-回归自由度 总自由度 = 建立方程用的样本量- 1
医用多元统计分析方法
变异来源 总 回归 剩余
SS
5.6336 3.0757 2.5579
自由度
28 2 26
MS
F
P
1.5379 0.0984
医用多元统计分析方法
编号 1 3 5 7 9 11 13 15 17 19 21 23 25 27 29 :
身高(cm)，x1 135.1 163.6 156.2 167.8 145.0 165.5 153.3 160.5 147.6 155.1 143.0 160.8 158.2 144.5 156.5 :
e -0.0920 -0.0027 0.5264 0.2304 0.5542 0.0594 0.3301 -0.5412 -0.3643 0.1211 -0.1046 0.3249 -0.2552 0.2149 0.1994
编号 2 4 6 8 10 12 14 16 18 20 22 24 26 28
1 2 3 4 5 6 7 8 9 10 11 12
多元线性回归简介 回归系数的估计 方程的假设检验 决定系数与剩余标准差 偏回归系数的假设检验与区间估计 标准偏回归系数与自变量的贡献 因变量的区间估计 指标的量化 衡量回归方程好坏的指标 回归系数反常的原因 回归分析的应用条件 回归分析在医学中的应用
医用多元统计分析方法
a为截距(intercept)，又称常数项(constant)，表示各 自变量均为0时y的平均估计值 bi 称为偏回归系数(partial regression coefficient)，
表示其它自变量不变时，xi 每改变一个单位，y 估计值的变化量。
简称为回归系数
ˆ y 称为 y 的估计值或预测值(predicted value)
n
ˆ ( yi − yi ) 2 = ∑ ei2 为最小。 ∑
i =1 i =1
n
n
医用多元统计分析方法
3.方程的假设检验
未引进回归时的总变异： (sum of squares about the mean of Y) l yy = ∑ (Y − Y ) 2 引进回归以后的变异(剩余): (sum of squares about regression)
y 2.00 2.50 2.00 1.50 2.25 1.25 1.75 1.75 2.25 2.00 2.25 2.50 1.75 2.50
ˆ y
1.7796 1.9803 2.1381 1.8612 2.1904 1.6037 1.9268 1.9318 2.5653 2.2668 2.0165 2.3133 2.1330 2.3453
医用多元统计分析方法
基本概念 定量的分析变量间的线性依存关系。 确定的函数关系：一般的线性方程 变量间关系不一定存在确定性的函数，但往 往存在一定的统计相关性
确定变量（自变量与因变量）之间是否存 在某种线性的统计学关系，存在则应找出 这种函数关系； 找出自变量对因变量的影响的数量关系及 其作用方向； 确定这种关系存在的概率的大小。
医用多元统计分析方法
条件 1）自变量之间独立 2）个体之间独立 对多元回归求解结果的要求： 找出确实影响因变量的因素 1）建立的方程必须有意义 2）方程内不存在对因变量没有显著影响的变 量
根据某地29名13岁男童的身高x1(cm)，体重 x2(kg)和肺活量y(L)建立的回归方程为：
ˆ y = −0.5657 + 0.005017 x1 + 0.05406 x2
b1 可信区间包含 0， 无统计学意义；b2 可信区间不
包含 0，有统计学意义。与假设检验结果一致。
医用多元统计分析方法
偏回归系数不能直接比较，即不能根据 b1 和 b2 的 大小来判断变量 x1 , x2 对 y 的贡献大小。应将它们标准 化，得到没有度量衡单位的标准偏回归系数再进行比 较。
Q = ∑ (Y − Y ) 2
∧
回归的贡献，回归平方和： (sum of squares due to regression)
U = l yy − Q = ∑ (Y − Y ) 2
医用多元统计分析方法
∧
y的总变异分解为两部分：
◦ 回归贡献U ◦ 剩余变异Q
整个方程是否有意义，就看回归所能解释 的变异U比剩余Q大多少而定。
医用多元统计分析方法
编号 1 3 5 7 9 11 13 15 17 19 21 23 25 27 29
y 1.75 2.75 2.75 2.75 2.50 3.00 2.75 2.25 2.00 2.75 1.75 2.75 2.00 2.25 1.75
ˆ y
1.8420 2.7527 2.2236 2.5196 1.9458 2.9406 2.4199 2.7912 2.3643 2.6289 1.8546 2.4251 2.2552 2.0351 1.9494-
身高、体重与肺活量有无线性关系？ 用身高和体重预测肺活量有多高的精度？ 单独用身高、或体重是否也能达到同样效果？ 身高对肺活量的贡献大，还是体重的贡献大？
医用多元统计分析方法
回归方程
ˆ y = a (b0 ) + b1 x1 + b2 x2 + L + bm xm
Y：结果变量/应变量
◦ outcome variable ◦ response variable (响应变量) ◦ dependent variable X：自变量/解释变量 ◦ independent variable ◦ explanatory variable(解释变量)