多层统计分析模型

多层统计模型出现前 对多层数据进行分析 的探索
探索（1）—分别估计

在个体水平和组群水平分别进行分析； 试图用单一的个体水平模型的分析结果来推论另 一水平的统计结果。
level 1 : yij 0 1 xij ij level 2 : y j 0 1 x j j
yij 00 01w1 j 1 x1ij 10 z1ij 11w1 j z1ij u0 j u1 j z1ij eij
total :
一般模型
level 1 : yij 0 j p x pij qj z qij eij
零模型
ˆ l21总所设模型
零模型
ˆ l21总 ˆ l2 2总
1
ˆ l21总
所设模型
ˆ l21总
零模型
SBl 2
零模型
ˆ l2 2总所设模型
零模型
ˆ l2 2总
1
ˆ l2 2总
所设模型
ˆ l2 2总
2
零模型
ˆ
2 l 1总

2 2 2 ˆ 零模型 ˆ 所设模型 ˆ 所设模型 RBl1 1 2 2 ˆ 零模型 ˆ 零模型
RBl 2
ˆ u20
零模型
ˆ u20 所设模型
零模型
ˆ u20
1
ˆ u20
所设模型
ˆ u20
零模型
对变异的解释程度（SB）
SBl1 ˆ l21总

组内观察相关
（within-group observation dependence） 同一组内的个体，较不同组的个体而言， 在观念、行为等很多方面更为接近或相似； 即便不是刻意分组，也是如此。 组内同质（within-group homogeneity）， 组间异质（between-group heterogeneity） 很小的相关将导致很大的I类错误。
2 u0
ˆ ,
2
2 l 2总

2 u0


n
示例与SAS实现
例1：对医生满意度调查
Patid：病人编号； Phys：医生编号； Age：病人年龄； Sat：满意度分数； Practice：执业时间；

空模型
Satij 0 j eij
0 j 00 u0 j


2 w

2 b
2 b


组间方差占总方差的比例。 可使用对“空模型”的拟合获得； 值域在0到1之间，越接近1，说明相关越明显； 对ICC的检验是是否选择多层模型的依据。
两水平模型的公式表达
空模型（又称截距模型）
level 1 : levHale Waihona Puke Baidul 2 : total : yij 0 j eij

多层数据的常见来源
复杂抽样； 多中心临床试验； 纵向研究（longitudinal studies）与重复测 量（repeated measures）； “高低搭配”； Meta分析； ……

多层统计模型的研究内容
哪些个体解释变量会影响结局变量； 哪些场景变量会影响结局变量； 个体解释变量对结局变量的影响是否会受 到场景变量的影响。
S. Raudenbush与A. Bryk


模型称为：hierarchical linear model； 软件为：HLM
H. Goldstein


模型称为：multilevel models； 软件为：MLwiN（早期版本称ML3，MLn）
多层统计模型的名称
multilevel models hierarchical linear model random-effect model random coefficient model various component model mixed-effect model empirical Bayes model
最小二乘法（LS）
包括迭代广义最小二乘法（IGLS）和限制 性迭代广义最小二乘法（RIGLS） 都以普通最小二乘估计（OLS）为初始值 进行迭代； 地位及相对关系大致等同于ML和REML； 是MLwiN使用的算法。

经验Bayes方法（EB）

“收缩估计（shrinkage estimator）” 以可靠性权重确定最后的估计值； 对于某些样本量很小的组，则更多的使用总样本 的信息，进行“借力（borrow strength）”
p 1 q 1 P Q
0 j 00 0 m wmj u0 j
m 1 M
M
level 2 :
1 j 10 1m wmj u1 j
m 1

Qj Q 0 Qm wmj uQj
m 1 Q yij 00 0 m wmj p x pij q 0 z qij qm wmj z qij u z u e 0 j qij qj ij m 1 p 1 q 1 q 1 m 1 q 1 M P Q Q M
专门软件：HLM；MLwiN；SuperMIX； aML；EGRET；LISREL；Mplus等。 通用统计学软件：SAS；SPSS；stata；Splus/R等。

线性多层统计模型
基础知识
组内相关系数
（Intra-Class Correlation Coefficient, ICC）
ICC
M
total :
SAS中的公式表达
Y X Z e
模型假设
eij ~ N 0, 2


0 u20 u201 u0 j u ~ N 0 2 2 1j u 01 u1 Coveij , u0 j 0, Coveij , u1 j 0
空模型加入场景变量
3步迭代完成，随机截距有意义； 所有随机系数的检验部分低于检验水准； 该模型-2LL=345.8，空模型-2LL=352.2， 则LRχ2=6.4，p=0.0114； RB=1-0.3330/0.4296=0.2248;

加入水平1变量（固定效应）
Snaij 0 j 1ageij eij
固定和随机回归系数
Level 2 variation 6 5 Exam 3 Score 2 1 0 0 0.5 Intake achievement 1 4
模型估计方法
最大似然法（ML）



包括普通最大似然法（ML）和限制性最大似然法 （REML）； 两者用于估计的残差基础不同，后者的残差包括 所有的随机变异； REML是SAS的MIXED过程和HLM的默认算法； REML通常用于组数量较少的模型； ML可以用于模型比较，而REML不行； REML估计较优，而ML较快。
* ˆ ˆ 1 ˆ00 0 j j 0j j
空模型的可靠性权重
n j ICC u20 0 j 2 2 u 0 / n j 1 n j 1ICC
对模型拟合的评价
SAS给出：-2LL，AIC，AICC，BIC等统计 量，其值越小越好； 但只在比较模型时有用； 模型收敛的速度可以说明拟合的好坏。
Satij 00 u0 j eij
空模型
2步迭代完成； 所有随机系数的检验均高于检验水准； ICC=0.00292/（0.00292+1.291）=0.23% 不用进一步拟合多水平模型

例2：SNA角度测量值
id：观察对象编号； occa：每次观察编号； Age：病人年龄； SNA：角度； agg：场景变量；

探索（3）—两步模型的问题
无论哪一步均使用OLS，并不适用； 当组群过多，则十分麻烦； 某些组内样本量很少时，进行回归不稳定； 将每个组群认为是不相关的，忽略了其为 从一大样本中抽取的事实。

多层统计模型的出现

研究的学者很多； 系统的主要为两； 研究的理论没有根本上的分歧； 双方研究成果的发布时间基本相同（上世纪80年 代末90年代初）； 分别有各自分析的成熟的软件； 目前，大家基本上接受两组人分别独立开发出同 一模型的结果。
0 j 00 u0 j
yij 00 u0 j eij
两个水平1自变量、一个水平2自变量
level 1 : level 2 : yij 0 j 1 x1ij 1 j z1ij eij
0 j 00 01w1 j u0 j 1 j 10 11w1 j u1 j
多层统计分析模型
陶庄 中国CDC卫生统计研究室
绪论
青蛙与池塘（“Frog-pond theory”）

青蛙—学生个体；

池塘—学校环境；

学生的成绩好坏不仅受到个体本身的影响， 也受到学校环境的影响！
多层数据

低一层（低水平）单位（个体）的数据嵌 套（nested）于高一层（高水平）的单位 （组群）之中。 结局变量，个体解释变量，场景变量 （contextual variables）
模型假设—SAS的表达
u u G E 0 Var e e 0 0 R
0 u20 u201 u202 2 2 2 G ~ N 0 u 01 u1 u12 2 2 0 2 u12 u 2 u 02 R 2I
探索（2）—传统回归

用传统的固定效应回归模型中一般的交互项理解 多层数据中的跨层（cross-level）交互作用。
yij 0 1xij 2 z j 3 xij z j ij
探索（3）—两步模型 （two-stage model）
第一步模型，对各组分别进行同一回归模 型估计，获得一系列的系数； 对这些系数的恒定性进行检验； 如果不恒定，则进行第二步模型，以组变 量为因变量，系数为自变量进行回归。

空模型
3步迭代完成； 所有随机系数的检验部分低于检验水准； ICC=0.4296/（0.4296+0.5629）=43.28% 应进一步拟合多水平模型

空模型加入场景变量
Snaij 0 j eij
0 j 00 01agg1 j u0 j
Snaij 00 01agg1 j u0 j eij

多层统计模型的局限性（2）
研究对象一般具有流动性，即受到群组影 响的程度不同，虽可用出入时间进行控制， 但此信息一般不可知； 依然存在自变量带有测量误差的问题，必 需借助于结构方程模型（SEM）； 完全嵌套假设，即每一个低水平单位嵌套、 且仅嵌套于一个高水平单位。

用于多层统计模型的软件

假设检验
全局检验：F检验； 局部检验：对方差-协方差估计使用Wald Z 检验；对系数使用t检验； 单测检验，P值需除2； 其它可使用LR等。

模型比较
对于嵌套模型，使用LR检验； 对于非嵌套模型，使用AIC，AICC和BIC检 验； 无论何种，均需使用ML进行估计。

对变异的解释程度（RB）

多层统计模型的优点
同时分析组效应和个体效应； 不需有独立性假设； 对稀疏（sparse）数据，即每组样本很少 的数据，特别有效； 特别适合对发展模型（GM）的分析。

多层统计模型的局限性（1）
模型复杂，不够简约； 需较大样本以保证稳定性； 组群数量较少，会出现偏倚； 高水平单位并非严格抽样获得； 某些场景变量通常是各组个体的聚集性测 量，而不是总体内个体的聚集性测量；