广义线性模型

广义线性模型
1．概述
广义线性模型是传统的线性模型的延伸，它是总体均值通过一个非线性连接函数依赖于线性预测值，有许多广泛应用的统计模型都属于广义线性模型，其中包括正态误差的经典性模型，二元数据的对数和概率单位模型以及多项数据的对数线性模型，还有其它许多有用的统计模型，如果选择合适的连接函数和响应概率分布，也可以表示为广义线性模型。
2．线性模型
线性模型也称经典线性模型或一般线性模型，其模型的形式为：
其中， 是因变量的第i次观测， 是自变量，它是一个列向量，表示第i次观测数据。未知系数向量 可机变量。
模型的几个基本假设：
因变量是连续随机变量
自变量相互独立
每一个数值型自变量与因变量呈线性关系
连接函数：
参数估计
一般线性模型：参数估计采用极大似然法和最小二乘法
广义线性模型：参数估计采用极大似然法和加权最小二乘
4.因变量常见分布及其常用的连接函数
广义线性模型建立
通过对数据选定因变量和自变量，以及选择合适的连接函数和响应概率分布，既可以建立一个广义线性模型。例如：
一般线性模型
因变量：连续变量
分布：正态分布
连接函数：
Logistic回归模型
因变量：（0，1）
分布：二项分布
连接函数：
Poisson回归模型
因变量：计数和个数
分布：Poisson分布
一般线性模型中，自变量的线性预测值 就是因变量的估计值 ，而广义线性模型中，自变量的线性预测值 是因变量的函数估计值 。
广义线性模型包括一下组成部分：
线性部分正好是一般线性模型所定义的：
连接函数( link function)：
连接函数为一单调可微（连续且充分光滑）的函数。连接函数起了关联“Y的估计值 ”与“自变量的线性预测值 ”的作用。在经典的线性模型中，“Y的估计值”与“自变量的线性预测”是一回事。
每一个数值型自变量与随机误差相互独立
观察个体的随机误差之间相互独立
随机误差 。
然而，实践中常不满足此假设
3．广义线性模型
广义线性模型，是为了克服一般线性模型的缺点出现的，是一般线性模型的推广。
广义线性模型在两个方面对一般线性模型进行了推广：
一般线性模型中要求因变量是连续的且服从正态分布，在广义线性模型中，因变量的分布可扩展到非连续的资料，如二项分布、Poisson分布、负二项分布等。