最新 面板数据的自适应Lasso分位回归方法的统计分析-精品
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
面板数据的自适应Lasso分位回归方法
的统计分析
一、引言
面板数据模型是当前学术界讨论最多的模型之一。传统的面板数据模型实际上是一种条件均值模型,即讨论在给定解释变量的条件下响应变量均值变化规律。这种模型的一个固有缺陷是只描述了响应变量的均值信息,其他信息则都忽略了。然而,数据的信息应该是全方位的,这种只对均值建模的方法有待改进。Koenker等提出的分位回归模型是对均值回归模型的一种有效改进,该模型可以在给定解释变量后对响应变量的任意分位点处进行建模,从而可以从多个层次刻画数据的分布信息[1]。同时,分位回归的参数估计是通过极小化加权残差绝对值之和得到,比传统均值回归模型下二次损失函数获得的最小二乘估计更为稳健[2]。
对于简单的线性模型,与分位回归方法相对应的参数点估计、区间估计、模型检验及预测已经有很多成熟的研究结果,但有关面板数据模型的分位回归方法研究文献还不多见。Koenker对固定效应的面板数据模型采用带Lasso惩罚的分位回归方法,通过对个体固定效应实施L1范数惩罚,该方法能够在各种偏态及厚尾分布下得到明显优于均值回归的估计,然而惩罚参数如何确定是该方法的一个难点[3];罗幼喜等也提出了3种新的固定效应面板数据分位回归方法,模拟显示,这些新方法在误差非正态分布情况下所得估计优于传统的最小二乘估计和极大似然估计,但新方法对解释变量在时间上进行了差分运算,当解释变量中包含有不随时间变化的协变量时,这些方法则无法使用[4];Tian等对含随机效应的面板数据模型提出了一种分层分位回归法,并利用EQ算法给出模型未知参数的估计,但该算法只针对误差呈正态分布而设计,限制了其应用范围[5]。以上文献均是直接从损失函数的角度考虑分位回归模型的建立及求解;Liu等利用非对称拉普拉斯分布与分位回归检验损失函数之间的关系,从分布的角度建立了含随机效应面板数据的条件分位回归模型,通过蒙特卡罗EM算法解决似然函数高维积分问题[6];Luo等则在似然函数的基础上考虑加入参数先验信息,从贝叶斯的角度解决面板数据的分位回归问题,模拟显示,贝叶斯分位回归法能有效地处理模型中随机效应参数[7];朱慧明等也考虑过将贝叶斯分位回归法应用于自回归模型,模拟和实证显示该方法能有效地揭示滞后变量对响应变量的位置、尺度和形状的影响[8]。
然而,上述方法均不能对模型中自变量进行选择,但在实际的经济问题中,人们在建立模型之前经常会面临较多解释变量,且对哪个解释变量最终应该留在模型中没有太多信息。如果将一些不重要的噪声变量包含在模型之中,不仅会影响其他重要解释变量估计的准确性,也会使模型可解释性和预测准确性降低。Park等在研究完全贝叶斯分层模型时提出了一种新的贝叶斯Lasso方法,通过假定回归系数有条件Laplace先验信息给出了参数估计的Gibbs抽样算法,这一工作使得一些正则化的惩罚方法都能够纳入到贝叶斯的框架中来,通过特殊的先验信息对回归系数进行压缩,该方法能够在估计参数的同时对模型中自变量进行选择[9-10]。Alhamzawi等将贝叶斯Lasso方法引入到面板数据分位回归模型中来,使得在估计分位回归系数的同时能够对模型中重要解释变
量进行自动选择[11-12]。但是,上述研究中均假设回归系数先验分布所依赖的条件参数对所有解释变量都是相同的,也即对所有分量压缩程度一样,正如Zou所指出,这样得到的回归系数估计将不是无偏估计[13]。为了改进这一缺陷,本文拟构造一种自适应的贝叶斯Lasso分位回归方法,即假定回归系数的每个分量先验分布都依赖不同的条件参数,从而对不同的解释变量施加不同的惩罚权重,这不仅能够改进回归系数估计偏差,而且能够自动压缩模型中非重要解释变量回归系数为0,达到变量选择的目的。虽然面临需要估计更多参数的困境,但本文通过对Laplace分布的分解和引进辅助变量构造的切片Gibbs 抽样算法能够快速有效地解决这一问题[14]。
二、模型及方法
(一)面板数据的贝叶斯分位回归模型
定义1 考虑含多重随机效应的面板数据模型,定义给定τ时的条件分位回归函数如下:
F104Y501.jpg
为从贝叶斯的角度估计(1)的条件分位回归函数,我们假定响应变量
F104Y502.jpg服从非对称Laplace分布(Asymmetric Laplace
Distribution,ALD),即其密度形如:
F104Y503.jpg
F104Y504.jpg
(二)非对称Laplace分布分解与自适应先验信息的选取
显然,给定适当的先验信息后,上述模型(4)即可以通过一般的MCMC方法进行求解。然而,考虑到非对称Laplace分布没有共轭先验,这将为MCMC算法的估计带来极大的计算负担,为此给出非对称Laplace分布的一个重要分解:
F104Y505.jpg
利用引理1,ALD分布可以表示为正态和指数两个常见分布的混合,这为后面建立未知参数的Gibbs抽样算法带来了极大方便。关于先验信息,选取的方法很多,其中共轭先验信息选取法由于其计算推导简洁应用最为广泛。对于随机效应通常假定F104Y506.jpg;对于尺度参数F104Y507.jpg,其中IG(a,b)表示参数为a,b的逆Gamma分布。
对于参数β,如果按照通常共轭先验信息的选取方法则为正态分布,但这一先验分布无法起到变量选择的作用。Alhamzawi等将Laplace先验引入到贝叶斯分位回归模型中来,使得在估计分位回归系数的同时能够对模型中重要解释变量进行自动选择,改进了正态分布先验的缺陷。需要指出的是,虽然他们提出的先验能够对解释变量系数进行压缩起到变量选择的作用,但其所依赖的条件参数λ对β的所有分量都是相同的,也即对所有分量压缩程度一样,这显然会限制了β变化的灵活性,与实际中不同的解释变量应该有不同的权重也不符。为了改进这一缺陷,本文在其基础上提出一种自适应的β先验信息分布假设:
F104Y508.jpg
由式(3)及式(6)不难得到β的后验分布为:
π(β|y,σ,λ)
F104Y509.jpg
于是极大化β后验对数密度函数等价于极小化:
F104Y510.jpg