分位数回归-高级计量
分位数回归 基本无害的计量经济学
分位数回归基本无害的计量经济学
分位数回归(Quantile Regression)是一种半参数统计方法,可以用来估计条件分位数函数。
与普通最小二乘法回归估计条件均值函数不同,分位数回归估计的是条件分位数函数,因此它可以提供更加丰富的信息。
分位数回归在许多领域都有广泛的应用,例如工资分布、生长曲线分析、产量分析等。
分位数回归的基本思想是通过最小化加权绝对残差之和来估计条件分位数函数。
具体来说,设有随机变量Y和自变量向量X,我们想估计Y在给定X=x时的第τ条件分位数,记为Q(τ|x),则可以通过最小化如下目标函数来获得估计值:
min ∑ρτ(yi-xiTβ)
其中,ρτ(u)=u(τ-I(u<0))是所谓的检验函数(check function),I(·)是示性函数。
与普通最小二乘法回归中的平方损失函数不同,分位数回归采用了加权绝对残差损失函数。
分位数回归具有以下优点:
1. 更加稳健,不受异常值和离群点的影响;
2. 不需要对误差项分布作任何分布假设;
3. 可以估计整个条件分布,而不仅仅是均值;
4. 可以捕捉到自变量对因变量不同分位数的不同影响。
分位数回归是一种基本无害的计量经济学方法,可以在许多领域发挥重要作用。
当然,它也有一些局限性,例如估计结果的解释可能会比较困难,并且计算过程相对复杂等。
但总体来说,它是一种非常有用的工具。
分位数回归及应用简介
一、 引 言
1870 年 ,英国的高尔顿在研究人类身高的遗传
假设 ,那么在应用时就难以得到无偏的 、 有效的参数 估计量 。还有 ,大量的宝贵数据仅仅只能得到一条 回归曲线 ,而一条曲线所能提供的信息毕竟是有限 的 。所以人们在使用回归分析时 , 也在不断地探索 更新更好的方法 , 而条件更宽松 , 挖掘信息更丰富 者 ,当属分位数回归 。 自从 Koenker 和 Bassett ( 1978) [ 1 ] 最早提出线性 分位数回归的理论以后 , 当时由于分位数回归本身 计算的复杂性 ,所以它没能象经典的回归分析那样 迅速普及 ,但对它的理论研究一直在不断的完善中 。 随着计算机技术的不断突破 , 分位数回归软件包现 已是主流统计软件 R 、 SAS 等中的座上客了 ,分位数 回归也就自然而然地成为经济 、 医学 、 教育等领域的 常用分析工具 。
分位数回归及应用简介
李育安1 ,2
( 1. 中国人民武装警察部队学院 ,河北 廊坊 065000 ;2. 中国人民大学 统计学院 ,北京 100872)
摘要 : 文章介绍了分位数回归法的概念 、 算法及主流统计软件 R 和 SAS 计算时的语法 ,并通过实例与以 普通最小二乘法为基础的线性回归进行了对比 ,展现了分位数回归的巨大魅力 。 关键词 : 最小二乘法 ; 分位数回归 ; 恩格尔曲线 中图分类号 :O212. 1 文献标识码 :A 文章编号 :1007 - 3116 ( 2006) 03 - 0035 - 05
规律时发现 : 父母是高个子的 ,其子女的身高有低于 父母身高的趋势 ; 相反 , 父母是矮个子的 , 其子女的 身高却往往有高于父母身高的趋势 。从全局来看 , 高、 矮个子人的子女都有 “回归” 于一般人身高的期 望值 。这就是统计学上 “回归” 的最初涵义 。1886 年 ,高尔顿在论文中正式提出了 “回归” 的概念 。经 过他的学生皮尔逊多年的进一步的发展后 , 这个出 自于生物统计学领域的概念 , 便被推广为一般统计 方法论的重要概念 。 “回归分析” 悠久的历史 ,使其理论完美 ,计算工 具齐全 ,这其中又以基于最小二乘法的经典线性回 归在数据分析中遍地开花 。原因不外是最小二乘法 的解释与人们的直观想象一致 ; 同时该方法易于计 算 ,有时计算用手工 ,其优越性在前计算机时代是不 言而喻的 。尤其是当假设误差是正态分布时 , 它具 有如无偏性与有效等优良性质 ; 但是运用最小二乘 法的条件比较高 , 如线性回归模型要求满足同方差 性、 随机误差间两两不相关等条件 ,当需要进行回归 系数的显著性推断时 , 通常还要假设残差服从正态 分布 。尤其是当分布是重尾或有离群点时 , 其结果 的稳健性较差 。在实际问题中 , 完全满足这些基本 假设的情况并不多见 , 然而一旦违背了某一项基本
分位数回归及其实例
LP )估计其最小加权绝对偏分位数回归及其实例一、分位数回归的概念分位数回归(Quantile Regression):是计量经济学的研究前沿方向之一，它 利用解释变量的多个分位数(例如四分位、十分位、百分位等)来得到被解释变 量的条件分布的相应的分位数方程。
与传统的OLS 只得到均值方程相比，它可以更详细地描述变量的统计分布。
传统的线性回归模型描述了因变量的条件分布受到自变量 X 的影响过程。
普通最dx--乘法是估计回归系数的最基本的方法，它描述了自变量X 对于因变量y 的均值影响。
如果模型中的随机扰动项来自均值为零而且同方差的分布，那么回归系数的最dx--乘估计为最佳线性无偏估计(BLUE);如果近一步随机扰动 项服从正态分布，那么回归系数的最dx--乘法或极大似然估计为最小方差无偏估计(M 切甩)。
但是在实际的经济生活中，这种假设常常不被满足，饲如数据出 现尖峰或厚尾的分布、存在显著的异方差等情况，这时的最小二乘法估计将不再 具有上述优良性且稳健性非常差。
最小二乘回归假定自变量X 只能影响因变量的条件分布的位置，但不能影响其分布的刻度或形状的任何其他方面。
为了弥补普通最dx--乘法(OLs)在回归分析中的缺陷，Koenkel"和Pxassett 于1978年提出了分位数回归(Quantile Regression) 的思想。
它依据因变量的条 件分位数对自变量X 进行回归，这样得到了所有分位数下的回归模型。
因此分 位数回归相比普通最小二乘回归只能描述自变量X 对于因变量y 局部变化的影响而言，更能精确地描述自变量 X 对于因变量y 的变化范围以及条件分布形状 的影响。
分位数回归是对以古典条件均值模型为基础的最小二乘法的延伸， 用多个分 位函数来估计整体模型。
中位数回归是分位数回归的特殊情况， 用对称权重解决 残差最小化问题，而其他的条件分位数回归则用非对称权重解决残差最小化。
一般线性回归模型可设定如下：x(t) t( I(t 0)), (0,1).在满足咼斯-马尔可夫假设前提下，可表示如下: E(y|x) 01X12X 2...k Xk其中U 为随机扰动项0, 1, 2，…，k 为待估解释变量系数。
分位数回归
分位数回归
分位数回归（英语：Quantile regression）是回归分析的方法之一。
最早由Roger Koenker和Gilbert Bassett于1978年提出。
一般地，传统的回归分析研究自变量与因变量的条件期望之间的关系，相应得到的回归模型可由自变量的估计因变量的条件期望；分位数回归研究自变量与因变量的条件分位数之间的关系，相应得到的回归模型可由自变量估计因变量的条件分位数。
相较于传统回归分析仅能得到因变量的中央趋势，分量回归可以进一步推论因变量的条件概率分布。
分量回归属于非参数统计方法之一。
分位数回归-高级计量
• 对于之前的OLS来说，就是使得残差平方和最小， 即损失函数为平方损失函数，此为最小二乘回归； 而中位数回归的损失函数为绝对值损失函数，则称 为最小一乘回归，使得残差绝对值的和最小；
• 最小一乘回归是分位数回归的特例，在QR中，通过 计算数据点到回归线的加权距离（没有平方），赋 予拟合线下数据点的权重是 1-q ,赋予拟合线上数据 点的权重为 q 。对于选择的每个 q ，都会产生不同 的条件分位数拟合函数。
2020/4/2
---
4、分位数回归的估计方法与假设检验
• 如果散点图上侧分位数回归直线之间与下侧分位数 回归直线之间相比，上侧比较接近，则说明被解释 变量 yt 的分布是左偏的，反之是右偏的。
• 对于不同分位数回归函数，如果回归系数的差异很 大，说明在不同分位数上解释变量对被解释变量的 影响是不同的。
2020/4/2
---
4、分位数回归的估计方法与假设检验
对一个样本，估计的分位数回归式越多，对被解释 变量 yt 条件分布的理解就越充分。
以一元回归为例，如果用LAD(最小绝对离差和)法 估计的中位数回归直线与用OLS法估计的均值回归 直线有显著差别，则表明被解释变量 yt 的分布是非 对称的。
2、总体分位数与样本分位数
2020/4/2
---
2、总体分位数与样本分位数
2020/4/2
---
2、总体分位数与样本分位数
2020/4/2
---
2、总体分位数与样本分位数
2020/4/2
---
2、总体分位数与样本分位数
2020/4/2
---
2、总体分位数与样本分位数
2020/4/2
---
•
分位数回归使用残差绝对值的
分位数回归
分位数回归分位数回归及其实例一、分位数回归的概念分位数回归(Quantile Regression):是计量经济学的研究前沿方向之一，它利用解释变量的多个分位数（例如四分位、十分位、百分位等）来得到被解释变量的条件分布的相应的分位数方程。
与传统的OLS 只得到均值方程相比，它可以更详细地描述变量的统计分布。
传统的线性回归模型描述了因变量的条件分布受到自变量X 的影响过程。
普通最dx--乘法是估计回归系数的最基本的方法，它描述了自变量X 对于因变量y 的均值影响。
如果模型中的随机扰动项来自均值为零而且同方差的分布，那么回归系数的最dx--乘估计为最佳线性无偏估计(BLUE)；如果近一步随机扰动项服从正态分布，那么回归系数的最dx--乘法或极大似然估计为最小方差无偏估计(M Ⅵ甩)。
但是在实际的经济生活中，这种假设常常不被满足，饲如数据出现尖峰或厚尾的分布、存在显著的异方差等情况，这时的最小二乘法估计将不再具有上述优良性且稳健性非常差。
最小二乘回归假定自变量X 只能影响因变量的条件分布的位置，但不能影响其分布的刻度或形状的任何其他方面。
为了弥补普通最dx--乘法(0Ls)在回归分析中的缺陷，Koenkel"和Pxassett 于1978年提出了分位数回归(Quantile Regression)的思想。
它依据因变量的条件分位数对自变量X 进行回归，这样得到了所有分位数下的回归模型。
因此分位数回归相比普通最小二乘回归只能描述自变量X 对于因变量y 局部变化的影响而言，更能精确地描述自变量X 对于因变量y 的变化范围以及条件分布形状的影响。
分位数回归是对以古典条件均值模型为基础的最小二乘法的延伸，用多个分位函数来估计整体模型。
中位数回归是分位数回归的特殊情况，用对称权重解决残差最小化问题，而其他的条件分位数回归则用非对称权重解决残差最小化。
一般线性回归模型可设定如下：()((0)),(0,1).x t t I t ρττ=-<∈在满足高斯-马尔可夫假设前提下，可表示如下：01122(|)...k k E y x x x x αααα=++++其中u 为随机扰动项k αααα,...,,,210为待估解释变量系数。
分位数回归估计课件
在某些情况下，分位数回归的结果可能对模型假设的违背较为敏感。
分位数回归与其他方法的比较
与普通最小二乘法的比较
普通最小二乘法只关注数据的均值和方差，而 分位数回归可以提供更全面的信息。
与核密度估计的比较
核密度估计主要用于探索性数据分析，而分位 数回归主要用于因果关系推断。
与决策树和随机森林的比较
这些方法主要用于分类问题，而分位数回归主要用于回归问题。
05 分位数回归的未来发展
分位数回归的理论研究
01
深入研究分位数回归的理论基础，包括其假设、性 质和限制条件，以完善其理论体系。
02
探讨分位数回归与其他统计方法的结合，如混合模 型、贝叶斯方法等，以拓展其应用范围。
03
针对分位数回归的统计推断问题，研究更有效的推 断方法和理论。
灵活性
可以估计多个分位数，而不仅 仅是均值。
无分布假设
不需要假定误差项服从特定的 分布，比如正态分布。
刻画异质性
可以更好地捕捉数据的异质性 ，提供更全面的信息。
分位数回归的缺点
计算复杂度
相对于普通最小二乘法，计算成本较高。
解释性
分位数回归的系数较难解释，不如普通最小二乘法直观。
对离群值的敏感性
离群值可能会对分位数回归的结果产生较大影响。
$Y = Xbeta + epsilon$，其中$Y$是因变量，$X$是自变量，$beta$是待估 计的参数，$epsilon$是误差项。
非线性分位数回归模型
通过引入非线性函数或变换，使得模型能够更好地拟合非线性关系。
分位数回归的估计方法
最小二乘法
通过最小化残差平方和来估计参数。
迭代加权最小二乘法
分位数回归理论及其应用共3篇
分位数回归理论及其应用共3篇分位数回归理论及其应用1分位数回归理论及其应用分位数回归是一种重要的统计方法，可以有效地应用于对数据进行分析和建模。
本文将介绍分位数回归理论的概念、方法和应用，并通过实际案例来说明其在实践中的运用。
一、分位数回归理论概述分位数回归是通过对分位数进行建模，而不是对中心点（如平均数或中位数）进行建模的回归分析。
该方法可以帮助我们更好地理解数据的分布情况。
通常情况下，我们关注的是中位数或平均数，因为它们代表了数据集中的位置信息。
但是，在某些情况下，这些中心点可能无法提供足够的信息，或者它们可能无法很好地描述分布情况。
分位数回归方法就是通过对数据进行分位数的建模来解决这些问题。
分位数回归给出了不同分位数对自变量的响应，可以确定不同分位数下因变量与自变量之间的关系。
二、分位数回归方法1.示例数据在了解分位数回归方法之前，我们先介绍数据集。
假设我们有一组来自UNICEF的数据集，记录了不同国家儿童死亡率和GDP（卫生）支出的信息。
这些数据明显不是线性的，因为它们不能用单独的直线来描述。
2.分位数回归假设我们希望了解死亡率与GDP支出之间的关系。
我们可以在不同的分位数水平下，对死亡率和GDP支出之间的关系进行建模。
这个过程被称为分位数回归。
在本例中，我们将使用分位数水平为0.25、0.5和0.75。
我们可以首先在0.25和0.75分位数水平下建立模型，确定死亡率与GDP支出之间的关系。
然后，我们在0.5分位数水平下建立模型，确定这两个变量之间的中心关系。
3.结果分析在分位数回归分析后，我们可以得到以下结果。
在0.25分位数水平下，我们发现GDP支出与死亡率呈现负相关；在0.75分位数水平下，我们发现GDP支出与死亡率呈现正相关，这意味着一些经济条件较好的国家的死亡率可能会上升。
在0.5分位数水平下，我们可以看到两种情况都可能发生，因为这是分布的中心位置。
这种方法允许我们更灵活地研究不同分位数下的自变量与因变量之间的关系。
分位数回归
896.4746 476.3200
454.4782 386.3602
584.9989 423.2783
第16章 分位数回归
16.1 问题的提出
install.packages("quantreg") library(quantreg) data(engel) attach(engel) hist(foodexp) curve(density(foodexp),add=T) plot(income,foodexp,xlab="Household Income",ylab="Food Expenditure",type = "n", cex=.5) points(income,foodexp,cex=.5,col="blue")
第16章 分位数回归
16.2 总体分位数和总体中位数 另外，如果随机变量 y 分布是对称的，那么其均值与中位数是相同的。当其中位数小于均值时，分布是右
偏的。反之，分布是左偏的。一般来讲，工资的分布是右偏的（如图16-3），所以如果单纯以平均工资来反映 工资的话，这是很不恰当的，因此美国等一些国家除了公布平均工资外，还会同时公布工资的中位数和1/4、3/ 4分位数等。
表 16-1 恩格尔定律的部分数据
No. 1 2 3 4 5 6 7 8 9 10
收入 420.1577 541.4117 901.1575 639.0802 750.8756 945.7989 829.3979 979.1648 1309.8789 1492.3987
消费 255.8394 310.9587 485.6800 402.9974 495.5608 633.7978 630.7566 700.4409 830.9586 815.3602
分位数回归
分位数回归参数估计的思想
与LR估计量明显不同的QR估计量的特点在于， 在QR中数据点到回归线距离的测量通过垂直距离 的加权总和（没有平方）而求得，这里赋予拟合 线之下的数据点的权重是1-τ,而赋予拟合线之上 的数据点的权重则是τ.对于τ的每一个选择，都会 产生各自不同的条件分位数的拟合函数，这一任 务是为每一个可能的寻找适合的估计量。
示，对于条件均值函数E(Y|Xx)xi' ，求解
^
argminRk
n
(Yi xi')2
i1
得参数估计值。
分位数回归是对如上简单形式的扩展：
^
argm inRk
n
(Yi xi')
i1
通过对上式求解得到其参数估计值。
参数意义解释：当其它协变量保持不变时，这一估计差异 来自一个连续型协变量的单位增量，或者虚拟变量值从0 到1的变化。
人们当然也关心解释变量与被解释变量分 布的中位数，分位数呈何种关系。这就是分位 数回归，它最早由凯恩克（Koenker Roger）和 巴西特（Bassett Gilbert Jr）于1978年提出， 是估计一组回归变量X与被解释变量Y的分位数 之间线性关系的建模方法，强调条件分位数的 变化。
中位数是一个特殊的分位数，它表示 一种分布的中心位置。中位数回归是分位 数回归的一种特殊情况，其他分位数则可 以用来描述一种分布的非中心位置。第p 个百分位数表示因变量的数值低于这一百 分位数的个数占总体的p%.因此，分位数 可以指定分布中的任何一个位置。
最小二乘估计假定解释变量只能影响 被解释变量的条件分布的均值位置。
而分位数回归估计能精确地描述解释 变量对于被解释变量的变化范围以及条件 分布形状的影响,能够更加全面的描述被解 释变量条件分布的全貌，而不是仅仅分析 被解释变量的条件期望（均值），也可以 分析解释变量如何影响被解释变量的中位 数、分位数等。不同分位数下的回归系数 估计量常常不同，即解释变量对不同水平 被解释变量的影响不同。
分位数回归中位数回归
分位数回归中位数回归【分位数回归中位数回归——探索数据中的中间值】【导言】在统计学和经济学领域中，分位数回归和中位数回归是两种常用的回归分析方法。
分位数回归是指根据数据中不同的分位点，如25%、50%和75%，来估计自变量对因变量的影响程度。
而中位数回归则专注于分析因变量的中位数对自变量的响应。
本文将深入探讨这两种方法的原理、应用场景以及其在研究中的实际意义。
【正文】1. 分位数回归1.1 定义分位数回归是一种回归分析方法，其目标是根据所研究数据的不同分位点，来衡量自变量对因变量的影响。
它能够提供比传统OLS回归更全面的信息，因为它不仅仅考虑了因变量的期望值，还考虑了不同条件下的分位数。
1.2 原理分位数回归的核心思想是通过估计不同分位点下的条件分布函数来推断因变量和自变量的关系。
通常使用的方法有最小绝对偏差（LAD）估计和最大似然估计。
在估计中，不同分位点对应的回归系数可以提供关于变量之间关系的更全面信息，因为它能够描述条件下的异质性。
1.3 应用场景分位数回归在实践中有着广泛的应用场景。
在经济学中，分位数回归可以帮助我们了解不同收入群体对某一特定政策的响应程度，进而评估政策对社会不平等的影响。
分位数回归还可以用于预测风险分数、解释金融市场波动性等领域。
2. 中位数回归2.1 定义中位数回归是专注于研究因变量的中位数对自变量的响应关系。
与分位数回归不同，中位数回归不需要指定具体的分位点，而是关注数据集的中心位置，即中位数。
2.2 原理中位数回归的核心思想是通过最小化因变量中位数与预测中位数之间的差异，来估计自变量对中位数的影响。
常用的方法有最小二乘中位数回归（LAD-M）和与GM分布相对应的回归方法。
中位数回归能够提供关于自变量和因变量中间值之间的关系的直观解释，尤其适用于具有非对称数据分布的情况。
2.3 应用场景中位数回归在研究中也有着广泛的应用。
特别适用于异常值较多、数据分布非对称以及因变量的中位数更具实际意义的情况。
分位数回归估计曲线参数
分位数回归估计曲线的参数可以通过以下步骤进行估计：
1.准备数据：首先，需要准备一组包含自变量和因变量的数据。
这些数据可以通
过各种方式收集，例如调查、实验或观察等。
2.定义分位数：接下来，需要确定要估计的分位数。
分位数是指将数据分成多个
相等部分，每个部分包含相同数量的数据点。
常见的分位数包括0.25、0.5和0.75等。
3.计算分位数回归：对于每个分位数，可以计算相应的分位数回归。
分位数回归
是一种回归分析方法，它通过最小化加权残差平方和来估计回归参数。
在这种情况下，加权残差平方和是根据分位数和自变量之间的差异计算的。
4.估计回归参数：通过计算分位数回归，可以估计回归参数。
这些参数包括截距
项和回归系数等。
5.绘制估计曲线：最后，可以使用估计的回归参数来绘制估计曲线。
该曲线可以
用于预测自变量与因变量之间的关系，并评估其对数据的拟合程度。
需要注意的是，分位数回归估计曲线的参数估计过程可能涉及到一些复杂的数学计算和统计技术。
因此，在进行参数估计时，可能需要参考相关的统计学文献或使用专业的统计软件包。
分位数回归
分位数回归原理
假设随机变量的分布函数为：
F(y)=Prob(Yy)
Y的 分位数的定义为：
Q () = in f { y :F ( y ) } ,0 < < 1
回归分析的基本思想就是使样本值与拟合值之间
的距离最短，对于Y的一组随机样本 ，样本均值
回归是使误差平方和最小，即
• 应用软件中给出了一些相应的检验统计量。
第36页，共38页。
5、斜率对称性检验
斜率对称性检验，即检验对于给定的X，Y的分布是否 是对称的。假设我们要检验的分位数回归模型有m个， m是奇数，且中间值τ(m+1)/2是0.5，其他τ都关于0.5对称， 即τj=1−τm-j+1, j=1,…,(m-1)/2。参数估计量按照τk的大小
LT()2(Q ~(1())sQˆ(()))
T()(12Q ˆ()s)()logQ Q ~ˆ((()))
两个统计量都渐近服从自由度为q的卡方分布，其中q
是原假设目标函数中约束条件的个数。
和
~ Q
(分) 别
代表Qˆ 有( )约束的和无约束目标方程的极小值。s(τ)是分位数
密度函数。
第28页，共38页。
似然比检验：
• 似然比
• 命题： H0:gC
• 检验思想：如果约束是无效的，有约束的最大似然函数值 当然不会超过无约束的最大似然函数值，但如果约束条件 “有效”，有约束的最大值应当“接近”无约束的最大值， 这正是似然比检验的基本思路。
•无约似束然模比型：似 然 函LL (( 数ˆ ,,值ˆ 22 ))：
因的作为用越强，，所越以远R*远(τQ)ˆ小(的 ) 于值在，0和R*1(之τ)越间Q~(接，) 近解于释1变，量反 之，越接近于0。所以可用来考察解释变量对被解释 变量第τ分位数回归拟和的好坏。
分位数回归及应用简介
分位数回归及应用简介一、本文概述分位数回归是一种统计学中的回归分析方法，它扩展了传统的均值回归模型，以揭示自变量和因变量之间的非线性关系。
本文将简要介绍分位数回归的基本原理、方法及其在各种领域中的应用。
我们将概述分位数回归的基本概念和数学模型，解释其如何适应不同的数据分布和异质性。
接着，我们将讨论分位数回归的统计性质和估计方法，包括其稳健性、灵活性和有效性。
我们将通过实例展示分位数回归在经济学、医学、环境科学等领域中的实际应用，并探讨其未来的发展前景和挑战。
通过本文的阐述，读者可以对分位数回归有更深入的理解，并了解其在处理复杂数据分析问题中的潜力和价值。
二、分位数回归的基本理论分位数回归（Quantile Regression）是统计学中的一种回归分析方法，它不同于传统的最小二乘法回归，旨在估计因变量的条件分位数与自变量之间的关系。
最小二乘法回归主要关注因变量的条件均值，而分位数回归则能够提供更为全面的信息，包括条件中位数、四分位数等。
分位数回归的基本理论建立在分位数函数的基础上，分位数函数是描述随机变量在某个特定概率水平下的取值。
在分位数回归模型中，自变量通过一组参数β影响因变量Y的条件分位数。
这些参数β是通过最小化因变量的实际值与预测值之间的某种损失函数来估计的。
分位数回归的优点在于，它对于因变量的分布假设较为宽松，不需要满足正态分布或同方差性等假设。
分位数回归对异常值和离群点的影响较小，因此具有较高的稳健性。
这使得分位数回归在处理具有复杂分布和非线性关系的实际问题时表现出色。
分位数回归的估计方法主要有线性规划法、单纯形法和非线性规划法等。
这些方法的选择取决于具体的研究问题和数据特点。
在实际应用中，分位数回归通常与一些机器学习算法相结合，如随机森林、支持向量机等，以提高模型的预测精度和泛化能力。
分位数回归在金融、医学、环境科学等领域有着广泛的应用。
例如，在金融领域，分位数回归可以用于预测股票价格的风险价值（VaR）和预期损失（ES），帮助投资者进行风险管理。
第26章分位数回归
i:y q( yi ) i:y (1 q)( yi )
n n
i i
对 求一阶导数可得
i:y q(1) i:y (1 q) 0
n n
i i
14
假设 y( k ) y( k 1) ，其中 y( k ) 为第 k 个最小观测值，则共有 k 个 观测值满足“ yi ” ， (n k ) 个观测值满足“ yi ” ，故
(n k )q k (1 q ) 0
经整理可得
k nq
ˆ q ，即样本分位数。 k 必须是整数。故最优解 y[ nq ] y
为证明二阶条件满足，只要说明目标函数为凸函数即可。
15
定义函数 q () 为
q yi , 若 yi q ( yi ) (1 q ) y , 若 y i i
n
i i q i i q i q i q
ˆ n q yi xi i: y xˆ (1 q) yi xiˆq q
ˆ q 为样本 q 分位数，上式第二项的分子为 q 分位数回归 其中， y
目标函数的最小值 (sum of weighted deviations about estimated quantiles) ， 而 分 母 为 “ sum of weighted deviations about raw quantiles” 。
7
根据定义，条件分位数函数 yq ( x ) 满足
q P y yq ( x )
(条件分位数的定义) (代入 y x u ) (移项) (代入 u x ) (两边同除以 x 0 ) (累积分布函数的定义)
分位数回归
分位数回归三部分：分位数回归简介分位数回归的应用R程序实践一、分位数回归简介为什么要分位数回归？传统的线性回归描述条件均值受自变量的影响，若随机误差满足经典假设，参数估计将具有无偏性、有效性等优良性质。
但实际生活假设往往不满足，如存在异方差，偏态分布等会使传统线性回归不具有以上性质。
分位数回归1、随机扰动项不做分布的假定，估计具有很强稳健型2、对所有分位数进行回归，这样对异常点具有抗耐性一体两面的，更加精确地描述自变量对因变量变化范围的影响3、分位数回归具有较好的弹性性质4、对于因变量具有单调变换性5、估计参数在大样本下具有渐进优良性为了方便解释清楚分位数回归,先利用一个图形来作简要说明：上图的横坐标表示的是家庭收入，而纵坐标表示的是食物支出。
这个例子稍后会用R实现。
回归分析的基本思想就是使样本值与拟合值之间的距离最短，对于Y的一组随机样本，样本均值回归是使误差平方和最小，即样本中位数回归是使误差绝对值之和最小，即样本分位数回归是使加权误差绝对值之和最小，即现假设因变量Y由k个自变量组成的矩阵某线性表示，对于条件均值函数得到参数其中加权表述方式。
二、分位数回归的应用为检查函数，等价于上述近10多年来,分位数回归的理论和方法在各个领域中都得到了非常迅速的发展：在环境科学方面,典型的有Chock,Winkler和Chen使用非参数分位数回归法研究了匹兹堡这座城市中日死亡率和空气污染集中度的相互关系；在生存分析方面,Koenker和Hallock(2001)研究了诸多因数对于新生儿出体重的影响。
Cole和Green以及Royton和Altman讨论了分位数回归在医学上的应用。
Deaton对于分位数回归在需求分析方面上的应用做了介绍,并分析了巴基斯坦的Engel曲线，等等收入不平等问题是分位数回归的另一个研究方面,Goling、Machin和Meghir研究了英国家庭的收入和财富的分布状况；三、R程序实践1、了解包quantreg：包括文档、代码；文档vignette其他文档有crq、rq文档2、了解线性分位数函数rq（）rq(formula,tau=.5,data,ubet,weight,na.action,method=\method=：此参数指定用于计算分位数回归的算法1、默认为“br”2、参数设置为“fn”3、参数设置为“fnc”介绍返回值：参数tau决定返回值得对象类型不同。
计量经济学第4章 分位数回归模型
2021年5月8日星期六
计量经济学-第4章 分位数回归模型
17
2．拟似然比检验（Quasi-LR Test） 3．分位数过程检验（Quantile Process Testing）
（1）斜率相等检验（Slope Equality Testing） （2）对称检验（Symmetry Testing）
2021年5月8日星期六
计量经济学-第4章 分位数回归模型
20
最小二乘法和分位数回归结果
系数估计结果
ˆ0 ˆ1 ˆ2 ˆ3
R2
OLS
0.28 (5.78)
0.47 （7.22）
0.47 （7.57）
0.027 （1.65）
0.999
Quant20
0.21 (2.78)
0.49 （4.49）
0.44 （4.22）
14
系数协方差的估计
1．独立同分布设定下协方差矩阵的直接估计方法 （1）Siddiqui 差商法 （2）稀疏度的核密度估计量
2．独立但不同分布设定下协方差矩阵的直接估计方法 3．自举法（Bootstrap）
（1）X-Y自举法 （2）残差自举方法 （3）马尔可夫链边际自举法
2021年5月8日星期六
计量经济学-第4章 分位数回归模型
(x1, y1),(x2 , y2 2021年5月8日星期六
计量经济学-第4章 分位数回归模型
9
分位数回归（Quantile Regression）最早由Koenker和Bassett于 1978年提出 ，它提供了回归变量X和因变量Y的分位数之间线性关 系的估计方法。绝大多数的回归模型都关注因变量的条件均值，但 是人们对于因变量条件分布的其他方面的模拟方法也越来越有兴趣， 尤其是能够更加全面地描述因变量的条件分布的分位数回归。利用 分位数回归解决经济学问题的文献越来越多，尤其是在劳动经济学 中取得了广泛应用。如在教育回报和劳动市场歧视等方面都出现了 很好的研究成果。在经济学中的应用研究还包括诸如财富分配不均 问题、失业持续时间问题、食品支出的恩格尔曲线问题、酒精需求 问题和日间用电需求问题等。在金融学领域也涌现出大量使用分位 数回归的应用研究成果，主要应用领域包括风险价值（Value at Risk, VaR）研究和刻画共同基金投资类型的指数模型。
第04章 分位数回归模型
进行估计。
w yt =
i : y i
T
(1 )( yt )
t : y i
( y t )
T
(15.2)
(0, 1)。据此，分位数回归可以通过加权的最小绝对离差和法（weighted least absolute deviation, WLAD）
和刻画共同基金投资类型的指数模型。
2
相对于最小二乘估计，分位数回归模型具有四个方面的 优势： （1）分位数模型特别适合具有异方差性的模型。 （2）对条件分布的刻画更加的细致，能给出条件分布的 大体特征。每个分位点上的回归都赋予条件分布上某个特殊 点（中央或尾部）一些特征；把不同的分位点上的分位数回 归集中起来就能提供一个关于条件分布的更完整的统计特征 描述。并且不同分位点下所给出的参数估计本身也可能有值 得进一步探讨的意义。 （3）分位数回归并不要求很强的分布假设，在扰动项非 正态的情形下，分位数估计量可能比最小二乘估计量更为有 效。 （4）与最小二乘法通过使误差平方和最小得到参数的估 计不同，分位数回归是通过使加权误差绝对值之和最小得到 参数的估计，因此估计量不容易受到异常值的影响，从而估 计更加稳健。
ˆ ˆ ( ) X y ( ) ˆ ( ˆ ˆ 将解释变量矩阵和参数向量都分为两部分，即 X (1, Z ) 和 ( ) 0( ) , 1( ) ) ，且有
ˆ ( ) 0( ) Z 1( ) y
定义：
ˆ Q ( ) min[
t: yt X ( )
利用分位数回归解决经济学问题的文献越来越多，尤其是在劳动
经济学中取得了广泛应用。如在教育回报和劳动市场歧视等方面都出现 了很好的研究成果。在经济学中的应用研究还包括诸如财富分配不均问
分位数回归模型公式
分位数回归模型公式
分位数回归（Quantile Regression）是一种回归分析方法，旨在研
究自变量对因变量不同分位数的影响。
与传统的最小二乘估计方法不同，
分位数回归可以帮助我们了解自变量对于因变量不同分位点的效应。
Q(Y，X) = argminΣ(u_i * w_i * Fρ(u_i)),
其中Q(Y，X)表示因变量Y在给定自变量X下的分位数，u_i是残差项，w_i是一个权重，Fρ(u_i)表示分位数为ρ的累积分布函数。
与最小二乘回归类似，分位数回归也可以通过极大似然估计的方法进
行求解。
通过最小化目标函数，可以得到不同分位数的回归系数。
对于分位数回归的实现，有多种统计软件可以使用，如R、Python等。
在Python中，statsmodels包和scikit-learn包都提供了分位数回归的
实现。
在R中，quantreg包也专门用于实现分位数回归模型。
总之，分位数回归是一种有力的工具，可以帮助我们更全面地理解自
变量对于不同分位数的因变量的影响。
它在社会科学领域和应用实证研究
中具有广泛的应用前景。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
映每个斜率在不同分位点的不同值。
• 5、分位数回归的Stata操作
2017/4/23
东北大学工商管理学院
33
2017/4/23
东北大学工商管理学院
34
予拟合线下数据点的权重是 1-q ,赋予拟合线上数据
点的权重为 q 。对于选择的每个 q ，都会产生不同 的条件分位数拟合函数。
2017/4/23
东北大学工商管理学院
23
4、分位数回归的估计方法与假设检验
对一个样本，估计的分位数回归式越多，对被解释
变量 yt 条件分布的理解就越充分。
以一元回归为例，如果用 LAD(最小绝对离差和 )法 估计的中位数回归直线与用 OLS 法估计的均值回归 直线有显著差别，则表明被解释变量 yt 的分布是非 对称的。
3、损失函数
• 线性损失函数
k1 ( a ), L( , a ) k2 (a ),
a a
• 其中，k1 和 k2 是两个常数，反映
时的损失程度。
在大于 a 和小于 a
• 当 k1 和 k2 相等时，可以得到绝对值形式的损失函数：
L( , a) a
2017/4/23
东北大学工商管理学院
14
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
15
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
16
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
17
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
2017/4/23
东北大学工商管理学院
7
2017/4/23
东北大学工商管理学院
8
1、OLS回归原理与QR估计的提出
• OLS回归的缺点：
• （1）对异常值特别敏感；
• （2）是均值回归，E( y | x) 只是刻画条件分布 y | x
集中趋势的指标，而我们关心 x 对整个条件分布 y |
x 的影响； • （3）假设严格，误差项条件均值为零，且方差独立 同分布，即 y | x 服从渐进正态分布；如果 y | x 不是 对称分布，则 E( y | x) 很难反映条件分布的全貌。
2017/4/23
东北大学工商管理学院
24
4、分位数回归的估计方法与假设检验
• 如果散点图上侧分位数回归直线之间与下侧分位数
回归直线之间相比，上侧比较接近，则说明被解释
变量 yt 的分布是左偏的，反之是右偏的。 • 对于不同分位数回归函数，如果回归系数的差异很 大，说明在不同分位数上解释变量对被解释变量的 影响是不同的。
变量条件均值的变化。
• OLS 回归模型着重考察 x 对 y 的条件期望 E( y | x) 的 影响，实际上是均值回归；
2017/4/23
东北大学工商管理学院
3
1、OLS回归原理与QR估计的提出
• 对于典型的一元回归模型：
y 0 1 x
E( x) E( ) 0 E(y x ) 0 1x
东北大学工商管理学院
12
1、OLS回归原理与QR估计的提出
• 人们也关心解释变量与被解释变量分布的中位数、分 位数呈何种关系。这就是分位数回归，它最早由 Koenker 和Bassett 于 1978 年提出，是估计一组回归变
量 X 与被解释变量 Y 的分位数之间线性关系的建模
方法，强调条件分位数的变化。
分位数回归
主要内容
1、OLS估计原理与QR估计的提出 2、总体分位数及样本分位数 3、损失函数
4、分位数回归的估计方法与假设检验 5、分位数估计的Stata操作
2017/4/23
东北大学工商管理学院
2
1、OLS回归原理与QR估计的提出
• 传统的回归分析主要关注均值，即采用因变量条件 均值的函数来描述自变量每一特定数值下的因变量 均值，从而揭示自变量与因变量的关系。这类回归 模型实际上是研究被解释变量的条件期望 ,描述了因
•
ˆ ( x) Le( x) L y y
• 如果损失的准则是 L(e) e2，那么就是OLS回归，最优预 测值为条件均值 E ( y x)；如果损失准则是绝对误差损失， 那就是中位数回归，最优预测值为条件中位数 med ( y x)。
2017/4/23 东北大学工商管理学院 21
2017/4/23
东北大学工商管理学院
30
1、拟合优度检验
假设分位数回归直线为
ˆ ˆq xi y q
则 q 分位数的加权误差项的拟合值为：
ˆ Q q
而实际的样本 q 分位数的加权误差项为：
Q q
拟和优度准则表达式如下：
R
* q
ˆ Q q = 1 Q
q
2、斜率相等检验
• 斜率相等检验，即检验对于不同的分位点，估计得到的 结构参数（在线性模型中即为斜率）是否相等。 • 原假设被设定为：
2017/4/23
东北大学工商管理学院
25
4、分位数回归的估计方法与假设检验
不可微分，线性规划，单纯形法
2017/4/23 东北大学工商管理学院 26
4、分位数回归的估计方法与假设检验
2017/4/23
东北大学工商管理学院
27
4、分位数回归的估计方法与假设检验
ˆ N ( , A1BA1 ) q q
（外生性）
（球型扰动项）
2017/4/23
东北大学工商管理学院
4
1、OLS回归原理与QR估计的提出
2017/4/23
东北大学工商管理学院
5
1、OLS回归原理与QR估计的提出
y
E( y x) 0 1x
x
2017/4/23
东北大学工商管理学院
6
1、OLS回归原理与QR估计的提出
拟合值和残差
H0 :i (q1 )=i (q2 )=...=i (qm )
i 1,, k
其中 i 指常数项以外的解释变量所对应的(k-1)维参数
列向量。因此，原假设共含有(k-1) (m-1)个约束条件。
构造Wald形式的统计量检验零假设是否成立。 如果接受该假设，说明每个斜率对于不同分位点具有 不变性，此时，应该采用普通最小二乘估计；如果拒 绝该假设，说明模型应该采用分位数回归估计，以反
很难进行估计
协方差矩阵
2017/4/23
使用自助法来求聚类稳健标准误
东北大学工商管理学院 28
4、分位数回归的估计方法与假设检验
2017/4/23
东北大学工商管理学院
29
4、分位数回归的估计方法与假设检验
• 分位数回归估计的检验包括两部分：
• 一是与均值回归类似的检验，例如拟合优度检验、
拟似然比检验和Wald检验等； • 一是分位数回归估计特殊要求的检验，例如斜率相 等检验和斜率对称性检验等。
2017/4/23 东北大学工商管理学院 22
3、损失函数
• 对于之前的 OLS 来说，就是使得残差平方和最小，
即损失函数为平方损失函数，此为最小二乘回归； 而中位数回归的损失函数为绝对值损失函数，则称
为最小一乘回归，使得残差绝对值的和最小；
• 最小一乘回归是分位数回归的特例，在QR中，通过 计算数据点到回归线的加权距离（没有平方），赋
18
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
19
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
20
3、损失函数
• 在统计学中损失函数是一种衡量损失和错误程度的函数
，常记作 L() 。
• 建模的主要目的是在给定 x 时表示求 y 的条件预测值。
ˆ ( x) 表示预测函数，且 e( x) y y ˆ ( x) 表示预测误差。 设 y
2017/4/23 东北大学工商管理学院 9
1、OLS回归原理与QR估计的提出
异方差下的简单回归
2017/4/23
东北大学工商管理学院
10
1、OLS回归原理与QR估计的提出
异方差的一种情形
2017/4/23
东北大学工商管理学院
11
1、OLS回归原理与QR估计的提出
异方差下不同分位数的回归结果
2017/4/23
i 1 ei ） • 分位数回归使用残差绝对值的加权平均（如：
n 2 e 作为最小化的目标函数，而不是像OLS采用 i 1 i 作 n
为目标函数，不易受极端值影响，较为稳健； • 分位数回归还能提供关于条件分布 y | x 的全面信息。
2017/4/23 东北大学工商管理学院 13
1、OLS回归原理与QR估计的提出