分位数回归-高级计量

东北大学工商管理学院
12
1、OLS回归原理与QR估计的提出
• 人们也关心解释变量与被解释变量分布的中位数、分 位数呈何种关系。这就是分位数回归，它最早由 Koenker 和Bassett 于 1978 年提出，是估计一组回归变
量 X 与被解释变量 Y 的分位数之间线性关系的建模
方法，强调条件分位数的变化。
变量条件均值的变化。
• OLS 回归模型着重考察 x 对 y 的条件期望 E( y | x) 的 影响，实际上是均值回归；
2017/4/23
东北大学工商管理学院
3
1、OLS回归原理与QR估计的提出
• 对于典型的一元回归模型：
y 0 1 x
E( x) E( ) 0 E(y x ) 0 1x
i 1 ei ） • 分位数回归使用残差绝对值的加权平均（如：
n 2 e 作为最小化的目标函数，而不是像OLS采用 i 1 i 作 n
为目标函数，不易受极端值影响，较为稳健； • 分位数回归还能提供关于条件分布 y | x 的全面信息。
2017/4/23 东北大学工商管理学院 13
1、OLS回归原理与QR估计的提出
（外生性）
（球型扰动项）
2017/4/23
东北大学工商管理学院
4
1、OLS回归原理与QR估计的提出
2017/4/23
东北大学工商管理学院
5
1、OLS回归原理与QR估计的提出
y
E( y x) 0 1x
x
2017/4/23
东北大学工商管理学院
6
1、OLS回归原理与QR估计的提出
拟合值和残差
予拟合线下数据点的权重是 1-q ,赋予拟合线上数据
点的权重为 q 。对于选择的每个 q ，都会产生不同 的条件分位数拟合函数。
2017/4/23
东北大学工商管理学院
23
4、分位数回归的估计方法与假设检验
对一个样本，估计的分位数回归式越多，对被解释
变量 yt 条件分布的理解就越充分。
以一元回归为例，如果用 LAD(最小绝对离差和 )法 估计的中位数回归直线与用 OLS 法估计的均值回归 直线有显著差别，则表明被解释变量 yt 的分布是非 对称的。
2017/4/23
东北大学工商管理学院
7
2017/4/23
东北大学工商管理学院
8
1、OLS回归原理与QR估计的提出
• OLS回归的缺点：
• （1）对异常值特别敏感；
• （2）是均值回归，E( y | x) 只是刻画条件分布 y | x
集中趋势的指标，而我们关心 x 对整个条件分布 y |
x 的影响； • （3）假设严格，误差项条件均值为零，且方差独立 同分布，即 y | x 服从渐进正态分布；如果 y | x 不是 对称分布，则 E( y | x) 很难反映条件分布的全貌。
2017/4/23
东北大学工商管理学院
14
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
15
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
16
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
17
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
映每个斜率在不同分位点的不同值。
• 5、分位数回归的Stata操作
2017/4/23
东北大学工商管理学院
33
2017/4/23
东北大学工商管理学院
34
H0 :i (q1 )=i (q2 )=...=i (qm )
i 1,, k
其中 i 指常数项以外的解释变量所对应的(k-1)维参数
列向量。因此，原假设共含有(k-1) (m-1)个约束条件。
构造Wald形式的统计量检验零假设是否成立。 如果接受该假设，说明每个斜率对于不同分位点具有 不变性，此时，应该采用普通最小二乘估计；如果拒 绝该假设，说明模型应该采用分位数回归估计，以反
3、损失函数
• 线性损失函数
k1 ( a ), L( , a ) k2 (a ),
a a
• 其中，k1 和 k2 是两个常数，反映
时的损失程度。
在大于 a 和小于 a
• 当 k1 和 k2 相等时，可以得到绝对值形式的损失函数：
L( , a) a
2017/4/23
东北大学工商管理学院
25
4、分位数回归的估计方法与假设检验
不可微分，线性规划，单纯形法
2017/4/23 东北大学工商管理学院 26
4、分位数回归的估计方法与假设检验
2017/4/23
东北大学工商管理学院
27
4、分位数回归的估计方法与假设检验
ˆ N ( , A1BA1 ) q q
2017/4/23
东北大学工商管理学院
24
4、分位数回归的估计方法与假设检验
• 如果散点图上侧分位数回归直线之间与下侧分位数
回归直线之间相比，上侧比较接近，则说明被解释
变量 yt 的分布是左偏的，反之是右偏的。 • 对于不同分位数回归函数，如果回归系数的差异很 大，说明在不同分位数上解释变量对被解释变量的 影响是不同的。
18
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
19
2、总体分位数与样本分位数
2017/4/23
东北大学工商管理学院
20
3、损失函数
• 在统计学中损失函数是一种衡量损失和错误程度的函数
，常记作 L() 。
• 建模的主要目的是在给定 x 时表示求 y 的条件预测值。
ˆ ( x) 表示预测函数，且 e( x) y y ˆ ( x) 表示预测误差。 设 y
分位数回归
主要内容
1、OLS估计原理与QR估计的提出 2、总体分位数及样本分位数 3、损失函数
4、分位数回归的估计方法与假设检验 5、分位数估计的Stata操作
2017/4/23
东北大学工商管理学院
2
1、OLS回归原理与QR估计的提出
• 传统的回归分析主要关注均值，即采用因变量条件 均值的函数来描述自变量每一特定数值下的因变量 均值，从而揭示自变量与因变量的关系。这类回归 模型实际上是研究被解释变量的条件期望 ,描述了因
很难进行估计
协方差矩阵
2017/4/23
使用自助法来求聚类稳健标准误
东北大学工商管理学院 28
4、分位数回归的估计方法与假设检验
2017/4/23
东北大学工商管理学院
29
4、分位数回归的估计方法与假设检验
• 分位数回归估计的检验包括两部分：
• 一是与均值回归类似的检验，例如拟合优度检验、
拟似然比检验和Wald检验等； • 一是分位数回归估计特殊要求的检验，例如斜率相 等检验和斜率对称性检验等。
2017/4/23
东北大学工商管理学院
30
1、拟合优度检验
假设分位数回归直线为
ˆ ˆq xi y q
则 q 分位数的加权误差项的拟合值为：
ˆ Q q
而实际的样本 q 分位数的加权误差项为：
Q q
拟和优度准则表达式如下：
R
* q
ˆ Q q = 1 Q
q
2、斜率相等检验
• 斜率相等检验，即检验对于不同的分位点，估计得到的 结构参数（在线性模型中即为斜率）是否相等。 • 原假设被设定为：
•
ˆ ( x) Le( x) L y y
• 如果损失的准则是 L(e) e2，那么就是OLS回归，最优预 测值为条件均值 E ( y x)；如果损失准则是绝对误差损失， 那就是中位数回归，最优预测值为条件中位数 med ( y x)。
2017/4/23 东北大学工商管理学院 21
2017/4/23 东北大学工商管理学院 22
3、损失函数
• 对于之前的 OLS 来说，就是使得残差平方和最小，
即损失函数为平方损失函数，此为最小二乘回归； 而中位数回归的损失函数为绝对值损失函数，则称
为最小一乘回归，使得残差绝对值的和最小；
• 最小一乘回归是分位数回归的特例，在QR中，通过 计算数据点到回归线的加权距离（没有平方），赋
2017/4/23 东北大学工商管理学院 9
1、OLS回归原理与QR估计的提出
异方差下的简单回归
2017/4/23
东北大学工商管理学院
10
1、OLS回归原理与QR估计的提出
异方差的一种情形
2017/4பைடு நூலகம்23
东北大学工商管理学院
11
1、OLS回归原理与QR估计的提出
异方差下不同分位数的回归结果
2017/4/23