用R语言做非参数和半参数回归笔记学习资料

用R语言做非参数和半参数回归笔记

由詹鹏整理，仅供交流和学习

根据南京财经大学统计系孙瑞博副教授的课件修改，在此感谢孙老师的辛勤付出！

教材为：Luke Keele: Semiparametric Regression for the Social Sciences. John Wiley & Sons, Ltd. 2008.

-------------------------------------------------------------------------

第一章 introduction: Global versus Local Statistic

一、主要参考书目及说明

1、Hardle(1994). Applied Nonparametic Regresstion. 较早的经典书

2、Hardle etc (2004). Nonparametric and semiparametric models: an introduction. Springer. 结构清晰

3、Li and Racine(2007). Nonparametric econometrics: Theory and Practice. Princeton. 较全面和深入的介绍，偏难

4、Pagan and Ullah (1999). Nonparametric Econometrics. 经典

5、Yatchew(2003). Semiparametric Regression for the Applied Econometrician. 例子不错

6、高铁梅（2009）. 计量经济分析方法与建模：EVIEWS应用及实例（第二版）. 清华大学出版社. （P127/143）

7、李雪松（2008）. 高级计量经济学. 中国社会科学出版社. （P45 ch3）

8、陈强（2010）. 高级计量经济学及Stata应用. 高教出版社. （ch23/24）

【其他参看原ppt第一章】

二、内容简介

方法：

——移动平均（moving average）

——核光滑（Kernel smoothing）

——K近邻光滑（K-NN）

——局部多项式回归（Local Polynormal）

——Loesss and Lowess

——样条光滑（Smoothing Spline）

——B-spline

——Friedman Supersmoother

模型：

——非参数密度估计

——非参数回归模型

——非参数回归模型

——时间序列的半参数模型

——Panel data 的半参数模型

——Quantile Regression

三、不同的模型形式

1、线性模型linear models

2、Nonlinear in variables

3、Nonlinear in parameters

四、数据转换 Power transformation（对参数方法）

In the GLM framework, models are equally prone(倾向于) to some misspecification （不规范） from an incorrect functional form.

It would be prudent（谨慎的） to test that the effect of any independent variable of a model does not have a nonlinear effect. If it does have a nonlinear effect, analysts in the social science usually rely on Power Transformations to address nonlinearity. [ADD: 检验方法见Sanford Weisberg. Applied Linear Regression (Third Edition). A John Wiley & Sons, Inc., Publication.（本科的应用回归分析课教材）]

----------------------------------------------------------------------------

第二章 Nonparametric Density Estimation

非参数密度估计

一、三种方法

1、直方图 Hiatogram

2、Kernel density estimate

3、K nearest-neighbors estimate

二、Histogram 对直方图的一个数值解释

Suppose x1,…xN – f(x), the density function f(x) is unknown.

One can use the following function to estimate f(x)

【与x的距离小于h的所有点的个数】

三、Kernel density estimate

Bandwidth: h; Window width: 2h.

1、Kernel function的条件

The kernel function K(.) is a continuous function, symmetric(对称的) around zero, that integrates(积分) to unity and satisfies additional bounded conditions:

(1) K() is symmetric around 0 and is continuous;

(2) ,,;

(3) Either

(a) K(z)=0 if |z|>=z0 for z0

Or

(b) |z|K(z) à0 as ;

(4) , where is a constant.

2、主要函数形式