几种非参数方法的比较分析

Nadaraya-Watson估计（也称赋权估计），估计如下：
m hn(x)
n
n1 Khn(x Xi)Yi
i1 n
n1 Khn(x Xi)
n
i1
Khn(x Xi)
n
n
Y i Wni( x)Yi i1
Khn(x Xi)
i1
i1
其中 Xi可以为一维或多维。核估计是一种非常常用的非参数 估计方法，但是这种方法在使用时需要考虑边界点对其的影
1.非参数模型的一般形式
Yi m(Xi) i,i 1,2, , n （1）
其中 i 是观测误差，{( Xi,Yi)}in1 为样本点，m为一任 意形式的未知实值函数，即m的形式完全未知，当 Xi 为一维或多维时分别称为一维与多维非参数模型。
非参数模型(1)有两种情形，第一种情形称为随机设
【2】许 冰 ,章上峰.经济增长与收入分配不平等的倒U型多拐点测度研究¹[J].数量经 济技术经济研究,2010(2)
【3】李元.状态价格密度的局部多项式估计及其在VaR中的应用[J]. CHINESE JOURNAL OF ENGINEERING MATHEMATICS,2010,(4)
3. 多项式样条估计法
Wni(x) Khn(x Xi) / fhn(x)
n
这里 ， fhn( x) n1 Khn( x Xi), Khn(u) hn1K (U / hn), hn i1
是窗宽，函数 fhn(•) 称为X的密度的Rosenblatt-Parzen核 密度估计；核函数K是一个连续、有界、对称的实值函数且 其积分为1，对于核函数的选择有很多种、像高斯核、三角 核、四次方核等。最优核函数 K(u) 0.75(1u2)I(U 1) 是由 Epanechnikov（1969），Bartlett（1963）提出的，被称 为Epanechnikov核，同时它是一个万能的加权方式，并对 比较核提供一个有用的基准。前苏联的E.A.Nadaraya 和美 国的G。Watson于1964年各自独立发表了一种被称为核函数 估计的统计方法，后来就以Nadaraya-Watson 命名这种非 参数回归的核估计方法 ，广泛记为Nadaraya-Watson估计。
响。
【1】鲁万波1,李竹渝2.股票收益率波动性的非参数核回归估计及对中国股市的实证 分析[J]. 高校应用数学学报A辑,2005,20(1):9-16
【2】李新娜.基于二阶微分的Nadaraya_Watson核估计[J].统计与决策,2014,10
【2】李新娜.中国沪深股市结构性波动的政策性影响因素[J].中国管理科学,2012,20 （6）
几种非参数方法的比较分析
***
• 引言 • 非参数模型的一般形式 • 几种非参数估计方法
核回归估计法 局部多项式估计法 多项式样条估计法 光滑样条估计法 • 几种非参数估计方法的优缺点比较
引言
非参数估计方法是近二十年来现代统计学发展的 一个重要方向，又称分布自由检验，主要是不受 总体分布的限制，不假定总体分布的具体形式， 尽量从数据或样本本身获得所需要的信息，通过 估计而获得分布的结构，并逐步建立对事物的数 学描述和统计模型的方法。
1 hn
K(
Xi x0 ) hn
这里假设权函数为 1 K ( Xi x0) 。最小化上式可
h
hn
得：ˆ ( X WX )1 X WY
,其中 W
。
diag
K
(
Xi hn
(x)的局部多项式估计，当 p=1
时局部多项式估计就变成局部线性估计。
【1】罗爱华.倒U型多拐点社会问题的测度[J]. 统计与决策,2012,(6)
特点：在实际应用中由于不需要预先设定模型的具体形式和 误差分布，可以获得较宽的非线性变化，同时，在抽取样 本对总体进行估计时，不必依赖于样本所从属的总体的分 布形式，可以广泛地应用于不同类型的总体，这对减小偏 差、提高预测精度、了解样本序列的动态结构都是极其有 用的。当总体分布很不规则时，经典的置信区间可能无效 ，即置信区间不是真的有所期望得那么高，即使经典的置 信区间可以合理地认为有效，非参数统计方法也可以提供 一个更精确的置信区间。
X=x0处有 p+1阶导数，由Tayloy展开，对 x0邻域内任一点 x ，
我们有
m(x) m(x0) m(x0)( x x0) m(x0) (x x0)2 m( p) (x0) (x x0) p
2!
p!
若令m( j) (x0) ˆ j!j( j 0,1, , p) ，则局部多项式估计可
2 .局部多项式估计法
局部多项式估计是一个用途很广的非参数技术，系统介绍这
种估计方法、结果可参见 Stone(1977)；Cleveland (1979)；
Fan 和 Gijbeis(1996)。其估计思想如下：由于回归函数的形
式没有被指定，因而距离 x0远的数据点对 m(x0)提供了很少的
信息，因此我们只能使用 x0附近的局部数据点。假设 m(x)在
变量，在许多情形中，{Xi}in1被假定为等分布于区间[a，
b]上，不失一般性，可以假定[a，b]=[0，1]，Xi
1 n
。
无论是随机变量还是非随机变量，他们的估计原理都是
对相邻变量进行平均。
几种非参数估计方法
核回归估计法 局部多项式估计法 多项式样条估计法 光滑样条估计法
1 .核回归估计法
核估计的权函数定义为：
表示为：
m(x) 0 1( Xi x0) 2( Xi x0)2 p( Xi x0)
这里 ( X 1,Y1), , ( Xn,Yn)为( X ,Y ) 的观测样本。局部多项式 估计是要最小目标函数。
局部多项式估计是要最小目标函数：
n
i1
Yi
p j0
j( Xi
x0)
j
2
定模型。随机变量 {( Xi,Yi)}in1 是独立同分布的，此时 回归曲线可以定义为：，如果联合密度 f(x,y)存在，
m(x)可以表示为： 的边际密度。
m(x) yf (x, ，y)dy其中 f (x)
f (x) f (x,是y)dyX
第二种情形称为固定设计模型，模型中 {Xi}in1 是非随机