加权最小二乘法(WLS)
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
一般情况下,对于模型
Y X
若存在:
E( ) 0
2
Cov( , ) E( ) u W
W 1
W 2
W
(4.2.2)
(4.2.3)
W n
则原模型存在 异方差性。设
即随机误差项的方差与解释变量
1 .f (X 2i ) ¥|
.f (X 2i )
1
.f(X 2i )
X 2i
k
X
ki
.f(X 2i )
.f (X 2i ) Ui
i
1,2,
,n
Si)
U i )
-^E(U i 2
) f (X 2i )
(4・即同方差性。于是可以用普通最小二乘法估计其参数, 得到关于参数
0, 1 >
的无偏的、
有效的估计量。这就是加权最小二乘法,在这里权就是 .f(X 2i )
加权最小二乘法(WLS)
如果模型被检验证明存在异方差性, 则需要发展新的方法估计模型, 最常用的方法是加
权最小二乘法。
加权最小二乘法是对原模型加权, 使之变成一个新的不存在异方差性的模型, 然后采用
普通最小二乘法估计其参数。下面先看一个例子。
原模型:y
i
0 1X
1i
2X
2i
,
k X ki
U
i 1,2, ,n
如果在检验过程中已经知道:
D(U i ) E(U i 2
)
i 2
f (X>i ) J
,
i 1,2, ,n
X 2之间存在相关性,模型存在异方差。那么可以用... f(X 2)
去除原模型,使之变成如下形式的
新模型:
在该模型中,存在
W DD T
W i
W n
D 1Y
D 1X
(4.2.4)
Cov(N , N )
E(
*T
)
E(D 1
T
)D
1
:WD 1T
1u 2
DD D
u
2
I
于是,可以用普通最小二乘法估计模型
T *
1
. ?WLS
(X X ) 1X Y
1
E(
i
T
(4.2.4),得到参数估计量为:
* T *
用D 1
左乘(422)两边,得到一个新的模型:
* X
该模型具有同方差性。因为
T 1T
1 1 T 1T 1
(X T
D 1
D 1
X) 1X T
D 1
D "
T 1 1 T 1
(4
25)
(X W X) X W Y
这就是原模型(2.6.2)的加权最小二乘估计量,是无偏的、有效的估计量。
如何得到权矩阵 W ?仍然是对原模型首先采用普通最小二乘法,得到随机误差项的近 似估计量,以此构成权矩阵的估计量,即
2 0
2
W
e2
(4.2.6)
2
e n
当我们应用计量经济学软件包时,只要选择加权最小二乘法,将上述权矩阵输入,估 计过程即告完成。这样,就引出了人们通常采用的经验方法, 即并不对原模型进行异方差性
检验,而是直接选择加权最小二乘法,
尤其是采用截面数据作样本时。
如果确实存在异方差
性,则被有效地消除了;如果不存在异方差性,则加权最小二乘法等价于普通最小二乘法。