第三章 模型中误差项假定的诸问题汇总

第三章 模型中误差项假定的诸问题

第一节 广义最小二乘法

前面的分析知道，多元线性回归的数学模型可以表示为：

12233t t t k kt t

Y X X X ββββμ=+++⋅⋅⋅++

（t=1,2,3,…,n ）

其中t μ是随机误差项，它代表的是对于t Y 的变化，it X 不能解释的微小变动的全部。用矩阵表示，则上述回归模型可以表示为：

Y X U

β=+

其中，123n Y Y Y Y Y ⎛⎫

⎪ ⎪ ⎪= ⎪ ⎪

⎪

⎝⎭

M ，123k βββββ⎛⎫ ⎪

⎪ ⎪= ⎪

⎪ ⎪⎝⎭M ，2131122

32223111k k n n kn X X X X X X X X X X ⋅⋅⋅⎛⎫ ⎪⋅⋅⋅

⎪

= ⎪ ⎪⋅⋅⋅⎝⎭M M M M ，123n u u U u u ⎛⎫

⎪

⎪ ⎪= ⎪

⎪ ⎪

⎝⎭

M

运用最小二乘准则，我们得到的参数的估计量为：

()1''ˆX X X Y β-=

对于随机误差项t μ，我们所做的假定有三个：零均值、同方差和非自相关。这三个假定的矩阵表述为：

()()()()()1230000

0n E u E u E U E u E u ⎛⎫⎛⎫ ⎪ ⎪ ⎪ ⎪ ⎪

⎪=== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭

M M ，

()()()()()()()()()()()11212122122222'2var cov ,cov ,cov ,var cov ,var cov ,cov ,var 10000

001000000

001000

n n n n n u u u

u n u u u u u u u u u u u U u u u u u I E UU σσσσσ⋅⋅⋅⎛⎫ ⎪⋅⋅⋅ ⎪= ⎪ ⎪ ⎪⋅⋅⋅⎝⎭

⎛⎫⎛⎫

⎪ ⎪

⎪ ⎪

==== ⎪ ⎪ ⎪ ⎪

⎪⎝⎭

⎝

⎭M M M M M M M M M M M 在上述假定条件下，我们得出的参数估计值具有最优线性无偏估计特性。 现实情况的偏离：

1、随机扰动项均值不为零时，通过将随机扰动项与常数项结合，不会对估计产生影响。

2、同方差和非自相关假设不满足时，会对最小二乘估计产生重要影响。

因此，不满足假定条件的分析可以归结为同方差和非自相关的偏离。用矩阵来表示为：

()'

2u

E UU σ=Ω

，其中，Ω为

n 阶正定矩阵。

当正定对称矩阵已知时，可以通过对给出的模型做变换，使得变换后的模型满足标准线性回归模型的条件，进而，运用最小二估计准则，求出满足最优线性无偏估计特性的参数估计量。

假设有模型Y

X U

β=+，其中随机扰动项不满足

同方差和非自相关条件，即有

()'

2u

E UU σ=Ω

因此，不能直接用最小二乘估计准则进行估计。

现在，由于Ω为n 阶对称正定矩阵，故存在可逆矩阵D 使得下述式子成立：

'

DD Ω=

对原有模型Y X U

β=+进行变换，即等式两边同

时左乘矩阵1

D

-有：

111Y X U

D Y D X D U

ββ---=+⇒=+

令：111

,,Y D Y X D X U D U *

**---===。 从而，原有模型Y

X U

β=+转换为：

Y X U β***=+，

新模型中的随机扰动项的协方差矩阵为：

()()()()

()()

()()()()()()()'1111111212112111111'

'''''''''''u u u n

n Var U E U U E D U D U E D UU D D E UU D D D D D I DD D D D DD D D D I σσσ***----------------=====Ω=Ω=⎛⎫Ω=⇒Ω= ⎪ ⎪⇒Ω=⎝⎭

这样，就可以运用最小二乘法进行估计，并得出参数估计值：

()1''ˆX X X Y β*-****=

将111,,Y D Y X D X U D U *

**---===代入得到： ()()()

(

)

()()(

)

()()1

1

'

'

''1

1

1

1

1

'1

1'111

'

1

'1ˆ''X X X Y D X D X D X D Y X D

D X

X D D Y

X X X Y

β*

------****--------====ΩΩ因此，这里我们得出的ˆβ

*

称为参数的广义最小二乘估计量，

很明显，ˆβ

*

具有最优线性无偏估计量特征。

上述在随机扰动项不满足假定条件的情况下，我们仍然能够得到参数的最优线性无偏估计量的关键是，误差项协方差矩阵 Ω已知，进而我们通过变换和处理使其化为满足假定条件的模型。现实情况是误差项协方差矩阵 Ω未知。因此，必须首先对Ω进行讨论。