多元线性回归模型的各种检验方法-7页文档资料

对多元线性回归模型的各种检验方法

对于形如

u X X X Y k k +++++=ββββΛΛ22110 （1）

的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：

一、 对单个总体参数的假设检验：t 检验

在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具

有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。特别是，当j a =0时，称为参

数的（狭义意义上的）显著性检验。如果拒绝

0H ，说明解释变量j X 对被解释变量Y

具有显著的线性

影响，估计值j βˆ才敢使用；反之，说明解释变量

j X 对被解释变量Y 不具有显著的线性影响，估计值j

βˆ对我们就没有意义。具体检验方法如下：

（1） 给定虚拟假设 0H ：j j a =β；

（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆj j j j j j Se a Se E t βββββ-=

-= 的数值；

（3） 在给定的显著水平α

下（

α

不能大于

1.0即

10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；

（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。

t

检验方法的关键是统计量

)ˆ(ˆj

j j Se t βββ-=

必须服从已知的

t 分布函数。什么情况或条件下才会这

样呢？这需要我们建立的模型满足如下的条件（或假定）：

（1） 随机抽样性。我们有一个含n 次观测的随

机样

(){}n i Y X X X i ik i i ,,2,1:,,,,21ΛΛ=。这保证了误差u

自身的随机性，即无自相关性，

0))())(((=--j j i i u E u u E u Cov 。

（2） 条件期望值为0。给定解释变量的任何值，误差

u

的期望值为零。即有

这也保证了误差u 独立于解释变量

X

X X ,,,21Λ，即模型中的解释变量是外生性的，也使得

0)(=u E 。

(3） 不存在完全共线性。在样本因而在总体中，没有一个解释变量是常数，解释变量之间也不存在严格的线性关系。

（4） 同方差性。常数==2

21),,,(σk X X X u Var Λ。

（5） 正态性。误差u 满足 ),0(~2

σNormal u 。

在以上5个前提下，才可以推导出：

由此可见，

t

检验方法所要求的条件是极为苛刻的。

二、 对参数的一个线性组合的假设的检验

需要检验的虚拟假设为 0H ：21j j ββ=。比如21ββ=无

法直接检验。设立新参数

211ββθ-=。

原虚拟假设等价于

0H ：01=θ。将211βθβ+=代入原模型后得出新模型：

u

X X X X Y k k ++++++=ββθβΛΛ)(212110 （2）

在模型（2）中再利用

t 检验方法检验虚拟假设0

H ：01=θ。

我们甚至还可以检验这样一个更一般的假设

t 统计量为

三、 对参数多个线性约束的假设检验：F 检验 需要检验的虚拟假设为 0H ：

该假设对模型（1）施加了

q 个排除性约束。模型（1）在该约束下转变为如下的新模型：

u

X X X Y q k q k +++++=--ββββΛΛ22110 （3）

模型（1）称为不受约束（ur ）的模型，而模型（3）称为受约束（r ）的模型。模型（3）也称为模型（1）的嵌套模型，或子模型。分别用OLS 方法估计模型（1）和（2）后，可以计算出如下的统计量：

关键在于，不需要满足t 检验所需要的假定（3），统计量F 就满足：1,

~--k n q F F 。利用已知的F

分布函数，我们就可以拒绝或接受虚拟假设 0H ：0,,,021

==+-+-k q k q k βββΛ了。所以，一般来讲，

F 检验比t 检验更先使用，用的更普遍，可信度更高。利用关系式

)1(2

r

r R TSS RSS -=，

)1(2ur

ur R TSS RSS -=，F 统计量还可以写成：

四、 对回归模型整体显著性的检验：F 检验

需要检验的虚拟假设为

0H ：0,,,021==k βββΛ。相当于前一个检验问题的特例，

k q =。嵌套模型变为 u

Y

+=0β。02=r

R ，TSS RSS r

=，2

2R R ur =。F 统计

量变为：

五、 检验一般的线性约束

需要检验的虚拟假设比如为 0H ：

0,,,121==k βββΛ。受约束模型变为：

再变形为：u

X Y +=-01β。F 统计量只可用：

其中，

六、 检验两个数据集的回归参数是否相等：皱（至庄）检验 虚拟假定是总体回归系数的真值相等。步骤如下： （1） 基于两组样本数据，进行相同设定的回归，将二 者的RSS 分别记为1RSS 和2RSS 。

（2） 将两组样本数据合并，基于合并的样本数据，进行相同设定的回归，将回归的RSS 记为

T RSS 。

（3） 计算下面的F 统计量：

（4） 如果

αF F ≥，拒绝原假定。

七、 非正态假定下多个线性约束的大样本假设检验：LM （拉格郎日乘数）检验

F 检验方法需要模型（1）中的

u

满足正态性假定。

在不满足正态性假定时，在大样本条件下，可以使用LM 统计量。虚拟假设依然是

H ：

0,,,021==+-+-k q k q k βββΛ。LM 统计量仅要求对受约束模型的估计。具体步骤如下：

（ⅰ）将Y 对施加限制后的解释变量进行回归，并保留残差u ~

。即我们要进行了如下的回归估计