第六章违背基本假设的回归分析

2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
45
§6.2
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
46
§6.2
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
中国人民大学六西格玛质量管理研究中心
§6.2 关于自相关性问题
一、 自相关的背景及其原因
在实际问题的研究中,经常遇到的时间序列出现正的序列相 关的情形。产生序列自相关的背景及其原因通常有以下几 个方面。
1.遗漏关键变量时会产生序列的自相关性。 2.经济变量的滞后性会给序列带来自相关性。 3.采用错误的回归函数形式也可能引起自相关性。 4.蛛网现象(Cobweb phenomenon)可能带来序列的自相 关性。 5.因对数据加工整理而导致误差项之间产生自相关性。
目录 上页 下页 返回 结束
2
§6.1 关于异方差性问题
一、异方差产生的原因 由于实际问题是错综复杂的,因而在建立 具体问题的回归分析模型时,经常会出现 某一因素或一些因素随着解释变量观测 值的变化而对被解释变量产生不同的影 响,导致随机误差项产生不同方差。通过 下面的几个例子,我们可以了解产生异方 差性的背景和原因。
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
5
§6.1 关于异方差性问题
二、异方差性带来的问题
当一个回归问题存在异方差性时,如果仍用普通最小二乘法 估计未知参数,将引起严重后果,特别是最小二乘估计量不再
具有最小方差的优良性,即最小二乘估计的有效性被破坏了。
2017/3/14
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
36
§6.2 关于自相关性问题
二、自相关性带来的问题
当一个线性回归模型的随机误差项存在序列相关时,就违背 了线性回归方程的基本假设,如果仍然直接用普通最小二乘 法估计未知参数,将会产生严重后果,一般情况下序列相关性 会带来下列问题。
第6章 违背基本假设的回归分析
• §6.1 关于异方差性问题
• §6.2 关于自相关性问题 • §6.3 关于多重共线性问题 • §6.4 异常值与强影响值
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
1
第6章 违背基本假设的回归分析
2017/3/14
中国人民大学六西格玛质量管理研究中心
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
28
§6.1
关于异方差性问题
六、 多元加权最小二乘
（1）多元加权最小二乘法
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
29
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
18
§6.1
关于异方差性问题
对一般情况，等级相关系数可以如实反映呈单调趋 势变动的变量间的相关性，而简单相关系数只能反 映呈直线趋势变动的变量间的相关性。
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
25
§6.1
关于异方差性问题
五、寻找最优权函数
利用SPSS软件可以确定（6.6）式幂指数m的最优取值。对例 6.3的数据，依次点选Statistics-Regression-Weight Estimation 进入估计权函数对话框，默认的幂指数m的取值为m=-2.0，1.5，-1.0，-0.5，0，0.5，1.0，1.5，2.0，这一默认值可以更 改。先将因变量y与自变量x选入各自的变量框，再把x选入 Weight变量框，幂指数（Power）取默认值，计算结果如下 （格式略有变动）：
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
6
§6.1 关于异方差性问题
当存在异方差时，普通最小二乘估计存在以下问 题 : (1)参数估计值虽是无偏的,但不是最小方差线性 无偏估计; (2)参数的显著性检验失效; (3)回归方程的应用效果极不理想。
2017/3/14
中国人民大学六西格玛质量管理研究中心
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
3
§6.1 关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
4
§6.1 关于异方差性问题
利用平均数作为样本数据,也容易出现异方差性。因为正态 分布的普遍性,许多经济变量之间的关系遵从正态分布。 引起异方差的原因很多,但样本数据为截面数据时容易出现 异方差性。
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
37
§6.2 关于自相关性问题
1.参数的估计值不再具有最小方差线性无偏性。 2.均方误差MSE可能严重低估误差项的方差。 3.容易导致对t值评价过高,常用的F检验和t检验失效。如果 忽视这一点,可能导致得出回归参数统计检验为显著,但实际 上并不显著的严重错误结论。
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
15
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
16
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
17
§6.1
22
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
23
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
24
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
26
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
27
§6.1
关于异方差性问题
对异方差问题的处理至今没有什么更好的方法， 一些方法的处理效果往往不甚明显，所以此例能 有所改进也就不错了。
§6.2
关于自相关性问题
这里的自相关现象不是指两个或两个以上的变量之间的 相关关系,而指的是一个变量前后期数值之间存在的相 关关系。本节主要讨论自相关现象产生的背景和原因, 自相关现象对回归分析带来的影响,诊断自相关是否存 在的方法,以及如何克服自相关现象带来的影响。
2017/3/14 35
目录 上页 下页 返回 结束
目录 上页 下页 返回 结束
30
§6.1
（2）权函数的确定方法
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
31
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
32
§6.1
关于异方差性问题
41
§6.2
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
42
§6.2
（二）自相关系数法
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
43
§6.2
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
仿照例6.3，用Weight Estimate估计幂指数m，得m的最优 值为m=1.5，部分输出结果为
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
33
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
34
47
§6.2
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
11
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
12
§6.1
关于异方差性问题
例6.3 设某地区一些企业的广告投入与销售收入的横截面样 本数据（单位：万元）如表6.1所示。 (1)用普通最小二乘法建立销售收入y与广告投入x的回归方 程,并画出残差散点图; (2)诊断该问题是否存在异方差;
目录 上页 下页 返回 结束
8
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
9
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
10
§6.1
关于异方差性问题
（二）等级相关系数法
等级相关系数检验法又称斯皮尔曼(Spearman)检验（见参考文 献[5]），是一种应用较广泛的方法。这种检验方法在样本容量 大或小时都可应用。进行等级相关系数检验通常有三个步骤。
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
13
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
14
§6.1
关于异方差性问题
从残差图看出，误差项具有明显的异方差性，误差随着x 的增加而增加。
2017/3/14
目录 上页 下页 返回 结束
44
§6.2
（三）D.W检验
关于自相关性问题
D.W检验是J.Durbin和G.S.Watson于1951年提出的一种适 用于小样本量的一种检验方法。D.W检验验只能用于检验随 机扰动项具有一阶自回归形式的序列相关问题。这种检验 方法是建立计量经济学模型中最常用的方法,一般的计算机 软件都可自动产生出D.W值。
5.如果不加处理地运用普通最小二乘法估计模型参数,用此模 型进行预测和结构分析将会带来较大的方差甚至错误的解释。
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
38
§6.2
三、自相关性的诊断
关于自相关性问题
由于随机扰动项存在序列相关时给普通最小二乘法的应用 带来了非常严重的后果,因此,如何诊断随机扰动项是否存在 序列相关就成为一个极其重要的问题。 （一） 图示检验法
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
39
§6.2
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
40
§6.2
关于自相关性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
目录 上页 下页 返回 结束
7
§6.1
三、异方差性的检验
关于异方差性问题
关于异方差性的检验,统计学家们进行了大量的研究,提出 的诊断方法已有十多种,但没有一个公认的最优方法。本书 介绍残差图分析法与等级相关系数检验法二种常用方法。 （一）残差图分析法
2017/3/14
中国人民大学六西格玛质量管理研究中心
2017/3/ห้องสมุดไป่ตู้4
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
20
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
21
§6.1
关于异方差性问题
2017/3/14
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
目录 上页 下页 返回 结束
19
§6.1
关于异方差性问题
四、加权最小二乘估计
当我们所研究的问题存在异方差性时,线性回归模型的 基本假定就被违反了。此时,就不能用普通最小二乘法 进行参数估计,必须寻求适当的补救方法,对原来的模 型进行变换,使变换后的模型满足同方差性假设,然后 进行模型参数的估计,就可得到较为理想的回归模型。 消除异方差性的方法通常有加权最小二乘法,Box-Cox 变换法,方差稳定化变换法(参见参考文献［6］)。 下面结合例6.3介绍加权最小二乘法。加权最小二乘法 (Weighted Least Square,简记为WLS)是一种最常用的 消除异方差性的方法。