计量经济学讲义 线性回归模型自相关问题共48页文档
合集下载
计量经济学 线性回归模型概述
Yi f ( X i ) i
• 后者在总体回归函数（方程）的基础上引入 了随机干扰项i，称为总体回归模型。
样本回归函数（教材P27-28）
• 但是，总体的信息往往无法掌握，所以总体回归函数 是未知的。 • 回归分析的任务就在于，利用对总体的n次观测所得 到的一组样本数据，去近似地估计总体回归函数。
被解释变量Y的总体均值（期望值）可以表示为：
E(Y X i ) f ( X i )
–上式说明了被解释变量Y 平均来说随解释变量X 变化的
规律，一般称为总体回归函数（population regression function，PRF）；对应的曲线称为总体回归曲线 （population regression curve），它可以是线性的或非 线性的。
单方程线性回归模型的一般形式
• 总体回归方程
E(Yi X1i ,, X ki ) 0 1 X1i 2 X 2i k X ki
• 总体回归模型 Yi 0 1 X1i 2 X 2i k X ki i • 样本回归方程
ˆ ˆ ˆ ˆ ˆ Yi 0 1 X1i 2 X 2i k X ki
§2.4 一元线性回归分析的应用:预测问题
§2.5 实例及时间序列问题
§2.1
线性回归模型概述
一、回归分析概述 二、线性回归模型的特征 三、线性回归模型的普遍性
四、线性回归模型的基本假设
一、回归分析概述
1.变量间的关系（教材P22）
△ 经济变量之间的关系，大体可分为两类：
• 确定性关系或函数关系：也就是确定性现象之间的 关系。
• 样本回归模型
ˆ ˆ ˆ ˆ Yi 0 1 X1i 2 X 2i k X ki ei
第3章 多元线性回归模型 《计量经济学》PPT课件
于是：
βˆ
ˆ1 ˆ 2
0.7226 0.0003
0.0003 1.35E 07
15674 39648400
01.0737.71072
⃟ 正规方程组 的另一种写法
对于正规方程组 XY XXβˆ
XXβˆ Xe XXβˆ
于是 Xe 0 (*)
或
ei 0
(**)
X jiei 0
i
(*) 或（ ** ）是多元线性回归模型正规方程 组的另一种写法。
第三章 经典单方程计量经济学模型： 多元线性回归模型
• 多元线性回归模型 • 多元线性回归模型的参数估计 • 多元线性回归模型的统计检验 • 多元线性回归模型的预测 • 回归模型的其他形式
§ 3. 1 多元线性回归模型
一、多元线性回归模型 二、多元线性回归模型的基本假定
一、多元线性回归模型
多元线性回归模型 : 表现在线性回归模型 中的解释变量有多个。
的秩 =k+1 ，即 X 满秩。
假设 2. 随机误差项零均值，同方差。
0
0
0
E
(μ
μ
)
E
1
n
1
n
E
12
n 1
1 n
2 n
var(1 ) cov(1, n ) 2 0
2I
cov(
n
,
1
)
var(n )
0
2
i E(i )
βˆ (xx)1 xY
ˆ0 Y ˆ1 X 1 ˆk X k
⃟ 随机误差项的方差的无偏估计
可以证明，随机误差项的方差的无偏 估计量为：
ˆ 2
ei2 n k 1
ee n k 1
第六章 自相关 《计量经济学》PPT课件
[(
1
ˆ
)
1
xt
ut
]2
(1 ˆ1)2 xt2 2(1 ˆ1) xt ut ut2
(6.2.11)
其中 xt ut xt ut (1 ˆ1) xt2
u
2 t
ut ut
ut2
1 n
ut ut
t t
(1
1 n
)
u
2 t
2 n
ut
t t
ut
所以
2 t
(1
ˆ 1 )2
xt2
第六章 自相关 【本章要点】（1）自相关的概念，自相关强度的 量度—自相关系数，了解经济现象中自相关产生 的原因；（2）自相关性对模型参数估计的影响； （3）检验自相关性的主要方法；（4）消除自相 关影响的方法。 §6.1 自相关 一、自相关的概念
如果经典回归的基本假定4遭到破坏，则
COV(ut ,us)=E(ut us)≠0 , t≠s , t,s=1,2, …,n,即u的取值与 它的前一期或前几期的取值相关，则称u存在序列相关 或自相关。 自相关有正自相关和负自相关之分，对随机项的时间 序列u1,u2,…,un,…，当ut > 0时，随后的若干个随机项 ut+1,u t+2,…都有大于0的倾向，当ut < 0时，随后若干个 随机项都有小于0的倾向，我们说u具有正相关性；而 负自相关则意味着两个相继的随机项ut和ut+1具有正负 号相反的倾向。在经济数据中，常见的是正自相关现象。
(4)根据样本容量n，自变量个数和显著水平0.05 (或0.01)从D-W检验临界值表中查出dL和du。 (5)将d 的现实值与临界值进行比较： ①若d < dL，则否定H0，即u存在一阶线性正自相关； ②若d > 4- dL，则否定H0，即u存在一阶线性负自相关； ③若du< d < 4- du，则不否定 H0，即u不存在（一阶）线 性自相关；
第十章 多元线性回归 自相关问题
8
三、序列相关性的发现和判断
（三）游程检验 令N为观察值的总个数，N1表示+号（正的残差）的个数， N2表示-号（负的残差）的个数，k表示游程个数，在残差 是独立的假设下，Swed-Eisenhart给出了游程检验的上下 临界值，如果实际游程个数小于或等于下临界值，或是大 于或等于上临界值，则可以拒绝零假设，说明所观察的序 列是随机的
如形成锯齿形或循环状，可断定残差序列存在相关
e
S
i
a
e S
i
b
e
S
i
c
4
三、序列相关性的发现和判断
分析误差序列相关残差分布图
ei
ei
ei
0
ei1
0
ei1
0
ei1
a
b
c
5
三、序列相关性的发现和判断
例7.1 美国进口支出函数
给出美国1968年到1987年期进口支出与个人可支配收 入（PDI）数据，建立美国支出函数模型，检验残差 序列的自相关性。 绘出残差序列随时间变化的趋势 绘出残差序列与其滞后项
n
ei ei1
DW i2
i2
i2
ei2
2
2
i2
ei2
2 1 ˆ
i
i
12
三、序列相关性的发现和判断
检验误差序列正自相关性 DW检验区域图
一阶自相关 无法判断 无一阶自相关性
无法判断 一阶负自相关
0
d L
d U
DW
2
4 dU 4 dL
4
实例7-3 利用杜宾-瓦尔森检验判断美国抵押债务方程残
E
三、序列相关性的发现和判断
（三）游程检验 令N为观察值的总个数，N1表示+号（正的残差）的个数， N2表示-号（负的残差）的个数，k表示游程个数，在残差 是独立的假设下，Swed-Eisenhart给出了游程检验的上下 临界值，如果实际游程个数小于或等于下临界值，或是大 于或等于上临界值，则可以拒绝零假设，说明所观察的序 列是随机的
如形成锯齿形或循环状，可断定残差序列存在相关
e
S
i
a
e S
i
b
e
S
i
c
4
三、序列相关性的发现和判断
分析误差序列相关残差分布图
ei
ei
ei
0
ei1
0
ei1
0
ei1
a
b
c
5
三、序列相关性的发现和判断
例7.1 美国进口支出函数
给出美国1968年到1987年期进口支出与个人可支配收 入（PDI）数据，建立美国支出函数模型，检验残差 序列的自相关性。 绘出残差序列随时间变化的趋势 绘出残差序列与其滞后项
n
ei ei1
DW i2
i2
i2
ei2
2
2
i2
ei2
2 1 ˆ
i
i
12
三、序列相关性的发现和判断
检验误差序列正自相关性 DW检验区域图
一阶自相关 无法判断 无一阶自相关性
无法判断 一阶负自相关
0
d L
d U
DW
2
4 dU 4 dL
4
实例7-3 利用杜宾-瓦尔森检验判断美国抵押债务方程残
E
经济学西财计量经济学自相关PPT课件
检验结果表明：回归系数的标准误差非常小，t 统
计量较大，说明居民收入 X 对居民储蓄存款 Y 的
影响非常显著。同时可决系数也非常高，F统计量 为4122.531，也表明模型异常的显著。 但此估计结果可能是虚假的，t统计量和F统计量都 被虚假地夸大，因此所得结果是不可信的。为什 么呢?
1
第1页/共76页
则此式称为一阶自回归模式，记为 AR (1) 。因为
模型中
ut
是
-1
ut
滞后一期的值，因此称为一阶。
此式中的 也称为一阶自相关系数。
16
第16页/共76页
如果式中的随机误差项 vt 不是经典误差项，即
其中包含有 ut的成份，如包含有 ut2则需将 vt
显含在回归模型中，其为
ut = 1ut-1 + 2ut-2 + vt
计量是无效的，使得第F3检3页/验共76和页 t检验不再可靠。
33
四、对模型预测的影响
模型预测的精度决定于抽样误差和总体误差项的
方差 2。抽样误差来自于对 ˆ j 的估计，在自相 关情形下，ˆ j 的方差的最小二乘估计变得不可
32
第32页/共76页
一个被低估了的标准误意味着一个较大的t统计
量。因此，当 0 时，通常t统计量都很大。
这种有偏的t统计量不能用来判断回归系数的显
著性。
综上所述，在自相关情形下，无论考虑自相关，
还是忽视自相关，通常的回归系统显著性的t检
验都将是无效的。
类似地,由于自相关的存在,参数的最小二乘估
模型形式设定偏误也会导致自相关现象。如将成 本曲线设定为线性成本曲线，则必定会导致自相 关。由设定偏误产生的自相关是一种虚假自相关， 可通过改变模型设定予以消除。 自相关关系主要存在于时间序列数据中，但是在 横截面数据中，也可能会出现自相关,通常称其为 空间自相关（Spatial auto correlation）。
计量较大，说明居民收入 X 对居民储蓄存款 Y 的
影响非常显著。同时可决系数也非常高，F统计量 为4122.531，也表明模型异常的显著。 但此估计结果可能是虚假的，t统计量和F统计量都 被虚假地夸大，因此所得结果是不可信的。为什 么呢?
1
第1页/共76页
则此式称为一阶自回归模式，记为 AR (1) 。因为
模型中
ut
是
-1
ut
滞后一期的值，因此称为一阶。
此式中的 也称为一阶自相关系数。
16
第16页/共76页
如果式中的随机误差项 vt 不是经典误差项，即
其中包含有 ut的成份，如包含有 ut2则需将 vt
显含在回归模型中，其为
ut = 1ut-1 + 2ut-2 + vt
计量是无效的，使得第F3检3页/验共76和页 t检验不再可靠。
33
四、对模型预测的影响
模型预测的精度决定于抽样误差和总体误差项的
方差 2。抽样误差来自于对 ˆ j 的估计，在自相 关情形下，ˆ j 的方差的最小二乘估计变得不可
32
第32页/共76页
一个被低估了的标准误意味着一个较大的t统计
量。因此，当 0 时，通常t统计量都很大。
这种有偏的t统计量不能用来判断回归系数的显
著性。
综上所述，在自相关情形下，无论考虑自相关，
还是忽视自相关，通常的回归系统显著性的t检
验都将是无效的。
类似地,由于自相关的存在,参数的最小二乘估
模型形式设定偏误也会导致自相关现象。如将成 本曲线设定为线性成本曲线，则必定会导致自相 关。由设定偏误产生的自相关是一种虚假自相关， 可通过改变模型设定予以消除。 自相关关系主要存在于时间序列数据中，但是在 横截面数据中，也可能会出现自相关,通常称其为 空间自相关（Spatial auto correlation）。
计量经济学 第二章 一元线性回归模型
计量经济学第二章一元线性回归模型第二章一元线性回归模型第一节一元线性回归模型及其古典假定第二节参数估计第三节最小二乘估计量的统计特性第四节统计显著性检验第五节预测与控制第一节回归模型的一般描述（1）确定性关系或函数关系：变量之间有唯一确定性的函数关系。
其一般表现形式为：一、回归模型的一般形式变量间的关系经济变量之间的关系，大体可分为两类：（2.1)（2）统计关系或相关关系：变量之间为非确定性依赖关系。
其一般表现形式为：(2.2)例如：函数关系：圆面积S =统计依赖关系/统计相关关系：若x和y之间确有因果关系，则称(2.2)为总体回归模型，x(一个或几个）为自变量（或解释变量或外生变量），y为因变量（或被解释变量或内生变量），u为随机项，是没有包含在模型中的自变量和其他一些随机因素对y的总影响。
一般说来，随机项来自以下几个方面：1、变量的省略。
由于人们认识的局限不能穷尽所有的影响因素或由于受时间、费用、数据质量等制约而没有引入模型之中的对被解释变量有一定影响的自变量。
2、统计误差。
数据搜集中由于计量、计算、记录等导致的登记误差；或由样本信息推断总体信息时产生的代表性误差。
3、模型的设定误差。
如在模型构造时，非线性关系用线性模型描述了；复杂关系用简单模型描述了；此非线性关系用彼非线性模型描述了等等。
4、随机误差。
被解释变量还受一些不可控制的众多的、细小的偶然因素的影响。
若相互依赖的变量间没有因果关系，则称其有相关关系。
对变量间统计关系的分析主要是通过相关分析、方差分析或回归分析(regression analysis)来完成的。
他们各有特点、职责和分析范围。
相关分析和方差分析本身虽然可以独立的进行某些方面的数量分析，但在大多数情况下，则是和回归分析结合在一起，进行综合分析，作为回归分析方法的补充。
回归分析(regression analysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。
计量经济学一元线性回归模型PPT课件
第25页/共162页
习题答案
• （1）收入、年龄、家庭状况、政府的相关政策等也是 影响生育率的重要的因素，在上述简单回归模型中， 它们被包含在了随机扰动项之中。有些因素可能与增 长率水平相关，如收入水平与教育水平往往呈正相关、 年龄大小与教育水平呈负相关等。
• （2）当归结在随机扰动项中的重要影响因素与模型中 的教育水平educ相关时，上述回归模型不能够揭示教 育对生育率在其他条件不变下的影响，因为这时出现 解释变量与随机扰动项相关的情形，基本假设4不满足。
存在原因
一般用希腊字母 或 表示
第一，人类的经济行为本身带有随机性； 第二，通常一个变量总是受众多因素的影响； 第三，任何函数反映经济变量之间的关系都只是一种简化反映； 第四，经济数据来源于调查统计，而非严格的控制实验；
第22页/共162页
二、随机误差项
结论
一个经济变量通常不能被另一个经济变量完全精确地决定，需要 引入随机误差项来反映各种误差的综合影响，主要包括：
i 1
（2-3）
相关系数的取值介于1—1之间， 取值为负表示两变量之间存在负相关关系； 取值为正表示两变量之间存在正相关关系； 取值为1表示两变量之间存在完全负相关关系； 取值为0表示两变量不相关； 取值为1表示两变量之间存在完全正相关关系。
第14页/共162页
例如：
函数关系：
圆面积 f ,半径 半径2
主要内容
得到回归方程； 3）对回归方程中的变量、方程进行显著性检验，推求参数
的置信区间、模型的预测置信区间；
4）利用回归模型解决实际经济问题。
第16页/共162页
4. 相关分析与回归分析之间的关系
联系：
1）都是对存在相关关系的变量的统计相关关系的研究； 2）都能测度线性相关程度的大小； 3）都能判断线性相关关系是正相关还是负相关。
习题答案
• （1）收入、年龄、家庭状况、政府的相关政策等也是 影响生育率的重要的因素，在上述简单回归模型中， 它们被包含在了随机扰动项之中。有些因素可能与增 长率水平相关，如收入水平与教育水平往往呈正相关、 年龄大小与教育水平呈负相关等。
• （2）当归结在随机扰动项中的重要影响因素与模型中 的教育水平educ相关时，上述回归模型不能够揭示教 育对生育率在其他条件不变下的影响，因为这时出现 解释变量与随机扰动项相关的情形，基本假设4不满足。
存在原因
一般用希腊字母 或 表示
第一，人类的经济行为本身带有随机性； 第二，通常一个变量总是受众多因素的影响； 第三，任何函数反映经济变量之间的关系都只是一种简化反映； 第四，经济数据来源于调查统计，而非严格的控制实验；
第22页/共162页
二、随机误差项
结论
一个经济变量通常不能被另一个经济变量完全精确地决定，需要 引入随机误差项来反映各种误差的综合影响，主要包括：
i 1
（2-3）
相关系数的取值介于1—1之间， 取值为负表示两变量之间存在负相关关系； 取值为正表示两变量之间存在正相关关系； 取值为1表示两变量之间存在完全负相关关系； 取值为0表示两变量不相关； 取值为1表示两变量之间存在完全正相关关系。
第14页/共162页
例如：
函数关系：
圆面积 f ,半径 半径2
主要内容
得到回归方程； 3）对回归方程中的变量、方程进行显著性检验，推求参数
的置信区间、模型的预测置信区间；
4）利用回归模型解决实际经济问题。
第16页/共162页
4. 相关分析与回归分析之间的关系
联系：
1）都是对存在相关关系的变量的统计相关关系的研究； 2）都能测度线性相关程度的大小； 3）都能判断线性相关关系是正相关还是负相关。
线性回归模型(计量经济学)
线性回归模型概述
REPORTING
定义与目的
定义
线性回归模型是一种预测模型， 用于描述因变量与一个或多个自 变量之间的线性关系。
目的
基于历史数据，通过建立线性回 归模型，预测因变量的未来趋势 ，并分析自变量对因变量的影响 程度。
线性回归模型的基本假设
线性关系
因变量与自变量之间存在线性关系， 即它们之间的关系可以用一条直线来 近似表示。
优点
能够给出参数的最优解， 具有一致性和无偏性，适 用于多种类型的数据。
工具变量法
原理
工具变量法是一种用于处理内生 性问题的估计方法，通过引入与 内生解释变量相关，但与误差项 无关的工具变量来估计参数。
计算方法
工具变量法通过最小化误差平方 和，同时利用工具变量与内生解 释变量的相关性，求解出最佳拟 合直线的参数。
计的参数不准确。
原因
自变量之间可能存在某种关联 ，或者由于数据收集过程中的 误差导致自变量测量误差。
影响
参数估计值不稳定，可能导致 预测失效。
处理方法
减少自变量数量、使用主成分 分析、逐步回归等方法。
自相关问题
定义
自相关是指时间序列数据中，当前值与过去 值之间的相关性。
影响
模型的估计参数不准确，导致预测误差。
原因
时间序列数据中，同一数据点之间存在某种 关联性。
处理方法
使用差分法、ARIMA模型等方法处理自相 关问题。
异方差性检验与处理
定义
异方差性是指模型残差项的方差不恒定，即方差随预测变量的变化而变化。
原因
模型未正确反映自变量与因变量之间的关系，或者数据存在异常值。
影响
模型的估计参数不准确，导致预测误差。
REPORTING
定义与目的
定义
线性回归模型是一种预测模型， 用于描述因变量与一个或多个自 变量之间的线性关系。
目的
基于历史数据，通过建立线性回 归模型，预测因变量的未来趋势 ，并分析自变量对因变量的影响 程度。
线性回归模型的基本假设
线性关系
因变量与自变量之间存在线性关系， 即它们之间的关系可以用一条直线来 近似表示。
优点
能够给出参数的最优解， 具有一致性和无偏性，适 用于多种类型的数据。
工具变量法
原理
工具变量法是一种用于处理内生 性问题的估计方法，通过引入与 内生解释变量相关，但与误差项 无关的工具变量来估计参数。
计算方法
工具变量法通过最小化误差平方 和，同时利用工具变量与内生解 释变量的相关性，求解出最佳拟 合直线的参数。
计的参数不准确。
原因
自变量之间可能存在某种关联 ，或者由于数据收集过程中的 误差导致自变量测量误差。
影响
参数估计值不稳定，可能导致 预测失效。
处理方法
减少自变量数量、使用主成分 分析、逐步回归等方法。
自相关问题
定义
自相关是指时间序列数据中，当前值与过去 值之间的相关性。
影响
模型的估计参数不准确，导致预测误差。
原因
时间序列数据中，同一数据点之间存在某种 关联性。
处理方法
使用差分法、ARIMA模型等方法处理自相 关问题。
异方差性检验与处理
定义
异方差性是指模型残差项的方差不恒定，即方差随预测变量的变化而变化。
原因
模型未正确反映自变量与因变量之间的关系，或者数据存在异常值。
影响
模型的估计参数不准确，导致预测误差。
完整的计量经济学 计量经济学第五章 线性回归的PPT课件
被忽略的因素对被解释变量的影响，会从 误差项中表现出来，导致误差不再是纯粹 的随的变量关系为
X 若采用变量关系 E () ( 0 0 ) ( 1 1 )X 1 0 (2 2 )X 2 3 X 3
Y 0 1 X 1 2 X 2
Y Y
或
D 1i
0,当 i是男性时 1,当 i是女性时
38
对于截面数据计量分析的例子
对于截面数据计量分析中，观测对象特征差异导致的规律 性扰动，也可以利用虚拟变量加以处理。
如观测对象的性别是一个影响因素，解决的办法就是在模 型中引进虚拟变量，即
D1，D2，D3和D4，
这个虚拟变量就能解决由于观测对象的性别因素所导 致的误差项均值非0问题。
非线性变量关系的残差序列图
e
i
8
（三）问题的处理和非线性回归
1、模型修正和变换 恢复模型的合理非线性形式 然后再变换成线性模型
9
泰勒级数展开法
2、泰勒级数展开法 假设一个非线性的变量关系为：
Y f X 1 , ,X K ;1 P
在 处对 B 0b 1,0 ,b P 0 β1, ,P 作泰勒级数展开：
第五章 线性回归的定式偏差
1
标题添加
点击此处输入相 关文本内容
标题添加
点击此处输入相 关文本内容
总体概述
点击此处输入 相关文本内容
点击此处输入 相关文本内容
2
线性回归的定式偏差
本章讨论变量关系非线性、存在异常值、 规律性扰动和解释变量缺落等导致的线性 回归模型前两条假设不成立的定式偏差， 包括它们对线性回归分析的影响、判断和 处理的方法等。
1 0 2 0
1 1 X 2 1 X
1 2
X 若采用变量关系 E () ( 0 0 ) ( 1 1 )X 1 0 (2 2 )X 2 3 X 3
Y 0 1 X 1 2 X 2
Y Y
或
D 1i
0,当 i是男性时 1,当 i是女性时
38
对于截面数据计量分析的例子
对于截面数据计量分析中，观测对象特征差异导致的规律 性扰动，也可以利用虚拟变量加以处理。
如观测对象的性别是一个影响因素，解决的办法就是在模 型中引进虚拟变量，即
D1，D2，D3和D4，
这个虚拟变量就能解决由于观测对象的性别因素所导 致的误差项均值非0问题。
非线性变量关系的残差序列图
e
i
8
（三）问题的处理和非线性回归
1、模型修正和变换 恢复模型的合理非线性形式 然后再变换成线性模型
9
泰勒级数展开法
2、泰勒级数展开法 假设一个非线性的变量关系为：
Y f X 1 , ,X K ;1 P
在 处对 B 0b 1,0 ,b P 0 β1, ,P 作泰勒级数展开：
第五章 线性回归的定式偏差
1
标题添加
点击此处输入相 关文本内容
标题添加
点击此处输入相 关文本内容
总体概述
点击此处输入 相关文本内容
点击此处输入 相关文本内容
2
线性回归的定式偏差
本章讨论变量关系非线性、存在异常值、 规律性扰动和解释变量缺落等导致的线性 回归模型前两条假设不成立的定式偏差， 包括它们对线性回归分析的影响、判断和 处理的方法等。
1 0 2 0
1 1 X 2 1 X
1 2
计量经济学-第3章(一元线性回归模型)-文档资料
即：
Yi E (Yi X i ) u i
Yi的变化可以分为两部分，一部分是可以由Xi的变化解释 的，另一部分来自随机扰动。Yi向Xi所解释的“平均水平”回 归，这就是“回归”的含义。而斜率系数β 1是指，Xi每变化一 个单位，Yi平均变化β 1个单位。β 0是样本回归直线的截距。
《计量经济学》，王少平、杨继生、欧阳志刚主编
假定2：解释变量是外生变量。 即
Cov(ui , u j ) 0
i j , i, j 1, 2,
,N
《计量经济学》，王少平、杨继生、欧阳志刚主编 （3.1.5）
二、普通最小二乘法（OLS）
基于假定3，我们对模型（3.1.1）取条件期望，则有： E (Yi X i ) 0 1 X i 3.1.6） （
5
第一步 构造含有待估计系数的残差平方和 并对其求最小
N Q ˆ ˆ X )0 2 ( Y i 0 1 i ˆ N N 0 i 1 2 ˆ ˆ X )u ˆ ˆi min Q u ( Y i i 0 1 i ˆ ˆ N , 1 i 1 Q i2 ˆ ˆ X )X 0 (Y i 3.1.70 i （ ） 1 i ˆ i 1 1
N 就是说，如果我们能得到不同于最小 由于最小二乘估计量拥有一个“好” 即样本容量趋于无穷大时，估计量依 二乘估计量的其他线性无偏估计量， 渐近有效性 的估计量所应具备的有限样本性质， 概率收剑于总体的真实值，即： 其方差大于或者等于最小二乘估计量 ˆ) P lim( 它也拥有大样本特性，即渐近无偏性、 i i 的方差。 一致性、渐近有效性。 即样本容量趋于无穷大时，估计量 其中：符号“ Plim”表示概率极限，因
第2部分：线性回归(7)-自相关问题
7
三,发现和判断
(四)杜宾-瓦尔森(D-W)检验(适应于一阶自相 关情况的检验)
DW检验的原理 对线性回归模型 Y = β 0 + β1 X 1 + + β K X K + ε 如果误差项有一阶自回归问题,那么
ε i = ρε i 1 + ε i′
ε 其中的 0 < ρ < 1 , i′是均值为0的独立同分布 随机变量.
1 2
[
]
( ) (A )′ = σ I 对变换过的模型进行最小二乘估计,得参数估 ~~ ~~ 计 B = (X′X) X′Y = (A X)′ (A X) (A X)′ (A Y)
1 1 1 1 1 1
′ Var[~ ] = Var A 1ε = A 1Var[ε ] A 1 = A 1 ε
[
1
′ AA′ A 1 = I
( )
1
=I
(A )′ A
1
1
=
1
17
(五)广义最小二乘法
A 1Y = A 1Xβ + A 1ε
~ ~ 1 ε 记 Y = A Y, X = A 1X, ~ = A 1ε ~ ~ 得到 Y = Xβ + ~ ε
其中误差向量满足
E [~ ] = E A 1ε = A 1 E [ε ] = 0 ε
15
(四)杜宾两步法
从两变量模型的广义差分式 Yi ρYi 1 = β 0 ρβ 0 + β1 X i ρβ1 X i 1 + ε i ρε i 1 整理后可得 Yi = β 0 (1 ρ ) + ρYi 1 + β1 X i ρβ1 X i 1 + ε i′ 接受上述多元线性回归得到的 ρ 估计值 ρ ,利 用广义差分变换, Yi* = Yi ρYi 1 , i* = X i ρX i 1 X 得到 Yi * = A + β1 X i* + ε i 对它进行最小二乘估计,并把估计回归结果计算 的 b0 = A (1 ρ ) 和 b 1 ,作为原模型参数的估计.
三,发现和判断
(四)杜宾-瓦尔森(D-W)检验(适应于一阶自相 关情况的检验)
DW检验的原理 对线性回归模型 Y = β 0 + β1 X 1 + + β K X K + ε 如果误差项有一阶自回归问题,那么
ε i = ρε i 1 + ε i′
ε 其中的 0 < ρ < 1 , i′是均值为0的独立同分布 随机变量.
1 2
[
]
( ) (A )′ = σ I 对变换过的模型进行最小二乘估计,得参数估 ~~ ~~ 计 B = (X′X) X′Y = (A X)′ (A X) (A X)′ (A Y)
1 1 1 1 1 1
′ Var[~ ] = Var A 1ε = A 1Var[ε ] A 1 = A 1 ε
[
1
′ AA′ A 1 = I
( )
1
=I
(A )′ A
1
1
=
1
17
(五)广义最小二乘法
A 1Y = A 1Xβ + A 1ε
~ ~ 1 ε 记 Y = A Y, X = A 1X, ~ = A 1ε ~ ~ 得到 Y = Xβ + ~ ε
其中误差向量满足
E [~ ] = E A 1ε = A 1 E [ε ] = 0 ε
15
(四)杜宾两步法
从两变量模型的广义差分式 Yi ρYi 1 = β 0 ρβ 0 + β1 X i ρβ1 X i 1 + ε i ρε i 1 整理后可得 Yi = β 0 (1 ρ ) + ρYi 1 + β1 X i ρβ1 X i 1 + ε i′ 接受上述多元线性回归得到的 ρ 估计值 ρ ,利 用广义差分变换, Yi* = Yi ρYi 1 , i* = X i ρX i 1 X 得到 Yi * = A + β1 X i* + ε i 对它进行最小二乘估计,并把估计回归结果计算 的 b0 = A (1 ρ ) 和 b 1 ,作为原模型参数的估计.
相关主题