第5章多元回归模型应用
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第5章 多元回归模型的应用
§5.1 §5.2 §5.3 §5.4 §5.5 一般线性模型 虚拟变量的使用 用t检验和F检验对多参数假设进行检验 分段线性回归与变更回归方法 具有随机解释变量的多元回归模型
第5章 多元回归模型的应用
§5.1 一般线性模型 在前面的讨论中,我们是用自变量X2,X3,… Xk 的线性组合来拟合随机变量Y,但实际上真正反映 模型线性特征不是自变量,而是回归模型中参数 β1,β2,… βk的线性表达式. 1,一般线性模型的概念 一般线性模型是指那些通过变量替换可以转化为 参数的线性形式的模型.即如果模型
(R R ) / q = (1 R ) /( N k )
2 UR 2 UR 2 R
R /(k 1) Fk1,Nk = (1 R 2 ) /(N k)
2
第5章 多元回归模型的应用
2,例题 二,关于回归系数线性函数的检验 1,问题的提出 考虑消费函数 C = β1 + β 2 YL + β3YNL + ε 其中YL表示劳动收入,YNL表示非劳动收入.相应的二 元回归模型可记为 Yi = β1 + β 2 X 2 i + β 3 X 3i + ε i β ⑴边际消费倾向等于1的检验: 2 + β3 = 1 有条件模型为 Yi X3i = β1 + β2 (X2i X3i ) + εi
Yi = β1 + β 2 X 2i + L + β k X ki + εi
i = 1,L, N
Yj = α1 + α 2 X 2 j + L + α k X kj + ε j
j = 1,L, M
第5章 多元回归模型的应用
用两个方程的残差平方和之和表示条件平方和,即 TSSUR=TSS1+TSS2;它的自由度是两个回归方程自由 度的和,即N+M-2k.在原假设条件下,模型就合二 为一,即有条件模型为:
3,例题
第5章 多元回归模型的应用
§5.2 虚拟变量的使用
对具有数量标识的事件,可以用变量取对应的数量值 来表示;而对具有定性标识的事件,也可以用取两个 或多个离散值的变量来表示. 1,虚拟变量模型 假设一个公司采用两台机器A,B生产,产出都服从正 态分布,具有不同的均值但方差相同.要对两台机器 产出的均值进行比较:
+ t →t 0 t →t 0
如果数据发生了两次结构性转折,即在t0和t1点发生结 构变化,相应模型为
C t = β 1 + β 2 Y t + β 3 ( Y t Y t 0 ) D t + β 3 ( Y t Y t 1 ) D ′t + ε t
其中
1; 如果 t > t 1 D ′t = 0; 如果 t ≤ t 1
* * 2 * 3 * k
2,常见的一般线性模型
I
Y = β1 + β 2 X + 来自3X + ε2
II
III
logY = α1 + α2 logX2 + α3 logX3 + ε
Y = γ 1X X ε
γ2 2 γ3 3 *
第5章 多元回归模型的应用
V 指数模型 :
VI 倒数模型 :
VII 半对数模型 :
1; 若为机器A生产的 X 2i = 0; 若其它机器生产的 1; 若为机器 B生产的 X 3i = 0; 若其它机器生产的
第5章 多元回归模型的应用
对应的回归方程为 Yi = β1 + β2 X 2i + β3X 3i + εi 其数学期望
β1 + β2 ; X 2i = 1, X 3i = 0 E(Yi ) = β1 + β3 ; X 2i = 0, X 3i = 1 β ; X = 0, X = 0 2i 3i 1
第5章 多元回归模型的应用
对模型IV和V显然有
' β1 = β1 β '2 = β 2 * β1 = β1 + α β* = β 2 + γ 2
3,例题
第5章 多元回归模型的应用
§5.3 用t检验和F检验对多参数假设进行检验 F检验或t检验可以用于以下三个方面: 一,多个回归系数的联合检验 1,有条件模型 1 多元回归模型
Yi = β1 + β2 X 2i + L + βk X ki + εi
Fq , N k
i = 1,L, N + M
适合的检验统计量为
(ESSR ESSUR ) / k = ESSUR /( N + M 2k )
第5章 多元回归模型的应用
§5.4 分段线性回归和变更回归 为了提高计量经济学模型对数据变化的拟合程度,可 以进行分段线性回归,甚至采用样条函数(由曲线段组 成)拟合.这里只讨论分段连续的拟合折线. 1,分段线性回归模型 考虑下面模型:C t = β 1 + β 2 Y t + β 3 ( Y t Y t ) D t + ε t 其中Ct表示消费,Yt表示收入,Yt0表示结构转折发生 年代的收入,以及
VIII 交互模型 :
Y = ε exp( β1 + β 2 X 2 + β 3 X 3 )
1 Y= β1 + β 2 X 2 + β 3 X 3 + ε
Y = β1 + β 2 log X 2 + ε
Y = β1 + β 2X 2 + β 3X 3 + β 4 X 2X 3 + ε
但 IV
γ γ Y = γ 1 X 2 2 X 3 3 + ε *就不是一般线性模型
通过该模型,可以检验机器A或B的均值与机器C 有无差异: 即检验 β 2 = 0 和 β 3 = 0
第5章 多元回归模型的应用
如果要检验机器A,B的差异,就必须改变回归方 程,使 α1 + α 2 + α 3 ; X 2i = 1, X 3i = 0 E(Yi ) = α1 + α 3 ; X 2i = 0, X 3i = 1 α1 ; X 2i = 0, X 3i = 0 对应的回归方程为 Yi = α1 + α 2 X 2i + α 3 (X 2i + X 3i ) + εi 通过该模型,可以检验机器A与B的均值有无差异.
�
Y = β1 + β2 X 2 + L + βk X k + ε
现在要检验其中q个回归系数同时为0.不妨设后面q 个回归系数为0,模型相应地表示为:
Y = β1 + β 2 X 2 + L + β k q X k q + ε
第5章 多元回归模型的应用
该模型是在 βk q +1 = βk q + 2 = L = βk = 0 条件下的有条件 模型,原来的回归模型就称为无条件模型. 一般情况下,由于无条件模型比有条件模型拥有更多的 解释变量,无条件模型的残差ESSUR比有条件模型的残 差ESSR会更小一些,即ESSUR≤ESSR.如果q个回归系 数为0的这一原假设正确的话,两模型的残差应该变化 不大,适合检验的F分布统计量为
第5章 多元回归模型的应用
β ⑵两类收入边际消费倾向相等的检验: 2 = β3 有条件模型为 Yi = β1 + β 2 ( X 2i + X 3i ) + ε i 2,检验统计量 对于上述两个参数线性关系的检验,若原假设成立, 有条件模型的残差与无条件模型的残差应该相当接近, 适合的检验统计量为 2 2
Fq , N k
(R UR R R ) / q = (1 R 2 ) /( N k ) UR
其中q=1.对模型适当变形,还可用t分布进行检验.
第5章 多元回归模型的应用
三,有关不同回归模型系数相等的检验 1,chow检验 为了检验关于两个模型不同的假设是正确的,可以从 它们完全相同的原假设入手,看能否拒绝这个假设, 这种检验方法称为chow检验.(邹至庄,普林斯顿) 2,检验统计量 对模型
即检验 α 2 = 0
第5章 多元回归模型的应用
2,混合变量模型 考虑下面的总消费函数Ct.可用五种模型来反映 在和平时期以及战争时期总的可支配收入Yt与总 消费的关系:
I 无差异 : C t = β1 + β 2 Yt + ε t II 仅截距差异 : C t = β1 + β 2 Yt + α D t + ε t III 仅斜率差异 : C t = β1 + β 2 Yt + γ ( D t Yt ) + ε t IV 斜率截距差异: C t = β1 + β2 Yt + αD t + γ (D t Yt ) + ε t ' β1 + β'2 Yt + ε 't ; 和平时代 V 还有方差不同: C t = * * * β1 + β 2 Yt + ε t ;战争时代
I II
Yi = β1 + εi Yi = β1 + β2 + εi
第5章 多元回归模型的应用
其中两者的差异部分是参数 β2 .通过如下对变量X1的定 义: 1; 若为机器 A生产的 Xi = 0; 若为机器 B生产的 可以把上面两个方程合并为:
Yi = β1 + β 2 X i + εi
这里的X1称为虚拟变量.对三台机器A,B,C生产,可 以用两个虚拟变量:
Y = F(X 2 , X 3 ,L , X k , ε)
第5章 多元回归模型的应用
可以转化为
f (Y) = β1 + β2g2 (X2 ,LXk ) + β3g3 (X2 ,LXk ) +L+ βkgk (X2 ,LXk ) + ε
通过变量替换就有
Y = β1 +β2X +β3X +L+βkX + ε
0
1; 如果t > t 0 Dt = 0; 如果t ≤ t 0
第5章 多元回归模型的应用
该模型的回归项E(Ct)在结构转折点t0是连续的.因为
β1 + β 2 Yt + β3 (Yt Yt 0 ) t > t 0 E(C t ) = β1 + β 2 Yt + β3 (Yt Yt 0 )D t = β1 + β 2 Yt t ≤ t0 E(C t ) = β1 + β 2 Yt 0 + β3 (Yt 0 Yt 0 ) = β1 + β 2 Yt 0 = E(C t 0 ) = E(C t )
Fq , N k
(ESSR ESSUR ) / q = ESSUR /( N k )
第5章 多元回归模型的应用
由于两模型因变量Y的观测值一致,总体差方和相同即 TSSUR=TSSR=TSS,因而统计量又可用R2表示为
Fq , N k
如果 β2 = β3 = L = β k = 0 ,有条件模型就是因变量Y关 β 于 β1 的回归,1 最小二乘估计就是 Y ,因此回归差方和 为0,即 R 2 = 0,同时R 2 就是原来R 2. 统计量变为 R UR
第5章 多元回归模型的应用
2,变更回归方法 如果不要求回归项E(Ct)连续,可以采用变更回 归模型:
C t = β1 + β 2 Yt + β 3 D t + β 4 D t Yt + ε t
1; 如果t > t 0 其中D t = 0; 如果t ≤ t 0
第5章 多元回归模型的应用
§5.5 具有随机解释变量的多元回归模型 我们在前面的多元回归模型中一直假设自变 量(解释变量)不是随机的,实际上在大多情 况下自变量的取值可以是随机的. 只要假设:⑴每一个解释变量的分布与回归 参数的真值是独立的;⑵每一个解释变量的 分布与模型的误差项是独立的. 就能够保证我们前面讲过的大多数结论仍然 有效.
§5.1 §5.2 §5.3 §5.4 §5.5 一般线性模型 虚拟变量的使用 用t检验和F检验对多参数假设进行检验 分段线性回归与变更回归方法 具有随机解释变量的多元回归模型
第5章 多元回归模型的应用
§5.1 一般线性模型 在前面的讨论中,我们是用自变量X2,X3,… Xk 的线性组合来拟合随机变量Y,但实际上真正反映 模型线性特征不是自变量,而是回归模型中参数 β1,β2,… βk的线性表达式. 1,一般线性模型的概念 一般线性模型是指那些通过变量替换可以转化为 参数的线性形式的模型.即如果模型
(R R ) / q = (1 R ) /( N k )
2 UR 2 UR 2 R
R /(k 1) Fk1,Nk = (1 R 2 ) /(N k)
2
第5章 多元回归模型的应用
2,例题 二,关于回归系数线性函数的检验 1,问题的提出 考虑消费函数 C = β1 + β 2 YL + β3YNL + ε 其中YL表示劳动收入,YNL表示非劳动收入.相应的二 元回归模型可记为 Yi = β1 + β 2 X 2 i + β 3 X 3i + ε i β ⑴边际消费倾向等于1的检验: 2 + β3 = 1 有条件模型为 Yi X3i = β1 + β2 (X2i X3i ) + εi
Yi = β1 + β 2 X 2i + L + β k X ki + εi
i = 1,L, N
Yj = α1 + α 2 X 2 j + L + α k X kj + ε j
j = 1,L, M
第5章 多元回归模型的应用
用两个方程的残差平方和之和表示条件平方和,即 TSSUR=TSS1+TSS2;它的自由度是两个回归方程自由 度的和,即N+M-2k.在原假设条件下,模型就合二 为一,即有条件模型为:
3,例题
第5章 多元回归模型的应用
§5.2 虚拟变量的使用
对具有数量标识的事件,可以用变量取对应的数量值 来表示;而对具有定性标识的事件,也可以用取两个 或多个离散值的变量来表示. 1,虚拟变量模型 假设一个公司采用两台机器A,B生产,产出都服从正 态分布,具有不同的均值但方差相同.要对两台机器 产出的均值进行比较:
+ t →t 0 t →t 0
如果数据发生了两次结构性转折,即在t0和t1点发生结 构变化,相应模型为
C t = β 1 + β 2 Y t + β 3 ( Y t Y t 0 ) D t + β 3 ( Y t Y t 1 ) D ′t + ε t
其中
1; 如果 t > t 1 D ′t = 0; 如果 t ≤ t 1
* * 2 * 3 * k
2,常见的一般线性模型
I
Y = β1 + β 2 X + 来自3X + ε2
II
III
logY = α1 + α2 logX2 + α3 logX3 + ε
Y = γ 1X X ε
γ2 2 γ3 3 *
第5章 多元回归模型的应用
V 指数模型 :
VI 倒数模型 :
VII 半对数模型 :
1; 若为机器A生产的 X 2i = 0; 若其它机器生产的 1; 若为机器 B生产的 X 3i = 0; 若其它机器生产的
第5章 多元回归模型的应用
对应的回归方程为 Yi = β1 + β2 X 2i + β3X 3i + εi 其数学期望
β1 + β2 ; X 2i = 1, X 3i = 0 E(Yi ) = β1 + β3 ; X 2i = 0, X 3i = 1 β ; X = 0, X = 0 2i 3i 1
第5章 多元回归模型的应用
对模型IV和V显然有
' β1 = β1 β '2 = β 2 * β1 = β1 + α β* = β 2 + γ 2
3,例题
第5章 多元回归模型的应用
§5.3 用t检验和F检验对多参数假设进行检验 F检验或t检验可以用于以下三个方面: 一,多个回归系数的联合检验 1,有条件模型 1 多元回归模型
Yi = β1 + β2 X 2i + L + βk X ki + εi
Fq , N k
i = 1,L, N + M
适合的检验统计量为
(ESSR ESSUR ) / k = ESSUR /( N + M 2k )
第5章 多元回归模型的应用
§5.4 分段线性回归和变更回归 为了提高计量经济学模型对数据变化的拟合程度,可 以进行分段线性回归,甚至采用样条函数(由曲线段组 成)拟合.这里只讨论分段连续的拟合折线. 1,分段线性回归模型 考虑下面模型:C t = β 1 + β 2 Y t + β 3 ( Y t Y t ) D t + ε t 其中Ct表示消费,Yt表示收入,Yt0表示结构转折发生 年代的收入,以及
VIII 交互模型 :
Y = ε exp( β1 + β 2 X 2 + β 3 X 3 )
1 Y= β1 + β 2 X 2 + β 3 X 3 + ε
Y = β1 + β 2 log X 2 + ε
Y = β1 + β 2X 2 + β 3X 3 + β 4 X 2X 3 + ε
但 IV
γ γ Y = γ 1 X 2 2 X 3 3 + ε *就不是一般线性模型
通过该模型,可以检验机器A或B的均值与机器C 有无差异: 即检验 β 2 = 0 和 β 3 = 0
第5章 多元回归模型的应用
如果要检验机器A,B的差异,就必须改变回归方 程,使 α1 + α 2 + α 3 ; X 2i = 1, X 3i = 0 E(Yi ) = α1 + α 3 ; X 2i = 0, X 3i = 1 α1 ; X 2i = 0, X 3i = 0 对应的回归方程为 Yi = α1 + α 2 X 2i + α 3 (X 2i + X 3i ) + εi 通过该模型,可以检验机器A与B的均值有无差异.
�
Y = β1 + β2 X 2 + L + βk X k + ε
现在要检验其中q个回归系数同时为0.不妨设后面q 个回归系数为0,模型相应地表示为:
Y = β1 + β 2 X 2 + L + β k q X k q + ε
第5章 多元回归模型的应用
该模型是在 βk q +1 = βk q + 2 = L = βk = 0 条件下的有条件 模型,原来的回归模型就称为无条件模型. 一般情况下,由于无条件模型比有条件模型拥有更多的 解释变量,无条件模型的残差ESSUR比有条件模型的残 差ESSR会更小一些,即ESSUR≤ESSR.如果q个回归系 数为0的这一原假设正确的话,两模型的残差应该变化 不大,适合检验的F分布统计量为
第5章 多元回归模型的应用
β ⑵两类收入边际消费倾向相等的检验: 2 = β3 有条件模型为 Yi = β1 + β 2 ( X 2i + X 3i ) + ε i 2,检验统计量 对于上述两个参数线性关系的检验,若原假设成立, 有条件模型的残差与无条件模型的残差应该相当接近, 适合的检验统计量为 2 2
Fq , N k
(R UR R R ) / q = (1 R 2 ) /( N k ) UR
其中q=1.对模型适当变形,还可用t分布进行检验.
第5章 多元回归模型的应用
三,有关不同回归模型系数相等的检验 1,chow检验 为了检验关于两个模型不同的假设是正确的,可以从 它们完全相同的原假设入手,看能否拒绝这个假设, 这种检验方法称为chow检验.(邹至庄,普林斯顿) 2,检验统计量 对模型
即检验 α 2 = 0
第5章 多元回归模型的应用
2,混合变量模型 考虑下面的总消费函数Ct.可用五种模型来反映 在和平时期以及战争时期总的可支配收入Yt与总 消费的关系:
I 无差异 : C t = β1 + β 2 Yt + ε t II 仅截距差异 : C t = β1 + β 2 Yt + α D t + ε t III 仅斜率差异 : C t = β1 + β 2 Yt + γ ( D t Yt ) + ε t IV 斜率截距差异: C t = β1 + β2 Yt + αD t + γ (D t Yt ) + ε t ' β1 + β'2 Yt + ε 't ; 和平时代 V 还有方差不同: C t = * * * β1 + β 2 Yt + ε t ;战争时代
I II
Yi = β1 + εi Yi = β1 + β2 + εi
第5章 多元回归模型的应用
其中两者的差异部分是参数 β2 .通过如下对变量X1的定 义: 1; 若为机器 A生产的 Xi = 0; 若为机器 B生产的 可以把上面两个方程合并为:
Yi = β1 + β 2 X i + εi
这里的X1称为虚拟变量.对三台机器A,B,C生产,可 以用两个虚拟变量:
Y = F(X 2 , X 3 ,L , X k , ε)
第5章 多元回归模型的应用
可以转化为
f (Y) = β1 + β2g2 (X2 ,LXk ) + β3g3 (X2 ,LXk ) +L+ βkgk (X2 ,LXk ) + ε
通过变量替换就有
Y = β1 +β2X +β3X +L+βkX + ε
0
1; 如果t > t 0 Dt = 0; 如果t ≤ t 0
第5章 多元回归模型的应用
该模型的回归项E(Ct)在结构转折点t0是连续的.因为
β1 + β 2 Yt + β3 (Yt Yt 0 ) t > t 0 E(C t ) = β1 + β 2 Yt + β3 (Yt Yt 0 )D t = β1 + β 2 Yt t ≤ t0 E(C t ) = β1 + β 2 Yt 0 + β3 (Yt 0 Yt 0 ) = β1 + β 2 Yt 0 = E(C t 0 ) = E(C t )
Fq , N k
(ESSR ESSUR ) / q = ESSUR /( N k )
第5章 多元回归模型的应用
由于两模型因变量Y的观测值一致,总体差方和相同即 TSSUR=TSSR=TSS,因而统计量又可用R2表示为
Fq , N k
如果 β2 = β3 = L = β k = 0 ,有条件模型就是因变量Y关 β 于 β1 的回归,1 最小二乘估计就是 Y ,因此回归差方和 为0,即 R 2 = 0,同时R 2 就是原来R 2. 统计量变为 R UR
第5章 多元回归模型的应用
2,变更回归方法 如果不要求回归项E(Ct)连续,可以采用变更回 归模型:
C t = β1 + β 2 Yt + β 3 D t + β 4 D t Yt + ε t
1; 如果t > t 0 其中D t = 0; 如果t ≤ t 0
第5章 多元回归模型的应用
§5.5 具有随机解释变量的多元回归模型 我们在前面的多元回归模型中一直假设自变 量(解释变量)不是随机的,实际上在大多情 况下自变量的取值可以是随机的. 只要假设:⑴每一个解释变量的分布与回归 参数的真值是独立的;⑵每一个解释变量的 分布与模型的误差项是独立的. 就能够保证我们前面讲过的大多数结论仍然 有效.