第8章：线性约束和预测定稿版(201511.3)
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
暨南大学经济学院统计系 陈文静 32
检验有关k 变量回归模型： Yi 1 2 X 2i 3 X 3i k X k ui 中的一个或多个参数的假设，都可以用上述F 检验法。 例如：H 0 : 2 3 或 或 H 0 : 3 4 5 3 H 0 : 3 4 5 6 0
F 检验法：受约束的最小二乘法 由于原假设为线性等式（H 0 : 2 3 1），故将这种参数的线性 关系可直接代入模型中，而代入后的模型关于参数仍是线性的， 所以可用OLS，约束代入后的模型体现了参数之间的约束，故称 为RLS（相对于无约束的OLS）。 将原假设下的约束条件代入： ln Yi 0 2 ln X 2i 3 ln X 3i ui 得出：
系数的估计值-原假设为真条件下的值 估计量的标准误
案例分析:t检验的应用
比较两年制大专教育和四年制本科教育的回报
暨南大学经济学院统计系
陈文静
16
17
上述案例的约束性检验，可以采用另一种更 为检验的方法进行。
ˆ ˆ )，而是估计一个能直接给出我们所 这种方法不是试图计算se( 1 2 关心的标准误的不同模型，这要容易得多。 将1和 2之差定义为一个新的参数 =1 2 即我们想要检验：H 0： 0 H A： 0 ˆ0 利用 t 进行检验即可。 ˆ se
无约束模型（1）
ln Yi 0 (1 3 ) ln X 2i 3 ln X 3i ui
0 ln X 2i 3 ln X 3i ln X 2i ui
ln Yi ln X 2i 0 3 ln X 3i ln X 2i ui ln(Yi / X 2i ) 0 3 ln( X 3i / X 2i ) ui
9
其它任何参数之间的线性等式之间的约束可按这一方法进行检验。
例题4.2分析
暨南大学经济学院统计系
陈文静
10
eviews估计结果：
暨南大学经济学院统计系
陈文静
11
Stata估计结果
暨南大学经济学院统计系
陈文静
12
估计系数的方差协方差矩阵
暨南大学经济学院统计系
陈文静
13
检验统计量
8
t检验法：首先实现无约束的回归，得到估计量，也即估计： ln Yi 0 2 ln X 2i 3 ln X 3i ui ˆ 和 ˆ ，然后由t检验的思想，可构造（在原假设和正态独 得出
2 3
立假定下）的t统计量（H 0 : 2 3 1）： ˆ ˆ ) ( ) ˆ ˆ ) 1 ( ( 2 3 2 3 2 3 t ˆ ˆ) ˆ ) var( ˆ ) 2cov( ˆ , ˆ) se( var( 2 3 2 3 2 3 若t t，则拒绝原假设，否则不能拒绝原假设。 显然，这一检验方法，是在无约束估计之后进行的。而与之对应 的是，直接将线性约束或原假设代入模型之中，再进行估计，称 为受约束的最小二乘估计（ RLS）。 暨南大学经济学院统计系 陈文静
2 ˆ (n k )
Q2
2
~ 2 (n k )
ˆ - q)[A(XX)1 A]1 (Aβ ˆ - q) J Q1 / J (Aβ F ~ F (J , n k) 2 ˆ Q2 / (n k )
模型参数的约束最小二乘估计
暨南大学经济学院统计系
陈文静
24
2 2 ( RU RR )/m F ~ F (m, n k ) 2 (1 RU ) / (n k )
其中m为约束个数，k 为无约束的模型的参数个数，n为样本长度。 选定显著性水平，若F 值 F (m, n k )，则拒绝原假设。 若F 值 F (m, n k )，则不能拒绝原假设。或者直接用 F 检验统计量对应的p值，p ，则拒绝原假设。
log(price) log(price) ln y 0 u (估计该受约束模型)
H0：1 =1 ，2 =0，3 =0，4 =0，
由上述受约束模型估计得出RSSr(受约束) =1.880 不受约束模型估计得出RSSur(不受约束) =1.822 所以根据： ( RSSr(受约束) RSSur(不受约束) ) / J F RSSur(不受约束) / (n k ) 得出： 1.880 1.822 F （共四个约束条件） 4 =0.661 1.822 / (88 5)
自由度为（4，83）的F分布，在显著性水平5%的水平时 的临界值为2.50，所以不能拒绝原假设。即没有证据拒 绝房价是根据评估价值理性定价的这个假设。
Stata直接操作线性约束检验
暨南大学经济学院统计系
陈文静
39
检验多元回归模型的总显著性：F 检验 一般地, 对于多变量（大于3）模型，即 Yi 1 2 X 2i 3 X 3i k X k ui 检验原假设：H 0 : 2 k 0 H1：非全部斜率系数同时为零 ESS / df ESS / (k 1) 计算：F RSS / df RSS / (n k ) 选定显著性水平，若F 值 F (k 1, n k )，则拒绝原假设。 若F 值 F (k 1, n k )，则不能拒绝原假设。或者直接用 F 检验统计量对应的p值，p ，则拒绝原假设。
暨南大学经济学院统计系
陈文静
6
检验某两个或若干个系数是否相等 对于下述模型： Yi 1 2 X 2i 3 X 3i k X k ui 若要检验： H 0 : 3 4或 3 4 0 H A : 3 4或 3 4 0 按检验显著性即检验 0的思想，在原假设和扰动 为正态假设之下，有： ˆ ˆ ) ( ) ( 4 3 4 t 3 ˆ ˆ ) se( 3 4 ˆ ˆ 3 4 ~ t (n k ) ˆ ) var( ˆ ) 2 cov( ˆ , ˆ ) var( 3 4 3 4 若t t，则拒绝原假设，否则不能拒绝原假设。
暨南大学经济学院统计系
陈文静
18
暨南大学经济学院统计系
陈文静
19
ˆ 0 0.026 0 t = =-1.44 ˆ 0.018 se
p值=0.075，在10%的水平上拒绝原假设。 截距与 exp er变量的系数估计及其标准误都与之前的模型相同。 新变量totcoll的系数与univ的系数估计值和标准误也相同。 这种重写模型使之包含我们所关心参数的做法更易于实施。
暨南大学经济学院统计系
陈文静
25
暨南大学经济学院统计系
陈文静
26
暨南大学经济学院统计系
陈文静
27
暨南大学经济学院统计系
陈文静
28
F
( RSSr(受约束 ) RSSur(不受约束 ) ) / （约束条件的个数） J RSSur(不受约束 ) / ( n k )
29
F
( RSS r(受约束) RSSur(不受约束) ) / J （约束条件的个数） RSS ur(不受约束) / (n k )
7
受约束的最小二乘法：检验线性等式约束条件 上述是检验系数是否相等，这一原假设看作模型参数 之间的约束，可以用上述t统计量来检验这种约束， 更为一般的，出于经济学理论或实证研究的目的，需 检验系数之间的线性约束。 如对于C－D生产函数的对数型 ln Yi 0 2 ln X 2i 3 ln X 3i ui 需检验规模报酬不变的假设： H 0 : 2 3 1 这是模型参数之间的一种线性关系，检验这一类假设即 为检验线性等式约束。更为一般的，下述方法可用于检验 模型的任意几个参数之间的线性等式约束。
先估计大的无约束模型，然后再估计受约束的小模型， ( RSS R RSSU ) / m 从而计算F 值： F ~ F (m, n k ) RSSU / (n k ) 或
2 2 ( RU RR )/m F ~ F (m, n k ) 2 (1 RU ) / (n k )
选定显著性水平，若F 值 F (k 1, n k )，则拒绝原假设。 若F 值 F (k 1, n k )，则不能拒绝原假设。或者直接用 F 检验统计量对应的p值，p ，则拒绝原假设。
33
案例分析：
price : 住房价格， assess : 评估的住房价值（房子售出之前）， lotsize:以英尺为单位的整体尺寸，sqrft：平方英尺数。 bdrms：卧室数。
暨南大学经济学院统计系 陈文静
受约束模型（2）
31
F 检验法：受约束的最小二乘法（续） 对受约束的模型（2）进行OLS即为RLS，由此产生的RSS记为RSSR， 而由对无约束的模型（）的 1 OLS所产生的RSS，记为RSSU，应用F检验， 即有： ( RSS R RSSU ) / m F ~ F (m, n k ) RSSU / (n k ) 或
暨南大学经济学院wk.baidu.com计系
陈文静
34
假设我们想要检验房价是不是根据房屋的评估价值进行 理性定价，即检验1 =1 。一旦控制了评估价值之后，其 他的几个变量都无助于解释房屋的价格，即假设为： H 0：1 =1 ， 2 =0， 3 =0， 4 =0， 这里有四个约束性条件需要检验，用F检验进行。 估计无约束模型，得出RSS ur(不受约束 )。 估计受约束模型，即将约束条件代入得出： log(price)= 0 log(assess) u log(price) log(price) ln y 0 u (估计该受约束模型) 注意：受约束模型和不受约束模型的被解释变量 不同时，不能用 F
RSS TSS ESS TSS (1 ESS TSS ) TSS(1 R 2 )
2 2 2 2 R R TSS(1 R ) TSS(1 R ) J ur r J r ur F 2 TSS(1 Rur ) / ( n k ) (1 Ru2r ) / (n k )
第四章 线性约束和预测
暨南大学经济学院统计学系
陈文静
线性关系的约束性检验
1、对回归系数间线性关系的检验
暨南大学经济学院统计系
陈文静
2
1、对回归系数间线性关系的检验
暨南大学经济学院统计系
陈文静
3
1、对回归系数间线性关系的检验
暨南大学经济学院统计系
陈文静
4
利用方差的性质： 若a是一个n 1非随机向量，则 var(ay ) a var(y)a 0 ˆ ) wVar (β ˆ )w w[ 2 ( XX) 1 ]w 所以Var (wβ ˆ ) 2 ( XX) 1 代入即可 把方差 var(
R
2 ur
Rr2 J
2 ur
(1 R ) / ( n k )
，而只能用
( RSS r(受约束 ) RSS ur(不受约束 ) ) / J RSS ur(不受约束 ) / ( n k )
35
估计无约束模型
暨南大学经济学院统计系
陈文静
36
H0：1 =1 ，2 =0，3 =0，4 =0，
（2）对多个回归系数间的线性关系的检验： F检验
暨南大学经济学院统计系
陈文静
21
暨南大学经济学院统计系
陈文静
22
利用数理统计知识： 如果m维随机变量x服从正态分布N ， ，其中为非退化矩阵（满秩） 则二次型 x 1 x 2 m
ˆ - q)[ 2 A( XX)1 A]1 ( Aβ ˆ - q) ~ 2 ( J ) Q1 ( Aβ 其中，XX为对称矩阵，A为行满秩矩阵， A( XX)1 A为非退化矩阵，为约束条件的个数
检验有关k 变量回归模型： Yi 1 2 X 2i 3 X 3i k X k ui 中的一个或多个参数的假设，都可以用上述F 检验法。 例如：H 0 : 2 3 或 或 H 0 : 3 4 5 3 H 0 : 3 4 5 6 0
F 检验法：受约束的最小二乘法 由于原假设为线性等式（H 0 : 2 3 1），故将这种参数的线性 关系可直接代入模型中，而代入后的模型关于参数仍是线性的， 所以可用OLS，约束代入后的模型体现了参数之间的约束，故称 为RLS（相对于无约束的OLS）。 将原假设下的约束条件代入： ln Yi 0 2 ln X 2i 3 ln X 3i ui 得出：
系数的估计值-原假设为真条件下的值 估计量的标准误
案例分析:t检验的应用
比较两年制大专教育和四年制本科教育的回报
暨南大学经济学院统计系
陈文静
16
17
上述案例的约束性检验，可以采用另一种更 为检验的方法进行。
ˆ ˆ )，而是估计一个能直接给出我们所 这种方法不是试图计算se( 1 2 关心的标准误的不同模型，这要容易得多。 将1和 2之差定义为一个新的参数 =1 2 即我们想要检验：H 0： 0 H A： 0 ˆ0 利用 t 进行检验即可。 ˆ se
无约束模型（1）
ln Yi 0 (1 3 ) ln X 2i 3 ln X 3i ui
0 ln X 2i 3 ln X 3i ln X 2i ui
ln Yi ln X 2i 0 3 ln X 3i ln X 2i ui ln(Yi / X 2i ) 0 3 ln( X 3i / X 2i ) ui
9
其它任何参数之间的线性等式之间的约束可按这一方法进行检验。
例题4.2分析
暨南大学经济学院统计系
陈文静
10
eviews估计结果：
暨南大学经济学院统计系
陈文静
11
Stata估计结果
暨南大学经济学院统计系
陈文静
12
估计系数的方差协方差矩阵
暨南大学经济学院统计系
陈文静
13
检验统计量
8
t检验法：首先实现无约束的回归，得到估计量，也即估计： ln Yi 0 2 ln X 2i 3 ln X 3i ui ˆ 和 ˆ ，然后由t检验的思想，可构造（在原假设和正态独 得出
2 3
立假定下）的t统计量（H 0 : 2 3 1）： ˆ ˆ ) ( ) ˆ ˆ ) 1 ( ( 2 3 2 3 2 3 t ˆ ˆ) ˆ ) var( ˆ ) 2cov( ˆ , ˆ) se( var( 2 3 2 3 2 3 若t t，则拒绝原假设，否则不能拒绝原假设。 显然，这一检验方法，是在无约束估计之后进行的。而与之对应 的是，直接将线性约束或原假设代入模型之中，再进行估计，称 为受约束的最小二乘估计（ RLS）。 暨南大学经济学院统计系 陈文静
2 ˆ (n k )
Q2
2
~ 2 (n k )
ˆ - q)[A(XX)1 A]1 (Aβ ˆ - q) J Q1 / J (Aβ F ~ F (J , n k) 2 ˆ Q2 / (n k )
模型参数的约束最小二乘估计
暨南大学经济学院统计系
陈文静
24
2 2 ( RU RR )/m F ~ F (m, n k ) 2 (1 RU ) / (n k )
其中m为约束个数，k 为无约束的模型的参数个数，n为样本长度。 选定显著性水平，若F 值 F (m, n k )，则拒绝原假设。 若F 值 F (m, n k )，则不能拒绝原假设。或者直接用 F 检验统计量对应的p值，p ，则拒绝原假设。
log(price) log(price) ln y 0 u (估计该受约束模型)
H0：1 =1 ，2 =0，3 =0，4 =0，
由上述受约束模型估计得出RSSr(受约束) =1.880 不受约束模型估计得出RSSur(不受约束) =1.822 所以根据： ( RSSr(受约束) RSSur(不受约束) ) / J F RSSur(不受约束) / (n k ) 得出： 1.880 1.822 F （共四个约束条件） 4 =0.661 1.822 / (88 5)
自由度为（4，83）的F分布，在显著性水平5%的水平时 的临界值为2.50，所以不能拒绝原假设。即没有证据拒 绝房价是根据评估价值理性定价的这个假设。
Stata直接操作线性约束检验
暨南大学经济学院统计系
陈文静
39
检验多元回归模型的总显著性：F 检验 一般地, 对于多变量（大于3）模型，即 Yi 1 2 X 2i 3 X 3i k X k ui 检验原假设：H 0 : 2 k 0 H1：非全部斜率系数同时为零 ESS / df ESS / (k 1) 计算：F RSS / df RSS / (n k ) 选定显著性水平，若F 值 F (k 1, n k )，则拒绝原假设。 若F 值 F (k 1, n k )，则不能拒绝原假设。或者直接用 F 检验统计量对应的p值，p ，则拒绝原假设。
暨南大学经济学院统计系
陈文静
6
检验某两个或若干个系数是否相等 对于下述模型： Yi 1 2 X 2i 3 X 3i k X k ui 若要检验： H 0 : 3 4或 3 4 0 H A : 3 4或 3 4 0 按检验显著性即检验 0的思想，在原假设和扰动 为正态假设之下，有： ˆ ˆ ) ( ) ( 4 3 4 t 3 ˆ ˆ ) se( 3 4 ˆ ˆ 3 4 ~ t (n k ) ˆ ) var( ˆ ) 2 cov( ˆ , ˆ ) var( 3 4 3 4 若t t，则拒绝原假设，否则不能拒绝原假设。
暨南大学经济学院统计系
陈文静
18
暨南大学经济学院统计系
陈文静
19
ˆ 0 0.026 0 t = =-1.44 ˆ 0.018 se
p值=0.075，在10%的水平上拒绝原假设。 截距与 exp er变量的系数估计及其标准误都与之前的模型相同。 新变量totcoll的系数与univ的系数估计值和标准误也相同。 这种重写模型使之包含我们所关心参数的做法更易于实施。
暨南大学经济学院统计系
陈文静
25
暨南大学经济学院统计系
陈文静
26
暨南大学经济学院统计系
陈文静
27
暨南大学经济学院统计系
陈文静
28
F
( RSSr(受约束 ) RSSur(不受约束 ) ) / （约束条件的个数） J RSSur(不受约束 ) / ( n k )
29
F
( RSS r(受约束) RSSur(不受约束) ) / J （约束条件的个数） RSS ur(不受约束) / (n k )
7
受约束的最小二乘法：检验线性等式约束条件 上述是检验系数是否相等，这一原假设看作模型参数 之间的约束，可以用上述t统计量来检验这种约束， 更为一般的，出于经济学理论或实证研究的目的，需 检验系数之间的线性约束。 如对于C－D生产函数的对数型 ln Yi 0 2 ln X 2i 3 ln X 3i ui 需检验规模报酬不变的假设： H 0 : 2 3 1 这是模型参数之间的一种线性关系，检验这一类假设即 为检验线性等式约束。更为一般的，下述方法可用于检验 模型的任意几个参数之间的线性等式约束。
先估计大的无约束模型，然后再估计受约束的小模型， ( RSS R RSSU ) / m 从而计算F 值： F ~ F (m, n k ) RSSU / (n k ) 或
2 2 ( RU RR )/m F ~ F (m, n k ) 2 (1 RU ) / (n k )
选定显著性水平，若F 值 F (k 1, n k )，则拒绝原假设。 若F 值 F (k 1, n k )，则不能拒绝原假设。或者直接用 F 检验统计量对应的p值，p ，则拒绝原假设。
33
案例分析：
price : 住房价格， assess : 评估的住房价值（房子售出之前）， lotsize:以英尺为单位的整体尺寸，sqrft：平方英尺数。 bdrms：卧室数。
暨南大学经济学院统计系 陈文静
受约束模型（2）
31
F 检验法：受约束的最小二乘法（续） 对受约束的模型（2）进行OLS即为RLS，由此产生的RSS记为RSSR， 而由对无约束的模型（）的 1 OLS所产生的RSS，记为RSSU，应用F检验， 即有： ( RSS R RSSU ) / m F ~ F (m, n k ) RSSU / (n k ) 或
暨南大学经济学院wk.baidu.com计系
陈文静
34
假设我们想要检验房价是不是根据房屋的评估价值进行 理性定价，即检验1 =1 。一旦控制了评估价值之后，其 他的几个变量都无助于解释房屋的价格，即假设为： H 0：1 =1 ， 2 =0， 3 =0， 4 =0， 这里有四个约束性条件需要检验，用F检验进行。 估计无约束模型，得出RSS ur(不受约束 )。 估计受约束模型，即将约束条件代入得出： log(price)= 0 log(assess) u log(price) log(price) ln y 0 u (估计该受约束模型) 注意：受约束模型和不受约束模型的被解释变量 不同时，不能用 F
RSS TSS ESS TSS (1 ESS TSS ) TSS(1 R 2 )
2 2 2 2 R R TSS(1 R ) TSS(1 R ) J ur r J r ur F 2 TSS(1 Rur ) / ( n k ) (1 Ru2r ) / (n k )
第四章 线性约束和预测
暨南大学经济学院统计学系
陈文静
线性关系的约束性检验
1、对回归系数间线性关系的检验
暨南大学经济学院统计系
陈文静
2
1、对回归系数间线性关系的检验
暨南大学经济学院统计系
陈文静
3
1、对回归系数间线性关系的检验
暨南大学经济学院统计系
陈文静
4
利用方差的性质： 若a是一个n 1非随机向量，则 var(ay ) a var(y)a 0 ˆ ) wVar (β ˆ )w w[ 2 ( XX) 1 ]w 所以Var (wβ ˆ ) 2 ( XX) 1 代入即可 把方差 var(
R
2 ur
Rr2 J
2 ur
(1 R ) / ( n k )
，而只能用
( RSS r(受约束 ) RSS ur(不受约束 ) ) / J RSS ur(不受约束 ) / ( n k )
35
估计无约束模型
暨南大学经济学院统计系
陈文静
36
H0：1 =1 ，2 =0，3 =0，4 =0，
（2）对多个回归系数间的线性关系的检验： F检验
暨南大学经济学院统计系
陈文静
21
暨南大学经济学院统计系
陈文静
22
利用数理统计知识： 如果m维随机变量x服从正态分布N ， ，其中为非退化矩阵（满秩） 则二次型 x 1 x 2 m
ˆ - q)[ 2 A( XX)1 A]1 ( Aβ ˆ - q) ~ 2 ( J ) Q1 ( Aβ 其中，XX为对称矩阵，A为行满秩矩阵， A( XX)1 A为非退化矩阵，为约束条件的个数