计量经济学第三版-潘省初-第4章
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第四章 多元线性回归模型
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt
β 0
β1 X1t
β 2
X
2t
... βk X kt
ut
t=1,2,…,n
在这个模型中，Y由X1、X2、X3、… XK所解释， 有K+1个未知参数β0、β1、β2、…βK 。
11
二．最小二乘估计
我们的模型是：
Yt 0 1X1t 2 X 2t ... k X kt ut
t=1,2,…n
问题是选择 ˆ0 , ˆ1,...., ˆk ，使得残差平方和最小。
残差为：
et Yt Yˆt
Yt ˆ0 ˆ1 X1t .... ˆK X Kt
12
要使残差平方和
β 0 X 2t β1 X 2t X 1t ...... β K X 2t X Kt X 2tYt
......
......
......
......
β 0 X kt β1
X kt X 1t ...... β K
X Kt 2
X ktYt
按矩阵形式，上述方程组可表示为：
这里，“斜率”βj的含义是其它变量不变的情况 下，Xj改变一个单位对因变量所产生的影响。
2
例1：
Y
β0
β 1
X
β2P u
其中，Y=在食品上的总支出 X=个人可支配收入 P=食品价格指数
用美国1959-1983年的数据，得到如下回归结果（括号中数 字为标准误差）：
Yˆ 116.7 0.112X 0.739P
收入不变的情况下，价格指数每上升一个点， 食品消费支出减少7.39亿元（0.739个billion）
4
例2：
Ct
β 1
β 2 Dt
β3Lt
ut
其中，Ct=消费，Dt=居民可支配收入 Lt=居民拥有的流动资产水平
β2的含义是，在流动资产不变的情况下，可支配收入变动 一个单位对消费额的影响。这是收入对消费额的直接影响。
S et2 Yt ˆ0 ˆ1X1t ... ˆK X Kt 2
为最小，则应有：
S
ˆ 0
0,
S
ˆ1
0,
...,
S
ˆ K
0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
亿美元（1个billion），食品消费支出增加1.12亿 元（0.112个 billion）。
含义是不同的。
5
回到一般模型
Yt
β 0
β1 X1t
β2 X 2t
... βk X kt
ut
t=1,2,… ，n
即对于n组观测值，有
Y1
β0
β 1
X
11
β2
X
21
β3
X
31
... βK
X
K1
u1
Y2
β0
β 1
X12
β2 X 22
β3 X 32
... βK
XK2
u2
......
Yn
β0
β 1
收入变动对消费额的总影响=直接影响+间接影响。 （间接影响：收入影响流动资产拥有量影响消费额）
但在模型中这种间接影响应归因于流动资产，而不是收入 ，因而，β2只包括收入的直接影响。
在下面的模型中： Ct Dt ut , t 1,2,..., n
这里，β是可支配收入对消费额的总影响，显然β和β2的
X 1n
β2 X 2n
β3 X 3n
... βK
X Kn
un
6
其矩阵形式为： Y X u
其中
Y1
Y
Y2
... Yn
1
X
1
...
1
X11 X12 ... X1n
... ... ... ...
X K1
X
K
2
...
X
Kn
wk.baidu.com
0
1
2
,
...
K
u1
u
u2 ... un
7
第二节 多元线性回归模型的估计
多元线性回归模型的估计与双变量线性模型类似，仍采用 OLS法。当然，计算要复杂得多，通常要借助计算机。理论 推导需借助矩阵代数。下面给出普通最小二乘法应用于多元 线性回归模型的假设条件、估计结果及所得到的估计量的性 质。
一．假设条件 （1）E(ut)=0, t=1,2,…,n （2）E(ui uj)=0, i≠j （3）E(ut2)=σ2, t=1,2,…,n （4）Xjt是非随机量， j=1,2, … k
14
n
X1t
...
X Kt
X1t X1t 2
...
X Kt X1t
... ... ... ...
X Kt
X1t X Kt
...
X Kt 2
β 0
β1
...
=
由于
u1
uu
u2 ... un
u1
u2
...
un
u12 u2u1
u1u2 u22
...... ......
u1un
u2un
.................................
unu1 unu2 ...... un2
显然， E(uu) 2In 仅当
E(ui uj)=0 , i≠j E(ut2) = σ2, t=1,2,…,n 这两个条件成立时才成立，因此， 此条件相当前面条件
(2), (3)两条，即各期扰动项互不相关，并具有常数方差。10
A3. X 是一个非随机元素矩阵。 A4. Rank(X) = (K+1) < n. ------相当于前面 (5)
、 (6) 两 条 即矩阵X的秩 =（K+1)< n 当然，为了后面区间估计和假设检验的需要，还 要加上一条：
A5. u～t N(0, 2 ) ，t=1,2,…n
t=1,2, … n
8
除上面4条外，在多个解释变量的情况下，还有 两个条件需要满足： （5）（K+1）< n;
即观测值的数目要大于待估计的参数的个数 （要有足够数量的数据来拟合回归线）。 （6）各解释变量之间不存在严格的线性关系。
上述假设条件可用矩阵表示为以下四个条件：
9
A1. E(u)=0
A2. E(uu) 2In
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt
β 0
β1 X1t
β 2
X
2t
... βk X kt
ut
t=1,2,…,n
在这个模型中，Y由X1、X2、X3、… XK所解释， 有K+1个未知参数β0、β1、β2、…βK 。
11
二．最小二乘估计
我们的模型是：
Yt 0 1X1t 2 X 2t ... k X kt ut
t=1,2,…n
问题是选择 ˆ0 , ˆ1,...., ˆk ，使得残差平方和最小。
残差为：
et Yt Yˆt
Yt ˆ0 ˆ1 X1t .... ˆK X Kt
12
要使残差平方和
β 0 X 2t β1 X 2t X 1t ...... β K X 2t X Kt X 2tYt
......
......
......
......
β 0 X kt β1
X kt X 1t ...... β K
X Kt 2
X ktYt
按矩阵形式，上述方程组可表示为：
这里，“斜率”βj的含义是其它变量不变的情况 下，Xj改变一个单位对因变量所产生的影响。
2
例1：
Y
β0
β 1
X
β2P u
其中，Y=在食品上的总支出 X=个人可支配收入 P=食品价格指数
用美国1959-1983年的数据，得到如下回归结果（括号中数 字为标准误差）：
Yˆ 116.7 0.112X 0.739P
收入不变的情况下，价格指数每上升一个点， 食品消费支出减少7.39亿元（0.739个billion）
4
例2：
Ct
β 1
β 2 Dt
β3Lt
ut
其中，Ct=消费，Dt=居民可支配收入 Lt=居民拥有的流动资产水平
β2的含义是，在流动资产不变的情况下，可支配收入变动 一个单位对消费额的影响。这是收入对消费额的直接影响。
S et2 Yt ˆ0 ˆ1X1t ... ˆK X Kt 2
为最小，则应有：
S
ˆ 0
0,
S
ˆ1
0,
...,
S
ˆ K
0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
亿美元（1个billion），食品消费支出增加1.12亿 元（0.112个 billion）。
含义是不同的。
5
回到一般模型
Yt
β 0
β1 X1t
β2 X 2t
... βk X kt
ut
t=1,2,… ，n
即对于n组观测值，有
Y1
β0
β 1
X
11
β2
X
21
β3
X
31
... βK
X
K1
u1
Y2
β0
β 1
X12
β2 X 22
β3 X 32
... βK
XK2
u2
......
Yn
β0
β 1
收入变动对消费额的总影响=直接影响+间接影响。 （间接影响：收入影响流动资产拥有量影响消费额）
但在模型中这种间接影响应归因于流动资产，而不是收入 ，因而，β2只包括收入的直接影响。
在下面的模型中： Ct Dt ut , t 1,2,..., n
这里，β是可支配收入对消费额的总影响，显然β和β2的
X 1n
β2 X 2n
β3 X 3n
... βK
X Kn
un
6
其矩阵形式为： Y X u
其中
Y1
Y
Y2
... Yn
1
X
1
...
1
X11 X12 ... X1n
... ... ... ...
X K1
X
K
2
...
X
Kn
wk.baidu.com
0
1
2
,
...
K
u1
u
u2 ... un
7
第二节 多元线性回归模型的估计
多元线性回归模型的估计与双变量线性模型类似，仍采用 OLS法。当然，计算要复杂得多，通常要借助计算机。理论 推导需借助矩阵代数。下面给出普通最小二乘法应用于多元 线性回归模型的假设条件、估计结果及所得到的估计量的性 质。
一．假设条件 （1）E(ut)=0, t=1,2,…,n （2）E(ui uj)=0, i≠j （3）E(ut2)=σ2, t=1,2,…,n （4）Xjt是非随机量， j=1,2, … k
14
n
X1t
...
X Kt
X1t X1t 2
...
X Kt X1t
... ... ... ...
X Kt
X1t X Kt
...
X Kt 2
β 0
β1
...
=
由于
u1
uu
u2 ... un
u1
u2
...
un
u12 u2u1
u1u2 u22
...... ......
u1un
u2un
.................................
unu1 unu2 ...... un2
显然， E(uu) 2In 仅当
E(ui uj)=0 , i≠j E(ut2) = σ2, t=1,2,…,n 这两个条件成立时才成立，因此， 此条件相当前面条件
(2), (3)两条，即各期扰动项互不相关，并具有常数方差。10
A3. X 是一个非随机元素矩阵。 A4. Rank(X) = (K+1) < n. ------相当于前面 (5)
、 (6) 两 条 即矩阵X的秩 =（K+1)< n 当然，为了后面区间估计和假设检验的需要，还 要加上一条：
A5. u～t N(0, 2 ) ，t=1,2,…n
t=1,2, … n
8
除上面4条外，在多个解释变量的情况下，还有 两个条件需要满足： （5）（K+1）< n;
即观测值的数目要大于待估计的参数的个数 （要有足够数量的数据来拟合回归线）。 （6）各解释变量之间不存在严格的线性关系。
上述假设条件可用矩阵表示为以下四个条件：
9
A1. E(u)=0
A2. E(uu) 2In