多元线性回归模型(1)
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(截距项可视为解释变量总是取值为1)
10
三、多元线性回归中的基本假定
假定1：零均值假定 E(ui ) 0 （ i=1，2，---n）
或矩阵表示： E（u）=0
u1 Eu1 u Eu 2 即，E (u | X) E 2 0 u Eu n n
48.3%和46.15%。
是什么因素导致中国汽车数量的增长? 影响中国汽车行业发展的因素并不是单一的，经济增长、 消费趋势、市场行情、业界心态、能源价格、道路发展、内 外环境，都会使中国汽车行业面临机遇和挑战。
2
怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？
计量经济学
第三章 多元线性回归模型
引子:中国已成为世界汽车产销第一大国
2009年，为应对国际金融危机、确保经济平稳较快增长， 国家出台了一系列促进汽车消费的政策，有效刺激了汽车消费市 场，汽车产销呈高增长态势，首次成为世界汽车产销第一大国。 2009年，汽车产销分别为1379.1万辆和1364.5万辆，同比增长
u1 u2 ' 因为：E uu E u 1 un Eu12 E (u2u1 ) E (unu1 ) E (u1u2 )
注意：模型中的 j （j=1,2,---k）是偏回归系数 样本容量为n 偏回归系数：
(i 1, 2,
n)
控制其它解释量不变的条件下，第 j 个解释变量的 单位变动对被解释变量平均值的影响，即对 Y 平均值“直 接”或“净”的影响。
5 5
多元线性回归中的“线性”
指对各个回归系数而言是“线性”的，对变量则可
以是线性的，也可以是非线性的 例如：生产函数
Y AL K u
取对数
ln Y ln A ln L ln K ln u
这也是多元线性回归模型，只是这时变量为lnY、 lnL、lnK
6
多元总体回归函数
条件期望表现形式： 将Y的总体条件期望表示为多个解释变量的函数，如:
E(Yi X 2i , X 3i , X ki ) 1 2 X 2i 3 X 3i k X ki (i 1, 2, n) 注意：这时Y总体条件期望的轨迹是K维空间的一条线
nk
Y
n 1
X
β
k 1
u
n 1
9
9
矩阵表示方式
总体回归函数 样本回归函数
E(Y) = Xβ 或 Y = Xβ + u
ˆ ˆ = Xβ Y
或
ˆ +e Y = Xβ
ˆ 其中： Y,Y,u,e 都是有n个元素的列向量
ˆ 是有k 个 元素的列向量 β, β
（ k = 解释变量个数 + 1 ）
X 是第一列为1的n×k阶解释变量数据矩阵 ，
（如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。
个别值表现形式：
引入随机扰动项
ui Yi E(Yi X 2i , X 3i
X ki )
或表示为 Y X X X u i 1 2 2i 3 3i k ki i
(i 1, 2, n)
7
多元样本回归函数
Y 的样本条件均值可表示为多个解释变量的函数
ˆ ˆ X ˆ X ˆi Y 1 2 3 2i 3i
,n
ห้องสมุดไป่ตู้
0 i j cov(ui , u j | X i , X j ) E (ui u j | X i , X j ) 2 i j
12
假设（2），（3）说明随机项u的方差－协方差矩阵为对角 矩阵：
' 2 Ω＝ var cov(u ) E uu I nn
3
本章主要讨论:
●多元线性回归模型及古典假定 ●多元线性回归模型的估计 ●多元线性回归模型的检验 ●多元线性回归模型的预测 补充：非线性回归模型
4
第一节 多元线性回归模型及古典假定
一、多元线性回归模型的意义
一般形式：对于有K-1个解释变量的线性回归模型
Yi 1 2 X 2i 3 X 3i k X ki ui
11
假定2、无自相关假定
cov(ui , u j | X i , X j ) E (uiu j | X i , X j ) 0 i j, i, j 1, 2,
假定3、同方差假定
,n
var(ui | X i ) E (ui2 | X i ) 2
也可以合并为：
i 1, 2,
记回归剩余（残差）： 个别值表现形式：
ˆ X k ki
ˆi ei Yi Y
ˆ X e k ki i
ˆ ˆ X ˆ X Yi 1 2 3 2i 3i
i 1 ,2, n
8
二、多元线性回归模型的矩阵表示
多个解释变量的多元线性回归模型的n组样本观测值，可 表示为 Y1 1 2 X 21 3 X 31 k X k1 u1 Y2 1 2 X 22 3 X 32 k X k 2 u2
Yn 1 2 X 2n 3 X 3n k X kn un
用矩阵表示
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n
X k1 1 u1 u X k2 2 2 X kn k u n
10
三、多元线性回归中的基本假定
假定1：零均值假定 E(ui ) 0 （ i=1，2，---n）
或矩阵表示： E（u）=0
u1 Eu1 u Eu 2 即，E (u | X) E 2 0 u Eu n n
48.3%和46.15%。
是什么因素导致中国汽车数量的增长? 影响中国汽车行业发展的因素并不是单一的，经济增长、 消费趋势、市场行情、业界心态、能源价格、道路发展、内 外环境，都会使中国汽车行业面临机遇和挑战。
2
怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？
计量经济学
第三章 多元线性回归模型
引子:中国已成为世界汽车产销第一大国
2009年，为应对国际金融危机、确保经济平稳较快增长， 国家出台了一系列促进汽车消费的政策，有效刺激了汽车消费市 场，汽车产销呈高增长态势，首次成为世界汽车产销第一大国。 2009年，汽车产销分别为1379.1万辆和1364.5万辆，同比增长
u1 u2 ' 因为：E uu E u 1 un Eu12 E (u2u1 ) E (unu1 ) E (u1u2 )
注意：模型中的 j （j=1,2,---k）是偏回归系数 样本容量为n 偏回归系数：
(i 1, 2,
n)
控制其它解释量不变的条件下，第 j 个解释变量的 单位变动对被解释变量平均值的影响，即对 Y 平均值“直 接”或“净”的影响。
5 5
多元线性回归中的“线性”
指对各个回归系数而言是“线性”的，对变量则可
以是线性的，也可以是非线性的 例如：生产函数
Y AL K u
取对数
ln Y ln A ln L ln K ln u
这也是多元线性回归模型，只是这时变量为lnY、 lnL、lnK
6
多元总体回归函数
条件期望表现形式： 将Y的总体条件期望表示为多个解释变量的函数，如:
E(Yi X 2i , X 3i , X ki ) 1 2 X 2i 3 X 3i k X ki (i 1, 2, n) 注意：这时Y总体条件期望的轨迹是K维空间的一条线
nk
Y
n 1
X
β
k 1
u
n 1
9
9
矩阵表示方式
总体回归函数 样本回归函数
E(Y) = Xβ 或 Y = Xβ + u
ˆ ˆ = Xβ Y
或
ˆ +e Y = Xβ
ˆ 其中： Y,Y,u,e 都是有n个元素的列向量
ˆ 是有k 个 元素的列向量 β, β
（ k = 解释变量个数 + 1 ）
X 是第一列为1的n×k阶解释变量数据矩阵 ，
（如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。
个别值表现形式：
引入随机扰动项
ui Yi E(Yi X 2i , X 3i
X ki )
或表示为 Y X X X u i 1 2 2i 3 3i k ki i
(i 1, 2, n)
7
多元样本回归函数
Y 的样本条件均值可表示为多个解释变量的函数
ˆ ˆ X ˆ X ˆi Y 1 2 3 2i 3i
,n
ห้องสมุดไป่ตู้
0 i j cov(ui , u j | X i , X j ) E (ui u j | X i , X j ) 2 i j
12
假设（2），（3）说明随机项u的方差－协方差矩阵为对角 矩阵：
' 2 Ω＝ var cov(u ) E uu I nn
3
本章主要讨论:
●多元线性回归模型及古典假定 ●多元线性回归模型的估计 ●多元线性回归模型的检验 ●多元线性回归模型的预测 补充：非线性回归模型
4
第一节 多元线性回归模型及古典假定
一、多元线性回归模型的意义
一般形式：对于有K-1个解释变量的线性回归模型
Yi 1 2 X 2i 3 X 3i k X ki ui
11
假定2、无自相关假定
cov(ui , u j | X i , X j ) E (uiu j | X i , X j ) 0 i j, i, j 1, 2,
假定3、同方差假定
,n
var(ui | X i ) E (ui2 | X i ) 2
也可以合并为：
i 1, 2,
记回归剩余（残差）： 个别值表现形式：
ˆ X k ki
ˆi ei Yi Y
ˆ X e k ki i
ˆ ˆ X ˆ X Yi 1 2 3 2i 3i
i 1 ,2, n
8
二、多元线性回归模型的矩阵表示
多个解释变量的多元线性回归模型的n组样本观测值，可 表示为 Y1 1 2 X 21 3 X 31 k X k1 u1 Y2 1 2 X 22 3 X 32 k X k 2 u2
Yn 1 2 X 2n 3 X 3n k X kn un
用矩阵表示
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n
X k1 1 u1 u X k2 2 2 X kn k u n