第二讲简单回归模型
合集下载
计量经济学第2章 简单线性回归模型
1.1回归分析与回归函数
对回归的现代解释与古典意义有很大的不同 定义：是关于研究一个叫做被解释变量（Y）的变量
对另一个或多个叫做解释变量（X）的变量的依赖 关系，其用意在于通过后者的已知或设定值去估计 或预测前者的均值。其中“依赖关系”，反映在一 定的函数形式上：
注意： E(Y X ) F(X1, X2,, Xk )
1.1回归分析与回归函数
1855年，高尔顿发表《遗传的身高 向平均数方向的回归》一文，他和 他的学生通过观察1078对夫妇，以 每对夫妇的平均身高作为自变量， 取他们的一个成年儿子的身高作为 因变量，分析儿子身高与父母身高 之间的关系。 发现： 当父母越高或越矮时，子女的身高 会比一般儿童高或矮，但是，当父 母身高走向极端，子女的身高不会 象父母身高那样极端化，其身高要 比父母们的身高更接近平均身高， 即有“回归”到平均数去的趋势。
其中，μ为随机误差项(stochastic error)或随机扰动 项(stochastic disturbance )，表明除X之外影响Y的因素： 忽略无数可能事件的影响 测量误差
1.1回归分析与回归函数
例：假定E(Y|Xi)对X是线性的：
E(Y Xi ) 1 2 Xi 线性总体回归函数
-1.2 -0.8 -0.4 0.0 0.4 0.8 Nhomakorabea1.2 Y
因而，要进一步研究变量之间的相关关系，就需要学习回归 分析方法。
1.1回归分析与回归函数
二、回归分析
“回归”这个词最早由英国生物学家高尔顿在遗传学
中提出。
法兰西斯·高尔顿（1822.2.16－1911.1.17）， 英国人类学家、生物统计学家、英国探险家、 优生学家、心理学家、差异心理学之父，也 是心理测量学上生理计量法的创始人，遗传 决定论的代表人物。 高尔顿平生著书15种，撰写各种学术论文220 篇，涉猎范围包括地理、天文、气象、物理、 机械、人类学、民族学、社会学、统计学、 教育学、医学、生理学、心理学、遗传学、 优生学、指纹学、照像术、登山术、音乐、 美术、宗教等，是一位百科全书式的学者。
第2章 简单回归模型
ˆ y ˆx 0 1
n
二、普通最小二乘法的推导
另一种方法 定义y在x=xi时的拟合值为
ˆ i ˆ 0 ˆ 1 x i y
（2.17）
ˆ 1
( x i x )( y i y )
n
i 1
( xi x )2
（2.19）
第i次观测的残差为
ˆ ˆx ˆi yi y ˆ i yi u 0 1 i
江西财经大学（彭Leabharlann 宏） 2一、简单回归模型的定义
y = 0 + 1x + u y：因变量；x：自变量
一、简单回归模型的定义
假定
E(u)=0 E(u|x)=E(u) (2.5) (2.6)
（2.1)
0：截距参数；1 ：斜率参数
u：误差项 u表示除x之外其他影响y的因素，可以把u看作是“观测 不到”的因素。（解决了问题① ） 1度量了其他因素不变的情况下(Δu=0) ，x对y的线性 影响(Δy=1Δx) 。 （解决了问题②和半个问题③，1 如何确定？）
.} û3
E ( y | x) 0 1 x
• 总体回归函数是固定而又未知的，给定一个样本 就能通过OLS得到一个样本回归函数。 • 例2.3、2.4、2.5
江西财经大学（彭树宏） 13
y1
.} û1
x1
江西财经大学（彭树宏）
x2
x3
x4
x
14
三、OLS的操作技巧
OLS统计量的代数性质
i1
③ 点
( x, y )
总在OLS回归线上（由（2.16）式得）
江西财经大学（彭树宏） 15 江西财经大学（彭树宏） 16
n
二、普通最小二乘法的推导
另一种方法 定义y在x=xi时的拟合值为
ˆ i ˆ 0 ˆ 1 x i y
（2.17）
ˆ 1
( x i x )( y i y )
n
i 1
( xi x )2
（2.19）
第i次观测的残差为
ˆ ˆx ˆi yi y ˆ i yi u 0 1 i
江西财经大学（彭Leabharlann 宏） 2一、简单回归模型的定义
y = 0 + 1x + u y：因变量；x：自变量
一、简单回归模型的定义
假定
E(u)=0 E(u|x)=E(u) (2.5) (2.6)
（2.1)
0：截距参数；1 ：斜率参数
u：误差项 u表示除x之外其他影响y的因素，可以把u看作是“观测 不到”的因素。（解决了问题① ） 1度量了其他因素不变的情况下(Δu=0) ，x对y的线性 影响(Δy=1Δx) 。 （解决了问题②和半个问题③，1 如何确定？）
.} û3
E ( y | x) 0 1 x
• 总体回归函数是固定而又未知的，给定一个样本 就能通过OLS得到一个样本回归函数。 • 例2.3、2.4、2.5
江西财经大学（彭树宏） 13
y1
.} û1
x1
江西财经大学（彭树宏）
x2
x3
x4
x
14
三、OLS的操作技巧
OLS统计量的代数性质
i1
③ 点
( x, y )
总在OLS回归线上（由（2.16）式得）
江西财经大学（彭树宏） 15 江西财经大学（彭树宏） 16
第2讲简单回归模型
x3
x4
x
2.样本回归函数(sample regression function, SRF)
1）样本回归曲线
对于X的一定值，取得Y 的样本观测值，可计算其条件 均 值，样本观测值条件均值的轨迹，称为样本回归线。
2）样本回归函数
如果把被解释变量Y的 样本条件均值表示为解释变 量X的某种函数，这个函数 称为样本回归函数（SRF）。
第二章：简单回归模型
§2.1 简单回归模型的定义
§2.2 普通最小二乘法(OLS)的推导 §2.3 OLS的操作技巧
§2.4 测量单位和函数形式
§2.5 OLS估计量的期望值和方差 §2.6 过原点回归
第一节 简单回归模型的定义
一、回归
1.回归的涵义
最初的涵义：回归（regress）一词最早由英国生理学家高尔顿
Xi
X Y SRF
ˆ Y i
3）样本回归函数的函数形式 条件均值形式：
样本回归函数如果为线性函数，可表示为
ˆ ˆ X ˆ Y i 1 2 i
ˆ是与 X 相对应的 Y 的样本条件均值； Y 其中： i i
ˆ 和 ˆ 分别是样本回归函数的参数。 1 2
个别值（实际值）形式：
3.u与X不相关
在上述假定中，1是比2和3更强的假定，2是比3更强的假定。
对于回归分析，假定2是必须的，但假定1和3更易于理解
四、总体回归函数和样本回归函数
1.总体回归函数(population regression function, PRF)
在 零 条 件 均 值 假 定 下总 ，体 回 归 函 数 为 ： E (Y | X ) E[( 0 1 X u) | X ] 0 1 X u表 示Y与 其 条 件 均 值 的 偏 差 称 ，为 非 系 统 性 成 分 。 当X改 变 一 个 单 位 时 ， E (Y | X ) [ 0 1 ( X＋1)] ( 0 1 X ) 1 因此， 1衡 量 了 X改 变 一 个 单 位 对 Y的 条 件 均 值 的 影 响
庞浩 计量经济学2第二章 简单线性回归模型
17
三、总体回归函数
总体回归函数（population regression function，简称PRF）： 将总体被解释变量Y的条件均值表现为解释 变量X的函数。
E (Y | X i ) f ( X i )
当总体回归函数是线性形式时，
总体回归函数的条件 期望表示方式
E (Y | X i ) f ( X i ) 1 2 X i
22
四、随机扰动项u
（一）定义 各个被解释变量的个别值与相应的条件均值的 偏差，被称为随机扰动项，或随机干扰项 （stochastic disturbance），或随机误差项 （stochastic error）， 用u表示。它可正可 负，是一个随机变量。
ui Yi E (Y | X i ) Yi E (Y | X i ) ui Yi 1 2 X i ui
消费 支出 Y
932
1259 1448 1651 2298 2289 2365 2488 2856 3150
25
Y
SRF1 SRF2
X
26
样本一
Y vs. X 3500 3000 2500 2000 1500 1000 500 0 1000 2000 3000 4000 5000 6000 X 3500 3000 2500 2000 1500 1000 500 0
4
（二）相关关系的种类
⒈按涉及变量的多少分为 单相关 多重（复）相关
相 关 关 系 的 种 类
⒉按表现形式的不同分为
线性相关
非线性相关 正相关 负相关 完全相关
⒊单相关时，按相关关系的方 向不同分为
4.按相关程度的不同分为
Hale Waihona Puke 不完全相关 不相关5
三、总体回归函数
总体回归函数（population regression function，简称PRF）： 将总体被解释变量Y的条件均值表现为解释 变量X的函数。
E (Y | X i ) f ( X i )
当总体回归函数是线性形式时，
总体回归函数的条件 期望表示方式
E (Y | X i ) f ( X i ) 1 2 X i
22
四、随机扰动项u
（一）定义 各个被解释变量的个别值与相应的条件均值的 偏差，被称为随机扰动项，或随机干扰项 （stochastic disturbance），或随机误差项 （stochastic error）， 用u表示。它可正可 负，是一个随机变量。
ui Yi E (Y | X i ) Yi E (Y | X i ) ui Yi 1 2 X i ui
消费 支出 Y
932
1259 1448 1651 2298 2289 2365 2488 2856 3150
25
Y
SRF1 SRF2
X
26
样本一
Y vs. X 3500 3000 2500 2000 1500 1000 500 0 1000 2000 3000 4000 5000 6000 X 3500 3000 2500 2000 1500 1000 500 0
4
（二）相关关系的种类
⒈按涉及变量的多少分为 单相关 多重（复）相关
相 关 关 系 的 种 类
⒉按表现形式的不同分为
线性相关
非线性相关 正相关 负相关 完全相关
⒊单相关时，按相关关系的方 向不同分为
4.按相关程度的不同分为
Hale Waihona Puke 不完全相关 不相关5
第二讲 简单回归模型
i 1 i 1 n i 1 n i 1 n
n
( x 2 xi x x ) xi2 2 x xi nx 2 xi2 2nx 2 nx 2 xi2 nx 2 xi ( xi x )
i 1 i 1 n i 1 n i 1 n i 1 i 1 n 2 i 2 n
ˆ ˆ X e Yi 1 2 i i
Yi 1 2 X i ui
ˆ 和 ˆ 的数值，显然: 如果能够通过某种方式获得 1 2 ˆ 和 ˆ 是对总体回归函数参数 1 和 的估计 ● 1 2 2
ˆ i是对总体条件期望 E (Yi X i ) 的估计 ● Y
● ei 在概念上类似总体回归函数中的 为对 ui 的估计。
i 1 n i 1 2 ˆ xi x yi y 1 xi x i 1 i 1 n
n
计量经济学导论
29
( x x )( y y )
i 1 i i
n
2 ( x x ) i i 1
n
( xi yi xi y xyi xy ) ( xi yi xi y ) xi ( yi y ) yi ( xi x )
dependentvariable因变量lefthandsidevariableexplainedvariable被解释变量regressand回归子17计量经济学导论刘愿我们一般称x为independentvariable自变量righthandsidevariableexplanatoryvariable解释变量controlvariables控制变量18计量经济学导论刘愿简单回归的术语因变量自变量被解释变量解释变量响应变量控制变量被预测变量预测变量回归子回归元19计量经济学导论刘愿simpleassumption一个简单的假设变量u称为errorterm误差项或者disturbance扰动项代表除了x之外影响y的其它因素
n
( x 2 xi x x ) xi2 2 x xi nx 2 xi2 2nx 2 nx 2 xi2 nx 2 xi ( xi x )
i 1 i 1 n i 1 n i 1 n i 1 i 1 n 2 i 2 n
ˆ ˆ X e Yi 1 2 i i
Yi 1 2 X i ui
ˆ 和 ˆ 的数值，显然: 如果能够通过某种方式获得 1 2 ˆ 和 ˆ 是对总体回归函数参数 1 和 的估计 ● 1 2 2
ˆ i是对总体条件期望 E (Yi X i ) 的估计 ● Y
● ei 在概念上类似总体回归函数中的 为对 ui 的估计。
i 1 n i 1 2 ˆ xi x yi y 1 xi x i 1 i 1 n
n
计量经济学导论
29
( x x )( y y )
i 1 i i
n
2 ( x x ) i i 1
n
( xi yi xi y xyi xy ) ( xi yi xi y ) xi ( yi y ) yi ( xi x )
dependentvariable因变量lefthandsidevariableexplainedvariable被解释变量regressand回归子17计量经济学导论刘愿我们一般称x为independentvariable自变量righthandsidevariableexplanatoryvariable解释变量controlvariables控制变量18计量经济学导论刘愿简单回归的术语因变量自变量被解释变量解释变量响应变量控制变量被预测变量预测变量回归子回归元19计量经济学导论刘愿simpleassumption一个简单的假设变量u称为errorterm误差项或者disturbance扰动项代表除了x之外影响y的其它因素
第二章-简单线性回归模型-PPT精选文档
经济变量之间的因果关系有两种
：确定性的因果关系与随机的因果关 系。前者可以表示为数学中的函数关 系，后者不能像函数关系那样比较精 确地描述其变化规律，但是可以通过 分析大量的统计数据，找寻出它们之 间的一定的数量变化规律，这种通过 大量统计数据归纳出的数量变化规律 称之为统计相关关系，进而称为回归 关系。研究回归关系的方法称为回归 分析方法，表示回归关系的数学式子 称为回归方程。
由于变量Y的非确定性是由于它受
一些随机因素的影响，因此可以 认为，当给定变量 X 的一个确定 值之时，所对应的变量 Y 是一个 随机变量，记作Y|X 。假定条件随 机变量 Y|X 的数学期望值是存在 的，即 E( Y|X ) 存在，由于同一随 机变量的数学期望值是惟一的， 故 E(Y|X ) 能够由 X 的值惟一地确 定，于是 E(Y|X )是变量X 的函数
二、总体回归模型
假设 X 为一个经济变量，Y 为另一个经 济变量，且变量 X 与 Y 之间存在着非确定 性的因果关系，即当 X 变化时会引起 Y 的 变化，但这种变化是随机的。例如，某种 饮料的销售量与气温的关系，销售量受气 温的影响而变化，但其变化又不能由气温 惟一确定；再比如，家庭的周消费额与周 收入之间的关系等等。
第二章 简单线性回归模型
本章主要讨论:
●回归分析与回归函数 ●简单线性回归模型参数的估计 ●拟合优度的度量 ●回归系数的区间估计和假设检验 ●回归模型预测
第一节 回归分析与回归函数
一、相关分析与回归分析 （一）经济变量之间的相互关系
相关关系 1、总体相关 变量之间具有本质上的联系 2、样本相关 变量的样本观察值之间相关
2400
X
非线性相关：
Y
80
70
简单线性回归模型PPT课件
940 1030 1160 1300 1440 1520 1650
980 1080 1180 1350 1450 1570 1750
-
1130 1250 1400 -
1600 1890
-
1150 -
-
-
1620 -
2600 1500 1520 1750 1780 1800 1850 1910
y (消费）
出-
表2
1000 650 700 740 800 850 880 -
每月家庭收入支出表（元）
1200 1400 1600 1800 2000 2200 2400
790 800 1020 1100 1200 1350 1370
840 930 1070 1150 1360 1370 1450
900 950 1100 1200 1400 1400 1550
ui N (0, 2 ) (i 1,2,..., n)
或 Yi N (1 1X i , 2 ) (i 1,2,..., n)
以上假定也称高斯假定或古典假定。
二、普通最小二乘法
在不知道总体回归直线的情况下，利用样本信 息建立的样本回归函数应尽可能接近总体回归 函数，有多种方法。
普通最小二乘法(Ordinary Least Squares) 由德国数学家高斯(C.F.Gauss)提出。
Y
e1
Yˆi ˆ1 ˆ2 Xi e3
e4
e2
X1
X2
X
X3
X4
ei Yi Yˆi
Yi (ˆ1 ˆ2 Xi )
对于给定的 Y 和 X的观测值，我们希望这 样决定SRF，使得SRF上的值尽可能接近 实际的 Y。
就是使得残差平方和
简单回归模型
Q
ˆ0
n
2
i 1
( yi
ˆ0
ˆ1xi )(1)
0
Q
ˆ1
n
2 ( yi ˆ0 ˆ1xi )(xi ) 0
i 1
即
uˆi 0 xiuˆi 0
样本回归函数
➢ 第一种样本
➢ 为研究总体，我们需要抽取一定旳样本。
X 80 100 120 140 160 180 200 220 240 260
➢ 假想案例
假设一种国家只有60户居民，他们旳可支配收 入和消费支出数据如下（单位：美元）：
X Y
户数 总支出
80 100
55 65
60 70
65 74
70 80
75 85
－ 88
－－
5
6
325 462
120
79 84 90 94 98 － － 5 445
140
80 93 95 103 108 113 115 7 707
n1 xi ( yi ˆ0 ˆ1xi ) 0 i 1
当满足条件：
n
(xi - x)2 0
i 1
OLS估计量 ：
ˆ1
(xi x)( yi y) (xi x)2
ˆ0 y ˆ1x
ˆ1 实际上就是y和x旳样本协方差与x旳样本方
差之比。
n
(xi - x)2 0的情况：
i 1
Cov( yˆi , uˆi ) 0
➢离差平方和分解
y
yi y = yˆ i y + yi yˆi
yi
yˆi
总离差 = 回归差 + 残差
y
回归差：由样本回归直线解释旳部分
.A
第2讲 简单回归模型
SST = SSE = SSR =
∑
n
n
i =1
(Y i − Y ) 2 (Y i − Y ) 2
∧ 2 i ∧
∑
n i =1
i=1
7
总体回归函数
o 总体回归函数（population regression function, PRF） 总体回归函数（ ）
在零条件均值假定下， 在零条件均值假定下， E (Y | X ) = E [( β 0 + β 1 X + u ) | X ] = β 0 + β 1 X
β 0 + β 1 X表示 X取某一确定值时 Y的均值，称为系统性成 分； 的均值，
ˆ ˆ ˆ 定义Yi = β 0 + β 1 X i 为X = X i 时Y的拟合值 ˆ ˆ ˆ ˆ 定义u = Y − Y = Y − β − β X 为X = X 时的残差
i i i i 0 1 i i
ˆ ˆ ˆ 定义Y = β 0 + β 1 X为总体回归函数 E (Y | X ) = β 0 + β 1 X 的样本回归函数 ˆ ∆Y ˆ ˆ ，表示 X变化一个单位时 Y的变化量 β1 = ∆X ˆ ˆ β 表示X = 0时Y的值
第二讲 简单回归模型
Simple Regression Model
一、基本概念 二、普通最小二乘法（OLS） 普通最小二乘法（ ） 三、几个问题 四、OLS估计量的性质 估计量的性质
一、基本概念
1. 回归的涵义 2. 一个基本假定 3. 总体回归函数
回归的涵义
o 最初的涵义：回归（regress）一词最早由英国生理学家高 最初的涵义：回归（ ） 尔顿（ 尔顿（Galton）提出，用以指给定父母的身高后，儿女的 ）提出，用以指给定父母的身高后， 身高有回复到人口总体平均身高的趋势， 身高有回复到人口总体平均身高的趋势，即“回归到中等 ”（regression to mediocrity） ） o 回归分析：在其他条件不变的情况下，考察一个变量对另 回归分析：在其他条件不变的情况下， 一个变量的影响。 一个变量的影响。
第二章 简单线性回归模型2PPT课件
（TSS） （ESS） （RSS）
19
总变差 y（i2 TSS）：应变量Y的观测值与其平均
值的离差平方和（总平方和）
解释了的变差
^
y
2 i
（ESS）：应变量Y的估计值与
其平均值的离差平方和（回归平方和）
剩余平方和 ei2（RSS）：应变量观测值与估计
值之差的平方和（未解释的平方和）
20
变差分解的图示
u 在给定 X
的条件下，
ui
i 的条件方差为某个常数
2
V ar(u i X i)E [u iE (u i X i)]22
6
假定3：无自相关假定
随机扰动项 u i 的逐次值互不相关
C o v ( u i,u j) E [ u i E ( u i) ] [ u j E ( u j) ] E (u iuj)0 (ij)
Y
Yi
• ei来自残差
^
(Yi-Y)总变差
SRF
^
(Yi-Y)来自 回归
Y
Xi
X
21
三、可决系数ห้องสมุดไป่ตู้
以TSS同除总变差等式两边：
TSSESSRSS 或 TSS TSS TSS
计量经济学
第二章 简单线性回归模型
标题添加
点击此处输入相 关文本内容
前言
点击此处输入 相关文本内容
标题添加
点击此处输入相 关文本内容
点击此处输入 相关文本内容
第二节 简单线性回归模型的最小二乘估计
本节基本内容:
● 简单线性回归的基本假定 ● 普通最小二乘法 ● OLS回归线的性质 ● 参数估计式的统计性质
假定3：无自相关假定 C ov(Y i,Yj)0 (ij)
2第二章 简单线性回归模型
举例: 假如已知由100个家庭构成的总体的数据
每月家庭可支配收入X
3000 1819 1847 1907 2055 2195 2245 2307 2409 3500 2027 2118 2212 2248 2313 2481 2541 2686 2702 2812 4000 2269 2364 2424 2473 2523 2581 2675 2716 2817 2936 2954 3025 3136 3327 4500 2304 2435 2467 2726 2828 2946 2976 3150 3174 3349 3384 3514 3658 3747 3047 3363 3679 3995 4312 4628 4944
n X ( X i )
2 i
2பைடு நூலகம்
21
用离差表现的OLS估计量
为表达得更简洁，或者用离差形式的OLS估计量： 容易证明 __ __ n X iYi X i Yi ( X i X )(Yi Y ) xi yi ˆ 2 2 __ 2 2 x 2 n X i ( X i ) i (Xi X )
则
ˆi ei Yi Y
或
ˆ ˆ X e Yi 1 2 i i
17
样本回归函数的特点
●样本回归线随抽样波动而变化: 每次抽样都能获得一个样本，就可以拟合一条样本回 归线，（SRF不唯一)
Y
SRF1
●样本回归函数的函数形式 应与设定的总体回归函数的 函数形式一致。
SRF2
X
●样本回归线只是样本条件均值的轨迹，还不是总体 回归线，它至多只是未知的总体回归线的近似表现。
在观测值Y和X确定时，
20
2. 正规方程和估计量
每月家庭可支配收入X
3000 1819 1847 1907 2055 2195 2245 2307 2409 3500 2027 2118 2212 2248 2313 2481 2541 2686 2702 2812 4000 2269 2364 2424 2473 2523 2581 2675 2716 2817 2936 2954 3025 3136 3327 4500 2304 2435 2467 2726 2828 2946 2976 3150 3174 3349 3384 3514 3658 3747 3047 3363 3679 3995 4312 4628 4944
n X ( X i )
2 i
2பைடு நூலகம்
21
用离差表现的OLS估计量
为表达得更简洁，或者用离差形式的OLS估计量： 容易证明 __ __ n X iYi X i Yi ( X i X )(Yi Y ) xi yi ˆ 2 2 __ 2 2 x 2 n X i ( X i ) i (Xi X )
则
ˆi ei Yi Y
或
ˆ ˆ X e Yi 1 2 i i
17
样本回归函数的特点
●样本回归线随抽样波动而变化: 每次抽样都能获得一个样本，就可以拟合一条样本回 归线，（SRF不唯一)
Y
SRF1
●样本回归函数的函数形式 应与设定的总体回归函数的 函数形式一致。
SRF2
X
●样本回归线只是样本条件均值的轨迹，还不是总体 回归线，它至多只是未知的总体回归线的近似表现。
在观测值Y和X确定时，
20
2. 正规方程和估计量
第2章 简单回归模型
将总体矩条件应用于样本 • 从总体中随机抽取一个样本容量为n的随机 样本，用{(xi,yi): i=1, „,n} ，i表示单 个样本（observation）的编号，n是样本总 量。xi,yi表示第i个样本的相应的变量。 • 每一观测样本i均应满足： yi = b0 + b1xi + ui • 将前面所假定的总体矩条件(3)(4)应用于样 本中，这种方法称为矩估计法（method of moments）.
一个重要问题
如果我们忽略包含于误差项u中的其他因素，能否 通过简单回归模型，得到x对于y的其他因素不变 情况下的影响（ceteris paribus effect of x on y）呢？ 不能。 需要对u和x的关系作出假定，或者是说，假定x与 y的关系符合一定的条件，才能通过上述模型估计 x对于y的其他因素不变情况下的影响(ceteris paribus effect of x on y)。
选择参数值b0, b1, 使得样本的矩条件成立
• 与总体中的矩条件(3)(4)相对应，在样本中相 应的矩条件(sample counterparts)为：
(3' ) ( 4' ) n
1
y
n i 1 n i 1 i
i
ˆ b ˆ x 0 b 0 1 i
i
n
1
x y
ˆ b ˆ x 0 b 0 1 i
普通最小二乘法的推导
(a ) (b) (c) (d )
x y y bˆ x bˆ x 0
n i 1 n i i 1 1 i
x ( y
i 1 n i
i
ˆ (x x) 0 y) b 1 i
计量经济学课件：第二章 简单线性回归模型
第二章 简单线性回归模型第一节 回归分析与回归方程一、回归与相关 1、变量之间的关系（1）函数关系：()Y f X =，其中Y 为应变量，X 为自变量。
（2）相关关系或统计关系：当一个变量X 或若干个变量12,,,k X X X 变化时，Y 发生相应的变化（可能是不确定的），反之亦然。
在相关关系中，变量X 与变量Y 均为不确定的，并且它们之间的影响是双向的（双向因果关系）。
（3）单向因果关系：(,)Y f X u =，其中u 为随机变量。
在计量经济模型中，单一线性函数要求变量必须是单向因果关系。
在（单向）因果关系中，变量Y 是不确定的，变量X 是确定的（或可控制的）。
要注意的是，对因果关系的解释不是靠相关关系或统计关系来确定的，并且，相关关系与统计关系也给不出变量之间的具体数学形式，而是要通过其它相关理论来解释，如经济学理论。
例如，我们说消费支出依赖于实际收入是引用了消费理论的观点。
2、相关关系的类型 (1) 简单相关 (2) 复相关或多重相关 (3) 线性相关 (4) 非线性相关 (5) 正相关 (6) 负相关 (7) 不相关3、用图形法表示相关的类型上述相关类型可直观地用（EViews 软件）画图形来判断。
例如，美国个人可支配收入与个人消费支出之间的相关关系可由下列图形看出，它们为正相关关系。
15002000250030003500150020002500300035004000PDIP C E其中，PDI 为（美）个人可支配收入，PCE 为个人消费支出。
PDI 和PCE 分别对时间的折线图如下PROFIT 对STOCK 的散点图为05010015020025050100150STOCKP R O F I T其中，STOCK 为（美）公司股票利息，PROFIT 为公司税后利润，表现出明显的非线性特征。
以下是利润与股息分别对时间的序列图（或称趋势图）05010015020025020406080100120140GDP 对M2的散点图为02000040000600008000010000050000100000150000M2G D P其中M2为（中国）广义货币供应量，GDP 为国内生产总值。
第2章 简单回归模型(2015.3)
E (u ) 0
E (u | x) E (u)
的一个重要含义： 在总体中，u和x不相关。
因此，我们看到，u的期望值为零时，x和u的
协方差也为零：
E (u ) 0
(2.10) (2.11)
cov(x, u ) E ( xu)
事实上
cov(x, u) E ( x E ( x))(u E (u )) E ( xu uE( x)) E ( xu) E (u ) E ( x) E ( xu)
在施肥的例子中，如果施肥量与该地区的其
他条件没有关系，那么式(2.6)就成立。
但是如果更多的肥料被施用在更高质量的土
地上，那么u的平均值就会随着肥料的用量而 改变，式(2.6)也就不成立了。
零条件均值假定
E (u | x) 0
给出 1 的另一
种非常有用的解释。 由 y 0 1 x u
式(2.10)和式(2.11)可以用观测变量x和y以及
未知参数来表示，方程(2.10)和(2.11)可分别 写为
E( y 0 1 x) 0
(2.12) (2.13)
E[ x( y 0 1x)] 0
方程(2.12)和(2.13)意味着对总体中(x,y)的联
关键假定是，u的平均值与x值无关，即
E (u | x) E (u)
(2.6)
方程(2.6)表明，根据x值的不同把总体划分成
若干部分，每个部分中都有无法观测的因素 都具有相同的平均值，而且这个共同的平均 值必然等于总体中u的平均值。
当方程(2.6)成立时，称u的均值独立于x。
计量经济学简单回归模型
总体回归线（PRF）： E(y|x) = b0 + b1x
y
E(y|x=x2)
.
E(y|x=x1) .
x1=1
x2 =2
E(y|x) = b0 + b1x
x
2.2 一般最小二乘法（OLS）旳推导
一般最小二乘法（OLS）旳推导： 措施一：矩估计措施
• 零条件均值假定： E(u|x) = E(u) = 0
得样本相应旳矩条件(3’)(4’)成立。
• 即：求解有关 bˆ0, bˆ1旳方程组(3’)(4’)。
一般最小二乘法旳推导
• 根据样本均值旳定义以及加总旳性质，可将第一 种条件
(3' )
• 变换为
n
n 1
yi bˆ0 bˆ1xi 0
i 1
y bˆ0 bˆ1x,
or
bˆ0 y bˆ1x
家庭人均消费 = 395.96 + 0.48 • 家庭人均收入
2023年四川省农户调查样本， n=100 ；消费和收入单位：元
了解：样本回归线，样本数据点和残差
y
y4 y3
. . û3 û4{ yˆ bˆ0 bˆ1x
yˆ 3
y2
û2{.
y3
yˆ 3
y1
.} û1
x1
x2
x3
x4
x
有关OLS旳一点阐明
0
(4'')
Q
bˆ1
n
2
i 1
xi
yi bˆ0 bˆ1xi
0
• 这两个方程与前面旳矩条件完全一致，能够用相
同旳措施求解参数 bˆ0, bˆ1
所以，零条件均值假定能够表述为：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Yˆt 22.341 409 .386Xt43
（55.64114）(0.007743) t=(4.031457) (49.90815)
R2 0.988884F=2490.823 n=30
8 8
模型检验
1. 可决系数：R2 0.988884模型整体上拟合好。
2. 系数显著性检验：给定 α=0.05，查 t 分布表，
3
数据：1978年-2007年中国居民人均消费水平和人均GDP
年份
全体居民消费水平(元)Y
1978
184
1979
208
1980
238
1981
264
1982
288
1983
316
1984
361
1985
446
1986
497
1987
565
1988
714
1989
788
1990
833
1991
932
1992
1116
在自由度为 n23 0 228 时临界值为 t0.02(528)2.048
因为 t(ˆ1 ) 4 .03 1 t0 .0 4 2 (2 5 5 ) 8 2 7 .04应8 拒绝 H0 : 1 0
t(ˆ2) 4.9 90 8 t0 .01 2 (2 5 )5 8 2 .04 应8 拒绝 H0 : 2 0
第二章：简单回归模型
本章导论 简单回归模型的定义 普通最小二乘法的推导 OLS的操作技巧
OLS估计量的期望值和方差 过原点回归
计量经济学导论 刘愿
1
ቤተ መጻሕፍቲ ባይዱ
1.本章导论—案例
案例:中国全体居民的消费水平与经济发展数量
关系的分析
提出问题：改革开放以来，随着中国经济的快速发展，人 民生活水平不断提高，居民的消费水平也在不断增长。 研究中国全体居民的消费水平与经济发展的数量关系， 对于探寻居民消费增长的规律性，预测居民消费的发展 趋势有重要意义。
人均GDP(元)X
381
419
463
492
528
583
695
858
963
1112
1366
1519
1644
1893
2311
4
年份
全体居民消费水平(元)Y
1993
1393
1994
1833
1995
2355
1996
2789
1997
3002
1998
3159
1999
3346
2000
3632
2001
3869
2002
从散点图可以看出居民消费水平 (Y)和人均GDP (X)大体呈现为 线性关系。为分析中国居民消费 水平随人均GDP变动的数量规律性，可以建立如下 简单线性回归模型：
Yt 12Xt ut
6
估计参数
假定模型中随机扰动满足基本假定，可用OLS法。 具体操作：使用EViews 软件，估计结果是：
7
用规范的形式将参数估计和检验的结果写为：
4106
2003
4411
2004
4925
2005
5463
2006
6138
2007
7081
人均GDP(元)X
2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14053 16165 18934
模型设定:
为分析居民人均消费水平(Y)和 人均GDP (X)的关系，作散点图：
理论分析：影响居民人均消费水平的因素有多种，但从 理论和经验分析，最主要的影响因素应是经济发展水平。 从理论上说经济发展水平越高，居民消费越多。
2
变量选择：被解释变量选择能代表城乡所有居民消费的 “全体居民人均年消费水平”(元/人)； 解释变量选择表现经济增长水平的“人均国民生产总值 （人均GDP）”（元/人） 研究范围：1978年至2007年中国“全体居民人均年消费水 平”与“人均国内生产总值（人均GDP）” 的时间序列数 据。
一般称y为：
Dependent Variable（因变量） Left-Hand Side Variable Explained Variable（被解释变量） Regressand（回归子）
11
平均值区间预测区间预测
由X和Y的描述统计结果
X5048.133 (Xf X)2(220015048.133)2
287393020.1
xi2 (XiX)2X 2(n1)
5201.8342(301)784713231.9
Xf 22001时
8726.168m 2.048216.8978 1287393020.1 30 784713231.9
8726.17m 525.51
即是说：当2008年 X f =22001元时，居民人均
消费水平个别值置信度95%的预测区间为（8200.66， 9251.68）元。
13 13
本章STATA命令语句
1.散点图：scatter y x 2.相关系数：corr y x
pwcorr y x,sig 3.回归：reg y x 4.预测：predict yy,xb(拟合值预测)
Y ˆ t 2 2 4 .3 1 4 9 0 .3 8 6 4 3 2 2 0 0 1 8 7 2 6 .1 7 (元)
区间预测:
平均值区间预测上下限：
已知:
YF=YˆFmtα2σˆ n1+(XF-xXi2)2
Yˆt 8726.17 t0.025(28)=2.048 ˆ216.8978
n = 30
8726.17m 280.79
即是说：当2008年 X f =22001元时，居民人均消费水平平均值 置信度95%的预测区间为（8445.38，9006.96）元。
12
个别值区间预测:
Xf 22001时:
YFYˆFmt2ˆ 11 n(XFxX i2)2
8726.168m 2.048216.897811287393020.1 30 784713231.9
3. 用P值检验 α=0.05 >> p=0.0000
表明，人均GDP对居民消费水平确有显著影响。
9
4. 经济意义检验： 估计的解释变量的系数为0·3864，说明人均GDP每 增加1元，人均年消费支出平均将增加0·3864 元。 这符合经济理论的界定。
10
经济预测
点预测： 如果2008年人均GDP将比2007年增长16.2%将达到， 22001元/人，利用所估计的模型可预测2008年居民 可能达到的年消费水平。
predict e,r（残差值预测） 5.预测区间：
predictnl 预测变量名=predict(xb),ci(lb1 ub1) l(95) (均值预测区间)
adjust x=22001,stdf ci(个别值预测区间)
2.简单回归模型
计量经济学导论：刘愿
15
简单回归模型的定义
在简单线性回归模型y = 0 + 1x + u中, 我们
（55.64114）(0.007743) t=(4.031457) (49.90815)
R2 0.988884F=2490.823 n=30
8 8
模型检验
1. 可决系数：R2 0.988884模型整体上拟合好。
2. 系数显著性检验：给定 α=0.05，查 t 分布表，
3
数据：1978年-2007年中国居民人均消费水平和人均GDP
年份
全体居民消费水平(元)Y
1978
184
1979
208
1980
238
1981
264
1982
288
1983
316
1984
361
1985
446
1986
497
1987
565
1988
714
1989
788
1990
833
1991
932
1992
1116
在自由度为 n23 0 228 时临界值为 t0.02(528)2.048
因为 t(ˆ1 ) 4 .03 1 t0 .0 4 2 (2 5 5 ) 8 2 7 .04应8 拒绝 H0 : 1 0
t(ˆ2) 4.9 90 8 t0 .01 2 (2 5 )5 8 2 .04 应8 拒绝 H0 : 2 0
第二章：简单回归模型
本章导论 简单回归模型的定义 普通最小二乘法的推导 OLS的操作技巧
OLS估计量的期望值和方差 过原点回归
计量经济学导论 刘愿
1
ቤተ መጻሕፍቲ ባይዱ
1.本章导论—案例
案例:中国全体居民的消费水平与经济发展数量
关系的分析
提出问题：改革开放以来，随着中国经济的快速发展，人 民生活水平不断提高，居民的消费水平也在不断增长。 研究中国全体居民的消费水平与经济发展的数量关系， 对于探寻居民消费增长的规律性，预测居民消费的发展 趋势有重要意义。
人均GDP(元)X
381
419
463
492
528
583
695
858
963
1112
1366
1519
1644
1893
2311
4
年份
全体居民消费水平(元)Y
1993
1393
1994
1833
1995
2355
1996
2789
1997
3002
1998
3159
1999
3346
2000
3632
2001
3869
2002
从散点图可以看出居民消费水平 (Y)和人均GDP (X)大体呈现为 线性关系。为分析中国居民消费 水平随人均GDP变动的数量规律性，可以建立如下 简单线性回归模型：
Yt 12Xt ut
6
估计参数
假定模型中随机扰动满足基本假定，可用OLS法。 具体操作：使用EViews 软件，估计结果是：
7
用规范的形式将参数估计和检验的结果写为：
4106
2003
4411
2004
4925
2005
5463
2006
6138
2007
7081
人均GDP(元)X
2998 4044 5046 5846 6420 6796 7159 7858 8622 9398 10542 12336 14053 16165 18934
模型设定:
为分析居民人均消费水平(Y)和 人均GDP (X)的关系，作散点图：
理论分析：影响居民人均消费水平的因素有多种，但从 理论和经验分析，最主要的影响因素应是经济发展水平。 从理论上说经济发展水平越高，居民消费越多。
2
变量选择：被解释变量选择能代表城乡所有居民消费的 “全体居民人均年消费水平”(元/人)； 解释变量选择表现经济增长水平的“人均国民生产总值 （人均GDP）”（元/人） 研究范围：1978年至2007年中国“全体居民人均年消费水 平”与“人均国内生产总值（人均GDP）” 的时间序列数 据。
一般称y为：
Dependent Variable（因变量） Left-Hand Side Variable Explained Variable（被解释变量） Regressand（回归子）
11
平均值区间预测区间预测
由X和Y的描述统计结果
X5048.133 (Xf X)2(220015048.133)2
287393020.1
xi2 (XiX)2X 2(n1)
5201.8342(301)784713231.9
Xf 22001时
8726.168m 2.048216.8978 1287393020.1 30 784713231.9
8726.17m 525.51
即是说：当2008年 X f =22001元时，居民人均
消费水平个别值置信度95%的预测区间为（8200.66， 9251.68）元。
13 13
本章STATA命令语句
1.散点图：scatter y x 2.相关系数：corr y x
pwcorr y x,sig 3.回归：reg y x 4.预测：predict yy,xb(拟合值预测)
Y ˆ t 2 2 4 .3 1 4 9 0 .3 8 6 4 3 2 2 0 0 1 8 7 2 6 .1 7 (元)
区间预测:
平均值区间预测上下限：
已知:
YF=YˆFmtα2σˆ n1+(XF-xXi2)2
Yˆt 8726.17 t0.025(28)=2.048 ˆ216.8978
n = 30
8726.17m 280.79
即是说：当2008年 X f =22001元时，居民人均消费水平平均值 置信度95%的预测区间为（8445.38，9006.96）元。
12
个别值区间预测:
Xf 22001时:
YFYˆFmt2ˆ 11 n(XFxX i2)2
8726.168m 2.048216.897811287393020.1 30 784713231.9
3. 用P值检验 α=0.05 >> p=0.0000
表明，人均GDP对居民消费水平确有显著影响。
9
4. 经济意义检验： 估计的解释变量的系数为0·3864，说明人均GDP每 增加1元，人均年消费支出平均将增加0·3864 元。 这符合经济理论的界定。
10
经济预测
点预测： 如果2008年人均GDP将比2007年增长16.2%将达到， 22001元/人，利用所估计的模型可预测2008年居民 可能达到的年消费水平。
predict e,r（残差值预测） 5.预测区间：
predictnl 预测变量名=predict(xb),ci(lb1 ub1) l(95) (均值预测区间)
adjust x=22001,stdf ci(个别值预测区间)
2.简单回归模型
计量经济学导论：刘愿
15
简单回归模型的定义
在简单线性回归模型y = 0 + 1x + u中, 我们