计量经济学第2章 一元线性回归模型
一元线性回归模型
几个常用结果以及注释 1. Σei =0
2. Σei
Xi=0
3.样本回归方程过（ X , Y ）点 样本回归方程过（ 4.截距为0的一元线性回归模型参数估 计式 一元线性回归模型参数估计举例（ P23页）
四、估计量的统计学性质
1. 线性性：b , b 都是Yi的线性函数。
0 1
∑ x y = ∑ x (Y Y ) = ∑ x Y b = ∑ x ∑ x ∑ x ∑ xY = ∑ x x 令： K = 则： b = ∑ K Y 是 Y ∑ x
4.线性回归模型 的普遍性
在实际经济分析中,由于经济变量之间的关系 在实际经济分析中 由于经济变量之间的关系 往往是非常复杂的,所以直接的精确线性模型是较 往往是非常复杂的 所以直接的精确线性模型是较 所以直接的精确线性模型 少的。 少的。 但是，由于第一，线性模型比较容易研究；第 但是，由于第一，线性模型比较容易研究； 二，现实经济分析中许多非线性问题可以经过简 单的数学处理转化为线性模型；第三， 单的数学处理转化为线性模型；第三，非线性模 型的分析基础是线性模型。 型的分析基础是线性模型。 所以，我们研究的思路是先学习线性回归模型， 所以，我们研究的思路是先学习线性回归模型， 然后学习非线性问题。 然后学习非线性问题。
表示 Xi ，Yi…… 离差形式用小写字母表示 xi ，yi……
三、举例说明
计量经济学模型为什么引入随机扰动项ui ？ 例题：需求模型 如前所述需求量Q受到商品价格P、当期 收入Yt 、其它商品价格P1 、前期收入Y t-1 、 经济政策G 、……等因素影响。所以， Q=f（P、 Y t 、P1、Y t-1、G……）
i i i i i 1 2 2 2 i i i i i 2 i i i 2 1 i i i
计量经济学第二章--一元线性回归模型
2 、同方差假定：每一个随机误差项的方差为常数，即:
经 济
Var(Yi ) Var(i ) 2 (常数)
学
该假定表明：给定X对应的每个条件
分布都是同方差的，每个Y值以相同
的分布方式在它的期望值E(Y)附近波
动
10
3、无自相关假定：任意两个随机误差项之间不相关，用数学
形式表示为：
Cov(i, j ) E (i E(i ))( j E( j )) 0
)
xiYi Y xi2
xi
xi 0
bˆ1
xiYi xi2
(bˆi
x12
x1Y1 x22
xn2
x12
x2Y2 x22
xn2
...
x12
xnYn x22
xn2
)
19
令
ki
xi xi2
则
bˆi
kiYi
(1) k i
(
xi xi2
)
xi xi2
0
计 量 经 ki的性质 济 学
2 n
2k1k21 2
2kn1kn n1 n
)
量
经
k12
E
(12
)
k22
E
(
2 2
)
kn2
E
(
2 n
)
2k1k2
E
(1
2
)
2kn
1kn
E
(
n1
n
)
济
学 由古典线性回归模型的假定可知，对每一个随机变量，有
E(i2) 2, E(i j ) 0(当i j时)
Var(bˆ1)
k12 E (12
计量经济学复习
第二章 一元线性回归模型1.随机误差项形成的原因：① 在解释变量中被忽略的因素 ② 变量观测值的观测误差 ③ 模型的关系误差或设定误差 ④ 其他随机因素的影响。
2.总体回归方程和样本回归方程的区别和联系：总体回归方程是对总体变量间关系的定量表述,条件均值E(Y|X=x)是x 的一个函数 ,记作:E(Y|X=x)=f(x),其中,f(x)为x 的某个函数 ,它表明在X=x 下,Y 的条件均值与x 之间的关系。
但实际中往往不可能得到总体的全部资料 ,只能先从总体中抽取一个样本,获得样本回归方程 ,并用它对总体回归方程做出统计推断。
通过样本回归方程按照一定的准则近似地估计总体回归方程 ,但由于样本回归方程随着样本的不同而有所不同,所以这种高估或低估是不可避免的。
3.随机误差项的假定条件：（1）零均值：随机误差项具有零均值，即E( )=0，i=1，2，… （2）随机误差项具有同方差： 即每个 对应的随机误差项 具有相同的常数方差。
Var( )=Var( )= ，i=1,2，… （3）无序列相关：即任意两个 和 所对应的随机误差项 、 是不相关的。
Cov( , )=E( )=0,i j,i,j=1,2,… （4）解释变量X 是确定性变量，与随机误差项不相关。
Cov( , )=E( )=0，此假定保证解释变量X 是非随机变量。
（5） 服从正态分布， ～N(0, )4.为什么用决定系数 评价拟合优度，而不用残差平方和作为评价标准？判定系数 = = 1- ，含义为由解释变量引起的被解释变量的变化占被解释变量总变化的比重,用来判定回归直线拟合的优劣。
该值越大说明拟合得越好。
而残差平方和值的大小受变量值大小的影响,不适合具有不同量纲的模型的比较。
5.可决系数 说明了什么？在简单线性回归中它与斜率系数的t 检验的关系是什么？可决系数 是对模型拟合优度的综合度量 ,其值越大,说明在Y 的总变差中由模型作出了解释的部分占得比重越大 ,模 型的拟合优度越高 ,模型总体线性关系的显著性越强。
计量经济学第二章 一元线性回归模型(1)(肖)
10
2．在经济学中，经济学家要研究个人
消费支出与个人可支配收入的依赖关系。
这种分析有助于估计边际消费倾向，就是
可支配收入每增加一元引起消费支出的平
均变化。
11
3．在企业中，我们很想知道人们对企
业产品的需求与广告费开支的关系。这种
研究有助于估计出相对于广告费支出的需
求弹性，即广告费支出每变化百分之一的
（2.3）
想想：结合表2.1的资料 ，怎样理解式（2.3）
变量Y 的原因， 给定变量X 的值也不能具
体确定变量Y的值， 而只能确定变量Y 的
统计特征，通常称变量X 与Y 之间的这种
关系为统计关系。
16
例如，企业总产出Y 与企业的资本投入
K 、劳动力投入L 之间的关系就是统计关 系。虽然资本K 和劳动力L 是影响产出Y 的两大核心要素，但是给定K 、L 的值并 不能确定产出Y 的值。因为，总产出Y 除 了受资本投入K、劳动力投入L 的影响外
在进入正式的回归理论之前，先斟酌一下变量y与变 量x可以互换的不同名称、术语。 Y 因变量 X 自变量
被解释变量 响应变量
被预测变量
解释变量 控制变量
预测变量
回归子
归回元
22
第二节
一、引例
一元线性回归模型
假定我们要研究一个局部区域的居 民消费问题，该区域共有80户家庭组成 ，将这80户家庭视为一个统计总体。
32
函数f (Xi)采取什么函数形式，是一个
需要解决的重要问题。在实际经济系统
中，我们不会得到总体的全部数据，因
而就无法据已知数据确定总体回归函数 的函数形式。同时，对总体回归函数的 形式只能据经济理论与经验去推断。
第二章 一元线性回归模型(本科生计量经济学)
即：正规方程组揭示的是残差的性质。
26
普通最小二乘估计有关 的其他性质（课后习题）
Y Y
^
e Y e y
i ^ i
^
i
0 0
27
i
2、由普通最小二乘估计系数的性质可证
得普通最小二乘估计与参数的关系如下：
1 1 k i u i
^
0 0 wi ui
（ 1） （ 2）
（ 1）
0 Y 1 X
^
^
Y
1 n
Y , X X
i 1 i 1 n i 1
n
n
i
18
参数的普通最小二乘估计量
ˆ ˆ X )0 (Yi 0 1 i ˆ ˆ X )X 0 ( Y i 0 1 i i
^
33
三、一元线性回归模型参数的最大似 然法(Maximum Likehood,ML)估计
• 基本原理：似然原理
• 一元线性回归模型ML使用的条件：已知随机扰动 项的分布。
34
Y1 , Y2 ,...,Yn
1 f (Yi ) e 2
1 2
1 2
2
Yi ~ N (0 1 X i , 2 )
w 1
i
22
普通最小二乘估计的例
年份
1991 1992 1993 1994
ED(X)
708 793 958 1278
FI(Y)
3149 3483 4349 5218
ed(x)
-551 -466 -301 19
fi(y)
-2351 -2017 -1151 -282
第二章 一元线性回归
n ei 0 i 1 n xe 0 i i i 1
经整理后,得正规方程组
n n ˆ ˆ n ( x ) 0 i 1 yi i 1 i 1 n n n ( x ) ˆ ( x 2 ) ˆ xy i 0 i 1 i i i 1 i 1 i 1
y ˆ i 0 1xi ˆi 之间残差的平方和最小。 使观测值 y i 和拟合值 y
ei y i y ˆi
n
称为yi的残差
ˆ , ˆ ) ˆ ˆ x )2 Q( ( y i 0 1i 0 1
i 1
min ( yi 0 1 xi ) 2
i
xi x
2 ( x x ) i i 1 n
yi
2 .3 最小二乘估计的性质
二、无偏性
ˆ ) E ( 1
i 1 n
n
xi x
2 ( x x ) j j 1 n
其中用到
E ( yi )
( x x) 0 (xi x) xi (xi x)2
二、用统计软件计算
1．例2.1 用Excel软件计算
什么是P 值?(P-value)
• P 值即显著性概率值 ，Significence Probability Value
•
是当原假设为真时所得到的样本观察结果或更极端情况 出现的概率。
P值与t值： P t t值 P值
•
它是用此样本拒绝原假设所犯弃真错误的真实概率，被 称为观察到的(或实测的)显著性水平。P值也可以理解为 在零假设正确的情况下，利用观测数据得到与零假设相 一致的结果的概率。
2 .1 一元线性回归模型
计量经济学第二篇一元线性回归模型
第二章 一元线性回归模型2.1 一元线性回归模型的基本假定有一元线性回归模型（统计模型）如下， y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。
其中y t 称被解释变量（因变量），x t 称解释变量（自变量），u t 称随机误差项，β0称常数项，β1称回归系数（通常未知）。
上模型可以分为两部分。
（1）回归函数部分，E(y t ) = β0 + β1 x t ,（2）随机部分，u t 。
图2.1 真实的回归直线这种模型可以赋予各种实际意义，居民收入与支出的关系；商品价格与供给量的关系；企业产量与库存的关系；身高与体重的关系等。
以收入与支出的关系为例。
假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。
但实际上数据来自各个家庭，来自同一收入水平的家庭，受其他条件的影响，如家庭子女的多少、消费习惯等等，其出也不尽相同。
所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。
“线性”一词在这里有两重含义。
它一方面指被解释变量Y 与解释变量X 之间为线性关系，即另一方面也指被解释变量与参数0β、1β之间的线性关系，即。
1ty x β∂=∂，221ty β∂=∂0 ，1ty β∂=∂，2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。
所以在经济问题上“控制其他因素不变”是不可能的。
随机误差项u t 正是计量模型与其它模型的区别所在，也是其优势所在，今后咱们的很多内容，都是围绕随机误差项u t 进行了。
回归模型的随机误差项中一般包括如下几项内容： （1）非重要解释变量的省略，（2）数学模型形式欠妥， （3）测量误差等，（4）随机误差（自然灾害、经济危机、人的偶然行为等）。
2.1.3 一元线性回归模型的基本假定通常线性回归函数E(y t ) = β0 + β1 x t 是观察不到的，利用样本得到的只是对E(y t ) =β0 + β1 x t 的估计，即对β0和β1的估计。
第二章 一元线性回归模型 知识点
第二章一元线性回归模型一、知识点列表二、关键词1、回归分析基本概念关键词：回归分析在计量经济学中，回归分析方法是研究某一变量关于另一（些）变量间数量依赖关系的一种方法，即通过后者观测值或预设值来估计或预测前者的（总体）均值。
回归的主要作用是用来描述自变量与因变量之间的数量关系，还能够基于自变量的取值变化对因变量的取值变化进行预测，也能够用来揭示自变量与因变量之间的因果关系关键词：解释变量、被解释变量影响被解释变量的因素或因子记为解释变量，结果变量被称为被解释变量。
2、回归模型的设定关键词：随机误差项（随机干扰项）不包含在模型中的解释变量和其他一些随机因素对被解释变量的总影响称为随机误差项。
产生随机误差项的原因主要有：（1）变量选择上的误差；（2）模型设定上的误差；（3）样本数据误差；（4）其他原因造成的误差。
关键词：残差项（residual ）通过样本数据对回归模型中参数估计后，得到样本回归模型。
通过样本回归模型计算得到的样本估计值与样本实际值之差，称为残差项。
也可以认为残差项是随机误差项的估计值。
3、一元线性回归模型中对随机干扰项的假设 关键词：线性回归模型经典假设线性回归模型经典假设有5个，分别为：（1）回归模型的正确设立；（2）解释变量是确定性变量，并能够从样本中重复抽样取得；（3）解释变量的抽取随着样本容量的无限增加，其样本方差趋于非零有限常数；（4）给定被解释变量，随机误差项具有零均值，同方差和无序列相关性。
（5）随机误差项服从零均值、同方差的正态分布。
前四个假设也称为高斯马尔科夫假设。
4、最小二乘估计量的统计性质关键词：普通最小二乘法（Ordinary Least Squares ，OLS ）普通最小二乘法是通过构造合适的样本回归函数，从而使得样本回归线上的点与真实的样本观测值点的“总体误差”最小，即：被解释变量的估计值与实际观测值之差的平方和最小。
ββ==---∑∑∑nn n222i i 01ii=111ˆˆmin =min ()=min ()i i i i u y y y x关键词：无偏性由于未知参数的估计量是一个随机变量，对于不同的样本有不同的估计量。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
ˆ2 ˆ2
) )
ˆ2
0 0
6
Q(ˆ1, ˆ2 ˆ1
Q(ˆ1, ˆ2 ) ˆ2
) [ [
(Yi
ˆ1 ˆ1
ˆ2
X
i
)2
]
2
(Yi
ˆ1 ˆ2
ˆ2
X
i
)2
]
2
Yi ˆ1 ˆ2 X i Yi ˆ1 ˆ2 X i X i
Yi ˆ1 ˆ2 X i 0 Yi ˆ1 ˆ2 X i X i 0
全为零，线性性得证。 i
• ˆ的1 线性性可利用 的ˆ2线性性得到。
ˆ1
Y
ˆ2 X
1 n
i
Yi X
i
biYi
i
(
1 n
Xbi
)Yi
• 可记为
ˆ1 WiYi
i
这表明 同ˆ1 样是Yi的线性组合，其中Wi也不全为零，线性
性也得到证明。
12
• 2.无偏性
• 无偏性指ˆ1和的ˆ2数学期望分别等于总体回归系数的值β1和
5
• 下面用最小二乘法求总体回归系数β1、β2的估计 值 ˆ1和。ˆ2 即令
min Q(ˆ1, ˆ2 ) ei2 (Yi Yˆi )2 [Yi (ˆ1 ˆ2 Xi )]2
i
i
i
• 根据微积分多元函数极值原理，要使上式达到最
小，对ˆ1和ˆ2 的一阶偏导数都等于零，即
Q(ˆ1,
ˆ1 Q(ˆ1,
归模型的基本假定。
4
§2.2 一元线性回归模型的参数估计
• 1.普通最小二乘法（OLS）
• 总体回归模型：
Yi 1 2 X i ui
• 总体回归方程：
E(Yi ) 1 2 X i
• 样本回归模型：
Yi ˆ1 ˆ2 Xi ei
• 样本回归方程：
Yˆi ˆ1 ˆ2 Xi
i 1,2,...,n
i
Xi
Y 1 n
i
Yi
8
• 2.几个常用的结果
• （1）
ei 0
• （2）
ei Xi 0
• （3）
ˆ1 Y ˆ2 X
• （4）
Yˆ Y
Y ˆ1 ˆ2 X
9
• 3.截距为零的一元线性回归模型的参数估计
• 一元线性回归模型的一般形式为
Yi X i ui
• 当ui满足假定条件时，β的最小二乘估计量为
β2，即
E(ˆ1) 1 E(ˆ2 ) 2
• 证明：
E(ˆ2 ) E( biYi ) E( bi (1 2 X i ui ))
i
i
E( bi1) E( bi2 X i ) E( biui )
i
i
i
1 bi 2 bi X i bi E(ui )
i
i
i
0 2 0 2
正规方程组
ˆ1
nˆ1 ˆ2 X i ˆ2
X i Yi
X
2 i
X iYi
7
• 求解得到：
n XiYi Xi Yi
xi yi
ˆ2
i
n
i
X
2 i
(
i
Xi )2
i
xi2
i
i
i
ˆ1
1 n
(
Yi ˆ2
X i ) Y ˆ2 X
xi X n
i
i
i
1 0 0 1
• 即ˆ1是β1的无偏估计。
14
• 3.最小方差性 • 最小方差性，即在β1和β2所有可能的线性无偏估
计中，最小二乘估计 ˆ的1和方ˆ2差最小。 • 证估Va明计r(思，ˆ)2路设≤V：法ar假证( 设明)~。满2~1这和足是两V~2βa个1r和(不β)等≤2的V式aˆ任1的r(意证)其明和他相线似~1 性，无因偏
• (3)Cov(uiuj)=E[ui-E(ui)]E[μj-E(uj)]
•
=E(uiuj)= 0，i≠j
• (4)Cov(ui,Xi)=E[ui-E(ui)]E[Xi-E(Xi)]
•
=E(uiXi)=0，i=1,2,…
• (5)ui服从正态分布,即ui～N(0,σu2)
• 前五条称为线性回归分析的经典假设条件，是古典线性回
• 即ˆ是2 参数真实值β2的无偏估计得到了证明。推导
13
• 同样地，证明 ˆ的1 无偏性。
E(ˆ1) E( WiYi ) E( Wi (1 2 X i ui ))
i
i
E( Wi 1) E( Wi 2 X i ) E( Wiui )
i
i
i
1 Wi 2 Wi X i Wi E(ui )
i
Yi ( X i X ) (Xi X )2
i
Y (Xi X) (Xi X )2
i
i
i
[ i
Xi X (Xi X
)2
]Yi
xi xi2
Yi
i
• 其中
Y (Xi X ) Y
i
i
Xi
nYX
1 n
i
Yi
i
Xi
n
1 n
i
Yi
1 n
i
Xi 0
11
• 前面的式子可记为 ˆ2 表b明iYi 是Yi的线性组合，其中bi不
2
•
Y
•
0
X
• Yi’=β1+β2Xi表示X与Y之间的线性部分，称作总体回归直线。 • 样本值与回归直线的偏离ui表示对这种线性关系的随机扰动。 • 即ui= Yi-Yi’ （i=1,2,…,n）
3
• 3.随机误差项的假定条件
• (1)E(ui)=0，i=1,2,…
• (2)Var(ui)=E[ui-E(ui)]2=E(ui2)=σu2, i=1,2,…
法的主要内容。
1
• 2.一元线性回归模型
• 例如：Yi=β1+β2Xi +ui • 其中Yi某市城镇居民年人均鲜蛋需求量，称作被解释变量； • Xi某市城镇居民年人均可支配收入，称作解释变量； • ui随机误差项（随机扰动项或随机项、误差项）； • β1、β2回归系数（待定系数或待定参数）。 • 随机误差项ui中一般包括以下几个方面的因素： • （1）回归模型中省略的变量； • （2）人们的随机行为； • （3）建立的数学模型的形式不够完善； • （4）测量误差。
第2章 一元线性回归模型
§2.1 模型的建立及其假定条件
• 1.回归分析的概念
• 回归分析是处理变量与变量之间关系的一种数学关系。 • 经济变量之间的关系，一般分为两类： • 一类是变量之间存在的确定函数关系；Yi=PXi • 另一类是变量之间存在着非确定的依赖关系。
Yi=f(Xi)+ui • 回归分析的理论和方法是计量经济模型估计理论和估计方
X iYi
ˆ
i
X
2 i
i
10
§2.3 最小二乘估计量的统计性质
• 1.线性性
• 最小二乘估计量ˆ1和均ˆ是2 Yi的线性函数，即可以表示为Yi
的线性组合。
• 证明：
ˆ1 WiYi , ˆ2 biYi
ˆ2
xi yi xi2
i
(Yi Y )( X i X ) (Xi X )2