计量经济学第2章 一元线性回归模型
计量经济学第二章(第一部分)
i= 1
同
上
该准则消除了正负误差抵消，其缺点是：
不能保证找到的直线具有无偏性。如：
+2 －1
－1
+3
0 0
3 Yi -Yˆ i = 4
3
2
Yi -Yˆ i =6
i=1
i=1
3
3
2
Yi -Yˆ i = 3
Yi -Yˆ i =9
i=1
i=1
33 计量经济学
（3）使得
13 计量经济学
Y i01X iui,i1,2n,..., 同
上
其中 0，1 称为回归参数；u为随机误差 项； X称为解释变量；Y称为被解释变量。 “一元”是指：只有一个解释变量；
14 计量经济学
Y i01X iui,i1,2n,..., 同
上
“线性”包含：
被解释变量与间 解为 释线 变性 量关系
量Y的影响；
16 计量经济学
同 上
（2）变量观测值的观测误差的影响； （3）模型数学形式的设定误差影响； （4）其它随机因素的影响。
17 计量经济学
同 上
2、随机误差项u的特性
（1）对被解释变量Y的影响方向，有正有负；
（2）由于代表次要因素，因此，对Y的总平
均影响可视为零；
（3）对被解释变量Y的影响是非趋势的，是
假定2、3统称为高斯－马尔可夫假定。
23 计量经济学
假定4 cov(Xi,ui)=Exiui＝0 ,
假
定
i=1,2,…,n且X为确定性变量，而非 4
随机变量。
如果解释变量X是确定性变量而非随机变 量该假定自动成立，即EXi＝Xi ，EXiui＝ XiEui= 0 。该假定表明X与u不相关。因 为在模型中u包含了除X对Y的影响外其它 因素对Y的影响，因此应与X对Y的影响分 开。
计量经济学复习
第二章 一元线性回归模型1.随机误差项形成的原因：① 在解释变量中被忽略的因素 ② 变量观测值的观测误差 ③ 模型的关系误差或设定误差 ④ 其他随机因素的影响。
2.总体回归方程和样本回归方程的区别和联系：总体回归方程是对总体变量间关系的定量表述,条件均值E(Y|X=x)是x 的一个函数 ,记作:E(Y|X=x)=f(x),其中,f(x)为x 的某个函数 ,它表明在X=x 下,Y 的条件均值与x 之间的关系。
但实际中往往不可能得到总体的全部资料 ,只能先从总体中抽取一个样本,获得样本回归方程 ,并用它对总体回归方程做出统计推断。
通过样本回归方程按照一定的准则近似地估计总体回归方程 ,但由于样本回归方程随着样本的不同而有所不同,所以这种高估或低估是不可避免的。
3.随机误差项的假定条件：（1）零均值：随机误差项具有零均值，即E( )=0，i=1，2，… （2）随机误差项具有同方差： 即每个 对应的随机误差项 具有相同的常数方差。
Var( )=Var( )= ，i=1,2，… （3）无序列相关：即任意两个 和 所对应的随机误差项 、 是不相关的。
Cov( , )=E( )=0,i j,i,j=1,2,… （4）解释变量X 是确定性变量，与随机误差项不相关。
Cov( , )=E( )=0，此假定保证解释变量X 是非随机变量。
（5） 服从正态分布， ～N(0, )4.为什么用决定系数 评价拟合优度，而不用残差平方和作为评价标准？判定系数 = = 1- ，含义为由解释变量引起的被解释变量的变化占被解释变量总变化的比重,用来判定回归直线拟合的优劣。
该值越大说明拟合得越好。
而残差平方和值的大小受变量值大小的影响,不适合具有不同量纲的模型的比较。
5.可决系数 说明了什么？在简单线性回归中它与斜率系数的t 检验的关系是什么？可决系数 是对模型拟合优度的综合度量 ,其值越大,说明在Y 的总变差中由模型作出了解释的部分占得比重越大 ,模 型的拟合优度越高 ,模型总体线性关系的显著性越强。
计量经济学第二章 一元线性回归模型(1)(肖)
10
2．在经济学中，经济学家要研究个人
消费支出与个人可支配收入的依赖关系。
这种分析有助于估计边际消费倾向，就是
可支配收入每增加一元引起消费支出的平
均变化。
11
3．在企业中，我们很想知道人们对企
业产品的需求与广告费开支的关系。这种
研究有助于估计出相对于广告费支出的需
求弹性，即广告费支出每变化百分之一的
（2.3）
想想：结合表2.1的资料 ，怎样理解式（2.3）
变量Y 的原因， 给定变量X 的值也不能具
体确定变量Y的值， 而只能确定变量Y 的
统计特征，通常称变量X 与Y 之间的这种
关系为统计关系。
16
例如，企业总产出Y 与企业的资本投入
K 、劳动力投入L 之间的关系就是统计关 系。虽然资本K 和劳动力L 是影响产出Y 的两大核心要素，但是给定K 、L 的值并 不能确定产出Y 的值。因为，总产出Y 除 了受资本投入K、劳动力投入L 的影响外
在进入正式的回归理论之前，先斟酌一下变量y与变 量x可以互换的不同名称、术语。 Y 因变量 X 自变量
被解释变量 响应变量
被预测变量
解释变量 控制变量
预测变量
回归子
归回元
22
第二节
一、引例
一元线性回归模型
假定我们要研究一个局部区域的居 民消费问题，该区域共有80户家庭组成 ，将这80户家庭视为一个统计总体。
32
函数f (Xi)采取什么函数形式，是一个
需要解决的重要问题。在实际经济系统
中，我们不会得到总体的全部数据，因
而就无法据已知数据确定总体回归函数 的函数形式。同时，对总体回归函数的 形式只能据经济理论与经验去推断。
第二章 一元线性回归模型(本科生计量经济学)
即：正规方程组揭示的是残差的性质。
26
普通最小二乘估计有关 的其他性质（课后习题）
Y Y
^
e Y e y
i ^ i
^
i
0 0
27
i
2、由普通最小二乘估计系数的性质可证
得普通最小二乘估计与参数的关系如下：
1 1 k i u i
^
0 0 wi ui
（ 1） （ 2）
（ 1）
0 Y 1 X
^
^
Y
1 n
Y , X X
i 1 i 1 n i 1
n
n
i
18
参数的普通最小二乘估计量
ˆ ˆ X )0 (Yi 0 1 i ˆ ˆ X )X 0 ( Y i 0 1 i i
^
33
三、一元线性回归模型参数的最大似 然法(Maximum Likehood,ML)估计
• 基本原理：似然原理
• 一元线性回归模型ML使用的条件：已知随机扰动 项的分布。
34
Y1 , Y2 ,...,Yn
1 f (Yi ) e 2
1 2
1 2
2
Yi ~ N (0 1 X i , 2 )
w 1
i
22
普通最小二乘估计的例
年份
1991 1992 1993 1994
ED(X)
708 793 958 1278
FI(Y)
3149 3483 4349 5218
ed(x)
-551 -466 -301 19
fi(y)
-2351 -2017 -1151 -282
第二章 一元线性回归
n ei 0 i 1 n xe 0 i i i 1
经整理后,得正规方程组
n n ˆ ˆ n ( x ) 0 i 1 yi i 1 i 1 n n n ( x ) ˆ ( x 2 ) ˆ xy i 0 i 1 i i i 1 i 1 i 1
y ˆ i 0 1xi ˆi 之间残差的平方和最小。 使观测值 y i 和拟合值 y
ei y i y ˆi
n
称为yi的残差
ˆ , ˆ ) ˆ ˆ x )2 Q( ( y i 0 1i 0 1
i 1
min ( yi 0 1 xi ) 2
i
xi x
2 ( x x ) i i 1 n
yi
2 .3 最小二乘估计的性质
二、无偏性
ˆ ) E ( 1
i 1 n
n
xi x
2 ( x x ) j j 1 n
其中用到
E ( yi )
( x x) 0 (xi x) xi (xi x)2
二、用统计软件计算
1．例2.1 用Excel软件计算
什么是P 值?(P-value)
• P 值即显著性概率值 ，Significence Probability Value
•
是当原假设为真时所得到的样本观察结果或更极端情况 出现的概率。
P值与t值： P t t值 P值
•
它是用此样本拒绝原假设所犯弃真错误的真实概率，被 称为观察到的(或实测的)显著性水平。P值也可以理解为 在零假设正确的情况下，利用观测数据得到与零假设相 一致的结果的概率。
2 .1 一元线性回归模型
计量经济学第二篇一元线性回归模型
第二章 一元线性回归模型2.1 一元线性回归模型的基本假定有一元线性回归模型（统计模型）如下， y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。
其中y t 称被解释变量（因变量），x t 称解释变量（自变量），u t 称随机误差项，β0称常数项，β1称回归系数（通常未知）。
上模型可以分为两部分。
（1）回归函数部分，E(y t ) = β0 + β1 x t ,（2）随机部分，u t 。
图2.1 真实的回归直线这种模型可以赋予各种实际意义，居民收入与支出的关系；商品价格与供给量的关系；企业产量与库存的关系；身高与体重的关系等。
以收入与支出的关系为例。
假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。
但实际上数据来自各个家庭，来自同一收入水平的家庭，受其他条件的影响，如家庭子女的多少、消费习惯等等，其出也不尽相同。
所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。
“线性”一词在这里有两重含义。
它一方面指被解释变量Y 与解释变量X 之间为线性关系，即另一方面也指被解释变量与参数0β、1β之间的线性关系，即。
1ty x β∂=∂，221ty β∂=∂0 ，1ty β∂=∂，2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。
所以在经济问题上“控制其他因素不变”是不可能的。
随机误差项u t 正是计量模型与其它模型的区别所在，也是其优势所在，今后咱们的很多内容，都是围绕随机误差项u t 进行了。
回归模型的随机误差项中一般包括如下几项内容： （1）非重要解释变量的省略，（2）数学模型形式欠妥， （3）测量误差等，（4）随机误差（自然灾害、经济危机、人的偶然行为等）。
2.1.3 一元线性回归模型的基本假定通常线性回归函数E(y t ) = β0 + β1 x t 是观察不到的，利用样本得到的只是对E(y t ) =β0 + β1 x t 的估计，即对β0和β1的估计。
第二章 一元线性回归模型 知识点
第二章一元线性回归模型一、知识点列表二、关键词1、回归分析基本概念关键词：回归分析在计量经济学中，回归分析方法是研究某一变量关于另一（些）变量间数量依赖关系的一种方法，即通过后者观测值或预设值来估计或预测前者的（总体）均值。
回归的主要作用是用来描述自变量与因变量之间的数量关系，还能够基于自变量的取值变化对因变量的取值变化进行预测，也能够用来揭示自变量与因变量之间的因果关系关键词：解释变量、被解释变量影响被解释变量的因素或因子记为解释变量，结果变量被称为被解释变量。
2、回归模型的设定关键词：随机误差项（随机干扰项）不包含在模型中的解释变量和其他一些随机因素对被解释变量的总影响称为随机误差项。
产生随机误差项的原因主要有：（1）变量选择上的误差；（2）模型设定上的误差；（3）样本数据误差；（4）其他原因造成的误差。
关键词：残差项（residual ）通过样本数据对回归模型中参数估计后，得到样本回归模型。
通过样本回归模型计算得到的样本估计值与样本实际值之差，称为残差项。
也可以认为残差项是随机误差项的估计值。
3、一元线性回归模型中对随机干扰项的假设 关键词：线性回归模型经典假设线性回归模型经典假设有5个，分别为：（1）回归模型的正确设立；（2）解释变量是确定性变量，并能够从样本中重复抽样取得；（3）解释变量的抽取随着样本容量的无限增加，其样本方差趋于非零有限常数；（4）给定被解释变量，随机误差项具有零均值，同方差和无序列相关性。
（5）随机误差项服从零均值、同方差的正态分布。
前四个假设也称为高斯马尔科夫假设。
4、最小二乘估计量的统计性质关键词：普通最小二乘法（Ordinary Least Squares ，OLS ）普通最小二乘法是通过构造合适的样本回归函数，从而使得样本回归线上的点与真实的样本观测值点的“总体误差”最小，即：被解释变量的估计值与实际观测值之差的平方和最小。
ββ==---∑∑∑nn n222i i 01ii=111ˆˆmin =min ()=min ()i i i i u y y y x关键词：无偏性由于未知参数的估计量是一个随机变量，对于不同的样本有不同的估计量。
计量经济学习题第2章-一元线性回归模型
第2章 一元线性回归模型一、单项选择题1、变量之间的关系可以分为两大类__________。
A 函数关系与相关关系B 线性相关关系和非线性相关关系C 正相关关系和负相关关系D 简单相关关系和复杂相关关系 2、相关关系是指__________。
A 变量间的非独立关系B 变量间的因果关系C 变量间的函数关系D 变量间不确定性的依存关系 3、进行相关分析时的两个变量__________。
A 都是随机变量B 都不是随机变量C 一个是随机变量，一个不是随机变量D 随机的或非随机都可以 4、表示x 和y 之间真实线性关系的是__________。
A 01ˆˆˆt tY X ββ=+ B 01()t t E Y X ββ=+ C 01t t t Y X u ββ=++ D 01t t Y X ββ=+5、参数β的估计量ˆβ具备有效性是指__________。
A ˆvar ()=0βB ˆvar ()β为最小C ˆ()0ββ－＝ D ˆ()ββ－为最小 6、对于01ˆˆi i iY X e ββ=++，以σˆ表示估计标准误差，Y ˆ表示回归值，则__________。
A i i ˆˆ0Y Y 0σ∑＝时，（－）＝B 2iiˆˆ0Y Y σ∑＝时，（－）＝0 C ii ˆˆ0Y Y σ∑＝时，（－）为最小 D 2iiˆˆ0Y Yσ∑＝时，（－）为最小 7、设样本回归模型为i 01i i ˆˆY =X +e ββ+，则普通最小二乘法确定的i ˆβ的公式中，错误的是__________。
A ()()()i i 12iX X Y -Y ˆX X β--∑∑＝B ()i iii122iin X Y -X Y ˆn X -X β∑∑∑∑∑＝C ii122iX Y -nXY ˆX -nXβ∑∑＝ D i i ii12xn X Y -X Y ˆβσ∑∑∑＝8、对于i 01i iˆˆY =X +e ββ+，以ˆσ表示估计标准误差，r 表示相关系数，则有__________。
第2章一元线性回归模型
一元线性回归模型
回归分析是计量经济学的基础内容！
本章介绍一元线性回归模型，最小二乘估计方法及 其性质，参数估计的假设检验、预测等。
浙江财经大学 倪伟才
1
本章主要内容
2 .1 一元线性回归模型
2 .2 参数β0、β1的估计
2 .3 最小二乘估计的性质
2 .4 回归方程的显著性检验 2 .5 残差分析 2 .6 回归系数的区间估计
浙江财经大学 倪伟才 10
回归的术语
y的各种名称： 因变量(dependent variable)或被解释变量 (explained variable)或回归子(regressand)或内 生(endogenous)； X的各种名称： 自变量(independent variable)或解释变量 (explanatory variable)或回归元(regressor)或外 生(exogenous) U的各种名称： 随机误差项或随机扰动项(stochastic error term, random disturbance term ): 表示其它因素的影响，是不可观测的随机误差！
浙江财经大学 倪伟才
9
2.1一元线性回归模型
由于两个变量y, x具有明显的线性关系，故考虑直 线方程y=0+1x（函数表达的是确定性关系，有缺 陷！） y=0+1x+u, 其中u表示除x外，影响y的其它一切 因素。 将y与x之间的关系用两部分来描述： a. 一部分0+1x ，由x的变化引起y变化； b.另一部分u ，除x外的其它一切因素引起y变化。 参数(parameters) 0 , 1 ; 0 称为回归常数(截距)（intercept, constant）， 1称为回归斜率(slope)
第二章 一元线性回归模型
∂Q ˆ ˆ = −2∑ (Yi − β 0 − β1 X i ) = 0 ∂β ˆ0 ˆ ˆ ∂Q = −2∑ (Y − β − β X )X = 0 i 0 1 i i ˆ ∂β1
化简得： 化简得：
ˆ ˆ ∑ (Yi − β 0 − β1 X i ) = 0 ˆ ˆ ∑ (Yi − β 0 − β1 X i )X i = 0
2.总体回归方程（线）或回归函数 总体回归方程（ 总体回归方程 即对（ ）式两端取数学期望： 即对（2.8）式两端取数学期望：
E y i）= β 0 + β 1 x i （
（2.9）
（2.9）为总体回归方程。由于随机项的影响，所 ）为总体回归方程。由于随机项的影响， 有的点（ ）一般不在一条直线上； 有的点（x,y）一般不在一条直线上；但所有的点 （x,Ey）在一条直线上。总体回归线描述了 与y ）在一条直线上。总体回归线描述了x与 之间近似的线性关系。 之间近似的线性关系。
Yi = β X i + ui
需要估计， 这个模型只有一个参数 需要估计，其最 小二乘估计量的表达式为： 小二乘估计量的表达式为：
∑XY ˆ β= ∑X
i i 2 i
例2.2.1：在上述家庭可支配收入-消费支出例中，对 ：在上述家庭可支配收入-消费支出例中， 于所抽出的一组样本数据， 于所抽出的一组样本数据，参数估计的计算可通过下面 的表2.2.1进行。 进行。 的表 进行
二、一元线性回归模型 上述模型中， 为线性的， 上述模型中， 若f(Xi)为线性的，这时的模型 为线性的 一元线性回归模型： 即为 一元线性回归模型：
yi = β 0 + β1 xi + ui 其中：yi为被解释变量，xi为解释变量，ui为随机误 差项，β 0、β1为回归系数。
计量经济学 第二章 一元线性回归模型
计量经济学第二章一元线性回归模型第二章一元线性回归模型第一节一元线性回归模型及其古典假定第二节参数估计第三节最小二乘估计量的统计特性第四节统计显著性检验第五节预测与控制第一节回归模型的一般描述（1）确定性关系或函数关系：变量之间有唯一确定性的函数关系。
其一般表现形式为：一、回归模型的一般形式变量间的关系经济变量之间的关系，大体可分为两类：（2.1)（2）统计关系或相关关系：变量之间为非确定性依赖关系。
其一般表现形式为：(2.2)例如：函数关系：圆面积S =统计依赖关系/统计相关关系：若x和y之间确有因果关系，则称(2.2)为总体回归模型，x(一个或几个）为自变量（或解释变量或外生变量），y为因变量（或被解释变量或内生变量），u为随机项，是没有包含在模型中的自变量和其他一些随机因素对y的总影响。
一般说来，随机项来自以下几个方面：1、变量的省略。
由于人们认识的局限不能穷尽所有的影响因素或由于受时间、费用、数据质量等制约而没有引入模型之中的对被解释变量有一定影响的自变量。
2、统计误差。
数据搜集中由于计量、计算、记录等导致的登记误差；或由样本信息推断总体信息时产生的代表性误差。
3、模型的设定误差。
如在模型构造时，非线性关系用线性模型描述了；复杂关系用简单模型描述了；此非线性关系用彼非线性模型描述了等等。
4、随机误差。
被解释变量还受一些不可控制的众多的、细小的偶然因素的影响。
若相互依赖的变量间没有因果关系，则称其有相关关系。
对变量间统计关系的分析主要是通过相关分析、方差分析或回归分析(regression analysis)来完成的。
他们各有特点、职责和分析范围。
相关分析和方差分析本身虽然可以独立的进行某些方面的数量分析，但在大多数情况下，则是和回归分析结合在一起，进行综合分析，作为回归分析方法的补充。
回归分析(regression analysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。
计量经济学的2.2 一元线性回归模型的参数估计
ˆ ˆ ˆ ˆ ˆ yi ( 0 1 X i ) ( 0 1 X e ) ˆ 1 ( X i X ) 1 ei n
可得 或
ˆ ˆ y i 1 xi ˆ y x e
i 1 i
（**）
i
why？
（**）式也称为样本回归函数的离差形式。 注意：在计量经济学中，往往以小写字母表示对 均值的离差。
2、如果假设4满足，则假设2也满足。 以上假设也称为线性回归模型的经典假设 或高斯（Gauss）假设，满足该假设的线性回归 模型，也称为经典线性回归模型（Classical Linear Regression Model, CLRM）。
27
线性回归模型的基本假设（5）
假设5、var(X)必须是一个有限的正数。（教材的假 设5） 2
33
这三个准则也称作估计量的小样本性质。
拥有这类性质的估计量称为最佳线性无偏估计 量（best liner unbiased estimator, BLUE）。 当不满足小样本性质时，需进一步考察估计量的 大样本或渐近性质： （4）渐近无偏性，即样本容量趋于无穷大时，是 否它的均值序列趋于总体真值； （5）一致性，即样本容量趋于无穷大时，它是否 依概率收敛于总体的真值； （6）渐近有效性，即样本容量趋于无穷大时，是 否它在所有的一致估计量中具有最小的渐近方差。 34
(X
i
X ) / n Q,
n
意为：在一个给定的样本中，X值不可以全是相同的
如果全部X值都相同，则 X i X ，方程 的分母就变
ˆ ˆ 为零，从而无法估计 1 ，也就无法估计 0 。
又如： 家庭消费支出例子，如果家庭收入很少变动，我们就不能解释 消费支出的变化。读者应该记住，要把回归分析作为一种研究 工具来使用，Y和X两者均有变化是最为重要的。简言之，变量 28 必须在变!
计量经济学第二章经典单方程计量经济学模型：一元线性回归模型
第二章经典单方程计量经济学模型：一元线性回归模型一、内容提要本章介绍了回归分析的基本思想与基本方法。
首先，本章从总体回归模型与总体回归函数、样本回归模型与样本回归函数这两组概念开始，建立了回归分析的基本思想。
总体回归函数是对总体变量间关系的定量表述，由总体回归模型在若干基本假设下得到，但它只是建立在理论之上，在现实中只能先从总体中抽取一个样本，获得样本回归函数，并用它对总体回归函数做出统计推断。
本章的一个重点是如何获取线性的样本回归函数，主要涉及到普通最小二乘法（OLS）的学习与掌握。
同时，也介绍了极人似然估计法（ML）以及矩估计法（MM）。
本章的另一个重点是对样本回归函数能否代表总体回归函数进行统计推断，即进行所谓的统计检验。
统计检验包括两个方面，一是先检验样本回归函数与样本点的“拟合优度”, 第二是检验样本回归函数与总体回归函数的“接近”程度。
后者又包扌舌两个层次：第一，检验解释变量对被解释变量是否存在着显著的线性影响关系，通过变量的t检验完成：第二，检验回归函数与总体回归函数的“接近”程度，通过参数估计值的“区间检验”完成。
本章还有三方面的内容不容忽视。
其一，若干基本假设。
样本回归函数参数的估计以及对参数估计量的统计性质的分析以及所进行的统计推断都是建立在这些基本假设之上的。
其二，参数估计量统计性质的分析，包括小样本性质与大样本性质，尤其是无偏性、有效性与一致性构成了对样本估计量优劣的最主要的衡量准则oGoss-niarkov定理表明OLS估计量是最佳线性无偏估计量。
其三，运用样本回归函数进行预测，包扌舌被解释变量条件均值与个值的预测，以及预测置信区间的计算及其变化特征。
二、典型例题分析例1、令kids表示一名妇女生育孩子的数目，educ表示该妇女接受过教育的年数。
生育率对教育年数的简单回归模型为kids= 00 + P i educ+ “（1）随机扰动项〃包含什么样的因素？它们可能与教育水平相关吗？（2）上述简单回归分析能够揭示教育对生育率在其他条件不变卞的影响吗？请解释。
第二章 一元线性回归模型
__
__
2
/n
★样本相关系数r是总体相关系数 的一致估计
相关系数有以下特点：
• • • • 相关系数的取值在-1与1之间。 （2）当r=0时，线性无关。 （3）若r＞0 ，正相关，若r＜0 ，负相关。 （4）当0＜|r|＜1时，存在一定的线性相关 关系， 越接近于1，相关程度越高。 • （5）当|r|=1时，表明x与y完全线性相关 （线性函数），若r=1，称x与y完全正相关； 若r=-1，称x与y完全负相关。 • 多个变量之间的线性相关程度，可用复相 关系数和偏相关系数去度量。
●假定解释变量X在重复抽样中取固定值。 但与扰动项u是不相关的。(从变量X角度看是外生的)
注意: 解释变量非随机在自然科学的实验研究中相对
Yi 1 2 X i ui
●假定解释变量X是非随机的，或者虽然X是随机的，
容易满足，经济领域中变量的观测是被动不可控的， X非随机的假定并不一定都满足。
E( y xi ) 0 1xi
11
• 可以看出,虽然每个家庭的消费支出存在差 异,但平均来说，家庭消费支出是随家庭可 支配收入的递增而递增的。当x取各种值时, y的条件均值的轨迹接近一条直线,该直线称 为y对x的回归直线。（回归曲线）。 • 把y的条件均值表示为x的某种函数，可写 为：
E( y xi ) 0 1xi
Var ( y xi ) 2
Cov( yi , y j ) 0
y | xi ~ N (0 1xi , )
2
22
第三节 参数估计
• 一、样本回归方程
• 对于
yi 0 1 xi ui
• 在满足古典假定下，两边求条件均值，得到总体 回归函数：
第二章 一元线性回归分析基础
加，消费增加，但消费的增长低于收入的增长，即消
费对收入的弹性小于1。它的数学表述为
Y X
0
Y X
1,
Y X
Y X
其中Y为消费额，X为收入。
该线性方程描述了消费与收入之间的确定关系，即给定 一个收入值，可以根据方程得到一个唯一确定的消费值。 但实际上消费与收入间的关系不是准确实现的。
原因：入随机误差项，将变量之间的关系用一个线性 随机方程来描述，用随机数学的方法来估计方程中的 参数，这就是线性回归模型的特征，也就是线性计量 经济学模型的特征。
二、一元线性回归模型
单方程线性回归模型的一般形式为
Yi 1 2 X2i 3 X3i k Xki ui ,i 1,2, ,n 其中Y为被解释变量，X 2 ,X 3 , ,X n 为解释变量。
化。
如果误差项的方差不同，那么与其对应的观测值Yi的可 靠程度也不相同。这会使参数的检验和利用模型进行预 测复杂化。而满足同方差假设，将使检验和预测简化。
假设3 表示不同的误差项之间互相独立，同时，不同的 被解释变量在统计上也是互相独立的。即
Cov(Yi, Yj)= E(Yi－E(Yi)) (Yj－E(Yj))= E(uiuj)=0， i≠j 假假设设4，自通动常满X足i为，确即定性变量，即非随机变量，此时，该
也可以用显函数形式表示为 Y f ( X1,X 2 , ,X n )
其中最简单的形式为一元线性函数关系。
例如 当某种商品单价P固定不变，其销售收入y与销售 的商品数量x之间的关系为一元线性关系，即y = Px
如果用x，y构成的直角坐标图来表示，上式所表示的 函数关系为一条经过坐标原点的直线，所有可能的点 都在这条直线上。
Cov(ui, Xi)= E(ui－E(ui)) (Xi－E(Xi))=0，i=1,2, ……,n 假设5 随机误差项服从零均值，同方差的正态分布。即
计量经济学(内蒙古大学)第二章一元线性回归模型
内蒙古大学经济管理学院
2、总体回归函数
由于变量间关系的随机性，回归分析关心的是根 据解释变量的已知或给定值，考察被解释变量的总体 均值，即当解释变量取每个确定值时（与自然科学中 控制实验条件相同），与之统计相关的被解释变量所 有可能出现的对应值的平均值。 在给定解释变量Xi的条件下被解释变量Yi的期望轨迹 称为总体回归线（Population regression line）， (2.1.1) 相应的函数（方程） E(Y X i ) f ( X i )
圆面积= f ,r = r 2
经世致用 管人悟道
内蒙古大学经济管理学院
② 统计依赖或相关关系：研究的是非确定现象
例2.1：某一个社区有60户家庭组成，要研究该社区 每月家庭消费支出Y与每月家庭可支配收入X的关系。
某社区每月家庭收入与消费支出查统计表
每月家庭收入 X（元）
800
550 每月 家庭 消费 支出 Y（元） 600 650 700 750 . . 3250 650
注：总体回归函数的具体形式则是根据与 两个变量表明的经济现象之间关系的经济 理论来确定。
经世致用 管人悟道
内蒙古大学经济管理学院
3、随机扰动项
总体回归函数说明在给定的收入水平 X i 下，该社区 家庭平均的消费支出水平。 但对某一个别的家庭，其消费支出可能与该平均水 平有偏差。记：
i Yi E(Y X i ) Yi (0 1 X i ) （2.1.2)
2600
1500 1520 1750 1780 1800 1850 1910 12110 1730
共计 条件均值
经世致用 管人悟道
内蒙古大学经济管理学院分析： Nhomakorabea⑴ 由于不确定因素的影响，对同一收入水平X，不 同家庭的消费支出不完全相同； ⑵ 但由于调查的完备性，给定收入水平X的消费支 出Y的分布是确定的，即以X的给定值为条件的Y的 条件分布（Conditional distribution）是已知的。 因此，给定收入X的值xi，可得消费支出Y的条件 均值（Conditional mean）或条件期望（Conditional expectation）：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
15
~ ~ • 因为 2是β2的线性无偏估计，因此根据线性性， 2 ~ 可以写成下列形式： 2 CiYi
• 其中αi是线性组合的系数，为确定性的数值。则有
E ( 2 ) E[ Ci ( 1 2 X i ui )]
E[ 1 Ci 2 Ci X i Ci ui ]
6
ˆ ˆ X )2 ] ˆ , ˆ ) [ (Yi Q( 1 2 i 1 2 ˆ ˆ X 2 Yi 1 2 i ˆ ˆ 1 1 2 ˆ ˆ ˆ ˆ [ ( Y X ) ] 1 2 i Q( 1 , 2 ) i ˆ ˆ X X 2 Yi 1 2 i i ˆ ˆ 2 2
16
~
i
i
• 因此 ~ 2 CiYi 1 Ci 2 Ci X i Ci ui 2 Ci ui
• 再计算方差Var( ) 2 ，得 ~ ~ ~ 2 ~ Var ( 2 ) E[ 2 E ( 2 )] E ( 2 2 ) 2
C E (ui )
2 i 2 i
i
~
i
i
i
i
E ( 2 Ci ui 2 ) 2 E ( Ci ui ) 2
i
2 u
C
i
2 i
i
~ ˆ)的大小，可以对上述表达式做一 • 为了比较Var( ) 和 Var( 2 2
些处理： ~ 2 2 2 2 Var ( 2 ) u C ( C b b ) i u i i i
8
• 2.几个常用的结果
• （1） • （2） • （3） • （4）
e
i
0
i
e X
i
0
ˆ ˆ X Y 1 2
ˆ Y ˆ X 1 2
ˆ Y Y
9
• 3.截距为零的一元线性回归模型的参数估计
• 一元线性回归模型的一般形式为
Yi X i ui
• 当ui满足假定条件时，β的最小二乘估计量为
2
•
Y
•
0
X
• Yi’=β1+β2Xi表示X与Y之间的线性部分，称作总体回归直线。 • 样本值与回归直线的偏离ui表示对这种线性关系的随机扰动。 • 即ui= Yi-Yi’ （i=1,2,…,n）
3
• 3.随机误差项的假定条件
• • • • • • • • (1)E(ui)=0，i=1,2,… (2)Var(ui)=E[ui-E(ui)]2=E(ui2)=σu2, i=1,2,… (3)Cov(uiuj)=E[ui-E(ui)]E[μj-E(uj)] =E(uiuj)= 0，i≠j (4)Cov(ui,Xi)=E[ui-E(ui)]E[Xi-E(Xi)] =E(uiXi)=0，i=1,2,… (5)ui服从正态分布,即ui～N(0,σu2) 前五条称为线性回归分析的经典假设条件，是古典线性回 归模型的基本假定。
~
ˆ 的最小方差性就得到了证明。 • 这样 2
18
ˆ 和 ˆ 具有线性性、无偏性、 • 由于最小二乘估计量 0 1 最小方差性，因此被称为最佳线性无偏估计量 （The Best Linear Unbiased Estimator ），简 称BLUE性质。
19
§2.4用样本可决系数检验回归方程的拟合优度
1
• 2.一元线性回归模型
• • • • • • • • • • 例如：Yi=β1+β2Xi +ui 其中Yi某市城镇居民年人均鲜蛋需求量，称作被解释变量； Xi某市城镇居民年人均可支配收入，称作解释变量； ui随机误差项（随机扰动项或随机项、误差项）； β1、β2回归系数（待定系数或待定参数）。 随机误差项ui中一般包括以下几个方面的因素： （1）回归模型中省略的变量； （2）人们的随机行为； （3）建立的数学模型的形式不够完善； （4）测量误差。
2 i
C X C X 1 (X X ) (X X )
i i i i i 2 i i i i
i
i
2
1 1 0 2 2 (Xi X ) (Xi X )
i i
• 因此
2 2 ˆ ) Var ( ˆ ) Var ( 2 ) u ( C b ) i i Var ( 2 2 i
i i i
1 0 0 1
ˆ 是β 的无偏估计。 • 即 1 1
14
• 3.最小方差性 • 最小方差性，即在β1和β2所有可能的线性无偏 ˆ 和 ˆ 的方差最小。 估计中，最小二乘估计 1 2 ~ ~ • 证明思路：假设 1和 2 是β1和β2的任意其他线性 ~ ˆ 无偏估计，设法证明满足Var( 1 )≤Var( 1 )和 ~ ˆ Var( 2 )≤Var( 2 )。这两个不等式的证明相似， 因此只证明其中第二个不等式。
ˆ b Y 表明是Y 的线性组合，其中 • 前面的式子可记为 2 i i i i bi不全为零，线性性得证。 ˆ 的线性性可利用 ˆ 的线性性得到。 • 1 2
1 1 ˆ ˆ 1 Y 2 X Yi X biYi ( Xbi )Yi n i n i i
2 2 2 ( C b ) b 2 i i u i u (C i b i ) b i 2 i
i
2 u
i
i
2 u
(C
i
ˆ ) 2 b i ) Var ( 2
2
i
2 u
i
(C
i
i
bi )bi
17
• 前面式子中的第三项
Ci ( X i X ) 1 (C i b i ) b i C i b i b 2 2 ( X X ) i i i i (Xi X ) i
4
§2.2 一元线性回归模型的参数估计
• 1.普通最小二乘法（OLS）
• 总体回归模型： • 总体回归方程： • 样本回归模型： • 样本回归方程：
Yi 1 2 X i ui
E(Yi ) 1 2 X i
i 1,2,...,n
ˆ ˆ X e Yi 1 2 i i ˆ ˆX ˆ Y i 1 2 i
• 可记为
ˆ WY ii 1
ˆ 同样是Yi的线性组合，其中Wi也不全为零，线性 这表明 1 性也得到证明。
i
12
• 2.无偏性 ˆ 和 ˆ 的数学期望分别等于总体回归系数的值 • 无偏性指 1 2
ˆ ) E ( ˆ ) β1和β2，即 E ( 1 1 2 2 • 证明： ˆ ) E ( b Y ) E ( b ( X u )) E ( ii i 1 2 i i 2
1 Ci 2 Ci X i Ci E (ui )
i i i
i i i
i
~
1 Ci 2 Ci X i
• 由于 2是β2的无偏估计，因此不管Xi的取值如何， 上式都必须等于β2。这就要求 Ci 0, Ci X i 1 i i 必须成立。
离差
被解释 的部分
未被解释 的部分
21
• 仅仅考察个别Yi由回归直线或解释变量决定的程度，或者对 Yi逐点进行离差分解，仍然难以判断总体拟合情况。为此进 一步考察所有Yi离差平方和的分解问题。所有Yi离差的平方 和记为 TSS (Yi Y )2，称“总离差平方和”。分解可得
ˆ ˆ X 0 Yi 1 2 i ˆ ˆ X X 0 Y i 1 2 i i
ˆ ˆ n 1 2 X i Yi 正规方程组 2 ˆ ˆ X X 2 i X iYi 1 i
XY ˆ X
i 2 i i
i i
10
§2.3 最小二乘估计量的统计性质
• 1.线性性
ˆ 和 ˆ 均是Y 的线性函数，即可以表示为 • 最小二乘估计量 1 2 i Yi的线性组合。 ˆ WY , i i ˆ2 biYi 1 • 证明： (Yi Y )( X i X ) Yi ( X i X ) Y ( X i X ) x y i i ˆ i i i 2 2 2 2 2 x ( X X ) ( X X ) ( X X ) i i i i
• 本节要检验的是样本回归线对样本观测值的拟合优 度。样本观测值距回归线越近，拟合优度越好，X 对Y的解释能力越强。
• 判断回归结果好坏的基本标准，是回归直线对样本数据的 拟合程度，称为“拟合优度”。回归直线的拟合优度一方 面取决于回归直线的选择，这是由参数估计方法决定的， 另一方面取决于样本数据的分布。当参数估计方法固定时， 主要取决于样本数据的分布。 • 样本数据的分布在本质上是由变量关系决定的。因此回归 拟合度也是检验模型变量关系真实性，判断模型假设是否 成立的重要方法。
7
• 求解得到：
ˆ 2 n X iYi X i Yi n X i2 ( X i ) 2
i i i i i
x y x
i i 2 i i
i
xi X i X
yi Yi Y
1 Xi n i 1 Y Yi n i X
1 ˆ ˆ ˆ X 1 ( Yi X ) Y 2 i 2 n
Xi X xi [ ]Y Y 2 i 2 i i (Xi X ) xi
i
i i i
• 其中 1 1 1 Y ( X i X ) Y X i nY X Yi X i n Yi X i 0 n i n i n i i i i