计量经济学【一元线性回归模型——参数估计】
计量经济学第2章 一元线性回归模型
15
~ ~ • 因为 2是β2的线性无偏估计，因此根据线性性， 2 ~ 可以写成下列形式： 2 CiYi
• 其中αi是线性组合的系数，为确定性的数值。则有
E ( 2 ) E[ Ci ( 1 2 X i ui )]
E[ 1 Ci 2 Ci X i Ci ui ]
6
ˆ ˆ X )2 ] ˆ , ˆ ) [ (Yi Q( 1 2 i 1 2 ˆ ˆ X 2 Yi 1 2 i ˆ ˆ 1 1 2 ˆ ˆ ˆ ˆ [ ( Y X ) ] 1 2 i Q( 1 , 2 ) i ˆ ˆ X X 2 Yi 1 2 i i ˆ ˆ 2 2
16
~
i
i
• 因此 ~ 2 CiYi 1 Ci 2 Ci X i Ci ui 2 Ci ui
• 再计算方差Var( ) 2 ，得 ~ ~ ~ 2 ~ Var ( 2 ) E[ 2 E ( 2 )] E ( 2 2 ) 2
C E (ui )
2 i 2 i
i
~
i
i
i
i
E ( 2 Ci ui 2 ) 2 E ( Ci ui ) 2
i
2 u
C
i
2 i
i
~ ˆ)的大小，可以对上述表达式做一 • 为了比较Var( ) 和 Var( 2 2
些处理： ~ 2 2 2 2 Var ( 2 ) u C ( C b b ) i u i i i
8
• 2.几个常用的结果
• （1） • （2） • （3） • （4）
一元线性回归模型及参数估计
但是，随机误差项的方差的估计量是不同的。
解或然方程
sm2
L*
= n
2sm2
+1
2sm4
S(Yi
bˆ0
bˆ1Xi)2
=0
即可得到sm2的最大或然估计量为：
sˆm2
1 =nS(Yi
bˆ0
bˆ1Xi)2
s P (Y i)=
1 e2s 1m 2(Y ibˆ0bˆ1X i)2 2
i= 1,2,… ,n
因为Yi 是相互独立的，所以 Y 的所有样本观测值的联合概率， 也即或然函数(likelihood function)为：
L(bˆ0,bˆ1,sm2) = P(Y1,Y2,,Yn)
=
1
e 1 2sm2
S(Yi
，当
Q对
b$ 、 0
b$ 的一阶偏导数为 1
0 时， Q 达到最小。即
Q
bˆ 0 Q
bˆ1
=0 =0
(
( bˆ
bˆ
0
0 +
+ bˆ1 X bˆ1 X i
i
Yi ) Yi ) X
= i
0 =
0
SYi SYi X i
= nbˆ0 + bˆ1SX i
=
bˆ0 SX i
+
bˆ1S
X
2 i
解得：
bˆ0 = Y bˆ1X
bˆ1
=
nSYi Xi SYiSXi nSXi2 (SXi )2
由于
bˆ 0
、bˆ 的估计结果是从最小二乘原理得到的，故称为 1
2.2 一元线性回归模型的参数估计
于是，Y的概率函数为
P(Yi ) = 1
− 1 2σ
2
ˆ ˆ (Yi − β 0 − β1 X i ) 2
σ 2π
e
（i=1,2,…n）
4/29/2012
14
因为Yi是相互独立的，所以的所有样本观测值的联 合概率，也即或然函数(likelihood function) 或然函数(likelihood function)为： 或然函数
§2.2 一元线性回归模型的参数估计
一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 参数的普通最小二乘估计（OLS） 参数估计的最大或然法(ML) 三、参数估计的最大或然法(ML) * 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计
4/29/2012
1
640000 352836 1210000 407044 1960000 1258884 2890000 1334025 4000000 1982464 5290000 2544025 6760000 3876961 8410000 4318084 10240000 6682225 12250000 6400900 53650000 29157448
4/29/2012
-973 1314090 1822500 947508 -929 975870 1102500 863784 -445 334050 562500 198381 -412 185580 202500 170074 -159 23910 22500 25408 28 4140 22500 762 402 180720 202500 161283 511 382950 562500 260712 1018 1068480 1102500 1035510 963 1299510 1822500 926599 5769300 7425000 4590020
第二章 一元线性回归模型(本科生计量经济学)
即：正规方程组揭示的是残差的性质。
26
普通最小二乘估计有关 的其他性质（课后习题）
Y Y
^
e Y e y
i ^ i
^
i
0 0
27
i
2、由普通最小二乘估计系数的性质可证
得普通最小二乘估计与参数的关系如下：
1 1 k i u i
^
0 0 wi ui
（ 1） （ 2）
（ 1）
0 Y 1 X
^
^
Y
1 n
Y , X X
i 1 i 1 n i 1
n
n
i
18
参数的普通最小二乘估计量
ˆ ˆ X )0 (Yi 0 1 i ˆ ˆ X )X 0 ( Y i 0 1 i i
^
33
三、一元线性回归模型参数的最大似 然法(Maximum Likehood,ML)估计
• 基本原理：似然原理
• 一元线性回归模型ML使用的条件：已知随机扰动 项的分布。
34
Y1 , Y2 ,...,Yn
1 f (Yi ) e 2
1 2
1 2
2
Yi ~ N (0 1 X i , 2 )
w 1
i
22
普通最小二乘估计的例
年份
1991 1992 1993 1994
ED(X)
708 793 958 1278
FI(Y)
3149 3483 4349 5218
ed(x)
-551 -466 -301 19
fi(y)
-2351 -2017 -1151 -282
一元线性回归模型的参数估计
斜率（β1）
表示 x 每变化一个单位，y 平均变化的数量。
一元线性回归模型的假设
线性关系
因变量 y 和自变量 x 之间存在线性关系。
误差项独立
误差项 ε 之间相互独 立，且与 x 独立。
误差项的正态性
误差项 ε 的分布是正 态的。
误差项的无偏性
误差项 ε 的期望值为 0，即 E(ε) = 0。
有限的方差
回归分析的分类
一元回归分析
研究一个自变量和一个因变量之间的关系。
多元回归分析
研究多个自变量和一个因变量之间的关系。
线性回归模型
线性回归模型是一种常用的回归分析方法，它假设自变量和因变量之间存在线性关系，即可以用一条 直线来描述它们之间的关系。
在一元线性回归模型中，自变量和因变量之间的关系可以表示为一条直线，即 y = ax + b，其中 a 是斜 率，b 是截距。
确定样本数据
收集用于估计参数的样本数据。
构建估计量
根据模型和样本数据构建用于估计参数的统计量。
计算估计值
通过计算统计量的值得到参数的估计值。
评估估计质量
通过统计检验和图形方法评估估计的质量和可靠性。
05 模型的评估与检验
模型的拟合度评估
决定系数（R^2）
衡量模型解释变量变异程度的指标，值越接 近1表示模型拟合度越好。
数据整理
将数据整理成适合进行统计分析 的格式，如表格或图形，以便后 续分析。
建立一元线性回归模型
确定自变量和因变量
根据研究问题选择合适的自变量和因变量，确 保它们之间存在一定的关联性。
散点图分析
绘制散点图，观察自变量和因变量之间的关系， 初步判断是否适合建立一元线性回归模型。
计量经济学第二篇一元线性回归模型
第二章 一元线性回归模型2.1 一元线性回归模型的基本假定有一元线性回归模型（统计模型）如下， y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。
其中y t 称被解释变量（因变量），x t 称解释变量（自变量），u t 称随机误差项，β0称常数项，β1称回归系数（通常未知）。
上模型可以分为两部分。
（1）回归函数部分，E(y t ) = β0 + β1 x t ,（2）随机部分，u t 。
图2.1 真实的回归直线这种模型可以赋予各种实际意义，居民收入与支出的关系；商品价格与供给量的关系；企业产量与库存的关系；身高与体重的关系等。
以收入与支出的关系为例。
假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。
但实际上数据来自各个家庭，来自同一收入水平的家庭，受其他条件的影响，如家庭子女的多少、消费习惯等等，其出也不尽相同。
所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。
“线性”一词在这里有两重含义。
它一方面指被解释变量Y 与解释变量X 之间为线性关系，即另一方面也指被解释变量与参数0β、1β之间的线性关系，即。
1ty x β∂=∂，221ty β∂=∂0 ，1ty β∂=∂，2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。
所以在经济问题上“控制其他因素不变”是不可能的。
随机误差项u t 正是计量模型与其它模型的区别所在，也是其优势所在，今后咱们的很多内容，都是围绕随机误差项u t 进行了。
回归模型的随机误差项中一般包括如下几项内容： （1）非重要解释变量的省略，（2）数学模型形式欠妥， （3）测量误差等，（4）随机误差（自然灾害、经济危机、人的偶然行为等）。
2.1.3 一元线性回归模型的基本假定通常线性回归函数E(y t ) = β0 + β1 x t 是观察不到的，利用样本得到的只是对E(y t ) =β0 + β1 x t 的估计，即对β0和β1的估计。
3、计量经济学【一元线性回归模型——参数估计】
ˆ Y i
(8) 651.8181 753.6363 855.4545 957.2727 1059.091 1160.909 1262.727 1364.546 1466.364 1568.182 11100
ˆ ei Yi Y i
(9)=(2)-(8) 48.18190 -103.6363 44.54550 -7.272700 40.90910 -10.90910 -62.72730 35.45450 83.63630 -68.18190
假设 5：随机误差项服从 0 均值，同方差的正态 分布，即
2 i ~ N (0, ), ,,,,,,,,, ,, i 1,2, n
以上这些假设称为线性回归模型的经典假
设，满足这些假设的线性回归模型，也称为 经典线性回归模型（classical linear regression model）。在回归分析的参数估计和统计检验 理论中，许多结论都是以这些假定作为基础 的。如果违背其中的某一项假定，模型的参 数估计就会存在问题，也就是说最小二乘法 （OLS）就不再适用，需对模型进行修正或 采用其他的方法来估计模型了。
二、参数的普通最小二乘估计（OLS） 三、最小二乘估计量的性质 四、参数估计量的概率分布及随机误差项
方差的估计
给出一元线性回归模型的一般形式：
Yi 0 1 X i i ,,,, , i 1, 2, ,n
其中 Yi ：被解释变量，X i ：解释变量，0 和 1 ：待估参 数； i ：随机误差项；
ei2
（10） 2321.495 10740.48 1984.302 52.89217 1673.554 119.0085 3934.714 1257.022 6995.031 4648.771 33727.27
一元线性回归模型的参数估计分析
整理得：
ˆ ˆ X )0 ( Y i 0 1 i ˆ ˆ X )X 0 ( Y i 0 1 i i
即：
ˆ ˆ Y n 0 1 Xi i 2 ˆ ˆ X iYi 0 X i 1 X i
• 对于给定的样本观测值，可以用无数条直线来 拟合。
ˆ的差，即残差e 越小越好 最好的直线应使Yi与Y i i
因ei可正可负，所以取ei2最小
ˆ ˆ X )2 即min( ei2 ) min (Yi 0 1 i
2.最小二乘估计量的推导
记 ˆ ˆ X )2 Q ei2 (Yi 0 1 i
根据微积分中多元函数求极值的方法，求Q关于 ˆ 和 ˆ 的一阶偏导并令其等于0得：
0 1
Q ˆ ˆ X )0 2 ( Y i 0 1 i ˆ 0 ˆ ˆ X )X 0 Q 2 (Y i 0 1 i i ˆ 1
1.为什么要作基本假定？
（1）只有具备一定的假定条件，所作出的估计才 具有较好的统计性质。
（2）模型中有随机扰动，估计的参数是随机变量， 只有对随机扰动的分布作出假定，才能确定所估计 参数的分布性质，也才可能进行假设检验和区间估 计。 2. 基本假定的内容
假定1：解释变量X 0 1 X i
假定3：等方差假定。Var(Yi ) 2
假定4：无自相关假定。Cov(Yi , Yj ) 0(i j)
假定5：正态性假定。Yi ~ N (0 1 X i , 2 )
三、参数的普通最小二乘估计（OLS）
1.OLS的基本思想
第二节 一元线性回归模型的参数估计
• • • • • • 一元线性回归模型的概念 一元线性回归模型的基本假定 参数的普通最小二乘估计 截距为零的一元线性回归模型的估计 最小二乘估计量的性质 参数估计量的概率分布
第二章 一元线性回归模型
∂Q ˆ ˆ = −2∑ (Yi − β 0 − β1 X i ) = 0 ∂β ˆ0 ˆ ˆ ∂Q = −2∑ (Y − β − β X )X = 0 i 0 1 i i ˆ ∂β1
化简得： 化简得：
ˆ ˆ ∑ (Yi − β 0 − β1 X i ) = 0 ˆ ˆ ∑ (Yi − β 0 − β1 X i )X i = 0
2.总体回归方程（线）或回归函数 总体回归方程（ 总体回归方程 即对（ ）式两端取数学期望： 即对（2.8）式两端取数学期望：
E y i）= β 0 + β 1 x i （
（2.9）
（2.9）为总体回归方程。由于随机项的影响，所 ）为总体回归方程。由于随机项的影响， 有的点（ ）一般不在一条直线上； 有的点（x,y）一般不在一条直线上；但所有的点 （x,Ey）在一条直线上。总体回归线描述了 与y ）在一条直线上。总体回归线描述了x与 之间近似的线性关系。 之间近似的线性关系。
Yi = β X i + ui
需要估计， 这个模型只有一个参数 需要估计，其最 小二乘估计量的表达式为： 小二乘估计量的表达式为：
∑XY ˆ β= ∑X
i i 2 i
例2.2.1：在上述家庭可支配收入-消费支出例中，对 ：在上述家庭可支配收入-消费支出例中， 于所抽出的一组样本数据， 于所抽出的一组样本数据，参数估计的计算可通过下面 的表2.2.1进行。 进行。 的表 进行
二、一元线性回归模型 上述模型中， 为线性的， 上述模型中， 若f(Xi)为线性的，这时的模型 为线性的 一元线性回归模型： 即为 一元线性回归模型：
yi = β 0 + β1 xi + ui 其中：yi为被解释变量，xi为解释变量，ui为随机误 差项，β 0、β1为回归系数。
计量经济学——一元回归模型
§2.1 回归分析概述 (Regression Analysis)
一、变量间的关系及回归分析的基本概念 二、总体回归函数 三、随机扰动项 四、样本回归函数
一、变量间的关系及回归分析的基本概念 1、变量间的关系
• 确定性关系或函数关系：研究的是确定性现象 非随机变量间的关系。
圆面积 f ,半径 半径 2
称为（双变量）总体回归函数（population regression function, PRF）。
• 含义：
回归函数（PRF）说明被解释变量Y 的平均状态 （总体条件期望）随解释变量X 变化的规律。
• 函数形式：
可以是线性或非线性的。
例2.1中，将居民消费支出看成是其可支配收 入的线性函数时:
2、回归分析的基本概念
• 回归分析(regression analysis)是研究一个变量 关于另一个（些）变量的具体依赖关系的计算 方法和理论。
• 其目的在于通过后者的已知或设定值，去估计 和（或）预测前者的（总体）均值。
• 两类变量；
–被解释变量（Explained Variable）或因变量 （Dependent Variable）。
• 下面的假设主要是针对采用普通最小二乘法 （Ordinary Least Squares, OLS）估计而提出的。 所以，在有些教科书中称为“The Assumption Underlying the Method of Least Squares”。
• 在不同的教科书上关于基本假设的陈述略有不同， 下面进行了重新归纳。
1012 1045 1078 1122 1155 1188 1210
11495
1700 1023 1100 1144 1155 1210 1243 1254 1298 1331 1364 1408 1430 1485
一元线性回归模型的参数估计
(2.2.4） (2.2.5)
或
ˆ ˆ ΣYi = nβ 0 + β1ΣX i 2 ˆ ˆ ΣYi X i = β 0 ΣX i + β1ΣX i
但是，随机误差项的方差的估计量是不同的。 是不同的
解或然方程
∂ * n 1 ˆ ˆ L =− 2 + Σ(Yi − β 0 − β 1 X i ) 2 = 0 2 4 ∂σ µ 2σ µ 2σ µ
2 σ µ 的最大或然估计量为： 即可得到
1 ˆ ˆ ˆ2 σ µ = Σ(Yi − β 0 − β 1 X i ) 2 = n
于是， Yi 的概率函数为
P (Yi ) = 1
− 1 2σ µ
2
ˆ ˆ (Yi − β 0 − β1 X i ) 2
σ 2π
e
i=1,2,…,n
因为 Yi 是相互独立的， 所以 Y 的所有样本观测值的联合概率， 也即或然函数 或然函数(likelihood function)为： 或然函数
ˆ ˆ 2 L( β 0 , β1 ,σ µ ) = P(Y1 , Y2 ,⋅ ⋅ ⋅, Yn )
解得模型的参数估计量为：
ˆ ΣX i2 ΣYi − ΣX i ΣYi X i β 0 = nΣX i2 − (ΣX i ) 2 ˆ β 1 = nΣYi X i − ΣYi ΣX i nΣYi 2 − (ΣX i ) 2
可见，在满足一系列基本假设的情况下， 可见，在满足一系列基本假设的情况下，模型结构参 数的 最大或然估计量 与 普通最小二乘估计量 是相同 的。
一元线性回归模型(计量经济学)
回归分析是一种统计方法，用于研究变量之间的关系。它基于最小二乘法，寻找最合适的直线来描述变 量间的线性关系。通过回归分析，我们可以理解变量之间的因果关系和预测未知数据。
一元线性回归模型的假设
1 线性关系
2 独立误差
一元线性回归模型假设自变量和因变量之 间存在线性关系。
模型的残差项是独立的，不受其他因素的 影响。
3 常数方差
4 正态分布
模型的残差项具有恒定的方差，即方差齐 性。
模型的残差项服从正态分布。
一元线性回归模型的估计和推断
1
模型估计
使用最小二乘法估计模型的回归系数。
2
参数推断
进行参数估计的显著性检验和置信区间估计。
3
模型拟合程度
使用残差分析和R平方评估模型的拟合程度。
模型评估和解释结果
通过残差分析和R平方等指标评估模型的拟合程度，并解释模型中回归系数的 含义。了解如何正确使用模型的结果，并识别异常值和离群点对模型的影响。
一元线性回归模型(计量 经济学)
在本节中，我们将介绍一元线性回归模型，探讨回归分析的基本概念和原理， 了解一元线性回归模型所做的假设，并学习模型的估计和推断方法。我们还 将探讨模型评估和解释结果的技巧，并通过实例应用和案例分析进一步加深 对该模型的理解。最后，我们将总结和得出结论。
回归分析的基本概念和原理
实例应用和案例分析
汽车价格预测Байду номын сангаас
使用一元线性回归模型预 测汽车价格，考虑车龄、 里程等因素。
销售趋势分析
通过一元线性回归模型分 析产品销售的趋势，并预 测未来销售。
学术成绩预测
应用一元线性回归模型预 测学生的学术成绩，考虑 学习时间、背景等因素。
计量经济学的2.2 一元线性回归模型的参数估计
ˆ ˆ ˆ ˆ ˆ yi ( 0 1 X i ) ( 0 1 X e ) ˆ 1 ( X i X ) 1 ei n
可得 或
ˆ ˆ y i 1 xi ˆ y x e
i 1 i
（**）
i
why？
（**）式也称为样本回归函数的离差形式。 注意：在计量经济学中，往往以小写字母表示对 均值的离差。
2、如果假设4满足，则假设2也满足。 以上假设也称为线性回归模型的经典假设 或高斯（Gauss）假设，满足该假设的线性回归 模型，也称为经典线性回归模型（Classical Linear Regression Model, CLRM）。
27
线性回归模型的基本假设（5）
假设5、var(X)必须是一个有限的正数。（教材的假 设5） 2
33
这三个准则也称作估计量的小样本性质。
拥有这类性质的估计量称为最佳线性无偏估计 量（best liner unbiased estimator, BLUE）。 当不满足小样本性质时，需进一步考察估计量的 大样本或渐近性质： （4）渐近无偏性，即样本容量趋于无穷大时，是 否它的均值序列趋于总体真值； （5）一致性，即样本容量趋于无穷大时，它是否 依概率收敛于总体的真值； （6）渐近有效性，即样本容量趋于无穷大时，是 否它在所有的一致估计量中具有最小的渐近方差。 34
(X
i
X ) / n Q,
n
意为：在一个给定的样本中，X值不可以全是相同的
如果全部X值都相同，则 X i X ，方程 的分母就变
ˆ ˆ 为零，从而无法估计 1 ，也就无法估计 0 。
又如： 家庭消费支出例子，如果家庭收入很少变动，我们就不能解释 消费支出的变化。读者应该记住，要把回归分析作为一种研究 工具来使用，Y和X两者均有变化是最为重要的。简言之，变量 28 必须在变!
计量经济学一元线性回归模型总结
第一节 两变量线性回归模型一．模型的建立1．数理模型的基本形式y x αβ=+ （2.1）这里y 称为被解释变量(dependent variable)，x 称为解释变量(independent variable)注意：（1）x 、y 选择的方法：主要是从所研究的问题的经济关系出发，根据已有的经济理论进行合理选择。
（2）变量之间是否是线性关系可先通过散点图来观察。
2．例如果在研究上海消费规律时，已经得到上海城市居民1981-1998年期间的人均可支配收入和人均消费性支出数据（见表1），能否用两变量线性函数进行分析？表1.上海居民收入消费情况年份 可支配收入 消费性支出 年份 可支配收入 消费性支出 1981 636.82 585 1990 2181.65 1936 1982 659.25 576 1991 2485.46 2167 1983 685.92 615 1992 3008.97 2509 1984 834.15 726 1993 4277.38 3530 1985 1075.26 992 1994 5868.48 4669 19861293.24117019957171.91586819871437.09128219968158.746763 19881723.44164819978438.896820 19891975.64181219988773.168662．一些非线性模型向线性模型的转化一些双变量之间虽然不存在线性关系，但通过变量代换可化为线性形式，这些双变量关系包括对数关系、双曲线关系等。
例3-2 如果认为一个国家或地区总产出具有规模报酬不变的特征，那么采用人均产出y与人均资本k的形式，该国家或者说地区的总产出规律可以表示为下列C-D生产函数形式y Akα=（2.2）也就是人均产出是人均资本的函数。
能不能用两变量线性回归模型分析这种总量生产规律？3．计量模型的设定 （1）基本形式：y x αβε=++ （2.3） 这里ε是一个随机变量，它的数学期望为0，即（2.3）中的变量y 、x 之间的关系已经是不确定的了。
计量经济学基础 第3版 第3章一元线性回归模型的估计
第3章 一元线性回归模型的估计
学习目标
LEARNING TARGET
1. 掌握普通最小二乘法（OLS）的基本原理 2. 能够运用OLS估计一元线性回归模型的系数 3. 了解一元线性回归线的代数性质 4. 理解拟合优度的度量方法
3.1普通最小二乘法
估计一元线性回归模型参数的最常用、最简洁的方法是普通最小二乘法
(ordinary least squares, OLS )。
设总体一元线性回归模型为：
样本一元线性回归模型为：
Yi 0 1 X i ui （3-1）
式中， ui 为随机扰动项
样本回归方程为：
Yˆi ˆ0 ˆ1 X i
（3-3）
Yi ˆ0 ˆ1 X i ei （3-2）
e 式 中 ， i 为 残 差 项
于 残 差 平 方 和
ei2 为 非 负 数 ， 求 和 时 不 会 正 负 抵 消 ， 所 以 ， 能 够 使 残 差 平 方 和
为 最 小 的 回 归 直 线 ， 就 是 与 散 点 误 差 最 小 的 直 线 。 于 是 由 式 （ 3-2 ） 、 （ 3-3 ） 和
（3-4）得：
ei2 (Yi Yˆi )2 (Yi ˆ0 ˆ1 X i )2
第一， OLS估计量 ˆ0 和 ˆ1 是由给定的样本观测值计算得到的。
第二， OLS估计量ˆ0和ˆ1 是总体参数 0 和 1 的点估计值。对于不同的样本
用最小二乘法可以计算得到不同的值，所以 ˆ0和 ˆ1 是统计量，是随机变量。
我们计算得到的是由给定样本观测值的特定的一个值，它是成千上万个估 计值中的一个。
（3-5）
3.1普通最小二乘法
• 由于样本数据 X i 、 Yi 都是已知的、确定的，所以，上式中残差平方和的值取决
一元线性回归模型的参数估计
散点图
某居民小区家庭收入（X）与消费支出（Y）
Y
1500
的散点图
1300
1100
900
Yˆ = aˆ + bˆX
700
500
X
600
1100
1600
2100
最小二乘准则
Y
.(Xi,Yi)
. Yˆ = aˆ + bˆX (X j ,Yˆj )
ei
. . (Xi,Yˆi)
0
. ej
(Xj,Yj)
X
min
参数估计计算表
Yi
xi
yi
3637 3919 4185 4331 4616 4998 5359 6030
37075
-1517.4 -961.4 -640.4 -375.4 53.6 479.6 1058.6 1902.6 ——
-997.4 -715.4 -449.4 -303.4 -18.4 363.6 724.6 1395.6 ——
X = X i = 46403 = 5800.375
n
8
Y = Yi = 37075 = 4634.375
n
8
根据表 2 合计栏的数据及以上关于 X 和Y 的计
算结果可得：
bˆ1 =
xi yi = 6198658.9 0.7083 xi2 8751239.9
bˆ0 = Y - bˆ1 X 525.8662
2.对回归系数（斜率）进行统计假设检验，信度为 0.05。
3.估计可决系数并进行统计假设检验，信度为 0.05。
4.若下一年度居民货币收入为 25.5 亿元，预测购买消费品
支出的金额及预测区间，信度为 0.05。
一元线性回归模型的参数估计实验报告
山西大学实验报告实验报告题目：计量经济学实验报告学院：专业：课程名称：计量经济学学号：学生姓名：教师名称：崔海燕上课时间：一、实验目的：掌握一元线性回归模型的参数估计方法以及对模型的检验和预测的方法。
二、实验原理：1、运用普通最小二乘法进行参数估计；2、对模型进行拟合优度的检验；3、对变量进行显著性检验；4、通过模型对数据进行预测。
三、实验步骤：（一）建立模型1、新建工作文件并保存打开Eviews软件，在主菜单栏点击File\new\workfile，输入start date 1978和end date 2006并点击确认，点击save键，输入文件名进行保存。
2输入并编辑数据在主菜单栏点击Quick键，选择empty\group新建空数据栏，先输入被解释变量名称y，表示中国居民总量消费，后输入解释变量x，表示可支配收入，最后对应各年分别输入数据。
点击name键进行命名，选择默认名称Group01,保存文件。
得到中国居民总量消费支出与收入资料：年份X Y19786678.83806.719797551.64273.219807944.24605.5198184385063.919829235.25482.4198310074.65983.21984115656745.7198511601.77729.2198613036.58210.9198714627.788401988157949560.5198915035.59085.5199016525.99450.9199118939.610375.8199222056.511815.3199325897.313004.7199428783.413944.2199531175.415467.9199633853.717092.5199735956.218080.6199838140.919364.119994027720989.3200042964.622863.92001 46385.4 24370.1 2002 51274 26243.2 2003 57408.1 28035 2004 64623.1 30306.2 2005 74580.4 33214.4 2006 85623.1 36811.2注：y 表示中国居民总量消费 x 表示可支配收入3、 画散点图，判断被解释变量与解释变量之间是否为线性关系在主菜单栏点击Quick\graph 出现对话框，输入 “x y ”，点击确定。
计量经济学 第二章 一元线性回归模型
计量经济学第二章一元线性回归模型第二章一元线性回归模型第一节一元线性回归模型及其古典假定第二节参数估计第三节最小二乘估计量的统计特性第四节统计显著性检验第五节预测与控制第一节回归模型的一般描述（1）确定性关系或函数关系：变量之间有唯一确定性的函数关系。
其一般表现形式为：一、回归模型的一般形式变量间的关系经济变量之间的关系，大体可分为两类：（2.1)（2）统计关系或相关关系：变量之间为非确定性依赖关系。
其一般表现形式为：(2.2)例如：函数关系：圆面积S =统计依赖关系/统计相关关系：若x和y之间确有因果关系，则称(2.2)为总体回归模型，x(一个或几个）为自变量（或解释变量或外生变量），y为因变量（或被解释变量或内生变量），u为随机项，是没有包含在模型中的自变量和其他一些随机因素对y的总影响。
一般说来，随机项来自以下几个方面：1、变量的省略。
由于人们认识的局限不能穷尽所有的影响因素或由于受时间、费用、数据质量等制约而没有引入模型之中的对被解释变量有一定影响的自变量。
2、统计误差。
数据搜集中由于计量、计算、记录等导致的登记误差；或由样本信息推断总体信息时产生的代表性误差。
3、模型的设定误差。
如在模型构造时，非线性关系用线性模型描述了；复杂关系用简单模型描述了；此非线性关系用彼非线性模型描述了等等。
4、随机误差。
被解释变量还受一些不可控制的众多的、细小的偶然因素的影响。
若相互依赖的变量间没有因果关系，则称其有相关关系。
对变量间统计关系的分析主要是通过相关分析、方差分析或回归分析(regression analysis)来完成的。
他们各有特点、职责和分析范围。
相关分析和方差分析本身虽然可以独立的进行某些方面的数量分析，但在大多数情况下，则是和回归分析结合在一起，进行综合分析，作为回归分析方法的补充。
回归分析(regression analysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。
一元线性回归模型的参数估计
记 Q ei2 (Yi ˆ0 ˆ1Xi )2
根据微积分中多元函数求极值的方法，求Q关于
ˆ0和ˆ1的一阶偏导并令其等于0得：
Q
ˆ0
2
(Yi ˆ0 ˆ1Xi ) 0
Q
ˆ1
2
(Yi ˆ0 ˆ1Xi )Xi 0
整理得：
即：
(Yi ˆ0 ˆ1Xi ) 0
(Yi ˆ0 ˆ1Xi )Xi 0
5.样本回归函数的离差形式
记
yˆi Yˆi Y
将ˆ0
Y
ˆ1X代入Yˆi
ˆ0
ˆ1
X
可得
i
Yˆi Y ˆ1X ˆ1Xi
整理得 Yˆi Y ˆ1(Xi X )
写成离差形式为：
yˆi ˆ1xi
6.注意几个概念的区别
随机误差项：被解释变量的观测值与它的条件期望 的差
残差：被解释变量的观测值与它的拟合值的差，是 随机误差项的估计值
第二节 一元线性回归模型的参数估计
• 一元线性回归模型的概念 • 一元线性回归模型的基本假定 • 参数的普通最小二乘估计 • 截距为零的一元线性回归模型的估计 • 最小二乘估计量的性质 • 参数估计量的概率分布
一、一元线性回归模型的概念
一元线性回归模型是最简单的计量经济学模型，在 模型中只有一个解释变量，其一般形式是：
3.Y的分布性质： 由于Yi 0 1Xi ui，ui的分布性质决定了Yi的分布
性质，对于ui的一些假定可以等价地表示为对Yi的一 些假定：
假定2：零均值假定。E(Yi ) 0 1Xi 假定3：等方差假定。Var(Yi ) 2
假定4：无自相关假定。Cov(Yi ,Yj ) 0(i j) 假定5：正态性假定。Yi ~ N (0 1Xi , 2 )
第三章 一元模型的参数估计PPT课件
4
一、参数的普通最小二乘估计（OLS）
给定一组样本观测值（Xi, Yi）（i=1,2,…n）要 求样本回归函数尽可能好地拟合这组值.
离差
要求样本函数仅可能好的拟合这组数值，我们可以考虑 使观测值Yi与样本回归值之差(残差ei)尽可能的小， 使之尽可能的接近PRF,即：
第三章 一元回归模型的参数估计
一、参数的普通最小二乘估计（OLS） 二、最小二乘估计量的数值性质 三、一元线性回归模型的基本假设 四、最小二乘估计量的统计性质 五、参数估计量的概率分布及随机干
扰项方差的估计 六、最小二乘估计（OLS）的精度或标准误
1
整体概况
概况一
点击此处输入 相关文本内容
01
概况二
2、 ∑ei2＝f(^0 , ^1 )，即残差平方和是估计量^0 , ^1
的某个函数。 3、用OLS原理或方法选出来的^0 , ^1 ，将使得对
于给定的样本或数据残差平方和尽可能的小。 7
方程组（*）称为正规方程组（normal equations）。
8
记
x i2(X i X )2X i2 1 n X i2
点击此处输入 相关文本内容
02
概况三
点击此处输入 相关文本内容
03
2
单方程计量经济学模型分为两大类： 线性模型和非线性模型
•线性模型中，变量之间的关系呈线性关系 •非线性模型中，变量之间的关系呈非线性关系
一元线性回归模型：只有一个解释变量
Y i 01X ii
i=1,2,…,n
Y为被解释变量，X为解释变量，0与1为待估 参数， 为随机干扰项
6
普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差的
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
i
~
N
(0,
2
),
,
,
,
,
,
,
,
,
,
,
,
i
1, 2,L
n
以上这些假设称为线性回归模型的经典假 设，满足这些假设的线性回归模型，也称为 经典线性回归模型（classical linear regression model）。在回归分析的参数估计和统计检验 理论中，许多结论都是以这些假定作为基础 的。如果违背其中的某一项假定，模型的参 数估计就会存在问题，也就是说最小二乘法 （OLS）就不再适用，需对模型进行修正或 采用其他的方法来估计模型了。
在序列相关，即：
Cov(i , j ) 0, ,,,,,,i j, ,,,i, j 1, 2,L n
一、一元线性回归模型的基本假设
假设 4：随机误差项与解释变量之间不相关， 即：
Cov( Xi , i ) 0,,,,,,,,,,,i 1, 2,L n
假设 5：随机误差项服从 0 均值，同方差的正态 分布，即
给出一元线性回归模型的一般形式：
Yi 0 1Xi i , , , , , i 1, 2,L , n
其中
Yi
：被解释变量，X
：解释变量，
i
0
和
1
：待估参
数； i ：随机误差项；
总体回归函数形式： E(Y | Xi ) 0 1Xi 样本回归函数形式： Yˆi ˆ0 ˆ1Xi
在已知总体的一组样本观测值 ( Xi ,Yi ), (i 1, 2,L n) 的情况下，为了保证样本回归函数 Yˆi ˆ0 ˆ1Xi 尽可能
地“接近”总体回归函数E(Y | Xi ) 0 1Xi ，就是要样
本
Yˆi
Yi
回归线上的点 与真实观测点Yˆi 在ˆ0总体ˆ1上Xi 尽量接近；Yˆi
ˆ0 ˆ0
ˆ1Xi ) 0 ˆ1Xi ) Xi
0
Yi nˆ0 ˆ1 Xi XiYi ˆ0 Xi ˆ1
Xi2
以上方程组称为最小二乘的正规方程组(normal equations)
二、参数的普通最小二乘估计（OLS）
解这个正规方程组得：
这也就是说要求Y样i 本回归函数ei Yi Yˆi 的估计值
与真实观测值 之间的误差
在总体上尽量
小。
每月家庭收入与消费支出散点图（样本）
2000
每 月 1500 家 庭 消 1000 费 支 500 出
Y (元) 0
0
SRF
500 1000 1500 2000 2500 3000 每月家庭可支配收入X(元)
其中 ˆ0, ˆ1 是 0 , 1的估计值，我们需要找到一种参数估 计方法，求出 ˆ0, ˆ1，并且这种参数估计方法保证了估 计值 ˆ0, ˆ1 与总体真值 0 , 1 尽可能地接近；这种参数 估计方法就是普通最小二乘法 OLS。
一、一元线性回归模型的基本假设
为保证参数估计量具有良好的性质， 通常对模型提出
二、参数的普通最小二乘估计（OLS）
要求真实观测值 Yi 与样本回归函数 Yˆi ˆ0 ˆ1Xi
的估计值 Yˆi 之间的误差，也就是残差 ei Yi Yˆi
在总体上最小，即采用残差平方和 ei2最小的准
则，也就是最小二乘准则：
i
min ei2 min (Yi Yˆi )2 min Yi (ˆ0 ˆ1Xi )2
( ei2) ( Yi (ˆ0 ˆ1Xi )2)
i
ˆ1
i
ˆ1
2(Yi ˆ0 ˆ1Xi )( Xi ) 2 (Yi ˆ0 ˆ1Xi ) Xi 0
从而得到如下方程组：
(Yi (Yi
二、参数的普通最小二乘估计（OLS）
普通最小二乘法(Ordinary Least Squares，OLS)
回归分析的目的：根据样本回归函数 Yˆi ˆ0 ˆ1Xi 来
估计替代未知的总体回归函数 E(Y | Xi ) 0 1Xi ，就要 保证样本回归函数尽可能地“接近”总体回归函数。
计量经济学
——单方程计量经济学模型 理论与方法
第二章 经典单方程计量经济学模型： 一元线性回归模型
第一节 回归分析概述 第二节 一元线性回归模型的参数估计 第三节 一元线性回归模型的统计检验 第四节 一元线性回归模型的预测
第二节：一元线性回归模型的参数估计
一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、最小二乘估计量的性质 四、参数估计量的概率分布及随机误差项 方差的估计
i
i
i
根据微积分中求极值的原理，要使 ei2 达到最小，
待定系数 ˆ0, ˆ1 应满足：
i
二、参数的普通最小二乘估计（OLS）
即：
( ei2 ) ( Yi (ˆ0 ˆ1Xi )2)
i
ˆ0
i
ˆ0
2(Yi ˆ0 ˆ1Xi )(1) 2 (Yi ˆ0 ˆ1Xi ) 0
ˆ0 ˆ1
n
n
X i2 Yi X i X iYi n Xi2 ( Xi )2
X iYi X i Yi Xi2 ( Xi )2
ˆ0
ˆ1
Y
ˆ1 X
( X i X )(Yi Y ) (Xi X )2
若干基本假设，这些假设与所采用的估计方法紧密相关。
假设 1：解释变量 X i 是确定性变量，不是随机变量；
假设 2：随机误差项具有 0 均值和同方差，即 E(i ) 0,,,,,,,,,,,,i 1, 2,L n
Var(i
)
2
,
,
,
,
,
,
,
,
i
1, 2,L
n
假设3：随机误差项在不同样本点之间是独立的，不存
其中 X ,Y 分别代表 X 和 Y 两个变量的样本均值。
上式就称为线性回归模型参数 0, 1 的最小二乘估计量 （ordinary least squares estimators）；将样本数据代入