第二章一元线性回归分析
计量经济学【一元线性回归模型——回归分析概述】
四、随机误差项的涵义
随机误差项是在模型设定中省略下来而又集体的
影响着被解释变量 Y 的全部变量的替代物。涵义如
下： 1、在解释变量中被忽略的因素的影响； 2、变量观测值观测误差的影响； 3、模型关系的设定误差的影响； 4、其它随机因素的影响。 设定随机误差项的主要原因： 1、理论的含糊性； 2、数据的欠缺； 3、节省的原则。
➢ 例如：
二、总体回归函数（方程）PRF Population regression function
由于变量间统计相关关系的随机性(非确定性)，回归 分析关心的是根据解释变量的已知或给定值，考察被解 释变量的总体均值，即当解释变量取某个确定值时，与 之统计相关的被解释变量所有可能出现的对应值的平均 值。
样本回归函数的随机形式：
其中 为(样本)残差(Residual)，可看成是随机误差项 的 的具体估计值。由于引入随机项，称为样本回归 模型。
总体回归线与样本回归线的基本关系
例2.1：一个假想的社区是由60户家庭组成的总体，要
研究该社区每月家庭消费支出Y 与每月家庭可支配收入 X 的关系；即知道了家庭的每月收入，预测该社区家庭
每月消费支出的 (总体) 平均水平。为达到此目的，将该 60户家庭划分为组内收入差不多的10组，以分析每一收 入组的家庭消费支出。
表2.1 某社区家庭每月收入与消费支出调查统计表
回归分析是研究因果相关，也就是有因果关系的相关关 系；既然回归分析是研究变量之间的因果关系，因此回归 分析对变量的处理方法存在不对称性，也就是说，回归分 析将变量区分为被解释变量和解释变量，其中被解释变量 是“结果”，解释变量是“原因”，并且回归分析方法认为作 为“原因”的解释变量属于非随机变量，作为“结果”的被解 释变量为随机变量；也就是说，作为“原因”的解释变量取 确定值时，作为“结果”的被解释变量取值是随机的。
一元线性回归分析
C=α+βy + µ
其中， µ是随机误差项。 是随机误差项。 其中， 是随机误差项 根据该方程， 的值， 根据该方程，每给定一个收入 y 的值，消 并不是唯一确定的， 费C并不是唯一确定的，而是有许多值， 并不是唯一确定的 而是有许多值， 他们的概率分布与µ的概率分布相同 的概率分布相同。 他们的概率分布与 的概率分布相同。 线性回归模型的特征： 线性回归模型的特征： 有随机误差项！ 有随机误差项！
21
说
明
一、严格地说，只有通过了线性关系的检验，才 严格地说，只有通过了线性关系的检验， 能进行回归参数显著性的检验。 能进行回归参数显著性的检验。 有些教科书在介绍回归参数的检验时没有考虑线 性关系的检验，这是不正确的。 性关系的检验，这是不正确的。因为当变量之间 的关系没有通过线性检验时， 的关系没有通过线性检验时，进行回归参数显著 性的检验是没有意义的。 性的检验是没有意义的。 在一元线性回归分析中， 二、在一元线性回归分析中，即只有一个解释变 量时，这两种检验是统一的。 量时，这两种检验是统一的。但在多元回归分析 这两种检验的意义是不同的。 中，这两种检验的意义是不同的。 为了说明该问题， 为了说明该问题，我们在本章中依然把两种检验 分开论述。 分开论述。
13
为了达到上述目的， 为了达到上述目的，我们直观上会采 用以下准则： 用以下准则： 选择这样的SRF，使得： 选择这样的 ，使得：
残差和∑ ε i = ∑ ( yi − yi )尽可能小！ ˆ
但这个直观上的准则是否是一个很好 的准则呢？我们通过以下图示说明： 的准则呢？我们通过以下图示说明：
14
12
ˆx i + ε i yi = α + β ˆ ˆ 即：y i = y i + ε i ˆ ∴ ε i = yi − yi
第二章：一元线性回归模型理论与方法(第二部分)
最小二乘法的数学原理
• 纵向距离是Y的实际值与拟合值之差，差异 大拟合不好，差异小拟合好，所以又称为 拟合误差或残差。 • 将所有纵向距离平方后相加，即得误差平 方和，“最好”直线就是使误差平方和最 小的直线。 • 于是可以运用求极值的原理，将求最好拟 合直线问题转换为求误差平方和最小。
普通最小二乘法（OLS）
这三个准则也称作估计量的小样本性质。
拥有这类性质的估计量称为最佳线性无偏估计 量（best liner unbiased estimator, BLUE）。
高斯—马尔可夫定理(Gauss-Markov theorem)
在给定经典线性回归的假定下，最小二乘估计 量是具有最小方差的线性无偏估计量。
ˆ , ˆ 的均 2、无偏性，即以X的所有样本值为条件，估计量 0 1 0与1 。 值（期望）等于总体回归参数真值
ˆ X i2 Yi X i Yi X i 0 nX i2 (X i ) 2 ˆ nYi X i Yi X i 1 2 2 n X ( X ) i i
对数似然函 数极大化的 一阶条件
结构参数的 ML估计量
最大似然法与普通最小二乘法讨论
已知一组样本观测值（Yi，Xi）(i=1,2, …,n)， 要求样本回归函数尽可能好地拟合这组值，即 样本回归线上的点Y ˆi 与真实观测点Yi的“总体” 误差尽可能地小。在技术处理上我们一般采用 “最小二乘法”。
最小二乘原则：由于估计值和实测值之差可正 可负，简单求和可能将很大的误差抵消掉，因 此，只有平方和才能反映二者在总体上的接近 程度。
n 1
证残差与 Yˆ 的样本协方差为0，即证： i
eiYˆ i
0
ห้องสมุดไป่ตู้
第二章 一元线性回归
n ei 0 i 1 n xe 0 i i i 1
经整理后,得正规方程组
n n ˆ ˆ n ( x ) 0 i 1 yi i 1 i 1 n n n ( x ) ˆ ( x 2 ) ˆ xy i 0 i 1 i i i 1 i 1 i 1
y ˆ i 0 1xi ˆi 之间残差的平方和最小。 使观测值 y i 和拟合值 y
ei y i y ˆi
n
称为yi的残差
ˆ , ˆ ) ˆ ˆ x )2 Q( ( y i 0 1i 0 1
i 1
min ( yi 0 1 xi ) 2
i
xi x
2 ( x x ) i i 1 n
yi
2 .3 最小二乘估计的性质
二、无偏性
ˆ ) E ( 1
i 1 n
n
xi x
2 ( x x ) j j 1 n
其中用到
E ( yi )
( x x) 0 (xi x) xi (xi x)2
二、用统计软件计算
1．例2.1 用Excel软件计算
什么是P 值?(P-value)
• P 值即显著性概率值 ，Significence Probability Value
•
是当原假设为真时所得到的样本观察结果或更极端情况 出现的概率。
P值与t值： P t t值 P值
•
它是用此样本拒绝原假设所犯弃真错误的真实概率，被 称为观察到的(或实测的)显著性水平。P值也可以理解为 在零假设正确的情况下，利用观测数据得到与零假设相 一致的结果的概率。
2 .1 一元线性回归模型
第二章经典单方程计量经济学模型：一元线性回归模型
第二章经典单方程计量经济学模型：一元线性回归模型一、内容提要本章介绍了回归分析的大体思想与大体方式。
第一，本章从整体回归模型与整体回归函数、样本回归模型与样本回归函数这两组概念开始，成立了回归分析的大体思想。
整体回归函数是对整体变量间关系的定量表述，由整体回归模型在假设干大体假设下取得，但它只是成立在理论之上，在现实中只能先从整体中抽取一个样本，取得样本回归函数，并用它对整体回归函数做出统计推断。
本章的一个重点是如何获取线性的样本回归函数，要紧涉及到一般最小二乘法（OLS）的学习与把握。
同时，也介绍了极大似然估量法（ML）和矩估量法（MM）。
本章的另一个重点是对样本回归函数可否代表整体回归函数进行统计推断，即进行所谓的统计查验。
统计查验包括两个方面，一是先查验样本回归函数与样本点的“拟合优度”，第二是查验样本回归函数与整体回归函数的“接近”程度。
后者又包括两个层次：第一，查验说明变量对被说明变量是不是存在着显著的线性阻碍关系，通过变量的t查验完成；第二，查验回归函数与整体回归函数的“接近”程度，通过参数估量值的“区间查验”完成。
本章还有三方面的内容不容轻忽。
其一，假设干大体假设。
样本回归函数参数的估量和对参数估量量的统计性质的分析和所进行的统计推断都是成立在这些大体假设之上的。
其二，参数估量量统计性质的分析，包括小样本性质与大样本性质，尤其是无偏性、有效性与一致性组成了对样本估量量好坏的最要紧的衡量准那么。
Goss-markov定理说明OLS估量量是最正确线性无偏估量量。
其三，运用样本回归函数进行预测，包括被说明变量条件均值与个值的预测，和预测置信区间的计算及其转变特点。
二、典型例题分析例一、令kids表示一名妇女生育小孩的数量，educ表示该妇女同意过教育的年数。
生育率对教育年数的简单回归模型为β+μβkids=educ+1（1）随机扰动项μ包括什么样的因素？它们可能与教育水平相关吗？（2）上述简单回归分析能够揭露教育对生育率在其他条件不变下的阻碍吗？请说明。
一元线性回归分析
一元线性回归分析摘要：一元线性回归分析是一种常用的预测和建模技术，广泛应用于各个领域，如经济学、统计学、金融学等。
本文将详细介绍一元线性回归分析的基本概念、模型建立、参数估计和模型检验等方面内容，并通过一个具体的案例来说明如何应用一元线性回归分析进行数据分析和预测。
1. 引言1.1 背景一元线性回归分析是通过建立一个线性模型，来描述自变量和因变量之间的关系。
通过分析模型的拟合程度和参数估计值，我们可以了解自变量对因变量的影响，并进行预测和决策。
1.2 目的本文的目的是介绍一元线性回归分析的基本原理、建模过程和应用方法，帮助读者了解和应用这一常用的数据分析技术。
2. 一元线性回归模型2.1 模型表达式一元线性回归模型的基本形式为：Y = β0 + β1X + ε其中，Y是因变量，X是自变量，β0和β1是回归系数，ε是误差项。
2.2 模型假设一元线性回归模型的基本假设包括：- 线性关系假设：自变量X与因变量Y之间存在线性关系。
- 独立性假设：每个观测值之间相互独立。
- 正态性假设：误差项ε服从正态分布。
- 同方差性假设：每个自变量取值下的误差项具有相同的方差。
3. 一元线性回归分析步骤3.1 数据收集和整理在进行一元线性回归分析之前，需要收集相关的自变量和因变量数据，并对数据进行整理和清洗，以保证数据的准确性和可用性。
3.2 模型建立通过将数据代入一元线性回归模型的表达式，可以得到回归方程的具体形式。
根据实际需求和数据特点，选择适当的变量和函数形式，建立最优的回归模型。
3.3 参数估计利用最小二乘法或最大似然法等统计方法，估计回归模型中的参数。
通过最小化观测值与回归模型预测值之间的差异，找到最优的参数估计值。
3.4 模型检验通过对回归模型的拟合程度进行检验，评估模型的准确性和可靠性。
常用的检验方法包括：残差分析、显著性检验、回归系数的显著性检验等。
4. 一元线性回归分析实例为了更好地理解一元线性回归分析的应用，我们以房价和房屋面积之间的关系为例进行分析。
计量经济学第二篇一元线性回归模型
第二章 一元线性回归模型2.1 一元线性回归模型的基本假定有一元线性回归模型（统计模型）如下， y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。
其中y t 称被解释变量（因变量），x t 称解释变量（自变量），u t 称随机误差项，β0称常数项，β1称回归系数（通常未知）。
上模型可以分为两部分。
（1）回归函数部分，E(y t ) = β0 + β1 x t ,（2）随机部分，u t 。
图2.1 真实的回归直线这种模型可以赋予各种实际意义，居民收入与支出的关系；商品价格与供给量的关系；企业产量与库存的关系；身高与体重的关系等。
以收入与支出的关系为例。
假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。
但实际上数据来自各个家庭，来自同一收入水平的家庭，受其他条件的影响，如家庭子女的多少、消费习惯等等，其出也不尽相同。
所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。
“线性”一词在这里有两重含义。
它一方面指被解释变量Y 与解释变量X 之间为线性关系，即另一方面也指被解释变量与参数0β、1β之间的线性关系，即。
1ty x β∂=∂，221ty β∂=∂0 ，1ty β∂=∂，2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。
所以在经济问题上“控制其他因素不变”是不可能的。
随机误差项u t 正是计量模型与其它模型的区别所在，也是其优势所在，今后咱们的很多内容，都是围绕随机误差项u t 进行了。
回归模型的随机误差项中一般包括如下几项内容： （1）非重要解释变量的省略，（2）数学模型形式欠妥， （3）测量误差等，（4）随机误差（自然灾害、经济危机、人的偶然行为等）。
2.1.3 一元线性回归模型的基本假定通常线性回归函数E(y t ) = β0 + β1 x t 是观察不到的，利用样本得到的只是对E(y t ) =β0 + β1 x t 的估计，即对β0和β1的估计。
第二章 一元线性回归模型 知识点
第二章一元线性回归模型一、知识点列表二、关键词1、回归分析基本概念关键词：回归分析在计量经济学中，回归分析方法是研究某一变量关于另一（些）变量间数量依赖关系的一种方法，即通过后者观测值或预设值来估计或预测前者的（总体）均值。
回归的主要作用是用来描述自变量与因变量之间的数量关系，还能够基于自变量的取值变化对因变量的取值变化进行预测，也能够用来揭示自变量与因变量之间的因果关系关键词：解释变量、被解释变量影响被解释变量的因素或因子记为解释变量，结果变量被称为被解释变量。
2、回归模型的设定关键词：随机误差项（随机干扰项）不包含在模型中的解释变量和其他一些随机因素对被解释变量的总影响称为随机误差项。
产生随机误差项的原因主要有：（1）变量选择上的误差；（2）模型设定上的误差；（3）样本数据误差；（4）其他原因造成的误差。
关键词：残差项（residual ）通过样本数据对回归模型中参数估计后，得到样本回归模型。
通过样本回归模型计算得到的样本估计值与样本实际值之差，称为残差项。
也可以认为残差项是随机误差项的估计值。
3、一元线性回归模型中对随机干扰项的假设 关键词：线性回归模型经典假设线性回归模型经典假设有5个，分别为：（1）回归模型的正确设立；（2）解释变量是确定性变量，并能够从样本中重复抽样取得；（3）解释变量的抽取随着样本容量的无限增加，其样本方差趋于非零有限常数；（4）给定被解释变量，随机误差项具有零均值，同方差和无序列相关性。
（5）随机误差项服从零均值、同方差的正态分布。
前四个假设也称为高斯马尔科夫假设。
4、最小二乘估计量的统计性质关键词：普通最小二乘法（Ordinary Least Squares ，OLS ）普通最小二乘法是通过构造合适的样本回归函数，从而使得样本回归线上的点与真实的样本观测值点的“总体误差”最小，即：被解释变量的估计值与实际观测值之差的平方和最小。
ββ==---∑∑∑nn n222i i 01ii=111ˆˆmin =min ()=min ()i i i i u y y y x关键词：无偏性由于未知参数的估计量是一个随机变量，对于不同的样本有不同的估计量。
第二章一元线性回归模型1
第二章一元线性回归模型计量经济学在对经济现象建立经济计量模型时，大量地运用了回归分析这一统计技术，本章和下一章将通过一元线性回归模型、多元线性回归模型来介绍回归分析的基本思想。
第一节回归分析的几个基本问题回归分析是经济计量学的主要工具，下面我们将要讨论这一工具的性质。
一、回归分析的性质（一）回归释义回归一词最先由F •加尔顿（Francis Galt on ）提出。
加尔顿发现，虽然有一个趋势，父母高，儿女也高：父母矮，儿女也矮，但给定父母的身高，儿女辈的平均身高却趋向于或者“回归” 到全体人口的平均身高。
或者说，尽管父母双亲都异常高或异常矮，而儿女的身高则有走向人口总体平均身高的趋势（普遍回归规律）。
加尔顿的这一结论被他的朋友K •皮尔逊（Karl pearson）证实。
皮尔逊收集了一些家庭出身1000多名成员的身高记录，发现对于一个父亲高的群体，儿辈的平均身高低于他们父辈的身高，而对于一个父亲矮的群体，儿辈的平均身高则高于其父辈的身高。
这样就把高的和矮的儿辈一同“回归”到所有男子的平均身高，用加尔顿的话说，这是“回归到中等” 。
回归分析是用来研究一个变量（被解释变量Explained variable或因变量Dependent variable 与另一个或多个变量（解释变量Explanatory variable或自变量Independent variable之间的关系。
其用意在于通过后者（在重复抽样中）的已知或设定值去估计或预测前者的（总体）均值。
下面通过几个简单的例子，介绍一下回归的基本概念。
例子1.加尔顿的普遍回归规律。
加尔顿的兴趣在于发现为什么人口的身高分布有一种稳定性,我们关心的是，在给定父辈身高的条件下找出儿辈平均身高的变化。
也就是一旦知道了父辈的身高，怎样预测儿辈的平均身高。
为了弄清楚这一点，用图 1.1 表示如下图 1.1 对应于给定父亲身高的儿子身高的假想分布图 1.1 展示了对应于设定的父亲身高, 儿子在一个假想人口总体中的身高分布, 我们不难发现,对应于任一给定的父亲身高, 相对应都有着儿子身高的一个分布范围，同时随着父亲身高的增加，儿子的平均身高也增加，为了清楚起见，在1.1散点图中勾画了一条通过这些散点的直线，以表明儿子的平均身高是怎样随着父亲的身高增加而增加的。
第二章 一元线性回归模型
∂Q ˆ ˆ = −2∑ (Yi − β 0 − β1 X i ) = 0 ∂β ˆ0 ˆ ˆ ∂Q = −2∑ (Y − β − β X )X = 0 i 0 1 i i ˆ ∂β1
化简得： 化简得：
ˆ ˆ ∑ (Yi − β 0 − β1 X i ) = 0 ˆ ˆ ∑ (Yi − β 0 − β1 X i )X i = 0
2.总体回归方程（线）或回归函数 总体回归方程（ 总体回归方程 即对（ ）式两端取数学期望： 即对（2.8）式两端取数学期望：
E y i）= β 0 + β 1 x i （
（2.9）
（2.9）为总体回归方程。由于随机项的影响，所 ）为总体回归方程。由于随机项的影响， 有的点（ ）一般不在一条直线上； 有的点（x,y）一般不在一条直线上；但所有的点 （x,Ey）在一条直线上。总体回归线描述了 与y ）在一条直线上。总体回归线描述了x与 之间近似的线性关系。 之间近似的线性关系。
Yi = β X i + ui
需要估计， 这个模型只有一个参数 需要估计，其最 小二乘估计量的表达式为： 小二乘估计量的表达式为：
∑XY ˆ β= ∑X
i i 2 i
例2.2.1：在上述家庭可支配收入-消费支出例中，对 ：在上述家庭可支配收入-消费支出例中， 于所抽出的一组样本数据， 于所抽出的一组样本数据，参数估计的计算可通过下面 的表2.2.1进行。 进行。 的表 进行
二、一元线性回归模型 上述模型中， 为线性的， 上述模型中， 若f(Xi)为线性的，这时的模型 为线性的 一元线性回归模型： 即为 一元线性回归模型：
yi = β 0 + β1 xi + ui 其中：yi为被解释变量，xi为解释变量，ui为随机误 差项，β 0、β1为回归系数。
计量经济学 第二章 一元线性回归模型
计量经济学第二章一元线性回归模型第二章一元线性回归模型第一节一元线性回归模型及其古典假定第二节参数估计第三节最小二乘估计量的统计特性第四节统计显著性检验第五节预测与控制第一节回归模型的一般描述（1）确定性关系或函数关系：变量之间有唯一确定性的函数关系。
其一般表现形式为：一、回归模型的一般形式变量间的关系经济变量之间的关系，大体可分为两类：（2.1)（2）统计关系或相关关系：变量之间为非确定性依赖关系。
其一般表现形式为：(2.2)例如：函数关系：圆面积S =统计依赖关系/统计相关关系：若x和y之间确有因果关系，则称(2.2)为总体回归模型，x(一个或几个）为自变量（或解释变量或外生变量），y为因变量（或被解释变量或内生变量），u为随机项，是没有包含在模型中的自变量和其他一些随机因素对y的总影响。
一般说来，随机项来自以下几个方面：1、变量的省略。
由于人们认识的局限不能穷尽所有的影响因素或由于受时间、费用、数据质量等制约而没有引入模型之中的对被解释变量有一定影响的自变量。
2、统计误差。
数据搜集中由于计量、计算、记录等导致的登记误差；或由样本信息推断总体信息时产生的代表性误差。
3、模型的设定误差。
如在模型构造时，非线性关系用线性模型描述了；复杂关系用简单模型描述了；此非线性关系用彼非线性模型描述了等等。
4、随机误差。
被解释变量还受一些不可控制的众多的、细小的偶然因素的影响。
若相互依赖的变量间没有因果关系，则称其有相关关系。
对变量间统计关系的分析主要是通过相关分析、方差分析或回归分析(regression analysis)来完成的。
他们各有特点、职责和分析范围。
相关分析和方差分析本身虽然可以独立的进行某些方面的数量分析，但在大多数情况下，则是和回归分析结合在一起，进行综合分析，作为回归分析方法的补充。
回归分析(regression analysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。
第二章 一元线性回归模型
__
__
2
/n
★样本相关系数r是总体相关系数 的一致估计
相关系数有以下特点：
• • • • 相关系数的取值在-1与1之间。 （2）当r=0时，线性无关。 （3）若r＞0 ，正相关，若r＜0 ，负相关。 （4）当0＜|r|＜1时，存在一定的线性相关 关系， 越接近于1，相关程度越高。 • （5）当|r|=1时，表明x与y完全线性相关 （线性函数），若r=1，称x与y完全正相关； 若r=-1，称x与y完全负相关。 • 多个变量之间的线性相关程度，可用复相 关系数和偏相关系数去度量。
●假定解释变量X在重复抽样中取固定值。 但与扰动项u是不相关的。(从变量X角度看是外生的)
注意: 解释变量非随机在自然科学的实验研究中相对
Yi 1 2 X i ui
●假定解释变量X是非随机的，或者虽然X是随机的，
容易满足，经济领域中变量的观测是被动不可控的， X非随机的假定并不一定都满足。
E( y xi ) 0 1xi
11
• 可以看出,虽然每个家庭的消费支出存在差 异,但平均来说，家庭消费支出是随家庭可 支配收入的递增而递增的。当x取各种值时, y的条件均值的轨迹接近一条直线,该直线称 为y对x的回归直线。（回归曲线）。 • 把y的条件均值表示为x的某种函数，可写 为：
E( y xi ) 0 1xi
Var ( y xi ) 2
Cov( yi , y j ) 0
y | xi ~ N (0 1xi , )
2
22
第三节 参数估计
• 一、样本回归方程
• 对于
yi 0 1 xi ui
• 在满足古典假定下，两边求条件均值，得到总体 回归函数：
第2章一元线性回归模型
布图上的点接近于一条曲线时，称为非线性相关。简单相关按
符号又可分为 正相关 （见图2.3.4 ）、负相关 （见图2.3.8 ）和零 相关 （见图2.3.6 ）。两个变量趋于在同一个方向变化时，即同
增或同减，称为变量之间存在正相关；当两个变量趋于在相反
方向变化时，即当一个变量增加，另一个变量减少时，称为变 量之间存在负相关；当两个变量的变化相互没有关系时，称为
4、普通最小二乘法
为什么要使用OLS？ （1）OLS的应用相对简便； （2）以最小化残差平方和为目标在理论很合理； （3）OLS估计量有很多有用的性质。 1）估计的回归线通过Y和X的均值。下列等式总是
ˆ ˆX 严格成立的：设下，可以证明，OLS是 “最优”的估计方法。
2.2.2 最小二乘估计量的性质
一个用于考察总体的估计量，可从如下几个方面考察其
优劣性： （1）线性。即它是否是另一个随机变量的线性函数；
（2）无偏性。即它的均值或期望是否等于总体的真实值；
（3）有效性。即它是否在所有的线性无偏估计量中具有 最小方差； （4）渐近无偏性。 即样本容量趋于无穷大时，它的均值 序列趋于总体的真值； （5）一致性。即样本容量趋于无穷大时，它是否依概率 收敛于总体的真值；
1．总变差的分解
ˆ b ˆX ˆ b Yt的估计值位于估计的回归线 Y t 0 1 t 上，Y围绕其均值的变异 (Y Y )可被分解为两部分：
ˆ Y ) (1) (Y t
ˆ) (2) (Yt Y t
样本回归函数：
3．相关系数检验
（1）变量相关的定义和分类
相关：指两个或两个以上变量间相互关系的程度或强度。
2 2 ˆ e ( Y Y ) i i OLS 最小化 i i 1 i 1
第二章 一元线性回归分析基础
加，消费增加，但消费的增长低于收入的增长，即消
费对收入的弹性小于1。它的数学表述为
Y X
0
Y X
1,
Y X
Y X
其中Y为消费额，X为收入。
该线性方程描述了消费与收入之间的确定关系，即给定 一个收入值，可以根据方程得到一个唯一确定的消费值。 但实际上消费与收入间的关系不是准确实现的。
原因：入随机误差项，将变量之间的关系用一个线性 随机方程来描述，用随机数学的方法来估计方程中的 参数，这就是线性回归模型的特征，也就是线性计量 经济学模型的特征。
二、一元线性回归模型
单方程线性回归模型的一般形式为
Yi 1 2 X2i 3 X3i k Xki ui ,i 1,2, ,n 其中Y为被解释变量，X 2 ,X 3 , ,X n 为解释变量。
化。
如果误差项的方差不同，那么与其对应的观测值Yi的可 靠程度也不相同。这会使参数的检验和利用模型进行预 测复杂化。而满足同方差假设，将使检验和预测简化。
假设3 表示不同的误差项之间互相独立，同时，不同的 被解释变量在统计上也是互相独立的。即
Cov(Yi, Yj)= E(Yi－E(Yi)) (Yj－E(Yj))= E(uiuj)=0， i≠j 假假设设4，自通动常满X足i为，确即定性变量，即非随机变量，此时，该
也可以用显函数形式表示为 Y f ( X1,X 2 , ,X n )
其中最简单的形式为一元线性函数关系。
例如 当某种商品单价P固定不变，其销售收入y与销售 的商品数量x之间的关系为一元线性关系，即y = Px
如果用x，y构成的直角坐标图来表示，上式所表示的 函数关系为一条经过坐标原点的直线，所有可能的点 都在这条直线上。
Cov(ui, Xi)= E(ui－E(ui)) (Xi－E(Xi))=0，i=1,2, ……,n 假设5 随机误差项服从零均值，同方差的正态分布。即
第二节一元线性回归分析
第二节一元线性回归分析本节主要内容：回归是分析变量之间关系类型的方法，按照变量之间的关系，回归分析分为：线性回归分析和非线性回归分析。
本节研究的是线性回归，即如何通过统计模型反映两个变量之间的线性依存关系.回归分析的主要内容:1.从样本数据出发，确定变量之间的数学关系式；2.估计回归模型参数；3.对确定的关系式进行各种统计检验,并从影响某一特定变量的诸多变量中找出影响显著的变量。
一、一元线性回归模型:一元线性模型是指两个变量x、y之间的直线因果关系。
理论回归模型:理论回归模型中的参数是未知的,但是在观察中我们通常用样本观察值估计参数值，通常用分别表示的估计值，即称回归估计模型：回归估计模型：二、模型参数估计：用最小二乘法估计：【例3】实测某地四周岁至十一岁女孩的七个年龄组的平均身高（单位：厘米）如下表所示某地女孩身高的实测数据建立身高与年龄的线性回归方程。
根据上面公式求出b0=80。
84，b1=4。
68。
三．回归系数的含义（2）回归方程中的两个回归系数，其中b0为回归直线的启动值，在相关图上变现为x=0时，纵轴上的一个点,称为y截距；b1是回归直线的斜率，它是自变量(x）每变动一个单位量时，因变量（y）的平均变化量。
（3）回归系数b1的取值有正负号。
如果b1为正值，则表示两个变量为正相关关系,如果b1为负值，则表示两个变量为负相关关系。
[例题·判断题］回归系数b的符号与相关系数r的符号，可以相同也可以不同.（ )答案：错误解析：回归系数b的符号与相关系数r的符号是相同的=a+bx，b<0，则x与y之间的相关系数（ )［例题·判断题]在回归直线yca。
r=0 b.r=1 c。
0<r〈1 d.—1<r〈0答案:d解析：b〈0,则x与y之间的相关系数为负即—1〈r〈0［例题·单选题］回归系数和相关系数的符号是一致的，其符号均可用来判断现象( ）a。
线性相关还是非线性相关 b.正相关还是负相关c。
一元线性回归分析
• 因此，给定收入X的值Xi，可得消费支出Y的条件 均值（conditional mean）或条件期望（conditional expectation）：
E(Y | X X i )
该例中：E（Y | X=800）=650
2020/4/28
朱晋
13
• 从散点图发现：随着收入的增加，消费“平均
地说”也在增加，且Y的条件均值均落在一根正 斜率的直线上。这条直线称为总体回归线。
均值，即当解释变量取某个确定值时，与之统计相 关的被解释变量所有可能出现的对应值的平均值。
2020/4/28
朱晋
9
回归分析构成计量经济学的方法论基 础，其主要内容包括：
（1）根据样本观察值对计量经济模型参数进行 估计，求得回归方程；
（2）对回归方程、参数估计值进行检验； （3）利用回归方程进行分析、评价及预测。
随机变量间的关系。 • 统计依赖或相关关系：研究的是非确定现象随 机变量间的关系。
2020/4/28
朱晋
4
△对变量间统计依赖关系的考察主要是通过相关分析 (correlation analysis)或回归分析(regression analysis) 来完成的：
统计依赖关系
正相关 线性相关 不相关 相关系数：
yi 0 1xi ui
• 利用样本观察值找出参数0和 1的估计值，
得到样本回归模型：
yˆi ˆ0 ˆ1xi
• 检验估计值的性质，并利用样本回归模
型分析被解释变量的总体平均规律。
2020/4/28
朱晋
8
• 由于变量间关系的随机性，回归分析关心的是根据 解释变量的已知或给定值，考察被解释变量的总体
负相关 1 XY 1
应用回归分析(第三版)何晓群_刘文卿_课后习题答案_完整版
第二章 一元线性回归分析思考与练习参考答案2.1 一元线性回归有哪些基本假定?答： 假设1、解释变量X 是确定性变量，Y 是随机变量；假设2、随机误差项ε具有零均值、同方差和不序列相关性： E(εi )=0 i=1,2, …,n Var (εi )=σ2 i=1,2, …,n Cov(εi, εj )=0 i≠j i,j= 1,2, …,n假设3、随机误差项ε与解释变量X 之间不相关： Cov(X i , εi )=0 i=1,2, …,n假设4、ε服从零均值、同方差、零协方差的正态分布 εi ~N(0, σ2 ) i=1,2, …,n 2.2 考虑过原点的线性回归模型 Y i =β1X i +εi i=1,2, …,n误差εi （i=1,2, …,n）仍满足基本假定。
求β1的最小二乘估计 解：21112)ˆ()ˆ(ini i ni i i e X Y Y Y Q β∑∑==-=-=得：2.3 证明（2.27式），∑e i =0 ，∑e i X i =0 。
证明：∑∑+-=-=nii i ni X Y Y Y Q 121021))ˆˆ(()ˆ(ββ其中：即： ∑e i =0 ，∑e i X i =02.4回归方程E （Y ）=β0+β1X 的参数β0，β1的最小二乘估计与最大似然估计在什么条件下等价?给出证明。
答：由于εi ~N(0, σ2 ) i=1,2, …,n所以Y i =β0 + β1X i + εi ~N （β0+β1X i , σ2 ) 最大似然函数：)()(ˆ1211∑∑===ni ini ii XY X β01ˆˆˆˆi ii i iY X e Y Y ββ=+=-0100ˆˆQQββ∂∂==∂∂使得Ln （L ）最大的0ˆβ，1ˆβ就是β0，β1的最大似然估计值。
同时发现使得Ln （L ）最大就是使得下式最小，∑∑+-=-=nii i ni X Y Y Y Q 121021))ˆˆ(()ˆ(ββ上式恰好就是最小二乘估计的目标函数相同。
一元线性回归模型典型例题分析
第二章 一元线性回归模型典型例题分析例1、令kids 表示一名妇女生育孩子的数目，educ 表示该妇女接受过教育的年数。
生育率对教育年数的简单回归模型为μββ++=educ kids 10（1）随机扰动项μ包含什么样的因素？它们可能与教育水平相关吗？（2）上述简单回归分析能够揭示教育对生育率在其他条件不变下的影响吗？请解释。
例2．已知回归模型μβα++=N E ，式中E 为某类公司一名新员工的起始薪金（元），N 为所受教育水平（年）。
随机扰动项μ的分布未知，其他所有假设都满足。
如果被解释变量新员工起始薪金的计量单位由元改为100元，估计的截距项与斜率项有无变化？如果解释变量所受教育水平的度量单位由年改为月，估计的截距项与斜率项有无变化？例3．对于人均存款与人均收入之间的关系式t t t Y S μβα++=使用美国36年的年度数据得如下估计模型，括号内为标准差：)011.0()105.151(067.0105.384ˆtt Y S +=＝0.538 023.199ˆ=σ （1）β的经济解释是什么？（2）α和β的符号是什么？为什么？实际的符号与你的直觉一致吗？如果有冲突的话，你可以给出可能的原因吗？（3）对于拟合优度你有什么看法吗？ （4）检验统计值？例4．下列方程哪些是正确的？哪些是错误的？为什么？⑴ y xt n t t=+=αβ12,,, ⑵ yx t n t tt=++=αβμ12,,, ⑶ y x t n t t t=++= ,,,αβμ12⑷ ,,,y x t n t t t =++=αβμ12 ⑸ y x t n t t =+= ,,,αβ12 ⑹ ,,,y x t n t t=+=αβ12 ⑺ y x t n t t t =++= ,,,αβμ12 ⑻ ,,,y x t n t t t=++=αβμ12 其中带“＾”者表示“估计值”。
例5．对于过原点回归模型i i i u X Y +=1β ，试证明∑=∧221)(iu X Var σβ例6、对没有截距项的一元回归模型i i i X Y μβ+=1称之为过原点回归（regression through the origin ）。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
总体平方和
回归平方和（解释平方 和）
残差平方和
TSS=ESS+RSS
Y的观测值围绕其均值的总离差(total variation) 可分解为两部分：一部分来自回归线(ESS)，另一部 分则来自随机势力(RSS)。
ˆ ˆ P( ) 1
如果存在这样一个区间，称之为置信区间 （confidence interval）； 1-称为置信系数（置信度） （confidence coefficient）， 称为显著性水平（level of significance ） ； 置 信 区 间 的 端 点 称 为 置 信 限 （confidence limit）或临界值（critical values）。
对于Y的总体均值E(Y|X)与个体值的预测区 间（置信区间）: （1）样本容量n越大，预测精度越高，反之 预测精度越低； （2）样本容量一定时，置信带的宽度当在X 均值处最小，其附近进行预测（插值预测） 精度越大；X越远离其均值，置信带越宽， 预测可信度下降。
§2.4应用举例
1.我国固定资产投资总额与GDP的关系研究 第一步：模型设定
三、拟合优度检验
拟合优度检验：对样本回归直线与样本观测值 之间拟合程度的检验。
拟合优度：回归直线与各观测点的接近程度称 为回归直线的拟合优度。)
R2
度量拟合优度的指标：判定系数（可决系数）
1、总离差平方和的分解
已知由一组样本观测值（Xi,Yi），i=1,2…,n 得到如下样本回归直线
ˆ ˆ ˆ Yi 0 1 X i
R2越接近1，说明实际观测点离样本线越近，拟 合优度越高。
在实际计算可决系数时，在ˆ1 已经估计出后：
xi2 ˆ R 2 12 y2 i
在例2.2的收入-消费支出例中，
xi2 ˆ 0.980858 R 2 12 yi2
说明样本回归直线的解释能力为98.09%，即 消费支出yi的总变差中，由解释变量xi解释的部 分占99.09%，说明模型的拟合优度较高。
ˆ ˆ ˆ Y0 0 1 X 0
ˆ ˆ ˆ ˆ ˆ E(Y0 ) E(0 1 X 0 ) E(0 ) X 0 E(1 ) 0 1 X 0
Ŷ0是Y0的无偏估计。
二、总体条件均值与个值预测值的置信 区间 1、总体均值预测值的置信区间
在1-的置信度下，总体均值E(Y|X0)的置信区间为
2 i
n x
2 i
ˆ 0 S ˆ
0
~ t (n 2)
在上述收入-消费支出例中，首先计算2的估计值
ei2 424.75 53.09375 n 2 10 2
ˆ S ˆ 2
1
xi2 53.09375/ 74250 0.00726431 0.02695238
GDP b0 b1I t t t
§2.3 一元线性回归模型的统 计检验
一、回归参数的显著性检验 二、回归参数的置信区间 三、回归方程的显著性检验 和拟合优度检验
回归分析是要通过样本所估计的参数来代替总 体的真实参数，或者说是用样本回归线代替总 体回归线。
• 尽管从统计性质上已知，如果有足够多的重 复抽样，参数的估计值的期望（均值）就等于 其总体的参数真值，但在一次抽样中，估计值 不一定就等于该真值。 • 那么，在一次抽样中，参数的估计值与真值 的差异有多大，是否显著，这就需要进一步进 行统计检验。 • 主要包括拟合优度检验、变量的显著性检验 及参数的区间估计。
2、变量的显著性检验(t-检验)
ˆ 1 ~ N ( 1 ,
x
2
2 i
)
t
ˆ 1 1 ˆ
2
x
2 i
ˆ 1 1 S ˆ
1
~ t (n 2)
检验步骤：
（1）对总体参数提出假设 H0： 1=0，
ˆ 1 t S ˆ
H1：10
（2）以原假设H0构造t统计量，并由样本计算其值
ˆ ˆ ˆ yi Yi Y (Yi Yi ) (Yi Y ) ei yi
如果Yi=Ŷi 即实际观测值落在样本回归“线”上，则拟合最好。
可认为，“离差”全部来自回归线，而与“残差”无关。
对于所有样本点，则需考虑这些点与样本均值离 差的平方和,可以证明：
记 TSS yi2 (Yi Y )2
i
2
i
i
2
i
在上述收入-消费支出例中，如果给定 =0.05， 查表得：
t (n 2) t0.025 (8) 2.3060
2
由于
S ˆ 0.026741
1
于是，1的置信区间分别为：
（0.4797,0.6031)
由于置信区间一定程度地给出了样本参数估计 值与总体参数真值的“接近”程度，因此置信区间 越小越好。 要缩小置信区间，需 （1）增大样本容量n，因为在同样的置信水平 下，n越大，t分布表中的临界值越小；同时，增大 样本容量，还可使样本参数估计量的标准差减小； （2）提高模型的拟合优度，因为样本参数估计 量的标准差与残差平方和呈正比，模型拟合优度越 高，残差平方和应越小，参数估计量的方差也越小。
ˆ S ˆ 2 X i2 n xi2 53.09375 454500/ 10 74250 5.700871
0
t统计量的计算结果分别为：
t1 1 S 0.541414 / 0.026741 20.24675
1
t0 0 S 37.22424 / 5.700871 6.529571
一元线性模型中，i (i=0，1）的置信区间:
在变量的显著性检验中已经知道：
t ˆ i i s ˆ
i
~ t ( n 2)
意味着，如果给定置信度（1-），从分布 表中查得自由度为(n-2)的临界值，那么t值处在 (-t/2, t/2)的概率是(1- )。表示为：
P( t t t ) 1
2 2
即
P( t
2
i i s
i
i
t ) 1
2
ˆ ˆ P( i t sˆ i i t sˆ ) 1
2 2 i
于是得到:(1-)的置信度下, i的置信区间是 ( t s , t s )
第二章 一元线性回归分析
Theory and Methodology of SingleEquation Econometric Model
第二章
经典单方程计量经济学模型： 一元线性回归模型
回归分析概述 一元线性回归模型的参数估计 一元线性回归模型统计检验 一元线性回归模型预测 实例
在给定样本中，TSS不变， 如果实际观测点离样本回归线越近，则ESS在 TSS中占的比重越大，因此 拟合优度：回归平方和ESS/Y的总离差TSS
2、可决系数R2统计量
记 R
2
ESS RSS 1 TSS TSS
称 R2 为（样本）可决系数/判定系数（coefficient of determination)。 可决系数的取值范围：[0，1]
一、回归参数的显著性检验
回归分析是要判断解释变量X是否是被解释变 量Y的一个显著性的影响因素。 在一元线性模型中，就是要判断X是否对Y具 有显著的线性性影响。这就需要进行变量的显著 性检验。 变量的显著性检验所应用的方法是数理统计 学中的假设检验。 计量经济学中，主要是针对变量的参数真值是 否为零来进行显著性检验的。
则在 X*=350处， Ŷ* = 37.22424+0.541414*350=226.719
因此，总体均值E(Y|X=350)的95%的置信区间为：
206.2016< E(Y|X=350) <247.236 或 （206.2016, 247.236） 其中t0.025(8)=2.3060 Se (Y*) =8.6938
由 Y0=0+1X0+ 知:
Y0 ~ N ( 0 1 X 0 , 2 )
于是
1 (X 0 X )2 ˆ Y0 Y0 ~ N ( 0, 2 (1 )) 2 n xi
ˆ Y0 Y0 t ~ t ( n 2) S Yˆ Y
0 0
式中 :
S Yˆ Y
1、假设检验
所谓假设检验，就是事先对总体参数或总体 分布形式作出一个假设，然后利用样本信息来判 断原假设是否合理，即判断样本信息与原假设是 否有显著差异，从而决定是否接受或拒绝原假设。 假设检验采用的逻辑推理方法是反证法。 先假定原假设正确，然后根据样本信息，观察 由此假设而导致的结果是否合理，从而判断是否 接受原假设。 判断结果合理与否，是基于“小概率事件不 易发生”这一原理的。
0
给定显著性水平=0.05，查t分布表得临界值
t 0.05/2(8)=2.3060 |t1|>2.3060，说明家庭可支配收入在95%的置信 度下显著，即是消费支出的主要解释变量； |t0|>2.3060,表明在95%的置信度下，拒绝截距 项为零的假设，即显著。
二、回归参数的置信区间
假设检验可以通过一次抽样的结果检验总体参 数可能的假设值的范围（如是否为零），但它并 没有指出在一次抽样中样本参数值到底离总体参 数的真值有多“近”。 要判断样本参数的估计值在多大程度上可以 “近似”地替代总体参数的真值，往往需要通过 构造一个以样本参数的估计值为中心的“区间”， 来考察它以多大的可能性（概率）包含着真实的 参数值。这种方法就是参数检验的置信区间估计。