一元线性回归预测法
01-一元线性回归模型的预测
3
第五节 一元线性回归模型的预测
在样本数据反映的经济变量之间的关系基本上没有变化的情况下， 可利用经过参数估计和检验的模型，由已知或事先测定的解释变量的 数 值，预测被解释变量的数值。
利用例2-3建立的消费函数模型，求家庭可支配收入为60000元时家庭平 均消费支出的预测值。
析： 将家庭可支配收入
代入样本回归函数
可得家庭平均消费支出的预测值为
90
二、总体均值 E（Y/ X0）的预测置信区间
Yˆ0
也可以表示为
Y（i i
1，2，，n）的线性组合，Yˆ 服从正态分布。 0
由于 可以证明
0
0
其中
SE（e）= 0
ˆ2[1
1 n
(X0 X )2
n
xi2
]
i 1
对于给定的显著性水平
P(
t
2
YS0 E（Yeˆ）0 0
t
2
) 1
由此可得，个别值 Y0 的置信度为1的预测置信区间为
[ Yˆ0t SE（e0），Yˆ0 t SE（e0）]
（2-51）
2
2
95
例2-9
以例2-3为例（假设一个由100个家庭构成的总体，并假设这100个家庭的月 可 支配收入水平只限于13000元、18000元、23000元、28000元、33000元、 38000 元、43000元、48000元、53000元、58000元10种情况，每个家庭的月可 支配收 入与消费数据如表2-1所示，要研究这一总体的家庭月消费支出Y与家 庭月可支 配收入X之间的关系，以便根据已知的家庭月可支配收入水平测算 该总体的家 庭月消费支出平均水平。）
第三节 利用一元线性回归方程进行预测和控制
若记 ( x )
1 (x x) t ( n 2) S 1 n Lxx 2
2
ˆ ( x ) , y2 ( x ) y ˆ (x) y1 ( x ) y
y
ˆ (x) y1 ( x ) y
ˆx ˆa ˆb y
ˆ0 y
y
ˆ (x) y2 ( x ) y
取随机变量
T
ˆ0 y0 y 1 ( x0 x ) 2 S 1 n Lxx
S剩 ˆx ˆ0 a ˆb 其中，S , y 0 n 2 可以证明：当i ~ N(0 , 2) （i=1,2 , … ，n ） 且相互独立时，随机变量T服从自由度为n-2的 t分布 对给定的置信度1-，作概率等式 P{| t | t ( n 1)} 1 ，
y
y2
y 2 ( x) y ( x) ( x)
M
y a b x y1 ( x) y( x) ( x)
y1
0
N
x1
x2
x
(b 0 )
, y2 处分别画两条水平线， 它们分别交曲线 从 y1
y1 ( x)、 y2 ( x) 于N、M ，再过这两点分别画垂线交x 轴
第九章
§9.3
一元线性回归
利用一元线性回归方程进行 预测和控制
一、预测 1、点预测 就是对x=x0时y的精确值y0=a+bx0+0作出点估 ˆx 计,即将x=x0代入回归方程，求得 y ˆ0 a ˆb 0 ˆ 0 作为y0的估计值，这就是点预 将y 测。 2、区间预测 就是区间估计，即在给定的置信度下求出精 确值y0的置信区间，称为y0的区间预测。
一元线性回归模型的置信区间与预测10页
§2.5 一元线性回归模型的置信区间与预测多元线性回归模型的置信区间问题包括参数估计量的置信区间和被解释变量预测值的置信区间两个方面，在数理统计学中属于区间估计问题。
所谓区间估计是研究用未知参数的点估计值（从一组样本观测值算得的）作为近似值的精确程度和误差范围，是一个必须回答的重要问题。
一、参数估计量的置信区间在前面的课程中，我们已经知道，线性回归模型的参数估计量^β是随机变量i y 的函数，即：i i y k ∑=1ˆβ，所以它也是随机变量。
在多次重复抽样中，每次的样本观测值不可能完全相同，所以得到的点估计值也不可能相同。
现在我们用参数估计量的一个点估计值近似代表参数值，那么，二者的接近程度如何？以多大的概率达到该接近程度？这就要构造参数的一个区间，以点估计值为中心的一个区间（称为置信区间），该区间以一定的概率（称为置信水平）包含该参数。
即回答1β以何种置信水平位于()a a +-11ˆ,ˆββ之中，以及如何求得a 。
在变量的显著性检验中已经知道)1(~^^---=k n t s t iii βββ (2.5.1)这就是说，如果给定置信水平α-1，从t 分布表中查得自由度为(n-k-1)的临界值2αt ，那么t 值处在()22,ααt t -的概率是α-1。
表示为即于是得到：在（α-1）的置信水平下i β的置信区间是)(^^2^2^iis t s t i i βαβαββ⨯+⨯-，i=0,1 （2.5.3）在某例子中，如果给定01.0=α，查表得从回归计算中得到01.0,15,21.0ˆ,3.102ˆ1ˆˆ10====ββββS S 根据（2.5.2）计算得到10,ββ的置信区间分别为()48.147,12.57和（0.1799,0.2401）显然，参数1β的置信区间要小。
在实际应用中，我们当然希望置信水平越高越好，置信区间越小越好。
如何才能缩小置信区间？从（2.5.3）式中不难看出：（1）增大样本容量n 。
一元线性回归分析的作用方法步骤
一元线性回归分析的作用方法步骤一元线性回归分析是一种用于探究两个变量之间线性关系的统计方法。
它的作用是根据给定的自变量和因变量数据，建立一个线性回归模型，以预测未来的因变量值或者对自变量进行解释。
以下是一元线性回归分析的方法步骤：1. 收集数据：收集自变量（x）和因变量（y）的数据。
确保数据具有代表性，容量足够大，并且是可靠的。
2. 绘制散点图：根据所收集的数据，绘制自变量（x）和因变量（y）的散点图，以查看它们之间的大致关系。
3. 计算相关系数：计算自变量（x）和因变量（y）的相关系数，以评估它们之间的线性相关性。
通常使用皮尔逊相关系数来进行衡量。
4. 建立模型：使用最小二乘法来建立一元线性回归模型。
该模型的方程可表示为y = β₀+ β₁x，其中β₀是截距，β₁是斜率。
最小二乘法通过最小化残差平方和来确定最佳拟合的直线。
5. 评估模型：评估回归模型的拟合程度。
可以使用多种统计指标，如可决系数（R²）和均方根误差（RMSE），来评估模型的精度和稳定性。
6. 预测和推断：使用建立的回归模型进行预测和推断。
可以利用模型来预测因变量的值，或者对自变量进行解释和推断。
7. 检验假设：对回归系数进行假设检验，以判断自变量对因变量是否具有统计上显著的影响。
常见的方法是计算回归系数的t值和p值，并根据显著性水平来确定是否拒绝或接受假设。
8. 验证和诊断：验证回归模型的有效性和适用性。
可以使用残差分析、正态概率图和残差图等方法来检查模型的假设前提和模型的良好性。
以上是一元线性回归分析的一般方法步骤。
实际分析中，可能会根据具体问题进行调整和扩展。
一元线性回归的最小二乘估计
最小二乘估计是在所有线性无偏估计中方差最小的。
易于计算
最小二乘估计可以通过矩阵运算或者最优化方法快速计算得到。
最小二乘估计的应用范围和局限性
1 广泛应用
最小二乘估计在经济学、统计学、机器学习等领域有着广泛的应用。
2 数据相关性要求
最小二乘估计需要假设自变量和因变量之间存在线性关系，并且数据的相关性较强。
一元线性回归的最小二乘 估计
最小二乘估计（Least Squares Estimation）是一种常用的线性回归参数估计方 法，通过最小化数据与回归直线之间的垂直距离，寻找使模型与数据拟合最 好的参数组合。
最小二乘估计的背景和概念
回归分析起源
最小二乘估计最早由高斯提出，用于解决天文观测中的误差问题。
最小二乘估计可以应用于医疗研 究，分析药物剂量和疗效之间的 关系，指导临床决策。
残差图
残差图用于检验回归模型是否合理， 是否存在模型假设的违背。
最小二乘估计的公式推导
1 回归直线的表达式
2 最优参数估计
3 参数估计的标准误差
最小二乘估计通过最小化残 差平方和来求解回归直线的 斜率和截距。
最小二乘估计的求解可以通 过矩阵运算和最优化方法来 实现。
最小二乘估计可以估计参数 的标准误差，用于判断参数 估计的精确程度。
线性回归模型
线性回归模型假设自变பைடு நூலகம்和因变量之间存在线性关系，是最小二乘估计的基础。
误差项的假设
最小二乘估计假设误差项满足独立同分布的正态分布。
一元线性回归的基本原理和模型
散点图
通过散点图可以直观地观察自变量 和因变量之间的关系。
回归直线
线性回归模型通过一条直线拟合数 据，表示自变量对因变量的影响。
一元线性回归分析
一元线性回归分析摘要：一元线性回归分析是一种常用的预测和建模技术，广泛应用于各个领域，如经济学、统计学、金融学等。
本文将详细介绍一元线性回归分析的基本概念、模型建立、参数估计和模型检验等方面内容，并通过一个具体的案例来说明如何应用一元线性回归分析进行数据分析和预测。
1. 引言1.1 背景一元线性回归分析是通过建立一个线性模型，来描述自变量和因变量之间的关系。
通过分析模型的拟合程度和参数估计值，我们可以了解自变量对因变量的影响，并进行预测和决策。
1.2 目的本文的目的是介绍一元线性回归分析的基本原理、建模过程和应用方法，帮助读者了解和应用这一常用的数据分析技术。
2. 一元线性回归模型2.1 模型表达式一元线性回归模型的基本形式为：Y = β0 + β1X + ε其中，Y是因变量，X是自变量，β0和β1是回归系数，ε是误差项。
2.2 模型假设一元线性回归模型的基本假设包括：- 线性关系假设：自变量X与因变量Y之间存在线性关系。
- 独立性假设：每个观测值之间相互独立。
- 正态性假设：误差项ε服从正态分布。
- 同方差性假设：每个自变量取值下的误差项具有相同的方差。
3. 一元线性回归分析步骤3.1 数据收集和整理在进行一元线性回归分析之前，需要收集相关的自变量和因变量数据，并对数据进行整理和清洗，以保证数据的准确性和可用性。
3.2 模型建立通过将数据代入一元线性回归模型的表达式，可以得到回归方程的具体形式。
根据实际需求和数据特点，选择适当的变量和函数形式，建立最优的回归模型。
3.3 参数估计利用最小二乘法或最大似然法等统计方法，估计回归模型中的参数。
通过最小化观测值与回归模型预测值之间的差异，找到最优的参数估计值。
3.4 模型检验通过对回归模型的拟合程度进行检验，评估模型的准确性和可靠性。
常用的检验方法包括：残差分析、显著性检验、回归系数的显著性检验等。
4. 一元线性回归分析实例为了更好地理解一元线性回归分析的应用，我们以房价和房屋面积之间的关系为例进行分析。
2.4-一元线性回归分析的应用：预测问题
对于Y的总体均值E(Y|X)与个体值的预测区间（置信 区间）:
（1）样本容量n越大，预测精度越高，反之预 测精度越低； （2）样本容量一定时，置信带的宽度当在X均值 处最小，其附近进行预测（插值预测）精度越大； X越远离其均值，置信带越宽，预测可信度下降。
第11页，共11页。
第7页，共11页。
2、总体个值预测值的预测区间
由 Y0=0+1X0+ 知:
Y0 ~ N ( 0 1 X 0 , 2 )
于是
Yˆ0
Y0
~
N (0,
2 (1
1 n
(X 0
X )2
x
2 i
))
式中 :
t Yˆ0 Y0 ~ t(n 2) S Yˆ0 Y0
S Yˆ0 Y0
ˆ
2
(1
1 n
❖
T1
T2
T3（目前）
❖
样本区间 事后预测 事前预测
❖ 预测还分为有条件预测和无条件预测。对于无条件预测，预测 式中所有解释变量的值都是已知的。所以事后预测应该属于无 条件预测。当一个模型的解释变量完全由滞后变量组成时，事 前预测也有可能是无条件预测。
❖ 当预测T+1期的yt值时，xt用的是T期值，是已知值。
x
2 i
第6页，共11页。
因此 故
Var(Yˆ0
)
2 n
X
2 i
2 X 0 X 2
X 02 2
xi2
x
2 i
xi2
2 xi2
X2 innX2X2
2X0X
X
2 0
2 ( xi2
xi2 n
(X0
X )2)
2(1 (X0 X )2 )
一元线性回归预测法
C o v ( u i , u j ) E [ u i E ( u i ) ] [ u j E ( u j ) ] E ( u iu j) 0 ( i j)
假定4：随机扰动 u i 与解释变量 X 不相关
C o v ( u i , X i ) E [ u i E ( u i ) ] [ X i E ( X i ) ] 0
32
（2）对随机扰动项 u 的假定
又称高斯假定、古典假定 假定1：零均值假定
在给定 X 的条件下 ， u i 的条件期望为零
E(ui ) 0
假定2：同方差假定
在给定 X 的条件下，u i 的条件方差为某个常数 2
V a r ( u i) E [ u i E ( u i) ] 2 2
33
假定3：无自相关假定
● 从变量相关关系的表现形式看
线性相关——散布图接近一条直线 非线性相关——散布图接近一条曲线
● 从变量相关关系变化的方向看
正相关——变量同方向变化，同增同减 负相关——变量反方向变化，一增一减 不相关
10
800 Y
600
400
Y 2
200
1
0 0
3.0
10
20
30
完全相关
2.5
2.0
1.5
1.0
寻求一种规则和方法，使得到的SRF的参数 ˆ 1 和 ˆ 2 尽可能“接近”总体回归函数中的参数 1 和 2 。
这样的“规则和方法”有多种，最常用的是最小二 乘法
30
简单线性回归的基本假定
1. 为什么要作基本假定？
●模型中有随机扰动，估计的参数是随机变量， 只有对随机扰动的分布作出假定，才能确定 所估计参数的分布性质，也才可能进行假设 检验和区间估计
简述一元线性回归模型的基本假定
简述一元线性回归模型的基本假定
一元线性回归模型通常有三条基本的假定：
1、误差项ε是一个期望值为零的随机变量，即E(ε)＝0。
这意味着在式y=β0＋β1＋ε中，由于β0和β1都是常数，所以有E(β0)=β0，E(β1)=β1。
因此对于一个给定的x值，y的期望值为E(y)=β0＋β1x。
2、对于所有的x值，ε的方差盯σ2都相同。
3、误差项ε是一个服从正态分布的随机变量，且相互独立。
即ε～N(0，σ2)。
独立性意味着对于一个特定的x值，它所对应的y值与其他2所对应的y值也不相关。
一元线性回归分析预测法
一元线性回归分析预测法，是根据自变量x和因变量Y的相关关系，建立x与Y 的线性回归方程进行预测的方法。
由于市场现象一般是受多种因素的影响，而并不是仅仅受一个因素的影响。
所以应用一元线性回归分析预测法，必须对影响市场现象的多种因素做全面分析。
只有当诸多的影响因素中，确实存在一个对因变量影响作用明显高于其他因素的变量，才能将它作为自变量，应用一元相关回归分析市场预测法进行预测。
一元线性回归方程
2.F检：是对全部回归系数进行一次性显著性检验
（方程显著性检验）
其 表 达 式 为 ：F
Hale Waihona Puke S余S回 / m/（n m 1）
回归模型显著性检验步骤为：
(1) 根据α以及分子(m)和分母(n-m-1)的自由度，查
F分布表得临界值Fc ；
(2)作出判断
①当F>Fc(α,m,n-m-1),
则回归模型具有显著水平，x和y之间的变化是符
年 份
人均收入（元） 人均消费(元）
1980
480
420
1984
640
580
1981
510
450
1985
780
620
1982
545
490
1986
760
680
1983
590
530
在表中，x—人平均收入，y—人平均消费支出。
从表中可知，x和y呈现线性规律，设回归线性方程为：
ŷi=a+bx
(1)
由（1）可得到x和y之间的定量关系表示为：
其中：x xi —自变量的平均值； n
y yi —因变量的平均值。 n
（8）
五、可靠性检验
为了避免误差过大，确定a和b之后，在允许误差
的情况，进行可靠性检验。
1.R检验
检验x 与y之间的线性相关的程度。
其数学表达式为： R
n xy- x y
n x2 ( x)2 n y2 ( y)2
三、回归参数估计
由一组观察值 画出散点图,如右图所
示,这样的直线可画出很多条,而回归直 线只有一条，因为只有回归直线最接近 实际观察值。要拟合一条最理想的回归 直线，就要确定a和b。确定a和b的 方法有多种，其中应用最多的是最小二 乘法。
一元线性回归模型(计量经济学)
回归分析是一种统计方法，用于研究变量之间的关系。它基于最小二乘法，寻找最合适的直线来描述变 量间的线性关系。通过回归分析，我们可以理解变量之间的因果关系和预测未知数据。
一元线性回归模型的假设
1 线性关系
2 独立误差
一元线性回归模型假设自变量和因变量之 间存在线性关系。
模型的残差项是独立的，不受其他因素的 影响。
3 常数方差
4 正态分布
模型的残差项具有恒定的方差，即方差齐 性。
模型的残差项服从正态分布。
一元线性回归模型的估计和推断
1
模型估计
使用最小二乘法估计模型的回归系数。
2
参数推断
进行参数估计的显著性检验和置信区间估计。
3
模型拟合程度
使用残差分析和R平方评估模型的拟合程度。
模型评估和解释结果
通过残差分析和R平方等指标评估模型的拟合程度，并解释模型中回归系数的 含义。了解如何正确使用模型的结果，并识别异常值和离群点对模型的影响。
一元线性回归模型(计量 经济学)
在本节中，我们将介绍一元线性回归模型，探讨回归分析的基本概念和原理， 了解一元线性回归模型所做的假设，并学习模型的估计和推断方法。我们还 将探讨模型评估和解释结果的技巧，并通过实例应用和案例分析进一步加深 对该模型的理解。最后，我们将总结和得出结论。
回归分析的基本概念和原理
实例应用和案例分析
汽车价格预测Байду номын сангаас
使用一元线性回归模型预 测汽车价格，考虑车龄、 里程等因素。
销售趋势分析
通过一元线性回归模型分 析产品销售的趋势，并预 测未来销售。
学术成绩预测
应用一元线性回归模型预 测学生的学术成绩，考虑 学习时间、背景等因素。
2.4-5 一元线性回归的预测及实例
区间估计思想： 区间估计思想：构造一个已知概率的统计量（如t分布的统 计量）该统计量包含Y0的真实均值和估计量，再将该统计 量取值的置信区间转化为Y0真实均值的置信区间
6
总体条件均值与个值预测值的区间估计 构造统计量
已知
Y0 = β 0 + β 1 X 0
2 ~ N (β , σ ) β1 1 ∑ xi2
E (Y0 ) = E ( β 0 + β 1 X 0 ) = E ( β 0 ) + X 0 E ( β 1 ) = β 0 + β 1 X 0
4
举例
所建立的家庭可支配收入利用 P34 例2.2.1 所建立的家庭可支配收入-消费支出 模型，求家庭可支配收入为6000 6000元时家庭消费支出均值 模型，求家庭可支配收入为6000元时家庭消费支出均值 和个值的预测值。 和个值的预测值
Y0 ( β 0 + β 1 X 0 ) t= ~ t (n 2) S Y
0
其中
S Y
0
1 (X 0 X )2 = σ ( + ) 2 n ∑ xi
2
Why?
8
置信区间的构造过程： 置信区间的构造过程：
易得：
P( t α < t < t α ) = 1 α
2 2
即
等价于
进而 于是，在1-α的置信度下，总体均值 总体均值E(Y|X0)的置信区间为 总体均值 的置信区间为
由P35 表2.2.1 可得： 可得：
10
解续： 解续： 进而，可求得： 进而，可求得：
E(Y|6000)预测值 预测值95%的置信区间为 预测值 的置信区间为
即
11
总体个值预测值的区间估计
一元整体线性回归预测法的MATLAB程序设计
％ 输 入量 ：
根 据式 （ ２ ） 和式 （ ３ ） 可 以得到 拉格 朗 日极值 条件
％ ％
ｉ ｎ ｙ＝因变 量矢 量 ｉ ｎ ｘ＝自变量 矢量
的目 标 函数 ， 即：
（ １ ） （ Ｖ ｙ ， Ｖ ｘ ， 入， ａ ， ｂ ） ＝ ： 、 （ ｘ —Ｖ ｘ ） ｂ ） ｖ １ ｘ ｖ ｘ ＋ 入 （ ｙ —Ｖ ｙ —Ｉ １ ａ 一 （ ４ ）
估 计值 ｂ
１ ． ７ ７ ４８ １ ． ５ ７ ７９
拟合 优度
１ ． ｏ ｏ ９ ５ ０ ． ９ ３ ６ｌ
拟合优度的取值范围在 ０ 到 １ 之间 ， Ｌ Ｓ的拟合 优度超出该范围 ，说明本实验数据用 Ｌ Ｓ 法进行参 数估计不完全合理。Ｔ Ｌ Ｓ 的拟合优度不仅在指定取 值范 围内， 而且非常接近于 １ 。从这个角度来说 ， 一
％输 出量 ： ％ ａ ＝回归 直线 截距
式（ ４ ） 中， 人 是乘数算子。将公式（ ４ ） 对上述各
％
ｂ ＝回归直线斜率
％
Ｒ ２＝拟合 优度
ｋ＝ｋ ＋ ｌ ；
％Ｃ ｏ ｐ ｙ ｒ ｉ ｇ ｈ ｔ （ ｃ ） ２ ０ １ ５ ， 彭友 ％ Ａｌ ｌ ｒ ｉ ｈｔ ｇ ｓ ｒ ｅ ｓ ｅ ｒ ｖ ｅ ｄ ．
以文献［ ９ 】 的数据为实验对象 ， 其值见文献［ ９ 】 表
一
％将矢量或矩阵合在一起组成新矩阵 ｌ ｓ ｐ ＝（ Ａ ’ Ａ ） ＼ （ ｙ ） ； ％Ｌ Ｓ 计算参数值 ％Ｔ Ｌ Ｓ迭代计算 ａ ＝ｌ ｓ ｐ （ １ ） ； ％初始参数符号替换 ｂ ＝ｌ ｓ ｐ （ ２ ） ； ％初始参数符号替换 ｋ ＝ １ ； ％ 给定初始常数
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
简单相关系数的检验
(1) 直接检验（查相关系数临界值表） H0： = 0； H1： 0 用 xt 和 yt 的样本计算相关系数 r，以自由度 f = T - 2 查临界值表。检验规则是， 若 r > r (T-2) （临界值） ，则 xt 和 yt 相关； 若 r < r (T-2) （临界值） ，则 xt 和 yt 不相关。 (2) t 检验 H0： = 0； H1： 0 r 1 r 2 t= s = (r ) t (T - 2)
r
T 2
其中 2 表示涉及两个变量。 若 t > t (T-2) ，则 xt 和 yt 相关； 若 t < t (T-2) ，则 xt 和 yt 不相关。
16
线性相关系数的局限性
(1) 只适用于考察变量间的线性相关关系。也就是说当 = 0 时，只说明二 变量间不存在线性相关关系，但不能保证不存在其它非线性相关关系。所以变量 不相关与变量相互独立在概念上是不同的。 (2) 相关系数的计算是一个数学过程。它只说明二变量间的相关强度，但不 能揭示这种相关性的原因，不能揭示变量间关系的实质，即变量间是否真正存在 内在联系， 因果关系。 所以在计算 r 的同时， 还要强调对实际问题的分析与理解。 (3) 一般说二变量相关时，可能属于如下一种关系。 ① 单向因果关系。如施肥量与农作物产量；对金属的加热时间与温度值。 ② 双向因果关系。如工业生产与农业生产；商品供给量与商品价格。 ③ 另有隐含因素影响二变量变化。如市场上计算机销量与电视机销量呈正 相关。显然人均收入的增加是一个隐含因素。 ④ 虚假相关。如年国民生产总值与刑事案件数呈正相关。显然二变量间不 存在因果关系。应属虚假相关。中国和美国某个经济指标高度相关，显然这没有 可比性，毫无意义。
回归分析是衡量研究对象之间是否存在某种关 系的技术之一。 在回归分析中，某个变量（自变量，X表示） 按照某种规律，随其他变量（应变量，Y表示） 变化而变化。 如自变量只有一个，称为一元回归，否则称为 多元回归。
5
第一节 回归分析与回归方程
本节基本内容:
●回归与相关 ●总体回归函数 ●随机扰动项 ●样本回归函数 ●非线性模型线性化
7
对变量间统计依赖关系的考察主要是通过 相关分析(correlation analysis)或回归分 析(regression analysis)来完成的：
正相关 线性相关 统计依赖关系 不相关 相关系数： 有因果关系 无因果关系 回归分析 相关分析 负相关 1 XY 1 正相关 非线性相关 不相关 负相关
1. 为什么要作基本假定？
●模型中有随机扰动，估计的参数是随机变量，
只有对随机扰动的分布作出假定，才能确定 所估计参数的分布性质，也才可能进行假设 检验和区间估计
●只有具备一定的假定条件，所作出的估计才
具有较好的统计性质。
31
2、基本假定的内容
（1）对模型和变量的假定
如
Yi 1 2 X i ui
u i 的条件期望为零
正相关——变量同方向变化，同增同减 负相关——变量反方向变化，一增一减 不相关
10
800
Y
Y 600
2
400
200
1
X 0 0 10 20 30 40 50
X 0 10 20 30 40 50
完全相关
3.0 Y
高度相关、 线性相关、正相关
200
2.5
150
2.0
100
1.5
50
1.0 X 0.5 2.0
就变量而言是线性的
—— Y 的条件均值是X 的线性函数 就参数而言是线性的 —— Y 的条件均值是参数 的线性函数
27
“线性”的判断
Yi 1 2 X i
Yi 1 2 X 2i
性” 变量、参数均为“线性” 参数“线性”，变量”非线
Yi 1
2 X i
变量“线性”，参数”非线
6
一、回归与相关
（对统计学的回顾）
1. 经济变量间的相互关系
◆确定性的函数关系
Y f (X )
◆不确定性的统计关系—相关关系
圆面积s f , 半径r r 2
Y f ( X ) (ε为随机变量)
◆没有关系
农作物产量 f 气温, 降雨量, 阳光, 施肥量
12
3.相关程度的度量—相关系数
总体线性相关系数： Cov( X , Y ) Var( X )Var(Y )
其中： Var( X ) ——X 的方差；Var(Y ) ——Y的方差 Cov( X , Y ) ——X和Y的协方差
样本线性相关系数：
XY
( X X )(Y Y ) ( X X ) (Y Y )
i i __ 2 __ i i
__
__
2
其中： X i和
X 和 Y 分别是变量 X 和 Y 样本值的平均值
分别是变量 X 和 Y 的样本观测值 Y i __
13
相关系数的取值范围
(1) 当两个变量严格服从线性关系时,∣r∣= 1。完全线性相关 证：设直线斜率为 k， 即 y = a + k x。则有 ( xt x )( y t y ) ( xt x )k ( xt x ) r= = = 1 2 2 2 2 2 ( x t x ) ( y t y ) ( xt x ) k ( xt x ) (2) 当两个变量不存在线性关系时， r = 0。没有线性相关关系 (3)上述是两种极端情形，所以相关系数 r 的取值范围是 [-1，1]。 当 r > 0 (正相关)；当 r < 0 (负相关)；若 r = 0 (零相关)。
假定解释变量 X是非随机的，或者虽然是随机的，但与扰动
项 u是不相关的。
假定解释变量 X 在重复抽样中为固定值。
假定模型对变量和函数的设定是正确的 ，无设定误差。
假定模型对参数是线性的，y与参数和x之间为线性关系。
32
（2）对随机扰动项 u 的假定
又称高斯假定、古典假定
假定1：零均值假定
在给定 X 的条件下 ，
8
2.相关关系
◆ 相关关系的描述 相关关系最直观的描述方式——坐标图（散布图）
Y
X
9
◆相关关系的类型 ● 从涉及的变量数量看
简单相关 多重相关（复相关）
● 从变量相关关系的表现形式看
线性相关——散布图接近一条直线 非线性相关——散布图接近一条曲线
● 从变量相关关系变化的方向看
根据以上数据，你能否判断学生人数(x)如何影响到销售收 入(y)？根据一家连锁店附近大学的人数，你能够预测该家 连锁店的季度销售收入吗？
18
描述学生人数和销售收入之间的关系
相关系数(0.95)，散点图；
250
季度销售收入/千美圆
200 150 100 50 0 0 5 10 15 20 25 30
24
简单线性回归模型
Y 的截距
随机误 差
Y 1 2 X u
因变量（响 应变量，被 预测变量）
斜率
自变量（解释 变量，预测变 量） 25
Y
Yi 1 2X i i
观测值
i = 随机误差
Y 1 2X
X
观测值
26
●实际的经济研究中总体回归函数通常是未知的， 只能根据经济理论和实践经验去设定。“计量” 的目的就是寻求PRF。 ●总体回归函数中 Y与 的关系可是线性的，也可是 X 非线性的。 对线性回归模型的“线性”有两种解释
17
例1：阿姆德比萨饼连锁店的问题
阿姆得(Armand)比萨饼连锁店坐落在美国的5个州内，它 们通常的位置是在大学旁边，而且管理人员相信附近大学 的人数与这些连锁店的季度销售额是有关系的。下面是10 家连锁店附近大学的学生人数和季度销售收入的数据：
连锁店 1 学生人数/千人 2 销售额/千元 58 2 3 6 8 105 88 4 5 6 7 8 9 10 8 12 16 20 20 22 26 118 117 137 157 169 1000 亿美元吗？
从2004中国国际旅游交易会上获悉，到2020年，中国旅游 业总收入将超过3000亿美元，相当于国内生产总值的8% 至11%。（资料来源：国际金融报2004年11月25日第二版） ◆是什么决定性的因素能使中国旅游业总收入到2020年达到 3000亿美元？ ◆旅游业的发展与这种决定性因素的数量关系究竟是什么？
22
相关分析和回归分析联系
相关分析与回归分析有密切的联系，都 是对变量之间相关关系的研究，二者可 以互相补充。 相关分析表明变量之间相关关系的性质 和程度，只有变量之间存在一定程度的 相关关系时，进行回归分析寻求相关的 具体数学形式才有实际意义。
23
模型的引入
对于给定的学生人数，销售收入是唯一确定的 一个数，还是一个随机变量？ 学生人数的变化如何影响到销售收入？ 使用的模型
图1
图2
14
使用相关系数时应注意
● X 和 Y都是相互对称的随机变量，x与y和y与x的 相关系数相等。 ● 线性相关系数只反映变量间的线性相关程度，不 能说明非线性相关关系。 ● 样本相关系数是总体相关系数的样本估计值，由 于抽样波动，样本相关系数是个随机变量，其统 计显著性有待检验。 ● 相关系数只能反映线性相关程度，不能确定因果 关系，不能说明相关关系具体接近哪条直线 变量间的因果关系及隐藏在随机性后面的统计规律 性，这有赖于回归分析方法
用样本回归函数去估计总体回归函数。
由于样本对总体总是存在代表性误差， 总会过 高或过低估计。 要解决的问题：
ˆ ˆ和 寻求一种规则和方法，使得到的SRF的参数 2 1 2 。 尽可能“接近”总体回归函数中的参数 1 和