回归分析预测方法简介

图 国内生产总值y与固定资产投资完成额x间关系的散点图
3.1 引言
（３）回归分析与相关分析的关系
相关分析是以相关关系为对象，研究两个或两个以上随机变量之间线
性依存关系的紧密程度。通常用相关系数表示，多元相关时用复相关系 数表示。

回归分析是对具有相关关系的变量之间的数量变化规律进行测定，
第3章 回归分析预测法
3.1 引言 1．回归分析的提出 回归分析起源于生物学研究，是由英国生物学
家兼统计学家高尔登（Francis Galton 18221911）在19世纪末叶研究遗传学特性时首先提出 来的。 高尔登在1889年发表的著作《自然的遗传》中， 提出了回归分析方法以后，很快就应用到经济领 域中来，而且这一名词也一直为生物学和统计学 所沿用。 回归的现代涵义与过去大不相同。一般说来，回 归是研究因变量随自变量变化的关系形式的分析 方法。其目的在于根据已知自变量来估计和预测 因变量的总平均值。
yi a bxi ui ， i 1,2,, n
其中 ui, i 1,2,, n 为 u 的 n 个观测值。
3.2 一元线性回归预测法
2. OLS (Ordinary Least Square）估计
（１）OLS 的中心思想
最小二乘法的中心思想，是为观测值（ xi , yi ）（ i 1,2,...,n ）配
3.1 引言
（2）相关关系
相关关系反映的是客观事物之间的非严格、不 确定的线性依存关系。这种线性依存关系有两个 显著的特点：
①客观事物之间在数量上确实存在一定的内 在联系。表现在一个变量发生数量上的变化，要 影响另一个变量也相应地发生数量上的变化。
②客观事物之间的数量依存关系不是确定的， 具有一定的随机性。表现在当一个或几个相互联 系的变量取一定数值时，与之对应的另一个变量 可以取若干个不同的数值。这种关系虽然不确定， 但因变量总是遵循一定规律围绕这些数值的平均 数上下波动。
对上两等式联立求解，可得回归参数的估计值为：
2. OLS (Ordinary Least Square）估计
回归参数的估计值为：
n
n
n
n

xi yi
xi
yi
b
i 1 n
i1 i1 n
n xi2 ( xi )2
合一条较为理想的回归直线。这条回归直线应满足下列两点要求： （1） 原观测值与模型估计值的离差平方和为最小； （2） 原观测值与模型估计值的离差总和为 0。这两点
可以用公式表示如下：
( yi yˆi )2 min
( yi yˆi ) 0
2. OLS (Ordinary Least Square）估计
（3）根据回归模型所含的变量是否有虚拟变量， 回归模型可以分为普通回归模型和带虚拟变量的回 归模型。
此外，根据回归模型是否用滞后的因变量作自
变量，回归模型又可分为无自回归现象的回归模型 和自回归模型。
3.2 一元线性回归预测法
1. 一元回归模型 设 x 为自变量，y 为因变量，y 与 x 之间存在某种线性关系，即一元线性回归模型为：
第一章 预测概述
1.1 引言
1. 预测的兴起
预测于20世纪60-70年代在美国逐步兴起的
预测：预测是指对事物的演化预先做出的科学推测。 广义的预测，既包括在同一时期根据已知事物推测未 知事物的静态预测，也包括根据某一事物的历史和现 状推测其未来的动态预测。狭义的预测，仅指动态预 测，也就是指对事物的未来演化预先做出的科学推测。 预测理论作为通用的方法论，既可以应用于研究自然 现象，又可以应用于研究社会现象，如社会预测、人 口预测、经济预测、政治预测、科技预测、军事预测、 气象预测等。
回归模型，以便进行推算、预测，同时相关系数还是检验回归分析效果
的标准。相关分析需要回归分析来表明客观事物数量关系的具体形式，
而回归分析则应建立在相关分析的基础上。
3.1
３．回归模型的种类
引言
（1）根据自变量的多少，回归模型可以分为一 元回归模型和多元回归模型。
（2）根据回归模型的形式线性与否，回归模型 可以分为线性回归模型和非线性回归模型。
研究某一随机变量（因变量）与其他一个或几个普通变量（自变量）之
间的数量变动关系，并据此对因变量进行估计和预测的分析方法。由回
归分析求出的关系式，称为回归模型

回归分析与相关分析的联系是，它们是研究客观事物之间相互依存
关系的两个不可分割的方面。在实际工作中，一般先进行相关分析，由
相关系数的大小决定是否需要进行回归分析。在相关分析的基础上建立
y a bx u
式中，x 代表影响因素，我们往往认为它是可以控制或预先给定的，故称之为自变 量；u 表示“非主要因素”的影响、随机变化、观测误差和模型数学形式设定偏差 等各种因素对 y 的影响的总和，通常称为随机扰动项；因变量 y 就是我们的预测对 象；常数 a, b 是待定的参数。 给定（x，y）的 n 对观测值（xi，yi），i 1,2,, n ，代入上式得
根据最小二乘法的要求，记
n
n
n
Q = ei2 ( yi yˆi )2 ( yi a bxi )2
i1
i1
i1
根据多元微分学的极值原理，Q 取极小值的必要条件是 Q 对 a，b 的两个一阶偏导数 全为零。上式分别对 a 和 b 求偏导数，并令其等于零，有
Q
a
第3章 回归分析预测法
２．回归分析和相关分析
（1）函数关系 函数关系反映客观事物之间存在着严格的依
存关系。在这种关系中，当一个或几个变量取值 一定时，另一个变量有确定的值与之相对应，并 且这种关系可以用一个确定的数学表达式反映出 来。
一般把作为影响因素的变量称为自变量，把 发生对应变化的变量称为因变量。

2
n i1
( yi

a

bxi
)

0
Q
b

2
பைடு நூலகம்
n i1
( yi

a

bxi
)xi

0
2. OLS (Ordinary Least Square）估计
整理得：
n
n
na b xi yi
i1
i1
n
n
n
a xi b xi2 xi yi
i1
i1
i1