第五章 回归分析
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
式）与给定的自变量x，揭示因变量y
在数量上的平均变化，并求得因变量 的预测值的统计分析方法。
Y=a+bx
理解即可
（二）回归分析与相关分析 注意三点：
第一：相关系数（r）和回归系数 （b）方向一致，可以互相推算。
b＝r y x
第二：相关分析中x与y对等， 回归分析中x与y要确定自变量 和因变量；
y
x
（2）相关关系
当一个或几个相互联系的变量取一定数值 时，与之相对应的另一变量的值是不确定 的，但它仍按某种规律在一定的范围内变 化。
产量 97 100 103 106 109 110 114 115 单位 7.2 7.0 6.9 7.2 6.7 6.5 6.8 6.5 成本
一元线性回归方程的几何意义
E(Y )
YC X
截距 斜率
X
一元线性回归方程的可能形态
为正
为负
为0
总体一元线性 回归方程
YC
EY
X
以样本统计量估计总体参数
样本一元线性回归方程 yc a bx
截距
回归系数
a、b的含义
-----以月支出（ yc ）和月收入（x）
yc 600 0.4x 为例:
-0.291 0.552 -3.606 1.236
体重（Y）
E F
y 60166
55168c
662012227835252.64159338664040 11100.20098207885558..x097291
6.079 1.921
G x50117068 52 28900 2704 8840 60.236 -8.236
（二）最小二乘估计 （OLS估计）
最小二乘法(Least-square Method）
估计值：ｙｃ＝ａ+ｂ x
观察值 ｙ
∑（ｙ－ｙｃ）２→Min
参数的确定与计算
最小二乘法的理论基础是样本的n个实际值Y与其相应的理 论值Yc的离差平方和达到最小，即：
Q (Y Yc)2 (Y a bx)2 min
残差 y-yc
A B
751156b80
70
1407 5100
9522254579649606240201622725100069070527780402060
47.291
1.04798.4848
C 162 48 26244 2304 7776 51.606
D 6516a4 55751.2067889681360725 1920320.159563.764
截距a 表示无自变量x的影响时，其它各种因素对因变量y
的平均影响；
---------当月收入为零时，为满足日常基本生活需求，每月 需支出600元
回归系数b 表明自变量x每变动一个单位，因变量y平均变
动b个单位。
--------当月收入每增加一个单位（如1元），则月支出将 发生变动，平均增加b个单位（如0.4元）
式中，a，b是待定参数，Q是a，b的函数，要使Q达到最小， 依据函数求极限的原理，则先求Q对a和b的偏导数，即：
Q a
2
(Y
a
bx)
0
Q
b
2
(Y
a
bx)·( x)
0
整理得到由两个关于a、b的二元一次 方程组成的方程组：
y na bx
xy
ax
源自文库
bx 2
★解方程得：
b
nxy xy nx2 (x)2
a y b x
了解：b与r之间的关系
b＝
nxy nx 2
xy (x)2
＝
（nxy xy） ny2 (y)2
nx2 (x)2 ny2 (y)2 nx2 (x)2
＝r ny2 (y)2 nx2 (x)2
＝r y x
学 生
身高 体重
估计值
x2
y2
xy
x
y 10名学生的身高与体重散点图 yc
y a bx
▪ 相关分析中x、y均为随机变量，回 归分析中只有y 为随机变量。
y a bx
（三）回归分析的步骤
1）确定自变量和因变量； 2）确定样本回归方程； 3）统计检验； 4）预测或控制。
回归分析的种类
一元回归
一
按自变量的
（简单回归）
元
个数
多元回归
线
（复回归）
性
回
按回归的
线性回归
代表自变量，y轴代表因变量，将 两个变量间相对应的变量值用坐 标点的形式描绘出来，用以表明 相关点分布状况的图形。
▪ 真实相关：当两种现象之间的相关确实具有 内在的联系时，称之为“真实相关”。
▪ 虚假相关：当两种现象之间的相关只是表面 存在，实质上并没有内在的联系时，称之为 “虚假相关”。
曲线相关
归
形态
非线性回归
第二节 一元线性回归模型 一、一元线性回归模型
对于经判断具有线性关系的两个变量y与 x，构造一元线性回归模型为：
Y X
式中：α与β为模型参数，ε为随机误差项
非重点
（一）假定E()=0，总体一元线性回归方程：
Y C E Y X
如：各因素对商场销售额的影响： 1.服务态度（好）： + 2.商场拥挤度（大）： 3.产品质量（优）： + 4.地理位置（偏）： -
（二）相关关系的判断
（1）定性分析
是依据研究者的知识和经验，对 客观现象之间是否存在相关关系， 以及何种关系作出判断。
（2）定量分析
在定性分析的基础上，通过编制相 关表、绘制相关图、计算相关系数 与判定系数 等方法，来判断现象之 间相关的方向、形态及密切程度。
简单相关表
相关图
又称散点图，用直角坐标系的x轴
第五章 回归分析
第一节 回归分析和相关分析
一、相关分析
（一）变量间的基本关系
现象之间的数量关系，存在着两种不同的类型： 函数关系和相关关系。
函数关系：是一种确定性关系 如：销售额=销售价格×销售量
相关关系：是一种非确定性关系 如：企业生产规模越大，单位生产成本越低
（1）函数关系
设有两个变量 x 和 y ，变量 y 随变量 x 一起 变化，并完全依赖于 x ，当变量 x 取某个数 值时， y 依确定的关系取相应的值，则称 y 是 x 的函数，记为 y = f (x)，其中 x 称为自 变量，y 称为因变量各观测点落在一条线上。
不相关
相关关系的种类与图示
完全正线性相关
正线性相关
完全负线性相关
负线性相关
非线性相关
不相关
强正相关
弱正相关
强负相关
弱负相关
二、回归分析
概念不须记忆
（一）回归分析的涵义与类型
线性相关分析法表明两变量之间的因 果关系 。
回归分析指在相关分析的基础上，根 据相关关系的数量表达式（回归方程
在数量上的平均变化，并求得因变量 的预测值的统计分析方法。
Y=a+bx
理解即可
（二）回归分析与相关分析 注意三点：
第一：相关系数（r）和回归系数 （b）方向一致，可以互相推算。
b＝r y x
第二：相关分析中x与y对等， 回归分析中x与y要确定自变量 和因变量；
y
x
（2）相关关系
当一个或几个相互联系的变量取一定数值 时，与之相对应的另一变量的值是不确定 的，但它仍按某种规律在一定的范围内变 化。
产量 97 100 103 106 109 110 114 115 单位 7.2 7.0 6.9 7.2 6.7 6.5 6.8 6.5 成本
一元线性回归方程的几何意义
E(Y )
YC X
截距 斜率
X
一元线性回归方程的可能形态
为正
为负
为0
总体一元线性 回归方程
YC
EY
X
以样本统计量估计总体参数
样本一元线性回归方程 yc a bx
截距
回归系数
a、b的含义
-----以月支出（ yc ）和月收入（x）
yc 600 0.4x 为例:
-0.291 0.552 -3.606 1.236
体重（Y）
E F
y 60166
55168c
662012227835252.64159338664040 11100.20098207885558..x097291
6.079 1.921
G x50117068 52 28900 2704 8840 60.236 -8.236
（二）最小二乘估计 （OLS估计）
最小二乘法(Least-square Method）
估计值：ｙｃ＝ａ+ｂ x
观察值 ｙ
∑（ｙ－ｙｃ）２→Min
参数的确定与计算
最小二乘法的理论基础是样本的n个实际值Y与其相应的理 论值Yc的离差平方和达到最小，即：
Q (Y Yc)2 (Y a bx)2 min
残差 y-yc
A B
751156b80
70
1407 5100
9522254579649606240201622725100069070527780402060
47.291
1.04798.4848
C 162 48 26244 2304 7776 51.606
D 6516a4 55751.2067889681360725 1920320.159563.764
截距a 表示无自变量x的影响时，其它各种因素对因变量y
的平均影响；
---------当月收入为零时，为满足日常基本生活需求，每月 需支出600元
回归系数b 表明自变量x每变动一个单位，因变量y平均变
动b个单位。
--------当月收入每增加一个单位（如1元），则月支出将 发生变动，平均增加b个单位（如0.4元）
式中，a，b是待定参数，Q是a，b的函数，要使Q达到最小， 依据函数求极限的原理，则先求Q对a和b的偏导数，即：
Q a
2
(Y
a
bx)
0
Q
b
2
(Y
a
bx)·( x)
0
整理得到由两个关于a、b的二元一次 方程组成的方程组：
y na bx
xy
ax
源自文库
bx 2
★解方程得：
b
nxy xy nx2 (x)2
a y b x
了解：b与r之间的关系
b＝
nxy nx 2
xy (x)2
＝
（nxy xy） ny2 (y)2
nx2 (x)2 ny2 (y)2 nx2 (x)2
＝r ny2 (y)2 nx2 (x)2
＝r y x
学 生
身高 体重
估计值
x2
y2
xy
x
y 10名学生的身高与体重散点图 yc
y a bx
▪ 相关分析中x、y均为随机变量，回 归分析中只有y 为随机变量。
y a bx
（三）回归分析的步骤
1）确定自变量和因变量； 2）确定样本回归方程； 3）统计检验； 4）预测或控制。
回归分析的种类
一元回归
一
按自变量的
（简单回归）
元
个数
多元回归
线
（复回归）
性
回
按回归的
线性回归
代表自变量，y轴代表因变量，将 两个变量间相对应的变量值用坐 标点的形式描绘出来，用以表明 相关点分布状况的图形。
▪ 真实相关：当两种现象之间的相关确实具有 内在的联系时，称之为“真实相关”。
▪ 虚假相关：当两种现象之间的相关只是表面 存在，实质上并没有内在的联系时，称之为 “虚假相关”。
曲线相关
归
形态
非线性回归
第二节 一元线性回归模型 一、一元线性回归模型
对于经判断具有线性关系的两个变量y与 x，构造一元线性回归模型为：
Y X
式中：α与β为模型参数，ε为随机误差项
非重点
（一）假定E()=0，总体一元线性回归方程：
Y C E Y X
如：各因素对商场销售额的影响： 1.服务态度（好）： + 2.商场拥挤度（大）： 3.产品质量（优）： + 4.地理位置（偏）： -
（二）相关关系的判断
（1）定性分析
是依据研究者的知识和经验，对 客观现象之间是否存在相关关系， 以及何种关系作出判断。
（2）定量分析
在定性分析的基础上，通过编制相 关表、绘制相关图、计算相关系数 与判定系数 等方法，来判断现象之 间相关的方向、形态及密切程度。
简单相关表
相关图
又称散点图，用直角坐标系的x轴
第五章 回归分析
第一节 回归分析和相关分析
一、相关分析
（一）变量间的基本关系
现象之间的数量关系，存在着两种不同的类型： 函数关系和相关关系。
函数关系：是一种确定性关系 如：销售额=销售价格×销售量
相关关系：是一种非确定性关系 如：企业生产规模越大，单位生产成本越低
（1）函数关系
设有两个变量 x 和 y ，变量 y 随变量 x 一起 变化，并完全依赖于 x ，当变量 x 取某个数 值时， y 依确定的关系取相应的值，则称 y 是 x 的函数，记为 y = f (x)，其中 x 称为自 变量，y 称为因变量各观测点落在一条线上。
不相关
相关关系的种类与图示
完全正线性相关
正线性相关
完全负线性相关
负线性相关
非线性相关
不相关
强正相关
弱正相关
强负相关
弱负相关
二、回归分析
概念不须记忆
（一）回归分析的涵义与类型
线性相关分析法表明两变量之间的因 果关系 。
回归分析指在相关分析的基础上，根 据相关关系的数量表达式（回归方程