多元回归分析 (2)优秀课件

用样本统计量 bˆ0， bˆ1， bˆ2，， bˆk估计回归方
程中的 参数 b0， b1， b2， ， bk时得到的方程
由最小二乘法求得 一般形式为
bb b b y ˆˆ0ˆ1 x 1ˆ2 x 2ˆkx k
bˆ0， bˆ1， bˆ2，， bˆk 是 b0， b1， b2， ， bk
估计值 yˆ 是 y 的估计值
3
2020/10/29
身高受那些因素影响？
决定身高的因素是什么？父母遗传、生活环境、体育锻 炼，还是以上各因素的共同作用
2004年12月，中国人民大学国民经济管理系02级的两位 学生，对人大在校生进行了问卷调查。问卷采取随机发 放、当面提问当场收回
调查的样本量为98人，男性55人，女性43人。调查内容 包括被调查者的身高(单位：cm)、性别、其父母身高、 是否经常参加体育锻炼、家庭所在地是在南方还是在北 方等等。部分数据如下页的表所示(1代表男性，0代表女 性)
平方和关系：SST = SSR + SSE 自由度关系：n-1=k+(n-k-1)
20
2020/10/29
多重判定系数(multiple coefficient of
bb b b y 0 1 x 1 2 x 2 k x k
b0 ，b1，b2 ，，bk是参数 是被称为误差项的随机变量 y 是x1，x2 ， ，xk 的线性函数加上误差项 包含在y里面但不能被k个自变量的线性关系所解
释的变异性
8
2020/10/29
多元回归模型的基本假定
正态性。误差项ε是一个服从正态分布的随机变量， 且期望值为0，即ε~N(0,2)
x1， x2 ，…，xk的方程 2.多元线性回归方程的形式为
E( y ) = b0+ b1 x1 + b2 x2 +…+ bk xk
b1，b2，，bk称为偏回归系数 bi 表示假定其他变量不变，当 xi 每变动一个单位
时，y 的平均变动值
10
2020/10/29
估计的多元线性回归方程
(estimated multiple linear regression equation)
单位：cm
5
父亲 身高
母亲 身高
166
158
171
158
179
168
174
160
173
162
170
160
168
153
168
153
170
167
170
160
1：男
子女 性别
1 1 1 1 1 1 1 1 1 1
0：女
子女 身高 155 161 166 170 158 160 160 162 165 168
方差齐性。对于自变量x1，x2，…，xk的所有值，
的方差 2都相同
独立性。对于自变量x1，x2，…，xk的一组特定值，
它所对应的与任意一组其他值所对应的不相关
9
2020/10/29
多元线性回归方程(multiple linear regression
equation)
1.描述因变量 y 的平均值或期望值如何依赖于自变量
父亲身高、母亲身高、性别是不是影响子女身高的主要 因素呢？如果是，子女身高与这些因素之间能否建立一 个线性关系方程，并根据这一方程对身高做出预测？
这就是本章将要讨论的多元线性回归问题
4
2020/10/29
调查数据
子女 身高 171 174 177 178 180 181 159 169 170 170
y
(xi, yi)
来自残差（随机影响）
}y yˆ
yy
yˆ bˆ0 bˆ1x
}yˆ y 来自回归（系统影响）
y
x
19
2020/10/29
变差平方和关系
n
n
n
yiy2 y ˆiy2 yiy ˆ2
i 1
i 1
i 1
{ { {
总平方和(SST) 自由度：n-1
回归平方(SSR) 自由度：k
残差平方和(SSE) 自由度：n-k-1
i 1
求解各回归参数的标准方程如下
Q
b
0
b0 bˆ0
0
Q
b
i
bi bˆi
0
13
(i 1，2， ，k )
2020/10/29
参数的最小二乘法(例题分析)
【例】一家大型商业银行在多个地区设有分行 ，为弄清楚不良贷款形成的原因，抽取了该 银行所属的25家分行2002年的有关业务数 据。试建立不良贷款y与贷款余额x1、累计 应收贷款x2、贷款项目个数x3和固定资产投 资额x4的线性回归方程，并解释各回归系数 的含义
父亲 身高 165 182 166 178 173 170 171 167 175 172
母亲 身高 157 165 156 160 160 165 150 158 160 162
子女 性别
0 0 0 0 0 0 0 0 0 0
2020/10/29
第一节 多元线性回归模型
一、回归模型与回归方程
二、参数的最小二乘估
6
2020/10/29
一、回归模型与回归方程
7
2020/10/29
多元回归模型 (multiple linear regression
model)
一个因变量与两个及两个以上自变量的回归
描述因变量 y 如何依赖于自变量 x1 ， x2 ，…， xk 和误差项 的方程，称为多元回归模型
涉及 k 个自变量的多元线性回归模型可表示为
用Excel进行回归
14
2020/10/29
Βιβλιοθήκη Baidu
数据表
15
2020/10/29
参数的最小二乘估计
(例题分析)
偏回归系数
F检验 t 检验
16
2020/10/29
第二节 拟合优度和显著性检验
一、回归方程的拟合 二、显著性检验
17
2020/10/29
一、回归方程的拟合优度
18
2020/10/29
变差分解
多元回归分析 (2)优秀课件
第 三 章 多元线性回归
第一节 多元线性回归模型
第二节 拟合优度和显著性检 验
第三节 多重共线性及其处理
第四节 利用回归方程进行
2
预测
2020/10/29
学习目标
多元线性回归模型、回归方程与估计的回归方 程
回归方程的拟合优度与显著性检验 多重共线性问题及其处理 利用回归方程进行预测 虚拟自变量的回归 用Excel和SPSS进行回归分析
11
2020/10/29
二、 参数的最小二乘估计
12
2020/10/29
参数的最小二乘估计
使因变量的观察值与估计值之间的离差平方和
达到最小来求得 bˆ0， bˆ1， bˆ2， ， bˆk。即
bbb b n
n
Q (ˆ0 ,ˆ1 ,ˆ2 , ,ˆk)(y i y ˆi)2e i2 最 小
i 1