《回归分析二》PPT课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
估计值
▪
yˆ
是
y
的估计值 h
10
参数的最小二乘估计
h
11
参数的最小二乘法
1. 使因变量的观察值与估计值之间的离差平方和
达到最小来求得 bˆ0,bˆ1,bˆ2, ,bˆp。即
n
n
Q (bˆ0,bˆ1,bˆ2, ,bˆp) (yiy ˆ)2 ei2最小
i 1
i 1
2. 求解各回归参数的标准方程如下
n
Sy
yi yˆi2
i1
np1
SSE np1
MSE
SPSS输出结果的分析
h
18
如何选择自变量进入模型
•Enter:强行进入法:候选自变量全部纳入模型，
不作任何筛选，默认选项。 •Stepwise：逐步法，根据在Options框中设定
的•B纳ac入kw和ar排d：除向标后准法进，行筛变选量步筛骤选和。逐具步体法做类法似， ••但首Fo只先rw出分a不r别d进：计向算前各法自，变筛量选对步Y的骤贡和献逐大步小法，类按似， 由但•对大只己到进纳小不入挑出方选;程贡的献变最量大按的对先Y进的入贡方献程大小由小 ••也•到到 •重考R对每是方e大新察己剔m只程依o计己纳除v出外次e算在入一：不变剔各方方个强进量除自程程变制均。变中的量剔达量的变，除不对变量则法到量Y不重，入的是再新和选贡否考计”标献因察算向准新其各后，变显自法没量著变”有引性量一自入。对样变而直Y， 不•量的但再可贡它有被献的统引。筛计入直选意方到是义程方以。为程B如l止中oc果。所k为有有单则变位将量。它均即剔符按除合照，选移并入除重标标 新准准计将，算同没各一有自个自变B变lo量量ck对可内Y被的的剔变贡除量献为一;如止次仍。全有部变剔量除低。于
n
yi y2
SST
SST
i1
3. 因变量取值的变差中，能被估计的多元回归方
程所解释的比例
4. 注意：当自变量个数的增加时，会使预测误差
减小，即使新增加变量在统计上不显著，也会
使R 2
h
16
修正多重判定系数
(adjusted multiple coefficient of determination)
1. 用样本容量n和自变量的个数p去修正R2得 到
2.
计算公式为
Ra2
11R2
n1 np1
3. 避免增加自变量而高估 R2
4. 意义与 R2类似
5. 数值小于R2 SPSS输出结果的分析
h
17
估计标准误差 Sy
1. 对误差项的标准差的一个估计值 2. 用自变量估计因变量时存在的平均误差 3. 计算公式为
用SPSS进行回归
h
13
第二节 回归方程的拟合优度
一. 多重判定系数 二. 估计标准误差
h
14
多重判定系数
h
15
多重判定系数
(multiple coefficient of determination)
1. 回归平方和占总平方和的比例
2. 计算公式为
n
R2 i1 yˆi y2 SSR1SSE
回归分析(二)
h
1
多元线性回归
第一节 多元线性回归模型 第二节 回归方程的拟合优度 第三节 显著性检验 第四节 多重共线性与残差分析 第五节 利用回归方程进行估计和预测 第六节 虚拟自变量的回归
h
2
第一节 多元线性回归模型
一. 多元回归模型与回归方程 二. 估计的多元回归方程 三. 参数的最小二乘估计
(estimated multiple regression equation)
1. 用样本统计量 bˆ0,bˆ1,bˆ2, ,bˆp 估计回
归方程中的 参数 b0,b1,b2, ,bp 时得
到的方程
2. 由最小二乘法求得
3. 一般形式为
y ˆb ˆ0b ˆ1x 1b ˆ2x2 b ˆpxp
▪ bˆ0,bˆ1,bˆ2, ,bˆp是 b0,b1,b2, ,bp
h
3
多元回归模型与回归 方程
h
4
多元回归模型
(multiple regression model)
1. 一个因变量与两个及两个以上自变量的回归
2. 描述因变量 y 如何依赖于自变量 x1 ， x2 ，…， xp 和误差项 的方程，称为多元回归模型
3. 涉及 p 个自变量的多元回归模型可表示为
bb b b y 0 1 x 1 i2 x 2 i p x p ii
入选标准，则继续考虑剔除，
•直到方程内没有变量可被剔除，方程外没有
变量可被引进为止。
h
19
[Options 子对话框]设置回归分析的一 些选项
•不分析任一选入的变量
有缺失变量值的记录,而 无•不论分该析缺具失体变进量入最某终变是量 否时进有入缺模失型值. 的记录.
•将缺失值用该变量的均
值代替.
•设置纳入和排除标准， 可按P值或F值来设置。
方差2都相同 3. 误差项ε是一个服从正态分布的随机变量，
即ε~N(0,2)，且相互独立
h
6
多元回归方程
(multiple regression equation)
1. 描述因变量 y 的平均值或期望值如何依赖 于自变量 x1， x2 ，…，xp的方程
2. 多元线性回归方程的形式为
3.
E( y ) = b0+ b1 x1 + b2 x2 +…+ bp xp
Q
b
0
b0 bˆ0
0
Q
b
i
bi bˆi
0
(i 1,2,, p)
h
12
参数的最小二乘法
(例题分析)
【例】一家大型商业银行在多个地区设有分行， 为弄清楚不良贷款形成的原因，抽取了该银行 所属的25家分行2002年的有关业务数据。试建 立不良贷款(y)与贷款余额(x1)、累计应收贷款 (x2)、贷款项目个数(x3)和固定资产投资额(x4)的 线性回归方程，并解释各回归系数的含义
▪ b1，b2，，bp称为偏回归系数 ▪ bi 表示假定其他变量不变，当 xi 每变
动一个单位时，y 的平均平均变动值
h
7
二元回归方程的直观解释
二元线性回归模型
回归面
x1
y
yb0b1x1b2x2
(观察到的y)
} b0
i
(x1,x2)
EHale Waihona Puke (y)b0b1x1b2x2h
x2
8
估计的多元回归方程
h
9
估计的多元回归的方程
▪ b0 ，b1，b2 ，，bp是参数 ▪ 是被称为误差项的随机变量 ▪ y 是x1,，x2 ， ，xp 的线性函数加上误差项 ▪ 包含在y里面但不能被p个自变量的线性关系
所解释的变异性
h
5
多元回归模型
(基本假定)
1. 误差项ε是一个期望值为0的随机变量，即
E()=0 2. 对于自变量x1，x2，…，xp的所有值，的
▪
yˆ
是
y
的估计值 h
10
参数的最小二乘估计
h
11
参数的最小二乘法
1. 使因变量的观察值与估计值之间的离差平方和
达到最小来求得 bˆ0,bˆ1,bˆ2, ,bˆp。即
n
n
Q (bˆ0,bˆ1,bˆ2, ,bˆp) (yiy ˆ)2 ei2最小
i 1
i 1
2. 求解各回归参数的标准方程如下
n
Sy
yi yˆi2
i1
np1
SSE np1
MSE
SPSS输出结果的分析
h
18
如何选择自变量进入模型
•Enter:强行进入法:候选自变量全部纳入模型，
不作任何筛选，默认选项。 •Stepwise：逐步法，根据在Options框中设定
的•B纳ac入kw和ar排d：除向标后准法进，行筛变选量步筛骤选和。逐具步体法做类法似， ••但首Fo只先rw出分a不r别d进：计向算前各法自，变筛量选对步Y的骤贡和献逐大步小法，类按似， 由但•对大只己到进纳小不入挑出方选;程贡的献变最量大按的对先Y进的入贡方献程大小由小 ••也•到到 •重考R对每是方e大新察己剔m只程依o计己纳除v出外次e算在入一：不变剔各方方个强进量除自程程变制均。变中的量剔达量的变，除不对变量则法到量Y不重，入的是再新和选贡否考计”标献因察算向准新其各后，变显自法没量著变”有引性量一自入。对样变而直Y， 不•量的但再可贡它有被献的统引。筛计入直选意方到是义程方以。为程B如l止中oc果。所k为有有单则变位将量。它均即剔符按除合照，选移并入除重标标 新准准计将，算同没各一有自个自变B变lo量量ck对可内Y被的的剔变贡除量献为一;如止次仍。全有部变剔量除低。于
n
yi y2
SST
SST
i1
3. 因变量取值的变差中，能被估计的多元回归方
程所解释的比例
4. 注意：当自变量个数的增加时，会使预测误差
减小，即使新增加变量在统计上不显著，也会
使R 2
h
16
修正多重判定系数
(adjusted multiple coefficient of determination)
1. 用样本容量n和自变量的个数p去修正R2得 到
2.
计算公式为
Ra2
11R2
n1 np1
3. 避免增加自变量而高估 R2
4. 意义与 R2类似
5. 数值小于R2 SPSS输出结果的分析
h
17
估计标准误差 Sy
1. 对误差项的标准差的一个估计值 2. 用自变量估计因变量时存在的平均误差 3. 计算公式为
用SPSS进行回归
h
13
第二节 回归方程的拟合优度
一. 多重判定系数 二. 估计标准误差
h
14
多重判定系数
h
15
多重判定系数
(multiple coefficient of determination)
1. 回归平方和占总平方和的比例
2. 计算公式为
n
R2 i1 yˆi y2 SSR1SSE
回归分析(二)
h
1
多元线性回归
第一节 多元线性回归模型 第二节 回归方程的拟合优度 第三节 显著性检验 第四节 多重共线性与残差分析 第五节 利用回归方程进行估计和预测 第六节 虚拟自变量的回归
h
2
第一节 多元线性回归模型
一. 多元回归模型与回归方程 二. 估计的多元回归方程 三. 参数的最小二乘估计
(estimated multiple regression equation)
1. 用样本统计量 bˆ0,bˆ1,bˆ2, ,bˆp 估计回
归方程中的 参数 b0,b1,b2, ,bp 时得
到的方程
2. 由最小二乘法求得
3. 一般形式为
y ˆb ˆ0b ˆ1x 1b ˆ2x2 b ˆpxp
▪ bˆ0,bˆ1,bˆ2, ,bˆp是 b0,b1,b2, ,bp
h
3
多元回归模型与回归 方程
h
4
多元回归模型
(multiple regression model)
1. 一个因变量与两个及两个以上自变量的回归
2. 描述因变量 y 如何依赖于自变量 x1 ， x2 ，…， xp 和误差项 的方程，称为多元回归模型
3. 涉及 p 个自变量的多元回归模型可表示为
bb b b y 0 1 x 1 i2 x 2 i p x p ii
入选标准，则继续考虑剔除，
•直到方程内没有变量可被剔除，方程外没有
变量可被引进为止。
h
19
[Options 子对话框]设置回归分析的一 些选项
•不分析任一选入的变量
有缺失变量值的记录,而 无•不论分该析缺具失体变进量入最某终变是量 否时进有入缺模失型值. 的记录.
•将缺失值用该变量的均
值代替.
•设置纳入和排除标准， 可按P值或F值来设置。
方差2都相同 3. 误差项ε是一个服从正态分布的随机变量，
即ε~N(0,2)，且相互独立
h
6
多元回归方程
(multiple regression equation)
1. 描述因变量 y 的平均值或期望值如何依赖 于自变量 x1， x2 ，…，xp的方程
2. 多元线性回归方程的形式为
3.
E( y ) = b0+ b1 x1 + b2 x2 +…+ bp xp
Q
b
0
b0 bˆ0
0
Q
b
i
bi bˆi
0
(i 1,2,, p)
h
12
参数的最小二乘法
(例题分析)
【例】一家大型商业银行在多个地区设有分行， 为弄清楚不良贷款形成的原因，抽取了该银行 所属的25家分行2002年的有关业务数据。试建 立不良贷款(y)与贷款余额(x1)、累计应收贷款 (x2)、贷款项目个数(x3)和固定资产投资额(x4)的 线性回归方程，并解释各回归系数的含义
▪ b1，b2，，bp称为偏回归系数 ▪ bi 表示假定其他变量不变，当 xi 每变
动一个单位时，y 的平均平均变动值
h
7
二元回归方程的直观解释
二元线性回归模型
回归面
x1
y
yb0b1x1b2x2
(观察到的y)
} b0
i
(x1,x2)
EHale Waihona Puke (y)b0b1x1b2x2h
x2
8
估计的多元回归方程
h
9
估计的多元回归的方程
▪ b0 ，b1，b2 ，，bp是参数 ▪ 是被称为误差项的随机变量 ▪ y 是x1,，x2 ， ，xp 的线性函数加上误差项 ▪ 包含在y里面但不能被p个自变量的线性关系
所解释的变异性
h
5
多元回归模型
(基本假定)
1. 误差项ε是一个期望值为0的随机变量，即
E()=0 2. 对于自变量x1，x2，…，xp的所有值，的