多元回归分析：估计问题.ppt
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Copyright 2004-2011 Aspose Pty Ltd.
在上述公式中σ2 是总体干扰项 ui的方差。
可以证实， σ2 的一个无偏估计量是：
Evaluation only. ted w现it在h的A自s由p度o是se（.nS-3li）d，e这s 是fo因r为.N在估E计T 3.之5前C，li我e们n必t 须P先rofile 5.2
（5）无设定偏误，或：模型被正确地设定
（7.1.5） （7.1.6）
（6）X诸变量间无精确的共线性，或： X2 和X3 之间无精确的线性关系
（7.1.7）
假设（7.1.6）中 X2 和X3之间无精确的线性关系，称为无共线性 (no collinearity)或无多重共线性(no multicollinearity)。
无共线性 不存在一组不全为零的数 和 使得：
（7.1.8）
如果这一关系式存在，则说X2 和X3 是共线的或线性相关。
如果仅当
Evalu时a成ti立o，n则o说nXly2 .和X3 线性独立。
ted wit无h多A重s共p线o性se.Slides for .NET 3.5 Client Profile 5.2 C假和o设财p（富yr，7i.1g经.1h）济t中理2的论0Y设0、想4X-收22入和0和X13财1分富A别对s代消p表费o消s各费e有支独P出立ty、影收L响入t。d.
第七章 多元回归分析：估计问题
◆对多元回归方程的解释
◆偏回归系数E的va含lu义at与ion估o计nly. ted with As◆p多os元e.判Sl定id系es数foRr2与.N复E相T 关3.系5 数ClRient Profile 5.2
Copyright 2004-2011 Aspose Pty Ltd.
◆从多元回归的角度看简单回归 ◆R2及校正R2 ◆多项式回归模型
第一节 对多元回归方程的解释
一、三变量模型：符号与假定
将双变量的总体回归模型推广，便可写出三变量PRF为：
Evaluation only. （7.1.1） ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
Copyright 2004-2011 Aspose Pty Ltd.
小写字母表示对样本均值离差的惯例。
2.OLS估计量的方差和标准误
我们计算标准误有两个目的：建立置信区间和检验统计假设。
Evaluation only. ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
时Y的平均值或Y的平均响应。
第二节 偏回归系数的含义与估计
一、偏回归系数的含义
前其面含指义出如下，：系数β2β度2 和E量βv着3a称在lu为Xa3偏t保i回o持n归不(op变nar的lyti情.al况r下eg，reXs2s每io变n)化系一数。 ted w单ith位A，sYp的o均s值eE.S（lYid| eX2s，fXo3r）.N的E变T化。3.5 Client Profile 5.2
第七章 多元回归分析：估计问题
Evaluation only.
ted w◆i学th 习As目po的se.Slides for .NET 3.5 Client Profile 5.2 Copyright 2004-2011 Aspose Pty Ltd.
理解多元线性回归模型的表示，掌握 多元线性回归模型的参数估计。
换句C话o说p，yriβg2h给t出2保0持04X-3 2不0变1时1EA（sYp| oX2s，eXP3 ）ty对LXt2d的. 斜率。
二、偏回归系数的OLS估计
1. OLS估计量
与（7.1.1）的 PRF相对应的样本回归函数如下：
OLS方法 是要选择未E知v参a数lu的a值ti，on使残o差n平ly方. 和RSS尽可能小，即： ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
Copyright 2004-2011 Aspose Pty Ltd.
将该式对三个未知数求偏导数，并令其为零，解得：
由上述正规方程组可以得到β1、β2 和β3 的OLS估计量：
Evaluation only. ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
若收入和财富之间有线性关系，则无从区分各自的影响了。
令
，则（7.1.1）变成：
给出的是X2 和X3 对Y的联合影响。没有办法
分别估计X2 的单独影响和X3 的单独影响。
三、对多元回归方程的解释
Hale Waihona Puke Baidu
给定经典回归模型的诸假定，那么，在（7.1.1）的两边对Y求条 件期望得：
Evaluation only.
（7.2.1）
ted wit该h式A给s出p以o变se量.XS2 和lidXe3 的s固fo定r值.的N条E件T的3Y的.5条C件l均ie值n或t 期P望ro值f。ile 5.2
因C此，op如y同r双ig变h量t 情2形00那4样-，2多01元1回A归分sp析o是s以e多P个t解y释L变td量.的
固定值为条件的回归分析，并且我们所获取的，是给定回归元值
其观中 测CY。是当o因数p变y据r量为ig，时hX间t2 序和2列X030时是4，解-下释2标0变t1量将1，用Au来是s指p随第o机i次s干e观扰测P项。t，y而Lit指d第. i次
在上述方程中β1 是截距项，它代表X2 和X3 均为零时Y的均值，如通 常所说，它给出了所有未包含到模型中来的变量对Y的平均影响。系 数β2 和β3 称为偏回归系数(partial regression coefficients)。
二、多元线性回归模型的基本假设
（1）ui 有零均值，或：
（7.1.2）
（2）无序列相关，或：
（7.1.3）
（3）同方差性E，v或a：luation only.
（7.1.4）
ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
C（o4p）yurii与g每ht一2X0变0量4之-2间0都11有零A协sp方o差s，e或P：ty Ltd.
在上述公式中σ2 是总体干扰项 ui的方差。
可以证实， σ2 的一个无偏估计量是：
Evaluation only. ted w现it在h的A自s由p度o是se（.nS-3li）d，e这s 是fo因r为.N在估E计T 3.之5前C，li我e们n必t 须P先rofile 5.2
（5）无设定偏误，或：模型被正确地设定
（7.1.5） （7.1.6）
（6）X诸变量间无精确的共线性，或： X2 和X3 之间无精确的线性关系
（7.1.7）
假设（7.1.6）中 X2 和X3之间无精确的线性关系，称为无共线性 (no collinearity)或无多重共线性(no multicollinearity)。
无共线性 不存在一组不全为零的数 和 使得：
（7.1.8）
如果这一关系式存在，则说X2 和X3 是共线的或线性相关。
如果仅当
Evalu时a成ti立o，n则o说nXly2 .和X3 线性独立。
ted wit无h多A重s共p线o性se.Slides for .NET 3.5 Client Profile 5.2 C假和o设财p（富yr，7i.1g经.1h）济t中理2的论0Y设0、想4X-收22入和0和X13财1分富A别对s代消p表费o消s各费e有支独P出立ty、影收L响入t。d.
第七章 多元回归分析：估计问题
◆对多元回归方程的解释
◆偏回归系数E的va含lu义at与ion估o计nly. ted with As◆p多os元e.判Sl定id系es数foRr2与.N复E相T 关3.系5 数ClRient Profile 5.2
Copyright 2004-2011 Aspose Pty Ltd.
◆从多元回归的角度看简单回归 ◆R2及校正R2 ◆多项式回归模型
第一节 对多元回归方程的解释
一、三变量模型：符号与假定
将双变量的总体回归模型推广，便可写出三变量PRF为：
Evaluation only. （7.1.1） ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
Copyright 2004-2011 Aspose Pty Ltd.
小写字母表示对样本均值离差的惯例。
2.OLS估计量的方差和标准误
我们计算标准误有两个目的：建立置信区间和检验统计假设。
Evaluation only. ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
时Y的平均值或Y的平均响应。
第二节 偏回归系数的含义与估计
一、偏回归系数的含义
前其面含指义出如下，：系数β2β度2 和E量βv着3a称在lu为Xa3偏t保i回o持n归不(op变nar的lyti情.al况r下eg，reXs2s每io变n)化系一数。 ted w单ith位A，sYp的o均s值eE.S（lYid| eX2s，fXo3r）.N的E变T化。3.5 Client Profile 5.2
第七章 多元回归分析：估计问题
Evaluation only.
ted w◆i学th 习As目po的se.Slides for .NET 3.5 Client Profile 5.2 Copyright 2004-2011 Aspose Pty Ltd.
理解多元线性回归模型的表示，掌握 多元线性回归模型的参数估计。
换句C话o说p，yriβg2h给t出2保0持04X-3 2不0变1时1EA（sYp| oX2s，eXP3 ）ty对LXt2d的. 斜率。
二、偏回归系数的OLS估计
1. OLS估计量
与（7.1.1）的 PRF相对应的样本回归函数如下：
OLS方法 是要选择未E知v参a数lu的a值ti，on使残o差n平ly方. 和RSS尽可能小，即： ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
Copyright 2004-2011 Aspose Pty Ltd.
将该式对三个未知数求偏导数，并令其为零，解得：
由上述正规方程组可以得到β1、β2 和β3 的OLS估计量：
Evaluation only. ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
若收入和财富之间有线性关系，则无从区分各自的影响了。
令
，则（7.1.1）变成：
给出的是X2 和X3 对Y的联合影响。没有办法
分别估计X2 的单独影响和X3 的单独影响。
三、对多元回归方程的解释
Hale Waihona Puke Baidu
给定经典回归模型的诸假定，那么，在（7.1.1）的两边对Y求条 件期望得：
Evaluation only.
（7.2.1）
ted wit该h式A给s出p以o变se量.XS2 和lidXe3 的s固fo定r值.的N条E件T的3Y的.5条C件l均ie值n或t 期P望ro值f。ile 5.2
因C此，op如y同r双ig变h量t 情2形00那4样-，2多01元1回A归分sp析o是s以e多P个t解y释L变td量.的
固定值为条件的回归分析，并且我们所获取的，是给定回归元值
其观中 测CY。是当o因数p变y据r量为ig，时hX间t2 序和2列X030时是4，解-下释2标0变t1量将1，用Au来是s指p随第o机i次s干e观扰测P项。t，y而Lit指d第. i次
在上述方程中β1 是截距项，它代表X2 和X3 均为零时Y的均值，如通 常所说，它给出了所有未包含到模型中来的变量对Y的平均影响。系 数β2 和β3 称为偏回归系数(partial regression coefficients)。
二、多元线性回归模型的基本假设
（1）ui 有零均值，或：
（7.1.2）
（2）无序列相关，或：
（7.1.3）
（3）同方差性E，v或a：luation only.
（7.1.4）
ted with Aspose.Slides for .NET 3.5 Client Profile 5.2
C（o4p）yurii与g每ht一2X0变0量4之-2间0都11有零A协sp方o差s，e或P：ty Ltd.