多元线性回归的统计检验
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
经过计算转化后可决系数与调整后的可决系数 之间的关系：
2
R
1
(1
R2 )
n 1
n k 1
2.方程总体线性的显著性检验（F检验）
方程显著性F检验的模型：
Yi 0 1X1i 2 X 2i ... k X ki ui
检验参数k是否显著为零。 按照假设检验的原理和程序，原假设与备择假
2是随机干扰项的方差，实际计算中用 代
替。
服从正态分布如下：
j
j N(j, 2cjj )
t j j
S
j
j j
c jj
ee n k 1
t(n k 1)
t 检验
在变量显著性检验中，针对 假设为：
设X j计的原假设和备择
H0 : j 0
给定一个显著H性1：水平j α，0得到临界值t 2
或者
2
R
F
k
2
(1 R )
(n k 1)
变量的显著性检验（ t 检验）
多元线性回归模型，方程的总体线性关系式显 著的，并不能说明每个解释变量对被解释变量 的影响都是显著的。因此必须对每个解释变量 进行显著性检验，以决定是否作为解释变量被 保留在模型中。
t 统计量
参数估计量的方差：
cCoj表jv(示) 矩 2阵(X( XXX)1)主1 V对ar角(线j) 上 的2c jj第j个元素。 2
因此，在多元回归模型之家比较拟合优度，R2 不是一个合适的指标。
可调整的可决系数
思路：在样本容量一定的情况下，增加解释变 量必定使得自由度减少，所以要将残差平方和 与总离差平方和分别除以各自的自由度，剔除 变量个数对拟合优度的影响。公式如下：
RSS
2
R 1
(n k 1) TSS
(n 1)
可决系数与调整可决系数的关系
可决系数
回归平方和占总离差的比重即是衡量样本回归 线对样本观测值得拟合程度。
R2 ESS 1 RSS TSS TSS
R 2越接近1，模型的拟合程度越高
可决系数的问题
在实际应用中发现，如果模型中每增加一个解 释变量，R2 往往随之增大。
原因：残差平方和往往随着解释变量个数的增 加和减少，至少不会增加。
设：
H0:：1=0，2 =0，...,k =0 H1 : j ( j 1, 2,..., k)不全为零
F检验
在原假设H0成: 立的条件下，统计量：
ESS
F RSS
k
(n k 1)
服从自由度（k,n-k-1）的F分布。
给定显著性水平α，比较 F与F值大小：
F F (k, n k 1)拒绝原假设H0 F F (k, n k 1)接受原假设H0
拟合优度与F检验关系1
不同点 1.拟合优度：从已经估计的模型出发，检验它对
样本观测值得拟合程度 2.F检验：从样本观测值出发检验模型总体的线
性关系的显著性。 联系 模型对样本的观测值拟合程度高，模型总体线
性关系的显著性就强
拟合优度与F检验关系2
两个统计量之间的关系式：
2
n 1
R 1
n k 1 kF
根据： t t (n k 1)拒绝原假设H0
2
t t (n k 1)接受原假设H0
2
注意
没有绝对的显著性水平。关键仍然是考察经济 变量在经济关系上是否对解释变量有影响，显 著性检验起到验证的作用。同时还要看显著性 水平不太高的变量在模型中及模型应用中的作
2
R
1
(1
R2 )
n 1
n k 1
2.方程总体线性的显著性检验（F检验）
方程显著性F检验的模型：
Yi 0 1X1i 2 X 2i ... k X ki ui
检验参数k是否显著为零。 按照假设检验的原理和程序，原假设与备择假
2是随机干扰项的方差，实际计算中用 代
替。
服从正态分布如下：
j
j N(j, 2cjj )
t j j
S
j
j j
c jj
ee n k 1
t(n k 1)
t 检验
在变量显著性检验中，针对 假设为：
设X j计的原假设和备择
H0 : j 0
给定一个显著H性1：水平j α，0得到临界值t 2
或者
2
R
F
k
2
(1 R )
(n k 1)
变量的显著性检验（ t 检验）
多元线性回归模型，方程的总体线性关系式显 著的，并不能说明每个解释变量对被解释变量 的影响都是显著的。因此必须对每个解释变量 进行显著性检验，以决定是否作为解释变量被 保留在模型中。
t 统计量
参数估计量的方差：
cCoj表jv(示) 矩 2阵(X( XXX)1)主1 V对ar角(线j) 上 的2c jj第j个元素。 2
因此，在多元回归模型之家比较拟合优度，R2 不是一个合适的指标。
可调整的可决系数
思路：在样本容量一定的情况下，增加解释变 量必定使得自由度减少，所以要将残差平方和 与总离差平方和分别除以各自的自由度，剔除 变量个数对拟合优度的影响。公式如下：
RSS
2
R 1
(n k 1) TSS
(n 1)
可决系数与调整可决系数的关系
可决系数
回归平方和占总离差的比重即是衡量样本回归 线对样本观测值得拟合程度。
R2 ESS 1 RSS TSS TSS
R 2越接近1，模型的拟合程度越高
可决系数的问题
在实际应用中发现，如果模型中每增加一个解 释变量，R2 往往随之增大。
原因：残差平方和往往随着解释变量个数的增 加和减少，至少不会增加。
设：
H0:：1=0，2 =0，...,k =0 H1 : j ( j 1, 2,..., k)不全为零
F检验
在原假设H0成: 立的条件下，统计量：
ESS
F RSS
k
(n k 1)
服从自由度（k,n-k-1）的F分布。
给定显著性水平α，比较 F与F值大小：
F F (k, n k 1)拒绝原假设H0 F F (k, n k 1)接受原假设H0
拟合优度与F检验关系1
不同点 1.拟合优度：从已经估计的模型出发，检验它对
样本观测值得拟合程度 2.F检验：从样本观测值出发检验模型总体的线
性关系的显著性。 联系 模型对样本的观测值拟合程度高，模型总体线
性关系的显著性就强
拟合优度与F检验关系2
两个统计量之间的关系式：
2
n 1
R 1
n k 1 kF
根据： t t (n k 1)拒绝原假设H0
2
t t (n k 1)接受原假设H0
2
注意
没有绝对的显著性水平。关键仍然是考察经济 变量在经济关系上是否对解释变量有影响，显 著性检验起到验证的作用。同时还要看显著性 水平不太高的变量在模型中及模型应用中的作