多元线性回归模型及其假设条件

σ (u )=σ 第七、随机干扰项具有方差齐性。

（常数）( ( y y ˆ ；残差平方和：Q= ∑ e = ∑ (y i - y ˆ i )2- iix ⎡1矩阵求解：X= ⎢⎢x 1 x (X τ X ) X YτB ˆ =⎢b 0⎥ x p 1⎥ ⎢b ˆ ⎥ ⎢ y 2 ⎥ x pn ⎥⎦ ⎥⎢L ⎥ ⎢ y ⎥ ⎢b ˆp ⎥ ⎢⎣ y n ⎥⎦ ⎣ ˆ ˆ2 ˆ§5.1 多元线性回归模型及其假设条件 1．多元线性回归模型多元线性回归模型： y i = b 0 + b 1 x 1i + b 2x2i + L+ b px pi+ ε i， i = 1,2,L , n2．多元线性回归模型的方程组形式 3．多元线性回归模型的矩阵形式4．回归模型必须满足如下的假设条件：第一、有正确的期望函数。

即在线性回归模型中没有遗漏任何重要的解释变量，也没有包含任何多余的解释变量。

第二、被解释变量等于期望函数与随机干扰项之和。

第三、随机干扰项独立于期望函数。

即回归模型中的所有解释变量 Xj 与随机干扰项 u 不相关。

第四、解释变量矩阵 X 是非随机矩阵，且其秩为列满秩的，即： rank ( X ) = k , k 〈n 。

式中 k 是解释变量的个数，n 为观测次数。

第五、随机干扰项服从正态分布。

第六、随机干扰项的期望值为零。

E (u )= 02i第八、随机干扰项相互独立，即无序列相关。

σ§5.2 多元回归模型参数的估计 2u i ,u j)= cov u i,u j)=0建立回归模型的基本任务是：求出参数σ , b 0,b 1,L ,b p的估计值，并进行统计检验。

残差： e i= ni =12i⎢L ⎢ ⎢11n-11112 x 21x22x 2nL L L L⎡ ˆ ⎤ ⎡ y ⎤ ⎤ ⎢ 1 ⎥ x p 2⎥ ， B = ⎢b 1 ⎥ ， Y = ⎢ L ⎥ ，⎢ ⎥ ⎢ n -1⎥ ⎣ ⎦σ2=Qn - p - 1要通过四个检验：经济意义检验、统计检验、计量经济学检验、模型预测检验。

∑(y i - y ˆ i )∑(y i - y )R = 1- = 1-1- R⎪⎭ n - m§5.4 多元线性回归模型的检验 一、 R 2检验1． R 2检验定义R 2检验又称复相关系数检验法。

是通过复相关系数检验一组自变量 x 1, x 2,L , x m与因变量 y 之间的线性相关程度的方法。

复相关系数与复可决系数检验中的“复”是相对于一元函数而言。

复相关系数：自变量在两个以上，检验线性关系密切程度的指标，记为R y ,x 1x2Lx p，通常用 R 表示。

复可决系数：复相关系数的平方 R 2。

在实际应用中，判别线性关系密切程度都是用 R 2 检验，所以复可决系数 R 2 是模型拟合优 度指标，R 2 越接近于 1，模型拟合越好。

0≤R 2≤1。

2 22．复相关系数检验法的步骤 1）计算复相关系数；2）根据回归模型的自由度 n-m 和给定的显著性水平 α 值，查相关系数临界值表； 3）判别。

3．调整可决系数 R2 ⎛ ⎝2⎫ n -1 R 2是一个随自变量个数增加而递增的函数，所以，当对两个具有不同自变量个数但性质相同的回归模型进行比较时，不能只用R 2作为评价回归模型优劣的标准，还必须考虑回归模型所包含的自变量个数的影响。

R2消除了自变量个数不同的影响，可以用于不同自变量个数间模型的比较。

4． R 2检验的目的检验模型对原始数据的拟合程度，或对原始数据信息的解释程度。

二、F 检验 1．检验目的通过 F 统计量检验假设H 0: β 1=β2= L = βm = 0 是否成立的方法。

回归方程的显著性检∑(y ˆ i - y )( m -1) ∑(y i - y ˆ i )( F = n - m ) ∑(y i - y ˆ i )∑(y ˆ i - y )的自由度，n-m 是剩余变差(X 'X ) 的第ˆ cov ⎛⎪⎭ Sβ ⎪⎭ ββi验是检验所有系数是否同时为 0，2．F 统计量 22 2 的自由度。

，m-1 是回归变差2F 服从自由度为 (m -1,n - m )的 F 分布。

3．回归效果不显著的原因1）影响 y 的因素除了一组自变量 x 1, x 2,L , xm 之外，还有其他不可忽略的因素。

2）y 与一组自变量3）y 与一组自变量 x 1, x 2,L , xx 1, x 2,L , x mm之间的关系不是线性的。

之间无关。

4．解决办法分析原因另选自变量或改变模型的形式。

三、t 检验1．检验目的回归系数的显著性检验是检验某个系数是否为 0。

2．T 统计量 统计假设 H 0： b i = 0 ；统计量： ti = b i S y cii ， Sy = Q n - m， cii 是矩阵 -1I 个对角元素。

ti 是一个自由度为 n-m 的 t 分布变量；统计检验判别： t i ≥ t α 。

否定假设，系数b i≠ 0 。

否则，接受假设 b i= 0 。

四、DW 检验1．序列相关的概念及对回归模型的影响序列相关是指数列的前后期相关。

若时差为一期的序列相关，称为一节自相关。

回归模型假设随机误差项之间不存在序列相关或自相关，即 u i 和 uj 互不相关，⎝ u i,uj ⎫= 0,i ≠ j 。

若回归模型不满足这一假设，则称回归模型存在自相关。

当模型中存在序列自相关时，使用 OLS 方法估计参数，将产生下列严重后果：（1）估计标准误差 S 可能严重低估 σ 的真实值。

（2）样本方差 2 j 可能严重低估 D ⎛ ⎝βi ⎫ 的真实值。

（3）估计回归系数可能歪曲的真实值。

j（4）通常的 F 检验和 t 检验将不再有效。

=ρ et -1 ∑ e e ∑ eˆˆx ' = x - x； ；y ' =β (1 -ρ )+β x ' + v ，ρ ˆ = 1 - 2 。

t1⎢ 1 -ρ⎢ ⎢⎢ 0⎥ M ⎥Ω= P 'P ，X = PX ，Y = PY ，⎦ = Pu ，Y = β + u 。

（5）根据最小二乘估计量所作的预测将无效。

2．序列相关的原因（1）惯性：变量的发展趋势。

（2）偏误：模型设定有误，删去了一些必要变量。

（3）蛛网现象：供给对价格的反应要迟一个时期。

（4）其他原因：例如，现时消费取决于前期消费。

3．序列相关的检验方法D —W 检验法。

适用条件：序列相关是一阶自回归形式。

注意：第一、D —W 检验不适用于随机项具有高阶序列相关的检验。

第二、D —W 检验有 一段不能判断其正相关或负相关的范围。

第三、对于利用滞后被解释变量做为解释变量的 模型，该检验失效。

（1）一阶自相关的数学表达式， e t + V（2）D —W 检验给出了是否存在一阶自相关的结论。

（3）一阶自相关系数 ρ 的估计值： ρ = T t =2 T t =2t t -1 2t；更常用的是： ρ = 1 -d24．消除序列相关的方法 （1）一阶差分法已知自相关的相关系数 ρ=1，原回归模型：y t =β 0 +β1 x t + u t ； u t = ut -1 + v t 。

令：y 't= y t- yt -1t t t -1 y 't= β 1x 't+ v t。

（2）广义差分法原回归模型：y t = β 0 +β1 x t + u t ； ut = ρ u t -1 + v t 。

令 y 't =y t - ρ yt -1，x 't= x t - ρxt -1， t td（3）广义最小二乘法做变换得到广义差分模型。

⎡ P= ⎢ -0ρ M⎢ 0⎣ 0 2 0 1- ρ M 0 0 0 0 1 M 0 0LL L M L L 00 M1 - ρ ⎤0⎥ ⎥ 0⎥ ， ⎥ 0⎥ 1⎥-1 * *u* *X* *广义最小二乘估计量：β =(X 'ΩˆX )-1 () X 'Ω Y ,V ˆar β =σ ˆ vˆ (X 'ΩˆX )-1 (Y - X β ~)'Ωˆ (Y - Xβ~)ˆ(X τ W -1 X ) X Wτ ˆ ∑(y i - y ˆ i )y yˆ ˆ e = y - y ˆ0 S = S⎢1+ X (X 'X ) X ' ⎥⎦⎤~-1-1 ~ 2 -1,σ2v = -1 T - k，ρ 用样本普通最小二乘残差的一阶自相关系数来估计。

k 是模型中估计参数个数（含常数项），T 是样本容量。

五、异方差1．异方差及其检验方法（1）异方差性在观察点聚图上的直观表示（对原始数据点而言） （2）异方差性的检验方法：（1）经济分析法。

对数据分组，分别计算方差。

（2）直观判 断法。

对残差而言。

（3）等级相关检验法。

（4）戈里瑟检验。

2．消除异方差的基本方法（1）模型变换法是已知异方差与自变量关系的形式，对模型进行变换，利用方差的性质可以证明是等方差 的。

（2）加权最小二乘法使用异方差性的权矩阵 W 对模型进行变换。

B = -1 -1 Y六、多重共线性1．多重共线性：是指模型中解释变量间存在着一定的相关关系，没有满足独立性要求。

2．原因：（1）各经济变量间存在着内在联系。

（2）各经济变量在时间上有共同增长的趋 势。

（3）在建立模型时引入了一些解释变量的滞后值作为新的解释变量。

3．解决办法：（1）经济分析的办法，找出引起多重共线性的变量，将他排除在外。

（2） 统计分析的方法，降维技术或者逐步回归的方法。

（3）改变变量定义的形式。

七、预测区间 1．估计标准误差2S =n - m2．点预测、预测误差的样本方差 （1）点预测y= x 0B（2）预测误差的样本方差（ 和 是向量）0 0预测误差： 0预测误差的样本方差： 0 2 0 2 ⎡ ⎣0 0 -1(3)预测区间ˆ ˆy0 ± t α(n - m )S 0 ，n<30y± χ α 2⋅ S 0， n ≥ 30八、应用实例1．散点图，线性关系检验。

2．建立回归模型。

3．计算回归系数。

4．模型检验（R 、F 、t 、DW ）。

5．计算预测区间。