线性回归模型的一般形式如果因变量

其中，C jj 是
( X T X )1主对角线上的元素。
ˆ 具有最小方差的特性。（证明略） 可以证明， j
五、随机误差项的方差的估计量 和一元线性回归类似有平方和分解
ˆi ) 2 ST ( yi y )2 ( yi y
i 1 i 1
n
n
ˆi y )2 Qe S回 ( y
三、参数估计方法—最小二乘估计
用最小二乘法估计回归参数 0 , 1 ,, k 考虑
Qe Q( 0 , 1,, k )
n i 1
( yi 0 1 xi1 k xik )2
使
ˆ , ˆ ,, ˆ ) minQ( , ,, ) Q( 0 1 k 0 1 k
y 0 1 x1 2 x2 k xk
写成矩阵形式为： Y XB ε 其中
y1 y2 Y yn
1 x11 1 x12 X 1 x1n
x21 x22 x2 n
xk 1 xk 2 xkn
y 0 1 x1 2 x2 k xk
对每一组观测值
yi 0 1x1i 2 x2i k xki i
i 1, 2,, n
非随机表达式
E(Y x1i , x2i ,, xki ) 0 1x1i 2 x2i k xki
ˆ , ˆ ,, ˆ 都是 y , y ,, y 有类似的性质.例如: 1 2 n 0 1 k ˆ , ˆ ,, ˆ 分别是 , ,, 的线性组合; 0 1 k 0 1 k
ˆ ~ N (B, 2 ( X T X ) 1 ) 等.且 的无偏估计; B
ˆ ) 2 ( X T X )1 2C （j 0,1, 2,, k） Var ( j jj jj
i 1
n
而

Qe
2
~ (n k 1)
第二章 多重回归分析法 2.1 多元线性回归模型及其参数估计 2.2 多元线性回归的显著性检验 2.3 利用多元线性回归方程进行预测 2.4 解释变量的选择 2.5 多重共线性 2.6 预测实例
2.1 多元线性回归模型及其参数估计
一、线性回归模型的一般形式 如果因变量（被解释变量）与各自变量（解释变量） 之间有线性相关关系，那么它们之间的线性总体回归 模型可以表示为：
其矩阵形式为 解得
ˆ X TY X T XB
T 1 T ˆ B (X X ) X Y
所以多元线性回归方程的矩阵形式为
ˆ XB ˆ X ( X T X ) 1 X T Y Y
一元回归的参数估计是多元回归参数估计的特例。
Q ei min
2
n
(Y XB)' (Y XB) (Y ' B' X ' )(Y XB) Y ' Y Y ' XB B' X ' Y B' X ' XB
分别求 Qe 关于 0 , 1 ,, k 的偏导数,并令其为零
Qe 0
ˆ BB
Qe k
0
ˆ BB
整理得正规方程组
n n n ˆ ˆ ˆ n x 0 1 i1 k x ik y i i 1 i 1 i 1 n n n n 2 ˆ ˆ ˆ x x 0 i1 1 i1 k xi1 x ik x i1 y i i 1 i 1 i 1 i 1 n n n n 2 ˆ ˆ ˆ 0 xik 1 xik xi1 k xik xik y i i 1 i 1 i 1 i 1
( AB) ' 根据： B ' A ', (Y ' XB) ' B ' X ' Y 所以：Y ' XB与B'X'Y 是同值 Q 2 X ' Y 2 X'XB ＝ 0 B B ( X'X )1 X'Y
i 1
四、最小二乘估计量（OLSE)的统计性质
与一元线性回归相比, k 元线性回归的参数估计量也
（5）进一步假定 i ~ N (0,σ2 ) 即 ~ N (0, 2 I ) n 其中 I n 是 n 阶单位方阵 （6）rank( X ) k n 各自变量之间不存在显著相关关系
预测模型
ˆ ˆ x ˆ x ˆx ˆ y 0 1 1i 2 2i k ki ˆ 是观测值与预测值（回归值）之间的离差 ei Yi Y i
可见，多元回归分析是以多个解释变量的固定值 为条件的回归分析，表示各解释变量X值固定时Y 的平均响应。
j也被称为偏回归系数，表示在其他解释变量保 持不变的情况下，X j 每变化1个单位时，引起的 因变量的平均变动量。或者说 j 给出 X j 单位变 化对Y均值的“直接”或“净”（不含其他变量） 影响。
0 1 B k
1 2 ε Biblioteka Baidu n
实际上，在多元线性回归分析中，比一元线性回归 分析增加了一个假设条件，即自变量之间不存在线 性关系。
二、多元回归模型的基本假定 （1）E[ i | x1i , x2i , xki ] 0
i ,,,n
i ,,,n
（2）Var ( i | x1i , x2i ,..., xki ) 2 （3） Cov( i , j ) 0 （4） Cov( i , X i ) 0
等方差性 无序列相关
i j,i, j 1,2,,n
i 1,2,,n