多元线性回归数学模型

数学模型

如果12(x ,x ,,x ;y ),i 1,2,,n i i ip i =是变量12(x ,x ,

,x ;y)p 的一组观测值，则线性回归模型可表示为 01122,1,2,,n i i i p ip i y x x x i ββββε=+++

++= 为了估计模型参数的需要，古典线性回归模型通常应满足以下几个基本假设。

1.随机误差项具有零均值和等方差，即

2()0,(i 1,2,,n),i j cov(,)(i,j 1,2,,n)0,i i j E i j εσεε==⎧⎪⎧=⎨==⎨⎪≠⎩⎩

这个假定称为高斯—马尔科夫条件。

2.正态分布假设条件

212~(0,)i 1,2,,n ,,i n N εσεεε⎧=⎨⎩相互独立

由上述假定和多元正态分布的性质可知，随机变量y 遵从n 维正太分布。 为了书写的方便，通常采用矩阵形式，记

12n y y Y y ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦ 013ββββ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦ 2112222111p p n

pn x x x x X x x ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦ 12n εεεε⎧⎫⎪⎪⎪⎪=⎨⎬⎪⎪⎪⎪⎩⎭ 则多元线性回归模型可表示为：Y X βε=+

上述的正态分布假定条件可表示为：2~(0,I )n N εσ

n I 为n 阶单位阵，0表示分量全为零的向量。有多元正态分布的性质可知，随机向量Y 遵从n 为正态分布，回归模型式的数学期望为：(Y)X E β=