最小二乘法基本原理

该方程的参数估计步骤如下：

取n 组观测值n i x x x y ki i i i ,,2,1),,,,(211 =代入上式中可得下列形式：

⎪⎪⎪⎩⎪⎪⎪⎨⎧++⋯⋯+++=++⋯⋯+++=++⋯⋯+++=m

mk k m m m k k k k u x x x y u x x x y u x x x y ββββββββββββ2211022222211021

112211101

（2） (2)的矩阵表达形式为：

U B X y += （3） 对于模型（3），如果模型的参数估计值已经得到，则有：

^^B X y =

（4） 那么，被解释变量的观测值与估计值之差的平方和为：

∑∑==--==-==n

i i i n i i B X Y B X Y e e y y e Q 1

^

'^'2^12)()()(

（5） 根据最小二乘法原理，参数估计值应该是下列方程： 0)()(^'

^^=--∂∂B X Y B X Y B

（6） 的解。于是，参数的最小二乘估计值为：

Y X X X B '1'^)(-=

（

7）

多变量预测模型是以多元线性回归方程为基础，其一般形式为： i ki k i i i u x x x y +++++=ββββ 22110 （8） 其中：k n i ;,,2,1 =为解释变量的数目；k x x x ,,,21 为解释变量，)1(+k 为解释变量的数目；k βββ ,,21为待估参数；u 为随机干扰项；i 为观测值下标。

统计检验是依据统计理论来检验模型参数估计值的可靠性。主要包括方程显著性检验（F 检验）和变量显著性检验（F 检验）。前者计算出F 统计量的数值；给定一个显著性水平α，查F 分布表，得到一个临界值),1,(--k n k F α当)1,(-->k n k F F α时，通过F 检验。后者计算出t 统计量的数值；给定一个显著性水平α，查t 分布表，得到一个临界值)1(2/--k n t α，当)1(||2/-->k n t t α时，通过t 检验。