SPSS加权最小二乘法及应用

SPSS数据统计分析与实践主讲：周涛副教授

北京师范大学资源学院

2007-12-4

教学网站：/Courses/SPSS

第十五章：加权最小二乘法

（Weighted Least Squares）

本章内容：

一、最小二乘法的应用领域

z根据需要人为地改变观测量的权重

z Remedial Measures for Unequal Error Variances

二、SPSS提供的WLS过程

z Linear Regression procedure (with weight variable)

z Weight Estimation procedure

三、相关输出结果的比较

z OLS与WLS比较

z SPSS提供的两种WLS方法比较

加权最小二乘法应用（一）

根据需要人为地改变观测量的权重

根据需要人为地改变观测量的权重－－实例

实验中收集的15对数

据，每对数据都是

将n份样品混合后测

得的平均结果，但

各对数据的n大小不

等，试求出X对Y的

线性方程。

数据源：郭祖超，《医用数理

统计方法》第三版P249

根据需要人为地改变观测量的权重－－实例

方法一：如果不考虑样品混合量的差异，则该问题是一个非常简单的线性回归问题，可直接拟合回归方程，结果如下：

Model Summary b

.987a.975.973.11330

Model

1

R R Square

Adjusted

R Square

Std. Error of

the Estimate Predictors: (Constant), x

a.

Dependent Variable: y

b.

Coefficients a

7.454.17343.143.000

-.015.001-.987-22.468.000 (Constant)

x

Model

1

B Std. Error

Unstandardized

Coefficients

Beta

Standardized

Coefficients

t Sig.

Dependent Variable: y

a.

Y = 7.45 –0.015 * X (R2=0.98)

根据需要人为地改变观测量的权重－－实例方法二：由于每对测量数据都是将n份样品混合后测得结果，显然混合的样品越多，测得的结果越稳定，即变异越小。如果直接拟合方程，则是将所有测量值均一视同仁，1份样品的测量结果与15份样品混合后的测量结果等价对待，这显然不太合理。

为此可以考虑在分析中将样品数n作为权重变量，n 值越大的观测量在计算中给予的权重越高，对方程的影响越大，即按照加权最小二乘法来拟合回归方程。

根据需要人为地改变观测量的权重－－实例z SPSS操作步骤：

z AnalyzeÆRegression

ÆLinear

z Dependent: Y

z Independent: X

z WLS Weight: n

WLS Weight

WLS: Weighted Least Squares

WLS 输出结果

Model Summary b,c

.982a

.965

.962

.29365

Model 1

R

R Square

Adjusted R Square

Std. Error of the Estimate

Predictors: (Constant), x a. Dependent Variable: y

b. Weighted Least Squares Regression - Weighted by n

c. Y = 7.19 –0.014 * X (R 2=0.97)

Coefficients a,b

7.190.18838.316.000-.014.001

-.982

-18.816.000

(Constant)x

Model 1

B Std. Error Unstandardized Coefficients Beta

Standardized

Coefficients

t

Sig.Dependent Variable: y

a. Weighted Least Squares Regression - Weighted by n

b.

WLS 与OLS 输出结果比较

1.在OLS中，测定系数为0.975, 而在WLS中测

定系数降低为0.965。

2.由于测定系数是按照普通最小二乘法进行计

算，因此加权后的方程测定系数必然小于普通最小二乘法，即此时不能使用测定系数来判断模型的优劣。

WLS 与OLS 输出结果比较3. 通过绘制OLS和WLS的

回归直线加以比较，如

下图所示，WLS更靠近

中部那些混合样品数据n

较大的测量值，而对两

端n较小的测量值则比

OLS回归直线更远一

些，显然这些测量值在

计算时对方程的影响程

度是不同的。