第7讲 统计回归模型

案例1 案例1
软件开发人员的薪金
【问题】一家高技术公司人事部门为研究软件开发人员的薪金与他们的 问题】 资历、管理责任、教育程度等因素之间的关系，要建立一个数学模型， 资历、管理责任、教育程度等因素之间的关系，要建立一个数学模型， 以便分析公司人士策略的合理性，并作为新聘用人员工资的参考。 以便分析公司人士策略的合理性，并作为新聘用人员工资的参考。他们 认为目前公司人员的薪金总体上是合理的，可以作为建模的依据， 认为目前公司人员的薪金总体上是合理的，可以作为建模的依据，于是 调查了46名开发人员的档案资料，如表。 调查了46名开发人员的档案资料，如表。其中资历一列指从事专业工作 46名开发人员的档案资料 的年数，管理一列中1表示管理人员， 表示非管理人员，教育一列中1 的年数，管理一列中1表示管理人员，0表示非管理人员，教育一列中1 表 示中学程度， 表示大学程度， 表示更高程度（研究生） 示中学程度，2表示大学程度，3表示更高程度（研究生）.
模型建立与求解 1.基本模型 1.基本模型
建立薪金 y 与资历 x 1 ，管理责任 x 2 ，教育程度 x3 , x4 之间的 多元线性回归模型： 多元线性回归模型：
y = a0 + a1x1 + a2 x2 + a3x3 + a4 x4 + ε
(1)
其中， 其中，a 0 , a1 , L , a 4 是待估计的回归系数， 是随机误差。 是待估计的回归系数， 是随机误差。 ε 利用MATLAB的系统工具箱可以得到回归系数及其置信区间（置信水平 利用MATLAB的系统工具箱可以得到回归系数及其置信区间（ MATLAB的系统工具箱可以得到回归系数及其置信区间 ）、检验统计量 的结果，见表。 α = 0.05）、检验统计量 R 2 , F , p 的结果，见表。
(2)
参数 参数估计值
置信区间 [10258， [10258，11807] [484， [484，608] [6248， [6248，7517] [-3826，-2162] 3826， [-636，931] 636，
参数 参数估计值
置信区间 [11044， [11044，11363] [486， [486，508] [6841， [6841，7255] [-1939，-1514] 1939， [-545，-152] 545， [-3372，-2769] 3372， [1571， [1571，2101]
ε与资历
x 的关系 1
ε与 x x , x 组合的关系
2 3 4
在模型中，管理责任和教育程度是分别起作用的，事实上， 在模型中，管理责任和教育程度是分别起作用的，事实上，二者可 能起着交互作用， 能起着交互作用，如大学程度的管理人员的薪金会比二者分别的薪金之 和高一点。 和高一点。
以上分析提示我们， 以上分析提示我们，应在基本模型中增加管 理 的交互项，建立新的回归模型。 的交互项，建立新的回归模型。
资 历 10 11 11 12 12 13 13 14 15 16 16 16
管理 1 1 0 0 1 0 1 0 1 1 0 0
教 育 2 2 1 2 3 1 2 2 3 2 2 1
分析与假设
按照常识，薪金自然按照资历（ 按照常识，薪金自然按照资历（年）的增长而增加，管理 的增长而增加， 人员的薪金高于非管理人员，教育程度越高薪金越高。 人员的薪金高于非管理人员，教育程度越高薪金越高。
模型（2）的参数回归分析数据 模型（
比较可知，模型（2）的 R 2和 比较可知，模型（
值都比上一个模型有所改进， F 值都比上一个模型有所改进，
并且所有回归系数的置信区间都不含零点，表明这个模型完全可用。 并且所有回归系数的置信区间都不含零点，表明这个模型完全可用。
做该模型（2）的两个残差分析图，可以看出，已经消除了不正常 做该模型（ 的两个残差分析图，可以看出， 现象，这也说明了模型的适用性。 现象，这也说明了模型的适用性。
资 历 4 5 5 5 6 6 6 6 7 8 8 8
管理 0 0 0 1 0 1 0 1 1 0 1 1
教 育 2 2 3 1 1 3 2 2 1 2 1 3
编 号 33 34 35 36 37 38 39 40 41 42 43 44
薪金 2378 0 2541 0 1486 1 1688 2 2417 0 1599 0 2633 0 1794 9 2568 5 2783 7 1883 8 1748
第7讲
统计回归模型
软件开发人员的薪金 农作物施肥效果分析
统计模型 如果由于客观事物内部规律的复杂性及人们 认识程度的限制， 认识程度的限制，无法分析实际对象内在的因果 关系，建立合乎机理规律的模型， 关系，建立合乎机理规律的模型，那么通常要搜 集大量的数据，基于对数据的统计分析建立模型， 集大量的数据，基于对数据的统计分析建立模型， 这就是本章还要讨论的用途非常广泛的一类随机 模型—统计回归模型。 模型—统计回归模型。
资历（ 薪金记作 y ，资历（年）记作 x
1
为了表示是否为管理人员，作如下定义： 为了表示是否为管理人员，作如下定义：
x2 =
1，管理人员 0，非管理人员
为了表示三种教育程度， 为了表示三种教育程度，定义
x3 =
1，中学 0，ห้องสมุดไป่ตู้它
x4 =
1，大学 0，其它
表示， 表示， 这样， 这样，中学用x 3 = 1, x 4 = 0 表示，大学用 x3 = 0, x4 = 1 表示， 表示。 研究生则用 x3 = 0, x4 = 0 表示。
资历、管理人员的薪金为： 资历、管理人员的薪金为：
y = a0 + a1 ×2 + a2 ×0 + a3 ×0 + a4 ×1 =12273
模型中各个回归系数的含义可初步解释如下： 模型中各个回归系数的含义可初步解释如下：
x 1 的系数为546，说明资历每增加一年，薪金增长546； 的系数为546，说明资历每增加一年，薪金增长546； 546 546
x
2
与教育 x 3 , x 4
2、模型改进
增加 x 2 与 x 3 , x 4 的交互项后，模型记作 的交互项后，
y = a0 + a1x1 + a2 x2 + a3x3 + a4 x4 + a5x2 x3 + a6 x2 x4 +ε
利用MATLAB的统计工具箱得到的结果如表： 利用MATLAB的统计工具箱得到的结果如表： MATLAB的统计工具箱得到的结果如表
进一步讨论： 进一步讨论：
之差，是基本模型中随机误差 ε 的估计值，这里用同一个符号）。 的估计值，这里用同一个符号）。 之差，
的方向，常用残差分析法（ 的方向，常用残差分析法（残差 ε 指薪金的实际值 y 与模型估计的薪金 y
a 4 的置信区间包含零点，说明上述基本模型存在缺点。为了寻找改进 的置信区间包含零点，说明上述基本模型存在缺点。
资 历 1 1 1 1 1 2 2 2 2 3 3 3
管理 1 0 1 0 0 1 0 0 0 0 1 1
教 育 1 3 3 2 3 2 2 1 3 2 1 2
编 号 17 18 19 20 21 22 23 24 25 26 27 28
薪金 1284 4 1324 5 1367 7 1596 5 1236 6 2135 2 1383 9 2288 4 1697 8 1480 3 1740 4 2218
模型的进一步假设： 模型的进一步假设：
(1)为了简单起见，我们假定资历（ (1)为了简单起见，我们假定资历（年）对薪金的作用是线性的，即资历 对薪金的作用是线性的， 为了简单起见 每加一年，薪金的增长是常数； 每加一年，薪金的增长是常数； (2)管理责任、教育程度、资历诸因素之间没有交互作用，建立线性回归 管理责任、教育程度、资历诸因素之间没有交互作用， 管理责任 模型。 模型。
x 2 --教育 x 3 , x 4 组合间的关系。 --教育 组合间的关系。
从左图看，残差大概分成3个水平，这是由于6种管理—教育组合混 从左图看，残差大概分成3个水平，这是由于6种管理— 在一起，在模型中未被正确反映的结果； 在一起，在模型中未被正确反映的结果；
从右图看，对于前4个管理—教育组合，残差或者全为正，或者全为负， 从右图看，对于前4个管理—教育组合，残差或者全为正，或者全为负，也 表明管理--教育组合在模型中处理不当 教育组合在模型中处理不当。 表明管理--教育组合在模型中处理不当。
开 发 人 员 的 薪 金 与 其 资 历 、 管 理 责 任 、 教 育 程 度
编 号 01 02 03 04 05 06 07 08 09 10 11 12
薪金 1387 6 1160 8 1870 1 1128 3 1176 7 2087 2 1177 2 1053 5 1219 5 1231 3 1497 5 2137
a0
a1 a2
a3
11032 546 6883 -2994 148
2
a0
a1 a2 a3
11204 497 7048 -1727 -348 -3071 1836
a4
a5 a6
a4
R = 0.957, F = 226, p = 0
模型（1）的参数回归分析数据 模型（
R 2 = 0.999, F = 554, p = 0
参数
参数估计值 11032 546 6883 -2994 148
置信区间 [10258 [484 [6248 [-3826 [-636 11807] 608] 7517] -2162] 931]
a0
a1
a2
a3
a4
R 2 = 0.957, F = 226, p = 0
结果分析： 结果分析：