误差理论与数据处理第六章

重点与难点
回归分析的基本概念和主要内容 一元线性回归方程的求法 回归方程的方差分析和显著性检验 一元非线性回归方法
第一节
回归分析的基本概念
一、函数与相关
函数关系： 函数关系：可以用明确的函数关系式精确地 表示出来。 表示出来。 相关关系： 相关关系：这些变量之间既存在着密切的关 又不能由一个（或几个） 系，又不能由一个（或几个）自 变量的数值精确地求出另一个因 变量的数值，而是要通过试验和 变量的数值， 调查研究， 调查研究，才能确定它们之间的 关系。 关系。
第二节
一元线性回归
ˆ Y − Xb =V
则误差方程的矩阵形式为
ˆ 对照 V = L− AX，设测得值 y 的精度相等，则有 t 的精度相等，
将测得值分别代入上式， 将测得值分别代入上式，可计算得
N N
ˆ b = (X T X)−1 X T Y
N∑xt yt −(∑xt )(∑yt )
t= 1 t= 1 t= 1 N
b=
N∑xt −(∑xt )2
2 t= 1 t= 1
N N N 2 t
N
N
=lxy lxx源自b = 0(∑x )(∑yt ) −(∑xt )(∑xt yt )
t= 1
N
N∑xt2 −(∑xt )2
t= 1 t= 1
t= 1 N
t= 1 N
t= 1
= y −bx
第二节
其中
一元线性回归
1 N x = ∑xt N t=1 1 N y = ∑yt N t=1 1 N lxx = ∑ xt − x)2 = ∑xt − (∑xt )2 ( N t=1 t= 1 t= 1
一、回归方程的确定
例：确定某段导线的电阻与温度之间的关系： 确定某段导线的电阻与温度之间的关系：
x/o C y/ Ω
19.1 76.30 25.0 77.80 30.1 79.75 36.0 80.80 40.0 82.35 46.5 83.90 50.0 85.10
散点图： 散点图：
84 82 80 78 76 20 25 30 35 40 45 50
第二节
一元线性回归
（一）回归方程的方差分析 1、引起变差的原因： 引起变差的原因： A、自变量x取值的不同； 自变量x取值的不同； 其它因素（包括试验误差）的影响。 B、其它因素（包括试验误差）的影响。 2、方差分析 总的离差平方和（ 总的离差平方和（即N个观测值之间的变差） 个观测值之间的变差）
2 N 1 N lxy = ∑ xt − x)(yt − y) = ∑xt yt − (∑xt )(∑yt ) ( N t=1 t= 1 t= 1 t= 1 N N N N
1 N lyy = ∑ yt − y) = ∑yt − (∑yt )2 ( N t=1 t= 1 t= 1
2 2
N
N
第二节
一元线性回归
第二节
一元线性回归
从散点图可以看出：电阻与温度大致成线性关系。 从散点图可以看出：电阻与温度大致成线性关系。 设测量数据有如下结构形式： 设测量数据有如下结构形式：
yt = β0 +βxt +εt ,
t =12,L N , ,
, 式中， 式中， ε1,ε2,L εN 分别表示其它随机因素对电阻值 y1, y2,L yN 影响的总和。 , 影响的总和。
第三节
一元非线性回归
4、表差法（适用于多项式回归，含有常数项多于两 表差法（适用于多项式回归， 个的情况） 个的情况） 用试验数据画图； a、用试验数据画图； b、确定定差 c、根据x,y的读出值作出差值 ∆yk ，看其是否与确定 根据x,y的读出值作出差值 x,y 方程式的标准相符，若一致， 方程式的标准相符，若一致，则说明原选定的曲线 类型是合适的。 类型是合适的。 列出x 各对应值； ∆x ，列出xi,yi各对应值；
－
三、重复试验情况
1、重复试验的意义 “回归方程显著”：只表明因素x的一次项对y的影响 回归方程显著” 只表明因素x的一次项对y 回归方程显著 显著；难以确定影响y 显著；难以确定影响y的是否还有其它不可忽略的 因素？ 是否线性? 不表明该方程拟合得很好。 因素？x和y是否线性? 不表明该方程拟合得很好。
第二节
一元线性回归
四、回归直线的简便求法
1）分组法－平均值法 分组法－
将自变量由小到大次序排列，分成个数（近于） 将自变量由小到大次序排列，分成个数（近于）相等的 两个组（分组数等于未知数个数），建立相应观测方程： ），建立相应观测方程 两个组（分组数等于未知数个数），建立相应观测方程：
y1 =b0 +bx1 M y =b +bx k k 0
第三节
一元非线性回归
3、直线检验法（适用于待求参数不多的情况） 直线检验法（适用于待求参数不多的情况） a、预选回归曲线 f (x, y, a,b) = 0 b、 f (x, y, a,b) = 0
Z1 = A+ B 2 Z
c、求出几对与x,y相对应的Z1,Z2值 求出几对与x,y相对应的 x,y 为坐标作图，若为直线， d、以Z1,Z2为坐标作图，若为直线，则说明原 选定的曲线类型是合适的，否则重新考虑。 选定的曲线类型是合适的，否则重新考虑。
一、求解思路
1、确定函数类型并检验。 确定函数类型并检验。 2、求解未知参数。可化曲线回归为直线回归， 求解未知参数。可化曲线回归为直线回归， 用最小二乘法求解； 用最小二乘法求解；可化曲线回归为多项式 回归。 回归。
二、回归曲线函数类型的选取和检验
1、直接判断法 2、作图观察法，与典型曲线比较，确定其属于何 作图观察法，与典型曲线比较， 种类型，然后检验。 种类型，然后检验。
第一节
回归分析的基本概念
二、回归分析思路
1、由数据确定变量之间的数学表达式－回归方 由数据确定变量之间的数学表达式－ 程或经验公式； 程或经验公式； 2、对回归方程的可信度进行统计检验； 对回归方程的可信度进行统计检验； 3、因素分析。 因素分析。
第二节
一元线性回归
一元线性回归：确定两个变量之间的线性关系。 一元线性回归：确定两个变量之间的线性关系。
F < F.10(1 N −2), 回归不显著。 , 回归不显著。 0
第二节
一元线性回归
（三）残余方差与残余标准差 残余方差：排除了x 的线性影响后，衡量y 残余方差：排除了x 对y的线性影响后，衡量y 随机波动的特征量。 随机波动的特征量。
Q σ = N −2
2
残余标准差： 残余标准差：
Q σ= N −2
二、回归方程的方差分析及显著性检验
问题：这条回归直线是否符合y 问题：这条回归直线是否符合y 与x之间的客 观规律？回归直线的预报精度如何？ 观规律？回归直线的预报精度如何？ 方差分析法 对N个观测值与其算术平均值之差的平方 和进行分解； 和进行分解； 从量值上区别对Ｎ个观测值的影响因素； 从量值上区别对Ｎ个观测值的影响因素； 用F检验法对所求回归方程进行显著性检 验。
含义： 越小，回归直线的精度越高。 含义：σ 越小，回归直线的精度越高。
第二节
来源 回归 残余 总计
一元线性回归
平方和
U = blxy
Q = lyy −blxy
（四）方差分析表
自由度 1 N-2 N-1 方差 －
F=
F
U /1 Q/(N −2)
显著性
F (1 N −2) α ,
σ
－
S = lyy
－
第6章
回归分析
教学目标
本章主要阐述回归分析的基本概念，并 本章主要阐述回归分析的基本概念， 重点介绍一元线性回归和非线性回归的基本 方法， 方法，给出回归方程的方差分析和显著性检 验。从而使学生掌握回归分析方法的基本原 理，学会从实际测量中寻求两个变量和多个 变量之间的内在关系。 变量之间的内在关系。
S = ∑ yt − y)2 = lyy (
t= 1
N
νS = N −1
可以证明： 可以证明：
第二节
其中
N t= 1
一元线性回归
S=U+Q
U = ∑ yt − y)2 = blxy (
ˆ Q= ∑ yt − yt )2 = lyy −blxy (
t= 1 N
νU =1
νQ = N −2
回归平方和， U—回归平方和，反映总变差中由于x和y的线性关 回归平方和 反映总变差中由于x 变化的部分。 系而引起 y变化的部分。 残余平方和， Q—残余平方和，反映所有观测点到回归直线的残 残余平方和 余误差，即其它因素对y变差的影响。 余误差，即其它因素对y变差的影响。
第二节
一元线性回归
（二）回归方程显著性检验— F检验法 回归方程显著性检验 基本思路：方程是否显著取决于U 的大小， 越大， 基本思路：方程是否显著取决于U和Q的大小，U越大，Q越 说明y 的线性关系愈密切。 小，说明y与x的线性关系愈密切。 计算统计量F 计算统计量F
U /νU F= Q/νQ
U /1 Q/(N −2)
－
U /νU Q /νE E Q /ν F= L L 1 Q /νE E F=
－
F ( U ,νE ) α ν F ( L,νE ) α ν
－
S =U +Q +Q E L
3）方差检验
F=
F= 1
U /νU Q /νE :判断一元回归方程拟合效果 E
Q /νL L Q /νE :判断失拟平方和对试验误差的影响 E U /νU F= 2 (Q +Q ) /(νE +νL) :综合判断一元回归方程拟合效果 E L
回归在0.05的水平上显著。 0.05的水平上显著 F.05(1 N −2) ≤ F < F.01(1 N −2), 回归在0.05的水平上显著。 , , 0 0