可线性化的一元非线性回归讲解

i 1
n


2
2
——回归平方和，反映线性关系对观测结果产生的数 据波动，SSR越大，线性相关关系越强。
SS E yi yi
i 1
n


——剩余平方和（或残差平方和），反映除线性因素之 外的其它因素对观测结果产生的数据波动，SSE越大， 则其它因素对Y的影响越大。
线性回归方程的有效性检验——方差分析法
的预测区间为
置信水平为
y0 t 2
1 SS E T T 1 X0 X0 X0 X0 n k 1
例2 某种水泥在凝固时放出的热量Y（cal/g）与水泥中 下列4种化学成分有关：
x1 :3cao Al2o3
x2 :3cao Sio2
的成分（%） 的成分（%）
0.86 1.73
2.47 2.67
由经验知鸡的生长曲线为Logistic曲线，且极限生长量 为k=2.827，试求y对x的回归曲线方程。 解 由题设可建立鸡重y与时间x的相关关系为
2.827 y x 1 Ae
2.827 y 令 y ln , a ln A y 列表计算
序号 1 2 3 4 5 6 7 x 2 4 6 8 10 12 14 56 y 0.3 0.86 1.73 2.2 2.47 2.67 2.8 13.03 y' 2.131 0.827 -0.456 -1.255 -1.934 -2.834 -4.642 -8.162
上机操作 输入原始数据
上机操作 计算
2.827 y y* ln y
上机操作
上机操作
上机操作 是y*，而不是y
自变量
上机操作
回归方程，还要回代系数
多重回归分析
在实际问题中，自变量的个 数可能多于一个，随机变量 y与 多个可控变量x1,x2,x3,…,xk之间 是否存在相关关系，则属于多重 （元）回归问题。本节讨论多重 线性回归。
所以
x 8.00
y 1.166
Lxx 112 Lyy 30.807 Lxy 58.236 Lxy 0.519967 Lxx
a y x 2.993762
A e 19.96063
a
所以所求曲线方程为
2.827 y 0.51997 x 1 19.9606e
X1(%) 7 1 11 11 7 11 3 1 2 21 1 11 10
X2(%) 26 29 56 31 52 55 71 31 54 47 40 66 68
X3(%) 6 15 8 8 6 9 17 22 18 4 23 9 8
X4(%) 60 52 20 47 33 22 6 44 22 26 34 12 12
在H0成立的条件下，可以证明：
SST

2 2
~ n 1
2
SS R

2
~ k
2
SS E

2
~ n k 1
（n为观测次数，k为自变量个数） 构造F统计量
SS R k F ~ F k , n k 1 SS E n k 1
时，拒绝H0。
当
F F k , n k 1
回归系数的统计检验 回归方程的有效性检验，只是解决了y与 x1, x2 , , xk 之间是否有线性相关关系，至于变量 xi 对 y 的影响是否 有统计意义，无从看出，因此，还需对回归系数 i 是否 为0作统计检验。 提出假设 H0 : i 0; H1 : i 如果H0成立，可以证明统计量
y ae
b x
b 变形 ln y ln a x 1 令 y ln y, x , a ln a x 5、对数函数曲线 y a b ln x
令
y a bx
x ln x
y a bx
化非线性回归为线性回归 6、S型（Logistic）曲线 变形
y ax
b
ln y ln a b ln x
令
y ln y, x ln x, a ln a
y a bx
3、指数函数曲线
y ae
bx
变形 令
ln y ln a bx
y ln y, a ln a
y a bx
化非线性回归为线性回归 4、负指数函数曲线
, xk 分别作n次观测，则可得
xi1, xi 2 ,
则有
, xik , yi , i 1,2, , n
k xik i
(2)
2
yi 0 1xi1 2 xi 2
其中
i ~ N 0, , (i 1,2, , n)
0 ,1,2 , ,k
0
~ t n k 1
x
k 1 n 2 k ( i 1)
T
当
i
Cii SSE (n k 1)
T t
2
n k 1
时，拒绝H0。 Cii
利用回归方程作预测及控制 对于给定的 点估计值
x1, x2 ,
1
, xk
k xk
y0 0 1 x1 2 x2
i 1
n
k xik
2
目标：确定
方法：
Q 0, i
0 , 1, , k
使Q
i 1,2,
最小 ,k
k xk
解得
y 0 1 x1 2 x2
——多重线性回归方程
线性回归方程的有效性检验——方差分析法
线性回归方程 y x x 0 1 1 2 2 是否有统计意义，可检验假设
可线性化的一元非线性回归
前一节，我们学习了一元线性回归分析问题，在实 际应用中，有些变量之间并不是线性相关关系，但可以 经过适当的变换，把非线性回归问题转化为线性回归问 题。 常见的几种变换形式：
1 b 1、双曲线 a y x
令
1 1 y , x y x
y a bx
化非线性回归为线性回归 2、幂函数曲线 变形
0 1 k
1 2 e n
则（2）有矩阵形式
Hale Waihona Puke Y X e2 e ~ N 0, 其中 E
确定 的最小二乘法
考虑多元函数
Q yi 0 1 xi1
K y x 1 Ae
x
y(1 Ae
x
x
) K y Aye
K
Ae
K y Ky ln A x ln y y
令
Ky y ln , a ln A y
y a x
例1 测定某肉鸡的生长过程，每两周记录一次鸡的重量， 数据如下表 x/周 y/kg 2 0.3 4 6 8 2.2 10 12 14 2.8
为待定参数，称为回归系数。
（2）式含有k+1个参数，故观测次数应满足n>k+1。
多重线性回归模型的矩阵形式
记
y1 y 2 Y y n
1 x11 1 x 21 X 1 x n1
x12 x22 xn 2
x1k x2 k xnk
x3 : 4cao Al2o3 Fe2o3 的成分（%） x4 : 2cao Sio2 的成分（%）
现记录了13组观测数据，列在下表中，试求 y 对 x1, x2 , x3 , x4 的线性回归方程。
y a b1x1 b2 x2 b3 x3 b4 x4
编号 1 2 3 4 5 6 7 8 9 10 11 12 13
则有
y a x
y'2 4.541 0.684 0.208 1.576 3.741 8.029 21.544 40.323 xy' 4.262 3.309 -2.733 -10.042 -19.342 -34.003 -64.982 -123.531
X2 4 16 36 64 100 144 196 560

k xk
H0 : 1 2
n 2 n
k 0
是否成立
方法：方差分析法，将总离差平方和分解
SST yi y yi y
i 1 i 1


2
yi yi
i 1
n


2
SSR SSE
线性回归方程的有效性检验——方差分析法
SS R yi y
多重线性回归模型
随机变量 y 与 x1, x2 ,
, xk 之间的线性关系 k xk
(1)
y 0 1x1 2 x2
其中
~ N 0,
2

0 ,1,2 , ,k , 未知
则（1）式称为多重线性回归模型。
多重线性回归模型 若对变量 y 与 x1, x2 , 一个容量为n的子样
Y(cal/g） 78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4
上机操作
因变量
自变量
线性回归方程
线性方程是有效的