非线性回归模型的线性化
合集下载
非线性模型的线性化方法
应用领域
金融、经济、生物等领域。
实例
在金融领域，通过非线性回归模型预测股票价格，采用对数转换将 非线性关系转换为线性关系，便于模型拟合和预测。
案例二：非线性时间序列模型的线性化
线性化方法
差分转换、积分转换等。
应用领域
气象、水文、地震等。
实例
在气象领域，通过非线性时间序列模型预测气温变化，采用差分转 换将非线性关系转换为线性关系，提高模型的预测精度。
考虑模型的物理意义和实际应用背景，选择一个具有代表性的
点作为线性化点。
通过交叉验证和比较不同线性化点的拟合效果，选择最优的线
03
性化点。
对非线性模型进行线性化转换
01
02
03
将非线性模型在所选的 线性化点处进行泰勒级 数展开，得到线性化模
型。
保留级数展开的前几项 ，舍弃高阶项以避免过
拟合。
根据实际需求和数据特 点，选择适合的线性化 方法，如对数转换、幂
案例三：非线性决策模型的线性化
线性化方法
引入虚拟变量、决策树等。
应用领域
市场营销、医疗诊断等。
实例
在市场营销中，通过非线性决策模型预测客户响应，采用引入虚拟变量的方法将非线性关系转换为线性 关系，提高模型的解释性和预测能力。
案例四：非线性预测模型的线性化
线性化方法
自适应滤波算法、神经网络等。
金融、经济、生物等领域。
实例
在金融领域，通过非线性回归模型预测股票价格，采用对数转换将 非线性关系转换为线性关系，便于模型拟合和预测。
案例二：非线性时间序列模型的线性化
线性化方法
差分转换、积分转换等。
应用领域
气象、水文、地震等。
实例
在气象领域，通过非线性时间序列模型预测气温变化，采用差分转 换将非线性关系转换为线性关系，提高模型的预测精度。
考虑模型的物理意义和实际应用背景，选择一个具有代表性的
点作为线性化点。
通过交叉验证和比较不同线性化点的拟合效果，选择最优的线
03
性化点。
对非线性模型进行线性化转换
01
02
03
将非线性模型在所选的 线性化点处进行泰勒级 数展开，得到线性化模
型。
保留级数展开的前几项 ，舍弃高阶项以避免过
拟合。
根据实际需求和数据特 点，选择适合的线性化 方法，如对数转换、幂
案例三：非线性决策模型的线性化
线性化方法
引入虚拟变量、决策树等。
应用领域
市场营销、医疗诊断等。
实例
在市场营销中，通过非线性决策模型预测客户响应，采用引入虚拟变量的方法将非线性关系转换为线性 关系，提高模型的解释性和预测能力。
案例四：非线性预测模型的线性化
线性化方法
自适应滤波算法、神经网络等。
非线性模型的线性化
达到最小。对于非线性回归模型，所面临的方程组可能并 不易求解。
迭代线性化
迭代线性化法（Iterative Linearization Method）的基本 思想是:
首先，通过泰勒级数展开将模型的非线性函数在某一组初 始参数估计值附近线性化。然后，对这一线性化的函数应 用普通最小二乘法，得到一组新的参数估计值。
作 业
Thank
you
其中C表示总消费，Y表示可支配收入。 解 对于线性消费函数模型，应有 2 1 ，所以我们考虑 将参数的初始估计值取为 0,0 1,0 2,0 1 。将函数在 这组初始值附近作泰勒级数展开，然后取线性近似
f f f f ( 0 , 1 , 2 ) f (1,1,1) ( 0 1) ( 1 1) ( 2 1) 1 0 2 0 0 0
Z1 f1 ( X 1 , X 2 , , X k ) Z f ( X , X , , X ) 2 1 2 k 我们做变量替换 2 Z p f p ( X 1 , X 2 , , X k )
于是原来的模型化为一个标准的多元线性回归模型
Y 0 1Z1 2 Z 2 p Z p u
f Y f ( X 1 , X 2 , , X k ; 0,0 , 1,0 , 2,0 , , p ,0 ) ( i i ,0 ) i 1 i 0
经典回归与非线性回归模型的线性化
T
Lim E ( xT ) =
（与期望概念不同）
与期望值序列相对应，也可以写出方差序列。 Var(x T ) = E(x T -E(x T ))2 ={E[x T1 - E(x T1 ) ]2, E[x T2 - E(x T2 ) ]2,…, E[x TN - E(x TN ) ]2} 但在许多情形下， Lim E (x T -E(x T ))2 = 0，即x T 的分布退化为一点。例如，已知 x 的分布是 x
OLS 估计量都能满足上述渐近特性，但满足渐近特性的估计量不见得是最佳线性无偏 估计量。 注意：分清 4 个式子的关系。 (1) 真实的统计模型，y t = 0 + 1 x t + u t
ˆ 满足 ˆ ) = 0， ˆ 具有一致性， ˆ为 的 一致性 若 （1） 渐近无偏性， （2） Lim Var ( 则 T
T
Leabharlann Baidu
一致估计量。
ˆ 满足（1）具有一致性， ˆ 的渐进方 渐近有效性。若 （2）与其他估计量的方差相比，
~ ˆ )< Var( ˆ 差较小，Var( T T )，则称 具有渐近有效性。
图 2.1
真实的回归直线
这种模型可以赋予各种实际意义，收入与支出的关系；如脉搏与血压的关系；商品价格 与供给量的关系；文件容量与保存时间的关系；林区木材采伐量与木材剩余物的关系；身高 与体重的关系等。 以收入与支出的关系为例。假设固定对一个家庭进行观察，随着收入水平的不同，与支 出呈线性函数关系。但实际上数据来自各个家庭，来自各个不同收入水平，使其他条件不变 成为不可能，所以由数据得到的散点图不在一条直线上（不呈函数关系） ，而是散在直线周 围，服从统计关系。随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的 消费指数不同，不同家庭的外来收入不同等因素。所以在经济问题上“控制其他因素不变” 是不可能的。 回归模型的随机误差项中一般包括如下几项内容， （1） 非重要解释变量的省略， （2） 人 的随机行为， （3）数学模型形式欠妥， （4）归并误差（粮食的归并） （5）测量误差等。 回归模型存在两个特点。 （1） 建立在某些假定条件不变前提下抽象出来的回归函数不能 百分之百地再现所研究的经济过程。 （2） 也正是由于这些假定与抽象， 才使我们能够透过复 杂的经济现象，深刻认识到该经济过程的本质。 通常线性回归函数E(y t ) = 0 + 1 x t 是观察不到的，利用样本得到的只是对E(y t ) = 0 + 1 x t 的估计，即对 0 和 1 的估计。 在对回归函数进行估计之前应该对随机误差项u t 做出如下假定。 (1) u t 是一个随机变量，u t 的取值服从概率分布。 (2) E(u t ) = 0。 (3) D(u t ) = E[u t - E(u t ) ]2 = E(u t )2 = 2。称u i 具有同方差性。 。 (4) u t 为正态分布（根据中心极限定理） 以上四个假定可作如下表达。u t N (0, )。 (5) Cov(u i , u j ) = E[(u i - E(u i ) ) ( u j - E(u j ) )] = E(u i , u j ) = 0, (i j )。含义是不同观测值所 对应的随机项相互独立。称为u i 的非自相关性。 (6) x i 是非随机的。 (7) Cov(u i , x i ) = E[(u i - E(u i ) ) (x i - E(x i ) )] = E[u i (x i - E(x i ) ] = E[u i x i - u i E(x i ) ] = E(u i x i ) = 0.
Lim E ( xT ) =
（与期望概念不同）
与期望值序列相对应，也可以写出方差序列。 Var(x T ) = E(x T -E(x T ))2 ={E[x T1 - E(x T1 ) ]2, E[x T2 - E(x T2 ) ]2,…, E[x TN - E(x TN ) ]2} 但在许多情形下， Lim E (x T -E(x T ))2 = 0，即x T 的分布退化为一点。例如，已知 x 的分布是 x
OLS 估计量都能满足上述渐近特性，但满足渐近特性的估计量不见得是最佳线性无偏 估计量。 注意：分清 4 个式子的关系。 (1) 真实的统计模型，y t = 0 + 1 x t + u t
ˆ 满足 ˆ ) = 0， ˆ 具有一致性， ˆ为 的 一致性 若 （1） 渐近无偏性， （2） Lim Var ( 则 T
T
Leabharlann Baidu
一致估计量。
ˆ 满足（1）具有一致性， ˆ 的渐进方 渐近有效性。若 （2）与其他估计量的方差相比，
~ ˆ )< Var( ˆ 差较小，Var( T T )，则称 具有渐近有效性。
图 2.1
真实的回归直线
这种模型可以赋予各种实际意义，收入与支出的关系；如脉搏与血压的关系；商品价格 与供给量的关系；文件容量与保存时间的关系；林区木材采伐量与木材剩余物的关系；身高 与体重的关系等。 以收入与支出的关系为例。假设固定对一个家庭进行观察，随着收入水平的不同，与支 出呈线性函数关系。但实际上数据来自各个家庭，来自各个不同收入水平，使其他条件不变 成为不可能，所以由数据得到的散点图不在一条直线上（不呈函数关系） ，而是散在直线周 围，服从统计关系。随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的 消费指数不同，不同家庭的外来收入不同等因素。所以在经济问题上“控制其他因素不变” 是不可能的。 回归模型的随机误差项中一般包括如下几项内容， （1） 非重要解释变量的省略， （2） 人 的随机行为， （3）数学模型形式欠妥， （4）归并误差（粮食的归并） （5）测量误差等。 回归模型存在两个特点。 （1） 建立在某些假定条件不变前提下抽象出来的回归函数不能 百分之百地再现所研究的经济过程。 （2） 也正是由于这些假定与抽象， 才使我们能够透过复 杂的经济现象，深刻认识到该经济过程的本质。 通常线性回归函数E(y t ) = 0 + 1 x t 是观察不到的，利用样本得到的只是对E(y t ) = 0 + 1 x t 的估计，即对 0 和 1 的估计。 在对回归函数进行估计之前应该对随机误差项u t 做出如下假定。 (1) u t 是一个随机变量，u t 的取值服从概率分布。 (2) E(u t ) = 0。 (3) D(u t ) = E[u t - E(u t ) ]2 = E(u t )2 = 2。称u i 具有同方差性。 。 (4) u t 为正态分布（根据中心极限定理） 以上四个假定可作如下表达。u t N (0, )。 (5) Cov(u i , u j ) = E[(u i - E(u i ) ) ( u j - E(u j ) )] = E(u i , u j ) = 0, (i j )。含义是不同观测值所 对应的随机项相互独立。称为u i 的非自相关性。 (6) x i 是非随机的。 (7) Cov(u i , x i ) = E[(u i - E(u i ) ) (x i - E(x i ) )] = E[u i (x i - E(x i ) ] = E[u i x i - u i E(x i ) ] = E(u i x i ) = 0.
非线性回归模型的线性化 (2)
则原模型化为标准的线性回归模型：
Y i 0 1 Z 1 i 2 Z 2 i ... k Z k i
可编辑ppt
9
（2）双曲函数模型
• 双曲函数模型的一般形式：1
令：
Yi*
1
Yi
, Xi*
1 Xi
Yi
1 Xi
i
则双曲函数模型即可化为标准的线性回归模型：
Yi*Xi*i
可编辑ppt
10
（3）对数函数模型
可编辑ppt
19
1、CES函数的参数估计
• 其中： Aˆ e ˆ 0
ˆ
ˆ 1 ˆ1 ˆ 2
ˆ
2 ˆ 3 ( ˆ1 ˆ1 ˆ 2
ˆ 2 )
mˆ ˆ 1 ˆ 2
可编辑ppt
20
2、倒数模型、多项式模型与变量的直接置换法
描述税收与税率关系的拉弗曲线：抛物线
s = a + b r + c r2
• 令：Y i* ln Y i,0 ln A ,X * ji ln X ji,j 1 ,2 ...k
• 则幂函数模型即可变为标准的线性回归 模型：
Y i* 0 1 X 1 * i 2 X 2 * i ... k X k * i i
可编辑ppt
15
3、不可线性化的非线性回归模型的线性化估计方法
.....
.
Y i 0 1 Z 1 i 2 Z 2 i ... k Z k i
可编辑ppt
9
（2）双曲函数模型
• 双曲函数模型的一般形式：1
令：
Yi*
1
Yi
, Xi*
1 Xi
Yi
1 Xi
i
则双曲函数模型即可化为标准的线性回归模型：
Yi*Xi*i
可编辑ppt
10
（3）对数函数模型
可编辑ppt
19
1、CES函数的参数估计
• 其中： Aˆ e ˆ 0
ˆ
ˆ 1 ˆ1 ˆ 2
ˆ
2 ˆ 3 ( ˆ1 ˆ1 ˆ 2
ˆ 2 )
mˆ ˆ 1 ˆ 2
可编辑ppt
20
2、倒数模型、多项式模型与变量的直接置换法
描述税收与税率关系的拉弗曲线：抛物线
s = a + b r + c r2
• 令：Y i* ln Y i,0 ln A ,X * ji ln X ji,j 1 ,2 ...k
• 则幂函数模型即可变为标准的线性回归 模型：
Y i* 0 1 X 1 * i 2 X 2 * i ... k X k * i i
可编辑ppt
15
3、不可线性化的非线性回归模型的线性化估计方法
.....
.
可以化为线性的多元非线性回归模型
R2=0.9894
结果表示对外劳务输出每年以0.743%的速 度增长。
如果设定的非线性模型为
Yi 1 2 ln X i vi
斜率系数2 衡量的是当变量X变动1%时，Y的 均值变动的绝对量。
令
Zi ln X i
即可将原模型化为标准的线性回归模型
印度农户食物支出与总支出的关系 回归结果：
（二）半对数模型
如果设定的非线性模型为 ln Yi 1 2 X i ui
2
E(ln
Yi ) Xi
E(ln X i1
Yi 1 )
Y的均值的相对变化 X的绝对变化
斜率系数 2 衡量的是当变量X的绝对量每发生单位变动
时，引起被解释变量Y平均值的相对变动比率。
令
Yi* ln Yi
斜率系数衡量的是被解释变量Y关于解释变量X的弹 性， 表示当L不变时，K每变动百分之一，Y的均值 变动的百分比； 表示当K不变时，L每变动百分之 一，Y的均值变动的百分比。
（四）多项式函数模型
多项式函数模型的一般形式为：
Yi 0 1Xi 2 Xi2 k Xik ui
2i
ln
X
2i
,
X
ki
ln
X ki
即可将原模型化为标准的线性回归模型
Yi
结果表示对外劳务输出每年以0.743%的速 度增长。
如果设定的非线性模型为
Yi 1 2 ln X i vi
斜率系数2 衡量的是当变量X变动1%时，Y的 均值变动的绝对量。
令
Zi ln X i
即可将原模型化为标准的线性回归模型
印度农户食物支出与总支出的关系 回归结果：
（二）半对数模型
如果设定的非线性模型为 ln Yi 1 2 X i ui
2
E(ln
Yi ) Xi
E(ln X i1
Yi 1 )
Y的均值的相对变化 X的绝对变化
斜率系数 2 衡量的是当变量X的绝对量每发生单位变动
时，引起被解释变量Y平均值的相对变动比率。
令
Yi* ln Yi
斜率系数衡量的是被解释变量Y关于解释变量X的弹 性， 表示当L不变时，K每变动百分之一，Y的均值 变动的百分比； 表示当K不变时，L每变动百分之 一，Y的均值变动的百分比。
（四）多项式函数模型
多项式函数模型的一般形式为：
Yi 0 1Xi 2 Xi2 k Xik ui
2i
ln
X
2i
,
X
ki
ln
X ki
即可将原模型化为标准的线性回归模型
Yi
第四章非线性模型的线性化
Mean dependent var S.D. dependent var Akaike info criterion Schwarz criterion F-statistic Prob(F-statistic)
4.066667 1.271601 2.487823 2.56864 19.35654 0.001336
Sample: 1 20
Included observations: 20 Variable C Z R-squared Adjusted R-squared S.E. of regression Sum squared resid Log likelihood Durbin-Watson stat Coefficient 6.157683 -17.61230 0.943678 0.940549 0.475639 4.072183 -12.46324 1.689790 Std. Error 0.174713 1.014160 Mean dependent var S.D. dependent var Akaike info criterion Schwarz criterion F-statistic Prob(F-statistic) t-Statistic 35.24446 -17.36638 Prob. 0.0000 0.0000 3.750500 1.950734 1.446324 1.545897 301.5913 0.000000
计量经济学第四章非线性回归模型的线性化
第四章 非线性回归模型的线性化
以上介绍了线性回归模型。但有时候变量之间的关系是非线性的。例如 y t = α 0 + α11βt x + u t y t = α 0 t x e 1α+ u t
上述非线性回归模型是无法用最小二乘法估计参数的。可采用非线性方法进行估计。估计过程非常复杂和困难，在20世纪40年代之前几乎不可能实现。计算机的出现大大方便了非线性回归模型的估计。专用软件使这种计算变得非常容易。但本章不是介绍这类模型的估计。
另外还有一类非线性回归模型。其形式是非线性的，但可以通过适当的变换，转化为线性模型，然后利用线性回归模型的估计与检验方法进行处理。称此类模型为可线性化的非线性模型。下面介绍几种典型的可以线性化的非线性模型。
4.1 可线性化的模型
⑴ 指数函数模型
y t = t t u
bx ae + (4.1)
b >0 和b <0两种情形的图形分别见图4.1和4.2。显然x t 和y t 的关系是非线性的。对上式等号两侧同取自然对数，得
Lny t = Lna + b x t + u t (4.2)
令Lny t = y t *, Lna = a *, 则
y t * = a * + bx t + u t (4.3) 变量y t * 和x t 已变换成为线性关系。其中u t 表示随机误差项。
010
20
30
40
50
1
2
3
4
X
Y 1
图4.1 y t =t
t u bx ae
+, (b > 0) 图4.2 y t =t
t u bx ae
+, (b < 0)
⑵ 对数函数模型
非线性模型的线性化方法
为线性模型。只要 ut 满足第 5 章给出的假定条件，用 OLS 法估计式（7-7） ，再 返回到原模型（7-5） 。根据新古典增长理论， 若回归参数 1 + 2 = + = 1，则称该模型为规模报酬不变型。 若回归参数1 + 2 = + > 1，则称模型为规模报酬递增型。 若回归参数1 + 2 = + < 1，则称模型为规模报酬递减型。
.8 Y .7 .6 .5 .4 .3 .2 .1 X .0 25 50 75 100 125 150 175 200
xt 和 yt 的关系是非线性的。令 yt* = 1/yt, xt* = 1/xt，由式（7-26）得 yt* = a + b xt* + ut 已变换为线性回归模型。其中 a, b 为待估参数，ut 表示随机误差项。只要 ut 满足第 5 章给出的假定条件，那么，就可以对上式采用 OLS 法估计回归参数。式（7-26）也 称作双倒数模型。
LnTAXt
= 7.7166 + 0.1589 t
(7-14)
(393.1) (82.9) R2 = 0.998, T=17, (19902006) 因为解释变量是时间 t，所以回归系数 0.1589 近似测量的是中国税收的年增长 率，即 19902006 年中国税收的年平均增长率近似是 15.89%。
04-非线性回归模型的线性化
此方程组没有解析解。如要估计参数可用前面 讲的迭代法。
2016/3/29 23
非线性最小二乘估计量的性质
1．一致性 2．渐近正态性 3．渐近有效性
2016/3/29
24
2016/3/29 13
参数的非线性是一个严重得多的问题，因为它不 能仅凭重定义来处理。可是，如果模型的右端由一 系列的Xβ 或eβ X项相乘，并且扰动项也是乘积形式 的，则该模型可通过两边取对数线性化。
例如，需求函数 Y X P v 其中，Y=对某商品的需求 X=收入 P=相对价格指数 ν =扰动项 可转换为： log Y log log X log P log v
这里，变量非线性和参数非线性并存。
对此方程采用对数变换
logM=loga+blog(r-2) 令Y=logM, X=log(r-2), β 1= loga, β 2=b
则变换后的模型为：
2016/3/29
Yt=β 1+β 2Xt + ut
15
将OLS 法应用于此模型，可求得β 1 和β 2的估计 ˆ , ˆ ，从而可通过下列两式求出a和b估计值： 值 1 2
2016/3/29 8
容易推广到模型中存在多个解释变量的情形。例如，柯 布——道格拉斯生产函数形式。
2016/3/29 9
2016/3/29
非线性回归模型的线性化讲解
Y 0 1 f1 ( X1 , X 2 ,, X k ) 2 f 2 ( X1, X 2 ,, X k )
p f p ( X1, X 2 ,, X k ) ＋u
令
则可以把原模型转化为一个标准的多元线性回归模型
Z1 f1 ( X1 , X 2 ,, X k ) Z2 f 2 ( X1 , X 2 ,, X k )
yt = a + b/xt + ut 令xt* = 1/xt，得 yt = a + b xt* + ut 上式已变换
成线性回归模型。
12
（2） 双曲函数模型
yt = a + b/xt + ut
1/yt = a + b/xt + ut
（3） 对数函数模型
对数函数模型的一般形式为：Yi
令
ln X i ui
首先对上式做倒数变换得：
1 e X i ui Yi
令
1 Yi , X i* e X i Yi
*
பைடு நூலகம்
则可将原模型化为标准的线性回归模型
Yi* X i* ui
15
2 可线性化的非线性回归模型的线性化方法
下面几种在研究经济问题时经常遇到的可线性化的非线性 回归模型 （1）指数函数模型
则可将原模型化为标准的线性回归模型：
p f p ( X1, X 2 ,, X k ) ＋u
令
则可以把原模型转化为一个标准的多元线性回归模型
Z1 f1 ( X1 , X 2 ,, X k ) Z2 f 2 ( X1 , X 2 ,, X k )
yt = a + b/xt + ut 令xt* = 1/xt，得 yt = a + b xt* + ut 上式已变换
成线性回归模型。
12
（2） 双曲函数模型
yt = a + b/xt + ut
1/yt = a + b/xt + ut
（3） 对数函数模型
对数函数模型的一般形式为：Yi
令
ln X i ui
首先对上式做倒数变换得：
1 e X i ui Yi
令
1 Yi , X i* e X i Yi
*
பைடு நூலகம்
则可将原模型化为标准的线性回归模型
Yi* X i* ui
15
2 可线性化的非线性回归模型的线性化方法
下面几种在研究经济问题时经常遇到的可线性化的非线性 回归模型 （1）指数函数模型
则可将原模型化为标准的线性回归模型：
非线性回归模型的线性化
非线性回归模型的线性化
以上介绍了线性回归模型。但有时候变量之间的关系是非线性的。例如 y t = α 0 + α11βt x + u t y t = α 0 t x e 1α+ u t
上述非线性回归模型是无法用最小二乘法估计参数的。可采用非线性方法进行估计。估计过程非常复杂和困难，在20世纪40年代之前几乎不可能实现。计算机的出现大大方便了非线性回归模型的估计。专用软件使这种计算变得非常容易。但本章不是介绍这类模型的估计。
另外还有一类非线性回归模型。其形式是非线性的，但可以通过适当的变换，转化为线性模型，然后利用线性回归模型的估计与检验方法进行处理。称此类模型为可线性化的非线性模型。下面介绍几种典型的可以做线性化处理的非线性模型。
⑴ 指数函数模型
y t = t t u bx ae + (4.1) b >0 和b <0两种情形的图形分别见图4.1和4.2。显然x t 和y t 的关系是非线性的。对上式等号两侧同取自然对数，得
Lny t = Lna + b x t + u t (4.2)
令Lny t = y t *, Lna = a *, 则
y t * = a * + bx t + u t (4.3) 变量y t * 和x t 已变换成为线性关系。其中u t 表示随机误差项。
010
20
30
40
50
1
2
3
4
X
Y 1
图4.1 y t =t
t u bx ae
+, (b > 0) 图4.2 y t =t
t u bx ae
+, (b < 0)
⑵ 对数函数模型
y t = a + b Ln x t + u t (4.4)
非线性回归的线性化处理
又可化为（10.1）式.
Q( y) a bx , N (0 , 2 )
其中Q为已知函数，且设Q(y)存在单值的反函数，a ， b ， σ2 为 与x无关的未知参数，只要令z=Q(y)得
z a bx , N (0 , 2 )
在求得z的回归方程和预测区间后，再按z=Q(y)的逆变换，变回原 变量y. 我们就分别称它们为关于y的回归方程和预测区间. 此时y的回 归方程的图形是曲线，故又称为曲线回归方程.
x
记
y ' ln y , x ' 1
x
求出x ′ y′的值，表10-7所示.
作（x ′ , y′)的散点图，如图10-9所示.
可见各点基本上在一直线上,故可设
y ' a bx ' , (0 , 2 )
经计算，得
x ' 0.1464 , y ' 2.2963
n
(x 'i )2 0.5902 ,
检验结论表明，此线性回归方程的效果是显著的.
概率学与数理统计
i 1
n
( y 'i )2 89.9311 ,
i 1
n
x 'i y 'i 5.4627 ,
i 1
bˆ 1.1183 , aˆ 2.4600
于是x ′对于y′的线性回归方程为 y ' 1.1183x ' 2.4600
第7章+7.1非线性回归模型的线性化
12
• (2)幂函数模型
Yi AX11 X 2i2 X kik eui i
• 两边取对数，得 • lnYi=lnA+β1lnX1i+β2lnX2i+…+βklnXki+ui • 令Yi*=lnYi,β0=lnA, • X1i*=lnX1i,X2i*=lnX2i,…,Xki*=lnXki • 则可将原模型化为标准的线性回归模型 • Yi*=β0+β1X1i*+β2X2i*+…+βkXki*+ui • 即可利用多元线性回归分析方法进行处理。
• 1、非标准性回归模型的线性化方法 • 变量替换法 • Y=β0+β1f1(X1,X2,…,Xk)+β2f2(X1,X2,…,Xk)+…+ βpfp(X1,X2,…,Xk)+u • 即令 Z1=f1(X1,X2,…,Xk),Z2=f2(X1,X2,…,Xk),…,Zp=fp(X1 ,X2,…,Xk) • 可得Y=β0+β1Z1+β2Z2+…+βpZp+u • 其中Z1,Z2,…,Zp是新的解释变量。
5
• 三、被解释变量Y与解释变量X1,X2,…,Xk和未知参 数β0,β1,β2,…,βp之间都不存在线性关系，而 且也不能通过适当的变换将其化为标准的线性回 归模型。称之为不可线性化的非线性回归模型。 • 例如： Y 0 1e1X1 2e2 X 2 u
第4章非线性回归模型的
p
f f f Z1 , Z2 ,Zp p 0 1 0 2 0
ຫໍສະໝຸດ Baidu
• 得到
（#）
Y 1Z1 2 Z2 p Z p
• 第二步，对标准线性回归模型#式应用普 通最小二乘法估计未知参数。得到一组 新的最小二乘估计量 1,1, 2,1, p,1
1, 0 2, 0 p,0
f Y f ( X 1 , X 2 , X k ; 1, 0 , 2, 0 , p , 0 ) ( i i,0 ) i 1 i 0
p
1 p p 2 f ( i i , 0 )( j j , 0 ) 2 i 1 j 1 i j
• 例题，写出利用迭代线性化法估计下面 的非线性消费函数模型的具体步骤
C 0 1Y
2
4.3 案例分析
0 1 1 1 2 k 2 2 1 2 k p p 1 2 k
1 1
2 2
4.2 线性化方法
1 非标准线性回归模型的线性化方法-变量替换法 （1）多项式函数模型
Yi 0 1 X i 2 X i 2 k X ik i
（2）双曲线函数模型
1 1 i YI Xi
直接优化法（Direct Optimization Method） • 这种方法是根据残差平方和极小化的必 要条件，对每个参数求偏导数，并令它 们等于零，然后求解参数。 • 由于求偏导数的方程组是非线性方程组， 计算上困难很大，所以这种方法很少被 人采用。
f f f Z1 , Z2 ,Zp p 0 1 0 2 0
ຫໍສະໝຸດ Baidu
• 得到
（#）
Y 1Z1 2 Z2 p Z p
• 第二步，对标准线性回归模型#式应用普 通最小二乘法估计未知参数。得到一组 新的最小二乘估计量 1,1, 2,1, p,1
1, 0 2, 0 p,0
f Y f ( X 1 , X 2 , X k ; 1, 0 , 2, 0 , p , 0 ) ( i i,0 ) i 1 i 0
p
1 p p 2 f ( i i , 0 )( j j , 0 ) 2 i 1 j 1 i j
• 例题，写出利用迭代线性化法估计下面 的非线性消费函数模型的具体步骤
C 0 1Y
2
4.3 案例分析
0 1 1 1 2 k 2 2 1 2 k p p 1 2 k
1 1
2 2
4.2 线性化方法
1 非标准线性回归模型的线性化方法-变量替换法 （1）多项式函数模型
Yi 0 1 X i 2 X i 2 k X ik i
（2）双曲线函数模型
1 1 i YI Xi
直接优化法（Direct Optimization Method） • 这种方法是根据残差平方和极小化的必 要条件，对每个参数求偏导数，并令它 们等于零，然后求解参数。 • 由于求偏导数的方程组是非线性方程组， 计算上困难很大，所以这种方法很少被 人采用。
计量经济学非线性回归模型的线性化
1 e X i u i Yi
（4）S-型曲线模型
1 Yi 取倒数 e X i u i
令
1 * Yi , X i e X i 则 Yi
*
Yi * X i* ui
第二节 线性化方法
2. 可线性化的非线性回归模型的线性化方法
（1）指数函数模型
第三节 案例分析
例4.4 两要素不变替代弹性(CES)生产函数的参数估计
解：
Y A[L (1 ) L1 ]
m
CES生产函数是一个关于四参数 A、 、 、m 的非线性函数， 而且无法通过简单的变换实现线性化。教材介绍了一种由 Kementa于1967年提出的线性化估计方法。首先，对函数两边 取对数，得：
（2）双曲函数模型
1 1 ui Yi Xi
令
1 Yi , Yi
*
1 Xi Xi
*
则，化为标准的线性回归模型
Yi X ui
* * i
第二节 线性化方法
（3）对数函数模型
Yi ln X i ui
令
X i* ln X i 则
Yi X i* ui
Y * C Y ln Y , X 1 Y , X 2 Y ln Y
Y * 0 1 X 1 2 X 2 u
（4）S-型曲线模型
1 Yi 取倒数 e X i u i
令
1 * Yi , X i e X i 则 Yi
*
Yi * X i* ui
第二节 线性化方法
2. 可线性化的非线性回归模型的线性化方法
（1）指数函数模型
第三节 案例分析
例4.4 两要素不变替代弹性(CES)生产函数的参数估计
解：
Y A[L (1 ) L1 ]
m
CES生产函数是一个关于四参数 A、 、 、m 的非线性函数， 而且无法通过简单的变换实现线性化。教材介绍了一种由 Kementa于1967年提出的线性化估计方法。首先，对函数两边 取对数，得：
（2）双曲函数模型
1 1 ui Yi Xi
令
1 Yi , Yi
*
1 Xi Xi
*
则，化为标准的线性回归模型
Yi X ui
* * i
第二节 线性化方法
（3）对数函数模型
Yi ln X i ui
令
X i* ln X i 则
Yi X i* ui
Y * C Y ln Y , X 1 Y , X 2 Y ln Y
Y * 0 1 X 1 2 X 2 u
4非线性回归模型的线性
e
X
i
ui
线性化方法如下：首先对上式做倒数变换：
1 Yi
e
1 Yi
X
i
ui
X
令：
Yi
*
,
X
* i
e
i
则得线性模型：
Yi X i u i
* *
5、幂函数模型
Y t aX
b i
e
ui
wenku.baidu.com
当b取不同的值时图形如图，Xi与Yi的关系是非线性的。
并且不能通过适当的变换将其变为线性模型，这类模型称 为不可线性化的非线性回归模型。 例如：
Y 0 1e
1 x1
2e
2 x2
u
Y AK
L u
第二节 线性化方法
变量非线性模型的线性化方法——变量替换法
（1）多项式函数模型…… （2）双曲线函数模型…… （3）对数函数模型…… （4）S－型曲线模型
i
ui
当b>0和b<0时的图形如图，Xt与Yt的关系是非线性的。
Y i a bLnX
i
ui
(b 0)
Y i a bLnX
i
ui
(b 0)
令LnXi = Xi*,则
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
以1为例
1
yt xt1
线性模型中的回归系数（边际系数）是对数线性回归模型中弹性
系数的一个分量。
应用柯布-道格拉斯生产函数模型评价台湾省农业生产 效率。利用台湾省1958-1972年农业生产总值yt、劳动力 投入xt1、资本投入xt2的数据估计模型如下：
Yˆt
0.035X
1.5 t1
X
0.49 t2
非线性回归模型的线性化
有时候变量之间的关系是非线性的。虽然其形式 是非线性的，但可以通过适当的变换，转化为线性模 型，然后利用线性回归模型的估计与检验方法进行处 理。称此类模型为可线性化的非线性模型。
对于那些不可线性化的非线性回归模型，例如
Yt 0 1 Xt 1 ut Yt 0e1Xt ut
是无法用最小二乘法估计参数的。可采用非线性方 法进行估计。
(1) 幂函数模型(全对数模型)
(b > 1)
(b = -1) (b < -1)
(0<b <1)
(0 > b > -1)
yt axtbeut
b取不同值的图形分别见上图。对上式等号两侧同取对数，得
Lnyt = Lna + b Lnxt + ut 令yt* = Lnyt, a* = Lna, xt* = Lnxt, 则上式表示为
(b3>0)
(b3<0)
(5)多项式方程模型(2)
(b2>0)
(b2 <0)
另一种多项式方程的表达形式是
yt = b0 + b1 xt + b2 xt2 + ut 令xt 1 = xt，x t 2 = xt 2，上式线性化为，
yt = b0 + b1 xt1 + b2 xt2 + ut 如经济学中的边际成本曲线、平均成本曲线与左图相似。
因为1.5 0.49 1.99,所以,
此生产函数属规模报酬
递增函数。当劳动力和
资本投入都增加1%时，
产出增加近2%。
(2) 指数函数模型(半对数模型)
60 50 40 30 20 10
0 -10
50 100 150 200 250 300 350 400
1.2 1.0 0.8 0.6 0.4 0.2 0.0 -0.2 -0.4
(4) 双曲线函数模型
1/yt = a + b/xt + ut b>0
yt = a + b/xt + ut b>0
1/yt = a + b/xt + ut 令yt* = 1/yt , xt* = 1/xt，得 yt* = a + b xt* + ut 已变换为线性回归模型。双曲线函数还有另一种表达方式，
半对数模型的弹性系数和边际系数都不是常数。
yt aebxt ut Lnyt = Lna + b xt + ut
b d ln yt dyt yt
dxt
dxt
弹性系数是 bxt
边际系数是 byt
半对数模型的一个重要应用是估计经济变量的增长率。
把 Lnyt = Lna + b xt + ut 中的换成时间变量t 。
因为解释变量是时间t，所以回归系数0.1589近似测量 的是中国税收的年增长率，即1990-2006年中国税收 的年平均增长率近似是15.89%。
(3) 对数函数模型
5 4 3 2 1 0
50 100 150 200 250 300 350 400
yt = a + b Lnxt + ut , (b > 0)
28个省市自治区19852005年城镇居民人均食品支出（food）与 人均收入（income）的关系
用数据估计模型，得回归结果如下：
ln yˆt 5.8117 6.2072ln(ln xt ) (61.7) (137.3)
R2 0.97 , T 588
由上式，导函数是
6.2072 d ln yt dyt yt
yt = a + b/xt + ut 令xt* = 1/xt，得yt = a + b xt* + ut 上式已变换成线性回归模型。
双曲线函数模型的弹性系数和边际系数都不是常数。 yt = a + b/xt + ut b dyt dxt xt2
b dyt xt yt yt
dxt xt
,
b dyt xt2 dxt
yt ke be at
线性化过程如下：当k给定时，
yt e be at k
k ebe at yt
ln
k yt
be
at
ln ln
k yt
ln
b
at
令y
ln ln
k yt
, b
ln
b
y b at
上式可用最小二乘法估计b* 和 a。
案例:硫酸透明度与铁杂质含量的关系
某硫酸厂生产的硫酸的透明度一直达不到优质指标。 经分析透明度低与硫酸中金属杂质的含量太高有关。 影响透明度的主要金属杂质是铁、钙、铅、镁等。 通过正交试验的方法发现铁是影响硫酸透明度的最 主要原因。测量了47个样本，得硫酸透明度（y）与 铁杂质含量（x）的散点图如下：
边际系数是 b yt dyt
xt dxt
Cobb-Douglas生产函数（二元幂函数）
根据新古典增长理论：
1 2 1 1 2 1 1 2 1
，称模型为规模报酬不变型； ，称模型为规模报酬递增型； ，称模型为规模报酬递减型。
所以便于在不同变量之间比较相应弹性系数的大小。
对于线性模型，yt 0 1xt1 2 xt2 ut ，1和 2称作边际系数。
d ln(ln xt )
1 ln xt
1 xt
dxt
6.2072 dyt yt ln xt dxt xt
6.2072 dyt yt ln xt dxt xt
弹性函数 6.2072 ln xt 。说明人均食品支出对人均收入 的弹性系数是随着城镇人均收入的增加而减少的。 当城镇人均收入1000元水平时，人均收入增加1%， 人均食品支出增加0.8986%；当城镇人均收入16000 元水平时，人均食品支出对人均收入的弹性系数下降 到0.6412%。城镇人均食品支出对人均收入的弹性系数 随着人均收入的提高而递减。
yˆ t
101 1 0.0134e0.76536.5
34.3
(00)
钉螺存活率样本值与拟合值。
100 Y YF
80
60
40
20
T
0
2
4
6
8
10
12
⑺ 龚伯斯（Gompertz）曲线
英国统计学家和数学家最 初提出把该曲线作为控制 人口增长的一种数学模型， 此模型可用来描述一项新 技术，一种新产品的发展 过程。
T 15
(5)多项式函数模型(1)
一种多项式方程的表达形式是
yt = b0 +b1 xt + b2 xt2 + b3 xt3 + ut 令xt 1 = xt，xt 2 = xt2，xt 3 = xt3，上式变为
yt = b0 +b1 xt 1 + b2 xt 2 + b3 xt 3 + ut 这是一个三元线性回归模型。如经济学中的总成本与产 品产量曲线与左图相似。
弹性系数是 b xt yt
b 边际系数是 xt2
炼钢厂钢包容积Y与钢包使用次数X的关系
双曲线线性化
yˆ i
11.4687
9.8291
1 xi
(125.8) (-21.3) R2 0.9721 T 15
对数线性化
双倒数线性化
1
yˆ i
1 0.0817 0.1332
xi
(46.2) (14.9) R2 0.9446
yt ke be at
yt ke be at
曲线的上限和下限分别为k和0 。
当a 0, Limyt k, 当a 0,b 0 , Limyt 0
t
t
曲线有拐点，坐标为 Lnb , k
a e
, 但曲线不对称于拐点。
一般情形，上限值k可事先估计，有了k值，龚伯斯曲线才 可以用最小二乘法估计参数。
厦门市贷款总额loan与GDP的关系分析(单位:亿元)
从散点图看，用多项式方程拟合比较合理。
Loant = 0 +1 GDPt + 2 GDPt 2 + 3 GDPt3 + ut
(6) 生长曲线 (logistic) 模型
a>0
a<0
一般f(t) = a0 + a1 t + a2 t 2 + … + an t n，常见形式为f(t) = a0 - a t
7 6 5 4 3 2 1
50 100 150 200 250 300 350 400
yt = a + b Lnxt + ut , (b < 0)
令xt* = Lnxt, 则 yt = a + b xt* + ut
变量yt 和xt* 已变换成为线性关系。
对数函数模型的弹性系数和边际系数都不是常数。
yt = a + b Lnxt + ut
b
dyt d ln xt
dyt
dxt xt
b dyt dxt , b dyt
yt yt xt
xt dxt
弹性系数是 b yt
b 边际系数是 xt
28个省市自治区19852005年城镇居民人均食品支 出（food）与人均收入（income）的关系
5000 4000
Lnyt = Lna + b t + ut
b d ln yt dyt yt yt1 yt
dt
dt
yt
回归系数 b 是近似等于单位时间内的增长率。
Lnyt = Lna + b t + ut称为增长模型。
中国税收增长的定量分析 1990-2006年中国税收（Tax，亿元）数据见中国税收 增长的定量分析.wf1
k 1 beatut yt
k 1 beatut yt
ln
k yt
1
ln b at
ut
令yt
ln
k yt
1
,
b
ln b
yt b at ut
此时可用最小二乘法估计b*和a。
钉螺存活率曲线 （生长曲线模型）
把一批钉螺埋入土中，以后每隔一个月取出部分钉螺，检 测存活个数，计算存活率。数据见表。
以a 0为例, Limyt k,
t
Limyt 0
t
曲线有拐点，曲线的上下两部分对称于拐点
ln b , k a 2
。
为能运用最小二乘法估计参数a, b，必须事先估计出生长曲 线上极限值k（根据所研究的问题，k值是可以事先给定的）。 线性化过程如下。当k给出时，作如下变换，
k yt 1 beatut
yt存活率(%)
100.0 93.0 92.3 88.0 84. 82.0 48.4 41.0 15.0 5.2 3.5 1.3 0.5
t土埋月数
0 1 2 3 4 5 6 7 8 9百度文库10 11 12
100
Y 80
60
40
20
T
0
0
2
4
6
8
10
12
设定yt的上渐近极限值k =101（因 为已有观测值yt =100，所以令k =101更好些。），得估计结果如下：
50 100 150 200 250 300 350 400
yt aebxt ut , (b 0)
yt aebxt ut , (b 0)
上式等号两侧同取自然对数，得
Lnyt = Lna + b xt + ut 令Lnyt = yt*, Lna = a*, 则
yt* = a* + b xt + ut 变量yt* 和xt已变换成为线性关系。其中ut表示随机误差项。
估计式是：
ln
(101 1) =
-4.3108
+
0.7653 t
yt
( -14.8) (1 8.5)
R2 = 0.97
则逻辑函数的估计结果是
yˆt
101 1 e4.310.7653t
yˆ t
101 1 e 4.310.7653t
101 1 0.0134e0.7653t
点预测：当t =6.5月时，
yt
1
k e f (t
)ut
1
k ea0 at ut
yt
1
k e a 0 at
ut
1
k beat
ut
b ea0
美国人口统计学家Pearl和Reed广泛研究了有机体的生长，得到 了上述数学模型。生长模型（或逻辑斯谛曲线，Pearl-Reed曲线） 常用于描述有机体生长发育过程。其中k和0分别为yt的上限和 下限。
FOOD
3000
2000
1000
0 0
4000
8000
12000
INCOME 16000 20000
9.0 LOG(FOOD)
8.5
8.0
7.5
7.0
6.5
6.0 LOG(LOG(INCOME))
5.5 1.80 1.85 1.90 1.95 2.00 2.05 2.10 2.15 2.20 2.25 2.30
yt* = a* + b xt* + ut 变量yt* 和xt* 之间已成线性关系。幂函数模型也称作全对数模型。
全对数模型的特点是模型弹性系数b为常数。
yt axt eb ut
Lnyt = Lna + b Lnxt + ut
b d ln yt dyt yt d ln xt dxt xt
回归系数b是被解释变量 yt 与解释变量 xt 的变 化率的比，所以称b为弹性系数。b用来测量当 xt 变化1%时，yt 变化百分之多少。