古扎拉蒂《计量经济学基础》复习笔记和课后习题详解(非线性回归模型)【圣才出品】

第14章 非线性回归模型

14.1 复习笔记

考点一：本质线性和本质非线性回归模型 ★★

1．本质非线性回归模型

回归模型的线性与非线性之分是针对于参数来说的，只要模型线性于参数就是线性回归模型，否则就是非线性回归模型。如果经过变换，模型也不能线性于参数，则称该模型是本质非线性回归模型（NLRM ）。

2．本质非线性回归模型的经典例子 （1）柯布-道格拉斯生产函数 形式为：

32123i

u i i i Y X X e βββ=

可证明该方程变换后也无法线性于参数，属于本质非线性回归模型。 （2）CES 生产函数

CES 生产函数的形式为：Y i ＝A[δK i －β＋（1－δ）L i －β]－1/β，也属于本质非线性回归模型。柯布-道格拉斯生产函数是它的的特例。

考点二：线性和非线性回归模型的估计 ★★★

为了说明估计线性和非线性回归模型的区别，以两个模型为例来说明。模型1：Y i ＝β1

＋β2X i ＋u i ，模型2：Y i ＝β1exp （β2X i ）＋u i 。

模型1的RSS 为：∑u ∧

i 2＝∑（Y i －β∧

1－β∧

2X i ）2，根据之前对线性回归模型的估计，可知通过正规方程的求解可以得到未知量的显式解。

模型2的RSS 对应的正规方程为：

22ˆˆ21i

i

X X i

Y e

e

βββ=∑

22ˆˆ21

ˆi

i

X X i

i

i

Y X e

X e

βββ

=∑∑

可见上述正规方程的左侧和右侧都有未知量（β）。尽管能用OLS 来估计参数，但是不能得到未知量的显式解。OLS 应用于非线性回归模型被称为非线性最小二乘法（NLLS ）。

考点三：估计非线性回归模型的方法（见表14-1） ★★

表14-1 估计非线性回归模型的方法

14.2 课后习题详解

1．本质线性和本质非线性回归模型的含义是什么？举几个例子。

答：（1）如果一个回归模型粗略一看是非线性于参数的，但经过适当变换即可转化成线性于参数的模型，那么，这个模型基本上或本质上就是一个线性（于参数的）回归模型。但如果没有办法把这样的模型转化成一个线性于参数的模型，那它本质上就是一个非线性回归模型。

（2）本质线性的例子为：

32123i u i i i Y X X e βββ=

本质非线性的例子为：

3

2123i i i i Y X X u βββ=+

2．柯布-道格拉斯生产函数中的误差项可以乘积（multiplicatively ）或者相加

（additively ）的形式进入，那么你认为在这两者之间该如何选择呢？

答：如果误差项以相加的形式进入方程，那么柯布-道格拉斯模型就成为一个本质上非线性的模型。如果误差项以乘积的形式进入方程，那么模型就线性于斜率参数（但非截距参数）。

该模型中误差项的性质取决于误差项是以方程32

123i u i i i Y X X e βββ=还是方程

32123i i i i Y X X u βββ=的乘积形式进入方程的。这种差别对估计和推断具有不同的含义。

为了判别在给定情形下误差项采用和的形式与采用积的形式哪个更适当，可以使用一种类似J 检验的方法在两种形式之间加以选择。

此外，如果分别用加式误差项和积式误差项估计柯布-道格拉斯生产函数模型，便可以考察两种设定下的估计残差，以了解误差项是否正态分布或是否序列相关等。

3．OLS 和非线性最小二乘估计之间的区别是什么？

答：在OLS 估计中可以得到未知参数的显式解或分析解。在NLLS 中，不能得到这种显式解，而且必须通过迭代程序才能得到估计值。以下面两个模型进行具体分析：

模型1：Y i ＝β1＋β2X i ＋u i （线性）。 模型2：21i X i

i Y e u ββ=+（非线性）。

在OLS 中，将最小化残差平方和（RSS ），模型1的残差平方和为：∑u ∧

i 2＝∑（Y i －β∧

1

－β∧

2X i ）2。

模型2的RSS 对应的正规方程如下所示：

22ˆ21i

i

X X i

Y e

e

βββ=∑ 22ˆ21

ˆi

i

X X i

i

i

Y X e

X e

βββ

=∑∑

与线性回归模型情形中的正规方程不同，非线性回归模型的正规方程的左侧和右侧都有未知量（β）。因此，尽管能用最小二乘法来估计非线性回归模型的参数，但仍然不能得到未知量的显式解。

4．饱和蒸汽中压强和温度之间的关系可以表示为：

()

()

2/110t t t Y u βγβ+=+

其中，Y ＝压强，t ＝温度。运用非线性最小二乘法求出这个模型的正规方程。 答：方程可以写成：

2110

t

t

i u Y βγβ+=-

因此，残差平方和为：

()

()

()

22

/21

10t t i

u Y βγβ+=-∑∑

此表达式中有β1，β2，γ三个未知数。求正规方程时，首先将上述方程对每个未知数求导，令每个导数为0并联立求解即可得到。由此得到的导数表达式是高度非线性的，并且无法得到显式解。

残差平方和最小化的一阶条件为：

22211

210100t

t

i t

t i u Y ββγγββ++⎡⎤⎛

⎫⎛

⎫∂=--=⎢⎥ ⎪⎪ ⎪⎪∂⎢⎥⎝

⎭⎝

⎭⎣⎦

∑∑ 222112

210100t

t

i t

t i u t Y t ββγγβββγ++⎡⎤

⎛

⎫⎛

⎫∂⎛⎫=--=⎢⎥ ⎪⎪ ⎪ ⎪⎪∂+⎢⎥⎝⎭⎝

⎭⎝

⎭⎣⎦

∑∑