古扎拉蒂《计量经济学基础》第14章

,
* 2
)(
2
* 2
)
于是有:
f1 e2xi
f2
x e2xi 1i
Yi
e* 1*Xi 1
e2Xi
(1
1*)
1 X ie2Xi (2
2* )
选取初始值：
1* 0.45
2* 0.01
代入上式得： Yi 0.45e0.01Xi e0.01(1 0.45) 0.45Xie0.01Xi (2 0.01)（1）
图14-1 顾问费和基金资产的关系
根据图14-1，假定
1 =0.45
2 =0.01
则可以把（14.3）写成
ui
Yi
e2xi 1
Yi
0.45e0.01xi
（14.6）
因此，
uˆi2 Yi 0.45e0.01xi
(14.7)
一个说明 根据给定的数值，得到 :
uˆi2 0.3044
Yi X ieˆ2Xi
ˆ
1
X e2ˆ2 Xi i
(14.5)
应用于一个非线性回归模型的OLS方法被称 为非线性最小二乘法（NLLS）。 然而，由上述正规方程不能得出未知量的 显示解。 因为方程的左侧和右侧都有未知量。
三、估计非线性回归模型：试错法
为了做好准备，来考虑一个具体例子。 表14-1 支付的顾问费和资产规模
其他表示
（1）式亦可写作：
Yi
0.45e0.01Xi
e0.01Xi i
0.45X ie0.01Xi2 （2）
其中：
1 1 0.45
2 2 0.01
（3）
令
Y* i
Yi
0 .4 5e 0.01 X i
X 1i e 0.01 X i
X 2i 0 .4 5e 0.01 X i
于是可将（2）写作：
四、估计非线性回归模型的方法 1．直接搜索或试错法或不用求导的方法
这是在第三节中提到过的方法。 缺陷： a．如果回归元太多，计算会很复杂。 b．可以得到局部最小值,但不一定是绝对 最小值。 2．直接最优化 通过直接运用OLS方法，可以得到正规方程 (14.4) 和(14.5) ，然后运用最速下降法来解 出参数值。
1[ 2!
f xx
(a,
b)(x
a)2
2
f xz
(a,
b)(x
a)(z
b)
fzz (a,b)(z b)2] ......
附录：方程(14.3)的线性化
Y
f (1, 2 )
e2x 1
在 1 1* 和 2 2*处线性化
Y
f
( 1* ,
* 2
)
f 1
( 1* ,
* 2
)(1
1*
)
f
2
(
1*
δ- 分布函数 (0<δ<1) β- 替代参数 (β≥-1) 答案：此模型本质上非线性
二、线性和非线性回归模型的估计 考虑以下的模型：
Yi
e2X i 1
i
(14.3)
回归(14.3)被称为指数回归模型。
利用OLS方法得到正规方程：
Yie ˆ2X i ˆ 1e2 ˆ2X i (14.4)
f '(0) x 1!
f
Βιβλιοθήκη Baidu
''(0) x2 2!
a1 a2 x a3x2 R
R a4 x3
三阶近似：
Y a1 a2 x a3x2 a4 x3
问：如何在x=a，z=b处展开Y=f（x，z）？
答：
f (x, z) f (a,b) fx (a,b)(x a) fz (a,b)(z b)
国内外经典教材名师讲堂
古扎拉蒂《计量经济学基础》
第14章 非线性回归模型 主讲老师：李庆海
本章要点
●本质上的线性和非线性回归模型 ●线性和非线性回归模型的估计 ●估计非线性回归模型：试错法
一、本质上的线性和非线性回归模型
模型可以线性于参数，也可以线性于变量。 一开始讨论线性回归模型的时候，陈述过 本书所关心的基本上是线性于参数的模型。 如果一个模型非线性于参数，那么它就是 非线性回归模型。 然而，这里必须小心，有些模型可能看起 来非线性于参数，但是通过合适的变换它们可 以变成线性于参数的回归模型。
如果此类模型不能线性化于参数，则它们就被
称作为本质非线性回归模型。简单起见，把它称为
“NLRM”。
柯布-道格拉斯（C-D）生产函数是本质线性的。
Yi 1 X 2i 2 X 3i 3 e i (14.1)
问题：函数
Yi
1
1 e1 2
Xi
i
是不是本质线性
的？
答案:
series expansion）：
f x f x0 f '(x0 )(x x0 ) f ''(x0 )(x x0 )2
0!
1!
2!
... f (n) (x0 )(x x0 )n R n!
R代表高阶无穷小。多项式的次数越高，近 似值就越接近初始函数。
问：如何在x=0附近得到
Y* i
1 X 1i
2 X 2i
模型转化为
Y* i
1 X1i
2 X 2i
ui
——这就是线性化的回归模型
通过OLS 方法可得 ˆ1 和 ˆ2 ，并且由（3）可得
** 1
ˆ1
0.45
** 2
ˆ2
0.01
通过
** 1
和
** 2
可重复以上步骤直至收
敛，即最后所得的两个均值极为靠近。
要点与结论 1．尽管线性回归模型在理论和实践中占主导 地位，但有时非线性回归模型还是有用的。 2．线性回归模型中需要使用的数学是相当简 单的,因为可以得到该模型系数的显示解或解析解。 此类模型推断的小样本和大样本理论都很完善。 3．相比之下，对于本质非线性回归模型，不 能得到参数值的显式解，它们只能通过迭代程序等 从数值上进行估计。 4．有几种求非线性回归模型估计值的方法， 如：(1)试错法，(2)非线性最小二乘法，和(3)运 用泰勒级数展开来线性化。
Y f (x) a1 a2 x a3x2 a4 x3
的近似值？ 答：
f (0) a1, f '(0) a2, f ''(0) 2a3, f '''(0) 6a4
因此得到：
一阶近似： Y
a1
f '(0) 1!
a1 a2x R
R a3x2 a4x3
二阶近似：
Y
f (0)
5．现在计算机软件中都已经装载了例行程 序，例如高斯－牛顿，牛顿－拉夫森和马奎德。 它们都是迭代程序。 6．在有限样本中，非线性最小二乘估计量 虽然不具有最优性，但是在大样本中，它们具有 这种性质。因此，在小样本中，非线性最小二乘 的结果必须小心地加以解释。 7．自相关性、异方差性和模型设定问题可 能会对非线性回归模型造成麻烦，就如同它们会 对线性回归模型造成麻烦那样。
如果选择其他数值 1 0.50 2 0.01
重复刚才拟定的程序，发现现在将得到：
uˆi2 0.0073
试错法 这种方法被称为试错法。 可见，如果假定一组β值，相应地就可以
得到一个 uˆi 2值。
如果你有无限的时间和耐心，最终一定可
以得出使 uˆi 2 最小的 ˆ1 和 ˆ2 的值。
1 ln(
Yi
Yi
)
1 ln(
Yi
1)
ln(e12 Xi i
)
1
2 X i
i
所以这个模型本质上是线性的。
问题：常替代弹性（CES）生产函数是不 是本质线性的？
Yi A[ Ki ( 1 )L i ] 1 (14.2)
Y-产出；K-资本投入；L-劳动投入 A- 规模参数
3．迭代线性化方法
首先，在参数初始值附近线性化一个非线 性方程。 其次，用OLS方法估计线性化了的方程，并 调整参数初始值。 第三，用经过高速的参数值重新线性化该 模型，再次用OLS方法估计，得出新的参数估计 值。继续重复上述过程，直到两次估计结果无 实质变化。
泰勒定理（Taylor’s theorem, or Taylor