非线性模型的线性化

达到最小。对于非线性回归模型，所面临的方程组可能并 不易求解。
迭代线性化

迭代线性化法（Iterative Linearization Method）的基本 思想是:

首先，通过泰勒级数展开将模型的非线性函数在某一组初 始参数估计值附近线性化。然后，对这一线性化的函数应 用普通最小二乘法，得到一组新的参数估计值。

作 业
Thank
you
其中C表示总消费，Y表示可支配收入。 解 对于线性消费函数模型，应有 2 1 ，所以我们考虑 将参数的初始估计值取为 0,0 1,0 2,0 1 。将函数在 这组初始值附近作泰勒级数展开，然后取线性近似
f f f f ( 0 , 1 , 2 ) f (1,1,1) ( 0 1) ( 1 1) ( 2 1) 1 0 2 0 0 0
Z1 f1 ( X 1 , X 2 , , X k ) Z f ( X , X , , X ) 2 1 2 k 我们做变量替换 2 Z p f p ( X 1 , X 2 , , X k )

于是原来的模型化为一个标准的多元线性回归模型
Y 0 1Z1 2 Z 2 p Z p u
f Y f ( X 1 , X 2 , , X k ; 0,0 , 1,0 , 2,0 , , p ,0 ) ( i i ,0 ) i 1 i 0
p

1 p p 2 f ( i i ,0 )( j j ,0 ) u 2 i 1 j 1 i j
p
f i v i 1 i 0
p

令
f Y Y f ( X 1 , X 2 , , X k ; 0,0 , 1,0 , 2,0 , , p ,0 ) i ,0 i 1 i 0
* p
f f f Z1 , Z2 , , Z p p 0 1 0 2 0

对于非线性回归模型，按其形式和估计方法的不同，又可 分为以下三种形式： 1、被解释变量Y与解释变量 X 1 , X 2 , , X k 之间不存在线性 关系，但是与未知参数 0 , 1 , 2 , , k 之间存在线性关 系，称为非标准线性回归模型。 比如
Y 0 1 X 2 X 2 3 X 3 u

比如
Y kX 1 X 2 eu
（*）
我们可以在模型两边取对数得到：
ln Y ln k ln X 1 ln X 2 u

故上述模型是一个可线性化的非线性回归模型。

3、不但被解释变量Y与解释变量 X 1 , X 2 , , X k 和未知参 数 0 , 1 , 2 , , k 之间都不存在线性关系，而且也不能通 过适当的变换将其化为标准的线性回归模型。

我们将这种类型的非线性回归模型称之为不可线性化的 非线性回归模型。

比如
Y 0 1e 1x1 2 e 2 x2 u

下面我们用几个例子来说明一下这几种回归模型的处理 方法。
非标准线性回归模型的标准化

对于非标准线性回归模型我们将回归方程记为：
Y 0 1 f1 ( X 1 , X 2 , , X k ) 2 f 2 ( X 1 , X 2 , , X k ) p f p ( X 1 , X 2 , , X k ) u
C 0 1Y 2Y ln Y Y ln Y u


移项后得
C Y ln Y 0 1Y 2Y ln Y u

令
Y * C Y ln Y , X 1 Y , X 2 Y ln Y

则将非线性消费函数模型化为二元线性回归模型
Y * 0 1 X 1 2 X 2 u

将非线性函数在新的参数估计值附近线性化，对新的线性 化的模型应用普通最小二乘法，又得到一组新的参数估计 值。

重复此过程，直至参数估计值收敛为止，即第n+1组参数 估计值与第n组参数估计值没有显著差异为止。
迭代线性化的具体步骤

根据经济理论和历史统计资料，选定 ( 0,0 , 1,0 , 2,0 , , p ,0 ) 为未知参数 ( 0 , 1 , 2 , , p ) 的一组初始估计值。 将我们讨论的模型中的非线性函数 f 在这组初始估计值 附近做泰勒级数展开：
作 业

我们给出中国2000年按行业分的全部制造业国有企业及规 模以上制造业非国有企业的工业总产值Y，资产合计K及 职工数L。设定模型为
Y AK L eu

（1）对模型进行回归分析； （2）回答：中国2000年的制造业总体呈现规模报酬不变 状态吗？ 提示（2）即检验H0： 1 。

其中被解释变量Y是解释变量 X 1 , X 2 , , X k 的线性函数同 时也是参数 0 , 1 , 2 , , k 的线性函数。

一般的非线性回归模型可以表示成如下形式：
Y f ( X 1 , X 2 , , X k ; 0 , 1 , 2 , , p ) u

重复这一过程一直到参数估计值收敛为止，即对于预先给 定的任意小的正数 0 ，下不等式成立为止。
i ,l 1 i ,l i ,l
(i 1, 2, , p )

例 写出利用迭代线性化估计下面的非线性消费函数模型 的具体步骤。
C 0 1Y 2 u




就是一个非标准的线性回归模型。
பைடு நூலகம்
2、虽然被解释变量Y与解释变量 X 1 , X 2 , , X k 和未知参 数 0 , 1 , 2 , , k 之间都不存在线性关系，但可以通过适 当的变换将其化为标准的线性回归模型，我们将这种类型 的非线性回归模型称之为可线性化的非线性回归模型。
f f f 易见 f (1,1,1) 1 Y , 1, Y, Y ln Y , 1 0 2 0 0 0

故 f ( 0 , 1 , 2 ) 1 Y ( 0 1) Y ( 1 1) Y ln Y ( 2 1) 0 1Y 2Y ln Y Y ln Y 代入消费函数模型得到
非线性模型的线性化
南开大学数学科学学院 白晓棠
放松经典模型的假定

之前我们讨论了一元线性回归模型和多元线性回归模型， 在给出回归方程之前我们通常要进行一些假定。

下面几节课我们会分别对几个假定进行放松，从而使得我 们的研究方法适应更加一般的回归模型。

首先，我们来回忆一下所做的一些假定（11条）。
0

舍去二阶和二阶以上的高阶项，得线性近似
p
f Y f ( X 1 , X 2 , , X k ; 0,0 , 1,0 , 2,0 , , p ,0 ) ( i i ,0 ) v i 1 i 0

移项后有：
f Y f ( X 1 , X 2 , , X k ; 0,0 , 1,0 , 2,0 , , p ,0 ) i ,0 i 1 i 0
模型的基本假定

假定1：回归模型对参数而言是线性的。 假定2：诸回归元X的值在重复抽样中不是随机的。 假定3：观测的次数必须大于回归元的个数。 假定4：回归元的取值必须有足够的变异性。 假定5：回归模型是正确的确定的。 假定6：对给定的X，干扰项期望为零。
模型的基本假定

假定7：同方差性，即对解释变量的所有观测值，随机误 差项有相同的方差。



线性化后为： ln Y ln k 1 ln X 1 2 ln X 2 k ln X k u
不可线性化的非线性回归模型

假设非线性回归模型的一般形式为
Y f ( X 1 , X 2 , , X k ; 0 , 1 , 2 , , p ) u
可线性化的非线性回归模型的线性化

可线性化的非线性回归模型主要有指数型和幂函数型两种 类型，处理方法是类似的都需要对模型两边取对数。

比如指数型模型：Y ke X u 线性化后为： ln Y ln k X u
2 幂函数型：Y kX 11 X 2 X kk eu

ˆ (i 1, 2, , p )表示 的估计量，则 假设用 i i
ˆ , ˆ , ˆ , , ˆ )u ˆ Y f ( X 1 , X 2 , , X k ; 0 1 2 p

ˆ 是残差。如果我们仍用最小二乘法准则求解 ˆ ， 其中 u i
则应使残差平方和
ˆ , ˆ , ˆ , , ˆ )]2 ˆi2 [Yi f ( X 1i , X 2i , , X ki ; Q u 0 1 2 p

假定8：各个干扰项之间无自相关性。 假定9：解释变量与随机误差项不相关。 假定10：解释变量之间不存在精确的（完全的）线性关 系。

假定11：随机误差项ui服从正态分布。
非线性模型的线性化

在上一节我们讨论（标准的）线性回归模型有如下形式：
Y 0 1 X 1 2 X 2 k X k u

则
Y * 1Z1 2 Z 2 p Z p v

对上述标准线性回归模型应用普通最小二乘法估计未知参 数，得到参数的一组新的估计量 ( 0,1 , 1,1 , 2,1 , , p ,1 ) 。

将非线性函数 f 在这组新的参数估计值 ( 0,1 , 1,1 , 2,1 , , p ,1 ) 附近作泰勒级数展开，线性化后得到一个新的标准线性回 归模型。对此新的标准线性回归模型再应用普通最小二乘 法，又得到一组新的参数估计量 ( 0,2 , 1,2 , 2,2 , , p ,2 ) 。