非线性拟合方法

] [
（3）估计参数 p 的变化
() ()
Biblioteka Baidu()
。
（4）收敛判断 如果
||
，
则结束迭代； 如果
2（共 4 页）
()
。 （8）
()
]
（9）
（10）
上海交通大学物理系
徐少锋
2011.7.28
||
，
（11）
则继续一下过程。 （5）计算新的参数值
。
（12）
（6）返回第（1）步。
2.3 参数误差估计 假设通过迭代过程我们找到了一组最优参数解，用大写字母 P 表示
[ ( )]
4（共 4 页）
[
]，
（13）
参数 P 的协方差矩阵（covariance matrix）
( )，
（14）
反映了参数的拟合误差，其主轴元素的根值
() √ ，
（15）
给出了某一参数的统计标准差，如果假设参数 服从高斯分布，则（15）给出的 就是高斯分布的标准差（置信度 68%）。再如果实验观察值（X，Y）和参数 P 是通过物理过程必然联系起来的，那么（15）给出的误差估计在重建（X，Y）时 是可以接受的，反之虽然有其统计合理性，但就物理意义上就有待商榷。
X
……
Y
……
……
我们必须且只能通过这 N 对数据点去确定上述统计关系。因为多数情况下 我们不知道上述统计关系的确切形式，所以我们是先猜测一种统计关系，然后使 用 检验或最大似然检验的方法判断这种统计关系的合理性。
检验定义统计量
∑ ( ( )) ，
（2）
因而我们就可以计算某种模型 ( )的拒绝域或置信度。但实际上，我们是 将回归分析问题转化为最优化问题来处理的，即求解一组参数 p 使得 统计量取 得极小值。
在 Y 服从高斯分布的条件下， 统计量服从 (
)分布，因此在采样时
数据点数目必须大于统计模型参数数目，即
。
2. Newton-Rapson 方法
2.1 Newton-Rapson 使用 Newton-Rapson 方法，求解参数 p 使得 统计量取得极小值，目标函 数是
()
() (
)，（3）
1（共 4 页）
上海交通大学物理系
徐少锋
我们最终要求解的量是参数
[
]，
2.2 迭代过程 （1）给定初始参数 p 计算目标函数值(一个离散序列)
()
，
写为一维序列
������������ [
（2）计算雅克比矩阵
] [
()
。
()
]
()
( )|
2011.7.28
（4） （5） （6）
，（7）
写为
矩阵形式
������ [
上海交通大学物理系
徐少锋
2011.7.28
检验非线性回归的 Newton-Rapson 优化算法
1. 问题的提出
假设被解释变量 Y 与单自变量 X 之间具有某种统计关系或统计模型
()，
（1）
其中 X 是自变量，p 是统计关系的参数（假设有 M 个）， 是统计残差。在统计 实验中，我们获得 N 个采样点
3. 统计模型
3.1 星系团密度径向分布的单 模型 星系团气体密度径向分布的单 模型
[ ( )] ，
(16)
其参数为(
)，迭代过程中的雅克比矩阵具有解析形式，这因为容
易求得单β函数对参数的偏导数。
3（共 4 页）
上海交通大学物理系
{
徐少锋
2011.7.28
[ ( )]
[ ( )]
(17)
[ ( )]