最小二乘法的推导

最小二乘法的推导

最小二乘法是统计学中一种常用的数据拟合方法，它是将待拟合函数的拟合优度衡量为误差平方和最小化的问题，属于最优化策略。它可以用来拟合非线性模型，使得得到的模型拟合更加精确。

一、最小二乘法概念

最小二乘法是一种数据拟合方法，它是将待拟合函数的拟合优度衡量为误差平方和最小化的问题，属于最优化策略。最小二乘法的主要思想是，对给定的一组观测值，在满足某种条件下，这组观测值可以用一个或几个理论模型来描述，从而使拟合模型尽可能逼近实际观测值，达到拟合精度最高的目的。

二、最小二乘法推导

考虑一个最小二乘问题，我们希望拟合一组数据，它们的点坐标可以用一个关于d个未知参数（p1，p2，p3，…，pd）的多项式表示，即：

F(x，p1，p2，p3，…，pd)

将多项式中的参数（p1，p2，p3，…，pd）的值求出，就可以对已知数据进行拟合。

最小二乘法表示形式：

要使拟合模型参数值与所拟合数据做到最拟合，就要将拟合模型和实际数据的差值最小化，也就是求出多项式中的参数的值，使得误差平方和最小

根据最小二乘法的优化性质，我们可以写出最小二乘优化问题

的形式

将误差平方和最小化的条件写出来就为：

S=（f(x1，p1，…，pd)-y1）^2＋（f(x2，p1，…，pd)-y2）^2＋…＋（f(xn，p1，…，pd)-yn）^2

最小二乘问题表示为：

min{S(p1，p2，…，pd)}

其中p1，p2，…，pd是未知参数，我们要求这些参数值使得S 最小。

为了求得最小二乘拟合参数和进行形式转换，我们对S求偏导：

S/pi=2*(f(xi，p1，…，pd)-yi)*f(xi，p1，…，pd)/pi 当S/pi=0时，即有

(f(xi，p1，…，pd)-yi)*f(xi，p1，…，pd)/pi=0 于是，我们将最小二乘拟合参数pi的表达式改写为：

pi=(A-1)*B

其中A=∑(f(xi，p1，…，pd)/pi)^2，B=∑(f(xi，p1，…，pd)-yi)*f(xi，p1，…，pd)/pi

根据最小二乘法，我们就可以求得最小二乘拟合参数pi的值了。最小二乘拟合就是求出参数pi使得S最小。