矩阵论课外报告---最小二乘法

一、 报告摘要在已知曲线大致模型的情况下，运用曲线拟合最小二乘法，使得观测数据与曲线模型数据之间的误差平方和最小。

进而求得曲线的模型参数，并由所求的曲线模型进行分析预测。

二、 题目内容一颗导弹从敌国发射，通过雷达我们观测到了它的飞行轨迹，具体有如下数据：我国军情处分析得出该导弹沿抛物线轨道飞行。

问题：预测该导弹在什么水平距离着地。

三、 基本术语1. 内积设V 是实数域R 上的线性空间，如果V 中任意两个向量,αβ都按某一个确定的法则对应于惟一确定的实数，记作(,)αβ，并且(,)αβ满足i. 对任意的,V αβ∈，有(,)(,)αββα=ii. 对任意的,,V αβγ∈，有(,)(,)(,)a αβγγβγ+=+ iii. 对任意的,,k R V αβ=∈有(,)(,)k k αβαβ=iv.对任意的V α∈，有(,)0αα≥。

当且仅当0α=时，(,)0αα=则称(,)αβ为向量,αβ的内积。

如无特殊说明的，我们认为对任意向量1212(,,,),(,,,)n n a a a b b b αβ== ，其内积(,)αβ为1122(,)n n a b a b a b αβ=+++2. 范数如果V 是数域K 上的线性空间，且对于V 的任以向量χ，对应于一个实数函数χ，它满足如下三个条件。

i. 非负性 当0χ≠时0χ>；当0χ=时，0χ=；ii. 齐次性 ,a a V χχχ=∈；iii.三角不等式,,V χζχζχζ+≤+∈；则称χ为V 上χ的范数。

可以证明对于向量12(,,,)n χξξξ= 的长度χ=是一种范数，我们称为2-范数，记为2χ。

3. 线性方程组设有n 个未知数m 个方程的线性方程组11112211211222221122n n n n m m mn n ma x a x a xb a x a x a x b a x a x a x b +++=⎧⎪+++=⎪⎨⋅⋅⎪⎪+++=⎩ 可以写成以向量x 为未知元的向量方程Ax b =则A 为该方程的系数矩阵，(,)B A b =为增广矩阵。

该线性方程有解的条件如下i. 当A 的秩()R A 和B 的秩()R B 满足()()R A R B <时，该方程无解 ii.当()()R A R B n ==时，该方程有唯一解。

iii. 当()()R A R B b =<时，该方程有无穷解。

四、 基本原理对于一组给定的实验数据（i x ，i y ）（0,1,i m =⋅⋅⋅，），要求出自变量x 与因变量y 的函数关系()y S x =，由于观测数据总有误差，所以不要求()y S x =通过已知点（i x ，i y ）（0,1,i m =⋅⋅⋅，），而只要求在给定点i x 上的误差()(0,1,,i i i S x y i m δ=-=⋅⋅⋅的平方和20mi i δ=∑最小。

若已知0011()()()()n n S x a x a x a x ϕϕϕ=++⋅⋅⋅+这里01(),(),,()n x x x ϕϕϕ⋅⋅⋅是线性无关的函数族，假定有一组数据{(,),0,1,,}i i x y i m =⋅⋅⋅，要求()y S x =使01(,,,)n I a a a =⋅⋅⋅最小，其中2011(,,,)[()]mn i i i I a a a S x y ==⋅⋅⋅=-∑这就是最小二乘逼近，得到的拟合曲线为()y S x =，这种方法称为曲线拟合的最小二乘法。

01(,,,)n I a a a =⋅⋅⋅实际上是关于01,,,n a a a ⋅⋅⋅的多元函数，求01(,,,)n I I a a a =⋅⋅⋅的最小值就是求多元函数01(,,,)n I I a a a =⋅⋅⋅的极值，由极值的必要条件，可得0002[()()]()0mi n n i i k i i k Ia x a x y x a ϕϕϕ=∂=+⋅⋅⋅+-=∂∑ (0,1,,)k n =⋅⋅⋅我们令001(),()i i i m n y x y y x y ϕϕϕ⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦ (0,1,,)i m = ，即i ϕ是将实验数据0(,)m x x 带入函数()i x ϕ所得的列向量，y 是实验数据01(,,,)n y y y 的列向量。

则上式可改写为0011(,)(,)(,)(,)k k n k n k a a a y ϕϕϕϕϕϕϕ+++= (0,1,,)k n =这是关于参数 01,,,n a a a ⋅⋅⋅的线性方程组，用矩阵表示为0000010101111101(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)n n n n n n n n a y a y a y ϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕ⎛⎫⎛⎫⎛⎫ ⎪⎪ ⎪ ⎪ ⎪ ⎪= ⎪ ⎪⎪ ⎪⎪ ⎪⎝⎭⎝⎭⎝⎭ 该线性方程称为法方程。

对于该方程的系数矩阵A 和增广矩阵B ，当R （A ）=R（B ）=n 时，该方程有唯一解。

记方程解为*k k a a = (k =0,1,,n)，从而得到最小二乘拟合曲线****0011()()()()n n y S x a x a x a x ϕϕϕ==+++可以证明对任意101(,,,)T n n a a a R +∈ ，有***0101(,,,)(,,,)n n I a a a I a a a ≤ 。

因而*()S x 即为所求的最小二乘解。

误差向量δ为*00*11*()()()m m S x y S x y S x y δ⎡⎤-⎢⎥-⎢⎥=⎢⎥⎢⎥⎢⎥-⎣⎦则拟合曲线的平方误差为向量δ的2-范数的平方，即2*220[()]mi i i S x y δ==-∑五、 正文由题目内容可知，该导弹沿抛物线飞行。

我们从导弹的观测到的发射点为O 点，以导弹前进方向的水平面的x 轴，以O 点的垂直高度为y 轴，建立直角坐标系。

则观测数据为i0 1 2 3 4则我们可以建立导弹飞行轨迹的曲线模型，即2012()S x a a x a x =++则2012()1,(),()x x x x x ϕϕϕ===，将观测数据带入，我们可以得到200211201222233244100012506250081500250000,1517505625001911000100000020x x x x x x y x x x x ϕϕϕ⎡⎤⎡⎤⎡⎤⎡⎤⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥=====⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦⎣⎦⎣⎦⎢⎥⎣⎦,=,则法方程如下：000001021011121120212222(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)a y a y a y ϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕ⎡⎤⎛⎫⎛⎫⎪ ⎪⎢⎥=⎪ ⎪⎢⎥ ⎪ ⎪⎢⎥⎝⎭⎣⎦⎝⎭带入数据计算内积，得到：0112252500187500062156250000043750250018750003493750018750001562500000 1.382812510a a a ⎛⎫⎡⎤⎡⎤⎪⎢⎥⎢⎥= ⎪⎢⎥⎢⎥⎪⎢⎥⎢⎥⨯⎣⎦⎣⎦⎝⎭ 该线性方程的系数矩阵A 和增广矩阵B 分别为：1252500187500015625000002500187500018750001562500000 1.382812510A ⎛⎫⎪= ⎪ ⎪⨯⎝⎭ 1252500187500062156250000025001875000437501875000156250000034937501.382812510B ⎛⎫⎪= ⎪ ⎪⨯⎝⎭ 对矩阵B 进行初等行变换，得到5175062500017.50.0187011087.5001 1.94285710B -⎛⎫⎪→ ⎪⎪-⨯⎝⎭由此，我们得到矩阵A 的秩R(A)与矩阵B 的秩R(B)相等，即R(A)=R(B)=3。

则该线性方程有惟一解。

再将矩阵B 化为行最简形矩阵，得（取5个有效位）1000.228570100.0398290010.000019429B -⎛⎫ ⎪→ ⎪⎪-⎝⎭则可以得出，最小二乘拟合曲线*()S x 的系数为*0*1*20.228570.0398290.000019429a a a ⎡⎤-⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥-⎣⎦⎣⎦那么最小二乘拟合曲线模型如下*2()0.228570.0398290.000019429S x x x =-+- 将观测到的水平距离数据i x 带入得到的曲线模型，得平方误差：2*220[()]0.457142882mi i i S x y δ==-=∑由最小二乘拟合曲线*()S x ，我们令*()0S x =，则可以求出导弹的预测着陆点，即20.228570.0398290.0000194290x x -+-=解该一元二次方程，得122044.223 5.75495()x x ≈≈舍则，我们预测的导弹在2044.223米的水平距离着陆。

六、结论对于题目中所给的问题，我们采用最小二乘曲线拟合的方法，通过使与观测数据间的误差平方和最小，先求出导弹飞行的轨迹模型：*2()0.228570.0398290.000019429S x x x=-+-该模型的误差平方和220.457142882δ=。

然后根据该模型计算得出导弹的预计着陆水平距离为2044.233米。