6-4 正交补与正交投影

(偏差的绝对值之和达到最小)
(偏差的平方和达到最小) 以偏差的平方和达到最小为目标的方法称为最小二乘法
18:22
7
最小二乘法
18:22
8
最小二乘法: 例题4.4
试用最小二乘法建立x与y之间的经验公式。 用最小二乘法求解问题的一般步骤如下： （1）数据描点； （2）初步确定经验公式； （3）列出法方程组，求解； （4）精度检验； （5）修正（如果需要）。
18:22 9
例题4.4：数据描点（草图），观察
18:22
10
例题4.4：经验公式
(2) 初步确定经验公式： ( x ) a bx (即 0 ( x ) 1 1 ( x ) x )
(3) 建立法方程组：
m xi
xi a yi 2 x i b x i yi
6 代入 396.6
解得：a 95.3524
396.6 a 1458 28365.28 b 101176.3
b 2.2337
( x ) 95.2524 2.2337 x
18:22 11
例题4.5
§4 正交补空间与正交投影
向量与集合正交 正交补空间 正交投影
定义,求法,性质
最小二乘法
问题的提法 问题的求解
18:22
1
正交补空间
V欧几里得空间, S是V的一个非空子集,
定义：设Ｗ是欧几里得空间V的一个非空子集, V中与W正交的所有向量组成的集合称为Ｗ的正交补
例子4.1
证明 证明
18:22
2
正交投影
back
18:22 18
命题 4.1 的证明
证明:
=0
back
18:22 19
定理 4.2 的证明
证明: 分两步
因此
back
18:22 20
定理 4.3 的证明
back
证：
来自百度文库
18:22
21
18:22
12
一般的线性最小二乘问题
(比如说多项式)
我们的目标是
18:22
13
一般的线性最小二乘问题
18:22
14
一般的线性最小二乘问题
18:22
15
例子 4.1
back
18:22 16
例子4.2
解: 子空间 W 的法方向(正交补空间)为 z 轴,
back
18:22 17
例子4.3
共三种方法
作映射
它具有性质：
例子4.2
18:22 3
正交投影的求法
例子4.3
18:22 4
正交投影的性质，最佳逼近元
证明
18:22
5
最小二乘法
为了确定a, b的值，需要通过实验得到一组数据。 讨论参数a与b的确定方法。 解: 由已知条件有
18:22
6
最小二乘法
将多目标的问题转化为单目标的问题。有几种方法： (最大偏差达到最小)