自适应滤波
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
ˆ L (k | j )} 0 E{ ~ x L (k )} E{ x (k ) x
ˆ L (k | j )] yT ( j )} 0 , j E{~ xL (k ) yT ( j )} E{[ x(k ) x
正交性原 理
7.1.2 投影定理
ˆ 表示为 x 在 Y 上的投影 线性最优估计 x
投影定理
定理 (投影定理) 设 y1，y2，„，yn 和 x 是 Euclidean 空间中的元 素，Y 是 y1，y2，„，yn 张成的线性子空间，则必存在一个惟一的元 ˆ Y ，使得 素x
ˆ min x z xx
z Y
投影定理示意图
7.1.3 线性最优滤波
线性离散滤波器是一类广泛应用的滤波器。从 应用的角度出发，线性滤波器的数学分析和处理 比较容易，而离散时间滤波器便于数字化实现。
最小方差估计的定理和性质
定理 设 x(k)和Y j 是联合分布的，则
ˆ mv (k | j ) E{ x(k ) |Y ( j )} x
ˆ mv (k | j ) 等于在观测Y ( j ) 条件下 x(k)的数学 即 x(k)的最小方差估计 x 期望。
最小方差估计有以下性质： ˆ mv (k | j )} E{ x (k )} ，则有 (1) 最小方差估计是无偏的，即 E{ x
ˆ L (k | j ) 为 x(k) 在 Y ( j ) 上 的 线 性 最 小 方 差 (linear minimum 则称 x variance)估计。
线性最小方差估计
定理 被估计量 x(k)在观测Y ( j ) [ yT (1) yT (2) yT ( j )]T 上 ˆ L (k | j ) 满足如下无偏正交条件 的线性最小方差估计 x
事
实
上
，
如
设
x(k ) [ x1 (k ) x2 (k ) xn (k )]T
，
ˆ (k | j ) x ˆ mv (k | j ) 时，有 ˆ (k | j ) [ x ˆ1 (k | j ) x ˆ 2 (k | j ) x ˆn (k | j )]T ，当 x x
2 ˆ E {[ x ( k ) x ( k | j )] } min i i i 1 n
最小方差估计
ˆ (k | j ) x ˆ mv (k | j ) 时， ˆ mv (k | j ) ，当 x 若有估计 x
ˆ (k | j )]T [ x(k ) x ˆ (k | j )]} min E{[ x(k ) x
ˆ mv (k | j ) 为 x(k)的最小方差(minimum variance)估计。 则称 x
第7章 自适应滤波
背景
பைடு நூலகம்
实际应用中，系统不仅受到控制输入的作用， 而且也受到各种扰动的影响，这些扰动通常既 不能控制也不能在模型中确定。
同时，传感器也受到各种噪声的污染，使测量 结果包含噪声，不能直接获得有用信号。
本章内容
7.1 最优波形估计
7.2 Wiener滤波 7.3 Kalman滤波 7.4 自适应滤波器原理 7.5 最小均方(LMS)自适应算法 7.6 递推最小二乘(RLS)自适应算法
ˆ mv (k | j )} 0 E{ ~ xmv (k )} E{ x(k ) x
最小方差估计的性质
(2) 由于最小方差估计的无偏性，最小方差估计的估计误差均方 T xmv (k )} ，即 阵 E{~ xmv (k ) ~ xmv (k )} 等于估计误差方差阵 Var{ ~
T ˆ mv (k | j )][x(k ) x ˆ mv (k | j )]T } E{~ xmv (k )~ xmv (k )} E{[ x(k ) x Var{~ x (k )} mv
(3) 任何其它估计的均方误差阵或任何其它无偏估计的方差阵都 大于最小方差估计的误差方差阵， 即最小方差估计具有最小的估计误 差方差阵。由于无偏估计的误差方差阵，也就是估计误差的二阶距表 示误差分布在零附近的密集程度， 因此最小方差估计是一种最接近真 值 x(k)的估计。
线性最小方差估计
设
ˆ (k | j ) α BY ( j ) x
最优估计
最优估计就是根据观测数据按某种性能准则确定函数 g(· )， ˆ (k | j ) 称为信号 x(k)的 而由此得到的使性能准则为最优的估计 x 最优估计。最常用的性能准则是最小估计误差准则。
定义估计误差
~ ˆ (k | j ) x (k ) x (k ) x
则估计误差均方阵为
ˆ (k | j )][ x(k ) x ˆ (k | j )]T } E{~ x (k ) ~ x T (k )} E{[ x(k ) x
7.1 最优波形估计
7.1.1 概述
设信号 x(k)为 n 维随机列向量， 现用 m 维观测序列 y(1)， y(2)， „， y( j ) 估计时刻 k 时的信号 x(k)，记为
ˆ (k | j ) x ˆ (k | y(1), y(2),, y( j )) x ˆ (k |Y ( j )) x g (Y ( j ))
其中 p j m 维向量
Y ( j ) [ yT (1) yT (2) yT ( j )]T
波形估计的分类
根据 k 和 j 的关系，波形估计可以分为以下 3 类： (1) 当 k j 时称为预测，即用 j 时刻及其以前的观测数据估计未 来某时刻 k 时的信号。 (2) 当 k j 称为滤波， 即用 k 时刻及其以前的观测数据估计 k 时 刻的信号。 (3) 当 k j 时称为平滑，即用现在时刻 j 及其以前的观测数据估 计 k 时刻的信号。平滑主要用于对已获得观测数据的事后分析。
其中 α 为 n 维非随机向量， B 为 n p 阶非随机矩阵，若有估计 ˆ L (k | j ) α L BLY ( j ) ，当 x ˆ (k | j ) x ˆ L (k | j ) 时， x
ˆ (k | j )]T [ x(k ) x ˆ (k | j )]} min E{[ x(k ) x
ˆ L (k | j )] yT ( j )} 0 , j E{~ xL (k ) yT ( j )} E{[ x(k ) x
正交性原 理
7.1.2 投影定理
ˆ 表示为 x 在 Y 上的投影 线性最优估计 x
投影定理
定理 (投影定理) 设 y1，y2，„，yn 和 x 是 Euclidean 空间中的元 素，Y 是 y1，y2，„，yn 张成的线性子空间，则必存在一个惟一的元 ˆ Y ，使得 素x
ˆ min x z xx
z Y
投影定理示意图
7.1.3 线性最优滤波
线性离散滤波器是一类广泛应用的滤波器。从 应用的角度出发，线性滤波器的数学分析和处理 比较容易，而离散时间滤波器便于数字化实现。
最小方差估计的定理和性质
定理 设 x(k)和Y j 是联合分布的，则
ˆ mv (k | j ) E{ x(k ) |Y ( j )} x
ˆ mv (k | j ) 等于在观测Y ( j ) 条件下 x(k)的数学 即 x(k)的最小方差估计 x 期望。
最小方差估计有以下性质： ˆ mv (k | j )} E{ x (k )} ，则有 (1) 最小方差估计是无偏的，即 E{ x
ˆ L (k | j ) 为 x(k) 在 Y ( j ) 上 的 线 性 最 小 方 差 (linear minimum 则称 x variance)估计。
线性最小方差估计
定理 被估计量 x(k)在观测Y ( j ) [ yT (1) yT (2) yT ( j )]T 上 ˆ L (k | j ) 满足如下无偏正交条件 的线性最小方差估计 x
事
实
上
，
如
设
x(k ) [ x1 (k ) x2 (k ) xn (k )]T
，
ˆ (k | j ) x ˆ mv (k | j ) 时，有 ˆ (k | j ) [ x ˆ1 (k | j ) x ˆ 2 (k | j ) x ˆn (k | j )]T ，当 x x
2 ˆ E {[ x ( k ) x ( k | j )] } min i i i 1 n
最小方差估计
ˆ (k | j ) x ˆ mv (k | j ) 时， ˆ mv (k | j ) ，当 x 若有估计 x
ˆ (k | j )]T [ x(k ) x ˆ (k | j )]} min E{[ x(k ) x
ˆ mv (k | j ) 为 x(k)的最小方差(minimum variance)估计。 则称 x
第7章 自适应滤波
背景
பைடு நூலகம்
实际应用中，系统不仅受到控制输入的作用， 而且也受到各种扰动的影响，这些扰动通常既 不能控制也不能在模型中确定。
同时，传感器也受到各种噪声的污染，使测量 结果包含噪声，不能直接获得有用信号。
本章内容
7.1 最优波形估计
7.2 Wiener滤波 7.3 Kalman滤波 7.4 自适应滤波器原理 7.5 最小均方(LMS)自适应算法 7.6 递推最小二乘(RLS)自适应算法
ˆ mv (k | j )} 0 E{ ~ xmv (k )} E{ x(k ) x
最小方差估计的性质
(2) 由于最小方差估计的无偏性，最小方差估计的估计误差均方 T xmv (k )} ，即 阵 E{~ xmv (k ) ~ xmv (k )} 等于估计误差方差阵 Var{ ~
T ˆ mv (k | j )][x(k ) x ˆ mv (k | j )]T } E{~ xmv (k )~ xmv (k )} E{[ x(k ) x Var{~ x (k )} mv
(3) 任何其它估计的均方误差阵或任何其它无偏估计的方差阵都 大于最小方差估计的误差方差阵， 即最小方差估计具有最小的估计误 差方差阵。由于无偏估计的误差方差阵，也就是估计误差的二阶距表 示误差分布在零附近的密集程度， 因此最小方差估计是一种最接近真 值 x(k)的估计。
线性最小方差估计
设
ˆ (k | j ) α BY ( j ) x
最优估计
最优估计就是根据观测数据按某种性能准则确定函数 g(· )， ˆ (k | j ) 称为信号 x(k)的 而由此得到的使性能准则为最优的估计 x 最优估计。最常用的性能准则是最小估计误差准则。
定义估计误差
~ ˆ (k | j ) x (k ) x (k ) x
则估计误差均方阵为
ˆ (k | j )][ x(k ) x ˆ (k | j )]T } E{~ x (k ) ~ x T (k )} E{[ x(k ) x
7.1 最优波形估计
7.1.1 概述
设信号 x(k)为 n 维随机列向量， 现用 m 维观测序列 y(1)， y(2)， „， y( j ) 估计时刻 k 时的信号 x(k)，记为
ˆ (k | j ) x ˆ (k | y(1), y(2),, y( j )) x ˆ (k |Y ( j )) x g (Y ( j ))
其中 p j m 维向量
Y ( j ) [ yT (1) yT (2) yT ( j )]T
波形估计的分类
根据 k 和 j 的关系，波形估计可以分为以下 3 类： (1) 当 k j 时称为预测，即用 j 时刻及其以前的观测数据估计未 来某时刻 k 时的信号。 (2) 当 k j 称为滤波， 即用 k 时刻及其以前的观测数据估计 k 时 刻的信号。 (3) 当 k j 时称为平滑，即用现在时刻 j 及其以前的观测数据估 计 k 时刻的信号。平滑主要用于对已获得观测数据的事后分析。
其中 α 为 n 维非随机向量， B 为 n p 阶非随机矩阵，若有估计 ˆ L (k | j ) α L BLY ( j ) ，当 x ˆ (k | j ) x ˆ L (k | j ) 时， x
ˆ (k | j )]T [ x(k ) x ˆ (k | j )]} min E{[ x(k ) x