递推最小二乘辨识解读

(3)
为便于逆矩阵递推算式的推导,下面引入如下矩阵反演公 式(设A和C为可逆方阵) (A+BCD)-1=A-1-A-1B(C-1+DA-1B)-1DA-1 (4) 该公式可以证明如下:由于 (A+BCD)[A-1-A-1B(C-1+DA-1B)-1DA-1] =I-B(C-1+DA-1B)-1DA-1+BCDA-1 -BCDA-1B(C-1+DA-1B)-1DA-1 =I-B[I-C(C-1+DA-1B)+CDA-1B](C-1+DA-1B)-1DA-1 =I 因此,矩阵反演公式(4)成立.
1 ˆ θ(k ) (Φk Φk ) Φk Yk
T Yk=[y(1), y(2), ..., y(k)]T=[Yk y ( k )] 1
仔细考察上述LS法,可以知道,该算法进行递推化的关键是算法中的矩 阵求逆的递推计算问题. 因此,下面先讨论该逆矩阵的递推计算.
-1 P(k ) (Φ Φ ) k k
*下面讨论无加权因素时的一般LS法的递推算法的推导. 即将成批型算法化等效变换成如下所示的随时间演变递推 算法. 时不变SISO系统数学模型：A(z-1)y(k)=B(z-1)u(k)+e(k)
A( z ) 1 ai z
1 i 1
na
i
B( z ) wk.baidu.com bi z
1 i 1
首先,假定在第k-1次递推中,我们已计算好参数估计值 在第k次递推时,我们已获得新的观测数据向量(k-1)和 y(k),则记 Φ k-1=[(0), (1), ..., (k-2)]T Φ k=[(0), (1), ..., (k-1)]T=[φ (k-1)T φ (k-1)]T Yk-1=[y(1), y(2), ..., y(k-1)]T
ˆ (k ) 的递推计算. 下面讨论参数估计值θ
由上一讲的一般LS估计式 该乘积为标量
ˆ (k ) (ΦΦ )-1 ΦY P(k )ΦY θ k k k k k k
有
ˆ (k ) ΦY (k ) P -1 (k )θ k
(A+BCD)-1=A-1-A-1B(C-1+DA-1B)-1DA-1
即
利用公式
ˆ (k ) ΦY (k ) P -1 (k )θ k
ˆ (k ) P(k )[Φ (k -1)][Y (k -1) y(k )] θ k 1
P(k )[Φ ) (k -1) y(k )] k 1Y (k -1 ˆ (k -1) (k -1) y(k )] P(k )[P 1 (k -1)θ ˆ (k -1) (k -1) y(k )} P(k ){[P 1 (k ) - (k -1) (k -1)]θ
常规最小二乘辨识的递推算法
主要内容
1.思想及原理 2.实例与MATLAB仿真 3.应用
1.递推最小二乘法的思想及原理
1.1递推最小二乘法的引入 *最小二乘法的缺陷 （1）数据量越多，系统参数估计的精度就越高，为了获得满意的辨识结果， T 矩阵的阶数 常常取得相当大。这样矩阵求逆的计算量很大，存储量 也很大。 T （2）每增加一次观测量，都必须重新计算φ，（ ）-1。 T 为病态矩阵，则不能得到最 （3）如果出现φ列相关，既不满秩的情况， 小二乘估计值。 *递推最小二乘参数辨识，就是当被辨识的系统在运行时，每取得一次新的观 测数据后，就在前一次估计结果的基础上，利用新引入的观测数据对前次 估计的结果，根据递推算法进行修正，从而递推地得出新的参数估计值。 这样，随着新的观测数据的逐次引入，一次接一次的进行参数计算，直到 参数估计值达到满意的精确程度为止。
(2)
将Φ k展开,故有
-1 P (k ) ([Φ ( k 1 )][ Φ ( k 1 )] ) k -1 k -1
-1 [Φ Φ ( k 1 ) ( k 1 )] k -1 k -1
[ P -1 (k -1) (k -1) (k -1)]-1
nb
i
已知系统的输入u(k)和输出y(k),求参数ai,bi的估计值。 可以得到向量形式的线性方程组： Y=+e Y=[y(1), y(2), ..., y(L)]T =[(0), (1), ..., (L-1)]T,
(k - 1) [ y (k - 1), , y (k - na ) u (k - 1), , u (k - nb )]
θ [-a1 , , - ana b1 , , bnb ]
1 θLS (Φ Φ ) Φ L L LYL
设在k-1时刻和k时刻,系统的参数估计结果为
1 ˆ θ(k -1) (Φk 1Φk 1 ) Φk 1Yk 1
ˆ (k ) 和 θ ˆ (k - 1) 分别为根据前k次和前k-1次观测/采样数据 其中 θ 得到的LS参数估计值.
1.2递推算法的思想 * 递推辨识算法的思想可以概括成 新的参数估计值=旧的参数估计值+修正项 即新的递推参数估计值是在旧的递推估计值的基础上而成， 这就是递推的概念. 递推算法不仅可减少计算量和存储量,而且能实现在线 实时辨识. * 递推算法是依时间顺序,每获得一次新的观测数据就修 正一次参数估计值,随着时间的推移,便能获得满意的辨 识结果. RLS法即为成批型LS算法的递推化，即将成批型LS算法 化成依时间顺序递推计算即可。 该工作是1950年由Plackett完成的。
P(k ) [ P -1 (k -1) (k -1) (k -1)]-1
(3)
由式(3)和矩阵反演公式(4),可得P(k)的如下递推计算式
P (k ) P (k - 1) - P (k - 1) (k - 1)[1 (k - 1) P (k - 1) (k - 1)] 1 (k - 1) P (k - 1) P (k - 1) (k - 1) (k - 1) I P ( k - 1) 1 (k - 1) P (k - 1) (k - 1) (5)