含有过程噪声的Hammerstein-Wiener模型辨识算法及其收敛性分析

含有过程噪声的Hammerstein-Wiener模型辨识算法及其
收敛性分析
李妍;毛志忠;王琰;袁平
【摘要】针对含有过程噪声的Hammerstein-Wiener模型,提出一种偏差补偿递推最小二乘辨识方法.通过将偏差补偿引入到递推最小二乘算法中,在线辨识包含原系统参数乘积项的参数向量.并用鞅收敛定理证明偏差补偿递推最小二乘辨识算法的收敛性,分析表明在持续激励的条件下参数估计偏差一致收敛于零.仿真结果表明该方法优于递推最小二乘辨识方法.
【期刊名称】《东北大学学报（自然科学版）》
【年(卷),期】2010(031)004
【总页数】5页(P469-472,476)
【关键词】Hammerstein-Wiener模型;偏差补偿递推最小二乘法;鞅收敛定理;收敛性;参数辨识
【作者】李妍;毛志忠;王琰;袁平
【作者单位】东北大学信息科学与工程学院,辽宁,沈阳,110004;东北大学信息科学与工程学院,辽宁,沈阳,110004;东北大学信息科学与工程学院,辽宁,沈阳,110004;东北大学信息科学与工程学院,辽宁,沈阳,110004
【正文语种】中文
【中图分类】TP273
Hammerstein-Wiener模型是一种中间为线性动态、输入和输出端为非线性静态
的非线性模型[1]。

它比Hammerstein和Wiener模型更接近实际系统;因此,研究Hammerstein-Wiener模型的辨识方法及其收敛性分析更具实际意义。

对于 Hammerstein-Wiener模型,文献[2]提出松弛迭代方法,但只适合离线辨识。

文献[3]提出两阶段在线辨识方法,但含有过程噪声时,最小二乘法(RLS)是有偏的。

文献[4]提出偏差补偿最小二乘方法来消除辨识偏差,但需假设输入平稳和各态遍历。

文献[5-6]提出偏差补偿递推最小二乘算法,但只针对线性系统,且未给出算法的收敛性证明。

对于收敛性证明,文献[7]给出了迭代算法的收敛性证明,但只适合离线辨识。

文献[8]证明了递推算法的收敛性,但也不适合含有过程噪声的Hammerstein-Wiener模型。

本文针对含有过程噪声的Hammerstein-Wiener模型,提出一种偏差补偿递推最
小二乘算法(BCRLS)在线求解原系统参数乘积的无偏估计;并用鞅收敛定理证明算法的收敛性。

理论分析可知:参数向量的估计偏差在持续激励条件下一致收敛于零。

对于辨识所得原系统参数乘积向量的无偏估计,采用文献[9]方法分离出原系统的参
数值。

1 系统描述
含有过程噪声的Hammerstein-Wiener模型如图1所示。

图1 Hammerstein-Wiener模型Fig.1 Hammerstein-Wiener model
将图1所示的被控对象重新参数化,得到原系统参数乘积向量θ,其辨识问题转化为
式中:
gl[y]为输出逆非线性基函数;mp,l(p=1,2,…,np,l=0,1,…,L-1)为 gl[y(t-p)]的系
数;dr(r=1,…,L-1)为 g1[y(t)]的系数;fk[u]为输入非线性基函
数;nq,k(q=1,2,…,nq,k=0,1,…,K-1)为 f k[u(t-q)]的系数;e(t)=ξ(t)/kξ是方差为σ2的白噪声
2 BCRLS辨识算法及其收敛性分析
2.1 BCRLS辨识算法
BCRLS方法的参数估计目标为
式中:εLS(i)=g0[y(i)]-φT(i)θ^LS(t)为残差;
参数向量的最小二乘估计为
由式(6),得
由于e(t)是均值为零,方差为σ2的白噪声,且与输入无关,所以将式(1)代入式(6),得式中:
将式(7)代入式(5),并由式(8)得方差估计:
由式(8),式(9)得参数无偏估计递推关系为
式中:P(t)=R-1φ(t),Rφ(t)=t R(t)=。

u(t)为持续激励,则Rφ(t)为正定矩阵。

数据矩阵的递推关系为
参数的递推最小二乘估计为
由式(12)知,准则函数的递推关系为
综上,归纳出BCRLS的具体步骤如下:
1)采集数据{u(t),y(t)},计算 fk[u]和gl[y];
2)取P(0)=p0 I L-1+Lnp+Knq(p0=106),θ^LS(0)=θ^(0)=0(L-1+Lnp+Knq)×1,J(0)=0;
3)由式(2)计算φ(t);
4)依次计算式(11)～式(13);
5)由式(9)计算^σ2(t),最终由式(10)计算θ^(t);
6)t=t+1,返回 3)。

2.2 收敛性分析
定理1 在持续激励的条件下,补偿后参数估计的偏差趋于零,即证明令
由式(12),式(15),式(16),得
由式(8),式(9)知,参数乘积向量的无偏估计为
式中:Rφ=Rφ(t),与时间 t无关。

将式(14)～式(18)代入式(12),参数估计误差的递推关系为
将式(11)和式(19)代入式(20),得
式中 :W(t)=～θT(t)P-1(t)～θ(t)。

将式(17)和式(19)代入式(21),得
式中:εLS=g0[y(t)]-φT(t)[θ-σ2 R-1φΛθ]。

令
将式(23)～式(25)代入式(22),得
令W1(t)=∀a＞1,函数ln｜P-1(t)｜非减。

式(26)两边取均值,得
因为～θT(t-1)是 t-1时刻可测的,与φ(t)εLS无关 ,故
由式(9)和式(18),得
将式(28)～式(30)代入式(27),得
由文献[5]的Lemmal可知
即,是有界的。

对不等式(31),应用鞅收敛定理,得 W1(t)收敛于一个有限的随机变量C:
式中:f(t)=O(g(t)),满足｜f(t)｜≤cg(t),c为正实数,g(t)≥0。

令 r(t)=tr[P-1(t)],可得
式中n 0为常数。

‖～θ(t)‖2 满足
式中:tr[XX T]=‖X ‖2;λmax[X]和λmin[X]分别表示最大最小特征值。

由式(34)～式(36)算出补偿后参数误差为
假设存在正常数a0,a1,a2和t0,使得t≥t0时,持续激励的系统满足a2 ta0 I。

由函数[ln t]a=O(tb),b为任意小正数,得[5]
证毕。

对于辨识所得原系统参数乘积向量的无偏估计θ^,可按文献[9]方法进行参数分离,得到原系统线性部分和非线性部分的参数值。

3 仿真
本文以某厂电弧炉电极调节系统为例,验证BCRLS算法的有效性。

由于钢液面波动和电磁力作用,电弧弧长存在白噪声扰动。

电弧炉电极调节系统可看成带过程噪声的Hammerstein-Wiener模型。

其参数重新化为式(1)～式(4)所示的结构,对应参数为K=2;np=3;nq=3;L=2;
RLS和 BCRLS方法辨识的参数如表1所示,其中δ= θ^-θ/ θ为参数估计误差。

表1 参数估计和误差Table 1 Estimates and errors方法 t d 1 m1,1 m2,1 m3,1 m1,0 m2,0 m3,0 n1,0×105 n 2,0×105 n3,0×105 n1,1×105 n2,1×105 n
3,1×105 δ/%RLS 15 0.715 2.762 2.460-2.535-2.899 0.775 1.147 1.049 0.797 3.529 3.641 0.425 1.430 19.68 20 0.890 2.825 2.809-2.676-3.009 0.851
1.089 1.190 0.634 4.266 3.083 1.083 0.631 13.64 25 0.927
2.829 2.903-
2.684-
3.091 0.856 1.112 1.214 0.655 3.941 3.545 0.878 0.934 11.50 30 0.927 2.827 2.911-2.685-3.087 0.858 1.102 1.133 0.731
4.184 3.273 0.955 0.811 10.77 35 0.912 2.871 2.732-2.772-2.772 0.901 0.952 1.259 0.589 4.046
3.411 0.920 0.863 9.96 40 0.918 2.878 2.725-2.787-2.739 0.908 0.932 1.253 0.602
4.056 3.410 0.943 0.841 9.57 BCRLS 15 0.924 2.902 2.672-2.838-2.597 0.937 0.85 0.984 0.943 3.781 3.776 0.916 0.949 6.01 20 0.942 2.899 2.735-2.832-2.669 0.933 0.876 0.989 0.945 3.785 3.804 0.907 0.970
5.02 25 0.988
2.901 2.858-2.836-2.782 0.935 0.911 0.984 0.968
3.820 3.842 0.912 0.982
3.48 30 0.992 2.902 2.867-2.838-2.786 0.936 0.911 0.987 0.966 3.825 3.845 0.915 0.980 3.47 35 0.994 2.903 2.871-2.840-2.787 0.937 0.91 0.987 0.969 3.831 3.842 0.913 0.984 3.45 40 0.994 2.902 2.873-2.838-2.793 0.936 0.913 0.989 0.965 3.827 3.846 0.915 0.982 3.44真值 1 2.900 2.842-2.832-2.775
0.932 0.914 1.063 1.042 4.171 4.087 1.026 1.006
由表1可以看出,BCRLS方法补偿了过程噪声产生的偏差,其参数估计精度高于RLS 方法。

4 结论
本文针对含有过程噪声的Hammerstein-Wiener模型,提出一种BCRLS辨识算法。

该方法可以在线求解出参数乘积的无偏估计。

并利用鞅收敛定理,对BCRLS方法的收敛性进行了论证。

参考文献:
[1] Crama P, Schoukens J.Hammerstein-Wiener system estimator initialization[J].Automatica,2004,40(9):1543-1550.
[2] Zhu Y.Estimation of an N-L-N Hammerstein-Wiener
model[J].Automatica,2002,38(9):1607-1614.
[3] Bai E W.An optimal two-stage identification algorithm for Hammerstein-Wiener nonlinear systems[J].Automatica,1998,34(3):333-338.
[4] Zheng W X.Fast identification of autoregressive signals from noisy observations[J].IEEE Transactions on Circuits and Systems,2005,52(1):43-48.
[5] Ding F,Chen T,Qiu L.Bias compensation based recursive least-squares identification algorithm for MISO systems[J].IEEE Transactions on Circuits and Systems,2006,53(5):349-353.
[6] 张勇,杨慧中。

有色噪声干扰输出误差系统的偏差补偿递推最小二乘辨识方法[J]。

自动化学报,2007,33(10):1053-1060。

(Zhang Yong,Yang Hui-zhong.Bias compensation recursive least squares identification for output error systems with colored noises[J].Acta Automatica Sinica,2007,33(10):1053-1060.)
[7] Liu Y,Bai E W.Iterative identification of Hammerstein
systems[J].Automatica,2007,43(2):346-354.
[8] Ding F,Chen T.Identification of Hammerstein nonlinear ARMAX systems[J].Automatica,2005,41(9):1479-1489.
[9] 范伟,丁锋。

Hammerstein非线性系统参数估计分离的三种方法[J]。

科学技术与工程,2008,8(6):1586-1589。

(Fan Wei,Ding Feng.Three methods of separating parameters for
Hammerstein nonlinear systems[J].Science Technology and Engineering,2008,8(6):1586-1589.)。