基于隐马尔可夫模型及支持向量机的故障诊断(中文)

基于隐马尔可夫模型及支持向量机的故障诊断柳新民刘冠军邱静胡茑庆国防科技大学机电工程与自动化学院,长沙410073摘要：针对故障诊断中机器学习方法存在的问题，根据隐马尔可夫模型(HMM)适合于处理连续动态信号与支持向量机(SVM)适合于模式分类的长处，提出了基于HMM-SVM 串联结构的故障诊断模型。

隐马尔可夫模型的通常描述类别内的相似性，并适合于处理连续动态信号。

支持向量机表示类间的有效差异和具有完善的分类能力。

这种方法是建立在HMM和SVM的优点上的。

那么，对于直升机传输系统的减速器的振动信号的提取的实验，这种基于HMM-SVM的诊断方法是培训和用于变速箱故障的监测和诊断。

结果表明，该方法优于基于HMM的和SVM的诊断方法，在利用少量训练样本完成故障诊断上有更高的准确性。

关键词：隐马尔可夫模型支持向量机故障诊断0引言变速箱在直升机传输系统非常重要，它直接的影响直升机的可靠性和安全性，迅速有效地诊断变速箱的故障非常重要，目前减速器监测与诊断中广泛应用的机器学习方法(如神经网络)在使用中存在一些困难，例如： (1)诊断是某一时刻信息和模板库相匹配的结果，忽略了前后关系，具有一定的局限性；(2)采用的是经验风险最小化原则，需要大量故障训练样本，训练样本获取困难等。

隐马尔可夫模型（HMM）是从Morkov链的基础上发展起来的一种统计模型，隐马尔可夫模型（HMM）是一个双重随机过程，并且无法观察（隐藏的），可以通过另一套随机过程来观察，隐马尔可夫模型（HMM）是一个以状态转移概率为特征的参数化模型，考虑到特定的系统状态和初始化状态的瞬时发生的可能性。

这些参数通过Baum-Welch运算法则能适应评估，隐马尔可夫模型（HMM）是作为信号动态时间序列统计模式，具有严谨的数据结构和可靠的计算性能，现已成为语音识别的主流技术，国内外开始把HMM方法引入到状态监测和故障诊断领域中来，取得了优于神经网络的良好效果。

向量机（SVM）是它是一种新的机器学习技术，是建立在小样本机器统计学习理论的VC维理论和结构风险最小化原则基础上的，向量机（SVM）执行好的交易接近已知数据和SVR的近似的复杂功能，和拥有高性能，向量机（SVM）有比人工神经网络（ANN）更多的优点。

这些优点如下：①向量机（SVM）可以取得少量抽样调查中的最优解,②向量机（SVM）求解最后转化成二次规划问题的求解，因此SVM 的解是全局唯一的最优解，改变解决规划设计的二次方程式的问题的最优解，可以采取最佳全面的解决方案，但只有局部最优解可以被人工神经网络（ANN）所接受，SVM改变样板空间通过非线性变换到特征空间，在特征空间里。

它具有结构线性分类功能，以实现非线性分类中的采样空间，这表明了机器学习具有良好的归纳性能，并解决了维数问题。

SVM已成功地应用于故障诊断，因为他们具有出色的分类能力。

隐马尔可夫模型（HMM）适合于处理连续动态的信号，然而支持向量机(SVM)适合处理分类，隐马尔可夫模型（HMM）表达更多的是类别内的相似性，向量机（SVM）反映了类别间的差异。

由于两种表现的内容不一样，因此文中结合这两个统计模型的有点，提出了一种基于HMM-SVM 串联结构的故障诊断模型，结合他们的有点合并成一个理想的，因此，混合了隐马尔可夫模型（HMM ）和支持向量机（SVM ）的故障诊断方法，用于解决的非平稳故障的诊断问题。

1 基于HMM-SVM 的诊断模型1.1隐马尔可夫模式隐马尔可夫模式（HMM ）是从Morkov 链的基础上发展起来的一种统计模型，其中观察到的时间与状态并不是一一对应的，隐马尔可夫模式（HMM ）是通过几个参数为特征。

首先是状态之间的转移概率分布参数A={a ij }，表示在t 时刻、状态为Si 的条件下，在t+1时刻状态是Sj 的概率。

以q t 为时间状态，在时间t ，状态数为N ，第二，隐马尔可夫模型（HMM ）的观察值概率矩阵，{()}f B b k =k O 是k 的观察序列，M 是每个状态对应的可能的观测值数目，如果观察数据是连续的，则连续的概率密度起作用，一般几个正态分布的加权和构归因于各自的状态。

初始化状态分布矢量：{}i ππ=i S 是概率的初始状态。

(,,)A B λπ=中的A 用于定义一个隐马尔可夫模型（HMM ），可以计算概率的输出序列，12,,...,,T Oo o o =最大概似法过去习惯于重新估计模型参数，(,,)A B λπ=，列举如下： 11110 s 0(|)() (4)t t t t T s s s s s all t P O a b o λπ+++-==∑∏1() 1i N (3)i i P q S π==≤≤()(|) 1 1 (2) f k t fb k P O q S i N k M ==≤≤≤≤ij t+1j t i = P(q =S | q =S ),1i,j N (1)a ≤≤1()() (5)()(|)()()t t ij ij i j k j j P q S E n a E n E m o b k E m π+⎧⎪==⎪⎪⎪=⎨⎪⎪⎪=⎪⎩ij n 是i S 跳转到j S 次数的预期，i n 是i S 转出次数的预期，j m 是j S 转进的次数的预期。

通过所谓的Baum - Welch 算法可以实现HMM 采集连续特定的观察数据，从初次或预先估计HMM 的参数，通过精密的最大概似法更新参数。

通过每一步连续的观察一步一步地增大概率，这种训练步骤除了HMM 的另一个特征来详细的判断。

1.2支持向量机算法本节简要介绍了支持向量机的理论，可以在其中找到支持向量机的详细说明。

统计学习理论(SLT)是由Vapnik 等人提出的一种小样本统计理论，以及其他，在20世纪70年代，为机器学习问题建立了一个较好的理论框架,也发展了一种新的通用学习算法——支持向量机(SVM)，能够较好的解决小样本学习问题，已成功地应用于模式识别和概率密度函数。

结构风险最小化原则以计算学习理论为基础，SVM 寻找一个觉侧面分开训练数据点为两类，使得结果是基于支持向量挑选有效的基础训练组。

至于这两种分类，假设那个训练组是：1122i (,),(,),...,(,) y (1,-1) i=1,2,...,n (6)n n x y x y x y ∈ 分离超平面分为两部分，每一部分包含唯一的相同类标，SVM 学习的目标是为了找到最佳分离超平面同时两边拥有最大的余地。

它的表现形式如下： 2i i 11min (W)=||||(.) (7)22, y [(W.X )+b]-10W W W s t φ⎧=⎪⎨⎪≥⎩这双重问题就是：,11n i i i i=11min ()()2 (8), 0 i=1,2,...,n y =0n n i j i j i j i i j i Q y y x x s t αααααα==⎧=-⎪⎪⎨⎪≥⎪⎩∑∑∑ 最优决策函数是：1()sgn (,) (9)n i f x iyi xi x b α=⎧⎫=+⎨⎬⎭⎩∑ 非线性支持向量机的输入变量映射到高维特征空间，适用于线性支持向量机的特征空间，计算结果表明线性支持向量机通过一个技术要点可以实现从特征空间到原始空间。

因此我们不是真正需要知道特征空间和特征空间的转换，常见的形式有：线性的，多项式的，RBF 式的，S 形的。

因此这个问题可以转换为像这样的K 的形式： ,11n i i i i=11min ()(.)2 (10), 0 C i=1,2,...,n y =0n n i j i j i j i i j i Q y y K x x s t αααααα==⎧=-⎪⎪⎨⎪≤≤⎪⎩∑∑∑ 最优的分离超平面是：ni i i i=1() =,y ,K(x,x ) +b=0 (11)f x α∑ 对于任何j X ，我们可以通过以下判定B 的值，n j 1y (.)10 (12)i i j i i y K x x b α=⎡⎤+-=⎢⎥⎣⎦∑ 1.3 基于HMM-SVM 的故障诊断基于HMM 的故障诊断是由所有HMM 模型中输出概率最大的决定，而一个受噪声污染的待辨识信号,有可能若干个HMM 模型的输出概率相差无几,只凭概率最大来做决定，存在误判的潜在危险。

基于SVM 的故障诊断是依照当前时刻的信号特征进行诊断，忽视了前后时刻的关系，有可能竞争获胜的结果实际上是不可能发生的,导致误判。

由于 HMM 利用上下文关系进行模式识别，更多的表达了类别内的相似性；而 SVM 适合于处理分类问题，更大程度上反映了类别间的差异；它们各自的势正好弥补了彼此的不足。

针对 HMM 只以最大概率判断的不足，可以利用 SVM 的分类上的优势弥补；同时利用 HMM 处理连续动态信号问题的特点，计算各HMM 模型与待辨识信号的匹配程度，形成特征值，提供给SVM 进行诊断，减少 SVM 由于单一时刻判断的错误；由此提出基于 HMM —SVM 的故障诊断模型。

基于 HMM —SVM 的故障诊断模型原理如图 1所示，先利用训练样本 (经过 预处理和特征提取)，由Baum —Welch 算法训练得到 HMM 模型，再通过Viterbl 算法计算小同 HMM 模型产生此观察值序列的概率值(相当于模式匹配度)，由此得到的概率值特征矢量，经归一化后(概率值变化较大，归一化有助于SVM 提取支持向量，提高诊断能力)训练SVM 分类器。

诊断时，对未知信号做同样的预处理和特征提取后，计算信号与各状态HMM 模型的匹配程度，得到一组概率，归一化后利用SVM 分类器进行辨识，得到诊结果。

2 基于HMM-SVM 的减速器故障诊断针对某直升机的减速器，在输出转速2800r/min 和中间输出扭矩660Nm 的工作情况下，通过更换正常与故障零部件进行监测与诊断实验，振动信号由加速度传感器拾取，经电荷放大器放大，采样速率10kHz 。

分别测试正常、主动齿轮点蚀、主动齿轮裂纹、轴承滚动体局部剥落、轴承外环局部剥落时的振动信号，各测得得数据100组（共500组）,每组1024点，将每种状态的10组数据作为训练样本，所有样本用来检验。

基于HMM-SVM 的故障诊断过程主要有特征提取、训练模型、识别几个步骤。

2.1特征提取线性回归模型可以用来预测以前一个信号样本的线性组合作为下一个信号样本的值，下一个信号样本，n S -，是作为前一个样本的加权和。

12,,...,n n n p S S S ---,也可以表示为：则其传递函数为：n e 是确定下一个样本的预计值和实际值之间的残差，可以表示为：权重的计算可以通过残差均方值的最小化作为分析窗口。

机械系统的振动序列所表现的与线性回归模型中的下一个样本信号涉及先前样本P 的观察值相似。