基于连续隐Markov模型的发酵过程关键状态变量软测量

1 ≤i ≤N， （ 2） π i = P （ q1 = S i ） ， 式中： π i 为在 t = 1 时刻处于状态 S i 的概率． 2） A = ［ a ij］ 其分量为 N × N 为态转移概率矩阵， a ij = P （ q t + 1 = S j | q t = S i ） ， 1 ≤i ， j≤N， 式中： a ij 为从状态 S i 转移到 S j 的概率． 矩阵， 其分量为
q1 ， q2 ， …， qt － 1
max
P （ q1 ， q2 ， …， qt ， qt = （ 5）
Si ， o1 ， o2 ， …， o t | λ） ， 然后进行如下 3 步： 1 ） 初始化， 即 δ1 （ i ） = π i b i （ o1 ） ； 2 ） 递归， 即 δ t （ j） = max（ δ t － 1 （ i） a ij b j （ o t ） ） ；
3 ） 终结， 即 P （ O | λ ） = max（ δ T （ i） ） ．
i
2
基于 CHMM 的软测量建模
参数重估公式修正 在 CHMM 的实际应用中， 需要解决 模 型 参 数
430
江苏大学学报（ 自然科学版）
参数重估公式修正为
K k ξ1 （ i ） ∑ k =1
第 32 卷
A， B｝ 的训练问题， 经典 BaumWelch 算法是 λ = ｛ π， 常用的一种 CHMM 学习算法， 其中参数重估公式是 假定在一个观测矢量序列条件下推导出来的
M M
（ 3）
3） B = ［ b i （ o t） ］ N × T 为观测矢量概率密度函数 bi （ ot ） = exp c im b im （ o t ） ∑ m =1 c im ∑ m =1 1 2 πU im 槡
=
× （ 4）
，
{
近年来又成功运用在机械故障诊断领域［7 － 8］， 逐渐 成为了模式识别领域的主要研究方向． HMM 根据 观测序列的不同分为 2 类： 离散 HMM （ DHMM ） ［5］ 和连续 HMM（ CHMM） ［9］． 文中拟综合考虑生物发酵过程的时序性与多模 型建模方法， 提出一种基于 CHMM 的生物发酵过程 关键状态变量软测量方法； 研究多观测样本序列的 CHMM 软测量模型参数训练方法， 并对传统 BaumWelch 参数重估公式进行修正； 将所提方法应用于 红霉素发酵过程菌体质量浓度软测量， 并与 ANN 软 测量建模方法做对比仿真试验．j Nhomakorabea1
CHMM 基础理论
CHMM 是一种用于描述随机过程概率统计特
性的概率分类统计模型， 它由 Markov 链演变而来． 其基本要素是一系列可相互转移的有限隐状态集 合， 记为 S = ｛ S1 ， S2 ， …， SN ｝ ， 这些状态的转移可间 接地通过观测矢量序列（ 记为 O = ［ o1 ， o2 ， …， oT ］ ） 来描述． CHMM 建模方法通过样本在模型内的输出概 2． 1
［5 － 6 ］
P（ O | ∑ Q
Q， λ） =
∑
（ π q1 b q1 （ o 1 ） ） （ a q1 q2 b q2 （ o 2 ） ） … （ a q T － 1 q T × bqT （ oT ） ） ． （ 1）
式 1 中的各子项， 意义如下所述：
T 1） π = ［ …， π1 ， π2 ， π N］ 为初 始 概 率 分 布 向 量， 其分量为
－ （ o t － μ im ） Τ （ o t － μ im ） ， 2 U im
}
式中： b i （ o t ） 为状态 S i 时输出观测矢量 o t 的概率密 度函数， 通常采用混合高斯概率密度函数表示； M 为混合高斯数； c im ，μ im ， U im 分别为状态 S i 中第 m 列 混合高斯 密 度 的 混 合 权 重， 均值向量和协方差矩 阵［10］． CHMM 模型可以简记为 λ = ｛ π， A， B｝ ． 建模时， 输出概率 P （ O | λ ） 可由 Viterbi 算法［5］ 实现． 首先定义 δ t （ i ） 为 t 时刻沿一条路径 q1 ， q2 ， …， q t （ 且 q t = S i ） 产生 o1 ， o2 ， …， o t 的最大概率， 即 为 δ t （ i） =
第4 期
刘国海等： 基于连续隐 Markov 模型的发酵过程关键状态变量软测量
生物发酵过程是一复杂、 不确定的非线性动态
429
率来衡量样本到模型的相似度． 设 t 时刻 Markov 链 所出状态为 q t ， q t ∈ ｛ S1 ， S2 ， …， S N ｝ ． 观测矢量序列 O 在模型 λ 内的输出概率 P （ O | λ ） 为在模型 λ 条件 q1 ， q2 ， …， q T］ 下观测矢量序列 O 和状态序列 Q = ［ 同时发生的联合概率， 即为 P（ O | λ） =
q1 ， q2 ， …， qT
过程， 菌体质量浓度是其中一个关键状态变量， 由于 实际工艺技术和成本等原因， 难以进行在线精确测 量， 一般是通过离线分析得到． 但离线分析方法采 数据滞后大， 难以满足发酵过程监测 样间隔时间长、 和控制要求
［1 ］
． 近年来， 软测量技术以其能实现对
不可测 或 难 测 变 量 在 线 估 计 的 优 势 而 被 广 泛 应 用［2 － 4］． J． C． B． Gonzaga 等［2］介绍了基于人工神经 网络（ artificial neural networks， 简称 ANN ） 的软测量 建模方法及其应用， 但是该方法仍然存在收敛速度 慢、 过拟合和难以确定隐层神经元个数的缺点． 基 于回归分析的软测量建模方法是一种经验建模方 然 法， 其中部分最小二乘法（ PLS ） ［3］最为广泛应用， 而 PLS 算法本质上是一种线性方法， 因此只能适用 于线性对象或弱非线性对象． Li Yonggang 等［4］ 介 绍了基于 SVM 的软测量建模方法及其应用， 但对于 非线性比较强的系统， 该方法存在算法计算量大和 难以进行在线训练的问题． 然而， 这些软测量建模方 法仍存在一个共同的不足点， 那就是都无法实现对 时序事件序列进行建模． 隐 Markov 模型（ HMM） 是一种可用于动态过程 时间序列建模的概率统计模型． HMM 创建于 20 世 纪 70 年代， 随后被广泛应用于语音识别领域
Abstract： To solve the online detection difficulty of the key state variables in fermentation process with instruments， a soft sensing modeling method which was based on continuous hidden Markov model （ CHMM） was proposed． In order to improve the robustness of CHMM，multiobservation training sample sequences were adopted to train the CHMM， and the modified BaumWelch parameters revaluation formula was used to optimize the parameters of CHMM． The new observation vector was inputed into the CHMM model library，and the emission probability of each CHMM in the model library was calculated by Viterbi algorithm． The soft sensing result was obtained by computing the weighted average． The proposed modeling method was applied to the soft sensing modeling of cell concentration in the erythromycin fermentation process． The modeling and simulation were also complished． The results show that the CHMM soft sensing model has high prediction accuracy of cell concentration for fermentation process，which is better than that of artificial neural networks soft sensing model． Key words： fermentation process； biomass concentration； soft sensor； continuous hidden Markov model； modeling method
Soft sensing of key state variables based on continuous hidden Markov model for fermentation process
Liu Guohai，Jiang Xingke，Mei Congli
（ School of Electrical and Information Engineering，Jiangsu University，Zhenjiang，Jiangsu 212013 ，China）
收稿日期： 2010 － 06 － 10 基金项目： 国家 “863 ” 计划项目 （ 2007AA04Z179 ） 作者简介： 刘国海（ 1964 —） ， 男， 江苏高邮人， 教授， 博士生导师（ ghliu@ ujs． edu． cn） ， 主要从事电机控制、 生物发酵控制等研究． 江兴科（ 1985 —） ， 男， 福建龙岩人， 硕士研究生（ jxk85@ 126． com） ， 主要从事生物发酵软测量建模研究．