基于笔段间关系的联机手写汉字HMM模型

ISSN 100020054CN 1122223 N 清华大学学报(自然科学版)J T singhua U niv (Sci &Tech ),2004年第44卷第7期2004,V o l .44,N o .713 369132916基于笔段间关系的联机手写汉字H MM 模型鲁　湛,　丁晓青(清华大学电子工程系,智能技术与系统国家重点实验室,北京100084)收稿日期:2003208225基金项目:国家“八六三”高技术项目(2001AA 114081);国家自然科学基金资助项目(60241005)作者简介:鲁湛(19752),男(汉),浙江,博士研究生。

通讯联系人:丁晓青,教授,E 2m ail :dingxq @tsinghua .edu .cn摘　要:为了提高联机手写汉字模型的空间结构描述能力和识别性能,从汉字的笔段关系出发,提出一种新的联机手写汉字模型,该文称之为属性关系M arkov 模型(A RHMM )。

A RHMM 以经典M arkov 模型(THMM )为基础,结合属性关系图对二维图形结构的描述特点,提出了一种直接描述状态间关系的新观测量,从而更充分地利用汉字的空间结构信息。

A RHMM 具有完整的参数训练方法和识别算法。

联机汉字识别的实验结果表明:A RHMM 联机汉字模型与THMM 联机汉字模型相比,在工整书写到自由书写的不同质量汉字样本上识别错误率均有所下降,平均错误率下降了23.65%。

关键词:信息处理;汉字识别;隐含M arkov 模型;联机汉字模型中图分类号:T P 391文献标识码:A文章编号:100020054(2004)0720913204H MM m odel for on l i ne handwr ittenCh i nese character recogn ition descr ib i ngthe correla tion s between segm en tsLU Zha n ,D I N G Xia oq ing(State Key Laboratory of I n telligen t Technology and Syste m s ,D epart men t of Electron ic Eng i neer i ng ,Tsi nghua Un iversity ,Be ij i ng 100084,Chi na )Abstract :T his paper p ropo ses a new type of h idden M arkov modelcalled the attributed relati on h idden M arkov model (A RHMM )w h ich com bines the advantages of the traditi onal HMM and the attributed relati on graph (A R G ).T he model uses new observati ons directly describing the co rrelati ons betw een the states w ith the o riginal observati ons,w h ile p reserving the HMM m athem atical structure .T he modified A RHMM learning m ethods and recogniti on algo rithm s are p resented .In an experi m ent w ith online handw ritten Ch inese character recogniti on,A RHMM w as utilized to describe the co rrelati onsbetw eenthecharactersegm ents .T heresultsdemonstrate that th is model perfo r m ed m uch better than a traditi onal HMM fo r all samp les w ith different qualities .Key words :info rm ati on p rocessing;Chinese character recogniti on;h idden M arkov model;online handw ritten Ch inesecharacter model联机手写汉字是一类同时带有时间和空间结构信息的特殊模式。

经过多年的发展,出现了许多联机汉字描述模型和识别算法。

隐含M arkov 模型(HMM )就是其中比较成功的一个例子,它能够将统计和结构方法结合起来,较好地利用联机汉字中的时间和空间信息,因此取得了不错的识别效果[16]。

HMM 把联机书写过程看作是一个M arkov 过程,对笔段状态的转移(即笔顺)建立转移概率模型;用对单个笔段的观测值的概率分布描述汉字的空间结构,一般假设各个不同笔段状态之间的观测分布互相独立。

这种方法的缺陷是,受观测值独立分布和M arkov 性假设所限,对汉字二维空间结构信息的利用并不充分,表现为HMM 模型不允许直接利用不相邻笔段间的特征相关性,同时过于依赖不稳定的笔顺时间信息。

另一种方法,图文法,则具有较强的描述汉字二维空间结构的能力。

比如属性关系图(A R G )模型[7,8]既包含了各笔段的数值属性,又能够反映汉字中各笔段间的结构关系。

但是,A R G 在应用中存在许多缺点,笔段需要在匹配之前事先分割提取,距离测度缺乏概率统计依据,没有可靠的参数训练算法。

以上两种方法具有相当大的互补性。

本文提出一种改进的HMM 模型——属性关系HMM (A RHMM ),把A R G 的二维描述优点引入到HMM 模型中,更好地描述和识别联机手写汉字。

其要点在于放宽经典HMM 模型的两个假设,参照A R G 的二维描述特点,提出一种新的笔段间观测量描述状态的二元关系。

设计了一个描述笔段间二维空间结构关系的参数模型,并提出新的A RHMM参数估计方法和搜索算法。

1　笔段间空间结构关系的统计参数模型A R G 模型对笔段间关系的描述往往停留在符号层次上,典型的作法是利用人的知识对笔段间位置关系人工编码成若干类。

这样的描述既缺乏严格的概率基础,不能进行统计训练,又很难从理论上定义最优的距离测度,而且符号判定的鲁棒性也严重不足。

因此需要通过统计的方法,用数值属性描述两个笔段的空间位置关系[2,9],从而定义一个完整的参数模型。

描述两个笔段所必需的自由参数的个数是8,也就是只需要用4个端点的x 、y 坐标就可以完全确定两个笔段。

在这8个自由参数中,包含了笔段间的关系信息和整体信息。

因为前者无法直接给出恰当的定义,所以首先定义整体信息,除此之外的则认为是关系信息。

整体信息定义如下:1)整体的坐标偏移;2)整体的大小;3)整体的旋转角度。

定义整体的坐标偏移代表笔段对结构所在的位置,自由参数个数为2。

整体的大小显然与笔段间关系无关。

整体的旋转是指笔段对结构旋转某个角度,如“+”和“×”,在本文中也设定为整体信息。

通过以上的定义,从8个自由参数中剥离出整体信息,留下的就是关系信息。

举例来说,设两个笔段的坐标为:(x 1s ,y 1s ),(x 1e,y 1e ),(x 2s ,y 2s ),(x 2e ,y 2e ),去掉上述定义的整体信息并进行坐标变换之后,新的坐标为:(0,0),(1,0),(x ′2s ,y ′2s ),(x ′2e ,y ′2e )。

如图1所示。

图1　线段对的坐标变换因为通过坐标变换计算关系的算法比较繁琐,并且坐标数据的独立性不好,不够直观,所以重新设计了另外4个计算上完全等效的描述量:1)r 1:两个笔段方向的差Ηd ;2)r 2:两个笔段中点连线的方向Ηm ;3)r 3:两个笔段长度之比L 1 L 2;4)r 4:两个笔段中点连线长度与笔段长度和之比L m(L 1+L 2)。

综合以上内容,定义线段对关系模型(segm en t p air co rrelati on m odel ,SPC M )参数为一个4维向量R =(r 1,r 2,r 3,r 4)T ,并假设在书写没有发生太大变形的条件下该向量满足Gau ssian 分布,其概率密度函数为p (R )=14Π221 2exp -12(R -Λ)T 2-1(R -Λ),(1)其中Λ和2分别是Gau ssian 概率分布的均值向量和协方差矩阵。

从以上参数定义可知,SPC M 模型描述的是有向关系:R 12≠R 21。

SPC M 的参数具有可反向计算性,仿射变换不变性和可传递计算性。

SPC M 模型是一个典型的统计参数模型,具有严格的概率基础和距离测度定义,参数的计算和训练都很容易,因而能够方便地嵌入到同为统计处理方法的HMM 模型中去。

2　属性关系隐含M arkov 模型经典H M M 得到的观测值只有与各笔段状态相关的帧观测序列O =O 1O 2…O T ,而现在在各个不同笔段帧之间还能得到一个帧间关系观测序列R =R 1,2R 1,3…R T -1,T。

与O t 不同的是,R Σ,t 不仅与时刻t的状态q t 有关,还与时刻Σ的状态q Σ有关。

虽然在真实的随机过程中O 与R 显然并不独立,但为降低模型复杂度,不妨假设所有的R Σ,t 之间以及R Σ,t 与O t 之间都是统计独立的。

这就放宽了经典HMM 的观测值独立性假设,得到的好处是能够为估计隐含M arkov 过程提供更精确的结构描述信息。

A RHMM 模型标记为Κ=(A ,B ,C ,Π),其中A 为状态转移概率分布,B 为单个状态的观测值概率分布,C 为两个状态相关时的关系观测量概率分布,Π为初始状态概率分布。

显然,经典HMM 可以看作是A RHMM 的简化形式。

本文的目标是通过对观测序列O 与R 的研究来估计隐含的状态序列及其特性。

若要将A RHMM 应用于模式识别,则需要解决3个基本问题:1)给定观测序列O =O 1O 2…O T 和R =R 1,2R 1,3…R T -1,T ,以及模型Κ=(A ,B ,C ,Π),有效计算P (O ,R Κ)。

假设O代表观测序列O 和R ,根据A RHMM 的模型假设和全概率公式,有419清华大学学报(自然科学版)2004,44(7)P (O Κ)=∑all Q P (OQ ,Κ)P (Q Κ),其中:P (O Q ,Κ)=∏Tt =1bq t(O t )∏Tt =2∏t -1Σ=1cq Σq t(R Σ,t ),P (Q Κ)=Πq 1a q 1q 2a q 2q 3…a q T -1q T. 在简单情况下,即当R 中只有相邻帧的关系观测量R t -1,t 时,利用前向后向算法[6],可以方便地计算出P (OΚ)。