一种改进Viterbi算法的应用研究

0引言
Viterbi 算法[1]作为隐马尔可夫模型[2~4]中的一个经典算法，能解决其第二个问题，序列问题，
即给定一个观察
1=、
=
2
,
…使
得在某种意义下它能最好地说明观察序列O ，即求可能性最大的状态序列。

该算法一般应用在任何与线性序列相关的现象上。

如：语音识别、脱机手写汉字的识别[5]、词性标注[6,7]及基因分析等。

而汉语短语的识别同样体现了这样的线性特点，在深入研究短语结构和Viterbi 算法的基础上，认为Viterbi 算法同样可以在短语定界问题上发挥优势。

1短语识别的HMM
1.1HMM 模型的建立
短语识别[8]的HMM 模型可描述为：对给定经过分词和词
性标注的文本
1/
2
/
=
2
|能最好地说明文本T 的短语构成情况，这正是HMM 的第二个问题：解码问题。

该模型中可观察序列是一对对词性标记对，隐藏状态是词性标记对两词性间的边界状态。

所以，短语识别的目标就是由词性对序列反推出最合理的边界状态序列。

用于短语识别的HMM 模型如下：
(1)N 为模型状态数：6个可能的短语边界标记(chunk_tag )如果不考虑空短语(即“[]”)和短语的嵌套(如“[[”，“]]”等)，则在一个词性对间有6种情况：①“[”，短语开始；②“]”，短语结束；③“][”，两个短语相邻；④“I ”，不是短语左右边界，且在短语内部；⑤“O ”，不是短语左右边界，且在短语外部。

⑥“N ”，一种不存在的状态，
引入的目的是为了使=1
和=1。

分
别用
2
、
4
、
6
表示。

(2
)ÊDz»
ͬµÄ¡£
一种改进Viterbi 算法的应用研究
李
荣1，郑家恒2
(1.忻州师范学院计算机系，山西忻州034000；2.山西大学计算机与信息技术学院，山西太原030006)
摘
要：为降低现代汉语句法分析的难度，以北大和哈工大语料为基础，利用改进的Viterbi 算法对汉语真实文本进行了短语识别研究。

提出了在隐马尔可夫模型(HMM )框架下，训练阶段依据统计概率信息，以极大似然法获取HMM 参数，识别阶段用一种改进的Viterbi 算法进行动态规划，识别同层短语；在此基础上，运用逐层扫描算法和改进Viterbi 算法相结合的方法来识别汉语嵌套短语。

实验结果表明，识别正确率在封闭测试中可达93.52%，在开放测试中达到77.529%，证明该算法对短语识别问题具有良好的适应性和实用性。

关键词：隐马尔可夫模型;Viterbi 算法;层次分析;短语识别;句法分析
中图法分类号：TP391
文献标识码：A 文章编号：1000-7024(2007)03-0530-02
Application study of improved viterbi algorithm
LI Rong 1,
ZHENG Jia-heng 2
(1.Department of Computer,Xinzhou Teacher's University,Xinzhou 034000,China;
2.School of Computer and Information Technology,Shanxi University,Taiyuan 030006,China )
Abstract ：To decrease the difficulty of syntax parsing,an improved Viterbi algorithm to recognize phrases in Chinese texts based on the corpus from Peking university and Harbin institute of technology is adopted.An efficient scheme for Chinese phrase recognition is pro-posed in the framework of hidden Markov model.In the tagging system,statistics probability information and maximum likelihood es-timation are used to get HMM parameters for training phase.An improved Viterbi algorithm for dynamic programming is presented to identify the same hierarchy phrase for identifying phase.Then the combination method of hierarchical syntax parsing and Viterbi algorithm is brought forward to identify those recursive phrases.The experimental results show that the precision rates of the phrase recognition in the closed test and the open test are 93.52%and 77.529%respectively,which proves that the algorithm has a better adaptability and practicability for phrase identification.
Key words ：hidden markov model;viterbi algorithm;hierarchical analysis;phrase recognition;syntax parsing
2007年2月计算机工程与设计
Feb.2007
第28卷第3期Vol.28
No.3
Computer Engineering and Design
收稿日期：2006-01-09
E-mail ：lirong_1217@
基金项目：山西省忻州师范学院科研基金项目(200623)。

作者简介：李荣(1974－)，女，山西原平人，硕士，讲师，研究方向为中文信息处理、人工智能；郑家恒，女，教授，研究方向为中文信息处理。

(3)初始分布和第一种随机过程：初始分布为
｝，
用极大似然法来确定：
训练语料中出现的总次数(4)第二种随机过程：
观察值输出矩阵
｝
在边界标记
状态输出第
训练语料中出现的总次数
(5)独立性：边界状态转移和各词性串构成的不同边界状态都是相对独立，不相互影响的。

上述模型可用图1来表示短语识别中6种边界状态的转移情况。

1.2非嵌套短语的Viterbi 应用1.
2.1
问题描述
短语的识别过程可转化为在词性对之间插入不同边界状
态符
,
最大的
=,
=
2
,
=2
*(最佳边界标记状态序列)
(1)初始化，
计算句首词性对的
的值；(a )句首词性对的6种可能边界状态概率值：
1
1
1
(5)=log 0.5+log
[
]+4；
1
(3)
=
1
(6)=0；
(b )句首词性对前无词性对，其前一状态记为0，
即
=max
1
1
]+l o g
[
]+4
计算到各时
刻最佳路径的概率权值；
(b )
用
６
[
+log
*=max
1
计算所选最佳路径上最后一词性对
的累计最大概率权值；
(b )
用
６
＋１
*1
*
，
=0)
then
=0・令
=
+log
=0)
or
1t h e n =0
・if (max
1
1
)=0)o r
(
=0)
t h e
n
=1；
(2)
确定当前观察值矩阵行
＝
＄
n p n v f u v #＄n p *f u v #＄
n p *u v #＄
n *u
v #＄n *#＄
*
#
时，若实际模拟值偏离rate_的程度可以忍受，此时可以近似认为rate_与
o o o o o
o o o o
o o o
o
o I
最终识别结果：[计算机/n[[在/p[[企业/n管理/v]中/f] ]的/u应用/v]]
2实验结果及分析
在实验中利用训练参数、。