7-研-HMM

j 1 ij
M

当Pij(m,m+1)与m无关时，称马尔科夫链为齐次马 尔科夫链，通常说的马尔科夫链都是指齐次马尔科 夫链。
HMM概念


HMM的状态是不确定或不可见的，只有通过观测 序列的随机过程才能表现出来 观察到的事件与状态并不是一一对应，而是通过 一组概率分布相联系 HMM是一个双重随机过程，两个组成部分： – 马尔可夫链：描述状态的转移，用转移概率 描述。 – 一般随机过程：描述状态与观察序列间的关系， 用观察值概率描述。

初始状态空间的概率分布
初始时选择某口缸的概率
HMM实例：硬币赌博

观测值：正面(H Head)、反面(T Tail) 硬币： 真(F Fair)、假(B Bais)
HHHHTTTTHHTTHTTTTHHH… FFFFBBBBFFFFBBBBFFFFF…
HMM的基本要素-示例
HMM的基本要素-示例
课堂作业
算法设计与分析
北京交通大学计算机学院
李清勇
E-mail: qingyongli@ Tel: 51688603 主校区: 9号楼 北314
引言
Urn 3
Urn 2 Urn 1
Veil
Observed Ball Sequence
引言

设有N个缸，每个缸中装有很多彩球，球的颜色由一组 概率分布描述。实验进行方式如下
HMM组成
Markov链 （, A）
状态序列 q1, q2, ..., qT
随机过程 （B）
观察值序列 o1, o2, ..., oT
HMM的组成示意图
HMM模型的假设
假设1：有限历史假设 p(qi|qi-1…q1) = p(qi|qi-1) 假设2：齐次性假设（状态与具体时间无关） p(qi+1|qi) = p(qj+1|qj)，对任意i,j成立 假设3：输出独立性假设（输出仅与当前状态有 关） p(O1,...,OT | q1,...,qT) = Π p(Ot | qt)
T (i) 1 t T 1
N j1
–
t (i) aijb j (Ot 1 ) t 1 ( j ) t T 1, T 2,...,1,1 i N
P(O / ) 1 (i )
i 1 N
–
HMM解码：Viterbi算法

目的：给定观察序列O以及模型λ,如何选择一个对

2 递归： t ( j ) 1max [ t 1 (i)aij ]b j (Oi ), t N ,1 i M
1i M
jM
t ( j ) arg max [ t 1 (i )aij ], t T ,1 j M 2

终结：
P* max [ T (i )])
解决问题1 —基础方法
P(O / )

所有S
P(O / S , ) P(S / )
M=5, N=100, => 计算量5^100
解决问题1 — 前向法

定义前向变量 t (i) P(O1 , O2 ,Ot , qt i) t N 1
–
初始化： (i) b (O ) t N 1 1 i i 1
应的状态序列Q ，使得Q能够最为合理的解释观察 序列O？

多种最优化准则。最典型的是最大化 P(Q|O)，等价 于最大化 P(Q,O)。

M和T分别为状态个数和序列长度
Viterbi示意图
O1 Q1 O2 O3 O4 O5 O6
t (i)
Q2
t (i)
Q3
q4
t1 ( j )
状态表示
1 递归： t 1 ( j ) [ t (i)aij ]b j (Ot 1 ) t T 1,1 j M
i 1 M
–
– –
终结： P(O / ) T (i) i 1 时间复杂度O(T*M^2)
N
前向法示意图
α tM
qM . qi . qj . . q1

马尔科夫链

时间和状态都离散的马尔科夫过程称为马尔科夫链 记作{Xn = X(n), n = 0,1,2,…}
–
在时间集T1 = {0,1,2,…}上对离散状态过程的相继观察的结果

链的状态空间记做I = {a1, a2,…}, ai∈R. 条件概率Pij ( t ,t+1)=P{Xt+1 = aj|Xt = ai} 为马氏链在时刻t处于 状态ai条件下，在时刻t+1转移到状态aj的转移概率。
1i M * qT arg max [ T (i )] 1i M

求S序列：
qt* t 1 (qt*1 ), t T 1, T 2,...,1
参考文献

Lawrence R. Rabiner, A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition. Proceedings 1989.
–
–
–
根据初始概率分布，随机选择N个缸中的一个开始实验 根据缸中球颜色的概率分布，随机选择一个球，记球的颜色 为O1，并把球放回缸中 根据描述缸的转移的概率分布，随机选择下一口缸，重复以 上步骤。

最后得到一个描述球的颜色的序列O1,O2,…，称为观 察值序列O。
引言
在上述实验中，有几个要点需要注意：
不能被直接观察缸间的转移 从缸中所选取的球的颜色和缸并不是 一一对应的 每次选取哪个缸由一组转移概率决定

引言

语音识别，词性标注，汉语分词 基因序列分析


计算机视觉（手语识别，字符识别）
天气预报 ……

马尔可夫性

如果一个过程的“将来”仅依赖“现在”而 不依赖“过去”，则此过程具有马尔可夫性, 或称此过程为马尔可夫过程 X(t+1) = f( X(t) )
ti
aMj aij
t1 ( j )
a1j
t1
1 Q1
... ...
t Qt
t+1 Qt+1
... ...
解决问题1 — 后向法

与前向法类似 定义后向变量 t (i) P(Ot 1 , Ot 2 ,OT , qt i / ) t T 1 1
–
初始化： 递归： 终结：
转移概率矩阵
晴天 阴天 下雨
晴天 晴天 0.50
阴天 0.25 0.25
下雨 0.25 0.375
阴天 0.375
下雨
0.25
0.125
0.625
转移概率矩阵(续)

由于链在时刻m从任何一个状态ai 出发，到另一时 刻m+1，必然转移到a1 ，a2…，诸状态中的某一个， 所以有
P (m, m 1) 1 i 1,2,...M
HMM可解决问题



问题1：给定观察序列O=O1,O2,…OT,以及模 型 λ=(π, A, B), 如何计算P(O)？ 问题2：给定观察序列O=O1,O2,…OT以及模型 λ,如何选择一个对应的状态序列 S = q1,q2,…qT，使得S能够最为合理的解释观察序 列O？ 问题3：如何调整模型参数 λ=(π, A, B) , 使得 P(O|λ)最大？
HMM的基本要素

用模型五元组 λ ＝（ Ω , Σ , π ，A，E）用来描述 HMM，或简写为 λ =(π ，A，E)
参数 含义 状态集合 总数M 观察值集合 总数C 缸 彩球 实例
Ω Σ
A E
与时间无关的状态转移概率矩 在选定某个缸的情况下，选择 另一个缸的概率 阵 给定状态下，观察值概率分布 每个缸中的颜色分布
定义：
t(i )
max P(O q q
1
1
Ot ,qt i )
N (i )
,... t 1
我们所要找的，就是N时刻最大的 个状态序列
所代表的那
Viterbi算法

1 初始化： 1 (i) i bi (O1 ), i N
1 (i) 0, i N 1