隐马尔可夫模型

N n 次加法，总计算量为 (2n 1) N n 次，是很 次乘法，
难实现的。在实际计算中，可以采用前向算法或后向 算法来降低计算量。
前向算法：
定义前向变量： t (i) P(v1 ,vt , X t Si | ),
1 t n, Si S ；
表示 HMM 到 t 时刻为止，生成部分给定的观测序列为
HMM则认为模型的状态是不可观测 的（这是“隐”的由来）。能观测到的 只是它表现出的一些观测值 （observations）
例：隐马尔可夫链—观测三个硬币状态
O (o1o2 ...oT ) ( HHHTHHT...T )
a11 a12 1 a21 2 a22
a13
a31 3 a33
a32
a23
n 产生观测序列的路径共有 N 种。对于任意一条路径
X {X 1 , X 2 , X 3 ,, X i ,, X n } ，生成观测序列 v {v1 , v2 , v3 ,, vi ,, vn } 的
概率为:
X qX v pX X qX v pX
1 1 1 1 2 2 2
n 1 X n
q11 q 21 q N 1 q12 q22 qN 2 q1M q2 M q NM
QN M
记 HMM 为： (S , O, , P, Q) 或简写为 ( , P, Q) 。
(2)隐马尔可夫模型的参数
①状态总数 N ； ②每个状态对应的观测事件数 M ； ③状态转移矩阵 :
子B投出各个点的概率？赌场是何时偷换的骰子的）。
问题一：给定模型参数 ( N , M , A, B, ) 和观测序 列 O (o1o2 ...oT ) ，如何快速求出在该模型下，观测 事件序列发生的概率 P(O | ) ？
问题二：给定模型参数和观测序列，如何找出一个 最佳状态序列？ 问题三：如何得到模型中的五个参数？
如何解决三个基本问题
问题一：前向和后向算法（估计问题） 问题二： Viterbi算法 （解码问题）
问题三： Baum-Welch算法（学习问题）
1.评估问题（evaluation）
评估问题：是已知观测序列 v {v1 , v2 , v3 ,, vi ,}和模 型 ( , P, Q) ，如何计算给定模型的情况下，产生观测 序列 v 的概率 P(v | ) 。 路径：隐马尔可夫模型 P(v | ) 中从初始状态到终止状 态的一个彼此到达的状态序列，称为一个路径。也就是 马尔可夫链。
5 1/6 3/16
6 1/6 3/8
骰子作弊问题模型化： 作弊问题由 5 个部分构成： （1）隐状态空间 S (状态空间)：
S {正常骰子A，灌铅骰子 } ，赌场具体使用哪个骰子，赌 B
徒是不知道的。 （2）观测空间 O ：O {1,2,3,4,5,6} 。正常骰子 A 和灌铅骰 子 B 的所有六个面可能取值。
A {aij }
B {b j (k )}
④每个状态下取所有观测事件的概率分布 :
⑤起始状态 :
i
马尔可夫模型的图解： 假定观测序列为 v {v1 , v2 , v3 ,, vi ,} （可见） 。 假定隐马尔可夫链为， X {X1 , X 2 , X 3 ,, X i ,} （不可见） 。 马尔可夫链示意图如下：
我们将图对应到赌场作弊问题，以便深入理解隐马尔可夫 模型：
赌场作弊隐马尔可夫模型中，状态空间—观测空间示意图：
注： 隐马尔可夫模型中， X {X1 , X 2 , X 3 ,, X i ,} 是马尔可夫链，是隐蔽层，是不可观测 的，也称为状态链。 v {v1 , v2 , v3 ,, vi ,} 是观测到的序列，是一个随机序列，也 称为观测链。 因此，隐马尔可夫模型是有两个随机过程组成：即由状态 链（马尔可夫链）和观测链组成
隐马尔可夫模型
Hidden Markov Model Hidden Markov Model
思考题：
对给定的一定长度的DNA序列，识别其上CpG岛大致位的 方法。
两个问题： （1）给定一段DNA序列片段，判断它是否是 CpG岛？对应于Markov模型问题 （2）给定一段DNA序列，识别其中的CpG岛？ 对应于隐Markov模型问题
1 t n 1, Si S
表 示
HMM 在 t 时刻处于状态 Si 下， t+1 时刻到 n 时刻， 从 生成 部分给定的观测序列为 vt 1 ,vn 的概率。 算法流程： （1） 初始化：当 t=n 时，对某个 1 i N ，此时后向变量
n (i) 表示时刻 n 处于状态 Si ，由于到此为止全部观测 序列已经生成完成， 不管处于何种状态下一时刻即是结 束。因此：
i P{X 1 Si }
（1 i N ）
（4）隐状态转移概率矩阵 PN N ：
PN N p11 p 21 pN1 p12 p22 p1N p2 N p NN
pN 2
（5）观测值生成概率矩阵 QN M :
v1 ,vt ，并且 t 时刻处于状态 Si 的概率。
算法流程： （1） 初始化：当 t=1 时，对某个 1 i N ，此时前向变量 1 (i ) 表示初始时刻，生成一个观测变量 v1 ，状态处于 Si 的概 率，即: 1 (i) S qS v
i i 1
其中 Si 表示状态 Si 的初始概率， qSi v1 表示状态 Si 生成观测 值 v1 的生成概率。
二、隐马尔可夫模型中的三个基本问题
（1）评估问题（evaluation）：从骰子的数列中推断是 否使用了作弊骰子，如果知道使用了作弊骰子，那么在投 掷骰子的过程中出现这个序列的概率有多大。 （2）解码问题（decoding）：如果确实使用了作弊骰 子，这些序列中哪些点是由B投掷出来的。 （3）学习问题（Learning）：也称为参数训练问题，即 仅仅给出大量的数据点，如何从中推断出细节问题（如骰
N
t 1 (i) t ( j ) p S S q S v
j 1
j i
i t 1
（3）结束：当 t n 1 ，对某个 1 i N ，前向变量 n (i) 表 示到 n 时刻为止，生成全部给定的观测序列为 v1 , vn ， 并且 n 时刻处于状态 Si 的概率。即:
如此重复地做下去，这样便得到一个输出序列. 我们能够观测到的是这个输出序列—颜色符号 序列，而状态(篮子)之间的转移(状态序列)被隐 藏起来了.每个状态(篮子)输出什么符号(颜色)是 由它的输出概率分布(篮子中彩球数目分布)来随 机决定的.选择哪个篮子(状态)输出颜色由状态 转移矩阵来决定.
隐马尔可夫模型的示例—赌场欺诈问题：（本例来自戴培山等生物信息
主要内容

隐马尔可夫模型的基本概念 隐马尔可夫模型中的三个基本问题 隐马尔可夫模型的生物信息学应用— CpG岛识别
一、隐马尔可夫模型的基本概念
隐马尔可夫模型（hidden Markov
model , 记作：HMM）是马尔可夫模 型的进一步发展。其在生物信息学分 析中得到了广泛的应用。
（1）HMM的基本概念 马尔可夫模型主要是把一个总随机 过程看成一系列状态的不断转移，其特 性主要使用“转移概率”来表示。
隐马尔可夫模型的定义： 隐马尔科夫模型由以下五部分构成: （1）隐状态空间 S (状态空间)： S {S1 , S2 , S3 ,, S N } ，其中 N 为状态的数目。 （2）观测空间 O ： O {O1 , O2 , O3 ,, OM } ，M 为状态 对应的观测值的数目。 （3）初始状态概率空间 ： {1 , 2 , 3 ,, N } ， 其中
专题课件）
ቤተ መጻሕፍቲ ባይዱ
某赌场在投骰子，根据点数决定胜负。在多次投 掷骰子的时候采取了如下手段进行作弊：准备了 两个骰子A和B，其中A为正常骰子，B为灌铅骰 子，由于怕被发现，所有连续投掷的时候偶尔使 用一下B，A和B之间转换的概率如下：
A 和 B 之间相互转换的概率写成矩阵如下： 正常骰子 A 灌铅骰子 B 正常骰子 A 0.9 0.1 灌铅骰子 B 0.8 0.2 A 和 B 产生各观测值概率的区别为： 观测值 1 2 3 4 正常骰子 A 1/6 1/6 1/6 1/6 灌铅骰子 B 0 1/8 1/8 3/16
（2） 递推： 1 t n 1 ， 当 对某个 1 i N ， 前向变量 t1 (i) 表 示 到 t+1 时 刻 为 止 ， 生 成 部 分 给 定 的 观 测 序 列 为 v1 ,vt , vt 1 ，并且 t+1 时刻处于状态 Si 的概率。根据全概 率公式，其等于所有可能的 t ( j) 的基础上进行一步转移， 转移到状态 Si ，并生成观测值 vt 1 ，其中 1 j N ，即:
O (o1o2 ...oT ) ( HHHTHHT...T )
每个硬币代表一个状态;
每个状态有两个观测值: 正面 H 和反面 T;
每个状态产生H的概率：P(H);
每个状态产生T的概率为：1-P(H)
对比两个模型可见： 马尔可夫模型的观测序列本身就是 状态序列； 隐马尔可夫模型的观测序列不是状 态序列；
q X nvn
由于产生观测序列的路径共有 N 种，因此，观测序列 产生的概率为 N n 个路径各自产生观测序列的和，即
n
P(v | )
X1 ,X n

X1
q X1v1 p X1X 2 q X 2v2 p X n1X n q X nvn
但是，值得注意的是，这样的计算需要计算 2n-1
n (i) 1
（2）递推：当 1 t n 1 ，对某个 1 i N ，后向变量 t (i) 表示在 t 时刻处于状态 Si 情况下，从 t+1 时刻开始生成部 分给定的观测序列为 vt 1 ,vn 的概率。根据全概率公式， 其等于 t 时刻处于状态 Si 进行一步转移，转移到从 t+1 时 刻处于状态 S j ， 然后生成观测值 vt 1 ， 并从 t+2 时刻开始生 成部分给定的观测序列为 vt 2 ,vn ，其中 1 j N 。即: