隐马尔科夫模型(原理图解)

A转移概率矩阵
E
法
a0N
aN1 aN2 (4) a 1 04 SN S3 aNN S 4 a05
1 (5)
O1 S5 O 2
a32 2 (4) SN a33
S4
3 (4)
SN
a32T (4) a33 S SN
4
aT4
aT5
BN *M
2 (5)
S5 O 3
3 (5)
S5 OT-1
T (5)
t=3
O4
2
t=4
NT
| )
N
共 N T 个可能路径（指数级计算） N P(O| ) T (k)ak 0 t (k ) t 1 (l )alk bk (ot ) k 1 l 1
N=5, T=100, => 计算量10^72
山东大学高性能计算与大数据处理学科组
2. 概率计算问题：前向算法（Forward Algorithm） 问题1：给定观察序列O=O1,O2, …,OT,以及模型λ=(π,A,B),如何计算P(O|λ)？ 初始化阶段(t = 1)
1
中间递归阶段（t = 2,…,T）
t-1 t T
结束阶段
T (1)
a10
S1
1 (1)
…… ……
参数学习问题
3
总结
7
山东大学高性能计算与大数据处理学科组
1. 隐马尔可夫模型-全概率计算 问题1：给定观察序列O=O1,O2, …,OT,以及模型λ=(π,A,B),计算P(O|λ)？
t=1
Π：初始概率向 量
1 (1)
t=2
2 (1)
t=3
3 (1)
S1
t=T-1
T (1)
t=T
T
S1
1 (1)
……
b1 (o1 )
S1
t (1)
ak 1
S1
t +1 (1)
b1 (ot 1 )
...… ...… ...… ……
后退
S1
T (1)
a10 ak 0
a N 0
0
a01
0
…
…
…
…

1 (k )
t (k )
a0k
a0 N
Sk
……
bk (o1 )
Sk

t +1 (k )
T (k)
Sk
ak k ak N
Sk
…
…
…
1 (N)
bN (o1 )
O1
P(O | ) a0k bk (o1 )1 (k )
k 1 N
…
SN
bk (ot 1 )
……
SN
SN
SN
t (N)
t +1 (N)
bN (ot 1 )
T (N)
Ot
后退
N
Ot+1
OT
t-1时刻
5
P(qt S j | qt 1 Si , qt 2 Sk ,) P(qt S j | qt 1 Si )
qt
t时刻
q1
T=1
q2
T=2
q3
T=3
…
qt-1
t-1时刻
qt
t 时刻
山东大学高性能计算与大数据处理学科组
5. 隐马尔可夫模型(Hidden Markov Models,HMM)
S2 2
a32 a33
S3 3
S3
S3源自文库
S3
b2(Q3)
生成概率
b3(Q4) Q4 Q1
b1(Q1)
b1(Q1) Q1
b2(Q2) O2
II-观察序列
Q3
•
从某时刻状态到下时刻的状态按一定概率转移
•
下时期状态只取决于当前时期状态和转移概率
aij P(qt S j | qt 1 Si )
qt-1
A转移概率矩阵
S2 2
SN
…
O1
O2
…
S3 N
SN
M
BN *M
OM
OM
O3 b1M OT-1 b11 b12 b b b2 M 21 22 b O 2 NM bN 1 bN OM M
…S2
…S 3
S4
a12T (2)
S2
aT1
AN *N
aT2 a21 z S 3 (3) S2 a22 T (3) S 2 2 aT3 a23
S3
a11 a12 a1N a a a 2 N 21 22 a a a NN N 1 N 2
S5 OT
b11 12 1M b b b2 M 21 22 bNM bN 1 bN 2
后 向 算 B生成概率矩阵 法 b b
H M M
… … … …
Q Q1 1 Q2
Q1 Q2 一般随机过程 观察状态序列
…
…
QM
t=2
…
QM
t=3
…
QM
t=T-1
…
QM
t=T
…
4
山东大学高性能计算与大数据处理学科组
4. 隐马尔可夫模型(Hidden Markov Models,HMM)
一阶隐马尔可夫模型（Hidden Markov Models）图解
晴
阴
a21 S2 a22 a23 a31
S3
a21 S2 a22 a23
a21 S2 a22 a23
a21 S2 a22 a23
S2
雨
a32 a33
S3
a32 a33
S3
a32 a33
S3
a32 a33
S3
•
从某时刻状态到下时刻的状态按一定概率转移
•
下时期状态只取决于当前时期状态和转移概率
aij P(qt S j | qt 1 Si )
隐马尔可夫模型原理图解
Hidden Markov Models
提 纲
1 2
Markov Model Model Hidden Markov
隐马尔科夫模型的三个问题
概率计算问题
路径预测问题
参数学习问题
3
总结
1
山东大学高性能计算与大数据处理学科组
1马尔可夫模型
马尔可夫模型是数学中具有马尔可夫性质的离散时间随机过程，是用于描述随机
……
SN
aN ,1
S1
一条马尔可夫链
2
山东大学高性能计算与大数据处理学科组
2. 一阶马尔可夫模型概念
一阶马尔可夫模型（Markov Models）
t=1 系统状态数目(N=3)
t=2
t=3
t=4
t=5
S1
a11 a13 a12
S1
a11 a12
S1
a11 a12
S1
a11 a12
S1
S1 S2 S3
E
A转移概率矩阵
a0N
…
1 (4)
S4S
…
N
2 (4)
S4S
…
3 (4)
S4S
…
T (4)
S4 S
…
B生成概率矩阵
SN a05
N
N
N
a5-0
1 (5)
S5
？S
2 (5)
5
3 (5)
S5
T (5)
9
山东大学高性能计算与大数据处理学科组
3. 概率计算问题：后向算法（Forward Algorithm） 问题1：给定观察序列O=O1,O2, …,OT,以及模型λ=(π,A,B),如何计算P(O|λ)？ 结束阶段
1
中间递归阶段（t = T-1,…, 2,1）
t t+1
初始化阶段(t = T)
S S3 2
3 (3)
S3 S2
T (3)
S3
S S3 2
z S S 2 2
a3-0 a4-0
a11 a12 a1N a a a 2 N 21 22 a a a NN N 1 N 2
3
总结
11
山东大学高性能计算与大数据处理学科组
1.隐马尔可夫模型-路径预测
问题2：给定观察序列O=O1,O2, …,OT,以及模型λ,如何推测最可能的状态序列S ?
1 (1)
t=1
Π：初始概率向 量
2 (1)
S1t=3
3 (1)
T (1)
S1 t=2
St=T-1 1
S1t=T
S1
a01 a02
一阶隐马尔可夫模型（Hidden Markov Models）数学定义
t=1
t=2
t=3
t=T-1
t=T
S1
S1
S S1 1
…
S1 1
S1
N
π
S2 2
S2
AN *N
a11 a12 a1N a aS2 … S2 a2 N 21 22 a a a NN N 1 N 2
1 (2) S
S2
1
2 (2)
S2
S1
3 (2)
a01
…
…
S2
S1 1
T (2) S
S2
1
a1-0 a2-0
AN *N
a01 a π 02 viterbi 算法 a0 N
a02
B
S2
a03
aN1 a04
1 (3)
2 (3)
t=1
转移概率
t=2
t=3
t=4
t=5
S1
a11 a13 a12
S1
a11 a12
S S1 1
a11 a12
S1 1
a11 a12
S1
I-隐藏状态
a21 a22 S2 2 a23 a31
S3
a21 S2 a22 a23 a32 a33
a21 S2 a22 a23 a32 a33
a21 S2 a22 a23 a32 a33
过程统计特征的概率模型。
t=1 t=2 t=3 t=T-1 t=T
S1 S1 S2 S2 S3 S3 S2 S1 S1 S2 S3
…
… …
S1 S2 S3
S1 S1 2 S3
a23
S3
a31
状态序列=观测序列
aN 1
系统状态数目(N个)
…
SN
S2
…
SN
…
SN S3
…
SN
…
…
…
SN
SN
a23
a31
S1
qt-1
t-1时刻
P(qt S j | qt 1 Si , qt 2 Sk ,) P(qt S j | qt 1 Si )
qt
t时刻
q1
T=1
q2
T=2
q3
T=3
…
qt-1
t-1时刻
qt
t 时刻
3
山东大学高性能计算与大数据处理学科组
3. 隐马尔可夫模型
t=1 t=2 t=3 t=T-1 t=T
S1
a11
S1 S1
a11
S1 S1
a01
a (2) a 01 12 1 a13
S2
a12 2 (2)
S2
3 (2)
S1
a11
S1 S1
a01 a 前 02 向 a 0N 算
π
a02
B
aa a21 21 02 S2 a22 (3) S2 a22 2 (3) S2 1 a23 a23 a03 S3 S3
SN
t (N)
……
bk (ot )
a N 0
SN T (N)
O1
Ot-1
Ot
……
OT
P(O| ) T (k)ak 0
k 1 N
前进
N t (k ) t 1 (l )alk bk (ot ) l 1
前进
N=5, T=100, => 计算量3000
P(O | )
1 (k ) a0k bk (o1 )
8
…
问题本质：计算产生观测序列O的所有可能的状态序列对应的概率之和
QST
…
…
…
…
…
Pr(O,Q | )= Pr(O, 路径Q |)+Pr(O, 路径Q |)++Pr(O, 路径Q
t=1 t=2
1
O1
O2
O3
B生成概率矩阵
…
…
…
…
SN
SN
OT
…
HMM模型五元组表示：λ ＝（ N, M, π , A, B）用来描述HMM，或简写为 λ =(π , A, B)
6
…
…
…
…
OM
…
山东大学高性能计算与大数据处理学科组
提 纲
1 2
Hidden Markov Model 隐马尔科夫模型的三个问题
概率计算问题
路径预测问题
S1
t 1 (1)
a1k ak k
S1
t (1)
…… ……
S1
a01
0
…
Sk
…
…
t (k )
a0k
a0 N
1 (k )
Sk

Sk
Sk
ak 0

0
P(O | )
…
bk (o1 ) 1 (k ) a0k
…
SN
…
……
bk (o1 )
aN k
1 (N)
SN
t 1 (N)
t (k ) ak l bl (ot 1 )t 1 (l )
l 1
T (k ) ak 0 bk (oT )
10
山东大学高性能计算与大数据处理学科组
提 纲
1 2
Hidden Markov Model 隐马尔科夫模型的三个问题
概率计算问题
路径预测问题
参数学习问题
S1
隐 藏 状 态
S1 S2
S1 S2
S1 S2 S3
… …
S1 S2 S3
S1 S1 2 S3 马儿科夫过程 隐藏状态序列
S2 S3
a23
S3 S3
a31
… …
Q1
观 测 状 态
Q2
QM QM
t=1
…
SN
aN 1
Q Q1 1 Q2
…
SN
Q1 Q2
…
SN
状态序列≠观测序列
Q1 Q2
…
SN
…
SN
…
SN