第12讲隐马尔科夫模型

第12讲:隐马尔科夫模型--HMM 余正涛郭剑毅李玉惠李勇苏磊范玉刚等昆明理工大学信息工程与自动化学院大纲�HMM的由来�马尔可夫性和马尔可夫链�HMM实例�HMM的基本概念�HMM的三个基本问题及解决方法�HMM的应用�HMM模型扩展HMM的由来�1870年,俄国有机化学家Vladimir V. Markovnikov第一次提出马尔科夫模型�马尔可夫模型�马尔可夫链�隐马尔可夫模型马尔可夫性�如果一个过程的“将来”仅依赖“现在”而不依赖“过去”，则此过程具有马尔可夫性,或称此过程为马尔可夫过程�X(t+1) = f( X(t) )马尔科夫链�时间和状态都离散的马尔科夫过程称为马尔科夫链记作{X n = X(n), n = 0,1,2,…}�在时间集T 1 = {0,1,2,…}上对离散状态的过程相继观察的结果�链的状态空间记做I = {a 1, a 2,…}, a i ∈R. �条件概率P ij ( m ,m+n)=P{X m+n = a j |X m = a i } 为 马氏链在时刻m处于状态a i 条件下，在时刻m+n转移到状态a j 的转移概率。

马尔科夫链--转移概率矩阵晴天下雨阴天晴天阴天下雨0.25晴天0.50 0.250.50 0.25 0.25阴天0.375 0.25 0.375下雨0.25 0.125 0.625马尔科夫链--转移概率矩阵续�由于链在时刻m从任何一个状态a i 出发，到另一时刻m+1，必然转移到a 1，a 2…，诸状态中的某一个，所以有�当P ij (m,m+1)与m无关时，称马尔科夫链为齐次马尔科夫链，通常说的马尔科夫链都是指齐次马尔科夫链。

Mi m m P M j ij,...2,11)1,(1==+∑=HMM实例1Observed Ball Sequence Urn 3Urn 1Urn 2VeilHMM实例1——描述�设有N个缸，每个缸中装有很多彩球，球的颜色由一组概率分布描述，实验进行方式如下:�根据初始概率分布，随机选择N个缸中的一个开始实验。

�根据缸中球颜色的概率分布，随机选择一个球，记球的颜色为O，并把球放回缸中。

1�根据描述缸的转移的概率分布，随机选择下一口缸，重复以上步骤。

�最后得到一个描述球的颜色的序列O1,O2,…，称为观察值序列O。

HMM实例1——约束�在上述实验中，有几个要点需要注意：�不能被直接观察缸间的转移�从缸中所选取的球的颜色和缸并不是一一对应的�每次选取哪个缸由一组转移概率决定HMM实例2：硬币赌博�观测值：正面(H Head)、反面(T Tail)�硬币： 真(F Fair)、假(B Bais)HHHHTTTTHHTTHTTTTHHH…FFFFBBBBFFFFBBBBFFFFF…HMM实例3：语音处理�示意图：�其中，s1,s2,s3...表示信息源发出的信号。

O1,o2, o3 ... 是接受器接收到的信号。

通信中的解码就是根据接收到的信号 o1,o2, o3 ...还原出发送的信号 s1,s2,s3...�求：P (s1,s2,s3,...|o1,o2,o3....) 达到最大值的那个句子 s1,s2,s3,...信息源S1s2s3..接收端O1o2o3..信道HMM的基本概念�HMM的状态是不确定或不可见的,只有通过观测序列的随机过程才能表现出来�观察到的事件与状态并不是一一对应,而是通过一组概率分布相联系�HMM是一个双重随机过程，两个组成部分：�马尔可夫链:描述状态的转移,用转移概率描述。

�一般随机过程:描述状态与观察序列间的关系,用观察值概率描述。

HMM的基本概念�估算隐藏于表面事件背后的事件的概率�观察到一个人每天带雨伞的情况，反过来推测天气情况HMM组成Markov链（π, A）随机过程（B）状态序列观察值序列q1, q2, ..., q T o1, o2, ..., o THMM的组成示意图HMM模型的假设�假设1:有限历史假设p(q i |q i-1…q 1) = p(q i |q i-1)�假设2:齐次性假设(状态与具体时间无关) p(q i+1|q i ) = p(q j+1|q j )，对任意i,j成立�假设3:输出独立性假设(输出仅与当前状态有关)p(O 1,...,O T | q 1,...,q T ) = Π p(O t | q t )HMM的基本要素�用模型五元组λ＝(Ω,Σ,π,A,E)用来描述HMM,或简写为λ=(π,A,E)pE A ΣΩ参数初始时选择某口缸的概率初始状态空间的概率分布每个缸中的颜色分布给定状态下，观察值概率分布在选定某个缸的情况下，选择另一个缸的概率与时间无关的状态转移概率矩阵彩球观察值集合 总数C 缸状态集合 总数M 实例含义HMM的基本要素�一个隐马尔科夫模型是一个五元组(Ω,Σ,π,A,E)其中：�Ω={X1,…. X N}:是HMM隐含状态的有限集合，N为HMM中隐含状态的总数。

�∑={O1,…. O N}:是HMM观察值的有限集合，M为所有出现观察值总数，每一个观察值对应于系统的一个可能的物理输出值，一个长度为K的观察值序列就有K个这样的观察值构成；HMM的基本要素�(Ω,Σ,π,A,E):�状态转移概率分布A={a ij }: a ij =P{q t+1=S j |q t =S i }�状态j的观察概率分布B={b i (k)},表示状态j输出相应观察值的概率,其中 b i (k)=P {O t =V k |q t =S j }HMM的基本要素-示例�示意图：HMM的基本要素-示例HMM的三个基本问题�评估问题--使用前向算法(forward algorithm) �给定观察序列O=O1O2...O T和模型λ=(π,A,B),计算P(O|λ),即给定模型和输出观察序列,如何计算从模型生成观察序列的概率。

可以把它看作是评估一个模型和给定观察输出序列的匹配程度,由此可以用来在一系列候选对象中选取最佳的匹配。

HMM的三个基本问题�解码问题--使用Viterbi算法(Viterbi algorithm)�给定观察序列O= O1O2...O T 和模型λ=(π, A, B),求在某种有意义的情况下最优的相关状态序列Q=q 1q2..qT可以理解为对输出观察的最佳“解释”，它试图揭示模型的隐藏部分,比如说查找“正确”的状态序列,在应用中,通常都使用一个优化策略来最大可能的解决这个问题。

HMM的三个基本问题�学习问题--使用前向-后向算法�如何调整模型参数λ=(π,A,B),对于一个给定的观察序列O= O 1O 2...O T ,使得P(O|λ)最大。

它试图优化模型的参数来最佳的描述一个给定的观察序列是如何得来的。

评估问题—穷举办法�给定一个固定的状态序列S=(q1，q2，q3…)∐nj j j j j n n n n n n n n n n n n n n n n n n n n q O P q q P q O P q P q O P q q P q O P q q P q O P q P T O O P O q q P q q O O P q O q P q O P q P q q O q q O O P q q O O P q O q P q O P q P q q O q q O O P q O q P q O P q P q O q q O O P q O P q P q q q O O O P q P q q q O O O P Q O P 11111122121111..1...11...11..12112112111211332112112111211321121111122111122112121)|()|()|()()|()|()...|()|()|()(),|(),|()...|(),|()|()()|,...,...()|()|()|()()|,...,...()|()|()()|,...,...()|()()|,...,...,()(),...,,...,(),(=−−−−−≈≈======评估问题—穷举办法�给定一个固定的状态序列S=(q 1，q 2，q 3…)�表示在q t状态下观测到O t的概率��N=5, M=100, => 计算量10^72∏===Tt T q q q t t O b O b O b q O P S O P t 121)()()(),/(),/(21⋯λλ)(tq O b t∑=S)/(),/()/(所有λλλS P S O P O P评估问题—前向法�定义前向变量�初始化：�递归：�终结：�时间复杂度O(T*M^2)N t i q O O O P i t t ≤≤==1),,,()(t 21 ⋯αNt O b i i i ≤≤=1)()(11 παMj T t O b a i j t j ij Mi t ≤≤−≤≤=+=+∑1,11)(])([)(11t 1 αα∑==Ni Ti O P 1)()/(αλ评估问题—前向法1 ... t t+1 ...a 1jαt 1q M .q i .q j ..q 1αt ia Nja ij)(1j t +α�示意图：评估问题—前向法�例:根据海带的状态判断天气情况�观察值集合为：dry、damp、soggy�状态集合为：sunny、cloudy、rainy评估问题—前向法�递归降低问题复杂度�首先定义局部概率（partial probability）,它是到达网格中的某个中间状态时的概率。

�将计算到达网格中某个中间状态的概率作为所有到达这个状态的可能路径的概率求和问题。

例如，t=2时位于“多云”状态的局部概率通过如下路径计算得出：评估问题—前向法�局部概率�定义t时刻位于状态j的局部概率为at(j)：a t ( j )= Pr( 观察状态 | 隐藏状态j ) x Pr(t时刻所有指向j状态的路径）�对于最后的观察状态，其局部概率包括了通过所有可能的路径到达这些状态的概率——例如，对于上述网格，最终的局部概率通过如下路径计算得出：评估问题—前向法�计算t=1时的局部概率�即：初始时刻状态j的局部概率依赖于此状态的初始概率及相 应时刻我们所见的观察概率。

�计算t>1时的局部概率评估问题—前向法�计算t>1时的局部概率t-1时刻局部概率给出了所有到达此状态的前一路径概率，因此，可以通过t-1时刻的局部概率定义t时刻的局部概率。

即：评估问题—前向法�总结：�首先通过计算局部概率，降低计算整个概率的复杂度，局部概率表示的是t时刻到达某个状态s的概率。

� t=1时，可以利用初始概率和观察概Pr(observation|state)（来自于混淆矩阵）计算局部概率；�t>1时的局部概率可以利用t-1时的局部概率计算。