马尔科夫相关性质、马尔科夫随机场详解
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
S(1)=S(0)*P=(0.54, 0.20, 0.26),这个月A,B,C电脑 的市场占有率为54%,20%,26% S(2)=S(1)*p=S(0)*P^2=(0.492, 0.248, 0.26),下个 月A,B,C电脑的市场占有率为49.2%，24.8%，26%
隐马尔科夫过程
与马尔科夫相比，隐马尔科 夫模型则是双重随机过程， 不仅状态转移之间是个随机 事件，状态和输出之间也是 一个随机过程
马尔科夫过程
设有随机过程 X n , n T , 若对于任意正整数n T 和任意的 i0 , i1 , , in 1 I , 条件概率满足 , X n in } P{ X n 1 in 1 | X n in } P{ X n 1 in 1 | X 0 i0,
邻域系统
随机场（Random Filed）中，利用邻域 系统可以分析空间上的马尔科夫性。一 个像素点的特性，更可能受它周围像素 的影响，与它距离越远的像素，对它的 特性的影响越小。
邻域系统
设 ={ ( s) | s S}是定义在S上的通用邻域系统的集合， 其满足如下特性：
(1) ( s) S (2) s ( s) (3)s, r S , s (r ) r ( s) 则位置r ( s)称作s的邻点， ( s)称作s的邻点集
cC
则称X为吉布斯随机场，式中x是随机场X的一“实现”，
象元值有关的子团势函数 Z e U ( x ) 称为配分函数，是一个归一化常数
x
MRF与Gibbs分布的等价关系
Gibbs分布与MRF的等价条件：一个随机场 是关于邻域系统的MRF，当且仅当这个 随机场是关于邻域系统的Gibbs分布，表 示为： exp (Vc (xs | xr )) cC P(xs | xr , r ( s)) L exp (Vc ( xs | xr )) xs 1 cC
马尔科夫随机场
马尔科夫随机场包含两层意思 马尔科夫性质 随机场
随机场
当给每一个位置中按照某种分布随机赋予相空间的一 个值之后，其全体就叫做随机场。其中有两个概念： 位置（site），相空间（phase space）。我们可以拿 种地来打个比方。“位置”好比是一亩亩农田；“相 空间”好比是要种的各种庄稼。我们可以给不同的地 种上不同的庄稼，这就好比给随机场的每个“位置”， 赋予相空间里不同的值。所以，随机场就好比是在哪 块地里种什么庄稼的事情。
例如：我在不同天气状态下去做一些事情的概率不同，（观察状态）天 气状态集合为{下雨，阴天，晴天}，（隐藏状态）事情集合为{宅着，自 习，游玩}。假如我们已经有了转移概率和输出概率，即P(天气A|天气B) 和P(事情a|天气A)的概率都已知道，那么我们可以解决： 假如一周内的天气变化是 下雨->晴天->阴天->下雨->阴天->晴天->阴 天，那么我这一周 自习->宅着->游玩->自习->游玩->宅着->自习的概 率。 假如一周内的天气变化是 下雨->晴天->阴天->下雨->阴天->晴天->阴 天，那我们这一周最有可能的做事序列。 这些可以通过隐马尔科夫模型得到结果。
(n) ( n +1)
( s)
基团
S中有不同的邻域结构，在S上由单个像 元或由象元与其邻点组成的子集 c S 称为一个基团。子团c的集合用C来表示。
分阶邻域系统与基团示例
马尔科夫随机场
设 为S上的邻域系统，若随机场X={x s ,s S}满足如下条件： (2) P{X s =x s | X r xr , r s, r ( s)} P{X s =x s | X r xr , r ( s)} 则称X为以 为邻域系统的马尔科夫随机场， 上式称为马尔科夫随机场的局部特性
由于Markov 随机场是用来描述图像的局部性 质，而 Gibbs 随机场由随机场的全局性质来刻画。 可以将两个随机场联系起来。20世纪80年代 Hammersley-Clifford给出了Gibbs分布与MRF关系。 Harmmersley-Clifford 定理：邻域系统 M 在集合 S 中，若 S 上随机场 X 符合Gibbs 随机 场，那么 X 也是一个 Markov 随机场。 从而用Gibbs分布求解MRF中的概率分布，相 应的 MRF 模型的结构信息就可以由 Gibbs分布的 表达式可以描述。
MRF与Gibbs分布的等价关系
Gibbs分布：
是定义在S上的邻域系统，当且仅当随机场X={x s , s S }
的联合概率分布具有如下形式： P( X x) (1 / Z ) exp{U ( x)} 即X在格点集S上的一组态。 U ( x ) Vc ( x )称为能量函数，Vc ( x )是仅与子团c内各
={1,2， L}表示状态空间，即随机场中的相空间
图像分割问题要求解的是满足最大后验概率准则的对每 个像素的分类标号，我们统一称为标号场，记为X。
X ( xs1, xs 2,..., xsM * N )
xs ∈ ，表示在标号场X上，状态空间为Λ的隐状态随机 变量。
在图像中 格点集S表示像素的位置 X称为标号场，也可以表示像素值的集合 或图像经小波变换后的小波系数集合 L表示将图像分割为不同区域的数目，即 标签集合
对于一幅给定的M*N的图像Y， 其中任意一个像素yi , 分割后对应的标记为x i , 定义两个随机场： X={x i , i S}是图像分割后的类别标号场， xi 1, 2, L表示分割成L个区域， 但其类别状态不能直接观察到。 Y={yi , i S}是可观测的随机场， 即图像的观测灰度场， 那么分割问题可以描述为：
分阶邻域系统与子团
在图像模型中，可以根据对象元的距离建立一种 分阶邻域系统，定义如下：
(n)
( s) {r | d ( s, r ) n, r s}, 式中n为邻域系统的阶次， d ()表示距离函数，经常使用欧氏距离，市区距离， 棋盘距离等函数。
对n 0, 满足特性 ( s)
（1）P{X=x}>0,x
邻域系统的MRF的含义：在任意格点s的其余格点位置上 随机变量xs取值已知的条件下，随机场在格点s处的取值概率 只与格点s的 相邻点有关。
在图像中，P()表示标号场的先验概率， P( | )表示邻域系统标号的局部作用关系
MRF与Gibbs分布的等价性
马尔科夫预测
例如：A,B,C三个厂生产的电脑上公司在某地区市场上的 占有率分别为0.3， 0.2 ，0.5。根据市场调查得知、顾客 的流动情况如下： A B C A B C 0.4 0.6 0.6 0.3 0.3 0.1 0.3 0.1 0.3
市场的初始状态为S(0)=(0.3,0.2,0.5) 转移概率P为 0.4 0.3 0.3 P = [ 0.6 0.3 0.1 ] 0.6 0.1 0.3
马尔科夫随机场百度文库
同样拿种地打比方，如果任何一块地里种的庄稼 的种类仅仅与它邻近的地里种的庄稼的种类有关，与 其它地方的庄稼的种类无关，那么这些地里种的庄稼 的集合，就是一个马尔可夫随机场。
马尔科夫随机场与图像的关系
一维马尔科夫随机过程很好的描述随机过程中 某点的状态只与该点之前的一个点的状态有关 系。 对于定义在二维空间上的图像，也可以将它看 为一个二维随机场。那么就存在二维马尔科夫 随机场,将时间上的马尔科夫性转换到空间上， 考虑空间的关系,二维MRF的平面网格结构可以 较好的表现图像中像素之间的空间相关性。
马尔科夫与图像处理
马尔科夫
马尔科夫随机过程就是，下一个时间点的状态只与当 前的状态有关系，而与以前的状态没有关系，即未来 的状态决定于现在而不决定于过去。 其未来由现在决定的程度，使得我们关于过去的知识 丝毫不影响这种决定性。这种在已知 “现在”的条件 下，“未来”与“过去”彼此独立的特性就被称为马 尔科夫性，具有这种性质的随机过程就叫做马尔科夫 过程
通过能量函数确定MRF的条件概率，从而使其 在全局上具有一致性。通过单个像素及其领域 的简单的局部交互，MRF模型可以获得复杂的 全局行为。即计算局部的Gibbs分布得到全局 的统计结果。 上式解决了求MRF中概率分布的难题,使对MRF 的研究转化为对势函数Vc(x)的研究。
贝叶斯公式
用来描述两个条件概率之间的关系，比如 P(A|B) 和 P(B|A)。按照乘法 法则：P(A∩B)=P(A)*P(B|A)=P(B)*P(A|B)。 事件A在事件B(发生)的条件下的概率，与事件B在事件A的条件下的概率 是不一样的。 P(A)是A的先验概率或边缘概率。所以称为"先验"是因为它不考虑任何B 方面的因素。 P(A|B)是已知B发生后A的条件概率，也被称作A的后验概率。 P(B|A)是已知A发生后B的条件概率，也被称作B的后验概率。 P(B)是B的先验概率或边缘概率，也作标准化常量。 按这些术语，Bayes法则可表述为： 后验概率 = (似然度 * 先验概率)/标准化常量 也就是说，后验概率与先验概率和似然度的乘积成正比。
该图上面那行是一个马尔科夫转移 过程，X1， X2,…… XT状态称为隐藏 状态，下面这一行则是输出，即我 们可以观察到的值，称为观察状态 ，观察状态的集合表示为 O={O1,O2,O3,…OM}。
隐马尔科夫也比马尔科夫多了一个 假设，即输出仅与当前状态有关， 可以用如下公式表示： P(O1,O2,…,Ot|S1,S2,…,St)=P(O1|S1 )*P(O2|S2)*...*P(Ot|St) O1,O2,…,Ot为从时刻1到时刻t的观 测状态序列，S1,S2,…,St则为隐藏 状态序列。
马尔科夫图像模型
MRF 将图像模拟成一个随机变量组成的 网格，其中的每一个变量对明确的对其 自身之外的随机变量组成的邻近基团具 有依赖性。该模型考虑每个像元关于它 的邻近像元的条件分布，有效地描述图 像的局部统计特性。
基本定义
设S {(i, j ) |1 i M ,1 j N}表示MN位置的有限格点集 即随机场中的位置
就称 X n , n T 为马尔科夫过程，该随机过程的统计特性 完全由条件概率所决定
例如：假定天气是马尔科夫的，其意思 就是我们假设今天的天气仅仅与昨天的 天气存在概率上的关联，而与前天及前 天以前的天气没有关系。其它如传染病 和谣言的传播规律，都是马尔科夫的。
荷花池里有N张荷叶，在时刻Tn时，Xn为时刻Tn青蛙所处的状态。 P(Xn+1=j/Xn=i)=Pi,j , 其中，i,j=1,2,…N. 表示在Tn时刻青蛙在 第i张荷叶上。在下一个时刻Tn+1跳到第j张荷叶上的可能性，又 称为从状态i经一步转移到j的概率，简称为一步转移概率。 将这些 Pi,j依序排列起来，就构成一个矩阵，叫做转移概率矩阵 。 P11 P12 ... P1n P = [ P21 P22 ... P2n ] ... Pn1 Pn2 ... Pnn
基于MRF的图像分割模型
我们把图像的的分割问题转化为图像的标记问题。 标记场是用来对待测对象的像素进行跟踪标记，特征 场是拟合原始的观测数据，尽可能准确的反映每一个 像素位置的特征信息，使图像分割的结果中能够保留 更多的细节信息。 根据贝叶斯估计准则和最大后验概率准则，将后验概 率转换为先验概率与似然函数的乘积，似然函数同城 是一个高斯分布，而先验概率通过MRF转换为Gibbs分 布得到，最后更新标号场使得成绩最大，得到最佳分 割。
i t arg et1 1 2 i t arg et 2 yi Y xi xi X , i {1, 2, i t arg etL L 根据贝叶斯准则，最优分割准则为： p (Y | X ) p ( X ) X arg max p( X | Y ) arg max p (Y ) X X
隐马尔科夫过程
与马尔科夫相比，隐马尔科 夫模型则是双重随机过程， 不仅状态转移之间是个随机 事件，状态和输出之间也是 一个随机过程
马尔科夫过程
设有随机过程 X n , n T , 若对于任意正整数n T 和任意的 i0 , i1 , , in 1 I , 条件概率满足 , X n in } P{ X n 1 in 1 | X n in } P{ X n 1 in 1 | X 0 i0,
邻域系统
随机场（Random Filed）中，利用邻域 系统可以分析空间上的马尔科夫性。一 个像素点的特性，更可能受它周围像素 的影响，与它距离越远的像素，对它的 特性的影响越小。
邻域系统
设 ={ ( s) | s S}是定义在S上的通用邻域系统的集合， 其满足如下特性：
(1) ( s) S (2) s ( s) (3)s, r S , s (r ) r ( s) 则位置r ( s)称作s的邻点， ( s)称作s的邻点集
cC
则称X为吉布斯随机场，式中x是随机场X的一“实现”，
象元值有关的子团势函数 Z e U ( x ) 称为配分函数，是一个归一化常数
x
MRF与Gibbs分布的等价关系
Gibbs分布与MRF的等价条件：一个随机场 是关于邻域系统的MRF，当且仅当这个 随机场是关于邻域系统的Gibbs分布，表 示为： exp (Vc (xs | xr )) cC P(xs | xr , r ( s)) L exp (Vc ( xs | xr )) xs 1 cC
马尔科夫随机场
马尔科夫随机场包含两层意思 马尔科夫性质 随机场
随机场
当给每一个位置中按照某种分布随机赋予相空间的一 个值之后，其全体就叫做随机场。其中有两个概念： 位置（site），相空间（phase space）。我们可以拿 种地来打个比方。“位置”好比是一亩亩农田；“相 空间”好比是要种的各种庄稼。我们可以给不同的地 种上不同的庄稼，这就好比给随机场的每个“位置”， 赋予相空间里不同的值。所以，随机场就好比是在哪 块地里种什么庄稼的事情。
例如：我在不同天气状态下去做一些事情的概率不同，（观察状态）天 气状态集合为{下雨，阴天，晴天}，（隐藏状态）事情集合为{宅着，自 习，游玩}。假如我们已经有了转移概率和输出概率，即P(天气A|天气B) 和P(事情a|天气A)的概率都已知道，那么我们可以解决： 假如一周内的天气变化是 下雨->晴天->阴天->下雨->阴天->晴天->阴 天，那么我这一周 自习->宅着->游玩->自习->游玩->宅着->自习的概 率。 假如一周内的天气变化是 下雨->晴天->阴天->下雨->阴天->晴天->阴 天，那我们这一周最有可能的做事序列。 这些可以通过隐马尔科夫模型得到结果。
(n) ( n +1)
( s)
基团
S中有不同的邻域结构，在S上由单个像 元或由象元与其邻点组成的子集 c S 称为一个基团。子团c的集合用C来表示。
分阶邻域系统与基团示例
马尔科夫随机场
设 为S上的邻域系统，若随机场X={x s ,s S}满足如下条件： (2) P{X s =x s | X r xr , r s, r ( s)} P{X s =x s | X r xr , r ( s)} 则称X为以 为邻域系统的马尔科夫随机场， 上式称为马尔科夫随机场的局部特性
由于Markov 随机场是用来描述图像的局部性 质，而 Gibbs 随机场由随机场的全局性质来刻画。 可以将两个随机场联系起来。20世纪80年代 Hammersley-Clifford给出了Gibbs分布与MRF关系。 Harmmersley-Clifford 定理：邻域系统 M 在集合 S 中，若 S 上随机场 X 符合Gibbs 随机 场，那么 X 也是一个 Markov 随机场。 从而用Gibbs分布求解MRF中的概率分布，相 应的 MRF 模型的结构信息就可以由 Gibbs分布的 表达式可以描述。
MRF与Gibbs分布的等价关系
Gibbs分布：
是定义在S上的邻域系统，当且仅当随机场X={x s , s S }
的联合概率分布具有如下形式： P( X x) (1 / Z ) exp{U ( x)} 即X在格点集S上的一组态。 U ( x ) Vc ( x )称为能量函数，Vc ( x )是仅与子团c内各
={1,2， L}表示状态空间，即随机场中的相空间
图像分割问题要求解的是满足最大后验概率准则的对每 个像素的分类标号，我们统一称为标号场，记为X。
X ( xs1, xs 2,..., xsM * N )
xs ∈ ，表示在标号场X上，状态空间为Λ的隐状态随机 变量。
在图像中 格点集S表示像素的位置 X称为标号场，也可以表示像素值的集合 或图像经小波变换后的小波系数集合 L表示将图像分割为不同区域的数目，即 标签集合
对于一幅给定的M*N的图像Y， 其中任意一个像素yi , 分割后对应的标记为x i , 定义两个随机场： X={x i , i S}是图像分割后的类别标号场， xi 1, 2, L表示分割成L个区域， 但其类别状态不能直接观察到。 Y={yi , i S}是可观测的随机场， 即图像的观测灰度场， 那么分割问题可以描述为：
分阶邻域系统与子团
在图像模型中，可以根据对象元的距离建立一种 分阶邻域系统，定义如下：
(n)
( s) {r | d ( s, r ) n, r s}, 式中n为邻域系统的阶次， d ()表示距离函数，经常使用欧氏距离，市区距离， 棋盘距离等函数。
对n 0, 满足特性 ( s)
（1）P{X=x}>0,x
邻域系统的MRF的含义：在任意格点s的其余格点位置上 随机变量xs取值已知的条件下，随机场在格点s处的取值概率 只与格点s的 相邻点有关。
在图像中，P()表示标号场的先验概率， P( | )表示邻域系统标号的局部作用关系
MRF与Gibbs分布的等价性
马尔科夫预测
例如：A,B,C三个厂生产的电脑上公司在某地区市场上的 占有率分别为0.3， 0.2 ，0.5。根据市场调查得知、顾客 的流动情况如下： A B C A B C 0.4 0.6 0.6 0.3 0.3 0.1 0.3 0.1 0.3
市场的初始状态为S(0)=(0.3,0.2,0.5) 转移概率P为 0.4 0.3 0.3 P = [ 0.6 0.3 0.1 ] 0.6 0.1 0.3
马尔科夫随机场百度文库
同样拿种地打比方，如果任何一块地里种的庄稼 的种类仅仅与它邻近的地里种的庄稼的种类有关，与 其它地方的庄稼的种类无关，那么这些地里种的庄稼 的集合，就是一个马尔可夫随机场。
马尔科夫随机场与图像的关系
一维马尔科夫随机过程很好的描述随机过程中 某点的状态只与该点之前的一个点的状态有关 系。 对于定义在二维空间上的图像，也可以将它看 为一个二维随机场。那么就存在二维马尔科夫 随机场,将时间上的马尔科夫性转换到空间上， 考虑空间的关系,二维MRF的平面网格结构可以 较好的表现图像中像素之间的空间相关性。
马尔科夫与图像处理
马尔科夫
马尔科夫随机过程就是，下一个时间点的状态只与当 前的状态有关系，而与以前的状态没有关系，即未来 的状态决定于现在而不决定于过去。 其未来由现在决定的程度，使得我们关于过去的知识 丝毫不影响这种决定性。这种在已知 “现在”的条件 下，“未来”与“过去”彼此独立的特性就被称为马 尔科夫性，具有这种性质的随机过程就叫做马尔科夫 过程
通过能量函数确定MRF的条件概率，从而使其 在全局上具有一致性。通过单个像素及其领域 的简单的局部交互，MRF模型可以获得复杂的 全局行为。即计算局部的Gibbs分布得到全局 的统计结果。 上式解决了求MRF中概率分布的难题,使对MRF 的研究转化为对势函数Vc(x)的研究。
贝叶斯公式
用来描述两个条件概率之间的关系，比如 P(A|B) 和 P(B|A)。按照乘法 法则：P(A∩B)=P(A)*P(B|A)=P(B)*P(A|B)。 事件A在事件B(发生)的条件下的概率，与事件B在事件A的条件下的概率 是不一样的。 P(A)是A的先验概率或边缘概率。所以称为"先验"是因为它不考虑任何B 方面的因素。 P(A|B)是已知B发生后A的条件概率，也被称作A的后验概率。 P(B|A)是已知A发生后B的条件概率，也被称作B的后验概率。 P(B)是B的先验概率或边缘概率，也作标准化常量。 按这些术语，Bayes法则可表述为： 后验概率 = (似然度 * 先验概率)/标准化常量 也就是说，后验概率与先验概率和似然度的乘积成正比。
该图上面那行是一个马尔科夫转移 过程，X1， X2,…… XT状态称为隐藏 状态，下面这一行则是输出，即我 们可以观察到的值，称为观察状态 ，观察状态的集合表示为 O={O1,O2,O3,…OM}。
隐马尔科夫也比马尔科夫多了一个 假设，即输出仅与当前状态有关， 可以用如下公式表示： P(O1,O2,…,Ot|S1,S2,…,St)=P(O1|S1 )*P(O2|S2)*...*P(Ot|St) O1,O2,…,Ot为从时刻1到时刻t的观 测状态序列，S1,S2,…,St则为隐藏 状态序列。
马尔科夫图像模型
MRF 将图像模拟成一个随机变量组成的 网格，其中的每一个变量对明确的对其 自身之外的随机变量组成的邻近基团具 有依赖性。该模型考虑每个像元关于它 的邻近像元的条件分布，有效地描述图 像的局部统计特性。
基本定义
设S {(i, j ) |1 i M ,1 j N}表示MN位置的有限格点集 即随机场中的位置
就称 X n , n T 为马尔科夫过程，该随机过程的统计特性 完全由条件概率所决定
例如：假定天气是马尔科夫的，其意思 就是我们假设今天的天气仅仅与昨天的 天气存在概率上的关联，而与前天及前 天以前的天气没有关系。其它如传染病 和谣言的传播规律，都是马尔科夫的。
荷花池里有N张荷叶，在时刻Tn时，Xn为时刻Tn青蛙所处的状态。 P(Xn+1=j/Xn=i)=Pi,j , 其中，i,j=1,2,…N. 表示在Tn时刻青蛙在 第i张荷叶上。在下一个时刻Tn+1跳到第j张荷叶上的可能性，又 称为从状态i经一步转移到j的概率，简称为一步转移概率。 将这些 Pi,j依序排列起来，就构成一个矩阵，叫做转移概率矩阵 。 P11 P12 ... P1n P = [ P21 P22 ... P2n ] ... Pn1 Pn2 ... Pnn
基于MRF的图像分割模型
我们把图像的的分割问题转化为图像的标记问题。 标记场是用来对待测对象的像素进行跟踪标记，特征 场是拟合原始的观测数据，尽可能准确的反映每一个 像素位置的特征信息，使图像分割的结果中能够保留 更多的细节信息。 根据贝叶斯估计准则和最大后验概率准则，将后验概 率转换为先验概率与似然函数的乘积，似然函数同城 是一个高斯分布，而先验概率通过MRF转换为Gibbs分 布得到，最后更新标号场使得成绩最大，得到最佳分 割。
i t arg et1 1 2 i t arg et 2 yi Y xi xi X , i {1, 2, i t arg etL L 根据贝叶斯准则，最优分割准则为： p (Y | X ) p ( X ) X arg max p( X | Y ) arg max p (Y ) X X