2-6 第2章 2.2.4-5 马尔可夫信源

或说，如果转移步数n充分大，
( 就可以用常数pj作为n步转移概率 pijn )的近似值。
11
HUST Furong WANG--- Information and Coding Theory
马尔可夫链的稳态分布
如果马尔可夫链具有遍历性，意味着马尔可夫信源在初始 时刻可以处在任意状态，然后信源状态之间可以转移。 由初始分布及各时刻的一步转移概率就可以完整描述马尔可夫 链{Sn, n N }的统计特性。 经过足够长时间之后，信源处于什么状态已与初始状态无关。 这时，每种状态出现的概率已达到一种稳定分布，即平稳分布。
它决定了系统S1，S 2， 所取状态转移过程的概率法则。 ... 一般地，在状态空间E {0， 1， 2， }是一可数无穷集合， 所以转移矩阵P是一无穷行无穷列的随机矩阵。
8
HUST Furong WANG--- Information and Coding Theory
时齐马尔可夫链
jE
iE
6
HUST Furong WANG--- Information and Coding Theory
0,1,...,k步转移概率
定义k步转移概率为
( pijk ) (m) P{Sm k j | Sm i}
i, j E
它表示在时刻m时，Xm的状态为i的条件下， 经过k步转移到达状态j的概率。 性质：
基本（一步）转移概率
当n m 1时，pij (m, m 1)即为一步转移概率。 一般， 把pij (m, m 1)记为pij (m)，m 0, 称为基本转移概率。 pij (m) P{Sm 1 j | Sm i} i, j E pij (m)中m表示基本转移概率与时刻m有关。 基本转移概率的性质： 1、 pij (m) 0 i, j E 2、 pij (m) 1
1、pij (m, n) 0 2、 pij (m, n) 1
jS ij
i, j E iE
n
条件概率性质显然 有
p (m, n) P{S
jS jS
j | Sm i} P{E | Sm i} 1
5
HUST Furong WANG--- Information and Coding Theory
3
HUST Furong WANG--- Information and Coding Theory
有限状态马尔可夫链
定义 设{Sn, n N }为一随机序列，表示状态序列，时间参数集N {0，2， }，其取值空间E {E1，E 2， EJ}，若对所有n N ， 1， 有 P{Sn Ein | Sn 1 Ein 1, Sn 2 Ein 2, , S 1 Ei1} P{Sn Ein | Sn 1 Ein 1} 则称{Sn, n N }为马尔可夫链。 其意义是： 系统在现在时刻n 1处于状态Ein 1，那么将来时刻n的状态Ein 与过去时刻n 2, n 3,...,1的状态Ein 2,..., Ei1无关， 仅与现在时刻n 1的状态Ein 1有关。 即，已知系统的现在，那么系统的将来与过去无关。 这种特性称为马尔可夫特性。
2
HUST Furong WANG--- Information and Coding Theory
马尔可夫信源－研究意义
虽然马尔可夫信源是一个非平稳的信源， 但是当马尔可夫信源进入稳定状态后，就 可以看成一个平稳信源 马尔可夫信源熵的求解，只需要知道与前 面N－1个分量的相互关系，即只需要知道 N维条件概率分布即可，受约束程度大大 降低
定义 若对于任意的i, j E，马尔可夫链 Sm, m T 的 转移概率 pij (m)与m无关， 即 pij (m) P{Sm 1 j | Sm i} pij i, j E 则称这类马尔可夫链为时齐马尔可夫链，或齐次马尔可夫链。 它是具有平稳转移概率的马尔可夫链。 对于时齐马尔可夫链，一步转移概率pij具有性质： 1、pij 0 i, j E 2、 pij 1
2多符号离散平稳信源?221序列信息的熵?222离散平稳信源的数学模型?223离散平稳信源的信息熵和极限熵?223离散平稳信源的信息熵和极限熵?224马尔可夫信源?225信源冗余度和信息变差1hustfurongwanginformationandcodingtheory马尔可夫信源研究意义为了求解平稳信源的极限熵可以用n维的条件熵来近似12???iiinlog121211???iniiininiinnaaaapaaapxxxh????2要近似离散平稳信源的极限熵需要知道从1维n维的条件概率分布这在一般情况下比较困难121221112121????????iniiininiiiniiiiniiaaaapaaaapaapapaaap????hustfurongwanginformationandcodingtheory马尔可夫信源研究意义?虽然马尔可夫信源是一个非平稳的信源但是当马尔可夫信源进入稳定状态后就可以看成一个平稳信源3?马尔可夫信源熵的求解只需要知道与前面n1个分量的相互关系即只需要知道n维条件概率分布即可受约束程度大大降低hustfurongwanginformationandcodingtheory有限状态马尔可夫链112112211111012nnnnnnnnjnininiinniinniisnnneeeennpsesesesepspseessee???????????????????????定义设为一随机序列表示状态序列时间参数集其取值空间若对所有有4112nnniisnnnenenn?????的状态?其意则称为马尔可夫链
p( X l ak | sl Ei , X l 1 ak 1 , sl 1 Ei 1 ,) p( X l ak | sl Ei )
2、信源时刻所处的状态由前一时刻所处的状 态，和前一时刻输出的符号唯一确定
p( sl E j | sl 1 Ei , X l 1 1 E j 转移到的状态 ak ) E j 其他状态 0
4
HUST Furong WANG--- Information and Coding Theory
转移概率pij(m,n)
为了知道系统状态的转化情况，引入转移概率 pij (m, n) P{Sn Ej | Sm Ei} P{Sn j | Sm i}i, j E 它表示， 已知在时刻m系统处于状态Ei（Sm取值Ei）的条件下， 经(n-m)步后转移到状态Ej的概率； 或说，在时刻n系统处于状态Ej（Sn取值Ej）的概率； 故，它实际上是一个条件概率。 转移概率的性质：
K步转移矩阵
系统在任一时刻可处于状态空间S {0， 1， 2， } 中的任一个状态，因此，状态转移时，各种转移概率 构成一个矩阵
( P { pijk ) (m)，i, j E}
称为k 步转移矩阵。
( pijk ) (m)对应于矩阵P中的第i行j列之元素。 ( 称pijk ) (m)满足性质1、的矩阵P是一个随机矩阵， 2
12
HUST Furong WANG--- Information and Coding Theory
马尔可夫信源－基本概念
绝对的平稳信源是不存在的，非平稳信源 仍然是主流。但一般的非平稳信源研究起 来非常复杂。 马尔可夫信源是非平稳信源中的一个特例， 满足马尔可夫链的性质，因此可以用马尔 可夫链的性质求解信源熵。
0
E2
E1 0
2
1
E3
16
HUST Furong WANG--- Information and Coding Theory
马尔可夫信源－基本概念
马尔可夫信源输出的符号序列Xl完全由信源所处的 状态Sl决定。所以，可将信源的输出符号系列变换 成状态系列，将信源输出符号的不确定性问题变成 信源状态的转换问题
13
HUST Furong WANG--- Information and Coding Theory
马尔可夫信源－基本概念
为了描述马尔可夫信源，除了信源符号集外， 还必须引入信源当时所处的“状态” ，信 源在某时刻输出符号的概率，与此时信源 所处的状态有关 定义信源符号集，X i A a1 a2 aq 表示信源每一个分量可能的输出： 另外，我们还定义了信源所处的状态
kS
(m, r 1)
( ( ( 或写成 pijm r ) pikm ) pkjr ) i, j E
利用此方程式就可以用一步转移概率表达多步转移概率。 事实上，有 一般地，有
(2) pij pikpkj k S
i, j E
k S
( ( ( pijm 1) pikm ) pkj pik pkjm ) i , j E kS
n (n) ij
pj
且满足
pj 0; pj pij ; pj 1
i 0
j
则称其具有遍历性，pj称为平稳分布。 其中pj为该马尔可夫链的初始分布。 遍历性的意义： 不论质点从哪个状态Ei出发，当转移步数n充分大时，
( 转移到状态Ej的概率pijn )都近似等于某个常数pj。
s E E1 E2 E J
14
HUST Furong WANG--- Information and Coding Theory
马尔可夫信源－基本概念
【定义】如果信源的输出序列和信源所处的状态满 足以下两个条件，该信源为马尔可夫信源 1、某时刻信源输出的符号只与信源所处的状
态相关，与以前的状态及以前的输出无关。 即
( 1、pijk ) (m) 0 ( 2、 pijk ) (m) 1 jS
i, j E iE
(1) 当k 1时，是一步转移概率pij (m) pij (m)
通常还规定
(0) pij (m) ij {1 0
i j i j
7
HUST Furong WANG--- Information and Coding Theory
jE
iE
由一步转移概率pij可以写出其转移矩阵为 ： p11 p12 p13 p 21 p 22 p 23 P { pij, i, j E} 或 P p 31 p 32 p 33 如果状态空间E {0，2， ，n}是有限的， 1， 则称它为有限状态的马尔可夫链；
值得指出的是，转移概率pij不包含初始分布， 即第0次随机实验中S 0 Ei的概率不能由转移概率pij表达。 因此，还需引入初始分布。
10
HUST Furong WANG--- Information and Coding Theory
具有遍历性的马尔可夫链
定义 若齐次马尔可夫链对一切i, j存在不依赖于i的极限 lim p
p(ai1ai 2 aiN ) p(ai1 ) p(ai 2 | ai1 ) p(aiN 1 | ai1ai 2 aiN 2 ) (aiN | ai1ai 2 aiN 1 ) p
要近似离散平稳信源的极限熵，需要知道从1 维－N维的条件概率分布，这在一般情况 下比较困难
18
9 如果状态空间E {0， 1， 2， }是无穷集合， 则称它为可数无穷状态的马尔可夫链。
HUST Furong WANG--- Information and Coding Theory
切普曼-柯尔莫哥洛夫方程
对于具有m r步转移概率的齐次马尔可夫链，存在下述 切普曼—柯尔莫哥洛夫方程 P ( mr ) T Furong WANG--- Information and Coding Theory
马尔可夫信源－研究意义
为了求解平稳信源的极限熵，可以用N维的条 件熵来近似 H ( X N | X 1 X N ) p(ai1ai 2 aiN ) logp(aiN | ai1ai 2 aiN 1 ) i1 i 2 iN
HUST Furong WANG--- Information and Coding Theory
第2章 信源熵
2.2 多符号离散平稳信源
2.2.1 2.2.2 2.2.3 2.2.4 2.2.5 序列信息的熵 离散平稳信源的数学模型 离散平稳信源的信息熵和极限熵 马尔可夫信源 信源冗余度和信息变差
15
HUST Furong WANG--- Information and Coding Theory
马尔可夫信源－基本概念
第一个条件表明：信源的输出只与信源当前 所处的状态有关，而与其他因素无关。 第二个条件表明：在特定的状态下，发出特 定的符号后，信源状态发生跳变，且必定 100％跳变到一个特定的状态。
17
HUST Furong WANG--- Information and Coding Theory
马尔可夫信源－状态转移图
描述马尔可夫信源，我们可以用马尔可夫链的 状态转移图。 1、把每个可能出现的状态用一个圆圈表示；
2、圆圈之间用有向线段连接，表示状态的迁移； 3、在有向线段旁边，注明发出的符号 ak 及在状态 Ei 下发出 ak 的条件概率 p(ak | Ei ) p( E j | Ei )