译码方法最大后验概率译码
信息论与编码理论习题答案
资料范本本资料为word版本，可以直接编辑和打印，感谢您的下载信息论与编码理论习题答案地点：__________________时间：__________________说明：本资料适用于约定双方经过谈判，协商而共同承认，共同遵守的责任与义务，仅供参考，文档可直接下载或修改，不需要的部分可直接删除，使用时请详细阅读内容第二章信息量和熵2.2 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的信息速率。
解：同步信息均相同，不含信息，因此每个码字的信息量为 2=23=6 bit因此，信息速率为 61000=6000 bit/s2.3 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。
问各得到多少信息量。
解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} ==得到的信息量 ===2.585 bit(2) 可能的唯一，为 {6，6}=得到的信息量===5.17 bit2.4 经过充分洗牌后的一副扑克（52张），问：(a) 任何一种特定的排列所给出的信息量是多少？(b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？解：(a) =信息量===225.58 bit(b)==信息量==13.208 bit2.9 随机掷3颗骰子，X表示第一颗骰子的结果，Y表示第一和第二颗骰子的点数之和，Z表示3颗骰子的点数之和，试求、、、、。
解：令第一第二第三颗骰子的结果分别为，，，相互独立，则，，==6=2.585 bit===2(36+18+12+9+)+6=3.2744 bit=-=-[-]而=，所以= 2-=1.8955 bit或=-=+-而= ，所以=2-=1.8955 bit===2.585 bit=+=1.8955+2.585=4.4805 bit2.10 设一个系统传送10个数字，0，1，…，9。
奇数在传送过程中以0.5的概率错成另外一个奇数，其余正确接收，求收到一个数字平均得到的信息量。
最大似然编码
3线性分组码的几种最大似然译码算法本章系统地介绍了最大似然译码的原理和方法，并介绍了目前国内外出现的几种最大似然译码算法。
在已知接受值R的条件下，找出所有发送码字Ci中可能性最大的发送码字作为译码估值C‘，即C’=maxP(Ci|R)。
这种译码方法叫做最大后验概率译码，它是一种通过经验与归纳，由接收值推测发送码字的方法，是我们认为的最优译码算法。
但在实际译码时，后验概率的定量确定是很难的。
在已知R的条件下，使似然概率最大的译码算法叫做最大似然译码（MLD），即C'=maxP(R|Ci)。
在每个码字等概发送的条件下，根据Bayes准则很容易知道，最大似然译码等价于最大后验概率译码，因此也是最优的。
令R表示接收序列，c1表示可能的发送序列之一，P（R/C1）为发送C1时接收到R的概率，按照使P（R/C1）最大的准则进行译码。
1、所谓最大似然译码是指当所有码字的发送概率一样时,译码的错误概率达到最小的译码,软判决译码是指接收序列为实数序列(如与信号相匹配的滤波器的模拟输出)时的译码,亦即译码利用了信道的度量信息文献来源分阶统计译码算法(OSD)和Chase算法等都是一类最大似然译码算法(MLD)。
OSD分阶统计译码算法(OSD)【3】和盒匹配算法(BMA)等都是一类最大似然译码算法(MLD)本文主要研究了线性分组码的各种最大似然译码算法，内容包括通用最小码距译码算法、Chase译码算法、WED、PFS、RLSD、OSD、BMA等译码算法。
主要研究内容如下：1、充分研究了分组码的各种最大似然译码算法，比较详细地分析了其译码原理及纠错能力。
第三章介绍了线性分组码的各种最大似然译码算法。
3．3基于LRP的最大似然译码算法3．3．1 GMI)译码算法Chase译码算法WED(weighted erasure decoding)算法 (NIH算法本章系统地介绍了最大似然译码的原理和方法，并介绍了目前国内外出现的几种最大似然译码算法。
译码方法最大后验概率译码
19
检错与纠错原理
纠错编码之所以具有检错、纠错能力,是因 为在信息码元之外加入了监督码。监督码不
载信息,只是用来监督信息码在传输中有无
差错。 纠错编码所提高的可靠性,是以牺牲信道利
用率为代价换取的。
监督码引入越多,检错、纠错能力越强,但信 道的传输效率下降也越快。
20
码距与检错、纠错能力
• 汉明距离： –二个码字对应位置码元不同的个数。
• 纠错编码的检错纠错能力,要取决于码组的码距 • 码距越大,检错、纠错能力越强。
22
译码方法
消息组mi 编码器 码字ci 信道 接收码R 译码器 估值 i 消息还原
ˆ c
ˆi 消息m
• 最大后验概率译码（最佳译码）：
–译码器接收到码字R之后，根据后验概率找
出可能性最大的发码Ci作为译码估值，从而 还原信源信息；
差错图样及其分类
纠错码分类 差错控制系统分类
2、检错与纠错的原理 3、码距与检错、纠错能力 4、译码方法
3
差错率及其分类
• 差错率是衡量传输质量的重要指标之一,它有 几种不同的定义。
• 码元差错率/符号差错率（Pe）
–指在传输的码元总数中发生差错的码元数
所占的比例,简称误码率。
–是指信号差错概率
发端重发这组数据。
16
检错与纠错原理
0
1－pb pb pb
0
• 0:晴,1:雨 • 若1→0,0→1；接收端无法发现错误
00晴 00
能发现 一个错误
1
1－pb
1
01 禁用码组 10 11雨 11
图6.1.4 BSC转移概率
• 插入1位监督码后具有检出1位错码的能 力,但不能予以纠正。
最小错误概率准则
p(bs / a1) ⎤
p(bs
/
a2
)
⎥ ⎥
M⎥ p(bs / ar *)⎥⎦
费诺不等式：H(X|Y) ≤ H(PE) + PE log(r-1)
• 不管采用什么译码规则费诺不等式都成立。 • 费诺不等式表明：接收到Y后关于X的平均不确定
性分为两部分： 1）接收到Y后是否产生PE错误的不确定性H(PE)； 2）当错误PE发生后，到底是哪个输入符号发送而 造成错误的最大不确定性为PElog (r一1) • 右图表示：当信源、信道给 定，信道疑义度H(X|Y)给出了 译码错误概率的下限。
简单重复编码方法使信息传输率降低的原因：
• 在未重复编码以前，输入端是二个消息的集 合。假设为等概率分布则每个消息携带的信息 最是 logM=1(比特／符号)。
• 简单重复(n=3)后，可以把信道看成是三次无 记忆扩展信道。
• 这时输入端有8个二元序列可以作为消息 (为α1消,…息, ，α8M)，＝但2我。们这只样选每择个了消二息个携二带元的序平列均作信 息量仍是1比特。而传送一个消息需要付出的 代价却是三个二元码符号，所以R就降低到 1/3 (比特／码符号)。
5.2 错误概率与编码方法
• 5.1节结论：1）消息通过有噪信道传输时会发生 错误，2）错误概率与译码规则有关。
• 例：二元对称信道，若选择最佳译码规则
p = 0.99
a1=0
b1=0 F(b1= 0) = (a1= 0);
p = 0.01
F(b2= 1) = (a2= 1)
a2=1
p = 0.99
2. 再对上述结果求和。
b1 ＋ b2 ＋L
a1 ⎡ p(b1 / a1) p(b2 / a1*) L
Turbo译码算法综述
图 1-1 Turbo 码编码器结构
实际项目中编码器如图 1-2 所示。分量编码器 1、2 是相同结构 的系统卷积码器，系统卷积码生成多项式 g= (13,15)。
)
|
(|
r(q) n
|
4
/
42) | 2 /
42
n
(a6
)
|
(|
r(q) n
|
4
/
42) | 2 /
42
4) 自己的想法（以 64-QAM 为例说明）
I、Q 两路信号分别解调自己的比特，即 a1 、a3 、a5 软信息由 I 路 信号计算出来，a2 、a4 、a6 的软信息由 Q 路信号计算出来。以 I 路为 例计算相应比特的软信息。星座图如图 2.3 所示，其中 D 1/ 42 。
号代表的比特数。设 n 时刻收到的星座符号为Qn ，包括 I、Q 两路信
号设为 rn(i) 、 rn(q) ，则
r(i) n
s(i) n
n(i) n
r(q) n
s(q) n
n(q) n
其中
s(i) K
、
s(q) K
表示发射信号的
I、Q
两路信号， nn(i)
、 n(q) n
为相互独
立的服从零均值的正态分布的随机序列，其方差 2
图 2-4 BPSK 调制下的 Turbo 码迭代译码原理
2.2 分量译码算法介绍
分量译码算法采用的 SISO 译码算法，主要包括两类，一类是 MAP 算法以及基于 MAP 算法的修正算法；另一类则是基于 Viterbi 算法的 Viterbi 算法（SOVA）以及它的一些修正算法，总的来说， MAP 类算法比 SOVA 算法新能要好，但这是以复杂度来保证的。
Turbo码LDPC码的译码方法
20
2013年7月29日
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 后来人们进一步发现，在同样足够长的 码长条件下，其性能甚至还优于Turbo码， 从而重新引起人们广泛关注与进一步的 研究。
21
2013年7月29日
LDPC码研究的方向
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
15
2013年7月29日
各类算法小结
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 就硬件实现而言， log-MAP的计算复杂 度比MAP低，但译码精度一样；而对于 logMAP、 Max-log-MAP、双向SOVA和 单向SOVA，它们的计算复杂度依次降低， 但译码精度也相应的依次降低。
27
2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
从性能上看，Turbo码更适合于中、短长度 码长，比如在3G中，Turbo码就是首选，而 对于更长的码长时，LDPC码的性能将超过 Turbo码。
28
2013年7月29日
这里主要比较常用的MAP、logMAP、 Max- logMAP以及SOVA算法之间的关系。 • logMAP算法： 它与MAP算法等效，只是将 、 、 转 移至对数域中去计算，并且将乘法运算映 射为加法运算，加法运算映射为E运算， 其目的是为了便于硬件实现。
7
2013年7月29日
各类算法之间的关系
显然对于分子，SOVA算法可以从众多满 足 u k 为1的序列概率中找到最大的序列概率； 但对于分母，SOVA算法则不一定能从众多 uk 满足 为1的序列概率中找到最大的序列概 率； 而是从延时窗中更新得到的那条件随 路径所对应的后验概率。所以SOVA输出似 然比的绝对值比Max-log-MAP算法大，既 存在似然比高估问题。
无线通信协议802.11n中Turbo码译码在我国发展历程
无线通信协议802.11n中Turbo码译码在我国发展历程Turbo码采用迭代的过程，而且采用的算法本身也比较复杂。
这些算法的关键是不但要能够对每比特进行译码，而且还要伴随着译码给出每比特译出的可靠性信息，有了这些信息，迭代才能进行下去。
用于Turbo码译码的具体算法有：MAP(Maximum A Posterori)Max-Log-MAP、Log-MAP和SOVA(Soft Output Viterbi Algorithm)算法。
MAP算法是1974年被用于卷积码的译码，但用作Turbo码的译码还是要做一些修改;Max-Log-MAP与Log-MAP是根据MAP算法在运算量上做了重大改进，虽然性能有些下降，但使得Turbo码的译码复杂度大大的降低了，更加适合于实际系统的运用;Viterbi算法并不适合Turbo码的译码，原因就是没有每比特译出的可靠性信息输出，修改后的具有软信息输出的SOVA算法，就正好适合了Turbo码的译码。
这些算法在复杂度上和性能上具有一定的差异，系统地了解这些算法的原理是对Turbo码研究的基础，同时对这些算法的复杂度和性能的比较研究也将有助于Turbo的应用研究。
Turbo码的仿真一般参考吴宇飞的经典程序。
此外，要想在移动无线系统中成功的使用Turbo码，首先要考虑在语音传输中最大延迟的限制。
在短帧情况下的仿真结果表明短交织Turbo码在AWGN 信道和Rayleigh衰落下仍然具有接近信道容量的纠错能力，从而显示出Turbo 码在移动无线通信系统中非常广阔的应用前景。
Turbo码(Turbo Code)Turbo 码(Turbo Code)是一类应用在外层空间卫星通信和设计者寻找完成最大信息传输通过一个限制带宽通信链路在数据破坏的噪声面前的其它无线通信应用程序的高性能纠错码。
有两类Turbo 码在那里，块Turbo 码和卷积Turbo 码(CTCs)，它们是相当不同的，因为它们使用不同的构件码，不同的串联方案和不同的SISO 算法。
极化码：主要概念和实用译码算法
极码：主要概念和实用译码算法摘要极码代表一类新兴的纠错码,他的功率接近一个离散无记忆信道的容量。
本文旨在说明其生成与解码技术的原则。
与传统能力编码策略不同,它试图让代码尽可能随机,极性代码遵循不同的原理,这也是由香农通过创建一个典型共同组提出的。
信道极化，一个概念的核心，就是极性代码，在数字世界中的马太效应之中被直观地阐述，对极性编码的构造方法进行了详细的概述。
极性码蝴蝶结构介绍中，源位相关，证明SC算法的使用为有效的解码。
从概念和实践的角度研究了供应链解码技术。
最先进的解码算法，如BP和一些广义的SC解码，也在一个广泛的框架下解释了。
仿真结果表明，极性码的级联与CRC码的性能优于Turbo码和LDPC码。
一些在实际情况下有前途的研究方向在最后也被讨论。
摘要 (1)引言 (1)通道极化 (2)编码和结构 (4)编码原则 (5)通道选择 (6)连续取消解码 (7)解码原理 (8)简单SC译码过程 (9)更有力的译码算法 (10)提高的SC译码过程 (10)CRC-AIDED解码 (12)置信传播解码 (12)ML或MAP解码 (12)优点和缺点 (13)极性码的缺点 (14)未来的研究方向 (15)结论 (16)附录 (16)引言在过去的六年中见证了数字通信编码理论的成功。
克劳德·香农著名的信道编码定理断言代码的存在,信息可以在可靠的噪声信道上传输速率信道容量。
三个基本想法背后的信道编码定理的证明是:(1).随机选择的代码(2).对于大型代码长度的联合渐近等分(AEP)之间的传输码字和接收序列。
(3).最优最大似然(ML)解码或次优联合典型的解码。
联合AEP在证明过程中扮演着重要的角色,在某种意义上,它保证接收到的序列与共同典型传输码字相似,并且共同典型解码错误的概率消失。
当然随机编码也很重要,但只是为了便于数学证明好的代码的存在。
逼近能力与实际编/解码复杂度是编码理论的一个主要挑战。
幸运的是,在过去的二十年里许多“turbo-like”代码家族,如涡轮码和低密度奇偶校验(LDPC)码,已经被发现实现这一目标。
信息理论与编码课后答案第5章
第5章 有噪信道编码5.1 基本要求通过本章学习，了解信道编码的目的，了解译码规则对错误概率的影响，掌握两种典型的译码规则：最佳译码规则和极大似然译码规则。
掌握信息率与平均差错率的关系，掌握最小汉明距离译码规则，掌握有噪信道编码定理（香农第二定理）的基本思想，了解典型序列的概念，了解定理的证明方法，掌握线性分组码的生成和校验。
5.2 学习要点5.2.1 信道译码函数与平均差错率5.2.1.1 信道译码模型从数学角度讲，信道译码是一个变换或函数，称为译码函数，记为F 。
信道译码模型如图5.1所示。
5.2.1.2 信道译码函数信道译码函数F 是从输出符号集合B 到输入符号集合A 的映射：*()j j F b a A =∈，1,2,...j s =其含义是：将接收符号j b B ∈译为某个输入符号*j a A ∈。
译码函数又称译码规则。
5.2.1.3 平均差错率在信道输出端接收到符号j b 时，按译码规则*()j j F b a A =∈将j b 译为*j a ，若此时信道输入刚好是*j a ，则称为译码正确，否则称为译码错误。
j b 的译码正确概率是后验概率：*(|)()|j j j j P X a Y b P F b b ⎡⎤===⎣⎦ （5.1）j b 的译码错误概率：(|)()|1()|j j j j j P e b P X F b Y b P F b b ⎡⎤⎡⎤=≠==-⎣⎦⎣⎦ （5.2）平均差错率是译码错误概率的统计平均，记为e P ：{}1111()(|)()1()|1(),1()|()s se j j j j j j j ssj j j j j j j P P b P e b P b P F b b P F b b P F b P b F b ====⎡⎤==-⎣⎦⎡⎤⎡⎤⎡⎤=-=-⎣⎦⎣⎦⎣⎦∑∑∑∑ （5.3）5.2.2 两种典型的译码规则两种典型的译码规则是最佳译码规则和极大似然译码规则。
Turbo码详解
第十三章T u r b o码Shannon理论证明，随机码是好码，但是它的译码却太复杂。
因此，多少年来随机编码理论一直是作为分析与证明编码定理的主要方法，而如何在构造码上发挥作用却并未引起人们的足够重视。
直到1993年，Turbo码的发现，才较好地解决了这一问题，为Shannon 随机码理论的应用研究奠定了基础。
Turbo码，又称并行级连卷积码(PCCC)，是由C. Berrou等在ICC’93会议上提出的。
码R史。
需要说明的是，由于原Turbo编译码方案申请了专利，因此在有关Turbo码的第一篇文章中，作者没有给出如何进行迭代译码的实现细节，只是从原理上加以说明。
此后，P. Robertson对此进行了探讨，对译码器的工作原理进行了详细说明。
人们依此进行了大量的模拟研究。
Turbo码的提出，更新了编码理论研究中的一些概念和方法。
现在人们更喜欢基于概率的软判决译码方法，而不是早期基于代数的构造与译码方法，而且人们对编码方案的比较方法也发生了变化，从以前的相互比较过渡到现在的均与Shannon限进行比较。
同时，也使编码理论家变成了实验科学家。
图13-1 AWGN信道中的码率与Shannon限关于Turbo码的发展历程，C. Berrou等在文[4]中给出了详细的说明。
因为C. Berrou 主要从事的是通信集成电路的研究，所以他们将SOVA译码器看作是“信噪比放大器”，从码的发N余（puncturing）技术从这两个校验序列中周期地删除一些校验位，形成校验位序列X p。
X p与未编码序列X s经过复用调制后，生成了Turbo码序列X。
例如，假定图13-2中两个分量编码器的码率均是1/2，为了得到1/2码率的Turbo码，可以采用这样的删余矩阵：P [1 0, 0 1]，即删去来自RSC1的校验序列X p1的偶数位置比特与来自RSC2的校验序列X p2的奇数位置比特。
图13-2 Turbo码编码器结构框图为交织器后信息序列变为：)1101010(~=c第二个分量码编码器所输出的校验位序列为：)1000000(2=v 则Turbo 码序列为：§13.3 Turbo 码的译码一．Turbo 码的迭代译码原理由于Turbo 码是由两个或多个分量码对同一信息序列经过不同交织后进行编码，对任何单个传统编码，通常在译码器的最后得到硬判决译码比特，然而Turbo 码译码算法不应限制在译码器中通过的是硬判决信息，为了更好的利用译码器之间的信息，译码算法所用的应当是软判决信息而不是硬判决。
Turbo
Ｙ 进 行 最 佳 译 码 ， 生 关 于 信 息 序 列 ｕ中 每 一 比 特 产 的似 然 信 息 ， 将 其 中 的 “ 信 息 ” 过 交 织 器 送 并 外 经
编 码 器 通 过 一 个 交 织 器 并 行 连 接 而 成 ， 图 １所 示 。 如
信 息 序 列 ｕ＝｛ ｕ ， ， ｝ 经 过 长 度 为 Ｎ 的 交 织 ｕ ， … ｕ ，
校 验 序 列 ｘ 。序 列 ｘ 和 未 编 码 信 息 序 列 ｘ “经 过
复 用 器 复 用 后 ， 成 并 行 级 联 卷 积 码 即 Ｔ ｒｏ码 序 形 ｕｂ
歹Ｉ ＩＸ
一
最 佳 估 值 序 列 五。
２
Ｐ 译 码
Ｔ ｒｏ码 译 码 的 最 优 算 法 是 Ｂ Ｊ ｕｂ Ｃ Ｒ算 法 … ， 最 即
关键 词 Ｔ ｒｏ码 迭 代 译 码 最 大 后 验 译 码 ｕｂ
１ Ｔ ｒｏ码 基 本 概 念 ｕｂ
Ｔ ｒｏ编 码 器 是 由 两 个 递 归 系 统 卷 积 码 （ Ｓ ｕｂ Ｒ Ｃ）
编 码 器 中所 用 的交 织 器 相 同 。它 首 先将 接 收 到 信 息
序 列 Ｙ 分 接 为 Ｙ 、 Ｙ 译 码 器 ＤＥ １ Ｙ ＹＰ和 ， Ｃ 对 和
Ｄ Ｃ ， 行 下 一 次 迭 代 译 码 。 这 样 ， 过 多 次 迭 代 Ｅ １进 经 译 码 ， Ｅ １和 Ｄ Ｃ ＤＣ Ｅ ２的 外 信 息 趋 于 稳 定 ， 然 比 渐 似 近值 逼 近 于 对 整 个 码 的 最 大 似 然 译 码 ， 后 对 此 似 然 然 比进 行 判 决 ， 可 得 到 信 息 序 列 ｕ的 每 结 构 如 图 ２所 示 ， 由两 ｕｂ 码 它 个 软 输 入 软 输 出 （ ＩＯ） 码 器 Ｄ Ｃ ＳＳ 译 Ｅ １和 Ｄ Ｃ Ｅ ２通 过
最大似然ML译码
一、循环码的编码电路
《通信原理课件》
图 9-4 （7，4）循环码的编码电路
《通信原理课件》
二、循环码的译码电路
《通信原理课件》
图9-5 （7，4）循环码的译码电路示意图
《通信原理课件》
9.5 卷积码
线性码可以分为分组码和卷积码。卷积码，又称连环码，由
埃里亚斯(Elias)于 1955 年最早提出，它是一种非分组码。不同于
《通信原理课件》
《通信原理课件》
9.4.1 循环码的码多项式
循环码可用多种方式进行描述。在代数编码理论中，通常用多项式 去描述循环码，它把码字中各码元当作是一个多项式的系数，即把一个
n 长的码字 C ＝ cn1,cn2 ,cn3,,c1,c0 用一个次数不超过（n-1）的多
项式表示为
《通信原理课件》
《通信原理课件》
本章我们将讨论常见的信道编码和译码的方法。信道编码的数字 通信模型如图 9-1 所示。进入信道编码器的是二进制信息码元序列
M 。信道编码根据一定的规律在信息码元中加入监督码元，输出码 字序列 C 。由于信道中存在噪声和干扰，接收码字序列 R 与发送码 字序列 C 之间存在差错。信道译码根据某种译码规则，从接收到的码 字 R 给出与发送的信息序列 M 最接近的估值序列 Mˆ 。
样不变，后 r 位为监督码元。
图9-3 (n，k）线性分组码为系统码的结构
《通信原理课件》
9.3.1线性分组码的编码
在介绍线性分组码的原理之前，首先我 们来看一种简单而又常用的线性分组码— —奇偶监督码（也称为奇偶校验码），分 为奇数监督码和偶数监督码。无论信息码 元有多少，监督码元只有一位。在偶数监 督码中，监督码元的加入使得每个码字中 “1”的数目为偶数；在奇数监督码中，监 督码元的加入使得每个码字中“1”的数目 为奇数。
卷积码的维特比译码
卷积码的维特比译码卷积编码器自身具有网格构造，基于此构造我们给出两种译码算法：Viterbi 译码算法和BCJR 译码算法。
基于某种准那么，这两种算法都是最优的。
1967 年，Viterbi 提出了卷积码的Viterbi 译码算法，后来Omura 证明Viterbi 译码算法等效于在加权图中寻找最优途径问题的一个动态规划〔Dynamic Programming〕解决方案，随后，Forney 证明它实际上是最大似然〔ML，Maximum Likelihood〕译码算法，即译码器选择输出的码字通常使接收序列的条件概率最大化。
BCJR 算法是1974 年提出的，它实际上是最大后验概率〔MAP，Maximum A Posteriori probability〕译码算法。
这两种算法的最优化目的略有不同：在MAP 译码算法中，信息比特错误概率是最小的，而在ML 译码算法中，码字错误概率是最小的，但两种译码算法的性能在本质上是一样的。
由于Viterbi 算法实现更简单，因此在实际应用比较广泛，但在迭代译码应用中，例如逼近Shannon 限的Turbo 码，常使用BCJR 算法。
另外，在迭代译码应用中，还有一种Viterbi 算法的变种：软输出Viterbi 算法〔SOV A，Soft-Output Viterbi Algorithm〕，它是Hagenauer 和Hoeher 在1989 年提出的。
为了理解Viterbi 译码算法，我们需要将编码器状态图按时间展开〔因为状态图不能反映出时间变化情况〕，即在每个时间单元用一个分隔开的状态图来表示。
例如〔3，1，2〕非系统前馈编码器，其生成矩阵为：G(D)=[1+D1+D21+D+D2]〔1〕图1 〔a〕〔3，1，2〕编码器〔b〕网格图〔h＝5〕假定信息序列长度为h＝5，那么网格图包含有h＋m＋1＝8 个时间单元，用0 到h＋m＝7 来标识，如图1〔b〕所示。
假设编码器总是从全0 态S0 开始，又回到全0 态，前m＝2 个时间单元对应于编码器开始从S0“启程〞，最后m＝2 个时间单元对应于向S0“返航〞。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
纠错码分类
• 按照码元与原始信息位的关系,分为 –线性码：所有码元均是原始信息元的线性组
合,编码器不带反馈回路。
–非线性码：码元并不都是信息元的线性组合,
可能还与前面已编的码元有关,
编码器可能含反馈回路。
11
纠错码分类
• 按照适用的差错类型,分成: –纠随机差错码:用于随机差错信道,其纠错能
消息m
纠错编码
码ห้องสมุดไป่ตู้C
信道
接收向量R
纠错译码
消息m’
FEC
13
差错控制系统分类
• 前向纠错(FEC)：
• 优点：不存在反向信道、时延小、实时性好； • 缺点：前向纠错的能力是有限的，当传递过程 中出现的差错码字的个数超出纠错的能 力时，只能译出错误的信息；
14
差错控制系统分类
• 自动请求重发(ARQ)或反馈重发：
4
差错率及其分类
• 比特差错率/比特误码率（Pb）
–在传输的比特总数中发生差错的比
特数所占比例
–是指信息差错概率
• 对二进制传输系统,符号差错等效于比
特差错;
5
差错图样
• 为定量地描述信号的差错,定义差错图样E
E=C－R
(模M )
• 最常用的二进制码可当作特例来研究,其差错图 样等于收码与发码的异或,即 E = C⊕R 或 C = R⊕E • 设发送的码字C 1111111111 接收的码字R 1001001111 差错的图样E 0110110000 • 差错图样中的“1”既是符号差错也是比特差错, 差错的个数叫汉明距离。
15
差错控制系统分类
• 混合纠错(HEC)：
–是前向纠错与反馈重发方式的结合。
–信息经过发送端编码后同时具有自动检测和 纠错能力的码字,接收端收到码字后,检查差 错情况,如果差错在码的纠错能力以内,则自 动进行纠正。
–如果信道干扰很严重,错误很多,超过了码的
纠错能力,但能检测出来,则经反馈信道请求
– 发送消息经过检错编码后得到有检错功能的
码字； – 译码器检查判断当前码字是否传输正确；
消息m 码字C 消息m’ 接收向量R –当有错时按某种协议通过一个反向信道请求 纠错编码 信道 纠错译码 FEC
发送端重传已发送的码字(全部或部分)。
消息m
检错编码
码字C
信道
接收向量R
检错译码
消息m’
ARQ
图6.1.8 FEC与ARQ纠错应用方式
发端重发这组数据。
16
检错与纠错原理
0
1－pb pb pb
0
• 0:晴,1:雨 • 若1→0,0→1；接收端无法发现错误
00晴 00
能发现 一个错误
1
1－pb
1
01 禁用码组 10 11雨 11
图6.1.4 BSC转移概率
• 插入1位监督码后具有检出1位错码的能 力,但不能予以纠正。
17
检错与纠错原理
19
检错与纠错原理
纠错编码之所以具有检错、纠错能力,是因 为在信息码元之外加入了监督码。监督码不
载信息,只是用来监督信息码在传输中有无
差错。 纠错编码所提高的可靠性,是以牺牲信道利
用率为代价换取的。
监督码引入越多,检错、纠错能力越强,但信 道的传输效率下降也越快。
20
码距与检错、纠错能力
• 汉明距离： –二个码字对应位置码元不同的个数。
第6章
信道编码
• 信源编码
–提高数字信号有效性 • 将信源的模拟信号转变为数字信号 • 降低冗余度,提高符号的平均信息量；
• 信道编码
–提高数字通信可靠性 • 数字信号在信道的传输过程中,由于实际信道的 传输特性不理想以及存在加性噪声,在接收端往 往会产生误码。
2
内容
1、基本概念
差错率及其分类
突发长度=4 突发长度=6
7
纠错码分类
• 从功能角度讲,差错码分为检错码和纠错码 –检错码：用于发现差错 –纠错码：能自动纠正差错 • 纠错码与检错码在理论上没有本质区别,只是 应用场合不同,而侧重的性能参数也不同。
8
纠错码分类
• 按照对信息序列的处理方法,有分组码和卷积码 • 分组码： –将k个信息码元分成一组,由这k个码元按照一 定规则产生r个监督码元,组成长度n=k+r的码 字 n 010 101 010 001 110
力用码组内允许的独立差错
的个数来衡量。 –纠突发差错码:针对突发差错而设计,其纠错 能力主要用可纠突发差错的 最大长度来衡量。
12
差错控制系统分类
• 前向纠错(FEC)：
– 发送端的信息经过信道编码器将信息编成具
有一定纠错能力的码字。
–接收端信道译码器对接收码字进行译码,若 传输中产生的差错数目在码的纠错能力之内 时,译码器对差错进行定位并加以纠正。
• 最小码距dmin：
–一个码字的集合中任意二个码字间的 最小汉明距离。 • 码重W： –码字中非0的数目。
21
码距与检错、纠错能力
• 定理：若纠错码的最小距离为dmin， ⑴可以检测出任意小于等于l=dmin-1个差错
差错图样及其分类
纠错码分类 差错控制系统分类
2、检错与纠错的原理 3、码距与检错、纠错能力 4、译码方法
3
差错率及其分类
• 差错率是衡量传输质量的重要指标之一,它有 几种不同的定义。
• 码元差错率/符号差错率（Pe）
–指在传输的码元总数中发生差错的码元数
所占的比例,简称误码率。
–是指信号差错概率
000晴 000 001 010 100 011 101 110 111 晴
雨
111雨
• 在只有1位错码的情况下,可以判决哪位是错 码并予以纠正,可以检出2位或2位以下的错码。
18
检错与纠错原理
• 接收端接收到码字后与定义的许用码 字作对比，找与它差别最小的许用码 字； • 并且认为这个许用码字就是它所对应 的发送码字,从而在码字的纠错能力内 实现自动纠错。
0:传输中无错 1:传输中有错
6
差错图样类型
• 随机差错：
–差错是相互独立的,不相关 – 存在这种差错的信道是无记忆信道或随机 信道
• 突发差错：
– 前后相关、成堆出现的差错 – 已差错码元开头、已差错码元结尾；
• E: 0 0 1 0 0 1 0 0 0 0 0 0 1 0 0 1 1 1 0 0 0 0 0 0 0
k k
010xxxx 101xxxx 010 xxxx
r r
• 卷积码： –先将信息序列分组,不同的是编译码运算不仅 与本组信息有关,而且还与前面若干组有关。
9
纠错码分类
• 编码效率：
– 一个组中信息所占的比重
k R n
–k：信息码元的数目 –n：编码组码元的总数目n=k+r –r：监督码元的数目