编码理论PPT课件

➢ Shannon指出了可以通过差错控制码在信息传输速率不
大于信道容量的前提下实现可靠通信，但却没有给出具体
实现差错控制编码的方法。
9
➢ 20世纪40年代，R.Hamming和M.Golay提出了第一个 实用的差错控制编码方案，使编码理论这个应用数学 分支的发展得到了极大的推动。通常认为是 R.Hamming提出了第一个差错控制码。当时他作为一 个数学家受雇于贝尔实验室，主要从事弹性理论的研 究。他发现计算机经常在计算过程中出现错误，而一 旦有错误发生，程序就会停止运行。这个问题促使他 编制了使计算机具有检测错误能力的程序，通过对输 入数据编码，使计算机能够纠正这些错误并继续运行。 Hamming所采用的方法就是将输入数据每4个比特分 为一组，然后通过计算这些信息比特的线性组合来得 Hamming, 1915-1998 到3个校验比特，然后将得到的7个比特送入计算机。 计算机按照一定的原则读取这些码字，通过采用一定 的算法，不仅能够检测到是否有错误发生，同时还可 以找到发生单个比特错误的比特的位置，该码可以纠 正7个比特中所发生的单个比特错误。这个编码方法就 是分组码的基本思想，Hamming提出的编码方案后来 被命名为汉明码。
以提高数字信息传输、存储处理的有效性为宗旨的信源编 码（Source coding）；
以增加数字信息传输、存储的安全性为目标的数据加密编 码（data encryption）；
➢ 我们主要讨论差错控制编码技术。
7
➢ 差错控制编码技术是适应数字通信抗 噪声干扰的需要而诞生和发展起来的， 它是于1948年、著名的信息论创始人 C. E. Shannon（香农）在贝尔系统技 术 杂 志 发 表 的 “ A Mathematical Theory of Communication”一文，开 创了一门新兴学科和理论：信息论和 编码理论。
11
➢ 汉明码和Golay码的基本原理相同。它们都是将q元符 号按每k个分为一组．然后通过编码得到n-k个q元符号 作为冗余校验符号，最后由校验符号和信息符号组成有 n个q元符号的码字符号。得到的码字可以纠正t个错误， 编码码率为为k/n。这种类型的码字称为分组码，一般 记为(q,n,k,t)码，二元分组码可以简记为(n,k,t)码或者 (n,k)码。汉明码和Golay码都是线性的，任何两个码字 经过模q的加操作之后，得到的码字仍旧是码集合中的 一个码字。
8
1.1 信道编码的历史及研究现状
➢ 1948年，Bell实验室的C.E.Shannon发表的《通信的数 学理论》，是关于现代信息理论的奠基性论文，它的发表 标志着信息与编码理论这一学科的创立。Shannon在该 文中指出，任何一个通信信道都有确定的信道容量C，如 果通信系统所要求的传输速率R小于C，则存在一种编码 方 法 ， 当 码 长 n 充 分 大 并 应 用 最 大 似 然 译 码 （ MLD ， Maximum Likelihood Decdoding）时，信息的错误概 率可以达到任意小。从Shannon信道编码定理可知，随 着分组码的码长n或卷积码的约束长度N的增加，系统可 以取得更好的性能（即更大的保护能力或编码增益），而 译码的最优算法是MLD，MLD算法的复杂性随n或N的增 加呈指数增加，因此当n或N较大时，MLD在物理上是不 可实现的。因此，构造物理可实现编码方案及寻找有效译 码算法一直是信道编码理论与技术研究的中心任务。
➢ 第五章 Turbo码
5.1 Turbo码的编码 5.2 Turbo码的迭代译码 5.3 Turbo码的性能界 5.4 交织器设计 5.5 分量码的优化
5
课程内容（续）
➢ 第六章 编织码
6.1 编织码编码基本原理
6.2 编织码的译码
6.3 编织卷积码的活性距离特性
6.4 基于删余技术的编织码
• 1.2.1 线性分组码 • 1.2.2 循环码
➢ 第二章 基础理论
2.1 信道编码定理 2.2 硬判决与软判决 2.3 基本信道模型及其信道容量 2.4 MAP与ML算法 2.5 因子图与和积算法
➢ 第三章 BCH码
4
课程内容（续）
➢ 第四章 卷积码
4.1 卷积码的编码 4.2 卷积码的结构特性 4.3 卷积码的距离特性 4.4 Viterbi译码算法 4.5 SOVA算法 4.6 BCJR算法
编码理论
周武旸 wyzhou@ustc.edu.cn 中国科学技术大学
1
PART ONE
前言
请在此处添加具体内容，文字尽量言简意赅，见到 那描述即可，不必过于繁来自百度文库，注意版面美观度。
2
• 助教
– 刘磊：liul@mail.ustc.edu.cn
3
课程内容
➢ 第一章 绪论
1.1 信道编码的历史及研究现状 1.2 简单编码方式回顾
6.5 编织码的因子图与和积算法分析
➢ 第七章 LDPC码
7.1 LDPC码的基本原理
7.2 译码方法
7.3 多进制LDPC码
➢ 第八章 优化方法
8.1 密度进化方法
8.2 基于EXIT图的优化方法
➢ 第九章 保密通信
6
第一章 序论
➢ 编码理论的内容包括三个方面
以保证数字信息传输和处理的可靠性为目的的差错控制编 码（error-control coding），又称为信道编码（channel coding）；
10
➢ 虽然汉明码的思想是比较先进的，但是它也存在许多难以接受
的缺点。首先，汉明码的编码效率比较低，它每4个比特编码就 需要3个比特的冗余校验比特。另外，在一个码组中只能纠正单 个的比特错误。M.Golay研究了汉明码的这些缺点，并提出了两 个以他自己的名字命名的高性能码字：一个是二元Golay码，在 这个码字中Golay将信息比特每12个分为一组，编码生成11个冗 余校验比特，相应的译码算法可以纠正3个错误。另外一个是三 元Golay码，它的操作对象是三元而非二元数字。三元Golay码 将每6个三元符号分为一组，编码生成5个冗余校验三元符号。这 样由11个三元符号组成的三元Golay码码字可以纠正2个错误。