Turbo码..
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
25
仿真结果表明：
采用长度为65536的随机交织器 在译码迭代18次的情况下 采用BPSK调制 信噪比Eb/N00.7dB时，码率为1/2的 Turbo码在加性高斯白噪声的信道上误 比特率为BER10-5，达到了与Shannon极
限仅差0.7dB的优异性能；
26
Turbo码：
又称为并行级联卷积码（PCCC，Parallel Concatenated Convolutional Code）。 它巧妙地将卷积码和随机交织器结合在一起， 在实现随机编码思想的同时，通过交织器实 现了用短码构造长码的方法，并采用软输出 迭代译码来逼近最大似然译码。 Turbo码充分利用了Shannon信道编码定理的 基本条件。 Turbo码被看作是1982年 TCM 技术问世以来， 信道编码理论与技术研究上所取得的最伟大 的技术成就，具有里程碑式的意义。
10
串行级联码器
信息 外编码器 (N，K) 分组码 内编码器 (n，k) 分组码 信道
级联码编码器
• 连接信息源的叫外编码器；
外码是（N,K）分组码；码率为Ro；
• 连接信道的叫内编码器；
内码是（n,k）分组码，码率为Ri；
• 两者合起来有：码长Nn、信息位Kk、码率 Rc=RiRo
11
9.1.4 硬判决和软判决
Turbo码简介
Turbo码
Turbo码基础 Turbo码编码器
并行级联结构 反馈系统卷积码 交织器
2
Tubor码基础
Shannon 信道编码定理（第二定理）
1948年，美国Bell实验室的C.E.Shannon 在贝 尔技术杂志上发表了题为《通信的数学理论》 （A mathematical theory of communication） 的论文。 Shannon指出：任何一个通信道都有确定的信 道容量C，如果通信系统所要求的传输速率R小 于C，则存在一种编码方式，当码长n充分大并 应用最大似然译码（MLD）时，信息的错误概 率可以达到任意小。这就是著名的 Shannon 有躁信道编码定理。 3
16
乘积码
假设信息比特先经过（n，k）分组编码； 先再作一次“行”进“列”出的交织后送入信 道； 交织器起到了噪声均化的作用，对突发差错的 随机化非常有效。 如果作进一步的研究，发现“行”进“列”出， 交织器将“行”的顺序转化成了“列”的顺序。 但是原先“行”的顺序是（n，k）分组码的码 字，改成了“列”的顺序之后就不是码字了。 改进：将码块的行和列都进行编码。由于行和 列都有了冗余度，纠错能力一定能够提高，这 17 样做产生的就是乘积码。
分析：
实现信道编码定理的条件
采用随机编、译码方式 编译码长度L→，即码长无限 译码采用最大似然译码方法 长期以来，信道编码的设计一直是沿 着后两个方向发展
4
信道编码定理分析(1)
采用随机编、译码 方式 编 译 码 长 度 L→ ， 即码长无限 译码采用最大似然 译码方法
5
第一项的随机化思 想贯穿编码的构造 与译码算法的选取 原则，是香农信息 论的精华，它应该 是构造理想信道编 码的方向
28
Turbo编码器结构
Turbo码（并行级联卷积码），由两到多 个带反馈的系统卷积码RSC级联而成，每 个子码编码器的输入由随机交织器分开
信 息 数 据 编码器 1 交 织 器 编码器 2 复 接 器 编 码 输 出
删余 矩阵
29
删余(Puncture)
通过删除冗余的校验码来调整码率；
Turbo 码由于采用两个编码器，产生 的冗余比特比一般的情况多一倍； 但是又不能排斥两个编码器中的任何一 个，于是折衷的办法就是按一定的规律 轮流选用两个编码器的校验比特。
6
信道编码定理分析(3)
采用随机编、译码 方式 编 译 码 长 度 L→ ， 即码长无限 译码采用最大似然 译码方法
最大似然译码算法的 性能优异，但复杂度 很高，不适于工程上 实现。目前真正能达 到最佳译码性能的只 有Viterbi译码，但 只适于约束长度较小 的卷积码和短或低纠 错能力的分组码
由于软判决维特比最大似然译码算法适合于 约束长度较小的卷积码，因此级联码的内码 常用卷积码，外码用分组码，如RS、BCH 等。 卷积码译码是根据序列的相似性来译码，一 旦出错就是一个序列的差错（发生突发错 误）。 卷积码的本质是纠随机错误而不是突发错误 误，适用于高斯白噪声信道。对于衰落信道， 最有效且简单的方法：采用交织器。
30
删余(Puncture)举例
采用码率为1/R的系统卷积码
如果不删余，信息位加上两个编码器的各一个 校验位，将产生码率为1/3的码流。 如果令编码器1的校验流乘以一个删余矩阵 P1=[1 0]T，编码器2乘以一个删余矩阵 P2=[0 1]T，就产生了在编码器1、2间轮流取值 的效果。 发送到信道上的只是1位信息位和1位轮流取值 的校验位，使码率调整为1/2。
级联码的迭代译码
乘积码可以看成是一个中间插入了行 列交织器的级联码，是级联码的子类。
ky 个 ky 个 nx 个 ky 个
kx比特组
nx比特组
(nx,kx) 行编码器
当接收出现差错时，行译码和列译码 对差错的反应不同。
19
行输入 列输出 nxky交织器
ky比特组
ny比特码字
(ny,ky) 列编码器
传统的最佳接收机中解调器和译码器是独立 的两个部分； 解调器首先对调制器输入符号做最佳判决， 然后将硬判决的结果送给译码器，译码器再 根据输入的信息做最佳判决，纠正解调器可 能发生的错误判决，这பைடு நூலகம்硬判决； 经过解调器的硬判决，丢失了许多有利于译 码的信息。为了提高编码通信系统的性能， 人们从信息论的角度，对接收机中解调器与 信道译码器的功能划分和接口重新审视，提 出软判决的方法。
23
结构简单、性能优越的好码：
乘积码； 代数几何码； 低密度校验码（LDPC，Low Density Parity Code）； 分组-卷积级联码方法和序列译码； 逐组最佳译码； 软判决译码； 网格编码调制。
24
9.2 Turbo码 虽然软判决、级联码和编码调制技术 对信道码的设计和发展产生了重大的 影响，但是其增益与Shannon 理论极 限始终都存在2-3个dB的差距。 Turbo码很好地运用了Shannon信道编 码定理中的随机性编、译码条件；
卷积码
1955年由Elias等人提出。卷积码的信息块 长度和码字长度都比分组码小，相应的译码 复杂性也要小一些。 卷积码常用算法：
• Wozencraft和Reiffen在1961年、Fano和 Jelinek分别在1963年和1969年提出了改进 的序列译码算法； • 由Messey在1963年提出的门限译码算法，类 似于大数逻辑译码算法； • 由Viterbi在1967年提出的Viterbi算法，是 一种最优的译码算法。
14
级联码用于突发差错信道
信息 外码 RS 内码 卷积码 信道
交织器
调制器
级联码编码器
交织器与扰码器的区别
交织器：数据顺序的随机化 扰码器：数据形式（0、1幅度）的随机化
15
由于RS码没有简单的软判决译码算法， 所以人们发明了一种卷积码+卷积码的级 联方式，并采用软输入、软输出译码算 法。 这种码被看作是Turbo码的一种，被称为 串行级联卷积码（SCCC，Serial Concatenated Convolutional code）。
12
软判决： 解调器对输出不进行判决，送到译码 器的判决信号:可能的概率值或者未量 化的输出，而不是硬判决的值；译码器 可以利用这些信息作出综合的判决。 采用软判决可以得到2dB左右的附加编 码增益； 针对解调器的输出是“软判决”输出； 而对于内译码器，则是进行“软输入” 译码。
13
9.1.5 用卷积码做内编码器
乘积码码阵图 整个码阵可分割成4块:信息块、行校验块、 列校验块、校验之校验块。
m1,1 m1,2 m2,1 m2,2 … … Mky,1 mky,2 Cyk+1,1 Cyk+1,2
… m1,k Cx1,kx+1 … m2,k Cx2,kx+1 … … … … mky,k Cxk,kx+1 … Cyk+1,k Pky+1,kx+1
Cx1, kx+2 Cx1, kx+2 … Cx1, kx+2 Pky+1,kx+2
… … … … …
Cx1,nx Cx1,nx … Cx1,nx Pky+1nx
Cyk+2,1 Cyk+2,2 … Cyk+2,k Pky+2,kx+1 Pky+2,kx+2 … Pky+2nx … … … … … … … … Cyn,1 Cyn,2 … Cyn,k Pny,kx+1 Pny,kx+2 … 18 Pny,nx
27
Turbo码的诞生
在1993年ICC国际会议上，法国高等电 信学校Bretagne分校的Cloud Berrou 等提出了Turbo码的概念，它与香农限 只差0.7dB。 由于并行级联码的反馈译码机制有点 类似涡轮机（turbo）的反馈工作原理， 所以将这种编译码结构称为turbo code。
21
迭代译码：行、列译码器的输出可以反 复地被对方使用。
列译码 去交织 行译码 去交织
列译码
去交织
去交织
去交织
迭代译码的软输出译码及其他次最优译码算法 的复杂性相对于最大似然译码减小了，但是这 是以系统的性能为代价的。
22
迭代译码
随着Turbo码的问世，迭代译码的概念引起了 人们的重视； 计算机仿真表明：通过级联码或乘积码的多个 软输出译码器之间的进行迭代，系统的渐进性 能可以逼近最大似然译码算法的性能； 以前，人们将Shannon定理看作是理论上最高 界限，是不能达到的；迭代译码技术的在译码 方案中的成功应用，使人们看到了达到 Shannon理论极限目标的可能性； 同时，Turbo迭代译码思想也已经广泛地用于 编码调制、信道均衡和多用户检测等领域。
9
9.1.3 串行级联码编码方案
Forney在1966年提出； 基本思想：将编制长码的过程分级完成，从 而通过用短码级联的方法来提高纠错码的纠 错能力； 目标：利用两个短码串接构造一个长码； 级联码结构：由外编码器和内编码器构成；
在级联码中，内编码器可以看成一个噪声滤 波器，它不仅可以改变噪声的分布，还可以 有效地提高接收信号的信噪比。
同一行有2个错误
同一列有2个错误
假设：行、列的译码能力都是 t=1 ； 对于（a）先列译码、再行译码； 对于（b）先行译码，再列译码。
20
既然行、列译码含有不同的信息，能否 将列译码信息提供给行呢?
接收信号 列译码 去交织 软信息 去交织 行译码
图中，列译码器的结果经过去交织还原 成行信息送入行译码器作为译码的参考 （软信息）。然而，行译码的结果并没 有被送到列译码器作为参考。
信道编码定理分析(2)
采用随机编、译 码方式 编 译 码 长 度 L→ ， 即 码 长 无限
译码采用最大似 然译码方法
由于长码的译码复杂度太高， 而性能优异的短码能达到的传 输速率R<<C，因此为了获得中、 低译码复杂度的长码，前人在 现有的短码的基础上提出了串 行级联码的结构。但这种结构 还是没能摆脱短码的束缚。由 于在接近信道容量时，短码的 译码过程不仅不能使错误减少， 反而会增加错误，因此传统的 串行级联码的性能与香农极限 之间还有着不可逾越的鸿沟。
7
9.1.2 纠错编码方法的发展过程
分组码：
20世纪40年代，R.Hamming提出了第一个差错控制 码(7，4)，后来被命名为汉明码； 汉明码的效率较低，M.Golay研究了汉明码的缺点， 提出了两个以自己名字命名的高性能码：二元 Golay码 和 三元Golay码； Muller于1954年提出了一类新的分组码ReedMuller码，即RM码。RM码在汉明码和Golay码的基 础上进了一大步，在码长和纠错能力方面有更强的 适应性； RM码之后，人们提出了循环码的概念；重要的子集 是1960年提出的BCH码和RS码。但是直到1967年， Berlekamp 给出了一个非常有效的译码算法之后， RS码才得到了广泛的应用。 8
仿真结果表明：
采用长度为65536的随机交织器 在译码迭代18次的情况下 采用BPSK调制 信噪比Eb/N00.7dB时，码率为1/2的 Turbo码在加性高斯白噪声的信道上误 比特率为BER10-5，达到了与Shannon极
限仅差0.7dB的优异性能；
26
Turbo码：
又称为并行级联卷积码（PCCC，Parallel Concatenated Convolutional Code）。 它巧妙地将卷积码和随机交织器结合在一起， 在实现随机编码思想的同时，通过交织器实 现了用短码构造长码的方法，并采用软输出 迭代译码来逼近最大似然译码。 Turbo码充分利用了Shannon信道编码定理的 基本条件。 Turbo码被看作是1982年 TCM 技术问世以来， 信道编码理论与技术研究上所取得的最伟大 的技术成就，具有里程碑式的意义。
10
串行级联码器
信息 外编码器 (N，K) 分组码 内编码器 (n，k) 分组码 信道
级联码编码器
• 连接信息源的叫外编码器；
外码是（N,K）分组码；码率为Ro；
• 连接信道的叫内编码器；
内码是（n,k）分组码，码率为Ri；
• 两者合起来有：码长Nn、信息位Kk、码率 Rc=RiRo
11
9.1.4 硬判决和软判决
Turbo码简介
Turbo码
Turbo码基础 Turbo码编码器
并行级联结构 反馈系统卷积码 交织器
2
Tubor码基础
Shannon 信道编码定理（第二定理）
1948年，美国Bell实验室的C.E.Shannon 在贝 尔技术杂志上发表了题为《通信的数学理论》 （A mathematical theory of communication） 的论文。 Shannon指出：任何一个通信道都有确定的信 道容量C，如果通信系统所要求的传输速率R小 于C，则存在一种编码方式，当码长n充分大并 应用最大似然译码（MLD）时，信息的错误概 率可以达到任意小。这就是著名的 Shannon 有躁信道编码定理。 3
16
乘积码
假设信息比特先经过（n，k）分组编码； 先再作一次“行”进“列”出的交织后送入信 道； 交织器起到了噪声均化的作用，对突发差错的 随机化非常有效。 如果作进一步的研究，发现“行”进“列”出， 交织器将“行”的顺序转化成了“列”的顺序。 但是原先“行”的顺序是（n，k）分组码的码 字，改成了“列”的顺序之后就不是码字了。 改进：将码块的行和列都进行编码。由于行和 列都有了冗余度，纠错能力一定能够提高，这 17 样做产生的就是乘积码。
分析：
实现信道编码定理的条件
采用随机编、译码方式 编译码长度L→，即码长无限 译码采用最大似然译码方法 长期以来，信道编码的设计一直是沿 着后两个方向发展
4
信道编码定理分析(1)
采用随机编、译码 方式 编 译 码 长 度 L→ ， 即码长无限 译码采用最大似然 译码方法
5
第一项的随机化思 想贯穿编码的构造 与译码算法的选取 原则，是香农信息 论的精华，它应该 是构造理想信道编 码的方向
28
Turbo编码器结构
Turbo码（并行级联卷积码），由两到多 个带反馈的系统卷积码RSC级联而成，每 个子码编码器的输入由随机交织器分开
信 息 数 据 编码器 1 交 织 器 编码器 2 复 接 器 编 码 输 出
删余 矩阵
29
删余(Puncture)
通过删除冗余的校验码来调整码率；
Turbo 码由于采用两个编码器，产生 的冗余比特比一般的情况多一倍； 但是又不能排斥两个编码器中的任何一 个，于是折衷的办法就是按一定的规律 轮流选用两个编码器的校验比特。
6
信道编码定理分析(3)
采用随机编、译码 方式 编 译 码 长 度 L→ ， 即码长无限 译码采用最大似然 译码方法
最大似然译码算法的 性能优异，但复杂度 很高，不适于工程上 实现。目前真正能达 到最佳译码性能的只 有Viterbi译码，但 只适于约束长度较小 的卷积码和短或低纠 错能力的分组码
由于软判决维特比最大似然译码算法适合于 约束长度较小的卷积码，因此级联码的内码 常用卷积码，外码用分组码，如RS、BCH 等。 卷积码译码是根据序列的相似性来译码，一 旦出错就是一个序列的差错（发生突发错 误）。 卷积码的本质是纠随机错误而不是突发错误 误，适用于高斯白噪声信道。对于衰落信道， 最有效且简单的方法：采用交织器。
30
删余(Puncture)举例
采用码率为1/R的系统卷积码
如果不删余，信息位加上两个编码器的各一个 校验位，将产生码率为1/3的码流。 如果令编码器1的校验流乘以一个删余矩阵 P1=[1 0]T，编码器2乘以一个删余矩阵 P2=[0 1]T，就产生了在编码器1、2间轮流取值 的效果。 发送到信道上的只是1位信息位和1位轮流取值 的校验位，使码率调整为1/2。
级联码的迭代译码
乘积码可以看成是一个中间插入了行 列交织器的级联码，是级联码的子类。
ky 个 ky 个 nx 个 ky 个
kx比特组
nx比特组
(nx,kx) 行编码器
当接收出现差错时，行译码和列译码 对差错的反应不同。
19
行输入 列输出 nxky交织器
ky比特组
ny比特码字
(ny,ky) 列编码器
传统的最佳接收机中解调器和译码器是独立 的两个部分； 解调器首先对调制器输入符号做最佳判决， 然后将硬判决的结果送给译码器，译码器再 根据输入的信息做最佳判决，纠正解调器可 能发生的错误判决，这பைடு நூலகம்硬判决； 经过解调器的硬判决，丢失了许多有利于译 码的信息。为了提高编码通信系统的性能， 人们从信息论的角度，对接收机中解调器与 信道译码器的功能划分和接口重新审视，提 出软判决的方法。
23
结构简单、性能优越的好码：
乘积码； 代数几何码； 低密度校验码（LDPC，Low Density Parity Code）； 分组-卷积级联码方法和序列译码； 逐组最佳译码； 软判决译码； 网格编码调制。
24
9.2 Turbo码 虽然软判决、级联码和编码调制技术 对信道码的设计和发展产生了重大的 影响，但是其增益与Shannon 理论极 限始终都存在2-3个dB的差距。 Turbo码很好地运用了Shannon信道编 码定理中的随机性编、译码条件；
卷积码
1955年由Elias等人提出。卷积码的信息块 长度和码字长度都比分组码小，相应的译码 复杂性也要小一些。 卷积码常用算法：
• Wozencraft和Reiffen在1961年、Fano和 Jelinek分别在1963年和1969年提出了改进 的序列译码算法； • 由Messey在1963年提出的门限译码算法，类 似于大数逻辑译码算法； • 由Viterbi在1967年提出的Viterbi算法，是 一种最优的译码算法。
14
级联码用于突发差错信道
信息 外码 RS 内码 卷积码 信道
交织器
调制器
级联码编码器
交织器与扰码器的区别
交织器：数据顺序的随机化 扰码器：数据形式（0、1幅度）的随机化
15
由于RS码没有简单的软判决译码算法， 所以人们发明了一种卷积码+卷积码的级 联方式，并采用软输入、软输出译码算 法。 这种码被看作是Turbo码的一种，被称为 串行级联卷积码（SCCC，Serial Concatenated Convolutional code）。
12
软判决： 解调器对输出不进行判决，送到译码 器的判决信号:可能的概率值或者未量 化的输出，而不是硬判决的值；译码器 可以利用这些信息作出综合的判决。 采用软判决可以得到2dB左右的附加编 码增益； 针对解调器的输出是“软判决”输出； 而对于内译码器，则是进行“软输入” 译码。
13
9.1.5 用卷积码做内编码器
乘积码码阵图 整个码阵可分割成4块:信息块、行校验块、 列校验块、校验之校验块。
m1,1 m1,2 m2,1 m2,2 … … Mky,1 mky,2 Cyk+1,1 Cyk+1,2
… m1,k Cx1,kx+1 … m2,k Cx2,kx+1 … … … … mky,k Cxk,kx+1 … Cyk+1,k Pky+1,kx+1
Cx1, kx+2 Cx1, kx+2 … Cx1, kx+2 Pky+1,kx+2
… … … … …
Cx1,nx Cx1,nx … Cx1,nx Pky+1nx
Cyk+2,1 Cyk+2,2 … Cyk+2,k Pky+2,kx+1 Pky+2,kx+2 … Pky+2nx … … … … … … … … Cyn,1 Cyn,2 … Cyn,k Pny,kx+1 Pny,kx+2 … 18 Pny,nx
27
Turbo码的诞生
在1993年ICC国际会议上，法国高等电 信学校Bretagne分校的Cloud Berrou 等提出了Turbo码的概念，它与香农限 只差0.7dB。 由于并行级联码的反馈译码机制有点 类似涡轮机（turbo）的反馈工作原理， 所以将这种编译码结构称为turbo code。
21
迭代译码：行、列译码器的输出可以反 复地被对方使用。
列译码 去交织 行译码 去交织
列译码
去交织
去交织
去交织
迭代译码的软输出译码及其他次最优译码算法 的复杂性相对于最大似然译码减小了，但是这 是以系统的性能为代价的。
22
迭代译码
随着Turbo码的问世，迭代译码的概念引起了 人们的重视； 计算机仿真表明：通过级联码或乘积码的多个 软输出译码器之间的进行迭代，系统的渐进性 能可以逼近最大似然译码算法的性能； 以前，人们将Shannon定理看作是理论上最高 界限，是不能达到的；迭代译码技术的在译码 方案中的成功应用，使人们看到了达到 Shannon理论极限目标的可能性； 同时，Turbo迭代译码思想也已经广泛地用于 编码调制、信道均衡和多用户检测等领域。
9
9.1.3 串行级联码编码方案
Forney在1966年提出； 基本思想：将编制长码的过程分级完成，从 而通过用短码级联的方法来提高纠错码的纠 错能力； 目标：利用两个短码串接构造一个长码； 级联码结构：由外编码器和内编码器构成；
在级联码中，内编码器可以看成一个噪声滤 波器，它不仅可以改变噪声的分布，还可以 有效地提高接收信号的信噪比。
同一行有2个错误
同一列有2个错误
假设：行、列的译码能力都是 t=1 ； 对于（a）先列译码、再行译码； 对于（b）先行译码，再列译码。
20
既然行、列译码含有不同的信息，能否 将列译码信息提供给行呢?
接收信号 列译码 去交织 软信息 去交织 行译码
图中，列译码器的结果经过去交织还原 成行信息送入行译码器作为译码的参考 （软信息）。然而，行译码的结果并没 有被送到列译码器作为参考。
信道编码定理分析(2)
采用随机编、译 码方式 编 译 码 长 度 L→ ， 即 码 长 无限
译码采用最大似 然译码方法
由于长码的译码复杂度太高， 而性能优异的短码能达到的传 输速率R<<C，因此为了获得中、 低译码复杂度的长码，前人在 现有的短码的基础上提出了串 行级联码的结构。但这种结构 还是没能摆脱短码的束缚。由 于在接近信道容量时，短码的 译码过程不仅不能使错误减少， 反而会增加错误，因此传统的 串行级联码的性能与香农极限 之间还有着不可逾越的鸿沟。
7
9.1.2 纠错编码方法的发展过程
分组码：
20世纪40年代，R.Hamming提出了第一个差错控制 码(7，4)，后来被命名为汉明码； 汉明码的效率较低，M.Golay研究了汉明码的缺点， 提出了两个以自己名字命名的高性能码：二元 Golay码 和 三元Golay码； Muller于1954年提出了一类新的分组码ReedMuller码，即RM码。RM码在汉明码和Golay码的基 础上进了一大步，在码长和纠错能力方面有更强的 适应性； RM码之后，人们提出了循环码的概念；重要的子集 是1960年提出的BCH码和RS码。但是直到1967年， Berlekamp 给出了一个非常有效的译码算法之后， RS码才得到了广泛的应用。 8