Turbo码LDPC码的译码方法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
23 2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• LDPC码与Turbo码之间的相似之处有： 两者均符合Shannon信道编码定理证明中 引用的三个重要的假设条件：码长足够 长、随机编码方法和采用最佳的译码 MAP算法。因此都具有逼近的Shannon限 的优异性能；
aEb ln(e e ) min( a, b) ln(1 e aEb min(a, b)
当 a b 0时
a
b
a b
)
其中min运算与加法运算一样均满足交换率 和结 合率，并用它取代logMAP 算法中的E运算，其计 算复杂度降低了，但译码精度亦会相应降低。
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
北邮信息理论 与技术教研中心
Turbo 码 的译码算法
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• Turbo码的译码算法是BCJR算法，其实质是按码 元的最大后验概率的MAP算法，是一类采用双向 递推的后验概率算法； • MAP算法完全等效于最小误码率算法，且当信源 等概率分布时，亦与最大似然算法等效； • 决定递推式最大似然算法的核心是满足马尔科夫 性，这是后验概率的似然比值仅决定于前向递推 概率 、后向递推概率 以及分支转移概率 。
s ', s uk 1
Max{ k 1 ( s ') k ( s ', s ) k ( s)}
s ', s uk 1
11
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
而SOVA算法，通过回溯可找到一条ML不 妨设其在k时刻找到的信息比特 u k 为1，则 其输出似然比为：
aEb ln(e e ) min(a, b) ln(1 e
a
b
a b
)
且E运算与加法运算一样均满足交换率与 结合率。
9
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• Max-log-MAP算法 Max-log-MAP算法是logMAP算法的简化，其原 理完全相同，差别在于仅简化了E运算。
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
引入映射f : y ln( x);
f
L
L
;
L
x ;
E;
8
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
E运算的定义为： （可算作一类对数域算子）
19
2013年7月29日
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 由于受当时客观条件的限制，硬件实现 困难。LDPC码长期被人所遗忘，直至 1995年，Mackay和Neal重新发现LDPC码 和Turbo码有着同样优秀的性能，后来人 们进一步发现LDPC码完全符合Shannon 证明其信道编码定理的三个假设的条件： 码长足够长、随机编码方法和采用最大 后验概率MAP译码。
ln
s ', s uk 1
k 1
s ', s uk 1
其中 : s ', s分别表示k -1和k时刻寄存器RSC的状态
5 2013年7月29日
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 对于硬判决
ˆ uk sign[ L(uk YN )]
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 其中：
YN 为接受信号序列； L(U )in 为输入似然比； L(U )out 为输出似然比； L(U YN )为后验概率似然比；
4
2013年7月29日
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
18
2013年7月29日
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
监督矩阵中每列包含很小的固定数目 j>=3的1； 每行亦包含一个很小固定数目k>j的1； Gallager证明，这种码字的典型最小距离 随着码长的增加而线性增加，而且在 BSC信道下其译码差错的典型概率将随 码长指数下降。
将Gallager提出的规则的LDPC码，即其校 验矩阵的列重与行重为固定值，进一步拓 广至不规则的二元LDPC码，亦即校验矩 阵的每列、每行重量不相等，其性能亦得 到很大的提高。其中Chung提出将最大列 重增至2000，1/2码率，当码长为107比特 时，在AWGN信道下，仿真表明，二元非 规则的LDPC码的性能与Shannon限仅相差 0.01的dB。它远远超出Turbo码的性能。
15
2013年7月29日
各类算法小结
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 就硬件实现而言， log-MAP的计算复杂 度比MAP低，但译码精度一样；而对于 logMAP、 Max-log-MAP、双向SOVA和 单向SOVA，它们的计算复杂度依次降低， 但译码精度也相应的依次降低。
• 目前对LDPC码进一步研究主要集中在以下 两个方向上： 将GF（2）的二元域上的LDPC码进一步拓 广至多元域，比如GF（22）、 GF（23）等， 并进一步精心构造多元域上的校验矩阵， 可以使LDPC码性能得到进一步提高。
22
2013年7月29日
LDPC码研究的方向
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
26
2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
对于Turbo码实现的主要难点在接收端的 译码，计算复杂度以及交织器的设计与 时延。因此Turbo码的译码时延要远大于 LDPC码的译码时延； 在接收端译码的具体实现时，通常Turbo 码的译码是采用串行处理，而LDPC码则 可以采用并行处理，因此它更适合于硬 件实现；
14
2013年7月29日
各类算法小结
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• logMAP算法完全等效于MAP，只是更便于 硬件实现；Max-log-MAP算法是logMAP算 法的简化；双向SOVA算法又是Max-logMAP算法的简化；单向SOVA算法则又是双 向SOVA算法的进一步简化；
Max{ k 1 ( s ') k ( s ', s) k ( s)} L(uk YN ) ln
s ', s uk 1
one of{ k 1 ( s ') k ( s ', s) k ( s)}
12
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
20
2013年7月29日
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 后来人们进一步发现，在同样足够长的 码长条件下，其性能甚至还优于Turbo码， 从而重新引起人们广泛关注与进一步的 研究。
21
2013年7月29日
LDPC码研究的方向
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
13
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
对于双向SOVA算法，对前向和后向SOVA 算法输出的似然比取最小值，有助于缓解 这一问题，但是如果满足 u k 为-1的最大似 然序列出现在k时刻为中心的前后延时窗以 外，则双向SOVA算法仍存在似然比高估的 问题。
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• LDPC码与Turbo码之间也存在一些差异： 对于LDPC码实现的主要难点在发送端的 编码构造，它主要精心挑选具有良好类似 随机特性的低密度码重分布的码字（组） 结构。它一般需要采用计算机进行大量的 筛选后才能确定，可见在LDPC码中实现 随机性无需采用交织器；
Fra Baidu bibliotek
24
2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
两者的编译码方法是类似的，都可以采 用Tanner图、二分图乃至更抽象的因子 图概念来统一描述，而译码算法则可统 一到因子图上和、积算法加以概括；
25
2013年7月29日
LDPC码与Turbo码之间的对比
• 其中，最核心的后验概率似然比为：
P (uk 1 YN ) L(uk YN ) ln P (uk 1 YN ) P (uk 1, YN ) ln P (uk 1, YN )
k 1
( s ') k ( s ', s ) k ( s ) ( s ') k ( s ', s ) k ( s )
16
2013年7月29日
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
北邮信息理论 与技术教研中心
LDPC 码
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 早在1962年，著名信息论专家Gallager在 他的博士论文中首先提出低密度分组校 验码（Low Density Parity-Check Code） 即LDPC码的概念，它是基于监督矩阵定 义的一种码，具有以下性质：
这里主要比较常用的MAP、logMAP、 Max- logMAP以及SOVA算法之间的关系。 • logMAP算法： 它与MAP算法等效，只是将 、 、 转 移至对数域中去计算，并且将乘法运算映 射为加法运算，加法运算映射为E运算， 其目的是为了便于硬件实现。
7
2013年7月29日
各类算法之间的关系
10
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• SOVA算法 SOVA算法可以看作是Max-log-MAP算法 的进一步简化： Max-log-MAP输出的后验概率似然比为：
Max{ k 1 ( s ') k ( s ', s) k ( s)} L(uk YN ) ln
显然对于分子，SOVA算法可以从众多满 足 u k 为1的序列概率中找到最大的序列概率； 但对于分母，SOVA算法则不一定能从众多 uk 满足 为1的序列概率中找到最大的序列概 率； 而是从延时窗中更新得到的那条件随 路径所对应的后验概率。所以SOVA输出似 然比的绝对值比Max-log-MAP算法大，既 存在似然比高估问题。
27
2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
从性能上看，Turbo码更适合于中、短长度 码长，比如在3G中，Turbo码就是首选，而 对于更长的码长时，LDPC码的性能将超过 Turbo码。
28
2013年7月29日
2
2013年7月29日
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• Turbo码通用译码器的结构为：
L(U )in
L(U YN )
最大似然译码器 （MAP、logMAP、MaxlogMAP、SOVA）
YN
L(U )out
3
2013年7月29日
Turbo 码的译码算法
• 对于软判决
Lk (uk )out Lk (uk YN ) L Y Lk (uk )in
s c k
它用于本译码器的外信息输出，经过交织或者 反交织传递给下一个译码器，并作为下一个译 码器的先验信息的输入。
6 2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• LDPC码与Turbo码之间的相似之处有： 两者均符合Shannon信道编码定理证明中 引用的三个重要的假设条件：码长足够 长、随机编码方法和采用最佳的译码 MAP算法。因此都具有逼近的Shannon限 的优异性能；
aEb ln(e e ) min( a, b) ln(1 e aEb min(a, b)
当 a b 0时
a
b
a b
)
其中min运算与加法运算一样均满足交换率 和结 合率，并用它取代logMAP 算法中的E运算，其计 算复杂度降低了，但译码精度亦会相应降低。
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
北邮信息理论 与技术教研中心
Turbo 码 的译码算法
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• Turbo码的译码算法是BCJR算法，其实质是按码 元的最大后验概率的MAP算法，是一类采用双向 递推的后验概率算法； • MAP算法完全等效于最小误码率算法，且当信源 等概率分布时，亦与最大似然算法等效； • 决定递推式最大似然算法的核心是满足马尔科夫 性，这是后验概率的似然比值仅决定于前向递推 概率 、后向递推概率 以及分支转移概率 。
s ', s uk 1
Max{ k 1 ( s ') k ( s ', s ) k ( s)}
s ', s uk 1
11
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
而SOVA算法，通过回溯可找到一条ML不 妨设其在k时刻找到的信息比特 u k 为1，则 其输出似然比为：
aEb ln(e e ) min(a, b) ln(1 e
a
b
a b
)
且E运算与加法运算一样均满足交换率与 结合率。
9
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• Max-log-MAP算法 Max-log-MAP算法是logMAP算法的简化，其原 理完全相同，差别在于仅简化了E运算。
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
引入映射f : y ln( x);
f
L
L
;
L
x ;
E;
8
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
E运算的定义为： （可算作一类对数域算子）
19
2013年7月29日
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 由于受当时客观条件的限制，硬件实现 困难。LDPC码长期被人所遗忘，直至 1995年，Mackay和Neal重新发现LDPC码 和Turbo码有着同样优秀的性能，后来人 们进一步发现LDPC码完全符合Shannon 证明其信道编码定理的三个假设的条件： 码长足够长、随机编码方法和采用最大 后验概率MAP译码。
ln
s ', s uk 1
k 1
s ', s uk 1
其中 : s ', s分别表示k -1和k时刻寄存器RSC的状态
5 2013年7月29日
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 对于硬判决
ˆ uk sign[ L(uk YN )]
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 其中：
YN 为接受信号序列； L(U )in 为输入似然比； L(U )out 为输出似然比； L(U YN )为后验概率似然比；
4
2013年7月29日
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
18
2013年7月29日
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
监督矩阵中每列包含很小的固定数目 j>=3的1； 每行亦包含一个很小固定数目k>j的1； Gallager证明，这种码字的典型最小距离 随着码长的增加而线性增加，而且在 BSC信道下其译码差错的典型概率将随 码长指数下降。
将Gallager提出的规则的LDPC码，即其校 验矩阵的列重与行重为固定值，进一步拓 广至不规则的二元LDPC码，亦即校验矩 阵的每列、每行重量不相等，其性能亦得 到很大的提高。其中Chung提出将最大列 重增至2000，1/2码率，当码长为107比特 时，在AWGN信道下，仿真表明，二元非 规则的LDPC码的性能与Shannon限仅相差 0.01的dB。它远远超出Turbo码的性能。
15
2013年7月29日
各类算法小结
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 就硬件实现而言， log-MAP的计算复杂 度比MAP低，但译码精度一样；而对于 logMAP、 Max-log-MAP、双向SOVA和 单向SOVA，它们的计算复杂度依次降低， 但译码精度也相应的依次降低。
• 目前对LDPC码进一步研究主要集中在以下 两个方向上： 将GF（2）的二元域上的LDPC码进一步拓 广至多元域，比如GF（22）、 GF（23）等， 并进一步精心构造多元域上的校验矩阵， 可以使LDPC码性能得到进一步提高。
22
2013年7月29日
LDPC码研究的方向
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
26
2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
对于Turbo码实现的主要难点在接收端的 译码，计算复杂度以及交织器的设计与 时延。因此Turbo码的译码时延要远大于 LDPC码的译码时延； 在接收端译码的具体实现时，通常Turbo 码的译码是采用串行处理，而LDPC码则 可以采用并行处理，因此它更适合于硬 件实现；
14
2013年7月29日
各类算法小结
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• logMAP算法完全等效于MAP，只是更便于 硬件实现；Max-log-MAP算法是logMAP算 法的简化；双向SOVA算法又是Max-logMAP算法的简化；单向SOVA算法则又是双 向SOVA算法的进一步简化；
Max{ k 1 ( s ') k ( s ', s) k ( s)} L(uk YN ) ln
s ', s uk 1
one of{ k 1 ( s ') k ( s ', s) k ( s)}
12
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
20
2013年7月29日
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 后来人们进一步发现，在同样足够长的 码长条件下，其性能甚至还优于Turbo码， 从而重新引起人们广泛关注与进一步的 研究。
21
2013年7月29日
LDPC码研究的方向
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
13
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
对于双向SOVA算法，对前向和后向SOVA 算法输出的似然比取最小值，有助于缓解 这一问题，但是如果满足 u k 为-1的最大似 然序列出现在k时刻为中心的前后延时窗以 外，则双向SOVA算法仍存在似然比高估的 问题。
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• LDPC码与Turbo码之间也存在一些差异： 对于LDPC码实现的主要难点在发送端的 编码构造，它主要精心挑选具有良好类似 随机特性的低密度码重分布的码字（组） 结构。它一般需要采用计算机进行大量的 筛选后才能确定，可见在LDPC码中实现 随机性无需采用交织器；
Fra Baidu bibliotek
24
2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
两者的编译码方法是类似的，都可以采 用Tanner图、二分图乃至更抽象的因子 图概念来统一描述，而译码算法则可统 一到因子图上和、积算法加以概括；
25
2013年7月29日
LDPC码与Turbo码之间的对比
• 其中，最核心的后验概率似然比为：
P (uk 1 YN ) L(uk YN ) ln P (uk 1 YN ) P (uk 1, YN ) ln P (uk 1, YN )
k 1
( s ') k ( s ', s ) k ( s ) ( s ') k ( s ', s ) k ( s )
16
2013年7月29日
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
北邮信息理论 与技术教研中心
LDPC 码
LDPC码的提出
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• 早在1962年，著名信息论专家Gallager在 他的博士论文中首先提出低密度分组校 验码（Low Density Parity-Check Code） 即LDPC码的概念，它是基于监督矩阵定 义的一种码，具有以下性质：
这里主要比较常用的MAP、logMAP、 Max- logMAP以及SOVA算法之间的关系。 • logMAP算法： 它与MAP算法等效，只是将 、 、 转 移至对数域中去计算，并且将乘法运算映 射为加法运算，加法运算映射为E运算， 其目的是为了便于硬件实现。
7
2013年7月29日
各类算法之间的关系
10
2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• SOVA算法 SOVA算法可以看作是Max-log-MAP算法 的进一步简化： Max-log-MAP输出的后验概率似然比为：
Max{ k 1 ( s ') k ( s ', s) k ( s)} L(uk YN ) ln
显然对于分子，SOVA算法可以从众多满 足 u k 为1的序列概率中找到最大的序列概率； 但对于分母，SOVA算法则不一定能从众多 uk 满足 为1的序列概率中找到最大的序列概 率； 而是从延时窗中更新得到的那条件随 路径所对应的后验概率。所以SOVA输出似 然比的绝对值比Max-log-MAP算法大，既 存在似然比高估问题。
27
2013年7月29日
LDPC码与Turbo码之间的对比
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
从性能上看，Turbo码更适合于中、短长度 码长，比如在3G中，Turbo码就是首选，而 对于更长的码长时，LDPC码的性能将超过 Turbo码。
28
2013年7月29日
2
2013年7月29日
Turbo 码的译码算法
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心
• Turbo码通用译码器的结构为：
L(U )in
L(U YN )
最大似然译码器 （MAP、logMAP、MaxlogMAP、SOVA）
YN
L(U )out
3
2013年7月29日
Turbo 码的译码算法
• 对于软判决
Lk (uk )out Lk (uk YN ) L Y Lk (uk )in
s c k
它用于本译码器的外信息输出，经过交织或者 反交织传递给下一个译码器，并作为下一个译 码器的先验信息的输入。
6 2013年7月29日
各类算法之间的关系
北 京 邮 电 大 学 信 息 理 论 与 技 术 教 研 中 心