第14讲——信道编码与译码2014

误概率准则与最大似然译码准则确定译码规则，并计 算相应的译码错误概率？
14
根据最大似然译码准则，译码函数为
D (b1 ) a1 B : D (b2 ) a3 D (b ) a 3 2
若所有可能消息序列的先验概率相等，则最大后验概率准则 可进一步简化为
p N ( y | m' )
u跑遍所有码字
max
pN ( y | u)
最大似然译码准则
p N ( y | m' )
u跑遍所有码字
max
pN ( y | u)
11
译码准则的对数形式
后验概率
p N (m y ) Q(m) pN (y x m ) w(y )
13
例 题
设有一个离散信道，其转移概率矩阵为
0 .5 0 .3 0 .2 Py / x 0 . 2 0 . 3 0 . 5 0 .3 0 .3 0 .4 1 1 1 p ( x ) p ( x ) 1 并设 ， 2 4 ，p ( x3 ) ，试分别按最小错 4 2
什么条件？R<C
2
数字通信系统模型
信 源 信 宿
信源编码 信道编码 调 制 器 信 道
信源译码 信道译码
解 调 器
干 扰 源
3
信道编码
信道编码（纠错编码）的任务是将输入的信息数字序列 变换成另一个数字序列送入有扰离散信道。人为的按一 定规则增加多余度，以便纠正传送过程中可能出现的错 误，以尽可能小的错误概率恢复原来的信源序列。 00 01 10 11 00000 10101 11010 01111 r = 11110 不编码，误码率pb=p 编码，pe=3p2+p3-6p4+3p5
1 K pb pek K k 1
其中 pek 是第 k 位出现错误的概率
9
分组码的译码准则
译码准则就是猜测规则，即当信道的输出值为y时， 将其译为哪个码字m最合理？
对特定接收序列y， 译码时要求 pe ( y)最小 最小错误概率译码准则
pe ( y) pN (m' m y) 1 pN (m' m y)
最大后验概率译码
ln Q(m' ) ln pN (y xm' ) ln Q(m) ln pN (y xm ) m m'
最大似然译码（当消息先验概率相等时）
ln pN ( y xm' ) ln pN ( y xm )
m m'
12
最大似然译码准则
【注1】它并不要求消息的先验概率。 【注2】在消息先验等概条件下，它等价于最大后验概率 译码，因而也是最佳的。但若消息先验概率不确 知时，采用最大似然译码就不一定保证译码错误 概率最小。 【注3】实际系统中，信源发出的序列传送到信道之前都 已进行信源编码，经过有效的信源编码，输出码 元的概率分布会均匀化，所以信道的输入近似为 等概，因此在工程应用中采用最大似然译码尽管 不会使错误概率达到最小，但也接近最小。
K M 2 长为K的二元信息序列总数为
N 字序列总数为 2 个。
个 ，而长为N的二元数
分组编码就是从 2 N 个N长数字序列中选出 M 2 K 个码字，分 别用于代表M个不同的信息序列。 任何一种指定方案就给定了一种编码方案。 令 y ( y1, y2 ,, yN )是 xm ( x1, x2 ,, xN ) 信道输入相应的信道输出。
6
实 例
分组码(5,2) 00 01 10 11 10101 10010 01110 11111 1101
11 01
mj
m j 1
11111 10010
编码
卷积码(2,1ቤተ መጻሕፍቲ ባይዱ3)
mj

X j1
m j 1
m j 2

X j2
7
11 01 01 00
分组码的译码准则
以分组码为例讨论信道编码的译码问题。
4
0
1-p
p p
0
假设p<0.5
1
1-p
1
11010 (10)
信道编码器模型
输入
u m U K0
L 级 移 存 器 纠 错 编 码 器 输出 x m X N0

编码器通常对信息数字进行分段，称为信息段，设其长度为 k0 . 每个信息数字持续时间为 s 1/ Rs 秒 编码数字持续时间为 c秒, 在 k 0 s 时间段内，编码器计算出n0个编码数字送入信道，称为码段。
第十四讲 信道编码与译码
1
• 第三章讨论无失真信源编码，给出无失真编码所 需最小速率R≥ H(U)/logD. • 信道给定，以任意小的错误概率实现可靠通信的 最大传输速率为多少？ • Shannon于1948年提出并证明了信道编码定理，揭 示了在什么条件下可以实现可靠通信，在什么情 况下不能实现。 • 后来很多研究者给出了更严格、更一般化的证明， 指出了各种信道和编码条件下所能达到的编码定 理的上、下限。 • 这些理论的进展为合理设计实际通信系统提供了 理论依据。
n0 c =k0 s , n0 k0 c s
5
信道编码分类
通常纠错码被分为两类，分组码和格状码。 （N,K)分组码：每 K个信息数字为一组，计算出 N 个编 码数字构成一个分组，一个分组又称为一个码字。 码字之间是不相关的。 格状码：输出的码段不仅依赖于当前的K0位信息数字， 还依赖于前m个信息段的信息数字，即总共与（m+1)K0 个信息数字有关。 称（m+1)K0为编码约束长度。 称 R K / N 或 R k 0 / n0 为纠错码的编码速率或简称码率 要求纠错能力越强，所需多余度越大，码率就越低。
最大后验概率准则
p N ( m' | y )
u跑遍所有码字
max
p N (u | y )
若有一个以上的m，使 pN (m' y)取同样的最大值时， 我们可从其中任选一个，而不会影响平均错误概率
10
分组码的译码准则
最大后验概率
p N (m y ) Q(m) pN (y x m ) w(y )
8
分组码的译码准则
纠错译码器的作用就是根据接收到的y和编码规则，对发 送的是M个可能序列中的哪一个做出判决。
设译码器在收到y后将它译为 x m '。若 m m' ，就出现 了错误。这种事件出现的概率是误组率 pe 。
一个码字发生错误意味着N长二元数字序列中至少有一 位错。 误比特率是译码后错误比特数与总比特数之比