第九章 纠错编码

y
j
)−d
wenku.baidu.com
(xi
,
y
j
)
p < 0.5 ⇒ p < 1 1− p
( ) ( ) 当 d x*, y j ≤ d xi , y j 时，λ ≥ 1
( ) ( ) p y j | x* ≥ p y j | xi
3. 线性分组码的检纠错能力
定理9.3.2 线性分组码的最小汉明距离等于非零码字的 最小重量。
(4) 按信息码元在编码后是否保持原形式不变： ¾系统码：信息码元与监督码元在分组内有确定位置， 编码后的信息码元保持不变； ¾非系统码：信息位打乱，与编码前不同。
2
3. 纠错码分类（续2）
(5)按纠正差错的类型可分为： ¾ 纠随机错误码
9 差错的出现互不相关，彼此独立
¾ 纠突发错误码
¾错误之间存在相关性
2. 校验矩阵与生成矩阵（续9）
z 问题： （1）非标准形式的生成矩阵，如何化成标准形式？
（2）若校验位在前，信息位在后，标准形式的校验矩 阵或生成矩阵，可以表示成什么样的分块矩阵？
（3）给定一种线性分组的全部码字，已知该码是系统 码，如何确定信息位在前还是在后？
2. 校验矩阵与生成矩阵（续10）
(3) 校验矩阵和生成矩阵的关系
2. 纠错工作方式（续2）
(2) 前向纠错(FEC)
m 纠错 C
编码
信道 Y
纠错 mˆ
译码
发送端发出的是具有纠错能力的纠错码，接收端根据译 码规则进行译码。当误码个数在码的纠错能力范围内时，译 码器可以自动纠正错误。
2. 纠错工作方式（续3）
特点： 1）前向纠错方式不需要反馈信道，特别适合于只能
提供单向信道的场合。 2）由于能自动纠错，不要求检错重发，因而延时小，
3. 线性分组码的检纠错能力（续1）
2)该码具备检测 l 个错误的充分必要条件是 dmin = l + 1
Ci
1
l d min
3. 线性分组码的检纠错能力（续2）
3)该码具备纠正 t 个错误，同时可以发现 l(l > t) 个错 误的充分必要条件是
dmin = t + l + 1
Ci 1
l
Cj
t
d min
1. 线性码的优点（续1）
z 对二进制(n, k)线性分组码，合法码字数为2k，可用编 码空间的序列数为2n个。
z 任一种2k信息集合到二进制序列集合(2n)的映射都是
一种(n,
k)码。因此总共可能的编码方案有
C
2k 2n
种。
z 译码运算量：如果直接用最大似然序列译码，对一般
性的编码而言，正比于n* 2k 。几乎是不可能译码。
示，则生成矩阵可以表示为
⎡G1 ⎤
G
=
⎢⎢G
2
⎥ ⎥
⎢M⎥
⎢⎣G
k
⎥ ⎦
z 令 m = [m1, m2,L, mk ] ，则
k
∑ C = mG = miGi i =1
2. 校验矩阵与生成矩阵（续9）
z 生成矩阵的每一行都是一个码字：
当信息码组 m = [m1, m2,L, mk ] 中仅有一个非零
元素时，得到的码字即为生成矩阵的某一行。
1. 概述（续2）
z 纠错编码的基本思路： 根据一定的规律在待发送的信息码元中人为的加
入一些冗余码元，这些冗余码元与信息码元之间以某 种确定的规则相互关联（约束）。
在接收端按照既定的规则检验信息码元与监督码 元之间的关系。如果传输过程出错，则信息码元与监 督码元之间的关系将受到破坏，从而可以发现错误乃 至纠正错误。
(2) 按信息码元与监督码元之间的检验关系分： ¾ 线性码：满足线性关系 ¾ 非线性码：不存在线性关系
3. 纠错码分类（续1）
(3) 按信息码元与监督码元之间的约束方式不同分： ¾ 分组码：本码组的监督码元仅和本码组的信息元相关。 ¾ 卷积码：本码组的监督码元不仅和本码组的信息元相 关，而且与前面码组的信息码元有关。
第九章：纠错编码
一：基本概念 二：线性分组码 三：汉明码 四：循环码
第九章：纠错编码
1. 概述
一：基本概念 二：线性分组码
2. 纠错工作方式 3. 纠错码分类
三：汉明码
四：循环码
1. 概述
z 减小接收端码元错误概率的措施 ¾选择合适的调制、解调方法 ¾增加信号的发送功率 ¾采用差错控制编码
z 纠错编码是提高传输可靠性的最主要的措施之一。
⎪⎪⎨⎪cc56
= =
c1 c1
+ +
c2 c2
+
c3
⎪⎩c7 = c2 + c3
⎧c1 + c3 + c4 = 0
⇒
⎪⎪⎨⎪cc11
+ +
c2 c2
+ +
c3 c6
+ c5 =0
=
0
⎪⎩c2 + c3 + c7 = 0
2. 校验矩阵与生成矩阵（续2）
z 用矩阵表示为：
⎡c1 ⎤
⎡1 ⎢⎢1 ⎢1 ⎢⎣0
1. 概述（续1）
z 香农第二定理证明，当 R < C 时 PE → 0 的码存在。 z 证明过程采用的是随机编码的方法：
¾随机编码所得的码集很大，通过搜索得到好码的方法在实际 上很难实现； ¾即使找到了好码，这种码的码字也没有规律，不便于译码。
z 实用的信道编码方法还需要通过各种数学工具来构 造，使码具有好的结构性以便于译码。
z G 被称为生成矩阵。 z 对（n, k ) 线性分组码，生成矩阵为 k × n 维矩阵。
z 对于系统码，生成矩阵可以表示为
G = [I P]
其中 P 为 k × (n − k)维矩阵， I 为 k × k 维单位矩阵。
2. 校验矩阵与生成矩阵（续8）
z 把生成矩阵的每一行用一个行向量 Gi ,i = 1, 2,L,k来表
阵。 z 对于系统码，校验矩阵可以表示为
H = [Q I ]
其中Q 为 (n − k) × k维矩阵， I 为(n − k) × (n − k)维单 位矩阵。
2. 校验矩阵与生成矩阵（续5）
(2) 生成矩阵
z 由校验方程，得到
⎧ c1 = c1
⎪ ⎪
c2
=
c2
⎪ ⎪ ⎨
c3 c4
= =
c3 c1
+
c3
1. 线性码的优点（续2）
z 发现或构造好码是信道编码研究的主要问题：
¾ 编码方案太多，以至全局搜索是不可能的。 ¾ 现实的做法是对编码方案加以一定的约束，在一个子集中
寻找局部最优。 ¾ 这种约束即要能包含尽可能好的码，又要便于分析，便于
译码。
z 线性分组码是最简单、实用一类码，比如汉明码、循 环码、BCH码、RS码等。
说明：
1. 线性分组码具有封闭性
2. 码字的重量定义为非零码元的个数 3. 两个码字的汉明距离等于这两个码字
相加所得新码字的重量。
3. 线性分组码的检纠错能力
定理9.3.3
设
d
为线性分组码的最小汉明距离，
min
1)该码具备纠正 u 个错误的充分必要条件是
dmin = 2u + 1
Ci
1
Cj
u
u
d min
2. 纠错工作方式
(1) 反馈重传(ARQ) (2) 前向纠错(FEC) (3) 混合纠错
1
2. 纠错工作方式（续1）
(1) 反馈重传(ARQ) m 检错 C 信道 Y
编码
检错 mˆ
译码
反馈
发送端经编码后发出能够发现错误的码，接收端收到后经 检验，如果发现传输中有错误，则通过反馈系统把这一判断结 果反馈回发端，然后发送端把前面发出的信息重新传送一次， 直到接收端认为正确地收到信息为止。
5. 线性分组码的伴随式（续1）
z 令 E = [e1, e2,L, en ]
H = [H1,H 2,L,H n ] （其中H i表示 H 的列向量）
则
⎡e1 ⎤
∑ [ ] S T = HE T =
H1,H 2,L,H n
⎢⎢e2
⎥ ⎥
⎢M⎥
=
n i =1
eiH i
⎢⎣en
⎥ ⎦
5. 线性分组码的伴随式（续2）
5. 线性分组码的伴随式
z 设发送码字为C，接收到的码元序列为Y，令 S =YH T 或 S T = HY T
1) S = 0 ，说明Y 是一个码字; 2) S ≠ 0 ，说明Y 不是码字，传输过程产生了误码。 z 令 Y =C +E ⇒ S =YH T = (C +E )H T =CH T +EH T = EH T
结论：
1) 当传输过程没有错误时 ，即 E = [0,0,L,0] ，S T = 0 2)当发生一位错误时，S T 是校验矩阵的某一列。 3)当发生多个错误时，S T 为校验矩阵对应列的模2和。
证明：设C1和C2分别是码C 中的两个码字，因此有
HC1T
HC
T 2
= 0 T ⎫⎪
=
0
T
⎬ ⎪⎭
⇒H
(C1 +C2
)T
=
HC1T
+
HC
T 2
=0T
即C1
+C
满足监督方程，所以是码
2
C
中的一个码字。
5
3. 线性分组码的检纠错能力
定理9.3.1 对于一个二进制对称信道，若输入为k个等可 能的n长码字，则最大后验概率译码准则应为最小汉明 距离译码。
3. 线性分组码的检纠错能力
( ) 令 λ = p y j | x* ( ) p y j | xi
(( )) λ =
p (d x*, y j ) 1 − p pd (xi , y j ) 1 − p
( ) n−d x* , y j
( ) n−d xi , y j
=
⎜⎜⎝⎛
1
p −
p
⎟⎟⎠⎞d
(x*
,
实时性好。 3）随着纠错能力的增强，译码设备也变得复杂。
2. 纠错工作方式（续4）
(3) 混合纠错
对发送端进行适当的编码。当错误不严重，在码的 纠错能力范围之内时，采用自动纠错；当产生的差错超 出码的纠错能力范围时，通过反馈系统要求发端重发。
3. 纠错码分类
(1) 按功能分： ¾ 检错码：仅能检测误码 ¾ 纠错码：可纠正误码 ¾ 纠删码：兼纠错和检错能力
⎪ ⎪
c5
=
c1
+
c2
+
c3
⎪ c6 = c1 + c2
⎪ ⎩
c7
=
c2
+
c3
2. 校验矩阵与生成矩阵（续6）
z 令 m = [c1, c2, c3]
⎡1 0 0 1 1 1 0⎤
G = ⎢⎢0 1 0 0 1 1 1⎥⎥ = [I P]
⎢⎣0 0 1 1 1 0 1⎥⎦
⇒ C = mG
4
2. 校验矩阵与生成矩阵（续7）
0 0
0⎤ 0⎥⎥
⎢1 1 0 0 0 1 0⎥
⎢⎣0 1 1 0 0 0 1⎥⎦
C = [c1, c2, c3, c4, c5, c6, c7 ] 0 = [0,0,0,0]
则 HC T = 0 T ⇔ CH T = 0
2. 校验矩阵与生成矩阵（续4）
z H 被称为校验矩阵。 z 对（n, k ) 线性分组码，校验矩阵为(n − k ) × n 维矩
z 由于生成矩阵G的每一行都是一个码字，所以G 的每 行都满足 HGi T = 0 T，则有 HG T = 0
z 对于标准形式的校验矩阵和监督矩阵，有
HGT = [Q I ][I P ]T = Q +P T = 0
⇒ Q =PT
2. 校验矩阵与生成矩阵（续11）
z 线性分组码的封闭性：线性分组码中任意两个码字之 和仍然是该码的码字。
¾ 纠随机和突发错误码
第九章：纠错编码
一：基本概念 二：线性分组码 三：汉明码 四：循环码
1. 线性码的优点 2. 校验矩阵与生成矩阵 3. 检纠错能力 4. 校验矩阵与最小距离的关系 5. 伴随式
1. 线性码的优点
z 分组码的表示方法： ¾信息码组由 k 个信息码元组成，共有 2k 个不同 的信息码组； ¾附加 r 个校验码元，每个校验码元是该信息码 组的某些信息码元模2和； ¾编码器输出长度为 n = r + k 的码字； ¾码字的数目共有 2k ； ¾这2k 个码字的集合称为 (n,k) 分组码；
0 1 1 1
1 1 0 1
1 0 0 0
0 1 0 0
0 0 1 0
0⎤ 0⎥⎥ 0⎥ 1⎥⎦
⎢⎢c2 ⎢⎢⎢cc43 ⎢⎢⎢cc65
⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥
=
⎡0⎤ ⎢⎢0⎥⎥ ⎢0⎥ ⎢⎣0⎥⎦
⎢⎣c7 ⎥⎦
2. 校验矩阵与生成矩阵（续3）
z令
⎡1 H = ⎢⎢1
0 1
1 1
1 0
0 1
6
4. 校验矩阵与最小距离的关系
定理9.3.4 对于线性分组码，设其校验矩阵为 H 。 若H 中的任意 t 列线性无关，而 t + 1列线性相关，
则该码的最小汉明距离为 t + 1； 反之，若码的最小汉明距离为 t + 1 ，则校验矩阵
的任意 t 列线性无关，而 t + 1列线性相关。
n
∑ 提示：通过公式 HCT = 0 ⇔ ciHi = 0 i =1
2. 校验矩阵与生成矩阵
(1) 校验矩阵
z 以 (7,3) 线性分组码为例。码字表示为
C = [c1, c2, c3, c4, c5, c6, c7 ]
其中 c1, c2, c3为信息元，c4, c5, c6, c7 为校验元。
3
2. 校验矩阵与生成矩阵（续1）
z 校验元可由下面方程组计算得到：
⎧c4 = c1 + c3
证明：
( ) ( ) 最大后验概率译码准则 p x* | y j ≥ p xi | y j ∀i
输入等概
( ) ( ) p y j | x* ≥ p y j | xi
( ) ( ) 最小汉明距离译码 d x*, y j ≤ d xi , y j ∀i
( ) ( ) p y | x = pd (x,y) 1− p n−d (x,y)