信息论6章 信道的纠错编码(新)

z 将这三类信道编码统称为纠错码或抗干扰码。
15
第3节 纠错码分类
2) 按应用目的分类： • 检错码：只能够检测出错误的码； • 纠错码：既能检测出错误又能自动纠正错误的码； • 纠删码：能够纠正被删除了信息的错误的码。
• 这三类码之间并没有本质区别，每类码都可由采用的译码 方法不同而作为另两类码使用。
23
4.1 线性分组码的生成矩阵和校验矩阵
二元线性分组码: (5,2)分组码: 码长为5，信息位为2。
c1 = m1 c2 = m2 c3 = m1 ⊕ m2 = c1 ⊕ c2 c4 = m1 = c1 c5 = m1 ⊕ m2 = c1 ⊕ c2
用矩阵表示为: c=mG
c = [c1
c2 L
c5 ] = mG = [m1
• 其生成矩阵G的K个相互独立的行向量{g1,g2,…,gK}是它 的一组基底;
例：前面的（5，2）系统码： c1 = m1
G
=
⎡1 ⎢⎣0
0 1
1 1
11⎤ 0 1⎥⎦
2×5
c2 = m2 c3 = m1 ⊕ m2 = c1 ⊕ c2 c4 = m1 = c1
c5 = m1 ⊕ m2 = c1 ⊕ c2
c1 = m1 c2 = m2 c3 = m1 ⊕ m2 = c1 ⊕ c2 c4 = m1 = c1 c5 = m1 ⊕ m2 = c1 ⊕ c2
G
=
⎡1 ⎢⎣0
0 1
1 1
11⎤ 0 1⎥⎦
m1=1, m2=0 m1=0, m2=1
28
4.1 线性分组码的生成矩阵和校验矩阵
• 二元(N,K)线性码C={c}可看成一个N重K维线性空间;
⎪⎪c2 = m2
c1 + c2 + c3 = 0
⎪c3 = m2 + m3 = c1+ c2 ⎨⎪c4 = m1
8) 按码字的结构分类：
• 系统码：信息元以不变形式出现在各码字C的任意k位上；
• 非系统码：没有系统码的特性。
21
第6章 信道的纠错编码
第1节 引言 第2节 差错控制的基本形式 第3节 纠错码分类 第4节 线性分组码 第5节 循环码
22
第4节 线性分组码
4.1 线性分组码的生成矩阵和校验矩阵 4.2 汉明距离和码的纠、检错 4.3 线性码的伴随式和伴随式译码
33
4.1 线性分组码的生成矩阵和校验矩阵
（1）（6，3）
⎡0 0 0 1 1 1⎤
（2）G = ⎢⎢0 1 1 0 0 1⎥⎥
⎢⎣1 0 1 0 1 1⎥⎦
⎡0 0 0 1 1 1⎤ C = mG = (m1,m2,m3 )⎢⎢0 1 1 0 0 1⎥⎥
⎢⎣1 0 1 0 1 1⎥⎦
（3）
⎧c1 = m3
第1节 引言 第2节 差错控制的基本形式 第3节 纠错码分类 第4节 线性分组码 第5节 循环码
14
第3节 纠错码分类
1) 按纠正错误类型分类： z 纠随机差错码：信道对信息有衰减、畸变、干扰和噪 声等多种影响；
z 纠突发差错码：有记忆信道的噪声可造成突发性的成 群的差错；
z 纠混合差错码：上述两种差错并存。
G = [1,1,1]
(c0 , c1, c2 ) = (m0 )[1,1,1] = (m0 , m0 , m0 )
一般情况：
⎡ g11 g12 ... g1N ⎤
C=mG=源自(m1,m2 ,...,mk
⎢ )⎢⎢
g 21 ...
g 22 ...
... ...
g
2
N
⎥ ⎥
... ⎥
⎢ ⎣
g
k1
gk2
...
发送端
信息信号 信息信号
接收端
12
第2节 差错控制的基本形式
1. 前向纠错（FEC) 方式：接收端直接纠错 2. 反馈重发（ARQ) 方式：收信端将判决结果反馈给发送端 3. 混合纠错（HEC) 方式：前向纠错和反馈重发方式结合 4. 信息反馈（IRQ) （回程校验）方式：全部反馈
13
第6章 信道的纠错编码
• 为了提高信息传输的准确性，使其具有较好的抵抗信道中 噪声干扰的能力，在通信系统中需要采用专门的检、纠错 误方法，即差错控制。
4
第1节 引言
• 差错控制的任务是：发现所产生的错误、并指出 发生错误的信号或者校正错误
• 差错控制是采用可靠、有效的信道编码方法来实 现的。
• 信道编码器要对信源编码输出的符号进行变换， 使其尽量少受噪声干扰的影响，减少传输差错， 提高通信可靠性。
31
4.1 线性分组码的生成矩阵和校验矩阵
一般而言，二元（N，K）线性码的信息组用K维行矩阵表示
m = [m1 m2 Lmk ], mi ∈{0,1}
码字c用N维行阵表示为: c = [c1 c2 LcN ], ci ∈{0,1} 码字生成式为：c=mG. G有几行？几列？ 式中G是K×N生成矩阵，G的元素取值于二元集合{0,1}。
g kN
⎥ ⎦
26
4.1 线性分组码的生成矩阵和校验矩阵
把生成矩阵G写成行向量形式：
⎡ g11 g12 ... g1N ⎤
⎡ g1 ⎤
C
=
mG
=
(m1,m2
,...,mk
⎢ )⎢⎢
g 21 ...
g 22 ...
... ...
g2N ...
⎥ ⎥ ⎥
=
(m1,m2 ,...mk
⎢ )⎢⎢
g2 M
⎥ ⎥ ⎥
10
第2节 差错控制的基本形式
3. 混合纠错（HEC) 方式：前向纠错和反馈重发方式结合
发送端
可以发现和纠正错误的码 应答信号
接收端
性能介于两者之间：设备不太复杂；误码率低；实时和连 续性好
适用：范围很广，特别在卫星通信中
11
第2节 差错控制的基本形式
4. 信息反馈（IRQ) （回程校验）方式：全部反馈
c3 = c1 ⊕ c2 c4 = c1 c5 = c1 ⊕ c2
c1 ⊕ c2 ⊕ c3 = 0 c1 ⊕ c4 = 0 c1 ⊕ c2 ⊕ c5 = 0
校验方程的矩阵形式则为： cH T = 0或HcT = 0 式中H称为一致性校验矩阵： ⎡1 1 1 0 0⎤
H = ⎢⎢1 0 0 1 0⎥⎥ ⎢⎣1 1 0 0 1⎥⎦
3
第1节 引言
• 在通信系统中，要提高信息传输的有效性，我们将信源的 输出经过信源编码用较少的符号来表达信源消息，这些符 号剩余度很小，效率很高，但对噪声干扰的抵抗能力很 弱。
• 信息传输要通过各种物理信道，由于干扰、设备故障等影 响，被传送的信源符号可能会发生失真，使有用信息遭受 损坏，接收信号造成误判。这种在接收端错误地确定所接 收的信号叫做差错。
⎢ ⎣
g
k1
gk2
...
g kN
⎥ ⎦
⎢ ⎣
g
k
⎥ ⎦
则码字可表示成：c = mG = m1g1 ⊕ m2g2 ⊕L⊕ mk gk
码字c是G的行向量{gi}的（模2）线性组合。当信息组m中 只有一个非零元素时，码字就是G的某一行向量，所以G 的每个行向量都是一个码字。
27
4.1 线性分组码的生成矩阵和校验矩阵
8
第2节 差错控制的基本形式
2. 反馈重发（ARQ) 方式：收信端将判决结果反馈给发送端
发送端
能够发现错误的码
接收端
应答信号
优点：译码设备简单；误码率小
缺点：效率可能降低，使连续性、实时性变差
适用：计算机局域网、分组交换网；短波、有线等干扰情 况复杂的信道；卫星通信、移动通信
9
第2节 差错控制的基本形式
第6章 信道的纠错编码
信息论
哈尔滨工业大学（威海） 计算机科学与技术学院
刘杨 llyy.2000@
第6章 信道的纠错编码
第1节 引言 第2节 差错控制的基本形式 第3节 纠错码分类 第4节 线性分组码 第5节 循环码
2
第1节 引言
• 信道编码的目的是为了降低平均差错率，又称纠错编码。 • 纠错编码理论几乎与信息论同时创立，都是在二战结束后的 短短几年内。 • 纠错编码理论的创始人是汉明，他与信息论的创始人香农都 在贝尔实验室工作。 • 香农信息论主要涉及信息的测度以及信息传输所能达到的极 限。但香农并没有给出切实可行的实现方法。 • 香农的有噪信道编码定理的意义在于：它告诉我们什么是通 过努力可以做到的事情，什么是不可能做到的事情。
17
第3节 纠错码分类
4) 按码的数学结构中校验元与信息元关系分类： • 线性码：校验元与信息元之间呈线性关系；
• 非线性码：校验元与信息元之间不呈线性关系。
目前，线性码的理论已较成熟，但许多好码是非线性码。
18
第3节 纠错码分类
5) 按码是否具有循环性分类： • 循环码：分组码中的任一码字的码元循环移位后仍是 这组的码字；
发送端
能够发现错误的码
接收端
应答信号
具体实现检错重发方式：
• 停止等待式(SW-ARQ): 逐帧发送，然后等待接收端发回确 认的信息或要求重发的信息
• 回退N步式(GBN-ARQ): 发送端保存前面已发送的N帧，并 连续发送，一旦接到重发请求，必须退回到重发请求前的一 段N帧，从那个帧开始重发
• 选择重发式(SR-ARQ): 连续发送，两端都有帧的缓存器， 接收端要求重发时必须指明要求重发哪一帧，发送端则从要 求重发的帧开始连续传输。
c1 = m1 c2 = m2 c3 = m1 ⊕ m2 = c1 ⊕ c2 c4 = m1 = c1 c5 = m1 ⊕ m2 = c1 ⊕ c2