信息论基础——线性分组码

f ( 1 ( 0 1 ) 1 ( 1 0 ) ) 1 ( 0 1 1 0 1 ) 1 ( 1 0 1 1 1 ) 线性编码
19
线性分组码的基本概念
例题1： 下面是某个（n，k）线性二元码的全部码字
x16=000000 x26=100011 x36=010101 x46=001111 x56=110110 x66=101100 x76=011010 x86=111001 求n、k的值；

近几节课掌握的几个编码定理，已经明确指出 在一定条件下总存在简单、有效编、译的“好 码”. 但是，都没有给出这类好码的编、译方 法.
2
4.6 线性分组码
基础知识

抽象代数基础
线性代数基础
3
4.6 线性分组码
引例 线性分组码的基本概念 线性分组码的译码 汉明码的编码与译码
4
4.6 线性分组码
通信系统
信 源 干 扰 源 信 宿
信 源 编 码 器 调 制 器
信 源 译 码 器 解 调 器
信 道 编 码 器
信 道 编 码 信 道
信 道 译 码 器

信源编码—（减少）冗余，提高编码效率 ； 信道编码—提高信息传递的可靠性 .
1
展望

提高信息传输的可靠性和有效性，始终是通信工 作所追求的目标；
纠错码
10
4.6 线性分组码
引例 线性分组码的基本概念 线性分组码的编码 汉明码的编码与译码
11
线性分组码的基本概念
分组码 分组码是把信源输出的信息序列，以k个信息位 分为一段，通过编码器把这段信息位按一定规则 f 产生r个校验位，输出长为n=k+r的一个码字， 所得码字的全体. 称之为（n， k ）分组码 ！ n表示码长， k信息位个数.

12
引例
信息位
校验位
0后附加字符00，1后附加11；即传输000 相当于传送单字符0，111相当于传送单字 符1；这时： (3,1)分组码
wk.baidu.com
发生不超过两位的错误均可被检出； 发生一位错误可以被纠正.
13
线性分组码的基本概念
（n， k ）分组码
若校验位与信息位之间的关系是线性的，即 上述编码规则是线性的，称之为（n， k ） 线性分组码！
解：
n=6;
M=2k k=3.
20
线性分组码的基本概念

例2、（5，2）线性二元码的全部码字
5 5 5 5 x 0 0 0 0 0 x 0 1 1 0 1 x 1 0 1 1 1 x 1 1 0 1 0 1 2 3 4
5 ( x ,x ,x ,x ,x ) 设码字x ， 0 1 2 3 4 可得 信 息 位 码 字
18
线性分组码的基本概念
f1 : GF (2) 2 GF (2)5
信息位 00 01 10 11 码字 00000 01101 10111 11010
1 ( 0 1 ) 1 ( 1 0 ) 1 1
f( 1 1 ) 1 1 0 1 0
1 ( 0 1 1 0 1 )1 ( 1 0 1 1 1 ) 1 1 0 1 0
3 f: G F ( 2 ) G F ( 2 )
信息位 0 1
码字 000 111
f1 : GF (2) 2 GF (2)5
信息位 00 01 10 11 码字 00000 01101 10111 11010
)则 若设码字 x3 (x 0xx 1 2，
x1 x 0 x2 x0
8
引例
0后附加字符00，1后附加11；即传输000 相当于传送单字符0，111相当于传送单字 符1；这时：
发生不超过两位的错误均可被检出； 发生一位错误可以被纠正.
9
引例
信息位
校验位
0后附加字符00，1后附加11；即传输000 相当于传送单字符0，111相当于传送单字 符1；这时：
发生不超过两位的错误均可被检出； 发生一位错误可以被纠正.

00 01 10 11
00000 01101 10111 11010
x 2 x 0 x1 x3 x0 x x x 0 1 4
21
线性分组码的基本概念

改写为 1 x 1 x 1 x 0x 0x 0 1 2 3 4 0 1 x 0x 0x 1 x 0x 0 1 2 3 4 0 1 x 1 x 0x 0x 1 x 0 1 2 3 4 0
引例 线性分组码的基本概念 线性分组码的译码 汉明码的编码与译码
5
引例
设传输一比特字符x=0或1
0 1

1 0
若传输过程中出现差错,不能被发现
6
引例

0后附加字符0，1后附加1；即只有00和11 被接受，且00视为0，11视为1；

故： 如果有一位错误发生，可以被检出！
7
引例



如果通信过程中发现差错，可以通过要求对方 重新发送来获得正确的信息，即所谓的“数量 换质量”. 但是这在实时信息采集系统中可能 是有困难的，因为信息源已经发生变化；即使 是在发方保留原信息样本的情况下，也只有在 差错率很低的条件下是比较可行的. 因为如果通信条件比较恶劣，差错出现频繁， 以至多次重发仍然得不到一份正确的信息. 这时，仅有“检错”手段，已无能为力！
15
线性分组码的基本概念
线性分组码 线性分组码是把信源输出的信息序列，以k个信 息位分为一段，通过编码器把这段信息位按线性 编码规则f 产生r个校验位，输出长为n=k+r的一 个码字，所得码字的全体. 称之为（n， k ）线性分组码 ！ n表示码长， k信息位个数. 码字个数M=2k .

16
线性分组码的基本概念
即校验位是由信息位线性组合得到.
17
线性分组码的基本概念
信息位 00 01 10 11 x2 x0 x1 00000 x3 x0 x x x 01101 0 1 4 码字 10111 11010
信息位k=2 码字数M=4
可见，码字的三个校验元都由其前两位线 性组合得到，即可由的线性方程组求得；
14
线性分组码的基本概念
线性编码 从 到 一个线性编码； 即
均有
的一个线性映射 f 称为
k k k u , v G F ( 2 ) a , b G F ( 2 )
f (a u k b vk ) a f (u k ) b f (vk ) ；
若 f 是一一映射，则称其为唯一可译线性编 码；