信息论与编码第八章纠错编码

•二、纠错编码的代数基础
•
1. 群
•二、纠错编码的代数基础
•
1. 群
•二、纠错编码的代数基础
•
1. 群
•二、纠错编码的代数基础
•
1. 群
•模p乘
令p为一个素数(例如p=2,3,5,7,11,…)
•二、纠错编码的代数基础
易验证模p乘法满足交换律和结合律，其单位元是1。G中任何元素i关 于模p乘法都有逆元。
•
1. 群
•群的陪集
•二、纠错编码的代数基础
•
1. 群
•群的陪集分解
•二、纠错编码的代数基础
•
1. 群
•群的陪集分解
•二、纠错编码的代数基础
•
2. 域
•域的定义
•二、纠错编码的代数基础
•
2. 域
•群和域的区别
•二、纠错编码的代数基础
需要指出群(G)与域(F)的区别：
一个群只有规定的一种代数运算(加法或乘法)，
•若错误图样中只有一个分量非零，则 ST是H矩阵相应的列，因而能够纠正单 个错误！
•是H矩阵第三列！
•
若错误图样en =（0010100），则
•是H矩阵第三列与 第五列之和！
•
由定义可以求得， rn的伴随式：
•若发生两个错误，译码器只能判决 传输有错（ en ≠0 ）,不能判定由哪 几位错误引起！
C1=(00000),C2=(10111 ), C3=(01101), C4=(11010) (3)求出校验矩阵
•
(4)求出伴随式
•
(5)标准阵列
•S=EHT
•S1=000
•S2=111 •S3=101 •S4=100 •S5=010 •S6=001 •S7=011 •S8=110
•选择重量最 小的n重作为
陪集首
•E1+ C1=00000
•C2=10111
•E2=10000 •E3=01000 •E4=00100 •E5=00010 •E6=00001 •E7=00011 •E8=00110
•00111 •11111 •10011 •10101 •10110 •10100 •10001
•C3=01101 •11101 •00101 •01001 •01111 •01001 •01110 •01011
011
0111010
100
1001110
101
1010011
110
1101001
111
1110100
•三、线性分组码
•
3. 线性分组码编码
生成矩阵和校验矩阵关系
•三、线性分组码
• 例题
•已知生成矩阵为
•求其校验矩阵H，如果将H作为生成矩阵，则所生成的码字是什么？
•由于 •G=[Ik Pk*(n-k)]
•则有
•又因为
•
•由生成矩阵
m 000 001 010 011 100 101 110 111
•生成的(7,3)码为：
C 0000000 0011101 0100111 0111010 1001110 1010011 1101001 1110100
•
•把校验矩阵 •当作生成矩阵，
•产生(7,4)码为：
•
2. 线性分组码定义
•三、线性分组码
也可以这样理解：n长码字C=[c1,c2,…,cn]中每一位同原始的k 个信息位d=[d1,d2,…dk]之间满足一定的函数关系 ci=f(d1,d2,…dk), (n=1,2,…,n)
若函数关系是线性的，则称该分组码为线性分组码，否则为 非线性分组码。
•
•
3. 环
•环的定义
•二、纠错编码的代数基础
•
3. 环
•整数剩余类环
•二、纠错编码的代数基础
•
3. 环
•多项式剩余类环
•二、纠错编码的代数基础
•
3. 环
•二、纠错编码的代数基础
•
内容提要
一、纠错码的基本概念 二、纠错编码的代数基础 三、线性分组码 四、循环码 五、卷积码
•
1. 分组码相关定义
编码理论是建立在码的代数结构基 础上的，为便于初学者理解，我们 将简单介绍抽象代数中与编码直接 相关的基础知识，主要涉及整数及 多项式的一些基本概念及群、环、 域的基本知识。
•二、纠错编码的代数基础
•
1. 群
•整数的相关概念
•二、纠错编码的代数基础
•
1. 群
•二、纠错编码的代数基础
•
1. 群
信息论与编码第八章纠错编 码
•
内容提要
一、纠错码的基本概念 二、纠错编码的代数基础 三、线性分组码 四、循环码 五、卷积码
•
内容提要
➢ 一、纠错码的基本概念 二、纠错编码的代数基础 三、线性分组码 四、循环码 五、卷积码
•
1.信道纠错编码
•一、纠错码的基本概念
•
•一、纠错码的基本概念
而域是有两种代数运算(加法和乘法)的代数系统 。
•
2. 域
•群和域的区别
•二、纠错编码的代数基础
•
2. 域
•素数域G(p)
•二、纠错编码的代数基础
•
2. 域
•素数域G(p)
•二、纠错编码的代数基础
•
3. 环
•多项式的相关概念
•二、纠错编码的代数基础
•
3. 环
•多项式的相关概念
•二、纠错编码的代数基础
• 定理：C是一个线性分组码，H是校验矩阵，C是可以纠单个错误 的纠错码的充要条件：
001 010
0011101 0100111
对于所选定的n长序列称为允许使用 序列，即码字；而其他序列则是不允 许使用的，即禁用序列。
011 100
0111010 1001110
该例中，信息位为3，码长为7，监督 位为4，如果用R=k/n表示码字中信息 位所占比重，称为编码效率。表明了 信道的利用率。
•群的定义
•二、纠错编码的代数基础
•
1. 群
•二、纠错编码的代数基础
在实数加法下整数集是一个交换群。在这种情况下，整数0是 单位元，整数-i是整数i的逆元。除去0的有理数集合在实数乘法 下是交换群。整数1是关于实数乘法的单位元，有理数b/a是a/b 的乘法逆元。
•
1. 群
•模2加
这样的二元运算称为模 2(modulo-2)加法。集合G={0,1} 在模2加法下是一个群。由模2 加法 的定义，G在 下是封 闭的，同时 满足交换律、结 合律。元素0是单位元，0的逆 元是它本身，1的逆元也是它本 身。这样，定义了 的G是一 个交换群。
•
•
（n，k）线性分组码编码电路
•
•
4. 伴随式与译码
•
4. 伴随式与译码
•
4. 伴随式与译码
证明：根据线性分组码的封闭性可知，任意两个码字的和应为一个码 字。根据码字之间距离的定义可知，两个码字和的非零个数则与其距 离相等，且又为新码字的重量。所以，不难理解，线性分组码的最小 距离必定等于非零码字的最小重量。
011
0000000 0011101 0100111 0111010
右表所示为系统码。
100
1001110
101
1010011
110
1101001
111
1110100
•
2. 线性分组码定义
•三、线性分组码
定义：[n, k]线性分组码是GF(q)上的n维线性空间中 的一个k维子空间。
•2n
•2k
•【例】（7，4）线性分组码
•H的前3列相加等于0，因此H 线性相关的最小列数为3
•故：wmin(C)=3 ,能纠正1个错误 •或检出2个错误
•
•
•
•
•
•
例：某一个(5,2)系统线性码的生成矩阵是
设接收到码字是r=(10101)，先构造该码的标准阵 列译码表，然后译出发码的估值C。
•
(1)信息组：m=(00),(10),(01),(11) (2)求得4个许用码字C=mG为
m 0000 0001 0010 0011 0100 0101 0110 0111 1000 1001 1010 1011 1100 1101 1110 1111
C 0000000 0001011 0010110 0011101 0100111 0101100 0110001 0111010 1000101 1001110 1010011 1011000 1100010 1101001 1110100 1111111
2. 线性分组码定义
•三、线性分组码
•
2. 线性分组码定义
•三、线性分组码
•
2. 线性分组码定义
•三、线性分组码
•
容易验证C是线性的。假设消息序列与码字序列的映射关系为如下两种：
第一种：
映射关系为：
第二种：
映射关系与第一种截然不同。
•
2. 线性分组码定义
•三、线性分组码
•
3. 线性分组码编码
•一、纠错码的基本概念
•
4. 纠错码的分类
•一、纠错码的基本概念
•
4. 纠错码的分类
•一、纠错码的基本概念
•
内容提要
一、纠错码的基本概念 二、纠错编码的代数基础 三、线性分组码 四、循环码 五、卷积码
•
近世代数简介
近世代数又称抽象代数，其研究对 象是定义在某些运算下的集合，运 算对象可以是数、多项式、矢量、 矩阵、线性空间等。
2. 差错控制系统模型及分类
•
•一、纠错码的基本概念
2. 差错控制系统模型及分类
•
•一、纠错码的基本概念
2. 差错控制系统模型及分类
•
•一、纠错码的基本概念
2. 差错控制系统模型及分类
•
•一、纠错码的基本概念
2. 差错控制系统模型及分类
•
3. 差错类型
•一、纠错码的基本概念
•
3. 差错类型
101 110 111
1010011 1101001 1110100
•
•三、线性分组码
1.分组码相关定义 •系统码与非系统码
若(n,k)分组码中k个信息位 消息序列
码字
同原始k个信息位相同，且 000
位于n长码字的前(或后)k位 001
，而校验位位于其后(或前)
，则称该分组码为系统码， 010
否则为非系统码。
群G={1,2,3,…,p-1}在模p乘法下称为乘群 (multiplication group)
•
1. 群
•模p乘
•二、纠错编码的代数基础
•
1. 群
•群的同构
•二、纠错编码的代数基础
•
1. 群
•群的同构
•二、纠错编码的代数基础
•
1. 群
•子群
•二、纠错编码的代数基础
•
1. 群
•子群
•二、纠错编码的代数基础
•C4=11010 •01010 •10010 •11110 •11000 •11011 •11001 •11100
•
•【例】（7，3）线性分组码
•能检出3重错误，纠正1重错误。
•
•如：
（一个错）
•如两个错：
•，但无伴随式与之对应，不能纠正。
•
例 已知（7，3）码的校验矩阵为
•
若错误图样en =（0010000），则
•
•三、线性分组码
1.分组码相关定义 •校验位和信息位
对于2k个n长码字全体构成的分组码 ，其码字中的k位称为信息位，n-k位 称为校验位或监督位。
消息序列 000
码字 0000000
例如，当k=3，n=7时，可能的消息序 列数m=2k=8个，可能的长为n=7的预 选序列有27=128个。具体如表：
•
•4. 伴随式与译码
•
•线性分组码的检、纠错能力与H矩阵的关系
•
•线性分组码的检、纠错能力与H矩阵的关系
•
设C是线性分组码，H是它的校验矩阵，那么码C的最小重
量就等于H中线性相关的最小列数。因此，如果H中的2t个和小于
2t个列的任一子集都线性无关，而H中有2t+1个列线性相关，那么
码C就是纠正t个错误的纠错码，或能检出2t个错误的检错码。
•三、线性分组码
消息序列 000 001 010 011 100 101 110 111
码字 0000000 0011101 0100111 0111010 1001110 1010011 1101001 1110100
•
3. 线性分组码编码
•三、线性分组码
由校验方程，可将n=7，k=3的线性分组码写成 •令
•则
•因此，C=mG •且 G=[Ik Pk*(n-k)]
•
3. 线性分组码编码
•三、线性分组码
•令 •则 •因此，C=mG
•
3. 线性分组码编码
•三、线性分组码
•
3. 线性分组码编码
•三、线性分组码
•
3. 线性分组码编码
消息序列 码字
000
0000000
001
0011101
010
0100111
•是H矩阵第一列与 第二列之和！
•
•5. 汉明码
•一．基本概念
•汉明码：一类能纠单个错误的纠错码。
•二．纠单个错误的线性分组码
•【例】（7，4）线性码
wenku.baidu.com •
•（1）H中列为非全零元素； • （2）H中任意两列都不相同，
但存 在相加等于0的三个列的 子集。
•H中线性相关的最小列数为3，故 错误的码。
，该码是纠单个
•三、线性分组码
•(n,k)分组码定义
假设信源信息是二进制数字序列，将信道编码 器的输出序列构成长度为n的段，记为C
C=[c1,c2,…,cn] 设有m个不同的信息序列，每个不同的序列由 k(k<n)位相继的信息数字组成。由于每个信息 序列组成k位二进制数字，则有2k个可能不同 的信息序列，即m=2k，这2k个码字的集合称为 (n,k)分组码。