13分组码1_904306893

纠错与检错
考虑最邻近的两个码字，直观表示如下图
e
t
若与所有码字距离均大于门限t，怎么判？ 此时只能认定发生了差错，但是无法纠正这一差错 最大检错位数是e 最大检错位数e和最大纠错位数t的关系是什么？
纠错与检错
观察该图
e
显然，最小码距越大， 则信道编码性能越好
t
d min d min t e 1 t e d min e 1 d min 2t 1
阿基米德（公元前287年-公元前212年） “给我一个支点，我会撬动地球。”
“给我一个理由，我会……”
《现代通信原理》 Principles of Digital Communications
第十一讲 差错控制码—分组码
电子工程系
（感谢陈巍等老师对讲义的贡献）
信道编码：WHY?
数字传输中的一对矛盾
那么
1 1 Q 1 0
1 1 0 1
1 0 1 1
1 1 1 T H 0 1 0 0
1 1 0 1 0 1 0
1 0 1 1 0 0 1
线性分组码的设计举例
由监督矩阵确定生成矩阵
1 0 [I Q ] 0 0 0 1 0 0 0 0 1 0 0 0 0 1 1 1 1 0 1 1 0 1 1 0 1 1
噪声所导致的传输差错与信息可靠传输需求的 矛盾 在普通通信设备中，噪声是不可消除的 此外，码间串扰（ISI），多接入干扰（MAI） 和邻小区干扰（ICI）等均可能导致误码 匹配滤波，最佳判决等手段均不可能消除差错
是否有可能实现可靠的信息传输？ 或者至少降低传输的误码率？
信道编码：HOW？
看一个简单例子
Hamming距离与判决
显然，两个码字的Hamming距离越大，则一 个码字误判成另一个码字的可能性越小
回顾上节课讲过的数字 调制信号判决方法，有 何共性？需什么条件
判决方法
最小Hamming距离方法 若与某码字距离小于门限t，则判为该码字 若与某码字距离大于门限t，则肯定不是该码 字 只要差错不超过t，那么都可以纠正回来。故纠错位数为t
Hamming距离
信道编码常用Hamming距离
更易于与判决、概率分析等关联起来 例：考虑码字000
错成001，概率 错成101，概率 错成111，概率
pe
，Hamming距1 ，Hamming距2
101 111
100
pe2
p
3 e
000
，Hamming距3
Euclidean距离也是有用的——比如网格编码调制（TCM）
k k n k r
线性分组码的纠错与检错
还是类似的套路，从编码看解码
编码
A X[I Q]
注意矩阵的维数
注意如下恒等式
Q Q A X[I Q] I I X(Q Q) X0 0
基于线性方程组的推演请见课本 pp.332 - 333
对比发现，基于矩阵的推导更简洁一些，但是更抽象
有效的降低了差错概率！
信道编码：WHAT?
信道编码：
Channel Coding：通过合理的增加冗余信息， 纠正信道传输中可能出现的错误 故又称为纠错码：Error Correction Coding 理想信道编码：输出分布 PX ( x) arg max I ( X ;Y )
X
编码器输出 信息通道 传输速率是 I(X;Y)，最大的！ 可以达到误码率为0，最小的！
检错失败
不一定，如果错偶数个码元，则刚好抵消
an a1 a2 只能检奇数位错 偶校验:正确判据：累和为0 奇校验:正确判据：累和为1 a a a a 1
an1
复杂一点的例子
群计数码
累计信息码元中1的个数，以二进制形式放在 信息码元后面 编码举例
0 0 0 | 1 0 0 | 0 1 1 | 1 1 1——〉 00000 | 10001 | 01110 | 11111
Q H I
T
Q中每行至少有2个1 若校正子中只有一个1，则说明是监督位自己错了，为什么？ 若校正子是全零，则说明什么？
线性分组码的设计举例
满足 2 n 1 的线性分组码称为Hamming码 下面，我们自己设计一个Hamming码
r
取r=3，不能太大（为什么？） 计算码长
t 0
t e
为什么会冒出1？
信道编码的设计
两个准则：
可靠性准则：最大化最小码距 有效性准则：给出尽可能多的许用码字
有效性
码率：k/n k为信息码位 n为码长 许用码字的数量为 2k
线性分组码
最大化所有码字之间的最小码距
隐含了某种对称性 于是人们考虑，是否可以将码字构成一个群
线性分组码设计
检错能力
强于奇偶校验码 当{1变0数量=0变1数}时，无法检出
还有什么情况无法检出？为什么没有考虑？
纠错码的直观表示
码字
前面已经看到，二进制分组码的码字是长为n 的二进制序列 直观的，码字对应于n维空间的点
距离
以00和11为例
Euclidean距离 Hamming距离
11
2
2
00
Hamming距离的定义是，两个码字之间不同码元的个数
an a1 a2
a1 a2 a1 a2 0 an1 an
an1
检错方法：正确接收的码字一定满足
an1 a1 a2
an1
奇偶监督码
检错性能
计算结果是0，则一定正确吗？
0 0 | 1 0 | 0 1 | 1 1——〉 000 | 101 | 011 | 110 ——〉传输 ——〉 000 | 111 | 101 | 000
信道编码：WHEN？
信道编码的发明历史
1950年，Bell Lab的研究员Hamming提出了第 一种结构化纠错码 其理论基础是Galois提出的群论 从此，代数学被广泛应用于纠错码 瞻仰牛人，立学术壮志：
Elwyn Berlekamp 代数编码理论 Goppa 代数几何码 Bob Li 环论网络编码，代数交换理论
信息X遍历了各种0,1组合
d min 3
h
k 1
u
ik
0
则
ik
位为1，其它位为0的码字许用
Hamming码的最小码距
继续证明
第三步证明，H中不存在2个以下的列向量，其和为零 H中没有全零列，所以1个肯定不行 若两个列向量和为0，则它们必线性相关，对于基域 GF(2)，则线性相关的两个列向量必相等。显然，为了 能指示误码，H的列向量不能相等 最后证明，H中存在3个列向量，其和为零 因为H是所有非零r维向量作为列向量生成的，根据群的 性质，任意两个列向量之和必仍是H的某个列向量。 回顾第1，2个命题，则Hamming码最小码距为3
能否通过提高r，使得码率趋近于1？
Hamming码的最小码距
最小码距
证明：
首先证明：最小码距等于非零码字的码重（含1的个数） 根据线性分组码的群性质，码字A1与A2的距离等于（A1-A2 ）与0的距离，而A1-A2也是许用码字。故上面命题得证。 接下来证明：若校验矩阵H的u个列向量和为0，则存在码重u 的许用码字 任何满足 HAT 0 的A都是许用码字，所以，若
线性分组码的纠错
考虑最理想的情况
恰好满足 2r n 1 此时r位校正子，恰好指示n种误码，即错的那 一个在哪位
S EH
T
T
若错的是第v位，则校正子为
S H (v,:)
即，监督矩阵转置后的第v行
由此可以判断差错的位 置
线性分组码的纠错
监督矩阵的设计
显然，不是任何矩阵都能当监督矩阵 监督矩阵需要满足：转置后各行均不相同 换言之：监督矩阵各列均不相同 回顾监督矩阵的转置
解码器如何设计？ 由生成矩阵可以画出编码器的电路图 我们每个人都能够设计Hamming码
Hamming码的基本性质
n 2 1 码长 监督码位 r r 信息码位 k n r 2 1 r
r
纠错位数t=1（这是由其设计原理决定的）
检错位数是多少？
码率
2r 1 r 2r 1
优点：简单并且易于分析
容易建立系统的数学理论 容易搭建低复杂度的编解码电路 针对分组码，Gallager在1965年提出了Shannon定理 的一种简单证明
一个简单例子
检错码
注意是检错！ 奇偶监督码（码字长为n）
如果计算结果是1， 说明出现了差错！
a1a2
an1an
根据n-1个信息码元累加，计算出最后一位码元
编码过程即信息序列与生成矩阵相乘
A XG X[I Q]
注意：这些都是GF(2)上的运算
线性分组码的编码
线性分组码的许用码字构成群
A1 A 2 X1G X2G (X1 X2 )G
线性分组码是系统码
A X[I Q]
因为有单位矩阵，所以信息码元会原样出现
Q矩阵的宽r是监督码位，线性分组码的码 率是
线性分组码的检错
若以上等式无法满足，即
Q A 0 I
注意矩阵的维数
则一定是出现了差错！ 由此可得，检错判据
[Q I]A 0
T T
H [Q I] 称为典型形式监督矩阵
T
线性分组码的纠错
线性码不仅可以检错，还能够纠错 接收信号可以表示为
B AE
其中
0 ai bi E(i ) 1 ai bi
p( y j | xi )
Y
解码器输入
信道编码：WHAT?
实用的信道编码
既然理想信道编码这么好，为什么不用？ 原因有二：
1，理想信道编码码长需无穷大 2，目前没发现代数结构，复杂度太大
如何实用化？
有限码长——代价：误码率非零，效率低 有代数结构——优点：便于译码
评价标准
误bit率——评价可靠性 码率——评价有效性
发
收
ˆ I k
检错 译码
收
发
前向纠错的三大特征
无需反馈信道
在接收端直接纠错，发端无需知道差错状态
可适用于实时业务
无需重传，瞬时传输速率恒定
依靠纠错编码
通过引入有结构的冗余信息，避免因个别差错 引起的码字模糊 这是本讲和下一讲的主要内容
数学知识预备
有限域
Galois Field (2)
我们主要讨论二进制码，使用GF(2) 运算规则如下
加法
00 0 0 1 1 0 1 11 0 00 0 0 1 1 0 0 1 1 1
乘法
分组码
本讲介绍分组码
定义：监督码元仅与本码组的信息码元有关
具体来说，将数字序列分段，每段根据规则映射成一 个码字 0 0 | 1 0 | 0 1 | 1 1——〉 000 | 101 | 011 | 110
n 2 1 7
3
计算信息码位：k=n-r=4 确定转置监督矩阵的维度
1 HT 0 0
Q 0 0 1 0 0 1
线性分组码的设计举例
确定Q
选择和000,100,010,001不同的行构成Q 注意这种映射可以随便 如果我们希望 选
111表示第一位错 110表示第二位错 101表示第三位错 011表示第四位错
对称二进制信道BSC
0
1 pe pe
0
代价：增加了冗余， 降低了效率
1
1 pe
1
1个bit，只传1次，出错概率pe 1个bit，重传3次，大数判决，即：收到2个及 以上的1，判为1；收到2个及以上的0，判为0 2 3 2 此时，出错概率 [3 pe (1 pe ) pe ] pe
最土的纠错方法
反馈检测法
需要双向信道，反馈和前向信道有相ห้องสมุดไป่ตู้的容量 若反馈信道可靠，则可以实现无错传输 难以适用于实时业务
Ik
分组
存储 控制
发
收
ˆ I k
收
发
反馈纠错的改进
改进的目的
差错判决放在接收端，只反馈差错状态 自动请求重发，有效减少反馈量 同样难以适用于实时业务
Ik
检错 编码
存储
计算校正子
BHT ( A E)HT AHT EHT EHT
线性分组码的纠错
基本思想，用校正子指示错误的位置，从而实 现纠错 一个基本假设：只需要纠一个误码
因为有n位码，需能指示n+1种不同情况
为什么是n+1?
r 2 校正子有r位，最多能指示 种情况
所以，n位码中，至少需 log 2 (n 1) 位校正子 ，亦即 log 2 (n 1) 个监督位
信道编码：Future
未来信息系统的重要技术
下一代移动通信 深空通信与探测 可靠计算 电磁，光存储设备 基因工程
信道编码的分类
三大类：
反馈检验 检错重发（ARQ） 前向纠错（FEC）
目前，前向纠错研究的较多，理论也比较 成熟，它又分为
线性码，非线性码 分组码，卷积码 系统码，非系统码