信息论-第7章抗干扰信道编码
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第7章 抗干扰信道编码
信道编码是以信息在信道上的正确传输为目 标的编码，可分为两个层次上的问题：
• 如何正确接收载有信息的信号 －－线路编码
• 如何避免少量差错信号对信息内容的影响 －－纠错编码
1
纠错码分类
• 从功能角度：检错码 、纠错码 • 对信息序列的处理方法：分组码、卷积码 • 码元与原始信息位的关系：线性码、非线
7.4 抗干扰信道编码定理
7.5 分组码及其检纠能力
7.7 线性分组码及其生成矩阵
7.8 一致检验矩阵与伴随式
7.9 标准阵列与译码表
7.10 检纠能力与一致检验矩阵的关系
7.11 完备码
7.12 汉明码与扩展汉明码
9
7.1 译码规则
• 错误概率与信道统计特征有关。例如在二 元对称信道中
– 单个符号的错误传递概率是p – 单个符号的正确传递概率是1-p
7
第7章 抗干扰信道编码
信道编码 • 目的：提高抗干扰能力，使差错率最小。 • 实质：增加冗余度，扩大信号空间，增大信
号间距离。 • 重要意义：通过信道编码的方法，可以用不
可靠的信道实现可靠的传输。
8
第7章 抗干扰信道编码
内容提要
7.1 译码规则
7.2 译码规则的选择准则
7.3 信道编码的编码原则
F(yj)=xi i=1,2 …,r和 j＝l,2,…,s 显然，对于有r个输入、s个输出的信道而言，按 上述定义得到的译码规则共有rs 种。
12
7.1 译码规则
例 7.2 设有一信道，其信道矩阵为
• 由于r＝3，s＝3，s个输出符号中的每一个
都可以译成 r 个输入符号中的任何一个，
故按此倍道矩阵总共可设计出3 3=27种译码
平均错误概率pE的含义是经过译码后，平均接收到一个符号
所产生错误概率的大小。
14
7.2 译码规则的选择准则
2、译码规则
使平均错误概率pE最小为选择译码规则的准则 (1) 定义7. 2.1 最大后验概率译码规则理想观测者规则
选择译码函数F(yj)＝x*，使之满足条件
p( x* | y j ) p( xi | y j )
• 混合纠错（HEC）：前向纠错和反馈重发 的结合，发端发送的码兼有检错和纠错两 种能力
3
第7章 抗干扰信道编码
• 通信的有效性问题：即如何通过对信源进行编码， 压缩信源的多余度，提高传输的效率。
• 通信的可靠性问题：即消息通过信道传输时如何 选择编码方案以减少差错。
• 通信的可靠性显然与信道的统计特性有关，因为 杂噪干扰是造成错误的主要因素。其次，编码方 法和译码方法也将影响信息传输的可靠性。
性码 • 差错类型：纠随机差错码、纠突发差错码、
介于中间的纠随机/突发差错码。 • 构码理论：代数码、几何码、算术码、组
合码等
2
差错控制系统分类
• 前向纠错（FEC）：发端信息经纠错编码后 传送，收端通过纠错译码自动纠正传递过 程中的差错
• 反馈重发（ARQ）：收端通过检测接收码 是否符合编码规律来判断，如判定码组有 错，则通过反向信道通知发端重发该码
• 反之，若发送端发送的xk，且ki，即为错误译码。
• 经过译码后条件正确概率为 p[F ( y j ) | y j ] p( xi | y j )
• 条件错误概率为 p(e | y j ) 1 p( xi | y j ) 1 p[F ( y j ) | y j ] 平均错误概率pE为
s
pE E[ p(e | y j )] p( y j ) p(e | y j ) j 1
规则。
• 在所有的译码规则中，不是每一种译码规
则部是合理的，因此我们要讨论选择译码
规则的准则。
13
7.2 译码规则的选择准则
1、错误概率
• 在确定译码规则 F(yj)＝xi， i=1,2 …,r , j=l,2,…,s 之后， 若信道输出端接收到的符号为yj，则一定译成xi。
• 如果发送端发送的就是xi，即为正确译码；
• 错误概率与译码过程和译码规则的关系也 很大。
10
7.1 译码规则
例7.1 设有一个二元对称信道，如下图所示，其输入符号为 等概分布。
在信道输出端，如果规定：
X
1-p=0.1
Y
a1=0
0=b1
– 接收到符号0时，译码器把它译成0；0
p=0.9
– 接收到符号1时，译码器把它译成1；
– 译码错误概率PE=0.9。 反之，如果：
6
ห้องสมุดไป่ตู้
第7章 抗干扰信道编码
• 在接收端，信道译码器利用这种预知的编码规 则来译码，或者说检验接收到的数字序列R中 是否有错，或者纠正其中的差错。
• 信道编码的基本思想是根据相关性来检测和纠 正传输过程中产生的差错。
• 在有噪信道中传输消息是会发生错误的，错误 概率和信道的统计特性、译码过程及译码规则 有关。
4
第7章 抗干扰信道编码
• 信道是通信系统中的重要组成部分，信道的任务是以信 号方式传输信息。
• 信道的输入端和输出端连接着编码器和译码器，形成了 一个新的信道，即编码信道。
• 信道的特征是由信道传递概率p(y|x)来描述的。由此可 以算出它的信道容量C，只要在信道中实际传送的信息 率R＜C，在接收端就应当能够无差错地译出发端所输 送的信息。
对i
它是选择这样一种译码函数，对于每一个输出符号
yj，j＝1、2，…，s 均译成具有最大后验概率的那个输
5
第7章 抗干扰信道编码
• 通过信道编码实现信源与信道相匹配。 • 信道编码的编码对象是信源编码器输出的数字序
列M，又称为信息序列。通常是由二元符号0,1构 成的序列，而且0和1是独立等概的。 • 信道编码是按一定的规则给数字序列M增加一些 多余的码元，使不具有规律性的信息序列M变换 为具有某种规律性的数字序列C，又称为码序列。 • 码序列中信息序列的诸码元与多余码元之间是相 关的。
p
a2=1
1=b
1-p
2
– 接收到符号0时，译码器把它译成1；
– 接收到符号1时，译码器把它译成0；
– 译码错误概率PE=0.1。
结论：错误概率既与信道的统计特性有关，也与译码规则有关。
11
7.1 译码规则
定义7.1 设信道输入符号集为X=(xi，i=1,2 …,r)， 输出符号集为Y=(yj，j=l,2,…,s)，若对每一个输出 符号yj都有一个确定的函数F(yj)，使yj对应于唯一的 一个输入符号xi，则称这样的函数为译码规则，即
信道编码是以信息在信道上的正确传输为目 标的编码，可分为两个层次上的问题：
• 如何正确接收载有信息的信号 －－线路编码
• 如何避免少量差错信号对信息内容的影响 －－纠错编码
1
纠错码分类
• 从功能角度：检错码 、纠错码 • 对信息序列的处理方法：分组码、卷积码 • 码元与原始信息位的关系：线性码、非线
7.4 抗干扰信道编码定理
7.5 分组码及其检纠能力
7.7 线性分组码及其生成矩阵
7.8 一致检验矩阵与伴随式
7.9 标准阵列与译码表
7.10 检纠能力与一致检验矩阵的关系
7.11 完备码
7.12 汉明码与扩展汉明码
9
7.1 译码规则
• 错误概率与信道统计特征有关。例如在二 元对称信道中
– 单个符号的错误传递概率是p – 单个符号的正确传递概率是1-p
7
第7章 抗干扰信道编码
信道编码 • 目的：提高抗干扰能力，使差错率最小。 • 实质：增加冗余度，扩大信号空间，增大信
号间距离。 • 重要意义：通过信道编码的方法，可以用不
可靠的信道实现可靠的传输。
8
第7章 抗干扰信道编码
内容提要
7.1 译码规则
7.2 译码规则的选择准则
7.3 信道编码的编码原则
F(yj)=xi i=1,2 …,r和 j＝l,2,…,s 显然，对于有r个输入、s个输出的信道而言，按 上述定义得到的译码规则共有rs 种。
12
7.1 译码规则
例 7.2 设有一信道，其信道矩阵为
• 由于r＝3，s＝3，s个输出符号中的每一个
都可以译成 r 个输入符号中的任何一个，
故按此倍道矩阵总共可设计出3 3=27种译码
平均错误概率pE的含义是经过译码后，平均接收到一个符号
所产生错误概率的大小。
14
7.2 译码规则的选择准则
2、译码规则
使平均错误概率pE最小为选择译码规则的准则 (1) 定义7. 2.1 最大后验概率译码规则理想观测者规则
选择译码函数F(yj)＝x*，使之满足条件
p( x* | y j ) p( xi | y j )
• 混合纠错（HEC）：前向纠错和反馈重发 的结合，发端发送的码兼有检错和纠错两 种能力
3
第7章 抗干扰信道编码
• 通信的有效性问题：即如何通过对信源进行编码， 压缩信源的多余度，提高传输的效率。
• 通信的可靠性问题：即消息通过信道传输时如何 选择编码方案以减少差错。
• 通信的可靠性显然与信道的统计特性有关，因为 杂噪干扰是造成错误的主要因素。其次，编码方 法和译码方法也将影响信息传输的可靠性。
性码 • 差错类型：纠随机差错码、纠突发差错码、
介于中间的纠随机/突发差错码。 • 构码理论：代数码、几何码、算术码、组
合码等
2
差错控制系统分类
• 前向纠错（FEC）：发端信息经纠错编码后 传送，收端通过纠错译码自动纠正传递过 程中的差错
• 反馈重发（ARQ）：收端通过检测接收码 是否符合编码规律来判断，如判定码组有 错，则通过反向信道通知发端重发该码
• 反之，若发送端发送的xk，且ki，即为错误译码。
• 经过译码后条件正确概率为 p[F ( y j ) | y j ] p( xi | y j )
• 条件错误概率为 p(e | y j ) 1 p( xi | y j ) 1 p[F ( y j ) | y j ] 平均错误概率pE为
s
pE E[ p(e | y j )] p( y j ) p(e | y j ) j 1
规则。
• 在所有的译码规则中，不是每一种译码规
则部是合理的，因此我们要讨论选择译码
规则的准则。
13
7.2 译码规则的选择准则
1、错误概率
• 在确定译码规则 F(yj)＝xi， i=1,2 …,r , j=l,2,…,s 之后， 若信道输出端接收到的符号为yj，则一定译成xi。
• 如果发送端发送的就是xi，即为正确译码；
• 错误概率与译码过程和译码规则的关系也 很大。
10
7.1 译码规则
例7.1 设有一个二元对称信道，如下图所示，其输入符号为 等概分布。
在信道输出端，如果规定：
X
1-p=0.1
Y
a1=0
0=b1
– 接收到符号0时，译码器把它译成0；0
p=0.9
– 接收到符号1时，译码器把它译成1；
– 译码错误概率PE=0.9。 反之，如果：
6
ห้องสมุดไป่ตู้
第7章 抗干扰信道编码
• 在接收端，信道译码器利用这种预知的编码规 则来译码，或者说检验接收到的数字序列R中 是否有错，或者纠正其中的差错。
• 信道编码的基本思想是根据相关性来检测和纠 正传输过程中产生的差错。
• 在有噪信道中传输消息是会发生错误的，错误 概率和信道的统计特性、译码过程及译码规则 有关。
4
第7章 抗干扰信道编码
• 信道是通信系统中的重要组成部分，信道的任务是以信 号方式传输信息。
• 信道的输入端和输出端连接着编码器和译码器，形成了 一个新的信道，即编码信道。
• 信道的特征是由信道传递概率p(y|x)来描述的。由此可 以算出它的信道容量C，只要在信道中实际传送的信息 率R＜C，在接收端就应当能够无差错地译出发端所输 送的信息。
对i
它是选择这样一种译码函数，对于每一个输出符号
yj，j＝1、2，…，s 均译成具有最大后验概率的那个输
5
第7章 抗干扰信道编码
• 通过信道编码实现信源与信道相匹配。 • 信道编码的编码对象是信源编码器输出的数字序
列M，又称为信息序列。通常是由二元符号0,1构 成的序列，而且0和1是独立等概的。 • 信道编码是按一定的规则给数字序列M增加一些 多余的码元，使不具有规律性的信息序列M变换 为具有某种规律性的数字序列C，又称为码序列。 • 码序列中信息序列的诸码元与多余码元之间是相 关的。
p
a2=1
1=b
1-p
2
– 接收到符号0时，译码器把它译成1；
– 接收到符号1时，译码器把它译成0；
– 译码错误概率PE=0.1。
结论：错误概率既与信道的统计特性有关，也与译码规则有关。
11
7.1 译码规则
定义7.1 设信道输入符号集为X=(xi，i=1,2 …,r)， 输出符号集为Y=(yj，j=l,2,…,s)，若对每一个输出 符号yj都有一个确定的函数F(yj)，使yj对应于唯一的 一个输入符号xi，则称这样的函数为译码规则，即