信道编码

前言

计算机通信是一种以数据通信形式出现，在计算机与计算机之间或计算机与终端设备之间进行信息传递的方式。它是现代计算机技术与通信技术相融合的产物，在军队指挥自动化系统、武器控制系统、信息处理系统、决策分析系统、情报检索系统以及办公自动化系统等领域得到了广泛应用。计算机通信系统是经典的数字通信系统，它是计算机技术和通信技术结合的产物，一方面通信网络为计算机之间的数据传递和交换提供必要的设施和手段；另一方面，数字计算机技术的发展渗透到通信技术中，又提高了通信网络的各种性能，二者相互渗透、互相促进、共同发展。

由于计算机、卫星通信及高速数据网的飞速发展，数据的交换、处理和存储技术得到了广泛的应用，数字信号在传输中往往由于各种原因，使得在传送的数据流中产生误码，从而使接收端产生图象跳跃、不连续、出现马赛克等现象，人们对数据传输和存储系统的可靠性提出来了越来越高的要求，经过长时间的努力，通过编译码来控制差错、提高可靠性的方式在信道传输中得到了大量的使用和发展，并形成了一门新的技术叫做纠错编码技术，纠错编码按其码字结构形式和对信息序列处理方式的不同分为两大类：分组码和卷积码。

第一章 信道编码

1.1 信道编码概述

1.1.1信道模型

信息必须首先转换成能在信道中传输或存储的信息后才能通过信道传送给收信者。在信息传输过程中，噪声或干扰主要是从信道引入的，它使信息通过信道传输后产生错误和失真。因此信道的输入和输出之间一般不是确定的函数关系，而是统计依赖的关系。只要知道信道的输入信号、输出信号以及它们之间的统计依赖关系，就可以确定信道的全部特性。

信道的种类很多，这里只研究无反馈、固定参数的单用户离散信道。 1．离散信道的数学模型

离散信道的数学模型一般如图6.1所示。图中输入和输出信号用随机矢量表示，输入信号为 X = (X 1, X 2,…, X N )，输出信号为Y = (Y 1, Y 2,…, Y N )；每个随机变量X i 和Y i 又分别取值于符号集A ={a 1, a 2, …, a r }和B ={b 1, b 2, …, b s }，其中r 不一定等于s ；条件概率P (y |x ) 描述了输入信号和输出信号之间的统计依赖关系，反映了信道的统计特性。

),...,,(21N X X X X = )|(x y P ),...,,(21N Y Y Y Y =

∑=1)|(x y P

图1.1 离散信道模型

根据信道的统计特性即条件概率P (y |x ) 的不同，离散信道可以分为三种情况：

（1）无干扰信道。信道中没有随机干扰或干扰很小，输出信号Y 与输入信号X 之间有确定的一一对应的关系。

（2）有干扰无记忆信道。实际信道中常有干扰，即输出符号与输入符号之间没有确定的对应关系。若信道任一时刻的输出符号只统计依赖于对应时刻的输入符号，而与非对应时刻的输入符号及其他任何时刻的输出符号无关，则这种信道称为无记忆信道。

（3）有干扰有记忆信道。这是更一般的情况，既有干扰又有记忆，实际信道往往是这种类型。在这一类信道中某一瞬间的输出符号不但与对应时刻的输入符号有关，而且与此前其他时刻信道的输入符号及输出符号有关，这样的信道称为有记忆信道。

2．单符号离散信道的数学模型

单符号离散信道的输入变量为X ，取值于{a 1, a 2, …, a r }，输出变量为Y ，取值于{b 1, b 2, …, b s }，并有条件概率

P (y |x )= P (y=b j |x=a i )= P (b j |a i ) (i =1,2,…,r ；j =1,2,…,s )

这一组条件概率称为信道的传递概率或转移概率。

因为信道中有干扰（噪声）存在，信道输入为x =a i 时，输出是哪一个符号y ，事先无法确定。但信道输出一定是b 1, b 2, …, b s 中的一个，即有

∑==s

j i j

a b

P 1

1)|( (i =1,2,…,r ) (1-1)

由于信道的干扰使输入符号x 在传输中发生错误，所以可以用传递概率P (b j |a i );,,2,1(r i = ),,2,1s j =来描述干扰影响的大小。因此，一般简单的单符号离散信道的数学模型可以用概率空间

[Y x y P X ),|(,]加以描述。另外，也可以用图来描述，如图1.2所示。

⎪⎪⎪⎩⎪⎪⎪⎨⎧a a a X r

21

Y

b b b s ⎪⎪⎪⎭

⎪⎪⎪⎬⎫

21 图1.2 单符号离散信道

定义1.1 已知发送符号为a i ，通过信道传输接收到的符号为b j 的概率P (b j |a i )称为前向概率。已知信道输出端接收到的符号为b j ，而发送符号为a i 的概率P (a i |b j )，称为后向概率。

有时，也把P (a i )称为输入符号的先验概率（即在接收到一个输出符号以前输入符号的概率），而对应地把P (a i |b j )称为输入符号的后验概率（在接收到一个输出符号以后输入符号的概率）。

为了讨论方便，下面列出本章讨论中常用的一些关于联合概率和条件概率的关系： (1) 设输入和输出符号的联合概率为P (x = a i , y = b j )=P (a i b j )，则有

)|()()|()()(j i j i j i j i b a P b P a b P a P b a P ==

(2) ∑==

r

i i j

i

j a b

P a P b P 1

)|()()( （s j ,,1 =）

。 (3) 根据贝叶斯定律，可得后验概率与先验概率之间的关系 )

()()|(j j i j i b P b a P b a P =

（0)(≠b P j ）

＝

∑=r

i i j

i

i j i a b

P a P a b P a P 1

)

|()()

|()( （s j r i ,,2,1;,,2,1 ==）

1.1.2 抗干扰信道编码定理及逆定理

定理1.1 有噪信道编码定理

设离散无记忆信道[X ,P (y |x ),Y ], P (y |x )为信道传递概率，其信道容量为C 。当信息传输率R