信道的数学模型及分类

不再满足
。
处理这类有记忆信道时，最直观的方法就是把记忆较强的 个符号当做一个矢量 符号来处理，而各矢量符号之间认为是无记忆的，这样就转化为无记忆信道的问题。 这样处理一般会引入误差，因为实际上第一个矢量的最末几个符号一般是与第二个矢 量的最前面几个符号是有关联的。 取值越大，误差越小。
另一种处理方法是把
看成马尔可夫链的形式，这是有限记忆信道的问题，
把信道某时刻的输入和输出序列看成为信道的状态，那么信道的编译特性可用在已知 现时刻的输入符号和输出序列看成为信道的状态，那么，信道的统计特性可用在已知 现时刻的输入符号和前时刻信道所处的状态的条件下，信道的输出符号和所处的状态
的联合条件概率来描述，即用
来描述。然而，在一般情况下这种方法仍
时间分配：
内容
时间分配
信道分类介绍
10 分钟
离散信道的基本模型
15 分钟
几类特殊的信道
10 分钟
小结
5 分钟
在一般的广义通信系统中，信道是很重要的一部分。信道的任务是以信号方式传 输信息和存储信息。我们研究信道就是研究信道中能够传送或存储的最大信息量，即 信道容量问题。
信源输出的是携带着信息的消息，而消息必须首先转换成能在信道中传输或存储 的信号，然后通过信道传送到收信者。并且认为噪声或干扰主要是从信道中引入，它 使信号通过信道后产生错误和失真。故信道的输入和输出信号之间一般不是确定的函 数关系，而是统计依赖的关系。只要知道了信道的输入信号、输出信号，以及它们之 间的统计依赖关系，则信道的全部特性就确定了。 一、信道的分类
根据信道用户的多少，可以分为： （1）两端（单用户）信道。只是一个输入端和一个输出端的信道； （2）多端（多用户）信道。它是在输入端或输出端至少有一端有两个以上的用户， 并且还可以是双向通信的信道。 根据信道输入端和输出端的关联，可以分为： （1） 无反馈信道。信道输出端无信道反馈到输入端，即输出端对输入端信号无
而 根据假设，上式可以继续作如下推导：
在离散信道中，有 即有 所以有
.….. 因此有
同理，
同理可得，
……
和
根据以上推导可知，只要满足
，
则离散信道在 时刻的输出 只与 时刻的输入 有关，与以前的输入和输出无关，与以
后的输出也无关，此信道就是离散无记忆信道。 必要性。若离散信道是无记忆信道，则根据离散无记忆的信道的定义，得
授课思路与过程设计：
回顾通信系统的基本模型，并简要对第二章中信源的信息量测量进行简要回顾，
引出本章要讲述的基本内容，并对本次课进行简要的介绍。
首先对信道的分类进行简要的介绍，之后引出离散信道的基本模型，注意其中无
记忆信道的特性、有干扰无记忆信道的特性；接下来介绍几种特殊的信道，最后对本
次课进行简要的小结。
号
，输出信号
。每个随机变量 和 又
分别取值于符号集 。另外，图中条件概率
和 描述
信道
了输入信号和输出信号之间的统计依赖关系，反映了信道的统计特性。
根据信道的统计特性即条件概率
的不同，离散信道又可分成三种情况。
1、 无干扰信道。信道中没有随机性的干扰或者干扰很小，输出信号与输入信号之间有 确定的一一对应的关系，即
表示。 这些传递概率满足下式：
对于这些传递概率，可用矩阵来表示，由此得二元对称对称信道的传递矩阵为：
例 2 二元删除信道 BEC
这时
。输入符号 取值于
如下图所示，传递矩阵为
，输出符号 取值于
0 21
0 ⎡ p 1− p 0⎤
1
⎢ ⎣
0
1− q
q⎥⎦
，传递概率
这种信道实际是存在的，假如有一个信道，它的输入是代表 0 和 1 的两个正、负 波形方波信道，如下图(a)所示。那么，信道送入译码器的将是受干扰后的方波信号
并且满足
2、 有干扰无记忆信道。实际信道中有干扰，即输出符号与输入符号之间无确定的对应 关系。这时信道输入和输出之间的条件概率不同于上式，而是一般的概率分布。若 信道任一时刻输出符号只统计依赖于对应时刻的输入符号，与非对应时刻的输入符
号及其他任何时刻的输出符号无关，则这种信道称为无记忆信道。满足离散无记忆 信道的充要条件是： 证明：充分性，即满足上式的离散信道为无记忆信道。
⎢M
M
M⎥
⎢ ⎣
P(b1
|
ar
)
P(b2 | ar )
L
P(bs | ar )⎥⎦
（1） 输入和输出符号的联合概率为
，则有
式中，
是信道传递概率，即发送为 ，通过信道传输接收为 的概率，又称为
前向概率。它是由于信道噪声引起的，所以描述了信道噪声的特性，而
是已知
信道输出端接收到符号为 但发送的是符号 的概率，称其为后向概率。有时，也把
影响； （2） 反馈信道。信道输出端的信号反馈到输入端，影响输入端信号发生变化； 根据信道的参数与时间的关系，信道又可分为： （1） 固定参数信道。信道的统计特性不随时间变化而改变； （2） 时变参数信道。信道的统计特性随时间变化而变化； 根据输入和输出信号的特点，信道又分为： （1）离散信道。它是指输入和输出的随机序列取值都是离散的信道； （2）连续信道。输入输出的随机序列的数值均是连续的信道； （3）半离散半连续信道； （4）波形信道。输入和输出信号都是时间上连续的随机信号。 在此，我们研究无反馈、固定参数的单用户离散信道。 二、离散信道的数学模型 离散信道的数学模型一般如右图所示，输入和输出信道用随机矢量表示。输入信
，如图(b)所示。我们可以用积分
来判别发送的信号是 0 还是 1，如果
是正的，且大于某一电平，那么判别发送的是 0，若 是负的，且小于某一电平，则判 别发送的是 1，而若 的绝对值很小，不能做出确切的判断，就认为接收到的是特殊符 号“2”，假如信道干扰不是很严重的话，那么， 和 的可能性要比 和
的可能性小得多，所以假设
⎡X ⎤ ⎢⎣ P( x)⎥⎦
=
⎡ a1,
⎢ ⎣
P(a1
)
a2 , P(a2 )
L, L,
ar ⎤ P(ar )⎥⎦
又设输出 的符号集为
。给定信道矩阵为
⎡ P(b1 | a1) P(b2 | a1) L P(bs | a1)⎤
P
=
⎢ ⎢
P(b1
|
a2
)
P(b2 | a2 )
L
P(bs | a2 )⎥⎥
很复杂，只有在每一个输出符号只与前一个输入符号有关的简单情况下，才可得到比 较简单的结果。
我们着重研究无记忆信道，从最简单的单符号信道入手。 三、单符号离散信道的数学模型
单符号离散信道的输入变量为 ，取值于
；输出变量为 ，取值于
，并且有条件概率
这一组条件概率称为信道的传递概率或转移概率。
因为信道中有干扰存在，若信道输入为
是较合理的。
由此可知，一般离散单符号信道的传递概率可用矩阵形式表示，即
并满足
b1
b2
bs
a1 ⎡ P(b1 | a1) P(b2 | a1) L P(bs | a1)⎤ a2 ⎢⎢P(b1 | a2 ) P(b2 | a2 ) L P(bs | a2 )⎥⎥
M⎢ M
M
M⎥
ar
⎢ ⎣
P(b1
|
ar
)
P(b2 | ar ) L P(bs | ar )⎥⎦
为了表述方便，可以写成
。于是信道的传递矩阵为
并且满足
以及
。
上述矩阵称为信道矩阵，它表达了输入符号集
，又表达了输出
符号集
，同时还表达了输入与输出的传递概率关系，则信道矩阵 同
样能完整地描述了所给定的信道。因此，也可以用信道矩阵 作为离散单符号信道的另 一种数学模型的形式。
下面来推导一般单符号离散信道的一些概率关系。 设信道的输入概率空间为
时，输出的是哪一个符号 ，事先无
法确定，但信道输出一定是
中的一个，即有
由于信道的干扰使输入符号 在传输中发生错误，所以可以用传递概率 来描述干扰的大小。因此，一般简单的单符号
离散信道的数学模型可以用概率空间 如下图所示。
来描述，另外，也可以用图来描述，
例 1 二元对称信道，简记为 BSC。 这是很重要的一种特殊信道，它的输入符号 取值于
称为先验概率，而对应地把
称为输入符号的后验概率。
（2） 根据联合概率可得输出符号的概率
也可以写成
⎡ P(b1)⎤ ⎡ P(a1)⎤
⎢ ⎢
P(b2
Βιβλιοθήκη Baidu
⎢M
)⎥⎥ ⎥
=
PT
⎢ ⎢
P(a2
⎢M
)⎥⎥ ⎥
⎢ ⎣
P(bs
)⎥⎦
⎢ ⎣
P(ar
)
⎥ ⎦
（3） 根据贝叶斯定律可得后验概率
且得
思考题、讨论题、作业 教学后记
；输出符号 取值于
。此时，
，而且
。又有传递概率
X
Y
a1=0
1-p
b1=0
p
如右图所示，很明显，
p
a2=0
1-p
b2=1
表示信道输入符号为 0 而收到符号为 1 的概率，而
表示信道输入符号为 1 而接收到的符号为 0 的概率。它们都是单个符号传输发生
错误的概率，通常用 表示。而
和
都是无错误传输的概率，通常用
因此，有
……
因此，
是离散无记忆信道的充要条件。
3、 有干扰有记忆信道 这是更一般的情况，既有干扰又有记忆。实际信道往往是这种类型。例如，在数
字信道中，由于信道滤波使频率特性不理想时造成了码字之间的干扰，在这一类信道 中某一瞬间的输出符号不但与对应时刻的输入符号有关，而且还与此以前其他时刻信 道的输入符号以及输出符号有关，这样的信道称为有记忆信道，这时信道的条件概率
授课题目 首次授课时间
教学目标
重点与难点
信道的数学模型及分类
授课类型
1、理解信道的基本分类； 2、掌握基本信道模型； 3、掌握无记忆信道的特性； 4、掌握并理解几类特殊的信道；
学时
1、基本信道模型； 2、无记忆信道的特性公式；
理论课 2 课时
教学手段与方法 第二章习题课+讲授
教学过程：（包括授课思路、过程设计、讲解要点及各部分具体内容、时间分配等）