信道与信道容量

/i/80.html
第3章 信道与信道容量
3.1 信道的分类与描述
3.2 无干扰离散信道
3.3 离散单个消息(符号)信道及其容量
*3.4 离散消息序列信道及其容量 3.5 连续信道及其容量 3.6 信道容量代价函数C(F)及信道冗余度 3.7 多用户信道
Hale Waihona Puke 3.1 信道的分类与描述信道的信道容量迭代计算
前面，我们讨论了一些特殊情况下离 散单消息信道的信道容量计算的问题。下 面，将讨论一般情况下离散单消息信道的 信道容量的计算机迭代算法。
由信道容量定义，求信道容 量实际上就是求互信息 I(X ， Y) 的 极大值。而引用迭代法求互信息的
极值的关键在于寻求两个互为因果
关系的自变量来表达互信息，以便
(3) 用时间换取信噪比，它是弱信号累 积接收的基本原理。 在深空通信中，往往利用这一原理传 送图片。它是利用信号与干扰统计特性上 的差异来实现的。 (4) 用时间换取频带。 在一些特殊需要的情况下，比如可以 采用频带很窄的电话线路，传送准活动的 图像，像拉洋片式的，就是基于这一原理。
3.5.4 有公共约束的连续
信息率为：
R1+R2≤θC1+(1－θ)C2
结论：对于连续二址的正态信道，性 能比离散二址好，且有3个点C1、 C2、A达 到了二址信道的容量界限。但是，根据对 一维的时频分多址的分析，无论是离散还 是连续，它们都不是最好的多址划分方式。 因此它们大多数情况下都达不到二址容量 界限。然而，建立在二维划分基础上的码 分，由于不受一维的非此即彼的传送约束， 两路可同时传送，按理其性能要优于传统 一维划分的时频分。但是否能达到二址容 量限以及如何达到都是一个值得进一步研 究的课题。
四、 具有可逆矩阵信道
若信道的转移矩阵P的逆矩阵P-1存 在，这类信道称为具有可逆矩阵的信道。 对于这类信道在理论上其信道容量是可 以用求极值的方式得到的。 这类信道由于要求信道转移矩阵 的逆存在，它必然要求信道输入输出具 有相同数量的元素。即 n ＝ m , P 为方阵， 且为正则方阵。
五、一般化的离散单个消息
3.3离散单个消息(符号)信道及其容量
对于输入单个消息的信道，可表示见 图3-3-1。
图3-3-1 离散、单消息信道
一、强对称信道
离散强对称信道见图3-3-2。
图3-3-2 离散强对称信道
二、对称信道
进一步分析上述强对称信道后， 我们发现它具有下列两项重要特征。 ① 其输入消息与输出消息相等， 均为 n 个，即 m = n 。且信道中总的误 差概率ε＝Pe,它将ε平均分配给(n-1)个 传输的错误。
(2) 按照决定信道的信号与干
扰的类型与描述进行分类
(3) 按信道的物理性质类分
(4) 按用户类型划分类
3.1.2 信道描述
类似于对信源的统计描述，对信道而 言描述它的三要素是： 信道输入统计概率空间： ［XK，p(X)］， 信道输出的统计概率空间： ［YK，q(Y)］， 信道本身的统计特性，转移概率矩阵： P(Y |X)。
可见，这种信源的特点是利用 R1 和公用信道 W ，无差错地传送 U1 ， 且靠 R1 和 W 译不出 U2 ，这是由于 U1 与 U2 对 W 条件独立。同理，利用 R2 与 W 也可无差错的传送 U2 ，但也译 不出 U1 。这样就达到了既可靠传送 U1 、 U2 ，又实现了 U1 与 U2 之间相互 保密的要求，一举两得。
达形式（见图3-5-3）。
图
3-5-3
离 散 式 注 水 定 理 示 意 图
3.6 信道容量代价函数C(F)及信道冗余度
3.6.1 信道容量代价函数C(F) 3.6.2 信道冗余度
3.7 多用户信道
3.7.1 引言
前面所研究的信道均指单个用 户输入与输出的单用户信道。它又 可以划分为两类：一类为单用户信 源的单用户信道，另一类为多用户 信源的单用户信道。
3.2 无干扰离散信道
严格地说，信道总是存在干扰的。 只有理想情况下，信道才无干扰。从 互信息角度看，这时通过信道的互信 息即信宿所收到的信息就是信源所输
出的信息。信道中所通过的最大信息
量即信源所输出的最大熵。
问题可归结为求 M(T)，根据符号间有 无约束可以分别加以讨论。
考虑符号间有固定约束情况。
(1) 用频带换取信噪比，它是现代扩频 通信的基本原理。 其目的是为了提高通信系统的可靠性。 (2) 用信噪比换频带，它是多进制多电 平多维星座调制通信方式的基本原理。 这里，正好与(1)中相反，往往在优质 信道中，信噪比有富裕，而使用的频带紧 张，这时可以采用与 (1)中相反的措施，用 信噪比换频带。
进行循环迭代运算。
*3.4 离散消息序列信道及其容量
*3.4.1 无记忆离散消息
序列信道
*3.4.2 有记忆离散消息
序列信道
3.5 连续信道及其容量
3.5.1 连续单个消息信
道及其容量
3.5.2 一般迭加性干扰
的单消息连续信道
3.5.3 限时限频限功率的白
色高斯噪声信道
定理3-5-2 ：满足限频 (F) 、限时 (T) 条 件的广义平稳随机过程信源 U ( t , ω ) ，当它 通过一个限功率(P)的白色高斯信道时，其 容量值为： C=FTlog(1+S/σ2) 若T=1,即单位时间的容量为： C=Flog(1+S/σ2) 这就是著名的仙农公式。
② 信道转移概率矩阵中的每 一 行都是第一行的重排列，即信道对输 入是对称的；每一列都是第一列的重 排列，即信道对输出也是对称的。
条件②就对称而言，比条件①更 加本质，更加重要。若放弃条件①， 保留条件②，我们就可以得到一般性 的对称信道。
三、 准对称信道
下面，假如我们再将条件放
松一些，比如信道的输出集合可以 划分为若干个不相等的且具有对称 信道性质的子集合。
图3-7-3 多址信道
广播信道 ( 见图 3-7-4) 它是指单个输入 多个输出的信道，中央以及各地广播电台、
电视台均属于这类信道。
图3-7-4 广播信道
随机接入信道 ( 见图 3-7-5) 是由多个输 入和多个输出所组成随机接入信道。应该 说n个用户之间在理论上可以不通过中转的 基站即可相互通信，但是由于实际因素的 影响，必须通过中转的基站才能建立可靠 通信。实际上在计算机数据通信中的局域 网、广域网也可看作这类信道。
*3.7.4 相关信源的多用户信道
值得惊奇的是编码器 I 在并不知道 U 2 的情况下，却能在 C1小于H(X)时还能编出 码来，并做到无差错的传送至接收端。
在三信道的方案中，我们利用公信息 传送W，而信道 I与信道II分别为U1、U2 专用。因此，只要满足：
C1＞R1≥H(U1 | W) C2＞R2≥H(U2 | W)
消息序列信道
上面，我们研究了平稳无记忆连续 信息序列信道，这节将进一步研究非平 稳的无记忆连续消息序列信道。这时， K 维序列中的每一维的信号与噪声分量， 虽然满足统计无关的无记忆特性，但是 不满足平稳性。
结论：只有当输出序列中
各分量相等时，才能保证序列
输入信道达到最大的容量值。
这就是著名的注水定理离散表
图3-7-5 随机接入信道
3.7.2 多址信道
让我们从最简单的二址信道入手。图 3-7-6为二址通信系统。
图3-7-6 二址通信系统
在 传 送 U1 时 ， 令 U2(X2) 给 定 ， 使
R1→C1 ；在传送 U2 时，令 U1(X1) 给定，
使 R2→C2 ；则平均每个消息 ( 符号 ) 的总
3.1.1 信道的分类
信道可以从不同的角度加以分类，但 是归纳起来有四类：从工程的物理背景即 传输媒介的类型；从数学上的描述方式即 信号与干扰描述方式；还可以从信道本身 的物理性质即信道参量性质；最后一类是 从用户的类型，是单用户还是多用户加以 分类。下面我们分别加以简介。
(1) 按传输媒介的类型划分
频带正交复用 (FDM) 、时间正交复用
(TDM)、波形正交复用(WDM)。
所谓正交复用，即要求设计一组信号， 使它既能在发送端不重叠的合并，又能在 接收端不互相干扰的分开。
多址信道 ( 见图 3-7-3) ，是指地面有多
个地面站输送入卫星转发器，而转发器将n
路合并后再输出送回地面站，目前利用通 信卫星进行的卫星通信属于此类。
*3.7.3 广播信道
或者给定转移概率的联合概率： P(Y1Y2 | X)。假设编码器是一一对应的， 也就是以确定的函数 X(U1；U2)来编码。 当U1已知时，X中的信息决定于U2，当U2 已知时，X中的信息决定于U1，而一般情 况下，X决定于U1、U2。
实际上，当给定 P(y1｜x) 、P(y2｜ x)后 求这个外凸包是很困难的。且至今尚未有 确切的方法。这里，问题是它不像在多址 接入信道那样可以运用求极值的方法进行 计算。在那里，改变p(X1)和p(X2)可以求得 极值，且它已由编码定理所证明。而这里 则没有相类似的结论。