信道与信道容量

*3.7.3 广播信道
或者给定转移概率的联合概率： P(Y1Y2 | X)。假设编码器是一一对应的， 也就是以确定的函数 X(U1；U2)来编码。 当U1已知时，X中的信息决定于U2，当U2 已知时，X中的信息决定于U1，而一般情 况下，X决定于U1、U2。
实际上，当给定 P(y1｜x) 、P(y2｜ x)后 求这个外凸包是很困难的。且至今尚未有 确切的方法。这里，问题是它不像在多址 接入信道那样可以运用求极值的方法进行 计算。在那里，改变p(X1)和p(X2)可以求得 极值，且它已由编码定理所证明。而这里 则没有相类似的结论。
② 信道转移概率矩阵中的每 一 行都是第一行的重排列，即信道对输 入是对称的；每一列都是第一列的重 排列，即信道对输出也是对称的。
条件②就对称而言，比条件①更 加本质，更加重要。若放弃条件①， 保留条件②，我们就可以得到一般性 的对称信道。
三、 准对称信道
下面，假如我们再将条件放
松一些，比如信道的输出集合可以 划分为若干个不相等的且具有对称 信道性质的子集合。
消息序列信道
上面，我们研究了平稳无记忆连续 信息序列信道，这节将进一步研究非平 稳的无记忆连续消息序列信道。这时， K 维序列中的每一维的信号与噪声分量， 虽然满足统计无关的无记忆特性，但是 不满足平稳性。
结论：只有当输出序列中
各分量相等时，才能保证序列
输入信道达到最大的容量值。
这就是著名的注水定理离散表
达形式（见图3-5-3）。
图
3-5-3
离 散 式 注 水 定 理 示 意 图
3.6 信道容量代价函数C(F)及信道冗余度
3.6.1 信道容量代价函数C(F) 3.6.2 信道冗余度
3.7 多用户信道
3.7.1 引言
前面所研究的信道均指单个用 户输入与输出的单用户信道。它又 可以划分为两类：一类为单用户信 源的单用户信道，另一类为多用户 信源的单用户信道。
*3.7.4 相关信源的多用户信道
值得惊奇的是编码器 I 在并不知道 U 2 的情况下，却能在 C1小于H(X)时还能编出 码来，并做到无差错的传送至接收端。
在三信道的方案中，我们利用公信息 传送W，而信道 I与信道II分别为U1、U2 专用。因此，只要满足：
C1＞R1≥H(U1 | W) C2＞R2≥H(U2 | W)
http://www.juzibb.com/i/80.html
第3章 信道与信道容量
3.1 信道的分类与描述
3.2 无干扰离散信道
3.3 离散单个消息(符号)信道及其容量
*3.4 离散消息序列信道及其容量 3.5 连续信道及其容量 3.6 信道容量代价函数C(F)及信道冗余度 3.7 多用户信道
3.1 信道的分类与描述
图3-7-5 随机接入信道
3.7.2 多址信道
让我们从最简单的二址信道入手。图 3-7-6为二址通信系统。
图3-7-6 二址通信系统
在 传 送 U1 时 ， 令 U2(X2) 给 定 ， 使
R1→C1 ；在传送 U2 时，令 U1(X1) 给定，
使 R2→C2 ；则平均每个消息 ( 符号 ) 的总
图3-7-3 多址信道
广播信道 ( 见图 3-7-4) 它是指单个输入 多个输出的信道，中央以及各地广播电台、
电视台均属于这类信道。
图3-7-4 广播信道
随机接入信道 ( 见图 3-7-5) 是由多个输 入和多个输出所组成随机接入信道。应该 说n个用户之间在理论上可以不通过中转的 基站即可相互通信，但是由于实际因素的 影响，必须通过中转的基站才能建立可靠 通信。实际上在计算机数据通信中的局域 网、广域网也可看作这类信道。
3.3离散单个消息(符号)信道及其容量
对于输入单个消息的信道，可表示见 图3-3-1。
图3-3-1 离散、单消息信道
一、强对称信道
离散强对称信道见图3-3-2。
图3-3-2 离散强对称信道
二、对称信道
进一步分析上述强对称信道后， 我们发现它具有下列两项重要特征。 ① 其输入消息与输出消息相等， 均为 n 个，即 m = n 。且信道中总的误 差概率ε＝Pe,它将ε平均分配给(n-1)个 传输的错误。
3.1.1 信道的分类
信道可以从不同的角度加以分类，但 是归纳起来有四类：从工程的物理背景即 传输媒介的类型；从数学上的描述方式即 信号与干扰描述方式；还可以从信道本身 的物理性质即信道参量性质；最后一类是 从用户的类型，是单用户还是多用户加以 分类。下面我们分别加以简介。
(1) 按传输媒介的类型划分
信道的信道容量迭代计算
前面，我们讨论了一些特殊情况下离 散单消息信道的信道容量计算的问题。下 面，将讨论一般情况下离散单消息信道的 信道容量的计算机迭代算法。
由信道容量定义，求信道容 量实际上就是求互信息 I(X ， Y) 的 极大值。而引用迭代法求互信息的
极值的关键在于寻求两个互为因果
关系的自变量来表达互信息，以便
(3) 用时间换取信噪比，它是弱信号累 积接收的基本原理。 在深空通信中，往往利用这一原理传 送图片。它是利用信号与干扰统计特性上 的差异来实现的。 (4) 用时间换取频带。 在一些特殊需要的情况下，比如可以 采用频带很窄的电话线路，传送准活动的 图像，像拉洋片式的，就是基于这一原理。
3.5.4 有公共约束的连续
信息率为：
R1+R2≤θC1+(1－θ)C2
结论：对于连续二址的正态信道，性 能比离散二址好，且有3个点C1、 C2、A达 到了二址信道的容量界限。但是，根据对 一维的时频分多址的分析，无论是离散还 是连续，它们都不是最好的多址划分方式。 因此它们大多数情况下都达不到二址容量 界限。然而，建立在二维划分基础上的码 分，由于不受一维的非此即彼的传送约束， 两路可同时传送，按理其性能要优于传统 一维划分的时频分。但是否能达到二址容 量限以及如何达到都是一个值得进一步研 究的课题。
(2) 按照决定信道的信号与干
扰的类型与描述进行分类
(3) 按信道的物理性质类分
(4)ຫໍສະໝຸດ Baidu按用户类型划分类
3.1.2 信道描述
类似于对信源的统计描述，对信道而 言描述它的三要素是： 信道输入统计概率空间： ［XK，p(X)］， 信道输出的统计概率空间： ［YK，q(Y)］， 信道本身的统计特性，转移概率矩阵： P(Y |X)。
进行循环迭代运算。
*3.4 离散消息序列信道及其容量
*3.4.1 无记忆离散消息
序列信道
*3.4.2 有记忆离散消息
序列信道
3.5 连续信道及其容量
3.5.1 连续单个消息信
道及其容量
3.5.2 一般迭加性干扰
的单消息连续信道
3.5.3 限时限频限功率的白
色高斯噪声信道
定理3-5-2 ：满足限频 (F) 、限时 (T) 条 件的广义平稳随机过程信源 U ( t , ω ) ，当它 通过一个限功率(P)的白色高斯信道时，其 容量值为： C=FTlog(1+S/σ2) 若T=1,即单位时间的容量为： C=Flog(1+S/σ2) 这就是著名的仙农公式。
(1) 用频带换取信噪比，它是现代扩频 通信的基本原理。 其目的是为了提高通信系统的可靠性。 (2) 用信噪比换频带，它是多进制多电 平多维星座调制通信方式的基本原理。 这里，正好与(1)中相反，往往在优质 信道中，信噪比有富裕，而使用的频带紧 张，这时可以采用与 (1)中相反的措施，用 信噪比换频带。
四、 具有可逆矩阵信道
若信道的转移矩阵P的逆矩阵P-1存 在，这类信道称为具有可逆矩阵的信道。 对于这类信道在理论上其信道容量是可 以用求极值的方式得到的。 这类信道由于要求信道转移矩阵 的逆存在，它必然要求信道输入输出具 有相同数量的元素。即 n ＝ m , P 为方阵， 且为正则方阵。
五、一般化的离散单个消息
3.2 无干扰离散信道
严格地说，信道总是存在干扰的。 只有理想情况下，信道才无干扰。从 互信息角度看，这时通过信道的互信 息即信宿所收到的信息就是信源所输
出的信息。信道中所通过的最大信息
量即信源所输出的最大熵。
问题可归结为求 M(T)，根据符号间有 无约束可以分别加以讨论。
考虑符号间有固定约束情况。
可见，这种信源的特点是利用 R1 和公用信道 W ，无差错地传送 U1 ， 且靠 R1 和 W 译不出 U2 ，这是由于 U1 与 U2 对 W 条件独立。同理，利用 R2 与 W 也可无差错的传送 U2 ，但也译 不出 U1 。这样就达到了既可靠传送 U1 、 U2 ，又实现了 U1 与 U2 之间相互 保密的要求，一举两得。
频带正交复用 (FDM) 、时间正交复用
(TDM)、波形正交复用(WDM)。
所谓正交复用，即要求设计一组信号， 使它既能在发送端不重叠的合并，又能在 接收端不互相干扰的分开。
多址信道 ( 见图 3-7-3) ，是指地面有多
个地面站输送入卫星转发器，而转发器将n
路合并后再输出送回地面站，目前利用通 信卫星进行的卫星通信属于此类。