信道与信道容量(1)
第三章 信道与信道容量 习题解答
，
，求
，
，
和
；
（2） 求该信道的信道容量及其达到信道容量时的输入概率分布。
解：
（1）先写出
：
根据公式
计算联合概率：
信宿端符号分布概率：
根据公式
计算：
3
求各熵： 信源熵：
比特/消息
信宿熵：
比特/消息
可疑度：
平均互信息量： 噪声熵： （2）二元对称离散信道的信道容量：
比特/消息 比特/消息
比特/秒
信源等概分布时（
解：设下标 1为原状况，下标 2为改变后状况。由
可得：
，
倍
如果功率节省一半则
倍 ，为 了 使 功 率 节 省 一 半 又 不 损 失 信 息 量 I，根 据
，可以： （1） 加大信道带宽 W，用带宽换取信噪比
，
，
7
缺点是对设备要求高。 （2） 加大传输时间 T，用传输时间换取信噪比，同理可得：
缺点是传输速度降低了。
噪声熵：
（5）平均互信息量：
2．有一个生产 A、B、C、D四种消息的信源其出现的概率相等，通过某一通信系统传输时，B和 C无误，A 以 1/4概率传为 A，以 1/4概率误传为 B、C、D，而 D以 1/2概率正确传输，以 1/2概率误传为 C，
（1）试求其可疑度？（2）收到的信号中哪一个最可靠？（3）散布度为多少？ 解：（1）
，
将各数据代入： 解得：
如果
则
将各数据代入： 解得：
14.在理想系统中，若信道带宽与消息带宽的比为 10，当接收机输入端功率信噪比分别为 0.1和 10时，试
比较输出端功率信噪比的改善程度，并说明
与
之间是否存在阀值效应。
第三章 信道与信道容量 习题解答
6
由于二元信源，等概率分布，信道对称，满足山农的理想观察者原理的三个假设条件，因此计算疑义度： 比特/消息
接收熵速率：
比特/秒
而系统要求的传信率为：
比特/秒，大于 1289比特/秒，故 10秒内无法无失真传递完。
11.已知一个平均功率受限的连续信号，通过带宽
的高斯白噪声信道，试求
（1） 若信噪比为 10，信道容量为多少？
（2） 若要保持信道容量不变，信噪比降为 5，信道带宽应为多少？
（3） 若要保持信道容量不变，信道带宽降为 0.5MHz，信号的功率信噪比应为多少？
（4） 其中有什么规律可总结？
解：根据香农公式：
（1） 信噪比为 10倍，信道容量： （2） 信噪比为 5倍，信道带宽：
比特/秒
（3） 信道带宽为 0.5MHz，信号的功率信噪比：
（2）信源熵速率： 接收熵速率： （3）一消息共有 4000个二元符号，该消息的信息量： 无失真地传递完该消息所需的时间：
10.有一个二元对称信道，其信道矩阵为
，设该信源以 1500符号/秒的速度传输输入符号。现
有一消息序列共有 14000个二元符号，并设其符号等概分布，问从信息传输的角度来考虑，10秒钟内能否 将这消息序列无失真地传递完？ 解：根据信道转移矩阵画出下图：
当
时，根据
，
得：
作业：1、3(2)、6、7(1)、8、9或 10、11、13、15、16(1)
mW/Hz、限频 、限输入
9
解：设将电阻按阻值分类看成概率空间 X：
，
按功耗分类看成概率空间 Y：
已知：
，
通过计算
， ，
，
得
通过测量阻值获得的关于瓦数的平均信息量：
北工大信息论第四章 信道及信道容量
数学模型：{X , p( yn | xn ),Y}
如果有 p(yn j | xn i) p(ym j | xm i) ，则信道为平稳
的离散无记忆信道DMC。
二.单符号离散无记忆信道
1.定义:
输入符号X，x取值于A {a1, a2 ,, ar } 输出符号Y，y取值于B {b1, b2 ,, bs} {X , p(bj | ai ),Y}
输出扩展为：00，01，10，11
传递矩阵扩展为： p2 pp pp p2
P2
pp
p2
p2
pp
pp p2 p2 pp
p
2
pp
pp
p
2
请问： I (X N ;Y N ) 与I（X；Y）之间 的关系？
用两个定理回答这个问题
定理1:若信道的输入、输出分别为N长序列X和Y，且信
道是无记忆的，即： N
N
p( h | k ) p(bhi | aki ) i 1
I(X N ;Y N )
XN
YN
p(k h ) log
p(hk ) p(h ) p(k )
例4-4: 求二元无记忆对称信道的二次扩展信
道。
a1 0
1 p p
0 b1
X
p
Y
a2 1
1 p
1 b2
解：
输入扩展为：00，01，10，11
当ω=1/2 时，I (X ห้องสมุดไป่ตู้Y ) 1 H ( p)
1
即取极大值.
H ()
0 0.5 1
当信源固定, 即 ω是一个常数时,可 得到I(X;Y)是信道传递概率p的下凸 函数。
当p=0.5时, I(X;Y)=0, 在接收端未 获得信息量。
信息论基础第3章离散信道及其信道容量
《信息论基础》
3.6 多符号离散信道及其信道容量
【例】求图所示的二元无记忆离散对称信道的二次 扩展信道的信道容量。
【例】 已知两个独立的随机变量 X、Y 的分布律如下。
X P(x)
a1 0.5
a2 0.5
,
Y P( y)
b1 0.25
b2 b3 0.25 0.5
计算 H X , H Y , H XY , H X |Y , H Y | X , I X ;Y 。
《信息论基础》
3.4 信道容量的定义
I (ai ) 减去已知事件 bj 后对 ai 仍然存在的不确定性 I (ai | bj ) ，实际就是事件
bj 出现给出关于事件 ai 的信息量。
【例】 甲在一个16 16 的方格棋盘上随意放一枚棋
子，在乙看来棋子放入哪一个位置是不确定的。如果甲 告知乙棋子放入棋盘的行号，这时乙获得了多少信息 量？
《信息论基础》
第3章 离散信道及其信道容量
通信系统的基本功能是实现信息的传递，信道是信息 传递的通道，是信号传输的媒质。一般而言，信源发出的 消息，必须以适合于信道传输的信号形式经过信道的传输， 才能被信宿接收。
从信源的角度看，信源发出的每个符号承载的平均信 息量由信源熵来定量描述；而从信宿的角度看，信宿收到 的每个符号平均能提供多少信息量由平均互信息来定量描 述。在信息论中，信道问题主要研究在什么条件下，信道 能够可靠传输的信息量最大，即信道容量问题。
《信息论基础》
3.7 信源与信道的匹配
信道与信道容量
1.6.2 信道容量
根据香农信息论，对于连续信道，如果信道带宽为B， 并且受到加性高斯白噪声的干扰，则信道容量的理论公式为
C=B㏒2（1+S/N）（b/s） 式中。 N为白噪声的平均功率； S是信号的平均功率； S/N 为信噪比。信道容量C是指信道可能传输的最大信息速率 （即信道能达到的最大传输能力）。虽然上式是在一定条件 下获得的（要求输入信号也为高斯信号才能实现上述可能 性），但对其他情况也可作为近似式使用。
例1 已知彩色电视图象由5ⅹ105个像素组成。设每个像素有 64种彩色度，每种彩色度有16个亮度等级。设所有彩色度和 亮度等级的组合机会均等，并统计独立。（1）试计算每秒 传送100个画面所需信道容量；（2）如果接受机信噪比为 30dB，为了传送彩色图象所需信道带宽为多少？
例2 设有一个图像要在电话线路中实现传真传输。大约要传输2.25ⅹ106个 像素，每个像素有12个亮度等级。假设所有亮度等级都是等概率的，电 话电路具有3kHz带宽和30dB信噪比。试求在该标准电话线路上传输一 张传真图片需要的最小时间。
在数字通信系统中，如果仅研究编码和解码问题， 可得到另一种广义信道---编码信道。编码信道的范围是 从编码器输出端至解码器输入端。这是因为从编码和解 码角度来看，编码器是把信源产生的消息信号转化为数 字信号。反之，解码器是将数字信号恢复原来的消息信 号；而编码器输出端至解码器输入端之间的一切环节只 是起了传输数字信号的作用，所以可以把它看成一个整 体---编码信道。当然，根据研究问题的不同，还可以定 义其他广义信道。
解： Rb = RBN㏒2N
RBN= Rb／×106 / 29.9 ×103=0.269 ×103s=4.5min
例3 已知八进制数字信号的传输速率为1600波 特。试问变换成二进制数字信号时的传输速率为多 少？ 解： Rb = RBN㏒2N = 1600× ㏒28 = 4800 b/s
4-第四讲-信道容量及其计算
一般信道容量的计算方法 （拉格朗日乘子法）
定理1：如果信道的输入随机序列为 通过信道传输，接收到的随机序列为 若信道是无记忆的，即满足 则
（4）、扩展信道的信道容量
证明：设信道输入输出序列X和Y的一个取值为
I（X；Y）是输入随机变量的概率分布的上凸函数，所以对于固定的信道，总存在一种信源分布，使传输每个符号平均获得的信息量最大，也就是说，每一个固定信道都有一个最大的信息传输率。 信道容量定义为信道中每个符号所能传递的最大信息量，也就是最大 I (X；Y)值。
此时输入的概率分布称为最佳输入分布。
例：
( P 95－例3. 5 )
输出符号集个数
（2）、准对称信道的容量
准对称信道：信道矩阵（列）的子阵是对称矩阵。
定理：达到准对称离散信道信道容量的输入分布为 等概分布。
r是输入个数，n是不相交子集数，Nk是行之和，Mk是列之和
解：达到信道容量的输入分布为等概分布。
此时输出分布为：
4－2 信道容量的计算
（1）、对称信道的容量
对称信道：信道矩阵的每一行都是由同一概率分布的 不同排列组成，并且每一列也是同一元素 集的不同的排列组成。
1/3
1/3
1/6
1/6
1/3
1/3
1/6
1/6
行
列
1/2
1/3
1/6
1/6
1/3
1/2
1/3
1/6
1/2
0
1
q
1-p
1-q
p
1
2
0
删除信道的必要性
2、 信道容量定义
信息传输率：信道中平均每个符号所能传送的信息量。 R = I(X;Y) = H(X)-H(X|Y) （bit/符号）
信道、信道容量、数据传输速率
简介：信道、信道容量、数据传输速率（比特率）、电脑装置带宽列表一、信道的概念信道，是信号在通信系统中传输的通道，是信号从发射端传输到接收端所经过的传输媒质，这是狭义信道的定义。
广义信道的定义除了包括传输媒质，还包括信号传输的相关设备。
信道容量是在通信信道上可靠地传输信息时能够达到的最大速率。
根据有噪信道编码定理，给定信道的信道容量是其以任意小的差错概率传输信息的极限速率。
信道容量的单位为比特每秒、奈特每秒等等。
香农在第二次世界大战期间发展出信息论，并给出了信道容量的定义和计算信道容量的数学模型。
他指出，信道容量是信道的输入与输出的互信息量的最大值，这一最大取值由输入信号的概率分布决定。
二、信道的分类（一）狭义信道的分类狭义信道，按照传输媒质来划分，可以分为有线信道、无线信道和存储信道三类。
1. 有线信道有线信道以导线为传输媒质，信号沿导线进行传输，信号的能量集中在导线附近，因此传输效率高，但是部署不够灵活。
这一类信道使用的传输媒质包括用电线传输电信号的架空明线、电话线、双绞线、对称电缆和同轴电缆等等，还有传输经过调制的光脉冲信号的光导纤维。
2. 无线信道无线信道主要有以辐射无线电波为传输方式的无线电信道和在水下传播声波的水声信道等。
无线电信号由发射机的天线辐射到整个自由空间上进行传播。
不同频段的无线电波有不同的传播方式，主要有：地波传输：地球和电离层构成波导，中长波、长波和甚长波可以在这天然波导内沿着地面传播并绕过地面的障碍物。
长波可以应用于海事通信，中波调幅广播也利用了地波传输。
天波传输：短波、超短波可以通过电离层形成的反射信道和对流层形成的散射信道进行传播。
短波电台就利用了天波传输方式。
天波传输的距离最大可以达到400千米左右。
电离层和对流层的反射与散射，形成了从发射机到接收机的多条随时间变化的传播路径，电波信号经过这些路径在接收端形成相长或相消的叠加，使得接收信号的幅度和相位呈随机变化，这就是多径信道的衰落，这种信道被称作衰落信道。
通信课件信道及信道容量
• 信道的基本概念 • 信道数学模型：调制、编码信道模型 • 恒参信道特性及其对信号传输的影响 • 随参信道特性及其对信号传输的影响 • 分集接收技术 • Shannon信道容量公式
1
信道的基本概念
• 信道：信号通道，必不可少 • 影响通信系统可靠性能的两个主要因素：噪声和信道传输特性的
不理想。
• 由于多径使得确定的载波信号Acosω0t变成了包络和相位都受 到调制的窄带信号，衰落信号。从时域来看，多径时延扩散； 从频域来看，频率展宽
15
随参信道对信号传输的影响(续2)
• 时变多径信道
R(t)
t 时域：瑞利衰落（快衰落）
f0 频域：频率弥散
16
随参信道对信号传输的影响例举
• 以两条路径且衰减恒定为例
3
信道数学模型
• 反映信道输出和输入之间的关系。 • 调制信道模型：传输已调信号，关心的是信号的失真
情况及噪声对信号的影响。已调信号的瞬时值是连续 变化的，故也称调制信道为连续信号，甚至称为信道 。 • 编码信道模型：输出输入都是数字信号→数字序列变 换，离散或数字信道。包含调制信道→依赖于调制信 道的性能，噪声的干扰体现在误码上，关心的是误码 率而不是信号失真情况→使用转移概率来描述。
ui (t)cos[0t i (t)] ui (t) cos i (t) cosot ui (t) sin i (t) sin ot
X c (t) cosot X s (t) cosot V (t) cos[ot (t)]
V(t) Xc2(t) Xs2(t)
(t) arctg(Xc (t) Xs (t))
2
N
(bit/s)
Shannon公式
第三章信道及信道容量PPT课件
第一节 信道分类及表示参数 第二节 单符号离散信道及其容量 第三节 离散序列信道及其容量 第四节 连续信道及其容量
05.12.2020
1
研究信道容量的意义?
信道是信息传输的通道。由于干扰而丢失的信息为 H(X|Y ); 在接收端获取的关于发送端信源X的信息量是：
I(X;Y)＝H(X)-H(X|Y) 即：信道中平均每个符号传送的信息量。对于信道,所关心的问 题是平均每个符号传送的最大信息量。这就是信道容量C=max I(X;Y) bit/符号
每个数字对应一种颜色（反之未必），数字已知，则颜色确 定，H(X|Y)=0。H(X,Y)=H(Y)=…..
6、2.21（3）信号放大问题。课上已经强调过，仍出错。
7、向孔祥品学习
05.12.2020
9
复习：第四节 连续信源的熵和互信息
一、单符号连续信源的熵 相对熵（差熵）
H c(X ) p X (x)lop X g (x)dx Hc(XY )p(xy)lopg(xy)dxdy Hc(Y/X )p(xy)lopg(y/x)dxdy
(2) 离散无记忆信道(DMC-Discrete Memoryless Channel)
仍是单符号离散信道，符号集中的符号数目大于2 。
05.12.2020
7
转移概率矩阵（传递阵矩）P :
P11 P12 P1m
P [
P ij
]
P21
P22
P2m
Pn1
Pn2
Pnm
m
m
转移概率矩 元阵 素中 之 1。 各 和 P(b 行 j等 |ai)的 于 Pij1
2 Pm2,通常m0,2 P,此时有：
H0C5.1(2X.202)0
第四章-信道(1-1)介绍
明线 对称平衡电缆（市内） 固体介质 电缆 小同轴（长途） 中同轴（长途） 长波 中波 短波 超短波 移动 1 传输媒介类型 空气介质 视距接力 微波 对流层 散射 电离层 卫星 光波 波导 混合介质 光缆
3>根据用户数量
单用户信道 多用户信道
电话线 广播信道
4>根据输入和输出关系 无反馈信道 输出信号对输入信号没有影响
反馈信道 输出信号反馈到输入端 如网络传输信道
5>根据信道参数和时间关系分
固定参数信道 信道参数（统计特性）不随时间而变化，如光纤
时变参数信道 信道参数（统计特性）随时间而变化，如无线信道
信道划分是人为的，比如：
信源 编码 A 媒介 B 译码 信宿
干扰 c1 c2 c3 c4
其中：c1为连续信道，调制信道； c2为离散信道，编码信道； c3为半离散、半连续信道； c4为半连续、半离散信道。
4.1.2 信道参数 P(Y|X) X X=(X1,X2,….XM) 对信道描述的三要素： 1 信道输入统计概率 2 信道输出统计概率 3 信道本身的统计特性 p(X) p(Y) 转移概率：p(Y|X) 信道 Y Y=(Y1,Y2,….YN)
SISO
SIMO 6>根据输入输出通道数目
对单用户信道而言 MISO
MIMO
7>根据信道统计特性分
无记忆信道 某一时刻，信道的输出消息仅与当时的输入消息 有关，用信道传输概率p(Y/X)来描述。 有记忆信道 信道的输出消息不仅与当时的输入消息有关，还与 以前时刻信道的输入消息和（或）输出消息有关。 码间串扰信道和衰落信道都属于有限记忆信道。
信道及信道容量
信道1 p( j | k )
P2
信道2 P p( j | k )
若信道1和信道2级联，则要求信道1的输出集和信道2的输入集 相同。给定信道1和信道2的转移概率 p( j | k ) 和 p( j | k ) ， 则 级联信道的转移概率为 p ( j | k ) j p( j | k ) p( j | k j ) 这样就得到了一个新的离散信道，输入集为 X1 ，输出集为 Y2 ， 转移概率矩阵为 {P( j | k )}。
信息工程学院通信工程系
3.2 离散信道及数学模型
多符号离散信道数学模型 X=X1X2… Xk ….XN
P(Y|X)
Y=Y1Y2…Yk ….YN
{p(yj|xi)}
Xk取值: {x1, x2, …, xn}， 则X共有nN 种 i , i=1～nN Yk取值: {y1, y2, …, ym}， 则Y共有mN种 j , j=1～mN
在物理信道一定的情况下，总是希望传输的信息越 多越好。这不仅仅与物理信道本身特性有关，还与载荷
信息的信号形式和信源输出信号的统计特性有关。
本章讨论“什么条件下，通过信道的信息量最大”。
信息工程学院通信工程系
3.1 信道分类和描述
信道分类
1、根据信道两端输入和输出集合的个数，分为： 两端信道(单用户信道)--输入、输出均只有一个 多端信道(多用户信道)--输入、输出有多个 2、根据输入、输出随机变量的个数，分为： 单符号信道--输入、输出用随机变量表示 多符号信道--输入、输出用随机矢量表示 3、根据信道上有无噪声(干扰)，分为： 有噪(扰)信道 无噪(扰)信道
[ （1） 信道输入统计概率空间：X , p( X )] [ （2） 信道输出统计概率空间：Y , p (Y )] （3） 信道的统计特性，即信道转移概率矩阵：p( y | x)
第3章 信道与信道容量
max p(x)
H C (Y )
1 log
2
2e
2
pn(n)＝N(0, 2) 连续单符号信道
噪声是均值为零、方差为 2的加性高斯噪声
34
3.4 连续信道及其容量
连续单符号加性信道
pY (y) ＝N(0,P)，pn(n)＝N(0, 2)，y=x+n，所以 pX (x)＝N(0, S)
3
3.1 信道分类和表示参数
二进制对称信道(BSC)
P
1 p
p
p 1 p
4
3.1 信道分类和表示参数
离散无记忆信道
a1 a2
b1
p11 p12 p1m
b2 b3
P
p21
p22
p2m
an
bm
pn1
pn2
pnm
5
3.1 信道分类和表示参数
离散输入、连续输出信道
pY ( y / ai )
31
3.3 离散序列信道及其容量
扩展信道
(1 p)2 p(1 p) p(1 p) p2
1
P
p(1 p(1
p) p)
(1 p)2 p2
p2 (1 p)2
p(1
p)
p(1 p)
p2 p(1 p) p(1 p) (1 p)2
C2 log2 4 H[(1 p)2 , p(1 p), p(1 p), p 2 ]
1 1 1 1
13
3 1
6 1
6 1
6 6 3 3
1 1 1
2 1
3 1
6 1
6 2 3
1 1 1
3 6 2
12
3.2 离散单个符号信道及其容量
信道与信道容量(1)
准对称信道的信道容量
• 例3-5 已知一个信道的信道转移矩阵为
P 00..53
0.3 0.5
0.2 0.2
• 由P可看出信道的输入符号有两个，可设
• p(a 1),p(a2)1。 信道的输出符号有3个，
用b1,b2,b3表示。由 合概率的矩阵为
p(ai,bj)p(ai)p(bj|ai)得联
• 将信道矩阵P的列划分成若干个互不相交的子 集mk,由mk为列组成的矩阵[P]k是对称矩阵。
1 1 1 1 1 1 1 1
P131
3 1
6 1
6113
16
13
16
6 3 6 3 6 3 3 6
• 它们满足对称性,所以P1所对应的信道为准对称
信道。
可编辑ppt
30
准对称信道的信道容量
• 准对称信道
串联信道
• 例3-4 设有两个离散BSC信道,串接如图,两个
BSC信道的转移矩阵为:
1-p Y 1-p
X0
0Z
1p p
P1 P2
p
1p
p p
• 串联信道的转移矩阵为: 1
1-p
1 1-p
1 pp 1 pp (1 p )2 p 2 2 p (1 p ) P P 1 P 2 p1 p p1 p 2 p (1 p ) (1 p )2 p 2
i
j
p(bj | ai)logp(bj | ai)
j
H(Y| ai) i 1,2,n
H ( Y |X ) H ( Y |a i) H 可( 编p 辑1 p,ptp 2 , p m ) 15
对称DMC信道
• 对称DMC信道的容量：
信道带宽和信道容量
信道带宽模拟信道：模拟信道的带宽W=f2-f1其中f1是信道能够通过的最低频率，f2是信道能够通过的最高频率，两者都是由信道的物理特性决定的。
当组成信道的电路制成了，信道的带宽就决定了。
为了是信号的传输的失真小些，信道要有足够的带宽。
数字信道：数字信道是一种离散信道，它只能传送离散值的数字信号，信道的带宽决定了信道中能不失真的传输脉序列的最高速率。
一个数字脉冲称为一个码元，我们用码元速率表示单位时间内信号波形的变换次数，即单位时间内通过信道传输的码元个数。
若信号码元宽度为T秒，则码元速率B=1/T。
码元速率的单位叫波特(Baud)，所以码元速率也叫波特率。
早在1924年，贝尔实验室的研究员亨利·尼奎斯特就推导出了有限带宽无噪声信道的极限波特率，称为尼奎斯特定理。
若信道带宽为W，则尼奎斯特定理指出最大码元速率为B=2W(Baud)尼奎斯特定理指定的信道容量也叫尼奎斯特极限，这是由信道的物理特性决定的。
超过尼奎斯特极限传送脉冲信号是不可能的，所以要进一步提高波特率必须改善信道带宽。
码元携带的信息量由码元取的离散值个数决定。
若码元取两个离散值，则一个码元携带1比特(bit)信息。
若码元可取四种离散值，则一个码元携带2比特信息。
总之一个码元携带的信息量n(bit)与码元的种类数N有如下关系:n=log2N单位时间内在信道上传送的信息量(比特数)称为数据速率。
在一定的波特率下提高速率的途径是用一个码元表示更多的比特数。
如果把两比特编码为一个码元，则数据速率可成倍提高。
我们有公式:R=B log2N=2W log2N(b/s)其中R表示数据速率，单位是每秒比特，简写为bps或b/s数据速率和波特率是两个不同的概念。
仅当码元取两个离散值时两者才相等。
对于普通电话线路，带宽为3000HZ，最高波特率为6000Baud。
而最高数据速率可随编码方式的不同而取不同的值。
这些都是在无噪声的理想情况下的极限值。
信道及信道容量
第5章 信道及信道容量教学内容包括：信道模型及信道分类、单符号离散信道、多符号离散信道、多用户信道及连续信道5．1信道模型及信道分类教学内容：1、一般信道的数学模型2、信道的分类3、信道容量的定义1、 一般信道的数学模型影响信道传输的因素：噪声、干扰。
噪声、干扰：非函数表述、随机性、统计依赖。
信道的全部特性：输入信号、输出信号，以及它们之间的依赖关系。
信道的一般数学模型：2、 信道的分类输出随机信号输入、输出随机变量个数输入和输出的个数信道上有无干扰有无记忆特性3、信道容量的定义衡量一个信息传递系统的好坏，有两个主要指标：图5.1.1 一般信道的数学模型离散信道、连续信道、半离散或半连续信道 单符号信道和多符号信道 有干扰信道和无干扰信道有记忆信道和无记忆信道单用户信道和多用户信道 速度指标质量指标速度指标：信息（传输）率R ，即信道中平均每个符号传递的信息量；质量指标：平均差错率e P ，即对信道输出符号进行译码的平均错误概率；目标：速度快、错误少，即R 尽量大而e P 尽量小。
信道容量：信息率R 能大到什么程度； )/()()/()();(X Y H Y H Y X H X H Y X I R -=-==若信道平均传送一个符号所需时间为t 秒，则);(1Y X I t R t =（bit/s ）称t R 为信息（传输）速率。
分析：对于给定的信道，总存在一个信源（其概率分布为*)(X P ），会使信道的信息率R 达到最大。
（);(Y X I 是输入概率)(X P 的上凸函数，这意味着);(Y X I 关于)(X P 存在最大值）每个给定的信道都存在一个最大的信息率，这个最大的信息率定义为该信道的信道容量，记为C ，即);(max max Y X I R C XXP P ==bit/符号 （5.1.3）信道容量也可以定义为信道的最大的信息速率，记为t C⎭⎬⎫⎩⎨⎧==);(1max max Y X I t R C XX P t P t （bit /s ） （5.1.4） 解释：(1)信道容量C 是信道信息率R 的上限，定量描述了信道（信息的）最大通过能力； (2)使得给定信道的);(Y X I 达到最大值（即信道容量C ）的输入分布，称为最佳输入（概率）分布，记为*)(X P ；(3)信道的);(Y X I 与输入概率分布)(X P 和转移概率分布)/(X Y P 两者有关，但信道容量C 是信道的固有参数，只与信道转移概率)/(X Y P 有关。
通信原理信道容量的定义
通信原理信道容量的定义通信原理中，信道容量是指在无干扰条件下，一个信道能够传输的最大信息量。
它是衡量信道传输效率的重要指标，也被视为信息传输的上限。
信道容量的定义最早由香农在他的《通信的数学理论》中给出。
根据香农的理论，信道容量可以通过信息论中的熵来计算。
熵在信息论中的含义是描述一个随机变量的不确定性的度量，可以理解为该随机变量包含的平均信息量。
在通信中，一般将信道表示为一个具有一定带宽或频率范围的传输介质，如电缆、光纤或无线信道等。
信道容量的定义与信道的带宽、信号传输的路徑和环境有关。
通常情况下，信道容量以比特/秒（bps）或奈特（Nyquist）为单位表示。
为了更好地理解信道容量的定义，我们可以用一个简单的例子来解释。
假设有一条带宽为10 kHz的信道，传输过程中只使用两个信号电平进行二进制传输（0V 和1V）。
那么根据奈奎斯特的定理，每秒可以传输的比特数就是10 kHz，即10,000 bps。
信道容量的计算方法有很多，其中最著名的就是香农公式。
香农公式定义了在给定信噪比的情况下，信道容量的上限。
其计算公式为：C = B * log2(1 + S/N)其中，C表示信道容量，B表示信道的带宽，S表示信号的平均功率，N表示噪声的平均功率。
该公式表明，在给定信噪比的情况下，信道容量随着带宽的增加而增加。
从香农公式中可以看出，信道容量的增加有两个途径：增加信道的带宽和提高信号功率与噪声功率之间的比值。
因此，提高信道容量的方法通常包括增加信道带宽或提高信号的传输质量。
在实际通信系统中，为了提高信道容量，常常采用一系列的调制与编码技术，如调幅、调频、调相等，以提高信号传输的效率和信号噪声比。
此外，信道的多路复用技术（如时分复用、频分复用和码分复用）也可以提高信道容量，充分利用信道资源。
总之，信道容量是一个用来描述无干扰条件下信道传输效率的重要指标。
它的计算方法有多种，其中最为著名的是香农公式。
通过提高信道带宽、改善信号传输质量以及利用多路复用技术，可以提高信道容量，实现更高效的信息传输。
信道与信道容量部分例题
信道与信道容量
BSC信道容量
• 例1 设二进制对称信道的输入概率空间 X 0 1 P • 信道矩阵：
1 p p p p P p 1 p p p
p(b 0) p(ai ) p(b0 | ai ) p p
18
• BSC信道容量
C 1 H ( p)
• 当p固定时,I (X;Y) 是ω的 型上凸函数。 • I (X;Y) 对ω存在一 个极大值。
I (X;Y) 1-H( p )
ω
4
BSC信道容量
• BSC信道容量
C 1 H ( p)
• 当固定信源的概率分布ω时,I (X;Y) 是p的 型下 凸函数。 信道无噪声 • 当p = 0, C C =1－0 = 1bit = H(X) 信道强噪声
1 8 1 8
1 8 P2 1 8
• 计算得：N1 =3/4, N2 = 1/4, M1=3/4, M2 = 1/4
C log n H ( p1 , p2 pm ) N k log M k
k 1 r
1 1 1 1 3 3 1 1 log 2 H ( , , , ) ( log log ) 2 4 8 8 4 4 4 4 1 1.75 0.811 0.061 （比特 / 信道符号）
10
串联信道
• 由信息不增原理
H ( X ) I ( X ; Y ) I ( X ; Z ) I ( X ;W ) C (1,2) max I ( X ; Z ) C (1,2,3) max I ( X ;W )
• 可以看出,串接的信道越多,其信道容量可能会越 小,当串接信道数无限大时,信道容量可能会趋于0
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
H(Y) ( p p)log 1 ( p p)log 1
p p
p p
H( p p)
H (Y | X ) p(ai ) p(bj | ai ) log p(bj | ai )
i
j
p(bj | ai ) log p(bj | ai )
j
[ p log p p log p] H ( p)
信道输入是n元符号X∈{a1, a2, …, an} 信道输出是m元符号Y∈{b1, b2, …, bm} 转移矩阵
已知X,输出Y统计特性
b1 b2 bm
p11 p12 p1m a1
P
p21
p22
p2m
a2
pn1
pn2
pnm
an
p11
a1
p12
p21
a2
p22
:
:
:
an
有干扰无记忆信道 信道的输出信号Y与输入信号X之间没有确定的关系,但转移概率满足:
p(Y | X ) p( y1 | x1) p( y2 | x2) p( yL | xL )
• 有干扰无记忆信道可分为: – 二进制离散信道 – 离散无记忆信道 – 离散输入、连续输出信道 – 波形信道
5
离散无记忆信道DMC
n
p( y j ) p(xi ) p( y j | xi ) i1
• 信道的信息传输率就是平均互信息
8
信道容量
信道容量C： 最大的信息传输率
C max I (X ;Y ) p(ai )
• 单位时间的信道容量：
1
Ct
T
max
p(ai )
I ( X ;Y )
9
信道容量的计算
对于一般信道,信道容量计算相当复杂,我们只讨论 某些特殊类型的信道：
I (X ;Y ) H (Y ) H (Y | X ) H ( p p) H ( p)
1 H( p)
18
BSC信道容量
• BSC信道容量
C 1 H( p)
当p固定时,I (X;Y) 是ω的 型上凸函数。
• I (X;Y) 对ω存在一
I(X;Y)
个极大值。
1-H(p)
ω
19
BSC信道容量
pnm
m
p(bj | ai ) 1
j 1
i 1,2,n
b1 b2
: : :
bm
6
3.2 离散单个符号信道 及其容量
7
信道容量
平均互信息I (X;Y)： 接收到符号Y后平均每个符号获得的关于X的信息量。
I(X;Y)
i
j
p(xi ) p( y j | xi ) log
p(y j | xi ) p(y j )
对称离散信道的平均互信息为
I(X;Y) H(X ) H(X |Y) H(Y) H(Y | X )
H (Y | X ) p(ai ) p(bj | ai ) log p(bj | ai )
i
j
p(bj | ai ) log p(bj | ai )
j
H (Y | ai ) i 1,2,n
第三章
信道与信道容量
内容
3.1 信道分类和表示参数 3.2 离散单个符号信道及其容量 3.3 离散序列信道及其容量 3.4 连续信道及其容量
2
信道
设信道的输入X=(X1, X2 … Xi,… ), Xi ∈{a1 … an} 输出Y= (Y1, Y2 … Yj,…), Yj ∈{b1 … bm}
1 1 1 1
P
3
3
6
6
1 1 1 1
6 6 3 3
1 1 1
2
3
6
P
1 6
1 2
1 3
1
1
1
3 6 2
满足对称性, 所对应的信 道是对称离 散信道。
12
对称DMC信道
信道矩阵
1 1 1 1 P 3 3 6 6
1 1 1 1 6 3 6 3
0.7 0.1 0.2 P 0.2 0.1 0.7
• 强对称信道的信道容量：
C
log
2
n
H
(1
p,
n
p 1
,,
n
p) 1
16
BSC信道容量
设二进制对称信道的输入概率空间 信道矩阵：
X
P
0
1
P
1 p
p
p 1
p
p p
p p
1
p(b 0) p(ai ) p(b0 | ai ) p p i0
1
p(b 1) p(ai )p(b1 | ai ) p p i0
信道转移概率矩阵p(Y|X)：
描述输入/输出的统计依赖关系,反映信道统计关系p(Y|X) NhomakorabeaX
Y
信道
3
无干扰(无噪声)信道
无干扰(无噪声)信道 信道的输出信号Y与输入信号X之间有确定的关系Y=f (X),已知X后就 确知Y 转移概率:
p(Y
|
X)
1, 0,
Y f(X) Y f(X)
4
有干扰无记忆信道
)
log
2
m
• 无噪有损信道(多对一)
C
max
p(ai )
I
(
X
;Y
)
max
H
(
X
)
log
2
n
11
3.2.1 对称DMC信道
对称离散信道： 对称性:
每一行都是由同一集{p1, p2,…pm} 的诸元素不同排列组成——输入
对称
每一列都是由集{q1, q2,…qn}的诸元素不同排列组成——输出对称
• BSC信道容量
C 1 H( p)
• 当固定信源的概率分布ω时,I (X;Y) 是p的 型 下
凸函数。 • 当p = 0,
信道无噪声
C
C =1－0 = 1bit = H(X)
信道强噪声
• 当p =1/2,
C 1 H(1,1) 0 22
H(Y | X ) H(Y | ai ) H( p1, p2, pm)
15
对称DMC信道
对称DMC信道的容量：
C log m H ( p1, p2 pm )
m
log m pij log pij j 1
• 上式是对称离散信道能够传输的最大的平均信息量,它
只与对称信道矩阵中行矢量{p1, p2,…pm }（第二项为矩 阵任一行元素的信息熵 ）和输出符号集的个数m有关。
• 不具有对称性,因而所对应的信通不是对 称离散信道。
13
对称DMC信道
若输入符号和输出符号个数相同,都等于n,且信 道矩阵为
1 p
P
n
p 1
p n 1 1 p
p n p1 n 1
p n 1
p n 1
1 p
• 此信道称为强对称信道 (均匀信道)
– 信道矩阵中各列之和也等于1
14
对称DMC信道
离散信道可分成： 无干扰(无噪)信道
无嗓无损信道 有噪无损信道 无噪有损信道 有干扰无记忆信道 有干扰有记忆信道
10
无干扰离散信道
无噪无损信道
C
max
p(ai )
I
(
X
;Y
)
max
H
(
X
)
max
H
(Y
)
log
2
n
• 有噪无损信道(一对多)
C
max
p(ai )
I
(
X
;Y
)
max
H
(Y