信道与信道容量
与信道容量
Department of Communication China Ji Liang University
25
第 三 章 信 道 与 信 道 容 量
③ 具有归并性能的无噪信道
这种信道如下图所示。 这种信道如下图所示。 n>m，输入 的符号集个数大于输出 的符号集个数。 的符号集个数大于输出Y的符号集个数 ，输入X的符号集个数大于输出 的符号集个数。
2012-4-6
Department of Communication China Ji Liang University
24
第 三 章 信 道 与 信 道 容 量
信道疑义度 H(X/Y)=0， I(X;Y)= H(X) -H(X/Y)= H(X) 。 ，
信道容量为： 信道容量为：
2012-4-6
2012-4-6
Department of Communication China Ji Liang University
10
第 三 章 信 道 与 信 道 容 量
b）二进制对称信道 ） （简称为 BSC信道 ） 信道
0 输入 p 1-p 0 输出
p 1 1-p 1
二进制对称信道
2012-4-6
Department of Communication China Ji Liang University
2012-4-6
Department of Communication China Ji Liang University
26
第 三 章 信 道 与 信 道 容 量
信道噪声熵 H(Y/X)=0。 信道容量为：
2012-4-6
Department of Communication China Ji Liang University
第三章 信道与信道容量 习题解答
，
，求
，
，
和
；
（2） 求该信道的信道容量及其达到信道容量时的输入概率分布。
解：
（1）先写出
：
根据公式
计算联合概率：
信宿端符号分布概率：
根据公式
计算：
3
求各熵： 信源熵：
比特/消息
信宿熵：
比特/消息
可疑度：
平均互信息量： 噪声熵： （2）二元对称离散信道的信道容量：
比特/消息 比特/消息
比特/秒
信源等概分布时（
解：设下标 1为原状况，下标 2为改变后状况。由
可得：
，
倍
如果功率节省一半则
倍 ，为 了 使 功 率 节 省 一 半 又 不 损 失 信 息 量 I，根 据
，可以： （1） 加大信道带宽 W，用带宽换取信噪比
，
，
7
缺点是对设备要求高。 （2） 加大传输时间 T，用传输时间换取信噪比，同理可得：
缺点是传输速度降低了。
噪声熵：
（5）平均互信息量：
2．有一个生产 A、B、C、D四种消息的信源其出现的概率相等，通过某一通信系统传输时，B和 C无误，A 以 1/4概率传为 A，以 1/4概率误传为 B、C、D，而 D以 1/2概率正确传输，以 1/2概率误传为 C，
（1）试求其可疑度？（2）收到的信号中哪一个最可靠？（3）散布度为多少？ 解：（1）
，
将各数据代入： 解得：
如果
则
将各数据代入： 解得：
14.在理想系统中，若信道带宽与消息带宽的比为 10，当接收机输入端功率信噪比分别为 0.1和 10时，试
比较输出端功率信噪比的改善程度，并说明
与
之间是否存在阀值效应。
信道与信道容量
强对称信道 (均匀信道) 输入符号和输出符号个数相同 ( 都等于 n ) ，且正确传 输概率为1-ε，错误概率ε被对称地均分给 n -1 个输出 符号，信道矩阵为
各列之和 也等于 1
强对称信道的信道容量
信道与信道容量
二进制对称信道（ BSC ） 二进制对称信道的信道容量
C=1-H(p)
信道与信道容量
信道容量
2
1.1 信道的分类
用户数量：单用户、多用户
输入端和输出端关系：无反馈、有反馈
信道参数与时间的关系：固定参数、时变参数
噪声种类： 随机差错、突发差错 输入输出信号特点：离散、连续、半离散半连续、
波形信道等
信道与信道容量
3
信道与信道容量
ห้องสมุดไป่ตู้
1.2 信道参数
信道输入矢量为 输出矢量为
信道与信道容量
14
3.2 离散单个符号信道及其容量
信息传输率 R
信道中平均每个符号所能传送的信息量 复习 平均互信息 I (X ;Y) ：接收到 Y 后平均每个符
号获得的关于 X 的信息量。
信道的信息传输率就是平均互信息
信道与信道容量
15
信息传输速率 Rt
信道在单位时间内平均传输的信息量
Rt = R/t = I ( X ; Y )/t bit / s
信道与信道容量
1 信道的基本概念 2 离散单个符号信道及其容量 3 离散序列信道及其容量 4 连续信道及其容量
信道与信道容量
1
1 信道的基本概念
信道：信息传输的通道
广义：信源与信宿之间 狭义：中间远距离传输部分 定义：传输信息的载体 任务：以信号方式传输信息、存储信息
信道及信道容量
研究信道容量的意义?
信道是信息传输的通道。由于干扰而丢失的信息为 H(X|Y ); 在接收端获取的关于发送端信源X的信息量是：
I(X;Y)＝H(X)-H(X|Y) 即：信道中平均每个符号传送的信息量。对于信道,所关心的问 题是平均每个符号传送的最大信息量。这就是信道容量C=max I(X;Y) bit/符号
4、根据信道中所受的噪声种类不同，分为随机差错信道和突发 差错信道。
随机差错信道：噪声独立地、随机地影响每个传输的码元。如加 性高斯白噪声(AGWN)信道。 突发差错信道：大的脉冲干扰或闪电对码元的影响是前后相关的。 错误成串出现，且是突发性的。如移动信道。
5、根据输入/输出信号的特点，分为离散信道、连续信道、半离 散半连续信道和波形信道。
根据信道的参数，将信道分为三大类：
1、无干扰信道 理想信道，信道中没有随机干扰
P(Y |X )1 Y fX ()
P(Y|X)0 YfX ()
或干扰很小。输出与输入之间有完全确定的对应关系。
2、有干扰无记忆信道
无记忆：任意时刻的输出符号，只统计依赖于对应时刻
的输入符号，而与其它时刻的输入符号、输出符号无关.
I(X;Y)＝I(Y;X)＝Hc(X)- Hc(X|Y) ＝Hc(X)＋Hc(Y)- Hc(XY) ＝Hc(Y)- Hc(Y|X)
Hc(XY)＝Hc(X)＋Hc(Y|X)＝Hc(Y) ＋Hc(X|Y)
二、波形信源的熵 理解讨论方法即可
H c(x()t )L l i m H c(X )
三、 连续信源最大熵定理
转移概率矩阵（传递阵矩）P :
P11 P12 P1m
P [
P ij
]
P21
P22
信道与信道容量部分例题
信道与信道容量
BSC信道容量
• 例1 设二进制对称信道的输入概率空间 X 0 1 P • 信道矩阵：
1 p p p p P p 1 p p p
p(b 0) p(ai ) p(b0 | ai ) p p
18
• BSC信道容量
C 1 H ( p)
• 当p固定时,I (X;Y) 是ω的 型上凸函数。 • I (X;Y) 对ω存在一 个极大值。
I (X;Y) 1-H( p )
ω
4
BSC信道容量
• BSC信道容量
C 1 H ( p)
• 当固定信源的概率分布ω时,I (X;Y) 是p的 型下 凸函数。 信道无噪声 • 当p = 0, C C =1－0 = 1bit = H(X) 信道强噪声
1 8 1 8
1 8 P2 1 8
• 计算得：N1 =3/4, N2 = 1/4, M1=3/4, M2 = 1/4
C log n H ( p1 , p2 pm ) N k log M k
k 1 r
1 1 1 1 3 3 1 1 log 2 H ( , , , ) ( log log ) 2 4 8 8 4 4 4 4 1 1.75 0.811 0.061 （比特 / 信道符号）
10
串联信道
• 由信息不增原理
H ( X ) I ( X ; Y ) I ( X ; Z ) I ( X ;W ) C (1,2) max I ( X ; Z ) C (1,2,3) max I ( X ;W )
• 可以看出,串接的信道越多,其信道容量可能会越 小,当串接信道数无限大时,信道容量可能会趋于0
信道、信道容量、数据传输速率
信道、信道容量、数据传输速率简介：信道、信道容量、数据传输速率（比特率）、电脑装置带宽列表一、信道的概念信道，是信号在通信系统中传输的通道，是信号从发射端传输到接收端所经过的传输媒质，这是狭义信道的定义。
广义信道的定义除了包括传输媒质，还包括信号传输的相关设备。
信道容量是在通信信道上可靠地传输信息时能够达到的最大速率。
根据有噪信道编码定理，给定信道的信道容量是其以任意小的差错概率传输信息的极限速率。
信道容量的单位为比特每秒、奈特每秒等等。
香农在第二次世界大战期间发展出信息论，并给出了信道容量的定义和计算信道容量的数学模型。
他指出，信道容量是信道的输入与输出的互信息量的最大值，这一最大取值由输入信号的概率分布决定。
二、信道的分类（一）狭义信道的分类狭义信道，按照传输媒质来划分，可以分为有线信道、无线信道和存储信道三类。
1. 有线信道有线信道以导线为传输媒质，信号沿导线进行传输，信号的能量集中在导线附近，因此传输效率高，但是部署不够灵活。
这一类信道使用的传输媒质包括用电线传输电信号的架空明线、电话线、双绞线、对称电缆和同轴电缆等等，还有传输经过调制的光脉冲信号的光导纤维。
2. 无线信道无线信道主要有以辐射无线电波为传输方式的无线电信道和在水下传播声波的水声信道等。
无线电信号由发射机的天线辐射到整个自由空间上进行传播。
不同频段的无线电波有不同的传播方式，主要有：地波传输：地球和电离层构成波导，中长波、长波和甚长波可以在这天然波导内沿着地面传播并绕过地面的障碍物。
长波可以应用于海事通信，中波调幅广播也利用了地波传输。
天波传输：短波、超短波可以通过电离层形成的反射信道和对流层形成的散射信道进行传播。
短波电台就利用了天波传输方式。
天波传输的距离最大可以达到400千米左右。
电离层和对流层的反射与散射，形成了从发射机到接收机的多条随时间变化的传播路径，电波信号经过这些路径在接收端形成相长或相消的叠加，使得接收信号的幅度和相位呈随机变化，这就是多径信道的衰落，这种信道被称作衰落信道。
通信课件信道及信道容量
• 信道的基本概念 • 信道数学模型：调制、编码信道模型 • 恒参信道特性及其对信号传输的影响 • 随参信道特性及其对信号传输的影响 • 分集接收技术 • Shannon信道容量公式
1
信道的基本概念
• 信道：信号通道，必不可少 • 影响通信系统可靠性能的两个主要因素：噪声和信道传输特性的
不理想。
• 由于多径使得确定的载波信号Acosω0t变成了包络和相位都受 到调制的窄带信号，衰落信号。从时域来看，多径时延扩散； 从频域来看，频率展宽
15
随参信道对信号传输的影响(续2)
• 时变多径信道
R(t)
t 时域：瑞利衰落（快衰落）
f0 频域：频率弥散
16
随参信道对信号传输的影响例举
• 以两条路径且衰减恒定为例
3
信道数学模型
• 反映信道输出和输入之间的关系。 • 调制信道模型：传输已调信号，关心的是信号的失真
情况及噪声对信号的影响。已调信号的瞬时值是连续 变化的，故也称调制信道为连续信号，甚至称为信道 。 • 编码信道模型：输出输入都是数字信号→数字序列变 换，离散或数字信道。包含调制信道→依赖于调制信 道的性能，噪声的干扰体现在误码上，关心的是误码 率而不是信号失真情况→使用转移概率来描述。
ui (t)cos[0t i (t)] ui (t) cos i (t) cosot ui (t) sin i (t) sin ot
X c (t) cosot X s (t) cosot V (t) cos[ot (t)]
V(t) Xc2(t) Xs2(t)
(t) arctg(Xc (t) Xs (t))
2
N
(bit/s)
Shannon公式
信道、信道容量、数据传输速率
二、信道的分类
（一）狭义信道的分类
狭义信道，按照传输媒质来划分，可以分为有线信道、无线信道和存储信道三类。
1. 有线信道
有线信道以导线为传输媒质，信号沿导线进行传输，信号的能量集中在导线附用电线传输电信号的架空明线、电话线、双绞线、对称电缆和同轴电缆等等，还有传输经过调制的光脉冲信号的光导纤维。
天波传输：短波、超短波可以通过电离层形成的反射信道和对流层形成的散射信道进行传播。短波电台就利用了天波传输方式。天波传输的距离最大可以达到400千米左右。电离层和对流层的反射与散射，形成了从发射机到接收机的多条随时间变化的传播路径，电波信号经过这些路径在接收端形成相长或相消的叠加，使得接收信号的幅度和相位呈随机变化，这就是多径信道的衰落，这种信道被称作衰落信道。
调制信道的数学模型为：
y(t) = x(t) * h(t;τ) + n(t)
其中x(t)是调制信道在时刻t的输入信号，即已调信号。y(t)是调制信道在时刻t的输出信号。h(t;τ)是信道的冲激响应，τ代表时延，h(t;τ)表示在时刻t、延时为τ时信道对冲激函数δ(t)的响应，描述了信道对输入信号的畸变和延时。*为卷积算子。n(t) 是调制信道上存在的加性噪声，与输入信号x(t)无关，又被称为"加性干扰"。由于信道的线性性质，并且考虑信道噪声，x(t) * h(t;τ) + n(t)就是x(t)通过由信道响应h(t;τ)描述的调制信道的输出。调制信道可以同时有多个输入信号和多个输出信号，这时的x(t)和y(t)是矢量信号。
信道与信道容量(第四章)
– 有无记忆信道 信道的输出不但与信道现在时刻的输入有关，而且 还与以前时刻的输入有关
信道分类
❖ 按输入输出信号之间的关系是否是确定关系
– 无干扰信道： 输入和输出符号之间有确定的一一对应关系
– 有干扰信道： 输入和输出之间关系是一种统计依存的关系
❖ 输入和输出的统计特性：
恒参信道和随参信道 对称信道和非对称信道
离散无记忆信道
X 0,1,2, , K 1
信道
Y 0,1,2, , J 1
x1,x2, ,xN
pN (y | x)
y1, y2, , yN
pN (y | x) p( y1, y2, , yN | x1, x2, , xN )
一致
信息大于其它任一输入与所有输出之间的平均互信息，我们就
可以通过更经常采用这个输入k（即加大Qk）来增大。但这样做 会改变每个输入与所有输出之间的平均互信息量（由概率归一
性约束）。通过足够多次的调整输入概率分布，就可使每个概
率不为零的输入与所有输出之间的平均互信息量任意接近。
Kuhn-Tucker条件
信道转移概率矩阵 p(y / x) ：
描述输入和输出的统计依赖关系
p(Y|X)
X
Y
信道
信道分类
❖ 按信道的输入和输出在幅度和时间上的取值
时间离散的离散信道（离散信道） 时间离散的连续信道（连续信道） 时间连续的离散信道 时间连续的连续信道（波形信道）
信道分类
❖ 按输入输出之间关系的记忆性来划分：
J 1
P(xy) log
p( y
|
x)
x0 y0
信道及信道容量
信道1 p( j | k )
P2
信道2 P p( j | k )
若信道1和信道2级联，则要求信道1的输出集和信道2的输入集 相同。给定信道1和信道2的转移概率 p( j | k ) 和 p( j | k ) ， 则 级联信道的转移概率为 p ( j | k ) j p( j | k ) p( j | k j ) 这样就得到了一个新的离散信道，输入集为 X1 ，输出集为 Y2 ， 转移概率矩阵为 {P( j | k )}。
信息工程学院通信工程系
3.2 离散信道及数学模型
多符号离散信道数学模型 X=X1X2… Xk ….XN
P(Y|X)
Y=Y1Y2…Yk ….YN
{p(yj|xi)}
Xk取值: {x1, x2, …, xn}， 则X共有nN 种 i , i=1～nN Yk取值: {y1, y2, …, ym}， 则Y共有mN种 j , j=1～mN
在物理信道一定的情况下，总是希望传输的信息越 多越好。这不仅仅与物理信道本身特性有关，还与载荷
信息的信号形式和信源输出信号的统计特性有关。
本章讨论“什么条件下，通过信道的信息量最大”。
信息工程学院通信工程系
3.1 信道分类和描述
信道分类
1、根据信道两端输入和输出集合的个数，分为： 两端信道(单用户信道)--输入、输出均只有一个 多端信道(多用户信道)--输入、输出有多个 2、根据输入、输出随机变量的个数，分为： 单符号信道--输入、输出用随机变量表示 多符号信道--输入、输出用随机矢量表示 3、根据信道上有无噪声(干扰)，分为： 有噪(扰)信道 无噪(扰)信道
[ （1） 信道输入统计概率空间：X , p( X )] [ （2） 信道输出统计概率空间：Y , p (Y )] （3） 信道的统计特性，即信道转移概率矩阵：p( y | x)
第三章信道及信道容量
2但为有限值,即
p11
P
p2
1
p12 p22
,
p1m
p2m
pn1
pn2
pn
m
②二进制对称信道（BSC）：输入和输出信号的符号数都 是2，即X∈A={0,1}和Y∈B={0，1}的对称信道。
1-p
0 p
0
1p p
p
P
p
1p
1
1
1-p
16
《信息论与编码》
3）有干扰有记忆信道：每个信道输出不但与当前输入信号 之间有转移概率关系，而且与其它时刻的输入输出信号也 有关。
27
《信息论与编码》
2）信道容量的定义 对于某特定信道，可找到某种信源的概率分布p(ai)，使
得 I（X；Y）达到最大。
C m ax { I(X ;Y )} (b it/符 号 ) p(x)
注：对于特定的信道，信道容量是个定值，但是在传输信 息时信道能否提供其最大传输能力，则取决于输入端的概 率分布。一般相应的输入概率分布称为最佳输入分布。
28
若平均传输一个符号需要t秒钟，则信道单位时间内 平均传输的最大信息量为：
C T1 tm p(axx ){I(X;Y)}(bit/秒 )
即信道传输速率。
信道容量C已与输入信源的概率分布无关，它只是 信道传输概率的函数，只与信道的统计特性有关。 所以，信道容量是完全描述信道特性的参量，是信 道能够传输的最大信息量。
这样，波形信道化为多维连续信道，信道转移概率密度 函数为
其中：
19
《信息论与编码》
如果多维连续信道的转移概率密度函数满足
这样的信道称为连续无记忆信道即在任一时刻输出变 量只与对应时刻的输入变量有关，与以前时刻的输入输出 都无关。
第3章 信道与信道容量
max p(x)
H C (Y )
1 log
2
2e
2
pn(n)＝N(0, 2) 连续单符号信道
噪声是均值为零、方差为 2的加性高斯噪声
34
3.4 连续信道及其容量
连续单符号加性信道
pY (y) ＝N(0,P)，pn(n)＝N(0, 2)，y=x+n，所以 pX (x)＝N(0, S)
3
3.1 信道分类和表示参数
二进制对称信道(BSC)
P
1 p
p
p 1 p
4
3.1 信道分类和表示参数
离散无记忆信道
a1 a2
b1
p11 p12 p1m
b2 b3
P
p21
p22
p2m
an
bm
pn1
pn2
pnm
5
3.1 信道分类和表示参数
离散输入、连续输出信道
pY ( y / ai )
31
3.3 离散序列信道及其容量
扩展信道
(1 p)2 p(1 p) p(1 p) p2
1
P
p(1 p(1
p) p)
(1 p)2 p2
p2 (1 p)2
p(1
p)
p(1 p)
p2 p(1 p) p(1 p) (1 p)2
C2 log2 4 H[(1 p)2 , p(1 p), p(1 p), p 2 ]
1 1 1 1
13
3 1
6 1
6 1
6 6 3 3
1 1 1
2 1
3 1
6 1
6 2 3
1 1 1
3 6 2
12
3.2 离散单个符号信道及其容量
信道与信道容量(1)
准对称信道的信道容量
• 例3-5 已知一个信道的信道转移矩阵为
P 00..53
0.3 0.5
0.2 0.2
• 由P可看出信道的输入符号有两个，可设
• p(a 1),p(a2)1。 信道的输出符号有3个，
用b1,b2,b3表示。由 合概率的矩阵为
p(ai,bj)p(ai)p(bj|ai)得联
• 将信道矩阵P的列划分成若干个互不相交的子 集mk,由mk为列组成的矩阵[P]k是对称矩阵。
1 1 1 1 1 1 1 1
P131
3 1
6 1
6113
16
13
16
6 3 6 3 6 3 3 6
• 它们满足对称性,所以P1所对应的信道为准对称
信道。
可编辑ppt
30
准对称信道的信道容量
• 准对称信道
串联信道
• 例3-4 设有两个离散BSC信道,串接如图,两个
BSC信道的转移矩阵为:
1-p Y 1-p
X0
0Z
1p p
P1 P2
p
1p
p p
• 串联信道的转移矩阵为: 1
1-p
1 1-p
1 pp 1 pp (1 p )2 p 2 2 p (1 p ) P P 1 P 2 p1 p p1 p 2 p (1 p ) (1 p )2 p 2
i
j
p(bj | ai)logp(bj | ai)
j
H(Y| ai) i 1,2,n
H ( Y |X ) H ( Y |a i) H 可( 编p 辑1 p,ptp 2 , p m ) 15
对称DMC信道
• 对称DMC信道的容量：
信道带宽和信道容量
信道带宽模拟信道：模拟信道的带宽W=f2-f1其中f1是信道能够通过的最低频率，f2是信道能够通过的最高频率，两者都是由信道的物理特性决定的。
当组成信道的电路制成了，信道的带宽就决定了。
为了是信号的传输的失真小些，信道要有足够的带宽。
数字信道：数字信道是一种离散信道，它只能传送离散值的数字信号，信道的带宽决定了信道中能不失真的传输脉序列的最高速率。
一个数字脉冲称为一个码元，我们用码元速率表示单位时间内信号波形的变换次数，即单位时间内通过信道传输的码元个数。
若信号码元宽度为T秒，则码元速率B=1/T。
码元速率的单位叫波特(Baud)，所以码元速率也叫波特率。
早在1924年，贝尔实验室的研究员亨利·尼奎斯特就推导出了有限带宽无噪声信道的极限波特率，称为尼奎斯特定理。
若信道带宽为W，则尼奎斯特定理指出最大码元速率为B=2W(Baud)尼奎斯特定理指定的信道容量也叫尼奎斯特极限，这是由信道的物理特性决定的。
超过尼奎斯特极限传送脉冲信号是不可能的，所以要进一步提高波特率必须改善信道带宽。
码元携带的信息量由码元取的离散值个数决定。
若码元取两个离散值，则一个码元携带1比特(bit)信息。
若码元可取四种离散值，则一个码元携带2比特信息。
总之一个码元携带的信息量n(bit)与码元的种类数N有如下关系:n=log2N单位时间内在信道上传送的信息量(比特数)称为数据速率。
在一定的波特率下提高速率的途径是用一个码元表示更多的比特数。
如果把两比特编码为一个码元，则数据速率可成倍提高。
我们有公式:R=B log2N=2W log2N(b/s)其中R表示数据速率，单位是每秒比特，简写为bps或b/s数据速率和波特率是两个不同的概念。
仅当码元取两个离散值时两者才相等。
对于普通电话线路，带宽为3000HZ，最高波特率为6000Baud。
而最高数据速率可随编码方式的不同而取不同的值。
这些都是在无噪声的理想情况下的极限值。
信道及信道容量
第5章 信道及信道容量教学内容包括：信道模型及信道分类、单符号离散信道、多符号离散信道、多用户信道及连续信道5．1信道模型及信道分类教学内容：1、一般信道的数学模型2、信道的分类3、信道容量的定义1、 一般信道的数学模型影响信道传输的因素：噪声、干扰。
噪声、干扰：非函数表述、随机性、统计依赖。
信道的全部特性：输入信号、输出信号，以及它们之间的依赖关系。
信道的一般数学模型：2、 信道的分类输出随机信号输入、输出随机变量个数输入和输出的个数信道上有无干扰有无记忆特性3、信道容量的定义衡量一个信息传递系统的好坏，有两个主要指标：图5.1.1 一般信道的数学模型离散信道、连续信道、半离散或半连续信道 单符号信道和多符号信道 有干扰信道和无干扰信道有记忆信道和无记忆信道单用户信道和多用户信道 速度指标质量指标速度指标：信息（传输）率R ，即信道中平均每个符号传递的信息量；质量指标：平均差错率e P ，即对信道输出符号进行译码的平均错误概率；目标：速度快、错误少，即R 尽量大而e P 尽量小。
信道容量：信息率R 能大到什么程度； )/()()/()();(X Y H Y H Y X H X H Y X I R -=-==若信道平均传送一个符号所需时间为t 秒，则);(1Y X I t R t =（bit/s ）称t R 为信息（传输）速率。
分析：对于给定的信道，总存在一个信源（其概率分布为*)(X P ），会使信道的信息率R 达到最大。
（);(Y X I 是输入概率)(X P 的上凸函数，这意味着);(Y X I 关于)(X P 存在最大值）每个给定的信道都存在一个最大的信息率，这个最大的信息率定义为该信道的信道容量，记为C ，即);(max max Y X I R C XXP P ==bit/符号 （5.1.3）信道容量也可以定义为信道的最大的信息速率，记为t C⎭⎬⎫⎩⎨⎧==);(1max max Y X I t R C XX P t P t （bit /s ） （5.1.4） 解释：(1)信道容量C 是信道信息率R 的上限，定量描述了信道（信息的）最大通过能力； (2)使得给定信道的);(Y X I 达到最大值（即信道容量C ）的输入分布，称为最佳输入（概率）分布，记为*)(X P ；(3)信道的);(Y X I 与输入概率分布)(X P 和转移概率分布)/(X Y P 两者有关，但信道容量C 是信道的固有参数，只与信道转移概率)/(X Y P 有关。
信道及信道容量
Page
3
第3章 信道及信道容量
相 关 知 识 复 习
在高斯信道下，信道的信息通过能力与
信道的频带宽度、信道的工作时间、信道的
噪声功率密度有关。
频带越宽，工作时间越长，信号、噪声 功率比越大，信道的通过能力就越强，信道 容量越大。
Information Theory and Coding
Page
4
a2 p(a 2 ) b2 p(b2 )
ar p(a r ) bs p(bs )
输入符号集合的元素个数为r，输出符号集合的元素个数为s。
Information Theory and Coding
Page 15
第3章 信道及信道容量
该类信道的特性可用条件转移概率进行描述。
随机差错信道：信道中传输码元所遭受的噪声 是随机的、独立的，这种噪声相互之间不具有 关联性，码元错误不会成串出现。 如：高斯白噪声信道。 突发差错信道：信道中噪声或干扰对传输码元 的影响具有关联性，相互之间不独立，使码元 错误成串出现。 如：衰落信道、码间干扰信道。移动通信的信 道、光盘存储属于该类信道。
端信道。
Information Theory and Coding
Page
10
第3章 信道及信道容量
4．离散信道、连续信道、半离散半连续信道和 波形信道 离散信道：又称数字信道，该类信道中输入空 间、输出空间均为离散时间集合，集合中事件 的数量是有限的，或者无限的，随机变量取值
3.1 信 道 分 类
Information Theory and Coding
Page
5
第3章 信道及信道容量
3.1信道分类
X={X0,X1,X2… Xr-1}含r个 元素的输入符号集
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1.6.2 信道容量
根据香农信息论，对于连续信道，如果信道带宽为B， 并且受到加性高斯白噪声的干扰，则信道容量的理论公式为
C=B㏒2（1+S/N）（b/s） 式中。 N为白噪声的平均功率； S是信号的平均功率； S/N 为信噪比。信道容量C是指信道可能传输的最大信息速率 （即信道能达到的最大传输能力）。虽然上式是在一定条件 下获得的（要求输入信号也为高斯信号才能实现上述可能 性），但对其他情况也可作为近似式使用。
例1 已知彩色电视图象由5ⅹ105个像素组成。设每个像素有 64种彩色度，每种彩色度有16个亮度等级。设所有彩色度和 亮度等级的组合机会均等，并统计独立。（1）试计算每秒 传送100个画面所需信道容量；（2）如果接受机信噪比为 30dB，为了传送彩色图象所需信道带宽为多少？
例2 设有一个图像要在电话线路中实现传真传输。大约要传输2.25ⅹ106个 像素，每个像素有12个亮度等级。假设所有亮度等级都是等概率的，电 话电路具有3kHz带宽和30dB信噪比。试求在该标准电话线路上传输一 张传真图片需要的最小时间。
在数字通信系统中，如果仅研究编码和解码问题， 可得到另一种广义信道---编码信道。编码信道的范围是 从编码器输出端至解码器输入端。这是因为从编码和解 码角度来看，编码器是把信源产生的消息信号转化为数 字信号。反之，解码器是将数字信号恢复原来的消息信 号；而编码器输出端至解码器输入端之间的一切环节只 是起了传输数字信号的作用，所以可以把它看成一个整 体---编码信道。当然，根据研究问题的不同，还可以定 义其他广义信道。
解： Rb = RBN㏒2N
RBN= Rb／×106 / 29.9 ×103=0.269 ×103s=4.5min
例3 已知八进制数字信号的传输速率为1600波 特。试问变换成二进制数字信号时的传输速率为多 少？ 解： Rb = RBN㏒2N = 1600× ㏒28 = 4800 b/s
例4 已知二进制数字信号的传输速率为 2400b/s 。试 问变换成四进制数字信号时，传输速 率为多少波特？
根据上述公式可以得出以下重要结论：
（1）任何一个信道，都有信道容量C。如果信源的信息 速率R小于或等于信道容量C，那么在理论上存在一种方法 使信源的输出能以任意小的差错概率通过信道传输；如果R 大于C，则无差错在理论上传输是不可能的。
（2）给定的信道容量C可以用不同的带宽和信噪比的组 合来传输。若减少带宽，则必须发送较大的功率，即增大信 噪比S/N。或者，若有较大的传输带宽，则同样的C能够用 较小的信号功率（即较小的S/N）来传送。这表明宽带系统 表现出较好的抗干扰性。因此，当信噪比太小而不能保证通 信质量时，常采用宽带系统，用增加带宽来提高信道容量， 以改善通信质量。这就是通常所谓用带宽换功率的措施。但 应指出，带宽和信噪比的互换并不是自动的，必须变换信号 使之具有所要求的带宽。实际上这是由各种类型的调制和编 码完成的。调制和编码过程就是实现带宽与信噪比之间互换 的手段。
1.6信道与信道容量
调制信道一般可以看成一个输出端上叠加有噪声的时变线性网络。若 信道参量不随时间变化（恒参信道），则线性时变网络可以用线性时不变 网络代替。信道传输函数H（w，t）变为H（w）。图1.3.2（a）表示调制 信道的一般模型，今后在分析通信系统性能时经常用到。其中n（t）代表 信道噪声。这里是把信道内各处的噪声集中用一个作用在输出端的噪声源 表示。
解：信息/像素=㏒212=3.32lg12=3.58b 信息/每幅图=2.25×106 × 3.58=8.06 ×106 b 信道容量C=B ㏒2（1+S/N）=3 ×103 ㏒2（1+1000） =29.9 ×103b /s 最大信息速率Rmax= 8.06 ×106 /t b/s 由于R必须小于或等于C，故Rmax= C ，于是得到传输一张图片所需的