信道与信道容量剖析
光通信中的信道建模与信道容量分析
光通信中的信道建模与信道容量分析光通信是一项现代通信技术，它采用光作为信号传输介质，其速度快、带宽宽、并且不受电磁干扰的特点使得其在很多应用场景中得到了广泛的应用。
如何对光通信中的信道进行建模和分析，是光通信领域的研究热点之一。
本文将阐述光通信中的信道建模和信道容量分析的相关内容。
一、光通信中的信道建模信道建模是对通信信道的特性进行描述和抽象的过程。
在光通信中，信道包含光纤、空气等传输介质。
光纤是光通信中最常用的传输介质之一。
根据信道的不同特点，光通信中的信道建模可以分为线性模型和非线性模型两种。
在光纤通信中，信道传输会受到各种噪声的影响，包括热噪声、自发噪声等。
为了对光纤通信中的信道进行建模，研究者通常采用线性模型。
线性模型是将光纤通信中的信号当成一个线性系统，其输入输出过程满足线性定理。
基于线性模型，研究者通常采用瑞利衰落模型或高斯白噪声模型进行分析，瑞利衰落模型适用于描述室内环境或者非常短距离的光纤传输，而高斯白噪声模型适用于描述长距离的光纤传输。
基于线性模型的推导，可以得到光强度和相位的三级统计特性，包括均值、方差和自相关函数等。
在某些情况下，非线性模型可能更适合描述光纤通信中的信道特性。
例如在光纤的高功率传输中，非线性效应会给信道带来一定影响。
非线性模型通常可以建立在薛定谔方程的基础上，对于一些常见的非线性效应，例如半波电流调制效应、自相位调制效应等，都可以采用非线性模型进行建模。
二、光通信中的信道容量分析信道容量是指单位时间内，发送端和接收端之间可以传输的有效信息量。
在光通信中，信道容量分析是评估光通信系统传输性能的重要指标。
光通信中信道容量分析的方法包括香农容量计算法和基于信息论的分析方法。
香农容量是指在理想情况下，对于一定的信道带宽和信道传输速率，通信系统可以最大化信息传输速率的极大值。
在光通信中，香农容量可以通过奈奎斯特公式进行计算。
该公式指出，当信道带宽为B，信号的传输速率为R时，理论最大的信息传输率C为2B log2 (1+SNR)。
信道与信道容量
1.6.2 信道容量
根据香农信息论，对于连续信道，如果信道带宽为B， 并且受到加性高斯白噪声的干扰，则信道容量的理论公式为
C=B㏒2（1+S/N）（b/s） 式中。 N为白噪声的平均功率； S是信号的平均功率； S/N 为信噪比。信道容量C是指信道可能传输的最大信息速率 （即信道能达到的最大传输能力）。虽然上式是在一定条件 下获得的（要求输入信号也为高斯信号才能实现上述可能 性），但对其他情况也可作为近似式使用。
例1 已知彩色电视图象由5ⅹ105个像素组成。设每个像素有 64种彩色度，每种彩色度有16个亮度等级。设所有彩色度和 亮度等级的组合机会均等，并统计独立。（1）试计算每秒 传送100个画面所需信道容量；（2）如果接受机信噪比为 30dB，为了传送彩色图象所需信道带宽为多少？
例2 设有一个图像要在电话线路中实现传真传输。大约要传输2.25ⅹ106个 像素，每个像素有12个亮度等级。假设所有亮度等级都是等概率的，电 话电路具有3kHz带宽和30dB信噪比。试求在该标准电话线路上传输一 张传真图片需要的最小时间。
在数字通信系统中，如果仅研究编码和解码问题， 可得到另一种广义信道---编码信道。编码信道的范围是 从编码器输出端至解码器输入端。这是因为从编码和解 码角度来看，编码器是把信源产生的消息信号转化为数 字信号。反之，解码器是将数字信号恢复原来的消息信 号；而编码器输出端至解码器输入端之间的一切环节只 是起了传输数字信号的作用，所以可以把它看成一个整 体---编码信道。当然，根据研究问题的不同，还可以定 义其他广义信道。
解： Rb = RBN㏒2N
RBN= Rb／×106 / 29.9 ×103=0.269 ×103s=4.5min
例3 已知八进制数字信号的传输速率为1600波 特。试问变换成二进制数字信号时的传输速率为多 少？ 解： Rb = RBN㏒2N = 1600× ㏒28 = 4800 b/s
信道、信道容量、数据传输速率
信道、信道容量、数据传输速率简介：信道、信道容量、数据传输速率（比特率）、电脑装置带宽列表一、信道的概念信道，是信号在通信系统中传输的通道，是信号从发射端传输到接收端所经过的传输媒质，这是狭义信道的定义。
广义信道的定义除了包括传输媒质，还包括信号传输的相关设备。
信道容量是在通信信道上可靠地传输信息时能够达到的最大速率。
根据有噪信道编码定理，给定信道的信道容量是其以任意小的差错概率传输信息的极限速率。
信道容量的单位为比特每秒、奈特每秒等等。
香农在第二次世界大战期间发展出信息论，并给出了信道容量的定义和计算信道容量的数学模型。
他指出，信道容量是信道的输入与输出的互信息量的最大值，这一最大取值由输入信号的概率分布决定。
二、信道的分类（一）狭义信道的分类狭义信道，按照传输媒质来划分，可以分为有线信道、无线信道和存储信道三类。
1. 有线信道有线信道以导线为传输媒质，信号沿导线进行传输，信号的能量集中在导线附近，因此传输效率高，但是部署不够灵活。
这一类信道使用的传输媒质包括用电线传输电信号的架空明线、电话线、双绞线、对称电缆和同轴电缆等等，还有传输经过调制的光脉冲信号的光导纤维。
2. 无线信道无线信道主要有以辐射无线电波为传输方式的无线电信道和在水下传播声波的水声信道等。
无线电信号由发射机的天线辐射到整个自由空间上进行传播。
不同频段的无线电波有不同的传播方式，主要有：地波传输：地球和电离层构成波导，中长波、长波和甚长波可以在这天然波导内沿着地面传播并绕过地面的障碍物。
长波可以应用于海事通信，中波调幅广播也利用了地波传输。
天波传输：短波、超短波可以通过电离层形成的反射信道和对流层形成的散射信道进行传播。
短波电台就利用了天波传输方式。
天波传输的距离最大可以达到400千米左右。
电离层和对流层的反射与散射，形成了从发射机到接收机的多条随时间变化的传播路径，电波信号经过这些路径在接收端形成相长或相消的叠加，使得接收信号的幅度和相位呈随机变化，这就是多径信道的衰落，这种信道被称作衰落信道。
信道、信道容量、数据传输速率
简介：信道、信道容量、数据传输速率（比特率）、电脑装置带宽列表一、信道的概念信道，是信号在通信系统中传输的通道，是信号从发射端传输到接收端所经过的传输媒质，这是狭义信道的定义。
广义信道的定义除了包括传输媒质，还包括信号传输的相关设备。
信道容量是在通信信道上可靠地传输信息时能够达到的最大速率。
根据有噪信道编码定理，给定信道的信道容量是其以任意小的差错概率传输信息的极限速率。
信道容量的单位为比特每秒、奈特每秒等等。
香农在第二次世界大战期间发展出信息论，并给出了信道容量的定义和计算信道容量的数学模型。
他指出，信道容量是信道的输入与输出的互信息量的最大值，这一最大取值由输入信号的概率分布决定。
二、信道的分类（一）狭义信道的分类狭义信道，按照传输媒质来划分，可以分为有线信道、无线信道和存储信道三类。
1. 有线信道有线信道以导线为传输媒质，信号沿导线进行传输，信号的能量集中在导线附近，因此传输效率高，但是部署不够灵活。
这一类信道使用的传输媒质包括用电线传输电信号的架空明线、电话线、双绞线、对称电缆和同轴电缆等等，还有传输经过调制的光脉冲信号的光导纤维。
2. 无线信道无线信道主要有以辐射无线电波为传输方式的无线电信道和在水下传播声波的水声信道等。
无线电信号由发射机的天线辐射到整个自由空间上进行传播。
不同频段的无线电波有不同的传播方式，主要有：地波传输：地球和电离层构成波导，中长波、长波和甚长波可以在这天然波导内沿着地面传播并绕过地面的障碍物。
长波可以应用于海事通信，中波调幅广播也利用了地波传输。
天波传输：短波、超短波可以通过电离层形成的反射信道和对流层形成的散射信道进行传播。
短波电台就利用了天波传输方式。
天波传输的距离最大可以达到400千米左右。
电离层和对流层的反射与散射，形成了从发射机到接收机的多条随时间变化的传播路径，电波信号经过这些路径在接收端形成相长或相消的叠加，使得接收信号的幅度和相位呈随机变化，这就是多径信道的衰落，这种信道被称作衰落信道。
通信课件信道及信道容量
• 信道的基本概念 • 信道数学模型：调制、编码信道模型 • 恒参信道特性及其对信号传输的影响 • 随参信道特性及其对信号传输的影响 • 分集接收技术 • Shannon信道容量公式
1
信道的基本概念
• 信道：信号通道，必不可少 • 影响通信系统可靠性能的两个主要因素：噪声和信道传输特性的
不理想。
• 由于多径使得确定的载波信号Acosω0t变成了包络和相位都受 到调制的窄带信号，衰落信号。从时域来看，多径时延扩散； 从频域来看，频率展宽
15
随参信道对信号传输的影响(续2)
• 时变多径信道
R(t)
t 时域：瑞利衰落（快衰落）
f0 频域：频率弥散
16
随参信道对信号传输的影响例举
• 以两条路径且衰减恒定为例
3
信道数学模型
• 反映信道输出和输入之间的关系。 • 调制信道模型：传输已调信号，关心的是信号的失真
情况及噪声对信号的影响。已调信号的瞬时值是连续 变化的，故也称调制信道为连续信号，甚至称为信道 。 • 编码信道模型：输出输入都是数字信号→数字序列变 换，离散或数字信道。包含调制信道→依赖于调制信 道的性能，噪声的干扰体现在误码上，关心的是误码 率而不是信号失真情况→使用转移概率来描述。
ui (t)cos[0t i (t)] ui (t) cos i (t) cosot ui (t) sin i (t) sin ot
X c (t) cosot X s (t) cosot V (t) cos[ot (t)]
V(t) Xc2(t) Xs2(t)
(t) arctg(Xc (t) Xs (t))
2
N
(bit/s)
Shannon公式
网络传输技术——信道和信道容量的概念
信道和信道容量 信道：传输信息的必经之路称为“信道”。
从信道的传输介质来分，信道有有线与⽆线信道之分，⽽按其频率来分呢，⼜有窄带、话⾳频带、宽带之分，如果从它所传输的信号类型来分呢，⼜有数字信道与模拟信道的概念，⽽按实际和幻想来分呢，⼜有物理信道和逻辑信道的概念区别。
有线就是有传输线，⽆线就是没有传输线，只是有线的信道除传输介质外，每隔⼀定距离需设置增⾳器或中继器等放⼤设备，因为信号传输时会引起衰减、引⼊邻路⼲扰或噪声。
⽽⽆线信道的电磁波能量向各⽅发射，所以效率较低。
为此，⽆线电传播⽤定向天线发射，可把能量集中⼀些。
为了传播得远，常⽤频率很⾼的振荡波来传送。
因此，必须有⼀个⾼频发射机，产⽣很⾼的振荡波，通过天线发射出去；在接收端，通过接收天线和接收机来接收。
窄带信道⼯作速率在300bps以下，主要⽤于⾮话⾳业务。
话⾳频带（话⾳级）。
当信道为公共交换络的⼀部分时，速率为4800bps。
当这类信道⽤作专⽤线时，可⽤到9600bps以上。
如家⽤常规拨号电话或公⽤投币电话的线路，把⽤户室内电话系统连接在⼀起的线路，连接终端与计算机的⾼速数据线路，计算机售票（民航机票）专⽤线路等就是与交换线路相对的话⾳级专⽤线路。
宽带信道：速率超过9600Us的信道，⽤于需要⾼吞吐量的场合。
如：⾦融机构、经纪业等⽤户的⾼速计算机线路，⽤来连接其交换局的电话公司信道。
数字信道：直接传输2进制数。
模拟信道：传输的是模拟信号或受⼆进制数据调制的正弦信号。
物理信道：是指⽤来传送信号或数据的物理通路，络中两个结点之间的物理通路称为通信链路，物理信道由传输介质及有关设备组成。
逻辑信道也是⼀种通路但在信号收、发点之间并不存在⼀条物理上的传输介质，⽽是在物理信道基础上，由结点内部的边来实现。
通常把逻辑信道称为“连接”。
信道容量：指信道能传输信息的能⼒，⼀般以单位时间内可传送信息的bit数表⽰。
实⽤中，信道容量应⼤于传输速率，否则⾼的传输速率得不到充分发挥利⽤。
信道、信道容量、数据传输速率
二、信道的分类
（一）狭义信道的分类
狭义信道，按照传输媒质来划分，可以分为有线信道、无线信道和存储信道三类。
1. 有线信道
有线信道以导线为传输媒质，信号沿导线进行传输，信号的能量集中在导线附用电线传输电信号的架空明线、电话线、双绞线、对称电缆和同轴电缆等等，还有传输经过调制的光脉冲信号的光导纤维。
天波传输：短波、超短波可以通过电离层形成的反射信道和对流层形成的散射信道进行传播。短波电台就利用了天波传输方式。天波传输的距离最大可以达到400千米左右。电离层和对流层的反射与散射，形成了从发射机到接收机的多条随时间变化的传播路径，电波信号经过这些路径在接收端形成相长或相消的叠加，使得接收信号的幅度和相位呈随机变化，这就是多径信道的衰落，这种信道被称作衰落信道。
调制信道的数学模型为：
y(t) = x(t) * h(t;τ) + n(t)
其中x(t)是调制信道在时刻t的输入信号，即已调信号。y(t)是调制信道在时刻t的输出信号。h(t;τ)是信道的冲激响应，τ代表时延，h(t;τ)表示在时刻t、延时为τ时信道对冲激函数δ(t)的响应，描述了信道对输入信号的畸变和延时。*为卷积算子。n(t) 是调制信道上存在的加性噪声，与输入信号x(t)无关，又被称为"加性干扰"。由于信道的线性性质，并且考虑信道噪声，x(t) * h(t;τ) + n(t)就是x(t)通过由信道响应h(t;τ)描述的调制信道的输出。调制信道可以同时有多个输入信号和多个输出信号，这时的x(t)和y(t)是矢量信号。
第三章信道及信道容量PPT课件
第一节 信道分类及表示参数 第二节 单符号离散信道及其容量 第三节 离散序列信道及其容量 第四节 连续信道及其容量
05.12.2020
1
研究信道容量的意义?
信道是信息传输的通道。由于干扰而丢失的信息为 H(X|Y ); 在接收端获取的关于发送端信源X的信息量是：
I(X;Y)＝H(X)-H(X|Y) 即：信道中平均每个符号传送的信息量。对于信道,所关心的问 题是平均每个符号传送的最大信息量。这就是信道容量C=max I(X;Y) bit/符号
每个数字对应一种颜色（反之未必），数字已知，则颜色确 定，H(X|Y)=0。H(X,Y)=H(Y)=…..
6、2.21（3）信号放大问题。课上已经强调过，仍出错。
7、向孔祥品学习
05.12.2020
9
复习：第四节 连续信源的熵和互信息
一、单符号连续信源的熵 相对熵（差熵）
H c(X ) p X (x)lop X g (x)dx Hc(XY )p(xy)lopg(xy)dxdy Hc(Y/X )p(xy)lopg(y/x)dxdy
(2) 离散无记忆信道(DMC-Discrete Memoryless Channel)
仍是单符号离散信道，符号集中的符号数目大于2 。
05.12.2020
7
转移概率矩阵（传递阵矩）P :
P11 P12 P1m
P [
P ij
]
P21
P22
P2m
Pn1
Pn2
Pnm
m
m
转移概率矩 元阵 素中 之 1。 各 和 P(b 行 j等 |ai)的 于 Pij1
2 Pm2,通常m0,2 P,此时有：
H0C5.1(2X.202)0
第四章：信道与信道容量PPT课件
在信息系统中信道主要用于传输与存储信 息，而在通信系统中则主要用于传输。
-
12
§5.1:概述－4
研究信道的目的
实现信息传输的有效性和可靠性
有效性：充分利用信道容量
可靠性：通过信道编码降低误码率
在通信系统中研究信道，主要是为了描述、 度量、分析不同类型信道，计算其容量，即 极限传输能力，并分析其特性。
•香农第一定理的物理意义
-
23
§4.3:离散无记忆信道及其信道容量-1
离散消息序列信道
一般无记忆 无记忆信道
平稳无记忆 离散消息序列信道
有记忆信道 : 平稳，有限状态 有记忆信道
-
24
§4.3:离散无记忆信道及其信道容量-2
离散无记忆信道及其信道容量
P(
y
x
K
)无 记 忆
k1
P( yk
xk )
通信技术研究－－信号在信道中传输的过 程所遵循的物理规律，即传输特性
信息论研究－－信息的传输问题（假定传
输特性已知）
-
13
§4.2:信道的分类与描述
信道分类 信道描述
-
14
§4.2:信道分类与描述－1
信道分类
从工程物理背景——传输媒介类型； 从数学描述方式——信号与干扰描述方式； 从信道本身的参数类型——恒参与变参； 从用户类型——单用户与多用户；
-
30
§4.3:离散无记忆信道及其信道容量-8
对称信道
1
1
31
6
3
1 16 6
1 6
1 3
1 3
1 1 1 1
P1
3 1
6
3 1
6
信道及信道容量
信道1 p( j | k )
P2
信道2 P p( j | k )
若信道1和信道2级联，则要求信道1的输出集和信道2的输入集 相同。给定信道1和信道2的转移概率 p( j | k ) 和 p( j | k ) ， 则 级联信道的转移概率为 p ( j | k ) j p( j | k ) p( j | k j ) 这样就得到了一个新的离散信道，输入集为 X1 ，输出集为 Y2 ， 转移概率矩阵为 {P( j | k )}。
信息工程学院通信工程系
3.2 离散信道及数学模型
多符号离散信道数学模型 X=X1X2… Xk ….XN
P(Y|X)
Y=Y1Y2…Yk ….YN
{p(yj|xi)}
Xk取值: {x1, x2, …, xn}， 则X共有nN 种 i , i=1～nN Yk取值: {y1, y2, …, ym}， 则Y共有mN种 j , j=1～mN
在物理信道一定的情况下，总是希望传输的信息越 多越好。这不仅仅与物理信道本身特性有关，还与载荷
信息的信号形式和信源输出信号的统计特性有关。
本章讨论“什么条件下，通过信道的信息量最大”。
信息工程学院通信工程系
3.1 信道分类和描述
信道分类
1、根据信道两端输入和输出集合的个数，分为： 两端信道(单用户信道)--输入、输出均只有一个 多端信道(多用户信道)--输入、输出有多个 2、根据输入、输出随机变量的个数，分为： 单符号信道--输入、输出用随机变量表示 多符号信道--输入、输出用随机矢量表示 3、根据信道上有无噪声(干扰)，分为： 有噪(扰)信道 无噪(扰)信道
[ （1） 信道输入统计概率空间：X , p( X )] [ （2） 信道输出统计概率空间：Y , p (Y )] （3） 信道的统计特性，即信道转移概率矩阵：p( y | x)
第3章 信道与信道容量
max p(x)
H C (Y )
1 log
2
2e
2
pn(n)＝N(0, 2) 连续单符号信道
噪声是均值为零、方差为 2的加性高斯噪声
34
3.4 连续信道及其容量
连续单符号加性信道
pY (y) ＝N(0,P)，pn(n)＝N(0, 2)，y=x+n，所以 pX (x)＝N(0, S)
3
3.1 信道分类和表示参数
二进制对称信道(BSC)
P
1 p
p
p 1 p
4
3.1 信道分类和表示参数
离散无记忆信道
a1 a2
b1
p11 p12 p1m
b2 b3
P
p21
p22
p2m
an
bm
pn1
pn2
pnm
5
3.1 信道分类和表示参数
离散输入、连续输出信道
pY ( y / ai )
31
3.3 离散序列信道及其容量
扩展信道
(1 p)2 p(1 p) p(1 p) p2
1
P
p(1 p(1
p) p)
(1 p)2 p2
p2 (1 p)2
p(1
p)
p(1 p)
p2 p(1 p) p(1 p) (1 p)2
C2 log2 4 H[(1 p)2 , p(1 p), p(1 p), p 2 ]
1 1 1 1
13
3 1
6 1
6 1
6 6 3 3
1 1 1
2 1
3 1
6 1
6 2 3
1 1 1
3 6 2
12
3.2 离散单个符号信道及其容量
信道及信道容量PPT课件
求： 1. 联合概率: p(xi yj)= p(xi)p(yj| xi)= p(yj)p(xi | yj) i=1,2,…,r；j=1,2,…,s
第四章：信道及信道容量
二、离散单符号信道及其信道容量
1.离散单符号信道的数学模型（续7）
r
r
2. 输出符号概率: p(yj) p(xiyj) p(xi)p(yj|xi)
一、信道分类
一. 信道分类（续2）
按输入/输出之间的记忆性来划分： ✓ 无记忆信道：信道在某时刻的输出只与信道该时刻 的输入有关而与信道其他时刻的输入、输出无关。 有记忆信道：信道在某时刻的输出与其他时刻的输 入、输出有关。
根据信道的输入/输出是否是确定关系可分为: ✓ 有噪声信道 无噪声信道
第四章：信道及信道容量
信道特性可以用转移概率矩阵来表示：
P=[p(yj|xi)]r×s
• 信道的数学模型为{X, P(Y|X),Y}
第四章：信道及信道容量
二、离散单符号信道及其信道容量
1.离散单符号信道的数学模型（续4）
例1：二元对称信道 （BSC：binary symmetric channel）
输入符号集A={0,1}, 输出符号集B={0,1}，r＝s＝2．
满足： （1）0≤ p(yj|xi) ≤ 1 (i=1,2,…,r；j=1,2,…,s)
s
（2） p( y j | xi ) 1 j 1
(i=1,2,…,r)
第四章：信道及信道容量
二、离散单符号信道及其信道容量
1.离散单符号信道的数学模型（续2）
信道传递概率可以用信道矩阵来表示：
x1 Px2
i1
i1
矩阵表示：
j=1,2,…,s
第三章 信道和信道容量
求信息传输率R及信道容量。
第三章 信道和信道容量
四、一般离散信道的信道容量
对于非特殊性质的固定信道，根据定义，其信
道容量是对所有可能的输入概率分布P(X)求平
均互信息的极大值。由于I(X;Y)是P(X)的上凸函数，
其极大值一定存在。 注意：达到信道容量的最佳分布不一定是唯一的， 只要输入概率分布满足定理中的条件，并使I最大， 即成为信道的最佳输入分布。
通信系统一般模型：
信源 调制 信道 解调 信宿
广义信道
各种物理信道中存在的干扰限制了通信的距离与速 率，为反映信道干扰对传输性能的影响，可用刻划 各种干扰的模型来表示信道。
如：发送为xi（信道输入）， 接收为yj（信道输出），则信道特性为： Pji＝P（yj/xi），用（条件）转移概率描述
第三章 信道和信道容量
若平均传输一个符号需要t秒，则信道每秒钟平 均传输的信息量为：
Rt＝（1/t）I（X；Y） bit/秒 定义：最大的信息传输率为信道容量C，即： C＝max｛I（X；Y）｝ bit/符号
P(x)
第三章 信道和信道容量
达到信道容量时，相应的输入概率分布称为最佳 输入分布，若平均传输一个符号需要t秒，则：
Ct≈Ps/N0
第三章 信道和信道容量
结论：
当频带很宽时，或信噪比很低时，信道容 量等于信号功率与噪声功率密度比，此比
值是加性高斯噪声信道信息传输率的极限
值。在上述宽频带条件下，信号淹没在噪
声中仍可传送信息。
由香农公式得到的值是非高斯信道（实际 信道）的信道容量的下限值。
第三章 信道和信道容量
三、多维无记忆高斯加性连续信道
P(X)
结论：信道的转移矩阵中，每列有一个也仅有一个
信道带宽和信道容量
信道带宽模拟信道：模拟信道的带宽W=f2-f1其中f1是信道能够通过的最低频率，f2是信道能够通过的最高频率，两者都是由信道的物理特性决定的。
当组成信道的电路制成了，信道的带宽就决定了。
为了是信号的传输的失真小些，信道要有足够的带宽。
数字信道：数字信道是一种离散信道，它只能传送离散值的数字信号，信道的带宽决定了信道中能不失真的传输脉序列的最高速率。
一个数字脉冲称为一个码元，我们用码元速率表示单位时间内信号波形的变换次数，即单位时间内通过信道传输的码元个数。
若信号码元宽度为T秒，则码元速率B=1/T。
码元速率的单位叫波特(Baud)，所以码元速率也叫波特率。
早在1924年，贝尔实验室的研究员亨利·尼奎斯特就推导出了有限带宽无噪声信道的极限波特率，称为尼奎斯特定理。
若信道带宽为W，则尼奎斯特定理指出最大码元速率为B=2W(Baud)尼奎斯特定理指定的信道容量也叫尼奎斯特极限，这是由信道的物理特性决定的。
超过尼奎斯特极限传送脉冲信号是不可能的，所以要进一步提高波特率必须改善信道带宽。
码元携带的信息量由码元取的离散值个数决定。
若码元取两个离散值，则一个码元携带1比特(bit)信息。
若码元可取四种离散值，则一个码元携带2比特信息。
总之一个码元携带的信息量n(bit)与码元的种类数N有如下关系:n=log2N单位时间内在信道上传送的信息量(比特数)称为数据速率。
在一定的波特率下提高速率的途径是用一个码元表示更多的比特数。
如果把两比特编码为一个码元，则数据速率可成倍提高。
我们有公式:R=B log2N=2W log2N(b/s)其中R表示数据速率，单位是每秒比特，简写为bps或b/s数据速率和波特率是两个不同的概念。
仅当码元取两个离散值时两者才相等。
对于普通电话线路，带宽为3000HZ，最高波特率为6000Baud。
而最高数据速率可随编码方式的不同而取不同的值。
这些都是在无噪声的理想情况下的极限值。
第3章.信道与信道容量
即每个输出信号只与当前的输入信号之间有转移概率关 系，而与其他非该时刻的输入信号、输出信号都无关， 也就是无记忆性。
14
3.1.2 信道参数
有干扰无记忆信道 按照输入输出信号的符号数目，有干扰信道可以进一步 划分为： （1）二进制离散信道 （2）离散无记忆信道 （3）离散输入、连续输出信道 （4）波形信道
22
3.2 离散单个符号信道及其容量
信息传输率
有时需要了解的是信道在单位时间内平均传输的信息量，
若已知平均传输一个符号所需的时间为t秒，则将信道
在单位时间内平均传输的信息量定义为信息传输速率，
即：
I ( X ;Y ) Rt t bit / s
注意：
R：单位为bit / 符号
信息传输率
Rt：单位为bit / s
maxH (Y ) H (Y | X ) p(ai )
max
p(ai )
H
(Y
)
H
(Y
|ai)393.2.2 对称DMC信道
对称DMC信道的容量 如果信道输入符号等概率分布，即p(ai)=1/n，则由于转 移概率矩阵的列对称，所以：
p(bj )
i
p(ai
)
p(bj
|
ai
)
1 n
i
p(bj | ai )
信息论不研究信号在信道中传输的物理过程，并假定信 道的传输特性已知，这样信息论就可以抽象地将信道用 下图所示的模型来描述。
3
3.1.1 信道的分类
信道
输入量X (随机过程)
P(Y | X ) 信道
输出量Y (随机过程)
信道及信道容量
第5章 信道及信道容量教学内容包括：信道模型及信道分类、单符号离散信道、多符号离散信道、多用户信道及连续信道5．1信道模型及信道分类教学内容：1、一般信道的数学模型2、信道的分类3、信道容量的定义1、 一般信道的数学模型影响信道传输的因素：噪声、干扰。
噪声、干扰：非函数表述、随机性、统计依赖。
信道的全部特性：输入信号、输出信号，以及它们之间的依赖关系。
信道的一般数学模型：2、 信道的分类输出随机信号输入、输出随机变量个数输入和输出的个数信道上有无干扰有无记忆特性3、信道容量的定义衡量一个信息传递系统的好坏，有两个主要指标：图5.1.1 一般信道的数学模型离散信道、连续信道、半离散或半连续信道 单符号信道和多符号信道 有干扰信道和无干扰信道有记忆信道和无记忆信道单用户信道和多用户信道 速度指标质量指标速度指标：信息（传输）率R ，即信道中平均每个符号传递的信息量；质量指标：平均差错率e P ，即对信道输出符号进行译码的平均错误概率；目标：速度快、错误少，即R 尽量大而e P 尽量小。
信道容量：信息率R 能大到什么程度； )/()()/()();(X Y H Y H Y X H X H Y X I R -=-==若信道平均传送一个符号所需时间为t 秒，则);(1Y X I t R t =（bit/s ）称t R 为信息（传输）速率。
分析：对于给定的信道，总存在一个信源（其概率分布为*)(X P ），会使信道的信息率R 达到最大。
（);(Y X I 是输入概率)(X P 的上凸函数，这意味着);(Y X I 关于)(X P 存在最大值）每个给定的信道都存在一个最大的信息率，这个最大的信息率定义为该信道的信道容量，记为C ，即);(max max Y X I R C XXP P ==bit/符号 （5.1.3）信道容量也可以定义为信道的最大的信息速率，记为t C⎭⎬⎫⎩⎨⎧==);(1max max Y X I t R C XX P t P t （bit /s ） （5.1.4） 解释：(1)信道容量C 是信道信息率R 的上限，定量描述了信道（信息的）最大通过能力； (2)使得给定信道的);(Y X I 达到最大值（即信道容量C ）的输入分布，称为最佳输入（概率）分布，记为*)(X P ；(3)信道的);(Y X I 与输入概率分布)(X P 和转移概率分布)/(X Y P 两者有关，但信道容量C 是信道的固有参数，只与信道转移概率)/(X Y P 有关。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
离散无记忆信道DMC
• 信道输入是n元符号X∈{a1, a2, …, an} • 信道输出是m元符号Y∈{b1, b2, …, bm} • 转移矩阵
– 已知X,输出Y统计特性
b1 b2 bm
p11 p12 p1m a1
P
p21
p22
p2m
a2
pn1
pn2
pnm
an
p11
a1
p12
p21
a2
p22
:
:
:
an
pnm
m
p(bj | ai ) 信1道与信道容i量剖析1,2,n
j 1
b1 b2
: : :
bm
6
3.2 离散单个符号信道 及其容量
信道与信道容量剖析 7
信道容量
• 平均互信息I (X;Y)：
– 接收到符号Y后平均每个符号获得的关于X
的信息量。
信道与信道容量剖析 10
无干扰离散信道
• 无噪无损信道
C
max
p(ai )
I
(
X
;Y
)
max
H
(
X
)
max
H
(Y
)
log
2
n
• 有噪无损信道(一对多)
C
max
p(ai )
I
(
X
;Y
)
max
H
(Y
)
log
2
m
• 无噪有损信道(多对一)
C
max
p(ai )
I
(
X
;Y
)
max
H
(
X
)
log
2
n
信道与信道容量剖析 11
3.2.1 对称DMC信道
• 对称离散信道：
• 对称性:
– 每一行都是由同一集{p1, p2,…pm} 的诸元素 不同排列组成——输入对称
– 每一列都是由集{q1, q2,…qn}的诸元素不同 排列组成——输出对称
1 1 1
1 P 3
1 6
1 3 1 6
1 1
6
6
P
1 1
3信道与3信道容量剖析
I(X;Y) H(X ) ቤተ መጻሕፍቲ ባይዱH(X |Y) H(Y) H(Y | X )
H (Y | X ) p(ai ) p(bj | ai ) log p(bj | ai )
i
j
p(bj | ai ) log p(bj | ai )
j
H (Y | ai ) i 1,2,n
H (Y | X ) H (Y |信a道i与) 信道H容量(剖p析1, p2, pm) 15
I(X;Y) i
j
p(xi ) p( y j | xi ) log
p(y j | xi ) p(y j )
n
p( y j ) p(xi ) p( y j | xi ) i 1
• 信道的信息传输率就是平均互信息
信道与信道容量剖析 8
信道容量
• 信道容量C：
– 最大的信息传输率
C max I (X ;Y ) p(ai )
第三章
信道与信道容量
信道与信道容量剖析
内容
3.1 信道分类和表示参数 3.2 离散单个符号信道及其容量 3.3 离散序列信道及其容量 3.4 连续信道及其容量
信道与信道容量剖析 2
信道
• 设信道的输入X=(X1, X2 … Xi,… ), Xi ∈{a1 … an} 输出Y= (Y1, Y2 … Yj,…), Yj ∈{b1 … bm}
对称DMC信道
• 若输入符号和输出符号个数相同,都等于n,且信 道矩阵为
1 p
P
n
p 1
p n 1 1 p
p
n
p
1
n 1
p n 1
p n 1
1
p
• 此信道称为强对称信道 (均匀信道)
– 信道矩阵中信各道与列信道之容量和剖也析 等于1 14
对称DMC信道
• 对称离散信道的平均互信息为
• 信道转移概率矩阵p(Y|X)：
– 描述输入/输出的统计依赖关系,反映信道统计关 系
p(Y|X)
X
Y
信道
信道与信道容量剖析 3
无干扰(无噪声)信道
• 无干扰(无噪声)信道
– 信道的输出信号Y与输入信号X之间有确定 的关系Y=f (X),已知X后就确知Y
– 转移概率:
p(Y
|
X
)
1, 0,
Y f(X) Y f(X)
• 单位时间的信道容量：
1
Ct
T
max
p(ai )
I ( X ;Y )
信道与信道容量剖析 9
信道容量的计算
• 对于一般信道,信道容量计算相当复杂,我们只 讨论某些特殊类型的信道：
• 离散信道可分成： • 无干扰(无噪)信道
– 无嗓无损信道 – 有噪无损信道 – 无噪有损信道
• 有干扰无记忆信道 • 有干扰有记忆信道
I (X ;Y ) H (Y ) H (Y | X ) H ( p p) H ( p)
1 H( p)
信道与信道容量剖析 18
信道与信道容量剖析 17
H(Y) ( p p)log 1 ( p p)log 1
p p
p p
H( p p)
H (Y | X ) p(ai ) p(bj | ai ) log p(bj | ai )
i
j
p(bj | ai ) log p(bj | ai )
j
[ p log p p log p] H ( p)
对称DMC信道
• 对称DMC信道的容量：
C log m H ( p1, p2 pm )
m
log m pij log pij j 1
• 上式是对称离散信道能够传输的最大的平均信息量,它
只与对称信道矩阵中行矢量{p1, p2,…pm }（第二项为矩 阵任一行元素的信息熵 ）和输出符号集的个数m有关。
信道与信道容量剖析 4
有干扰无记忆信道
• 有干扰无记忆信道
– 信道的输出信号Y与输入信号X之间没有确 定的关系,但转移概率满足:
p(Y | X ) p( y1 | x1) p( y2 | x2) p( yL | xL )
• 有干扰无记忆信道可分为: – 二进制离散信道 – 离散无记忆信道 – 离散输入、连续输出信道 – 波形信道
2
1
6
1
3 1 2 1
6
1
3
1
3 6 2
满足对称 性,所对应 的信道是 对称离散 信道。
12
对称DMC信道
• 信道矩阵
1 1 1 1 P 3 3 6 6
1 1 1 1 6 3 6 3
P
0.7 0.2
0.1 0.1
0.2 0.7
• 不具有对称性,因而所对应的信通不是对 称离散信道。
信道与信道容量剖析 13
• 强对称信道的信道容量：
C
log
2
n
信H道与(信1道容p量,剖析p ,, n 1
n
p) 1
16
BSC信道容量
• •
设二进制对称信道的输入概率空间 信道矩阵：
X 0
P
1
P
1 p
p
p 1 p
p p
p p
1
p(b 0) p(ai ) p(b0 | ai ) p p i0
1
p(b 1) p(ai )p(b1 | ai ) p p i0