第2章 信道模型及信道容量
信息论第2章 信道模型及信道容量资料
Information Theory
王逸林
哈尔滨工程大学 2013
Tel: 82519503 E-mail: wangyilin@
第2章 信道模型及信道容量
2.1 2.2 1.3 1.4 1.5 1.6 信道的数学模型及分类 信道传输的平均互信息 平均信息量 消息序列的熵 连续信源的信息度量 信源的相关性和剩余度
明线 对称平衡电缆（市内） 固体介质电缆小同轴（长途） 有线信道 中同轴（长途） 波导 混合介质 光缆 长波 中波 1 传输媒介类型 短波 超短波 移动 空气介质 视距接力 微波 对流层 散射 电离层 卫星 光波
b1 bs 输出 [P]
输入 a1 p(b1 / a1 ) p(bs / a1 ) ar p(b1 / ar ) p(bs / ar )
单符号信道的数学模型：
{ X , p( y / x),Y }
单维离散信道的数学模型
输入输出的联合概率为：
2.1.2 离散信道的数学模型
X
X ( X 1 , X 2 ,...X N )
信道
Y
p( y / x )
Y = (Y1 , Y2 ,...YM )
涉及输入和输出两个随机过程，其之间统计依 赖关系由条件概率 p( y / x )来描述.
包含了信道噪声与干扰的影响 反映了信道的统计特性
以太？
信道的分类
工程物理背景——传输媒介类型； 数学描述方式——信号与干扰描述方式； 信道本身的参数类型——恒参与变参； 用户类型——单用户与多用户； 输入、输出随机变量的个数 ——单符号信道与多符号信道。
第二章 信道
第二章信道信号传输必须经过信道。
信道是任何一个通信系统必不可少的组成部分，信道特性将直接影响通信的质量。
研究信道和噪声的目的是为了提高传输的有效性和可靠性。
2.1 信道的定义和分类它可以分为狭义信道和广义信道。
1．狭义信道：仅只信号的传输媒质。
例如架空明线、电缆、光纤、波导、电磁波等等。
2．广义信道：除了传输媒介外，还包括有关的部件和电路，如天线与馈线、功率放大器、滤波器、混频器、调制器与解调器等等。
在模拟通信系统中，主要是研究调制和解调的基本原理，其传输信道可以用调制信道来定义。
调制信道的范围是从调制器的输出端到解调器的输入端。
在数字通信系统中，我们用编码信道来定义。
编码信道的范围是从编码器的输出端至译码器的输入端。
调制信道和编码信道的划分如图所示。
无论何种信道，传输媒质是主要的。
通信质量的好坏，主要取决于传输媒质的特性。
2.2 信道模型一、 信道模型1．调制信道模型 调制信道具有以下特性：(1) 它们具有一对(或多对)输入端和一对(或多对)输出端。
(2) 绝大多数的信道是线性的，即满足叠加原理。
(3) 信道具有衰减(或增益)频率特性和相移(或延时)频率特性。
(4) 即使没有信号输入，在信道的输出端仍有一定的功率输出(噪声)。
因此，调制信道可以看成一个输出端叠加有噪声的时变线性网络，如图所示。
网络的输入与输出之间的关系可以表示为，式中，e i (t)是输入的已调信号，e 0(t)是信道的输出，n(t)为加性噪声(或称加性干扰)，它与e i (t)不发生依赖关系。
f [e i (t)]由网络的特性确定，它表示信号通过网络时，输出信号与输入信号之间建立的某种函数关系。
作为数学上的一种简洁，令f[e i (t)]=k(t)*e i (t)。
其中，k(t)依赖于网络特性，它对e i (t)来说是一种乘性干扰。
因此上式可以写成)()()()()]([)(t n t e t K t n t e f t e +=+=e i)(])([)(0t n t e f t e i +=讨论：（1）调制信道对信号的干扰有两种：乘性干扰k(t)和加性干扰n(t)。
通信原理第2章习题解答
习题解答2-1、什么是调制信道？什么是编码信道？说明调制信道和编码信道的关系。
答：所谓调制信道是指从调制器输出端到解调器输入端的部分。
从调制和解调的角度来看，调制器输出端到解调器输入端的所有变换装置及传输媒质，不论其过程如何，只不过是对已调制信号进行某种变换。
所谓编码信道是指编码器输出端到译码器输入端的部分。
从编译码的角度看来，编码器的输出是某一数字序列，而译码器的输入同样也是某一数字序列，它们可能是不同的数字序列。
因此，从编码器输出端到译码器输入端，可以用一个对数字序列进行变换的方框来概括。
根据调制信道和编码信道的定义可知，编码信道包含调制信道，因而编码信道的特性也依赖调制信道的特性。
2-2、什么是恒参信道？什么是随参信道？目前常见的信道中，哪些属于恒参信道？哪些属于随参信道？答：信道参数随时间缓慢变化或不变化的信道叫恒参信道。
通常将架空明线、电缆、光纤、超短波及微波视距传输、卫星中继等视为恒参信道。
信道参数随时间随机变化的信道叫随参信道。
短波电离层反射信道、各种散射信道、超短波移动通信信道等为随参信道。
2-3、设一恒参信道的幅频特性和相频特性分别为：其中，0K 和d t 都是常数。
试确定信号)(t s 通过该信道后的输出信号的时域表示式，并讨论之。
解：传输函数d t j je K e H H ωωϕωω-==0)()()(冲激响应)()(0d t t K t h -=δ输出信号)()()()(0d t t s K t h t s t y -=*=结论：该恒参信道满足无失真条件，故信号在传输过程中无失真。
2-4、设某恒参信道的传输特性为d t j eT H ωωω-+=]cos 1[)(0，其中，d t 为常数。
试确定信号)(t s 通过该信道后的输出信号表达式，并讨论之。
解：输出信号为： dt K H ωωϕω-==)()(0)(21)(21)()(2121)(21]cos 1[)(00)()(00000T t t T t t t t t h e e e e e e e e T H d d d T t j T t j t j t j T j T j t j t j d d d d d d --++-+-=++=++=+=+--------δδδωωωωωωωωωω讨论：此信道的幅频特性为0cos 1)(T H ωω+=，相频特性为ωωϕd t -=)(，相频特性与ω成正比，无想频失真；K H ≠)(ω，有幅频失真，所以输出信号的失真是由信道的幅频失真引起的，或者说信号通过此信道只产生幅频失真。
信道容量PPT课件
• I（X;Y）＝H（y）-H（Y/X）
p( y j ) ln p( y j ) p( xi ) p( y j / xi ) ln p( y j / xi )
j i j
(0.3 0.2 ) ln(0.3 0.2 ) (0.5 0.2 ) ln(0.5 0.2 ) 0.5 ln 0.5 0.3 ln 0.3
i
说明:
• (1) 两个公式
p( y j ) p(Y y j ) p( xi ) p( y j / xi )
i 0 q 1
I ( X ;Y ) p( xi ) p( y j / xi ) log
i 0 j 0
q 1 Q1
p( y j / xi ) p( y j )
0.3 0.2 0.5 0.3(1 ) 0.5(1 ) 0.2(1 )
由
p( y j ) xi y j 得
i
p(y1)=0.5 +0.3(1- )=0.3+0.2 p(y2)=0.3 +0.5(1- )=0.5-0.2 p(y3)=0.2 +0.2(1- )=0.2 其中p（y3）恒定，与xi的分布无关。
3)当X和Y统计独立时，接收的Y完全与发送 说明损失的信息达到与输人符号信息熵相等
的程度。可得I（X;Y）=0或C＝0，即信道
的X无关，此时P=0.5及H（X/Y）=H（X），
上没能传送任何信息。
（3）准对称DMC信道的容量
• 什么叫准对称DMC信道? 如果转移概率矩阵P是输入对称而输出不对 称，即转移矩阵P的每一行都包含同样的元素 而各列的元素可以不同，则称该矩阵是准对称 DMC信道。 例如，矩阵
信道与信道容量
1.6.2 信道容量
根据香农信息论，对于连续信道，如果信道带宽为B， 并且受到加性高斯白噪声的干扰，则信道容量的理论公式为
C=B㏒2（1+S/N）（b/s） 式中。 N为白噪声的平均功率； S是信号的平均功率； S/N 为信噪比。信道容量C是指信道可能传输的最大信息速率 （即信道能达到的最大传输能力）。虽然上式是在一定条件 下获得的（要求输入信号也为高斯信号才能实现上述可能 性），但对其他情况也可作为近似式使用。
例1 已知彩色电视图象由5ⅹ105个像素组成。设每个像素有 64种彩色度，每种彩色度有16个亮度等级。设所有彩色度和 亮度等级的组合机会均等，并统计独立。（1）试计算每秒 传送100个画面所需信道容量；（2）如果接受机信噪比为 30dB，为了传送彩色图象所需信道带宽为多少？
例2 设有一个图像要在电话线路中实现传真传输。大约要传输2.25ⅹ106个 像素，每个像素有12个亮度等级。假设所有亮度等级都是等概率的，电 话电路具有3kHz带宽和30dB信噪比。试求在该标准电话线路上传输一 张传真图片需要的最小时间。
在数字通信系统中，如果仅研究编码和解码问题， 可得到另一种广义信道---编码信道。编码信道的范围是 从编码器输出端至解码器输入端。这是因为从编码和解 码角度来看，编码器是把信源产生的消息信号转化为数 字信号。反之，解码器是将数字信号恢复原来的消息信 号；而编码器输出端至解码器输入端之间的一切环节只 是起了传输数字信号的作用，所以可以把它看成一个整 体---编码信道。当然，根据研究问题的不同，还可以定 义其他广义信道。
解： Rb = RBN㏒2N
RBN= Rb／×106 / 29.9 ×103=0.269 ×103s=4.5min
例3 已知八进制数字信号的传输速率为1600波 特。试问变换成二进制数字信号时的传输速率为多 少？ 解： Rb = RBN㏒2N = 1600× ㏒28 = 4800 b/s
第二章 无线信道模型 (一)
[式 6]
CE SHU Feng 31
自由空间传播模型
Friis自由空间模型仅当d为发射天线远场值Pr 时适用 天线的远场或Fraunhofer区定义为超过远场 距离df的地区。Fraunhofer距离定位为：
df = 2D2/λ [式 7]
D为天线的最大物理线性尺寸。
此外对于远场地区，df >> D 和 df >> λ
扩频通信
使用更宽的频带通信
CE
SHU Feng
7
基础知识 -传播
电磁波
易于产生 传播距离远 能穿过建筑物 可用于室内和室外通信 全方向传播 高频电磁波（超过100MHz）通过抛物面天线发射可 集中在较窄的方向上 电磁波的特性与频率有关
低频下，能绕过障碍物，但能量随着距离的增加急剧衰落 高频下，近似于直线传播，遇到障碍物发生反射（能量可 被雨水吸收） 收到其他发射机发出的电磁波的干扰
CE
SHU Feng
28
自由空间传播模型
天线增益与它的有效截面积Ae有关：
G = 4pAe / λ2
有效截面积Ae与天线的物理尺寸相关 λ = c/f = 2pc / wc f 为载频，单位Hz wc 为载频，单位rad/s c 为光速，单位m/s [式 3]
[式 2]
λ 则与载频相关：
CE
SHU Feng
CE
SHU Feng
32
自由空间传播模型——参考距离d0
显然，公式1不包括d=0的情况 为此，大尺度传播模型使用近地距离d0作为接收 功率的参考点
d0 >= df d0 小于移动通信系统中所有的实际距离
当d > d0时，接收功率Pr(d)与d0的Pr(d0)相关 当距离大于d0时，自由空间中的接收功率为：
通信原理-第2章 信道与噪声
一、狭义信道和广义信道
1、狭义信道 、 (1) 狭义信道被定义为发送设备和接收设备之间用 以传输信号的传输媒质。 以传输信号的传输媒质。 (2) 狭义信道分为有线信道和无线信道两类。 两类。 狭义信道分为有线信道和无线信道两类 有线信道 2、广义信道 、 (1) 将信道的范围扩大为：除了传输媒质，还包 将信道的范围扩大为：除了传输媒质， 括有关的部件和电路。 括有关的部件和电路。这种范围扩大了的信道为广 义信道。 义信道。
Y
x1
y1
x2
y2
y3
y4
xL
多进制无记忆编码信道模型
yM
（4）当信道转移概率矩阵中的行和各列分别具有相 ）当信道转移概率矩阵中的行和各列分别具有相 对称信道。 同集合的元素时 这类信道称为对称信道 同集合的元素时，这类信道称为对称信道。
p 1 − p P ( yi / xi ) = p 1 − p
11/66
（5）依据乘性噪声对信号的影响是否随时间变化而 依据乘性噪声对信号的影响是否随时间变化而 乘性噪声对信号的影响是否随时间变化 将信道分为恒参信道和随参信道。 将信道分为恒参信道和随参信道。
v i (t)
H(ω , t )
⊕
n(t)
v 0 (t)
v i (t)
H(ω )
⊕
n(t)
v 0 (t)
2.2
信道模型
信道可用一个时变线性网络来等效
V0(t) = f [V(t)]+n(t) i V(t)输 的 调 号 V0(t)信 总 出 形 i 入 已 信 ， 道 输 波 n(t)加 噪 ； 性 声 f [V(t)]表 已 信 经 信 所 生 时 线 变 i 示 调 号 过 道 发 的 变 性 换
第二章 信道模型
线性时变 滤波器
+ r(t) = c(t,τ )∗si (t) + n(t)
器c(t)
n(t)
n(t)
c(t,τ)
n(t)
加性高斯噪声信道模型
带有加性噪声的线性滤 波器信道模型
带有加性噪声的线性时 5 变滤波器信道模型
国家重点实验室
2.1 信道模型
• 在无线移动通信工作环境中，电波不仅随着传播距离增加会发生弥散 损耗，并且受地形、建筑物的遮蔽影响将产生“阴影效应”；
• 这就是电波传播的路径损耗预测问题，又称为信号中值预 测。信号的中值是指长区间中值。
21
国家重点实验室 Okumura（奥村）模型
Okumura（奥村）模型提供的数据较齐全，应用较广泛， 适用于VHF和UHF频段。
Okumura模型的特点是：
¾ 以准平坦地形大城市地区的场强中值或路径损耗作为基准， ¾ 对于不同的传播环境和地形条件等因素用校正因子加以修正。
Solution: dc = 4ht hr / λ = 800m for the urban microcell and
dc = 4ht hr / λ = 160m for the indoor system.
合适？
14
国家重点实验室
一、信道基本特性
A cell radius of 800 m in an urban microcell system is a bit large: urban microcells today are on the order of 100 m to maintain large capacity.
15
国家重点实验室
信道基本特性
β=2 π / λ
《信道容量》PPT课件
C log r H ( p1, p2 ps ) Nk log M k
k 1
log 2 H ( 1 , 1 , 1 , 1) ( 3 log 3 1 log 1 ) 2488 4 4 4 4
1 1.75 0.811 0h.06（1 比特 / 信道符号） 35
• 另一种简单的方法： • 1.当输入分布为等概率时：计算出各个输出概率
信道容量的取得的过程亦是信源符号概率分布的自我调整的过程某一个输入信源符号对输入提供的平均信息量大于其他符号则势必更多的使用这个信源符号与此同时信源符号的概率分布也就发生了变化和调整由于输入信源符号分布的调整又减少了这个符号对输出提供的平均信息量增加了其他符号提供的平均信息量
第三章
信道与信道容量
h
1
• 求信道容量，必须求出使互信息量达到 最大的信源概率分布p(x)；
• 对于无噪无损信道，当信宿为等概分布 时，信源也为等概分布;
• 问题：对于无噪有损信道，信源的概率 分布是否也为等概分布？
h 18
3.4.2 对称离散信道的信道容量
h 19
对称DMC信道
• 对称离散信道：
• 对称性:
– 每一行都是由同一集{q1, q2,…qs}的诸元素不 同排列组成——输入对称
分布p(bj); • 2.然后计算H(Y); • 3.C=H(Y)max-H(Y/ai);
h 36
• 上题另解：
h 23
• 找一组信源概率分布，使C达到最大。 • 现在P(bj）=1/s，信源的概率分布为： • 假设信源为等概率分布p(ai)=1/r
p(bj ) p(a1) p(bj / a1) p(a2) p(bj / a2) p(am) p(bj / am) 1/ r[ p(bj / a1) p(bj / a2) p(bj / ar )] 1/ r 常数
信道、信道容量、数据传输速率
二、信道的分类
（一）狭义信道的分类
狭义信道，按照传输媒质来划分，可以分为有线信道、无线信道和存储信道三类。
1. 有线信道
有线信道以导线为传输媒质，信号沿导线进行传输，信号的能量集中在导线附用电线传输电信号的架空明线、电话线、双绞线、对称电缆和同轴电缆等等，还有传输经过调制的光脉冲信号的光导纤维。
天波传输：短波、超短波可以通过电离层形成的反射信道和对流层形成的散射信道进行传播。短波电台就利用了天波传输方式。天波传输的距离最大可以达到400千米左右。电离层和对流层的反射与散射，形成了从发射机到接收机的多条随时间变化的传播路径，电波信号经过这些路径在接收端形成相长或相消的叠加，使得接收信号的幅度和相位呈随机变化，这就是多径信道的衰落，这种信道被称作衰落信道。
调制信道的数学模型为：
y(t) = x(t) * h(t;τ) + n(t)
其中x(t)是调制信道在时刻t的输入信号，即已调信号。y(t)是调制信道在时刻t的输出信号。h(t;τ)是信道的冲激响应，τ代表时延，h(t;τ)表示在时刻t、延时为τ时信道对冲激函数δ(t)的响应，描述了信道对输入信号的畸变和延时。*为卷积算子。n(t) 是调制信道上存在的加性噪声，与输入信号x(t)无关，又被称为"加性干扰"。由于信道的线性性质，并且考虑信道噪声，x(t) * h(t;τ) + n(t)就是x(t)通过由信道响应h(t;τ)描述的调制信道的输出。调制信道可以同时有多个输入信号和多个输出信号，这时的x(t)和y(t)是矢量信号。
第2章无线信道第1节无线信道的物理模型
第2 章无线信道引言内容本章目的：很好地理解无线信道。
主要的物理参数；信道建模。
移动无线信道定义的特征是信道强度随时间和频率而变，粗略地两类衰落：大尺度衰落——小区规划；小尺度衰落——设计可靠有效的通信系统，重点。
无线信道模型：电磁波物理模型；输入输出线性时变信道模型——重要的物理参数；随时间和频率变化的新的统计信道模型。
无线电波的多径传输一般直觉影响接收信号强度的两个因素： 距离⇒路径衰减多径⇒相位差绿色信号比蓝色信号到达红接收点的传输距离长1/2λ。
对2.4 GHz 信号，λ(波长) =12.5cm。
产生多径的原因自由空间传播（LOS）。
反射：当电波信号传播碰撞到大大地大于信号波长的障碍物时发生反射。
导体与绝缘体材料（折射）散射：当电波信号传播碰撞到小于信号波长障碍物或小平面（facet）时发生散射。
“混乱”相对波长较小绕射：信号能量绕过障碍物传播的机制称为绕射。
费涅尔区模型是特定的尺度不同：大尺度（数米范围内的平均值）小尺度（在波长量级范围内的测量值）环境特征不同：室外、室内、陆地、海洋、空间、等等。
应用区域不同：宏蜂窝（2km）、微蜂窝（500m）、微微蜂窝。
大尺度传播模型大尺度模型预测距离>> λ的电波传播行为：距离和主要环境特征的函数，粗略地认为与频率无关；当距离减小到一定程度时，模型就不成立了；用于无线系统覆盖和粗略的容量规划建模。
小尺度传播模型小尺度（衰落）模型描述信号在λ尺度内的变化：多径效应（相位抵消）为主，路径损耗（大尺度）可认为是常数；与载波频率和信号带宽有关；着眼于“衰落”建模：在短距离或数个波长范围内信号快速变化。
第2 章无线信道第1 节无线信道的物理模型自由空间，发射和接收天线固定 在远场的任何位置，相应于发射的正弦波cos2πft ，t 时刻电场的表达式为：式中(r , θ, ψ) 表示测量电场的空间点u ，r 为发射天线到点u 的距离，(θ, ψ) 分别表示天线到点u 的垂直和水平夹角； 常数c 为光速，αs (θ, ψ, f ) 是发射天线在频率f 、方向(θ, ψ) 的辐射图案，其中也包含了天线损耗的标量因子。
信道模型文档
信道模型1. 引言信道模型是无线通信领域中的一个重要概念，它描述了信号在传输过程中受到的各种干扰和衰落情况。
了解信道模型可以帮助我们分析和设计无线通信系统，提高通信质量和可靠性。
本文将介绍信道模型的基本概念、常见类型以及相关应用。
2. 信道模型的基本概念信道模型是对无线通信中信号传输过程进行抽象和描述的数学模型。
在信道模型中，我们假设信号是在一定时间和空间上传播的，受到各种干扰和衰落影响。
2.1 信道衰落信道衰落是指信号在传输过程中功率的减小。
常见的原因包括自由空间路径损耗、多径效应、阴影衰落等。
衰落的强度可以通过信号的损失因子或路径损耗指数来描述。
2.2 信号干扰信号在传输过程中可能会受到外部干扰。
干扰可以分为同频干扰和异频干扰两种类型。
同频干扰是指接收信号受到同一频率其他信号的影响，而异频干扰是指接收信号受到其他频率信号的影响。
2.3 信噪比信噪比（Signal-to-Noise Ratio，SNR）是指接收信号与噪声信号的比值。
信噪比描述了信号与噪声的对比情况，是衡量信号质量的重要指标。
信噪比越大，表示噪声对信号的影响越小。
3. 常见的信道模型类型根据信道模型的特点和应用场景，可以将信道模型分为多径衰落信道模型、杂波信道模型和衰落信道模型等。
3.1 多径衰落信道模型多径衰落信道模型是描述由于多径效应引起的信号衰落的模型。
多径效应是指信号在传播过程中经历多个路径，每个路径的传播时间和损失不同，导致接收信号叠加和衰落。
3.2 杂波信道模型杂波信道模型是描述无线通信中受到底噪、窄带干扰和宽带干扰等影响的模型。
底噪是常态存在的背景噪声，干扰源包括其他系统的信号和自然界的噪声。
3.3 衰落信道模型衰落信道模型是描述信号受到大尺度和小尺度衰落的模型。
大尺度衰落由于信号传输距离、遮挡和反射等因素引起，而小尺度衰落由于多径效应引起。
4. 信道模型的应用信道模型在无线通信系统设计和性能评估中起着重要作用。
通过对信道模型的建模和仿真，可以评估系统的容量、覆盖范围和连接质量等性能指标。
无线网络信道建模及其参数估计
无线网络信道建模及其参数估计在现代无线通信领域，无线信道是一个十分关键的概念。
而建立和掌握无线信道模型是实现无线通信系统最基础和必要的一步。
具体来说，无线信道模型是对无线信号在传播过程中受到的各类干扰和衰减的描述，而无线信号的发射和接收都需要借助于信道模型。
因此对无线信道的建模及其参数估计具有非常重要的现实意义。
1. 无线信道建模一般地，对于无线信道，我们可以将其概括为两部分：一是多径信道，在信道中，一个信号可能存在多条不同的路径，在接收端信号总能量的分布形成“多径分布”；另一是干扰信号，信号在传到接收设备时，在传输过程中会受到多种干扰，如衍射、反射、多径、噪声等等，因此会出现信号混杂的情况。
针对上述情况，我们可以建立多种信道模型。
当然，根据实际情况的不同，会有多种不同的模型应用。
下面简单介绍几个代表模型。
1.1. AWGN信道模型AWGN即Additive White Gaussian Noise，也就是加性白高斯噪声信道。
该模型的基本假设就是：所传输的信号在各种环境干扰下，能以高斯分布表示的随机过程。
因此该模型是在平稳信道模型上加入了噪声信号的一个模型。
在无线通信信道中，由于大量的干扰和噪声都能够被用此模型来描述，也是在很多研究工作中用作基础模型。
1.2. Rayleigh信道模型Rayleigh信道模型是对于具有经典多径干扰情形的情况下进行建模的一种信道模型。
可以说Rayleigh信道模型是对多径效应的最基础描述。
其中，Rayleigh fading是单边指数衰落，而这种衰落也可以用及其干扰的形式得到体现。
Rayleigh信道模型是以高斯分布为基础进行推导的，这种模型可以被广泛应用于各种无线通信通道。
1.3. Rician信道模型另一个比较流行的信道模型是Rician信道模型。
这种信道模型假设在接收到主要路径之后，还会收到一个定向性指向同一个基准发射装置波束的反射波。
另一方面，Rician信道模型也可以描述在局部的直视链和多条反射路径的交汇处，导致接收信号中会有丰富的多径干扰的物理环境。
信道容量及其计算PPT课件
6 6 3 3
C log 4 H (1 , 1 , 1 , 1) 2 (1 log 1 1 log 1 1 log 1 1 log 1)
3366
3 33 36 66 6
0,0817(bit / symbol)
第12页/共27页
（2）、准对称信道的容量
准对称信道：信道矩阵（列）的子阵是对称矩阵。
信道容量定义为信道中每个符号所能传递的最大 信息量，也就是最大 I (X；Y)值。
C max{I (X ;Y )} P(x)
此时输入的概率分布称为最佳输入分布。
第5页/共27页
信道容量C与输入信源的概率无关（C只对应着一种 信源概率分布，即最佳概率分布），它只是信道传输概 率的函数（不同的转移概率对应不同的信道），只与信 道的统计特性有关，所以信道容量是完全描述信道特性 的参量。
I(x
k;Y )
j
P(
j
|
k) log
P( j | k) P(i)P( j
|
i)
i
第17页/共27页
一般信道容量的计算方法 （拉格朗日乘子法）
第18页/共27页
（4）、扩展信道的信道容量
定理1：如果信道的输入随机序列为 X (X1, X 2,X N ) 通过信道传输，接收到的随机序列为 Y (Y1,Y2 ,YN ) 若信道是无记忆的，即满足
级联信道：信道1的输出作为信道2的输入。
C min{ C1,C2}
第25页/共27页
第四讲 信道容量及其计算
结束
第26页/共27页
谢谢您的观看！
第27页/共27页
第13页/共27页
例：求二元对称删除信道的C。（例3.8中特例 ）
02 1
信道定义与数学模型
信道对信号的影响不随时间变化 ，即信道参数是恒定的。
统计模型
01
描述信道对信号的统计特性，如 概率分布、均值、方差等。
02
用于评估信号传输性能和设计通 信系统。
多径传播模型
描述信号在传输过程中由于反射、折射和散射等原因引起的多径 效应。
多径效应会导致信号的幅度和相位发生变化，影响信号的传输质 量。
信道定义与数学模型
目
CONTENCT
录
• 引言 • 信道定义 • 信道数学模型 • 信道参数估计 • 信道容量与容量计算 • 结论
01
引言
主题简介
信道定义
信道是通信系统中的重要概念，用于描述信号在传输过程中的变 化和衰减。
数学模型
数学模型是描述信道特性的工具，通过数学模型可以分析信道的 性能和行为。
02
信道定义
信道的基本概念
信道是信息传输的媒介
信道是通信系统中的重要组成部分， 负责传输信息。在通信过程中，信道 负责将发送端输出的信号传输到接收 端，实现信息的传递。
信道具有传输能力
信道具有一定的传输能力，表示其传 输信息的能力。传输能力通常用带宽 和容量等参数来描述，这些参数决定 了信道传输信息的速度和质量。
03
信道数学模型
信道模型的分类
确定模型
描述信号在传输过程中受到的确定性影响，如信号 的幅度和相位变化。
概率模型
描述信号在传输过程中受到的随机影响，如噪声和 干扰。
混合模型
结合确定模型和概率模型，同时描述信号的确定性 和随机性影响。
线性时不变模型
线性
信道对输入信号的影响是线性的 ，即信号的增益和相位变化与输 入信号的幅度和频率成正比。
信道模型及信道容量
p(ai b j ) p(ai ) p(b j ) I (Y ; X )
p(b j ai ) log
i 1 j 1
r
s
p(b j ai ) p(b j ) p(ai )
I ( X ; Y ) I (Y ; X )
结 论 平均互信息特性：
平均互信息量的非负性 平均互信息量的极值性（凸函数） 平均互信息量的交互性（对称性）
单符号信道的数学模型：
{ X , p( y / x),Y }
单维离散信道的数学模型
输入输出的联合概率为：
p(bj ai ) p(ai ) p(bj / ai ) p(bi ) p(a j / bi )
P(ai )
称作输入概率/先验概率
P(bj / ai ) 称作前向概率 P(ai / bj ) 称作后向概率/后验概率
平均互信息量
当信宿Y收到某一具体符号bj(Y=bj)后，推测信 源X发符号ai的概率，已由先验概率p(ai)转变为 后验概率p(ai/bj)，从bj中获取关于输入符号的信 息量，应是互信息量I(ai ; bj)在两个概率空间X 和Y中的统计平均值：
I ( X ; Y ) p(ai b j ) I (ai ; b j )
称为信宿熵
H(Y/X)——散布度，噪声熵。 表示由噪声引起的不确定性的增加。
(3)
I ( X ; Y ) p(ai b j ) log
i 1 j 1
r
s
p(ai b j ) p(ai ) p(b j )
联合熵
H ( X ) H (Y ) H ( XY )
I ( X ;Y ) H ( X ) H ( X / Y ) H (Y ) H (Y / X ) H ( X ) H (Y ) H ( XY )
通信原理第二章(信道)习题及其答案
第二章（信道）习题及其答案【题2－1】设一恒参信道的幅频特性和相频特性分别为0()()d H K t ωϕωω⎧=⎨=-⎩其中，0,d K t 都是常数。
试确定信号()s t 通过该信道后的输出信号的时域表达式，并讨论之。
【答案2－1】 恒参信道的传输函数为：()0()()d j t j H H e K e ωϕωωω-==，根据傅立叶变换可得冲激响应为：0()()d h t K t t σ=-。
根据0()()()i V t V t h t =*可得出输出信号的时域表达式：000()()()()()()d d s t s t h t s t K t t K s t t δ=*=*-=-讨论：题中条件满足理想信道（信号通过无畸变）的条件：()d d H ωωφωωτττ⎧=⎨⎩常数（）＝－或＝ 所以信号在传输过程中不会失真。
【题2－2】设某恒参信道的幅频特性为[]0()1cos d j t H T e ωω-=+，其中d t 为常数。
试确定信号()s t 通过该信道后的输出表达式并讨论之。
【答案2－2】 该恒参信道的传输函数为()0()()(1cos )d j t j H H e T e ωϕωωωω-==+，根据傅立叶变换可得冲激响应为：0011()()()()22d d d h t t t t t T t t T δδδ=-+--+-+根据0()()()i V t V t h t =⊗可得出输出信号的时域表达式：0000011()()()()()()()2211 ()()()22d d d d d d s t s t h t s t t t t t T t t T s t t s t t T s t t T δδδ⎡⎤=⊗=⊗-+--+-+⎢⎥⎣⎦=-+--+-+讨论：和理想信道的传输特性相比较可知，该恒参信道的幅频特性0()(1cos )H T ωω=+不为常数，所以输出信号存在幅频畸变。
其相频特性()d t ϕωω=-是频率ω的线性函数，所以输出信号不存在相频畸变。
高等数学1 信道容量
高等数学1 信道容量
信道容量是指在给定的带宽和信噪比条件下，信道中最大可传输的信息量。
在高等数学中，通常用香农公式来计算信道容量。
香农公式为：
C = B * log2(1 + S/N)
其中，C表示信道容量，B表示信道的带宽，S表示信道传输
中的平均信号功率，N表示信道传输中的平均噪声功率。
该公式的含义是，信道容量与信道带宽成正比，与信噪比成对数关系。
当信噪比增大时，信道容量也会增大。
而当信噪比较小时，信道容量会接近于0，表示信号的信息无法可靠地传输。
需要注意的是，香农公式是基于理想条件下的计算，实际情况中可能会有噪声和其他因素的影响，因此实际传输的信道容量可能会小于理论值。
信道
第三章信道任何一个通信系统从大的方向均可视为由发送端、信道、接收端三大部分组成。
因此信道是通信系统不可缺少的组成部分。
信道的特性好坏直接影响到系统的总特性。
3.1 信道定义与分类为了研究的需要，将有关转换设备一并划入狭义信道，称为广义信道。
广义信道：除传输媒质外，还包括有关发送设备、接收设备、天线、Modem 等。
见图3—1 樊书P343.2 信道数学模型一、调制信道模型在具有调制解调过程的任何一种通信方式中，已调信号离开调制器便进入调制信道，对于Modem而言，通常可以不管调制信号包括什么样的转换器，也不管选用了什么样的传输媒质，以及发生了怎样的传输过程，研究的着眼点只关心已调信号通过调制信道的最终结果，即只关心调制信道输入/输出信号的关系。
因此把调制信道概括成一个模型是可能的。
通过对调制信道进行大量考察之后，发现有如下主要特性：①有一对（或多对）输入端，则必然有一对（或多对）输出端；② 绝大多数的信道都是线性的，满足叠加定理； ③ 信号通过信道有迟延时间； ④ 信号通过信道有损耗；⑤ 无信号输入信道时，仍有（可能）一定的功率输出（噪声）。
由此看来，可用一个二端对（或多端对）的时变线性网络去代替调制信道，这个网络称作调制信道模型（图示）。
对于二端对网络: ()()[]()t n t e f t e i +=0()~t e i 输入的已调信号，()~t e 0 信道输出波形，()~t n 信道噪声（干扰）（加性干扰）;()[]t e f i ～ 表示信道对信号的影响（变换）的某种函数关系。
寻找到这种函数关系是()()t e t k i ⋅ ()~t k 对()t e i 的一种乘性干扰。
可以写成：()()()()t n t e t k t e i +=0如果了解()()t n t k 、的特性，信道对信号的特性就能搞清楚。
()()()()⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧→→无线信道用于信号随机快变化变参应看作随机过程作恒参信道对信号的影响有线信道缓慢固定恒参信道对信号影响乘性干扰t k t k t k , 二、编码信道编码信道对信号的影响是一种数字序列的变换，即把一种数字序列变成另一种数字序列。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
单符号信道的数学模型：
{ X , p( y / x), Y }
单维离散信道的数学模型
输入输出的联合概率为：
p(b j ai ) p(ai ) p(b j / ai ) p(bi ) p(a j / bi )
P ( ai )
称作输入概率/先验概率
P(b j / ai ) 称作前向概率 P(ai / b j ) 称作后向概率/后验概率
信道
Y
p( y / x )
Y = (Y1 , Y2 ,...YM )
涉及输入和输出两个随机过程，其之间统计依 赖关系由条件概率 p( y / x )来描述.
包含了信道噪声与干扰的影响 反映了信道的统计特性
单维离散信道的数学模型
X a1 , P( x) p , 1 a2 , , p2 , , ar 输入 pr 干扰
§2.3 离散信道的信道容量
信息传输率：表征平均每个符号通过信道所传输的信息量。 由于平均互信息代表了信道传输过去的那部分信源信息， 因此传信率数值上就应该等于信道的平均互信息。
R I ( X ; Y ) H ( X ) H ( X / Y )比特 / 符号
有时需要了解信道在单位时间内平均传输的信息量，记作：
§2.1 信道的数学模型及分类
什么是信道？
是传送信息的载体——信号所通过的通道。
信源 信道 信宿
噪声
输出信号产生错误和失真
图2.1 通信系统的简化模型
信道的输入输出信号之间一般不是确定的函数 关系，而是统计依赖的关系！
信道的作用
在信息系统中信道主要用于传输与存储信 息，而在通信系统中则主要用于传输。
p(b
j 1
s
j
/ ai ) 1
当输入为ai时，输出一定是bj中的一个
单维离散信道的数学模型
信道转移矩阵：
b1 bs 输出 [P]
输入 a1 p (b1 / a1 ) ar p (b1 / ar )
p (bs / a1 ) p (bs / ar )
I ( X ;Y ) H ( X )
信道的疑义度总大于零，所以平均互信息量总小于 熵。也就是说当信道的信息传输没损失时，接收信 息量等于信源输出符号平均信息量。
3. 平均交互信息量的交互性
I ( X ; Y ) I (Y ; X )
证明： p(ai b j ) p(b j ai )
I ( X ; Y ) p(ai b j ) log
Rt I ( X ; Y ) / t ( H ( X ) H ( X / Y ))/t比特/秒
信道容量
信道对于一切可能的概率分布而言能够传送 的最大熵速率。
C max{I ( X ; Y )}
p( X )
理论上能传输的最大(有用)信息量 最大信息传输率
定理2.1 在信道转移概率 p( y / x) 给定的条件下，平 均互信息 I ( X ; Y ) 是输入信源概率分布 p( x) 的 型 凸函数。 因此总存在某种信源分布P（x）能使得传信率最大。
互信息量： 先验的不确定性减去尚存在的不确定性。就是收信 者收到的信息量，称为互信息量。得到信息消除了 不确定性，不确定性减少就是所获得的信息量。
1 1 I (ai ; b j ) log log p(ai ) p (ai | b j ) 1 1 log log p (b j ) p(b j | ai ) log 1 1 1 log log p (b j ) p (ai ) p(ai b j )
C3离散半连续信道 C4连续半离散信道
信道的分类
工程物理背景——传输媒介类型； 数学描述方式——信号与干扰描述方式； 信道本身的参数类型——恒参与变参； 用户类型——单用户与多用户； 输入、输出随机变量的个数 ——单符号信道与多符号信道。
恒参信道（时不变信道） 3〉信道参量类型 变参信道（时变信道）
后验概率： P(ai / b j )
m
p(ai b j ) p(b j )
p(ai ) p(b j / ai )
p(a ) p(b
i 1 i
r
j
/ ai )
p(a / b ) 1
j 1 i j
当输出为bj 时，输入一定是ai中的一个
§2.2 信道传输的平均互信息
平均互信息量
称为信宿熵
H(Y/X)——散布度，噪声熵。 表示由噪声引起的不确定性的增加。
(3) I ( X ; Y )
p(a b ) log p(a ) p(b )
i 1 j 1 i j i j
r
s
p ( ai b j )
H ( X ) H (Y ) H ( XY )
联合熵
I ( X ;Y ) H ( X ) H ( X / Y ) H (Y ) H (Y / X ) H ( X ) H (Y ) H ( XY )
以太？
信道的分类
工程物理背景——传输媒介类型； 数学描述方式——信号与干扰描述方式； 信道本身的参数类型——恒参与变参； 用户类型——单用户与多用户； 输入、输出随机变量的个数 ——单符号信道与多符号信道。
离散 根据输入、输出随机信号特点： 连续 信号类型 离散信道—输入、输出随机变量均离散取值 半离散 连续信道—输入、输出随机变量均连续取值 半离散(连续)信道—一为离散，另一为连续 半连续 A B 信源 编码 媒介 译码 信宿 无干扰：干扰少到可忽 略； 无源热噪声 2〉信号与干扰类型 干扰 线性叠加干扰 有源散弹噪声 C1 脉冲噪声 干扰类型 C2 有干扰 交调 C3 C4 乘性干扰 衰落 ——连续信道； C1狭义的传输信道 码间干扰 —— C2广义的传输信道 离散信道；
i 1 r
（j=1,2,…,s)
I (ai ; b j ) log
p(ai / b j ) p(ai )
由互信息量的三种表示方式，可得到平均互 信息量相对应的三种表达形式：
(1) I ( X ; Y ) p (ai b j ) log
i 1 j 1
r
s
p(ai / b j ) p (ai )
损失熵
H(X ) H(X /Y)
称为信源熵或先验熵
H(X/Y)——称为信道疑义度，损失熵。 表示信息在有噪信道中传输所引起的信息量的减少。
(2) I ( X ; Y )
p(a b ) log
i j i 1 ) p (b j )
噪声熵
H (Y ) H (Y / X )
熵的关系
损失熵
H(XY) I(X;Y)
噪声熵
H(X/Y) H(X)
H(Y) H(Y/X)
熵的关系
损失熵
噪声熵
H(XY) H(X) H(X/Y) I(X;Y) H(Y) H(Y/X)
熵的关系
H(XY)
损失熵
H(X/Y)
H(X) H(Y) I(XY)
噪声熵
H(Y/X)
平均互信息I(X；Y)的特征：
C max{I ( X ; Y )}
p( X )
信道容量是确定的，不随输入信源的概率分布 而变化，其大小直接反映了信道质量的高低。
信道容量与输入信源的概率分布无关 只是信道转移概率的函数，只与信道统计特性有关
信道编码定理
信道编码定理 （有噪信道编码定理）即香农第二定理：
设有一离散无记忆平稳信道，其信道容量为C，输入序 列长度为L，只要待传送的信息传输率R<C，总可以找到一 种编码，当L足够长时，译码差错率Pe<ε，ε为任意大于零 的正数。反之，当R>C时，任何编码的Pe大于零。
信息论
Information Theory
王逸林
哈尔滨工程大学 2013
Tel: 82519503 E-mail: wangyilin@
第2章 信道模型及信道容量
2.1 2.2 1.3 1.4 1.5 1.6 信道的数学模型及分类 信道传输的平均互信息 平均信息量 消息序列的熵 连续信源的信息度量 信源的相关性和剩余度
P (bi )
称作输出概率
单维离散信道的数学模型
输出符号概率： p(b j ) p(ai b j ) p(ai ) p(b j / ai )
i 1 i 1 r r
p (b1 ) p ( a1 ) p (b ) p(a ) 2 2 PT p ( b ) p ( a ) s r
平均互信息量的非负性 平均互信息量的极值性 平均互信息量的交互性（对称性） 平均互信息量的凸函数性
1.平均互信息量的非负性
I ( X ;Y ) 0
虽然互信息量可能为负，但平均互信息量一定为 正，除非信道输入和输出完全统计独立，所有的 信息都损失在信道里了。
2.平均互信息量的极值性
平均互信息量
当信宿Y收到某一具体符号bj(Y=bj)后，推测信 源X发符号ai的概率，已由先验概率p(ai)转变为 后验概率p(ai/bj)，从bj中获取关于输入符号的信 息量，应是互信息量I(ai ; bj)在两个概率空间X 和Y中的统计平均值：
I ( X ; Y ) p(ai b j ) I (ai ; b j )
信道
p( y / x)
b1 , b2 , , bs 输出 Y P( y ) q1 , q2 , , qs
输入信号与输出信号间是基于信道的统计依赖关系这种统计依赖关系是 通过条件概率 p( y / x) 来描述的。