第二章-信息与信道知识讲解

N
log2
i 1
1 N
log2 N
（bit/符号）
9
2.2 信道的定义与分类
信道是指以传输媒质为基础的信号通道，
它是通信系统必不可少的组成部分，信道的 特性将直接影响到系统的总特性。
信
道
广
义
信道
调 编
制 码
信 信
道 道
恒参信道 随 参 信 道 有记忆信 无 记 忆 信
道 道
狭
义
信
道
无线 有 线
信 信
道 道
10
狭义信道与广义信道
• 狭义信道：发射端和接收端之间传输媒质 的总称，是任何一个通信系统不可或缺的 组成部分。按传输媒质的不同，狭义信道 又可分为有线信道与无线信道两类。
• 广义信道：除包括传输媒质外，还包括有 关的变换装置(如发送设备、接收设备、 馈线与天线、调制器、解调器等)。按照 它包含的功能，广义信道又可以划分为调 制信道和编码信道。
式中: ei(t)－输入的已调信号； eo(t)－输出信号； n(t)－加性噪声，它与ei(t)相互独立； f [ei(t) ]－与输入有关的一个函数，表示
信道对于信号的影响。
16
调制信道的数学模型（续3）
通常， f [ei(t)]可以表示为：k(t)*ei(t)，
此时，eo(t) = k(t)*ei(t) + n(t)
x2 q
且
pq1
试求该符号集的熵 H (p lo 2p g q lo 2q ) g
[ p lo 2 p g ( 1 p ) lo 2 ( 1 g p )]
7
H (P 1 )
1 0 .9 0 .8 0 .7 0 .6 0 .5 0 .4 0 .3 0 .2 0 .1
0 0
二元熵随概率变化情况
n
N
p(xi)lo2gp(xi)（bit/符号） i1
4
例2.1-1 熵的计算
信源由4个符号组成0、1、2、3。各符号出现的概率 分别为1/2、1/4、1/8、1/8，且相互独立，求信源 的平均信息量（熵）。
解：
N
N
H PjIj Pjlo2g(1/pj)
j1
j1
1 2lo 22 g 1 4lo 24 g 8 1lo 28g 8 1lo 28g
第二章-信息与信道
2.1.1 信息量的数学定义
信息量的表示
事件A：出现概率为p(A) 则：
1 IAloagp(A)loagp(A)
单位：a=2 bit 比 特 a=e nit 奈 特 a=10 hatle 哈特莱
2
几种离散信源的信息量
• 二进制码元只有1, 0. 每个码元P＝1/2，且独 立，因此
12331.7b5i/t符号 2488
5
例2.1-2 英文字母和汉字的熵
英文字母的熵 ： H ≈ 4.03 (bit /符号)
中文汉字的熵： H = 9.65 (bit/符号)
法文： 3.98; 西班牙文： 4.01; 英文： 4.03; 俄 文： 4.35
6
例2.1-3 二元符号的熵
X
x1 p
11
调制信道与编码信道
信源
编调发 码制送 器器器
媒 介
接 收 器
解译 调码 器器
信宿
调制信道 编码信道
调制信道用于研究调制与解调问题是方便和恰当的。 编码信道用于研究编码与译码问题时使问题的分析更
容易。
12
2.3 信道的数学模型 • 信道的数学模型用来表征实
际物理信道的特性； • 它对通信系统的分析和设计
把一种数字序列变成另一种数字序列； • 编码信道模型可以用数字的转移概率来描述； • 可分为有记忆编码信道和无记忆编码信道。
18
编码信道的数学模型（续1）
模型中，把P(0/0)、P(1/0)、P(0/1)、P(1/1) 称为信道转移概率。以P(1/0)为例，其含义是 “经信道传输，把0转移为1的概率”。
其中，k(t)表示时变线性网络的特性 ，称为乘性 干扰。
• k(t)是一个复杂的函数，反映信道的衰减、线性失
真、非线性失真、延迟 … 等。
• k(t)=常数，称为恒(定)参(量)信道，如同轴电缆
• k(t)常数，称为随(机)参(量)信道，如移动蜂窝网
通信信道
17
2.3.2 编码信道的数学模型
• 一般把编码信道看成是一种数字信道； • 对信号的影响表现为一种数字序列的变换，即
3
2.1.2 平均信息量—熵（Entropy）
每个事件（符号）所含信息量的统计平均值称 为信源熵。
x1 x2 ... xN p(x1) p(x2) ...p(xN)
N
p(xi ) 1
ห้องสมุดไป่ตู้i1
消息的长度为n=n1+n2+……+nN。
H lim I lim N nilo2gp(xi)
n n n i1
14
调制信道的数学模型（续1）
Si1(t)
时
变
Si2(t)
线
Si(t)
时变线 性网络
So(t)
Sim(t)
性 网 络
m对输入
So1(t) So2(t) Som(t)
二对端网络
多对端网络
15
调制信道的数学模型（续2）
对于二对端的信道模型，其输出与 输入的关系应该有：
eo(t) = f [ei(t)] + n(t)
I=Log2(1/P)=Log22=1 (bit)
• 16进制每个码元出现的概率是P=1/16,且独 立，则
I=Log216=4 (bit)
• 拉丁字母26个，若它们独立等概，则每字母 的
I = Log226 = 4.7 (bit)
• 一级汉字3755个, 若它们独立等概，则每汉 字
I = Log23375 = 11.8(bit)
E n tro p y o f B in a ry S o u rc e
0 .2
0 .4
0 .6
0 .8
P r o b a b i li ty P 1
1
8
熵的性质
（1）非负性
H0
（2）极值性
p(x1)p(x2)P(xN)N 1
N
Hmax p(xi ) log2 p(xi ) i1
1 N
19
2.4 恒参信道举例与分析
恒参信道：对信号的影响是固定的或 变化极为缓慢的。
如：架空明线和电缆、中长波地波传 播、超短波及微波视距传播、人造卫星 中继、光导纤维以及光波视距传播等信 道是恒参信道。
是十分方便的。
13
2.3.1 调制信道的数学模型
调制信道的共性：
–有一对(或多对)输入端和一对(或多对) 输出端；
–绝大多数的信道都是线性的，即满足叠 加原理；
–信号通过信道具有一定的迟延时间，而 且它还会受到(固定的或时变的)损耗；
–即使没有信号输入，在信道的输出端仍 有一定的功率输出(噪声)。