第三章信道
信息论与编码理论-第3章信道容量-习题解答

信息论与编码理论-第3章信道容量-习题解答-071102(总11页)--本页仅作为文档封面,使用时请直接删除即可----内页可以根据需求调整合适字体及大小--第3章 信道容量习题解答3-1 设二进制对称信道的转移概率矩阵为2/31/31/32/3⎡⎤⎢⎥⎣⎦解: (1) 若12()3/4,()1/4P a P a ==,求(),(),(|),(|)H X H Y H X Y H Y X 和(;)I X Y 。
i i 2i=13311H(X)=p(a )log p(a )log()log()0.8113(/)4444bit -=-⨯-=∑符号111121*********j j j=132117p(b )=p(a )p(b |a )+p(a )p(b |a )=43431231125p(b )=p(a )p(b |a )+p(a )p(b |a )=4343127755H(Y)=p(b )log(b )=log()log()0.9799(/)12121212bit ⨯+⨯=⨯+⨯=---=∑符号22i j j i j i j i ,H(Y|X)=p(a ,b )logp(b |a )p(b |a )logp(b |a )2211log()log()0.9183(/)3333i jjbit -=-=-⨯-⨯=∑∑符号I(X;Y)=H(Y)H(Y|X)=0.97990.91830.0616(/)bit --=符号 H(X|Y)=H(X)I(X;Y)=0.81130.06160.7497(/bit --=符号)(2)求该信道的信道容量及其达到信道容量时的输入概率分布。
二进制对称信息的信道容量H(P)=-plog(p)-(1-p)log(1-p)1122C =1-H(P)=1+log()+log()=0.0817(bit/)3333符 BSC 信道达到信道容量时,输入为等概率分布,即:{,} 注意单位3-2 求下列三个信道的信道容量及其最佳的输入概率分布。
第三章离散信道及其信道容量

0
0 1
不是一一对应,无扰有信息损失
1
(2)有扰信道 例3:
a1
0.9
X
0.1
a2
0.2 0.8
b1
Y
b2
0.9 0.1 [P] 0.2 0.8 有扰有信息损失,干扰严重
例4:
a1
X
a2
1/2 1/2 1/2 1/2
b1
Y
b2
1/ 2 1 / 2 [P] 1/ 2 1 / 2
P yi xi P xi yi
即E{log x} ≤log{E(X)}
即E{log x} ≤log{E(X)}
I(X
;Y
)
X
Y
P(x,
y)
log
P( x)P( y) P(x, y)
log
XY
P(x,
y)
P( x)P( y) P(x, y)
log1
0
∴ I(X;Y) ≥ 0
∵ logx为∩ 型凸函数,只有当且仅当 p(x.y)=P(x)P(y),即x和Y统计独立时I(X;Y)=0
根据输入和输出信号的特点,信道可以分为: (1)离散信道。指输入和输出的随机变量的取值都 有是离散的信道。 (2)连续信道。指输入和输出的随机变量的取值都 是连续的信道。 (3)半离散半连续信道。输入变量是离散型的但相 应的输出变量是连续的信道,或者相反。 (4)波形信道。信道的输入和输出都是一些时间上 连续的随机信号。即信道输入和输出的随机变量的 取值是连续的,并且还随时间连续变化。一般用随 机过程来描述其输入和输出。
p( x1 ) 4
a2 1 4
a3 1 4
a4
1
4
1 P 1
通信原理ppt课件——第三章

输出信号
两条路径信道模型
34
频域表示 信道传输函数为
35
信道幅频特性为
若两条路径的相对时 延差 固定,则信 道的幅频特性为:
36
若两条路径的相对时延差相对时延
差
是随机参量 ,则信道的幅
频特性为:
多径传播信道的相关带宽 ——信道传输特性相邻两个零点之间的频率间隔
信道最大多径时延差
37
• 如果信号的频谱比相关带宽宽,则会产生严重的频率 选择性衰落,为了减少频率选择性衰落,就应使信号 的频谱小于相关带宽(通常选择信号带宽为相关带宽 的1/3~1/5)
(噪声)。
根据以上几条性质,调制 信道可以用一个二端口线 性时变网络来表示,该网 络称为调制信道模型:
调制信道模型
4
二端口的调制信道模型,其输出与输入的关系有
一般情况下,
可以表示为信道单位冲激响应c(t)与输入
பைடு நூலகம்
信号的卷积, c(t)的傅里叶变换C(w)是信道传输函数:
或
可看成是乘性干扰
根据信道传输函数 的时变特性的不同,将物理信道分为
21
➢自由空间传播 ——当移动台和基站天线在视距范围之内,这时
电波传播的主要方式是直射波,其传播可以按自由 空间传播来分析。
设发射机输入给天线功率为 (W),则接收天线 上获得的功率为
22
自由空间传播损耗定义为 当发射天线增益和接收天线增益都等于1时
用 dB可表示为
自由空间传播损耗与距离d的平 方成正比,距离越远损耗越大
发送信号
单一频率正弦波
陆地移动多径传播
多径信道一共有n条路径,各条 路径具有时变衰耗和时变传输 时延且各条路径到达接收端的 信号相互独立,则接收端接收 到的合成波为
【精品】第三章 信道容量习题答案

资料内容仅供您学习参考,如有不当之处,请联系改正或者删除17 / 233。
1设信源⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡4.06.0)(21x x X P X 通过一干扰信道,接收符号为Y={y1,y2},信道转移矩阵为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡43416165,求: (1)信源X 中事件x 1和事件x 2分别包含的自信息量;(2)收到消息y j (j=1,2)后,获得的关于x i (i=1,2)的信息量;(3)信源X 和信宿Y 的信息熵;(4)信道疑义度H (X/Y )和噪声熵H(Y/X );(5)接收到信息Y 后获得的平均互信息量.解:1)bit x p x I bitx p x I 322.14.0log )(log )( 737.06.0log )(log )(22222121=-=-==-=-=2)资料内容仅供您学习参考,如有不当之处,请联系改正或者删除18 / 23bit y p x y p y x I bit y p x y p y x I bit y p x y p y x I bit y p x y p y x I x y p x p x y p x p y p x y p x p x y p x p y p 907.04.04/3log )()/(log );( 263.16.04/1log )()/(log );( 263.14.06/1log )()/(log );( 474.06.06/5log )()/(log );(4.0434.0616.0)/()()/()()(6.0414.0656.0)/()()/()()(222222221212122212221211121122212122121111===-===-=======⨯+⨯=+==⨯+⨯=+=3)symbolbit y p y p Y H symbolbit x p x p X H j j j ii i / 971.010log )4.0log 4.06.0log 6.0()(log )()(/ 971.010log )4.0log 4.06.0log 6.0()(log )()(22=+-=-==+-=-=∑∑4)symbolbit Y H X Y H X H Y X H Y X H Y H X Y H X H symbolbit x y p x y p x p X Y H i ji j i j i / 715.0971.0715.0971.0 )()/()()/()/()()/()(/ 715.0 10log )43log 434.041log 414.061log 616.065log 656.0( )/(log )/()()/(2=-+=-+=∴+=+=⨯⨯+⨯+⨯+⨯-=-=∑∑资料内容仅供您学习参考,如有不当之处,请联系改正或者删除18 / 235)symbol bit Y X H X H Y X I / 256.0715.0971.0)/()();(=-=-=3。
第三章 信道模型和信道容量

这是可知疑义度H(X/Y)=0,平均交互信息量达到最大值 I(X,Y)=H(X),C=logr。从平均意义上讲,这种信道可以把信源 的信息全部传递道信宿。这种每列只有一个非0元素的信道也 是一种无噪声信道,称为无噪声信道。
确定信道
这类信道的转移概率等于1或者等于0, 每一列的元素可有一个或多个1,可知其 噪声熵H(Y/X)=0,此时的平均交互信息 量达到最大值。
离散信道
X
P(Y/X)
Y
离散信道分类: 无干扰信道 有干扰无记忆信道 有干扰有记忆信道
离散信道三种表达方式
概率空间描述 X={a1,a2,……ar} P(Y/X)={p(bj/ai)}
j=1,2,……s) Y={b1,b2,……bs} 0≤p(bj/ai)≤1
(i=1,2,……r;
转移矩阵描述
信道组合
串联信道 并联信道
4.4 时间离散的无记忆连续 信道
可加噪声信道
P(y|x)=p(y-x)=p(z)
Hc (Y | X ) Hc (Z ) I (X ;Y ) Hc (Y ) Hc (Z )
可加噪声信道
高斯噪声信道
I
(X
;Y
)
H
(Y
)
Hc
(X
)
1 2
log(1
2 x 2 z
)
例已知一个二元信源连接一个二元信道, 如图给出。X={x1,x2}, [p(xi)]={1/2,1/2}
求I(X;Y),H(X,Y),H(X/Y),和H(Y/X)。
信道容量
C max R max I (X ;Y )bit / 符号
PX
PX
1
Ct
max PX
Rt
第三章 信道

d ( ) ( ) d
(3-1)
) 群延迟频率特性; ( ) ——相频特性。 式中 (—— 理想的相频特性和群延迟特性为线性关系,如图3-2所 示。
( ) K
0
( )
K
0
图 3-2
理想的相频特性和群延迟-频率特性
但实际的信道特性总是偏离线性关系,例如典型 的音频电话信道的群延迟特性如图3-3所示,可以看出, 当不同的音频信号通过该信道时,不同的频率分量将 有不同的群延迟,即它们到达受信端的时间不一致, 从而引起信号的畸变, ( ) / ms 其过程可以由图 3-4 说明。 1.0 2 通过信道后,原信号的基 波相移为,三次谐波的相 移为,则其合成波形与原 信号的波形出现了明显的 f / KHz 0 1.6 差异,这个差异就是由于 群延迟- 频率特性不理想而 图 3-3 典型音频话音信道的 群延迟-频率特性 造成的。
(3-4)
式中, H ( x) ——发送的每个符号的平均信息量; H ( x / y) ——发出符号在有噪信道中平均丢失的信息 量。
4.离散信道的信道容量 信道传输信息的最大速率称之为信道容量C,即
C max R max [ H t ( x) H t ( x / y )
{ P ( x )} { P ( x )}
[例3-2]某一待传输的图片约含2.25106个像元。为 了很好地重现图片需要12个亮度电平。假设所有这些亮 度电平等概率出现,试计算用 3 分钟传送一张图片时所 需的信道带宽(设信道中信噪比为30dB)。
( 1 )频率选择性衰落依赖于相对时延差。多径传 播的相对时延差(简称多径时延差)通常用最大多径时 延差表征,则
f 1/ m (3 1)
第三章离散信道及其信道容量

p(ym/x1)
p(ym/x2) … p(ym/xn)
第一节 信道的数学模型及分类 为了表述简便,可以写成 P(bj / ai ) pij
p11 p P 21 ... pr1 p12 ... p22 ... pr 2 ... p1s p2 s ... prs
i 1 r
P(aibj ) P(ai )P(bj / ai ) P(bj )P(ai / bj )
(3)后验概率
P(ai / b j )
P(aib j ) P(b j )
P(a / b ) 1
i 1 i j
r
表明输出端收到任一符号,必定是输入端某一符号 输入所致
第二节 平均互信息
第三节 平均互信息的特性
1、平均互信息的非负性 I(X;Y)>=0 该性质表明,通过一个信道总能传递一些信息,最 差的条件下,输入输出完全独立,不传递任何信息,互 信息等于0,但决不会失去已知的信息。
2、平均互信息的极值性
I(X;Y)<=H(X) 一般来说,信到疑义度总是大于0,所以互信息总是 小于信源的熵,只有当信道是无损信道时,信道疑义度 等于0,互信息等于信源的熵。
C max{I ( X , Y )} max{H ( X ) H ( X / Y )}
P( X ) P( X )
信道容量与与信源无关,它是信道的特征参数,反 应的是信道的最大的信息传输能力。 对于二元对称信道,由图可以看出信道容量等于 1-H(P)
第四节 信道容量及其一般计算方法
1、离散无噪信道的信道容量 (1)具有一一对应关系的无噪声信道 x1 x2 x3 I(X;Y)=H(X)=H(Y) y1 y2 y3
第三章 信道和信道容量

I(X;Y):接收到Y前、后关于的平均不确定性 的消除 ;或发送X前、后关于Y的平
均不确定性的消除。
可见:熵只是平均不确定性的描述,而不确定性 的消除(两熵之差)才等于接收端所获得的信息 量。获得的信息量不能和不确定性混为一谈。
第三章 信道和信道容量
关于信道容量: 研究:信道中平均每个符号所能传送的信息量,
有损失,是无噪有损信 道,也称确定信道,即: 损失熵:H(X/Y) ≠ 0; 噪声熵:H(Y/X) = 0, I(X;Y)=H(Y)=H(X)-H(X/Y) <H(X)
第三章 信道和信道容量
信道容量仍是最大熵问题(最大H(Y)):
C=max H(Y)=log s bit/符号
P(X)
(设Y有s个符号)
不相交的子集mk,由mk组成的矩阵[P]k是对称矩阵 (具有可排列的性质),则称此信道为准对称信道, 其信道容量:
r为输入符号集个数 即信道矩阵行数 准对称信道中的 行元素 第k个子矩阵 中行元素之和
第k个子矩阵 中列元素之和
第三章 信道和信道容量
例3-1:二元对称删除 信道如图,计算信道容量。
例3-2:准对称信道的信道矩阵为: P(y/x)= 0.5 0.3 0.2 0.3 0.5 0.2 当输入概率分布为p(x1)=ɑ,p(x2)=1-ɑ
且:p=0时,信道无干扰; P=1/2时,信道干扰最为严重。
第三章 信道和信道容量
二、二元删除信道
难以区分原发送信号时,不硬性
判断0或1,而作删除处理。 删除信道中,p=q时,则为 对称删除信道。 三、Z信道 信道特性:0错成1的概率为0, 1错成0有一定可能。
1
0 1 0
p
1-p
1
第三章 信道和信道容量
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
本章研究的主要内容:
1,信号在信道中的传输特性 2,信噪比SNR计算
序言
信道: 逻辑信道-----如编码信道、调制信道和信息论中研究 的信道等 物理信道-----指连接发射机和接收机之间的信号通道
发射机
信道
(本章研究对象)
接收机
本章主要讨论物理信道!
3.1 信道分类
一、分类
按物理形态分 有线:双绞线 电缆、光纤 无线:大气、水 宇宙空间
d0
----某一发射场强的己知点
−
求 L(d )
以db表示的路径损耗
二、计算方法
1) 点天线全向辐射模型 球面积
4π r 2
r'
• p T
r
S
•
'
S ' = PT / 4π r 2
pT
发射功率
S
'
接收点 r 处 的功率密度
二、计算方法
2) 定向辐射模型 PT r 抛物面天线
GT
Pr '
由于天线方向性使接收点的功率加 大了 GT 倍
如果假设 C(τ n ; t ) 广义平稳,则h(f; t ) 也必广义平稳,有:
Rc ( f1 , f 2 ; t ) = 1/ 2 E ⎡ h* ( f1 ; t )h( f 2 ; t + t ) ⎤ ⎣ ⎦
−∞
∫
C (τ ; t ) e − j 2 π
fτ
dτ
推导见书 p.83 页,结果是:
在通信距离、工作频率相同条件下,恒参信道:例 3.4.1 得(见书 p.75页) 变参信道,例 3.5.1 得(见书p.78页)
LS dB = 116.4dB
LP = 167.0(dB)
相差50分贝,十万倍!这是对恒参与 变参性能差异应建立的概念。
3.5 多径衰落信道
3.5.3 多径衰落信号的统计特征
)
( 3.5.18 )
习题 3.27 请证明 (3.5.18)式的表达式。
3.5 多径衰落信道
3.5.4 多径衰落信道的统计描述
一、物理模型
C (τ 1 ; t )
发• g(t)
α1 (t ) g (t − τ 1 (t ))
α 2 (t ) g (t − τ 2 (t ))
C (τ 2 ; t )
一、时间函数特性分析 假设
S (t ) = Re ⎡ g(t )e jωc t ⎤ ⎣ ⎦
Re[ • ]
取实部
令第 n 条路径的延时为 τ n (t ) , 第n条路径信号的幅度衰减因 子为 α n (t ) ,则接收信号是: S(t) 0
g (t )
r (t ) =
t
∑α n (t ) S (t − τ (t ))
二、变参
对流层散射信道
散射体(密集散射)
特征:电波不能直射
3.3 无线信道
二、变参
水声信道 声波传播速度(1500米/秒) 海面反射严重 多径衰落明显 深海、浅海衰落特性不同
3.4 恒参信道的链路计算---计算收、发之间的信号衰减(损耗)
一、计算公式物理模型
发
d0
收
d
d- ---收-发之间的距离
f0
为工作频率 C------- 为光速 B, 电波反射时入射角变化会引 起“波速”变化,用Jakes模型描 述,表达式见书(3.5.32 )式。
( 3.5.31 )
图 3.5.7 Jakes 多普勒模型
3.5.4 多径衰落信道的统计描述
五、信道的均方延时扩展------信道参数实时估算 假设向信道发送一个冲激,收到的多径信号如图
小结
(1)多径衰落信道的频率相关函数只与频差 f 有关; (2)多径衰落信道的频率相关函数是时域相关函数对频差的付 氐变换。
3.5.4 多径衰落信道的统计描述
四、信道的多普勒频谱扩展 1) 数学关系 如 f = 0 即发送单频,但此时频率相关函数与时差有关,有
R c (0; t ) = R c ( t )
( 3.5.14 )
σ
, 2 ----高斯随机过程功率(方差)
上述分析是无直达波情况,如果有直达波,且g(t)=A,则此时接收信 号服从赖斯分布,有
p (r0 ) =
r0 / σ 2 exp ⎡−(r02 + A2 ) / 2σ 2 ⎤ I0 ⎡r0 A / σ 2 ⎤ ⎣ ⎦ ⎣ ⎦
( 0 其它
r0 ≥ 0, A ≥ 0
3.2 有线信道
一、工作频率
图 3.2.1 有线信道 媒质频率范围
3.3 无线信道
一、恒参
微波中继
发 射 接 收
卫星 特点:收发天线 无摭挡,电波直 射
3.3 无线信道
二、变参
移动通信信道
01
Direct Wave
02
特征:接收信 号是多条路径 信号叠加
稀梳散射
多径传播的物理模型
3.3 无线信道
均方延时扩展
2
σ τ 为:
στ = τ − τ
f 0 = 1/ 5σ τ
()
2
,
f c = 1/ σ τ
无需采用均衡的信号带宽
见例3.5.3 ,用该方法可计算某一地点的多径信道参数。
3.6 信道的加性噪声与SNR计算
3.6.1 加性噪声
一、热噪声
e 2 = 4 RkT 0 F
R
T0
F
电阻,单位欧姆 绝对温度 频带宽度
一、噪声系数 F
说明:鉴于在先行课中己有介绍,这儿
F= Ni + Ni 0 N = 1 + i0 Ni Ni
定义:
S (λ ) =
∞
−∞
∫
R c ( t )e − j 2πλ t d t
称为信道的多普勒功率 谱,即单频通过信道后 频谱要展宽
图 3.5.6
3.5.4 多径衰落信道的统计描述
四、信道的多普勒频谱扩展(续) 2) 物理原因 A ,手机移动产生多普勒频移:
fm = ±υ f0 / c υ 为运动速度
( 3.5.2 )
(2)大城市修正因子
f f
≥
a(hm ) = 8.29 [lg (1.54hm ) ] − 1.1(dB)
2
≤ 200MHZ
( 3.5.3 )
400MHZ
2
a (hm ) = 3.2 [lg (11.75hm ) ] − 4.97(dB )
( 3.5.4 )
3.5 多径衰落信道
3.5.2 多径衰落信道的链路损耗 三、例题小结
信道响应平均功率 900MHZ频率 超量延时 城区: Tm 5~12微秒 效区: 0.3~7微秒 时域相关函数 频域相关函数
图 3.5.5
3.5.4 多径衰落信道的统计描述
三、信道的频域相关函数
∞
由于
H(f)=
有: h ( f ; t ) =
−∞ ∞
∫
h (t ) e − j 2π f t d t
收 • r(t)
C(τ n ; t )
α n (t ) g (t − τ n (t ))
分别视各条径为分别独 立的随机系统,其各冲 激响应分别为:
C (τ 1 ; t ) C (τ 2 ; t )
C (τ 1 ; t )
C(τ n ; t )
C(τ n ; t )
图3.5.4
Tm
3.5 多径衰落信道
有:
Pr / PT =G T G r /L S
对于全向天线有:
正比于
( d 2) 1/
Gr =G T =1 P r /P T =1/LS
3.5 多径衰落信道
移动通信工作频率 450 MHZ ~ 2 GHZ 山丘、房屋阻挡,电波一般不能直达,多径传输,形成衰落
3.5.1 移动信道信号衰落特性
1, 自由空间传播损耗
如接收天线也采用抛物面天线,则有: A' = Gr λ 2 / 4π Gr = 4π A' / λ 2 得:
Pr = PT GT Gr (λ /4π r) 2
LS
1/LS
传播损耗
二、计算方法
4) 路径损耗 LS 计算
LS =(4π r/λ) =(4π f d /c)
2
2
d = r 收、发之间的距离 f c 频率 光速
2
GT = 4π A / λ
A----抛物面天线口径面积
A
λ -----波长
GT
发射天线方向性因子,又称天线增 益,由天线尺寸决定
二、计算方法
3) 定向天线接收功率
Pr
'
接收天线处的点功率密度,如用等效面积为 为: A' 的接收天线接收,则接收功率
Pr = Pr ' A' = PT GT A' / 4π r 2
n
= ∑ X n (t ) + ∑ jYn (t ) = X (t ) + jY (t )
n n
X n (t ) = α n (t ) cos θ n (t )
Yn (t ) = α n (t ) sin θ n (t )
(1) 如 X n (t )、Yn (t ) 是随机的,则X (t )、Y (t ) 也是随机的; (2) 不论 X n (t )、Yn (t ) 为何分布,当n 足够大时X (t )、Y (t ) 均服从正态 分布, (3) Z(t )是窄带随机过程,因此即使发送等幅正弦波,接收信号包络也 是随机变化的。
LS (d )
( 正比于 d / d 0 )
n
,n ≥ 2
2, 阴影衰落 ----- 如 房屋、山丘阻挡 3,多径衰落(快衰落)