信息论与编码理论_第3章信道容量_习题解答_071102

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

第3章 信道容量

习题解答

3-1 设二进制对称信道的转移概率矩阵为2/31/31/32/3⎡⎤

⎢⎥⎣⎦

解: (1) 若12()3/4,()1/4P a P a ==,求(),(),(|),(|)H X H Y H X Y H Y X 和

(;)I X Y 。

i i 2

i=1

3311

H(X)=p(a )log p(a )log()log()0.8113(/)4444bit -=-⨯-=∑符号

111121*********

j j j=1

32117

p(b )=p(a )p(b |a )+p(a )p(b |a )=43431231125

p(b )=p(a )p(b |a )+p(a )p(b |a )=434312

7755

H(Y)=p(b )log(b )=log()log()0.9799(/)

12121212bit ⨯+⨯=

⨯+⨯=

---=∑符号 22

i j j i j i j i ,H(Y|X)=p(a ,b )logp(b |a )p(b |a )logp(b |a )

2211

log()log()0.9183(/)

3333

i j

j

bit -=-=-⨯-⨯=∑∑符号

I(X;Y)=H(Y)H(Y|X)=0.97990.91830.0616(/)bit --=符号 H(X|Y)=H(X)I(X;Y)=0.81130.06160.7497(/bit --=符号)

(2)求该信道的信道容量及其达到信道容量时的输入概率分布。

二进制对称信息的信道容量

H(P)=-plog(p)-(1-p)log(1-p)

1122

C =1-H(P)=1+log()+log()=0.0817(bit/)

3333符 BSC 信道达到信道容量时,输入为等概率分布,即:{0.5,0.5} 注意单位

3-4 设BSC 信道的转移概率矩阵为

1

12211Q εεεε-⎡⎤=⎢⎥

-⎣⎦

1)写出信息熵()H Y 和条件熵(|)H Y X 的关于1()H ε和2()H ε表达式,其中

()log (1)log(1)H εεεεε=----。

2)根据()H ε的变化曲线,定性分析信道的容道容量,并说明当12εε=的信道容量。

解:(1)设输入信号的概率颁布是{p,1-p}

111121212

()()(|)()(|)(1)(1)p b p a p b a p a p b a p p =⨯+⨯=⨯-ε+-⨯ε212122212()()(|)()(|)(1)(1)

p b p a p b a p a p b a p p =⨯+⨯=⨯ε+-⨯-ε

11221212121212()()log ()()log ()

[(1)(1)]log[(1)(1)][(1)(1)]log[(1)(1)][(1)(1)]

H Y p b p b p b p b p p p p p p p p H p p =--=-⨯-ε+-⨯ε⨯-ε+-⨯ε-⨯ε+-⨯-ε⨯ε+-⨯-ε=⋅-ε+-⋅ε

2

,1

111222212(|)()(|)log (|)

[(1)log(1)1log()](1)[(1)log(1)log()]()(1)()

i j i j i i j H Y X p a p b a p b a p p p H p H ==-=-⨯-ε-ε+εε---ε-ε+εε=⋅ε+-⋅ε∑

(2)()H ε的变化曲线,是一个上凸函数,当输入等概率分布时达到信道容量。

()

()

1212()

max{(;)}max{()(|)}

max{[(1)(1)]()(1)()}p x p x p x C I X Y H Y H Y X H p p p H p H ==-=⨯-ε+-⨯ε-⨯ε+-⨯ε

由于函数H (ε)是一个凸函数,有一个性质:

1212((1))()(1)()f f f θ⋅α+-θ⋅α≥θ⋅α+-θ⋅α

可知:C ≥0

假设12εε==ε时此信道是一个二元对称信道,转移概率分布为:

11Q ε-ε

ε⎡⎤=⎢⎥

ε-⎣⎦ 信道容量:

121-log -(1-)log(1-)1-()

C H εεε

εεεεε==== 3-10 电视图像由30万个像素组成,对于适当的对比度,一个像素可取10个可辨别的亮度电平,假设各个像素的10个亮度电平都以等概率出现,实时传送电视图像每秒发送30帧图像。为了获得满意的图像质量,要求信号与噪声的平均功率比值为30dB ,试计算在这些条件下传送电视的视频信号所需的带宽。 解:

i 1

p(x )=

10

()log10 3.32/I X bit ==像素

1秒可以传送的信息量为:

3.3219/bit bit ⨯⨯⨯⨯7像素3010000像素30=2.989710

103

36log(1),:10log ()3010log(110): 2.999510S S

C B dB N N

S

N

B B HZ

=+

=∴=⨯=+=⨯7已知2.989710可得

3-11 一通信系统通过波形信道传送信息,信道受双边功率谱密度

80/20.510N -=⨯W /Hz 的加性高斯白噪声的干扰,信息传输速率

24R =kbit/s ,信号功率1P =W 。

1)若信道带宽无约束,求信道容量;

解:带限的加性高斯白噪声波形信道的信道容量为

相关文档
最新文档