现代通信原理(罗新民)指导书-第七章-信源编码-习题详解

第七章 信源编码

7-1已知某地天气预报状态分为六种：晴天、多云、阴天、小雨、中雨、大雨。

① 若六种状态等概出现，求每种消息的平均信息量及等长二进制编码的码长N 。 ② 若六种状态出现的概率为：晴天—0.6；多云—0.22；阴天—0.1；小雨—0.06；中雨—0.013；大雨—0.007。试计算消息的平均信息量，若按Huffman 码进行最佳编码，试求各状态编码及平均码长N 。 解: ①每种状态出现的概率为

6,...,1,6

1

==i P i

因此消息的平均信息量为

∑=-

===6

1

22

/58.26log 1

log i i

i bit P P I 消息 等长二进制编码的码长N ＝[][]316log 1log 22=+=+L 。 ②各种状态出现的概率如题所给，则消息的平均信息量为

6

2

1

2222221log 0.6log 0.60.22log 0.220.1log 0.10.06log 0.060.013log 0.0130.007log 0.0071.63/i i i

I P P bit -

== = ------ ≈ ∑消息

Huffman 编码树如下图所示：

由此可以得到各状态编码为：晴—0，多云—10，阴天—110，小雨—1110，中雨—11110， 大雨—11111。 平均码长为：

6

1

10.620.2230.140.0650.01350.0071.68

i i

i N n P == =⨯+⨯+⨯+⨯+⨯+⨯ =∑—

7-2某一离散无记忆信源（DMS ）由8个字母(1,2,,8)i X i =⋅⋅⋅组成，设每个字母出现的概率分别为：0.25，0.20，0.15，0.12，0.10，0.08，0.05，0.05。试求： ① Huffman 编码时产生的8个不等长码字； ② 平均二进制编码长度N ； ③ 信源的熵，并与N 比较。

解：①采用冒泡法画出Huffman 编码树如下图所示

可以得到按概率从大到小8个不等长码字依次为：

0100,0101,1110,1111,011,100,00,1087654321========X X X X X X X X

②平均二进制编码长度为

8

1

20.2520.2030.1530.1240.140.0840.0540.052.83

i i

i N n P == =⨯+⨯+⨯+⨯+⨯+⨯+⨯+⨯ =∑ ③信源的熵∑=≈-

=8

1

2

79.2log

)(i i i P P x H 。

比较：1)()(+<

7-3一离散无记忆信源每毫秒输出符号集{A ，B ，C ，D ，E ，F ，G ，H}中的一个符号，符号集中各符号出现的概率分别为{0.01，0.03，0.35，0.02，0.15，0.18，0.19，0.07}。 ①试求信源的熵； ②进行Huffman 编码；

③求平均信源编码输出比特速率；

④在有和无信源编码时所需的最小二进制信道比特速率。 解：①信源的熵为

8

21

()log 2.44/i i

i H x P P bit ==- ≈ ∑符号

②Huffman 编码树如下图所示

可以得到各符号的Huffman 编码为：A —011111，B —01110，C —00，D —011110，E —010，F —11，G —10，H —0110。 ③已知码元速率为3

1

/10

B R s -=

符号，而码元平均信息量（即信源熵）为() 2.44/H X bit ≈ 符号，因此平均信源编码输出比特速率为

3() 2.4410/b B R R H x bit s =⋅=⨯

④ 对于信源总共8个符号，无信源编码时，每个符号最少用3bit 表示，因此最小二进制信道比特速率为

3

3

1'3310/10

b R bit s -=

⨯=⨯ 有信源编码时，最小二进制信道比特速率为3

2.4410/b R bit s =⨯ 。

7-4某一DMS 有5种信源符号，每种符号出现的概率均为1/5，试计算以下几种编码情况下

的有效性（效率）。

① 每个符号分别进行等长二进制编码； ② 每两个符号组合进行等长二进制编码； ③ 每三个符号组合进行等长二进制编码。

解：编码效率η定义为每符号信息量H(x)与每符号平均编码长度N 的比值。对于等长编码的扩展编码，编码效率可表示为

22log ()

1[log ]L H x N L J

η=

=

+ 其中5L =表示符号数，J 表示对连续J 个符号统一编码。 ①1,77.4%J η== ②2,92.88%J η== ③3,99.51%J η==

7-5已知基带信号为()11cos cos2f t t t ωω=+，对其进行理想抽样，并用理想低通滤波器来接收抽样后信号。

① 试画出基带信号的时间波形和频谱； ② 确定最小抽样频率；

③ 画出理想抽样后的信号波形及频谱。 解：①基带信号可表示为1113()2cos(

)cos()22f t t t ωω=，可将11

cos()2

t ω视作低频包络，将13cos()2

t ω视作高频振荡，作图如下：

②142f f f m s =≥。

③基带信号f(t)由两个余弦信号相加构成，因此其频谱为两对离散谱线，如下图所示：

7-6已知信号t t x π30cos 4)(=。

①画出用冲激序列对其抽样后的频谱，抽样速率如下： （a ）35样值/秒 （b ）15样值/秒 （c ）10样值/秒

②假设进行以上抽样后的信号通过一重建低通滤波器，低通滤波器的传递函数为 )32

(

)(f f H ∏= 求出每种情况下的输出信号。当抽样信号中存在混叠时，指出输出信号中哪些是混叠成分，哪些是所希望的信号成分。

解：t t x π30cos 4)(=，信号角频率030/rad s ωπ= ，信号频率015f Hz = 。