第四章信源编码习题解答

1、一个信源由

1）哪些就是非奇异码？哪些就是唯一可译码？哪些就是即时码？ 2）分别计算每个唯一可译码的平均码长与编码效率。

解:1)A 、B 、C 、D 、E 、F 就是非奇异码。A 、B 、C 、F 就是唯一可译码(E 不满足克拉夫特不等式)。A 、C 、F 就是即时码(B 就是续长码)。 3）编码A:

平均码长:3A L = 码元/消息信源熵:111111

()lb lb 4lb 222441616

H X =-

--?=比特/消息编码效率:max ()/2/3

66.7%lb21

A H H X L H η====码码

编码B 与C:

平均码长:111111

23456 2.1252416161616

B C L L ==+?+?+?+?+?= 码元/消息编码效率:max ()/2/2.125

94.1%lb21

B C H H X L H ηη=====码码

编码F:

平均码长:11

1234 2.524

16F L ??=?

+?+?= ??? 码元/消息编码效率:max ()/2/2.5

80%lb21

F H H X L H η====码码

2、离散无记忆信源X 的概率空间为:1

234567()0.200.190.180.170.150.100.01X x x x x x x x p X ????=????

?? 1)对其进行费诺编码,并计算其编码效率;

2)对其进行哈夫曼编码,并将其编码效率与费诺编码相比较。解:1)费诺编码:

平均码长:()()()0.20.1720.190.180.1530.10.014 2.74L =+?+++?++?=码元/符号信源熵:

()0.20lb0.200.19lb0.190.18lb0.180.17lb0.170.15lb0.150.1lb0.10.01lb0.01 2.60/874H X =-------= 比特符号

编码后平均码元熵:() 2.60874

0.95212.74H X H L

==码比特/码元

编码效率:max 0.9521

95.21%lb2

H H η===码码

2)哈夫曼编码:

码长码字信源X p (X ) 2

x 1

0、

20 2 11 x 2

0、19 3 000 x 3

0、18 3 001 x 4

0、17 3 010 x 5

0、15 4 0110 x 6

0、10 4 0111 x 7

0、01

平均码长:()(

)()0.20.1920.180.170.1530.10.014 2.72L =+?+++?++?=码元/符号编码后平均码元熵:() 2.60874

0.95912.72H X H L

==码比特/码元

编码效率:max 0.9591

95.91%lb2

H H η=

==码码

与费诺编码相比,哈夫曼编码的编码效率要高于费诺编码。

一般情况下哈夫曼编码效率较高,但费诺编码如果每次划分概率很接近,则效率也很高。 3、离散无记忆信源X 的概率空间为:1

2345678()0.220.200.180.10.150.020.050.08X x x x x x x x x p X ????=?????

??? 1)对其进行费诺编码;

2)对其进行哈夫曼编码。解:1)费诺编码:

信源X p (X ) 编码过程码字码长 x 1 0、22 0

0 00 2 x 2 0、20 1 01 2 x 3 0、18 1 0

0 100 3 x 5 0、15 1 101 3 x 4 0、1 1 0 110 3 x 8 0、08 1

0 1110 4 x 7 0、05 1

0 11110 5 x 6

0、02

11111

2)哈夫曼编码:

第四章 信源编码 习题解答

第四章信源编码习题解答