第5章_无失真信源编码题与答案

第5章_无失真信源编

码题与答案

本页仅作为文档封面，使用时可以删除

This document is for reference only-rar21year.March

有一信源，它有6个可能的输出，其概率分布如题表所示，表中给出了对应的码

E D C B A ,,,, 和

F 。

(1) 求这些码中哪些是唯一可译码； (2) 求哪些是非延长码（即时码）； (3) 对所有唯一可译码求出其平均码长L 。

解：

(1) 唯一可译码：A ，B ，C

A 是等长码，码长3，每个码字各不相同，因此是唯一可译码。

B 是非即时码，前缀码，是唯一可译码。

C 是即时码，是唯一可译码。

D 是变长码，码长}4 ,4 ,4 ,3 ,2 ,1{，不是唯一可译码，因为不满足Kraft 不等式。

10625.132********

321≥=⨯⎪⎭

⎫

⎝⎛+⎪⎭⎫ ⎝⎛+⎪⎭⎫ ⎝⎛+⎪⎭⎫ ⎝⎛=∑-i

l i

r

E 是变长码，码长}4 ,4 ,4 ,4 ,2 ,1{，满足Kraft 不等式，但是有相同的码字，

110053==W W ，不是唯一可译码。

1142121214

21≤=⨯⎪⎭

⎫

⎝⎛+⎪⎭⎫ ⎝⎛+⎪⎭⎫ ⎝⎛=∑-i

l i

r

F 是变长码，码长}3 ,3 ,3 ,3 ,3 ,1{，不满足Kraft 不等式，不是唯一可译码。

1125.1521213

1≥=⨯⎪⎭

⎫

⎝⎛+⎪⎭⎫ ⎝⎛=∑-i

l i

r

(2) 非延长码：A ，C (3)

3125.1616

1

5161416131612411213

=⨯+⨯+⨯+⨯+⨯+⨯=

⋅===∑i

i i C B A l p L L L

设离散信源的概率空间为

⎭⎬⎫⎩

⎨⎧=⎥⎦⎤⎢⎣⎡05.010.015.020.025.025.0654321

s s s s s s P S

对其采用香农编码，并求出平均码长和编码效率。

解：

()%7.897

.2423

.2)( 423.205.0log 05.0...25.0log 25.0log )(7

.2505.041.0315.032.0225.0225.0====⨯++⨯-=-==⨯+⨯+⨯+⨯+⨯+⨯=⋅=∑∑L S H bit p p S H l p L i

i i i

i i η

设无记忆二元信源，其概率995.0 ,005.021==p p 。信源输出100=N 的二元序列。在长为

100=N 的信源序列中只对含有3个或小于3个“1”的各信源序列构成一一对应的一组等长码。

(1) 求码字所需要的长度；

(2) 考虑没有给予编码的信源序列出现的概率，该等长码引起的错误概率E p 是多少 解： (1)

码字中有0个“1”，码字的个数：10

100

=C 码字中有1个“1”，码字的个数：1001

100

=C 码字中有2个“1”，码字的个数：49502

100

=C 码字中有3个“1”，码字的个数：1617003

100

=C 1835.17166751log log 166751

161700495010013

100210011000100===≥≥=+++=+++=i r i l l q l q

r C C C C q i

(2)

码字中有0个“1”，错误概率：()100

995.01=a p

码字中有1个“1”，错误概率：()005.0995.099

2⨯=a p

码字中有2个“1”，错误概率：()()2

98

500.0995.03⨯=a p

码字中有3个“1”，错误概率：()()3

97

500.0995.04⨯=a p

()()0017

.09983.0119983

.0 161700005.0995.04950005.0 995.0100005.0995.01995.0 397298991003

100

2100110001004321=-=-==⨯⨯+⨯⨯+⨯⨯+⨯=+++=N E a a a a N G p p C p C p C p C p G p εε

设有离散无记忆信源

⎭⎬

⎫⎩

⎨⎧=⎥⎦⎤⎢⎣⎡02.005.008.010.015.018.020.022.087654321

s s s s s s s s P S 码符号集}2 ,1 ,0{=X ，现对该信源S 进行三元哈夫曼编码，试求信源熵)(S H ，码平均长度

L 和编码效率η。

解：

满树叶子节点的个数：(){}... ,9 ,7 ,5 ,3231=+=-+k r k r ，8=q ，不能构成满树。

i

i i l w s

1s 1 1 2s 22 2 3s 21 2

4s 20 2 5s 02 2 6s 01 2 7s 000 3 8s 001 3

85

.1302.0305.0208.021.0215.0218.022.0122.0=⨯+⨯+⨯+⨯+⨯+⨯+⨯+⨯=⋅=∑i

i i l p L