编码练习题

已知某信源发出的8个信息，其信源概率分布是不均匀的，如下表所示。请对信源进行哈夫曼编码、香农编码和法诺编码，并分别求出其对应的编码效率及压缩比（设未编码前每个信号由3位二进制表示）。（给出H=2.55，给出香农编码中各信号的码字长度）

解：1）哈夫曼编码：

先构造一棵哈夫曼树，并对各叶子结点进行编码（不唯一）：

对应该哈夫曼树的编码如下：

编码前信号的平均码长n=8*3=24 编码后平均码长

S8 S7

Lavg=1*0.4+3*(0.18+0.10)+4*(0.07+0.06+0.10)+5*(0.05+0.04)=2.61 编码效率η=H/Lavg=97.8%

压缩比P=n/Lavg=24/2.61≈9.1954

2)香农编码

编码前信号的平均码长n=8*3=24

编码后平均码长

Lavg=2*0.4+3*0.18+4*(0.10+0.10+0.07)+5*(0.06+0.05+0.04)=3.17 编码效率η=H/Lavg=80.4%

压缩比P=n/Lavg=24/3.17≈7.57

3）法诺编码

编码前信号的平均码长n=8*3=24

编码后平均码长

Lavg=2*(0.4+0.18)+3*(0.10+0.10)+4*(0.07+0.06+0.05+0.04)=2.64 编码效率η=H/Lavg=96.59%

压缩比P=n/Lavg=24/2.64≈9.09