南京工程学院信息论参考试卷H

南京工程学院信息论参考试卷H

一填空题（本题15空，每空1分，共15分）

1 互信息量I(x

i ;y

j

)被定义为（自信息量I（xi））和

（条件自信息量I（xi/yj））两个不确定度之差，是不确

定度被消除的部分，即从y

j

得到的关于（ xi）的信息量。

2 最大后验概率译码指的是（即选取最大的后验概率

就可使译码差错最小）。在（输入等概）时，最大后验概率译码即为最大似然译码。BSC信道的最大似然译码即为（求最小汉明距离的一种译码算法）。

3 信息传输率的定义为（信道中每个信源符号传输的信息量），经信源编码后，信源符号变成了码元符号进入信道传输，此时信息传输率指的是（平均每个码元载荷的信息量）；信息传输速率被定义为（单位时间内传输的信息量），单位为bit/s。

4 若同时抛掷一对色子，设每个色子各面朝上出现的概率均为1/6，则“2和6同时出现”这一事件的自信息量为

（log

2

18=4.17）bit，“两个点数中至少有一个1”这一事件的自信息量为（）bit，“两个3同时出现”这一事件的自信息量为（ 5.17）bit。

5 常用的差错控制方法有（前向纠错）、（检错重发）和混合纠错。

6 码距与检、纠错能力之间的关系是（检错能力+纠错

能力≤d

min

+1 ）。

二判断题（本题10小题,每小题1分,共10分）

1．√2．

×

3．

×

4．

√

5．

√

6．

√

7．

×

8．

√

9．

×

10

．√

（1）完备码是一种监督位得到充分利用的码。

（）

（2）(n,k)线性分组码的最小汉明距离d

min

≤n-k。

（）

（3）由香农公式可以看出，随着带宽无限增加，信道容量也可无限增大。

（）

（4）任意线性分组码中必包含全0码字。

（）

（5）码字集合{1，01，000，0010，0011}是唯一可译码。

（）

（6）信息率失真函数R(D)的值域为[0，H(X)]。

（）

（7） K-L变换是按均方误差最小准则来计算的一种非正交变换。（）

（8）信源的不确定度具有可加性。

（）

（9）任一非系统码的生成矩阵都可以通过行运算转变成系统形式，结果是映射规则不变，码集发生线性变化。

（）

（10）非平稳有记忆随机序列实际信源，其极限熵是不存在的；解决方法是假设其为离散平稳随机序列信源，极限熵存在。

（）

四计算题（本题3小题,共25分）

1. 已知一个信源包含8个符号消息，它们的概率分布如

下表：

1）设信源每秒钟内发出一个符号，求该信源的熵及信息传输速率；

2）对这8个符号作二进制码元的哈夫曼编码，并计算编码效率。（4+4=8分）

2 一组CRC循环冗余校验码，其生成多项式为（X5+X4+X2+1）。假设发送段发送的信息帧中所包含的信息是（1010001101）。试求附加在信息位后的CRC校验码。（6分）

答：生成CRC基本原理是：

1）信息多项式乘以X5，得到X5×（X9+x7+x3+x2+1）

=X14+x12+x8+x7+x5；

2）除以生成多项式（X5+X4+X2+1），得到余数为X3+x2+x→ 01110 3）信息帧的CRC校验码即为01110，发送的帧为

T=101000110101110。

2）16组码字为00000000、00011011、00101101、00110110、01001110、01010101、01100011、01111000、10000111、10011100、10101010、10110001、11001001、11010010、11100100、111111111