信息理论与编码-期末试卷A及答案

一、填空题（每空1分，共35分） 1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。信息论的基础理论是 ，它属于狭义信息论。

2、信号是 的载体，消息是 的载体。

3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，

则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。

4、某离散无记忆信源X ，其概率空间和重量空间分别为1

234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢

⎥⎣⎦⎣⎦和1234

0.5122X x x x x w ⎡⎤⎡⎤

=⎢⎥⎢⎥⎣⎦⎣

⎦

，则其信源熵和加权熵分别为 和 。 5、信源的剩余度主要来自两个方面，一是

，二是 。

6、平均互信息量与信息熵、联合熵的关系是 。

7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。

8、马尔可夫信源需要满足两个条件：一、 ； 二、

。

9、若某信道矩阵为⎥⎥⎥⎥⎦

⎤⎢⎢⎢⎢

⎣⎡01000

1

000001

100，则该信道的信道容量C=__________。 10、根据是否允许失真，信源编码可分为 和 。

12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用

于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。 13、差错控制的基本方式大致可以分为 、 和混合纠错。

14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。

15、码字101111101、011111101、100111001之间的最小汉明距离为 。

16、对于密码系统安全性的评价，通常分为 和 两种标准。 17、单密钥体制是

指 。

18、现代数据加密体制主要分为 和 两种体制。 19、评价密码体制安全性有不同的途径，包括无条件安全性、 和 。

20、时间戳根据产生方式的不同分为两类：即 和 。

二、选择题（每小题1分，共10分）

1、下列不属于消息的是（ ）。 A. 文字 B. 信号 C. 图像 D. 语言

2、设有一个无记忆信源发出符号A 和B ，已知43

41)(,)(==B p A p ，发出二重符号序列消息的信源，无记忆信源熵)(2

X H 为（ ）。

A. 0.81bit/二重符号

B. 1.62bit/二重符号

C. 0.93 bit/二重符号 D . 1.86 bit/二重符号

信息论与编码

3、 同时扔两个正常的骰子，即各面呈现的概率都是1/6，若点数之和为12，则得到的自信息为（ ）。

A. －log36bit

B. log36bit

C. －log (11/36)bit

D. log (11/36)bit

4、 二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，x0: 发出一个0 、 x1: 发出一个1、 y0 : 收到一个0、 y1: 收到一个1 ，则已知收到的符号，被告知发出的符号能得到的信息量是（ ）。

A. H(X/Y)

B. H(Y/X)

C. H( X, Y)

D. H(XY)

5、一个随即变量x 的概率密度函数

P(x)= x /2，V 20≤≤x ，则信源的相对熵为（ ）。

A . 0.5bit B. 0.72bit C. 1bit D. 1.44bit

6、 下面哪一项不属于熵的性质：

（ ）

A ．非负性

B ．完备性

C ．对称性

D ．确定性 7、根据树图法构成规则，

（ ）

A ．在树根上安排码字

B ．在树枝上安排码字

C ．在中间节点上安排码字

D ．在终端节点上安排码字

8、下列组合中不属于即时码的是（ ）。

A. { 0，01，011}

B. {0，10，110}

C. {00，10，11}

D. {1，01，00}

9、 已知某（6，3）线性分组码的生成矩阵⎥⎥⎥

⎦

⎤

⎢⎢⎢⎣⎡=011101110001111010G ，则不用计算就可判断出下列码中不

是该码集里的码是（ ）。

A. 000000

B. 110001

C. 011101

D. 111111

10、下列保密编码中属于现代密码体制的是（ ）

A. 凯撒密码

B. Vigenere 密码

C. 韦维纳姆密码

D. DES 加密算法

三、简答题（四小题，共23分）

1、请简述现代密码系统应当满足的条件。(4分)

2、请简述连续信源最大熵定理的主要内容。（6分）

3、请解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则的含义，并说明三者

的关系。（5分）

答：

信息论与编码

4、已知密钥为yes，请利用多表代换密码中的Vigenere（维吉尼亚）密码原理分别对下列明文和密文进行编码和译码。明文：A Mathematical Theory of Communication；密文：G ee y hgaxgp (需给出码表或编译码过程，8分)

四、计算题（四小题，共32分）

1、居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？（5分）

2、设离散符号信源为12

1/43/4

x x

X

P

⎡⎤

⎡⎤

=⎢⎥

⎢⎥

⎣⎦⎣⎦

，试求：

（1）信源的熵、熵的相对效率以及剩余度；

（2）求二次扩展信源的概率空间及其信源熵。(10分)

3、已知6符号离散信源的出现概率为

⎥

⎥

⎦

⎤

⎢

⎢

⎣

⎡

32

1

32

1

16

1

8

1

4

1

2

1

6

5

4

3

2

1

a

a

a

a

a

a

，试写出Huffman编码的码字并求其平均码长。（7分）

信息论与编码