信息理论与编码答案 人民邮电出版社

第一章 自我测试题

一、填空题

1. 在认识论层次上研究信息的时候，必须同时考虑到形式、__语义___和__语用___三个方面的因素。

2. 如果从随机不确定性的角度来定义信息，信息是用以消除__随机不确定性___的东西。

3. 信源编码的结果是__减小_冗余；而信道编码的手段是__增加___冗余。

4. _1948_年，香农发表了著名的论文__通信的数学理论__，标志着信息论诞生。

5. 信息商品是一种特殊商品，它有__保存性_性、_共享_性、_老化可能_性和 知识创造性 等特征。 二、判断题

1. 信息传输系统模型表明，噪声仅仅来源于信道（×）

2. 本体论层次信息表明，信息不依赖于人而存在（√）

3. 信道编码与译码是一对可逆变换（×）

4. 1976年，论文《密码学的新方向》的发表，标志着保密通信研究的开始（×）

5. 基因组序列信息的提取和分析是生物信息学的研究内容之一（√）

三、选择题

1.

下列表述中，属于从随机不确定性的角度来定义信息的是__D___ A ． 信息是数据

B ． 信息是集合之间的变异度

C ． 信息是控制的指令

D ． 信息是收信者事先不知道的报道 2.

___B__是最高层次的信息 A ． 认识论 B ． 本体论 C ． 价值论 D ． 唯物论 3.

下列不属于狭义信息论的是__D___ A ． 信息的测度 B ． 信源编码 C ． 信道容量 D ． 计算机翻译 4.

下列不属于信息论的研究内容的是__A___ A ． 信息的产生 B ． 信道传输能力 C ． 文字的统计特性 D ． 抗干扰编码 5.

下列关于信息论发展历史描述不正确的是__B___

A ． 偶然性、熵函数引进物理学为信息论的产生提供了理论前提。

B ． 1952年，香农发展了信道容量的迭代算法

C ． 哈特莱用消息可能数目的对数来度量消息中所含有的信息量，为香农创立信息论提供了思路。

D ． 1959年，香农首先提出率失真函数和率失真信源编码定理，才发展成为信息率失真编码理论。 四、简答题

给定爱因斯坦质能方程2

E mc D =D ，试说明该方程所传达的语法信息、语义信息和语用信息。 语法信息：就是该方程中各个字母、符号的排列形式。

语义信息：E D 为所产生的能量，m D 为质量的变化，2

c 为光速的平方，=表示左右在量值上相等。综合起来就是，质量的微小变化可以产生巨大的能量。

语用信息：该方程可以启发主体在一定条件下，通过物质质量的变化来产生巨大的能量，如果让能量缓慢释放出来，可以得到核能；如果让能量瞬间释放出来，可借以制造核弹。

第二章测试题

一、填空题

1.N 阶平稳信源的N 维分布函数与__时间的起点__无关。

2.在对信源进行观察之前，对认识主体来说，信源存在__先验_不确定性，观察之后，信源还存在_后验_不确定性。

3.联合符号),(j i y x 的不确定性，等于_关于输入k x _的不确定性加上__干扰引入__的不确定性。

4.256个亮度值构成的信源，其熵值最大为__8___比特。

5.无条件熵__>_条件熵，条件多的熵___<__条件少的熵。（填大于或小于） 二、判断题

1.对于DMS ，长度为3的符号串的平均不确定是单个符号平均不确定的3倍。（√）

2.信源内部的关联性，会提高熵值。（×）

3.马尔科夫信源符号的输出不仅与当前的信源状态有关，而且还与以前的状态有关。（×）

4.信息含量效率越高，信源的冗余度也越高。（×）

5.与离散熵相同，微分熵也是非负的。（×） 三、选择题

1.下列物理量，不满足非负性的是（C ）

A. H(X);

B. I(X;Y);

C. I );(j i y x ;

D. H(X

Y

)

2.连续型随机变量的取值受限，那么该随机变量服从___C___时，微分熵最大。

A. 高斯分布；

B. 泊松分布；

C. 均匀分布；

D. 指数分布 3.下列说法中，不正确的是__C____

A. 熵功率

P P ≤_

，其中P 为连续随即变量X 的平均功率

B. 熵功率)

(2_e

21=X h e πP ，其中h(X)是X 的微分熵 C. 若X 平均功率为P ，但不是高斯分布，则eP πIn X h 2>

)(

D. X 的平均功率为P 时（均值非零），则X 得最大熵为eP πX h 2log =)(

4.下列表达式不正确的是__B____

A. )(+)(=)(+)(=)

,(j k j k j k j k y x I y I x y I x I y x I B. );(+);(<);(32131321u u u I u u I u u u I

C. )(+)(=)(+)(=

)(Y X H Y H X Y H X H XY H

D. )(≤)(X H Y X H

5.下列关于马尔科夫信源的叙述中，不正确的是____D___

A. 某一时刻信源符号的输出只与当时的信源状态有关，而与之前的状态无关

B. 信源状态只由当前输出符号和前一时刻信源状态唯一确定

C. 一般马尔科夫信源的信息熵是其平均符号熵的极限值

D. M 阶马尔科夫信源的极限熵等于m+1阶条件熵

第三章自我测试题

一、填空题

1. 有记忆信道的当前输出不仅与___当前时刻的___输入有关，还与___以前的___输入有关。

2. 既代表__收到输出Y 后对输入X 还存有的疑义__，又代表__信道在传输过程中的信息损失__，因此，通常把(|)H X Y 称为信道的__疑义度__或__损失熵___

3. 如果信道给定，那么|(,)X Y X I P P 是输入概率X P 的_上_凸函数。如果信源给定，那么|(,)X Y X I P P 是转移概率X Y P |的_下_凸函数。