信息传输技术原理及应用

●信息

●一、填空题

●1、单符号离散信源一般用随机变量描述，而多符号信源一般用随机矢量描述。

●2、离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。

●3、对于一阶马尔可夫信源，其状态空间共有个不同的状态。

●4、根据输入输出的信号特点，可将信道分成离散信道、连续信道、半离散或半连续信道。

●5、对于离散无记忆信道和信源的N次扩展，其信道容量= NC

●6、信道编码论定理是一个理想编码存在性理论，即：信道无失真传递信息的条件是信息传输速率小于信道容量。

●7、信源编码的目的是提高通信的有效性。

●8、对于香农编码、费诺编码和霍夫曼编码，编码方法唯一的是香农编码。

●9、在多符号的消息序列中，大量重复出现的，只起暂时作用的符号称为冗余位。

●10、若纠错码的最小距离为d,则可以纠错任意小于等于个差错。

●11、线性分组码是同时具有分组特性和线性特性的纠错码。

●14、信源编码与信道编码之间的最大区别是，信源编码需减少信源的剩余度，而信道编码需增加信源的剩余度。

●15、离散信源的熵值H(X)越小，说明该信源消息之间的平均不确定性减弱。

●16、信源符号间的相关程度越大，则信源的符号熵越小，信源剩余度越大。

●17、唯一可译码的码长必须满足Kraft不等式。

●18、R（D）是满足D准则下平均传送每个信源符号所需要的最少比特数，它是定义域上严格的递减函数。

●19、AWGN信道下实现可靠通信的信噪比下界-1.59dB，此时对应的频带利用率为0。

●20、对于含有n个信源符号的离散信源，其最大熵值为。对于连续信源，当幅度受限时，均匀分布具有最大熵，当平均功率受限时，

高斯分布具有最大熵

●21、同时掷出两个正常的骰子，骰子分六面，每一面出现的概率是1/6，则“两个1同时出现”这一事件的自信息量为5.17比特。

●22、已知信源的各个符号分别为字母A、B、C、D，现用四进制码元表示，每个码元的宽度为10ms，如果每个符号出现的概率分别为

1/5，1/4，1/4，3/10，则信源熵H(X)为1.985比特/符号，在无扰离散信道上的平均信息传输速率为198.5比特/秒。

●23、已知8个码组，（000000）、（001110）、（010101）、（011011）、（100011）、（101101）、（110110）、（111000）。则该码组的最小码距为

3，若只用于检错可检测2位错码，若只用于纠错可纠正1位错码。

●24、能获得最佳码的编码方式主要有香农编码、费诺编码、和霍夫曼编码。

●25、八进制脉冲是二进制脉冲所含信息量的3倍。

●26、1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

●27、对于n元m阶马尔可夫信源，其状态空间共有nm个不同的状态。

●28、信道编码的最终目的是为了提高信号传输的可靠性。

简答题

●1、什么叫信息？

●答：信息是事物运动状态或存在方式的不确定性的描述。

●2、信源冗余度

●信源冗余度：信源冗余度也就是信源剩余度，它是指信源所含信息量与符号所能携带的最大信息量之间差别的度量。

●3、什么是线性分组码

●线性分组码：分组码的信息码元与监督码元之间的关系为线性关系时，这种分组码就称为线性分组码。而分组码是一组固定长度的码

组，可表示为（n , k），通常它用于前向纠错。在分组码中，监督位被加到信息位之后，形成新的码。在编码时，k个信息位被编为n 位码组长度，而n-k个监督位的作用就是实现检错与纠错。

●4、什么是熵功率？

●熵功率：若平均功率为P的非高斯分布的信源具有熵为h，称熵也为h的高斯信源的平均功率为熵功率。

●5、什么是信源编码，试述香农第一编码定理的物理意义？

●答：所谓信源编码就是对信源的原始符号按一定的规则进行变换，以新的编码符号代替原始信源符号，从而降低原始信源的冗余度。

●香农第一编码定理的物理意义：无失真信源编码的实质就是对离散信源进行适当的变换，使变换后新的码符号信源（信道的输入信源）

即可能等概分布，以使新信源的每个码符号平均所含的信息量达到最大，从而使信道的信息传输率R达到信道容量C，实现信源与信道理想的统计匹配。

●6、若有一信源

●每秒钟发出2.66个信源符号。将此信源的输出符号送入某一个二元信道中进行传输（假设信道是无噪无损失），而信道每秒

钟只传递2个二元符号。试问信源不经过编码能否直接与信道连接？通过适当编码能否与信道连接？采用何种编码，为什么？

●答：因信源符号速率大于信道传输速率（2.66>2），所以不能直接连接

●因为

●所以，可以通过当编码在次信道中无失真的传输。可对信源的N词扩展信源进行无失真信源编码，只要N足够大取适当的编码就能

与信道匹配。

●7、香农第二定理（信道编码定理）指出了“高效率、高可靠性”的信道编码存在性。则：

●（1）高效率、高可靠性的含义是什么？

●（2）存在这种信道编码的条件是什么？

●（3）重复码是否是否满足“高效率、高可靠性”的条件，为什么？

●（4）当前是否存在接近香农信道容量界的信道编码？

●答：（1）高效率是指信息传输速率接近信道容量，高可靠性是指译码错误概率任意小。

●（2）存在这种信道编码的必要条件是信息传输速率小于信道容量。

●（3）重复码不满足“高效率、高可靠性”的条件，因为当。

●（4）当前存在接近香农信道容量界的信道编码。

●8、简述信息的特征。

●答：信息的基本概念在于它的不确定性，任何已确定的事物都不含信息。

●接收者在收到信息之前，对它的内容是不知道的，所以信息是新知识、新内容。

●信息是能使认识主体对某一事物的未知性或不确定性减少的有用知识。

●信息可以产生，也可以消失，同时信息可以被携带、贮存及处理。

●信息是可以量度的，信息量有多少的差别。

●9、简单介绍哈夫曼编码的步骤。

●①将信源消息符号按其出现的概率大小依次排列

●p(x1)≥p(x2)≥…≥p(xn)

●取两个概率最小的符号分别配以0和1，并将这两个概率相加作为一个新符号的概率，与未分配码元的符号重新排队。

●对重排后的两个概率最小符号重复步骤2的过程。

●继续上述过程，直到最后两个符号配以0和1为止。

●从最后一级开始，向前返回得到各个信源符号所对应的码元序列，即相应的码字。

●11、名词解释

●奇异码

●包含相同的码字的码称为奇异码。

●码距

●两个等长码字之间对应码元不相同的数目，称为码距。

●输出对称矩阵

●转移概率矩阵的每一列都是第一列的置换（包含同样元素），则该矩阵称为输出对称矩阵。

计算题

●1、（10分）由符号集合{0，1}组成的二阶马氏链，转移概率为：p(0/00)=0.8，p(0/11)=0.7，p(1/00)=0.2，p(1/11)=0.3，p(0/01)=0.5，p(0/10)=0.4，

p(1/01)=0.5，p(1/10)=0.6。画出状态图，并计算各状态的稳态概率。

●解：由已知条件可知题目的状态转移高率矩阵如下：

00

01

10

11