信息论与编码 课程总结

《信息论与编码》课程总结

本学期我选修了《信息论与编码》这门课程，信息论是应用近代概率统计方法来研究信息传输，交换，存储和处理的一门学科，也是源于通信实践发展起来的一门新兴应用科学。信息是系统传输，交换，存储和处理的对象，信息载荷在语言，文字，数据，图像等消息之中。本书共学习了9章内容，系统详细的学习和深入了解了信息论的相关基本理论。

第一章首先了解了信息论的相关概念，了解到了信息论所研究的通信系统基本模型，以及香农定理的相关应用。

第二章学习到了熵和互信息这两个重要概念。信源的熵是用来刻画信源发出的消息的平均不确定性，而两个随机变量之间的互信息则表示一个随机变量对另一个随机变量所提供的信息量。

第三章学习到了离散无记忆信源的无损编码。根据香农的信源编码定理，明白了所谓的无损编码是指信源编码的错误概率可以任意小，但并非为零；信源的无损编码通常是对非常长的消息序列进行的。并且了解到了几种不等长编码的算法，例如Huffman 编码，Shannon 编码等编码方法。

第四章主要研究的是信道，信道容量及信道编码定理的相关内容。对信道的研究中，首先是对信道分类和建模，本章主要讨论离散无记忆信道和连续加性高斯噪声信道；其次研究信道容量，这是刻画信道的最重要的参数，最后讨论信道编码定理，该定理刻画了信道可靠传输信息的极限性能。

第五章主要介绍的是率失真理论和保真度准则下的信源编码。与无损压缩编码不同，保真度准则下的信源编码允许有失真，且其压缩编码是降熵的，它要求在满足失真要求下使数据熵率尽可能低，从而降低码率，所以不可能从压缩后的数据中无失真的恢复出原来的消息。第六章主要学到的是受限系统和受限系统编码。在了解了受限系统的相关概念之后，又进一步的了解到了受限系统的有限状态转移图和受限系统的容量和其容量的计算方法等相关重要的知识内容。

第七章主要阐述的是线性分组纠错编码。纠错编码通常也称为信道编码，在通信中信源编码，信道编码和数据转换编码常常是同时使用的，信源编码器执行数据压缩功能，把信源输出中的余度去除或减小。信道编码的编码器则是对经过压缩后的数据家一定数量受到控制的余度，使得数据在传输或接受中发生的差错可以被纠正或被发现。

第八章主要带我们了解了有限域代数的基本知识，本章介绍了循环码是一类非常重要的线性码，他的码字具有循环性。

第九章重点介绍了卷积码，了解了卷积码的冲激响应，生成矩阵和它的树图描述以及状态图描述。

通过本学期的学习，了解到很多原来没接触过的比较抽象化的知识点，信息论与编码这门课程中，不仅有很多抽象的概念，更有很多需要反复巩固和研究的数学公式，需要在今后的学习中，更加努力。这门课程让我更深的了解了通信领域，对学习有很大帮助。最后，谢谢老师一学期的努力授课，我受益匪浅。