《信息论与编码》32教学大纲

成都理工大学工程技术学院

《信息论与编码》课程教学大纲

电信系信息工程教研室主编

2009年10月

—、课程适用层次、专业与参考学时、学分，课程编码

1、适用层次：本科生

2、适用专业：信息工程专业、通信工程专业

3、参考学时、学分：32学时、2学分

4、课程编码：0101C201

二、课程的性质、目的和任务

1、课程的性质：信息的概念和研究范围不断扩大和深化，已迅速渗透到相关学科领域，如无线电技术、自动控制、人工智能、信号与信息处理、网络技术、计算机技术等等，信息论是信息科学和技术的基础理论，信息论与编码是信息工程和通信工程等相关专业的专业限选课程。

2、课程目的和任务：通过本课程的学习，使学生对信息理论和编码理论有一个比较全面和系统的了解，掌握信息论的基本概念、基本理论和基本分析方法，掌握基于香农编码理论的一些信道和信源编码方法，具体包括香农编码、费诺编码、哈夫曼编码、线性码、循环玛、BCH和RS码、卷积码等，为从事信息科学的研究和应用打下坚实的基础。

三、课程内容的基本要求、重点和难点

1、课程基本要求

掌握各种信息量和熵的计算方法及物理含义，离散平稳信源和马尔可夫信源的特点，理解几种特殊连续信源的信源熵和离散无失真信源编码定理。

2、课程的重点和难点

课程的重点：信息的概念和信息论研究的主要内容，平均互信息的定义和性质、各种熵的定义及其之间的关系、离散平稳信源条件熵和极限熵、马尔可夫信源的特点及其极限熵的求解，信道容量的含义，率失真函数的含义，香农编码、费诺编码、哈夫曼编码，三种典型的译码规则、线性分组码、循环码的生成矩阵和编码电路、BCH码、RS码、卷积码的四种描述方法和维特比译码算法。

课程的难点：各种熵的定义及其之间的关系，信道容量的含义，率失真函数的含义，哈夫曼编码，循环码的生成矩阵和编码电路、BCH码、RS码、卷积码的四种描述方法和维特比译码算法。

3、先修课程：线性代数、概率论

四、课程内容与学时分配表

五、课程教学内容和教学基本要求

第一章概论

本章理论教学2学时，习题0次，实验0次，共2学时。

教学目的：信息的概念、信息的性质、信息的分类、模拟通信系统、数字通信系统、信息论的发展简史、信息论的研究内容、编码技术的发展等等。

教学重点：信息的概念和信息论研究的主要内容。

主要教学内容及要求：理解信息的概念，了解通信系统模型、信息论的发展简史、信息论的研究内容、编码技术的发展。

第二章信源熵

本章理论教学6学时，习题0次，实验0次，共6学时。

教学目的：信源的数学模型、信源符号的自信息量、条件自信息量、联合自信息量、互信息及其性质、信源熵及其主要性质、联合熵、条件熵、平均互信息的定义和性质、各种熵之间的关系、平均互信息的凸函数性、数据处理定理、序列信源的熵、离散平稳信源条件熵和极限熵、马尔可夫信源的特点及其极限熵的求解、冗余度、信息变差的含义、连续信源的信源熵的含义、最大连续熵定理和离散无失真信源编码定理等等。

教学重点：平均互信息的定义和性质、各种熵的定义及其之间的关系、离散平稳信源条件熵和极限熵、马尔可夫信源的特点及其极限熵的求解。

教学难点：各种熵之间的关系、最大连续熵定理和离散无失真信源编码定理。

主要教学内容及要求：掌握各种信息量和熵的计算方法及物理含义，离散平稳信源和马尔可夫信源的特点，理解几种特殊连续信源的信源熵和离散无失真信源编码定理。

第三章信道容量

本章理论教学4学时，习题0次，实验0次，共4学时。

教学目的：信道容量的含义、几种特殊信道的信道容量计算公式、连续信道的信道容量、香农公式、信道编码定理、模拟信道容量的证明。

教学重点：信道容量的含义、模拟信道容量的证明。

教学难点：信道容量的含义。

主要教学内容及要求：理解信道容量的含义、信道的分类与描述、具有一一对应关系的无噪信道的信道容量、具有扩展性能的无噪信道的信道容量、具有归并性能的无噪信道的信道容量、强对称离散信道的信道容量、对称离散信道的信道容量、连续信道的信道容量、模拟信道容量的证明、信道编码定理。

第四章信息率失真函数

本章理论教学4学时，习题0次，实验0次，共4学时。

教学目的：率失真函数的含义和性质、保真度准则下的信源编码定理。

教学重点：率失真函数的含义、保真度准则下的信源编码定理。

主要教学内容及要求：理解保真度准则下的信源编码定理、率失真函数的定义域、率失真函数的性质即下凸性，连续和单调递减性，了解离散信源和连续信源的率失真函数的参量表达式。

第五章信源编码

本章理论教学4学时，习题0次，实验0次，共4学时。

教学目的：理解信源编码的作用和实现方法，掌握香农编码、费诺编码、哈夫曼编码。

教学重点：信源编码的作用，香农编码、费诺编码、哈夫曼编码。

教学难点：定长编码定理和变长编码定理的含义。

主要教学内容及要求：理解等长编码定理、变长编码定理、码树图、平均码长、编码效率、均匀量化和非均匀量化的基本思路，掌握香农编码、费诺编码和哈夫曼编码方法。

第六章信道编码

本章理论教学12学时，习题0次，实验0次，共12学时。

教学目的：信道编码的作用及分类、译码规则及其选择原则、线性分组码、循环码、BCH 码、RS码、卷积码等。

教学重点：三种典型的译码规则、线性分组码、循环码的生成矩阵和编码电路、BCH码、RS码的编解码、卷积码的四种描述方法和维特比译码算法。

教学难点：线性分组码的生成矩阵、循环码和卷积码。

主要教学内容及要求：掌握信道编码的作用和分类、突发错误和随机错误、奇偶校验码，重复消息位编码，汉明距离及纠检错能力，掌握最小错误概率译码准则、极大似然译码准则、最小距离译码准则、信道编码的原则以及抗干扰信道编码定理、纠错码及纠错能力、线性分组码、汉明码、循环码的定义和描述、循环码的生成矩阵和编码电路、系统循环码、BCH码、RS码的编解码、卷积码的四种描述方法和维特比译码算法。

六、课程考核办法

1.考核方式：闭卷考试

2.成绩构成：卷面分数占80％，平时考核占20%

3.成绩记载方式：采用百分制的记分方式

七、教材及参考书目

教材：《信息论与编码》，陈运著，电子工业出版社，2007.9

参考书目：

（1）《信息论与编码》，姜丹，中国科学技术出版社，2001

（2）《信息论——基础理论与应用》，傅祖芸，电子工业出版社，2001

（3）《纠错码——原理与方法（修订版）》王新梅，肖国镇，西安电子科技大学出版社，2001

编写单位：信息工程教研室

编写人：刘晓丽