信息论与编码技术 实验指导书
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，信息源的随机性，信息的不确定性。
讲解信息的度量方法，如香农熵、相对熵等。
1.2 信道模型与容量介绍信道的概念，信道的传输特性，信道的噪声模型。
讲解信道的容量及其计算方法，如单符号信道、多符号信道等。
第二章：信源编码与压缩2.1 信源编码的基本概念介绍信源编码的定义、目的和方法。
讲解信源编码的基本原理，如冗余度、平均冗余度等。
2.2 压缩算法与性能评价介绍无损压缩算法，如霍夫曼编码、算术编码等。
讲解有损压缩算法，如JPEG、MP3等。
分析各种压缩算法的性能评价指标，如压缩比、重建误差等。
第三章：信道编码与错误控制3.1 信道编码的基本概念介绍信道编码的定义、目的和方法。
讲解信道编码的基本原理，如纠错码、检错码等。
3.2 常见信道编码技术介绍常用的信道编码技术，如卷积码、汉明码、奇偶校验等。
分析各种信道编码技术的性能，如误码率、编码效率等。
第四章：数字基带传输4.1 数字基带信号与基带传输介绍数字基带信号的概念，数字基带信号的传输特性。
讲解数字基带信号的传输方法，如无编码调制、编码调制等。
4.2 基带传输系统的性能分析分析基带传输系统的性能指标，如误码率、传输速率等。
讲解基带传输系统的优化方法，如滤波器设计、信号调制等。
第五章：信号检测与接收5.1 信号检测的基本概念介绍信号检测的定义、目的和方法。
讲解信号检测的基本原理，如最大后验概率准则、贝叶斯准则等。
5.2 信号接收与性能分析分析信号接收的方法，如同步接收、异步接收等。
讲解信号接收性能的评价指标，如信噪比、误码率等。
第六章：卷积编码与Viterbi算法6.1 卷积编码的基本原理介绍卷积编码的定义、结构及其多项式。
讲解卷积编码的编码过程，包括初始状态、状态转移和输出计算。
6.2 Viterbi算法及其应用介绍Viterbi算法的原理，算法的基本步骤和性能。
讲解Viterbi算法在卷积编码解码中的应用，包括路径度量和状态估计。
信息论与编码实验指导书
信息理论与编码实验教学指导书(试用教材)电子信息工程系2019年4月实验1.1 汉明码的编译码实验板实验一、实验目的1． 学习汉明码编译码的基本概念； 2． 掌握汉明码的编译码方法； 3． 验证汉明码的纠错能力。
二、实验仪器1． RZ9681实验平台 2． 实验模块： ● 主控模块● 信道编码与频带调制模块-A4 ● 频带解调与信道译码模块-A5 3． 100M 双通道示波器 4． 信号连接线 5． PC 机（二次开发）三、实验原理3.1汉明编译码介绍汉明码（Hamming Code ）是一个可以有多个校验位，具有检测并纠正一位错误代码的纠错码，所以它也仅用于信道特性比较好的环境中，如以太局域网中，因为如果信道特性不好的情况下，出现的错误通常不是一位。
汉明码的检错、纠错基本思想是将有效信息按某种规律分成若干组，每组安排一个校验位进行奇偶性测试，然后产生多位检测信息，并从中得出具体的出错位置，最后通过对错误位取反（也是原来是1就变成0，原来是0就变成1）来将其纠正。
3.2汉明编译码原理汉明码编码采用()4,7汉明码，信息位数4=k ，监督位数3=-=k n r ，可以纠一位错码，生成矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1101000101010001100101110001G ，编码情况见表 1。
表 1()4,7 Hamming 编码表汉明码译码计算校正子[]321,,S S S S =,其中24561a a a a S ⊕⊕⊕= 13562a a a a S ⊕⊕⊕= 03463a a a a S ⊕⊕⊕=校正子S 的值决定了接收码元中是否有错码，并且指出错码的位置，见表2。
表2 错码位置示意3.3 举例说明信息位10013456=a a a a ，根据表 1()4,7 Hamming 编码表，编码为1001100，如果在信道传输的过程中产生一位误码，编码接收时变为1101100，我们计算校正子：124561=⊕⊕⊕=a a a a S 113562=⊕⊕⊕=a a a a S 003463=⊕⊕⊕=a a a a S校正子110=S ，查找表2 错码位置示意，5a 产生误码，则译码输出信息位1001。
信息论与编码实验指导书
《信息论与编码》实验指导书前言当前，信息论与编码已经成为电子信息类专业高年级学生必修的专业基础课。
尽管各个院校开设课程名称有所不同，但都是以香农信息论为核心内容的。
这是一门理论性和系统性很强的课程。
涉及多个学科，需要广泛数学知识。
为了能透彻掌握信息论基本概念和分析方法，做实验进行实践练习是不可缺少的环节。
通过综合性、验证性实验，可以加深对理论和概念的理解，增强分析和解决实际问题的能力。
为此，河北工业大学信息学院编写了《信息论与编码实验指导书》，由于可供参考的实验指导书有限，本书的不妥和错误之处，恳请读者予以批评指正。
马杰2008年2月目录实验一信息熵与图像熵计算--------------------------------------- 1实验二 Huffman 编码实验------------------------------------------ 6实验三算术编码实验------------------------------------------------ 11 实验四 CRC校验编码实验------------------------------------------17实验一信息熵与图像熵计算（2学时）一、实验目的1．复习MATLAB的基本命令，熟悉MATLAB下的基本函数。
2．复习信息熵基本定义, 能够自学图像熵定义和基本概念。
二、实验内容1．能够写出MATLAB源代码，求信源的信息熵。
2．根据图像熵基本知识，综合设计出MATLAB程序，求出给定图像的图像熵。
三、实验仪器、设备1．计算机－系统最低配置 256M内存、P4 CPU。
2．Matlab仿真软件－ 7.0 / 7.1 / 2006a 等版本Matlab软件。
四、实验原理1． MATLAB中数据类型、矩阵运算、图像文件输入与输出知识复习。
2．利用信息论中信息熵概念，求出任意一个离散信源的熵（平均自信息量）。
自信息是一个随机变量,它是指某一信源发出某一消息所含有的信息量。
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 实验目的1. 了解信息的基本概念及其度量方法；2. 掌握信息的熵、冗余度和信道容量等基本概念。
1.2 实验原理1. 信息的基本概念：信息、消息、信源等；2. 信息的度量：平均信息量、熵、冗余度等；3. 信道容量和编码定理。
1.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
1.4 实验步骤1. 讲解信息的基本概念及其度量方法；2. 分析实际例子，演示信息的熵、冗余度和信道容量的计算过程；3. 让学生通过实验软件进行相关计算和分析。
1.5 思考与讨论1. 信息量与消息长度的关系；2. 信道容量在实际通信系统中的应用。
第二章：数字基带编码2.1 实验目的1. 掌握数字基带编码的基本原理；2. 学会使用相关软件进行数字基带编码的仿真。
2.2 实验原理1. 数字基带编码的定义和分类；2. 常用数字基带编码方法：NRZ、RZ、曼彻斯特编码等；3. 数字基带编码的性能评估：误码率、带宽利用率等。
2.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
2.4 实验步骤1. 讲解数字基带编码的基本原理和方法；2. 演示常用数字基带编码的仿真效果；3. 让学生通过实验软件进行数字基带编码的仿真实验。
2.5 思考与讨论1. 数字基带编码的优缺点；2. 如何在实际通信系统中选择合适的基带编码方法。
第三章：信道编码与误码控制3.1 实验目的1. 了解信道编码的基本原理；2. 掌握常见的信道编码方法；3. 学会使用相关软件进行信道编码的仿真。
3.2 实验原理1. 信道编码的定义和作用；2. 常用信道编码方法：卷积编码、汉明编码、里德-所罗门编码等；3. 误码控制原理：检错、纠错等。
3.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
3.4 实验步骤1. 讲解信道编码的基本原理和方法；2. 演示常用信道编码的仿真效果；3. 让学生通过实验软件进行信道编码的仿真实验。
信息与编码理论实验指导书
实验一 信道容量的迭代算法一、 实验目的1、掌握信道容量的概念。
2、了解迭代法计算信道容量的流程。
3、熟悉Matlab 程序的设计和调试方法。
二、 实验要求1、学习Matlab 软件编程和调试方法；2、输入：任意一个信道转移概率矩阵。
包括信源符号个数、信宿符号个数、信道转移概率，在程序运行时从键盘输入；3、输出：输入的信道矩阵、信道容量C 。
三、 算法描述1. 初始化信源分布),,,,,(21)0(r i p p p p p ⋅⋅⋅⋅⋅⋅= （一般初始化为均匀分布），置迭代计数器0=k ,设信道容量相对误差门限为,0,>δδ可设-∞=)0(C ； 2. r i p pp p i k i ij k i ij k ji ,,2,1)()()(⋅⋅⋅==∑ϕ；s j ,,1⋅⋅⋅= 3. r i p p p i j k ji ij j k ji ij k i ,,1ln exp ln exp )()()1(⋅⋅⋅=⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡=∑∑∑+ϕϕ 4. ⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡=∑∑+i j k ji ij k p C )()1(ln exp ln ϕ 5. 如果,)1()()1(δ≤-++k k k C C C 转向76. 置迭代序号k k →+1，转向27. 输出)1(+k i p 和)1(+k C 的结果8. 停止四、 实验报告内容1、画出信道容量迭代算法流程图；2、给出实验结果的截图（输入信道矩阵和信道容量计算结果）；3、对各种情况的实验结果进行分析和检验。
附：实验用Matlab 源程序。
（如果使用了非给定源程序）实验报告提交：电子文档（邮箱：yangxiaoping2004@ ）实验过程：结果出来时，请实验老师检查并做记录（1个结果即可）。
实验二 唯一可译码判决准则一、 实验目的1、了解唯一可译码的概念。
2、掌握唯一可译码判决准则。
3、掌握Matlab 程序调试方法。
信息论实验指导书
信息理论与编码实验指导书电子与电气工程学院罗晓琴编实验要求1、实验前认真阅读实验指导书的内容，并完成预习任务。
2、复习Matlab的相关知识，完成仿真。
3、要熟悉本次实验的任务。
4、实验过程中要认真记录实验结果，仿真结果需经指导教师审阅。
5、实验后每位同学要独立完成实验报告的内容。
目录实验一离散信源的自信息量和熵 (3)实验二最大离散熵定理 (6)实验三费诺编码 (9)实验四霍夫曼编码 (13)实验五香农编码 (16)实验一：计算离散信源的自信息量和熵一、实验目的1、熟悉离散信源的特点。
2、学习Matlab仿真离散信源的方法。
3、学习离散信源自信息量和信源熵的计算方法。
4、熟悉 Matlab 编程。
二、实验设备1、计算机2、软件：Matlab三、实验原理本实验主要完成信源概率分布的自信息量以及信源熵的计算。
计算公式如下：一个字符它所携带的信息量是和该字符出现的概率有关，概率可以表征自信息量的大小自信息的计算公式为：21()l o g aI a p 自信息量有两个含义：第一、当事件发生前，表示该事件发生的不确定性；第二、当事件发生后，标是该事件所提供的信息量．自信息量的单位取决于对数所取的底，若以2为底，单位为比特，以e 为底，单位为奈特，以10为底，单位为哈特。
在通信系统中，通常取比特为单位，底数2略去不写。
由于自信息I(a)是一个随机变量，不能用来表征整个信源的不确定度。
所以我们用平均自信息量来表征整个信源的不确定度。
平均自信息量就是信源输出所有消息的自信息的数学期望，又称为信息熵、信源熵，简称熵。
熵（平均自信息）的计算公式为：22111()log log qq i i i i i i H x p p p p ====-∑∑ 信息熵H （x ）是对信源的平均不确定性的描述。
它从平均意义上来表征信源的总体信息测度。
对于某特定的信源，其信息熵是一个确定的数值。
信息熵具有如下三种物理意义。
第一，信息熵H （x ）是表示信源输出后，每个消息或符号所提供的平均信息量。
《信息论与编码技术》实验教案
卷积码编码与译码方法探讨
卷积码原理
理解卷积码的基本原理和编码过程，包括卷积码 的生成函数和约束长度等概念。
编码实现
通过编程实现卷积码的编码过程，掌握卷积码编 码算法的实现方法。
译码方法
探讨卷积码的译码方法，包括维特比译码算法等 ，并通过仿真实验进行验证。
差错控制编码技术应用实践
应用场景
了解差错控制编码技术在通信、存储等领域的 应用场景和需求。
差错控制编码方法
介绍常用的差错控制编码方法，如奇偶校验码、循 环冗余校验码（CRC）等，并分析其性能特点。
阐述差错控制的基本概念、原理及其在数字 通信系统中的重要性。
差错控制策略设计与实现
通过实验，设计并实现一种基于特定编码方 法的差错控制策略，评估其在数字通信系统 中的性能。
图像压缩编码算法研究及实现
实验内容
设计并实现一个离散信道信息传输系统，通过输入不同的信源符号序列和信道 参数，观察并分析系统性能。
离散信道中的信息传输实验
实验步骤
1
2
1. 确定信源符号集及其概率分布；
3
2. 设计合适的信道编码方案；
离散信道中的信息传输实验
01
3. 在离散信道中实现编码后的信号传输；
02
4. 在接收端进行解码并计算误码率；
详细阐述Turbo码的编码算法、译码算法的具体实现步骤，包括交 织器设计、分量编码器选择、迭代译码算法等。
性能评估方法
介绍Turbo码性能评估的主要指标，如误码率、误帧率等，以及相 应的仿真实验方法和结果分析。
LDPC码编译码算法研究
LDPC码基本原理
介绍LDPC码的定义、分类、编码原理、译码原理等基本概念。
信息论实验指导书
信息论与编码实验指导书任课教师：刘亚荣桂林理工大学电计系Matlab基础：1、变量不需指定类型，拿来就用；变量区分大小写2、向量定义： x=[1/2, 1/4, 1/4](行向量); y=(0:360)*pi/180; 向量的转置x’（列向量）3、 .* ./ .^运算，逐个元素进行运算。
例x1=[1/2, 1/4, 1/4], x2=[2, 4,4]，则x1*x2没定义；x1*x2’有定义（=3）；x1.*x2有定义（逐元素相乘=[1,1,1]）4、变量值显示：如果一行的后面没有分号，则显示出该行的变量结果。
如a=3 显示出a=3。
5、画图命令plot(x,y); x（向量）是一系列坐标， y（向量）是一系列值。
6、求和：sum(), 求积分：求微分：符号微分diff(f)——求f对自由变量的一阶微分diff(f,v)——求f对符号变量v的一阶微分diff(f,v,n)——求f对符号变量v求n阶微分符号积分int(f,v) ——求表达式f的对符号变量v的不定积分int(f,v,a,b) ——求表达式f的对符号变量v的在(a,b)范围内定积分7 M函数文件的基本结构函数文件由function语句引导，其基本结构为：function 输出形参表=函数名(输入形参表)注释说明部分函数体语句说明：(1)关于函数文件名: 函数文件名与函数名也可以不相同。
当两者不同时，MATLAB将忽略函数名而确认函数文件名，因此调用时使用函数文件名。
(2)关于注释说明部分。
注释说明包括三部分内容：①紧随函数文件引导行之后以%开头的第一注释行。
②第一注释行及之后连续的注释行。
③与在线帮助文本相隔一空行的注释行。
(3)关于return语句。
执行到该语句就结束函数的执行，程序流程转至调用该函数的位置。
通常，在函数文件中也可不使用return语句，这时在被调函数执行完成后自动返回。
8显示图形1、%plot函数绘制结果t= 0:pi/100:2*pi; %定义数据点y = sin(t);plot(t,y) %显示图形grid on %显示网格xlabel('t'); %显示x轴的变量ylabel('sin(t)'); %显示y轴的变量2、%plot 函数中x-y 副的使用t = 0:pi/100:2*pi;y = sin(t);plot(t,y)grid ony2 = sin(t-0.25);y3 = sin(t-0.5);plot(t,y,t,y2,t,y3)实验一：计算离散信源的熵一、实验设备:1、计算机2、软件：Matlab二、实验目的:1、熟悉离散信源的特点；2、学习仿真离散信源的方法3、学习离散信源平均信息量的计算方法4、熟悉 Matlab 编程；三、实验内容:1、写出计算自信息量的Matlab 程序2、写出计算离散信源平均信息量的Matlab 程序。
《信息理论与编码》课程设计指导书
《信息理论与编码》课程设计指导书指导教师：设计专业及班级：设计时间：一、设计的作用、目的《信息论与编码》是一门理论与实践密切结合的课程,课程设计是其实践性教学环节之一，同时也是对课堂所学理论知识的巩固和补充。
其主要目的是加深对理论知识的理解，掌握查阅有关资料的技能，提高实践技能，培养独立分析问题、解决问题及实际应用的能力。
通过完成具体编码算法的程序设计和调试工作，提高编程能力，深刻理解信源编码、信道编译码的基本思想和目的，掌握编码的基本原理与编码过程，增强逻辑思维能力，培养和提高自学能力以及综合运用所学理论知识去分析解决实际问题的能力，逐步熟悉开展科学实践的程序和方法。
二、设计任务及要求题目一：二进制哈夫曼编码的分析与MATLAB实现1．理解无失真信源编码的理论基础，掌握无失真信源编码的基本方法；2．根据哈夫曼编码算法，考虑一个有多种可能符号（各种符号发生的概率不同）的信源，得到哈夫曼编码和码树；3．掌握哈夫曼编码的优缺点；4．能够使用MATLAB或其他语言进行编程，编写的函数要有通用性，要理解每个函数的具体意义和适用范围，对主要函数的功能和参数做详细说明，要求程序输出显示所有的码字，平均码长，编码效率。
题目二：线性分组码编码的分析与MATLAB实现1．理解信道编码的理论基础，掌握信道编码的基本方法；2．掌握生成矩阵和一致校验矩阵的作用和求解方法；3．针对线性分组码分析其纠错能力，并能够对线性分组码进行译码；4．能够使用MATLAB或其他语言进行编程，实现编码及纠错，编写的函数要有通用性。
题目三：费诺编码的分析与实现1．理解无失真信源编码的理论基础，掌握无失真信源编码的基本方法；2．根据费诺编码算法，考虑一个有多种可能符号（各种符号发生的概率不同）的信源，得到费诺编码；3．掌握费诺编码的优缺点；4．能够使用MATLAB或其他语言进行编程，编写的函数要有通用性，要理解每个函数的具体意义和适用范围，对主要函数的功能和参数做详细说明。
信息论与编码实验指导书
《信息论与编码》实验指导书网络与通信工程学院2014年6月目录实验一绘制信源熵函数曲线 (3)实验二哈夫曼编解码 (6)实验三离散信道容量 (10)1实验一绘制信源熵函数曲线（2学时）一、实验目的1.掌握离散信源熵的原理和计算方法。
2.熟悉matlab软件的基本操作，练习应用matlab软件进行信源熵函数曲线的绘制。
3.理解信源熵的物理意义，并能从信源熵函数曲线图上进行解释其物理意义。
二、实验原理1.离散信源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。
离散信源只能产生有限种符号。
假定X是一个离散随机变量，即它的取值范围R={x1，x2，x3，…}是有限或可数的。
设第i个变量x i发生的概率为p i=P{X=x i}。
则：定义一个随机事件的自信息量I（x i）为其对应的随机变量x i出现概率对数的负值。
即：I（x i）= -log2p(x i)定义随机事件X的平均不确定度H（X）为离散随机变量x i出现概率的数学期望，即：∑∑-==i ii ii ixpxpxIxpXH)(log)()()()(2单位为比特/符号或比特/符号序列。
平均不确定度H（X）的定义公式与热力学中熵的表示形式相同，所以又把平均不确定度H（X）称为信源X的信源熵。
必须注意一下几点：a)某一信源，不管它是否输出符号，只有这些符号具有某些概率特性，必有信源的熵值；这熵值是在总体平均上才有意义，因而是个确定值，一般写成H（X），X是指随机变量的整体（包括概率分布）。
b)信息量则只有当信源输出符号而被接收者收到后，才有意义，这就是给与信息者的信息度量，这值本身也可以是随机量，也可以与接收者的情况有关。
c) 熵是在平均意义上来表征信源的总体特征的，信源熵是表征信源的平均不确定度，平均自信息量是消除信源不确定度时所需要的信息的量度，即收到一个信源符号，全部解除了这个符号的不确定度。
或者说获得这么大的信息量后，信源不确定度就被消除了。
《信息论与编码技术》实验教案
《信息论与编码技术》实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，理解信息的含义学习信息熵的计算方法，掌握信息熵在通信系统中的应用1.2 信源与信道模型学习信源的数学模型，理解信源的随机性和统计特性学习信道的数学模型，了解信道的传输特性第二章：信源编码2.1 信源编码的基本概念理解信源编码的目的和意义学习信源编码的基本原理和方法2.2 常用信源编码技术学习霍夫曼编码、算术编码等常用信源编码技术掌握编码算法的实现和应用第三章：信道编码3.1 信道编码的基本概念理解信道编码的目的和意义学习信道编码的基本原理和方法3.2 常用信道编码技术学习卷积编码、汉明编码等常用信道编码技术掌握编码算法的实现和应用第四章：误码控制与编码技术4.1 误码产生的原因与类型了解通信系统中误码的产生原因和类型学习误码的检测与纠正方法4.2 错误控制编码技术学习自动重传请求（ARQ）、前向纠错（FEC）等错误控制编码技术掌握编码算法的实现和应用第五章：信息加密与安全5.1 信息加密的基本概念理解信息加密的目的和意义学习信息加密的基本原理和方法5.2 常用加密技术学习对称加密、非对称加密等常用加密技术掌握加密算法的实现和应用第六章：数据压缩技术6.1 数据压缩的基本概念理解数据压缩的目的和意义学习数据压缩的基本原理和方法6.2 常用数据压缩技术学习霍夫曼编码、LZ77、LZ78等常用数据压缩技术掌握压缩算法的实现和应用第七章：数字信号传输7.1 数字信号传输的基本概念理解数字信号传输的目的和意义学习数字信号传输的基本原理和方法7.2 数字信号传输技术学习基带传输、频带传输等数字信号传输技术掌握传输算法的实现和应用第八章：调制与解调技术8.1 调制与解调的基本概念理解调制与解调的目的和意义学习调制与解调的基本原理和方法8.2 常用调制与解调技术学习幅度调制、频率调制、相位调制等常用调制技术掌握调制与解调算法的实现和应用第九章：无线通信与编码技术9.1 无线通信的基本概念理解无线通信的目的和意义学习无线通信的基本原理和方法9.2 无线通信编码技术学习扩频技术、多址技术等无线通信编码技术掌握编码算法的实现和应用强调实验的重要性和在实际应用中的作用10.2 拓展学习推荐相关的学习材料和参考书籍鼓励学生探索新技术和发展趋势，提高学生的学习兴趣和动力重点和难点解析重点环节一：信息的概念与度量信息熵的计算方法是理解信息论的核心，需要重点掌握。
信息论与编码实验指导书
信息论与编码实验指导书1 课程实验目的本课程是一门实践性很强的专业课和核心课程,根据课程理论教学的需要安排了6学时的配套实验教学,主要内容涉及信息度量的计算方法、典型信源编码方法、典型信道容量计算方法和数据压缩方法四个实验,这四个实验的开设一方面有助于学生消化、巩固课程理论教学的知识,另一方面又可培养学生实践动手能力,同时为后续课程做好准备;2 课程实验要求课程实验准备要求1课程实验主要为设计性实验,要求学生熟悉掌握在VC环境下编写和调试C++程序的方法;2要求学生在实验前复习实验所用到的预备知识;可以查阅教材或者相关的参考资料,这需要学生有自主的学习意识和整理知识的能力;3根据实验项目,设计相关的数据结构和算法,再转换为对应的书面程序,并进行静态检查,尽量减少语法错误和逻辑错误;上机前的充分准备能高效利用机时,在有限的时间内完成更多的实验内容;课程实验过程要求1生成源代码;将课前编写好的书面代码,利用VC自带的编辑器尽快输入为转换为源代码；2程序调试和软件测试;要求学生熟练掌握调试工具,调试正确后,认真整理源程序和注释,给出带有完整注释且格式良好的源程序清单和结果;3完成实验报告;根据实验内容和完成情况,按照附件1给定的格式完成课程实验报告的编写;课程实验报告要求在每次课程实验后要及时进行总结和整理,并编写课程实验报告;报告格式按江西蓝天学院实验报告纸格式填写;实验一二维随机变量信息熵的计算实验目的掌握二变量多种信息量的计算方法;实验学时2学时实验准备1．熟悉二变量多种信息量的计算方法,设计实验的数据结构和算法；2．编写计算二维随机变量信息量的书面程序代码;实验内容及步骤离散二维随机变换熵的计算说明：1利用random函数和归一化方法构造一个二维离散随机变量X,Y；2分别计算X与Y的熵、联合熵、条件熵：HX、HY、HX,YHX|Y、IX|Y；3对测试通过的程序进行规范和优化；4编写本次实验的实验报告;附实验一主要内容及源程序实验一离散二维随机变量信息熵的计算1 实验内容1利用random函数和归一化方法构造一个二维离散随机变量X,Y；2分别计算X与Y的熵、联合熵、条件熵：HX、HY、HX,YHX|Y、IX|Y；2 数据结构与算法描述1函数的定义：函数的数据成员1.随机生成函数的代码：int k,n,t=0;double a44,b=0,c=0;for k=0;k<4;k++{for n=0;n<4;n++{akn=rand%100;t+=akn;}}cout<<"从到间随机取得行列的random函数："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw5<<akn;}cout<<endl;}2.函数归一化代码：cout<<"函数归一化："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw12<<akn/t;}cout<<endl;}3. HY、 HX计算代码：cout<<"HY计算："<<setw20<<"HX计算："<<endl;int e=1;for k=0;k<4;k++{double i=0,g=0;for n=0;n<4;n++{i+=akn/t;g+=ank/t;}cout<<"PY"<<k+1<<"："<<i<<setw8<<"PX"<<e<<"："<<g<<endl;++e;b-=ilogi/log;c-=glogg/log;}cout<<"HY=-∑pYlog pY="<<b<<endl;cout<<"HX=-∑pXlog pX="<<c<<endl;4.联合熵HX,Y计算代码：cout<<"联合熵HX,Y计算："<<endl;b=0;int r,u,h=0;for k=0;k<4;k++{for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/log;}else{r=k,u=n;h=1;break;}}}if h==0cout<<"HX,Y=-∑∑pX,Ylog pX,Y="<<b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;5.条件熵HX|Y计算代码：cout<<"条件熵HX|Y计算："<<endl;b=0,h=0;for k=0;k<4;k++{double i=0;for n=0;n<4;n++{i+=akn/t;}for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/i/log;}else {h=1;break;}}}if h==0{cout<<"HX|Y=-∑∑PX,YlogPX,Y/PY="<<b<<endl;}else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;cout<<"IX|Y计算："<<endl;if h==0cout<<"IX|Y=HX-HX|Y="<<c-b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;2主函数main 实现初始化操作,完成对子函数的调用因为整个程序是写在main函数中,就不列出,会在下面源程序清单中给出程序;3 实验数据与实验结果这里设定函数为4行4列的随机矩阵;然后函数归一化,即：把所有数字相加,再用每个数去除,就得到了归一化后的矩阵;而HX、HY、HX,YHX|Y、IX|Y就根据课本上的公式,然后编程;输出结果如下：4 程序代码清单：include<>include<cmath>include<iomanip>include<>include<iostream>using namespace std;void main{int k,n,t=0;double a44,b=0,c=0;srand unsigned timeNULL;for k=0;k<4;k++{for n=0;n<4;n++{akn=rand%100;t+=akn;}}cout<<"从0到100间随机取得行列的random函数："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw5<<akn;}cout<<endl;}cout<<"函数归一化："<<endl;for k=0;k<4;k++{for n=0;n<4;n++{cout<<setw12<<akn/t;}cout<<endl;}cout<<"HY计算："<<setw20<<"HX计算："<<endl;int e=1;for k=0;k<4;k++{double i=0,g=0;for n=0;n<4;n++{i+=akn/t;g+=ank/t;}cout<<"PY"<<k+1<<"："<<i<<setw8<<"PX"<<e<<"："<<g<<endl;++e;b-=ilogi/log;c-=glogg/log;}cout<<"HY=-∑pYlog pY="<<b<<endl;cout<<"HX=-∑pXlog pX="<<c<<endl;cout<<"联合熵HX,Y计算："<<endl;b=0;int r,u,h=0;for k=0;k<4;k++{for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/log;}else{r=k,u=n;h=1;break;}}}if h==0cout<<"HX,Y=-∑∑pX,Ylog pX,Y="<<b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;cout<<"条件熵HX|Y计算："<<endl;b=0,h=0;for k=0;k<4;k++{double i=0;for n=0;n<4;n++{i+=akn/t;}for n=0;n<4;n++{if akn=0{b-=akn/tlogakn/t/i/log;}else {h=1;break;}}}if h==0{cout<<"HX|Y=-∑∑PX,YlogPX,Y/PY="<<b<<endl;}else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;cout<<"IX|Y计算："<<endl;if h==0cout<<"IX|Y=HX-HX|Y="<<c-b<<endl;else cout<<"P"<<r+1<<","<<u+1<<"为零,中断,无值"<<endl;}实验二简单信源编码方法实现实验目的掌握Huffman编码方法;实验学时2学时实验准备1．熟悉离散信源的编码方法,重点是Huffman编码方法,设计Huffman编码的数据结构和算法；2．编写Huffman编码的书面程序代码;实验内容及步骤离散信源的Huffman编、译码方法说明：1利用random函数构造一个一维离散随机变量分布PX；2构造离散随机变量的概率压缩表；3根据概率压缩表构造Huffman编码表,并实现Huffman编码；4完成Huffman译码；4编写本次实验的实验报告;附实验二实验内容及程序源程序实验二离散信源的Huffman编、译码方法1 实验内容1利用random函数构造一个一维离散随机变量分布PX；2根据概率压缩表构造Huffman编码表,并实现Huffman编码；3完成Huffman译码；2 数据结构与算法描述1函数的定义：函数的数据成员1.随机生成归一化一维离散变量函数代码：void aa int n{double w=0;a=new double n;srand unsigned timeNULL;cout<<"随机生成归一化一维离散变量："<<endl;forint i=0;i<n;i++{ai=rand%50;w+=ai;}forint i=0;i<n;i++{ai=ai/w;}double p;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if aj<aj+1{p=aj+1;aj+1=aj;aj=p;}}}cout<<"PX:";forint i=0;i<n;i++{3;cout<<ai<<setw8;}}2.Huffman译码函数代码：void huffman double a,string c,int n{elem mp;stack sn;double b;b=new double n;forint i=0;i<n;i++{bi=ai;} double d;d=new double n;forint i=0;i<n;i++{di=i;}double e;e=new double n;forint i=0;i<n;i++{ei=i;}string t;forint m=n;m>=2;m--{bm-2+=bm-1;=dm-2;=dm-1;mp;double mp,mp1;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if bj<bj+1{mp=bj+1; mp1=dj+1;bj+1=bj; dj+1=dj;bj=mp;dj=mp1;}}}cout<<left<<setw6<<"\nPX:";forint i=0;i<m-1;i++{3;cout<<setw8<<bi;}}while{mp=;forint i=0;i<n;i++{if==ei{t=ci;}}forint i=0;i<n;i++{if==ei{ci=t;ci+="0";}else if==ei{ci=t;ci+="1";}}}}2主函数main 实现初始化操作,完成对子函数的调用void main{int n;cout<<"输入N：";cin>>n;c=new stringn;aan;huffmana,c,n;cout<<endl;cout<<setw6<<"各项Huffman编码为:"<<endl;forint i=0;i<n;i++{3;cout<<setw8<<ai;0;cout<<setwn+4<<ci;cout<<endl;}}3 实验数据与实验结果测试数据：随机生成归一化离散变量,如下图数据,并计算出各项Huffman编码;实验结果：4 程序代码清单：include<>include<cstdio>include<iomanip>include<>include<cassert>include<string>include<iostream>using namespace std;double a;string c;struct elem{double a2;double a3;};class stack{int size;int top;elem list;public:stack const int sz=0{size=sz;top=0;list=new elemsz;}~stack{delete list;}void clear{top=0;}void push const elem& item{asserttop<size;listtop++=item;} elem pop{assertisEmpty;return list--top;}elem topValue const{assertisEmpty;return listtop-1;}bool isEmpty const{return top==0;}};void aa int n{double w=0;a=new double n;srand unsigned timeNULL;cout<<"随机生成归一化一维离散变量："<<endl;forint i=0;i<n;i++{ai=rand%50;w+=ai;}forint i=0;i<n;i++{ai=ai/w;}double p;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if aj<aj+1{p=aj+1;aj+1=aj;aj=p;}}}cout<<"PX:";forint i=0;i<n;i++{3;cout<<ai<<setw8;}}void huffman double a,string c,int n{elem mp;stack sn;double b;b=new double n;forint i=0;i<n;i++{bi=ai;}double d;d=new double n;forint i=0;i<n;i++{di=i;} double e;e=new double n;forint i=0;i<n;i++{ei=i;} string t;forint m=n;m>=2;m--{bm-2+=bm-1;=dm-2;=dm-1;mp;double mp,mp1;forint i=0;i<n-1;i++{forint j=n-2;j>=i;j--{if bj<bj+1{mp=bj+1; mp1=dj+1;bj+1=bj; dj+1=dj;bj=mp;dj=mp1;}}}cout<<left<<setw6<<"\nPX:";forint i=0;i<m-1;i++{3;cout<<setw8<<bi;}}while{mp=;forint i=0;i<n;i++{if==ei{t=ci;}}forint i=0;i<n;i++{if==ei{ci=t;ci+="0";}else if==ei{ci=t;ci+="1";}}}}void main{int n;cout<<"输入N：";cin>>n;c=new stringn;aan;huffmana,c,n;cout<<endl;cout<<setw6<<"各项Huffman编码为:"<<endl;forint i=0;i<n;i++{3;cout<<setw8<<ai;0;cout<<setwn+4<<ci;cout<<endl;}}实验三典型信道容量计算实验目的掌握用递推算法计算典型信道的容量的方法;实验学时2学时实验准备1．熟悉二进信道的概率转移矩阵表示,掌握信道容量的递推算法,设计用递推算法计算二进信道容量的数据结构和算法；2．编写用递推算法计算二进信道容量的书面程序代码;实验内容及步骤用递推算法计算二进信道的容量说明：1构造各种二进信道的概率转移矩阵；2用递推算法计算各种二进信道的容量；3不断调整误差精度对系统进行测试,并进行对比分析；4编写本次实验的实验报告;附实验三内容及源程序实验三用递推算法计算二进信道的容量1 实验内容1构造各种二进信道的概率转移矩阵；2用递推算法计算各种二进信道的容量；3不断调整误差精度对系统进行测试,并进行对比分析；2 数据结构与算法描述1函数的定义：函数的数据成员1.随机生成二元对称信道函数代码：void aa{double e=0;cout<<"随机生成二元对称信道为："<<endl;int i=0;forint j=0;j<2;j++{a0j=rand%100;e+=a0j;}forint j=0;j<2;j++{a0j=a0j/e;}a11=a00;a10=a01;forint i=0;i<2;i++{forint j=0;j<2;j++{cout<<setw12<<aij;}cout<<endl;}}2.随机生成二元删除信道函数代码：void cc{double e=0;cout<<"随机生成二元删除信道为："<<endl;forint j=0;j<2;j++{b0j=rand%100;e+=b0j;}forint j=0;j<2;j++{b0j=b0j/e;}b02=0;b10=0;e=0;forint j=1;j<3;j++{b1j=rand%100;e+=b1j;}forint j=1;j<3;j++{b1j=b1j/e;}forint i=0;i<2;i++{forint j=0;j<3;j++{cout<<setw12<<bij;}cout<<endl;}}3.求二元对称信道最大信道容量和最大容量时w的值的函数代码：void bb{double w=0;double e2={0,0};for w=0;w<=1;w+={double tmp=0;tmp=wa00+1-wa01log1/wa00+1-wa01/log+wa01+1-wa00log1/wa01+1-wa00/log-a00log1/a00/log+a01log1/a01/l og;if e0<tmp{e0=tmp;e1=w;}}cout<<"最大信道容量为:"<<setw6<<e0<<" 此时w的值为："<<e1<<endl;cout<<endl;}4. 求二元删除信道最大信道容量和最大容量时w的值的函数代码：void dd{double P22;P10=0;P11=1;double temp2={0,1};do{double tmp1=0,tmp=0;forint i=0;i<2;i++{forint j=0;j<3;j++{if bij=0{tmp1+=P1ibijlogbij/log;}}}double temp223;forint i=0;i<2;i++{forint j=0;j<3;j++{temp2ij=P1ibij;}}forint j=0;j<3;j++{temp20j=temp20j+temp21j;}forint j=0;j<3;j++{if temp20j=0{tmp-=temp20jlogtemp20j/log;}}tmp-=tmp1;if tmp>=temp0{temp0=tmp;temp1=P10;}P10+=;P11-=;}while P10<=;cout<<"最大信道容量为:"<<temp0<<" 信源的w值为"<<temp1<<endl;}2主函数main 实现初始化操作,完成对子函数的调用void main{srand unsigned timeNULL;aa;bb;cc;dd;}3 实验数据与实验结果测试数据：随机生成了22矩阵和23矩阵,并求得最大容量和w的值;实验结果：4 程序代码清单：include<iostream>include<>include<iomanip>include<cmath>using namespace std;double a22;double b23;void aa{double e=0;cout<<"随机生成二元对称信道为："<<endl;int i=0;forint j=0;j<2;j++{a0j=rand%100;e+=a0j;}forint j=0;j<2;j++{a0j=a0j/e;}a11=a00;a10=a01;forint i=0;i<2;i++{forint j=0;j<2;j++{cout<<setw12<<aij;}cout<<endl;}}void bbdouble w=0;double e2={0,0};for w=0;w<=1;w+={double tmp=0;tmp=wa00+1-wa01log1/wa00+1-wa01/log+wa01+1-wa00log1/wa01+1-wa00/log-a00log1/a00/log+a01log1/a01/l og;if e0<tmp{e0=tmp;e1=w;}}cout<<"最大信道容量为:"<<setw6<<e0<<" 此时w的值为："<<e1<<endl;cout<<endl;}void cc{double e=0;cout<<"随机生成二元删除信道为："<<endl;forint j=0;j<2;j++{b0j=rand%100;e+=b0j;}forint j=0;j<2;j++{b0j=b0j/e;}b02=0;b10=0;e=0;forint j=1;j<3;j++{b1j=rand%100;e+=b1j;}forint j=1;j<3;j++{b1j=b1j/e;}forint i=0;i<2;i++{forint j=0;j<3;j++{cout<<setw12<<bij;}cout<<endl;}void dd{double P22;P10=0;P11=1;double temp2={0,1};do{double tmp1=0,tmp=0;forint i=0;i<2;i++{forint j=0;j<3;j++{if bij=0{tmp1+=P1ibijlogbij/log;}}}double temp223;forint i=0;i<2;i++{forint j=0;j<3;j++{temp2ij=P1ibij;}}forint j=0;j<3;j++{temp20j=temp20j+temp21j;}forint j=0;j<3;j++{if temp20j=0{tmp-=temp20jlogtemp20j/log;}}tmp-=tmp1;if tmp>=temp0{temp0=tmp;temp1=P10;}P10+=;P11-=;}while P10<=;cout<<"最大信道容量为:"<<temp0<<" 信源的w值为"<<temp1<<endl; }void main{srand unsigned timeNULL;aa;bb;cc;dd;}。
信息理论与编码实验指导书
信息理论与编码实验指导书《信息理论与编码》实验指导书武汉理工大学教材中心2009年7月实验一绘制二进熵函数曲线一、实验目的1.熟悉 Matlab 工作环境及工具箱；2.掌握 Matlab 绘图函数；3.理解熵函数表达式及其性质。
二、实验内容实验内容与要求内容：用 Matlab 软件绘制二进熵函数曲线。
要求：1. 提前预习实验，认真阅读教材及相应的参考书，熟悉实验原理；2. 遵守实验室规定，实验过程中服从实验室管理人员和实验指导老师的管理；3. 独立完成实验，认真做好实验记录；4. 实验结束后，认真填写实验报告。
知识要点1. 信源熵的概念及其性质。
参照教材及参考书。
2. 二进熵公式：????X??x1?0????x2?1??P(X)???????p????????1?p?,????0?p?1 ????H(X)??? p(xi)logp(xi)???[plogp?(1?p)log(1?p)]??H(p)i注意：虽然理论上定义 0 · log0 = 0 ，但是，在实际运算时，对数函数 logx 的变量 x 不能取 0 值，而应设置一个系统默认的最小值 eps 。
三、实验总结1、绘制二进熵函数曲线，观察曲线形状。
2、结合熵函数的性质，分析二进熵函数曲线的特点。
四、思考与提高1、绘制三元熵函数曲线，观察曲线形状。
2、结合熵函数的性质，分析三元熵函数曲线的特点。
p=0.00001:0.00001:0.99999; h=-p.*log2(p)-(1-p).*log(1-p); plot(p,h); title('二进熵函数曲线'); ylabel('H(p,1-p)');p=linspace(eps,1-eps,100); q=linspace(eps,1-eps,100);[P,Q]=meshgrid(p,q); P_Q=P+Q; for n=1:100 for m=1:100 if P_Q(n,m)>=1Q(n,m)=nan; end end endH=-P.*log2(P)-Q.*log2(Q)-(1-P-Q).*log2(1-P-Q); mesh(P,Q,H);title('三维熵函数图像');实验二一般信道容量迭代算法一、实验目的1、熟悉 Matlab 工作环境及工具箱；2、掌握一般信道容量迭代算法的原理。
信息论与编码实验指导书
没实验一 绘制二进熵函数曲线（2个学时）一、实验目的：1. 掌握Excel 的数据填充、公式运算和图表制作2. 掌握Matlab 绘图函数3. 掌握、理解熵函数表达式及其性质 二、实验要求：1. 提前预习实验，认真阅读实验原理以及相应的参考书。
2. 在实验报告中给出二进制熵函数曲线图 三、实验原理：1. Excel 的图表功能2. 信源熵的概念及性质()()[]()[]())(1)(1 .log )( .)( 1log 1log )(log )()(10 , 110)(21Q H P H Q P H b nX H a p H p p p p x p x p X H p p p x x X P X ii i λλλλ-+≥-+≤=--+-=-=≤≤⎩⎨⎧⎭⎬⎫-===⎥⎦⎤⎢⎣⎡∑四、实验内容：用Excel 或Matlab 软件制作二进熵函数曲线。
具体步骤如下：1、启动Excel 应用程序。
2、准备一组数据p 。
在Excel 的一个工作表的A 列（或其它列）输入一组p ，取步长为0.01，从0至100产生101个p （利用Excel 填充功能）。
3、取定对数底c ，在B 列计算H(x) ,注意对p=0与p=1两处，在B 列对应位置直接输入0。
Excel 中提供了三种对数函数LN(x),LOG10(x)和LOG(x,c)，其中LN(x)是求自然对数，LOG10(x)是求以10为底的对数，LOG(x,c)表示求对数。
选用c=2,则应用函数LOG(x,2)。
在单元格B2中输入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2) 双击B2的填充柄，即可完成H(p)的计算。
4、使用Excel 的图表向导，图表类型选“XY 散点图”，子图表类型选“无数据点平滑散点图”，数据区域用计算出的H(p)数据所在列范围，即$B$1:$B$101。
在“系列”中输入X值(即p值)范围，即$A$1:$A$101。
《信息论与编码技术》实验教案
《信息论与编码技术》实验教案一、实验目的1. 理解信息论基本概念，如信息量、信道容量等。
2. 掌握编码技术的基本原理，如Hamming 编码、卷积编码等。
3. 学会使用仿真工具进行信息论与编码技术的实验。
二、实验原理1. 信息论基本概念：信息量、信道容量、误码率等。
2. 编码技术原理：Hamming 编码、卷积编码、解码算法等。
3. 仿真工具的使用：调用相关函数，设置参数，观察实验结果。
三、实验内容1. 实验一：信息量计算与信道容量分析利用仿真工具随机比特序列，计算信息量。
改变信道参数，分析信道容量变化。
2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。
分析误码率与编码位数的关系。
3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。
分析误码率与卷积编码器参数的关系。
4. 实验四：不同编码方案性能比较分别使用Hamming 编码和卷积编码对相同长度比特序列进行编码。
比较两种编码方案的误码率和信息传输效率。
5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用。
了解信息论与编码技术在无线通信、图像传输等领域的应用。
四、实验步骤1. 实验一：信息量计算与信道容量分析随机比特序列，计算信息量。
设置信道参数，观察信道容量变化。
2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。
改变编码位数，分析误码率变化。
3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。
改变卷积编码器参数，分析误码率变化。
4. 实验四：不同编码方案性能比较使用Hamming 编码和卷积编码对相同长度比特序列进行编码。
比较两种编码方案的误码率和信息传输效率。
5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用案例。
了解信息论与编码技术在无线通信、图像传输等领域的应用。
信息论实验指导书
信息理论与编码实验指导书电子与电气工程学院罗晓琴编实验要求1、实验前认真阅读实验指导书的内容，并完成预习任务。
2、复习Matlab的相关知识，完成仿真。
3、要熟悉本次实验的任务。
4、实验过程中要认真记录实验结果，仿真结果需经指导教师审阅。
5、实验后每位同学要独立完成实验报告的内容。
目录实验一离散信源的自信息量和熵 (3)实验二最大离散熵定理 (6)实验三费诺编码 (9)实验四霍夫曼编码 (13)实验五香农编码 (16)实验一：计算离散信源的自信息量和熵一、实验目的1、熟悉离散信源的特点。
2、学习Matlab 仿真离散信源的方法。
3、学习离散信源自信息量和信源熵的计算方法。
4、熟悉 Matlab 编程。
二、实验设备 1、计算机2、软件：Matlab 三、实验原理本实验主要完成信源概率分布的自信息量以及信源熵的计算。
计算公式如下：一个字符它所携带的信息量是和该字符出现的概率有关，概率可以表征自信息量的大小自信息的计算公式为：21()log aI a p = 自信息量有两个含义：第一、当事件发生前，表示该事件发生的不确定性； 第二、当事件发生后，标是该事件所提供的信息量． 自信息量的单位取决于对数所取的底，若以2为底，单位为比特，以e 为底，单位为奈特，以10为底，单位为哈特。
在通信系统中，通常取比特为单位，底数2略去不写。
由于自信息I(a)是一个随机变量，不能用来表征整个信源的不确定度。
所以我们用平均自信息量来表征整个信源的不确定度。
平均自信息量就是信源输出所有消息的自信息的数学期望，又称为信息熵、信源熵，简称熵。
熵（平均自信息）的计算公式为：22111()log log qqi i i i i iH x p p p p ====-∑∑信息熵H （x ）是对信源的平均不确定性的描述。
它从平均意义上来表征信源的总体信息测度。
对于某特定的信源，其信息熵是一个确定的数值。
信息熵具有如下三种物理意义。
第一，信息熵H （x ）是表示信源输出后，每个消息或符号所提供的平均信息量。
《信息论与编码技术》实验教案
《信息论与编码技术》实验教案第一章：绪论1.1 课程背景介绍信息论与编码技术的起源、发展及应用领域，强调其在现代通信技术中的重要性。
1.2 实验目的使学生了解信息论与编码技术的基本概念，掌握信息论的基本计算方法，培养学生对信息编码的实际操作能力。
1.3 实验要求学生需预习相关理论课程，了解信息论的基本原理，掌握编码技术的基本概念。
第二章：信息论基本概念与计算2.1 信息量计算利用公式计算信息的熵、条件熵、联合熵等，通过实例使学生了解信息量的计算方法。
2.2 信道编码介绍常用的信道编码技术，如Hamming 码、奇偶校验码等，通过实际例子使学生了解编码的原理及应用。
2.3 误码率计算介绍误码率的定义及计算方法，使学生能够评估编码技术的性能。
第三章：数字基带传输3.1 数字基带信号介绍数字基带信号的分类、特点，使学生了解不同基带信号的传输特性。
3.2 基带传输系统分析基带传输系统的组成，了解系统中的主要噪声及影响因素。
3.3 基带传输仿真利用软件对数字基带传输系统进行仿真，使学生了解实际传输过程中的信号波形及误码情况。
第四章：信号检测与解码4.1 信号检测原理介绍信号检测的基本原理，如最大后验概率检测、最小距离检测等。
4.2 解码方法介绍解码的基本方法，如硬判决解码、软判决解码等，使学生了解不同解码方法的优缺点。
4.3 解码仿真利用软件对信号进行解码，分析不同解码方法对系统性能的影响。
第五章：实验总结与分析5.1 实验报告5.2 课程讨论组织学生进行课程讨论，分享实验心得，提高学生对信息论与编码技术的理解和应用能力。
5.3 课后作业布置课后作业，巩固实验内容，提高学生的实际操作能力。
第六章：实验一：信息熵的计算6.1 实验目的理解信息熵的概念，学习如何计算信息熵。
6.2 实验原理介绍信息熵的数学表达式和计算方法。
6.3 实验步骤1. 设置一组数据。
2. 计算信息熵。
3. 分析结果。
6.4 实验注意事项确保数据的准确性和计算的正确性。
信息论与编码技术实验指导书
2、写出程序代码， 3、写出在调试过程中出现的问题 ， 4、对实验的结果进行分析。
实验六 模p信道编码实验 一 实验目的:掌握通过计算机实现模p信道编码 二实验要求: 对于给定的消息序列,按照模p信道编码的方法进行 计算机实现. 三实验原理 在实际生活中，有时侯“1”和“I”很相似。 p=37(符号的个数） 数字“0”-“9”和字母“A”-“Z”和空格 共37种符号。 “0” 0 “1” 1 ¨ “A” 10 “B” 11 设有某消息的符号序列为X=X1X2X3X4, 用下表的方式来求它们的和及累加和，然后加上 适当的监督元，使累加和是模37的倍数。 消息符号
型如下图：
在给定信源概率分布条件下， 各种熵的求解方法如下： 1） 信源熵 2） 条件熵
3） 联合熵
4） 交互熵 5） 信道容量 ◼一般离散信道容量对计算步骤总结如下：
4、 实验设备：计算机 c++ 五、实验报告要求 1、 画出程序设计的流程图， 2、 写出程序代码， 3、 写出在调试过程中出现的问题 ， 4、 对实验的结果进行分析。
和 累加和 X1 X1 X1 X2 X1+X2 2*X1+X2 X3 X1+X2+X3 3*X1+2*X2+X3 X4 X1+X2+X3+X4 4*X1+3*X2+2*X3+X4
ψ X1+X2+X3+X4+ψ 5*X1+4*X2+3*X3+2*X4+ψ 四实验设备 计算机 c++ 五实验报告 1、画出程序设计的流程图， 2、写出程序代码， 3、写出在调试过程中出现的问题 ， 实验目的：通过该实验，掌握通过计算机实验信息量 和信道容量的计算方法 2、 实验要求：对一个离散的无记忆信源，给定信源的输 入概率分布，给定一个信道特性，计算各种信息量和 熵，并计算信道容量。 3、 实验原理：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
信息理论与编码实验指导书
实验一离散信源信息熵
一、实验目的
1、理解自信息量和信息熵的基本含义；
2、熟练掌握自信息量和信息熵的计算；
3、熟悉MATLAB 开发环境的使用；
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
自信息是一个随机变量,它是指某一信源发出某一消息所含有的信息量。
所发出的消息不同，它们所含有的信息量也就不同。
任何一个消息的自信息量都代表不了信源所包含的平均自信息量，不能作为整个信源的信息测度，因此，定义自信息量的数学期望为信源的平均自信息量：
称为信息熵。
信息熵的意义：信源的信息熵H是从整个信源的统计特性来考虑的。
它是从平均意义上来表征信源的总体信息测度的。
对于某特定的信源，其信息熵是一个确定的数值。
不同的信源因统计特性不同，其熵也不同。
四、实验内容
1、根据书本习题2.5和习题2.7，建立离散信源的概率空间；
2、按照题目要求，用matlab实现离散信源自信息量和信息熵的计算；
3、将程序在计算机上仿真，验证其计算结果与实际运算结果相符否。
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．简要说明信源熵的含义及信源熵的计算
3、写出信源熵的计算过程，并画出信源熵计算的程序流程图
4、给出信源熵计算的matlab源程序
5、分析软件仿真或计算结果
实验二 离散信道容量
一、实验目的
1、理解信道转移概率矩阵及其特点；
2、理解信道容量的定义和最佳输入概率分布；
3、掌握信道容量和平均互信息的计算步骤；
4、用 MATLAB 进行简单地编程
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
1、平均互信息
平均互信息代表接收到输出符号后平均每个符号获得的关于输入符号的信息量。
定义为
I(X;Y)=H(X)-H(X|Y)
其中，H （X ）代表接收到输出符号以前关于输入变量X 的平均不确定性，H(X|Y)代表接收到输出符号后关于输入变量X 的平均不确定性。
2、信道容量
对于一个固定的信道，总存在一种信源，使传输每个符号平均获得的信息量最大。
也就是每个固定信道都有一个最大的信息传输率。
我们把这个最大的信息传输率定义为信道容量，即
信息容量是完全描述信道特性的参量，是信道能够传输的最大信息量。
它与输入信源的概率分布无关，只与信道的统计特性有关。
离散信道中有一类特殊的信道，它具有很强的对称性。
信道矩阵P 中每一行都是由同一集合{p1’, p2’,…, ps ’}中的诸元素不同排列组成；每一列也都是由{q1’, q2’,…, qr ’} 中的诸元素不同排列组成。
对于这类信道，它的容量为
四、实验内容
1、建立教材106页习题3.9所要求的数学模型。
2、写出数学模型的Matlab 程序。
3、将程序在计算机上仿真实现。
4、验证程序的正确性。
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．简要说明信道容量的含义和特点，并计算信道容量
3、写出信道容量的计算过程，并画出程序流程图
4、给出信道容量计算的matlab 源程序
)};({max )(Y X I C X P =（比特/符号） )/()',...,','(log 21symbol bit p p p H s C s
-=
5、分析软件仿真或计算结果
实验三霍夫曼编码
一、实验目的：
1、理解Huffman编码的基本原理及其特点；
2、熟练掌握Huffman编码的方法步骤；
3、熟练地用Matlab编写二元Huffman编码的程序；
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
Huffman 编码原理：
①将信源符号按概率从大到小的顺序排列，令
p(x1)≥p(x2)≥…≥p(x n)
②给两个概率最小的信源符号p(x n-1)和p(x n)各分配一个码位“0”和“1”，将这两个信源符号合并成一个新符号，并用这两个最小的概率之和作为新符号的概率，
结果得到一个只包含(n－1)个信源符号的新信源。
称为信源的第一次缩减信源，
用S1表示。
③将缩减信源S1的符号仍按概率从大到小顺序排列，重复步骤2，得到只含(n
－2)个符号的缩减信源S2。
④重复上述步骤，直至缩减信源只剩两个符号为止，此时所剩两个符号的概率之和必为1。
然后从最后一级缩减信源开始，依编码路径向前返回，就得到各
信源符号所对应的码字。
四、实验内容
1、根据Huffman编码的方法步骤，用Matlab编写二元Huffman编码的程序；
2、用习题8.11和例8.1验证程序的正确性。
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．阐述霍夫曼编码的基本原理与特点
3、写出霍夫曼编码的基本步骤
4、对给定的任一个信源，通过matlab实现二元霍夫曼编码，画出程序流程图
5、讨论不同的Huffman编码的平均码长如何变化，码字长度偏离平均码长对编码性能的影响。
实验五汉明码
一、实验目的：
1、理解汉明码的基本原理及其特点；
2、熟练掌握汉明码编码的方法步骤；
3、熟练地用Matlab编写汉明码程序；
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
四、实验内容
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．阐述汉明码的基本原理与特点
3、写出汉明码的基本步骤，画出实现汉明码的程序流程图
4、给出循环码的源程序，并给出实验过程中的测试结果
5、分析软件仿真或计算结果。