中南大学信息论与编码编码部分实验报告
信息论与编码实验2-实验报告
信息论与编码实验2-实验报告信息论与编码实验 2 实验报告一、实验目的本次信息论与编码实验 2 的主要目的是深入理解和应用信息论与编码的相关知识，通过实际操作和数据分析，进一步掌握信源编码和信道编码的原理及方法，提高对信息传输效率和可靠性的认识。
二、实验原理（一）信源编码信源编码的目的是减少信源输出符号序列中的冗余度，提高符号的平均信息量。
常见的信源编码方法有香农编码、哈夫曼编码等。
香农编码的基本思想是根据符号出现的概率来分配码字长度，概率越大，码字越短。
哈夫曼编码则通过构建一棵最优二叉树，为出现概率较高的符号分配较短的编码，从而实现平均码长的最小化。
（二）信道编码信道编码用于增加信息传输的可靠性，通过在发送的信息中添加冗余信息，使得在接收端能够检测和纠正传输过程中产生的错误。
常见的信道编码有线性分组码，如汉明码等。
三、实验内容与步骤（一）信源编码实验1、选取一组具有不同概率分布的信源符号，例如：A（02）、B （03）、C（01）、D（04）。
2、分别使用香农编码和哈夫曼编码对信源符号进行编码。
3、计算两种编码方法的平均码长，并与信源熵进行比较。
（二）信道编码实验1、选择一种线性分组码，如（7,4）汉明码。
2、生成一组随机的信息位。
3、对信息位进行编码，得到编码后的码字。
4、在码字中引入随机错误。
5、进行错误检测和纠正，并计算错误纠正的成功率。
四、实验结果与分析（一）信源编码结果1、香农编码的码字为：A（010）、B（001）、C（100）、D （000）。
平均码长为 22 比特，信源熵约为 184 比特，平均码长略大于信源熵。
2、哈夫曼编码的码字为：A（10）、B（01）、C（111）、D （00）。
平均码长为 19 比特，更接近信源熵，编码效率更高。
（二）信道编码结果在引入一定数量的错误后，（7,4）汉明码能够成功检测并纠正大部分错误，错误纠正成功率较高，表明其在提高信息传输可靠性方面具有较好的性能。
信息论与编码技术实验报告
《信息论与编码技术》实验报告实验一：请根据公式-plogp ，说明小概率事件和大概率事件对熵的贡献。
解：先做图，然后分析。
将公式写为)(log )(2p p p f -=对它编写计算和画图程序如下：p=0:0.01:1;x=-p.*log2(p);plot(p,x);从图中曲线看出，小概率事件和大概率事件的情况下，熵值都很低，贡献很小，在概率为0.5附近时熵值最大，故此时对熵的贡献最大。
实验二：请对a 、b 、c 霍夫曼编码，它们的概率是0.6、0.3、0.1。
并以此对符号串ababaacbaa 编码和译码。
解：编码步骤分为：事件排序，符号编码，信源编码，信道编码。
MATLAB 程序：clc;a=0.3;b=0.3;c=0.4; %%%霍夫曼编码A=[a,b,c];A=fliplr(sort(A)); %%%降序排序if (a==b)&(a>c), %%实现了当a,b,c 其中两概率相同时的编码，及3值均不同时的编码 u='a';x=a;v='b';y=b;w='c';z=c;elseif (a==b)&(a<c),u='c';x=c;v='a';y=a;w='b';z=b;elseif (c==b)&(c>a),u='b';x=b;v='c';y=c;w='a';z=a;elseif (c==b)&(c<a),u='a';x=a;v='b';y=b;w='c';z=c;elseif(a==c)&(a>b),u='a',x=a;v='c',y=c;w='b',z=b;elseif(a==c)&(a<b),u='b';x=b;v='a';y=a;w='c';z=c;elseif A(1,1)==a,u='a';x=a;elseif A(1,1)==b,u='b';x=b;elseif A(1,1)==c,u='c';x=c;endif A(1,2)==a,v='a';y=a;elseif A(1,2)==b,v='b';y=b;elseif A(1,2)==c,v='c';y=c;endif A(1,3)==a,w='a';z=a;elseif A(1,3)==b,w='b';z=b;elseif A(1,3)==c,w='c';z=c;endend %%%x，y，z按从大到小顺序存放a，b，c的值，u,v,w存对应字母if x>=(y+z),U='0';V(1)='0';V(2)='1';W(1)='1';W(2)='1';else U='1';V(1)='0';V(2)='0';W(1)='1';W(2)='0';enddisp('霍夫曼编码结果：')if u=='a',a=fliplr(U),elseif u=='b',b=fliplr(U),else c=fliplr(U),end if v=='a',a=fliplr(V),elseif v=='b',b=fliplr(V),else c=fliplr(V),end if w=='a',a=fliplr(W),elseif w=='b',b=fliplr(W),else c=fliplr(W),end %%%编码步骤为：信源编码，信道编码disp('信源符号序列：')s='ababaacbaa' %%%信源编码q=[];for i=s;if i=='a',d=a;elseif i=='b';d=b;else d=c;end;q=[q,d];endm=[]; %%%符号变数字for i=q;m=[m,str2num(i)];endP=[1,1,1,0;0,1,1,1;1,1,0,1];G=[eye(3),P];%%%信道编码%%%接下来的for循环在程序中多次使用，此处作用是将已编码组m每3个1组放入mk中进行运算之后存入Ck数组中，每次mk中运算结束之后清空，再进行下一组运算，而信道编码结果数组C则由C=[C,Ck]存入每组7个码。
信息论与编码实习报告
信息论与编码实习报告一、引言信息论与编码是通信工程、计算机科学和电子工程等领域的重要基础课程。
本次实习旨在通过实际操作，深入理解和掌握信息论与编码的基本原理和技术，提高我们的实际操作能力和问题解决能力。
二、实习内容1、信息论基础：实习的第一部分，我们通过自学和讨论的方式，深入学习了信息论的基本概念和原理，包括信息的度量、熵、信道容量等。
2、编码理论：在这一阶段，我们重点学习了线性编码、循环编码、哈夫曼编码等编码方法，并了解了编码的效率及其可靠性。
3、模拟与数字通信系统：我们通过模拟软件，设计和实现了简单的模拟通信系统，同时，也通过实验箱，了解了数字通信系统的基本原理和技术。
4、无线通信和网络：在这一部分，我们重点学习了无线通信和网络的基础知识，包括无线信道模型、无线调制解调技术、无线网络协议等。
5、实习项目：最后，我们根据所学的知识，完成了一个实习项目——设计并实现一个具有高可靠性和高效率的通信系统。
三、实习收获通过这次实习，我们收获颇丰。
首先，我们对信息论与编码的基本概念和原理有了更深入的理解和掌握，能够更好地将理论知识应用到实际中。
其次，我们提高了自己的实际操作能力和问题解决能力，能够在实践中发现和解决问题。
最后，我们了解了通信系统的基本原理和技术，对未来的学习和工作有了更好的准备。
四、结论本次实习是我们学习信息论与编码的重要环节，我们通过实际操作，深入理解和掌握了信息论与编码的基本原理和技术，提高了自己的实际操作能力和问题解决能力。
我们也发现了自己的不足之处，将在未来的学习和工作中更加努力，不断提高自己的能力和水平。
信息论与编码曹雪虹课后习题答案随着科技的发展，信息已经成为现代社会中不可或缺的一部分。
在大学中，信息论与编码作为一门重要的学科，已经成为了计算机科学、通信工程、电子工程等专业的必修课程。
而在这门课程中，曹雪虹教授的教材《信息论与编码》被广泛使用。
本文将介绍一些该教材的课后习题答案，以帮助读者更好地掌握信息论与编码的相关知识。
信息论与编码实验报告
信息论与编码实验报告一、实验目的本实验主要目的是通过实验验证信息论与编码理论的基本原理，了解信息的产生、传输和编码的基本过程，深入理解信源、信道和编码的关系，以及各种编码技术的应用。
二、实验设备及原理实验设备：计算机、编码器、解码器、信道模拟器、信噪比计算器等。
实验原理：信息论是由香农提出的一种研究信息传输与数据压缩问题的数学理论。
信源产生的消息通常是具有统计规律的，信道是传送消息的媒体，编码是将消息转换成信号的过程。
根据信息论的基本原理，信息的度量单位是比特（bit），一个比特可以表示两个平等可能的事件。
信源的熵（Entropy）是用来衡量信源产生的信息量大小的物理量，熵越大，信息量就越多。
信道容量是用来衡量信道传输信息的极限容量，即信道的最高传输速率，单位是比特/秒。
编码是为了提高信道的利用率，减少传输时间，提高传输质量等目的而进行的一种信号转换过程。
常见的编码技术有霍夫曼编码、香农-费诺编码、区块编码等。
三、实验步骤1.运行编码器和解码器软件，设置信源信息，编码器将信源信息进行编码，生成信道输入信号。
2.设置信道模拟器的信道参数，模拟信道传输过程。
3.将信道输出信号输入到解码器，解码器将信道输出信号进行解码，恢复信源信息。
4.计算信道容量和实际传输速率，比较两者的差异。
5.改变信道参数和编码方式，观察对实际传输速率的影响。
四、实验结果与分析通过实验，我们可以得到不同信道及编码方式下的信息传输速率，根据信道参数和编码方式的不同，传输速率有时会接近信道容量，有时会低于信道容量。
这是因为在真实的传输过程中，存在信噪比、传输距离等因素导致的误码率，从而降低了实际传输速率。
在实验中，我们还可以观察到不同编码方式对传输速率的影响。
例如，霍夫曼编码适用于信源概率分布不均匀的情况，可以实现数据压缩，提高传输效率。
而区块编码适用于数据容量较大的情况，可以分块传输，降低传输错误率。
此外，通过实验我们还可以了解到信息论中的一些重要概念，如信源熵、信道容量等。
中南大学信息论实验报告
中南大学信息论与编码课实验报告专业班级:指导老师：张祖平姓名:学号:实验一 关于信源熵的实验一、实验目的1. 掌握离散信源熵的原理和计算方法。
2. 熟悉matlab 软件的基本操作，练习使用matlab 求解信源的信息熵。
3. 自学图像熵的相关概念，并应用所学知识，使用matlab 或其他开发工具求解图像熵。
4. 掌握Excel 的绘图功能，使用Excel 绘制散点图、直方图。
二、实验原理1. 离散信源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。
离散信源只能产生有限种符号。
随机事件的自信息量I （x i ）为其对应的随机变量x i 出现概率对数的负值。
即：I （x i ）= -log 2 p (x i )随机事件X 的平均不确定度（信源熵）H （X ）为离散随机变量x i 出现概率的数学期望，即：∑∑-==iii i i i x p x p x I x p X H )(log )()()()(2. 信源的信息熵设信源符号集X ={a1，a2，…，ar}，每个符号发生的概率分别为p (a1)=p 1，p (a2)=p 2，…，p (ar)，即信源的概率空间为，⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡)(...... )2(2 )1(1ar p ar a p a a p a P X则该信源的信源熵为：H (X ) = - p (a1) log p (a1) –p (a2) log p (a2) –…–p (ar) log p (ar)3. 信道的数学模型与相关熵的计算• 单符号离散无噪声无损信道的信道容量4. MATLAB 二维绘图用matlab 中的命令plot(x , y )就可以自动绘制出二维图来。
例1-2，在matlab 上绘制余弦曲线图，y = cos x ，其中0 ≤ x ≤ 2π。
>>x =0:0.1:2*pi ； %生成横坐标向量，使其为0，0.1，0.2，…，6.2 >>y =cos(x )； %计算余弦向量 >>plot(x ,y ) %绘制图形 5. MATLAB 求解离散信源熵求解信息熵过程：1) 输入一个离散信源，并检查该信源是否是完备集。
中南大学信息论与编码编码部分实验报告
信息论与编码编码部分实验报告课程名称：信息论与编码实验名称：关于香农码费诺码Huffman码的实验学院：信息科学与工程学院班级：电子信息工程1201姓名：viga学号：指导老师：张祖平日期：2014年1月3日目录⊙实验目的及要求1.1 实验目的 (4)1.2 开发工具及环境 (4)1.3 需求分析与功能说明 (4)⊙实验设计过程2.1 用matlab实现香农码、费诺码和Huffman编码2.1.1 说明 (6)2.1.2 源代码 (7)2.1.3 运行结果（截图） (19)2.2 用C\C++ 实现香农码2.2.1 说明 (22)2.2.2 源代码 (23)2.2.3 运行结果（截图） (26)2.3 用C\C++ 实现Huffman码2.3.1 说明 (26)2.3.2 源代码 (29)2.3.3 运行结果（截图） (36)2.4 用C\C++ 实现费诺码2.4.1 说明 (37)2.4.2 源代码 (37)2.4.3运行结果结果（截图） (40)⊙课程设计总结 (42)⊙参考资料4.1 课程设计指导书 (43)实验目的及要求1.1 实验目的1.掌握香农码、费诺码和Huffman编码原理和过程。
2.熟悉matlab软件的基本操作，练习使用matlab实现香农码、费诺码和Huffman编码。
3.熟悉C/C++语言，练习使用C/C++实现香农码、费诺码和Huffman编码。
4.应用Huffman编码实现文件的压缩和解压缩。
1.2 开发工具及环境MATLAB 7.0、wps文字、红精灵抓图精灵2010Windows7 系统环境1.3 需求分析与功能说明1、使用matlab实现香农码、费诺码和Huffman编码，并自己设计测试案例。
2、使用C\C++实现香农码、费诺码和Huffman编码，并自己设计测试案例。
3、可以用任何开发工具和开发语言，尝试实现Huffman编码应用在数据文件的压缩和解压缩中，并自己设计测试案例。
信息论与编码理论课程实验报告
二、实验环境及相关情况（包含使用软件、实验设备、主要仪器及材料等）
设备：PC机
软件：matlab 2007
0.0055 0.0115 0.0061 0.0176 0
构建信源模型如下：
h i j k l m n
0.0267 0.0672 0.0042 0.0030 0.0521 0.0212 0.0733
o p q r s t u
0.0842 0.0254 0.0048 0.0648 0.0933 0.0739 0.0327
9.实验报告独立完成，无抄袭现象，并按时提交，格式规范。
综合评定：
附录（程序源代码）
1.编写MATLAB程序
clc
clear all
%随机输入一组数据
string='abdddssdsssdabaabaddkkidkidkdiakdjjaidjaid';
%将上述中所有英文字母化为小写
string=lower(string);
自评/互评成绩：100（评阅者签名：熊萌萌）
2、教师评价
评价标准
评语等级
优
良
中
及格
不合格
1.实验态度认真，实验目的明确
2.实验方案或流程图思路清晰、合理
3.实验程序设计合理，能运行
4.实验步骤记录详细，具备可读性
5.实验数据合理
6.实验结论正确
7.实验总结分析合理、透彻
8.实验报告完整、文字叙述流畅，逻辑性强
信息论与编码实验报告
《信息论与编码》实验报告《信息论与编码》实验报告实验序号：02 实验项目名称：离散信道及其信道容量结论：1、当输入和输出符号个数相同，且都等于r 时，则此信道称为强对称信道或均匀信道；2、这类信道中总的错误概率为 p ，对称地平均分配给r-1个输出符号。
实验内容二：平均互信息I （X ；Y ）是凸函数的论文一、 问题：由信源的概率分布P （Y ）=对x 求和P （X ）*P(Y|X)和平均互信息I(X;Y)=对x,y 求和p(x)*P(y|x)*logP(y|x)/P(y)可知，平均互信息只与信源的概率分布和信道的传递概率有关，但是它们之间有种什么关系？二、 证明定理一：平均互信息I(X;Y)是输入信源的概率分布P(x)的形函数（上凸函数）解： 根据上凸函数的定义来证明，先固定信道，即信道的传递概率P(y|x)是固定的。
那么平均互信息I(X;Y)将只是P(x)的函数，简写成I[P(x)]。
现选择输入信源X 的两种已知的概率分布P1(x)和P2(x)。
其对应的联合分布概率为P1(xy)=P1(x)P(y|x)和P2(xy)=P2(x)P(y|x)，因而信道输出端的平均互信息分别为I[P1(x)]和I[P2(x)]。
再选择输入变量X 的另一种概率分布P(x)，令01θ<<，和1θθ+=，而P(x)= 12()()P x P x θθ+，因而得其相应的平均互信息为I[P(x)]。
根据平均互信息的定义得1212,,,12[()][()][()](|)(|)(|)()log()log ()log ()()()x yx y x y I P x I P x I P x P y x P y x P y x P xy P xy P xy P y P y P y θθθθ+-=+-∑∑∑结论：平均互信息与信源的概率分布有关，有上可知，平均互信息是输入信源的概率分布P(x)的形凸函数。
定理二：平均互信息I(X;Y)是信道传递概率P(Y|X)的形凸函数（又称下凸函数）猜想：由平均互信息是输入信源的概率分布的形凸函数知，当固定某信道时，选择不同的信源（其概率分布不同）与信道连接，在信道输出端接收到每个符号后获得的信息量是不同的。
信息论与编码技术之实验
前两个是别人的，后两个是自己的，学术交流，抛砖引玉。
信息论与编码 实验报告样板实验室名称：S1-306实验一 二维随机变量信息熵的计算 教学实验报告[实验目的]掌握二变量多种信息量的计算方法。
[实验要求]1．熟悉二变量多种信息量的计算方法，设计实验的数据结构和算法；2．编写计算二维随机变量信息量的书面程序代码。
[实验内容]离散二维随机变换熵的计算说明：（1）利用random 函数和归一化方法构造一个二维离散随机变量（X ，Y ）；（2）分别计算X 与Y 的熵、联合熵、条件熵：H （X ）、H （Y ）、H （X,Y ）H （X|Y ）、I （X|Y ）；（3）对测试通过的程序进行规范和优化；（4）编写本次实验的实验报告。
[实验步骤]实验过程中涉及的各种熵的主要公式（或定义式）：1、离散信源熵(平均不确定度/平均信息量/平均自信息量)()()()()log ()i i i i i i H X p x I x p x p x ==-∑∑2、在给定某个y j 条件下，x i 的条件自信息量为I(x i /y j )，X 集合的条件熵H （X/y j ）为 ,,(/)(/)(/)Y X H(X/Y)()(/)()(/)(/)()(/)j i j i j ij j j i j i j j i ji j i j i jH X y p x y I x y p y H X y p y p x y I x y p x y I x y ===∑∑∑∑在给定条件下，集合的条件熵为：H(X/Y)=相应地，在给定X （即各个x i ）的条件下，Y 集合的条件熵H(Y/X)定义为:,,(/)()(/)()log (/)i j j i i j j i i j i jH Y X p x y I y x p x y p y x ==-∑∑3、联合熵是联合符号集合 XY 上的每个元素对x i y j 的自信息量的概率加权统计平均值，表示X 和Y 同时发生的不确定度。
信息论与编码实验报告
信息论与编码实验报告一、实验目的信息论与编码是一门涉及信息的度量、传输和处理的学科，通过实验，旨在深入理解信息论的基本概念和编码原理，掌握常见的编码方法及其性能评估，提高对信息处理和通信系统的分析与设计能力。
二、实验原理（一）信息论基础信息熵是信息论中用于度量信息量的重要概念。
对于一个离散随机变量 X，其概率分布为 P(X) ＝｛p(x1)， p(x2)，， p(xn)｝，则信息熵H(X) 的定义为：H(X) ＝∑p(xi)log2(p(xi)）。
（二）编码原理1、无失真信源编码：通过去除信源中的冗余信息，实现用尽可能少的比特数来表示信源符号，常见的方法有香农编码、哈夫曼编码等。
2、有噪信道编码：为了提高信息在有噪声信道中传输的可靠性，通过添加冗余信息进行纠错编码，如线性分组码、卷积码等。
三、实验内容及步骤（一）信息熵的计算1、生成一个离散信源，例如信源符号集为{A, B, C, D}，对应的概率分布为{02, 03, 01, 04}。
2、根据信息熵的定义，使用编程语言计算该信源的信息熵。
（二）香农编码1、按照香农编码的步骤，首先计算信源符号的概率，并根据概率计算每个符号的编码长度。
2、确定编码值，生成香农编码表。
（三）哈夫曼编码1、构建哈夫曼树，根据信源符号的概率确定树的结构。
2、为每个信源符号分配编码，生成哈夫曼编码表。
（四）线性分组码1、选择一种线性分组码，如（7, 4）汉明码。
2、生成编码矩阵，对输入信息进行编码。
3、在接收端进行纠错译码。
四、实验结果与分析（一）信息熵计算结果对于上述生成的离散信源，计算得到的信息熵约为 184 比特/符号。
这表明该信源存在一定的不确定性，需要一定的信息量来准确描述。
（二）香农编码结果香农编码表如下：｜信源符号|概率|编码长度|编码值|｜｜｜｜｜｜A|02|232|00|｜B|03|174|10|｜C|01|332|110|｜D|04|132|111|香农编码的平均码长较长，编码效率相对较低。
信息论与编码实验报告
信息论与编码实验报告一、实验目的1.了解信息论与编码的基本概念和原理。
2.学习如何通过信息论与编码方法实现对数据的压缩和传输。
3.掌握信息论与编码实验的实验方法和实验技能。
4.提高实验设计、数据分析和报告撰写的能力。
二、实验内容1.通过对输入信源进行编码，实现对数据的压缩。
2. 比较不同编码方法的压缩效果，包括Shannon-Fano编码和霍夫曼编码。
3.通过传输信道对编码后的数据进行解码，还原原始信源。
4.分析并比较不同编码方法的传输效果，包括码率和传输质量。
三、实验原理1.信息论：熵是信息论中衡量信源不确定性的指标，熵越小表示信源的可预测性越高，在编码过程中可以压缩数据。
2. 编码方法：Shannon-Fano编码通过分治的方法将输入信源划分为不同的子集，分别进行编码；霍夫曼编码则通过构建最佳二叉树的方式，将较常出现的信源符号编码为较短的二进制码，较少出现的信源符号编码为较长的二进制码。
3.传输信道：信道可能存在误码和噪声，通过差错控制编码可以在一定程度上保障传输数据的正确性和完整性。
四、实验步骤1. 对给定的输入信源进行Shannon-Fano编码和霍夫曼编码。
2.计算编码后的码率，分析不同编码方法的压缩效果。
3.将编码后的数据传输到信道，模拟信道中的误码和噪声。
4.对传输后的数据进行解码，还原原始信源。
5.比较不同编码方法的传输质量，计算误码率和信噪比。
五、实验结果与分析1. 编码结果：通过对输入信源进行编码，得到了Shannon-Fano编码和霍夫曼编码的码表。
2.压缩效果：计算了不同编码方法的码率，比较了压缩效果。
3.传输结果：模拟信道传输后的数据，对数据进行解码，还原原始信源。
4.传输质量：计算了误码率和信噪比，分析了不同编码方法的传输质量。
六、实验总结通过本次实验，我深刻理解了信息论与编码的基本概念和原理，并掌握了信息论与编码实验的实验方法和实验技能。
在实验过程中，我遇到了一些困难，比如对编码方法的理解和实验数据的处理。
《信息论与编码》课程实验报告
本科生实验报告实验课程信息论与编码学院名称管理科学学院专业名称信息与计算科学学生姓名章乾学生学号201207020114指导教师范安东实验地点6C402实验成绩二〇一四年十月二〇一四年十一月实验一离散信源信息量的计算（一）1 实验内容（1）熟悉利用srand()函数产生随机离散信源概率空间的方法；（2）计算随机离散信源的各种信息量：H(X)、H(XY)、H(Y)；2 数据结构与算法描述3 实验数据与实验结果（可用文字描述或贴图的方式进行说明）1）测试数据随机生成数据2）实验结果4 程序代码清单（可直接将可运行源代码粘贴在下面的方框中）实验二离散信源信息量的计算（二）1 实验内容（1）熟悉利用srand()函数产生随机离散信源概率空间的方法；（2）计算随机离散信源的各种信息量：H(X|Y)、H(Y|X)、I(X;Y)；2 数据结构与算法描述1）变量及函数的定义3 实验数据与实验结果（可用文字描述或贴图的方式进行说明）1）测试数据随机生成数据2）实验结果4 程序代码清单（可直接将可运行源代码粘贴在下面的方框中）实验三典型信道容量的计算1 实验内容（1）熟悉利用srand()函数产生随机离散信道概率空间的方法；（2）计算随机离散信道的信道容量；2 数据结构与算法描述1）变量及函数的定义3 实验数据与实验结果（可用文字描述或贴图的方式进行说明）1）测试数据0.6 0.2 0.20.5 0.3 0.22）实验结果4 程序代码清单（可直接将可运行源代码粘贴在下面的方框中）实验四香农编码1 实验内容（1）熟悉理解香农编码的过程（2）将给定的数据进行香农编码2 数据结构与算法描述3 实验数据与实验结果（可用文字描述或贴图的方式进行说明）1）测试数据0.25 0.25 0.2 0.15 0.1 0.052）实验结果4 程序代码清单（可直接将可运行源代码粘贴在下面的方框中）实验五 Huffman编码1 实验内容（1）熟悉理解Huffman编码的过程（2）将给定的数据进行Huffman编码2 数据结构与算法描述1）变量及函数的定义3 实验数据与实验结果（可用文字描述或贴图的方式进行说明）1）测试数据0.2 0.1 0.3 0.1 0.1 0.22）实验结果4 程序代码清单（可直接将可运行源代码粘贴在下面的方框中）实验六 循环冗余校验码1 实验内容（1）理解循环冗余校验的基本程序； （2）对给出的数据进行循环冗余校验；2 数据结构与算法描述1）变量及函数的定义3 实验数据与实验结果（可用文字描述或贴图的方式进行说明）1）测试数据信息码：321x x x +++ 生成码：431x x x +++2）实验结果4 程序代码清单（可直接将可运行源代码粘贴在下面的方框中）语。
信息论与编码实验报告
信息论与编码实验报告一、实验目的本实验旨在通过实践，使学生们对信息论与编码理论有一个更深入的理解，掌握信息论与编码的基本原理和应用方法。
二、实验环境本次实验使用MATLAB软件来实现相关编码算法。
三、实验内容1.信息熵的计算信息熵是信息理论中的一个重要概念，用来度量一些信息源的不确定性。
在实验中，我们将计算给定的一组消息的信息熵。
首先，我们将给定的消息编码为二进制序列。
然后，我们根据信息熵的定义，使用公式计算信息熵：H(X) = -Σ(p(x) * log2(p(x)))其中，H(X)表示信息熵，p(x)表示消息x发生的概率。
2.香农编码的实现香农编码是一种无失真的编码方法，用于将离散的符号序列编码为二进制码字。
在实验中，我们将实现香农编码算法。
首先，我们需要计算给定符号序列中各个符号的概率。
然后，根据概率大小，将概率最高的符号分配最短的二进制码字，将概率较低的符号分配较长的二进制码字。
实现香农编码算法后，我们将计算编码后的码字的平均码长，并与信息熵进行比较，了解香农编码的效率。
3.赫夫曼编码的实现赫夫曼编码是一种常用的无失真编码方法，也被广泛应用于数据压缩中。
在实验中，我们将实现赫夫曼编码算法。
首先，我们需要计算给定符号序列中各个符号的概率。
然后，根据概率大小，使用最小堆数据结构构建赫夫曼树。
最后，根据赫夫曼树的性质，将每个符号的编码确定下来。
实现赫夫曼编码算法后，我们将计算编码后的码字的平均码长，并与信息熵进行比较，了解赫夫曼编码的效率。
四、实验结果与分析1.实验一结果我们选取了一个包含1000个等概率的二进制消息的序列进行实验。
通过计算，我们得到了该消息序列的信息熵为12.实验二结果我们选取了一个包含1000个符号的序列进行实验。
通过计算，我们得到了编码后的平均码长为2.8、与信息熵的比较发现，香农编码的效率很高。
3.实验三结果我们选取了一个包含1000个符号的序列进行实验。
通过计算，我们得到了编码后的平均码长为2.6、与信息熵的比较发现，赫夫曼编码的效率也很高。
信息论与编码实验报告(DOC)
计算机与信息学院信息论与编码实验报告专业班级学生姓名及学号周伟康20112910 课程教学班号任课教师苏兆品实验指导教师实验地点2013 ~ 2014 学年第一学期信息论与编码课程设计目录一．课程设计目的 (2)二．课程设计要求 (2)三．课程设计描述 (2)四．程序结构 (2)五．算法及部分源码 (3)六．用例测试 (9)七．总结 (20)一．课程设计目的通过编程实现，在理解掌握的基础上进一步扩展课授的几种无失真信源编码算法。
以实践检验理论。
二．课程设计要求1.对一灰度图像进行游程编码的设计实现（将Huffman与游程结合）。
2.试对任意的数字序列（如学号、电话号码）进行自适应算术编码。
3.围绕设计题目查阅资料，掌握编码的基本原理。
4.按设计要求和编码原理进行算法的设计，算法的设计应满足正确性、可读性、健壮性、高效率等要求。
5.在此基础上，可以进行扩展三．课程设计描述本次设计实现内容：1.对任意的信源符号序列进行N元Huffman编码/译码。
2.对任意的信源符号序列进行N元Fano 编码/译码。
3.对任意的信源符号序列进行N元Elias 编码/译码。
4.对像素矩阵进行游程与上述编码方式结合的编码/译码。
5.数字串的自适应算数编码/译码。
6.对任意给定译码规则的译码和判断其是否为即时码。
输入数据从键盘或磁盘文件读入，运算结果显示到屏幕或保存到文件。
编写可视化图形交互界面。
本次设计程序用Java实现，由本人独立完成。
四．程序结构本次设计采用MVC设计模式：控制包下为文件读写线程执行包下是执行主类模式包分编码译码两部分Item：封装每个码元符号信息和操作AnlysisModel：信源序列统计分析模型其他如右图顾名思义视图包也分编码译码两部分MainFrame：主框架界面编码下：算数编码面板分组码编码面板译码下：算数译码面板分组码译码面板五． 算法及部分源码a) N 元Huffman 编码：算法：1) 将每个信源符号加入优先队列Heap 。
信息论与编码实验报告
信息论与编码实验报告信息论与编码实验报告一、引言信息论与编码是现代通信领域中的重要理论基础，通过对信息的量化和编码方式的设计，可以提高通信系统的传输效率和可靠性。
本实验旨在通过对信息论与编码的实际应用进行探索，加深对相关理论的理解和掌握。
二、实验目的1. 了解信息论与编码的基本概念和原理；2. 学习使用信息论与编码的工具和方法；3. 进行实际的编码实验，验证理论的有效性。
三、实验内容1. 信息熵的计算信息熵是信息论中的重要概念，用于衡量信息的不确定性。
我们选择一个简单的例子来计算信息熵，假设有一个硬币，正反面出现的概率分别为0.5。
根据信息熵的公式，我们可以计算出该硬币的信息熵为1比特。
2. 信道容量的计算信道容量是指在给定信道带宽和信噪比条件下，信道能够传输的最大数据率。
我们选择一个高斯信道作为实验对象，通过改变信噪比来计算信道容量。
实验结果显示，信噪比越高，信道容量越大。
3. 奇偶校验码的设计与实现奇偶校验码是一种简单的错误检测码，可以用于检测数据传输过程中的错误。
我们设计了一个简单的奇偶校验码方案，并通过编程实现了该方案。
实验结果表明，奇偶校验码能够有效地检测出数据传输中的错误。
4. 哈夫曼编码的设计与实现哈夫曼编码是一种有效的数据压缩算法，通过对出现频率较高的字符进行短编码，可以实现数据的高效传输和存储。
我们选择一段文本作为实验对象，通过统计字符出现频率并设计相应的哈夫曼编码表，成功地对文本进行了压缩。
四、实验结果与分析通过实验，我们成功地计算了信息熵和信道容量，并验证了理论的准确性。
在奇偶校验码的实验中，我们发现该码能够有效地检测出单比特错误，但对于多比特错误的检测能力有限。
在哈夫曼编码的实验中，我们成功地对文本进行了压缩，并获得了较高的压缩比。
五、实验总结通过本次实验，我们深入了解了信息论与编码的基本概念和原理，并通过实际操作加深了对相关理论的理解。
实验结果表明，信息论与编码在通信系统中具有重要的应用价值，能够提高通信效率和可靠性。
《信息论与信源编码》实验报告
《信息论与信源编码》实验报告1、实验目的(1) 理解信源编码的基本原理；(2) 熟练掌握Huffman编码的方法；(3) 理解无失真信源编码和限失真编码方法在实际图像信源编码应用中的差异。
2、实验设备与软件(1) PC计算机系统(2) VC++6.0语言编程环境(3) 基于VC++6.0的图像处理实验基本程序框架imageprocessing_S(4) 常用图像浏览编辑软件Acdsee和数据压缩软件winrar。
(5) 实验所需要的bmp格式图像（灰度图象若干幅）3、实验内容与步骤(1) 针对“图像1.bmp”、“图像2.bmp”和“图像3.bmp”进行灰度频率统计（即计算图像灰度直方图），在此基础上添加函数代码构造Huffman码表，针对图像数据进行Huffman编码，观察和分析不同图像信源的编码效率和压缩比。
(2) 利用图像处理软件Acdsee将“图像1.bmp”、“图像2.bmp”和“图像3.bmp”转换为质量因子为10、50、90的JPG格式图像（共生成9幅JPG图像），比较图像格式转换前后数据量的差异，比较不同品质因素对图像质量的影响；(3) 数据压缩软件winrar将“图像1.bmp”、“图像2.bmp”和“图像3.bmp”分别生成压缩包文件，观察和分析压缩前后数据量的差异；(4) 针对任意一幅图像，比较原始BMP图像数据量、Huffman编码后的数据量（不含码表）、品质因素分别为10、50、90时的JPG文件数据量和rar压缩包的数据量，分析不同编码方案下图像数据量变化的原因。
4、实验结果及分析(1)在VC环境下，添加代码构造Huffman编码表，对比试验结果如下：a.图像1.bmp：图1 图像1.bmp图像的像素点个数共640×480个，原图像大小为301KB，图像信息熵为5.92bit/符号，通过Huffman编码后，其编码后的平均码长为5.960码元/信源符号，编码效率为99.468%，编码后的图像大小为228.871KB，压缩比为1.342。
信息论和编码实验报告
信息论与编码实验报告实验课程名称：赫夫曼编码（二进制与三进制编码）专业信息与计算科学班级信息与计算科学1班学生姓名李林钟学号 20####指导老师王老师信息论和编码实验报告一、实验目的利用赫夫曼编码进行通信可以大大提高通信利用率，缩短信息传输时间，降低传输成本。
赫夫曼编码是信源编码中最基本的编码方法。
●理解赫夫曼编码，无论是二进制赫夫曼编码，还是m 进制赫夫曼编码，都要理解其编码原理和编码步骤。
● 回顾无失真信源编码定理，理解无失真编码的基本原理和常用编码方法。
●掌握二进制赫夫曼编码和m 进制赫夫曼编码的基本步骤，能计算其平均码长，编码效率等。
●应用二进制赫夫曼编码或m 进制赫夫曼编码处理简单的实际信源编码问题。
二、实验环境与设备1、操作系统与编程软件：windows 操作系统，cfree5.0， Visual C++ 6.0。
2、编程语言：C 语言以及C++语言 三、实验内容1. 二进制赫夫曼编码原理及步骤： （1）信源编码的计算设有N 个码元组成的离散、无记忆符号集，其中每个符号由一个二进制码字表示，信源符号个数n 、信源的概率分布P={p(s i )},i=1,…..,n 。
且各符号xi 的以li 个码元编码，在变长字编码时每个符号的平均码长为∑==ni li xi p L 1)( ；信源熵为：)(log )()(1xi p xi p X H ni ∑=-= ；唯一可译码的充要条件：11≤∑=-ni Ki m ；其中m 为码符号个数，n 为信源符号个数，Ki 为各码字长度。
（2）二元霍夫曼编码规则（1）将信源符号依出现概率递减顺序排序。
（2）给两个概率最小的信源符号各分配一个码位“0”和“1”，将两个信源符号合并成一个新符号，并用这两个最小的概率之和作为新符号的概率，结果得到一个只包含（n-1）个信源符号的新信源。
称为信源的第一次缩减信源，用s1 表示。
（3）将缩减信源 s1 的符号仍按概率从大到小顺序排列，重复步骤(2)，得到只含（n-2）个符号的缩减信源s2。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
信息论与编码编码部分实验报告课程名称：信息论与编码实验名称：关于香农码费诺码Huffman码的实验学院：信息科学与工程学院班级：电子信息工程1201姓名：viga学号：指导老师：张祖平日期：2014年1月3日目录⊙实验目的及要求1.1 实验目的 (4)1.2 开发工具及环境 (4)1.3 需求分析与功能说明 (4)⊙实验设计过程2.1 用matlab实现香农码、费诺码和Huffman编码2.1.1 说明 (6)2.1.2 源代码 (7)2.1.3 运行结果（截图） (19)2.2 用C\C++ 实现香农码2.2.1 说明 (22)2.2.2 源代码 (23)2.2.3 运行结果（截图） (26)2.3 用C\C++ 实现Huffman码2.3.1 说明 (26)2.3.2 源代码 (29)2.3.3 运行结果（截图） (36)2.4 用C\C++ 实现费诺码2.4.1 说明 (37)2.4.2 源代码 (37)2.4.3运行结果结果（截图） (40)⊙课程设计总结 (42)⊙参考资料4.1 课程设计指导书 (43)实验目的及要求1.1 实验目的1.掌握香农码、费诺码和Huffman编码原理和过程。
2.熟悉matlab软件的基本操作，练习使用matlab实现香农码、费诺码和Huffman编码。
3.熟悉C/C++语言，练习使用C/C++实现香农码、费诺码和Huffman编码。
4.应用Huffman编码实现文件的压缩和解压缩。
1.2 开发工具及环境MATLAB 7.0、wps文字、红精灵抓图精灵2010Windows7 系统环境1.3 需求分析与功能说明1、使用matlab实现香农码、费诺码和Huffman编码，并自己设计测试案例。
2、使用C\C++实现香农码、费诺码和Huffman编码，并自己设计测试案例。
3、可以用任何开发工具和开发语言，尝试实现Huffman编码应用在数据文件的压缩和解压缩中，并自己设计测试案例。
具体要求：读入有关信源的文本文件（测试用例，里面为每个符号的概率，概率数值用,隔开），然后分别用matlab实现香农码、费诺码和Huffman编码，并计算各个码的平均码长，编码效率，并用matlab图示出来（可以是曲线图或直方图），再尝试对同样的信源用C\C++实现香农码、费诺码和Huffman编码。
文本文件例如infosource.txt。
文件里面的内容为0.4，0.2，0.1，0.1，0.15，0.05（，可能是全角或半角）。
实验设计过程2.1 用matlab实现香农码、费诺码和Huffman编码2.1.1 说明（1）使用matlab实现香农码、费诺码和Huffman编码，并自己设计测试案例。
具体要求：读入有关信源的文本文件（测试用例，里面为每个符号的概率，概率数值用,隔开），然后分别用matlab实现香农码、费诺码和Huffman编码，并计算各个码的平均码长，编码效率，并用matlab 图示出来（直方图）文本文件例如gailv.txt我测试的案例为0.4 0.2 0.1 0.1 0.15 0.05，存在gailv.txt这个文本文档中。
用“load gailv.txt”语句读入文本文档中的概率分布。
（2）编码部分设计：香农编码：1、将概率序列按降序排序，为方便，还是记作p，在编程时调整一下就行。
2、算累加概率B(i)=p(i-1)+B(i-1);, i= 0..i-1，视B(0) = 03、算码长C=-log2(p); N=ceil(C); [ceil函数为取不小于自变量的最小整数的函数]4、将pa(i)换成二进制表示，取小数前k(i)位为c(i)费诺编码：1、将概率序列排序，为方便，还是记作p，在编程时调整一下就行。
2、按编码进制数将概率分组，尽量使每组的概率和接近。
3、给每组分配一位码元（0，1，。
）4、对每一组按同样地方法划分，直到每个符号有唯一码字。
哈夫曼编码：可以用哈夫曼树的观点来看。
1、选取概率最小的两个节点a，b2、将他们合并为c加入原概率序列3、从c指向a的边标为0，向b的边标为14、重复到仅有一棵树为止。
5、每个符号的码字就是从根走到该符号的所有边上的码元连接起来。
2.1.2 源代码1、程序总程序（源文件见zong.m，文本文档见gailv.txt）% load mydata A; %A是原始概率load gailv.txt;A=gailv;[m,n]=size(A); %m为A的行数n为A的列数%香农码for i=1:nif(A(i)<0)error('信源概率不能小于0');EndEndif((sum(A)-1)>0.0001)error('信源概率之和必须为1');EndA=sort(A,2,'descend'); %完成对A的降序排列for i=1:nif i==1B(i)=0;elseB(i)=A(i-1)+B(i-1); %B是累加后概率endendC=-log2(A); %C是对A求log2N=ceil(C); %N是每一个码的长度m=max(max(N));INT=ones(n,m);for i=1:nfor j=1:N(i)B(i)=2*B(i);if B(i)<1INT(i,j)=0;elseINT(i,j)=1;endB(i)=rem(B(i),1);endend %求二进制并进行编码string='码字';ST=cell(1,n);for i=1:nfor j=1:N(i)a=num2str(INT(i,j));ST(i)=strcat(ST(1,i),a);endendfprintf('\n 信源概率为：\n');disp(A);fprintf('\n 香农码为：\n');disp(ST);fprintf('\n 香农平均码长为：\n');n_1=sum(N.*A);disp(n_1);fprintf('\n 香农编码效率为:\n');ha=sum(A.*(-log2(A)));t1=ha/n_1;disp(t1);%费诺码for i=1:nB(i,1)=A(i); %生成B的第1列enda=sum(B(:,1))/2;for k=1:n-1if abs(sum(B(1:k,1))-a)<=abs(sum(B(1:k+1,1))-a)break;endendfor i=1:n %生成B第2列的元素if i<=kB(i,2)=0;elseB(i,2)=1;endend%生成第一次编码的结果FN=B(:,2);FN=sym(FN);%生成第3列及以后几列的各元素j=3;while (j~=0)p=1;while(p<=n)x=B(p,j-1);for q=p:nif x==-1break;else if B(q,j-1)==xy=1;continue;elsey=0;break;endendendif y==1q=q+1;endif q==p|q-p==1B(p,j)=-1;else if q-p==2B(p,j)=0;FN(p)=[char(FN(p)),'0'];B(q-1,j)=1;FN(q-1)=[char(FN(q-1)),'1'];elsea=sum(B(p:q-1,1))/2;for k=p:q-2if abs(sum(B(p:k,1))-a)<=abs(sum(B(p:k+1,1))-a);break;endendfor i=p:q-1if i<=kB(i,j)=0;FN(i)=[char(FN(i)),'0'];elseB(i,j)=1;FN(i)=[char(FN(i)),'1'];endendendendp=q;endC=B(:,j);D=find(C==-1);[e,f]=size(D);if e==nj=0;elsej=j+1;endendfor i=1:n[u,v]=size(char(FN(i)));lon(i)=v;endlonl=sum(A.*lon);fprintf('\n 信源概率为：\n'); disp(A);fprintf('\n 费诺码为：\n'); disp(FN);fprintf('\n 费诺编码效率为:\n');ha=sum(A.*(-log2(A)));t2=ha/l;disp(t2);fprintf('\n 费诺码平均码长为：\n');n_2=sum(lon)/n;disp(n_2);%HuffmanQ=A; %建立索引矩阵Index Index=zeros(n-1,n); %初始化Indexfor i=1:n-1[Q,L]=sort(Q);Index(i,:)=[L(1:n-i+1),zeros(1,i-1)];G(i,:)=Q;Q=[Q(1)+Q(2),Q(3:n),1]; %将概率最小的两个元素相加endfor i=1:n-1 %进行回溯Char(i,:)=blanks(n*n);end%从码树的树根向树叶回溯，即从G矩阵的最后一行按与Index中的索引位置的对应关系向其第一行进行编码Char(n-1,n)='0';%G中的N-1行即最后一行第一个元素赋为0，存到Char中N-1行的N 列位置Char(n-1,2*n)='1';%G中的N-1行即最后一行第二个元素赋为1，存到Char中N-1行的2*N列位置%以下从G的倒数第二行开始向前编码for i=2:n-1Char(n-i,1:n-1)=Char(n-i+1,n*(find(Index(n-i+1,:)==1))-(n-2):n*(find(Index(n-i+1,:)==1))); %将Index后一行中索引为1的编码码字填入到当前行的第一个编码位置Char(n-i,n)='0'; %然后在当前行的第一个编码位置末尾填入'0'Char(n-i,n+1:2*n-1)=Char(n-i,1:n-1); %将G后一行中索引为1的编码码字填入到当前行的第二个编码位置Char(n-i,2*n)='1'; %然后在当前行的第二个编码位置末尾填入'1'for j=1:i-1%内循环作用：将Index后一行中索引不为1处的编码按照左右顺序填入当前行的第3个位置开始的地方,最后计算到Index的首行为止Char(n-i,(j+1)*n+1:(j+2)*n)=Char(n-i+1,n*(find(Index(n-i+1,:)==j+1)-1)+1:n*find(Inde x(n-i+1,:)==j+1));endend%Char中第一行的编码结果就是所需的Huffman 编码输出，通过Index中第一行索引将编码对应到相应概率的信源符号上。