信息论与编码实验
信息论与编码实验报告
信息论与编码实验报告信息论与编码实验报告实验一：英文文本信息量的计算一、实验目的及要求a）实验目的1、通过本实验熟悉Matlab 软件编程环境2、编写M 文件实现对英文文本信息量的统计，掌握信息量、信源熵的计算方法b）实验要求1、了解matlab 中M 文件的编辑、调试过程2、编写程序实现对给定英文文本信息量的统计3、英文文本中字母不区分大小写，考虑空格的信息量，但不考虑标点符号的信息量4、建议英文文本采用txt 格式二、实验步骤及运行结果记录a）实验步骤1、查找各个英文字母及空格出现的频率2、在Matlab 中读取给定的英文文章3、计算英文文章的长度4、统计在该文章中各个字母及空格出现的次数并放入数组N 中5、计算各个字母和空格的信息量及整篇文章的信息量6、计算信源熵b）实验结果sumI = +003；H = 三、程序流程图四、程序清单，并注释每条语句五、实验小结通过本次实验熟悉了Matlab 软件编程环境和一些函数的功能及使用，掌握了信息量、信源熵的计算方法。
1 附一：开始读取英文文章计算文章的长度嵌套的for 循环语句假判断是否符合循环条件真if 否elseif 判断字是否为大写母输入相应的频率否elseif 判断是否为小写字母计算各个字母、空格及整篇文章的信息量是判断是否为小写字母是计算信源熵是放入数组N 中对应的位置放入数组N 中对应的位置放入数组N 中对应的位置结束附二: wenzhang=textread(‘实验一：english ‘,’\’); M=size(wenzhang); row=M(1,1); line=M(1,2); N=zeros(1,27); for i=1:row for j=1:line %读取英文文章%文章的长度ifdouble(wenzhang(i,j))>96&&double(wenz hang(i,j))double(wenzhang(i,j))>64&&double(wenz hang(i,j))N(1,double(wenzhang(i,j))-64)=N(1,doubl e(wenzhang(i,j))-64)+1; elseif double(wenzhang(i,j))==32N(1,27)=N(1,27)+1; end end end %统计各字母和空格出现的个数并存入N数组中。
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，信息源的随机性，信息的不确定性。
讲解信息的度量方法，如香农熵、相对熵等。
1.2 信道模型与容量介绍信道的概念，信道的传输特性，信道的噪声模型。
讲解信道的容量及其计算方法，如单符号信道、多符号信道等。
第二章：信源编码与压缩2.1 信源编码的基本概念介绍信源编码的定义、目的和方法。
讲解信源编码的基本原理，如冗余度、平均冗余度等。
2.2 压缩算法与性能评价介绍无损压缩算法，如霍夫曼编码、算术编码等。
讲解有损压缩算法，如JPEG、MP3等。
分析各种压缩算法的性能评价指标，如压缩比、重建误差等。
第三章：信道编码与错误控制3.1 信道编码的基本概念介绍信道编码的定义、目的和方法。
讲解信道编码的基本原理，如纠错码、检错码等。
3.2 常见信道编码技术介绍常用的信道编码技术，如卷积码、汉明码、奇偶校验等。
分析各种信道编码技术的性能，如误码率、编码效率等。
第四章：数字基带传输4.1 数字基带信号与基带传输介绍数字基带信号的概念，数字基带信号的传输特性。
讲解数字基带信号的传输方法，如无编码调制、编码调制等。
4.2 基带传输系统的性能分析分析基带传输系统的性能指标，如误码率、传输速率等。
讲解基带传输系统的优化方法，如滤波器设计、信号调制等。
第五章：信号检测与接收5.1 信号检测的基本概念介绍信号检测的定义、目的和方法。
讲解信号检测的基本原理，如最大后验概率准则、贝叶斯准则等。
5.2 信号接收与性能分析分析信号接收的方法，如同步接收、异步接收等。
讲解信号接收性能的评价指标，如信噪比、误码率等。
第六章：卷积编码与Viterbi算法6.1 卷积编码的基本原理介绍卷积编码的定义、结构及其多项式。
讲解卷积编码的编码过程，包括初始状态、状态转移和输出计算。
6.2 Viterbi算法及其应用介绍Viterbi算法的原理，算法的基本步骤和性能。
讲解Viterbi算法在卷积编码解码中的应用，包括路径度量和状态估计。
信息论与编码实验2-实验报告
信息论与编码实验2-实验报告信息论与编码实验 2 实验报告一、实验目的本次信息论与编码实验 2 的主要目的是深入理解和应用信息论与编码的相关知识，通过实际操作和数据分析，进一步掌握信源编码和信道编码的原理及方法，提高对信息传输效率和可靠性的认识。
二、实验原理（一）信源编码信源编码的目的是减少信源输出符号序列中的冗余度，提高符号的平均信息量。
常见的信源编码方法有香农编码、哈夫曼编码等。
香农编码的基本思想是根据符号出现的概率来分配码字长度，概率越大，码字越短。
哈夫曼编码则通过构建一棵最优二叉树，为出现概率较高的符号分配较短的编码，从而实现平均码长的最小化。
（二）信道编码信道编码用于增加信息传输的可靠性，通过在发送的信息中添加冗余信息，使得在接收端能够检测和纠正传输过程中产生的错误。
常见的信道编码有线性分组码，如汉明码等。
三、实验内容与步骤（一）信源编码实验1、选取一组具有不同概率分布的信源符号，例如：A（02）、B （03）、C（01）、D（04）。
2、分别使用香农编码和哈夫曼编码对信源符号进行编码。
3、计算两种编码方法的平均码长，并与信源熵进行比较。
（二）信道编码实验1、选择一种线性分组码，如（7,4）汉明码。
2、生成一组随机的信息位。
3、对信息位进行编码，得到编码后的码字。
4、在码字中引入随机错误。
5、进行错误检测和纠正，并计算错误纠正的成功率。
四、实验结果与分析（一）信源编码结果1、香农编码的码字为：A（010）、B（001）、C（100）、D （000）。
平均码长为 22 比特，信源熵约为 184 比特，平均码长略大于信源熵。
2、哈夫曼编码的码字为：A（10）、B（01）、C（111）、D （00）。
平均码长为 19 比特，更接近信源熵，编码效率更高。
（二）信道编码结果在引入一定数量的错误后，（7,4）汉明码能够成功检测并纠正大部分错误，错误纠正成功率较高，表明其在提高信息传输可靠性方面具有较好的性能。
信息论与编码技术实验报告
《信息论与编码技术》实验报告实验一：请根据公式-plogp ，说明小概率事件和大概率事件对熵的贡献。
解：先做图，然后分析。
将公式写为)(log )(2p p p f -=对它编写计算和画图程序如下：p=0:0.01:1;x=-p.*log2(p);plot(p,x);从图中曲线看出，小概率事件和大概率事件的情况下，熵值都很低，贡献很小，在概率为0.5附近时熵值最大，故此时对熵的贡献最大。
实验二：请对a 、b 、c 霍夫曼编码，它们的概率是0.6、0.3、0.1。
并以此对符号串ababaacbaa 编码和译码。
解：编码步骤分为：事件排序，符号编码，信源编码，信道编码。
MATLAB 程序：clc;a=0.3;b=0.3;c=0.4; %%%霍夫曼编码A=[a,b,c];A=fliplr(sort(A)); %%%降序排序if (a==b)&(a>c), %%实现了当a,b,c 其中两概率相同时的编码，及3值均不同时的编码 u='a';x=a;v='b';y=b;w='c';z=c;elseif (a==b)&(a<c),u='c';x=c;v='a';y=a;w='b';z=b;elseif (c==b)&(c>a),u='b';x=b;v='c';y=c;w='a';z=a;elseif (c==b)&(c<a),u='a';x=a;v='b';y=b;w='c';z=c;elseif(a==c)&(a>b),u='a',x=a;v='c',y=c;w='b',z=b;elseif(a==c)&(a<b),u='b';x=b;v='a';y=a;w='c';z=c;elseif A(1,1)==a,u='a';x=a;elseif A(1,1)==b,u='b';x=b;elseif A(1,1)==c,u='c';x=c;endif A(1,2)==a,v='a';y=a;elseif A(1,2)==b,v='b';y=b;elseif A(1,2)==c,v='c';y=c;endif A(1,3)==a,w='a';z=a;elseif A(1,3)==b,w='b';z=b;elseif A(1,3)==c,w='c';z=c;endend %%%x，y，z按从大到小顺序存放a，b，c的值，u,v,w存对应字母if x>=(y+z),U='0';V(1)='0';V(2)='1';W(1)='1';W(2)='1';else U='1';V(1)='0';V(2)='0';W(1)='1';W(2)='0';enddisp('霍夫曼编码结果：')if u=='a',a=fliplr(U),elseif u=='b',b=fliplr(U),else c=fliplr(U),end if v=='a',a=fliplr(V),elseif v=='b',b=fliplr(V),else c=fliplr(V),end if w=='a',a=fliplr(W),elseif w=='b',b=fliplr(W),else c=fliplr(W),end %%%编码步骤为：信源编码，信道编码disp('信源符号序列：')s='ababaacbaa' %%%信源编码q=[];for i=s;if i=='a',d=a;elseif i=='b';d=b;else d=c;end;q=[q,d];endm=[]; %%%符号变数字for i=q;m=[m,str2num(i)];endP=[1,1,1,0;0,1,1,1;1,1,0,1];G=[eye(3),P];%%%信道编码%%%接下来的for循环在程序中多次使用，此处作用是将已编码组m每3个1组放入mk中进行运算之后存入Ck数组中，每次mk中运算结束之后清空，再进行下一组运算，而信道编码结果数组C则由C=[C,Ck]存入每组7个码。
信息论与编码实验报告
NANCHANG UNIVERSITY信息论与编码实验报告（2018年11月27日）学院：信息工程学院系电子信息工程系专业班级：学生姓名：学号：指导教师：目录实验一自信息量和熵源.............................................................................................. 实验二准对称信道容量.............................................................................................. 实验三费诺不等式...................................................................................................... 实验四香农编码.......................................................................................................... 实验五费诺编码.......................................................................................................... 实验六霍夫曼编码......................................................................................................实验一自信息量和熵源一、实验要求1、画出I=-的函数图；2、画出H(p)=-p-(1-p)函数图。
二、实验原理及理论分析自信息量：一个事件的自信息量就是对其不确定性的度量。
信息论与编码实验报告
实验一 绘制二进熵函数曲线（2个学时）一、实验目的：1. 掌握Excel 的数据填充、公式运算和图表制作2. 掌握Matlab 绘图函数3. 掌握、理解熵函数表达式及其性质二、实验要求：1. 提前预习实验，认真阅读实验原理以及相应的参考书。
2. 在实验报告中给出二进制熵函数曲线图三、实验原理：1. Excel 的图表功能2. 信源熵的概念及性质()()[]()[]())(1)(1 .log )( .)( 1log 1log )(log )()(10 , 110)(21Q H P H Q P H b nX H a p H p p p p x p x p X H p p p x x X P X i i i λλλλ-+≥-+≤=--+-=-=≤≤⎩⎨⎧⎭⎬⎫-===⎥⎦⎤⎢⎣⎡∑单位为 比特/符号 或 比特/符号序列。
当某一符号xi 的概率p(xi)为零时，p(xi)log p(xi) 在熵公式中无意义，为此规定这时的 p(xi)log p(xi) 也为零。
当信源X 中只含有一个符号x 时，必有p(x)=1，此时信源熵H （X ）为零。
四、实验内容：用Excel 和Matlab 软件制作二进熵函数曲线。
根据曲线说明信源熵的物理意义。
（一） Excel具体步骤如下：1、启动Excel 应用程序。
2、准备一组数据p 。
在Excel 的一个工作表的A 列（或其它列）输入一组p ，取步长为0.01，从0至100产生101个p （利用Excel 填充功能）。
3、取定对数底c，在B列计算H(x) ,注意对p=0与p=1两处，在B列对应位置直接输入0。
Excel中提供了三种对数函数LN(x),LOG10(x)和LOG(x,c)，其中LN(x)是求自然对数，LOG10(x)是求以10为底的对数，LOG(x,c)表示求对数。
选用c=2,则应用函数LOG(x,2)。
在单元格B2中输入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2)双击B2的填充柄，即可完成H(p)的计算。
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 实验目的1. 了解信息的基本概念及其度量方法；2. 掌握信息的熵、冗余度和信道容量等基本概念。
1.2 实验原理1. 信息的基本概念：信息、消息、信源等；2. 信息的度量：平均信息量、熵、冗余度等；3. 信道容量和编码定理。
1.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
1.4 实验步骤1. 讲解信息的基本概念及其度量方法；2. 分析实际例子，演示信息的熵、冗余度和信道容量的计算过程；3. 让学生通过实验软件进行相关计算和分析。
1.5 思考与讨论1. 信息量与消息长度的关系；2. 信道容量在实际通信系统中的应用。
第二章：数字基带编码2.1 实验目的1. 掌握数字基带编码的基本原理；2. 学会使用相关软件进行数字基带编码的仿真。
2.2 实验原理1. 数字基带编码的定义和分类；2. 常用数字基带编码方法：NRZ、RZ、曼彻斯特编码等；3. 数字基带编码的性能评估：误码率、带宽利用率等。
2.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
2.4 实验步骤1. 讲解数字基带编码的基本原理和方法；2. 演示常用数字基带编码的仿真效果；3. 让学生通过实验软件进行数字基带编码的仿真实验。
2.5 思考与讨论1. 数字基带编码的优缺点；2. 如何在实际通信系统中选择合适的基带编码方法。
第三章：信道编码与误码控制3.1 实验目的1. 了解信道编码的基本原理；2. 掌握常见的信道编码方法；3. 学会使用相关软件进行信道编码的仿真。
3.2 实验原理1. 信道编码的定义和作用；2. 常用信道编码方法：卷积编码、汉明编码、里德-所罗门编码等；3. 误码控制原理：检错、纠错等。
3.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
3.4 实验步骤1. 讲解信道编码的基本原理和方法；2. 演示常用信道编码的仿真效果；3. 让学生通过实验软件进行信道编码的仿真实验。
信息论与编码实验报告
实验一：计算离散信源的熵一、实验设备:1、计算机2、软件：Matlab二、实验目的:1、熟悉离散信源的特点；2、学习仿真离散信源的方法3、学习离散信源平均信息量的计算方法4、熟悉 Matlab 编程；三、实验内容:1、写出计算自信息量的Matlab 程序2、写出计算离散信源平均信息量的Matlab 程序。
3、将程序在计算机上仿真实现，验证程序的正确性并完成习题。
四、求解：1、习题：A 地天气预报构成的信源空间为：()⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡6/14/14/13/1x p X 大雨小雨多云晴 B 地信源空间为：17(),88Y p y ⎡⎤⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦⎣⎦ 小雨晴 求各种天气的自信息量和此两个信源的熵。
2、程序代码：p1=[1/3,1/4,1/4,1/6];p2=[7/8,1/8];H1=0.0;H2=0.0;I=[];J=[];for i=1:4H1=H1+p1(i)*log2(1/p1(i));I(i)=log2(1/p1(i));enddisp('自信息I分别为：');Idisp('信息熵H1为：');H1for j=1:2H2=H2+p2(j)*log2(1/p2(j));J(j)=log2(1/p2(j));enddisp('自信息J分别为');Jdisp('信息熵H2为：');H23、运行结果：自信息量I分别为：I = 1.5850 2.0000 2.0000 2.5850信源熵H1为：H1 = 1.9591自信息量J分别为：J =0.1926 3.0000信源熵H2为：H2 =0.54364、分析：答案是：I =1.5850 2.0000 2.0000 2.5850 J =0.1926 3.0000H1 =1.9591； H2 =0.5436实验2：信道容量一、实验设备:1、计算机2、软件：Matlab二、实验目的:1、熟悉离散信源的特点；2、学习仿真离散信源的方法3、学习离散信源平均信息量的计算方法4、熟悉 Matlab 编程；三、实验内容:1、写出计算自信息量的Matlab 程序2、写出计算离散信源平均信息量的Matlab 程序。
信息论与编码技术之实验
前两个是别人的，后两个是自己的，学术交流，抛砖引玉。
信息论与编码 实验报告样板实验室名称：S1-306实验一 二维随机变量信息熵的计算 教学实验报告[实验目的]掌握二变量多种信息量的计算方法。
[实验要求]1．熟悉二变量多种信息量的计算方法，设计实验的数据结构和算法；2．编写计算二维随机变量信息量的书面程序代码。
[实验内容]离散二维随机变换熵的计算说明：（1）利用random 函数和归一化方法构造一个二维离散随机变量（X ，Y ）；（2）分别计算X 与Y 的熵、联合熵、条件熵：H （X ）、H （Y ）、H （X,Y ）H （X|Y ）、I （X|Y ）；（3）对测试通过的程序进行规范和优化；（4）编写本次实验的实验报告。
[实验步骤]实验过程中涉及的各种熵的主要公式（或定义式）：1、离散信源熵(平均不确定度/平均信息量/平均自信息量)()()()()log ()i i i i i i H X p x I x p x p x ==-∑∑2、在给定某个y j 条件下，x i 的条件自信息量为I(x i /y j )，X 集合的条件熵H （X/y j ）为 ,,(/)(/)(/)Y X H(X/Y)()(/)()(/)(/)()(/)j i j i j ij j j i j i j j i ji j i j i jH X y p x y I x y p y H X y p y p x y I x y p x y I x y ===∑∑∑∑在给定条件下，集合的条件熵为：H(X/Y)=相应地，在给定X （即各个x i ）的条件下，Y 集合的条件熵H(Y/X)定义为:,,(/)()(/)()log (/)i j j i i j j i i j i jH Y X p x y I y x p x y p y x ==-∑∑3、联合熵是联合符号集合 XY 上的每个元素对x i y j 的自信息量的概率加权统计平均值，表示X 和Y 同时发生的不确定度。
信息论与编码实验报告
信息论与编码实验报告一、实验目的信息论与编码是一门涉及信息的度量、传输和处理的学科，通过实验，旨在深入理解信息论的基本概念和编码原理，掌握常见的编码方法及其性能评估，提高对信息处理和通信系统的分析与设计能力。
二、实验原理（一）信息论基础信息熵是信息论中用于度量信息量的重要概念。
对于一个离散随机变量 X，其概率分布为 P(X) ＝｛p(x1)， p(x2)，， p(xn)｝，则信息熵H(X) 的定义为：H(X) ＝∑p(xi)log2(p(xi)）。
（二）编码原理1、无失真信源编码：通过去除信源中的冗余信息，实现用尽可能少的比特数来表示信源符号，常见的方法有香农编码、哈夫曼编码等。
2、有噪信道编码：为了提高信息在有噪声信道中传输的可靠性，通过添加冗余信息进行纠错编码，如线性分组码、卷积码等。
三、实验内容及步骤（一）信息熵的计算1、生成一个离散信源，例如信源符号集为{A, B, C, D}，对应的概率分布为{02, 03, 01, 04}。
2、根据信息熵的定义，使用编程语言计算该信源的信息熵。
（二）香农编码1、按照香农编码的步骤，首先计算信源符号的概率，并根据概率计算每个符号的编码长度。
2、确定编码值，生成香农编码表。
（三）哈夫曼编码1、构建哈夫曼树，根据信源符号的概率确定树的结构。
2、为每个信源符号分配编码，生成哈夫曼编码表。
（四）线性分组码1、选择一种线性分组码，如（7, 4）汉明码。
2、生成编码矩阵，对输入信息进行编码。
3、在接收端进行纠错译码。
四、实验结果与分析（一）信息熵计算结果对于上述生成的离散信源，计算得到的信息熵约为 184 比特/符号。
这表明该信源存在一定的不确定性，需要一定的信息量来准确描述。
（二）香农编码结果香农编码表如下：｜信源符号|概率|编码长度|编码值|｜｜｜｜｜｜A|02|232|00|｜B|03|174|10|｜C|01|332|110|｜D|04|132|111|香农编码的平均码长较长，编码效率相对较低。
信息论与编码实验报告
信息论与编码实验报告一、实验目的1.了解信息论与编码的基本概念和原理。
2.学习如何通过信息论与编码方法实现对数据的压缩和传输。
3.掌握信息论与编码实验的实验方法和实验技能。
4.提高实验设计、数据分析和报告撰写的能力。
二、实验内容1.通过对输入信源进行编码，实现对数据的压缩。
2. 比较不同编码方法的压缩效果，包括Shannon-Fano编码和霍夫曼编码。
3.通过传输信道对编码后的数据进行解码，还原原始信源。
4.分析并比较不同编码方法的传输效果，包括码率和传输质量。
三、实验原理1.信息论：熵是信息论中衡量信源不确定性的指标，熵越小表示信源的可预测性越高，在编码过程中可以压缩数据。
2. 编码方法：Shannon-Fano编码通过分治的方法将输入信源划分为不同的子集，分别进行编码；霍夫曼编码则通过构建最佳二叉树的方式，将较常出现的信源符号编码为较短的二进制码，较少出现的信源符号编码为较长的二进制码。
3.传输信道：信道可能存在误码和噪声，通过差错控制编码可以在一定程度上保障传输数据的正确性和完整性。
四、实验步骤1. 对给定的输入信源进行Shannon-Fano编码和霍夫曼编码。
2.计算编码后的码率，分析不同编码方法的压缩效果。
3.将编码后的数据传输到信道，模拟信道中的误码和噪声。
4.对传输后的数据进行解码，还原原始信源。
5.比较不同编码方法的传输质量，计算误码率和信噪比。
五、实验结果与分析1. 编码结果：通过对输入信源进行编码，得到了Shannon-Fano编码和霍夫曼编码的码表。
2.压缩效果：计算了不同编码方法的码率，比较了压缩效果。
3.传输结果：模拟信道传输后的数据，对数据进行解码，还原原始信源。
4.传输质量：计算了误码率和信噪比，分析了不同编码方法的传输质量。
六、实验总结通过本次实验，我深刻理解了信息论与编码的基本概念和原理，并掌握了信息论与编码实验的实验方法和实验技能。
在实验过程中，我遇到了一些困难，比如对编码方法的理解和实验数据的处理。
信息论与编码实验报告
信息论与编码实验报告实验⼀关于硬币称重问题的探讨⼀、问题描述：假设有N 个硬币，这N 个硬币中或许存在⼀个特殊的硬币，这个硬币或轻或重，⽽且在外观上和其他的硬币没什么区别。
现在有⼀个标准天平，但是⽆刻度。
现在要找出这个硬币，并且知道它到底是⽐真的硬币重还是轻，或者所有硬币都是真的。
请问：1）⾄少要称多少次才能达到⽬的；2）如果N=12，是否能在3 次之内将特殊的硬币找到；如果可以，要怎么称？⼆、问题分析：对于这个命题，有⼏处需要注意的地⽅：1）特殊的硬币可能存在，但也可能不存在，即使存在，其或轻或重未知；2）在⽬的上，不光要找到这只硬币，还要确定它是重还是轻；3）天平没有刻度，不能记录每次的读数，只能判断是左边重还是右边重，亦或者是两边平衡；4）最多只能称3 次。
三、解决⽅案：1.关于可⾏性的分析在这⾥，我们把称量的过程看成⼀种信息的获取过程。
对于N 个硬币，他们可能的情况为2N+1 种，即重（N 种），轻（N 种）或者⽆假币（1 种）。
由于这2N+1 种情况是等概率的，这个事件的不确定度为：Y=Log(2N+1)对于称量的过程，其实也是信息的获取过程，⼀是不确定度逐步消除的过程。
每⼀次称量只有3 种情况：左边重，右边重，平衡。
这3 种情况也是等概率的，所以他所提供的信息量为：y=Log3在K 次测量中，要将事件的不确定度完全消除，所以K= Log(2N+1)/ Log3根据上式，当N=12 时，K= 2.92< 3 所以13 只硬币是可以在3 次称量中达到⽬的的。
通过此式，我们还可以计算得到：通过3 次测量⽽找出异常硬币，N 的最⼤值为13.2.⽅案的提出为了描述⽅便，我们给这12枚硬币分别编号(1)-(12)。
⾸先，任选8个⽐较，如选：⑴⑵⑶⑷⽐⑸⑹⑺⑻1.若⼀样重，则假币在⑼～⑿中，第⼆步：⑼⑽⽐⑾⑴（1）若⼀样重，则可能的假币为⑿。
则第三步：⑴⽐⑿a.若⼀样重，则没有假币；b.不⼀样重，则假币为⑿：如果(1)>(12)，则假币轻，反之，假币重；(2)若⑼⑽重，则第三步：⑼⽐⑽a.若⼀样重，则假币为⑾（较轻）b.不⼀样重，则假币为⑼、⑽中较重者(3)若⑼⑽轻，则第三步：⑼⽐⑽a.若⼀样重，则假币为⑾（较重）b.不⼀样重，则假币为⑼、⑽中较轻者2.若⑴⑵⑶⑷重，则第⼆步：⑴⑵⑸⽐⑶⑷⑹(1)若⼀样重，则假币在⑺⑻中，第三步：⑺⽐⑻假币为⑺、⑻中较轻者(2)若⑴⑵⑸端较重，则假币在⑴⑵⑹中，第三步：⑴⽐⑵a.若⼀样重，则假币为⑹（较轻）b.不⼀样重，则假币为⑴⑵中较重者(3)若⑶⑷⑹端较重，则假币在⑶⑷⑸中，第三步：⑶⽐⑷a.若⼀样重，则假币为⑸（较轻）b.不⼀样重，则假币为⑶、⑷中较重者3.若⑴⑵⑶⑷轻，则与上⾯类似，第⼆步：⑴⑵⑸⽐⑶⑷⑹(1)若⼀样重，则假币在⑺⑻中，第三步：⑺⽐⑻假币为⑺、⑻中较重者(2)若⑴⑵⑸端较轻，则假币在⑴⑵⑹中，第三步：⑴⽐⑵a.若⼀样重，则假币为⑹（较重）b.不⼀样重，则假币为⑴⑵中较轻者(3)若⑶⑷⑹端较轻，则假币在⑶⑷⑸中，第三步：⑶⽐⑷a.若⼀样重，则假币为⑸（较重）b.不⼀样重，则假币为⑶、⑷中较轻者3.⽤C语⾔编程实现上述⽅案为：#includevoid main(){int i;float a[12];for(i=0;i<12;i++)scanf("%f",&a[i]);if(a[0]+a[1]+a[2]+a[3]==a[4]+a[5]+a[6]+a[7]){if(a[0]+a[1]+a[2]==a[8]+a[9]+a[10]){if(a[8]==a[11])printf("There is no special coin!\n");else if(a[8]>a[11])printf("There is a special coin:%f(12) and it's lighter than others.\n",a[ 11]); elseprintf("There is a special coin:%f(12) and it's heavier than others.\n",a[ 11]); }else if(a[0]+a[1]+a[2]>a[8]+a[9]+a[10]){if(a[8]==a[9])printf("There is a special coin:%f(11) and it's lighter than others.\n",a[ 10]); else if(a[8]>a[9])printf("There is a special coin:%f(10) and it's lighter than others.\n",a[ 9]); elseprintf("There is a special coin:%f(9) and it's lighter than others.\n",a[8 ]);}else{if(a[8]==a[9])printf("There is a special coin:%f(11) and it's heavier than others.\n",a[ 10]); else if(a[8]>a[9])printf("There is a special coin:%f(9) and it's heavier than others.\n",a[8 ]); elseprintf("There is a special coin:%f(10) and it's heavier than others.\n",a[ 9]); }}else if(a[0]+a[1]+a[2]+a[3]>a[4]+a[5]+a[6]+a[7]){if(a[0]+a[2]+a[5]==a[1]+a[4]+a[8]){if(a[6]==a[7])printf("There is a special coin:%f(4) and it's heavier than others.\n",a[3 ]); else if(a[6]>a[7])printf("There is a special coin:%f(8) and it's lighter than others.\n",a[7 ]); elseprintf("There is a special coin:%f(7) and it's lighter than others.\n",a[6 ]);}else if(a[0]+a[2]+a[5]>a[1]+a[4]+a[8]){if(a[0]==a[2])printf("There is a special coin:%f(5) and it's lighter than others.\n",a[4 ]); else if(a[0]>a[2])printf("There is a special coin:%f(1) and it's heavier than others.\n",a[0 ]);elseprintf("There is a special coin:%f(3) and it's heavier than others.\n",a[2 ]); }else{if(a[1]>a[8])printf("There is a special coin:%f(2) and it's heavier than others.\n",a[1 ]); if(a[5]printf("There is a special coin:%f(6) and it's lighter than others.\n",a[5 ]); }}else{if(a[0]+a[2]+a[5]==a[1]+a[4]+a[8]){if(a[6]==a[7])printf("There is a special coin:%f(4) and it's lighter than others.\n",a[3 ]); else if(a[6]>a[7])printf("There is a special coin:%f(7) and it's heavier than others.\n",a[6 ]); elseprintf("There is a special coin:%f(8) and it's heavier than others.\n",a[7]); }else if(a[0]+a[2]+a[5]{if(a[0]==a[2])printf("There is a special coin:%f(5) and it's heavier than others.\n",a[4 ]); else if(a[0]>a[2])printf("There is a special coin:%f(3) and it's lighter than others.\n",a[2 ]);printf("There is a special coin:%f(1) and it's lighter than others.\n",a[0 ]);}else{if(a[1]printf("There is a special coin:%f(2) and it's lighter than others.\n",a[1 ]);if(a[5]>a[8])printf("There is a special coin:%f(6) and it's heavier than others.\n",a[5 ]);}}}运⾏结果如图：即输⼊12个数表⽰这12枚硬币的重量，最后输出哪⼀枚为假币，并判断其轻重。
信息论与编码实验报告
实验报告课程名称：信息论与编码姓名：系：专业：年级：学号：指导教师：职称：年月日目录实验一信源熵值的计算 (1)实验二 Huffman信源编码 (5)实验三 Shannon编码 (9)实验四信道容量的迭代算法 (12)实验五率失真函数 (15)实验六差错控制方法 (20)实验七汉明编码 (22)实验一 信源熵值的计算一、 实验目的1 进一步熟悉信源熵值的计算 2熟悉 Matlab 编程二、实验原理熵（平均自信息）的计算公式∑∑=--==qi i i qi i i p p p p x H 1212log 1log )(MATLAB 实现：))(log *.(2x x sum HX -=；或者))((log *)(2i x i x h h -= 流程：第一步：打开一个名为“nan311”的TXT 文档，读入一篇英文文章存入一个数组temp ，为了程序准确性将所读内容转存到另一个数组S ，计算该数组中每个字母与空格的出现次数(遇到小写字母都将其转化为大写字母进行计数)，每出现一次该字符的计数器+1；第二步：计算信源总大小计算出每个字母和空格出现的概率；最后，通过统计数据和信息熵公式计算出所求信源熵值（本程序中单位为奈特nat ）。
程序流程图：三、实验内容1、写出计算自信息量的Matlab 程序2、已知：信源符号为英文字母（不区分大小写）和空格。
输入：一篇英文的信源文档。
输出：给出该信源文档的中各个字母与空格的概率分布，以及该信源的熵。
四、实验环境Microsoft Windows 7Matlab 6.5五、编码程序#include"stdio.h"#include <math.h>#include <string.h>#define N 1000int main(void){char s[N];int i,n=0;float num[27]={0};double result=0,p[27]={0};FILE *f;char *temp=new char[485];f=fopen("nan311.txt","r");while (!feof(f)) {fread(temp,1, 486, f);}fclose(f);s[0]=*temp;for(i=0;i<strlen(temp);i++){s[i]=temp[i];}for(i=0;i<strlen(s);i++){if(s[i]==' ')num[26]++;else if(s[i]>='a'&&s[i]<='z')num[s[i]-97]++;else if(s[i]>='A'&&s[i]<='Z')num[s[i]-65]++;}printf("文档中各个字母出现的频率:\n");for(i=0;i<26;i++){p[i]=num[i]/strlen(s);printf("%3c:%f\t",i+65,p[i]);n++;if(n==3){printf("\n");n=0;}}p[26]=num[26]/strlen(s);printf("空格:%f\t",p[26]);printf("\n");for(i=0;i<27;i++){if (p[i]!=0)result=result+p[i]*log(p[i]);}result=-result;printf("信息熵为:%f",result);printf("\n");return 0;}六、求解结果其中nan311.txt中的文档如下：There is no hate without fear. Hate is crystallized fear, fear’s dividend, fear objectivized. We hate what we fear and so where hate is, fear is lurking. Thus we hate what threatens our person, our vanity andour dreams and plans for ourselves. If we can isolate this element in what we hate we may be able to cease from hating.七、实验总结通过这次实验，我们懂得了不必运行程序时重新输入文档就可以对文档进行统计，既节省了时间而且也规避了一些输入错误。
信息论与编码实验一离散信源信息量的计算
信息论与编码实验一离散信源信息量的计算摘要：I.引言- 信息论与编码实验一的主题- 离散信源信息量的计算的重要性II.离散信源的定义- 离散信源的定义- 离散信源的特点III.信息量的计算- 信息量的定义- 离散信源信息量的计算方法- 计算实例IV.信息熵的定义- 信息熵的定义- 信息熵的性质- 计算实例V.编码与解码- 编码的过程- 解码的过程- 编码与解码的实例VI.总结- 离散信源信息量的计算的重要性- 对信息论与编码实验一的回顾正文：I.引言信息论与编码是通信工程中的重要内容，它旨在研究如何在传输过程中有效地传输信息。
在信息论与编码实验一中，我们主要关注离散信源的信息量的计算。
离散信源是我们日常生活中最常见的信源类型，例如文字、声音、图像等。
因此，了解离散信源信息量的计算方法对于理解和应用信息论与编码理论具有重要意义。
II.离散信源的定义离散信源是指信息以离散的方式存在的信源。
离散信源的特点是信息符号是离散的、不连续的，且每个符号的出现是相互独立的。
离散信源可以分为无记忆离散信源和有记忆离散信源。
无记忆离散信源是指信源发出的每个符号的概率分布与过去符号无关，而有记忆离散信源则与过去符号有关。
III.信息量的计算信息量是衡量信息的一个重要指标，它表示了接收者在接收到符号后所获得的信息。
对于离散信源，信息量的计算公式为：I(X) = -∑P(x) * log2(P(x))，其中X 表示离散信源，P(x) 表示符号x 出现的概率。
通过计算信息量，我们可以了解信源的信息程度，从而为后续的编码和解码提供依据。
IV.信息熵的定义信息熵是信息论中的一个重要概念，它表示了信源的平均信息量。
信息熵的定义为：H(X) = -∑P(x) * log2(P(x))，其中X 表示离散信源，P(x) 表示符号x 出现的概率。
信息熵具有以下性质：1）信息熵是信息量的期望；2）信息熵的值是有限的，且在0 到比特数之间；3）当信源的每个符号出现的概率相同时，信息熵最大。
《信息论与编码技术》实验教案
《信息论与编码技术》实验教案一、实验目的1. 理解信息论基本概念，如信息量、信道容量等。
2. 掌握编码技术的基本原理，如Hamming 编码、卷积编码等。
3. 学会使用仿真工具进行信息论与编码技术的实验。
二、实验原理1. 信息论基本概念：信息量、信道容量、误码率等。
2. 编码技术原理：Hamming 编码、卷积编码、解码算法等。
3. 仿真工具的使用：调用相关函数，设置参数，观察实验结果。
三、实验内容1. 实验一：信息量计算与信道容量分析利用仿真工具随机比特序列，计算信息量。
改变信道参数，分析信道容量变化。
2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。
分析误码率与编码位数的关系。
3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。
分析误码率与卷积编码器参数的关系。
4. 实验四：不同编码方案性能比较分别使用Hamming 编码和卷积编码对相同长度比特序列进行编码。
比较两种编码方案的误码率和信息传输效率。
5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用。
了解信息论与编码技术在无线通信、图像传输等领域的应用。
四、实验步骤1. 实验一：信息量计算与信道容量分析随机比特序列，计算信息量。
设置信道参数，观察信道容量变化。
2. 实验二：Hamming 编码与解码编写Hamming 编码器和解码器，进行编码和解码操作。
改变编码位数，分析误码率变化。
3. 实验三：卷积编码与解码编写卷积编码器和解码器，进行编码和解码操作。
改变卷积编码器参数，分析误码率变化。
4. 实验四：不同编码方案性能比较使用Hamming 编码和卷积编码对相同长度比特序列进行编码。
比较两种编码方案的误码率和信息传输效率。
5. 实验五：信息论与编码技术在实际应用中的案例分析分析数字通信系统中信息论与编码技术的应用案例。
了解信息论与编码技术在无线通信、图像传输等领域的应用。
信息论与编码实验四
实验4 Huffman编码对英文文本的压缩和解压缩
一、实验内容
根据信源压缩编码——Huffman编码的原理，制作对英文文本进行压缩和解压缩的软件。
要求软件有简单的用户界面，软件能够对运行的状态生成报告，分别是：字符频率统计报告、编码报告、压缩程度信息报告、码表存储空间报告。
二、实验环境
1.计算机
2.Windows 2000 或以上
3.Microsoft Office 2000 或以上
4.VC++ 6.0
三、实验目的
1.掌握Huffman编码的原理
2.掌握VC开发环境的使用（尤其是程序调试技巧）
3.掌握C语言编程（尤其是位运算和文件的操作）
4.掌握数据结构的内容：链表、顺序表、堆栈、最优二叉树
5.掌握结构化程序分析和开发的软件工程原理
四、实验要求
1.提前预习实验，认真阅读实验原理。
2.认真高效的完成实验，实验过程中服从实验室管理人员以及实验指导老
师的管理。
3.认真填写实验报告。
五、实验原理
压缩/解压缩流程
压缩流程：
解压缩流程：
六、参考书
1.《信息论——基础理论及应用》傅祖芸，电子工业出版社
2.《数据结构》，清华大学出版社。
信息论实验报告(实验四、哈夫曼编码)
3、把这个合成概率看成是一个新组合符号地概率，重复上述做法直到最后只剩下两个符号概率为止；
4、完成以上概率顺序排列后，再反过来逐步向前进行编码，每一次有二个分支各赋予一个二进制码，可以对概率大的赋为零，概率小的赋为1；
5、从最后一级开始，向前返回得到各个信源符号所对应的码元序列，即相应的码字。
“1”，小的概率赋“0”。
（3）从最后一级开始，向前返回得到各个信源符号所对应的码元序列，即相应的码字。
（4）计算码字的平均码长得出最后的编码效率。
五、实验数据记录
六、实验结论与心得
通过本次实验，加强了对matlab程序的学习，进一步提高了我的编程能力。
如有侵权请联系告知删除，感谢你们的配合！
学生实验报告
院别
电子工程学院
课程名称
信息论与编码
班级
实验名称
实验四、哈夫曼编码
姓名
实验时间
学号
指导教师
成绩
报 告 内 容
一、实验目的和任务
1、理解信源编码的意义；
2、熟悉MATLAB程序设计；
3、掌握哈夫曼编码的方法及计算机实现；
４、对给定信源进行香农编码，并计算编码效率；
二、实验原理介绍
1、把信源符号按概率大小顺序排列，并设法按逆次序分配码字的长度；
三、实验设备介绍
1、计算机
2、编程软件MATLAB6.5以上
四、实验内容和步骤
对如下信源进行哈夫曼编码，并计算编码效率。
（1）计算该信源的信源熵，并对信源概率进行排序
（2）首先将出现概率最小的两个符号的概率相加合成一个概率，把这个合成概率与其他的概率进行组合，得到一个新的概率组合，重复上述做法，直到只剩下两个概率为止。之后再反过来逐步向前进行编码，每一次有两个分支各赋予一个二进制码。对大的概率赋
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
信息论与编码实验
实验一、离散信源及其信息测度
一、实验设备（1）计算机 （2）MATLAB软件
二、实验目的：加深对离散信源和离散信道的理解
三、实验内容
1、建立附录题1-1和题1-2的数学模型。
2、将所建立的数学模型进行MATLAB编程，写出其MATLAB编程。
3、将程序在计算机上仿真实现。
4、分析结果。
四、实验报告要求：
按实验内容要求，详细写出相应的数学模型和MATLAB程序，注释每一条语句；写出并分析计算机上仿真的结果。
附录
题1-1（P48题2.16）黑白气象传真图的消息只有黑色和白色两种，即信源X={黑,白} ，设概率为P(黑)＝0.3，白色的出现概率P(白)＝0.7。
(1)假设图上黑白消息出现前后没有关联，求熵H1(X)。
(2)假设消息前后有关联，其依赖关系为P(白/白)＝0.9，P(黑/白)=0.1， P(白/黑)=0.2，P(黑/黑)=0.8，求此平稳信源的熵H2(X)。
题1-2 求图中信道的信道容量及其最佳的输入概率分布。
实验二、离散信道及其信道容量
实验设备:
（1）计算机
（2）软件：Matlab
实验目的:
了解信道传输概率的状态图和信道转移概率矩阵特点；
如图3.35和题3.25所示，说明该信道的特点；
了解什么是信道容量和最佳输入概率分布；
列出计算信道容量和平均互信息的计算步骤；
熟悉Matlab编程；
实验内容:
1、建立题3.10和3.25所要求的数学模型。
2、写出数学模型的Matlab程序。
3、将程序在计算机上仿真实现。
4、验证程序的正确性。
实验报告要求
5、简要总结离散信道的特点及信道容量的计算；
6、写出Huffman编码基本步骤，画出实现Huffman编码的程序流程图；
7、实现二元Huffman码编码的Matlab源程序；
8、分析计算结果。
实验三、Huffman编码
实验设备:
（1）计算机
（2）软件：Matlab
实验目的:
了解Huffman编码的基本原理及其特点；
熟练掌握Huffman编码的方法步骤；
利用Matlab编写二元Huffman编码的程序；
验证程序的正确性。
实验内容:
1、根据Huffman编码的方法步骤，用Matlab编写二元Huffman编码的程序；
2、用习题4.8和例4.5验证程序的正确性。
实验报告要求
1、简要总结Huffman编码的基本原理及特点；
2、写出Huffman编码基本步骤，画出实现Huffman编码的程序流程图；
3、实现二元Huffman码编码的Matlab源程序；
4、讨论不同的Huffman编码的平均码长如何变化，码字长度偏离平均码长对编码性
能的影响。
实验四、汉明码
实验设备:
（1）通信原理实验箱
（2）20M双踪示波器
（3）函数信号发生器
实验目的:
通过纠错编解码的实验，进一步加深对纠错编解码理论的理解。
实验内容:
1. 对汉明编码规则进行验证。
2. 对译码数据输出测量；对译码同步过程观测。
3. 汉明码模块发端加错信号进行观测。
4. 汉明码模块发端错码检测能力观测和错码纠错性能的测量。
实验报告要求
1、画出输入为0/1码、00/11码和0010111 m序列码的汉明编码输出波形图。
2、分析整理实验测试的数据。
3、分析讨论汉明编码系统的性能及应用的局限性。