信息论与编码实验指导书

信息论与编码实验指导书 Prepared on 22 November 2020

信息论与编码实验指导书

1 课程实验目的

本课程是一门实践性很强的专业课和核心课程，根据课程理论教学的需要安排了6学时的配套实验教学，主要内容涉及信息度量的计算方法、典型信源编码方法、典型信道容量计算方法和数据压缩方法四个实验，这四个实验的开设一方面有助于学生消化、巩固课程理论教学的知识，另一方面又可培养学生实践动手能力，同时为后续课程做好准备。

2 课程实验要求

课程实验准备要求

（1）课程实验主要为设计性实验，要求学生熟悉掌握在VC环境下编写和调试C++程序的方法。

（2）要求学生在实验前复习实验所用到的预备知识。可以查阅教材或者相关的参考资料，这需要学生有自主的学习意识和整理知识的能力。

（3）根据实验项目，设计相关的数据结构和算法，再转换为对应的书面程序，并进行静态检查，尽量减少语法错误和逻辑错误。上机前的充分准备能高效利用机时，在有限的时间内完成更多的实验内容。

课程实验过程要求

（1）生成源代码。将课前编写好的书面代码，利用VC自带的编辑器尽快输入为转换为源代码；

（2）程序调试和软件测试。要求学生熟练掌握调试工具，调试正确后，认真整理源程序和注释，给出带有完整注释且格式良好的源程序清单和结果。

（3）完成实验报告。根据实验内容和完成情况，按照附件1给定的格式完成课程实验报告的编写。

课程实验报告要求

在每次课程实验后要及时进行总结和整理，并编写课程实验报告。报告格式按江西蓝天学院实验报告纸格式填写。

实验一二维随机变量信息熵的计算

[实验目的]

掌握二变量多种信息量的计算方法。

[实验学时]

2学时

[实验准备]

1．熟悉二变量多种信息量的计算方法，设计实验的数据结构和算法；

2．编写计算二维随机变量信息量的书面程序代码。

[实验内容及步骤]

离散二维随机变换熵的计算

说明：

（1）利用random函数和归一化方法构造一个二维离散随机变量（X，Y）；

（2）分别计算X与Y的熵、联合熵、条件熵：H（X）、H（Y）、H（X,Y）H（X|Y）、I （X|Y）；

（3）对测试通过的程序进行规范和优化；

（4）编写本次实验的实验报告。

附实验一主要内容及源程序

实验一离散二维随机变量信息熵的计算

1 实验内容

（1）利用random函数和归一化方法构造一个二维离散随机变量（X，Y）；

（2）分别计算X与Y的熵、联合熵、条件熵：H（X）、H（Y）、H（X,Y）H（X|Y）、I （X|Y）；

2 数据结构与算法描述

（1）函数的定义：函数的数据成员

1.随机生成函数的代码：

int k,n,t=0;

double a[4][4],b=0,c=0;

for(k=0;k<4;k++)

{

for(n=0;n<4;n++)

{

a[k][n]=rand()%100;

t+=a[k][n];

}

}

cout<<"从到间随机取得行列的random函数："<

for(k=0;k<4;k++)

{

for(n=0;n<4;n++)

{

cout<

}

cout<

}

2.函数归一化代码：

cout<<"函数归一化："<

for(k=0;k<4;k++)

{

for(n=0;n<4;n++)

{

cout<

}

cout<

}

3. H(Y)、 H(X)计算代码：

cout<<"H(Y)计算："<

int e=1;

for(k=0;k<4;k++)

{

double i=0,g=0;

for(n=0;n<4;n++)

{

i+=(a[k][n]/t);

g+=(a[n][k]/t);

}

cout<<"P(Y"<

++e;

b-=(i*log(i)/log);

c-=(g*log(g)/log);

}

cout<<"H(Y)=-∑p(Y)log p(Y)="<

cout<<"H(X)=-∑p(X)log p(X)="<

4.联合熵H（X,Y）计算代码：

cout<<"联合熵H（X,Y）计算："<

b=0;

int r,u,h=0;

for(k=0;k<4;k++)

{

for(n=0;n<4;n++)

{

if(a[k][n]!=0)

{

b-=((a[k][n]/t)*log(a[k][n]/t)/log);

}

else

{

r=k,u=n;

h=1;

break;

}

}

}

if(h==0)

cout<<"H(X,Y)=-∑∑p(X,Y)log p(X,Y)="<

else cout<<"P("<

5.条件熵H（X|Y）计算代码：

cout<<"条件熵H（X|Y）计算："<

b=0,h=0;

for(k=0;k<4;k++)

{

double i=0;

for(n=0;n<4;n++)

{

i+=(a[k][n]/t);

}

for(n=0;n<4;n++)

{

if(a[k][n]!=0)

{

b-=((a[k][n]/t)*log((a[k][n]/t)/i)/log);

}

else {h=1;break;}

}

}

if (h==0){cout<<"H(X|Y)=-∑∑P(X,Y)log(P(X,Y)/P(Y))="<