信息论基础与编码课程论文

《信息论基础与编码》课程论文（设计）题目：信息论在图像信号压缩中的应用*名：***学院：电信分院专业：通信工程班级：2012.1学号：**************指导教师：***2014 年12 月27 日目录摘要： (1)引言 (1)1 概述 (1)1.1 信息与信息论 (1)1.2 图像处理 (2)1.2.1 数字图像处理的介绍 (2)1.2.2 数字图像处理的发展 (2)2 图像信号压缩 (4)2.1 图像信号压缩的概念与原理 (4)2.1.1 图像信号压缩的概念 (4)2.1.2 图像信号压缩的原理 (4)2.2 图像信号压缩的分类 (6)2.2.1 按照压缩前及解压后的信息保持程度分类 (6)2.2.2 按照图像压缩的方法原理分类 (7)2.3 压缩技术的性能指标 (8)3 信息论在图像信号压缩中的应用 (9)3.1 无失真图像压缩编码 (10)3.1.2 Huffman编码 (10)3.1.3 算术编码 (12)3.2 有限失真图像压缩编码 (14)3.2.1 基于DCT的图像压缩编码 (14)3.2.2 变换编码 (16)4 总结 (17)参考文献 (19)附录 (20)信息论在图像信号压缩中的应用信息与计算科学专业郑耀涛指导教师杨小翠摘要：本文首先简单介绍了信息、信息论以及图像处理技术，并通过多个实例对图像信号压缩的原理和冗余度问题做出解释。

然后引入图像信号压缩的概念、原理、分类及压缩技术的性能指标。

论文运用Huffman编码以及算术编码方法对图像信号进行编码压缩处理，并比较了两种方法各自的优缺点，体现了信息论在图像信号压缩中的应用。

同时还运用Matlab软件实现了图片压缩，通过对工作区各个数据的分析，求得图片的冗余度等。

此外，本文用有限失真图像压缩编码方法对图片进行处理。

最后，论文介绍了基于DCT的图像压缩编码、变换编码及其它编码。

关键词：信息论；图像信号压缩；应用1引言在社会生活和科研生产活动中，人们随时随地都要接触图像。

图像信息是人类认识世界的重要知识来源，其他任何形式的信息都没有图像信息丰富和真切。

为了利用有限的存储容量存储更多的图像，或者为了以最短的时间传递尽可能多的图片，就要研究怎样才能最大限度地压缩图像数据，并保证利用这些数据所重建的图像是用户能够接受的，这便是图像数据压缩所要解决的问题，在信息论中，它又称为信源的有效性编码问题。

随着社会的发展，科学技术的不断进步，信息、反馈、控制、机制、稳定性等大量新概念和新名词被人们所接受。

与此同时，信息论也被广泛的应用到各学科当中，它在图像信号压缩方面有着非常重要的作用。

1 概述1.1 信息与信息论信息一词由来已久，古代人讲的信息泛指音讯和消息。

到了近代，信息又被用作英语中information的译名，information在英语中来自词根inform（通知），指被告知的事实或知识。

实地上，信息这一概念是在人类社会互通情报的实践过程中产生的，它所涉及的范围非常广，比如语言信息、生物遗传信息、经济信息、管理信息。

这些信息的研究涉及到语言学、生物遗传学、社会经济学、管理科学等更广泛的学科领域乃至许多边缘学科领域。

1948年贝尔研究所的Shannon在题为《通讯的数学理论》的论文中比较系统地提出了关于信息的论述，创立了信息论。

目前，人们已把早先建立的有关信息的规律与理论广泛应用到物理学、化学、生物学等学科中去。

一门研究信息的产生、获取、变换、传输、存储、处理、显示、识别和利用的信息科学正在形成。

信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法[1]。

信息论是一门应用概率论、随机过程、数理统计和高等代数的方法来研究信息传输、提取和处理系统中一般规律的学科；它的主要目的是提高信息系统的可靠性、有效性、保密性和认证性，以便达到系统最优化；它的主要内容包括香农理论、编码理论、检测和估计理论、信号设计和处理理论、调制理论、随机噪声理论和密码学理论。

信息理论的应用领域是十分广泛的，也是非常重要的，我们所知道的多是在通讯方面的应用，这是因为香农等人的工作开拓了这方面的广泛而深入的应用。

实际上，任一科学技术领域都离不开信息的基本知识和基本概念的。

1.2 图像处理1.2.1 数字图像处理的介绍根据图像记录方式的不同，图像可分为两大类：一类是模拟（analog）图像，一类是数字（digital）图像。

模拟图像是通过某种物理量（光、电）的强弱变化来记录图像上各点的灰度信息（如电视等）的；而数字图像则完全是用数字来记录图像灰度信息的，因而数字图像比模拟图像更易于保存。

图像处理（image processing）就是对图像信息进行加工处理和分析，以满足人的视觉心理需要和实际应用或某种目的（如压缩编码或机器识别）的要求。

图像处理的任务是将原图像的灰度分布作某种变换，使图像中的某部分信息更加突出，以使其适用于某种特殊的需求，而图像数据压缩就是数字图像处理技术的一种应用。

把数字化的图像数据按一定规则进行排列或运算的过程称为图像编码，利用图像本身的内在特性，通过某种特殊的编码方式，达到减少原图像数据信息占用量的处理叫做图像压缩编码[2]。

数字图像处理是对一个物体的数字表示施加一系列操作的过程，以得到所期望的结果。

即将一幅图像经过修改（改进、加工）成为另一幅本质不变的图像。

因此，数字图像处理就是一个从图像到图像的过程。

采用的工具一般是数字计算机。

数字图像处理的主要内容包括图像变换、图像压缩编码、图像增强、图像复原与重建、图像分割、图像描述、图像分析以及分类等。

1.2.2 数字图像处理的发展数字图像最早应用在报纸行业，当时图像第一次由海底电缆从伦敦传往纽约。

用电缆传输图片，首先需对图片进行编码，然后在接收端用特殊的打印设备重构传输的图片。

后来转而采用基于光学还原的技术，在电报接收端用穿孔纸带打出图片。

到1929年灰度等级已经由5个增加到了15个。

这三个例子都没有考虑数字图像处理的结果，主要原因是当时还没有使用计算机。

而随着科技的进步，计算机的诞生与发展，数字图像处理也得以更广泛的应用。

20世纪50年代，当时的电子计算机已经发展到一定水平，在进行空间应用的同时，人们开始利用计算机来处理图形以及图像等信息。

在20世纪50年代使用计算机对美国“旅行者7号”传送的月球图像进行处理，以矫正航天器上电视摄像机中各种类型的图像畸变。

数字图像处理作为一门学科大约形成于20世纪60年代初期。

60年代至70年代开始用于医学图像、地球遥感监测、天文学等领域。

70年代以后，数字图像处理得到迅猛的发展，广泛应用于太空探索、遥感应用、生物医学、工程工业应用、军事应用等方面。

早期的图像处理，其主要目的是改善图像的质量，它以人为对象，以改善人的视觉效果为目的。

在图像处理中，输入的是质量低的图像，输出的是得到改善的图像，常用的图像处理方法有图像增强、复原、编码、压缩等。

图像处理首次获得实际成功应用的是美国喷气推进实验室（JPL）。

他们对航天探测器旅行者7号在1964年发回的几千张月球照片使用了图像处理技术，如几何校正、灰度变换、去除噪声等方法进行处理，而且还考虑了太阳位置和月球环境的影响，由计算机成功地绘制出月球表面地图，获得了巨大的成功。

随后又对探测飞船发回的近十万张照片进行了更为复杂的图像处理，获得了月球的地形图、彩色图及全景镶嵌图，获得了非凡的成果，为人类登月创举奠定了坚实的基础，也推动了数字图像处理这门学科的诞生。

在以后的宇航空间技术，如对火星、土星等星球的探测研究中，数字图像处理技术都发挥了巨大的作用。

数字图像处理除了上述作用外，其取得的另一个巨大成就是在医学上获得的成果。

1972年英国EMI公司工程师Housfield发明了用于头颅诊断的计算机断层X射线摄影装置，也就是我们通常所说的CT（Computed Tomography）。

CT的基本方法是根据人的头部截面的投影，经计算机处理来重建截面图像，称为图像重建。

1975年EMI公司又成功研制出全身用的CT装置，获得了人体各个部位清晰鲜明的断层图像。

1979年，这项无损伤诊断技术获得了诺贝尔奖，说明它对人类做出了划时代的贡献。

于此同时，图像处理技术在许多应用领域受到广泛重视并取得了重大的开拓性成就，属于这些领域的有航空航天、生物医学工程、工业检测、机器人视觉、公安司法、军事制导、文化艺术等，使图像处理成为一门引人注目、前景远大的新型学科。

随着图像处理技术的深入发展，从20世纪70年代中期开始，计算机技术和人工智能、思维科学研究的迅速发展，数字图像处理向更高、更深层次发展。

人们已开始研究如何用计算机系统解释图像，实现类似人类视觉系统理解外部世界，这被称为图像理解或计算机视觉。

很多国家，特别是发达国家投入更多的人力、物力到这项研究当中，取得了不少重要的研究成果。

其中代表性的成果是20世纪70年代末MIT的Marr提出的视觉计算机理论，这个理论成为计算机视觉领域此后十多年的主导思想。

图像理解虽然在理论方发研究上已经取得不小的进展，但它本身是一个比较难的研究领域，仍然存在不小困难，因人类本身对自己的视觉过程还了解甚少，因此计算机视觉是一个有待于人们进一步探索的新领域[3]。

2 图像信号压缩众所周知，计算机处理的图像都是用点阵表示并且是用图像文件的形式存放的。

通常，图像文件都是大型文件。

而在应用系统中，常常需要在不同用户之间传递和交换图像文件，这就需要设法把大型图像文件进行压缩，以减少存储资源和网络资源的开销。

2.1 图像信号压缩的概念与原理2.1.1 图像信号压缩的概念图像压缩编码就是图像数据的压缩和编码表示，是通过消除信息冗余来设法减少表达图像信息所需数据的比特数。

从统计意义上说，就是将图像数据转化为尽可能不相关的数据集合。

图像压缩编码系统主要包括图像编码和图像解码两部分。

前者就是对图像信息进行压缩和编码，在存储、处理和传输之前进行，也称图像压缩。

后者是对压缩图像进行解压以重建原图像或其近似图像[4]。

2.1.2 图像信号压缩的原理首先我们通过以下两个例题，研究一下图像像素之间的相关性以及与此有关的图像信息冗余度问题。

例2.1 有一线状图像，其灰度随长度坐标的变化如图2-1所示，描述这个一维图像，可以用有顺序的七个3bit的二进制数表示，即011，011，011，011，101，101，101共21bit（写成十进制数即3，3，3，3，5，5，5），但是，如果我们用行程编码方法对其编码，即用三位二进制数表示灰度幅度，再用三位二进制数表示具有该灰度的顺序像素数，那么同时这个图像，其编码便变成011，100；101，011（即十进制数的3，4；5，3），共用了12bit数，比前种编码节省了9bit。