信息熵在图像处理中的应用

信息熵在图像处理中的应用

摘要：为了寻找快速有效的图像处理方法，信息理论越来越多地渗透到图像处理技术中。文章介绍了信息熵在图像处理中的应用，总结了一些基于熵的图像处理特别是图像分割技术的方法，及其在这一领域内的应用现状和前景 同时介绍了熵在织物疵点检测中的应用。

Application of Information Entropy on Image Analysis

Abstract ：In order to find fast and efficient methods of image analysis ，information theory is used more and more in image analysis ．The paper introduces the application of information entropy on the image analysis ，and summarizes some methods of image analysis based on information entropy ，especially the image segmentation method ．At the same time ，the methods and application of fabric defect inspection based on information entropy ale introduced ．

信息论是人们在长期通信实践活动中，由通信技术与概率论、随机过程、数理统计等学科相结合而逐步发展起来的一门新兴交叉学科。而熵是信息论中事件出现概率的不确定性的量度，能有效反映事件包含的信息。随着科学技术，特别是信息技术的迅猛发展，信息理论在通信领域中发挥了越来越重要的作用，由于信息理论解决问题的思路和方法独特、新颖和有效，信息论已渗透到其他科学领域。随着计算机技术和数学理论的不断发展，人工智能、神经网络、遗传算法、模糊理论的不断完善，信息理论的应用越来越广泛。在图像处理研究中，信息熵也越来越受到关注。

1 信息熵

1948年，美国科学家香农(C ．E ．Shannon)发表了一篇著名的论文《通信的数学理论》 。他从研究通信系统传输的实质出发，对信息做了科学的定义，并进行了定性和定量的描述。

他指出，信息是事物运动状态或存在方式的不确定性的描述。其通信系统的模型如下所示：

图1 信息的传播

信息的基本作用就是消除人们对事物的不确定性。信息熵是信息论中用于度量信息量的一个概念。假定X 是随机变量χ的集合，p （x ）表示其概率密度，计算此随机变量的信息熵H （x ）的公式是

P （x ，y ）表示一对随机变量的联合密度函数，他们的联合熵H （x ，y ）可以表示为

信息熵描述的是信源的不确定性，是信源中所有目标的平均信息量。信息量是信息论的中心概念，将熵作为一个随机事件的不确定性或信息量的量度，它奠定了现代信息论的科学理论基础，大大地促进了信息论的发展。设信源X 发符号a i ，的概率为Pi ，其中i=1，2，…，r ，P i >O ，要∑=r

i Pi 1=1，则信息熵的代数定义形式为：

H(X)=-

∑=r

i ai P 1)(logP(a i) (1) 2 图像处理

所谓计算机图像处理是指：将图像信号转换成数字格式，并利用计算机对其进行处理的过程。

近几年来，数字图像处理技术的发展进一步深入、广泛和迅速，人们已充分认识到图像处理技术是认识世界、改造世界的重要手段之一。图像信息处理技术已广泛应用于许多社会领域，如工业、农业、国防军事、社会公安、科研、生物医学、通信邮电等等。概念上说，数字图像处理过程中所需的基本步骤如图2所示。

图2 数字图像处理基本步骤

图像处理和分析过程主要包括：图像变换、图像编码、边缘检测、图像分割、目标表达、描述和测量等等ra]。人们为了得到感兴趣的目标，用各种方法来处理和分析图像。如灰度共生矩阵法、Markov 随机场法、灰度直方图统计法、灰度匹配法、二维傅立叶变换法、6abor 变换法、小波变换法和数学形态法等等。例如在灰度共生矩阵法中，用于测量灰度级分布随机性的一种特征参数就叫做熵。它的定义为：

(2)

当矩阵P[i,j]的所有项皆为零时，其熵值最高。除此之外，还有和熵、灰度熵、梯度熵、混合熵等等，从而说明了熵是图像的重要特征之一。

3 信息熵在图像处理中的应用

图像分割是图像处理和分析的关键步骤，也是一种基本的计算机视觉技术。当今信息熵主要应用在图像分割技术中。为了识别和分析目标，图像分割把图像分成各具特性的区域。这些特性可以是灰度、颜色、纹理等， 目标可以对应单个区域，也可以对应多个区域。

基于熵的图像分割方法，尽可能减少了图像信息的损失，因此可用于复杂背景，而且这种方法有很多。如黄春艳等提出的图像的分割方法有最大熵法和最小交叉熵法。最大熵法和最小交叉熵法的基本思想都是利用图像的灰度分布密度函数定义图像的信息熵，根据假设的不同或视角的不同提 不同的熵准则，最后通过优化该准则得到阈值。最人熵准则强调系统内部的均匀性，应用于阈值化分割中就是搜索使目标或背景内部的灰度分布尽可能均匀的最优阈值。交叉熵是度量两个概率分布之间信息量差异，它是Fn 函数。最小交叉熵准则应用在阈值化分割中，一般是搜索使分割前后图像的信息量差异最小的阈值。吴谨等提出的在最大类间方差法和一致性准则法的基础上，运用最大熵原理来选择灰度阈值对图像进行分割方法。还有庞全等提出的基于面向对象思想的图像分割算法。此方法是分割阈值与局部灰度分

布相关的分割方法，针对非均匀图像的特点，在香农熵上推导出子集熵与全集熵的关系，作为图像的面向对象描述 实验表明，相比常用的动态阈值算法，该算法具有运算量少、分割结果白适应性好的特点。

随着计算机技术和数学理论的不断发展，人工智能、神经网络、遗传算法、模糊理论的不断完善，以及处理的