基于最大熵原理下的最优分割法

基于最大熵原理下的最优分割法

引言

本文主要针对在不利用函数性质情况下，一元连续函数零点求解问题，对于这类问题我们常用的方法有二分法和黄金分割法.本文假设此类问题的解服从均匀分布，并把解的分布归结为二项分布，还引进了信息论工具――最大熵原理，找出了最优的方法.最终比较了两种算法各自的“优越性”，并把这种“优越性”具体量化.

最后，基于最大熵原理，本文还提出了另外一种更加切合实际的概率二分搜索法以及自适应概率二分法.

一、问题假设

假设1 在不利用函数性质情况下，对一元连续函数零点求解问题，一般情况下，我们采用的是分割法――即首先把含解区间分成若干份，然后逐个判断，去掉不含解的区间，如此循环，直至含解区间的长度达到我们需要的精度.把一个区间多分一个点或者少一个点，并不会对结果几乎没有影响，为了简化问题，在分割的时候，对于划分的区间，为了保证各分区间有一致的形状，我们不妨约定所有的分割区间都是左开右闭区间（以后我们讨论的区间全部都是左开右闭区间），而且每次循环分割时都按照左开右闭的规则进行，

以便保证以后所有划分出来的区间都是左开右闭.

假设2 在搜索解区间的过程中，逐个判断，去掉不含解的区间时，我们不妨约定按照从左至右的顺序进行判断.

假设3 根据坐标的可平移性，我们可以假设一元连续函数的零点在整个求解区间中服从均匀分布.

二、预备知识

1.信息量

五、小结

本文根据坐标的可平移性，假设不知道函数性质情况下求解一元连续函数的零点服从均匀分布的基础上，利用最大熵原理，从理论上比较出了最优的分割法搜索法.并在最大熵原理基础上，提出了更加切合实际的概率二分搜索法以及自适应概率二分法.本文实际上已经提出了一种判断各算法有效性的有效方法――最大熵原理.