搜索引擎优化百度分词算法分析

搜索引擎优化百度分词算法分析查询处理以及分词技术

随着搜索经济的崛起，人们开始越加关注全球各大搜索引擎的性能、技术和日流量。作为企业，会根据搜索引擎的知名度以及日流量来选择是否要投放广告等；

作为普通网民，会根据搜索引擎的性能和技术来选择自己喜欢的引擎查找资料；作为技术人员，会把有代表性的搜索引擎作为研究对象。搜索引擎经济的崛起，又一次向人们证明了网络所蕴藏的巨大商机。网络离开了搜索将只剩下空洞杂乱的数据，以及大量等待去费力挖掘的金矿。

但是，如何设计一个高效的搜索引擎?我们可以以百度所采取的技术手段来探讨如何设计一个实用的搜索引擎。搜索引擎涉及到许多技术点，比如查询处理，排序算法，页面抓取算法，CACHE机制，ANTI-SPAM等等。这些技术细节，作为商业公司的搜索引擎服务提供商比如百度，GOOGLE等是不会公之于众的。我们可以将现有的搜索引擎看作一个黑盒，通过向黑盒提交输入，判断黑盒返回的输出大致判断黑盒里面不为人知的技术细节。

查询处理与分词是一个中文搜索引擎必不可少的工作，而百度作为一个典型的中文搜索引擎一直强调其"中文处理"方面具有其它搜索引擎所不具有的关键技术和优势。那么我们就来看看百度到底采用了哪些所谓的核心技术。

我们分两个部分来讲述：查询处理/中文分词。

一、查询处理

用户向搜索引擎提交查询，搜索引擎一般在接受到用户查询后要做一些处理，然后在索引数据库里面提取相关的信息。那么百度在接受到用户查询后做了些什么工作呢?

1、假设用户提交了不只一个查询串，比如"信息检索理论工具"。

那么搜索引擎首先做的是根据分隔符比如空格，标点符号，将查询串分割成若干子查询串，比如上面的查询就会被解析为：信息检索，理论，工具三个子字符串；这个道理简单，我们接着往下看。

2、假设提交的查询有重复的内容，搜索引擎怎么处理呢?比如查询"理论工具理论"，百度是将重复的字符串当作只出现过一次，也就是处理成等价的"理论工具"，而GOOGLE显然是没有进行归并，而是将重复查询子串的权重增大进行处理。那么是如何得出这个结论的呢?我们可以将"理论工具"提交给百度，返回341,000篇文档，大致看看第一页的返回内容。

OK。继续，我们提交查询"理论工具理论"，在看看返回结果，仍然是那么多返回文档，当然这个不能说明太多问题，那看看第一页返回结果的排序，看出来了吗?顺序完全没有变化，而GOOGLE则排序有些变动，这说明百度是将重复的查询归并成一个处理的，而且字符串之间的先后出现顺序基本不予考虑(GOOGLE是考虑了这个顺序关系的)。

3、假设提交的中文查询包含英文单词，搜索引擎是怎么处理的?比如查询"电影BT下载"，百度的方法是将中文字符串中的英文当作一个整体保留，并以此为断点将中文切分开，这样上述的查询就切为电影，BT，下载，不论中间的英文是否一个字典里能查到的单词也好，还是随机的字符也好，都会当作一个整体来对待。至于为什么，你用查询"电影dfdfdf下载"看看结果就知道了。当然如果查询中包含数字，也是如此办理。

到目前为止，一切很简单，也很清楚，百度怎么处理用户查询的呢?归纳如下：首先根据分割符号将查询分开，然后看看是否有重复的字符串，如果有，就抛弃多余的，只保留一个，接着判断是否有英文或者数字，如果有的话，把英文或者数字当作一个整体保留并把前后的中文切开。

接着该干什么呢?该考虑分词的问题了。

二、中文分词

首先，讲讲百度的分词时机或者条件问题，是否是个中文字符串百度就拿

来切一下呢?非也，要想被百度的分词程序荣幸的切割一下也是要讲条件的，哪能是个字符串就切割啊?你当百度是卖锯条的么?

那么什么样的字符串才满足被切割的条件呢?简单说来，如果字符串只包含小于等于3个中文字符的话，那就保留不动，当字符串长度大于4个中文字符

的时候，百度的分词程序才出马大干快上，把这个字符串肢解掉。

怎么证明呢?我们向百度提交"电影下载"，看看返回结果中标为红字的地方，不难看出来，查询已经被切割成电影，下载两个单词了，说明分词程序已经开

工了，如果是比4个中文字符更长的字符串，那分词程序就更不客气了，一定

大卸八块而后快。我们来看看三个字符的情况，提交查询"当然择"，看起来这

个查询不伦不类，那是因为我希望看到这个字符串被切分为当然，择，返回结

果365篇相关页面，翻到最后一页，发现标红的关键字都是"当然择"连续出现

的情况，好像没有切分，但是还不确定，那么再提交人工分好的查询"当然择"

看看，返回结果1，090，000篇，基本上可以确定没有进行分词了，当然另外

一种解释是：对于三个字符先切分，然后将切分后的结果当作一个短语查询，

这样看到的效果和没有切分是相似的。

但是我倾向于判断百度对于少于3个字符的串没有切分，奥卡姆不是说了么"如无必要，勿增实体"，干吗做无用功呢。那么如果没有切分，会有一个随

之而来的问题，怎么从索引库里面提取未切分的字符串呢?这牵扯到索引的问题，我觉得百度应该采取了两套索引机制，一种是按照单词索引，一种是按照N-GRAM索引，至于索引的具体问题，以后在详细论述。

下面我们看看百度是采取的何种分词算法，现在分词算法已经算是比较成

熟了，有简单的有复杂的，比如正向最大匹配，反向最大匹配，双向最大匹配，语言模型方法，最短路径算法等等，有兴趣的可以用GOOGLE去搜索一下以增加理解。这里就不展开说了。但是要记住一点的是：判断一个分词系统好不好，

关键看两点，一个是消除歧义能力；一个是词典未登录词的识别比如人名，地名，机构名等。

那么百度用的是什么方法?我的判断是用双向最大匹配算法。至于怎么推理得出的，让我们一步步来看。当然，这里首先有个假设，百度不会采取比较复

杂的算法，因为考虑到速度问题。

我们提交一个查询"北京华烟云"，又一个不知所云的查询，尽管不知所云

但是自有它的道理，我想看看百度的分词是如何消歧以及是否有词典未登录词

的识别的功能，如果是正向最大匹配算法的话，

那么输出应该是："/北京/华/烟云"，

如果是反向最大匹配算法的话，那么输出应该是："毛/泽/东北/京华烟云"，

我们看看百度的分词结果："/北/京华烟云"，一个很奇怪的输出，跟我们

的期望相差较多，

但是从中我们可以获得如下信息：百度分词可以识别人名，也可以识别"京华烟云"，这说明有词典未登录词的识别的功能，我们可以假设分词过程分为两个阶段：第一阶段，先查找一个特殊词典，这个词典包含一些人名，部分地名

以及一些普通词典没有的新词，这样首先将""解析出来，剩下了字符串"北京华烟云"，而"北/京华烟云"，可以看作是反向最大匹配的分词结果。这样基本说

得通。为了证明这一点，我们提交查询"发北"，我们期望两种分词结果，一个

是正向最大匹配发毛，泽，东北，一个是上述假设的结果发，北，事实上百度

输出是第二种情况，这样基本能确定百度分词采取了至少两个词典，一个是普

通词典，一个是专用词典(人名等)。而且是专用词典先切分，然后将剩余的片

断交由普通词典来切分。

继续测验，提交查询"古巴比伦理"，如果是正向最大匹配，那么结果应该

是古巴比伦，理，如果是反向最大匹配，那么结果应该是古巴，比，伦理，事

实上百度的分词结果是古巴比伦，理，从这个例子看，好像用了正向最大匹配

算法；

此外还有一些例子表明好像是使用正向最大匹配的；但是且慢，我们看这

个查询"北京华烟云"，正向最大匹配期望的结果是北京，华，烟云，而反向最