Lucene教程详解

Lucene教程详解

Lucene-3.0.0配置

一、Lucene开发环境配置

step1.Lucene开发包下载

step2.Java开发环境配置

step3.Tomcat安装

step4.Lucene开发环境配置

解压下载的lucene-3.0.0.zip,可以看到lucene-core-3.0.0.jar和

lucene-demos-3.0.0.jar这两个文件,将其解压(建议放在安装jdk的lib文件夹内),并把路径添加到环境变量的classpath。

二、Lucene开发包中Demo调试

控制台应用程序

step1.建立索引

>java org.apache.lucene.demo.IndexFiles [C:\Java](已经存在的任意文件路径)

将对C:\Java下所有文件建立索引,同时,在当前命令行位置将生成“index”文件夹。

step2.执行查询

>java org.apache.lucene.demo.SearchFiles

将会出现“Query:”提示符,在其后输入关键字,回车,即可得到查询结果。

Web应用程序

step1.将lucene-core-3.0.0.jar和lucene-demos-3.0.0jar这两个文件复制到安装Tomcat 的\common\lib中

step2.解压下载的lucene-3.0.0.zip,可以看到luceneweb.war文件。将该文件复制到安装Tomcat的\webapps

step3.重启Tomcat服务器。

step4.建立索引

>java org.apache.lucene.demo.IndexHTML -create -index [索引数据存放路径] [被索引文件路径](如:D:\lucene\temp\index D:\lucene\temp\docs)

step5.打开安装Tomcat的\webapps\luceneweb\configuration.jsp文件,找到String indexLocation = "***",将"***"改为第四步中[索引数据存放路径],保存关闭。

step6.执行查询

http://localhost:8080/luceneweb

在文本框中输入关键字,执行,即可得到查询结果。

说明:本文采用lucene-3.0.0版本,运行step6 时查询报错,根据提示将安装Tomcat的webapps\luceneweb\results.jsp 中

[ QueryParser qp = new QueryParser("contents", analyzer); ] 修改为

[ QueryParser qp = new QueryParser(Version.LUCENE_CURRENT,"contents", analyzer); ]

注:本文参考YM's house

lucene的demo环境搭建

总结一下lucene的环境搭建,查看以及了解lucene的原理,对其有个大概的了解。

1、下载lucene2.3.2

地址:https://www.360docs.net/doc/86538972.html,/lucene/java/

2、下载jdk1.6

3、下载tomcat

下载以上内容完成后,开始安装。

1、安装jdk

一路确定下去,无需选择。

2、安装tomcat

一路确定下去,无需选择。

3、解压文件即可

假设解压文件路径为d:\lucene\

现在可以建立目录(此处的目录为我们要进行检索的信息的原始数据文件,我们放置在docs中,还有一个是lucene生成的检索信息,我们放置于index中),即可以在d:\lucene下建立一个temp\docs以及temp\index,此处两个文件夹目录可以随意,当然不一定非得放置于d:\lucene。

然后将需要检索的原始数据文件放置于docs文件夹中。

拷贝解压的lucene文件夹中的lucene-core-2.3.2.jar以及

lucene-demos-2.3.2.jar到temp文件夹中,解压。

如果没有配置jdk环境,参考下方:

打开我的电脑-属性-高级-环境变量:

在系统变量中添加:

JAVA_HOME C:\Program Files\Java\jdk1.6.0

PATH %JAVA_HOME%\bin

CLASSPATH .;%JAVA_HOME%\lib\tools.jar;%JAVA_HOME%\jre\lib\rt.jar;

打开命令行:将目录定位到temp文件夹。

输入命令:

java org.apache.lucene.demo.IndexHTML -create -index

D:\lucene\temp\index D:\lucene\temp\docs

即建立索引与原始数据文件的关系。

完成后,会发现index文件夹中多处一部分数据,以后再研究。

然后找到tomcat的安装目录,拷贝lucene中的luceneweb.war进入tomcat的webapps\文件夹中,启动tomcat,会看见webapps\下多出一个文件夹,找到configuration.jsp文件,将其中的String indexLocation = "/opt/lucene/index";修改为String indexLocation = "D:/lucene/temp/index";就是刚才生成的文件。

打开浏览器,输入http://127.0.0.1:8080/luceneweb/

输入需要查询的信息,看看结果如何。

简单地说:首先建立索引文件放置目录,cmd命令生成索引文件,部署工程,修改工程文件中目标为索引文件目录。

搜索引擎的组成

搜索引擎一般由搜索器、索引器、检索器和用户接口四个部分组成:

搜索器

其功能是在互联网中漫游,发现和搜集信息;

索引器

其功能是理解搜索器所搜索到的信息,从中抽取出索引项,用于表示文档以及生成文档库的索引表;

检索器

其功能是根据用户的查询在索引库中快速检索文档,进行相关度评价,对将要输出的结果排序,并能按用户的查询需求合理反馈信息;

用户接口

其作用是接纳用户查询、显示查询结果、提供个性化查询项。

d:\lucene\index是上一篇学习笔记([Lucene3.0学习笔记1(建立索引)] )中生成的索引文件的存放地址。具体步骤简介如下:

1、创建Directory对象,索引文件夹

2、创建IndexSearch对象,建立查询(参数是Directory对象)

3、创建QueryParser对象(lucene版本,查询Field字段,所用分词器)

4、生成Query对象,由QueryParser对象的parse函数生成(参数是所查的关键字)

5、建立TopDocs对象(IndexSearch的search函数,参数是Query查询对象,)

6、TopDocs对象数组里存放查询信息

7、关闭IndexSearch

索引创建和搜索过程所一个总结

Lucene教程

Lucene是apache组织的一个用java实现全文搜索引擎的开源项目。其功能非常的强大,api也很简单。总得来说用Lucene来进行建立和搜索和操作数据库是差不多的(有点像),Document可以看作是数据库的一行记录,Field可以看作是数据库的字段。用lucene实现搜索引擎就像用JDBC实现连接数据库一样简单。

Lucene2.0,它与以前广泛应用和介绍的Lucene 1.4.3并不兼容。 Lucene2.0的下载地址是https://www.360docs.net/doc/86538972.html,/lucene/java/

例子一:

1、在windows系统下的的C盘,建一个名叫s的文件夹,在该文件夹里面随便建三个txt文件,随便起名啦,就叫"1.txt","2.txt"和"3.txt"啦

其中1.txt的内容如下:

中华人民共和国

全国人民

2006年

而"2.txt"和"3.txt"的内容也可以随便写几写,这里懒写,就复制一个和1.txt 文件的内容一样吧

2、下载lucene包,放在classpath路径中

建立索引:

package https://www.360docs.net/doc/86538972.html,;

import java.io.BufferedReader;

import java.io.File;

import java.io.FileInputStream;

import java.io.IOException;

import java.io.InputStreamReader;

import java.util.Date;

import org.apache.lucene.analysis.Analyzer;

import org.apache.lucene.analysis.standard.StandardAnalyzer;

import org.apache.lucene.document.Document;

import org.apache.lucene.document.Field;

import org.apache.lucene.index.IndexWriter;

/** */ /**

* author lighter date 2006-8-7

*/

public class TextFileIndexer {

public static void main(String[] args) throws Exception {

/**/ /* 指明要索引文件夹的位置,这里是C盘的S文件夹下 */

File fileDir = new File( " c://s " );

/**/ /* 这里放索引文件的位置 */

File indexDir = new File( " c://index " );

Analyzer luceneAnalyzer = new StandardAnalyzer(); //建立一个标准分析器IndexWriter indexWriter = new IndexWriter(indexDir, luceneAnalyzer, true ); //创建一个索引器

File[] textFiles = fileDir.listFiles();

long startTime = new Date().getTime();

//增加document到索引去

for ( int i = 0 ; i < textFiles.length; i ++ ) {

if (textFiles[i].isFile()

&& textFiles[i].getName().endsWith( " .txt " )) {

System.out.println( " File " + textFiles[i].getCanonicalPath()

+ "正在被索引 . " );

String temp = FileReaderAll(textFiles[i].getCanonicalPath(),

" GBK " );

System.out.println(temp);

Document document = new Document(); //Document是一个记录。用来表示一个条目。就是搜索建立的倒排索引的条目。比如说,你要搜索自己电脑上的文件。这个时候就可以创建field。然后用field组合成document 。最后会变成若干文件。这个document和文件系统document不是一个概念。

Field FieldPath = new Field( " path " , textFiles[i].getPath(), Field.Store.YES, Field.Index.NO); //创建一个字段

Field FieldBody = new Field( " body " , temp, Field.Store.YES, Field.Index.TOKENIZED,

Field.TermVector.WITH_POSITIONS_OFFSETS);

document.add(FieldPath);

document.add(FieldBody);

indexWriter.addDocument(document);

}

}

// optimize()方法是对索引进行优化

indexWriter.optimize();

indexWriter.close();

//测试一下索引的时间

long endTime = new Date().getTime();

System.out

.println( "这花费了 "

+ (endTime - startTime)

+ " 毫秒来把文档增加到索引里面去! "

+ fileDir.getPath());

}

public static String FileReaderAll(String FileName, String charset) throws IOException {

BufferedReader reader = new BufferedReader( new InputStreamReader( new FileInputStream(FileName), charset));

String line = new String();

String temp = new String();

while ((line = reader.readLine()) != null ) {

temp += line;

}

reader.close();

return temp;

}

}

索引的结果:

File C:/s/ 1 .txt正在被索引 .

中华人民共和国全国人民2006年

File C:/s/ 2 .txt正在被索引 .

中华人民共和国全国人民2006年

File C:/s/ 3 .txt正在被索引 .

中华人民共和国全国人民2006年

这花费了297 毫秒来把文档增加到索引里面去 ! c:/s

3、建立了索引之后,查询啦....

package https://www.360docs.net/doc/86538972.html,;

import java.io.IOException;

import org.apache.lucene.analysis.Analyzer;

import org.apache.lucene.analysis.standard.StandardAnalyzer;

import org.apache.lucene.queryParser.ParseException;

import org.apache.lucene.queryParser.QueryParser;

import org.apache.lucene.search.Hits;

import org.apache.lucene.search.IndexSearcher;

import org.apache.lucene.search.Query;

public class TestQuery {

public static void main(String[] args) throws IOException, ParseException {

Hits hits = null ;

String queryString = "中华 " ;

Query query = null ;

IndexSearcher searcher = new IndexSearcher( " c://index " );

Analyzer analyzer = new StandardAnalyzer();

try {

QueryParser qp = new QueryParser( " body " , analyzer);

query = qp.parse(queryString);

} catch (ParseException e) {

}

if (searcher != null ) {

hits = searcher.search(query);

if (hits.length() > 0 ) {

System.out.println( "找到: " + hits.length() + " 个结果! " );

}

}

}

}

其运行结果:

找到: 3 个结果 !

Lucene其实很简单的,它最主要就是做两件事:建立索引和进行搜索

来看一些在lucene中使用的术语,这里并不打算作详细的介绍,只是点一下而已----因为这一个世界有一种好东西,叫搜索。

IndexWriter:lucene中最重要的的类之一,它主要是用来将文档加入索引,同

时控制索引过程中的一些参数使用。

Analyzer:分析器,主要用于分析搜索引擎遇到的各种文本。常用的有StandardAnalyzer分析器,StopAnalyzer分析器,WhitespaceAnalyzer分析器等。

Directory:索引存放的位置;lucene提供了两种索引存放的位置,一种是磁盘,一种是内存。一般情况将索引放在磁盘上;相应地lucene提供了FSDirectory

和RAMDirectory两个类。

Document:文档;Document相当于一个要进行索引的单元,任何可以想要被索引的文件都必须转化为Document对象才能进行索引。

Field:字段。

IndexSearcher:是lucene中最基本的检索工具,所有的检索都会用到IndexSearcher工具;

Query:查询,lucene中支持模糊查询,语义查询,短语查询,组合查询等等,如有TermQuery,BooleanQuery,RangeQuery,WildcardQuery等一些类。

QueryParser:是一个解析用户输入的工具,可以通过扫描用户输入的字符串,生成Query对象。

Hits:在搜索完成之后,需要把搜索结果返回并显示给用户,只有这样才算是完成搜索的目的。在lucene中,搜索的结果的集合是用Hits类的实例来表示的。

上面作了一大堆名词解释,下面就看几个简单的实例吧:

1、简单的的StandardAnalyzer测试例子

package https://www.360docs.net/doc/86538972.html,;

import java.io.IOException;

import java.io.StringReader;

import org.apache.lucene.analysis.Analyzer;

import org.apache.lucene.analysis.Token;

import org.apache.lucene.analysis.TokenStream;

import org.apache.lucene.analysis.standard.StandardAnalyzer;

public class StandardAnalyzerTest

{

//构造函数,

public StandardAnalyzerTest()

{

}

public static void main(String[] args)

{

//生成一个StandardAnalyzer对象

Analyzer aAnalyzer = new StandardAnalyzer();

//测试字符串

StringReader sr = new StringReader( " lighter javaeye com is the are on " );

//生成TokenStream对象

TokenStream ts = aAnalyzer.tokenStream( " name " , sr);

try {

int i = 0 ;

Token t = ts.next();

while (t != null )

{

//辅助输出时显示行号

i ++ ;

//输出处理后的字符

System.out.println( "第 " + i + "行: " + t.termText());

//取得下一个字符

t = ts.next();

}

} catch (IOException e) {

e.printStackTrace();

}

}

}

显示结果:

第1行:lighter

第2行:javaeye

第3行:com

提示一下:

StandardAnalyzer是lucene中内置的"标准分析器",可以做如下功能:

1、对原有句子按照空格进行了分词

2、所有的大写字母都可以能转换为小写的字母

3、可以去掉一些没有用处的单词,例如"is","the","are"等单词,也删除了所有的标点

查看一下结果与"new StringReader("lighter javaeye com is the are on")"作一个比较就清楚明了。

这里不对其API进行解释了,具体见lucene的官方文档。需要注意一点,这里的代码使用的是lucene2的API,与1.43版有一些明显的差别。

2、看另一个实例,简单地建立索引,进行搜索

package https://www.360docs.net/doc/86538972.html,;

import org.apache.lucene.analysis.standard.StandardAnalyzer;

import org.apache.lucene.document.Document;

import org.apache.lucene.document.Field;

import org.apache.lucene.index.IndexWriter;

import org.apache.lucene.queryParser.QueryParser;

import org.apache.lucene.search.Hits;

import org.apache.lucene.search.IndexSearcher;

import org.apache.lucene.search.Query;

import org.apache.lucene.store.FSDirectory;

public class FSDirectoryTest {

//建立索引的路径

public static final String path = " c://index2 " ;

public static void main(String[] args) throws Exception {

Document doc1 = new Document();

doc1.add( new Field( " name " , " lighter javaeye com

" ,Field.Store.YES,Field.Index.TOKENIZED));

Document doc2 = new Document();

doc2.add( new Field( " name " , " lighter blog

" ,Field.Store.YES,Field.Index.TOKENIZED));

IndexWriter writer = new IndexWriter(FSDirectory.getDirectory(path, true ), new StandardAnalyzer(), true );

writer.setMaxFieldLength( 3 );

writer.addDocument(doc1);

writer.setMaxFieldLength( 3 );

writer.addDocument(doc2);

writer.close();

IndexSearcher searcher = new IndexSearcher(path);

Hits hits = null ;

Query query = null ;

QueryParser qp = new QueryParser( " name " , new StandardAnalyzer());

query = qp.parse( " lighter " );

hits = searcher.search(query);

System.out.println( "查找/ " lighter/ " 共 " + hits.length() + "个结果" );

query = qp.parse( " javaeye " );

hits = searcher.search(query);

System.out.println( "查找/ " javaeye/ " 共 " + hits.length() + "个结果" );

}

}

运行结果:

查找 " lighter " 共2个结果

查找 " javaeye " 共1个结果

到现在我们已经可以用lucene建立索引了

下面介绍一下几个功能来完善一下:

1.索引格式

其实索引目录有两种格式,

一种是除配置文件外,每一个Document独立成为一个文件(这种搜索起来会影响速度)。

另一种是全部的Document成一个文件,这样属于复合模式就快了。

2.索引文件可放的位置:

索引可以存放在两个地方1.硬盘,2.内存

放在硬盘上可以用FSDirectory(),放在内存的用RAMDirectory()不过一关机就没了

FSDirectory.getDirectory(File file, boolean create)

FSDirectory.getDirectory(String path, boolean create)

两个工厂方法返回目录

New RAMDirectory()就直接可以

再和

IndexWriter(Directory d, Analyzer a, boolean create)

一配合就行了

如:

IndexWrtier indexWriter = new

IndexWriter(FSDirectory.getDirectory(“c://index”, true ), new StandardAnlyazer(), true );

IndexWrtier indexWriter = new IndexWriter( new RAMDirectory(), new StandardAnlyazer(), true );

3.索引的合并

这个可用

IndexWriter.addIndexes(Directory[] dirs)

将目录加进去

来看个例子:

public void UniteIndex() throws IOException

{

IndexWriter writerDisk = new IndexWriter(FSDirectory.getDirectory( " c://indexDisk " , true ), new StandardAnalyzer(), true );

Document docDisk = new Document();

docDisk.add( new Field( " name " , "程序员之家

" ,Field.Store.YES,Field.Index.TOKENIZED));

writerDisk.addDocument(docDisk);

RAMDirectory ramDir = new RAMDirectory();

IndexWriter writerRam = new IndexWriter(ramDir, new StandardAnalyzer(), true );

Document docRam = new Document();

docRam.add( new Field( " name " , "程序员杂志

" ,Field.Store.YES,Field.Index.TOKENIZED));

writerRam.addDocument(docRam);

writerRam.close(); //这个方法非常重要,是必须调用的

writerDisk.addIndexes( new Directory[] {ramDir} );

writerDisk.close();

}

public void UniteSearch() throws ParseException, IOException

{

QueryParser queryParser = new QueryParser( " name " , new StandardAnalyzer());

Query query = queryParser.parse( "程序员 " );

IndexSearcher indexSearcher = new IndexSearcher( " c://indexDisk " ); Hits hits = indexSearcher.search(query);

System.out.println( "找到了 " + hits.length() + "结果 " );

for ( int i = 0 ;i

{

Document doc = hits.doc(i);

System.out.println(doc.get( " name " ));

}

}

这个例子是将内存中的索引合并到硬盘上来.

注意:合并的时候一定要将被合并的那一方的IndexWriter的close()方法调用。

4.对索引的其它操作:

IndexReader类是用来操作索引的,它有对Document,Field的删除等操作。

下面一部分的内容是:全文的搜索

全文的搜索主要是用:IndexSearcher,Query,Hits,Document(都是Query的子类),有的时候用QueryParser

主要步骤:

1 . new QueryParser(Field字段, new 分析器)

2 .Query query = QueryParser.parser(“要查询的字串”);这个地方我们可以用反射api看一下query究竟是什么类型

3 . new IndexSearcher(索引目录).search(query);返回Hits

4 .用Hits.doc(n);可以遍历出Document

5 .用Document可得到Field的具体信息了。

其实1 ,2两步就是为了弄出个Query实例,究竟是什么类型的看分析器了。拿以前的例子来说吧

QueryParser queryParser = new QueryParser( " name " , new StandardAnalyzer());

Query query = queryParser.parse( "程序员 " );

/**/ /*这里返回的就是org.apache.lucene.search.PhraseQuery */ IndexSearcher indexSearcher = new IndexSearcher( " c://indexDisk " ); Hits hits = indexSearcher.search(query);

不管是什么类型,无非返回的就是Query的子类,我们完全可以不用这两步直接new个Query的子类的实例就ok了,不过一般还是用这两步因为它返回的是PhraseQuery这个是非常强大的query子类它可以进行多字搜索用QueryParser 可以设置各个关键字之间的关系这个是最常用的了。

IndexSearcher:

其实IndexSearcher它内部自带了一个IndexReader用来读取索引的,IndexSearcher有个close()方法,这个方法不是用来关闭IndexSearche的是用来关闭自带的IndexReader。

QueryParser呢可以用parser.setOperator()来设置各个关键字之间的关系(与还是或)它可以自动通过空格从字串里面将关键字分离出来。

注意:用QueryParser搜索的时候分析器一定的和建立索引时候用的分析器是一样的。

Query:

可以看一个lucene2.0的帮助文档有很多的子类:

BooleanQuery, ConstantScoreQuery, ConstantScoreRangeQuery, DisjunctionMaxQuery, FilteredQuery, MatchAllDocsQuery, MultiPhraseQuery, MultiTermQuery, PhraseQuery, PrefixQuery, RangeQuery, SpanQuery, TermQuery

各自有用法看一下文档就能知道它们的用法了

下面一部分讲一下lucene的分析器:

分析器是由分词器和过滤器组成的,拿英文来说吧分词器就是通过空格把单词分

开,过滤器就是把the,to,of等词去掉不被搜索和索引。

我们最常用的是StandardAnalyzer()它是lucene的标准分析器它集成了内部的许多的分析器。

最后一部分了:lucene的高级搜索了

1.排序

Lucene有内置的排序用IndexSearcher.search(query,sort)但是功能并不理想。我们需要自己实现自定义的排序。

这样的话得实现两个接口: ScoreDocComparator, SortComparatorSource

用IndexSearcher.search(query,new Sort(new SortField(String

Field,SortComparatorSource)));

就看个例子吧:

这是一个建立索引的例子:

public void IndexSort() throws IOException

{

IndexWriter writer = new IndexWriter( " C://indexStore " , new StandardAnalyzer(), true );

Document doc = new Document()

doc.add( new Field( " sort " , " 1

" ,Field.Store.YES,Field.Index.TOKENIZED));

writer.addDocument(doc);

doc = new Document();

doc.add( new Field( " sort " , " 4

" ,Field.Store.YES,Field.Index.TOKENIZED));

writer.addDocument(doc);

doc = new Document();

doc.add( new Field( " sort " , " 3

" ,Field.Store.YES,Field.Index.TOKENIZED));

writer.addDocument(doc);

doc = new Document();

doc.add( new Field( " sort " , " 5

" ,Field.Store.YES,Field.Index.TOKENIZED));

writer.addDocument(doc);

doc = new Document();

doc.add( new Field( " sort " , " 9

" ,Field.Store.YES,Field.Index.TOKENIZED));

writer.addDocument(doc);

doc = new Document();

doc.add( new Field( " sort " , " 6

" ,Field.Store.YES,Field.Index.TOKENIZED));

writer.addDocument(doc);

doc = new Document();

doc.add( new Field( " sort " , " 7

" ,Field.Store.YES,Field.Index.TOKENIZED));

writer.addDocument(doc);

writer.close();

}

下面是搜索的例子:

[code]

public void SearchSort1() throws IOException, ParseException

{

IndexSearcher indexSearcher = new IndexSearcher("C://indexStore"); QueryParser queryParser = new QueryParser("sort",new StandardAnalyzer());

Query query = queryParser.parse("4");

Hits hits = indexSearcher.search(query);

System.out.println("有"+hits.length()+"个结果");

Document doc = hits.doc(0);

System.out.println(doc.get("sort"));

}

public void SearchSort2() throws IOException, ParseException

{

IndexSearcher indexSearcher = new IndexSearcher("C://indexStore"); Query query = new RangeQuery(new Term("sort","1"),new

Term("sort","9"),true);//这个地方前面没有提到,它是用于范围的Query可以看一下帮助文档.

Hits hits = indexSearcher.search(query,new Sort(new

SortField("sort",new MySortComparatorSource())));

System.out.println("有"+hits.length()+"个结果");

for(int i=0;i

{

Document doc = hits.doc(i);

System.out.println(doc.get("sort"));

}

}

public class MyScoreDocComparator implements ScoreDocComparator

{

private Integer[]sort;

public MyScoreDocComparator(String s,IndexReader reader, String fieldname) throws IOException

{

sort = new Integer[reader.maxDoc()];

for(int i = 0;i

{

Document doc =reader.document(i);

sort[i]=new Integer(doc.get("sort"));

}

}

public int compare(ScoreDoc i, ScoreDoc j)

{

if(sort[i.doc]>sort[j.doc])

return 1;

if(sort[i.doc]

return -1;

return 0;

}

public int sortType()

{

return SortField.INT;

}

public Comparable sortValue(ScoreDoc i)

{

// TODO自动生成方法存根

return new Integer(sort[i.doc]);

}

}

public class MySortComparatorSource implements SortComparatorSource {

private static final long serialVersionUID = -9189690812107968361L; public ScoreDocComparator newComparator(IndexReader reader, String fieldname)

throws IOException

{

if(fieldname.equals("sort"))

return new MyScoreDocComparator("sort",reader,fieldname);

return null;

}

}[/code]

SearchSort1()输出的结果没有排序,SearchSort2()就排序了。

2.多域搜索MultiFieldQueryParser

如果想输入关键字而不想关心是在哪个Field里的就可以用MultiFieldQueryParser了

用它的构造函数即可后面的和一个Field一样。

MultiFieldQueryParser. parse(String[] queries, String[] fields, BooleanClause.Occur[] flags, Analyzer analyzer) ~~~~~~~~~~~~~~~~~ 第三个参数比较特殊这里也是与以前lucene1.4.3不一样的地方

看一个例子就知道了

String[] fields = {"filename", "contents", "description"}; BooleanClause.Occur[] flags = {BooleanClause.Occur.SHOULD,

BooleanClause.Occur.MUST,//在这个Field里必须出现的

BooleanClause.Occur.MUST_NOT};//在这个Field里不能出现MultiFieldQueryParser.parse("query", fields, flags, analyzer);

1、lucene的索引不能太大,要不然效率会很低。大于1G的时候就必须考虑分布索引的问题

2、不建议用多线程来建索引,产生的互锁问题很麻烦。经常发现索引被lock,无法重新建立的情况

3、中文分词是个大问题,目前免费的分词效果都很差。如果有能力还是自己实现一个分词模块,用最短路径的切分方法,网上有教材和demo源码,可以参考。

4、建增量索引的时候很耗cpu,在访问量大的时候会导致cpu的idle为0

5、默认的评分机制不太合理,需要根据自己的业务定制

整体来说lucene要用好不容易,必须在上述方面扩充他的功能,才能作为一个商用的搜索引擎

\

编程点滴.LUCENE的FILED选项

争取每日记录一些

Index选项

Index.ANALYZED –索引并分词(适用于body, title, abstract等.).

Index.NOT_ANALYZED –索引但不分词,可以使用NORM方式.(可以人为干预提权)

Index.ANALYZED_NO_NORMS –索引并分词但不使用NORM方式(不可认为提权)

Index.NOT_ANALYZED_NO_NORMS –索引但不分词也不使用NORM方式(经常用到,存储标志值最好的方式.)

Index.NO –不索引

Store选项

Store.YES –存储

Store.NO –不存储

TermVector选项

(除TermVector.NO外其他必须要求Index选项为Index.ANALYZED或Index.NOT_ANALYZED)

TermVector.YES –最基本的向量存储(特殊性,数量,在哪个文档)

TermVector.WITH_POSITIONS –TermVector.YES+位置

TermVector.WITH_OFFSETS –TermVector.YES+偏移

TermVector.WITH_POSITIONS_OFFSETS –TermVector.YES+位置+偏移TermVector.NO –不做向量存储

各选项组合应用场景

Index Store TermVector 事例

NOT_ANALYZ

Technorati 标签: LUCENE FIELD INDEX ANALYZED NOT_ANALYZED TermVector

ED_NO_NORMS YES NO 主键,电话,身份证

号,URLs,日期和

需要排序的字段

ANALYZED YES WITH_POSITIONS_OFFSETS 文档标题,摘要. ANALYZED NO WITH_POSITIONS_OFFSETS 文档主体

NO YES NO 文档类型,数据库

主键(如果不需要

检索该字段的话) NOT_ANALYZED NO NO 隐藏字段

排序的注意事项

如果需要排序的字段是数字就用NumericField,如果是文本,一定要记得使用FIELD.Index.NOT_ANALYZED.

如果不需要提权则应该使用NOT_ANALYZED_NO_NORMS

多值字段的保存

在同一个Document下可以给同一个字段赋不同的值.例如

Document doc = new Document();

for (int i = 0; i < authors.length; i++) {

doc.add(new Field("author", authors[i],

Field.Store.YES,

Field.Index.ANALYZED));

}

https://www.360docs.net/doc/86538972.html, QQ交流群(81361051)

Lucene API

l 被索引的文档用Document对象表示。

l IndexWriter通过函数addDocument将文档添加到索引中,实现创建索引的过程。

l Lucene的索引是应用反向索引。

l 当用户有请求时,Query代表用户的查询语句。

l IndexSearcher通过函数search搜索Lucene Index。

l IndexSearcher计算term weight和score并且将结果返回给用户。

l 返回给用户的文档集合用TopDocsCollector表示。

Lucene搜索的api的类主要有4个IndexSearcher ,Query(包括子

类),QueryParser,Hits

一:IndexSearcher是搜索的入口,他的search方法提供了搜索功能

Query有很多子类,各种不同的子类代表了不同的查询条件,下文详述QueryParser是一个非常通用的帮助类,他的作用是把用户输入的文本转换为内置的Query对象(大多数web搜索引擎都提供一个查询输入框来让用户输入查询条件)。QueryParser内置提供了很多语法来使使用可以输入各种高级条件的Query。比如: "Hello AND world"会被解析为一个AND关系的BooleanQuery,他包含两个TermQuery(Hell和world)。这些语法虽然强大,但都针对英文设计,对我们需要中文搜索来说都不需要了解太多的Query类型,一般几个简单的就够用了。QueryParser的使用如下

QueryParser.parse(String query, String field, Analyzer analyzer) throws ParseException

其中:query是用户输入的内容,field是搜索默认的field(其他field需要显式指定),analyzer是用来将用户输入的内容也作分析处理(分词),一般情况下这里的anaylyzer是index的时候采用的同一analyzer。

另外我们也可以自己构造一个QueryParser: new QueryParser(String field, Analyzer a)(含义同上),这样做的好处是可以自己定义调整一些参数.

搜索结果的处理:Hits对象

Hits对象是搜索结果的集合主要有下面几个方法

length() ,这个方法记录有多少条结果返回(lazy loading)

doc(n) 返回第n个记录

相关主题
相关文档
最新文档