Apache Lucene初探

Posted 漠漠颜

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Apache Lucene初探相关的知识,希望对你有一定的参考价值。

讲解之前,先来分享一些资料

 

 首先,学习任何一门新的亦或是旧的开源技术,百度其中一二是最简单的办法,先了解其中的大概,思想等等这里就贡献一个讲解很到位的ppt

 这是Lucene4.0的官网文档:http://lucene.apache.org/core/4_0_0/core/overview-summary.html

 

 最后,提醒学习Lucene的小盆友们,这个开源软件的版本更新不慢,版本之间的编程风格亦是不同,所以如果百度到的帖子,可能这段代码,用了4.0或者3.6就会不好使。

 

  比如,以前版本的申请IndexWriter时,是这样的:

 

 IndexWriter indexWriter  =   new IndexWriter(indexDir,luceneAnalyzer, true ); 

 

  但是4.0,我们需要配置一个conf,把配置内容放到这个对象中:  

 IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT, analyzer);
 IndexWriter iwriter = new IndexWriter(directory, config);
  

    最后的最后,从官网上面下载下来的文件,已经上传至百度网盘,欢迎下载。

 

 

 

 

这是其中最常用的五个文件:

 

  第一个,也是最重要的,Lucene-core-4.0.0.jar,其中包括了常用的文档,索引,搜索,存储等相关核心代码。

 

  第二个,Lucene-analyzers-common-4.0.0.jar,这里面包含了各种语言的词法分析器,用于对文件内容进行关键字切分,提取。

 

  第三个,Lucene-highlighter-4.0.0.jar,这个jar包主要用于搜索出的内容高亮显示。

 

  第四个和第五个,Lucene-queryparser-4.0.0.jar,提供了搜索相关的代码,用于各种搜索,比如模糊搜索,范围搜索,等等。

废话说到这里,下面我们简单的讲解一下什么是全文检索

  

  比如,我们一个文件夹中,或者一个磁盘中有很多的文件,记事本、world、Excel、pdf,我们想根据其中的关键词搜索包含的文件。例如,我们输入Lucene,所有内容含有Lucene的文件就会被检查出来。这就是所谓的全文检索。

  因此,很容易的我们想到,应该建立一个关键字与文件的相关映射,盗用ppt中的一张图,很明白的解释了这种映射如何实现。

 

 在Lucene中,就是使用这种“倒排索引”的技术,来实现相关映射。 

 

  

 

---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

 

有了这种映射关系,我们就来看看Lucene的架构设计

 

  下面是Lucene的资料必出现的一张图,但也是其精髓的概括。

 

 

 

 

  我们可以看到,Lucene的使用主要体现在两个步骤:

 

  1 创建索引,通过IndexWriter对不同的文件进行索引的创建,并将其保存在索引相关文件存储的位置中。

 

  2 通过索引查寻关键字相关文档。

 

 

 

  下面针对官网上面给出的一个例子,进行分析:

 

复制代码
 1   Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT);
 2 
 3     // Store the index in memory:
 4     Directory directory = new RAMDirectory();
 5     // To store an index on disk, use this instead:
 6     //Directory directory = FSDirectory.open("/tmp/testindex");
 7     IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT, analyzer);
 8     IndexWriter iwriter = new IndexWriter(directory, config);
 9     Document doc = new Document();
10     String text = "This is the text to be indexed.";
11     doc.add(new Field("fieldname", text, TextField.TYPE_STORED));
12     iwriter.addDocument(doc);
13     iwriter.close();
14     
15     // Now search the index:
16     DirectoryReader ireader = DirectoryReader.open(directory);
17     IndexSearcher isearcher = new IndexSearcher(ireader);
18     // Parse a simple query that searches for "text":
19     QueryParser parser = new QueryParser(Version.LUCENE_CURRENT, "fieldname", analyzer);
20     Query query = parser.parse("text");
21     ScoreDoc[] hits = isearcher.search(query, null, 1000).scoreDocs;
22     assertEquals(1, hits.length);
23     // Iterate through the results:
24     for (int i = 0; i < hits.length; i++) {
25       Document hitDoc = isearcher.doc(hits[i].doc);
26       assertEquals("This is the text to be indexed.", hitDoc.get("fieldname"));
27     }
28     ireader.close();
29     directory.close();
复制代码

 

 

 

索引的创建

 

  首先,我们需要定义一个词法分析器。

 

  比如一句话,“我爱我们的中国!”,如何对他拆分,扣掉停顿词“的”,提取关键字“我”“我们”“中国”等等。这就要借助的词法分析器Analyzer来实现。这里面使用的是标准的词法分析器,如果专门针对汉语,还可以搭配paoding,进行使用。

 

1 Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT);

 

  参数中的Version.LUCENE_CURRENT,代表使用当前的Lucene版本,本文环境中也可以写成Version.LUCENE_40。

 

  

 

  第二步,确定索引文件存储的位置,Lucene提供给我们两种方式:

 

  1 本地文件存储 

 

Directory directory = FSDirectory.open("/tmp/testindex");

 

  2 内存存储