全文检索 部署及使用

Posted canhun

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了全文检索 部署及使用相关的知识，希望对你有一定的参考价值。

全文检索

  • 全文检索不同于特定字段的模糊查询，使用全文检索的效率更高，并且能够对于中文进行分词处理
  • haystack：django的一个包，可以方便地对model里面的内容进行索引、搜索，设计为支持whoosh,solr,Xapian,Elasticsearc四种全文检索引擎后端，属于一种全文检索的框架
  • whoosh：纯Python编写的全文搜索引擎，虽然性能比不上sphinx、xapian、Elasticsearc等，但是无二进制包，程序不会莫名其妙的崩溃，对于小型的站点，whoosh已经足够使用
  • jieba：一款免费的中文分词包，如果觉得不好用可以使用一些收费产品

操作

官方文档：
http://django-haystack.readthedocs.io/en/v2.4.1/tutorial.html

1.  在虚拟环境中依次安装包

安装全文检索管理模块haystack、全文搜索引擎模块whoosh和中文分词jieba

pip install django-haystack
pip install whoosh
pip install jieba

2.修改settings.py文件

  • 添加应用
  • 添加搜索引擎
全文检索搜索过程是由haystack模块进行操作的，所以搜索路由操作交给haystack进行处理，修改路由配置如下：
INSTALLED_APPS = (
    ...
    ‘haystack‘,
)
HAYSTACK_CONNECTIONS = 
    ‘default‘: 
        ‘ENGINE‘: ‘haystack.backends.whoosh_cn_backend.WhooshEngine‘,
        ‘PATH‘: os.path.join(BASE_DIR, ‘whoosh_index‘),
    
#自动生成索引
HAYSTACK_SIGNAL_PROCESSOR = ‘haystack.signals.RealtimeSignalProcessor‘

3.在项目的urls.py中添加url

#配置全文检索路由
urlpatterns = [
    ...
    re_path(r‘^search/‘, include(‘haystack.urls‘)),
]

4.在应用目录下建立search_indexes.py文件

#管理搜索的数据模型
 
# coding=utf-8
from haystack import indexes
from shopadmin import Good
class GoodIndex(indexes.SearchIndex, indexes.Indexable):
    text = indexes.CharField(document=True, use_template=True)
 
    def get_model(self):
        return GoodsInfo
 
    def index_queryset(self, using=None):
        return self.get_model().objects.all()

5.在目录“templates/search/indexes/shopadmin/”下创建“模型类名称_text.txt”文件

#_text.txt，这里列出了要对哪些列的内容进行检索  编辑可搜索内容
 object.name 
 object.description

6.在目录“templates/search/”下建立search.html

#构建索引展示页面
<!DOCTYPE html>
<html>
<head>
    <title></title>
</head>
<body>
% if query %
    <h3>搜索结果如下：</h3>
    % for result in page.object_list %
        <a href="/ result.object.id /"> result.object.name </a><br/>
    % empty %
        <p>啥也没找到</p>
    % endfor %
 
    % if page.has_previous or page.has_next %
        <div>
            % if page.has_previous %<a href="?q= query &amp;page= page.previous_page_number ">% endif %&laquo; 上一页% if page.has_previous %</a>% endif %
        |
            % if page.has_next %<a href="?q= query &amp;page= page.next_page_number ">% endif %下一页 &raquo;% if page.has_next %</a>% endif %
        </div>
    % endif %
% endif %
</body>
</html>

7.  建立ChineseAnalyzer.py文件

whoosh作为一个全文搜索模块，分词功能和检索功能已经非常强大，但是针对中文的处理还是比较欠缺，所以通过jieba模块重写分词操作，支持whoose对中文的强大操作

打开安装的whoosh模块目录，在python安装目录的site_packages/目录下找到对应的目录文件haystack/backends/,创建一个新的中文分词模块ChineseAnalyzer.py

  • 保存在haystack的安装文件夹下，路径如“/home/python/.virtualenvs/django_py2/lib/python2.7/site-packages/haystack/backends”
  • 注意：复制出来的文件名，末尾会有一个空格，记得要删除这个空格
  • 初始化索引数据
import jieba
from whoosh.analysis import Tokenizer, Token
 
 
class ChineseTokenizer(Tokenizer):
    def __call__(self, value, positions=False, chars=False,
                 keeporiginal=False, removestops=True,
                 start_pos=0, start_char=0, mode=‘‘, **kwargs):
        t = Token(positions, chars, removestops=removestops, mode=mode,
                  **kwargs)
        seglist = jieba.cut(value, cut_all=True)
        for w in seglist:
            t.original = t.text = w
            t.boost = 1.0
            if positions:
                t.pos = start_pos + value.find(w)
            if chars:
                t.startchar = start_char + value.find(w)
                t.endchar = start_char + value.find(w) + len(w)
            yield t
 
 
def ChineseAnalyzer():
    return ChineseTokenizer()

8.复制whoosh_backend.py文件，改名为whoosh_cn_backend.py

from .ChineseAnalyzer import ChineseAnalyzer 
查找
analyzer=StemmingAnalyzer()  #搜索查询赋值参数
改为
analyzer=ChineseAnalyzer()  # 将分析器对象更改为我们自定义的中文分词分析器

9.生成索引

python manage.py rebuild_index

10.在模板中创建搜索栏

<form method=‘get‘ action="/search/" target="_blank">
    <input type="text" name="q">
    <input type="submit" value="查询">
</form>

 

以上是关于全文检索 部署及使用的主要内容，如果未能解决你的问题，请参考以下文章

PHP+MYSQL实现全文检索及全文检索工具

全文检索及ElasticSearch框架学习

Solr----有趣的全文检索（linux部署篇）

lucene搜索引擎的使用及原理分析

已部署 - 通过 AngularJS CORS 检索的数据

已部署 - 通过 AngularJS CORS 检索的数据