solr 的使用及安装
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了solr 的使用及安装相关的知识,希望对你有一定的参考价值。
注本文以solr3.3为例
Solr 简介
Solr 是一个开源的企业级搜索服务器,底层使用易于扩展和修改的Java 来实现。
Solr 主要特性有:强大的全文检索功能,高亮显示检索结果,动态集群,数据库接口和电子文档(Word ,PDF 等)的处理。而且Solr 具有高度的可扩展,支持分布搜索和索引的复制。
Solr 底层的核心技术是使用Apache Lucene 来实现的,简单的说Solr 是Lucene 的服务器化。需要注意的是Solr 并不是简单的对Lucene 进行封装,它所提供的大部分功能都区别于Lucene 。
==================================================
WINDOWS/linux SOLR安装
【linux参考】:http://sinykk.iteye.com/admin/blogs/1171098
【windows如下】http://archive.apache.org/dist/lucene/solr/3.3.0/
==================================================
环境参数:
Tomcat 7
Solr apache-solr-3.3.0
Jdk 1.6
Windows
搭建步骤:
1. 下载所需软件,安装配置Tomcat。
下载软件为 :Tomcat与Solr,jdk1.6,官网都可免费下载。
2. Tomcat 配置文件conf\server.xml
添加编码的配置 URIEncoding="UTF-8" (如不添加,中文检索时因为乱码搜索不到)。
添加后为:
<Connector port="8983" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" URIEncoding="UTF-8" />
4. 将D:\solr\apache-solr-3.3.0 解压
5. 建立d:/solr/home主目录(可以根据自己的情况建立),把D:\solr\apache-solr-3.3.0\example\solr复制到该目录下。
6. 建立solr.home 环境变量:置为 d:/solr/home
7. 将solr.War复制到tomcat的webapp下启动是会自动解压。
8. 修改D:\resouce\java\tomcat\webapps\solr\WEB-INF\web.xml.
<env-entry> <env-entry-name>solr/home</env-entry-name> <env-entry-value>d:\solr\home</env-entry-value> <env-entry-type>java.lang.String</env-entry-type> </env-entry>
9. 启动tomcat,浏览器输入:http://localhost:8080/solr/
10.看到页面说明部署成功
==================================================
solr 将mysql数据库做成索引数据源【注意格式】
参考:http://digitalpbk.com/apachesolr/apache-solr-mysql-sample-data-config
==================================================
1、在solrconfig.xml中添加,增加导入数据功能
- <requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
- <lst name="defaults">
- <str name="config">data-config.xml</str>
- </lst>
- </requestHandler>
2、添加一个数据源data-config.xml,代码如下
- <dataConfig>
- <dataSource type="JdbcDataSource"
- driver="com.mysql.jdbc.Driver"
- url="jdbc:mysql://localhost/test"
- user="root"
- password=""/>
- <document name="content">
- <entity name="node" query="select id,name,title from solrdb">
- <field column="nid" name="id" />
- <field column="name" name="name" />
- <field column="title" name="title" />
- </entity>
- </document>
- </dataConfig>
3、创建schema.xml语法,代码如下
- <?xml version="1.0" encoding="UTF-8" ?>
- <schema name="example" version="1.4">
- <types>
- <fieldType name="tint" class="solr.TrieIntField" precisionStep="8" omitNorms="true" positionIncrementGap="0"/>
- <fieldType name="string" class="solr.StrField" sortMissingLast="true" omitNorms="true"/>
- <fieldType name="text" class="solr.TextField" positionIncrementGap="100">
- <analyzer type="index">
- <tokenizer class="solr.StandardTokenizerFactory"/>
- <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />
- <filter class="solr.LowerCaseFilterFactory"/>
- </analyzer>
- <analyzer type="query">
- <tokenizer class="solr.StandardTokenizerFactory"/>
- <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />
- <filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>
- <filter class="solr.LowerCaseFilterFactory"/>
- </analyzer>
- </fieldType>
- <fieldType name="date" class="solr.TrieDateField" omitNorms="true" precisionStep="0" positionIncrementGap="0"/>
- </types>
- <fields>
- <field name="id" type="string" indexed="true" stored="true" required="true" />
- <field name="title" type="string" indexed="true" stored="true"/>
- <field name="contents" type="text" indexed="true" stored="true"/>
- </fields>
- <uniqueKey>id</uniqueKey>
- <defaultSearchField>contents</defaultSearchField>
- <solrQueryParser defaultOperator="OR"/>
- <copyField source="title" dest="contents"/>
- </schema>
schema.xml 里重要的字段
要有这个copyField字段SOLR才能检索多个字段的值【以下设置将同时搜索 title,name,contents中的值】
<defaultSearchField>contents</defaultSearchField>
copyField是用來複製你一個欄位裡的值到另一欄位用. 如你可以將name裡的東西copy到default裡, 這樣solr做檢索時也會檢索到name裡的東西.
<copyField source="name" dest="contents"/>
<copyField source="title" dest="contents"/>
4、创建索引
http://192.168.171.129:8983/solr/dataimport?command=full-import
注:保证与数据库连接正确
==================================================
solr 创建增量索引
主要是修改data-config.xml 数据源
==================================================
- <dataConfig>
- <dataSource driver="com.mysql.jdbc.Driver" url="jdbc:mysql://localhost/demo" user="root" password=""/>
- <document name="products">
- <entity name="item" pk="id"
- query="SELECT id,title,contents,last_index_time FROM solr_articles"
- deltaImportQuery="SELECT id,title,contents,last_index_time FROM solr_articles
- WHERE id = ‘${dataimporter.delta.id}‘"
- deltaQuery="SELECT id FROM solr_articles
- WHERE last_index_time > ‘${dataimporter.last_index_time}‘">
- </entity>
- </document>
- </dataConfig>
注意数据库相关表的创建
如本例中 solr_articles表中有 last_index_time(timestamp)字段,每当增加或者更新了值都应修改last_index_time的值,以便增量索引能更新到
有问题请即时查看TOMCAT的LOG日志文件
运行:http://192.168.171.129:8983/solr/dataimport?command=delta-import
如果运行后未达到你的预期,请查看dataimport.properties文件的日期,并组合新SQL语句查询来调整问题
==================================================
multiple core(SOLR多个索引共存)
参考:http://wiki.apache.org/solr/CoreAdmin
==================================================
1、配置多个索引
- <solr persistent="true" sharedLib="lib">
- <cores adminPath="/admin/cores">
- <core name="core0" instanceDir="core0" dataDir="D:\solr\home\core0\data"/>
- <core name="core1" instanceDir="core1" dataDir="D:\solr\home\core1\data" />
- </cores>
- </solr>
2、将D:\solr\apache-solr-3.3.0\example\multicore下的 core0,core1两个文件拷贝到D:\solr\home下,D:\solr\home目录下之前的任务目录及文件不变
注:D:\solr\home目录为D:\solr\apache-solr-3.3.0\example\solr
3、建立两个索引数据存放目录
D:\solr\home\core0\data
D:\solr\home\core1\data
4、修改其中一个索引如CORE1
修改solrconfig.xml为如下代码
【注 需要加入 lib 标签主要是因为DataImportHandler 为报错,这可能是官方的BUG】
- <?xml version="1.0" encoding="UTF-8" ?>
- <config>
- <luceneMatchVersion>LUCENE_33</luceneMatchVersion>
- <directoryFactory name="DirectoryFactory" class="${solr.directoryFactory:solr.StandardDirectoryFactory}"/>
- <lib dir="D:/solr/apache-solr-3.3.0/contrib/extraction/lib" />
- <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-cell-\d.*\.jar" />
- <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-clustering-\d.*\.jar" />
- <lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-dataimporthandler-\d.*\.jar" />
- <lib dir="D:/solr/apache-solr-3.3.0/contrib/clustering/lib/" />
- <lib dir="/total/crap/dir/ignored" />
- <updateHandler class="solr.DirectUpdateHandler2" />
- <requestDispatcher handleSelect="true" >
- <requestParsers enableRemoteStreaming="false" multipartUploadLimitInKB="2048" />
- </requestDispatcher>
- <requestHandler name="standard" class="solr.StandardRequestHandler" default="true" />
- <requestHandler name="/update" class="solr.XmlUpdateRequestHandler" />
- <requestHandler name="/admin/" class="org.apache.solr.handler.admin.AdminHandlers" />
- <admin>
- <defaultQuery>solr</defaultQuery>
- </admin>
- <requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
- <lst name="defaults">
- <str name="config">data-config.xml</str>
- </lst>
- </requestHandler>
- </config>
最后运行 http://localhost:8080/solr/core1/admin/
==================================================
定时更新SOLR索引
因SOLR的索引更新是经过HTTP的,所以不能直接使用CRON,现在我们换一种方式
将要访问的HTTP写入到php文件中,经过定时运行PHP文件来达到更新SORL索引目录
10/* * * * * /usr/local/php/bin/php /yym/cronfile/solr_cron.php?t=index_delta
==================================================
- /*
- * Created on 2011-9-15
- * @author tianyongchun
- * 此文件用于定时更新SOLR的索引
- * @param t为更新类型 带不同的参考更新不同的索引
- *
- * 此文件可以通过LINUX的CRON方法运行以便达到定时更新索引
- */
- set_time_limit(0);
- /**
- *
- * 增量更新
- * index_delta
- * 全更新
- * index_full
- *
- *
- */
- $t = $_GET[‘t‘];
- //http://192.168.171.129:8983/solr/dataimport?command=delta-import
- $url = ‘http://localhost:8983/solr/dataimport?command=‘;
- $r = ‘result error‘;
- if($t ==‘index_delta‘){
- $r = file_get_contents($url.‘delta-import‘);
- }else if($t =="index_full"){
- $r = file_get_contents($url.‘full-import‘);
- }else{
- echo ‘param error‘;
- }
- var_dump($r);
- ?>
==================================================
solr 的PHP客户端
==================================================
从名字就可以看出,这是 Solr 的 PHP 客户端开发包。
通过这个包可以像
http://code.google.com/p/solr-php-client/downloads/list
==================================================
常见错误 org.apache.solr.common.SolrException: Error loading class ‘org.apache.solr.handler.dataimport.DataImportHandler
==================================================
将solrconfig.xml中的值改为如下:【主要是指定SOLR的主目录路径出错】
<lib dir="D:/solr/apache-solr-3.3.0/contrib/extraction/lib" />
<!-- When a regex is specified in addition to a directory, only the
files in that directory which completely match the regex
(anchored on both ends) will be included.
-->
<lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-cell-\d.*\.jar" />
<lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-clustering-\d.*\.jar" />
<lib dir="D:/solr/apache-solr-3.3.0/dist/" regex="apache-solr-dataimporthandler-\d.*\.jar" />
<!-- If a dir option (with or without a regex) is used and nothing
is found that matches, it will be ignored
-->
<lib dir="D:/solr/apache-solr-3.3.0/contrib/clustering/lib/" />
-----------------------------
I experienced the same issue. With Solr 1.x, I was copying out the
‘example‘ directory to make my solr installation. However, for the
Solr 3.x distributions, the DataImportHandler class exists in a
directory that is at the same level as example: "dist", not a
directory within.
You‘ll either want to take the entire apache 3.1 directory, or modify
solrconfig to point to the new place you‘ve copied it:
<lib dir="../../dist/" regex="apache-solr-dataimporthandler-\d.*\.jar" />
==================================================
solr搜索不出数据
==================================================
SELECT id,title,main_contents as contents,last_index_time FROM solr_articles
要使用<field column="NAME" name="name" />最好将schema.xml中通过field配置相应的名字
==================================================
solr 分布式(复制)配置
参考:http://hi.baidu.com/648636045/blog/item/3985aaf1f8f150d00a46e080.html
==================================================
以上是关于solr 的使用及安装的主要内容,如果未能解决你的问题,请参考以下文章
[项目构建 七]babasport 商品上架及Solr使用实例.
solr分布式索引实战分片配置读取:工具类configUtil.java,读取配置代码片段,配置实例