(solr系列:四)将mysql数据库中的数据导入到solr中

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了(solr系列:四)将mysql数据库中的数据导入到solr中相关的知识,希望对你有一定的参考价值。

在前面的博文中,已完成了在tomcat中对solr的部署,为solr添加了一个自定义的core,并且引入了ik分词器。

那么该如何将本地的mysql的数据导入到solr中呢?

准备工作:

1、mysql数据源:myuser库中的user表(8条数据)

/*
Navicat MySQL Data Transfer

Source Server         : localhost
Source Server Version : 50521
Source Host           : localhost:3306
Source Database       : user

Target Server Type    : MYSQL
Target Server Version : 50521
File Encoding         : 65001

Date: 2016-10-21 10:14:01
*/

SET FOREIGN_KEY_CHECKS=0;

-- ----------------------------
-- Table structure for user
-- ----------------------------
DROP TABLE IF EXISTS `user`;
CREATE TABLE `user` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(255) NOT NULL,
  `password` varchar(255) NOT NULL,
  `updateTime` datetime DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=10 DEFAULT CHARSET=utf8;

-- ----------------------------
-- Records of user
-- ----------------------------
INSERT INTO `user` VALUES (‘1‘, ‘张三‘, ‘abc‘, ‘2016-10-21 10:10:58‘);
INSERT INTO `user` VALUES (‘2‘, ‘李四‘, ‘def‘, ‘2016-10-21 10:10:58‘);
INSERT INTO `user` VALUES (‘3‘, ‘王五‘, ‘ghi‘, ‘2016-10-21 10:10:58‘);
INSERT INTO `user` VALUES (‘4‘, ‘赵六‘, ‘jkl‘, ‘2016-10-21 10:10:58‘);
INSERT INTO `user` VALUES (‘5‘, ‘田七‘, ‘mno‘, ‘2016-10-21 10:10:58‘);
INSERT INTO `user` VALUES (‘6‘, ‘老八‘, ‘pqr‘, ‘2016-10-21 10:10:58‘);
INSERT INTO `user` VALUES (‘7‘, ‘金九‘, ‘stu‘, ‘2016-10-21 10:10:58‘);
INSERT INTO `user` VALUES (‘8‘, ‘银十‘, ‘vwx‘, ‘2016-10-21 10:10:58‘);

2、数据源配置文件:新建文件:data-config.xml,文件内容如下

<dataConfig>
	<dataSource type="JdbcDataSource" driver="com.mysql.jdbc.Driver"
		url="jdbc:mysql://localhost/myuser" user="root" password="root"
		batchSize="100" />
	<document>
		<entity name="user" pk="id"
			query="SELECT id,name,password,updateTime FROM user"
			deltaImportQuery="SELECT id,name,password,updateTime FROM user where id=‘${dataimporter.delta.id}‘"
			deltaQuery="SELECT id FROM user where updateTime > ‘${dataimporter.last_index_time}‘">
			<field column="id" name="id" />
			<field column="name" name="name" />
			<field column="password" name="password" />
			<field column="updateTime" name="updateTime" />
		</entity>
	</document>
</dataConfig>

3、mysql驱动jar包和solr导入数据所需的jar包:mysql-connector-java-5.1.32.jar(这个大家都有) 和 solr-dataimporthandler-4.10.2.jar(这个在solr-4.10.2\dist目录下可以找到,复制出来一个即可)

====================================================================================

准备工作完成之后就可以进行配置和操作了。

步骤一:将刚才准备的那两个jar包复制到apache-tomcat-7.0.72\webapps\solr\WEB-INF\lib目录下。


步骤二:将准备的data-config.xml文件复制到solrhome\simple\conf目录下,和schema.xml同一目录。


步骤三:在solrhome\simple\conf目录下找到solrconfig.xml文件,为该文件添加如下内容:

 <requestHandler name="/dataimport" 
 class="org.apache.solr.handler.dataimport.DataImportHandler">
	<lst name="defaults">
	     <str name="config">data-config.xml</str>
	</lst>
  </requestHandler>

步骤四:在solrhome\simple\conf目录下找到schema.xml文件,打开并修改如下:

<?xml version="1.0" encoding="UTF-8" ?>
<schema name="example" version="1.5">
	<!--定义type类型-->
  <types>
		<fieldType name="string" class="solr.StrField"
			sortMissingLast="true" />	
		<fieldType name="long" class="solr.TrieLongField"
			precisionStep="0" positionIncrementGap="0"/>			
		<fieldType name="int" class="solr.TrieIntField"
			precisionStep="0" positionIncrementGap="0" />
		<fieldType name="date" class="solr.TrieDateField"
			precisionStep="8" positionIncrementGap="0" />
		<fieldType name="text_ik" class="solr.TextField">
			<analyzer class="org.wltea.analyzer.lucene.IKAnalyzer" />
		</fieldType>
  </types>
  <!--定义字段-->
	<fields>
		<field name="_version_" type="long" indexed="true" stored="true" />
		<field name="_root_" type="string" indexed="true" stored="false" />
		<field name="id" type="int" indexed="true" stored="true"
			required="true" multiValued="false" />
		<!--注意:这里的field中的name要和data-config.xml中的name对应-->
		<!--字段为name的type类型可以是string-->
		<field name="name" type="text_ik" indexed="true" stored="true" />
		<field name="password" type="string" indexed="true" stored="true" />
		<field name="updateTime" type="date" indexed="true" stored="true" />
	</fields>
	<uniqueKey>id</uniqueKey>
	<solrQueryParser defaultOperator="AND" />
</schema>

步骤四:启动tomcat,浏览器访问:locahost:8080/solr 原来的simple中数没有任何数据的。

技术分享


步骤五:导入mysql数据到solr中


技术分享

再次查看数据,如果显示如下,那么恭喜你,数据导入成功!

技术分享



=====================================================================================

如果想删除solr中导入的数据该如何操作,以上图就……了然技术分享

技术分享xml命令:

<delete><query>*:*</query></delete>
<commit/>


本文出自 “Simple Life” 博客,请务必保留此出处http://simplelife.blog.51cto.com/9954761/1864154

以上是关于(solr系列:四)将mysql数据库中的数据导入到solr中的主要内容,如果未能解决你的问题,请参考以下文章

solr搜索之mysql导入数据到solr

solr 数据导入

Mysql数据导入SolrCloud

mysql中哪些表的列应声明为solr文档中的实体字段?

php操作solr7.5通过mysql导入的数据

Solr-2