Elasticsearch的脚本化数据导入导出
Posted SHIHUC
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Elasticsearch的脚本化数据导入导出相关的知识,希望对你有一定的参考价值。
我用的ES的版本是2.4.1,由于没有相应的命令实现数据的导入和导出,就是像mysql的那种mysqldump类似的指令。
更苦逼的是,我们的生产和测试环境,还不能联网,连ES的第三方的插件都没有办法安装。。。
处于这种苦逼的境地,我只能通过脚本的方式实现数据的导入和导出了。
导出脚本,可以用我前面说的elasticdump,也可以用脚本实现。通常在自己的开发环境下可以搞定elasticdump的安装,但是测试环境或者生产环境,往往不会有这个条件,尤其在我当前所在的断网式网络安全策略下。
导入脚本,用python实现:
#! /usr/bin/env python # -*- coding: utf-8 -*- import json import urllib import httplib fp = open(‘weibao_es.json‘) cnt=0 try: #line = fp.readline() lines = fp.readlines() # 调用文件的 readlines()方法 conn = httplib.HTTPConnection("10.130.12.86",9200) print type(lines) for i in range(len(lines)): rawd = json.loads(lines[i]) src = rawd["_source"] uid = rawd["_id"] params = json.dumps(src) conn.request("POST","/robotkdb/weibao/"+uid, params) resp = conn.getresponse() print "i: %d, %s" % (i,resp.read().strip()) finally: fp.close()
效果能满足要求,有点笨,搞技术的人,各种招都能想到。。。
以上是关于Elasticsearch的脚本化数据导入导出的主要内容,如果未能解决你的问题,请参考以下文章
基于docker使用elasticsearch-dump,es数据导入导出
Elasticsearch的数据导出和导入操作(elasticdump工具),以及删除指定type的数据(delete-by-query插件)