Elasticsearch的脚本化数据导入导出

Posted SHIHUC

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Elasticsearch的脚本化数据导入导出相关的知识,希望对你有一定的参考价值。

我用的ES的版本是2.4.1,由于没有相应的命令实现数据的导入和导出,就是像mysql的那种mysqldump类似的指令。

 

更苦逼的是,我们的生产和测试环境,还不能联网,连ES的第三方的插件都没有办法安装。。。

 

处于这种苦逼的境地,我只能通过脚本的方式实现数据的导入和导出了。

 

导出脚本,可以用我前面说的elasticdump,也可以用脚本实现。通常在自己的开发环境下可以搞定elasticdump的安装,但是测试环境或者生产环境,往往不会有这个条件,尤其在我当前所在的断网式网络安全策略下。

 

导入脚本,用python实现:

#! /usr/bin/env python
# -*- coding: utf-8 -*-

import json
import urllib
import httplib

fp = open(weibao_es.json)
cnt=0
try:
    #line = fp.readline()
    lines = fp.readlines()             # 调用文件的 readlines()方法
    conn = httplib.HTTPConnection("10.130.12.86",9200)
    print type(lines)
    for i in range(len(lines)):
        rawd = json.loads(lines[i])
        src = rawd["_source"]
        uid = rawd["_id"]
        params = json.dumps(src)
        conn.request("POST","/robotkdb/weibao/"+uid, params)
        resp = conn.getresponse()
        print "i: %d, %s" % (i,resp.read().strip())
finally:
     fp.close()

 

效果能满足要求,有点笨,搞技术的人,各种招都能想到。。。

 

以上是关于Elasticsearch的脚本化数据导入导出的主要内容,如果未能解决你的问题,请参考以下文章

elasticSearch数据的导入和导出

005_elasticsearch的数据导入导出

elasticsearch5数据导入导出

基于docker使用elasticsearch-dump,es数据导入导出

怎样从数据库中读出数据,然后导入新的数据库?

Elasticsearch的数据导出和导入操作(elasticdump工具),以及删除指定type的数据(delete-by-query插件)