Kettle_Spoon如何将MySQL数据抽取到ES

Posted 猿方

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Kettle_Spoon如何将MySQL数据抽取到ES相关的知识,希望对你有一定的参考价值。

一键三连 点赞评论加关注!

欢迎各位江湖大佬共同探讨技术!!!

1. 启动Spoon后在欢迎页面点击左上角+号,进行添加一个转换(这里转换相当于一个线程,我们可以根据需求在这个转换里进行数据操作)

2.添加一个转换后点击左侧主对象树、右键DB连接、点击新建、这步的目的是创建数据库连接,连接我们想要连接的数据库,以便我们后续抽取用。

点击新建后会出现一个数据库连接窗口,连接类型选择mysql,然后根据顺序将数据库信息填写好后点击“测试” 出现连接成功提示表示我们连接成功了!(③连接名称可根据数据库起名,避免以后连接多个数据分不清楚)

 3. 在转换1里点击核心对象里的输入文件夹打开并找到表输入组件核心对象所有组件在转换里我们都可以使用,部分组件使用说明可参考:组件使用说明 ),双击或鼠标左键拖到右侧转换1空白处即可,表输入组件可根据查询语句查询数据库数据!

4. 将表输入组件拖入后双击打开,打开后首先选择数据库连接(连接我们要查询的数据库),并给步骤起个名字,根据需求编写好MySQL查询语句,所有步骤完成后点击确定即可,也可以点击“预览”进行验证此步骤是否有问题,没问题的话就会有数据显示,说明数据可以正常查询出来。

 

5. 核心对象--->批量加载里找到“Elasticsearch bulk insert”组件(Elasticsearch批量插入)拖入到此转换,按住Shift键后鼠标左键单击前面组件进行拖住拽,将两个步骤连接。

6. 配置Elasticsearch bulk insert,连接es目标索引

7. 启动转换,抽取

最后es索引数据出来了!!!

以上是关于Kettle_Spoon如何将MySQL数据抽取到ES的主要内容,如果未能解决你的问题,请参考以下文章

Spark抽取mysql中的数据到Hive中

Spark抽取mysql中的数据到Hive中

Spark抽取mysql中的数据到Hive中

利用Flume将MySQL表数据准实时抽取到HDFS

MySQL随机抽取数据的性能问题

大数据常用数据抽取