mysql准实时同步数据到Elasticsearch
Posted mylover2
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了mysql准实时同步数据到Elasticsearch相关的知识,希望对你有一定的参考价值。
4. 安装JDK8、mysql5.6驱动以及Logstash -6.0.0
ECS中分别安装JDK8、MySQL5.6驱动以及Logstash -6.0.0。如下图:
安装Logstash input、output插件,此案例数据输入是MySQL,输出是ES,so相应的插件应该是logstash-input-jdbc和logstash-output-elasticsearch。
安装插件的命令分别是(在Logstash主目录下运行):
https://blog.51cto.com/433266/bin/logstash-plugin install logstash-input-jdbc
https://blog.51cto.com/433266/bin/logstash-plugin install logstash-output-elasticsearch
5. MySQL中创建数据库、测试的数据表
如下图所示
建表语句(其中updatetime用于记录数据更新时间戳):
6. 配置Logstash作业文件
ECS中创建Logstash作业配置文件,文件名为logstash-mysql-es.conf。
配置文件内容:
其中红色字体部分要做相应的替换,input中的 schedule参数用于配置数据刷新频率,schedule=> " *"表示每分钟刷新一次,这也是MySQL数据同步的最小频率。Logstash支持丰富的参数配置,详情请参考Elasitc官网文档。
7. 同步数据
ECS中指定参数启动Logstash服务,执行命令:
之后每分钟会去MySQL中刷新数据
RDS中写入几条测试数据,脚本如下:
由于之前在Logstash配置文件中,output部分既配置了输出到ES,同时也输出到控制台。所以当检测到MySQL中有更新时,数据会输出到控制台中,如下图:
此时说明MySQL中的数据更新已经被Logstash推送到ES服务。通过在ECS执行命令检查ES服务中的索引是否被创建。执行命令:
红框内的employee即我们在配置文件中指定的索引名,说明ES中的索引已经被成功创建。
8. 结果验证
通过关键字检索ES服务,验证写入Mysql的数据是否被成功索引到ES并被检索到,执行命令通过关键字“Smith “来检索数据:
至此,MySQL中的数据已经被成功索引到Elasticsearch,并也可以被准实时的检索到。
以上是关于mysql准实时同步数据到Elasticsearch的主要内容,如果未能解决你的问题,请参考以下文章