使用Kettle工具进行增量数据同步

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用Kettle工具进行增量数据同步相关的知识,希望对你有一定的参考价值。

参考技术A

增量同步的方式有很多种,我使用的是: 快照表 + 触发器
需求:

当主库库表发生增删改时,从库库表与主库库表数据保持一致。

环境:
1、mysql
2、kettle 7.1

思路:

1、在主库中,将需要同步的库表新建快照表,表结构一致。

2、在主库中,分别新增库表的增、删、改的触发器。

2、新建一个转换,该转换只针对一张表的增删改。

3、新建‘表输入’控件,查询主库的快照表

4、新建‘插入/更新’控件,插入数据到从库的库表,查询的关键字要求唯一。

5、新建‘删除’控件,将主库的快照表中的数据删除。

注意: 主库的库表,要新增针对增、删、改的三张表快照,三张表的步骤同上面的1 - 5 一致。

6、新建作业控件

7、配置发送邮件服务

8、完成

以上是关于使用Kettle工具进行增量数据同步的主要内容,如果未能解决你的问题,请参考以下文章

kettle利用excel文件增量同步一个库的数据(多表一次增量同步)

DATAX如何增量同步数据

使用Kettle多表数据增量导入详细文档

使用Kettle多表数据增量导入详细文档

使用Kettle多表数据增量导入详细文档

kettle数据同步方法