Kettle--MySQL生产数据库千万亿级数据量迁移方案及性能优化
Posted 程序员超时空
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Kettle--MySQL生产数据库千万亿级数据量迁移方案及性能优化相关的知识,希望对你有一定的参考价值。
大家好,我是贾斯汀!
【实战前言】
(1)不管你是学生,还是已经工作了的小伙伴,可能你在过去、现在或者未来,会遇到这样的问题,公司/项目用的是
Oracle/DB2/mysql
等关系型数据库,因公司发展需求,需要完成旧数据库数据安全迁移到新数据库的重要使命,新旧数据库可能是同一种类型的数据库,也可能是不同类型的数据库,相同类型数据库还好,比如都是MySQL数据库,那么你主要只需要考虑如何将数据安全、高效的完成迁移就好,而不同类型的数据库,比如从DB2迁移数据到MySQL,这种情况就需要在进行数据迁移之前,先按照新的数据库MySQL的建表规范,正确完成数据表的重建工作~
(2)本文主要分享我个人在实际工作当中,==如何使用Kettle这款基于纯Java实现(意味着扩平台特性,也就是Windows/Linux等操作系统通用)的开源ETL数据挖掘工具,经过性能优化(性能是默认效率的5 ~ 10倍以上)之后,实现新旧数据库之间数据的安全高效迁移~
(3)我个人也是工作用到,一开始完成UAT测试环境模拟迁移DB2数
以上是关于Kettle--MySQL生产数据库千万亿级数据量迁移方案及性能优化的主要内容,如果未能解决你的问题,请参考以下文章
❤️Kettle--老板说:这套生产数据库千万亿级数据量迁移方案,学会就赚了❤️(工作学习必备,建议收藏)