工具DataX

Posted 2021-09-13 一曲长歌一剑天涯

参考资料
https://github.com/alibaba/Da...
mysqlwriter
DataX-MysqlWriter 插件文档

1. 简介

DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台，实现包括 MySQL、SQL Server、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。

2. 安装

2.1 linux 下安装jdk并且配置环境变量

https://blog.csdn.net/xiaogua...

2.2 linux 下安装python2.7并且配置环境变量

https://www.python.org/downlo...

2.3 安装DataX

DataX下载地址

下载后解压至本地某个目录，进入bin目录，即可运行同步作业：

$ cd  {YOUR_DATAX_HOME}/bin
$ python datax.py {YOUR_JOB.json}

自检脚本：

 python {YOUR_DATAX_HOME}/bin/datax.py {YOUR_DATAX_HOME}/job/job.json

3. sql server 同步到mysql

主要配置{YOUR_DATAX_HOME}/job/job.json下的json文件

{
    "job": {
        "setting": {
            "speed": {
                "byte":10485760
            },
            "errorLimit": {
                "record": 0,
                "percentage": 0.02
            }
        },
        "content": [
            {
                "reader": {
                    "name": "sqlserverreader",
                    "parameter": {
                        "username": "sa",
                        "password": "123456", 
                         "connection": [
                            {
                                "jdbcUrl": [
                                  "jdbc:sqlserver://10.0.201.255:1433;database=wzz"
                                ],
                                "querySql": [
                                  "SELECT userid,name,age FROM dbo.users"
                                ]
                            }
                        ]
                    }
                },
                "writer": {
                    "name": "mysqlwriter",
                    "parameter": {
                        "username": "lambdacal",
                        "password": "123456",
                        "column": [
                              "userid",
                              "name",
                              "age"
                            ],
                        "connection": [
                          {
                            "jdbcUrl": "jdbc:mysql://10.0.0.0:3306/wzz_db?charset=utf8",
                            "table": [
                                "users"
                            ]
                            
                          }
                        ]
                    }
                }
            }
        ]
    }
}

执行

  python ./datax/bin/datax.py ./datax/job/job.json

4. json文件写法

jdbcUrl

描述：目的数据库的 JDBC 连接信息。作业运行时，DataX 会在你提供的 jdbcUrl 后面追加如下属性：yearIsDateType=false&zeroDateTimeBehavior=convertToNull&rewriteBatchedStatements=true

注意：1、在一个数据库上只能配置一个 jdbcUrl 值。这与 MysqlReader 支持多个备库探测不同，因为此处不支持同一个数据库存在多个主库的情况(双主导入数据情况)
          2、jdbcUrl按照Mysql官方规范，并可以填写连接附加控制信息，比如想指定连接编码为 gbk ，则在 jdbcUrl 后面追加属性 useUnicode=true&characterEncoding=gbk。具体请参看 Mysql官方文档或者咨询对应 DBA。
必选：是

默认值：无

username

描述：目的数据库的用户名

必选：是

默认值：无

password

描述：目的数据库的密码

必选：是

默认值：无

table

描述：目的表的表名称。支持写入一个或者多个表。当配置为多张表时，必须确保所有表结构保持一致。

注意：table 和 jdbcUrl 必须包含在 connection 配置单元中
必选：是

默认值：无

column

描述：目的表需要写入数据的字段,字段之间用英文逗号分隔。例如: "column": ["id","name","age"]。如果要依次写入全部列，使用表示, 例如: "column": [""]。

**column配置项必须指定，不能留空！**

     注意：1、我们强烈不推荐你这样配置，因为当你目的表字段个数、类型等有改动时，你的任务可能运行不正确或者失败
          2、 column 不能配置任何常量值
必选：是

默认值：否

session

描述: DataX在获取Mysql连接时，执行session指定的SQL语句，修改当前connection session属性

必须: 否

默认值: 空

preSql

描述：写入数据到目的表前，会先执行这里的标准语句。如果 Sql 中有你需要操作到的表名称，请使用 @table 表示，这样在实际执行 Sql 语句时，会对变量按照实际表名称进行替换。比如你的任务是要写入到目的端的100个同构分表(表名称为:datax_00,datax01, ... datax_98,datax_99)，并且你希望导入数据前，先对表中数据进行删除操作，那么你可以这样配置："preSql":["delete from 表名"]，效果是：在执行到每个表写入数据前，会先执行对应的 delete from 对应表名称

必选：否

默认值：无

postSql

描述：写入数据到目的表后，会执行这里的标准语句。（原理同 preSql ）

必选：否

默认值：无

writeMode

描述：控制写入数据到目标表采用 insert into 或者 replace into 或者 ON DUPLICATE KEY UPDATE 语句

必选：是

所有选项：insert/replace/update

默认值：insert

batchSize

描述：一次性批量提交的记录数大小，该值可以极大减少DataX与Mysql的网络交互次数，并提升整体吞吐量。但是该值设置过大可能会造成DataX运行进程OOM情况。

必选：否

默认值：1024