MySQL数据库跨服务器数据同步

Posted 2021-12-19 hkronline-syncnavigator

1.背景介绍
最近公司项目要求与开源项目Zentao做数据对接，因为改动开源项目风险较大，采用将Zentao数据库的相关表与本地数据库同步的方案。由我测试方案的可行性。
mysql版本：5.7.20.
本地数据库A（作为Zentao数据库），本地数据库B，本地程序C；本地为Windows环境。

2.方案探索
方案1
项目经理的意思是在A中写触发器，表中数据变化时将ID发给C，由C在A中查询变化的数据，写入B。过程中需要安装mysql-udf-http插件（参考：https://www.2cto.com/database/201801/713571.html）。
但是经过查询发现问题：该插件只支持到MySQL5.5X并且只能在Linux环境安装，冲突，放弃该方案。

方案2
问了技术经理的想法：

在A中用触发器监控数据的变化，然后调用存储过程将数据推送给B ，用BDlink进行数据库跨库。

查询资料，DBlink是oracle进行跨库访问的方法，SQL Server 可以用linkServer。在mysql5.0版本以上，可以采用FEDERATED引擎（默认引擎为InnoDB）。（参考：https://blog.csdn.net/langkeziju/article/details/50462943）
使用：建表时指定引擎为FEDERATED 和远程数据库的表，即这条语句

ENGINE=FEDERATED CONNECTION=‘mysql://user:[email protected]:port/test1/test_table’;
如下：

CREATE TABLE federated_table (
id int(20) NOT NULL auto_increment,
name varchar(32) NOT NULL default ‘‘,
age varchar(4) NOT NULL default ‘0‘,
sts char(1) NOT NULL default ‘0‘,
office VARCHAR(64) NOT NULL default ‘0‘,
telephone VARCHAR(15) NOT NULL default ‘0‘,
PRIMARY KEY (id),
KEY name (name),
KEY age (age),
KEY sts (sts),
KEY telephone (telephone),
KEY office (office)

) ENGINE=FEDERATED CONNECTION=‘mysql://user:[email protected]:port/test1/test_table‘;
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
前提条件是可以访问远程数据库，配置好读写权限，mysql开启FEDERATED 引擎。
建完后本地数据与远程数据一样，进行curd操作都可同步。

个人理解：建立的连接是把远程数据映射到本地的表里面，数据实际还是存储在远程数据库上，只是开了一个本地读写的“客户端”。我在federated_table 写了触发器，在B中修改时正常运行，在A中修改数据时，B中表数据变化但并未触发。

既然通过FEDERATED 可以将数据同步过来，那么可以在B中建立A的映射。
因为映射表在程序C中并没有实际意义，需要将映射表的某些字段与B实际业务表的数据进行同步，可以采用 程序进行操作 或者 利用触发器和存储过程。

触发器示例：

show TRIGGERS ;#查看所有触发器
drop TRIGGER updateFromFed; #删除触发器，建立后需要删除才能修改

delimiter $$ #修改语句结束标志为$$
create TRIGGER insertFromFederated AFTER INSERT
on federated_table for each ROW
begin #状态=1执行插入操作
DECLARE de VARCHAR(128);
set de = CONCAT(IFNULL(new.name,‘‘),‘-‘,IFNULL(new.age,‘‘),‘-‘,IFNULL(new.office,‘‘));
if new.sts="1" THEN
INSERT into local1(id,name,description,sts)
values (new.id,new.name,de,new.sts);
INSERT into local2(id,name,office,sts)
values (new.id,de,new.office,new.sts);
END IF;
END $$
delimiter ;
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
参考：https://blog.csdn.net/qq_33556185/article/details/77745449

存储过程示例：

#mysql 下面的例子在把select into 的ID写死的时候设置参数值为空，但是在使用传进来的ID作为参数时设置参数值不为空。
show create procedure test;#查看
CALL test();#调用
drop procedure if exists test;#删除

delimiter $$
create PROCEDURE test()
begin
DECLARE id VARCHAR(32);
SET id=‘8302‘;
DECLARE v_name VARCHAR(128)
SELECT local2.name INTO v_name from local2 where id = 5;
SELECT id,v_name;
#INSERT into local2(id,name,office,sts) VALUES (id,des,‘办公室‘,‘8‘);
end $$
delimiter ;
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
参考：http://www.shouce.ren/api/view/a/11695

放弃方案2
在初期确定的是使用方案2，但是在与用户及DBA讨论的实话发现了新的问题：

1.FEDERATED 引擎可用，但是在目标服务器发生迁移的情况下需要重新修改服务器地址，重新建表，维护比较麻烦；
2.Zentao数据库的修改不受控制，能同步它的状态但是不能控制与B数据库的修改冲突。

3.最终确立
为了解决上面的问题2，与用户约定在同一时间只有一方进行修改，通过状态位控制。
为了解决问题1，决定采用kettle进行ETL操作，或者在本地程序C中直接写入A/B两个数据库，并通过定时器定时同步A中的数据。
由于采用kettle涉及后期产品运维的问题，比较倾向于使用后一种方法。