centos7下部署rsync+innotify实现数据同步

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了centos7下部署rsync+innotify实现数据同步相关的知识,希望对你有一定的参考价值。

一、文档目的
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足。
首先,rsync在同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的,并且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。
其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。
基于以上两种情况,可以使用rsync+inotify的组合来解决,可以实现数据的实时同步
二、环境准备
2.1 操作系统
两台虚拟机,系统均为centos7
源服务器:10.5.96.41 作为rsync的客户端,部署rsync+inotify
目标服务器:10.5.96.13 作为rsync的服务端,只安装rsync即可
2.2关闭防火墙和selinux
关闭防火墙

# systemctl stop firewalld
# systemctl disable firewalld

关闭selinux

# sed -i ‘/^SELINUX=/c SELINUX=disabled‘ /etc/sysconfig/selinux

重启生效
2.3 实现目标
将源服务器上的/app目录实时同步到目标服务器的/app上
三、目标服务器部署
3.1 安装rsync
centos7.4自带rsync软件

# rpm -qa|grep rsync
rsync-3.0.9-18.el7.x86_64

若检测到未安装,可通过yum安装

# yum install -y rsync

3.2 配置rsync

# vim /etc/rsyncd.conf         
log file=/var/log/rsuncd.log //指定日志文件名称,rsync启动后会自动创建该文件
pid file=/var/run/rsyncd.pid    //pid的文件位置
lock file=/var/run/rysnc.lock   //支持max connections参数的锁文件
secrets file=/etc/rsync.pass   //用户认证文件,保存用户名及密码
motd file=/etc/rsyncd.motd    //rsync启动时保存欢迎信息的文件

[app]                                        //同步目录名称描述,建议与同步目录同名
path=/app                                          //数据目录位置
comment=/app                        
uid=root                                   //设置rsync运行权限为root
gid=root                                   //设置rsync运行权限为root
port=873                                  //默认端口号
use chroot=no      //默认为true,表示不同步软连接文件,改为no表示同步软连接
read only=no                                   //设置rsync服务端为读写文件
list=no                                     //不显示rsync服务端的资源列表
max connections=200            //最大连接数
timeout=600                           //超时时间
auth users=root                            //执行数据同步的用户名,多个用逗号隔开
hosts allow=10.5.96.41            //允许进行同步的IP地址,多个IP用都好隔开

若有多个同步目录可按需添加

3.3 创建用户认证文件

# vim /etc/rsync.pass
root:[email protected]

格式: username:password 一行一个用户信息
3.4 权限设置
分别将配置文件和用户认证文件权限修改为600

# chmod 600 /etc/rsyncd.conf 
# chmod 600 /etc/rsync.pass

3.5启动服务

# systemctl start rsyncd
# systemctl enable rsyncd
netstat -antp|grep :873
tcp  0  0 0.0.0.0:873   0.0.0.0:*      LISTEN      3386/rsync

至此,目标服务器上rsync部署成功
四、源服务器部署
4.1 安装rsync
centos7.4自带rsync软件

# rpm -qa|grep rsync
rsync-3.0.9-18.el7.x86_64

若检测到未安装,可通过yum安装

# yum install -y rsync

4.2 启动服务

# systemctl start rsyncd
# systemctl enable rsyncd

4.3 创建用户认证文件

# vim /etc/rsync.pass     //该文件只保存目标服务器上的认证密码
[email protected]
#chmod 600 /etc/rysnc.pass

4.4 验证数据同步
在源服务器的app目录下创建任意文件

# touch {a,b,c}.file
# ls /app/
a.file  b.file  c.file

通过运行rsync命令,将源服务器/app下的文件同步到目标服务器的/app下

# rsync -avH  --port=873  --progress  --delete /app/  [email protected]::app --password-file=/etc/rsync.pass

命令说明:
-a:递归传输文件,并保留文件所有属性
-v: 显示详细过程
-H: 保留硬链接
--progress:显示备份过程
--delete:同步时,会删除目的服务器中目录中源服务器中没有的文件
/app/: 源数据目录,最后一个/表示同步时只同步子文件及目录; 如果不加/,表示整个/testdir目录都会同步的目标服务器
[email protected]::app: root同步用户, 目标服务器中的目录只需要写目录名称即可
--password-file=/etc/rsync.pass: 指定密码文件

在目标服务器/app下查看是否出现创建的文件

# ls /app/
a.file  b.file  c.file

在目标服务器上可以查看到源服务器上创建的文件,表明同步成功
4.5 安装inotify
在源服务器上安装inotify,实时监测源目录的变化实现实时同步
通过源码编译来安装inotify

# yum install –y gcc*   
# tar zxf inotify-tools-3.14.tar.gz 
# cd inotify-tools-3.14/
# ./configure --prefix=/usr/local/inotify
# make && make install

4.6 配置inotify
1) 修改环境变量PATH

# vim /etc/profile
export PATH=$PATH:/usr/local/inotify/bin
# source /etc/profile

2) 导出inotify库文件

# echo "/usr/local/inotify/lib" > /etc/ld.so.conf.d/inotify.conf 
# ldconfig

3) 导出inotify头文件

# ln -s /usr/local/inotify/include/ /usr/include/inotify

4) 改inotify内核参数(默认inotify参数太小)

# vim /etc/sysctl.conf
fs.inotify.max_queued_events=9999999
fs.inotify.max_user_watches=99999999
fs.inotify.max_user_instances=65535

# sysctl –p      //使参数生效
fs.inotify.max_queued_events = 9999999
fs.inotify.max_user_watches = 99999999
fs.inotify.max_user_instances = 65535

4.7 编写脚本
创建脚本,根据inotify的监测事件,触发rsync同步

# vim rsync.sh
#!/bin/bash

srcdir=/app/
dstdir=app
excludedir=/usr/local/inotify/exclude.list
rsyncuser=root
rsyncpassdir=/etc/rsync.pass
dstip=10.5.96.13

/usr/local/inotify/bin/inotifywait -mrq --timefmt ‘%d/%m/%y %H:%M‘ --format ‘%T %w%f‘ -e modify,delete,create,attrib $src
dir | while read filedo
/usr/bin/rsync -vzrtopg --delete --progress $srcdir [email protected]$dstip::$dstdir --password-file=$rsyncpassdir
echo "${file} was rsynced" >> /var/log/rsync.log 2>&1
done

# chmod a+x rsync.sh

-a:递归
-v:打印详细过程
-p:保持文件属性
-g:文件所属组不变
-o:文件所属者不变
-l:软连接属性
-r:同步目录时的参数
-z:在传输期间压缩数据
手动执行脚本,并在源服务器的/app目录下创建任意文件,下图为脚本的执行结果,并且能在目标服务器上看到新建文件,至此脚本执行成功

五、自动实时同步
通过设置脚本开机自动运行,或者通过计划任务自动运行该脚本,即可实现自动实时同步
5.1 计划任务方式

#crontab -l
*/10 * * * * /scripts/rsync.sh &> /dev/null

5.2 设置脚本开机自启

# vim /etc/rc.d/rc.local 
/scripts/rsync.sh &> /dev/null

以上是关于centos7下部署rsync+innotify实现数据同步的主要内容,如果未能解决你的问题,请参考以下文章

CentOS7下部署rsync服务

#私藏项目实操分享# Linux开发环境搭建CentOs7之四Web服务器Nginx安装部署

#私藏项目实操分享# Linux开发环境搭建CentOs7之三应用服务器Tomcat安装部署

rsync 服务部署详解

Centos7.4 搭建rsync+inotify 实现数据同步

Centos7 下 配置 rsync 以及 rsync+inotify 实时同步