多服务端实现配置文件实时同步 --lsync+rsync

Posted 尚书左仆射

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了多服务端实现配置文件实时同步 --lsync+rsync相关的知识,希望对你有一定的参考价值。

很多企业需要多台服务器提供某个服务已经司空见惯了,当我们需要修改某个配置文件的时候,为了统一所有服务器上的配置,就需要文件同步的功能。不然一个个服务器去拷贝的话,一方面比较麻烦,另一方面也容易产生遗漏等问题。

rsync是linux系统下的数据镜像备份工具。使用快速增量备份工具Remote Sync可以远程同步,支持本地复制,或者与其他SSH、rsync主机同步。

lsync 是lua语言封装了 inotify 和 rsync 工具,采用了 Linux 内核(2.6.13 及以后)里的 inotify 触发机制,然后通过rsync去差异同步,达到实时的效果。

准备环境

系统环境: Centos 7.6

主(master): 192.168.0.64         目录:/root/test_back

备(slave):  192.168.0.183        目录:/root/sync_back

 

备份主机操作

1. 安装rsync

yum -y install xinetd rsync

2. 开启rsync守护进程

[root@slave ~]# vim /etc/xinetd.d/rsync

service rsync

        disable = no
        flags           = IPv4
        socket_type     = stream
        wait            = no
        user            = root
        server          = /usr/bin/rsync
        server_args     = --daemon
        log_on_failure  += USERID

3. 修改后启动服务并添加开机自启动

[root@slave ~]# service xinetd start

[root@slave ~]# systemctl enable xinetd.service

4. 配置同步存储路径

[root@slave ~]# vim /etc/rsyncd.conf

[backup]
path = /root/sync_back
hosts allow = 192.168.0.64
hosts deny = *
list = true
uid = root
gid = root
read only = false

5. 以daemon模式启动rsync

[root@slave ~]# /usr/bin/rsync  --daemon

源主机操作

1. 新增lsync 源,并安装(默认没有)

[root]# wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo

[root]# yum install lsyncd rsync

2. 开启 lsyncd 配置文件

[root@master ~]# vim /etc/sysconfig/lsyncd

# Keep the space there for systemd. Don't nest variables without
# changing the systemd service file to use: /usr/bin/sh -c 'eval XXXX'
#
LSYNCD_OPTIONS="-pidfile /var/run/lsyncd.pid /etc/lsyncd.conf"   ##(把#去掉)
#LSYNCD_OPTIONS=" "
#LSYNCD_USER=""

3. 增加 lsyncd 主配置

[root@master ~]# vim /etc/lsyncd.conf

settings 
   --pidfile = "/var/run/lsyncd.pid",
   --nodaemon   = false,
   inotifyMode = "CloseWrite",
   maxProcesses = 8,
   statusFile = "/tmp/lsyncd.status",
   statusInterval = 1,
   logfile = "/var/log/lsyncd/lsyncd.log"




sync 
    default.rsync,
    source    = "/root/test_back",
    target    = "192.168.0.183::backup",
    delete="running",
    excludeFrom = "/etc/rsync_exclude.lst",
    delay = 5,
    init = false,
    rsync     = 
        binary = "/usr/bin/rsync",
        perms = true,
        acls = true,
        xattrs = true,
        links = true,
        quiet = true,
        archive = true,
        compress = true,
        verbose   = true,
        --password_file = "/etc/rsync.pwd",
        _extra    = "--bwlimit=200"
        
    

lsyncd.conf参数配置详解:

settings
里面是全局设置,--开头表示注释,下面是几个常用选项说明:
logfile 定义日志文件
stausFile 定义状态文件
nodaemon=true 表示不启用守护模式,默认
statusInterval 将lsyncd的状态写入上面的statusFile的间隔,默认10秒
inotifyMode 指定inotify监控的事件,默认是CloseWrite,还可以是Modify或CloseWrite or Modify
maxProcesses 同步进程的最大个数。假如同时有20个文件需要同步,而maxProcesses = 8,则最大能看到有8个rysnc进程
maxDelays 累计到多少所监控的事件激活一次同步,即使后面的delay延迟时间还未到
sync

里面是定义同步参数,可以继续使用maxDelays来重写settings的全局变量。一般第一个参数指定lsyncd以什么模式运行:rsync、rsyncssh、direct三种模式:

default.rsync :本地目录间同步,使用rsync,也可以达到使用ssh形式的远程rsync效果,或daemon方式连接远程rsyncd进程;
default.direct :本地目录间同步,使用cp、rm等命令完成差异文件备份;
default.rsyncssh :同步到远程主机目录,rsync的ssh模式,需要使用key来认证

source 同步的源目录,使用绝对路径。

target 定义目的地址.对应不同的模式有几种写法:
/tmp/dest :本地目录同步,可用于direct和rsync模式
192.168.88.133:/tmp/dest :同步到远程服务器目录,可用于rsync和rsyncssh模式,拼接的命令类似于/usr/bin/rsync -ltsd --delete --include-from=- --exclude=* SOURCE TARGET,剩下的就是rsync的内容了,比如指定username,免密码同步
192.168.88.133::module :同步到远程服务器目录,用于rsync模式
三种模式的示例会在后面给出。

init 这是一个优化选项,当init = false,只同步进程启动以后发生改动事件的文件,原有的目录即使有差异也不会同步。默认是true

delay 累计事件,等待rsync同步延时时间,默认15秒(最大累计到1000个不可合并的事件)。也就是15s内监控目录下发生的改动,会累积到一次rsync同步,避免过于频繁的同步。(可合并的意思是,15s内两次修改了同一文件,最后只同步最新的文件)

excludeFrom 排除选项,后面指定排除的列表文件,如excludeFrom = "/etc/lsyncd.exclude",如果是简单的排除,可以使用exclude = LIST。
这里的排除规则写法与原生rsync有点不同,更为简单:
监控路径里的任何部分匹配到一个文本,都会被排除,例如/bin/foo/bar可以匹配规则foo
如果规则以斜线/开头,则从头开始要匹配全部
如果规则以/结尾,则要匹配监控路径的末尾
?匹配任何字符,但不包括/
*匹配0或多个字符,但不包括/
**匹配0或多个字符,可以是/
delete 为了保持target与souce完全同步,Lsyncd默认会delete = true来允许同步删除。它除了false,还有startup、running值,请参考 Lsyncd 2.1.x ‖ Layer 4 Config ‖ Default Behavior。
rsync

(提示一下,delete和exclude本来都是rsync的选项,上面是配置在sync中的,我想这样做的原因是为了减少rsync的开销)

bwlimit 限速,单位kb/s,与rsync相同(这么重要的选项在文档里竟然没有标出)
compress 压缩传输默认为true。在带宽与cpu负载之间权衡,本地目录同步可以考虑把它设为false
perms 默认保留文件权限。
其它rsync的选项
其它还有rsyncssh模式独有的配置项,如host、targetdir、rsync_path、password_file,见后文示例。rsyncOps="-avz","--delete"这样的写法在2.1.*版本已经不支持。

lsyncd.conf可以有多个sync,各自的source,各自的target,各自的模式,互不影响。

4. 将需要过滤的目录或文件添加到 过滤配置文件列表里

[root@master ~]# vim /etc/rsync_exclude.lst

5. 未开启lsyncd前先验一下 rsync 功能是否可正常同步

[root@master ~]# rsync -avz --delete /root/test_back/ 192.168.0.183::backup

查看对应备份服务器上已经有对应的info.txt文件了,cat命令查看内容相同。

6. 启动 lsyncd 服务

[root@master ~]# lsyncd -pidfile /var/run/lsyncd.pid /etc/lsyncd.conf

在主服务器上修改info.txt文件内容,再去备份服务器查看,是否已经触发了数据同步。

--查看启动情况

[root@master ~]# ps xf |grep lsync

--查看运行状态

[root@master ~]# /etc/init.d/lsyncd status

 

参考:https://myfirstwon.com/lsync_rsync/

 

以上是关于多服务端实现配置文件实时同步 --lsync+rsync的主要内容,如果未能解决你的问题,请参考以下文章

Rsync+lsync实现触发式实时同步

lsync目录文件实时同步工具

sersync/lsyncd实时同步

实时同步lsyncd

CentOS 7.2 部署Rsync + Lsyncd服务实现文件实时同步/备份

centos6.6配置rsync+sersync实现实时同步分布式多客户端分发同步