Rsync+Sersync实时数据同步

Posted

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Rsync+Sersync实时数据同步相关的知识，希望对你有一定的参考价值。

sersync实时数据同步

Rsync+Inotify-tools与Rsync+sersync这两种架构有什么区别？

1、Rsync+Inotify-tools

（1）：Inotify-tools只能记录下被监听的目录发生了变化（包括增加、删除、修改），并没有把具体是哪个文件或者哪个目录发生了变化记录下来；

（2）：rsync在同步的时候，并不知道具体是哪个文件或者哪个目录发生了变化，每次都是对整个目录进行同步，当数据量很大时，整个目录同步非常耗时（rsync要对整个目录遍历查找对比文件），因此，效率很低。

2、Rsync+sersync

（1）：sersync可以记录下被监听目录中发生变化的（包括增加、删除、修改）具体某一个文件或某一个目录的名字；

（2）：rsync在同步的时候，只同步发生变化的这个文件或者这个目录（每次发生变化的数据相对整个同步目录数据来说是很小的，rsync在遍历查找比对文件时，速度很快），因此，效率很高。

小结：当同步的目录数据量不大时，建议使用Rsync+Inotify-tools；当数据量很大（几百G甚至1T以上）、文件很多时，建议使用Rsync+sersync。


 

通过rsync知道，实际上sersync就是监控本地的数据写入或更新事件，然后，调用rsync客户端的命令，将写入或更新事件对应的文件通过rsync推送到目标服务器（例如：S1，S2）就这么简单


Sersync的服务器配置用前面的rsyncd.conf

在这之前rsync必须测试同步成功，后面sersync才可以成功


Sersync在 推送端 rsync 在接收端 

技术分享



一、下面部署sersync

sersync (推送端)

sersync2.5_32bit_binary_stable_final.tar.gz

tar -zxf sersync2.5_32bit_binary_stable_final.tar.gz

mv GNU-Linux-x86 /usr/local/sersync

[[email protected] sersync]# pwd

/usr/local/sersync

[[email protected] sersync]# ls

confxml.xml  sersync2

[[email protected] local]# tree sersync

sersync

|-- confxml.xml

`-- sersync2


创建sersync目录结构

mkdir /usr/local/sersync/conf 

mkdir /usr/local/sersync/bin

mkdir /usr/local/sersync/log


[[email protected] sersync]# pwd

/usr/local/sersync

[[email protected] sersync]# ls

bin  conf  confxml.xml  log  sersync2

[[email protected] sersync]# cp confxml.xml conf/

[[email protected] sersync]# cp sersync2 bin/

[[email protected] conf]# ls

confxml.xml

[[email protected] bin]# ls

sersync2



二、创建连接rsync的密码文件，配置rsync的时候已经配好了

三、配置confxml.xml


# cd /usr/local/sersync/conf

# vi confxml.xml


按照注释进行修改


-----------------------------

<?xml version="1.0" encoding="ISO-8859-1"?>

<head version="2.5">

   # 设置本地IP和端口

   <host hostip="localhost" port="8008"></host>


   # 开启DUBUG模式  

   <debug start="false"/>

   # 开启xfs文件系统

   <fileSystem xfs="false"/>

   # 同步时忽略推送的文件(正则表达式),默认关闭

   <filter start="false">

       <exclude expression="(.*)\.svn"></exclude>

       <exclude expression="(.*)\.gz"></exclude>

       <exclude expression="^info/*"></exclude>

       <exclude expression="^static/*"></exclude>

   </filter>

   <inotify>

   # 设置要监控的事件

       <delete start="true"/>

       <createFolder start="true"/>

       <createFile start="true"/>

       <closeWrite start="true"/>

       <moveFrom start="true"/>

       <moveTo start="true"/>

       <attrib start="true"/>

       <modify start="true"/>

</inotify>


   <sersync>

   # 本地同步的目录路径

       <localpath watch="/data">


   # 远程IP和rsync模块名  

           <remote ip="192.168.3.188" name="bier"/>  

           <!--<remote ip="192.168.3.39" name="tongbu"/>-->

           <!--<remote ip="192.168.3.40" name="tongbu"/>-->

       </localpath>

       <rsync>



   # rsync指令参数

           <commonParams params="-aruzP"/>

   # rsync同步认证

           <authstart="true" users="rsync_backup" passwordfile="/etc/rsync.password"/>



   # 设置rsync远程服务端口，远程非默认端口则需打开自定义

           <userDefinedPort start="false" port="874"/><!-- port=874 -->

   # 设置超时时间

           <timeout start="true" time="100"/><!-- timeout=100 -->

   # 设置rsync+ssh加密传输模式,默认关闭，开启需设置SSH加密证书

           <ssh start="false"/>

       </rsync>

    # sersync传输失败日志脚本路径，每隔60会重新执行该脚本，执行完毕会自动清空。

       <failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->




    # 设置rsync+crontab定时传输，默认关闭

       <crontab start="false" schedule="600"><!--600mins-->

           <crontabfilter start="false">

               <exclude expression="*.php"></exclude>

               <exclude expression="info/*"></exclude>

           </crontabfilter>

       </crontab>

   # 设置sersync传输后调用name指定的插件脚本，默认关闭

       <plugin start="false" name="command"/>

   </sersync>



   # 插件脚本范例

   <plugin name="command">

       <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->

       <filter start="false">

           <include expression="(.*)\.php"/>

           <include expression="(.*)\.sh"/>

       </filter>

   </plugin>

   # 插件脚本范例

   <plugin name="socket">

       <localpath watch="/opt/tongbu">

           <deshost ip="192.168.138.20" port="8009"/>

       </localpath>

   </plugin>

   <plugin name="refreshCDN">

       <localpath watch="/data0/htdocs/cms.xoyo.com/site/">

           <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>

           <sendurl base="http://pic.xoyo.com/cms"/>

           <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>

       </localpath>

   </plugin>

</head>



3.创建推送端sersync同步目录

# mkdir /data


4.设置环境变量：

# echo ‘export PATH=$PATH:/usr/local/sersync/bin’>> /etc/profile

# source /etc/profile


5.启动sersync

# sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml

注：重启操作如下：

# killall sersync2 && sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml


6.设置开机启动

# echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.local


验证：


(推送端)

# cd /data

# touch 1 2 3 4 5

# echo "test sersync" > 1


(接收端)

# cd /data

# ls

--------------------

1  2  3  4  5

--------------------

# cat 1

--------------------

test sersync



本文出自 “比尔linux运维笔记” 博客，请务必保留此出处http://chenshoubiao.blog.51cto.com/6159058/1881354

以上是关于Rsync+Sersync实时数据同步的主要内容，如果未能解决你的问题，请参考以下文章

Linux Debian8 Rsync+Sersync实现数据实时同步

Linux三阶段之四：实时同步（inotify+rsync,sersync+rsync）

[转帖]sersync基于rsync+inotify实现数据实时同步

Linux下Rsync+sersync实现数据实时同步

Rsync+Sersync实时同步数据目录

centos系统rsync+sersync实现数据实时同步