rsync同步（winxdows到linux/linux到linxu同步）

Posted 2020-08-23 不积小流，无以成江海！

1.什么是rsync?

-rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync，远程同步 支持本地复制，或者与其他SSH、rsync主机同步。

-第一次同步时rsync会复制全部内容，但在下一次只传输修改过的文件。rsync在传输数据的过程中可以实行压缩及解压缩操作，因此可以使用更少的带宽。

-安全：可以使用scp、ssh等方式来传输文件，当然也可以通过直接的socket连接。

-支持匿名传输，以方便进行网站镜象。

2.服务器端和客户端

1）.一对一，客户端和服务端和都可以相互同步，可以不区分，一般是服务端同步到客户端。

2）.一对多，一个服务端，多个客户端，客户端从服务端拷贝数据，保持数据一致。

3.windows（服务端配置）

首先要下载windows版的rsync

　　rsync分为服务器端和客户端，以A(服务器端)，B(客户端)2台服务器为例 A的IP地址为192.168.1.111 B的ip地址为192.168.1.123

 

　　1，先配置服务器端，在服务器上安装cwRsyncServer_4.0.5_Installer.exe，安装的时候路径不要去改，全部用默认路径，如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉，安装过程中rsync会自动建立一个叫做rsync的用户名，并且提示你输入这个用户的密码，这里很关键，这个密码一定要是你系统用户即adminstrator的密码，如果怕出错就不用管他直接点下一步，值得完成安装，这时打开你的服务检查下有没有一个RsyncServer的服务，如果没有的话就是那个用户密码的地方弄错了，建议卸载重新安装，如果有那就OK，最后检查下你的防火墙是否打开873端口

 

 

 

　　上面的用户名和密码就是下面客户端所用到的账户，密码，以上就是服务器端的安装了，然后就是配置，找到你rsync的安装目录点击进去里面会有个rsyncd.conf的配置文件，用记事本的方式打开他，在文件最前面追加"uid = 0" "gid = 0" 2行，然后修改 "[]" 的内容，这里小编直接上图，有图更容易看懂

 

 

　　怎么样，从图上来看很清楚把，然后在在服务里面找到 "RsyncServer" 修改为"自动开启" 并且将服务"启动".

 

　　2，接下来是客户端，首先客户端先安装cwRsync_4.0.5_Install.exe，同样安装的时候路径不要去改，全部用默认路径，如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉，安装完成后，新建一个txt文本文档，这里小编还是上图来说明

 

 

　　--timeout参数，这个是一个超时设定，在服务器忙或者网络忙的时候rsync会出现同步到一半不动的情况，用了这个参数的话就可以设定他在你指定的时间内rsync没有进行操作则取消命令，这个在多台服务器同步的时候非常有用

 

　　--exclude参数，排除你指定某个文件或者目录，这个不用多介绍了

 

　　--delete参数，这个的意思是服务器端与客户端保持完全一致，客户段与服务端不同的文件客户端会进行删除操作，这里小编建议新手不要加上这个参数，如果服务端误操作删掉了文件那你所有的机器都会删掉这个文件，就会很麻烦，所以先可以不加这个参数

 

4.linux（服务端）

4.1 安装Rsync

[root@localhost /]# cd /opt/install

[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz

[root@localhost install]# cd rsync-3.0.7

[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync

[root@localhost rsync-3.0.7]# make

[root@localhost rsync-3.0.7]# make install

安装完成后，在/opt/software/rsync中包含了安装的所有文件

4.2 修改配置文件

在/opt/software/rsync目录中增加conf目录，然后在此目录中增加rsyncd.conf文件，文件内容如下：

 

uid = 0

gid = 0

 

#监听端口(缺省为873，可以不用修改)

port = 52326

 

# 允许连接的客户端IP

#hosts allow=192.168.0.0/24    

 

# 拒绝访问的客户端IP             

#hosts deny=0.0.0.0/32                      

 

# 不使用chroot

use chroot=no   

 

# 最大连接数为100                            

max connections=100                         

 

# 欢迎信息文件名称和存放位置（此文件没有，可以自行添加）

#motd file=/opt/software/rsync/conf/rsyncd.motd      

 

# 指定rsync的pid文件          

pid file=/var/run/rsyncd.pid  

 

# 指定支持max connections参数的锁文件，默认值是/var/run/rsyncd.lock              

lock file=/var/run/rsync.lock        

 

# 指定rsync的日志文件，而不将日志发送给syslog       

log file=/var/log/rsyncd.log                

 

#下面就是每个需要同步的模块的配置

 

#需要同步的模块名称，在客户端同步时需要指定，根据实际需要进行修改

[main]            

 

# 需要同步的目录(根据实际情况进行修改，此处只是示例)                     

path=/srv/www/app/cms/main                          

comment=rsync files

 

# 忽略无关的IO错误

ignore errors     

 

# 只读                            

read only=yes  

 

# 不允许列文件                             

list=no              

 

# 认证的用户名，如果没有这行，则表明是匿名,用个用户用,分隔                       

#auth users=thinkive     

 

# 认证用户文件名                    

secrets file=/opt/software/rsync/conf/rsyncd.pas                

 

#同步的第二个模块名称，在客户端同步时需要指定，根据实际需要进行修改

[upload]            

 

# 需要同步的目录(根据实际情况进行修改，此处只是示例)                     

path=/srv/www/app/cms/upload                          

comment=rsync files

 

# 忽略无关的IO错误

ignore errors     

 

# 只读                            

read only=yes  

 

# 不允许列文件                             

list=no              

 

# 认证的用户名，如果没有这行，则表明是匿名,用个用户用,分隔                       

#auth users=thinkive     

 

# 认证用户文件名                    

secrets file=/opt/software/rsync/conf/rsyncd.pas   

4.3 配置密码认证文件

在/opt/software/rsync/conf目录中创建rsyncd.pas文件

然后在文件中加入如下内容：

thinkive:thinkive

 

4.4 启动服务器

[root@localhost /]# cd /opt/software/rsync/bin/

[root@localhost bin]# ./rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf 

[root@localhost bin]# ps –ef | grep rsync

检查服务是否已经启动

 

以服务器方式启动在52326端口(缺省为873端口,若不指定配置文件路径，则缺省配置文件从/etc/rsyncd.conf读取)

如果要在一台机器上启动多个同步服务进程，可给定不同的--config --port。

若要随机启动，则可以把此代码加入到/etc/rc.local中

/opt/software/rsync/bin/rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf

5.linux（客户端）

5.1 安装Rsync

[root@localhost /]# cd /opt/install

[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz

[root@localhost install]# cd rsync-3.0.7

[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync

[root@localhost rsync-3.0.7]# make

[root@localhost rsync-3.0.7]# make install

安装完成后，在/opt/software/rsync中包含了安装的所有文件

 

5.2 配置密码认证文件

  在/opt目录中创建文件名为/rsync.pas 的密码认证文件(密码文件路径和文件名称可自行修改)，然后在此文件中添加如下用户密码(必须和服务器端配置的用户密码一致)：

  thinkive

 

  修改该文件的权限

chmod  600  rsync.pas

 

 

5.3 执行同步命令

[root@localhost /]# cd /opt/software/rsync/bin

[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main

[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload

 

 

详细参数说明：

z是压缩传输，

r是递归同步，

topg都是保持文件原有属性如属主、时间的参数。

u是只同步已经更新的文件，避免没有更新的文件被重复更新一次，不过要注意两者机器的时钟的同步。

–progress是指显示出详细的进度情况，

–delete是指如果服务器端删除了这一文件，那么客户端也相应把文件删除，保持真正的一致。

--port 指定访问的端口

后面的thinkive@192.168.1.108::data中，之后的data是模块名，也就是在rsyncd.conf中自定义的名称，thinkive是指定模块中指定的可以同步的用户名。

–password-file=/opt/rsync.pas指定密码文件，这样就可以在脚本中使用而无需交互式地输入验证密码了，这里需要注意的是这份密码文件权限属性要设得只有属主可读。

/opt/install_bak是备份到本地的目录名，根据具体的需求填写。

 

5.4 生成同步的脚本

脚本文件位置可以自定，此处假设在/opt/rsync.sh

DATE=`date +%Y%m%d`

cd /opt/software/rsync/bin

./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main  >>  /opt/software/rsync/log/rsync_main.$DATE.log

./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload  >>  /opt/software/rsync/log/rsync_upload.$DATE.log

 

上面每天会生成一个日志

 

赋予权限 chmod 777 /opt/rsync.sh

 

5.5 加入到定时器中

把

   */1  *  *  *  *  root  /opt/rsync.sh

加入到/etc/crontab中，然后使用如下命令重新启动crond

service crond restart

上面定时任务表示每分钟增量同步一次数据。

 

 具体可以参见linux添加定时任务crond

6.注意问题

数据同步软件主要是根据时间进行数据的增量同步，所以必须主服务器和客户端之间的机器的时间不能相差太远，否则可能导致数据不能正确的同步。

 

7.Rsync命令参数详解

rsync是一个功能非常强大的工具，其命令也有很多功能特色选项，我们下面就对它的选项一一进行分析说明。Rsync的命令格式可以为以下六种：

　　rsync [OPTION]... SRC DEST

　　rsync [OPTION]... SRC [USER@]HOST:DEST

　　rsync [OPTION]... [USER@]HOST:SRC DEST

　　rsync [OPTION]... [USER@]HOST::SRC DEST

　　rsync [OPTION]... SRC [USER@]HOST::DEST

　　rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

 

　　对应于以上六种命令格式，rsync有六种不同的工作模式：

　　1)拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如：rsync -a /data /backup

　　2)使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如：rsync -avz *.c foo:src

　　3)使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如：rsync -avz foo:src/bar /data

　　4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如：rsync -av root@172.16.78.192::www /databack

　　5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如：rsync -av /databack root@172.16.78.192::www

6)列远程机的文件列表。这类似于rsync传输，不过只要在命令中省略掉本地机信息即可。如：rsync -v rsync://172.16.78.192/www

rsync参数的具体解释如下：

-v, --verbose 详细模式输出

-q, --quiet 精简输出模式

-c, --checksum 打开校验开关，强制对文件传输进行校验

-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD

-r, --recursive 对子目录以递归模式处理

-R, --relative 使用相对路径信息

-b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀

-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件)

-l, --links 保留软链结

-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

--safe-links 忽略指向SRC路径目录树以外的链结

-H, --hard-links 保留硬链结     -p, --perms 保持文件权限

-o, --owner 保持文件属主信息     -g, --group 保持文件属组信息

-D, --devices 保持设备文件信息    -t, --times 保持文件时间信息

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run现实哪些文件将被传输

-W, --whole-file 拷贝文件，不进行增量检测

-x, --one-file-system 不要跨越文件系统边界

-B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节

-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件

--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件

--delete 删除那些DST中SRC没有的文件

--delete-excluded 同样删除接收端那些被该选项指定排除的文件

--delete-after 传输结束以后再删除

--ignore-errors 及时出现IO错误也进行删除

--max-delete=NUM 最多删除NUM个文件

--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输

--force 强制删除目录，即使不为空

--numeric-ids 不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间，单位为秒

-I, --ignore-times 不跳过那些有同样的时间和长度的文件

--size-only 当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0

-T --temp-dir=DIR 在DIR中创建临时文件

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

-P 等同于 --partial

--progress 显示备份过程

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN 指定排除不需要传输的文件模式

--include=PATTERN 指定不排除而需要传输的文件模式

--exclude-from=FILE 排除FILE中指定模式的文件

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 绑定到特定的地址

--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件

--port=PORT 指定其他的rsync服务端口

--blocking-io 对远程shell使用阻塞IO

-stats 给出某些文件的传输状态

--progress 在传输时现实传输过程

--log-format=formAT 指定日志文件格式

--password-file=FILE 从FILE中得到密码

--bwlimit=KBPS 限制I/O带宽，KBytes per second      -h, --help 显示帮助信息