Rsync

Posted 2023-02-15 初如

rsync

rsync有三种工作方式：
1. 本地文件系统上实现同步。命令行语法格式为上述"Local"段的格式。
2. 本地主机使用远程shell和远程主机通信。命令行语法格式为上述"Access via remote shell"段的格
式。
3. 本地主机通过网络套接字连接远程主机上的rsync daemon。命令行语法格式为上述"Access via
rsync daemon"段的格式。

常见选项：
-v：显示rsync过程中详细信息。可以使用"-vvvv"获取更详细信息。
-P：显示文件传输的进度信息。(实际上"-P"="--partial --progress"，其中的"--progress"才是显
示进度信息的)。
-n --dry-run ：仅测试传输，而不实际传输。常和"-vvvv"配合使用来查看rsync是如何工作的。
-a --archive ：归档模式，表示递归传输并保持文件属性。等同于"-rtopgDl"。
-r --recursive：递归到目录中去。
-t --times：保持mtime属性。强烈建议任何时候都加上"-t"，否则目标文件mtime会设置为系统时间，导致下次更新：检查出mtime不同从而导致增量传输无效。
-o --owner：保持owner属性(属主)。
-g --group：保持group属性(属组)。
-p --perms：保持perms属性(权限，不包括特殊权限)。
-D       ：是"--device --specials"选项的组合，即也拷贝设备文件和特殊文件。
-l --links：如果文件是软链接文件，则拷贝软链接本身而非软链接所指向的对象
-z       ：传输时进行压缩提高效率
-R --relative：使用相对路径。意味着将命令行中指定的全路径而非路径最尾部的文件名发送给服务端，包括它们的属性。用法见下文示例。
--size-only ：默认算法是检查文件大小和mtime不同的文件，使用此选项将只检查文件大小。
-u --update ：仅在源mtime比目标已存在文件的mtime新时才拷贝。注意，该选项是接收端判断的，不会
影响删除行为。
-d --dirs   ：以不递归的方式拷贝目录本身。默认递归时，如果源为"dir1/file1"，则不会拷贝dir1目录，使用该选项将拷贝dir1但不拷贝file1。
--max-size ：限制rsync传输的最大文件大小。可以使用单位后缀，还可以是一个小数值(例如："--
max-size=1.5m")
--min-size ：限制rsync传输的最小文件大小。这可以用于禁止传输小文件或那些垃圾文件。
--exclude   ：指定排除规则来排除不需要传输的文件。
--delete   ：以SRC为主，对DEST进行同步。多则删之，少则补之。注意"--delete"是在接收端执行的，所以它是在：exclude/include规则生效之后才执行的。
-b --backup ：对目标上已存在的文件做一个备份，备份的文件名后默认使用"~"做后缀。
--backup-dir：指定备份文件的保存路径。不指定时默认和待备份文件保存在同一目录下。
-e         ：指定所要使用的远程shell程序，默认为ssh。
--port     ：连接daemon时使用的端口号，默认为873端口。
--password-file：daemon模式时的密码文件，可以从中读取密码实现非交互式。注意，这不是远程shell认证的密码，而是rsync模块认证的密码。
-W --whole-file：rsync将不再使用增量传输，而是全量传输。在网络带宽高于磁盘带宽时，该选项比增量传输更高效。
--existing ：要求只更新目标端已存在的文件，目标端还不存在的文件不传输。注意，使用相对路径时如果上层目录不存在也不会传输。
--ignore-existing：要求只更新目标端不存在的文件。和"--existing"结合使用有特殊功能，见下文示例。
--remove-source-files：要求删除源端已经成功传输的文件

实现将本地的数据同步到远程备份服务器
172.17.40.71和172.17.40.72俩台centos7服务实现
71为备份服务器 72为主服务器，主要实现在72上的某个特定文件夹内容更新同步到71的备份文件夹中。

71和72上都安装rsync服务
yum -y install rsync

72配置如下： 默认端口873
/etc/rsyncd.conf 配置文件：
uid = root #指定以哪个身份来访问共享目录，默认未指定为nobody，备份文件的所有者
gid = root #默认nobydy
max connections = 0 #最大连接数
ignore errors #忽略某些不重要的错误
exclude = lost+found/ # 去除某个文件
log file = /var/log/rsyncd.log #日志保存路径
pid file = /var/run/rsyncd.pid #进程id
lock file = /var/run/rsyncd.lock #
reverse lookup = no
#hosts allow = 172.17.40.0/24 #允许访问的网段 默认所有
[backup]  #每个模块名对应一个不同的path目录，如果同名后面模块生效
path = /data/backup/ #备份文件保存路径
comment = backup dir 
read only = no #对访问文件的权限 非只读
auth users = rsyncuser #访问用户
secrets file = /etc/rsync.pas  #访问用户口令

echo 'rsyncuser:qaz123' > /etc/rsync.pas
chmod 600 /etc/rsync.pas #安全加固
rsync --daemo #开启守护进程
systenctl enable --now rsyncd #开启服务

72:
echo 'qaz123' > /etc/rsync.pas
chmod 600 /etc/rsync.pas
在72上：
rsync rsyncserver::
[root@72 ~]# rsync 172.17.40.71::
backup         	backup dir

主服务器推送数据到备份服务器71上
rsync -av /etc/fstab rs

rsync -av --password-file=/etc/rsync.pas /etc/fstab rsyncuser@172.17.40.71::backup
--password-file=/etc/rsync.pas  非交互式访问指定密码保存文件

拉取备份的数据保存到主服务器某个文件夹上
rsync --password-file=/etc/rsync.pas rsyncuser@172.17.40.71::backup/* /opt/

inotify+rsync+shell 脚本实现实时数据同步
安装inotify-tools 
inotifywait 用于用户监控某个文件夹下的事件
配置如下,在72上定时任务执行脚本。
crontab -e  
* * * * *  . /data/inotify_rsync.sh

vim inotify_rsync.sh
#!/bin/bash
SRC='/data/www/'
DEST='rsyncuser@172.17.40.71::backup'
rpm -q rsync &> /dev/null || yum -y install rsync
inotifywait  -mrq  --exclude=".*\\.swp" --timefmt '%Y-%m-%d %H:%M:%S' --format '%T %w %f' -e create,delete,moved_to,close_write,attrib $SRC | while read DATE TIME DIR FILE;do
       FILEPATH=$DIR$FILE
       rsync -az --delete  --password-file=/etc/rsync.pas $SRC $DEST && echo "At $TIME on $DATE, file $FILEPATH was backuped up via rsync" >> /var/log/changelist.log
done

在主服务器上的/data/www 中创建和删除或者修改文件 都会同步到备份服务器下的backup中