Rsync

Posted liuyunf

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Rsync相关的知识,希望对你有一定的参考价值。

Rsync

1. Rsync基本概述

rsync是linux系统下的数据镜像备份工具。使用快速增量备份工具Remote Sync可以远程同步,支持本地复制,或者与其他SSH、rsync主机同步。

常见备份方式

    完全备份:对所有数据做一次全备份    增量备份:只备份上一次备份之后变化的数据*****    差异备份:备份是上一次完全备份后变化的数据
  • 常见备份组合:

    完全+增量:1次完全+多次增量 完全+差异:1次完全+1次差异

2.Rsync应用场景

技术图片

  • [ ] 数据同步的方式
  • 推:push,上传(upload)

    将客户端的数据上传到rsync服务段(backup服务器)

  • 拉:pull,下载(download)

    将rsync服务端(backup服务器)的数据下载到客户端

==推拉是由客户端发起的==

3.Rsync传输模式

Rsync大致使用三种主要的数据传输方式

Rsync命令对应选项

-a                  #归档模式传输, 等于-tropgDl
-v                  #详细模式输出, 打印速率, 文件数量等
-z                  #传输时进行压缩以提高效率
-r                  #递归传输目录及子目录,即目录下得所有目录都同样传输。
-t                  #保持文件时间信息
-o                  #保持文件属主信息
-p                  #保持文件权限
-g                  #保持文件属组信息
-l                  #保留软连接
-P                  #显示同步的过程及传输时的进度等信息
-D                  #保持设备文件信息
-L                  #保留软连接指向的目标文件
-e                  #使用的信道协议,指定替代rsh的shell程序
--exclude=PATTERN   #指定排除不需要传输的文件模式
--exclude-from=file #文件名所在的目录文件
--bwlimit=100       #限速传输
--partial           #断点续传
--delete            #让目标目录和源目录数据保持一致

本地方式

rsync [OPTION...] SRC... [DEST]

类似cp命令

文件同步

    [root@backup ~]# rsync -avz /etc/fstab /data/
    sending incremental file list
    fstab

目录同步1:

    [root@backup ~]# rsync -avz /data/ /opt/
    sending incremental file list
    ./
    fstab
    passwd

目录同步2:

[root@backup ~]# rsync -avz /data /opt/
    sending incremental file list
    data/
    data/fstab
    data/passwd

总结: 如果要同步的是目录里面的内容,命令中目录的后面必须要加"/"; 如果要同步的是目录本身及其内容,则命令中只需写目录名。

完全同步:加--delete,源和目标内容完全一致

[root@backup ~]# rsync -avz /null/ /opt/ --delete #慎用

远程方式

Access via remote shell:    远程通道传输
Pull: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
Push: rsync [OPTION...] SRC... [USER@]HOST:DEST

使用的ssh协议,过程是加密,类似scp命令(secure cp)
tcp传输过程,没传输一个数据都会有连接的建立、维护、断开过程。

[root@backup ~]# rsync -avz /etc/hosts root@172.16.1.31:/etc/

[root@backup ~]# rsync -avz root@172.16.1.31:/root/hello.txt .

问题:
1.用户权限问题
[root@oldboy ~]# rsync -avz oldboy@172.16.1.41:/root/hello.txt  /tmp/
receiving incremental file list
rsync: change_dir "/root" failed: Permission denied (13)
2.用户身份暴露了,安全隐患
3.文件路径暴露了,安全隐患  

守护进程

rsync自身非常重要的功能(不使用系统用户,更加安全)

服务器的配置流程:

  • [ ] 1.安装软件包
yum install -y rsync
  • [ ] 2.修改配置文件
1)查找配置文件
[root@oldboy ~]# rpm -qc rsync
/etc/rsyncd.conf
/etc/sysconfig/rsyncd
[root@oldboy ~]# rpm -ql rsync | grep etc
/etc/rsyncd.conf
/etc/sysconfig/rsyncd
2)修改配置文件
[root@backup ~]# vim /etc/rsyncd.conf
# 全局模块
uid = rsync                     --- 运行进程的用户
gid = rsync                     --- 运行进程的用户组
port = 873                      --- 监听端口
fake super = yes                --- 无需让rsync以root身份运行,允许存储文件的完整属性(3.1版本之后)
use chroot = no                 --- 关闭假根功能
max connections = 200           --- 最大连接数
timeout = 600                   --- 超时时间
ignore errors                   --- 忽略错误信息
read only = false               --- 对备份数据可读写
list = false                    --- 不允许查看模块信息
auth users = rsync_backup       --- 定义虚拟用户,作为连接认证用户
secrets file = /etc/rsync.passwd ---定义rsync服务用户连接认证密码文件路径

##局部模块
[backup]                --- 定义模块信息
comment = commit        --- 模块注释信息
path = /backup          --- 定义接收备份数据目录
  • [ ] 3.创建程序用户
useradd -M -s /sbin/nologin rsync
  • [ ] 4.创建目录,并修改所属
mkdir [-p] /backup
chown -R rsync.rsync /backup
  • [ ] 5.创建虚拟用户认证文件
echo "rsync_backup:1" >/etc/rsync.password
chmod 600 /etc/rsync.password
  • [ ] 6.启动服务
systemctl start rsyncd
systemctl enable rsyncd

注意:一定要查看是否启动成功

[root@oldboy ~]# systemctl status rsyncd
● rsyncd.service - fast remote file copy program daemon
Loaded: loaded (/usr/lib/systemd/system/rsyncd.service; enabled; vendor preset: disabled)
Active: active (running) since 四 2018-09-27 11:18:52 CST; 37s ago

[root@oldboy ~]# lsof -i:873
COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
rsync   4187 root    3u  IPv4  44003      0t0  TCP *:rsync (LISTEN)
rsync   4187 root    5u  IPv6  44004      0t0  TCP *:rsync (LISTEN)
[root@oldboy ~]# ss -antp | grep rsync
LISTEN     0      5            *:873                      *:*                   users:(("rsync",pid=4187,fd=3))
LISTEN     0      5           :::873                     :::*                   users:(("rsync",pid=4187,fd=5))

[root@oldboy ~]# netstat -antp | grep rsync
tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      4187/rsync          
tcp6       0      0 :::873                  :::*                    LISTEN      4187/rsync

客户端验证过程:

  • [ ] 1.安装rsync包
yum install -y rsync
  • [ ] 2.验证

Access via rsync daemon: 守护进程方式传输 Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST] Push: rsync [OPTION...] SRC... [USER@]HOST::DEST

  • 1)推:上传 客户端推送/etc/下所有内容至Rsync服务端:
[root@nfs ~]# rsync -avz /etc/ rsync_backup@172.16.1.41::backup
  • 2)拉:下载 在服务端创建下拉文件
[root@backup ~]# cp /etc/passwd /etc/fstab /etc/hosts /backup/
客户端从服务端将backup模块下的内容拉到本地
[root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup/ /tmp/
  • [ ] 3.免密

  • 方法一:在客户端上创建密码文件,并给600的权限
[root@nfs ~]# echo "1" > /etc/rsync.password
[roonfsfs ~]# chmod 600 /etc/rsync.password
[root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup/ /tmp/ --password-file=/etc/rsync.password
  • 方法二:定义变量
[rnfs@nfs ~]# export RSYNC_PASSWORD=1
[root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup/ /tmp/ 

4.Rsync服务实践

    排除注意:
    1.客户端使用rsync报错信息:auth failed on module backup
    查看服务器端/var/log/messages
    1)Sep 27 12:12:52 backup rsyncd[1385]: secrets file must not be other-accessible (see strict modes option)
    表示权限的问题。
    解决方法:chmod 600 /etc/rsync.password
    2)……

    2.需要考虑服务端下拉的文件权限,主要是读权限
    root@nfs ~]# rsync -avz rsync_backup@172.16.1.41::backup/ /tmp/
    Password: 
    receiving incremental file list
    rsync: failed to read xattr user.rsync.%stat for "messages" (in backup): Permission denied (13)
    rsync: failed to read xattr user.rsync.%stat for "secure" (in backup): Permission denied (13)
    ./
    rsync: send_files failed to open "messages" (in backup): Permission denied (13)
    rsync: send_files failed to open "secure" (in backup): Permission denied (13)

以上是关于Rsync的主要内容,如果未能解决你的问题,请参考以下文章

svn 结合rsync 的代码发布系统

配置 rsync 报错

saltstack+git+rsync发布代码

配置rsync+inotify进行资源或代码同步

rsync

Rsync