rsync远程同步

rsync远程同步

一、关于rsync

(1)、一款快速增量备份工具

  • Remote Sync,远程同步
  • 支持本地复制,或者与其他SSH,rsync主机同步

二、配置rsync源

(1)、基本思路

  • 建立rsync.conf 配置文件,独立的账号文件
  • 启用rsync的 --daemon模式

(2)、应用示例

  • 用户backuper,允许下行同步
  • 操作的目录为/var/www/html

(3)、配置文件rsyncd.conf

  • 需手动建立,语法类似于Samba配置
  • 认证配置auth users、secrets file,不加则为匿名

(4)、rsync账号文件

  • 采用“用户名:密码”的记录格式,每行一个用户记录
  • 独立的账号数据,不依赖于账号系统

(5)、启用rsync服务

  • 通过–dawmon 独立提供服务

三、rsync 命令的用法

基本格式:rsync [选项] 原始位置 目标位置
常用选项:
-r:递归模式,包含目录及子目录中的所有文件。
-l:对于符号链接文件仍然复制为符号链接文件。
-v:显示同步过程的详细(verbose)信息。
-z:在传输文件时进行压缩(compress)。
-a:归档模式,保留文件的权限、属性等信息,等同于组合选项“-rlptgoD”。
-p:保留文件的权限标记。
-t:保留文件的时间标记。
-g:保留文件的属组标记(仅超级用户使用)。
-o:保留文件的属主标记(仅超级用户使用)。
-H:保留硬连接文件。
-A:保留 ACL 属性信息。
-D:保留设备文件及其他特殊文件。
--delete:删除目标位置有而原始位置没有的文件。
--checksum:根据校验和(而不是文件大小、修改时间)来决定是否跳过文件。

四、配置源的两种表示方法

格式一:用户名@主机地址::共享模块名

格式二:rsync://用户名@主机地址/共享模块名
[root@localhost ~]# rsync -avz
backuper@192.168.246.200::wwwroot /root

[root@localhost ~]# rsync -avz
rsync://backuper@ 192.168.246.200/wwwroot /root

五、rsync实时同步

(一)、定期同步的不足

1、执行备份的时间固定,延迟明显、实时性差
2、当同步源长期不变化时,密集的定期任务是不必要的

(二)、实时同步的优点

1、一旦同步源出现变化,立即启动备份
2、只要同步源无变化,则不执行备份

六、关于inotify

(一)、Linux内核的 inotify 机制

1、从版本2.6.13开始提供
2、可以监控文件系统的变动情况,并做出通知响应
3、辅助软件:inotify-tools

(二)、rsync + inotify 实时同步

1、安装inotify-tools辅助工具

notifywait:用于持续监控,实时输出结果
inotifywatch:用于短期监控,任务完成后再出结果

[root@localhost ~]# inotifywait -mrq -e modify,create,move,delete /var/www/html

-m : 持续进行监控
-r : 递归监控所有子对象
-q : 简化输出信息
-e : 指定要监控哪些事件类型

七、rsync 远程同步部署步骤

实验环境:
VMware软件 两台centos7.6版本虚拟机
一台源端 ip地址为192.168.246.10 虚拟机 需要安装服务 rsync,httpd
一台发起端 ip地址为192.168.246.20 虚拟机 需要安装服务 rsync,inotify-tools
均需要关闭防火墙和内核安全防护系统
---------------基础环境配置---------------------------------------------------------------------------------------

#远端(192.168.246.10)与发起端(192.168.246.20)均需要关闭防火墙并安装httpd服务
systemctl stop firewalld
setenforce 0

yum -y install httpd
systemctl start httpd
systemctl enable httpd

(一)、配置rsync源服务器(192.168.246.10)

rpm -q rsync							#一般系统已默认安装rsync

#建立/etc/rsyncd.conf 配置文件
vim /etc/rsyncd.conf				#添加以下配置项
uid = nobody					    #root
gid = nobody					    #root
use chroot = yes					#禁锢在源目录
address = 192.168.246.10			#监听地址,监听本机地址
port 873						    #监听端口 tcp/udp 873,可通过cat /etc/services | grep rsync查看
log file = /var/log/rsyncd.log		#日志文件位置
pid file = /var/run/rsyncd.pid		#存放进程 ID 的文件位置
hosts allow = 192.168.246.0/24		#允许访问的客户机地址
[wwwroot]					        #共享模块名称
path = /var/www/html				#源目录的实际路径
comment = Document Root of www.gcc.com
read only = yes					    #是否为只读
dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z		#同步时不再压缩的文件类型
auth users = backuper				#授权账户,多个账号以空格分隔
secrets file = /etc/rsyncd_users.db			            #存放账户信息的数据文件
-------------------------------------------------------------------------------
uid = nobody                                    
gid = nobody                                    
use chroot = yes                                        
address = 192.168.246.10
port 873                                                
log file = /var/log/rsyncd.log                          
pid file = /var/run/rsyncd.pid                          
hosts allow = 192.168.246.0/24
[wwwroot]                                       
path = /var/www/html                            
comment = Document Root of www.gcc.com
read only = yes                                 
dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z                
auth users = backuper                           
secrets file = /etc/rsyncd_users.db 
----------------------------------------------------------------------------------

#如采用匿名的方式,只要将其中的“auth users”和“secrets file”配置项去掉即可。
#为备份账户创建数据文件
vim /etc/rsyncd_users.db
backuper:abc123					#无须建立同名系统用户

chmod 600 /etc/rsyncd_users.db
#补充:SSH -i 密钥文件位置 root@192.168.246.1   #授权远程登录
#密钥文件的权限需要是600

#保证所有用户对源目录/var/www/html 都有读取权限

mkdir -p /var/www/html
echo “this is kgc” > /var/www/html/kgc.txt

chmod +r /var/www/html/
ls -ld /var/www/html/    #以长格式显示文件目录权限
drwxr-xr-x. 2 root root 6 2月  28 09:01 /var/www/html/

#启动 rsync 服务程序
rsync --daemon					#启动 rsync 服务,以独立监听服务的方式(守护进程)运行 

netstat -anpt | grep rsync

#关闭 rsync 服务的方法
kill $(cat /var/run/rsyncd.pid)
rm -rf /var/run/rsyncd.pid

(二)、发起端(192.168.246.20)

#将指定的资源下载到本地/opt 目录下进行备份。
格式一:
rsync -avz backuper@192.168.246.10::wwwroot /opt/		#密码abc123

格式二:
rsync -avz rsync://backuper@192.168.246.10/wwwroot /opt/

#查看同步获取的文件
cat /opt/kgc.txt
this is kgc

#免交互格式配置:
cd /opt
rm -rf kgc.txt

echo "abc123" > /etc/server.pass
chmod 600 /etc/server.pass

crontab -e
30 22 * * * /usr/bin/rsync -az --delete --password-file=/etc/server.pass backuper@192.168.246.10::wwwroot /opt/

systemctl restart crond
systemctl enable crond

(三)、发起端配置 rsync+inotify(192.168.246.20)

使用inotify通知接口,可以用来监控文件系统的各种变化情况,如文件存取、删除、移动、修改等。利用这一机制,可以非常方便地实现文件异动告警、增量备份,并针对目录或文件的变化及时作出响应。
将 inotify 机制与 rsync 工具相结合,可以实现触发式备份(实时同步),即只要原始位置的文档发生变化,则立即启动增量备份操作;否则处于静默等待状态。
因为 inotify 通知机制由 Linux 内核提供,因此主要做本机监控,在触发式备份中应用时更适合上行同步。

1、修改rsync源服务器(192.168.246.10)配置文件

vim /etc/rsyncd.conf
......
read only = no											#关闭只读,上行同步需要可以写

kill $(cat /var/run/rsyncd.pid)
rm -rf /var/run/rsyncd.pid

rsync --daemon	   #再次重新启动rsync
netstat -anpt | grep rsync

chmod 777 /var/www/html/

2、调整 inotify 内核参数(192.168.246.20)

在Linux内核中,默认的inotify机制提供了三个调控参数:max_queue_events(监控事件队列,默认值为16384)、max_user_instances(最多监控实例数,默认值为128)、max_user_watches(每个实例最多监控文件数,默认值为8192)。当要监控的目录、文件数量较多或者变化较频繁时,建议加大这三个参数的值。

cat /proc/sys/fs/inotify/max_queued_events      #监控事件队列
cat /proc/sys/fs/inotify/max_user_instances     #最多监控实例数
cat /proc/sys/fs/inotify/max_user_watches       #每个实例最多监控文件数

vim /etc/sysctl.conf         #加大每个参数
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576

sysctl -p

3、安装 inotify-tools(192.168.246.20)

用 inotify 机制还需要安装 inotify-tools,以便提供 inotifywait、inotifywatch 辅助工具程序。
notifywait:可监控modify(修改)、create(创建)、move(移动)、delete(删除)、attrib(属性更改)等各种事件,一有变动立即输出结果。
inotifywatch:可用来收集文件系统变动情况,并在运行结束后输出汇总的变化情况。

#依赖环境
yum install gcc gcc-c++ make -y
#将压缩包上传至/opt目录下,然后进行解压
tar zxvf inotify-tools-3.14.tar.gz -C /opt/

cd /opt/inotify-tools-3.14
./configure
make && make install

#执行“inotifywait”命令,然后在另一个终端向/var/www/html 目录下添加文件、移动文件,跟踪屏幕输出结果。
inotifywait -mrq -e modify,create,move,delete /var/www/html

#选项“-e”:用来指定要监控哪些事件
#选项“-m”:表示持续监控
#选项“-r”:表示递归整个目录
#选项“-q”:简化输出信息

4、在另外一个终端编写触发式同步脚本

vim /opt/inotify.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /var/www/html/"
RSYNC_CMD="rsync -apzH --delete --password-file=/etc/server.pass /var/www/html/ backuper@192.168.246.10::wwwroot/"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
##while判断是否接收到监控记录
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then
        $RSYNC_CMD
    fi
done

chmod +x /opt/inotify.sh
chmod 777 /var/www/html/
chmod +x /etc/rc.d/rc.local
echo '/opt/inotify.sh' >> /etc/rc.d/rc.local				#加入开机自动执行

5、源端配置(192.168.246.10)

kill $(cat /var/run/rsyncd.pid)   #关闭rsync服务后重启
rm -rf /var/run/rsyncd.pid
#暂停rsync服务需要kill 端口号 如果用kill -9 是不提醒强制删除再起服务会报错,因为不会删除pid文件,需要删除 cd /var/run/下面的rm -rf rsyncd.pid 删除文件在启服务才行

rsync --daemon	                  #再次重新启动rsync
netstat -anpt | grep rsync

chmod 777 /var/www/html/         #将源端/var/www/html/目录设置权限为777,否则远程同步无法写入

6、验证

cd /opt/
./inotify.sh

此时在客户端再打开一个终端,在/var/www/html/ 目录下创建文件ddd、eee

touch ddd
touch eee
上一篇:rsync远程同步(下行同步,图文注解详细)


下一篇:rsync远程同步