文章目录
- rsync+inotify
- 实例演示
- 环境说明:
- 需求
- 目标服务器操作:
- 关闭防火墙和selinux
- 安装rsync,设置配置文件
- 创建用户认证文件并设置文件权限
- 新建并编写文件(因为centos 8里没有这个文件,若是centos 7那就自带此文件)
- 启动rsync服务并设置开机自启
- 源服务器操作:
- 关闭防火墙和selinux
- 安装rsync,只需要安装,不需要启动
- 创建认证密码文件,设置文件权限,只设置文件所有者具有读取、写入权限即可
- 测试
- 在目标服务器上创建目录
- 在源服务器上创建测试目录,然后在源服务器上做以下操作
- 在目标服务器上查看测试结果
- 在源服务器搭建一个epel仓库,安装inotify-tools
- 在源服务器编写同步脚本
- 查看目标服务器下的yzy目录下的文件
- 启动脚本并在runtime目录下新建一个文件触发脚本
- 在源服务器设置脚本开机自启
- 在目标服务器查看脚本是否成功触发并同步了文件
rsync+inotify
rsync与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了!
Inotify是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起,加入了Inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。
在前面有讲到,rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题。
实例演示
环境说明:
服务器类型 | IP地址 | 应用 | 操作系统 |
---|---|---|---|
源服务器 | 192.168.10.40 | rsync inotify-tools 脚本 |
centos stream 8 |
目标服务器 | 192.168.10.20 | rsync | centos stream 8 |
需求
部署rsync+inotify同步/runtime目录至目标服务器的/NAME/下。这里的NAME是指你的名字,比如你叫tom,则要把/runtime目录同步至目标服务器的/tom/下。
目标服务器操作:
关闭防火墙和selinux
[root@target ~]# systemctl stop firewalld
[root@target ~]# setenforce 0
- 1
- 2
安装rsync,设置配置文件
[root@target ~]# dnf install -y rsync
[root@target ~]# vi /etc/
[root@target ~]# cat /etc/
log file = /var/log/ # 日志文件位置,启动rsync后自动产生这个文件,无需提前创建
pidfile = /var/run/ # pid文件的存放位置
lock file = /var/run/ # 支持max connections参数的锁文件
secrets file = /etc/ # 用户认证配置文件,里面保存用户名称和密码,必须手动创建这个文件
[yangzhenyu] # 自定义同步名称
path = /yzy/ # rsync服务端数据存放路径,客户端的数据将同步至此目录
comment = sync etc from client
uid = root # 设置rsync运行权限为root
gid = root # 设置rsync运行权限为root
port = 873 # 默认端口
ignore errors # 表示出现错误忽略错误
use chroot = no # 默认为true,修改为no,增加对目录文件软连接的备份
read only = no # 设置rsync服务端为读写权限
list = no # 不显示rsync服务端资源列表
max connections = 200 # 最大连接数
timeout = 600 # 设置超时时间
auth users = admin # 执行数据同步的用户名,可以设置多个,用英文状态下逗号隔开
hosts allow = 192.168.10.40 # 允许进行数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开
hosts deny = 192.168.1.1 # 禁止数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
创建用户认证文件并设置文件权限
[root@target ~]# echo 'admin:1' > /etc/
[root@target ~]# cat /etc/
admin:1
[root@target ~]# chmod 600 /etc/rsync*
[root@target ~]# ll /etc/rsync*
-rw-------. 1 root root 1389 6月 7 06:19 /etc/
-rw-------. 1 root root 13 6月 7 03:18 /etc/
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
新建并编写文件(因为centos 8里没有这个文件,若是centos 7那就自带此文件)
[root@target ~]# vim /usr/lib/systemd/system/
[root@target ~]# cat /usr/lib/systemd/system/
[Unit]
Description=fast remote file copy program daemon
[Service]
User=root
Group=root
EnvironmentFile=/etc/sysconfig/rsyncd
ExecStart=/usr/bin/rsync --daemon --config=/etc/ --no-detach
ExecReload=/bin/kill -HUP $MAINPID
KillMode=process
Restart=on-failure
RestartSec=30s
[Install]
WantedBy=
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
启动rsync服务并设置开机自启
[root@target ~]# systemctl daemon-reload
[root@target ~]# systemctl status rsyncd
● - fast remote file copy program daemon
Loaded: loaded (/usr/lib/systemd/system/; disabled; vendor prese>
Active: inactive (dead)
[root@target ~]# systemctl enable --now rsyncd
Created symlink /etc/systemd/system// → /usr/lib/systemd/system/.
[root@target ~]# ss -antl
State Recv-Q Send-Q Local Address:Port Peer Address:Port Process
LISTEN 0 5 0.0.0.0:873 0.0.0.0:*
LISTEN 0 128 0.0.0.0:22 0.0.0.0:*
LISTEN 0 5 [::]:873 [::]:*
LISTEN 0 128 [::]:22 [::]:*
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
源服务器操作:
关闭防火墙和selinux
[root@source ~]# systemctl stop firewalld
[root@source ~]# setenforce 0
- 1
- 2
安装rsync,只需要安装,不需要启动
[root@source ~]# dnf install -y rsync
- 1
创建认证密码文件,设置文件权限,只设置文件所有者具有读取、写入权限即可
[root@source ~]# echo '1' > /etc/
[root@source ~]# cat /etc/
1
[root@source ~]# chmod 600 /etc/
[root@source ~]# ll /etc/
-rw-------. 1 root root 2 6月 7 07:03 /etc/
- 1
- 2
- 3
- 4
- 5
- 6
- 7
测试
在目标服务器上创建目录
[root@target ~]# cd /
[root@target /]# mkdir yzy
- 1
- 2
在源服务器上创建测试目录,然后在源服务器上做以下操作
[root@source ~]# cd /
[root@source /]# mkdir runtime
[root@source /]# cd runtime
[root@source runtime]# touch aa bb
[root@source runtime]# rsync -avH --port 873 --progress --delete /runtime/ admin@192.168.10.20::yangzhenyu --password-file=/etc/
sending incremental file list
./
aa
0 100% 0.00kB/s 0:00:00 (xfr#1, to-chk=1/3)
bb
0 100% 0.00kB/s 0:00:00 (xfr#2, to-chk=0/3)
sent 170 bytes received 65 bytes 470.00 bytes/sec
total size is 0 speedup is 0.00
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
在目标服务器上查看测试结果
[root@target /]# ls /yzy
aa bb
- 1
- 2
在源服务器搭建一个epel仓库,安装inotify-tools
[root@source ~]# vim /etc//
[root@source ~]# cat /etc//
[epel]
name=EPEL
baseurl=/epel/$releasever/Everything/$basearch
enabled=1
gpgcheck=0
[root@source ~]# yum install -y inotify-tools
a1 258 MB/s | 2.4 MB 00:00
a2 208 MB/s | 6.3 MB 00:00
EPEL 153 kB/s | 9.5 MB 01:03
依赖关系解决。
==================================================================================
软件包 架构 版本 仓库 大小
==================================================================================
安装:
inotify-tools x86_64 3.14-19.el8 epel 57 k
事务概要
==================================================================================
安装 1 软件包
总下载:57 k
安装大小:120 k
下载软件包:
inotify-tools-3.14-19.el8.x86_64.rpm 145 kB/s | 57 kB 00:00
----------------------------------------------------------------------------------
总计 143 kB/s | 57 kB 00:00
运行事务检查
事务检查成功。
运行事务测试
事务测试成功。
运行事务
准备中 : 1/1
安装 : inotify-tools-3.14-19.el8.x86_64 1/1
运行脚本: inotify-tools-3.14-19.el8.x86_64 1/1
验证 : inotify-tools-3.14-19.el8.x86_64 1/1
Installed products updated.
已安装:
inotify-tools-3.14-19.el8.x86_64
完毕!
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
在源服务器编写同步脚本
[root@source ~]# mkdir /scripts
[root@source ~]# touch /scripts/
[root@source ~]# chmod 755 /scripts/
[root@source ~]# ll /scripts/
-rwxr-xr-x. 1 root root 0 6月 7 08:58 /scripts/
[root@source ~]# vim /scripts/
[root@source ~]# cat /scripts/
host=192.168.10.20 # 目标服务器的ip(备份服务器)
src=/runtime # 在源服务器上所要监控的备份目录(此处可以自定义,但是要保证存在)
des=yangzhenyu # 自定义的模块名,需要与目标服务器上定义的同步名称一致
password=/etc/ # 执行数据同步的密码文件
user=admin # 执行数据同步的用户名
inotifywait=/usr/bin/inotifywait
$inotifywait -mrq --timefmt '%Y%m%d %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src \
| while read files;do
rsync -avzP --delete --timeout=100 --password-file=${password} $src $user@$host::$des
echo "${files} was rsynced" >>/tmp/ 2>&1
done
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
查看目标服务器下的yzy目录下的文件
[root@target /]# ls yzy
aa bb
- 1
- 2
启动脚本并在runtime目录下新建一个文件触发脚本
[root@source ~]# nohup bash /scripts/ &
[5] 136777
[root@source ~]# nohup: ignoring input and appending output to ‘’
//如果用的是finalshell会显示中文
[root@source ~]# nohup: 忽略输入并把输出追加到''
[root@source ~]# ps -ef|grep inotify
root 81788 5908 0 08:45 pts/0 00:00:00 /usr/libexec/platform-python /usr/bin/dnf install -y inotify-tools
root 92486 5908 0 08:52 pts/0 00:00:00 /usr/libexec/platform-python /usr/bin/yum install -y inotify-tools
root 136777 5908 0 09:11 pts/0 00:00:00 bash /scripts/
root 136778 136777 0 09:11 pts/0 00:00:00 /usr/bin/inotifywait -mrq --timefmt %Y%m%d %H:%M --format %T %w%f%e -e modify,delete,create,attrib /runtime //看到这条就是成功了
root 136779 136777 0 09:11 pts/0 00:00:00 bash /scripts/
root 137730 5908 0 09:11 pts/0 00:00:00 grep --color=auto inotify
[root@source ~]# ls /runtime/
aa bb
[root@source ~]# touch /runtime/ttt
//查看日志文件
[root@source ~]# tail /tmp/
20210607 09:17 /runtime/tttCREATE was rsynced
20210607 09:17 /runtime/tttATTRIB was rsynced
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
在源服务器设置脚本开机自启
[root@source ~]# chmod +x /etc//
[root@source ~]# ll /etc//
-rwxr-xr-x. 1 root root 474 12月 1 2020 /etc//
[root@source ~]# echo 'nohup /bin/bash /scripts/' >> /etc//
[root@source ~]# tail /etc//
#
# In contrast to previous versions due to parallel execution during boot
# this script will NOT be run after all other services.
#
# Please note that you must run 'chmod +x /etc//' to ensure
# that this script will be executed during boot.
touch /var/lock/subsys/local
nohup /bin/bash /scripts/
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
在目标服务器查看脚本是否成功触发并同步了文件
[root@target /]# ls yzy
aa bb runtime
[root@target /]# ls /yzy/runtime
aa bb ttt
- 1
- 2
- 3
- 4