rsync+inotify配置,编写脚本以及实例演示

时间:2024-10-13 18:51:31

文章目录

      • rsync+inotify
        • 实例演示
          • 环境说明:
          • 需求
        • 目标服务器操作:
            • 关闭防火墙和selinux
            • 安装rsync,设置配置文件
            • 创建用户认证文件并设置文件权限
            • 新建并编写文件(因为centos 8里没有这个文件,若是centos 7那就自带此文件)
            • 启动rsync服务并设置开机自启
        • 源服务器操作:
            • 关闭防火墙和selinux
            • 安装rsync,只需要安装,不需要启动
            • 创建认证密码文件,设置文件权限,只设置文件所有者具有读取、写入权限即可
        • 测试
            • 在目标服务器上创建目录
            • 在源服务器上创建测试目录,然后在源服务器上做以下操作
            • 在目标服务器上查看测试结果
          • 在源服务器搭建一个epel仓库,安装inotify-tools
            • 在源服务器编写同步脚本
            • 查看目标服务器下的yzy目录下的文件
            • 启动脚本并在runtime目录下新建一个文件触发脚本
            • 在源服务器设置脚本开机自启
            • 在目标服务器查看脚本是否成功触发并同步了文件

rsync+inotify

rsync与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了!

Inotify是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起,加入了Inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。
在前面有讲到,rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题。

实例演示
环境说明:
服务器类型 IP地址 应用 操作系统
源服务器 192.168.10.40 rsync
inotify-tools
脚本
centos stream 8
目标服务器 192.168.10.20 rsync centos stream 8
需求

部署rsync+inotify同步/runtime目录至目标服务器的/NAME/下。这里的NAME是指你的名字,比如你叫tom,则要把/runtime目录同步至目标服务器的/tom/下。

目标服务器操作:
关闭防火墙和selinux
[root@target ~]# systemctl stop firewalld
[root@target ~]# setenforce 0
  • 1
  • 2
安装rsync,设置配置文件
[root@target ~]# dnf install -y rsync
[root@target ~]# vi /etc/
[root@target ~]# cat /etc/
log file = /var/log/    # 日志文件位置,启动rsync后自动产生这个文件,无需提前创建
pidfile = /var/run/     # pid文件的存放位置
lock file = /var/run/   # 支持max connections参数的锁文件
secrets file = /etc/    # 用户认证配置文件,里面保存用户名称和密码,必须手动创建这个文件

[yangzhenyu]     # 自定义同步名称
path = /yzy/          # rsync服务端数据存放路径,客户端的数据将同步至此目录
comment = sync etc from client
uid = root        # 设置rsync运行权限为root
gid = root        # 设置rsync运行权限为root
port = 873        # 默认端口
ignore errors     # 表示出现错误忽略错误
use chroot = no       # 默认为true,修改为no,增加对目录文件软连接的备份
read only = no    # 设置rsync服务端为读写权限
list = no     # 不显示rsync服务端资源列表
max connections = 200     # 最大连接数
timeout = 600     # 设置超时时间
auth users = admin        # 执行数据同步的用户名,可以设置多个,用英文状态下逗号隔开
hosts allow = 192.168.10.40   # 允许进行数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开
hosts deny = 192.168.1.1      # 禁止数据同步的客户端IP地址,可以设置多个,用英文状态下逗号隔开
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
创建用户认证文件并设置文件权限
[root@target ~]# echo 'admin:1' > /etc/ 
[root@target ~]# cat /etc/ 
admin:1

[root@target ~]# chmod 600 /etc/rsync*
[root@target ~]# ll /etc/rsync*
-rw-------. 1 root root 1389 67 06:19 /etc/
-rw-------. 1 root root   13 67 03:18 /etc/
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
新建并编写文件(因为centos 8里没有这个文件,若是centos 7那就自带此文件)
[root@target ~]# vim /usr/lib/systemd/system/
[root@target ~]# cat /usr/lib/systemd/system/ 
[Unit]
Description=fast remote file copy program daemon

[Service]
User=root
Group=root
EnvironmentFile=/etc/sysconfig/rsyncd
ExecStart=/usr/bin/rsync --daemon --config=/etc/ --no-detach
ExecReload=/bin/kill -HUP $MAINPID
KillMode=process
Restart=on-failure
RestartSec=30s

[Install]
WantedBy=
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
启动rsync服务并设置开机自启
[root@target ~]# systemctl daemon-reload
[root@target ~]# systemctl status rsyncd
●  - fast remote file copy program daemon
   Loaded: loaded (/usr/lib/systemd/system/; disabled; vendor prese>
   Active: inactive (dead)
[root@target ~]# systemctl enable --now rsyncd
Created symlink /etc/systemd/system// → /usr/lib/systemd/system/.
[root@target ~]# ss -antl
State    Recv-Q   Send-Q     Local Address:Port     Peer Address:Port   Process   
LISTEN   0        5                0.0.0.0:873           0.0.0.0:*                
LISTEN   0        128              0.0.0.0:22            0.0.0.0:*                
LISTEN   0        5                   [::]:873              [::]:*                
LISTEN   0        128                 [::]:22               [::]:*             
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
源服务器操作:
关闭防火墙和selinux
[root@source ~]# systemctl stop firewalld 
[root@source ~]# setenforce 0
  • 1
  • 2
安装rsync,只需要安装,不需要启动
[root@source ~]# dnf install -y rsync
  • 1
创建认证密码文件,设置文件权限,只设置文件所有者具有读取、写入权限即可
[root@source ~]# echo '1' > /etc/
[root@source ~]# cat /etc/
1

[root@source ~]# chmod 600 /etc/ 
[root@source ~]# ll /etc/ 
-rw-------. 1 root root 2 67 07:03 /etc/
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
测试
在目标服务器上创建目录
[root@target ~]# cd /
[root@target /]# mkdir yzy
  • 1
  • 2
在源服务器上创建测试目录,然后在源服务器上做以下操作
[root@source ~]# cd /
[root@source /]# mkdir runtime
[root@source /]# cd runtime
[root@source runtime]# touch aa bb
[root@source runtime]# rsync -avH --port 873 --progress --delete /runtime/ admin@192.168.10.20::yangzhenyu --password-file=/etc/
sending incremental file list
./
aa
              0 100%    0.00kB/s    0:00:00 (xfr#1, to-chk=1/3)
bb
              0 100%    0.00kB/s    0:00:00 (xfr#2, to-chk=0/3)

sent 170 bytes  received 65 bytes  470.00 bytes/sec
total size is 0  speedup is 0.00

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
在目标服务器上查看测试结果
[root@target /]# ls /yzy
aa  bb
  • 1
  • 2
在源服务器搭建一个epel仓库,安装inotify-tools
[root@source ~]# vim /etc//
[root@source ~]# cat /etc// 
[epel]
name=EPEL
baseurl=/epel/$releasever/Everything/$basearch
enabled=1
gpgcheck=0

[root@source ~]# yum install -y inotify-tools
a1                                                258 MB/s | 2.4 MB     00:00    
a2                                                208 MB/s | 6.3 MB     00:00    
EPEL                                              153 kB/s | 9.5 MB     01:03    
依赖关系解决。
==================================================================================
 软件包                 架构            版本                  仓库           大小
==================================================================================
安装:
 inotify-tools          x86_64          3.14-19.el8           epel           57 k

事务概要
==================================================================================
安装  1 软件包

总下载:57 k
安装大小:120 k
下载软件包:
inotify-tools-3.14-19.el8.x86_64.rpm              145 kB/s |  57 kB     00:00    
----------------------------------------------------------------------------------
总计                                              143 kB/s |  57 kB     00:00     
运行事务检查
事务检查成功。
运行事务测试
事务测试成功。
运行事务
  准备中  :                                                                   1/1 
  安装    : inotify-tools-3.14-19.el8.x86_64                                  1/1 
  运行脚本: inotify-tools-3.14-19.el8.x86_64                                  1/1 
  验证    : inotify-tools-3.14-19.el8.x86_64                                  1/1 
Installed products updated.

已安装:
  inotify-tools-3.14-19.el8.x86_64                                                

完毕!
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
在源服务器编写同步脚本
[root@source ~]# mkdir /scripts
[root@source ~]# touch /scripts/
[root@source ~]# chmod 755 /scripts/
[root@source ~]# ll /scripts/
-rwxr-xr-x. 1 root root 0 67 08:58 /scripts/
[root@source ~]# vim /scripts/
[root@source ~]# cat /scripts/ 
host=192.168.10.20      # 目标服务器的ip(备份服务器)
src=/runtime        # 在源服务器上所要监控的备份目录(此处可以自定义,但是要保证存在)
des=yangzhenyu     # 自定义的模块名,需要与目标服务器上定义的同步名称一致
password=/etc/        # 执行数据同步的密码文件
user=admin          # 执行数据同步的用户名
inotifywait=/usr/bin/inotifywait

$inotifywait -mrq --timefmt '%Y%m%d %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src \
| while read files;do
    rsync -avzP --delete  --timeout=100 --password-file=${password} $src $user@$host::$des
    echo "${files} was rsynced" >>/tmp/ 2>&1
done
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
查看目标服务器下的yzy目录下的文件
[root@target /]# ls yzy
aa  bb
  • 1
  • 2
启动脚本并在runtime目录下新建一个文件触发脚本
[root@source ~]# nohup bash /scripts/ &
[5] 136777
[root@source ~]# nohup: ignoring input and appending output to ‘’
//如果用的是finalshell会显示中文
[root@source ~]# nohup: 忽略输入并把输出追加到''

[root@source ~]# ps -ef|grep inotify
root       81788    5908  0 08:45 pts/0    00:00:00 /usr/libexec/platform-python /usr/bin/dnf install -y inotify-tools
root       92486    5908  0 08:52 pts/0    00:00:00 /usr/libexec/platform-python /usr/bin/yum install -y inotify-tools
root      136777    5908  0 09:11 pts/0    00:00:00 bash /scripts/
root      136778  136777  0 09:11 pts/0    00:00:00 /usr/bin/inotifywait -mrq --timefmt %Y%m%d %H:%M --format %T %w%f%e -e modify,delete,create,attrib /runtime	//看到这条就是成功了
root      136779  136777  0 09:11 pts/0    00:00:00 bash /scripts/
root      137730    5908  0 09:11 pts/0    00:00:00 grep --color=auto inotify

[root@source ~]# ls /runtime/
aa  bb
[root@source ~]# touch /runtime/ttt

//查看日志文件
[root@source ~]# tail /tmp/ 
20210607 09:17 /runtime/tttCREATE was rsynced
20210607 09:17 /runtime/tttATTRIB was rsynced
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
在源服务器设置脚本开机自启
[root@source ~]# chmod +x /etc//
[root@source ~]# ll /etc//
-rwxr-xr-x. 1 root root 474 121 2020 /etc//
[root@source ~]# echo 'nohup /bin/bash /scripts/' >> /etc//
[root@source ~]# tail /etc//
#
# In contrast to previous versions due to parallel execution during boot
# this script will NOT be run after all other services.
#
# Please note that you must run 'chmod +x /etc//' to ensure
# that this script will be executed during boot.

touch /var/lock/subsys/local

nohup /bin/bash /scripts/
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
在目标服务器查看脚本是否成功触发并同步了文件
[root@target /]# ls yzy
aa  bb  runtime
[root@target /]# ls /yzy/runtime
aa  bb  ttt
  • 1
  • 2
  • 3
  • 4