1.什么是rsync?
-rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步。
-第一次同步时rsync会复制全部内容,但在下一次只传输修改过的文件。rsync在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。
-安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
-支持匿名传输,以方便进行网站镜象。
2.服务器端和客户端
1).一对一,客户端和服务端和都可以相互同步,可以不区分,一般是服务端同步到客户端。
2).一对多,一个服务端,多个客户端,客户端从服务端拷贝数据,保持数据一致。
3.windows(服务端配置)
首先要下载windows版的rsync
rsync分为服务器端和客户端,以A(服务器端),B(客户端)2台服务器为例 A的IP地址为192.168.1.111 B的ip地址为192.168.1.123
1,先配置服务器端,在服务器上安装cwRsyncServer_4.0.5_Installer.exe,安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装过程中rsync会自动建立一个叫做rsync的用户名,并且提示你输入这个用户的密码,这里很关键,这个密码一定要是你系统用户即adminstrator的密码,如果怕出错就不用管他直接点下一步,值得完成安装,这时打开你的服务检查下有没有一个RsyncServer的服务,如果没有的话就是那个用户密码的地方弄错了,建议卸载重新安装,如果有那就OK,最后检查下你的防火墙是否打开873端口
上面的用户名和密码就是下面客户端所用到的账户,密码,以上就是服务器端的安装了,然后就是配置,找到你rsync的安装目录点击进去里面会有个rsyncd.conf的配置文件,用记事本的方式打开他,在文件最前面追加"uid = 0" "gid = 0" 2行,然后修改 "[]" 的内容,这里小编直接上图,有图更容易看懂
怎么样,从图上来看很清楚把,然后在在服务里面找到 "RsyncServer" 修改为"自动开启" 并且将服务"启动".
2,接下来是客户端,首先客户端先安装cwRsync_4.0.5_Install.exe,同样安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装完成后,新建一个txt文本文档,这里小编还是上图来说明
--timeout参数,这个是一个超时设定,在服务器忙或者网络忙的时候rsync会出现同步到一半不动的情况,用了这个参数的话就可以设定他在你指定的时间内rsync没有进行操作则取消命令,这个在多台服务器同步的时候非常有用
--exclude参数,排除你指定某个文件或者目录,这个不用多介绍了
--delete参数,这个的意思是服务器端与客户端保持完全一致,客户段与服务端不同的文件客户端会进行删除操作,这里小编建议新手不要加上这个参数,如果服务端误操作删掉了文件那你所有的机器都会删掉这个文件,就会很麻烦,所以先可以不加这个参数
4.linux(服务端)
4.1 安装Rsync
[root@localhost /]# cd /opt/install
[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz
[root@localhost install]# cd rsync-3.0.7
[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync
[root@localhost rsync-3.0.7]# make
[root@localhost rsync-3.0.7]# make install
安装完成后,在/opt/software/rsync中包含了安装的所有文件
4.2 修改配置文件
在/opt/software/rsync目录中增加conf目录,然后在此目录中增加rsyncd.conf文件,文件内容如下:
uid = 0
gid = 0
#监听端口(缺省为873,可以不用修改)
port = 52326
# 允许连接的客户端IP
#hosts allow=192.168.0.0/24
# 拒绝访问的客户端IP
#hosts deny=0.0.0.0/32
# 不使用chroot
use chroot=no
# 最大连接数为100
max connections=100
# 欢迎信息文件名称和存放位置(此文件没有,可以自行添加)
#motd file=/opt/software/rsync/conf/rsyncd.motd
# 指定rsync的pid文件
pid file=/var/run/rsyncd.pid
# 指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock
lock file=/var/run/rsync.lock
# 指定rsync的日志文件,而不将日志发送给syslog
log file=/var/log/rsyncd.log
#下面就是每个需要同步的模块的配置
#需要同步的模块名称,在客户端同步时需要指定,根据实际需要进行修改
[main]
# 需要同步的目录(根据实际情况进行修改,此处只是示例)
path=/srv/www/app/cms/main
comment=rsync files
# 忽略无关的IO错误
ignore errors
# 只读
read only=yes
# 不允许列文件
list=no
# 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔
#auth users=thinkive
# 认证用户文件名
secrets file=/opt/software/rsync/conf/rsyncd.pas
#同步的第二个模块名称,在客户端同步时需要指定,根据实际需要进行修改
[upload]
# 需要同步的目录(根据实际情况进行修改,此处只是示例)
path=/srv/www/app/cms/upload
comment=rsync files
# 忽略无关的IO错误
ignore errors
# 只读
read only=yes
# 不允许列文件
list=no
# 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔
#auth users=thinkive
# 认证用户文件名
secrets file=/opt/software/rsync/conf/rsyncd.pas
4.3 配置密码认证文件
在/opt/software/rsync/conf目录中创建rsyncd.pas文件
然后在文件中加入如下内容:
thinkive:thinkive
4.4 启动服务器
[root@localhost /]# cd /opt/software/rsync/bin/
[root@localhost bin]# ./rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf
[root@localhost bin]# ps –ef | grep rsync
检查服务是否已经启动
以服务器方式启动在52326端口(缺省为873端口,若不指定配置文件路径,则缺省配置文件从/etc/rsyncd.conf读取)
如果要在一台机器上启动多个同步服务进程,可给定不同的--config --port。
若要随机启动,则可以把此代码加入到/etc/rc.local中
/opt/software/rsync/bin/rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf
5.linux(客户端)
5.1 安装Rsync
[root@localhost /]# cd /opt/install
[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz
[root@localhost install]# cd rsync-3.0.7
[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync
[root@localhost rsync-3.0.7]# make
[root@localhost rsync-3.0.7]# make install
安装完成后,在/opt/software/rsync中包含了安装的所有文件
5.2 配置密码认证文件
在/opt目录中创建文件名为/rsync.pas 的密码认证文件(密码文件路径和文件名称可自行修改),然后在此文件中添加如下用户密码(必须和服务器端配置的用户密码一致):
thinkive
修改该文件的权限
chmod 600 rsync.pas
5.3 执行同步命令
[root@localhost /]# cd /opt/software/rsync/bin
[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main
[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload
详细参数说明:
z是压缩传输,
r是递归同步,
topg都是保持文件原有属性如属主、时间的参数。
u是只同步已经更新的文件,避免没有更新的文件被重复更新一次,不过要注意两者机器的时钟的同步。
–progress是指显示出详细的进度情况,
–delete是指如果服务器端删除了这一文件,那么客户端也相应把文件删除,保持真正的一致。
--port 指定访问的端口
后面的thinkive@192.168.1.108::data中,之后的data是模块名,也就是在rsyncd.conf中自定义的名称,thinkive是指定模块中指定的可以同步的用户名。
–password-file=/opt/rsync.pas指定密码文件,这样就可以在脚本中使用而无需交互式地输入验证密码了,这里需要注意的是这份密码文件权限属性要设得只有属主可读。
/opt/install_bak是备份到本地的目录名,根据具体的需求填写。
5.4 生成同步的脚本
脚本文件位置可以自定,此处假设在/opt/rsync.sh
DATE=`date +%Y%m%d`
cd /opt/software/rsync/bin
./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main >> /opt/software/rsync/log/rsync_main.$DATE.log
./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload >> /opt/software/rsync/log/rsync_upload.$DATE.log
上面每天会生成一个日志
赋予权限 chmod 777 /opt/rsync.sh
5.5 加入到定时器中
把
*/1 * * * * root /opt/rsync.sh
加入到/etc/crontab中,然后使用如下命令重新启动crond
service crond restart
上面定时任务表示每分钟增量同步一次数据。
具体可以参见linux添加定时任务crond
6.注意问题
数据同步软件主要是根据时间进行数据的增量同步,所以必须主服务器和客户端之间的机器的时间不能相差太远,否则可能导致数据不能正确的同步。
7.Rsync命令参数详解
rsync是一个功能非常强大的工具,其命令也有很多功能特色选项,我们下面就对它的选项一一进行分析说明。Rsync的命令格式可以为以下六种:
rsync [OPTION]... SRC DEST
rsync [OPTION]... SRC [USER@]HOST:DEST
rsync [OPTION]... [USER@]HOST:SRC DEST
rsync [OPTION]... [USER@]HOST::SRC DEST
rsync [OPTION]... SRC [USER@]HOST::DEST
rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
对应于以上六种命令格式,rsync有六种不同的工作模式:
1)拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如:rsync -a /data /backup
2)使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如:rsync -avz *.c foo:src
3)使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如:rsync -avz foo:src/bar /data
4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如:rsync -av root@172.16.78.192::www /databack
5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如:rsync -av /databack root@172.16.78.192::www
6)列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。如:rsync -v rsync://172.16.78.192/www
rsync参数的具体解释如下:
-v, --verbose 详细模式输出
-q, --quiet 精简输出模式
-c, --checksum 打开校验开关,强制对文件传输进行校验
-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
-r, --recursive 对子目录以递归模式处理
-R, --relative 使用相对路径信息
-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀
-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links 保留软链结
-L, --copy-links 想对待常规文件一样处理软链结
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
--safe-links 忽略指向SRC路径目录树以外的链结
-H, --hard-links 保留硬链结 -p, --perms 保持文件权限
-o, --owner 保持文件属主信息 -g, --group 保持文件属组信息
-D, --devices 保持设备文件信息 -t, --times 保持文件时间信息
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run现实哪些文件将被传输
-W, --whole-file 拷贝文件,不进行增量检测
-x, --one-file-system 不要跨越文件系统边界
-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节
-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
--delete 删除那些DST中SRC没有的文件
--delete-excluded 同样删除接收端那些被该选项指定排除的文件
--delete-after 传输结束以后再删除
--ignore-errors 及时出现IO错误也进行删除
--max-delete=NUM 最多删除NUM个文件
--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
--force 强制删除目录,即使不为空
--numeric-ids 不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP超时时间,单位为秒
-I, --ignore-times 不跳过那些有同样的时间和长度的文件
--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0
-T --temp-dir=DIR 在DIR中创建临时文件
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
-P 等同于 --partial
--progress 显示备份过程
-z, --compress 对备份的文件在传输时进行压缩处理
--exclude=PATTERN 指定排除不需要传输的文件模式
--include=PATTERN 指定不排除而需要传输的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 绑定到特定的地址
--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
--port=PORT 指定其他的rsync服务端口
--blocking-io 对远程shell使用阻塞IO
-stats 给出某些文件的传输状态
--progress 在传输时现实传输过程
--log-format=formAT 指定日志文件格式
--password-file=FILE 从FILE中得到密码
--bwlimit=KBPS 限制I/O带宽,KBytes per second -h, --help 显示帮助信息