LVS 之 高可用性

时间:2022-09-15 01:26:40

1  概述 


在lvs的集群设计中,存在两个地方不可用的问题,Director不可用 和RS不可用

A)Director不可用

Director不可用整个系统将不可用;SPoF  Single Point of Failure,单点故障导致

解决方案:

通过keepalived  heartbeat/corosync 实现高可用

B)RS不可用时

当后端服务器存在某一台RS不可用,Director依然会调度请求至此RS,导致请求不能被处理,服务失败

解决方案:由Director对各RS健康状态进行检查,失败时禁用,成功时启用

工具有keepalived   heartbeat/corosync, ldirectord

同时,也可以通过脚本对后端RS监控状态进行监控

检测方式:

(a) 网络层检测,icmp

(b) 传输层检测,端口探测

(c) 应用层检测,请求某关键资源

RS全不可用时,可以通过back server或者sorryserver来提示用户

本文将介绍ldirectord软件和通过脚本的方式来实现对后端服务器的监控


2  ldirectord


ldirectord:监控和控制LVS守护进程,可管理LVS规则,该软件解决了ipvs不能监控后端服务器的状态的问题。

原理是根据配置文件设定好的规则,去检查服务器端的应用是否正常。通过配置文件配置服务后,只要启动该软件就会按设定的规则进行配置和监测

service ldirectord  start

那么该软件就会根据配置文件的规则创建lvs集群类型,添加RS服务器,并进行监控,如果后端服务失败,就移除对应的RS,如果RS服务恢复正常,会自动将RS加入调度计划里。

如后端监控http服务时,该软件会通过抓取后端服务器指定页面的关键字来决定后端http服务是否正常运行。

包名:ldirectord-3.9.6-0rc1.1.1.x86_64.rpm,该服务包在base源中没有,要另外下载,存在依赖性,下载后用yum安装,解决依赖性。

.软件相关文件:

/etc/ha.d/ldirectord.cf主配置文件/usr/share/doc/ldirectord-3.9.6/ldirectord.cf配置模版/usr/lib/systemd/system/ldirectord.service服务/usr/sbin/ldirectord主程序/var/log/ldirectord.log 日志/var/run/ldirectord.ldirectord.pidpid文件

Ldirectord配置文件示例 

checktimeout=3 #多长时间为超时时间,如3s没回应,表示超时checkinterval=1 # 检查的间隔autoreload=yes #更改策略后,不需要重启服务就自动生效fallback=127.0.0.1:80 #这里是定义sorry server,当后端的RS都宕机了,本机给用户提示信息logfile=“/var/log/ldirectord.log“#日志文件quiescent=no #down时yes权重为0,no为删除virtual=5#指定VS的FWM或IP:portreal=172.16.0.7:80 gate 2 # gate表示dr模式,2是权重real=172.16.0.8:80 gate 1fallback=127.0.0.1:80 gate#sorryserverservice=httpscheduler=wrr #调度算法checktype=negotiate #默认就可以checkport=80 #检查端口,这样会给服务器的负载加大。因为对外提供服务是80端口。可以另外在监听一个http的端口,如listen8080但是这里有个矛盾,万一80异常了,但是8080还是正常的,所以就导致了检查结果不准确request="index.html" #监控的主页面receive=“Test Ldirectord" #抓到默认的几个字符,就认为服务是正常的。大小写敏感

例子

#监控后端的http服务是否正常,通过抓取后端服务器index.html页面的关键字centos

cp  /usr/share/doc/ldirectord-3.9.6/ldirectord.cf /etc/ha.d/ldirectord.cfvim /etc/ha.d/ldirectord.cfvirtual=192.168.32.66:80   real=192.168.32.63:80 gate   real=192.168.32.73:80 gate   fallback=127.0.0.1:80 gate    service=http    scheduler=wrr    #persistent=600   #netmask=255.255.255.255    protocol=tcp   checktype=negotiate    checkport=80   request="index.html"receive="centos"


3  自动化脚本


脚本使用需要注意事项

脚本中的VIP,RIP,RW(权重)监控端口VPORT和RPORT这些变量需要根据实际情况进行调整

脚本设置了循环监测,建议使用如下语句执行脚本

nohup /PATH/TO/script/monitorRS.sh > /root/RSout.file 2>&1 &

 脚本默认是3s对后端的RS进行一次监测,该值可以根据实际情况调整,命令在脚本后sleep 3.调整数字3即可。

一键监控脚本如下

#!/bin/bash##******************************************************************************#Author:               Sunny#Date:                 2017-10-23#FileName:             monitorRS.sh#version:              1.0#Your change info:     #Description:          For auto monitor RS status#Copyright(C):         2017  All rights reserved#*****************************************************************************echo "This is a script to auto monitor RS status,if you want to run the scirpt ,suggest you to excute cmd below"echoecho " nohup /PATH/TO/script/monitorRS.sh > /root/RSout.file 2>&1 & "echoecho "If you want to stop the script,you should run two cmds below,first you find the PID,then kill it"echoecho "ps -ef | grep monitorRS.sh"echo  "kill -9 PID"VIP=10.10.10.10VPORT=80RS=("192.168.32.63" "192.168.32.73")RW=("3" "1")RPORT=80TYPE=gLOG=/var/log/monitorRS.log[ -e /var/log/monitorRS.log ] || touch /var/log/monitorRS.logaddrs() {  ipvsadm -a -t $VIP:$VPORT -r $1:$RPORT -$TYPE -w $2  [ $? -eq 0 ] && return 0 || return 1}delrs() {  ipvsadm -d -t $VIP:$VPORT -r $1:$RPORT  [ $? -eq 0 ] && return 0 || return 1}while true; do  let COUNT=0for rip in ${RS[*]}; do    if ipvsadm -Ln | grep "$rip:$RPORT" &> /dev/null ; then      RS_status=online    else      RS_status=offline    fiif $(curl --connect-timeout 1 http://$rip &>/dev/null) ; then    RS_test=yeselseRS_test=noficase $RS_test inyes)      case ${RS_status} in  online)  echo "`date +'%F %H:%M:%S'`, $rip is work nice now." >> $LOG  ;;  offline)         addrs $rip ${RW[$COUNT]} &>/dev/null; addstatus=$?         if  [ $? -eq 0 ] && RS_status=online ; then echo "`date +'%F %H:%M:%S'`, $rip has been added to work." >> $LOGelse    echo "something wrong when add $rip back to work,please check,maybe your should do it manual"     echo "`date +'%F %H:%M:%S'`, $rip is added failed." >> $LOGfi  ;;  *)  echo "Something wrong when read RS_status"  ;;  esac;;no)      case ${RS_status} in  online)         delrs $rip &>/dev/null;         [ $? -eq 0 ] && RS_status=offline && echo "`date +'%F %H:%M:%S'`, $rip is out of work,it is delete." >> $LOG ;;  offline) echo "`date +'%F %H:%M:%S'`,$rip is still out of  work" >> $LOG ;;        *)  echo "Something wrong when read RS_status"  ;;  esac;;*)   echo "Something wrong when read RS_test";;esac    let COUNT++  done  sleep 3done


4  总结


本文通过介绍工具ldirectord 和 编写了自己设计的脚本对后端的RS进行监控,但是监控的方式都是对后端RS进行轮询访问,这种方式会对服务器造成一定的压力,因此,使用时要权衡。总体来说,如果要使用LVS进行调度,建议是要对后端RS进行监控,否则当RS异常时,将导致服务不可用。




本文出自 “阳光运维” 博客,请务必保留此出处http://ghbsunny.blog.51cto.com/7759574/1975832