Linux记录-监控系统开发

需求：使用shell定制各种个性化告警工具，但需要统一化管理、规范化管理。
思路：指定一个脚本包，包含主程序、子程序、配置文件、邮件引擎、输出日志等。
主程序：作为整个脚本的入口，是整个系统的命脉。
配置文件：是一个控制中心，用它来开关各个子程序，指定各个相关联的日志文件。
子程序：这个才是真正的监控脚本，用来监控各个指标。
邮件引擎：是由一个python程序来实现，它可以定义发邮件的服务器、发邮件人以及发件人密码
输出日志：整个监控系统要有日志输出。
要求：我们的机器角色多种多样，但是所有机器上都要部署同样的监控系统，也就说所有机器不管什么角色，整个程序框架都是一致的，不同的地方在于根据不同的角色，定制不同的配置文件。
程序架构： 

bin下是主程序
conf下是配置文件
shares下是各个监控脚本
mail下是邮件引擎
log下是日志。

主脚本

#!/bin/bash #是否发送邮件的开关 export send=1 #过滤ip地址 export addr=`/sbin/ifconfig |grep -A1 "ens33: "|awk '/inet/ {print $2}'` dir=`pwd` #只需要最后一级目录名 last_dir=`echo $dir|awk -F'/' '{print $NF}'` #下面的判断目的是，保证执行脚本的时候，我们在bin目录里，不然监控脚本、邮件和日志很有可能找不到 if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then conf_file="../conf/mon.conf" else echo "you shoud cd bin dir" exit fi exec 1>>../log/mon.log 2>>../log/err.log echo "`date +"%F %T"` load average" /bin/bash ../shares/load.sh #先检查配置文件中是否需要监控502 if grep -q 'to_mon_502=1' $conf_file; then export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'` /bin/bash ../shares/502.sh fi

配置文件

vim mon/conf/mon.conf

##to config the options if to monitor ##定义mysql的服务器地址、端口以及user、password to_mon_cdb=0 ##0 or 1, default 0,0 not monitor, 1 monitor db_ip=10.20.3.13 db_port=3315 db_user=username db_pass=passwd ##httpd 如果是1则监控，为0不监控 to_mon_httpd=0 ##php 如果是1则监控，为0不监控 to_mon_php_socket=0 ##http_code_502 需要定义访问日志的路径 to_mon_502=1 logfile=/data/log/xxx.xxx.com/access.log ##request_count 定义日志路径以及域名 to_mon_request_count=0 req_log=/data/log/www.discuz.net/access.log domainname=www.discuz.net

监控项目

1 负载监控
vim /mon/shares/load.sh

#! /bin/bash load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1` if [ $load -gt 10 ] && [ $send -eq "1" ] then echo "$addr `date +%T` load is $load" >../log/load.tmp /bin/bash ../mail/mail.sh [e-mail] "$addr\_load:$load" "`cat ../log/load.tmp`" fi echo "`date +%T` load is $load"

2 502错误监控
vim mon/shares/502.sh

#! /bin/bash d=`date -d "-1 min" +%H:%M` c_502=`grep :$d: $log |grep ' 502 '|wc -l` if [ $c_502 -gt 10 ] && [ $send == 1 ]; then echo "$addr $d 502 count is $c_502">../log/502.tmp /bin/bash ../mail/mail.sh [e-mail] "$addr\_502 $c_502" "`cat ../log/502.tmp`" fi echo "`date +%T` 502 $c_502"

3 硬盘监控
vim mon/shares/disk.sh

#! /bin/bash rm -f ../log/disk.tmp for r in `df -h |awk -F '[ %]+' '{print $5}'|grep -v Use` do if [ $r -gt 90 ] && [ $send -eq "1" ] then echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp fi if [ -f ../log/disk.tmp ] then df -h >> ../log/disk.tmp /bin/bash ../mail/mail.sh [e-mail] "$addr\_disk$r" "` cat ../log/disk.tmp`" echo "`date +%T` disk useage is nook" else echo "`date +%T` disk useage is ok" fi

告警脚本

vim mail.sh

log=$1 //给变量log赋值 t_s=`date +%s` //定义当前绝对时间戳，单位为秒 t_s2=`date -d "2 hours ago" +%s` //定义上次告警时间戳，用作第一次发现异常 if [ ! -f /tmp/$log ] then echo $t_s2 > /tmp/$log fi //将上次告警时间戳写入日志，用作第一次发现异常 t_s2=`tail -1 /tmp/$log|awk '{print $1}'` //从日志取出上次告警时间戳 echo $t_s >> /tmp/$log //将本次告警时间戳追加到日志 v=$[$t_s-$t_s2] //计算两次告警相隔时间 if [ $v -gt 3600 ] then ../mail/mail.py $1 $2 "$3" //当相隔超过一小时，发送邮件，提醒有故障发生。 echo "0" > /tmp/$log.txt else if [ ! -f /tmp/$log.txt ] then echo "0" > /tmp/$log.txt fi nu=`cat /tmp/$log.txt` nu2=$[$nu+1] echo $nu2 > /tmp/$log.txt if [ $nu2 -gt 10 ] then ../mail/mail.py $1 "trouble continue 10 min $2 " "$3" echo "0" > /tmp/$log.txt fi fi //相隔小于一小时，启动计数器，计数器大于10发送邮件，提醒故障持续了10分钟。

发邮件脚本

vim mail.py

#!/usr/bin/env python #-*- coding: UTF-8 -*- import os,sys reload(sys) sys.setdefaultencoding('utf8') import getopt import smtplib from email.MIMEText import MIMEText from email.MIMEMultipart import MIMEMultipart from subprocess import * def sendqqmail(username,password,mailfrom,mailto,subject,content): gserver = 'smtp.qq.com' //更具实际情况作更改 gport = 25 try: msg = MIMEText(unicode(content).encode('utf-8')) msg['from'] = mailfrom msg['to'] = mailto msg['Reply-To'] = mailfrom msg['Subject'] = subject smtp = smtplib.SMTP(gserver, gport) smtp.set_debuglevel(0) smtp.ehlo() smtp.login(username,password) smtp.sendmail(mailfrom, mailto, msg.as_string()) smtp.close() except Exception,err: print "Send mail failed. Error: %s" % err def main(): to=sys.argv[1] subject=sys.argv[2] content=sys.argv[3] ##定义QQ邮箱的账号和密码，你需要修改成你自己的账号和密码 sendqqmail('[e-mail]','aaaaaaaaaa','[e-mail]',to,subject,content) if __name__ == "__main__": main()

两个问题

1 告警收敛脚本原理
首先明白一个前提，我们是发现问题才会告警发邮件通知，那么当告警脚本未加载时，说名当前监控项正常。或者之前出现异常，但是已经恢复。
我们写这个脚本的目的是防止问题出现，处于修复期的频繁告警。那么我们就要去判断这是一个新的异常，还是一个已发现的故障。我们可以定义一个时间阈值，一小时。比如距离上一次问题出现，也就是距离上一次告警的时间大于一小时，我们认为就是一个新的异常，否则就是一个尚未解决的故障。
具体怎么实现了，我们可以借助记录日志的思想，每次告警，我们都记录一个绝对时间戳，当下一次告警到来时，用当前时间戳减去上一次报警的时间戳，然后if判断该差值，从而确定告警动作。
在具体脚本中定义t2为上一次告警时间戳，t1为当前时间戳，t1-t2就是我们要的判断值。t1可以用命令直接获取，t1=`date +%s` t2 要从日志中获取。但是还有一个问题，对于第一次告警，该t2从哪里来了，也简单，我们自己定义一个满足新异常条件的时间戳就可以，比如两小时之前。
t2=`date -d "two hours ago" +%s`
对于一个已发现待解决的故障，也就是对应上面时间戳差值小于一小时的情况，如果我们的脚本是一分钟执行一次，就可以做一个计数器，每发现一次，计数一次，当计数器大于10时，也就是异常持续了10分钟，这时候发送邮件一次，同时清空计时器。
2 $1 $2 $3 参数传递问题
因为mail.py 脚本决定了发送邮件必须带三个参数，收件人邮箱，主题， 内容。因此mail.sh 调用mail.py 必须传递给它三个参数，那么这三个参数最终来自哪里呢，来自监控项脚本，比如load.sh
传递顺序为 load.sh---->mail.sh----->mail.py
再解释mail.sh 第一行，log=$1 , 是一个变量赋值语句，此时的$1就是load.sh 传递过来的邮箱名称。
在程序中我么看到后面将时间戳保存在了/tmp/$log 下面，该复制语句是为了给该日志文件取一个有意义的名称，便于以后管理。当然可以给出其他赋值，比如log=time.txt