shell报警系统

2021-11-22 10:45:05

告警系统需求分析

• 需求：使用shell定制各种个性化告警工具，但需要统一化管理、规范化管理。
• 思路：指定一个脚本包，包含主程序、子程序、配置文件、邮件引擎、输出日志等。
• 主程序：作为整个脚本的入口，是整个系统的命脉。
• 配置文件：是一个控制中心，用它来开关各个子程序，指定各个相关联的日志文件。
• 子程序：这个才是真正的监控脚本，用来监控各个指标。
• 邮件引擎：是由一个python程序来实现，它可以定义发邮件的服务器、发邮件人以及发件人密码
• 输出日志：整个监控系统要有日志输出。
• 要求：我们的机器角色多种多样，但是所有机器上都要部署同样的监控系统，也就说所有机器不管什么角色，整个程序框架都是一致的，不同的地方在于根据不同的角色，定制不同的配置文件。
• 程序架构：

bin下是主程序
conf下是配置文件
shares下是各个监控脚本
mail下是邮件引擎
log下是日志。

准备环境

centos7操作系统、可以联网、安装python3环境（直接yum install -y python3即可）net-tools。

任务实施

一定要创建一个目录，把所有的脚本都放在目录下，好方便我们查找，/usr/local/sbin/目录下

1、配置main.sh

[root@localhost ~]# mkdir /usr/local/sbin/mon #创建项目各个子目录
[root@localhost ~]# cd /usr/local/sbin/mon
[root@localhost mon]# mkdir bin conf shares mail log
[root@localhost mon]# cd bin/

[root@localhost bin]# yum install -y vim
。。。。。
。。。。。
Complete!

[root@localhost bin]# vim main.sh
#!/bin/bash
#是否发送邮件的开关
export send=1
# 过滤ip地址
export addr=`/sbin/ifconfig |grep -A1 "eno16777728"|awk '/inet/ {print $2}'`
dir=`pwd`
# 只需要最后一级目录名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
# 下面的判断目的是，保证执行脚本的时候，我们在bin目录里，不然监控脚本、邮件和日志很
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then
    conf_file="../conf/mon.conf"
else
    echo "you shoud cd bin dir"
    exit
fi
#exec 1>>../log/mon.log 2>>../log/err.log
echo "`date +"%F %T"` load average"
/bin/bash ../shares/load.sh
#先检查配置文件中是否需要监控502
if grep -q 'to_mon_502=1' $conf_file; then
    export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'`
    /bin/bash  ../shares/502.sh
fi

2.配置mon.conf

我们项目各个程序的主开关，负责各个程序是否监控，这里面我们定义了很多参数，有些是我们用不到的，文件放在conf目录下。

[root@localhost bin]# cd …/conf/

[root@localhost conf]# vim mon.conf
## to config the options if to monitor
## 定义mysql的服务器地址、端口以及user、password
to_mon_cdb=0   ##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
## httpd   如果是1则监控，为0不监控
to_mon_httpd=0
## php 如果是1则监控，为0不监控
to_mon_php_socket=0
## http_code_502  需要定义访问日志的路径
to_mon_502=0
logfile=/data/log/xxx.xxx.com/access.log
## request_count   定义日志路径以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net

3.配置监控子程序

子程序才是我们真正的监控程序，这些程序我们都放在shares目录下，这里主要有三个程序，分别是load.sh、502.sh、disk.sh。
load.sh程序的核心就是利用uptime命令取程序最近一分钟的负载值做判断，如果值大于我们设定的阈值就发送邮件告警。mail.sh后面跟三个参数分别是邮件接收人、邮件主题、邮件内容，可以根据需要自定义参数。

[root@localhost conf]# cd ../shares/
[root@localhost shares]# vi load.sh 
#!/bin/bash
##Writen by ##
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`
if [ $load -gt 0 ] && [ $send -eq "1" ]
then
    /bin/bash ../mail/mail.sh  2297640160@qq.com "$addr\_load:$load" "$addr `date +%T` load is $load"
fi
echo "`date +%T` load is $load"

502.sh 核心就是监控nginx运行日志一分钟502出现的次数，如果大于我们设定的阈值就发送邮件告警。这个脚本需要在conf目录下mon.conf设置502运行日志的目录位置。

[root@localhost shares]# vi 502.sh 
#!/bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d:  $log  |grep ' 502 '|wc -l`
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
     /bin/bash ../mail/mail.sh 2297640160@qq.com "$addr\_502 $c_502"  "$addr `date +%T` load is $load"
fi
echo "`date +%T` 502 $c_502"

disk.sh 核心思想就是利用for循环遍历每个分区的磁盘利用率，如果有分区磁盘利用率超过设定的阈值就发送告警邮件。

[root@localhost shares]# vi disk.sh

#!/bin/bash
##Writen by ##
rm -f ../log/disk.tmp
for r in 'df -h |awk -F '[ %]+' '{print $5}'|grep -v Use'
do
    if[ $r -gt 90 ] && [ $send -eq "1" ]
then
    /bin/bash ../mail/mail.sh 2297640160@qq.com "$addr\_disk $r" "$addr 'date +%T' disk useage is $r 'df -h' "
    echo "'date +%T' disk useage is nook 'df -h'"
fi
    else
       echo "'date +%T' disk useage is ok 'df-h'"
fi

查看一下树状图，理清一些关系

[root@localhost ~]# cd /usr/local/sbin
[root@localhost sbin]# cd mon/
[root@localhost mon]# tree
.
├── bin
│   └── main.sh
├── conf
│   └── mon.conf
├── log
├── mail
│   ├── mail.py
│   └── mail.sh
└── shares
    ├── 502.sh
    ├── disk.sh
    └── load.sh

5 directories, 7 files

4、配置告警系统邮件引擎

告警系统邮件引擎由两个文件组成，都在mail目录下，mail.py负责发送邮件，mail.sh负责告警收敛。
mail.py是由python3编写的脚本，如果没有学过python 内容不需要关心，只需要注意最下面一行，填写你的网易163账号、授权码和发送人邮箱。

[root@localhost shares]# cd ../mail/
[root@localhost mail]# vi mail.py
import smtplib
from email.mime.text import MIMEText
import os,sys
def sendqqmail(username,password,mailfrom,mailto,subject,content):
    mail_host = 'smtp.163.com'
    # 163用户名
    mail_user = username
    # 密码(部分邮箱为授权码)
    mail_pass = password
    # 邮件发送方邮箱地址
    sender = mailfrom
    # 邮件接受方邮箱地址，注意需要[]包裹，这意味着你可以写多个邮件地址群发
    receivers = [mailto]
    # 设置email信息
    # 邮件内容设置
    message = MIMEText(content, 'plain', 'utf-8')
    # 邮件主题
    message['Subject'] = subject
    # 发送方信息
    message['From'] = mailfrom
    # 接受方信息
    message['To'] = mailto
    # 登录并发送邮件
    try:
        smtpObj = smtplib.SMTP()
        # 连接到服务器
        smtpObj.connect(mail_host, 25)
        # 登录到服务器
        smtpObj.login(mail_user, mail_pass)
        # 发送
        smtpObj.sendmail(
            sender, receivers, message.as_string())
        # 退出
        smtpObj.quit()
        print('success')
    except smtplib.SMTPException as e:
        print('error', e)  # 打印错误

if __name__ == "__main__":
    to=sys.argv[1]
    subject=sys.argv[2]
    content=sys.argv[3]
    # 邮箱账号   授权码   发送人邮箱
    sendqqmail('wen_baoer','PWAVPXMLBTDOEKQP','wen_baoer@163.com',to,subject,content)

mail.sh是负责告警收敛的，如果每次运行脚本出现问题都发送邮件就太烦人了，所以就有了这个告警收敛脚本。这个脚本设置了三种场景，分别是第一次执行脚本如果有警告就发送邮件、业务连续报警十分钟再发送一封邮件和业务间断的报警一小时内满十分钟就报警一次。

[root@localhost mail]# vim mail.sh
log=$2
t_s=`date +%s`
t_s2=`date -d "2 hours ago" +%s`
if [ ! -f /tmp/$log ]
then
    echo $t_s2 > /tmp/$log
fi
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`
echo $t_s>>/tmp/$log
v=$[$t_s-$t_s2]
echo $v
if [ $v -gt 3600 ]
then
    python3 ../mail/mail.py  "$1"  "$2"  "$3"
    echo "0" > /tmp/$log.txt
else
    if [ ! -f /tmp/$log.txt ]
    then
        echo "0" > /tmp/$log.txt
    fi
    nu=`cat /tmp/$log.txt`
    nu2=$[$nu+1]
    echo $nu2>/tmp/$log.txt
    if [ $nu2 -gt 10 ]
    then
         python3 ../mail/mail.py  $1 "trouble continue 10 min $2" "$3"
         echo "0" > /tmp/$log.txt
    fi
fi

测试

系统没有nginx环境，所以这里我们只测试Linux负载情况load.sh这个脚本。

首先我们需要安装python3环境和net-tools。

[root@localhost bin]# yum install -y net-tools python3

因为是测试我们先把日志关掉，注释掉main.sh脚本exec那一行。
我们要把load.sh脚本改成满足我们设定的阈值，所以改一下判断条件当系统负载等于0时我们就告警。

[root@localhost bin]# vim ../shares/load.sh 
#!/bin/bash
##Writen by ##
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`
if [ $load -gt 0 ] && [ $send -eq "1" ]
then
    /bin/bash ../mail/mail.sh  2297640160@qq.com "$addr\_load:$load" "$addr `date +%T` load is $load"
fi
echo "`date +%T` load is $load"

执行主程序

(1)负载量没有大于1的时候

[root@localhost mail]# cd ../bin/
[root@localhost bin]# sh -x main.sh 
+ export send=1
+ send=1
++ /sbin/ifconfig
++ awk '/inet/ {print $2}'
++ grep -A1 eno16777728
+ export addr=192.168.200.25
+ addr=192.168.200.25
++ pwd
+ dir=/usr/local/sbin/mon/bin
++ echo /usr/local/sbin/mon/bin
++ awk -F/ '{print $NF}'
+ last_dir=bin
+ '[' bin == bin ']'
+ conf_file=../conf/mon.conf
++ date '+%F %T'
+ echo '2020-11-10 02:09:50 load average'
2020-11-10 02:09:50 load average
+ /bin/bash ../shares/load.sh
02:09:50 load is 0
+ grep -q to_mon_502=1 ../conf/mon.conf

（2）需要让电脑负载量大于1，才会发送报警邮件，编写一个while循环增加负载量（克隆会话）

[root@localhost ~]# cat 1.sh 
#!/bin/bash
i=99
while [ 1 ]
do 
	i*i
done

运行
[root@localhost ~]# sh 1.sh

实时查看电脑的负载量

执行主程序（这个需要多打几次，才会出现success）

[root@localhost bin]# sh -x main.sh 
+ export send=1
+ send=1
++ grep -A1 eno16777728
++ awk '/inet/ {print $2}'
++ /sbin/ifconfig
+ export addr=192.168.200.15
+ addr=192.168.200.15
++ pwd
+ dir=/usr/local/sbin/mon/bin
++ echo /usr/local/sbin/mon/bin
++ awk -F/ '{print $NF}'
+ last_dir=bin
+ '[' bin == bin ']'
+ conf_file=../conf/mon.conf
++ date '+%F %T'
+ echo '2021-04-09 06:09:46 load average'
2021-04-09 06:09:46 load average
+ /bin/bash ../shares/load.sh
1
06:09:46 load is 1
+ grep -q to_mon_502=1 ../conf/mon.conf
[root@localhost bin]# sh -x main.sh 
+ export send=1
+ send=1
++ /sbin/ifconfig
++ awk '/inet/ {print $2}'
++ grep -A1 eno16777728
+ export addr=192.168.200.15
+ addr=192.168.200.15
++ pwd
+ dir=/usr/local/sbin/mon/bin
++ echo /usr/local/sbin/mon/bin
++ awk -F/ '{print $NF}'
+ last_dir=bin
+ '[' bin == bin ']'
+ conf_file=../conf/mon.conf
++ date '+%F %T'
+ echo '2021-04-09 06:09:48 load average'
2021-04-09 06:09:48 load average
+ /bin/bash ../shares/load.sh
2
success
06:09:49 load is 1
+ grep -q to_mon_502=1 ../conf/mon.conf

直接结果显示我们的邮件发送成功了，并且收到了邮件

码农公寓

告警系统需求分析

准备环境

任务实施

测试

相关文章