prometheus本身不支持告警功能,主要通过插件alertmanage来实现告警。AlertManager用于接收Prometheus发送的告警并对于告警进行一系列的处理后发送给指定的用户。
prometheus触发一条告警的过程:
prometheus--->触发阈值--->超出持续时间--->alertmanager--->分组|抑制|静默--->媒体类型--->邮件|钉钉|微信等。
配置alertmanager
- 安装alertmanager。https://github.com/prometheus/alertmanager/releases/download/v0.16.2/alertmanager-0.16.2.linux-amd64.tar.gz
- 配置告警信息 vim alertmanager.yml
global: resolve_timeout: 5m smtp_smarthost: 'smtp.163.com:25' smtp_from: 'xxx@163.com' smtp_auth_username: 'xxx@163.com' smtp_auth_password: 'xxxxxx' smtp_require_tls: false route: # route用来设置报警的分发策略 group_by: ['alertname'] # 采用哪个标签来作为分组依据 group_wait: 10s # 组告警等待时间。也就是告警产生后等待10s,如果有同组告警一起发出 group_interval: 10s # 两组告警的间隔时间 repeat_interval: 20m # 重复告警的间隔时间,减少相同邮件的发送频率 receiver: 'default-receiver' # 接收人 receivers: - name: 'default-receiver' email_configs: - to: 'xxxxxxxx@qq.com'
注意:之前报警了但是邮件一直没有发送出去,# telnet smtp.163.com 25发现也不通,发现是腾讯云做了限制,需要点击25端口解封。
启动alertmanage
# ./amtool check-config alertmanager.yml # 检查配置
Checking 'alertmanager.yml' SUCCESS
Found:
- global config
- route
- 0 inhibit rules
- 1 receivers
- 0 templates
# ./alertmanager --config.file='alertmanager.yml' # 启动
web ui查看 : http://alertmanager_ip:9093
配置prometheus与alertmanager通信
# vim prometheus.yml
alerting: alertmanagers: # 配置alertmanager - static_configs: - targets: - 127.0.0.1:9093 #alertmanager服务器ip端口 rule_files: # 告警规则文件 - 'rules/*.yml'
配置报警规则rules
# vim rules/node.yml
groups: - name: test rules: - alert: 内存使用率过高 expr: 100-(node_memory_Buffers_bytes+node_memory_Cached_bytes+node_memory_MemFree_bytes)/node_memory_MemTotal_bytes*100 > 30 for: 1m # 告警持续时间,超过这个时间才会发送给alertmanager labels: severity: warning annotations: summary: "Instance {{ $labels.instance }} 内存使用率过高" description: "{{ $labels.instance }} of job {{$labels.job}}内存使用率超过80%,当前使用率[{{ $value }}]." - alert: cpu使用率过高 expr: 100-avg(irate(node_cpu_seconds_total{mode="idle"}[5m])) by(instance)*100 > 0 for: 1m labels: severity: warning annotations: summary: "Instance {{ $labels.instance }} cpu使用率过高" description: "{{ $labels.instance }} of job {{$labels.job}}cpu使用率超过80%,当前使用率[{{ $value }}]."
# 尽可能把详细告警信息写入summary标签值,因为告警短信/邮件/钉钉发送的内容使用了summary标签中的值。
检查告警规则,重启prometheus
# ./promtool check rules rules/node.yml
Checking rules/node.yml
SUCCESS: 2 rules found
amtool 管理工具可以查看:
# ./amtool alert --alertmanager.url=http://localhost:9093 Alertname Starts At Summary 内存使用率过高 2019-04-09 13:14:45 CST Instance 192.168.1.12:9100 内存使用率过高
在prometheus界面的alert可以看到告警状态。
- 绿色表示正常。
- 红色状态为 PENDING表示alerts 还没有发送至 Alertmanager,因为rules里面配置了for: 1m。
- 1分钟后状态由 PENDING 变为 FIRING,此时,prometheus才将告警发给alertmanager,在 Alertmanager 中可以看到有一个 alert。
收到邮件:
告警收敛(分组,抑制,静默)
- 分组(group): 将类似性质的警报合并为单个通知。
group_by: ['alertname'] # 以标签作为分组依据 group_wait: 10s # 分组报警等待时间 group_interval: 10s # 发送组告警间隔时间 repeat_interval: 1h # 重复告警发送间隔时间
- 抑制(inhibition): 当警报发出后,停止重复发送由此警报引发的其他警报。可以消除冗余告警
inhibit_rules: - source_match: # 当此告警发生,其他的告警被抑制 severity: 'critical' target_match: # 被抑制的对象 severity: 'warning' equal: ['id', 'instance']
- 静默(silences): 是一种简单的特定时间静音的机制。例如:服务器要升级维护可以先设置这个时间段告警静默。
静默在alertmanager的web界面silence里面配置,create silence。
配置完成后可以看到
在这期间就收不到报警邮件了。