1. 目的
前端基础是所有前端业务的基石,并保障着前端业务的稳定性和可靠性,前端基础稳定,才能保证前端业务稳定,一旦出现问题,影响范围大,所以保障前端基础的稳定性和可靠性是重中之重,但是随着前端业务量的井喷,以及基础设施的复杂性,问题的多样性,对故障处理过程的规范性、专业度要求越来越高。
因此,为了加强基础技术团队的质量意识,责任意识,提高基础团队的故障处理和协作能力,特制订本制度,规范团队的故障管理,并实现标准化、流程化。
2. 适用范围
前端基础技术团队
3. 定义解释
3.1 职责定义
序号
|
角色
|
故障责任定义
|
1
|
开发
|
因技术方案设计问题、代码实现bug、代码逻辑等问题导致的故障
|
2
|
运维
|
因基础设施变更,不稳定,异常无法提供服务等问题导致的故障
|
4. 故障标准
4.1 故障定义
1.发生的、影响业务正常运作的问题或事故,认定为“故障”
2.同一类问题发生频次超过某个数量,也可认定为故障。
4.2 故障分类
序号
|
类别
|
定义
|
举例
|
1
|
流程执行类
|
主要指因未遵照公司或部门既有规范、流程执行而导致的故障,或故障发生后未按照本制度要求处理等情况。
|
如发布至线上前未进行过测试;发布后未充分进行线上回归验证、未充分观察日志/监控等产生的故障;未及时发布故障通告、或其他“瞒报”、“漏报”等情况;故障响应不及时等
|
2
|
人员意识类
|
主要指因人为主观意识不到位、故意或抱侥幸心理未严格谨慎操作而导致的故障。
|
如责任意识不强、线上严谨意识不足、安全意识不足等。注:若因人员意识不到位而违反现有流程规范的故障,则直接定义为“流程执行类”故障。
|
3
|
能力经验类
|
主要指个人能力、经验不足,或部门相关业务或技术积累不够导致的故障。
|
如新业务、新技术或历史技术架构设计等遗留问题
|
4
|
监控报警类
|
主要指未设置监控报警、或监控报警出现问题而引发的故障。
|
如因告警阈值设置不合理,未及时收到告警进行处理,最终导致发生线上故障。注:未及时响应监控报警,属于流程执行类故障。
|
5
|
不可抗力类
|
主要指因外部不可抗力引发的故障。
|
如供应商故障(包括不限于机器、网络等故障)、外在环境原因(如施工挖断线路、国家封网)导致的故障等。
|
4.3 故障等级
4.3.1 故障定级原则
1.故障关键因素时长和影响面
2.影响面和故障时常同时满足,直接定级
3.影响面和故障时长不匹配时,取级别低的故障定级升一级作为最终故障定级1.比如影响时长5-10min,影响60%流量,按时长定级为p4,影响面定级为p1, p4和p1取较小值为p4, p4升一级,作为p3定级2.对外系统最高定级p1, 对内系统最高p2
4.流程故障遵循公司统一原则
4.3.2 通用故障等级定义
故障等级标识
|
故障等级名词
|
故障等级定义
|
影响面
|
故障时长
|
故障举例
|
备注
|
P1
|
重大故障
|
前端业务大部分不可访问,流量受损>=30%,并且持续时间>=60分钟
|
前端项目不可访问或者访问异常>=30%
|
>=60分钟
|
腾讯云slb故障导致前端页面全部无法访问
|
|
P2
|
严重故障
|
前端业务部分不可访问,流量受损10%~30%,并且持续时间>=30分钟
|
前端项目不可访问或者访问异常10%~30%
|
>=30分钟
|
|
|
P3
|
一般故障
|
前端业务小部分不可访问,流量受损1%~10%,并且持续时间>=10分钟
|
前端项目不可访问或者访问异常1%~10%
|
>=10分钟
|
istio管理面故障导致ingress无法访问到更新后的服务
|
|
P4
|
轻微故障
|
前端业务小部分流量访问异常,流量受损1%,持续时间>=5分钟
|
前端小部分流量访问异常
|
>=5分钟
|
|
|
基础设施故障定义不涉及由通用故障等级定义兜底。
4.3.3 基础设施故障等级划分定义
序号
|
基础设施
|
故障等级
|
故障时长
|
影响面
|
故障举例
|
1
|
Istio
|
P1
|
>=60分钟
|
istio管理面异常或者不可用
|
|
|
|
p2
|
>=30分钟
|
istio管理面异常或者不可用
|
|
|
|
P3
|
>=15分钟
|
部分流量转发异常
|
|
|
|
P4
|
>=5分钟
|
部分流量转发异常
|
|
2
|
k8s
|
p1
|
>=60分钟
|
Kubernetes master异常或者不可用
|
|
|
|
P2
|
>=30分钟
|
Kubernetes master异常或者不可用
|
|
|
|
P3
|
>=15分钟
|
部分功能异常
|
|
|
|
P4
|
>=5分钟
|
部分功能异常
|
|
3
|
Coredns
|
P1
|
>=15分钟
|
coredns不可用
|
|
|
|
P2
|
>=10分钟
|
coredns不可用
|
|
|
|
p3
|
>=30分钟
|
coredns部分功能异常如处理缓慢
|
|
4
|
容器网络
|
p1
|
>=15分钟
|
集群容器网络全部异常
|
|
|
|
P2
|
>=10分钟
|
集群容器网络全部异常
|
|
|
|
P3
|
>=30分钟
|
单点或者多点容器网络异常
|
|
4
|
Ingress
|
p1
|
>=60分钟
|
Ingress异常或者不可用
|
|
|
|
P2
|
>=30分钟
|
Ingress异常或者不可用
|
|
|
|
P3
|
>=60分钟
|
部分流量转发异常
|
|
|
|
P4
|
>=30分钟
|
部分流量转发异常
|
|
5
|
告警平台
|
P1
|
|
|
|
|
|
P2
|
|
|
|
|
|
P3
|
|
|
|
|
|
P4
|
|
|
|
6
|
网关
|
P1
|
|
|
|
|
|
P2
|
|
|
|
|
|
P3
|
|
|
|
|
|
P4
|
|
|
|
7
|
发布平台
|
P1
|
|
|
|
|
|
P2
|
|
|
|
|
|
P3
|
|
|
|
|
|
P4
|
|
|
|
8
|
任务平台
|
P1
|
|
|
|
|
|
P2
|
|
|
|
|
|
P3
|
|
|
|
|
|
P4
|
|
|
|
4.4 故障升级
故障等级
|
故障升级
|
p1
|
----
|
P2
|
>=60分钟未解决或者未处理
|
p3
|
>=180分钟未解决或者未处理
|
P4
|
>=300分钟未解决或者未处理
|