故障自愈:解决运维的主要矛盾才能AIOps

Posted 运维部落

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了故障自愈:解决运维的主要矛盾才能AIOps相关的知识,希望对你有一定的参考价值。



以产品设计理念剖析企业建设故障自动化处理方案的思路

人工处理告警,一直是运维心中的痛。大年初一拜年、结婚、和老婆孩子外出过周末等美好时光,作为运维的你,好像一直心系IT系统,保持与笔记本的安全距离。

为什么这么多年过去了,还是这么苦逼,不是说运维行业转 AIOps了,我竟然还在手工处理告警,我该怎么办?

今天就和大家聊聊实现故障自愈要攻克的3个问题,以及献上开箱即用的方案。

1. 故障自愈的基本流程

自动化的要点是什么?把人的经验抽象、固化为程序处理,工业(第3次工业革命)或互联网都是如此。

举个例子,磁盘出现告警,运维首先想到的是登陆服务器清理磁盘。

故障自愈:解决运维的主要矛盾才能AIOps

(人工处理告警的流程)

接下来,我们拆解背后的逻辑。

1.1 抽象告警处理流程

1) 拉取磁盘告警

2) 编写磁盘清理的脚本或作业任务

3) 设计模块:把拉取到的磁盘告警,与调用脚本的模块串起来

故障自愈:解决运维的主要矛盾才能AIOps (故障自愈流程 简化版V1)

1.2 通过CMDB做资源清洗

不同模块的磁盘清理方案不一样,如何解决呢?

这时需要引入CMDB(设备、人、业务的映射关系),通过CMDB把 IP 清洗为 模块,这样就解决了接入层 和 逻辑层、存储层的告警使用对应的磁盘清理方案。

故障自愈:解决运维的主要矛盾才能AIOps(故障自愈流程 简化版V2)

1.3 对接企业内部网关

故障自愈可能会处理失败,这时需要通知用户。故障自愈的处理方式除了调用作业外,还可能需要调用企业内部的网关,比如服务器重启、申请服务器等。

使用PaaS层的ESB是一种解决思路,通过ESB封装企业内部网关,解决权限校验、频率控制、访问统计、路由分发以及自助接入等功能,不要直接调用裸接口了。

故障自愈:解决运维的主要矛盾才能AIOps

(故障自愈的通知方案)

经过这一轮的探索,故障自愈的架构就是下面这个样子。

故障自愈:解决运维的主要矛盾才能AIOps

(故障自愈的流程)

1.4 对接企业内部监控产品

等等,好像还没说如何对接企业内部的监控产品,以Zabbix、Open-Falcon为例。

故障自愈:解决运维的主要矛盾才能AIOps

1.4.1 对接Zabbix

介绍了拉取Zabbix告警的方案,通过 ActionScript 调用脚本,把 Zabbix 告警推送至自愈的告警拉取模块。

推送(或叫回调)可以保证告警拉取的实时性。

故障自愈:解决运维的主要矛盾才能AIOps(Zabbix推送告警示例)


故障自愈:解决运维的主要矛盾才能AIOps

(Zabbix调用推送告警的脚本)

对接Zabbix 的落地案例可以参考陈亮撰写的 。

除Zabbix外,Open-Falcon在国内的社区热度也不错,所以也介绍拉取其告警的方案。

1.4.2 对接Open-falcon

方案类似Zabbix,不过Open-falcon 直接提供了callback功能,简化了流程。

故障自愈:解决运维的主要矛盾才能AIOps

收到了Open-Falcon 推送的告警后,解析对应的字段即可。

如果企业内部的CMDB以IP来标识主机,需要再做一层转换,因为Open-Falcon 的资源标识endpoint默认是主机名,那么就需要使用CMDB的自动发现功能自动上报主机名,同时提供把主机名清洗为IP的功能。

下面是nginx模块磁盘告警的自愈示例,匹配Nginx模块的磁盘清理套餐,清理Nginx模块的日志文件,整个过程不到30秒。

故障自愈:解决运维的主要矛盾才能AIOps(磁盘告警的自愈示例)


2. 故障自愈的两面性

故障自动处理就像一把刀,有其两面性。

因为要确保告警的真实性,一旦把假告警也自动处理了,就很悲催了…

举个例子。网络波动,批量出现PING告警。实际上服务器运行正常,这时你把服务器都重启了,那就GG了。

如何解决呢?分析事物的规律。

批量出现告警,那可以在告警拉取模块后面,增加一个收敛模块。

X时间内同一主机出现使用相同套餐的告警,则收敛时间窗口中后面的告警则跳过,比如同时收到进程告警 和 端口告警,就不用拉2次进程了。

还有就是,原有监控系统没有收敛能力,那么可以借用这个功能来做告警汇总,因为收敛逻辑一样,只是收敛的处理方式有差异。

故障自愈:解决运维的主要矛盾才能AIOps

3. 复杂告警的处理方案 - 组合套餐

上面提到的技术方案是用来处理逻辑简单的告警,那么故障替换这种复杂的场景如何解决呢?

举个例子,A模块是重要模块,出现PING不可达告警,首先要校验A模块是否真的故障,如果真的故障,接下来是从资源池中获取备机 … 故障替换等等,期间每个环节都有可能出错,那就要考虑异常分支的场景。

树结构可以解决该问题,二叉树足以满足大部分场景(成功、失败两种分支)。

故障自愈:解决运维的主要矛盾才能AIOps

( 组合套餐的示例)

上面这张图,是一个自愈处理方案,可以称之为组合套餐。

这里同时引入了原子的概念,通过组装原子来满足各种需求场景, 和资源编排说的是同一个理儿。

注:如果你想使用三叉树,其实可以把组合套餐也作为一个原子套餐(节点)。

4. 故障自愈的技术架构

经过前面对故障自愈的基本流程故障自愈的两面性复杂的故障处理方案的层层梳理,我们有了一张故障自愈的技术架构图。

故障自愈:解决运维的主要矛盾才能AIOps

相信这次以经行业验证的故障自愈做技术剖析,能对大家建设企业内部的故障自动处理方案提供参考思路。

5. 收尾

当 AIOps大行其道的时候,我们需要克制,优先解决主要矛盾,而不是构建高大上的空中楼阁。

如同产品路线图,优先解决可用性,接下来是体验,最后才是可扩展性和生态,依次落地。

故障自愈:解决运维的主要矛盾才能AIOps

(产品需求模型 by 腾讯8分钟产品课)

最后,希望广大的运维兄弟姐妹能尽早脱离原始运维的苦海,抓住行业发展趋势,掌握核心技术,在变革中实现自身价值!


【开箱即用方案】

http://bk.tencent.com/s-mart/application/128/detail   




蓝鲸智云简介

腾讯蓝鲸智云(简称蓝鲸)软件体系是一套基于PaaS的技术解决方案,致力于打造行业领先的一站式自动化运维平台。目前已经推出社区版、企业版、公有云版,欢迎体验。

您可能比较感兴趣

蓝鲸智云招募合作伙伴

合作共赢,是腾讯文化中重要的一部分。蓝鲸智云团队计划在全国范围内,大力发展生态体系,寻找优质的合作伙伴,共创运维领域的新局面。我们希望为解决方案供应商、集成商、服务商、应用软件开发商、咨询机构等提供更多的增值服务。

招募详情,请点击访问蓝鲸官网:

http://bk.tencent.com



以上是关于故障自愈:解决运维的主要矛盾才能AIOps的主要内容,如果未能解决你的问题,请参考以下文章

AIOps中的四大金刚

AIOps在故障定位中的应用

百度 AIOps 实践中的四大金刚

AIOps 一场颠覆传统运维的盛筵

AIOps 一场颠覆传统运维的盛筵

赵成:回顾运维的发展历史,我相信AIOps是必然趋势