百摩网
当前位置: 首页 生活百科

运维技术入门(从一套On-Call响应机制开始)

时间:2023-08-14 作者: 小编 阅读量: 4 栏目名: 生活百科

在现实的运维场景中一旦突发紧急事件太多,团队成员会疲于应付,从而造成团队士气低下,效率低迷。而重要告警事件被淹没在大量重复而混杂的告警消息中,没有有序跟进处理,会引发严重业务影响。如何有效处理紧急事件驱动的工作,成为运维工作的重中之重。同时还要考虑告警严重的程度级别,进行差异化处理,对于运维管理严格的团队一般会建立不同的响应级别。事件单记录和团队协

运维技术入门?互联网技术的发展,离不开运维支撑工作,没有零 BUG 的程序,没有不出问题的系统,问题故障不可怕,可怕的是没能有序的处理故障尤其对于有数字化服务需要始终在线的业务团队,一个流畅的应用服务增加了对技术团队的要求,要求他们随时准备提供响应而对于不熟悉 On-Call 的团队来说,要想做到运维开发人员可以随叫随到可能会有一定的挑战,我来为大家科普一下关于运维技术入门?以下内容希望对你有帮助!

运维技术入门

互联网技术的发展,离不开运维支撑工作,没有零 BUG 的程序,没有不出问题的系统,问题故障不可怕,可怕的是没能有序的处理故障。尤其对于有数字化服务需要始终在线的业务团队,一个流畅的应用服务增加了对技术团队的要求,要求他们随时准备提供响应。而对于不熟悉 On-Call 的团队来说,要想做到运维开发人员可以随叫随到可能会有一定的挑战。

在现实的运维场景中一旦突发紧急事件太多,团队成员会疲于应付,从而造成团队士气低下,效率低迷。而重要告警事件被淹没在大量重复而混杂的告警消息中,没有有序跟进处理,会引发严重业务影响。如何有效处理紧急事件驱动的工作,成为运维工作的重中之重。

而对于睿象云智能告警平台 Cloud Alert(以下简称:CA)来说,这一功能是我们平台的一个重要的组成部分,【精准分派相关人员】是我们智能告警平台的一个重要功能关键,可以帮助您与您的团队,促成一个优秀的排班计划,形成一个随叫随到的技术团队。睿象云经过多年与各类型的运维团队的沟通,围绕人、流程、工具三方面,形成了一套告警的全生命周期管理系统。

监控告警集中化管理

大多公司都使用了 Zabbix 和 Nagios、Open-Falcon 等监控工具去对自己系统中的硬件、网络、应用进行监控。

而这就会存在监控分散的问题:

  • 遇到复杂环境的时候,就用到多个监控工具,如 Cacti 监控网络,Zabbix 监控应用和服务器;
  • 如果存在有多个异地数据中心时,还需要同时部署多个 Zabbix 和工具;
  • 部分关键业务,需要单独的开发监控脚本/工具进行独立监测;

    但是如果没有集中的告警机制进行管理,就会面临大量的告警噪音的困扰,难及时地跟进处理,而重要的告警信息也容易被遗漏。

    CA 可以实现告警的集中化管理,即将生产监控发现的告警事件集中到一起,这样只看着一个平台就够了,同样地也会更容易分析告警问题,在这一步相同和类似的告警就会被过滤掉,即可直观掌握现有环境的状况,发现事件相关性的,有些问题有较强关联性的,方便跟踪和后续的统计分析。集中处理,效率就会更高。

    建立支撑流程和机制

    如果您的系统只采用了一种监控工具,集中化管理则不是必要的,如何有序处理告警信息才是最核心的问题。特别运维团队是 3-5 人到数十/百人,就很有必要梳理下支撑流程和响应机制了。

  • 建立一线、二线甚至三线支撑团队,一线好理解,一般是 7x24 小时值班的同学们;
  • 二线一般是资深工程师,或者是对应的应用开发/测试同学;
  • 三线一般是主管或者是外部的厂家,如涉及硬件、IDC 机房等相关服务方。

    如果管理比较细一些,还应该对业务进行拆分,形成一个矩阵,例如一线、二线根据不同专业,如负责网络和负责不同应用的团队。同时还要考虑告警严重的程度级别,进行差异化处理,对于运维管理严格的团队一般会建立不同的响应级别。

    1. 严重级别:如大范围影响业务/终端用户的,需要及时处理,一般要求多长时间响应处理,如3-10分钟有人响应,无响应立刻升级;

    2. 警告级别:影响范围和严重程度会低一些的故障,处理时长可以长一些;

    3. 提醒级别:依次更低。

    那么问题来了,这一切如何落地呢?目前看 Zabbix、Nagios、Open-Falcon 等监控工具更多是聚焦如何发现问题,支撑流程属于处理问题的范畴,或者是说管理范畴,这一点还有很多运维团队采用“码人”的方式:一个监控班,7x24值班,人为处理和通知。

    而对于 CA 的用户来说即可用技术的方式实现:CA 可以通过分派策略、通知策略以及排班机制等,实现告警的灵活通知。【自定义分派策略】可以进行流程的设计,根据级别、应用设置对应的一、二线负责人,以及处理时限,超时未响应(确认告警)自动升级。

    【自建排班规则】7x24 小时紧绷状态不是谁都能扛得住的,适当轮班缓解下压力。CA 中可以通过排班机制,实现白夜班、按周等模式进行轮流值班。

    多渠道通知必达

    再好的流程和设计,如果没有及时收到通知并处理,那么整个运维团队仍然会很郁闷的,关于告警的最后一公里的问题更是至关重要!

    目前被运维团队选择最多的就是以下这几种方式:

  • 邮件通知:简单有效,就是不够及时;
  • 短信通知:需要开发对接,目前很多公司都有自己的短信服务通道。要注意一个限制:部分运营商会限制一天相类似内容只能发送10-30条;
  • 移动APP通知:适应移动大潮。微信方式,好处是人人都有,坏处就是告警消息和正常沟通消息会混淆;
  • 电话语音通知:这个可以说是最重要的救命线了,电话通知可以应对特别重要的告警,例如晚上严重的电话通知;
  • QQ、钉钉、企业微信、JIRA 等协作类工具:这一点属于彩蛋性质,找到团队的前后端共同来解决告警问题。

    当然如果您正在使用我们的 CA 平台,可以根据您企业的自身使用习惯,选择电话、短信、微信、邮件、APP、钉钉、企业微信、飞书、JIRA 等通知方式,也可以根据自身需求,设置指定级别的告警使用不同的通知方式,也可以自定义工作时间,让告警在不同的时间段,用不同的通知方式。

    告警智能化去重降噪

    如果您前 3 步都已经完成了,那么这里面还存在一个问题,就是当告警大规模触发时,特别是遇到告警风暴的话,很容易撑爆邮箱或者是手机短信了,所以接下来就聊下告警风暴规避的问题。这个问题比较大,基本上有些监控工具做了一部分,但是目前来看这还是一个难点:

  • 静态规则方式:需要知识经验积累,根据业务逻辑梳理出一些父子关系。就比如出现服务器 Down 的告警,肯定该机器上的业务应用也会 Down ,那么就整理为一条规则。需要一套告警的过滤引擎,根据告警字段信息进行匹配;
  • 关联关系分析:依赖 CMDB,服务关联关系,根据调用依赖关系进行告警的根源追溯。CMDB 的建设和维护是非常困难的事情,数据准确性和实时性是决定 CMDB 效果的根本因素。CMDB 国内落地效果理想的很少,只能依赖自动化,微服务、docker、Devops 大量应用让IT环境更动态、更复杂,没有自动化机制保障是非常困难的;
  • 机器学习方式:相比前两种方式,机器学习更取巧一些,或者是说应该是未来的方向,可以节省大量人力物力。

    目前,在 CA 平台中对于接收到的所有告警第一步就是自动去重,就是根据告警的 Event ID 来判断是否合并,Event ID 相同的告警就会自动合并到主告警之中,这样的告警只会通知主告警,直到告警恢复/关闭。

    当然 CA 并不满足于此,目前 CA 支持的智能降噪包括时间窗口智能降噪和实时智能降噪的通知前降噪以及高聚合智能算法和仿阅读智能算法的通知后降噪。这里面包括实时计算和离线计算,算法方面参考了相似度、决策树、分类等算法。以相似度来说:首先采集告警的多维度信息,包括时间、主机、服务、分组 hostgroups、应用 applications、标签 tags 等基本维度信息,计算不同告警之间相似度,如果达到阈值,如告警 A 和告警 B 有70%相似就关联起来。以相似度为例因为根据业务不同,各维度的权重,阈值灵敏度有些差异。

    事件单记录和团队协作处理

    如果告警量很大,告警后续处理和跟踪往往会依赖于外部团队(部门外或公司外)。但是监控告警粒度太细了,可能很多告警都是一个事情。如上面的告警风暴中,由于应用程序故障,引发引发了大量的异常,之后又产生连锁反应,其实就是一个事件,只需要处理一个事情就行。一般来说一线人员会采用邮件或者电话方式,直接通知对应负责人,但是这个就很难追踪和事后分析,所以一套事件管理机制。ITIL规范的事件 Incident 流程很有参考价值,事件工单需要:

  • 将批量告警转为事件工单,这里包括手动转发和自动匹配规则转发;
  • 手动生成事件工单,一般属于非告警类触发,如人工发现或用户投诉等引发的事件;
  • 事件工单包括影响范围、严重程度,两者的交叉矩阵影响到处理的优先级。包括分类、子类、自定义标签,分类和标记有助于后续的统计分析;
  • 责任人和责任组,分派到其他团队或个人,并通知提醒。
    • 推荐阅读
    • 爱我就想太多演员(爱我就想太多剧情介绍)

      爱我就想太多演员陈建斌、李一桐、潘粤明领衔主演,许文广、周知、张姝、曹然然、孔千千主演的都市情感轻喜剧。

    • 炉中火命什么意思(炉中火命啥意思)

      跟着小编一起来看一看吧!炉中火命什么意思炉中火命,五行算命中年命的一种,在六十甲子纳音五行中,对应丙寅年、丁卯年。

    • 贷款的厘是什么意思(贷款的厘的意思)

      以下内容希望对你有帮助!如果贷款利率为6厘,我们可以理解为贷款年利率0.6%或者贷款月利率0.6%。不过一般来说,贷款利率的单位为厘,表示的是贷款月利率。举例来说,贷款利率8厘,借款期限2个月,借款金额1万元,那么利息为10000*0.8%*2=160元。而且贷款月利率可以换算成年利率,其公式为:月利率*12=年利率。

    • 物业不允许装前置过滤器怎么办(物业认为前置过滤器爆管净水差)

      前置过滤器这几年因为净水器的畅销,也开始成为大众认可的产品。所以,一些物业不同意将前置过滤器安装在水表附近,不影响到其他用户,增加管理成本。别被忽悠,揭开真相,了解前置过滤器的作用!

    • 漫威蜘蛛侠重制版一些细节(前两代蜘蛛侠回归漫威宇宙)

      12月21日,漫威官方网站更新了“漫威电影宇宙”中的两个角色,分别是:“友好邻居蜘蛛侠”和“超凡蜘蛛侠”。北美仅用三天拿下年冠。在韩国也创下连续六天的单日票房冠军记录。不仅票房火爆,口碑更是过硬,IMDb开画9.1分,直接位列Top250前10。更是被CinemaScore观众评价为A电影,此前漫威电影宇宙中只有《复联1、4》和《黑豹》获得了A。

    • 为啥猫猫这么可爱(怎么就成了都市传说的常客)

      猫,始终是都市传说中除了人类之外最常见的角色。“猫脸老太太”昼伏夜出,行踪隐秘,动作敏捷且力大无穷。在一次搭乘飞机从韩国飞往香港的旅途中,老太和爱猫不幸遭遇空难,全机组无人生还。在人类驯化的所有物种中,猫的地位尤其特殊。猫科动物似乎拥有干扰人类逻辑判断的能力。猫的身上携带着一种名为“弓形虫”的寄生虫。而中世纪的传言中,猫会偷走小孩子的呼吸,科学

    • 减肥真的很难记住这3点轻松瘦下来(夏天怎么科学减肥)

      因此我们每天身体热量总消耗可以参照下面的公式大致计算:很少运动或不运动每日热量消耗=基础代谢*1.2一周中高强度的运动1至3次每日热量消耗=基础代谢*1.5一周中高强度的运动4至6次每日热量消耗=基础代谢*1.8还是拿佳明同学举个例子:佳明是个普通上班族,但他有规律的运动习惯,每周都去健身房1-3次,而佳明的基础代谢率是1800,所以我们可以得出,佳明的每日热量总消耗大致是2700大卡。

    • 这是我见过最冷门神片(这部冷门佳片污到没眼看)

      保罗是有一个极度没有自律极度缺乏幸福感的男人,37岁大龄单身独居。保罗觉得托尼是因为出卖他的隐私才换来了400万,但是托尼反吐槽保罗没有自控力是事实。保罗为了证明自己有自控力,向托尼提出了一个"100天不花钱挑战"。第二天,保罗机智的拿回了自己的手机,托尼则选择了浴缸。托尼像往常一样在仓库里等美女,保罗出现说她不会来了。而托尼通过一场行为艺术成功的追回了那位美女。

    • 自制辣条的做法?(自制辣条的制作方法)

      自制辣条的做法泡豆:黄豆需泡发8~10个小时,洗净沥干水分,半斤干黄豆发泡好能出一斤左右的湿黄豆。豆浆盆的表面随着加热,开始出一层豆皮。上提筷子,豆皮就出来了。将豆皮在滚水中焯一下,起油锅,将豆皮炸至金黄,捞出。油锅先用姜末爆一下,然后放入干辣椒、辣椒粉、花椒、桂皮、八角、糖炒至香味四逸,放入酱油和一小碗水烧至沸。放上豆皮,加盐料酒,焖到入味,撒辣椒粉,起锅。

    • 连云港新能源汽车过户转让政策 连云港新能源汽车过户转让政策规定

      按照原先的政策,江苏省内的新能源汽车在购车后的5年内的确是禁止进行转让过户的。省工信厅产业转型升级处相关负责人表示,原先这样的安排主要是为了杜绝新能源汽车在江苏省内上牌拿补贴后,再大规模转到外地使用的情况。《通知》的出台将有效促进江苏新能源汽车的消费,特别是对于新能源二手车的交易打开了“绿灯”。