流量来了,去努力保护好你的系统
怎么保护,又怎么努力。
保护,我们要有方法,勤梳理、扩机器、加限流、做降级。
努力,我们要在这些方法上进行有效、可持续落地。
今天,我们不谈具体的概念,或者是算法,比如限流,目前已有很多这方面的内容,我们一起来看一看如何有效地落地。
勤梳理
流量来之前,我应该怎么梳理我的系统呢。
仔细想,我们的系统中的请求流程,按照分类,大致有四种。
同步链路、异步链路、旁支链路、并发链路。我们可以按照这四种分类,把系统中的流程都梳理和归类。
这四种链路是如何定义的呢。
同步链路上的请求见文知意,上面的请求都是同步的调用。主要特点是强依赖。
链路上的服务是强依赖的,调用方需要等待被调用方执行完成后才能继续工作;
异步链路,同理,其中的请求都是异步的。主要是需要我们找出异步流量从哪里来,我们是否需要做蓄水,是否有消息重复消费。
链路上的服务没有强依赖关系,调用方不需要等待被调用方执行完成,可以继续执行后续工作,被调用方在另一个线程内执行完成后,通过回调通知调用方;
旁支链路,一般是非核心功能链路,比如商品某个评论的数量。主要是注意往往这类旁支功能容易被忽视,反而在大流量到来之时,如果没有做好相应隔离,打我们一个措手不及。
平时流量不大的”小“业务场景;
并发链路,这个是我们重点要防范的。主要是要找出高并发的爆点在哪里,哪个环节,哪个接口承受了最高的并发请求。
类似秒杀和红包雨这类;
你按照上面这四种类型去梳理好自己的系统,就能够有一个基本的因才施策的方法指导,它给你一个方向性的指导,不至于你,一头扎进系统代码里面不知道去梳理哪些内容。
我们在梳理的过程中,可以画什么图来辅助我们快速的识别到这些链路呢。
常用的图形思考方式有调用关系图、部署图和时序图。
我这里特意用了图形思考方式这个词,目的是通过画这些图来倒逼你去深入思考,并且是以体系化的方式去思考。
注意,在画这些图的时候,不要跟具体的形式和工具较劲,重内容轻形式。
扩机器
你可能说,流量来了,就直接堆机器呗。
看似简单的一件事情,可能也有些羁绊。主要是加机器不能仅仅只盯着服务本身资源的占用情况,还应该要同时关注对依赖资源的影响。
举一个例子。
某服务集群一共有 10 个容器实例,每个实例会建立约 100 个数据库连接,加起来就是约 1000 个连接,假设数据库总共支持的连接数为 1200 个,这是能够支撑现状的。但如果考虑到近期业务增长较快,会导致服务负载较大,需要扩容 5 个实例,那么总的数据库连接数大约会达到 1500 个,这就肯定支撑不住的,所以对服务进行扩容时,对数据库也需要同步扩容。
所以,有时候,我们只顾无脑地加机器了,结果把数据库给堆挂了。
再举一个服务发现上,长链接的例子。
在微服务体系中有一项服务发现机制,每个服务可以通过该机制获取被调用服务的位置。服务发现机制的一种实现方式是,由一个注册中心建立对每个服务实例的长连接,并维护一个服务状态列表,这样一旦服务状态发生变化,注册中心能够第一时间感知到并对服务状态列表进行更新。
还有一种情况,也是我们熟悉,但不注意也会阻碍我们加机器,就是状态。
如果你当前的服务集群是有状态的,那么你增加的任何一台机器,就必须要考虑如何把状态复制到新增加的机器上面。
这种羁绊,是业务上的,不是无状态的服务集群,将有很大的困难。也因此,我们常见的做法是将状态进行转移,比如远程缓存。
加限流
常用的限流算法,令牌桶、漏桶、滑动窗口、固定窗口,这些你在网上搜索能有很多的资料。
我们只想放一张图,来从更上一层角度,来说明限流需要注意的问题。
这张图说明的是我们正常情况下一个请求在一个分布式系统中的流向。分别经过了负载均衡、应用服务、数据库。
图自 吴俊龙 https://time.geekbang.org/column/article/375295
从这张图里面,我能够看到,每一层其实都有限流,而且每一层都不应该相信上层,”不要将自己的命运交给别人“。
每一层做好自己的限流,整体的限流体系才是最健壮、最可靠的。
从另外一个角度来讲,如果上一层没有防住,流量把你的系统压塌了,你是最痛的,本着谁痛谁推动的原则,你也应该提前考虑好。
做降级
降级的方法,跟限流一样,比较简单。同样,今天我们也不会讲到如何具体怎么做降级。
从降级策略上来分析。
降级分为,人工降级、自动降级、暴力降级、柔性降级。
涉及到业务情况的,自动降级判断比较复杂,可以增加人工降级作为最后的确认。
涉及流量大小,接口调用超时等,可以直接自动降级。
暴力降级,比如商品评论的数量统计出现问题了,直接将商品评论功能关掉了。
柔性降级,则是我可以不显示评论数量,其它功能可以继续保留。
暴力和柔性,这里面涉及一个模块当时的设计实现方式,如果你不能很好的模块化,可能也实现不了局部降级。
最后一点。
切记:降级操作一定要进行提前演练,降级的实现方式一般都是通过开关的方式,也一般是通过硬编码到程序代码里面。如果时间较为久远,有可能这个地方的代码环境变了,或者是被其他人改动了,导致降级功能失效了,都是有可能的。因此,我们一定要提前进行演练。
降级与限流有明显的区别,前者依靠牺牲一部分功能或体验保住容量,而后者则是依靠牺牲一部分流量来保住容量。
----END----
这里记录,我每周碰到的,或想到的,引起触动,或感动的,事物的思考及笔记。不见得都对,但开始思考记录总是好的。
与爱学习、爱思考、爱记录的你共勉。
参考资料
吴俊龙 《容量保障核心技术与实战》https://time.geekbang.org/column/intro/100078501?tab=catalog
流量来了,去努力保护好你的系统相关推荐
- 职业发展鉴定方法:第一行:自己行 第二行:大家说你行 第三行:领导行 就这么简单,去努力吧,如果你做到了这三个行,那么你肯定行...
[Thinking]三个行 昨天跟同事聊职业发展,同事给我讲了个道理,虽然类似的道理自己也知道很多并且坚持奉行着,但是同事总结的特别好!我反复思量这简单的几句话,感觉真的真的很精辟! 三个行 第一行: ...
- 弘辽科技:店铺流量上不去?淘宝店铺引流渠道有哪些?
原标题<弘辽科技:店铺流量上不去?淘宝店铺引流渠道有哪些?> 店铺流量问题是淘宝商家们都比较关注的一个问题,很多淘宝商家都为店铺流量而苦恼,不知如何去提高,因为商家都知道流量对于店铺的重要 ...
- ml 系统_需要保护您的ml系统的5个原因
ml 系统 We fuel our ambitions with our hard work and persistence every day to make our lives easier an ...
- 大促在即,拥有亿级流量的电商平台开发了一个订单系统,我们应该如何来预估其并发量?如何根据并发量来合理配置JVM参数呢?
1. 需求分析 大促在即,拥有亿级流量的电商平台开发了一个订单系统,我们应该如何来预估其并发量?如何根据并发量来合理配置JVM参数呢? 假设,现在有一个场景,一个电商平台,比如京东,需要承担每天上亿的 ...
- 设置计算机屏幕保护程序可以使系统节省资源,[判断题] 设置计算机的屏幕保护程序可以使系统节省资源。...
[判断题] 设置计算机的屏幕保护程序可以使系统节省资源. 更多相关问题 因外伤导致的颅内静脉窦破裂,可考虑结扎的部位是A.一侧横窦B.上矢状窦前1/3段 遗忘综合征是A.一种广泛性认知功能障碍B.一种 ...
- 你并没有那么去努力 所以你不能怪生活
美国哈佛大学图书馆凌晨4点座无虚席 --哈佛,看一眼就会明白中国缺什么 日前,两张美国哈佛大学图书馆凌晨4点多学生仍在学习的照片,在网上迅速传播. 照片显示:凌晨4点的哈佛大学图书馆里,灯火通明,座无 ...
- 流量上不去?那是因为你不会这招标题优化技巧
卖家们都知道标题优化的目的是为了让标题更适合你的宝贝,让买家更容易搜索到你的产品~ 大道理大家都知道,但是怎么去做.去做得更好,有仔细想过吗? 首先大家自己回想下自己的标题都是怎么去制作的呢? 很多卖 ...
- 一个26岁没文凭,想去努力自学编程,有机会成为程序员吗?
先说结论:27岁没文凭,很难加入软件公司成为程序员. 然后,我们分四部分来细聊: 成为程序员需要穿过4道门才有机会面试 卖方市场时才能跳过学历和专业成为程序员 买方市场时,小白转行程序员成功几率很低 ...
- 微信公众平台推广功能公测了 广告主流量主赶紧去占地吧
微信公众平台推广功能今天开始公测了,关注用户数10万以上的公众帐号可成为流量主(貌似门槛有一些噢),提供广告展示获取收入:公众平台关注用户达到5万即可开通流量主功能!不差钱的boss如果想寻求新的推广 ...
最新文章
- 2020人工智能课程超级大列表:深度学习-强化学习-图神经网络-自然语言处理等...
- MySQL引擎特性GIS-R-TREE
- hdu2110(普通母函数)
- P5039 [SHOI2010]最小生成树(网络流)
- 用计算机演奏打上花火,米津玄师打上花火歌词中文谐音(最好要简单全面)
- 熊猫分发_熊猫新手:第一部分
- 物联网通信技术,那些你不知道的事
- centos 安装mysql5.6.12_CentOS6.4+MySQL-5.6.12 安装详解
- 局域网服务器共享文件夹设置,server2012文件夹、局域网共享设置权限以及server2012r2文件共享权限设置方法...
- ESP32 优化笔记(一)内存优化
- xp本地连接不见怎么办|本地网络连接不见解决方法
- android 串口 汉字乱码,Arduino软串口出现乱码
- 2023中国西部(西安)第六届城乡环卫新设备新技术与固体废弃物处理技术博览会
- 2023年品牌惊蛰节气海报赏析
- 中关村e谷为产业搭台:中关村论坛(空天专场)黑科技亮相现场
- Microsoft SUS Deployment
- Linux下磁盘配额设置
- Catalan number卡特兰数
- 嵌入式linux驱动-LCD液晶屏驱动
- Git——版本控制为王