每日一博 - 闲聊“突发流量”的应对之道
文章目录
- 概述
- 思路
概述
面对“突发流量”的情况,我会采取以下应急措施:
- 扩容现有资源。这是最直接和最常用的方法。可以通过增加CPU、内存、节点等来扩容。典型案例是双11等大促期间,阿里会大规模扩容幕布等系统以应对流量激增。
- 横向扩展,增加更多服务器或节点。通过增加服务器数量来分摊流量,抵御突发流量冲击。例如网易严选在特大促销日会增加大量计算节点以应对流量激增。
- 限流降级,关闭非关键服务。临时关闭不太重要的服务,让服务器资源集中处理关键业务。例如淘宝在双11当天会关闭搜索引擎等服务,全部资源用于应付商城业务。
- 负载均衡,多机房部署。将应用部署在不同机房,通过DNS均衡策略分流用户流量,避免单点压力过大。例如京东商城就部署在北京、上海、广州三地机房。
- 缓存利用。利用缓存系统的响应速度快的优点,将atic内容缓存在缓存,减少对后端系统的访问。利用率最高的缓存数据可以直接在缓存系统响应用户,而不访问后端系统。典型案例是淘宝商品详情页等静态内容都会缓存在Redis中。
综上,面对突发流量应通过扩容,扩展,限流,负载均衡,缓存等手段来应对,确保系统稳定和可用。并且要从全局角度出发,相互协调各系统之间的关系。
应对突发流量的应急之道可以从以下几个方面入手：
自动化伸缩：通过自动化伸缩技术，可以根据实时监测到的流量情况，自动增加或减少服务器资源。例如，使用云计算平台提供的自动伸缩功能，可以根据负载情况自动增加或减少实例数量，从而保证系统的稳定性和可用性。
缓存技术：通过使用缓存技术，可以将一部分请求缓存到内存中，减轻服务器的负载压力。例如，使用Redis等内存数据库进行缓存，可以大幅提升系统的性能和并发能力。
负载均衡：通过负载均衡技术，将请求分发到多个服务器上进行处理，从而提高系统的并发处理能力。例如，使用Nginx等负载均衡软件进行请求转发，可以有效地提高系统的可用性和性能。
以下是一些真实案例：
2018年“双11”期间，阿里巴巴使用了自主研发的“流量卫士”系统，通过自动化伸缩和负载均衡等技术，成功应对了高峰期每秒4000万次请求的流量压力。
2020年新冠疫情期间，中国政府推出了“健康码”系统，用于实现人员健康信息的管理和防疫溯源。由于用户量暴增，系统面临了巨大的流量压力。为了解决这一问题，系统采用了缓存技术和负载均衡技术，成功应对了每天数亿次请求的流量压力。
2021年5月，美国在线游戏公司Riot Games的《英雄联盟》游戏因为新出的赛季和新英雄的上线，导致服务器流量激增。为了应对这一情况，公司采用了自动化伸缩技术和负载均衡技术，成功应对了每秒超过150万次请求的流量压力。
思路
戳这里
每日一博 - 闲聊“突发流量”的应对之道相关推荐
- 【视频架构day1】美拍短视频系统架构：1亿流量的应对之道
按:短视频与家常的后端CURD系统不同.主要解决很多大小不一视频文件播放流量的问题.本文来自美拍麦俊生老师的分享,可以从中一窥究竟. 一.短视频市场的发展 近几年来,短视频应用在国内应用市场引爆,美图 ...
- 我查查 并行数据处理应对突发流量
陈红州和赵立新曾供职于一家做图像传感器的公司,"最初我们只是将条码识别算法嵌入到芯片中,打算把芯片多卖几分钱."陈红州笑言.随后他们试图围绕条码识别开发相应的数据库,但这一想法并未 ...
- 每日一博 - Review线程池_02
文章目录 Pre 使用场景 场景1:响应速度优先 场景2:吞吐量优先 线程池设置不合理发生的那些故障 线程池的参数如何评估和配置??? 不用线程池? 万能公式? 线程池参数动态化? 线程池的监控 Pr ...
- 国内首篇云厂商 Serverless 论文入选全球顶会：突发流量下，如何加速容器启动？
简介:USENIX ATC (USENIX Annual Technical Conference) 学术会议是计算机系统领域的顶级会议,入选中国计算机协会(CCF)推荐 A 类国际会议列表:本次会议 ...
- 5种限流算法，7种限流方式，挡住突发流量？
大家好啊,我是阿朗,最近工作中需要用到限流,这篇文章介绍常见的限流方式. 文章持续更新,可以关注公众号程序猿阿朗或访问未读代码博客. 本文 Github.com/niumoo/JavaNotes 已经 ...
- 面对突发流量，保证服务可用的4个手段
面对突发流量,保证服务 前言 不知道你有没有这样的经历,线上的系统突然来了很大的流量,有可能是黑客的攻击,也有可能是业务量远远大于你的预估,如果你的系统没有做任何的防护措施,这时候系统负载过高,系统资 ...
- 每日一博 - DelayQueue阻塞队列源码解读
文章目录 Pre DelayQueue特征 Leader/Followers模式 DelayQueue源码分析 类继承关系 核心方法 成员变量 构造函数 入队方法 offer(E e) 出队方法 po ...
- 每日一博 - 延时任务的多种实现方式解读
文章目录 Pre 延时任务 VS 定时任务 Solutions DB 轮询 核心思想 Demo Code 优缺点 JDK的Delay Queue 核心思想 Demo Code 优缺点 时间轮算法 核心 ...
- nginx根据ip限流和突发流量配置解释
前言 前一篇记录了如何使用Nginx代理Vue项目,今天记录如果使用Nginx配置location限流,本篇是Nginx专栏第5篇, 有想学习nginx的可以订阅下该专栏,大家一起讨论,有问题可以留言 ...
最新文章
- Oracle wrap 和 unwrap（ 加密与解密） 说明
- golang中的goto
- 网站服务器基本防范配置
- windows系统下实现Redis的配置与连接操作
- yy直播没声音html,驱动技巧：解决YY语音中麦克风无声或者有噪音的问题
- 东北电力大学计算机网络复试题,2020年东北电力大学计算机学院复试(20200901201159).pdf...
- position 的属性值
- 推荐系统读书笔记（推荐系统实战）
- 浅析JavaScript和PHP中三个等号（===）和两个等号（==）的区别
- linux数据软件,Linux数据安全工具：数据镜像软件DRBD的管理与维护
- 锋神教我数据库，吴大哥教我写文档——其一
- 编程ING:人人都能学会程序设计
- CUDA C编程入门
- hashcat破解密码规则示例
- 网页布局颜色搭配布局总结
- 麻省理工学院计算机科学与工程博士,2020年麻省理工学院博士读几年
- Python 爬取手机 豆果美食app存Mongodb
- OpenStack创建卷报错
- 用自建kinetics-skeleton行为识别数据集训练st-gcn网络流程记录
- android 音乐视频播放器（github上十二款最著名的Android播放器开源项目）