缓存系统中的三座大山
缓存系统中的三座大山
文章目录
- 缓存系统中的三座大山
- 一、什么是缓存
- 1.无处不在的缓存
- 2.高并发系统中的缓存
- 2.1 缓存系统的作用
- 2.2 缓存系统访问流程
- 二、缓存系统的三大问题
- 1.1缓存雪崩问题
- 1.2 缓存雪崩解决方案
- 2.1缓存穿透问题
- 2.2 缓存穿透解决方案
- 3.1 缓存击穿问题
- 3.2缓存击穿解决方案
- 三、总结
一、什么是缓存
1.无处不在的缓存
- 缓存在计算机系统是无处不在，在CPU层面有L1-L3的Cache
- 在Linux中有TLB加速虚拟地址和物理地址的转换
- 在浏览器有本地缓存、手机有本地缓存等。
- 可见，缓存在计算机系统中有非常重要的地位，
其主要作用是提高响应速度、减少磁盘访问等
- 一句话概括缓存系统在高并发系统中的地位的话：如果高并发系统是烤羊肉串，那么缓存系统就是那一撮孜然。
2.高并发系统中的缓存
2.1 缓存系统的作用
- 缓存系统在高并发系统的作用很大，
在某种程度上可以说没有缓存系统很难支撑高并发场景。 - 基于机械磁盘或SSD的
数据库系统，一般来说读写的速度远慢于内存，因此单纯磁盘介质的数据库无法支撑很高的并发，可以简单认为缓存是保护磁盘数据库的重要屏障。 - 对于一些基于LSM的存储引擎数据库来说，随机写改为顺序写速度提升很大，但是随机读仍然是个问题，所以缓存系统是很有必要的。
2.2 缓存系统访问流程
- 实际场景也是读多写少，看看请求是如何得到响应的，简单看下交互流程：
请求到达之后，业务线程首先访问缓存，如果缓存命中则返回如果未命中则继续请求磁盘数据库系统，获取数据返回从磁盘获取数据后将结果回写到缓存系统且增加老化时间，为下次请求做准备
二、缓存系统的三大问题
- 缓存雪崩 Cache Avalanche
- 缓存穿透 Cache Penetration
- 缓存击穿 Hotspot Invalid
对于上面的三个名词我一直分不清楚，脑海中并没有清晰的区别。
于是想到去谷歌看看歪果仁是怎么说的，然而英文表述就是上面的英文，基本上和汉语翻译是一样的，所以只能强记，太难了。
1.1缓存雪崩问题
- 所谓
雪崩就是原来有所支撑的冰雪，某一瞬间失去依托，瞬间涌下来。
- 这个场景让我想起了2011年上映的柯南剧场版《沉默的十五分钟》，柯南在北泽村水库为了拯救村庄制造的雪崩：
可见雪崩确实很可怕，回到高并发系统，如果缓存系统故障，大量的请求无法从缓存完成数据请求，就全量汹涌冲向磁盘数据库系统，导致数据库被打死，整个系统彻底崩溃。
1.2 缓存雪崩解决方案
造成缓存雪崩的主要原因是缓存系统不够高可用，因此提高缓存系统的稳定性和可用性十分必要，比如对于使用Redis作为缓存的系统而言可以使用哨兵机制、集群化、持久化等来提高缓存系统的HA。除了保证缓存系统的HA之外，服务本身也需要支持降级，可以借助比如Hystrix来实现服务的熔断、降级、限流来降低出现雪崩时的故障程度。
说白了就是别让服务彻底死掉就行，就像大雪封高速肯定不能通行了，堵车慢一些至少可以走。
2.1缓存穿透问题
穿透形象一点就是：
请求过来了 转了一圈 一无所获 就像穿过透明地带一样。在高并发系统中缓存穿透，如果一个req需要请求的数据在缓存中没有，这时业务线程就会访问磁盘数据库系统，然而磁盘数据库也没有这个数据，无奈业务线程只能白白处理一圈。
如果某时段有大量恶意的不存在的key的集中请求，那么服务将一直处理这些根本不存在的请求，导致正常请求无法被处理，从而出现问题。
举个栗子：
- 拉面馆的
服务员和厨师不允许拒绝已经进来的消费者，但是拉面馆的经营范围有限- 此时恶意消费者点了一只5斤的澳洲龙虾，经过服务员和厨师都无法响应这个需求
- 此时轮流来了1000个这样的恶意消费者，拉面馆基本要歇菜了。
2.2 缓存穿透解决方案
- 有效
甄别是否存在这个key再决定是否读取很重要，常见的做法有： 把不存在的key写一下null，这样再来就相当于命中了
- 其实这种方法局限性很大，今天是5斤龙虾，明天改成6斤的螃蟹，缓存系统和数据库中存储大量无用key本身是无意义的，所以一般不建议
另外一种思路，转换为查找问题，类似于在海量数据中查找某个key是否存在，考虑空间复杂度和时间复杂度，一般选用布隆过滤器来实现。
- 布隆过滤器是个好东西，有非常多的用途，包括：垃圾邮件识别、搜索蜘蛛爬虫url去重等，主要借助K个哈希函数和一个超大的bit数组来降低哈希冲突本身带来的误判，从而提高识别准确性。
- 布隆过滤器(
布隆过滤器的特性是存在是可能存在，不存在是一定不存在)也存在一定的误判，假如判断存在可能不一定存在，但是假如判断不存在就一定不存在，因此刚好用在解决缓存穿透的key查找场景，事实上很多系统都是基于布隆过滤器来解决缓存穿透问题的。
3.1 缓存击穿问题
- 缓存击穿是这样一种情况：
由于缓存系统中的热点数据都有过期时间，如果没有过期时间就造成了主存和缓存的数据不一致，因此过期时间一般都不会太长。- 设想某时刻一批热点数据同时在缓存系统中过期失效，那么这部分数据就都将请求磁盘数据库系统。
从描述上来看有点像微小规模的雪崩，但是对数据库的压力就很小了，只不过会影响并发性能，然而在多线程场景中缓存击穿却是经常发生的，相反缓存穿透和雪崩频率不如缓存击穿，因此研究击穿的现实意义更大一些。
3.2缓存击穿解决方案
- 可以采用的方案大概有几种：
在设置热点数据过期时间时尽量分散，比如设置100ms的基础值，在此基础上正负浮动10ms，从而降低相同时刻出现CacheMiss的key的数量。另外一种做法是多线程加锁，其中第一个线程发现CacheMiss之后进行加锁，再从数据库获取内容之后写到缓存中，其他线程获取锁失败则阻塞数ms之后再进行缓存读取，这样可以降低访问数据数据库的线程数，需要注意在单机和集群需要使用不同的锁，集群环境使用分布式锁来实现，但是由于锁的存在也会影响并发效率。一种方法是在业务层对使用的热点数据查看是否即将过期，如果即将过期则去数据库获取最新数据进行更新并延长该热点key在缓存系统中的时间，从而避免后面的过期CacheMiss，相当于把事情提前解决了。
缓存击穿的解决方法都有一定的权衡，实际中根据自己的需求来解决。
缓存击穿的影响一般来说并不会太大，或许在你的服务跑了很久之后你才意识到会有缓存击穿问题。
三、总结
缓存系统无论在实际工作中还是在面试中都是热点内容，缓存系统目的是为了让访问又准又快，不要一味追求缓存命中率，缓存和主数据库的数据一致性是需要重点考虑的。
总起来说，如何在保证数据正确性的前提下提高缓存命中率就是核心问题。
缓存系统中的三座大山相关推荐
- Alluxio在多级分布式缓存系统中的应用
1. 前言 随着移动互联网的发展,越来越多的业务数据和日志数据需要用户处理.从而,用数据去驱动和迭代业务发展.数据处理主要包括:计算和查询.计算主要为离线计算.实时流计算.图计算.迭代计算等:查询主要 ...
- 图解 | 什么是缓存系统“三座大山”？
来源 | 后端技术指南针 无处不在的缓存 缓存在计算机系统是无处不在,在CPU层面有L1-L3的Cache,在Linux中有TLB加速虚拟地址和物理地址的转换,在浏览器有本地缓存.手机有本地缓存等. ...
- 什么是缓存系统三座大山
1.无处不在的缓存 缓存在计算机系统是无处不在,在CPU层面有L1-L3的Cache,在Linux中有TLB加速虚拟地址和物理地址的转换,在浏览器有本地缓存.手机有本地缓存等. 可见,缓存在计算机系统 ...
- 广域虚拟数据空间中边缘缓存系统的研究与实现
点击上方蓝字关注我们 广域虚拟数据空间中边缘缓存系统的研究与实现 霍建同1,2, 肖利民1,2, 霍志胜1,2, 徐耀文1,2 1 软件开发环境国家重点实验室,北京 100191 2 北京航空航天大学 ...
- linux后台开发之什么是缓存系统三座大山
1.无处不在的缓存 缓存在计算机系统是无处不在,在CPU层面有L1-L3的Cache,在Linux中有TLB加速虚拟地址和物理地址的转换,在浏览器有本地缓存.手机有本地缓存等. 可见,缓存在计算机系统 ...
- 图解|什么是缓存系统三座大山
1.无处不在的缓存 缓存在计算机系统是无处不在,在CPU层面有L1-L3的Cache,在Linux中有TLB加速虚拟地址和物理地址的转换,在浏览器有本地缓存.手机有本地缓存等. 可见,缓存在计算机系统 ...
- 千万级并发！如何设计一个多级缓存系统？
作者:不清不慎,目前在杭州蘑菇街公司任职,Java大数据开发工程师一枚,热爱研究开源技术! 架构师社区合伙人! 首先我们需要明白,什么是一个多级缓存系统,它有什么用.所谓多级缓存系统,就是指在一个系统 ...
- 第十七课：js数据缓存系统的原理
这一章主要讲的是jQuery的缓存系统的历史发展,以及他自己的框架的缓存系统的实现.都是源码解析. 我就挑几个重点讲下: (1)jQuery的缓存机制的原理 jQuery的缓存机制实现的原理是在元素中 ...
- Memcache缓存系统原理
在Web服务开发中,服务端缓存是服务实现中所常常采用的一种提高服务性能的方法.其通过记录某部分计算结果来尝试避免再次执行得到该结果所需要的复杂计算,从而提高了服务的运行效率. 除了能够提高服务的运行效 ...
最新文章
- NLP(1) | 词向量one hot编码词向量编码思想
- SqlServer 增加字段，修改字段名，删除字段，修改字段默认值
- mysql自动从另外表取数_你在 Docker 中跑 MySQL？恭喜你，好下岗了！
- 分类与监督学习，朴素贝叶斯分类算法
- Linux Shell基础 - 流程控制 - for循环 - while 循环 - until循环
- C#创建桌面快捷方式
- 设计代码说明什么是多态性?如何实现多态?(代码中要写注释解释)_狗屎一样的代码！快，重构我！...
- linuxshell编程_使shell命令发包软件-当你在Linux shell调用外部程序，如
- 智慧档案馆之区级档案库房温湿度智能化监控系统案例（一）
- [论文总结] 深度学习在农业领域应用论文笔记2
- 矩阵乘法c语言 2*3,2*3和2*2矩阵乘法公式
- 微信红包体系设计分析
- 贪心 汽车加油 java_贪心算法解汽车加油站问题
- 谷歌浏览器所有页面都崩溃，设置都崩溃
- OpenGL课程设计 三维图形交互程序 bunny兔+飞机模型
- 基于java植物大全智能识别系统设计与实现
- 三行代码，可以让你电脑崩溃！
- django 重置密码
- Android今日头条的适配
- 10005 内联函数