对于缓存,大家肯定都不陌生,不管是前端还是服务端开发,缓存几乎都是必不可少的优化方式之一。在实际生产环境中,缓存的使用规范也是一直备受重视的,如果使用的不好,很容易就遇到缓存击穿、雪崩等严重异常情景,从而给系统带来难以预料的灾害。

为了避免缓存使用不当带来的损失,我们有必要了解每种异常产生的原因和解决办法,从而做出更好的预防措施。

缓存穿透

而缓存穿透是指缓存和数据库中都没有的数据,这样每次请求都会去查库,不会查缓存,如果同一时间有大量请求进来的话,就会给数据库造成巨大的查询压力,甚至击垮db系统。

比如说查询id为-1的商品,这样的id在商品表里肯定不存在,如果没做特殊处理的话,攻击者很容易可以让系统崩溃,那我们该如何避免这种情况发生呢?

一般来说,缓存穿透常用的解决方案大概有两种:

一、缓存空对象

当缓存和数据都查不到对应key的数据时,可以将返回的空对象写到缓存中,这样下次请求该key时直接从缓存中查询返回空对象,就不用走db了。当然,为了避免存储过多空对象,通常会给空对象设置一个比较短的过期时间,就比如像这样给key设置30秒的过期时间:

redisTemplate.opsForValue().set(key, null, 30, TimeUnit.SECONDS);

这种方法会存在两个问题:

  • 如果有大量的key穿透,缓存空对象会占用宝贵的内存空间。
  • 空对象的key设置了过期时间,这段时间内可能数据库刚好有了该key的数据,从而导致数据不一致的情况。

这种情况下,我们可以用更好的解决方案,也就是布隆过滤器

二、Bloom Filter

布隆过滤器(Bloom Filter)是1970年由一个叫布隆的小伙子提出的,是一种由一个很长的二进制向量和一系列随机映射函数构成的概率型数据结构,这种数据结构的空间效率非常高,可以用于检索集合中是否存在特定的元素。

设计思想

布隆过滤器由一个长度为m比特的位数组(bit array)与k个哈希函数(hash function)组成的数据结构。原理是当一个元素被加入集合时,通过K个散列函数将这个元素映射成一个位数组中的K个点,把它们置为1。检索时,我们只要看看这些点是不是都是1就大约知道集合中有没有它了,也就是说,如果这些点有任何一个0,则被检元素一定不在;如果都是1,则被检元素很可能在。

至于说为什么都是1的情况只是可能存在检索元素,这是因为不同的元素计算的哈希值有可能一样,会出现哈希碰撞,导致一个不存在的元素有可能对应的比特位为1。

举个例子:下图是一个布隆过滤器,共有18个比特位,3个哈希函数。当查询某个元素w时,通过三个哈希函数计算,发现有一个比特位的值为0,可以肯定认为该元素不在集合中。

优缺点

优点:

  • 节省空间:不需要存储数据本身,只需要存储数据对应hash比特位
  • 时间复杂度低:基于哈希算法来查找元素,插入和查找的时间复杂度都为O(k),k为哈希函数的个数

缺点:

  • 准确率有误:布隆过滤器判断存在,可能出现元素不在集合中;判断准确率取决于哈希函数的个数
  • 不能删除元素:如果一个元素被删除,但是却不能从布隆过滤器中删除,这样进一步导致了不存在的元素也会显示1的情况。

适用场景

  • 爬虫系统url去重
  • 垃圾邮件过滤
  • 黑名单

缓存击穿

缓存击穿从字面上看很容易让人跟穿透搞混,这也是很多面试官喜欢埋坑的地方,当然,只要我们对知识点了然于心的话,面试的时候也不会那么被糊弄

简单来说,缓存击穿是指一个key非常热点,在不停的扛着大并发,大并发集中对这一个点进行访问,当这个key在失效的瞬间,持续的大并发就穿破缓存,直接请求数据库,就好像堤坝突然破了一个口,大量洪水汹涌而入。

当发生缓存击穿的时候,数据库的查询压力会倍增,导致大量的请求阻塞。

解决办法也不难,既然是热点key,那么说明该key会一直被访问,既然如此,我们就不对这个key设置失效时间了,如果数据需要更新的话,我们可以后台开启一个异步线程,发现过期的key直接重写缓存即可。

当然,这种解决方案只适用于不要求数据严格一致性的情况,因为当后台线程在构建缓存的时候,其他的线程很有可能也在读取数据,这样就会访问到旧数据了。

如果要严格保证数据一致的话,可以用互斥锁

互斥锁

互斥锁就是说,当key失效的时候,让一个线程读取数据并构建到缓存中,其他线程就先等待,直到缓存构建完后重新读取缓存即可。

如果是单机系统,用JDK本身的同步工具Synchronized或ReentrantLock就可以实现,但一般来说,都达到防止缓存击穿的流量了谁还搞什么单机系统,肯定是分布式高大上点啊,这种情况我们就可以用分布式锁来做互斥效果。

为了你们能更懂流程,作为暖男的我还是一如既往的给你们准备了伪代码啦:

public String getData(String key){String data = redisTemplate.opsForValue().get(key);if (StringUtils.isNotEmpty(data)){return data;}String lockKey = this.getClass().getName() + ":" + key;RLock lock = redissonClient.getLock(lockKey);try {boolean boo = lock.tryLock(5, 5, TimeUnit.SECONDS);if (!boo) {// 休眠一会儿,然后再请求Thread.sleep(200L);data = getData(key);}// 读取数据库的数据data = getDataByDB(key);if (StringUtils.isNotEmpty(data)){// 把数据构建到缓存中setDataToRedis(key,data);}} catch (InterruptedException e) {// 异常处理,记录日志或者抛异常什么的}finally {if (lock != null && lock.isLocked()){lock.unlock();}}return data;
}

当然,采用互斥锁的方案也是有缺陷的,当缓存失效的时候,同一时间只有一个线程读数据库然后回写缓存,其他线程都处于阻塞状态。如果是高并发场景,大量线程阻塞势必会降低吞吐量。这种情况该如何处理呢?我只能说没什么设计是完美的,你又想数据一致,又想保证吞吐量,哪有那么好的事,为了系统能更加健全,必要的时候牺牲下性能也是可以采取的措施,两者之间怎么取舍要根据实际业务场景来决定,万能的技术方案什么的根本不存在。

缓存雪崩

缓存雪崩也是key失效后大量请求打到数据库的异常情况,不过,跟缓存击穿不同的是,缓存击穿因为指一个热点key失效导致的情况,而缓存雪崩是指缓存中大批量的数据同时过期,巨大的请求量直接落到db层,引起db压力过大甚至宕机,这也符合字面上的“雪崩”说法。

解决方案

缓存雪崩的解决方案和击穿的思路一致,可以设置key不过期或者互斥锁的方式。

除此之外,因为是预防大面积的key同时失效,可以给不同的key过期时间加上随机值,让缓存失效的时间点尽量均匀 ,这样可以保证数据不会在同一时间大面积失效

redisTemplate.opsForValue().set(Key, value, time + Math.random() * 1000, TimeUnit.SECONDS);

同时还可以结合主备缓存策略来让互斥锁的方式更加的可靠,

主缓存:有效期按照经验值设置,设置为主读取的缓存,主缓存失效后从数据库加载最新值。

备份缓存:有效期长,获取锁失败时读取的缓存,主缓存更新时需要同步更新备份缓存。

一般来说,上面三种缓存异常场景问的比较多,了解这几种基本就够了,但有些面试官可能喜欢剑走偏锋,进一步延伸其他的异常情景做询问,以防万一,我们也加个菜,介绍下另外两种常见缓存异常。

缓存预热

缓存预热就是系统上线后,先将相关的数据构建到缓存中,这样就可以避免用户请求的时候直接查库。

这部分预热的数据主要取决于访问量和数据量大小,如果数据的访问量不大的话,那么就没必要做预热,都没什么多少请求了,直接按正常的缓存读取流程执行就好。

访问量大的话,也要看数据的大小来做预热措施。

  • 数据量不大的时候,工程启动的时候进行加载缓存动作,这种数据一般可以是电商首页的运营位之类的信息;
  • 数据量大的时候,设置一个定时任务脚本,进行缓存的刷新;
  • 数据量太大的时候,优先保证热点数据进行提前加载到缓存,并且确保访问期间不能更改缓存,比如用定时器在秒杀活动前30分钟就把商品信息之类的刷新到缓存,同时规定后台运营人员不能在秒杀期间更改商品属性。

缓存降级

缓存降级是指缓存失效或缓存服务器挂掉的情况下,不去访问数据库,直接返回默认数据或访问服务的内存数据。

在项目实战中通常会将部分热点数据缓存到服务的内存中,类似HashMap、Guava这样的工具,一旦缓存出现异常,可以直接使用服务的内存数据,从而避免数据库遭受巨大压力。

当然,这样的操作对于业务是有损害的,分布式系统中很容易就出现数据不一致的问题,所以,一般这种情况下,我们都优先保证从运维角度确保缓存服务器的高可用性,比如Redis的部署采用集群方式,同时做好备份,总之,尽量避免出现降级的影响。

最后

关于缓存的几大异常处理我们就讲解到这了,虽然每种异常我们都给出了解决的方案,但不是说这玩意直接套上就能用了。现实开发过程中还是要根据实际情况来针对缓存做相应措施,比如用布隆过滤器预防缓存穿透虽然很有效,但并不算特别常用,这年头,防止恶意攻击什么的都是先在运维层面做限制,业务代码层面更多的是对参数和数据做校验。

如果每个使用缓存的地方都要考虑的这么复杂的话,那工作量无疑会更加繁杂,过度设计只会让代码维护起来也麻烦,而且实用性还不一定强,没必要啊。程序员嘛,给自己增添烦恼的事情越少越好,毕竟我们最大的敌人不是996,而是那珍贵的发量啊。

缓存穿透、击穿、雪崩什么的分不清楚?看了这篇文章后,我明白了相关推荐

  1. 一文搞懂Redis缓存穿透/击穿/雪崩

    缓存穿透 问题描述 缓存穿透是指查询一个一定不存在的数据,由于缓存时不命中的,则需要从数据库中查询.查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到数据库中去查询,进而增大了数据库的压力 ...

  2. Redis缓存穿透击穿雪崩

    目录 1.缓存穿透 2.缓存击穿 3.缓存雪崩 1.缓存穿透 概述: 缓存穿透的概念很简单,用户想要査询一个数据,发现redis内存数据库没有,也就是缓存没有命中,于是向持久层数据库査询.发现也数据库 ...

  3. Redis缓存/穿透/击穿/雪崩

    目录 1 缓存穿透 1.1 问题描述 1.2 产生原因 1.3 解决方案 2 缓存击穿 2.1 问题描述 2.2 解决方案 3 缓存雪崩 3.1 问题描述 3.2 解决方案: 1 缓存穿透 1.1 问 ...

  4. 二十七、Redis缓存穿透和雪崩(完)

    Redis缓存穿透和雪崩 一.服务的高可用问题 在这里我们不会详细的区分析解决方案的底层! Redis缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询方面.但同时,它也带来了一些问题.其中 ...

  5. Redis11_缓存穿透和雪崩

    Redis11_缓存穿透和雪崩 缓存穿透 用户查询某个数据时,会先在redis缓存中查询,如果缓存没有命中,会去持久层数据库MySQL中查询,如果此时依然没有命中,将返回null,不会写入缓存. 当同 ...

  6. Redis全部知识总结(概念、安装、用法、数据类型、事务、持久化、Jeids、订阅系统、缓存穿透及雪崩等)

    Redis NoSql简述 Nosql概念 Nosql的四大分类 Redis概述 Redis的安装 安装文件 Window下安装 Linux下安装 redis-benchmark 压力测试工具 五大数 ...

  7. 21_Redis_浅析Redis缓存穿透和雪崩

    为什么了解缓存穿透和雪崩:保证服务的高可用问题 Redis缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询方面.但同时,它也带来了一些问题.其中,最要害的问题,就是数据的一致性问题,从严格 ...

  8. Redis 缓存穿透、雪崩、缓存数据库不一致、持久化方式、分布式锁、过期策略

    1. Redis 缓存穿透 1.1 Redis 缓存穿透概念 访问了不存在的 key,缓存未命中,请求会穿透到 DB,量大时可能会对 DB 造成压力导致服务异常. 由于不恰当的业务功能实现,或者外部恶 ...

  9. 雷电3 or USB Type-C?看完这篇文章从此不再傻傻分不清楚

    如果你身边有喜欢计算机硬件的朋友,这样的争论你应该听过不止一次.他们说的好像都有道理,但又好像都有点问题.到底谁说的是对的呢?其实这就涉及到接口规格(即下文中提到的"接口")与数据 ...

  10. 缓存穿透、击穿、雪崩什么的傻傻分不清楚?看了这篇文后,我明白了

    对于缓存,大家肯定都不陌生,不管是前端还是服务端开发,缓存几乎都是必不可少的优化方式之一.在实际生产环境中,缓存的使用规范也是一直备受重视的,如果使用的不好,很容易就遇到缓存击穿.雪崩等严重异常情景, ...

最新文章

  1. 仿百度文库方案[openoffice.org 3+swftools+flexpaper](三) 之 使用JODConverter将office文档转换为pdf...
  2. 什么是pretext tasks?
  3. 函数公开问题、简短模式、多一个返回值
  4. python nameko用于生产_用 Python、 RabbitMQ 和 Nameko 实现微服务
  5. 12333新农合网上查询_新农合医保查询缴费平台|新农村医疗保险网上缴费平台
  6. 我的世界JAVA刷怪范围_《我的世界》只有刷怪蛋能够刷新生物吗?并不是,还有一种物品!...
  7. 【华为云 ModelArts-Lab AI实战营】第三期:图像分类 (III) 模型参数网络调优
  8. 使用MASM07 - Win32汇编语言015
  9. e4a生成r.java错误,编译时候出现英文错误
  10. 【语音分析】基于matlab短时自相关基音周期检测+LPC预测增益计算【含Matlab源码 1517期】
  11. ssh命令行使用明文密码连接远程服务器并执行命令
  12. 如果让markdown的图片变清晰/改变大小
  13. 国外邮件服务器,在国外发邮件连不上国内的邮件服务器
  14. 视频信号指标与测试方法
  15. 周边pd是什么意思_在韩国,PD是什么意思啊?
  16. RPA初级认证直通车,不懂代码也能成为技术大佬
  17. python网络爬虫--下载图片
  18. 聊聊JVM中那些垃圾收集器
  19. i5 10210u和1035G1 的区别 哪个好
  20. Cheat Engine 基本用法

热门文章

  1. 深入浅出Yolo系列之Yolov5核心基础知识完整讲解
  2. css特效一:文字覆盖图像悬停效果
  3. COGS2259 异化多肽
  4. stc12c5a60s ds1302时钟
  5. Python股票基金数据分析 爬虫 基金对比 Django框架 数据可视化
  6. 跟着安全牛大表哥学渗透
  7. error和exception区别,throw和throws
  8. 静态页面:html5个人博客模板《绅士》
  9. 从0开发豆果美食小程序——tag组件
  10. Mysql——DQL(查询语句语法、格式、举例)以及全部数据库源码,复制就可实现全部功能