注意cache同时过期问题

[文章作者：孙立链接：http://www.cnblogs.com/sunli/ 更新时间：2010-09-06

记得在去年，一个应用有个比较消耗资源的后端查询，使用memcached做了一层缓存，缓存时间30分钟（按业务需求来讲，更长点也没关系），按理说，应该完全没有任何问题了，但是出现了一个奇怪的问题，就是在高峰期重启memcached后，会导致大量的后端查询，出现后端服务不过来的情况。这点倒是可以理解。但是在正常运行过程中，随着访问的增加，查询也是一阵阵的访问数据库，形成一个波浪式的访问。

还记得在08年刚来公司的时候，有一个tomcat下的java应用，缓存是构建在jvm内部的（事实上，很多java应用的缓存都是构建在jvm内部的，因为简单，效率非常高），随着业务量的增加，支撑不了访问量，频繁宕机，宕机重启tomcat是个很大的问题，根本没发直接启动，启动后几秒就又会宕掉，只能把流量在nginx上挡开，让tomcat启动起来了，等待内部缓存建立，大概会需要10-20分钟，再上线服务。

上面的两个问题都是缓存在同一时间过期造成的。比如应用的某个功能的数据，在缓存的时候都设置成缓存30分钟，那么在cache重启后，将同时产生大量的后端查询来重建缓存，大量的数据都被设置在30分钟过期，30分钟过后，又几乎同时需要对后端进行查询来重构失效后的缓存，这无形对数据库造成了一些不必要的风险。如下图

图一：cache 同时过期的波浪式穿透db

解决办法：

在一个比较大的应用中，cache尽量使用服务的形式，跟web应用进行隔离开来，避免应用重启导致重建cache对后端的冲击。（其实这样能提高多个web下面的缓存利用率）

cache服务尽量使用多个，避免一个宕机重建全部cache对后端的冲击。多个cache服务尽量使用一致性hash的模式。

cache同时过期的问题，比如是30秒过期，可以找个业务可以接收的范围，比如25-40秒之间随机一个过期时间，可以减少同时过期的概率。

可以考虑使用多级cache。

事实上，在设计系统的时候，就需要考虑cache如果失效对系统产生的可能冲击影响，以及如何去避免这些问题的发生。重启系统可以考虑一个缓存预热的过程。

转载于:https://www.cnblogs.com/sunli/archive/2010/09/06/cache_expire_same_time.html

注意cache同时过期问题相关推荐

spring cache ttl 过期
spring cache ttl 过期实现一般的,使用 spring cache 时,注解上不支持 ttl 过期时间 @Cacheable(cacheNames = "product3&q ...
java cache定时过期,本地缓存高性能之王Caffeine
前言随着互联网的高速发展,市面上也出现了越来越多的网站和app.我们判断一个软件是否好用,用户体验就是一个重要的衡量标准.比如说我们经常用的微信,打开一个页面要十几秒,发个语音要几分钟对方才能收到. ...
java cache定时过期_一个定时更新cache框架
评论 # re: 一个定时更新cache框架 2006-12-13 15:34 BeanSoft 支持一下...呵呵..补充一下:quartz也可以用在非Web应用的定时操作,官方网站上说的.不要误解 ...
c# redis 如何设置过期时间_Spring cache整合Redis，并给它一个过期时间！
小Hub领读: 不知道你们有没给cache设置过过期时间,来试试? 上一篇文章中,我们使用springboot集成了redis,并使用RedisTemplate来操作缓存数据,可以灵活使用. 我才懂! ...
System.Web.Caching.Cache类缓存各种缓存依赖
原文:System.Web.Caching.Cache类缓存各种缓存依赖 Cache类,是一个用于缓存常用信息的类.HttpRuntime.Cache以及HttpContext.Current.C ...
在asp.net中如何管理cache
本文申明:本人凭着对英文和技术的热爱,根据自己有限的英文水平通过翻译文章以达到提高自身能力,如果有什么地方不对的,希望大家提意见. 目的:这篇文章将描述在asp.net中如何管理cache以及cach ...
redis 缓存过期默认时间_过期redis时间
Redis命令--键(key) Redis 键(key) Redis 键命令用于管理 redis 的键. 语法 Redis 键命令的基本语法如下: redis 127.0.0.1:6379> C ...
cache：缓存在asp.net中如何管理？服务器端缓存？Session， Application， Cache objectscache ，客户端缓存？Cookies，ViewState...
本文申明:本人凭着对英文和技术的热爱,根据自己有限的英文水平通过翻译文章以达到提高自身能力,如果有什么地方不对的,希望大家提意见. 目的:这篇文章将描述在asp.net中如何管理cache以及cach ...
asp.net mvc 缓存CaChe使用
缓存存储帮助类 using System; using System.Collections.Generic; using System.Linq; using System.Web; using S ...

注意cache同时过期问题

注意cache同时过期问题相关推荐

最新文章

热门文章