缓存使您可以轻松地显着加速应用程序。 Java平台的两种出色的缓存实现是Guava缓存和Ehcache 。 尽管Ehcache功能丰富得多(例如其Searchable API ,将缓存持久化到磁盘或溢出到大内存的可能性),但与Guava相比,它也带来了相当大的开销。 在最近的项目中,我发现需要将全面的缓存溢出到磁盘上,但是与此同时,我经常需要使该缓存的特定值无效。 由于Ehcache的Searchable API仅可用于内存中的缓存,因此这使我陷入了两难境地。 但是,扩展Guava缓存以允许以结构化方式溢出到磁盘非常容易。 这使我既溢出到磁盘,又需要必需的失效功能。 在本文中,我想展示如何实现这一目标。

我将以实际Guava Cache实例的包装器形式实现此文件持久性缓存FilePersistingCache 。 当然,这不是最优雅的解决方案(更优雅的方法是使用此行为来实现实际的Guava Cache ),但是在大多数情况下,我都会这样做。

首先,我将定义一个受保护的方法,该方法创建前面提到的后备缓存:

private LoadingCache<K, V> makeCache() {return customCacheBuild().removalListener(new PersistingRemovalListener()).build(new PersistedStateCacheLoader());
}protected CacheBuilder<K, V> customCacheBuild(CacheBuilder<K, V> cacheBuilder) {return CacheBuilder.newBuilder();
}

第一种方法将在内部用于构建必要的缓存。 为了实现对缓存的任何自定义要求(例如,过期策略),应该重写第二种方法。 例如,这可以是条目或软引用的最大值。 此缓存将与其他任何Guava缓存一样使用。 缓存功能的关键是用于此缓存的RemovalListenerCacheLoader 。 我们将这两个实现定义为FilePersistingCache内部类:

private class PersistingRemovalListener implements RemovalListener<K, V> {@Overridepublic void onRemoval(RemovalNotification<K, V> notification) {if (notification.getCause() != RemovalCause.COLLECTED) {try {persistValue(notification.getKey(), notification.getValue());} catch (IOException e) {LOGGER.error(String.format("Could not persist key-value: %s, %s",notification.getKey(), notification.getValue()), e);}}}
}public class PersistedStateCacheLoader extends CacheLoader<K, V> {@Overridepublic V load(K key) {V value = null;try {value = findValueOnDisk(key);} catch (Exception e) {LOGGER.error(String.format("Error on finding disk value to key: %s",key), e);}if (value != null) {return value;} else {return makeValue(key);}}
}

从代码中可以明显FilePersistingCache ,这些内部类调用了我们尚未定义的FilePersistingCache方法。 这使我们可以通过重写此类来定义自定义序列化行为。 删除侦听器将检查清除缓存条目的原因。 如果RemovalCauseCOLLECTED ,缓存条目没有由用户手动删除,但它已被删除作为高速缓存的驱逐策略的结果。 因此,如果用户不希望删除缓存条目,我们将仅尝试保留该条目。 CacheLoader将首先尝试从磁盘还原现有值并仅在无法还原该值时创建一个新值。

缺少的方法定义如下:

private V findValueOnDisk(K key) throws IOException {if (!isPersist(key)) return null;File persistenceFile = makePathToFile(persistenceDirectory, directoryFor(key));(!persistenceFile.exists()) return null;FileInputStream fileInputStream = new FileInputStream(persistenceFile);try {FileLock fileLock = fileInputStream.getChannel().lock();try {return readPersisted(key, fileInputStream);} finally {fileLock.release();}} finally {fileInputStream.close();}
}private void persistValue(K key, V value) throws IOException {if (!isPersist(key)) return;File persistenceFile = makePathToFile(persistenceDirectory, directoryFor(key));persistenceFile.createNewFile();FileOutputStream fileOutputStream = new FileOutputStream(persistenceFile);try {FileLock fileLock = fileOutputStream.getChannel().lock();try {persist(key, value, fileOutputStream);} finally {fileLock.release();}} finally {fileOutputStream.close();}
}private File makePathToFile(@Nonnull File rootDir, List<String> pathSegments) {File persistenceFile = rootDir;for (String pathSegment : pathSegments) {persistenceFile = new File(persistenceFile, pathSegment);}if (rootDir.equals(persistenceFile) || persistenceFile.isDirectory()) {throw new IllegalArgumentException();}return persistenceFile;
}protected abstract List<String> directoryFor(K key);protected abstract void persist(K key, V value, OutputStream outputStream)throws IOException;protected abstract V readPersisted(K key, InputStream inputStream)throws IOException;protected abstract boolean isPersist(K key);

所实现的方法在同步文件访问并确保流被适当关闭的同时,还要注意对值进行序列化和反序列化。 最后四种方法仍然是抽象的,由缓存的用户来实现。 directoryFor(K)方法应为每个密钥标识一个唯一的文件名。 在最简单的情况下,密钥的K类的toString方法是以这种方式实现的。 另外,我还对persistreadPersistedisPersist方法进行了抽象化处理,以实现自定义序列化策略,例如使用Kryo 。 在最简单的情况下,您将使用内置的Java功能,该功能使用ObjectInputStreamObjectOutputStream 。 对于isPersist ,假设仅在需要序列化时才使用此实现,则将返回true 。 我添加了此功能以支持混合缓存,在混合缓存中,您只能将值序列化为某些键。 确保不关闭persistreadPersisted方法中的流,因为文件系统锁依赖于要打开的流。 上面的实现将为您关闭流。

最后,我添加了一些服务方法来访问缓存。 当然,实现Guava的Cache接口将是一个更优雅的解决方案:

public V get(K key) {return underlyingCache.getUnchecked(key);
}public void put(K key, V value) {underlyingCache.put(key, value);
}public void remove(K key) {underlyingCache.invalidate(key);
}protected Cache<K, V> getUnderlyingCache() {return underlyingCache;
}

当然,可以进一步改善该解决方案。 如果您在并发场景中使用缓存,请注意, RemovalListener是除大多数Guava缓存方法以外的异步执行的。 从代码显而易见,我添加了文件锁,以避免在文件系统上发生读/写冲突。 但是,这种异步性确实意味着即使内存中仍然有一个值,也很少有机会重新创建值条目。 如果需要避免这种情况,请确保在包装器的get方法中调用基础缓存的cleanUp方法。 最后,切记在缓存过期时清理文件系统。 最佳地,您将使用系统的临时文件夹存储高速缓存条目,从而完全避免此问题。 在示例代码中,目录由名为persistenceDirectory的实例字段表示,该实例字段可以例如在构造函数中初始化。

更新 :我对上面描述的内容进行了干净的实现,您可以在Git Hub页面和Maven Central上找到这些实现。 如果需要将缓存对象存储在磁盘上,请随时使用它。

参考: My Java博客上的JCG合作伙伴 Rafael Winterhalter 扩展了Guava缓存以溢出到磁盘 。

翻译自: https://www.javacodegeeks.com/2013/12/extending-guava-caches-to-overflow-to-disk.html

扩展Guava缓存溢出到磁盘相关推荐

  1. guava缓存数据到本地_扩展Guava缓存以溢出到磁盘

    guava缓存数据到本地 缓存使您可以轻松地显着加速应用程序. Java平台的两种出色的缓存实现是Guava缓存和Ehcache . 尽管Ehcache功能丰富得多(例如其Searchable API ...

  2. java服务器缓存_Java服务器缓存溢出有哪些呢、?

    在C程序中,缓存溢出是最常见的安全隐患.缓存溢出在用户输入超过已分配内存空间(专供用户输入使用)时出现.缓存溢出可能成为导致应用被覆盖的关键因素.C程序很容易出现缓存溢出,但Java程序几乎不可能出现 ...

  3. spring-boot的spring-cache中的扩展redis缓存的ttl和key名

    原文地址:spring-boot的spring-cache中的扩展redis缓存的ttl和key名 前提 spring-cache大家都用过,其中使用redis-cache大家也用过,至于如何使用怎么 ...

  4. C和混编混合编程----strcpy缓存溢出原理

    今天老师给了一到程序,让我们分析分析原理,关于strcpy缓存溢出原理的,反汇编一遍遍调试,终于看明白了,记录一下 C程序: #include "string.h" #includ ...

  5. Google Guava缓存实现接口的限流

    一.项目背景 最近项目中需要进行接口保护,防止高并发的情况把系统搞崩,因此需要对一个查询接口进行限流,主要的目的就是限制单位时间内请求此查询的次数,例如1000次,来保护接口. 参考了 开涛的博客聊聊 ...

  6. java获取本机ipv4,并使用Google Guava 缓存

    java写个util,获取本机ip,并使用Google Guava 缓存起来 四个方法: 获取本机ipv4 ip转16进制 16进制转ip 校验ip 首先,Google Guava使用的maven配置 ...

  7. Guava缓存过期的一些坑

    Guava缓存过期的一些坑 1.引入依赖 <dependency><groupId>com.google.guava</groupId><artifactId ...

  8. 硬盘主扩展分区,基本动态磁盘等概念

    什么是 主磁盘分区,扩展磁盘分区,逻辑驱动器? 硬盘分区有三种,主磁盘分区.扩展磁盘分区.逻辑分区. 一个硬盘可以有一个主分区,一个扩展分区,也可以只有一个主分区没有扩展分区.逻辑分区可以若干. 主分 ...

  9. Google guava第一讲:guava缓存实战/使用场景/缓存清理/最佳实践/caffeine实战

    Guava缓存实战及使用场景 摘要:本文是Google guava 第一件,本文先介绍了为什么使用Guava Cache缓存,然后讲解了使用方法及底层数据结构,结合实际业务,讲解使用guava过程中踩 ...

最新文章

  1. Oracle数据库相关命令
  2. 中小型金融企业该如何进行灾备建设?
  3. 软件生成目录没有图框_图纸目录和编号
  4. linux 内核配置 dns,Linux的dns配置 - Linux操作系统基础进阶练习题_Linux教程_Linux公社-Linux系统门户网站...
  5. python医疗发票 信息抽取_PYTHON网络爬虫与信息提取[信息的组织与提取](单元五)...
  6. DevOps on DevCloud|如何构建Kotlin开发的Android Apps
  7. BlazeDS4 添加MSSQL/MySQL数据源
  8. zabbix4.0 mysql本地数据库迁移到腾讯云数据库
  9. iOS平台一套完善的Crash Report解决方案
  10. AI加持,计算机要拥有嗅觉了;GPU终于可用于Google Compute Engine | AI开发者头条
  11. MySQL Innodb data_free 清理
  12. 《乔布斯传》阅读笔记
  13. 计算机桌面自设提示语,如何在电脑桌面便签上设置每周五自动弹窗提醒?
  14. 七夕,思念里的流浪狗在哭---众智云
  15. Java opencv tld_TLD-(windows) tld c++版可运行版本,亲测. tld OpenCV 252万源代码下载- www.pudn.com...
  16. [机器学习笔记] 什么是经验风险?什么是结构风险?
  17. Git提交数据失败 error: failed to push some refs to 'https://github.com/XXXXXXX/gif.git'
  18. android 流星动画,android动画Rotate
  19. HDOJ 1846 Brave Game(巴士博弈)
  20. 联想R7000P莫名其妙黑屏问题记录

热门文章

  1. logback日志配置
  2. python绘图时的分解问题的步骤-零基础学python-15.2 分解函数
  3. diy实现spring依赖注入
  4. linux-basic(11)认识和学习bash
  5. streaming api_通过Spring Integration消费Twitter Streaming API
  6. ide 日志 乱码_IDE日志分析方法pt。 2
  7. java持久性与安全性_Java持久性锁定初学者指南
  8. 象棋子 设计模式_通过设计国际象棋游戏了解策略模式
  9. ajax 示例_通过示例了解挥发
  10. 成为Java流大师–第6部分:使用流创建新的数据库应用程序