JVM相关的异常,一直是一线研发比较头疼的问题。因为对于业务代码,JVM的运行基本算是黑盒,当异常发生时,较难直观的看到和找到问题所在,这也是我们一直要研究其内部逻辑的原因。

本篇就由一个近期线上JVM内存泄漏的例子,带大家强行分析一波~

Part1线上服务器报警了

某天,同事来找我帮忙,原来是某系统毫无征兆的来了一连串报警,一波机器的老年代内存占用率超过阈值~

1.1先看表现

老年代内存占用

可以看到,在7月中旬之前,内存占用还是比较正常的,每次GC都可以回收掉很大一部分的老年代对象。

而中旬之后,老年代内存一直缓慢增长而无法释放。很明显,应该是对象没法被正常回收导致。

内存泄漏了~

1.2怎么办呢

如果是刚上线的项目爆出了此类问题,因为影响面比较小,可以直接先回滚代码,止血为第一要务。

不过,这个项目明显已经上线N多天,中间还不知道上过多少需求,而且,既然流量近期有上涨导致问题出现,说明,已经对客开流量了。

回滚是不可能了,抓紧时间定位问题,上线修复吧。

Part2定位问题

一般的步骤:

  • 拿到dump文件

  • 用MAT等工具,找出内存占用过多的异常对象,以及引用关系

  • 分析异常对象关联代码的可能问题

不过,因为这次dump下来的文件十多G,太大的,MAT基本无能为力,只能打印出来人工分析了

2.1定位问题代码

jmap结果查看

很幸运,异常对象非常明显。Point对象和GeoDispLocal对象,居然多达好几百万实例数,那就先看下代码中这两个对象是怎么用的。

private static final CacheMap<String, List<GeoDispLocal>> NEAR_DISTRICT_CACHE = new CacheMap<String, List<GeoDispLocal>>(3600 * 1000, 1000);private static final CacheMap<Integer, Point> LOCAL_POINT_CACHE = new CacheMap<Integer, Point>(3600 * 1000, 6000);

都是被存放在本次缓存CacheMap中(内存泄漏的一个常见原因,就是因为被静态集合持有,无法回收导致),而dump文件中的CacheMap.Entry也是非常高的。

CacheMap就是我们的第一优先怀疑对象了。先看下这个缓存类是怎么回事:

public class CacheMap<K, V> {private final long expireMs;private LRUMap<K, CacheMap.Entry<V>> valueMap;//其他略
}

内部依赖一个带LRU功能的map,怎么实现的呢:

public class LRUMap<K, V> extends LinkedHashMap<K, V> {private static final long serialVersionUID = 1L;private final int maxCapacity;// 这个map不会扩容private static final float LOAD_FACTOR = 0.99f;private final ReadWriteLock lock = new ReentrantReadWriteLock();public LRUMap(int maxCapacity) {super(maxCapacity, LOAD_FACTOR, true);this.maxCapacity = maxCapacity;}@Overrideprotected boolean removeEldestEntry(java.util.Map.Entry<K, V> eldest) {return size() > maxCapacity;}@Overridepublic V get(Object key) {try {lock.readLock().lock();return super.get(key);} finally {lock.readLock().unlock();}}@Overridepublic V put(K key, V value) {try {lock.writeLock().lock();return super.put(key, value);} finally {lock.writeLock().unlock();}}//remove clear 略
}

内部是一个依赖LinkedHashMap实现的LRU缓存。看注释,目的是要构建一个限定容量、且不会进行扩容的MAP(百度了一波,和网上的实现一模一样~)。那么,实际情况真的和想象中的一样么?。

2.2LinkedHashMap实现的LRUMap好使么

我们来看容量和扩容相关的设置:为什么设计者认为该LRUMap不会进行扩容?

//**把容量和扩容相关的参数摘出来**
//用户期望的最大容量
private final int maxCapacity;
//加载系数
private static final float LOAD_FACTOR = 0.99f;
//构造函数中调用LinkedHashMap进行初始化
super(maxCapacity, LOAD_FACTOR, true);@Override  //复写删除最久元素条件方法
protected boolean removeEldestEntry(java.util.Map.Entry<K, V> eldest) {//当LinkedHashMap.size 比 我们限定容量大时,执行删除return size() > maxCapacity;
}

按我们的实际使用实例化一下:

  • maxCapacity=6000,是我们希望的最大元素容量。

  • load_factor=0.99 加载因子。

  • Map内部threshold=8192*0.99=8110,是那么下次扩容时的容量大小。(map中table容量的真实大小是离6000最近的2的N次幂,即8192)。

因为复写了LRU条件函数,当size>6000时会进行LRU替换。因此,理论上,size永远不会达到8110。

怎么解决并发下的读写冲突呢?

//读写锁
private final ReadWriteLock lock = new ReentrantReadWriteLock();public V get(Object key) {try {lock.readLock().lock();return super.get(key);} finally {lock.readLock().unlock();}
}public V put(K key, V value) {try {lock.writeLock().lock();return super.put(key, value);} finally {lock.writeLock().unlock();}
}

设计者为了解决并发下的读写冲突,给查询和修改方法加了锁,为了兼顾性能,使用了读写锁:在get的时候加读锁,在put/remove的时候加写锁。

看起来,整个设计很好的解决了LRUMap的固定容量和并发操作问题,那么事实是什么样的呢?

其实,这个问题很早就有人分析过了[1] ,是因为LinkedHashMap在get读操作的时候,会为了维护LRU从而进行元素修改,即将get到的元素转移到链表最后。这样,就导致了读写并发问题,但这个解释感觉朦朦胧胧,因此,我决定在其基础上对读写并发问题再讲细致一些。

2.3LinkedHashMap内存泄漏拆解

都加了读写锁为什么不好使呢?

这里我们还是需要先明确,读写锁的概念和适用场景:读写锁,允许多个线程共享读锁,适用于读多写少的情况。(前提是,读操作不会改变存储结构)

所以,问题就发生在get操作上,LinkedHashMap的get操作被重写,目的是为了实现LRU功能,在get之后,将当前节点移动到链表最后。

移动啊,同志们,这明显是一个写操作,所以,加读锁还有用么?

即允许多线程进入,又进行了修改,那还能起什么作用,能没有并发问题么?

下面,对照节点移动的代码,详细拆解一下多线程下的并发问题:

get之后的节点移动,将节点移动到最后

实际拆解分析如下,为什么在多线程的情况下,会出现内存泄漏:

时间片下多线程的get执行

我们看到,在线程1执行完前两句,让出了时间片,当线程2执行到p.after=null之后又出让了时间片,这样,本来a应该是后面的<2,B>节点,结果多线程下变成了null,最终,后面两个节点被踢出了链表,删除操作无法触达,造成内存泄漏。

验证的代码就不贴了,大家有兴趣可以自己试一下~

Part3总结

话说回来,既然定位到了问题,这个内存泄漏怎么修复呢?

可以把读写锁改成互斥锁。或者直接用分布式存储,能慢多少呢,是不是,既方便,简单,又免得为了节约机器内存自己构造LRUMap。

每一个八股文都不只是为了面试,而是每次线上问题排查的基石。千万别把八股文的作用定位错了。。。

参考资料

[1]

LinkedHashMap引发的内存泄漏: "https://blog.csdn.net/yejingtao703/article/details/108062262"

有道无术,术可成;有术无道,止于术

欢迎大家关注Java之道公众号

好文章,我在看❤️

高并发服务优化篇:详解一次由读写锁引起的内存泄漏相关推荐

  1. 高并发服务优化篇:从RPC预热转发看服务端性能调优

    本文来源:公众号「 Coder的技术之路」 本篇带大家来看下RPC的一些高级特性和其背后的原因.(还是以开源的dubbo和sofa为例来说明). Part1RPC为了性能做了哪些努力 1.1Provi ...

  2. 高并发存储优化篇:诸多策略,缓存为王

    ????????关注后回复 "进群" ,拉你进程序员交流群???????? 作者丨Coder的技术之路 来源丨Coder的技术之路 本文内容概述 缓存是什么 1.1. 存储宕机的致 ...

  3. 高并发场景下backlog详解

    本文详解高并发场景下backlog的配置和作用 环境介绍: PHP 7.3.57 +nginx/1.16.0 +Linux CentOS Linux release 8.1.1911 (Core) b ...

  4. base cap 分布式_高并发架构系列:详解分布式一致性ACID、CAP、BASE,以及区别

    在面试环节,经常会问CAP.BASE等相关的分布式理论,其实这些名词主要还是来自于分布式的一致性,今天主要介绍分布式一致性:强一致性.最终一致性.ACID.CAP等理论. 分布式一致性的背景 随着分布 ...

  5. 最全的Windows7 服务优化、详解。

    网上绝大部分都不全,这是全篇.虽然转载,咱不也得全文转载不是? 这是我个人根据网上提供的服务优化说明来修改的([]号里就是我自己设定的),我是以安装了卡巴斯基和金山网镖的前提下关闭一些系统自带的防火墙 ...

  6. python redis处理高并发-Python高并发解决方案实现过程详解

    一.cdn加速 简单说就是把静态资源放到别人服务器上 全称:Content Delivery Network或Content Ddistribute Network,即内容分发网络 基本思路: 尽可能 ...

  7. Java生鲜电商平台-SpringCloud微服务架构高并发参数优化实战

    Java生鲜电商平台-SpringCloud微服务架构高并发参数优化实战 一.写在前面 在Java生鲜电商平台平台中相信不少朋友都在自己公司使用Spring Cloud框架来构建微服务架构,毕竟现在这 ...

  8. Nginx高并发系统内核优化

    Nginx高并发系统内核优化 Socket优化 Nginx 系统内核 文件优化 Nginx 系统内核 配置文件优化 Nginx配置文件 内核配置文件 PHP7配置文件 PHP-FPM配置文件 php- ...

  9. “IT小百科”之“Windows自带的服务和系统进程详解”

    大家平时打开任务管理器的时候,就能看到系统进程和系统服务. 有好多是新安装的应用程序进程和服务,但是还有很多系统进程和服务,这些进程和服务有哪些?分别起什么作用?能不能关闭和删除?今天我们就以本篇文章 ...

最新文章

  1. 如何更新 Linux 的符号链接
  2. android代码里 写线程,在Android线程池里运行代码任务实例
  3. ArrayList的泛型可以不写吗
  4. MFC子对话框初始化问题_从一个“断言”报警说起
  5. MFC中动态创建控件以及添加事件响应
  6. 数据:哈佛大学新生近五成是富二代!
  7. linux dd命令实用详解
  8. Python爬虫开源项目代码分享,100个
  9. gwt java_GWT中的Java 8支持
  10. LeedCode 717 1比特与2比特字符
  11. Linuux-alsa-左右声道处理
  12. PHP毕业设计——艺术品展示网站
  13. PowerDesigner常见错误
  14. Autodesk CFD2021发布啦
  15. xp计算机怎么共享网络,windows XP下如何实现共享上网的方法
  16. 现代软件工程讲义 1 软件工程概论
  17. 超700万个NFT存储在星际文件系统网络上,总量超54TiB
  18. 【记录】iOS上架审核被拒
  19. android判断不同手机厂商,打开允许后台运行APP弹窗
  20. Nginx实现反向代理

热门文章

  1. python打不出双引号的解决办法
  2. 拼多多终面竟被“Out”了?春节宅家复习,备战金三银四拿offer
  3. 联想旭日C467M拆机
  4. 【小菜学网络】MAC地址详解
  5. 【Pygame系列】别样的飞机大战:太空陨石VS大型战机对决(内含源码)
  6. GitNote VIP 服务
  7. 紧跟链改步伐!“链改青岛链湾综合试验区”正式启动
  8. CAD多线怎么修剪多余部分?CAD多线修剪步骤
  9. 《机器学习实战》8.2 线性回归基础篇之预测鲍鱼年龄
  10. HC18P110L芯圣开发笔记(二)ADC,管脚,仿真,if判断问题和解决方法汇总