Java 中的伪共享详解及解决方案
转载自 Java 中的伪共享详解及解决方案
1. 什么是伪共享
CPU 缓存系统中是以缓存行(cache line)为单位存储的。目前主流的 CPU Cache 的 Cache Line 大小都是 64 Bytes。在多线程情况下,如果需要修改“共享同一个缓存行的变量”,就会无意中影响彼此的性能,这就是伪共享(False Sharing)。
2. 缓存行
由于共享变量在 CPU 缓存中的存储是以缓存行为单位,一个缓存行可以存储多个变量(存满当前缓存行的字节数);而CPU对缓存的修改又是以缓存行为最小单位的,那么就会出现上诉的伪共享问题。
Cache Line 可以简单的理解为 CPU Cache 中的最小缓存单位,今天的 CPU 不再是按字节访问内存,而是以 64 字节为单位的块(chunk)拿取,称为一个缓存行(cache line)。当你读一个特定的内存地址,整个缓存行将从主存换入缓存,并且访问同一个缓存行内的其它值的开销是很小的。
3. CPU 的三级缓存
由于 CPU 的速度远远大于内存速度,所以 CPU 设计者们就给 CPU 加上了缓存(CPU Cache)。 以免运算被内存速度拖累。(就像我们写代码把共享数据做Cache不想被DB存取速度拖累一样),CPU Cache 分成了三个级别:L1,L2,L3。越靠近CPU的缓存越快也越小。所 以L1 缓存很小但很快,并且紧靠着在使用它的 CPU 内核。L2 大一些,也慢一些,并且仍然只能被一个单独的 CPU 核使用。L3 在现代多核机器中更普遍,仍然更大,更慢,并且被单个插槽上的所有 CPU 核共享。最后,你拥有一块主存,由全部插槽上的所有 CPU 核共享。
当 CPU 执行运算的时候,它先去L1查找所需的数据,再去L2,然后是L3,最后如果这些缓存中都没有,所需的数据就要去主内存拿。走得越远,运算耗费的时间就越长。所以如果你在做一些很频繁的事,你要确保数据在L1缓存中。
4. 缓存关联性
目前常用的缓存设计是N路组关联(N-Way Set Associative Cache),他的原理是把一个缓存按照N个 Cache Line 作为一组(Set),缓存按组划为等分。每个内存块能够被映射到相对应的set中的任意一个缓存行中。比如一个16路缓存,16个 Cache Line 作为一个Set,每个内存块能够被映射到相对应的 Set 中的16个 CacheLine 中的任意一个。一般地,具有一定相同低bit位地址的内存块将共享同一个Set。
下图为一个2-Way的Cache。由图中可以看到 Main Memory 中的 Index 0,2,4 都映射在Way0的不同 CacheLine 中,Index 1,3,5都映射在Way1的不同 CacheLine 中。
5. MESI 协议
多核 CPU 都有自己的专有缓存(一般为L1,L2),以及同一个 CPU 插槽之间的核共享的缓存(一般为L3)。不同核心的CPU缓存中难免会加载同样的数据,那么如何保证数据的一致性呢,就是 MESI 协议了。
在 MESI 协议中,每个 Cache line 有4个状态,可用 2 个 bit 表示,它们分别是: M(Modified):这行数据有效,数据被修改了,和内存中的数据不一致,数据只存在于本 Cache 中; E(Exclusive):这行数据有效,数据和内存中的数据一致,数据只存在于本 Cache 中; S(Shared):这行数据有效,数据和内存中的数据一致,数据存在于很多 Cache 中; I(Invalid):这行数据无效。
那么,假设有一个变量i=3(应该是包括变量i的缓存块,块大小为缓存行大小);已经加载到多核(a,b,c)的缓存中,此时该缓存行的状态为S;此时其中的一个核a改变了变量i的值,那么在核a中的当前缓存行的状态将变为M,b,c核中的当前缓存行状态将变为I。如下图:
6. 解决原理
为了避免由于 false sharing 导致 Cache Line 从 L1,L2,L3 到主存之间重复载入,我们可以使用数据填充的方式来避免,即单个数据填充满一个CacheLine。这本质是一种空间换时间的做法。
7. Java 对于伪共享的传统解决方案
- /***
- * 微信公众号:Java技术栈
- **/
- import java.util.concurrent.atomic.AtomicLong;
- public final class FalseSharing
- implements Runnable
- {
- public final static int NUM_THREADS = 4; // change
- public final static long ITERATIONS = 500L * 1000L * 1000L;
- private final int arrayIndex;
- private static VolatileLong[] longs = new VolatileLong[NUM_THREADS];
- static
- {
- for (int i = 0; i < longs.length; i++)
- {
- longs[i] = new VolatileLong();
- }
- }
- public FalseSharing(final int arrayIndex)
- {
- this.arrayIndex = arrayIndex;
- }
- public static void main(final String[] args) throws Exception
- {
- final long start = System.nanoTime();
- runTest();
- System.out.println(“duration = “ + (System.nanoTime() - start));
- }
- private static void runTest() throws InterruptedException
- {
- Thread[] threads = new Thread[NUM_THREADS];
- for (int i = 0; i < threads.length; i++)
- {
- threads[i] = new Thread(new FalseSharing(i));
- }
- for (Thread t : threads)
- {
- t.start();
- }
- for (Thread t : threads)
- {
- t.join();
- }
- }
- public void run()
- {
- long i = ITERATIONS + 1;
- while (0 != –i)
- {
- longs[arrayIndex].set(i);
- }
- }
- public static long sumPaddingToPreventOptimisation(final int index)
- {
- VolatileLong v = longs[index];
- return v.p1 + v.p2 + v.p3 + v.p4 + v.p5 + v.p6;
- }
- //jdk7以上使用此方法(jdk7的某个版本oracle对伪共享做了优化)
- public final static class VolatileLong
- {
- public volatile long value = 0L;
- public long p1, p2, p3, p4, p5, p6;
- }
- // jdk7以下使用此方法
- public final static class VolatileLong
- {
- public long p1, p2, p3, p4, p5, p6, p7; // cache line padding
- public volatile long value = 0L;
- public long p8, p9, p10, p11, p12, p13, p14; // cache line padding
- }
- }
8. Java 8 中的解决方案
Java 8 中已经提供了官方的解决方案,Java 8 中新增了一个注解: @sun.misc.Contended
。加上这个注解的类会自动补齐缓存行,需要注意的是此注解默认是无效的,需要在 jvm 启动时设置 -XX:-RestrictContended
才会生效。
- @sun.misc.Contended
- public final static class VolatileLong {
- public volatile long value = 0L;
- //public long p1, p2, p3, p4, p5, p6;
参考文献
http://igoro.com/archive/gallery-of-processor-cache-effects/
http://ifeve.com/false-sharing/
http://blog.csdn.net/muxiqingyang/article/details/6615199
https://yq.aliyun.com/articles/62865
Java 中的伪共享详解及解决方案相关推荐
- Java中的static关键字详解
** Java中的static关键字详解 ** 在一个类中定义一个方法为static,即静态的,那就是说无需本类的对象就可以调用此方法.调用一个静态方法就是 "类名.方法名" ,静 ...
- java中的进制输出转换_Java I/O : Java中的进制详解
作者:李强强 上一篇,泥瓦匠基础地讲了下Java I/O : Bit Operation 位运算.这一讲,泥瓦匠带你走进Java中的进制详解. 一.引子 在Java世界里,99%的工作都是处理这高层. ...
- Java中的main()方法详解
源文作者:leizhimin 源文链接:http://lavasoft.blog.51cto.com/62575/53263 源文作者版权申明: 版权声明:原创作品,允许转载,转载时请务必以超链 ...
- java中Freemarker list指令详解
java Freemarker中list指令主要是进行迭代服务器端传递过来的List集合. 定义 <#list nameList as names> ${names} </#list ...
- Java中的Runtime类详解
Java中的Runtime类详解 1.类注释 /**Every Java application has a single instance of class Runtime that allows ...
- java中properties作用,Java中Properties的使用详解
Java中有个比较重要的类Properties(Java.util.Properties),主要用于读取Java的配置文件,各种语言都有自己所支 持的配置文件,配置文件中很多变量是经常改变的,这样做也 ...
- java中list和map详解
java中list和map详解 一.概叙 List , Set, Map都是接口,前两个继承至Collection接口,Map为独立接口, List下有ArrayList,Vector,LinkedL ...
- stringtokenizer java_基于Java中的StringTokenizer类详解(推荐)
StringTokenizer是字符串分隔解析类型,属于:Java.util包. 1.StringTokenizer的构造函数 StringTokenizer(String str):构造一个用来解析 ...
- Java中的运算符——逻辑运算符详解
逻辑运算符主要包括逻辑与( & ),逻辑或( | ),逻辑异或( ^ ),短路与( && ),短路或( || ).所有逻辑运算符的特点是操作数都是布尔类型,并且最终的运算结果也 ...
最新文章
- 我们也可以从学习中获得快乐 ------稻盛和夫
- jmeter常见错误及解决方法
- Caused by SSLError(“Can‘t connect to HTTPS URL because the SSL module is not available)
- git config设置用户名_git从安装到多账户操作一套搞定(二)多账户使用
- python语句写入oracle_将Python变量插入Oracle数据库
- goto 语句和标号
- Java课程设计---Eclipse基本环境配置
- oracle jde优势介绍,Oracle JDE EnterpriseOne模块的详细功能介绍
- CSS基础教程(上)
- 【Linux】Ubuntu18.04安装微信和QQ【2022】
- android aidl oneway用法
- phpcms 设置page页码 首页、末页、总数据
- 2021年影响谷歌Google排名的因素有哪些?
- 科大讯飞 唤醒python_用Python来使用科大讯飞语音识别,so easy
- 动态SQL之choose、when、otherwise标签
- 游戏开发中的问题-----摘自《大型多人在线游戏开发》
- qq空间、微信好友、邮件、短信分享
- APM系统监控技术选型
- (转)VC IMM/IME输入法编程
- Java异常 #IntelliJ IDEA改了项目的Target bytecode version
热门文章
- Centos配置samba文件共享服务器
- Win10 最有效去快捷方式 盾牌的脚本 不接受任何反驳任何异议
- 论文笔记 EMNLP 2018|Collective Event Detection via a Hierarchical and Bias Tagging Networks with Gated
- ros 导航配置参数
- mac上投屏android_傲软投屏Mac版-傲软投屏for Mac下载 V1.2.9.1-PC6苹果网
- 面向对象思想、特征等
- 面向规划衔接的完整街道详细分类方法
- 阿里云学生服务器购买指南(用途和指南)
- python自动化库_Python操作自动化库PyAutoGUI的方法
- 设备通过国标GB28181协议接入EasyCVR后通道不上线的原因和解决方法