多线程上下文切换优化与注意

前言

本文来自方腾飞老师《Java并发编程的艺术》第一章。

并发编程的目的是为了让程序运行得更快，但是并不是启动更多的线程就能让程序最大限度地并发执行。在进行并发编程时，如果希望通过多线程执行任务让程序运行得更快，会面临非常多的挑战，比如上下文切换的问题、死锁的问题，以及受限于硬件和软件的资源限制问题，本文要研究的是上下文切换的问题。

什么是上下文切换

即使是单核CPU也支持多线程执行代码，CPU通过给每个线程分配CPU时间片来实现这个机制。时间片是CPU分配给各个线程的时间，因为时间片非常短，所以CPU通过不停地切换线程执行，让我们感觉多个线程时同时执行的，时间片一般是几十毫秒（ms）。

CPU通过时间片分配算法来循环执行任务，当前任务执行一个时间片后会切换到下一个任务。但是，在切换前会保存上一个任务的状态，以便下次切换回这个任务时，可以再次加载这个任务的状态，从任务保存到再加载的过程就是一次上下文切换。

这就像我们同时读两本书，当我们在读一本英文的技术书籍时，发现某个单词不认识，于是便打开中英文词典，但是在放下英文书籍之前，大脑必须先记住这本书读到了多少页的第多少行，等查完单词之后，能够继续读这本书。这样的切换是会影响读书效率的，同样上下文切换也会影响多线程的执行速度。

上下文切换代码测试

下面的代码演示串行和兵法执行并累加操作的时间：

 1 public class ContextSwitchTest
 2 {
 3     private static final long count = 10000;
 4

 5     public static void main(String[] args) throws Exception
 6     {
 7         concurrency();
 8         serial();
 9     }
10

11     private static void concurrency() throws Exception
12     {
13         long start = System.currentTimeMillis();
14         Thread thread = new Thread(new Runnable(){
15             public void run()
16             {
17                 int a = 0;
18                 for (int i = 0; i < count; i++)
19                 {
20                     a += 5;
21                 }
22             }
23         });
24         thread.start();
25         int b = 0;
26         for (long i = 0; i < count; i++)
27         {
28             b --;
29         }
30         thread.join();
31         long time = System.currentTimeMillis() - start;
32         System.out.println("Concurrency：" + time + "ms, b = " + b);
33     }
34

35     private static void serial()

36     {
37         long start = System.currentTimeMillis();
38         int a = 0;
39         for (long i = 0; i < count; i++)
40         {
41             a += 5;
42         }
43         int b = 0;
44         for (int i = 0; i < count; i++)
45         {
46             b --;
47         }
48         long time = System.currentTimeMillis() - start;
49         System.out.println("Serial：" + time + "ms, b = " + b + ", a = " + a);
50     }
51 }

修改上面的count值，即修改循环次数，看一下串行运行和并发运行的时间测试结果：

循环次数	串行执行耗时/ms	并发执行耗时/ms	串行和并发对比
1亿	78	50	并发快约0.5倍
1000万	10	6	并发快约0.5~1倍
100万	3	2	差不多
10万	2	2	差不多
1万	0	1	差不多，十几次执行下来，总体而言串行略快

从表中可以看出，100次并发执行累加以下，串行执行和并发执行的运行速度总体而言差不多，1万次以下串行执行甚至还可以说是略快。为什么并发执行的速度会比串行慢呢？这就是因为线程有创建和上下文切换的开销。

上下文切换次数查看

在Linux系统下可以使用vmstat命令来查看上下文切换的次数，下面是利用vmstat查看上下文切换次数的示例：

CS（Context Switch）表示上下文切换的次数，从图中可以看到，上下文每秒钟切换500~600次左右。

如果要查看上下文切换的时长，可以利用Lmbench3，这是一个性能分析工具。

如何减少上下文切换

既然上下文切换会导致额外的开销，因此减少上下文切换次数便可以提高多线程程序的运行效率。减少上下文切换的方法有无锁并发编程、CAS算法、使用最少线程和使用协程。

无锁并发编程。多线程竞争时，会引起上下文切换，所以多线程处理数据时，可以用一些办法来避免使用锁，如将数据的ID按照Hash取模分段，不同的线程处理不同段的数据
CAS算法。Java的Atomic包使用CAS算法来更新数据，而不需要加锁
使用最少线程。避免创建不需要的线程，比如任务很少，但是创建了很多线程来处理，这样会造成大量线程都处于等待状态
协程。在单线程里实现多任务的调度，并在单线程里维持多个任务间的切换

转载于:https://www.cnblogs.com/signheart/p/3e3379943de1c36d5bcc7d8cee4b9825.html

多线程上下文切换优化与注意相关推荐

java 优化线程_Java | 多线程调优（下）：如何优化多线程上下文切换？
通过上一讲的讲解,相信你对上下文切换已经有了一定的了解了.如果是单个线程,在 CPU 调用之后,那么它基本上是不会被调度出去的.如果可运行的线程数远大于 CPU 数量,那么操作系统最终会将某个正在运行 ...
《Java性能调优实战》笔记（一）Java编程性能调优、多线程性能优化
文章目录一.Java性能调优概述 1.1 性能调优标准 1.2 制定性能调优策略二.Java编程性能调优 2.1 字符串 2.2 正则表达式 2.3 ArrayList和LinkedList的选择 ...
利用进化算法+多进程/多线程来优化SVM中的两个参数：C和Gamma
该案例展示了如何利用进化算法+多进程/多线程来优化SVM中的两个参数:C和Gamma. 在执行本案例前,需要确保正确安装sklearn,以保证SVM部分的代码能够正常执行. 本函数需要用到一个外部数据 ...
Java多线程性能优化
Java多线程性能优化大家使用多线程无非是为了提高性能,但如果多线程使用不当,不但性能提升不明显,而且会使得资源消耗更大.下面列举一下可能会造成多线程性能问题的点: 死锁过多串行化过多锁竞争切 ...
什么是多线程上下文切换？
1.什么是多线程上下文切换? 多线程会共同使用一组计算机上的 CPU ,而线程数大于给程序分配的 CPU 数量时,为了让各个线程都有执行的机会,就需要轮转使用 CPU . 2.不同的线程切换使用 CP ...
Android多线程任务优化1：探讨AsyncTask的缺陷
AsyncTask还有别的缺陷,在生成listview的时候,如果adapter里面的count动态改变的话,不能使用AsyncTask,只能使用Thread+Handler,否则会出现如下错误 ja ...
一次多线程耗尽优化与处理
序一次自动任务开启线程执行导致的线程耗尽问题. 一.现象出现Running pool size = xxx报错. 二.多线程集成这个参考我之前的博文,我是采用统一的线程池 ...
【算法】SGM半全局匹配+多线程SIMD256优化
SGM半全局匹配(Semi-Global Matching) 参考论文:H Hirschmüller. Stereo Processing by Semiglobal Matching and Mut ...
我用多线程进一步优化了亿级流量电商业务下的海量数据校对系统，性能再次提升了200%！！（全程干货，建议收藏）
大家好,我是冰河~~ 在[精通高并发系列]的<我用多线程优化了亿级流量电商业务下的海量数据校对系统,性能直接提升了200%!!(全程干货,建议收藏)>一文中,我们主要使用了CountDow ...

多线程上下文切换优化与注意

多线程上下文切换优化与注意相关推荐

最新文章

热门文章