并发编程-并发编程的挑战

并发编程的挑战

并发编程中，我们或多或少会遇到线程上下文切换、死锁、受限于软硬件资源限制的挑战。

上下文切换

CPU会通过时间片分配算法给各个线程分配时间片来实现多线程机制。获得CPU时间片的线程将可以执行。当前一个线程执行一个时间片后会切换到下一个线程，线程切换前需要保存执行的状态，下回该线程切换回来时再加载这个执行状态，线程状态从保存到再加载的过程就是一次上下文切换。线程上下文切换会消耗一定的资源，如何减少上下文切换呢？

减少上下文切换的方法有无锁并发编程、CAS算法、使用最少线程和使用协程。

无锁并发编程
多线程竞争锁时，会引起上下文切换，所以多线程处理数据时，可以用一些方法来避免使用锁，如将数据的ID按照Hash算法取模分段，不同的线程处理不同段的数据。
CAS算法
Java的Atomic包使用CAS算法来更新数据，而不需要加锁。
使用最少线程
避免创建不需要的线程，不如任务很少，但是创建了很多线程来处理，这样会造成大量线程处于等待状态。
协程
在单线程里实现多任务的调度，并在单线程里维持多个任务间的切换。

死锁

锁是个非常有用的工具，运用场景多、使用简单、易于理解。但如果产生死锁，就会造成系统功能不可用。那么如何避免死锁？

避免死锁的常见几个方法如下

避免一个线程同时获取多个锁。
避免一个线程在锁内同时占用多个资源，尽量保证每个锁只占用一个资源。
尝试使用定时锁，使用Lock.tryLock( timeout )来替代使用内部锁机制。
对于数据库锁，加锁和解锁必须在一个数据库连接里，否则会出现解锁失败的情况。

软硬件资源限制

在并发编程中，将代码执行速度加快的原则是将代码中串行执行的部分变成并发执行，如果因为受限于资源限制，仍在串行，因为增加了上下文切换和资源调度的时间，这时候程序不仅不会加快执行，反而会变慢。例如服务器带宽为2Mb/s，某个资源的下载速度是1Mb/s，系统启动10个线程下载资源，下载速度不会变成10Mb/s。如何解决资源限制的问题？

硬件资源限制
可以考虑使用集群并行执行程序。可以通过“数据ID%机器数”，计算得到一个机器编号，然后由对应编号的机器处理这部分数据。
软件资源限制
可以考虑使用资源池将资源复用，比如使用连接池将数据库和Socket连接复用，或者在调用第三方WebService接口获取数据时，只建立一个连接。
调整并发度
根据不同的资源限制调整程序的并发度，可以让程序执行的更快。如，有数据库操作时，设计数据库连接数，如果SQL执行非常快，而线程的数量比数据库连接数大很多，则某些线程会被阻塞，等待数据库连接。

J.U.C

我们在并发编程中难免遇到问题，有的程序写的不严谨，在并发下如果出现问题，定位起来会比较耗时和棘手。对应Java工程师来说，幸运的是JDK并发包（java.util.concurrent监测J.U.C）为我们提供了不少经过充分测试和优化的并发容器和工具，能够帮助我们更好的解决并发问题。

J.U.C整体框架

Atomic
该包下主要是一些原子变量类，仅依赖于Unsafe，并且被其他模块所依赖，同时在实际编程中应用较普遍，所以需要先研究该包。重点理解AtomicBoolean、AtomicInteger、AtomicLong的原理(底层逻辑较简单，直接调用Unsafe操作实现),有精力可以看看原子数组的实现，其他的类可暂时不看，在实际应用及码源中几乎很少用到。
Locks
该包下主要是关于锁及其相关类，仅依赖于Unsafe或内部依赖，并且被其他高级模块所依赖。由于LockSupport类底层逻辑简单且仅依赖Unsafe，同时为其他高级模块所依赖，所以需要先了解LockSupport类的运行原理，然后重点研究AbstractQueuedSynchronizer框架，理解独占锁和共享锁的实现原理，并清楚Condition如何与AbstractQueuedSynchronizer进行协作，最后很容易就能理解ReentrantLock是如何实现的。
Collections
该包会依赖Unsafe和前两个基础模块，并且模块内部各个容器间相互较为独立，所以没有固定的学习顺序，理解编程中常用的集合类原理即可：ConcurrentHashMap、CopyOnWriteArrayList、CopyOnWriteArraySet、ArrayBlockingQueue、LinkedBlockingQueue（阻塞队列在线程池中有使用，所以理解常用阻塞队列的特性很重要）
Executor
这一部分的核心是线程池的运行原理，也是实际应用中较多的部分，会依赖于前几个模块。首先了解Callable、Future、RunnableFuture三个接口间的关系以及FutureTask的实现原理，然后研究如何创建ThreadPoolExecutor，如何运行一个任务，如何管理自身的线程，同时了解RejectedExecutionHandler的四种实现差异，最后，在实际应用中学习如何通过调整ThreadPoolExecutor的参数来优化线程池。
Tools
这一部分是以前面几个模块为基础的高级特性模块，实际应用的场景相对较少，主要应用在多线程间相互依赖执行结果场景，没有具体的学习顺序，最好CountDownLatch、CyclicBarrier、Semaphore、Exchanger、Executors都了解下，对后面学习Guava的框架有帮助。

参考资料：
《Java 并发编程的艺术》
https://blog.csdn.net/chen7253886/article/details/52769111
http://ifeve.com/doug-lea/
http://www.cnblogs.com/chenpi/archive/2016/07/06/5614290.html
http://www.cnblogs.com/chenpi/archive/2016/07/06/5614290.html#_label5