由于python相当易学易用，现在python也较多地用于有大量的计算需求的任务。本文介绍几个并行模块，以及实现程序并行的入门技术。本文比较枯燥，主要是为后面上工程实例做铺垫。完结篇对前期介绍的所有模块及实例进行总结，比较各并行方法的特点和异同。

所有比较都以文字形式呈现了，欢迎指正或完善，做成表格可能效果更好。

模块介绍：

爱coding：python并行计算(上)：multiprocessing、multiprocess模块​zhuanlan.zhihu.com爱coding：python并行计算(上)：pathos模块​zhuanlan.zhihu.com爱coding：python并行计算(上)：concurrent.futures、pp模块​zhuanlan.zhihu.com

实例：

爱coding：python并行计算(下)：multiprocessing模块实例​zhuanlan.zhihu.com爱coding：python并行计算(下)：pathos模块实例​zhuanlan.zhihu.com爱coding：python并行计算(下)：concurrent.futures、pp模块实例​zhuanlan.zhihu.com

注：以下模块、类与其他内容相同或接近，不重复介绍和比较：

multiprocess模块：与multiprocessing模块接口基本一致。

pathos.pp.pp模块：实质也即pp模块，与独立的pp模块完全相同。

pathos.multiprocessing.Pool()：与multiprocess.Pool()完全相同。

pathos.multiprocessing.ProcessingPool()、pathos.pools.ProcessPool()：与pathos.multiprocessing.ProcessPool()完全相同。

pathos.pp.ParallelPythonPool()、pathos.parallel.ParallelPool()、pathos.parallel.ParallelPythonPool()、pathos.pools.ParallelPool()：与pathos.pp.ParallelPool()完全相同。

pathos.serial.SerialPool()：实际是串行(非并行)，不参与比较。

1、按并行分类

(1)阻塞(非并行)：

非并行方式下，子进程串行执行(完成一个，然后开始下一个)，实际不是并行。包括：

multiprocessing.Pool()，apply方法

pathos.multiprocessing.ProcessPool()，pipe方法

pathos.pp.ParallelPool()，pipe方法

pathos.pp.ParallelPool()，map方法

pathos.pp.ParallelPool()，imap方法

(2)批次并行：

批次并行指一批子进程并行执行，且直到该批次所有子进程完成后，才开始下一批次。包括：

multiprocessing.Process() #只能一批一批地添加进程，同一批次内并行

(3)异步：

异步执行指的是一批子进程并行执行，且子进程完成一个，就新开始一个，而不必等待同一批其他进程完成。包括：

multiprocessing.Pool()，apply_async方法

multiprocessing.Pool()，map方法

multiprocessing.Pool()，map_async方法

multiprocessing.Pool()，imap方法

multiprocessing.Pool()，imap_unordered方法

multiprocessing.Pool()，starmap方法

multiprocessing.Pool()，starmap_async方法

concurrent.futures.ProcessPoolExecutor()，submit方法

concurrent.futures.ProcessPoolExecutor()，map方法

pathos.multiprocessing.ProcessPool()，map方法

pathos.multiprocessing.ProcessPool()，imap方法

pathos.multiprocessing.ProcessPool()，uimap方法

pathos.multiprocessing.ProcessPool()，amap方法

pathos.multiprocessing.ProcessPool()，apipe方法

pp.Server()，submit方法

pathos.pp.ParallelPool()，apipe方法

pathos.pp.ParallelPool()，amap方法

pathos.pp.ParallelPool()，uimap方法

2、按传参分类

(1)单个任务，任务多参数：

multiprocessing.Process()

concurrent.futures.ProcessPoolExecutor()，submit方法

multiprocessing.Pool()，apply方法

multiprocessing.Pool()，apply_async方法

pathos.multiprocessing.ProcessPool()，pipe方法

pathos.multiprocessing.ProcessPool()，apipe方法

pp.Server()，submit方法

pathos.pp.ParallelPool()，pipe方法

pathos.pp.ParallelPool()，apipe方法

(2)多个任务，任务单参数：

multiprocessing.Pool()，map方法

multiprocessing.Pool()，map_async方法

multiprocessing.Pool()，imap方法

multiprocessing.Pool()，imap_unordered方法

(3)多个任务，任务多参数：

(a)func(iterable[i])形式：iterable的每个元素(元素本身也是iterable)对应func的多个参数。

multiprocessing.Pool()，starmap方法

multiprocessing.Pool()，starmap_async方法

(b)func(iterable1[i], iterable2[i], ...)形式：每个iterable对应func的一个参数。

concurrent.futures.ProcessPoolExecutor()，map方法

pathos.multiprocessing.ProcessPool()，map方法

pathos.multiprocessing.ProcessPool()，imap方法

pathos.multiprocessing.ProcessPool()，uimap方法

pathos.multiprocessing.ProcessPool()，amap方法

pathos.pp.ParallelPool()，map方法

pathos.pp.ParallelPool()，amap方法

pathos.pp.ParallelPool()，imap方法

pathos.pp.ParallelPool()，uimap方法

3、按返回分类

(1)返回任务返回值

multiprocessing.Pool()，apply方法

pathos.multiprocessing.ProcessPool()，pipe方法

pathos.pp.ParallelPool()，pipe方法

(2)返回list

multiprocessing.Pool()，map方法

multiprocessing.Pool()，starmap方法

pathos.multiprocessing.ProcessPool()，map方法

pathos.pp.ParallelPool()，map方法

(3)返回ApplyResult

返回MapResult或ApplyResult实例，通过get方法获取返回值。需要注意的是：

由于每个ApplyResult实例对应单个子进程，其get方法本身是阻塞的，因此，在进程添加过程中不可包含get方法，而应在所有进程完成后，再一起调用get方法。

对于MapResult不存在该问题，因为所有子进程只会一起返回一个MapResult实例。

包括：

multiprocessing.Pool()，apply_async方法

pathos.multiprocessing.ProcessPool()，apipe方法

pathos.pp.ParallelPool()，apipe方法

(4)返回MapResult

multiprocessing.Pool()，map_async方法

multiprocessing.Pool()，starmap_async方法

pathos.multiprocessing.ProcessPool()，amap方法

pathos.pp.ParallelPool()，amap方法

(5)返回迭代器或生成器

迭代器/生成器对内存的需求会小得多，但速度比普通方法要慢很多(未验证)。不过，对于本文的小型任务，看不出差别。

(a)按顺序：即按任务添加顺利返回。

multiprocessing.Pool()，imap方法

concurrent.futures.ProcessPoolExecutor()，map方法

pathos.multiprocessing.ProcessPool()，imap方法

pathos.pp.ParallelPool()，imap方法

(b)不按顺序：实际按任务完成顺序返回。

multiprocessing.Pool()，imap_unordered方法

pathos.multiprocessing.ProcessPool()，uimap方法

pathos.pp.ParallelPool()，uimap方法

(6)无直接返回值

multiprocessing.Process() #无直接返回值，可通过进程间通信的方式返回任务返回值。

concurrent.futures.ProcessPoolExecutor()，submit方法 #future对象可以通过result方法获取子进程任务返回值。但该方法是阻塞的，因此，应在所有子进程完成后再调用。

pp.Server()，submit方法 #Task对象可调用(即Task())，调用可返回任务返回值。但调用是阻塞的，因此，应在所有子进程完成后再调用。