Python多进程并发(multiprocessing)用法实例详解

更新时间：2015年06月02日 16:35:34 作者：songguo

这篇文章主要介绍了Python多进程并发(multiprocessing)用法,实例分析了multiprocessing模块进程操作的相关技巧,需要的朋友可以参考下

本文实例讲述了Python多进程并发(multiprocessing)用法。分享给大家供大家参考。具体分析如下：

由于Python设计的限制(我说的是咱们常用的CPython)。最多只能用满1个CPU核心。
Python提供了非常好用的多进程包multiprocessing，你只需要定义一个函数，Python会替你完成其他所有事情。借助这个包，可以轻松完成从单进程到并发执行的转换。

1、新建单一进程

如果我们新建少量进程，可以如下：

import multiprocessing
import time
def func(msg):
  for i in xrange(3):
    print msg
    time.sleep(1)
if __name__ == "__main__":
  p = multiprocessing.Process(target=func, args=("hello", ))
  p.start()
  p.join()
  print "Sub-process done."

2、使用进程池

是的，你没有看错，不是线程池。它可以让你跑满多核CPU，而且使用方法非常简单。

注意要用apply_async，如果落下async，就变成阻塞版本了。

processes=4是最多并发进程数量。

import multiprocessing
import time
def func(msg):
  for i in xrange(3):
    print msg
    time.sleep(1)
if __name__ == "__main__":
  pool = multiprocessing.Pool(processes=4)
  for i in xrange(10):
    msg = "hello %d" %(i)
    pool.apply_async(func, (msg, ))
  pool.close()
  pool.join()
  print "Sub-process(es) done."

3、使用Pool，并需要关注结果

更多的时候，我们不仅需要多进程执行，还需要关注每个进程的执行结果，如下：

import multiprocessing
import time
def func(msg):
  for i in xrange(3):
    print msg
    time.sleep(1)
  return "done " + msg
if __name__ == "__main__":
  pool = multiprocessing.Pool(processes=4)
  result = []
  for i in xrange(10):
    msg = "hello %d" %(i)
    result.append(pool.apply_async(func, (msg, )))
  pool.close()
  pool.join()
  for res in result:
    print res.get()
  print "Sub-process(es) done."

希望本文所述对大家的Python程序设计有所帮助。

您可能感兴趣的文章:

Python获取单个程序CPU使用情况趋势图
这篇文章主要介绍了Python获取单个程序CPU使用情况趋势图,本文使用matplotlib将数据可视化,需要的朋友可以参考下
2015-03-03
Python 玩转图像格式转换操作
这篇文章主要介绍了Python 玩转图像格式转换方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2021-03-03
Python实现查询剪贴板自动匹配信息的思路详解
这篇文章主要介绍了Python实现查询剪贴板自动匹配信息，本文通过示例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
2021-07-07
python正则表达式re.match()匹配多个字符方法的实现
这篇文章主要介绍了python正则表达式re.match()匹配多个字符方法的实现,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2021-01-01
使用matplotlib创建Gif动图的实现
本文主要介绍了使用matplotlib创建Gif动图的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2022-04-04
将Dataframe数据转化为ndarry数据的方法
今天小编就为大家分享一篇将Dataframe数据转化为ndarry数据的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2018-06-06
Python中break语句和continue语句的用法讲解
在Python中，break语句和continue语句一般用于循环语句中，这篇文章主要介绍了Python中break语句和continue语句的用法小结,需要的朋友可以参考下
2022-12-12
基于matlab atan2函数解析
这篇文章主要介绍了matlab atan2函数解析,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
2023-09-09
Python flask与fastapi性能测试方法介绍
这篇文章主要介绍了Python flask与fastapi性能测试方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习吧
2022-12-12
使用PyTorch将数据从CPU移动到GPU的四个方法
这篇文章给大家介绍了在 PyTorch 中,将数据从 CPU 移动到 GPU 的几种方法,使用 .to() 方法,使用 .cuda() 方法,使用 torch.Tensor 构造函数和使用 torch.tensor 构造函数这四个方法,通过代码示例介绍非常详细,需要的朋友可以参考下
2024-01-01