Python多进程池 multiprocessing Pool用法示例
更新时间：2018年09月07日 14:04:03 作者：旭东的博客
这篇文章主要介绍了Python多进程池 multiprocessing Pool用法,结合实例形式分析了多进程池 multiprocessing Pool相关概念、原理及简单使用技巧,需要的朋友可以参考下
本文实例讲述了Python多进程池 multiprocessing Pool用法。分享给大家供大家参考，具体如下：
1. 背景
由于需要写python程序, 定时、大量发送htttp请求，并对结果进行处理。
参考其他代码有进程池，记录一下。
2. 多进程 vs 多线程
- c++程序中，单个模块通常是单进程，会启动几十、上百个线程，充分发挥机器性能。(目前c++11有了std::thread编程多线程很方便，可以参考我之前的博客)
- shell脚本中，都是多进程后台执行。({ ...} &， 可以参考我之前的博客，实现shell并发处理任务)
- python脚本有多线程和多进程。由于python全局解锁锁的GIL的存在,一般建议 CPU密集型应该采用多进程充分发挥多核优势，I/O密集型可以采用多线程。
尽管Python完全支持多线程编程， 但是解释器的C语言实现部分在完全并行执行时并不是线程安全的。
实际上，解释器被一个全局解释器锁保护着，它确保任何时候都只有一个Python线程执行。
GIL最大的问题就是Python的多线程程序并不能利用多核CPU的优势 （比如一个使用了多个线程的计算密集型程序只会在一个单CPU上面运行）。
3. multiprocessing pool使用例子
对Pool对象调用join()方法会等待所有子进程执行完毕，调用join()之前必须先调用close()，让其不再接受新的Process了
#coding=utf-8
import logging
import time
from multiprocessing import Pool
logging.basicConfig(level=logging.INFO, filename='logger.log')
class Point:
def __init__(self, x = 0, y= 0):
self.x = x
self.y = y
def __str__(self):
return "(%d, %d)" % (self.x, self.y)
def fun1(point):
point.x = point.x + 3
point.y = point.y + 3
time.sleep(1)
return point
def fun2(x):
time.sleep(1)
logging.info(time.ctime() + ", fun2 input x:" + str(x))
return x * x
if __name__ == '__main__':
pool = Pool(4)
#test1
mylist = [x for x in range(10)]
ret = pool.map(fun2, mylist)
print ret
#test2
mydata = [Point(x, y) for x in range(3) for y in range(2)]
res = pool.map(fun1, mydata)
for i in res:
print str(i)
#end
pool.close()
pool.join()
print "end"
运行结果：
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
(3, 3)
(3, 4)
(4, 3)
(4, 4)
(5, 3)
(5, 4)
end
4. 参考
Python 多进程 multiprocessing.Pool类详解
Python 多线程和多进程编程总结
Python的全局锁问题
更多关于Python相关内容感兴趣的读者可查看本站专题：《Python进程与线程操作技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》、《Python+MySQL数据库程序设计入门教程》及《Python常见数据库操作技巧汇总》
希望本文所述对大家Python程序设计有所帮助。
相关文章
Numpy是Python强大的数学计算库，和Scipy一起构建起Python科学计算生态，在本节下面我们重点介绍下repeat函数的用法,需要的朋友可以参考下2022-11-11
这篇文章主要介绍了Pytorch 如何训练网络时调整学习率的操作，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2021-05-05
这篇文章主要为大家详细介绍了如何使用Python编写简单的逻辑，通过调用API接口实现每日新闻推送功能，感兴趣的小伙伴可以跟随小编一起学习一下2023-06-06
这篇文章主要介绍了python中二维阵列的变换实例,通过对比两种不同的方法分析了二维阵列变换的实现方法,需要的朋友可以参考下2014-10-10
这篇文章主要介绍了Python 虚拟空间的使用，本文通过示例代码给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下2019-06-06
在本篇内容里小编给大家整理的是一篇关于python与c语法区别的相关内容，有兴趣的朋友们可以参考下。2020-09-09
在数据预处理或纠错的过程中可能会用到对列表中是否含有我们需要的字符串的判断,下面这篇文章主要给大家介绍了关于Python中如何检查字符串是否包含列表中的元素的相关资料,需要的朋友可以参考下2023-06-06
今天小编就为大家分享一篇python 求1-100之间的奇数或者偶数之和的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-06-06
这篇文章主要介绍了Sanic框架流式传输操作,结合实例形式分析了Sanic通过流请求与响应传输操作相关实现技巧与注意事项,需要的朋友可以参考下2018-07-07
这篇文章主要介绍了Python 基础教程之包和类的用法的相关资料,需要的朋友可以参考下2017-02-02
最新评论