基于python的多进程共享变量正确打开方式
多进程共享变量和获得结果
由于工程需求，要使用多线程来跑一个程序。但是因为听说python的多线程是假的，于是使用多进程，反正任务需要共享的参数少。
查阅资料，发现实现多进程主要使用Multiprocessing，有两种方式，一种是Process，另一种是Pool。
p = Process(target=fun,args=(args))
再通过p.start()来启动一个子进程，通过p.join()方法来使得子进程运行结束后再执行父进程。
但是这样很烦，还要写个for 循环来开n个线程和join。
于是推荐用Pool。它可以开一个固定大小的进程池，然后每个线程执行apply_async()函数调用要执行的函数，最后再close和join。
代码如下：
pathm=Manager().Queue(len(pathlist)) for d in pathlist: pathm.put(d) p=Pool(cp.threads) results=[] for i in range(cp.threads): temp=p.apply_async(ProcessWorker,args=(i,pathm,cp)) results.append(temp) print 'Waiting for all subprocesses done...' p.close() p.join() print 'All subprocesses finish Processing.' results=[r.get() for r in results]
上面的代码演示了如何使用pool多进程，如何在Pool里的进程之间共享变量pathm，以及如何获得进程函数执行的结果。需要注意的是，ProcessWorker必须是个无界的函数，否则报错该函数无法被pickle从而不能分配到各个进程。
cPickle.PicklingError: Can't pickle <type 'instancemethod'>: attribute lookup __builtin__.instancemethod failed
有界函数和python的多进程机制
从上面引申到了一个概念，就是有界函数无界函数的概念。
查阅资料之后我总结如下：
有界函数是包在一个类中，并且只有当类被实例化之后才能使用的函数，它的界就是这个实例。我们常常把这些函数称为类方法。例如以self为参数的类方法。
无界函数可以是没有被包在类中的函数，也可以是类中的静态方法，它们跟类是独立的。如类中的静态方法，它即使在某个类中被定义，但是不能访问类中的参数和其他方法。
python多进程的机制应该是把每个进程要调用的方法和传入的参数（如上面例子中的ProcessWorker）编译然后打包，然后复制到每个进程中执行。如果输入的是一个有界函数，那么它的参数应该是它所属的类（包括参数和方法），但是这是无法获得的，而且类属性和方法可能会有坑，导致难以打包。所以python限定了多进程要调用的函数不能是类方法。
我们要把多进程调用的函数放到类外面，或者变成静态函数。但是静态函数的话不能被所属的类的方法调用（self.ProcessWorker的形式），需要在外部调用，如mc=MyClass(),mc.ProcessWorker来调用，或者MyClass().ProcessWorker来调用。
以上这篇基于python的多进程共享变量正确打开方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
str.split()是Python中字符串类型的一个方法,可以用来将字符串按照指定的分隔符分割成多个子字符串,这篇文章主要给大家介绍了关于Python中拆分具有多个分隔符的字符串的相关资料,需要的朋友可以参考下2023-04-04
今天小编就为大家分享一篇Python 用turtle实现用正方形画圆的例子，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-11-11
这篇文章主要介绍了python多线程互斥锁与死锁，多线程间的资源竞争下文我们就以task1()，task2()两个函数为例，分别将对全局变量num加一重复一千万次循环，具有一定得参考价值，需要的小伙伴可以参考一下2022-02-02
这篇文章主要介绍了Python使用列表推导式快速生成列表，列表推导式是Python构建列表list的一种快捷方式,可以使用简洁的代码就创建出一个列表,需要的朋友可以参考下2023-07-07
这篇文章主要介绍了使用Python对Syslog信息进行分析并绘图的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-04-04
本文通过实例代码给大家介绍了python使用多进程的方法，非常不错，具有一定的参考借鉴价值，需要的朋友参考下吧2018-09-09
今天小编就为大家分享一篇Python-Flask:动态创建表的示例详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-11-11
今天小编就为大家分享一篇pycharm下查看python的变量类型和变量内容的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-06-06
这篇文章主要介绍了Python Web静态服务器非堵塞模式实现方法,结合实例形式分析了Python单进程非堵塞模式实现的Web静态服务器相关操作技巧,需要的朋友可以参考下2019-11-11
数据导入是所有数模编程的第一步，比你想象的更重要。Python 语言中数据导入的方法很多。对于数学建模问题编程来说，选择什么方法最好呢？答案是：没有最好的，只有最合适的。对于不同的问题，不同的算法，以及所调用工具包的不同实现方法，对于数据就会有不同的要求2021-06-06
最新评论