python 多线程与多进程效率测试

 更新时间:2021年10月26日 10:45:00   作者:Silent丿丶黑羽  
这篇文章主要介绍了python 多线程与多进程效率测试,在Python中,计算密集型任务适用于多进程,IO密集型任务适用于多线程、接下来看看文章得实例吧,需要的朋友可以参考一下哟

1、概述

在Python中,计算密集型任务适用于多进程,IO密集型任务适用于多线程

正常来讲,多线程要比多进程效率更高,因为进程间的切换需要的资源和开销更大,而线程相对更小,但是我们使用的Python大多数的解释器是Cpython,众所周知Cpython有个GIL锁,导致执行计算密集型任务时多线程实际只能是单线程,而且由于线程之间切换的开销导致多线程往往比实际的单线程还要慢,所以在 python 中计算密集型任务通常使用多进程,因为各个进程有各自独立的GIL,互不干扰。

而在IO密集型任务中,CPU时常处于等待状态,操作系统需要频繁与外界环境进行交互,如读写文件,在网络间通信等。在这期间GIL会被释放,因而就可以使用真正的多线程。

上面都是理论,接下来实战看看实际效果是否符合理论

2、代码练习

"""多线程多进程模拟执行效率"""


from multiprocessing import Pool
from threading import Thread
import time, math


def simulation_IO(a):
    """模拟IO操作"""
    time.sleep(3)


def simulation_compute(a):
    """模拟计算密集型任务"""
    for i in range(int(1e7)):
        math.sin(40) + math.cos(40)
    return


def normal_func(func):
    """普通方法执行效率"""
    for i in range(6):
        func(i)
    return


def mp(func):
    """进程池中的map方法"""
    with Pool(processes=6) as p:
        res = p.map(func, list(range(6)))
    return


def asy(func):
    """进程池中的异步执行"""
    with Pool(processes=6) as p:
        result = []
        for j in range(6):
            a = p.apply_async(func, args=(j, ))
            result.append(a)
        res = [j.get() for j in result]


def thread(func):
    """多线程方法"""
    threads = []
    for j in range(6):
        t = Thread(target=func, args=(j, ))
        threads.append(t)
        t.start()
    for t in threads:
        t.join()


def showtime(f, func, name):
    """
    计算并展示函数的运行时间
    :param f: 多进程和多线程的方法
    :param func: 多进程和多线程方法中需要传入的函数
    :param name: 方法的名字
    :return:
    """
    start_time = time.time()
    f(func)
    print(f"{name} time: {time.time() - start_time:.4f}s")


def main(func):
    """
    运行程序的主函数
    :param func: 传入需要计算时间的函数名
    """
    showtime(normal_func, func, "normal")
    print()
    print("------ 多进程 ------")
    showtime(mp, func, "map")
    showtime(asy, func, "async")
    print()
    print("----- 多线程 -----")
    showtime(thread, func, "thread")


if __name__ == "__main__":
    print("------------ 计算密集型 ------------")
    func = simulation_compute
    main(func)
    print()
    print()
    print()
    print("------------ IO 密集型 ------------")
    func = simulation_IO
    main(func)
 

3、运行结果

线性执行 多进程(map) 多进程(async) 多线程
计算密集型 16.0284s 3.5236s 3.4367s 15.2142s
IO密集型 18.0201s 3.0945s 3.0809s 3.0041s

从表格中很明显的可以看出:

  • 计算密集型任务的速度:多进程 >多线程> 单进程/线程
  • IO密集型任务速度: 多线程 > 多进程 > 单进程/线程。

所以,针对计算密集型任务使用多进程,针对IO密集型任务使用多线程

到此这篇关于python 多线程与多进程效率测试 的文章就介绍到这了,更多相关python 多线程内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python向图片里添加文字

    python向图片里添加文字

    这篇文章主要为大家详细介绍了python向图片里添加文字,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-11-11
  • python字典和JSON格式的转换方式

    python字典和JSON格式的转换方式

    这篇文章主要介绍了python字典和JSON格式的转换方式,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-05-05
  • 一文详细聊一聊Python中的下划线“_”们

    一文详细聊一聊Python中的下划线“_”们

    Python中的下划线(_)有多种用途,包括特殊方法、内部变量、避免关键字冲突、名称修饰、临时变量和忽略变量等,这篇文章主要介绍了Python中的一些下划线“_”们,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2024-12-12
  • Python类型注解举例超详细指南

    Python类型注解举例超详细指南

    类型注解(Type Annotations)是 Python 的一种语法,用于在代码中标注变量、函数参数和返回值的类型,下面这篇文章主要介绍了Python类型注解的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2025-05-05
  • python常见统计分析处理函数解读

    python常见统计分析处理函数解读

    这篇文章主要介绍了python常见统计分析处理函数,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-07-07
  • python将邻接矩阵输出成图的实现

    python将邻接矩阵输出成图的实现

    今天小编就为大家分享一篇python将邻接矩阵输出成图的实现,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-11-11
  • 详解从Django Rest Framework响应中删除空字段

    详解从Django Rest Framework响应中删除空字段

    这篇文章主要介绍了详解从Django Rest Framework响应中删除空字段,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2019-01-01
  • Python调用DeepSeek API查询ClickHouse的流程步骤

    Python调用DeepSeek API查询ClickHouse的流程步骤

    本文介绍如何利用DeepSeek API和ClickHouse构建自然语言查询数据库,文章详细说明了环境配置步骤,包括Python安装、必备库安装、DeepSeek API Key获取和ClickHouse连接配置,需要的朋友可以参考下
    2026-03-03
  • python的依赖管理的实现

    python的依赖管理的实现

    这篇文章主要介绍了python的依赖管理的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-05-05
  • Pycharm如何返回上一次编辑处的快捷键

    Pycharm如何返回上一次编辑处的快捷键

    这篇文章主要介绍了Pycharm如何返回上一次编辑处的快捷键问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-03-03

最新评论