python之线程池map()方法传递多参数list

 更新时间:2023年03月14日 11:22:20   作者:不能知道我是谁  
这篇文章主要介绍了python之线程池map()方法传递多参数list问题,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

线程池map()方法传递多参数list

之前通过threading.thread()进行了助力接口的多线程并发,但是这个针对并发数量较少的时候比较好用,如果并发数量多,除了线程包协程这种处理方式的情况下,我们还可以采用线程池的方法。

线程池的实现通俗讲就是把所有的任务放在了消息队列里,开启多个线程后执行线程,但线程执行结束后不会中断线程任务,会从消息队列内继续获取线程任务进行线程执行,这样线程池就比多线程操作节省了很多创建线程与关闭线程的步骤,节约大部分资源与时间。

线程池并发需要引入模块

import concurrent.futures

ThreadPoolExecutor 内有两种线程池方法 map()与submit()今天先说map()方法

他的语法为

 with concurrent.futures.ThreadPoolExecutor() as pool:
      res = pool.map(craw, uid_list)
      print(res)
  • map()内craw为方法名,这里方法命不带()
  • uid_list为方法参数,map()方法内需要传递list数据类型

先看一下整体代码

5000用户并发助力

    def test_case_09(self):
        """5000用户并发助力"""
        # 通过yaml配置文件封装方法 获取uid_list
        uid_list = YamlHandler(YamlThePath().number_new).get_uid_list()
        # add_ticket获取5000账号登陆状态
        with concurrent.futures.ThreadPoolExecutor() as pool:
            pool.map(AccountAccess().add_ticket, uid_list)
        # 5000账号线程池方法助力用户
        with concurrent.futures.ThreadPoolExecutor() as pool:
            pool.map(PreheatMethod().help, [(uid, self.A, 1) for uid in uid_list])
        # 获取用户被助力次数
        response = PreheatMethod().init(self.A)
        print(f"当前用户被助力次数 :{response['data']['userInfo']['helpedCount']}次")

再来看一下两个接口的方法更好的感知一下

首先是获取登陆状态add_ticket

    def add_ticket(self, uid):
        """
        获取单独用户t票
        :param uid: 单独用户uid
        :return:
        """
        self.data['url'] = ApiAddress().get_ticket
        self.data['host'] = ApiAddress().host
        self.params['uid'] = str(uid)
        self.params['type'] = 0
        self.data['params'] = json.dumps(self.params)
        res = r().post(url=ApiAddress().ticket, data=self.data)
        print(f'获取t票结果:{uid}{res}')
        return uid

很简单的一个接口请求 入参只有一个uid,但是注意一下这里的uid不是list,他只是一个参数。

那么有的同学就会有疑问,map()内传递的方法参数是一个uid内容的list。

map()方法就是把你需要的参数存在list内,通过遍历的方式去请求你指定的接口。

这时候可能有的人又会问,因为我当时也是这么问自己的,如果一个方法内有多个参数,其中这些参数有的甚至都不是固定的内容怎么办。

咱们看一下另一个请求助力接口的方法

    def help(self, agrs):
        """
        助力用户
        :param agrs: uid:当前用户uid to_uid:助力用户uid count:助力次数
        :return:
        """
        uid, to_uid, count = agrs
        self.attrs['toUid'] = str(to_uid)
        self.attrs['count'] = count
        response = r().response(uid, self.code, "help", **self.attrs)
        logger.info(f'help response uid:{uid} to_uid:{to_uid}\n{response}')
        return response

没错,我们通过元组的方式传递到助力接口内,通过元组内的关键字位置分别给指定的元素赋值。

再线程池的代码内,我们通过列表推导式把uid_list内的参数便利到你指定好的元组内,当然这里如果是多个参数,也可以用字典,把字典便利key与value当作变化的参数,因为列表推导式给你返回的是list,所以我们把需要的参数放在元组内,元组放在列表内,这样就可以对多参数的方法使用map()线程池进行并发了。

with concurrent.futures.ThreadPoolExecutor() as pool:
            pool.map(PreheatMethod().help, [(uid, self.A, 1) for uid in uid_list])
[(uid, self.A, 1) for uid in uid_list]

列表推导式获取后大概就是下方的list数据内容格式

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python使用wxpy模块实现微信两两群组消息同步功能(推荐)

    Python使用wxpy模块实现微信两两群组消息同步功能(推荐)

    这篇文章主要介绍了Python使用wxpy模块实现微信两两群组消息同步,本文通过示例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-06-06
  • 在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例

    在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例

    今天小编就为大家分享一篇在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-01-01
  • pytorch实现好莱坞明星识别的示例代码

    pytorch实现好莱坞明星识别的示例代码

    本文主要介绍了pytorch实现好莱坞明星识别,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-01-01
  • Anaconda 离线安装 python 包的操作方法

    Anaconda 离线安装 python 包的操作方法

    今天小编就为大家分享一篇Anaconda 离线安装 python 包的操作方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-06-06
  • 探索Python random模块随机性神奇世界

    探索Python random模块随机性神奇世界

    Python中的random模块提供了丰富的工具和函数,帮助我们生成随机数、操作随机序列,以及模拟随机性事件,在本文中,我们将分享random模块,了解它的基本用法、功能和应用领域,并提供示例代码来帮助你更好地理解随机性的神奇世界
    2023-11-11
  • Python中第三方库Requests库的高级用法详解

    Python中第三方库Requests库的高级用法详解

    虽然Python的标准库中urllib2模块已经包含了平常我们使用的大多数功能,但是它的API使用起来让人实在感觉不好。它已经不适合现在的时代,不适合现代的互联网了。而Requests的诞生让我们有了更好的选择。本文就介绍了Python中第三方库Requests库的高级用法。
    2017-03-03
  • python 多进程和多线程使用详解

    python 多进程和多线程使用详解

    这篇文章主要介绍了python 多进程和多线程使用详解,帮助大家更好得理解和学习使用python,感兴趣的朋友可以了解下
    2021-03-03
  • Python之Pygame的Event事件模块

    Python之Pygame的Event事件模块

    这篇文章主要介绍了Pygame的Event事件模块,事件(Event)是 Pygame 的重要模块之一,它是构建整个游戏程序的核心,Pygame 定义了一个专门用来处理事件的结构,即事件队列,本文有一定参考价值,感兴趣的同学可以阅读参考
    2023-04-04
  • 深入理解Python 多线程

    深入理解Python 多线程

    这篇文章主要介绍了Python 多线程的相关知识,文中讲解的非常详细,代码帮助大家更好的理解和学习,感兴趣的朋友可以了解下
    2020-06-06
  • jupyter notebook 写代码自动补全的实现

    jupyter notebook 写代码自动补全的实现

    这篇文章主要介绍了jupyter notebook 写代码自动补全的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-11-11

最新评论