Celery批量异步调用任务一直等待结果问题

 更新时间:2023年11月24日 09:36:41   作者:lee_star1  
这篇文章主要介绍了Celery批量异步调用任务一直等待结果问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教

Celery批量异步调用任务一直等待结果

采用celery中group方式进行批量异步调用,且需要等待返回结果时(未设置超时时间)

两种情况会导致任务一直等待结果:

1. 如果异步方法对异常未进行处理

直接抛出,则会导致group的job一直等待结果,如下代码:

@shared_task(bind=True)
def test_task_method(self, number, is_ignore_exception):
    try:
        logger.info('enter method')
        # if number % 10 == 0:
        #     raise Exception('throw exception')
        time.sleep(15)
    except Exception:
        logger.info(traceback.format_exc())
        if not is_ignore_exception:
            raise

2. celery出现任务task丢失情况

实际执行任务与期待任务数量不符合,则会一直等待结果。因为可能部分开发者对查看Broker和celery执行的情况命令不熟悉,这里推荐安装Flower监控celery,文档参考Flower文档

在执行中观察celery是否掉线,

如下图:

如果出现掉线,则查看celery日志或者系统日志(/var/log/message)查看是存在进程被kill情况,

如下图:

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python内置函数—vars的具体使用方法

    Python内置函数—vars的具体使用方法

    本篇文章主要介绍了Python内置函数—vars的具体使用方法,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-12-12
  • Python数据可视化之Matplotlib初级使用指南

    Python数据可视化之Matplotlib初级使用指南

    Matplotlib是Python中最常用的数据可视化库之一,它提供了丰富的图表类型和灵活的自定义选项,能帮助我们以更直观的方式理解数据,本文将对Matplotlib的基本功能进行介绍,包括如何创建和自定义图表等
    2023-07-07
  • 在Django框架中设置语言偏好的教程

    在Django框架中设置语言偏好的教程

    这篇文章主要介绍了在Django框架中设置语言偏好的教程,Django是最具人气的Python框架,需要的朋友可以参考下
    2015-07-07
  • Python如何实现大型数组运算(使用NumPy)

    Python如何实现大型数组运算(使用NumPy)

    这篇文章主要介绍了Python如何实现大型数组运算,文中讲解非常细致,帮助大家更好的了解和学习,感兴趣的朋友可以了解下
    2020-07-07
  • flask之邮件发送的实现示例

    flask之邮件发送的实现示例

    Flask-Mail是一个处理电子邮件发送的扩展,它提供了简单且易于使用的API,可以方便地发送电子邮件,本文就来介绍一下flask之邮件发送的实现示例,感兴趣的可以了解一下
    2023-12-12
  • python mac下安装虚拟环境的图文教程

    python mac下安装虚拟环境的图文教程

    这篇文章主要介绍了python mac下安装虚拟环境 的相关资料,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-04-04
  • Numpy中的repeat函数使用

    Numpy中的repeat函数使用

    Numpy是Python强大的数学计算库,和Scipy一起构建起Python科学计算生态,在本节下面我们重点介绍下repeat函数的用法,需要的朋友可以参考下
    2022-11-11
  • python如何使用unittest测试接口

    python如何使用unittest测试接口

    这篇文章主要为大家详细介绍了python如何使用unittest测试接口,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-04-04
  • python实现批量移动文件

    python实现批量移动文件

    这篇文章主要为大家详细介绍了python实现批量移动文件,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-04-04
  • Python实现利用163邮箱远程关电脑脚本

    Python实现利用163邮箱远程关电脑脚本

    这篇文章主要为大家详细介绍了Python实现利用163邮箱远程关电脑脚本,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-02-02

最新评论