Celery批量异步调用任务一直等待结果问题
Celery批量异步调用任务一直等待结果
采用celery中group方式进行批量异步调用,且需要等待返回结果时(未设置超时时间)
两种情况会导致任务一直等待结果:
1. 如果异步方法对异常未进行处理
直接抛出,则会导致group的job一直等待结果,如下代码:
@shared_task(bind=True)
def test_task_method(self, number, is_ignore_exception):
try:
logger.info('enter method')
# if number % 10 == 0:
# raise Exception('throw exception')
time.sleep(15)
except Exception:
logger.info(traceback.format_exc())
if not is_ignore_exception:
raise2. celery出现任务task丢失情况
实际执行任务与期待任务数量不符合,则会一直等待结果。因为可能部分开发者对查看Broker和celery执行的情况命令不熟悉,这里推荐安装Flower监控celery,文档参考Flower文档。
在执行中观察celery是否掉线,
如下图:

如果出现掉线,则查看celery日志或者系统日志(/var/log/message)查看是存在进程被kill情况,
如下图:

总结
以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。
相关文章
pydev debugger: process 10341 is co
这篇文章主要介绍了pydev debugger: process 10341 is connecting无法debu的解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教2023-04-04
Python中__new__与__init__方法的区别详解
这篇文章主要介绍了Python中__new__与__init__方法的区别,是Python学习中的基础知识,需要的朋友可以参考下2015-05-05
pygame多种方式实现屏保操作(自动切换、鼠标切换、键盘切换)
这篇文章主要介绍了pygame多种方式实现屏保操作(自动切换、鼠标切换、键盘切换),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧2021-04-04
Python接口自动化浅析logging日志原理及模块操作流程
这篇文章主要为大家介绍了Python接口自动化系列文章浅析logging日志原理及模块操作流程,文中详细说明了为什么需要日志?日志是什么?以及日志用途等基本的原理2021-08-08


最新评论