django中使用Celery 布式任务队列过程详解

 更新时间:2019年07月29日 10:06:58   作者:baagee  
这篇文章主要介绍了django中使用Celery 布式任务队列实现过程详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

本文记录django中如何使用celery完成异步任务。

Celery 是一个简单、灵活且可靠的,处理大量消息的分布式系统,并且提供维护这样一个系统的必需工具。

它是一个专注于实时处理的任务队列,同时也支持任务调度。

官方网站

中文文档

示例一:用户发起request,并等待response返回。在本些views中,可能需要执行一段耗时的程序,那么用户就会等待很长时间,造成不好的用户体验

示例二:网站每小时需要同步一次天气预报信息,但是http是请求触发的,难道要一小时请求一次吗?

使用celery后,情况就不一样了

示例一的解决:将耗时的程序放到celery中执行

示例二的解决:使用celery定时执行

名词

任务task:就是一个Python函数

队列queue:将需要执行的任务加入到队列中

工人worker:在一个新进程中,负责执行队列中的任务

代理人broker:负责调度,在布置环境中使用redis

本示例在ubuntu系统中,使用django1.8.2,并且要安装redis

1,首先需要安装扩展包。

pip install celery==3.1.25
pip install celery-with-redis==3.0
pip install django-celery==3.1.17

2,配置项目setting.py

加入以下代码:

import djcelery
djcelery.setup_loader()
BROKER_URL = 'redis://127.0.0.1:6379/0'
CELERY_IMPORTS = ('bookstory.task')

CELERY_IMPORTS值是异步任务函数所在的位置,比如这个是bookstory应用里面的task.py文件里,如图:

并且将'djcelery'加入到setting.py的INSTALLED_APPS里面。

3,编写需要异步执行(或者耗时)的功能函数

编写task.py文件,假设我就这样模拟耗时操作

# coding=utf-8

import time
from celery import task


@task
def showa():
  # 任务函数
  print('hello....')
  time.sleep(5)
  print('world....')

4,迁移,生成celery需要的数据表

python manage.py migrate

5,启动worker

python manage.py celery worker --loglevel=info

6,使用

新建一个视图函数,并且分配一个url

from task import *

.........

# celery异步
def showTest(request):
  showa.delay()
  return HttpResponse('哈哈哈')

调用语法就是:

function.delay(parameters)

function就是task里写的函数,parameters就是这个函数要传递的参数,我的showa没有传参数,所以就直接showa.delay()就可以调用了。

运行结果就是在浏览器中并没有等待5秒,而是直接输出'哈哈'了。并没有因为耗时的操作二延迟。在启动worker的窗口里面可以看到hello,world间隔5秒分别输出了出来:

按照步骤来,其实并不难,具体异步(耗时)操作根据具体业务在task里面具体编写就ok了。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • 使用python爬取4K壁纸保存到本地文件夹的全过程

    使用python爬取4K壁纸保存到本地文件夹的全过程

    图片信息丰富多彩,许多网站上都有大量精美的图片资源,有时候我们可能需要批量下载这些图片,而手动一个个下载显然效率太低,所以本文给大家介绍了使用python爬取4K壁纸保存到本地文件夹的全过程,文中有详细的代码示例供大家参考,需要的朋友可以参考下
    2024-03-03
  • Python遍历指定文件夹下的所有文件名的方法小结

    Python遍历指定文件夹下的所有文件名的方法小结

    当需要遍历指定文件夹下的所有文件名时,Python提供了多种方法来实现这个任务,本文将介绍如何使用Python来完成这一任务,有需要的小伙伴可以参考下
    2024-01-01
  • 使用 Python 和 LabelMe 实现图片验证码的自动标注功能

    使用 Python 和 LabelMe 实现图片验证码的自动标注功能

    文章介绍了如何使用Python和LabelMe自动标注图片验证码,主要步骤包括图像预处理、OCR识别和生成标注文件,通过结合PaddleOCR,可以快速实现验证码字符的自动标注,大幅提升工作效率,感兴趣的朋友一起看看吧
    2024-12-12
  • Python基本数据类型详细介绍

    Python基本数据类型详细介绍

    Python提供的基本数据类型主要有:布尔类型、整型、浮点型、字符串、列表、元组、集合、字典等等
    2014-03-03
  • python监控linux内存并写入mongodb(推荐)

    python监控linux内存并写入mongodb(推荐)

    这篇文章主要介绍了python监控linux内存并写入mongodb的相关资料,需要的朋友可以参考下
    2017-09-09
  • 分享PyCharm最新激活码(真永久激活方法)不用每月找安装参数或最新激活码了

    分享PyCharm最新激活码(真永久激活方法)不用每月找安装参数或最新激活码了

    这篇文章主要介绍了分享PyCharm最新激活码(真永久激活方法)不用每月找安装参数或最新激活码了一劳永逸,需要的朋友可以参考下
    2020-12-12
  • python中的变量命名规则详情

    python中的变量命名规则详情

    这篇文章主要介绍了python中的变量命名规则详情,变量名可以包括字母、数字、下划线,但是数字不能做为开头,变量用的好或不好,和代码质量有着非常重要的联系,合理的使用变量,可以让你的代码可读性更高并且更加简洁,下面相关内容吧需要的小伙伴可以参考一下
    2022-03-03
  • python图像平滑处理原理

    python图像平滑处理原理

    这篇文章主要介绍了python图像平滑处理原理,图像滤波是图像处理和计算机视觉中最常用、最基本的操作,文章基于python的相关资料展开详细的内容需要的小伙伴可以参考一下
    2022-06-06
  • 10 分钟快速入门 Python3的教程

    10 分钟快速入门 Python3的教程

    这篇文章主要介绍了10 分钟快速入门 Python3的教程,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2019-01-01
  • python实现爬取图书封面

    python实现爬取图书封面

    这篇文章主要为大家详细介绍了python实现爬取图书封面的方法,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-07-07

最新评论