芹菜、Django 和@shared_task

Posted

技术标签:

【中文标题】芹菜、Django 和@shared_task【英文标题】:Celery, Django and @shared_task 【发布时间】:2020-08-25 19:30:37 【问题描述】:

我正在尝试将 celery 与 Django 结合使用;我的一个应用程序中有一个任务,我想用 celery 运行它。不幸的是,我无法让 celery 找到任务,而是在运行 celery 的 shell 中收到以下错误消息:

bash% celery -A webflow worker -l info
-------------- celery@ws v4.4.2 (cliffs)
--- ***** ----- 
-- ******* ---- Linux-4.19.0-8-amd64-x86_64-with-debian-10.3 2020-05-10 11:49:09
- *** --- * --- 
- ** ---------- [config]
- ** ---------- .> app:         webflow:0x7f3c8fb483c8
- ** ---------- .> transport:   amqp://guest:**@localhost:5672//
- ** ---------- .> results:     disabled://
- *** --- * --- .> concurrency: 32 (prefork)
-- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
--- ***** ----- 
 -------------- [queues]
                .> celery           exchange=celery(direct) key=celery


[tasks]
  . webflow.celery.debug_task

[2020-05-10 11:49:10,261: INFO/MainProcess] Connected to amqp://guest:**@127.0.0.1:5672//
[2020-05-10 11:49:10,267: INFO/MainProcess] mingle: searching for neighbors
[2020-05-10 10:47:28,942: ERROR/MainProcess] Received unregistered task of type 'simulation.tasks.unpack_simulation'.
The message has been ignored and discarded.

Did you remember to import the module containing this task?
Or maybe you're using relative imports?

Please see
http://docs.celeryq.org/en/latest/internals/protocol.html
for more information.

The full contents of the message body was:
'[["1b9944d2-f874-42d2-9dce-a0387c431b65"], , "callbacks": null, "errbacks": null, "chain": null, "chord": null]' (115b)
Traceback (most recent call last):
  File "/home/hove/sleipner/venv/lib/python3.7/site-packages/celery/worker/consumer/consumer.py", line 562, in on_task_received
    strategy = strategies[type_]
KeyError: 'simulation.tasks.unpack_simulation'

django 项目名为 webflow,它有一个名为 simulation 的 Django 应用程序 - 总而言之,文件系统如下所示:

|── manage.py
├── requirements.txt
├── simulation                   // Django App
│   ├── admin.py
│   ├── apps.py
│   ├── __init__.py
│   ├── models.py
|   ├── api
|   |    │  
|   │    └── submit.py          // View which (tries) to invoke celery task
│   ├── tasks.py                // Module with celery task
└── webflow                     // Django Project
    ├── asgi.py
    ├── celery.py               // Celery app
    ├── __init__.py
    ├── settings.py
    ├── views.py                
    └── wsgi.py


文件的相关部分是:

simulation/tasks.py

from celery import shared_task
from simulation.models import Simulation

@shared_task
def unpack_simulation(sim_id):
    simulation = Simulation.objects.get(pk = sim_id)
    simulation.unpack()

webflow/celery.py

import os
from celery import Celery
from django.conf import settings

os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'webflow.settings')
app = Celery('webflow')

app.config_from_object('django.conf:settings', namespace='CELERY')
app.autodiscover_tasks(settings.INSTALLED_APPS)

@app.task(bind=True)
def debug_task(self):
    print('Request: 0!r'.format(self.request))

simulation/api/submit.py

import simulation.tasks


def submit(request):
    ...
    ...
    simulation.tasks.unpack_simulation.delay(sim_id)

webflow/__init__.py

from .celery import app as celery_app

__all__ = ('celery_app',)

这是我对https://docs.celeryproject.org/en/stable/django/first-steps-with-django.html的最佳逐字复制;我还尝试了在网上找到的许多细微变化 - 但没有成功。我试图掌握有关名称和进口的芹菜文档(https://docs.celeryproject.org/en/latest/userguide/tasks.html#task-naming-relative-imports) - 这可能是解决方案;但我可以理解该文档 - 抱歉。

我认为我的设置并没有完全损坏 - 如果我在 webflow/settings.py 文件中设置 CELERY_TASK_ALWAYS_EAGER = True 它“有效”。

我正在使用 Django 3.0.?、Python 3.7 和 Celery 4.4.2。

【问题讨论】:

simulationINSTALLED_APPS 中吗? 是 - simulationINSTALLED_APPS 我认为app.autodiscover_tasks(settings.INSTALLED_APPS) 应该只是app.autodiscover_tasks() - 来自docs.celeryproject.org/en/stable/django/… - 查看代码,似乎第一个参数是要从中发现的包,但其中没有任务你的设置文件:P 谢谢,但我也试过了;没有雪茄:-( 嗯,我没有看到其他明显的东西。确保在进行任何代码更改后重新启动 celery,它根本不会自动重新加载。 【参考方案1】:

答案: 好的 - 这(正如预期的那样)100% 是我的错,但相当做作:在我运行 celery 的 shell 中,我有一个环境变量 DJANGO_SETTINGS_MODULE=some_other_project.settings

【讨论】:

以上是关于芹菜、Django 和@shared_task的主要内容,如果未能解决你的问题,请参考以下文章

如何使用芹菜工人将 django 项目部署到谷歌云?

芹菜任务不会在 django 中执行

芹菜未连接到 Redis Broker (Django)

连接rabbitmq,芹菜和django时出现通道错误

芹菜任务和自定义装饰器

芹菜 + Django 信号