Django Celery Chord 不执行
Posted
技术标签:
【中文标题】Django Celery Chord 不执行【英文标题】:Django Celery Chord Not Executing 【发布时间】:2013-03-06 03:23:07 【问题描述】:我有一个通过 Python 的 itertools 生成大量产品列表的程序;基本上是一大组各种单词组合。通过 products() 函数运行多个集合。我想做的是让 Celery 帮助解决这个问题,将每个集合分配给不同的 Celery 任务,然后最后将它们组合起来。我的理解是和弦是这样做的方法。
所以基本上我有这个:
callback = tabulate_results.subtask()
header = []
for combo in combos_to_run:
header.append(run_product.subtask(args=(object_terms, combo)))
result = chord(header)(callback)
result.get()
以及它的两个支持性的、精简的功能:
from celery import subtask, chord
@task()
def run_product(object_list, combo_set):
results = []
for result in product(object_list, *combo_set):
results.append(result)
return results
@task()
def tabulate_results(result_sets):
master_set = []
for result_set in result_sets:
master_set.extend(result_set)
return master_set
起初,和弦任务出现在 celeryev 中,但我在此处引用了一个问题:Django Celery - Missing something but I have no idea what? Have results but can't get them 关于 Celery 返回与通过 mysql 进行结果跟踪有关的错误。我确实使用 MySQL 作为我的结果后端,并将其切换到 Redis 摆脱了它。但是,现在我遇到了一个新问题。当我通过 Django shell 运行代码时,celeryev 中没有出现任何任务,除此之外没有返回任何内容:
R IS: <GroupResult: 9f658e8d-591f-4fa9-9e79-4db0c51e8331 [9b199d1e-061f-413c-9521-4a3051dd121a, 2effbfb5-c9dc-4569-a63f-656c233a9387, 80911a60-6a22-46bb-83a1-d5a84c659794, 70acfa43-8ffe-4bc8-8ff1-1df6def035e1, dd417423-d1f6-44eb-8c4b-2ded40d7614f, fbff8adc-815d-459c-b914-b30528dbbd39]>
基本上是 Celery 消息,但没有数据。代码也永远不会返回,我的光标悬空。当我控制 C 退出时,行号是 Celery 中似乎正在等待的东西。我不知道会发生什么,因为 celeryev 没有给我任何任务。我已经确认 celeryev 中确实显示了其他任务。
我已经正常测试了我的函数,没有将它们作为 Celery 任务运行,并且它们正常返回。
简短版 我试图让 Celery 和弦帮助我的 Django 应用程序中的密集 Python 任务,但它们似乎没有返回任何结果或进入 celeryev。 Redis 后端。芹菜版本 3.0.15。 Django 1.4。
【问题讨论】:
您是否尝试过为标题任务设置时间限制,并定义error handling? 【参考方案1】:首先,让一个任务等待另一个任务的结果通常被认为是不好的做法(这就是为什么应该使用链式子任务)--source
除此之外,您为和弦粘贴的语法不正确。这是相关链接:http://docs.celeryproject.org/en/master/getting-started/next-steps.html#chords。除其他问题外,您的代码不会将任何任务传递给和弦。和弦只是一组作为一个组处理的任务,之后触发回调。从文档中,这是和弦的正确语法:
>>> from celery import chord
>>> from proj.tasks import add, xsum
>>> chord((add.s(i, i) for i in xrange(10)), xsum.s())().get()
90
请注意,chord 有两个参数,一方面是初始任务组,另一方面是回调(用逗号分隔)。
这是一个开始,但听起来花更多时间阅读文档对您的帮助比什么都大。
【讨论】:
如果你看这个other example,格式匹配。以上是关于Django Celery Chord 不执行的主要内容,如果未能解决你的问题,请参考以下文章
获取使用 celery chord 创建的所有任务的 task_ids