分开使用 Celery beat and worker

Posted 2021-05-25 TonyZhang24

背景

之前项目中采用djcelery, 将定时的任务存储在数据库中并且在启动 worker 的同时启动 beat, 命令如下：

#python manage.py celery worker -B -l info -f ./log/celery_beat_worker.log

 

这样做只能启动一个worker, 在自己调试的时候很方便，但是上到生产环境时，由于任务多，有可能导致任务处理不及时。

 

官方说明如下：

You can also start embed beat inside the worker by enabling workers -B option, this is convenient if you will never run more than one worker node, but it’s not commonly used and for that reason is not recommended for production use:

 

解决方法

将 beat 和 worker 分开处理：

 

#nohup python manage.py celery beat --detach --pidfile= -S djcelery.schedulers.DatabaseScheduler -l info -f ./log/celery_beat.log 


#nohup python manage.py celery worker -l info -f ./log/celery_beat_worker.log

 

参数说明：

--detach： Detach and run in the background as a daemon.

--pidfile=： 此处置为空，是因为每次运行beat会产生一个celerybeat.pid文件，当第二次运行时发现这个文件就不会再启动beat-S: djcelery.schedulers.DatabaseScheduler 由于将beat和worker分开后，原来djcelery在django目录下settps.py中的设定不会再被默认加载，所以指定定时任务存放在数据库中

    -f: 指定log存放的路径，例如：./log/celery_beat.log

 

参考

https://docs.celeryproject.org/en/3.1/django/first-steps-with-django.html

https://blog.csdn.net/qq_34195441/article/details/106527063