具有芹菜配置的 SQS



我正在尝试为 Celery 设置 Amazon SQS,我有以下配置:

BROKER_BACKEND = "SQS"
BROKER_TRANSPORT_OPTIONS = {
    'region': 'us-east-1',
}
AWS_ACCESS_KEY_ID = # access id
AWS_SECRET_ACCESS_KEY = # secret access key
os.environ.setdefault("AWS_ACCESS_KEY_ID", AWS_ACCESS_KEY_ID)
os.environ.setdefault("AWS_SECRET_ACCESS_KEY", AWS_SECRET_ACCESS_KEY)
BROKER_URL = 'sqs://'
CELERY_IMPORTS = ("tasks", )
CELERY_TASK_RESULT_EXPIRES = 300
CELERY_DEFAULT_QUEUE = #queue name
CELERY_DEFAULT_EXCHANGE = CELERY_DEFAULT_QUEUE
CELERY_DEFAULT_EXCHANGE_TYPE = CELERY_DEFAULT_QUEUE
CELERY_DEFAULT_ROUTING_KEY = CELERY_DEFAULT_QUEUE
CELERY_QUEUES = {
    CELERY_DEFAULT_QUEUE: {
        'exchange': CELERY_DEFAULT_QUEUE,
        'binding_key': CELERY_DEFAULT_QUEUE,
    }
}

在 AWS 账户上的 SQS 配置中,我有一个队列,其名称用 CELERY_DEFAULT_QUEUE 表示。当我在本地运行它时,一切正常...但由于某种原因,它会在 SQS 上创建另一个名称格式为 <user_id>-celery-pidbox 的队列。像这样的东西:MyUser-MacBook-Pro-local-celery-pidbox.

这正常吗?当我使用指定的名称创建队列时,为什么要创建另一个队列?否则,它正在工作,不确定是否需要其他队列或我错过了什么?感谢任何帮助,我在文档中找不到这个。

编辑

事实证明,这很正常。出于某种原因,django-celery 这样做,它会为您访问要访问的队列的每个框创建一个队列。他们将在将来的版本中修复此问题。如果有人知道如何暂时解决此问题,请告诉我,谢谢!

这实际上是一个很好的行为,因此您可以监控哪些实例(IP 或本地名称)正在访问您的 SQS 帐户。这只是一个请求,因此不会花费您任何费用。

您需要设置这些:

 CELERY_ENABLE_REMOTE_CONTROL = False 
 CELERY_SEND_EVENTS = False

禁用它。

如果要将芹菜与 SQS 连接,则应使用以下代码创建一个芹菜应用程序

from celery import Celery
def make_celery(app):
    celery = Celery(
        app.import_name,
        broker="sqs://",
        broker_transport_options={
            "queue_name_prefix": "{SERVICE_ENV}-{SERVICE_NAME}-"
        },
    )
    task_base = celery.Task
    class ContextTask(task_base):
        abstract = True
        def __call__(self, *args, **kwargs):
            with app.app_context():
                return task_base.__call__(self, *args, **kwargs)
    celery.Task = ContextTask
    return celery

使用此代码,您将能够将芹菜与 SQS 连接起来。

最新更新