芹菜 - "WorkerLostError: Worker exited prematurely: signal 11 (SIGSEGV)"

Question

我正在本地开发一个Django应用程序，该应用程序需要将CSV文件作为输入并对该文件进行一些分析。我正在本地运行Celery、RabbitMQ和web服务器。当我导入文件时，我在Celery服务器上看到以下错误：

[2015-12-11 16:58:53,906: WARNING/MainProcess] celery@Joes-MBP ready.
[2015-12-11 16:59:11,068: ERROR/MainProcess] Task program_manager.tasks.analyze_list_import_program[db22de16-b92f-4220-b2bd-5accf484c99a] raised unexpected: WorkerLostError('Worker exited prematurely: signal 11 (SIGSEGV).',)
Traceback (most recent call last):
File "/Users/joefusaro/rl_proto2/venv/lib/python2.7/site-packages/billiard/pool.py", line 1175, in mark_as_worker_lost
human_status(exitcode)),
WorkerLostError: Worker exited prematurely: signal 11 (SIGSEGV).

我不知道如何进一步解决这个问题；如果有帮助，我已经从program_manager/tasks.py:复制了相关代码

from __future__ import absolute_import
import csv
import rollbar
from celery import shared_task
from celery.utils.log import get_task_logger
from qscore.models import QualityScore
from integrations.salesforce.prepare import read_csv
from qscore.quality_score import QualityScoreCalculator

logger = get_task_logger(__name__)
@shared_task
def analyze_list_import_program(program):
    program.status = 'RUN'
    program.save()
    df = read_csv(program.csv_file.file)
    try:
        qs = program.get_current_quality_score()
        qs_calc = QualityScoreCalculator(df, qs)
        qscore_data = qs_calc.calculate()
        QualityScore.objects.filter(id=qs.id).update(**qscore_data)
    except Exception as e:
        rollbar.report_exc_info()
        program.status = 'ERROR'
    else:
        program.status = 'COMPL'
    finally:
        program.save()

Answer 1

这可以通过在单个任务函数中导入python包来解决，而不是在tasks.py的顶部。

我已经删除了在tasks.py文件顶部导入的所有包，除了从.celecer from <project>.celery import app导入应用程序，然后在各个任务函数中导入包。它成功了！

Answer 2

只是将我的部分添加到中

我收到了一个非常相似的问题。但当我从英特尔芯片转向苹果硅M1芯片时，我的问题出现了。

以下是我为使系统正常工作所做的工作-Dockerfile的变化-（添加-平台=linux/amd64）

FROM --platform=linux/amd64 <base_image>

docker-compose.yml的变化-（添加平台：linux/amd64）

db:
    image: postgres:12-alpine
    platform: linux/amd64
    environment:
      POSTGRES_USER: postgres
      POSTGRES_PASSWORD: password
    ports:
      - 5435:5432

参考-https://www.reddit.com/r/django/comments/o43k2b/developing_django_on_apple_m1/

Answer 3

问题是您的Celery任务正试图取消拾取/反序列化实际的Django对象program。将program_id作为参数传递给任务，并在任务本身中重新绘制对象。