Airflow 1.10.1 在哪里存储其三项服务的日志,即网络服务器、调度程序和工作线程



我们最近从1.8升级到气流1.10.1,我们观察到气流服务不再是在/var/log/airflow 中编写日志

我们正在使用自定义命令运行气流服务,即使这些命令也不写入命令中指定的日志文件: -

nohup气流调度程序-sd/usr/airffore/dags -stdout/dev/null -Stderr scheduler_error.log>/dev/null 2> nohup_error.log&

>>

NOHUP气流Web服务器-P 8080 -Stdout/dev/null -Stderr/usr/airflow/airflow_webserver_error.log -error_logfile->/dev/dev/null 2>/usr/usr/airflow/nohup_airflow_airflow_webserver.webserver.log&P>

scheduler_error.log和airflow_weberver_error.log文件保持空。

服务记录机构在气流中是否损坏?

感谢您的帮助。

注意:这不是一个真正的答案,而只是我对Airflow

的经验有限的说明

最近,我也因围绕Airflowv1.10.2)记录的神秘而感到折磨。根据我的用法体验(LocalExecutor),这就是我所知道的(,如果我错了,请纠正我

  • WebServer logs :我从未发现任何目录/文件明确标题为" weberver_logs" (或类似的内容)。当然,当您调用airflow webserver命令时,您会在( Linux shell 上获得一些东西。但是,由于DAG的解析目前是由webserver Process (结帐此线程和AIP-12)完成的,因此可以在base_log_folder/scheduler/date/path/to/your_file.py.log上找到这些日志(惊奇,它在"scheduler"文件夹中)。正如 @chirrut imwe base_log_folder指出的那样,默认情况下指向AIRFLOW_HOME/logs

  • 调度程序logs :我不知道他们的下落,除了我使用airflow scheduler命令

  • 在Shell上看到的行,除了我在Shell上看到的行之外
  • 任务日志:这些位于base_log_folder/dag_id/task_id/date_time/1.log。当然,您可以使用View Log按钮在WebUI上直接看到它们(单击您的task'S bubble

  • Worker Logs :由于我在LocalExecutor上,因此从未遇到过。但是您可以尝试从puckel/docker-airflow获取提示,其中它们也可以为CeleryExecutor提供


UPDATING.md页面上有大量的记录

您是否检查过$ airflow_home/logs/?

相关内容

  • 没有找到相关文章

最新更新