顶级python代码和airflow中操作符变量之间的通信



我正在编写气流代码,其中我正在运行一个python运算符来读取cli提供的用户输入,并希望在顶级python代码中使用该运算符返回的结果来生成动态任务。使用Xcom,我们可以执行任务间通信,但如何在任务和主代码之间进行通信。

这是不可能的(我相信你在Airlfow Slack中多次收到我的答案(。

任务执行不会影响气流的DAG结构。句点

我们正在部分实现Dynnamic任务映射,以实现Map/Reduce类型的行为https://cwiki.apache.org/confluence/display/AIRFLOW/AIP-42+动态+任务+映射,但这不会改变DAG的结构,也不会改变DAG的结构——它只是使单个任务能够扇出,然后扇入多个任务。

最新更新