Azure Databricks多任务作业和工作流.模拟完成状态



目前,我们正在研究如何有效地结合databricks的最新功能来编排任务-多任务作业。

默认行为是,如果前一个任务由于某种原因失败,则下游任务将不会执行。

所以问题是:目前是否有可能有一个onComplete状态(类似于Azure数据工厂或SQL Server集成服务- ssis),无论任务成功或失败,我们都可以继续工作流程并执行下一个任务。

现在这是不可能的,但是你可以用try/catch来包围你的代码,这样如果抛出错误,那么catch块就不会进一步传播异常,任务也不会被标记为失败。

最新更新