目前,我们正在研究如何有效地结合databricks的最新功能来编排任务-多任务作业。
默认行为是,如果前一个任务由于某种原因失败,则下游任务将不会执行。
所以问题是:目前是否有可能有一个onComplete状态(类似于Azure数据工厂或SQL Server集成服务- ssis),无论任务成功或失败,我们都可以继续工作流程并执行下一个任务。
现在这是不可能的,但是你可以用try/catch来包围你的代码,这样如果抛出错误,那么catch块就不会进一步传播异常,任务也不会被标记为失败。