如何管理dask-worker,如果我有很多长时间运行的任务



>假设我有 4 个节点 dask 集群,其中在节点 1 中,dask 调度程序正在运行,其余节点 dask worker 正在运行。我总共提交了 5 个长时间运行的任务。因此,在这种情况下发生的事情是,3 个任务处于运行模式,另外 2 个处于等待状态。但我不想等待 dask worker 空闲,而是想启动一个新工作线程,因为任务是长时间运行的。

有没有办法在 dask 中实现这一目标。?

请参阅文档中的分离

最新更新