我发现一些中间阶段使用的执行器数量(远远(少于spark.executor.instances
的值。
当前,spark.executor.instances
被设置为spark.dynamicAllocation.enabled
被设置为假
我们还尝试将spark.dynamicAllocation.enabled
设置为true,并将spark.dynamicAllocation.minExecutors
设置为某个值。
但是,在这两种情况下,spark.dynamicAllocation.minExecutors
和spark.executor.instances
似乎都被忽略了。
我想知道是否有人知道如何进一步调查,或者根本原因是什么。
编辑:当启用动态分配时,我们还设置了spark.dynamicAllocation.maxExecutors
尝试设置
spark.dynamicAllocation.maxExecutors