K8S上的Spark提交不等待完成



我正在尝试使用同步方式以集群模式向k8s集群提交作业(直到作业结束才返回(。

不幸的是,作业在提交后结束,我在输出中看到了这一点:

ClientEndpoint: spark-submit not configured to wait for completion, exiting spark-submit JVM.

文件上写着:

spark.kubernetes.submission.waitAppCompletion假为真在集群模式下,是否等待应用程序在退出启动器进程。当更改为false时,启动器a";即发即弃;启动Spark作业时的行为。

我尝试将此选项添加到--conf中的命令行,以及conf/spark-defaults.conf=>相同结果

如何做到这一点?

如果您在独立模式下运行Spark,请尝试添加--conf spark.standalone.submit.waitAppCompletion=true选项。

来源:

  • 错误消息
  • Config选项

最新更新