我正在尝试使用同步方式以集群模式向k8s集群提交作业(直到作业结束才返回(。
不幸的是,作业在提交后结束,我在输出中看到了这一点:
ClientEndpoint: spark-submit not configured to wait for completion, exiting spark-submit JVM.
文件上写着:
spark.kubernetes.submission.waitAppCompletion假为真在集群模式下,是否等待应用程序在退出启动器进程。当更改为false时,启动器a";即发即弃;启动Spark作业时的行为。
我尝试将此选项添加到--conf中的命令行,以及conf/spark-defaults.conf=>相同结果
如何做到这一点?
如果您在独立模式下运行Spark,请尝试添加--conf spark.standalone.submit.waitAppCompletion=true
选项。
来源:
- 错误消息
- Config选项