我正在使用以下命令在 kubernetes 集群中运行一个示例 spark 作业:
bin/spark-submit
--deploy-mode cluster
--class org.apache.spark.examples.SparkPi
--master k8s://https://XXXXX
--kubernetes-namespace sidartha-spark-cluster
--conf spark.executor.instances=2
--conf spark.app.name=spark-pi
--conf spark.kubernetes.driver.docker.image=kubespark/spark-driver:v2.1.0-kubernetes-0.1.0-rc1
--conf spark.kubernetes.executor.docker.image=kubespark/spark-executor:v2.1.0-kubernetes-0.1.0-rc1
examples/jars/spark-examples_2.11-2.1.0-k8s-0.1.0-SNAPSHOT.jar 1000
我正在从 apache-spark-on-k8s 构建火花
我找不到org.apache.spark.deploy.kubernetes.submit.Client
班的罐子。
此问题已解决。我们需要从源代码构建 Spark/资源管理器/kubernetes。