使用prometheus jmxexporter获取spark2集群度量



我们正在尝试使用prometheus获取火花度量。我们使用的是jmx导出器jmx_prometheus_javaagent-0.12.0.jar。

我们能够获得部署模式客户端的指标,但对于集群,我们无法获得

对于使用的独立命令

/spark-submit--conf"spark.driver.extraJavaOptions=-javaagent:../jars/jmx_prometheus_javaagent-0.112.0.jar=8071:../conf/spark.yml"--class somecustomeclass--部署模式客户端--执行器内存3g--驱动程序内存3g/jars/somejar.jar

对于集群,我们尝试了

/spark-submit--supervisor--部署模式集群--conf'spark.driver.extraJavaOptions=-javaagent:jars/jmx_prometheus_javaagent-0.12.0。jar=8060:/conf/spark.yml spark.executor.extraJava Options=-javaagent:/jars/jnx_promethues_javaagent-0.12.0。jar=8061:/conf/spark.yml spark.jars=/jars/jmx_promethous_javaagent-0.112.0.jar’--文件/jars/jmx_pretheus_javaagent-0.112.0.jar--类org.apache.spark.examples.ParkTC--masterspark://host1:7077,host2:7077--执行器内存1G--执行器内核总数1/spark/spark-2.4.0-bin-hadoop2.7/examples/jars/spark-examples_2.11-2.4.0.jar 1

我们在设置或命令中遗漏了什么吗?

需要打开安装程序中缺少的jmx端口。。

跟随https://argus-sec.com/monitoring-spark-prometheus/并且可以获得度量。

相关内容

  • 没有找到相关文章

最新更新