为什么端口 18080 上的 Spark UI 在配置文件中以客户端模式启动时显示"cluster mode"?



在我的 spark-defaults.conf文件中,我有以下行:

spark.master=yarn-client

现在,我启动了一份工作,然后看一下Spark UI(<master ip address>:18080(,我在页面顶部看到以下内容:

REST URL: spark://<master ip address>:6066 (cluster mode)

我重新启动了所有火花工人和火花主人,并将spark-defaults.conf文件分配给所有Spark Worker/Slaves。
我无法判断这是在集群模式还是客户端模式下运行?为什么我的设置没有被Spark UI拾取?

我无法确定这是在集群模式还是客户端模式下运行?和 为什么我的设置没有被Spark UI拾取?

在端口18080上运行的Spark UI是Spark历史服务器。如果您想查找您的特定应用程序运行的模式,请转到:18080(,然后单击App ID下的任何ID,这将带您到Spark Jobs页面。

在该页面上,单击Environment选项卡。在该选项卡中,查找Spark Properties节,您将找到spark-master属性,该属性会告诉您该应用程序在哪种模式中运行。

相关内容

  • 没有找到相关文章

最新更新