在纱线集群模式下在YARN上运行Spark:控制台输出到哪里



我跟随这一页,以纱线集群模式在YARN上运行SparkPi示例应用程序。

http://spark.apache.org/docs/latest/running-on-yarn.html

最后我看不到程序的输出(这是本例中计算的结果)。当我在yarn客户端模式(--master yarn客户端)下运行它时,我会看到这样的输出:

Pi大约为3.138796

纱线簇模式中的标准输出在哪里?

经过多次查找,我在spark-0.9.0文档中发现了这一点。

检查输出(将下面的$YARN_APP_ID替换为上一个命令输出的"应用程序标识符")(注意:YARN_APP_LOGS_DIR通常是/tmp/LOGS或$HADOOP_HOME/LOGS/userlogs,具体取决于HADOOP版本。)

$cat$YARN_APP_LOGS_DIR/$YARN-APP_ID/container*_ 000001/stdout

Pi大约为3.13794

我希望他们也能把这个说明放在1.1.0文档中。

相关内容

  • 没有找到相关文章

最新更新