我跟随这一页,以纱线集群模式在YARN上运行SparkPi示例应用程序。
http://spark.apache.org/docs/latest/running-on-yarn.html
最后我看不到程序的输出(这是本例中计算的结果)。当我在yarn客户端模式(--master yarn客户端)下运行它时,我会看到这样的输出:
Pi大约为3.138796
纱线簇模式中的标准输出在哪里?
经过多次查找,我在spark-0.9.0文档中发现了这一点。
检查输出(将下面的$YARN_APP_ID替换为上一个命令输出的"应用程序标识符")(注意:YARN_APP_LOGS_DIR通常是/tmp/LOGS或$HADOOP_HOME/LOGS/userlogs,具体取决于HADOOP版本。)
$cat$YARN_APP_LOGS_DIR/$YARN-APP_ID/container*_ 000001/stdout
Pi大约为3.13794
我希望他们也能把这个说明放在1.1.0文档中。