我目前正在为MapReduce运行Apache Ignite Hadoop加速器。作业运行了,但是我无法在JobHistoryServer中看到它们。我不希望在Yarn的资源管理器中看到这些作业(也不希望)。
我正在运行我的MapReduce作业hadoop --config path/to/config/ jar path/to/jar ....
在mapred-site.xml中,我添加了
<property>
<name>mapreduce.framework.name</name>
<value>ignite</value>
</property>
<property>
<name>mapreduce.jobtracker.address</name>
<value>[your_host]:11211</value>
</property>
我mapreduce.jobhistory 。*设置未更改
在core-site.xml中我添加了<property>
<name>fs.default.name</name>
<value>igfs://igfs@/</value>
</property>
<property>
<name>fs.igfs.impl</name>
<value>org.apache.ignite.hadoop.fs.v1.IgniteHadoopFileSystem</value>
</property>
<property>
<name>fs.AbstractFileSystem.igfs.impl</name>
<value>org.apache.ignite.hadoop.fs.v2.IgniteHadoopFileSystem</value>
</property>
我还将ignite-core-1.6.0.jar、ignite-hadoop-1.6.0.jar和ignite-shmem-1.0.0.jar添加到$HADOOP_HOME路径中。同样,我导出了HADOOP_HOME, HADOOP_COMMON_HOME, HADOOP_HDFS_HOME和HADOOP_MAPRED_HOME。
是这个功能不支持点燃还是我做错了什么?
还有,有没有办法跟踪在Ignite上运行的MapReduce作业?
目前Ignite没有与Hadoop历史服务器集成,发出https://issues.apache.org/jira/browse/IGNITE-3766请求。