在 Hadoop 单节点群集中运行 Mahout 20新闻组时出错

Question

我配置了一个Hadoop1.2.1单节点集群并安装了mahout 0.8。

节点似乎工作正常。

我正在尝试在运行 cnaivebayes 分类器的 hadoop集群上运行 20newsgroups mahout 示例。问题是我收到以下错误：

13/11/12 18:31:46 INFO common.AbstractJob: Command line arguments: {--charset=[UTF-8], --chunkSize=[64], --endPhase=[2147483647], --fileFilterClass=[org.apache.mahout.text.PrefixAdditionFilter], --input=[/tmp/mahout-work-hduser/20news-all], --keyPrefix=[], --method=[mapreduce], --output=[/tmp/mahout-work-hduser/20news-seq], --overwrite=null, --startPhase=[0], --tempDir=[temp]}
Exception in thread "main" java.io.FileNotFoundException: File does not exist: /tmp/mahout-work-hduser/20news-all
    at org.apache.hadoop.hdfs.DistributedFileSystem.getFileStatus(DistributedFileSystem.java:558)
    at org.apache.mahout.text.SequenceFilesFromDirectory.runMapReduce(SequenceFilesFromDirectory.java:140)
    at org.apache.mahout.text.SequenceFilesFromDirectory.run(SequenceFilesFromDirectory.java:89)
    at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:65)
    at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:79)
    at org.apache.mahout.text.SequenceFilesFromDirectory.main(SequenceFilesFromDirectory.java:63)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:68)
    at org.apache.hadoop.util.ProgramDriver.driver(ProgramDriver.java:139)
    at org.apache.mahout.driver.MahoutDriver.main(MahoutDriver.java:194)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:160)

当我检查文件夹的权限时，我得到这个：

hduser@fernandoPC:/usr/local/mahout/core/target$ ls -l /tmp/mahout-work-hduser/
total 14136
drwxr-xr-x 22 hduser hadoop     4096 Nov 12 18:31 20news-all
drwxr-xr-x  4 hduser hadoop     4096 Nov 12 18:09 20news-bydate
-rw-r--r--  1 hduser hadoop 14464277 Nov 12 18:09 20news-bydate.tar.gz

当我运行选择 sgd 分类器的 20 个新闻组时，它工作正常。我认为这是因为它不使用map/reduce任务，所以它甚至没有在hadoop上运行。

我在谷歌上环顾四周，找不到任何解决方案。

有人有任何想法吗？

Answer 1

如果您在独立模式下运行 Mahout，则需要将环境变量设置为 MAHOUT_LOCAL。您可以添加一行

MAHOUT_LOCAL=1

到你的 ~/.bashrc 文件，执行：source .bashrc

这应该可以解决问题。

Answer 2

这可能与 seqdirectory 中的一个错误（参见 MAHOUT-1319）有关，其中 'seqdirectory' 忽略"前缀过滤器"参数。虽然这应该在 Mahout 0.9 中修复，但您可以尝试在 classify-20newsgroups.sh 中修改以下内容

吗

     echo "Creating sequence files from 20newsgroups data"
  ./bin/mahout seqdirectory 
    -i ${WORK_DIR}/20news-all 
    -o ${WORK_DIR}/20news-seq -ow

读作

   echo "Creating sequence files from 20newsgroups data"
  ./bin/mahout seqdirectory 
    -i ${WORK_DIR}/20news-all 
    -o ${WORK_DIR}/20news-seq -ow -xm sequential

请试一试。

来源：驯象师用户邮件列表档案