MapReduce作业没有得到执行

Question

我有一个简单的MapReduce作业，我从avro网站上借来了它，做了一些小修改（我删除了reducer）。它基本上以一个简单的avro文件作为输入。这是avro文件的模式

avro模式：

 {
"type": "record",
"name": "User",
"fields": [
{"name": "name", "type": "string"},
{"name": "favorite_number",  "type": "int"},
{"name":"favorite_color", "type": "string"}
]
}

这是我的mapreduce工作（映射器和主要功能）：

public class ColorCountMapper extends Mapper<AvroKey<User>, NullWritable, Text, IntWritable> {
@Override
public void map(AvroKey<User> key, NullWritable value, Context context)  throws IOException, InterruptedException {
  CharSequence color = key.datum().getFavoriteColor();
  if (color == null) {
    color = "none";
  }
  context.write(new Text(color.toString()), new IntWritable(1));
}

}

和

public static void main(String[] args) throws Exception {

    Configuration conf = new Configuration();
    Job job = Job.getInstance(conf, "TestColor");
    job.setJarByClass(runClass.class);
    job.setJobName("Color Count");
    FileInputFormat.setInputPaths(job, new Path("in"));
    FileOutputFormat.setOutputPath(job, new Path("out"));
    job.setInputFormatClass(AvroKeyInputFormat.class);
    job.setMapperClass(ColorCountMapper.class);
    AvroJob.setInputKeySchema(job, User.getClassSchema());
    job.setMapOutputKeyClass(Text.class);
    job.setMapOutputValueClass(IntWritable.class);

    boolean r = job.waitForCompletion(true);
    System.out.println(r);  
}     

当我运行程序时，它返回false并且没有成功。我想不通这个问题。有人能帮忙吗？

Answer 1

您已将映射器的值类型设置为NullWritable。然后在主/驱动程序中将Map输出值类设置为IntWritable。映射器和主/驱动程序中的值类型应该相同。相应地修改您的程序。如果你有解决方案，就接受我的答案。