我正在尝试在mongo shell中的mongodb上运行mapreduce。出于某种原因,在reduce阶段,我收到对同一键的多次调用(而不是单个),因此我得到错误的结果。我不是这个领域的专家,所以也许我犯了一些愚蠢的错误。任何帮助表示赞赏。
谢谢。
这是我的小例子:
我正在创建 10000 个文档:
var i = 0;
db.docs.drop();
while (i < 10000) {
db.docs.insert({text:"line " + i,index:i});
i++;
}
然后我正在基于模块 10 进行 map-reduce(所以我除了在每个"存储桶"中获得 1000 个)
db.docs.mapReduce(
function() {
emit(this.index%10,1);
},
function(key,values) {
return values.length;
},
{
out : {inline : 1}
}
);
但是,作为结果,我得到以下结果:
{
"results" : [
{
"_id" : 0,
"value" : 21
},
{
"_id" : 1,
"value" : 21
},
{
"_id" : 2,
"value" : 21
},
{
"_id" : 3,
"value" : 21
},
{
"_id" : 4,
"value" : 21
},
{
"_id" : 5,
"value" : 21
},
{
"_id" : 6,
"value" : 21
},
{
"_id" : 7,
"value" : 21
},
{
"_id" : 8,
"value" : 21
},
{
"_id" : 9,
"value" : 21
}
],
"timeMillis" : 76,
"counts" : {
"input" : 10000,
"emit" : 10000,
"reduce" : 500,
"output" : 10
},
"ok" : 1,
}
Map/Reduce本质上是一个递归操作。具体而言,记录的reduce
功能要求包括以下语句:
MongoDB可以为同一个键多次调用
reduce
函数。在这种情况下,该键的reduce
函数的先前输出将成为该键的下一个reduce
函数调用的输入值之一。
因此,您必须期望输入只是先前调用计数的数字。以下代码通过实际添加值来实现此目的:
db.docs.mapReduce(
function() { emit(this.index % 10, 1); },
function(key,values) { return Array.sum(values); },
{ out : {inline : 1} } );
现在,emit(key, 1)
在某种程度上更有意义,因为1
不再只是用于填充数组的任何数字,而是考虑其值。
作为旁注,请注意这有多危险:对于较小的数据集,正确的结果可能是偶然给出的,因为引擎决定不需要并行化。