您将如何在此文档结构上使用mapreduce



如果我想计算foobar.relations.friend.count,我将如何对这个文档结构使用map/reduce,以便计数等于22。

[
    [0] {
              "rank" => nil,
        "profile_id" => 3,
          "20130913" => {
            "foobar" => {
                    "relationships" => {
                      "acquaintance" => {
                        "count" => 0
                    },
                    "friend" => {
                          "males_count" => 0,
                                  "ids" => [],
                        "females_count" => 0,
                                "count" => 10
                    }
                }
            }
        },
          "20130912" => {
            "foobar" => {
                    "relationships" => {
                      "acquaintance" => {
                        "count" => 0
                    },
                    "friend" => {
                          "males_count" => 0,
                                  "ids" => [
                            [0] 77,
                            [1] 78,
                            [2] 79
                        ],
                        "females_count" => 0,
                                "count" => 12
                    }
                }
            }
        }
    }
]

在 JavaScript 中,此查询会得到您期望的结果

r.db('test').table('test').get(3).do( function(doc) {
  return doc.keys().map(function(key) {
    return r.branch(
      doc(key).typeOf().eq('OBJECT'),
      doc(key)("foobar")("relationships")("friend")("count").default(0),
      0
    )
  }).reduce( function(left, right) {
    return left.add(right)
  })
})

在 Ruby 中,它应该是

r.db('test').table('test').get(3).do{ |doc|
  doc.keys().map{ |key| 
    r.branch(
      doc.get_field(key).typeOf().eq('OBJECT'),
      doc.get_field(key)["foobar"]["relationships"]["friend"]["count"].default(0),
      0
    )
  }.reduce{ |left, right|
    left+right
  }
}

我也倾向于认为您使用的模式并没有真正适应,最好使用类似的东西

{
  rank: null
  profile_id: 3
  people: [
    {
      id: 20130913,
      foobar: { ... }
    },
    {
      id: 20130912,
      foobar: { ... }
    }
  ]
}

编辑:不使用r.branch更简单的方法就是使用 without 命令删除不是对象的字段。

前任:

r.db('test').table('test').get(3).without('rank', 'profile_id').do{ |doc|
  doc.keys().map{ |key| 
    doc.get_field(key)["foobar"]["relationships"]["friend"]["count"].default(0)
  }.reduce{ |left, right|
    left+right
  }
}.run

我认为您将需要自己的输入阅读器。该网站为您提供了如何完成的教程:http://bigdatacircus.com/2012/08/01/wordcount-with-custom-record-reader-of-textinputformat/

然后你用映射器运行mapreduce。

Mapper<LongWritable, ClassRepresentingMyRecords, Text, IntWritable>

在映射函数中,您提取计数的值并发出这是该值。不确定是否需要钥匙?

在化简器中,您将具有相同键的所有元素加在一起(在您的例子中为='count')。

我想这应该让你走上你的路。

相关内容

  • 没有找到相关文章

最新更新