如何在mapreduce模型中进行页面排名迭代

Question

我很困惑pagerank算法如何与mapreduce模型一起工作。

主要的困惑是，在第二阶段之后，val 是链接到关键 URL（而不是外链），那么它在下一次迭代中如何工作呢？

请参阅下面的示例：

txt:
A->B
A->C
B->A
C->B
     WORKER1              WORKER2
LOAD
      A->B                B->A  
      A->C                C->B
MAP
     (A,B)                (B,A)
     (A,C)                (C,B)
SHUFFLE AND DISTRIBUTE
     (A,[B,C])            (B,[A])
                          (C,[B])
REDUCE
     (A,(PR(A),[B,C],2))  (B,(PR(B),[A],1))
                          (C,(PR(C),[B],1))
MAP(PHASE2)
     (B,(PR(A)/2,2))      (A,(PR(B)/1,1))
     (C,(PR(A)/2,2))      (B,(PR(C)/1,1))
SHUFFLED AND DISTRIBUTE
     (A,[PR(B)/1])        (B,[PR(A)/2,PR(C)/1])
                          (C,[PR(A)/2])
RERUCE
     (A,(NEWPR(A),[B],2)) (B,(NEWPR(B),[A,C],1))
                          (C,(NEWPR(C),[A],1))

到目前为止，我丢失了外链信息，我的错误在哪里？

Answer 1

您需要

一个结构（node_id、page_rank adjacency_list）来存储页面链接、PR 和邻接列表。

一本训练MapReduce思想的好书是使用MapReduce进行数据密集型文本处理。在5.3 PAGERANK中，有一个关于如何在MapReduce中实现PageRank的细节。