r语言 - 为什么这个foreach/dopar函数没有使用我要求的所有内核?



我正在尝试将doMCforeach%dopar%一起使用。以下是功能:

doTheMath_MC <- function(st, end, nd) {
    print(getDoParWorkers())    
    if (st > end) stop("end must be larger than st")
    # Helper function from stackoverflow.com/a/23158178/633251
    tr <- function(x, prec = 0) trunc(x * 10^prec) / 10^prec
    # Function to use with foreach
    fef <- function(i, j, num, trpi) {
        if (num[j] >= num[i]) return(NULL)
        val <- num[i]/num[j]
        if (!tr(val, nd) == trpi) return(NULL)
        return(c(i, j, tr(val, nd)))
        }
    # Here we go...
    nd <- nd - 1
    trpi <- tr(pi, nd)
    num <- st:end
    ni <- length(num)
    ans <- foreach(i = 1:ni, .combine = rbind) %:%
        foreach(j = 1:ni, .combine = rbind) %dopar% {
            fef(i, j, num, trpi)
            }
    cat("Done computing", paste("EST", st, end, nd+1, sep = "_"), "n")
    if (is.null(ans)) return(NULL)
    ans <- as.matrix(na.omit(ans)) # probably not needed in MC version
    return(ans) # c("num", "den", "est", "eff")
    }

我之前已经设置了核心,另一个函数调用了上面的函数(下面发布的信息,我认为这不是问题所在)。getDoParWorkers()报告已经按预期分配了7个核心。cat语句验证2个"循环"在输出时是否正常工作。但是,仅使用1个核心。有人知道为什么吗?Mac OSX 10.10.2和R 3.2(2015-03-15 r67992)。最后,使用doParallel来控制一切,得到了相同的结果。

设置一切的步骤:

mn <- 1
mx <- 10000
jmp <- 1000
mc <- TRUE
if (mc)     {
    require("doMC")
    registerDoMC(7)
    }
st <- seq(mn -1, mx - jmp, jmp) + 1
end <- seq(mn - 1 + jmp, mx, jmp)
nd <- rep(1:15, each = mx/jmp) # watch the recycling
df <- data.frame(st = st, end = end, nd = nd)
for (i in 1:nrow(df)) {
    findEsts(df$st[i], df$end[i], df$nd[i], MC = mc)
    }

很抱歉回答我自己的问题!我改变了dopar的处理方式,使得只有外循环是平行的:

ans <- foreach(i = 1:ni, .combine = rbind) %dopar%
   for (j in 1:ni) {
   fef(i, j, num, trpi)
   }

而且,我只是没有要求足够的迭代。为了测试,我一直在使用mx = 10000jmp = 1000(见原始问题)。显然,它们不够大,无法触发并行处理。每增加10倍是进行并行处理所必需的。感谢评论者!

注意:当上面的代码激活并行处理时,它不会正确返回答案。这将是另一个问题的主题。

相关内容

最新更新