使用预处理函数在R中并行处理不起作用

Question

我在其中有一个带有for loop的巨大代码，它需要几个小时才能运行，最后我的PC冻结了。为了改善代码，我使用了foreach以及并行处理来减少运行时间。我的代码是这样：

library(doParallel)
cores=detectCores()
cl <- makeCluster(cores[1]-1) 
registerDoParallel(cl)
foreach (i=1:3)%dopar%{
{some R code with i index}
preProc <- preProcess(method="bagImpute", train[, 1:lengthvar])
train[, 1:lengthvar] <- predict(preProc, train[, 1:lengthvar])
test[, 1:lengthvar] <- predict(preProc, test[, 1:lengthvar])
}   
stopCluster(cl)

我遇到的错误是找不到preProc函数（对于缺少值的插补）。我的另一个问题是，似乎使用并行计算增加了运行时间。

事先感谢您的宝贵指导。

Answer 1

您需要在foreach函数中添加.packages。

    library(doParallel)
    cores=detectCores()
    cl <- makeCluster(cores[1]-1) 
    registerDoParallel(cl)
    foreach (i=1:3,.packages("caret"))%dopar%{
    {some R code with i index}
    preProc <- preProcess(method="bagImpute", train[, 1:lengthvar])
    train[, 1:lengthvar] <- predict(preProc, train[, 1:lengthvar])
    test[, 1:lengthvar] <- predict(preProc, test[, 1:lengthvar])
    }   
    stopCluster(cl)