如何在猫鼬/Node.js中同时保存多个文档



目前我使用保存来添加单个文档。 假设我有一个文档数组,我希望将其存储为单个对象。 有没有办法通过单个函数调用将它们全部添加,然后在完成后获得单个回调? 我可以单独添加所有文档,但管理回调以确定何时完成所有工作会有问题。

> Mongoose 现在支持将多个文档结构传递给 Model.create。引用他们的 API 示例,它支持传递数组或 varargs 对象列表,末尾带有回调:

Candy.create({ type: 'jelly bean' }, { type: 'snickers' }, function (err, jellybean, snickers) {
    if (err) // ...
});

var array = [{ type: 'jelly bean' }, { type: 'snickers' }];
Candy.create(array, function (err, jellybean, snickers) {
    if (err) // ...
});

编辑:正如许多人所指出的,这不会执行真正的批量插入 - 它只是隐藏了自己多次调用save的复杂性。下面有答案和评论,解释了如何使用实际的 Mongo 驱动程序来实现批量插入以提高性能。

Mongoose 4.4 添加了一个名为 insertMany 的方法

用于验证文档数组并将其插入的快捷方式MongoDB,如果它们都是有效的。此函数比 .create() 更快因为它只向服务器发送一个操作,而不是每个操作一个公文。

引用问题 #723 中的 vkarpov15:

缺点是 insertMany() 不会触发预保存钩子,但它应该具有更好的性能,因为它只对数据库进行 1 次往返,而不是每个文档 1 次。

该方法的签名与create相同:

Model.insertMany([ ... ], (err, docs) => {
  ...
})

或者,承诺:

Model.insertMany([ ... ]).then((docs) => {
  ...
}).catch((err) => {
  ...
})

猫鼬尚未实现批量插入(请参阅问题 #723)。

由于您知道要保存的文档数量,因此可以编写如下内容:

var total = docArray.length
  , result = []
;
function saveAll(){
  var doc = docArray.pop();
  doc.save(function(err, saved){
    if (err) throw err;//handle error
    result.push(saved[0]);
    if (--total) saveAll();
    else // all saved here
  })
}
saveAll();

当然,这是一个权宜之计,我建议使用某种流控制库(我使用 q,它很棒)。

Mongoose 中的批量插入可以使用 .insert() 完成,除非你需要访问中间件。

Model.collection.insert(docs, options, callback)

https://github.com/christkv/node-mongodb-native/blob/master/lib/mongodb/collection.js#L71-91

使用异步并行,您的代码将如下所示:

  async.parallel([obj1.save, obj2.save, obj3.save], callback);

由于 Mongoose 中的约定与异步(错误,回调)中的约定相同,因此您无需将它们包装在自己的回调中,只需将保存调用添加到数组中,当一切都完成后,您将获得回调。

如果使用 mapLimit,则可以控制要并行保存的文档数量。在此示例中,我们并行保存 10 个文档,直到成功保存所有项目。

async.mapLimit(myArray, 10, function(document, next){
  document.save(next);
}, done);

我知道这是一个古老的问题,但让我担心这里没有正确正确的答案。大多数答案只是谈论遍历所有文档并单独保存每个文档,如果您有多个文档,这是一个坏主意,并且该过程甚至会重复许多请求中的一个。

MongoDB专门有一个batchInsert()调用来插入多个文档,这应该从本机mongodb驱动程序中使用。猫鼬是在此驱动程序上构建的,它不支持批量插入。这可能是有道理的,因为它应该是MongoDB的对象文档建模工具。

解决方案:Mongoose 附带原生 MongoDB 驱动程序。您可以通过要求它require('mongoose/node_modules/mongodb')来使用该驱动程序(对此不太确定,但如果它不起作用,您可以随时再次安装 mongodb npm,但我认为它应该)然后执行适当的batchInsert

较新版本的MongoDB支持批量操作:

var col = db.collection('people');
var batch = col.initializeUnorderedBulkOp();
batch.insert({name: "John"});
batch.insert({name: "Jane"});
batch.insert({name: "Jason"});
batch.insert({name: "Joanne"});
batch.execute(function(err, result) {
    if (err) console.error(err);
    console.log('Inserted ' + result.nInserted + ' row(s).');
}

使用insertMany函数插入许多文档。这只会向服务器发送一个操作,Mongoose在命中 mongo 服务器之前验证所有文档。默认情况下Mongoose按它们在数组中存在的顺序插入项。如果您可以不维护任何订单,请设置ordered:false

重要 - 错误处理:

ordered:true验证和错误处理发生在一个组中时,意味着如果一个失败,一切都会失败。

ordered:false验证和错误处理单独发生时,操作将继续。错误将以一系列错误的形式报告。

这是不使用其他库的另一种方法(不包括错误检查)

function saveAll( callback ){
  var count = 0;
  docs.forEach(function(doc){
      doc.save(function(err){
          count++;
          if( count == docs.length ){
             callback();
          }
      });
  });
}

您可以使用猫鼬返回的承诺 savePromise猫鼬中没有全部,但您可以使用此模块添加该功能。

创建一个模块,增强猫鼬对所有人的承诺。

var Promise = require("mongoose").Promise;
Promise.all = function(promises) {
  var mainPromise = new Promise();
  if (promises.length == 0) {
    mainPromise.resolve(null, promises);
  }
  var pending = 0;
  promises.forEach(function(p, i) {
    pending++;
    p.then(function(val) {
      promises[i] = val;
      if (--pending === 0) {
        mainPromise.resolve(null, promises);
      }
    }, function(err) {
      mainPromise.reject(err);
    });
  });
  return mainPromise;
}
module.exports = Promise;

然后与猫鼬一起使用:

var Promise = require('./promise')
...
var tasks = [];
for (var i=0; i < docs.length; i++) {
  tasks.push(docs[i].save());
}
Promise.all(tasks)
  .then(function(results) {
    console.log(results);
  }, function (err) {
    console.log(err);
  })

添加一个名为mongoHelper的文件.js

var MongoClient = require('mongodb').MongoClient;
MongoClient.saveAny = function(data, collection, callback)
{
    if(data instanceof Array)
    {
        saveRecords(data,collection, callback);
    }
    else
    {
        saveRecord(data,collection, callback);
    }
}
function saveRecord(data, collection, callback)
{
    collection.save
    (
        data,
        {w:1},
        function(err, result)
        {
            if(err)
                throw new Error(err);
            callback(result);
        }
    );
}
function saveRecords(data, collection, callback)
{
    save
    (
        data, 
        collection,
        callback
    );
}
function save(data, collection, callback)
{
    collection.save
    (
        data.pop(),
        {w:1},
        function(err, result)
        {
            if(err)
            {               
                throw new Error(err);
            }
            if(data.length > 0)
                save(data, collection, callback);
            else
                callback(result);
        }
    );
}
module.exports = MongoClient;

然后在代码更改中,您需要

var MongoClient = require("./mongoHelper.js");

然后,何时需要保存呼叫(在您连接并检索集合之后)

MongoClient.saveAny(data, collection, function(){db.close();});

您可以根据需要更改错误处理,在回调中传回错误等。

这是一个

老问题,但是在搜索"猫鼬插入文档数组"时,它首先出现在谷歌结果中。

有两个

选项model.create() [mongoose]和model.collection.insert() [mongodb]可以使用。在此处查看有关每个选项的优缺点的更全面的讨论:

猫鼬(mongodb)批量插入?

下面是一个直接在 Mongoose 中使用 MongoDB Model.collection.insert()的示例。请注意,如果你没有那么多文档,比如少于100个文档,你不需要使用MongoDB的批量操作(见这里)。

MongoDB还支持通过传递数组进行批量插入 文档到 db.collection.insert() 方法。

var mongoose = require('mongoose');
var userSchema = mongoose.Schema({
  email : { type: String, index: { unique: true } },
  name  : String  
}); 
var User = mongoose.model('User', userSchema);

function saveUsers(users) {
  User.collection.insert(users, function callback(error, insertedDocs) {
    // Here I use KrisKowal's Q (https://github.com/kriskowal/q) to return a promise, 
    // so that the caller of this function can act upon its success or failure
    if (!error)
      return Q.resolve(insertedDocs);
    else
      return Q.reject({ error: error });
  });
}
var users = [{email: 'foo@bar.com', name: 'foo'}, {email: 'baz@bar.com', name: 'baz'}];
saveUsers(users).then(function() {
  // handle success case here
})
.fail(function(error) {
  // handle error case here
});

最新更新