集成(组合)已经具有辍学层的多个深度学习回归模型

Question

目前我有多个用于回归任务的训练模型，每个模型都具有相同的架构，但在训练时，我有dropout层，以提高性能，我是否仍然可以组合这些训练好的模型并计算权重的平均值作为组合的新模型？我刚刚听说有一种集成预测方法可以让我们这样做，但我不确定我是否仍然可以做到这一点，因为我已经有了随机辍学层。

任何提示都非常感谢！

Answer 1

我认为 dropout 的存在与您想要做的事情无关。 集成应该可以很好地处理 dropout。