如何对不同模型(如randomforest, gbm, svm等)的预测执行线性/逻辑回归

Question

基本上是通过创建集合来改进预测。但是我们要怎么做呢?有人可以解释使用R中的示例代码吗?我只是一个学习者。任何帮助都将非常感激。

谢谢。

Answer 1

集成中的预测聚合可以通过多种方式完成。最简单的方法是多数投票(分类)或对所有基本模型的预测进行平均(回归)。

通常，复杂的聚合方案并不比基本方案好多少(并且对过拟合非常敏感)。这就是为什么专门的包，如EnsembleSVM只允许非常基本的聚合(最好是线性组合)。