k 折叠交叉验证中更大或更小 k 的权衡

Question

当我读到K-fold的时候。我有一个问题。

平均而言，随着折叠次数的增加，估计的交叉验证误差会更高还是更小？

我认为CV错误会增加，但我不确定。 对吗？

Answer 1

使用更多的折叠数，您将减少bais，但会增加方差。此外，您的运行时间也会增加。偏见和方差权衡总是存在的。如果你的数据集非常小，那么建议使用较小的 K 值，因为每个折叠中没有足够的数据点供机器有效学习。