r-基于模型的优化(在mlrMBO中)需要多少次迭代



我想在R(mlrMBO(中的mlr包中使用基于模型的优化来调整我的超参数。这里推荐多少次迭代?我读到MBO中必要的迭代次数取决于超参数的数量,应该乘以某个因子?

不幸的是,对此没有一般的答案。除了超参数的数量外,任务的难度和总体优化环境也会影响可能需要的迭代次数。此外,这取决于你想要的性能级别——如果你绝对需要最好的性能,你可能需要很多的迭代(数千次或更多(。

一个好的经验法则是根据可用的资源来确定迭代次数。你需要在几分钟内得到答案吗?还是可以让它通宵运行?我会从一个只有几次迭代的小测试运行开始,以了解在特定情况下需要多长时间,然后根据这一点以及你想花多长时间来设置真正运行的迭代次数。

用不同的随机种子和相同数量的迭代、相同的随机种子、不同数量的迭代进行多次运行也是一个好主意。这将告诉你,通过运行更长的时间,你可以获得更多的性能,例如,如果100次和1000次迭代没有差异,那么给予更多的性能可能不值得

相关内容

  • 没有找到相关文章

最新更新