YOLOv5降低推理速度

Question

我在自定义数据集上使用YOLOv5x模型。推理时间最初为0.055s，然后逐渐增加到2秒。同样的事情也发生在验证中。迭代从6秒开始，到34秒结束。

这种性能下降发生在每个训练设置中，所以我不认为这与数据集有关。我可以在ssh服务器中训练它而不会降低性能。

我目前的gpu是RTX 2070。我有16gb内存和i7-9750h处理器。

编辑：如果我将图像分割成小部分，并在推断之间等待，我将获得最佳性能。此外，如果我在没有等待的情况下对同一部分进行检测，那么对同一图像的推断时间会更差。

Answer 1

这是因为热节流。清洁和新的热敏膏解决了这个问题。你也可以在GitHub页面上看到原始答案。