YOLOv5降低推理速度

Question

我在我的自定义数据集上使用YOLOv5x模型。推理时间最初为0.055s，然后逐渐增加到2秒。在验证中也会发生同样的事情。迭代从6秒开始，结束时间长达34秒。

这种性能下降发生在每个训练环境中，所以我不认为它是关于数据集的。在ssh服务器中，我可以在不降低性能的情况下训练它。

我现在的gpu是RTX 2070。我有16 i7内存和i7-9750小时cpu。

编辑:如果我将图像分割成小部分，并在推理之间等待，我将获得最佳的性能。另外，如果我在不等待的情况下运行对同一部分的检测，那么对于相同的图像，我的推理时间会更糟。

Answer 1

是因为热节流。清洗和新的热糊解决了问题。您还可以从GitHub页面。中看到原始答案。