YOLOv5，TensorRT与的出口

Question

我想出口TensorRT型号。Yolov5s.engine公司( Jetson )。但是当我尝试下面的页面时，我得到了一些错误消息。

https://github.com/ultralytics/yolov5/issues/251

[TensorRT] WARNING: Skipping tactic 3 due to oom error on requested size of 2182 detected for tactic 4.
[TensorRT] ERROR: Tactic Device request: 2182MB Available: 1536MB. Device memory is insufficient to use tactic.

我怎么才能修好它？或者我可以忽略这些错误消息吗？

Answer 1

可以在trtexec中使用此CLI标志缩小工作区大小。

  --workspace=N               Set workspace size in MiB.

TensorRT在构建阶段尝试了不同的优化策略。看起来有一种策略试图使用比你的设备可用的内存更多的内存。如果转换找到了一种不会占用太多内存的策略，那么您的转换就会成功。如果这对你有用，请告诉我。