回答情况：
提问时间：
问题标签：
我尝试安装tensorrt7.2.3.4，我的系统是win10，cuda11.1，python3.8。按照安装说明操作之后，我进行了tensorrt测试：Tensorrt samples 我们可以看到tensorrt应该可以正常安装 但是当我想导入tensorrt时，出现错误：enter image description
浏览 55提问于2021-03-24得票数 0
我已经安装了tensorrt 3.0.4，但是当我尝试使用tensorrt 3.0.4安装tensorflow时，我得到了以下结果：tensorrt 3.0.4 requires argparse>=1.4.0, which is not installed.似乎tensorrt和uff找不到argpase，而他们也在root/env/py3/lib/
浏览 1提问于2018-04-06得票数 0
1回答
我正在尝试使用python API来使用TensorRt。我正在尝试在多个线程中使用它，其中Cuda上下文与所有线程一起使用(在单个线程中一切都很好)。我使用docker与tensorrt:20.06-py3图像，一个onnx模型，和Nvidia 1070图形处理器。
多线程方法应该是允许的，正如这里提到的。[TensorRT] ERROR: ..caskConvolutionRunner.cpp (373) - Cask Error in checkCaskExecError<false>: 10 (Cask Convolut
浏览 169修改于2020-07-04得票数 1
import tensorflow.contrib.tensorrt as trtTraceback (most recentcall last):AttributeError: module 'tensorflow.contrib.tensorrt'libnvinfer-dev 5.
浏览 3提问于2019-07-03得票数 1
有了经过训练的“.h5”Keras模型文件，我正在尝试优化推理时间：
(打开以提高TensorFlow和Keras支持的推理速度的其他建议)
浏览 1提问于2019-07-06得票数 3
我想使用tensorRT优化我的模型，但是，我的模型中的CTC层不受tensorRT支持。有人成功地用tensorRT优化了CTC层。
浏览 1提问于2018-08-21得票数 1
回答已采纳
我在jetson nano上推断TensorRt模型。它通过onnx从pytorch转换而来。在推理时，TensorRt模型的精度已经急剧下降。它是一个目标检测类型的模型。代码链接：https://github.com/NVIDIA/TensorRT/issues/467
浏览 124修改于2020-03-31得票数 0
回答已采纳
我使用Debian安装程序在我的虚拟机上安装了TensorRT。如果我运行"dpkg -l | grep TensorRT“，我会得到预期的结果：ii libnvinfer-devamd64 Meta package of TensorRT
ii uff-converter-tf
浏览 10提问于2019-04-07得票数 5
将Deeplab Tensorflow模型转换为TensorRT模型会显著增加推理时间，我在代码中做错了什么？这里我正在做从Tensorflow图到TensorRT图的转换，并保存这个新的TRT模型：with gfile.FastGFile("TensorRT_model.pb", 'wb') a
浏览 4修改于2019-01-30得票数 0
我试图加快yolov3 TF2和TensorRT的推理速度。我在tensorflow 2中使用TrtGraphConverter函数。我的代码本质上是：from tensorflow.python.compiler.tensorrt import trt_convert as trt
File "/home/pierre/Doc
浏览 3提问于2019-07-19得票数 3
回答已采纳
def prepare_namespace_plugin_map(): # operations to appropriate TensorRT
浏览 4提问于2019-08-08得票数 2
我在windows上使用TensorRT用于python时遇到了问题。ModuleNotFoundError: No module named "tensorflow.contrib.tensorrt"如果wi
浏览 2修改于2019-09-25得票数 4
重新创建的步骤：回溯(最近一次调用)：ModuleNotFoundError:没有名为“tensorrt”的模块nvidia-docker run --rm nvcr.io/nvidia我通过nv-tensorrt-repo-ubuntu1804-cud
浏览 5提问于2019-06-09得票数 0
我的网络包含一些当前tensorRT不支持的特定层。所以我想在tensorRT上运行conv层和pooling层，然后使用tensorRT的输出作为我的caffe模型的输入，该模型包含一些特定的层。
浏览 2修改于2017-08-11得票数 2
在将Tensorflow模型转换为TensorRT引擎时，upsample需要实现插件。 但是TensorRT插件需要的格式必须是PluginFormat::kNCHW。
浏览 110提问于2019-08-29得票数 0
回答已采纳
我想在构建TensorRT引擎时设置批处理大小。 我使用的是TensorRT 7和python API。我正在转换一个onnx格式的ResNet50模型。
浏览 46修改于2020-07-24得票数 0
我想使用NVIDIA TensorRT来运行我的Tensorflow模型。目前，TensorRT支持Caffe prototxt网络描述符文件。
浏览 0修改于2017-08-11得票数 9
我安装了Tensorrt压缩文件，我正在尝试安装tensorrt，但它显示了一些丢失的dll文件错误。我是个新手，知道如何使用tensorrt和CUDA引擎。如何使用CUDA转换为C++引擎。
浏览 35提问于2020-06-26得票数 1
Tensorflow模型被转换为ONNX并转换为TensorRT。TensorRT引擎以16位精度运行.在TensorRT中，准确率下降到75%。即使使用kTF32，准确率仍为75%。唯一的区别是我在TensorRT中进行批处理推理，而不是在Tensorflow中。
对于Tensorflow和TensorRT，使用OpenCV读取图像。
浏览 6提问于2020-09-11得票数 0
回答已采纳
我想出口TensorRT型号。Yolov5s.engine公司( Jetson )。但是当我尝试下面的页面时，我得到了一些错误消息。[TensorRT] WARNING: Skipping tactic 3 due to oom error on requested size of 2182 detected for tactic[TensorRT] ERROR: Tactic Device request: 2182MB Available: 1536MB.
浏览 42提问于2022-03-30得票数 0
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号