发布于 2019-07-12 10:39:54
从2017年开始,仍未取得重大进展。许多新的网络已经开发出来,但UFF和TensorRT转换器仍然不能与许多模型工作,甚至从2017年起,我可以说2019年。
也有一些间接信息在互联网上,在意义上,与UFF和TRT转换在NVIDIA非常小的部门,只有少数几个人。看来这条路是死胡同。
更好的方法和他们所依赖的方式是框架内部的转换工具。就像Tensorflow处理它们的TRT绑定。
使用这种方法,新的层是由框架开发人员添加的,而不是Nvidia,因为那里的人跟不上市场营销。所以最终有更多的机会得到工作工具。
发布于 2017-11-30 00:27:44
UFF转换工具似乎被一些未被识别的层阻塞了,也许这将在GA版本中得到改进。现在,您需要删除这些层(并且只保留推理所需的最小子集),然后实现使用nvinfer插件API的层。
https://stackoverflow.com/questions/47153279
复制相似问题