如何停止运行TensorRT服务器而不使用ctrl-c (用于使用nvprof进行分析)

Question

我正在运行nvprof来分析TensorRT服务器-客户机模型的GPU使用情况。我正在做的事情是：

1. 在启用TensorRT的码头容器中运行nvprof，nvprof --profile-all-processes -o results%p.nvvp
2. 在与第一步相同的码头容器中在第2航站楼上运行TensorRT服务器
3. 作为前两个步骤，在不同码头容器内的3号航站楼上请求服务。

当第三步完成时，客户端正常存在，但服务器和nvprof仍在运行。因此，我自然地用ctrl关闭了TensorRT服务器。当我这样做时，在终端1(运行nvprof)上，它告诉我应用程序有一个内部分析错误，并且结果输出文件中没有任何时间线信息。(它只有380 MB大，而其他文件运行的时间大约相同，2-3分钟，至少有几MB大)

似乎用ctrl结束TensorRT服务器是个问题，所以我尝试给nvprof一个超时选项，即第一步中的nvprof --profile-all-processes -o results%p.nvvp --timeout 200 (200秒就足以完成整个进程)，但是尽管这确实使nvprof引发了这样的消息：Execution timeout, stopping the application...，它实际上并没有停止TensorRT服务器。

基本上，我想知道是否有任何方法可以在不使用ctrl的情况下正常停止运行的TensorRT服务器退出，或者使用nvprof和TensorRT一起解决这个问题。

任何帮助或推动正确的方向将不胜感激。谢谢!

最初的问题大约3个小时前在这里上发布。

Answer 1

所以事实证明，TensorRT不是问题所在。在为服务器创建和第一次运行docker容器时，我没有添加特权选项。

使用docker run --rm -it -d --gpus all --privileged ...运行码头容器可以帮助nvprof分析服务器行为，即使服务器程序被Ctrl杀死。