nvidia-smi是如何工作的？

Question

允许nvidia-smi获取硬件级别详细信息的内部操作是什么？即使某个进程已经在GPU设备上运行，该工具也会执行，并获取进程的利用率详细信息、名称和id等。是否可以在用户级别开发这样的工具？NVML是如何相关的？

Answer 1

Nvidia-smi是NVML的一个简单的包装器。借助Tesla Deployment Kit自带的SDK，您可以使用NVML进行编码。

可以使用nvidia-smi完成的所有操作都可以直接从C库NVML中查询到。如果您需要在某种类型的应用程序中查询此数据，最好(也可能更容易)使用NVML编写，而不是解析nvidia-smi stdout (它的格式在过去发生了变化)。

NVML库还有python和perl绑定。所以你可以使用比C更高级的编程语言。