监视GPU内存I/O

Question

是否有任何方法从外壳监控GPU内存I/O，与CUDA一起使用Nvidia图形卡？

我使用nvidia-smi来查看当前内存利用率，但我更希望看到增量(例如10 MB/s)，理想情况下按进程进行分解(就像iotop对磁盘I/O所做的那样)。

nvidia-smi：

iotop：

Answer 1

如果您放置适当的开关，nvprof可以打印很好的统计数据。不幸的是，我周围没有任何示例输出，但是可以这样使用：

nvprof \
    --devices 0 \
    --metrics l1_cache_global_hit_rate \
    --metrics shared_load_transactions \
    ./your_app