在CUDA分析器nvvp中，“共享/全局内存重放开销”意味着什么？它是如何计算的？

Question

当我们使用CUDA分析器nvvp时，有几个与指令相关的“开销”，例如：

• 支路发散开销；
• 共享/全局内存重放开销；以及
• 本地/全局缓存重放开销。

我的问题是：

1. 造成这些间接费用的原因是什么？
2. 它们是如何计算的？
3. 同样，如何计算全局负载/存储效率？

附件:我在CUDA5工具包中的“CUDA Profiler用户指南”中找到了计算这些开销的所有公式。

Answer 1

你可以在这里找到你的问题的一些答案：

Why does CUDA Profiler indicate replayed instructions: 82% != global replay + local replay + shared replay?

重放指令(%) --这将给出内核执行期间重放指令的百分比。重放指令是由硬件实际发出的指令数与要由内核执行的指令数之间的区别。理想情况下，这应该是零。计算为100 *(发出的指令-执行的指令)/发出的指令 全局内存重放(%)由于全局内存访问而导致的重放指令的百分比。此值计算为100 * (l1全局负载丢失)/发出的指令 本地内存重放(%)由于本地内存访问而导致的重放指令的百分比。此值计算为100 * (l1本地加载丢失+ l1本地存储丢失)/发出的指令 共享银行冲突重播(%)由于共享内存库冲突而导致的重放指令的百分比。此值计算为100 * (l1共享冲突)/发出的指令