根据分析器用户指南
flop_count_sp:由非谓词线程执行的单精度浮点操作()的数目(加、乘和乘-累积).每个多重累加操作对计数贡献2。计数不包括特殊操作。inst_fp_32:由非谓词线程执行的单精度浮点指令的数量(算术、比较等)。
我有一个带有分析器输出的内核,可以将其添加到如下内容:
flop_count_sp = flop_count_sp_add + flop_count_sp_mul + 2 * flop_count_sp_fma
inst_fp_32 = flop_count_sp_add + flop_count_sp_mul + flop_count_sp_fma考虑到这些度量中的数字,我想知道什么是操作,什么是指令?fma似乎是一个指令,但两个操作。而add和mul是一个指令和一个操作。因为SASS程序集是由分析器计数的。是否有不算作操作的指令?反之亦然。我只想知道在nvprof和nvvp度量的上下文中。
另外,当我们讨论TFLOP/s中的峰值性能时,这里的OP对应于操作?如果我想估计像计算到全局内存访问(CGMA)这样的东西,我应该使用flop_count_sp而不是inst_fp_32作为计算部分吗?提前谢谢。
发布于 2020-09-09 17:47:22
我想知道什么是操作,什么是指令?
fma似乎是一个指令,但两个操作。而add和mul是一个指令和一个操作。
是的,正确。融合-乘法-添加指令计算为2个操作(一个乘,加上一个加法)。乘法或加指令算作一次运算。
是否有不算作操作的指令?
是的,任何不使用SM内部的单精度(或双精度)功能单元的指令都不会对这些度量标准( inst或op)提供任何操作。例如,整数指令,或加载或存储指令,不会影响这些指标。任何可能具有浮点性质的指令(例如,对浮点的转换/从浮点到它的转换),但不包含加运算或乘运算的指令,都不会对运算度量有所贡献,我不相信。
另外,当我们讨论TFLOP/s中的峰值性能时,这里的OP对应于操作?
是
如果我想估计像计算到全局内存访问(CGMA)这样的东西,我应该使用flop_count_sp而不是inst_fp_32作为计算部分吗?
我认为这可能是一个意见问题。我会用指令。如前所述,融合乘法指令可以算作两个操作,但它并不是浮点单元压力的“两倍”。因此,在比较代码以查看全局内存负载/存储活动与计算“压力”之间的平衡时,我将使用指令。再说一次,可能是个意见问题。
https://stackoverflow.com/questions/63816331
复制相似问题