首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >"flop_count_sp“和"inst_fp_32”指标在CUDA Profiler中的含义

问"flop_count_sp“和"inst_fp_32”指标在CUDA Profiler中的含义
EN

Stack Overflow用户
提问于 2020-09-09 17:06:58
回答 1查看 170关注 0票数 0

根据分析器用户指南

flop_count_sp:由非谓词线程执行的单精度浮点操作()的数目(加、乘和乘-累积).每个多重累加操作对计数贡献2。计数不包括特殊操作。inst_fp_32:由非谓词线程执行的单精度浮点指令的数量(算术、比较等)。

我有一个带有分析器输出的内核,可以将其添加到如下内容:

代码语言:javascript
复制
flop_count_sp = flop_count_sp_add + flop_count_sp_mul + 2 * flop_count_sp_fma
inst_fp_32 = flop_count_sp_add + flop_count_sp_mul + flop_count_sp_fma

考虑到这些度量中的数字,我想知道什么是操作,什么是指令?fma似乎是一个指令,但两个操作。而add和mul是一个指令和一个操作。因为SASS程序集是由分析器计数的。是否有不算作操作的指令?反之亦然。我只想知道在nvprof和nvvp度量的上下文中。

另外,当我们讨论TFLOP/s中的峰值性能时,这里的OP对应于操作?如果我想估计像计算到全局内存访问(CGMA)这样的东西,我应该使用flop_count_sp而不是inst_fp_32作为计算部分吗?提前谢谢。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2020-09-09 17:47:22

我想知道什么是操作,什么是指令?fma似乎是一个指令,但两个操作。而add和mul是一个指令和一个操作。

是的,正确。融合-乘法-添加指令计算为2个操作(一个乘,加上一个加法)。乘法或加指令算作一次运算。

是否有不算作操作的指令?

是的,任何不使用SM内部的单精度(或双精度)功能单元的指令都不会对这些度量标准( inst或op)提供任何操作。例如,整数指令,或加载或存储指令,不会影响这些指标。任何可能具有浮点性质的指令(例如,对浮点的转换/从浮点到它的转换),但不包含加运算或乘运算的指令,都不会对运算度量有所贡献,我不相信。

另外,当我们讨论TFLOP/s中的峰值性能时,这里的OP对应于操作?

是

如果我想估计像计算到全局内存访问(CGMA)这样的东西,我应该使用flop_count_sp而不是inst_fp_32作为计算部分吗?

我认为这可能是一个意见问题。我会用指令。如前所述,融合乘法指令可以算作两个操作,但它并不是浮点单元压力的“两倍”。因此,在比较代码以查看全局内存负载/存储活动与计算“压力”之间的平衡时,我将使用指令。再说一次,可能是个意见问题。

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/63816331

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档