在开普勒结构白皮书中,NVIDIA声明在SMX上有32特殊功能单元(SFU)和32负载/存储单元(LD/ST)。
SFU用于“快速近似先验运算”。不幸的是,我不明白这是什么意思。另一方面,在SFU专用CUDA双精度三角定位功能,据说它们只在单一精度下工作。在K20Xm上这仍然正确吗?
LD/ST单元显然是用于存储和加载的。是否需要任何内存加载/写入才能通过其中的一个?它们是否也被用作单一的经纱?换句话说,是否只有一种目前正在写作或阅读的翘曲?
干杯,安迪
发布于 2013-12-09 17:26:16
SFU用于“快速近似先验运算”。
SFU计算诸如__cosf()、__expf()等函数。
另一方面,这里说的是,它们只在单一精度下工作,这在K20Xm上仍然正确吗?
根据最近的CUDA编程指南,G.5.1节,它们仍然只在单一精度下工作。
这有点道理,因为如果你需要双精度,你不太可能使用不准确的数学函数。有关双精度算术优化的建议,可以参考这个答案。
双精度操作的实现细节可以在/usr/local/cuda-5.5/include/math_functions_dbl_ptx3.h中找到(或者在安装CUDA工具包的地方)。例如,对于sin和cos,它使用佩恩-哈内克参数缩减,然后是泰勒展开(直到14阶)。
对于双精度计算,SFU似乎只用于__internal_fast_rcp和__internal_fast_rsqrt,而后者又用于acos、log、cosh和其他几个函数(参见math_functions_dbl_ptx3.h)。因此,大多数情况下,如果没有正在进行的内存事务,LD/ST单元会停止工作。
是否需要任何内存/写入才能通过其中的一个?
是的,每次访问全局内存。
它们是否也被用作单一的经纱?换句话说,是否只有一种目前正在写作或阅读的翘曲?
单位数量仅限制每个周期发出的指令数量。即每个时钟周期可发出32条读指令,并可返回32条结果。
一条指令最多可以读/写128字节,因此如果warp中的每个线程读取4个字节并将它们合并,那么整个warp将需要一个加载/存储指令。如果访问未合并,则应发出更多指令。
此外,单元是流水线式,这意味着多个读取/存储请求可以由单个单元并发执行。
发布于 2013-12-09 16:34:46
不要接受这个答案--我们希望有人会来回答你关于双精度先验运算的问题。我只想谈谈你问题的第二部分,关于LD/ST单位。
LD/ST单元显然是用于存储和加载的。
是。
是否需要任何内存/写入才能通过其中的一个?
是。
它们是否也被用作单一的经纱?
是的,翘曲中的所有活动线程总是在同一个时钟周期内发出相同类型的指令。如果该指令是一个加载或存储,它将被颁发给LD/ST单元。如果线程不活动(由于循环或条件执行),相应的LT/ST单元将保持空闲状态。
换句话说,是否只有一种目前正在写作或阅读的翘曲?
不,LD/ST单元可以接受每个时钟的一个加载或存储操作,即使内存延迟可能是几百个周期。因此,当一个翘曲发出加载指令时,LD/ST单元将开始检索该数据。在数据到达之前,依赖于数据的翘曲中的指令不符合发出的条件。在下一个时钟周期中,翘曲仍可执行其他独立指令(指令级并行).甚至其他独立的加载或存储指令。另一个符合调度条件的翘曲也可能在下一个时钟周期中发出另一个加载指令,并进入等待状态(线程级并行性)。在这一点上,LD/ST单位正在跟踪两个悬而未决的结果。由于缓存和合并,有可能第二次翘曲的数据首先到达。当翘曲的数据到达时,它被分配给指令中指定的寄存器,然后解决特定的数据依赖。
https://stackoverflow.com/questions/20472670
复制相似问题