CUFFT的性能计算

Question

我在块(N*N/p)上运行CUFFT，它被分成多个GPU，我有一个关于计算性能的问题。首先，我要谈一谈我是如何做到的：

1. 将N*N/p块发送给每个GPU
2. 批1-D FFT，用于p GPU中的每一行，
3. 获取N*N/p块返回主机--在整个数据集上执行转置操作(
4. Ditto步骤1

h 19Ditto步骤2h 210g 211>)

Gflops = ( 1e-9 * 5 * N * N *lg(N*N) ) / execution time

执行时间计算为：

execution time = Sum(memcpyHtoD + kernel + memcpyDtoH times for row and col FFT for each GPU)

这是评估CUFFT在多个GPU上性能的正确方法吗？还有其他方法可以表示FFT的性能吗？

谢谢。

Answer 1

如果要进行复杂转换，操作计数是正确的(实值转换应该是2.5N log2(N) )，但是GFLOP公式是不正确的。在并行多处理器操作中，通常的吞吐量计算是

operation count / wall clock time

在您的情况下，假设GPU是并行运行的，要么测量挂钟时间(即。整个操作花费了多长时间)执行时间，或者使用以下方法：

execution time = max(memcpyHtoD + kernel + memcpyDtoH times for row and col FFT for each GPU)

就目前情况而言，您的计算表示串行执行时间。考虑到来自multigpu方案的管理费用，我预计您所得到的计算性能数字将低于在单个GPU上完成的等效转换。