让Pycuda在2个gpus上与Mpi4py协同工作

Question

我正在尝试在两个gpus上运行一个pycuda程序。我读过Talonmies的一篇很棒的文章，解释了如何使用线程库来实现这一点，这篇文章还提到了使用mpi4py也可以做到这一点。

当我使用pycuda运行mpi4py时，程序给出错误: self.ctx = driver.Device(gpuid).max_context pycuda._driver.logicError: cuDeviceGet failed: not initialized

也许这是因为我试图同时初始化两个gpu设备。有没有人有一个非常简短的例子来说明如何让2个gpus与mpi4py协同工作？

Answer 1

对于遇到这个问题的任何人来说，here都是一个有效的mpi4py+pycuda示例。