CPU与GPU上的MPI-2

Question

我正在使用MPI-2并行化一个代码。当我使用8核处理器时，它成功地加速了。

我只是想知道如果我使用GPU而不是CPU来做同样的事情会有什么影响？根据我到目前为止的研究，OpenMPI与CPU兼容，只有在处理器之间的通信比CPU多的情况下，加速才更好。有没有人试过，或者对此有什么看法？

Answer 1

GPU并行化与MPI并行化是一个完全不同的方向，因为GPU线程不能像MPI级别那样工作，也不能进行MPI调用--它们甚至不是真正意义上的线程。不过，您可以通过在MPI程序的每个级别中调用GPU代码来组合它们。