MPI标准与Map-Reduce编程模型的比较？

Question

因为我已经学习了各种并行范式标准的基础知识，如OpenMP，MPI，OpenCL来编写并行编程。但我对Map-Reduce编程模型了解不多。

众所周知，各种流行的公司都在遵循Map-Reduce编程模型来解决其庞大的数据密集型任务。MPI是为大规模并行计算机和工作站集群上的高性能计算而设计的。

所以我的第一个困惑是..是否可以使用Map-Reduce模型代替MPI标准，反之亦然？或者这取决于应用程序！

它们之间的确切区别是什么？

Which one is better and when?

Answer 1

您可以将Map-Reduce理解为MPI功能的子集，因为它有点类似于使用用户定义函数的MPI集合操作。因此，您可以使用MPI而不是Map-Reduce，但反之亦然，因为在MPI中您可以描述更多的操作。Map-Reduce的主要优点似乎是集中在这个单一的并行概念上，从而减少了使用它需要学习的接口。