MPI /O是如何实现的？

Question

长卷背景

我正在为心脏电生理学模拟并行化一些代码。由于用户可以使用内置的脚本语言指定他们自己的模拟，所以我不知道如何管理通信与计算之间的权衡。为了解决这个问题，我正在制作一种运行时分析器，它将决定如何处理域分解，一旦它看到要运行的模拟和它必须使用的硬件环境。

我的问题是：

MPI /O是如何在幕后实现的？每个进程实际上是写入另一个节点上的单个文件，还是每个进程写入某个稀疏文件，当文件关闭时，稀疏文件将被拼接回一起？

了解这一点将有助于我决定是将I/O操作视为通信还是计算，并相应地调整平衡…。

提前感谢您所能提供的洞察力。

罗斯

Answer 1

I/O机制依赖于实现。此外，没有单一的I/O样式，一些I/O由远程级别缓存，在运行结束时由mpirun进程收集。一些I/O是根据需要写入本地划痕空间的。一些I/O被写入NAS/SAN风格的高性能共享文件系统。

一些MPI使用第三方库来支持并行文件系统的I/O，这些细节可能是专有的。一些文件系统是本地磁盘，另一些是光纤或InfinBand上的SAN。

您打算如何实际测量在I/O中花费的时间？您是否计划使用pMPI接口来拦截库中的所有调用？