统一内存迁移能否使用NVLink？

Question

我想检查一下跨不同GPU的统一内存迁移(如前面在此page中讨论的那样)现在是否可以将NVLink用于更高版本的CUDA和GPU架构。

Answer 1

可以，统一内存迁移可以使用NVLink。

对于统一内存分配，这通常会在一个GPU访问该分配，然后另一个GPU访问该分配时发生。如果这两个NVLink处于直接的NVLink关系中，则从第一个到第二个的页面迁移将通过GPU流动。

此外，尽管您没有问过，但NVLink还为对等映射页面提供了一条路径，它们不会在其中迁移，而是提供从一个GPU到另一个GPU的映射。页面可能停留在第一个GPU上，第二个GPU将使用NVLink上发生的内存读取或写入周期来访问它们。